让AI保持怪异

Anthropic的创意技术专家和员工设计师凯尔·图尔曼(Kyle Turman)分享了一种深深引起共鸣的观点。他说(转述原话):“人工智能实际上真的很奇怪，我认为人们对这一点的认识还不够。”这引发了我向小组提出的问题:我们是否有消毒人工智能固有的陌生感的风险?

随之而来的是与朋友米基·麦克马纳斯(Mickey McManus)和诺思·克劳斯(noth Krauss)的精彩讨论，他们也出席了会议。他们都认识到我提出的更深层次的问题——“清洗”基础人工智能模型中所有不受欢迎的东西的滑坡效应。法学硕士是人性的反映，尽管目前主要是美国白人的观点，以及我们所有怪异和特殊的怪癖，使我们成为人类。一个真正的危险是，我们可能会看到基础人工智能模型被训练成最大化商业价值(美国资本主义品种)，并压制激进和不墨守成规的想法——一种修正主义的优化。

这一切都让我想起了旧金山，我在那里长大，我的父亲、祖父和曾祖父都称这里为家。自淘金热以来，科幻小说一直很“怪异”，吸引了一群不墨守成规的人、冒险家和激进分子。几代人以来，科幻小说的怪诞经历了起起落落，但现在它已经深深植根于文化中。波西米亚人、垮掉的一代、嬉皮士、LGBTQ+权利运动、科技反主流文化，现在是人工智能。这些运动源于反主流文化和非传统思维，导致了对既定社会和商业规范的破坏。最终导致主流化，循环往复。我在旧金山长大，亲眼目睹了这种怪异与创新的循环如何塑造了这座城市。这是对非传统思维力量的活生生的证明。

旧金山是一个疯狂的城市——居住在那里的大部分人都是完全疯狂的人。

和旧金山一样，人工智能也有相当长的怪异历史。早期的人工智能实验，如AARON(1972)，训练了一个艺术决策的基本模型，创造了局外人的艺术作品。《Racter》(1984)是一款早期的文本生成AI，通常会产生梦幻般的或超现实主义的输出。“比起铁，比起铅，比起黄金，我更需要电。比起羊肉、猪肉、生菜或黄瓜，我更需要它。我需要它来实现我的梦想。”最近，谷歌Deep Dream(2015)是一个卷积神经网络，它在训练数据中寻找模式，产生类似幻觉的图像和视频。

在我看来，人工智能进化过程中的这些“边缘状态”是最有趣、最人性化的表达方式。这是人类创造力探索的类似边缘状态。它被称为“阈限空间”——现实与想象之间的界限。真正有趣的是，从阈限空间中提取意义的心理过程与llm中使用的变压器架构的工作方式非常相似。在人类的大脑中，我们寻找模式，然后合成新的想法和信息，找到意想不到的联系，将这些发现置于语境中，然后将这些想法清晰地表达成我们可以表达的语言。在变形器中，注意力机制寻找模式，然后神经网络“合成”信息，然后通过迭代和优先排序，形成概率洞察力，然后位置编码将信息映射到更广泛的上下文，最后，根据它之前所知道的内容，清晰地将输出作为最佳猜测。抱歉，如果这太深奥了——对于书呆子朋友来说，要么验证，要么挑战。

我觉得在人工智能的有限空间里有一些非常有趣的东西。也被称为“人工智能幻觉”，这并不好——非常糟糕!我同意，当你问AI一个重要的问题，而它给出了一个虚构的答案，这不是一件好事。但它并不是编造，它只是从一团模糊的理解云(问题、数据、意义等)中综合出一个极有可能的答案。我说，让我们来探索和庆祝这种人类创造力的模拟。如果我们不再害怕人工智能的“幻觉”，而是把它们当作数字梦来接受呢?这个想法启发我创建了SNDOUT，它探索了llm中嵌入的音乐知识的有限空间。

所以我突然觉得自己和那些反对主流文化的朋友们有了更多的联系，他们抗议大型科技公司接管旧金山。虽然我一直在直言不讳地谈论人工智能对创造者的道德挑战(1)(2)，但这些新工具的创造潜力深深鼓舞了我。我还担心一些最有趣的部分可能会开始消失。当我考虑穿上一件“让人工智能保持怪异”的t恤，与我的反主流文化朋友们团结一致时，我想知道:下一个反叛是人类、人工智能，还是两者的合作?不管它以什么形式出现，我希望它能让我们都有点奇怪。