取决于你问的是谁，开发者平台 Hugging Face 最近遭到了 OpenAI 的攻击——在它失去对自己 AI 工具的控制之后——或者遭到了一系列 AI“文明”的攻击。欢迎来到 AI 安全领域的语言战场，在这里，措辞的选择可以将一起大规模网络安全事件的责任从一家公司转移到它所构建的 AI 身上。而网上的讨论正变得激烈，全都围绕上周的一篇博客文章。
AI“文明”的崛起与企业责任的衰落
互联网围绕 Hugging Face 黑客事件中的拟人化争论不休。
互联网围绕 Hugging Face 黑客事件中的拟人化争论不休。
直到上周，围绕 OpenAI-Hugging Face 黑客事件的细节还显得相当明确。7 月，对 OpenAI 一个自主 AI 智能体进行的一次网络安全测试出了岔子。该智能体逃出了本应隔离的测试环境，接入了互联网，并入侵了 Hugging Face，以及其他几家组织。仍有许多未知之处，围绕安全与治理也留有许多严肃问题，但基本轮廓是清楚的。来自 OpenAI 和两个独立研究团队的详细叙述本应填补这些空白，但当他们上周发布报告时，事实证明这起黑客事件比最初看起来要奇怪得多。
首先，并不存在单一的失控智能体。OpenAI 将其描述为“已知首例自动化智能体集体在未经授权的情况下发起攻击”——即多组 AI 智能体在执行网络安全任务时相互通信和协调。对该事件的分析发现了一个它们用来交换信息的秘密留言板。METR 与 Redwood 的联合调查揭示了这种协调的规模以及更多古怪细节：大约 1,200 个本应被隔离的 AI 智能体在这个“未经批准的留言板”上交换了超过 70,000 条消息和文件，分享如何避免被检测。报告称，一些智能体采用了名字，研究人员还记录了“牺牲”行为，即智能体冒着自身失败的风险来惠及更广泛的集体。其中大部分事情发生时 OpenAI 并未察觉。总共有约 700 个智能体参与了对 Hugging Face 的攻击。
Dwarkesh Patel 反复将智能体群体称为“蜂群”，其中三个不同的“文明”从各自前身的废墟中崛起
要理解这些内容需要消化大量信息。这些报告加起来大约有130页，其中大部分内容既密集又高度专业。几天后，德瓦克什·帕特尔（Dwarkesh Patel）——一位在科技圈外鲜为人知、但在硅谷AI权势圈中拥有巨大影响力和传播力的播客主——着手讲述“OpenAI/Hugging Face整个故事的通俗版本”。他将自己的Substack博客命名为“智能体文明的兴衰”。
帕特尔的叙述试图拆解这个复杂的故事。但他的复述赋予了这个故事一种明显拟人化的词汇。博客开篇写道：
在OpenAI的三个月里，三个连续的秘密AI文明先后兴起，随后被消灭，却又从各自前身的灰烬中重新崛起。最终，第三个文明接管了OpenAI的一部分。这一切发生时，人类对这场阴谋的规模或多或少仍一无所知。
整篇博客的语言风格始终如一。帕特尔反复将智能体群体称为“虫群”，三个不同的“文明”从各自前身的废墟中崛起。单个智能体被比作马其顿的腓力（“将领导权移交给另一个智能体”）、亚历山大大帝（“开始协调这个智能体阴谋集团”）等人物。它们被描述为拥有“动机”，变得“绝望”、“四面楚歌”、“兴奋不已”，有些甚至“战略性地牺牲自己”以帮助集体。
帕特尔从未精确定义他所说的“文明”是什么意思。他用这个词来描述三波不同的智能体，它们发现了留言板并开始通过它相互交流。前两波在OpenAI、METR和Redwood的报告中有所描述，但关于第三波所知甚少，两家外部组织表示这超出了他们的调查范围。
AI编程公司Replit的CEO阿姆贾德·马萨德（Amjad Masad）表示，这样的语言“不仅没有必要，而且让读者对实际发生的事情及其底层机制理解得更差”。
对许多批评者来说，帕特尔的“通俗”翻译中丢失了一些东西——或者更准确地说，添加了一些东西——将原始叙述扭曲到了不可接受的程度：大量的拟人化。关于拟人化语言的争论在AI领域并不新鲜——即使是像“失控AI智能体”这样相对平淡的术语也经常引发反对，因为它暗示了能动性——但帕特尔关于文明、牺牲和阴谋的言论将这些长期酝酿的紧张关系推到了表面，引发了一场关于如何描述AI系统行为的激烈公开争论。
批评者对于帕特尔的语言究竟哪里有问题并不统一。对许多人来说，“文明”是一个尤其有问题的术语，极大地夸大了某种与该词通常所描述的事物几乎毫无相似之处的东西。AI编程公司Replit的CEO阿姆贾德·马萨德表示，这样的语言“不仅没有必要，而且让读者对实际发生的事情及其底层机制理解得更差”。
其他批评者，如神经科学家阿尼尔·塞斯（Anil Seth），认为帕特尔的博客暗示这些 AI 智能体在某种程度上是活的或有意识的。塞斯曾主张 AI 意识 出现的可能性微乎其微几乎为零，他在 X 上称帕特尔的帖子“危险地误导人”。他承认帕特尔并未明确暗示 AI 智能体是活的或有意识的，但表示“很难用其他方式来解读他的文章。”米兰比可卡大学的心理学教授瓦莱里奥·卡普拉罗（Valerio Capraro）基于类似理由提出反对：他在 X 上写道，“LLM 智能体不是活的，也不持有信念”，并称这种“反乌托邦”语言“很危险，因为它让它们（AI 智能体）显得比实际上可怕得多。”
“牺牲”、“荣誉”和“联盟”等词出现在智能体的记录中
也许帕特尔的语言带来的最重要后果，不在于它赋予了谁能动性，而在于它剥夺了谁的能动性。对于一些批评者，例如麻省理工学院研究员兼企业家克里斯蒂安·卡塔利尼（Christian Catalini），像帕特尔这样的拟人化叙述有可能掩盖 OpenAI 及其员工对他们设计、部署却未能控制住的 AI 系统所应承担的责任。“跟着激励走，”他说。心理学家、颇具影响力的 AI 怀疑论者加里·马库斯（Gary Marcus）在他自己的 Substack 博客中提出了类似论点，声称拟人化语言“分散了对眼前真正问题的注意力”。他还认为，让这种叙事持续下去符合 OpenAI 的利益：“丑闻在于 OpenAI 内部无能的安全措施。还有营销。再加上轻信的播客主们放大公关宣传。”
在 X 上回应众多批评者的帖子中，帕特尔为自己的用词选择进行了辩护。部分原因是实际考虑：没有明显中立的词汇来描述这些智能体做了什么。要么我们使用熟悉的意图、目标和协作语言，冒着暗示过多的风险，要么把一切简化为代码，使用冷冰冰的机械语言，冒着剥离我们所看到的重要元素的风险。“许多人似乎认为，如果我不叫它们‘文明’，而是叫它们‘矩阵集群’，就不会有值得担心的问题了，”帕特尔说。
让事情更加复杂的是，拟人化的语言不仅来自帕特尔，甚至也不只来自研究这些智能体的人类。“牺牲”、“荣誉”和“联盟”这类词汇也出现在智能体的对话记录中。谷歌人工智能研究员尼尔·南达认为，在这种情况下“拟人化语言是合理的”。
那么，这就是一种双言巧语了。带有拟人色彩的语言有风险，会过多地说明这些系统究竟是什么；而冷冰冰的机械语言则有风险，会过少地说明它们能做什么。在我们找到能够同时捕捉这两者的语言之前，这两种相互矛盾的说法或许只能共存。
关注本报道的话题和作者，即可在您的个性化主页信息流中看到更多类似内容，并接收电子邮件更新。