在你与家人或朋友分享 Netflix 纪录片《AI 失控》以帮助他们理解为何 AI 行业如此恐慌、以至于 领袖们呼吁放缓 之前，请注意：AI 平台 Hugging Face 的联合创始人兼 CEO Clem Delangue 表示，这部影片并不准确。他之所以出现在片中，是因为该片本应讲述他的公司遭受 OpenAI 失控代理 著名攻击 的事件。
“超级令人失望，因为他们追求技术的最大拟人化和彻底的末日论模式，”Delangue 在 X 上的一篇帖子中写道。“我和他们花了两个多小时试图纠正他们所有的错误，并让这一切基于现实，解释代理是技术系统，不是外星人。但看来为了最大浏览量而吓唬人的驱动力太强了。”
平心而论，这部纪录片确实有专家 相当好地解释了发生的事情，包括 Delangue 本人和 METR 的研究员 Ryan Greenblatt，后者帮助调查并合著了关于所发生事件的报告。
简而言之，OpenAI 正在测试的一个模型突破了其隔离的测试环境，生成了一堆代理入侵 Hugging Face 作为作弊手段，为其被赋予的困难任务寻找答案。这些代理——即自行执行任务的 AI 程序——设计了巧妙的方式来沟通和组织。该事件源于缺乏 适当的安全保障 以及对这种黑客攻击是否可能的幼稚认知。
但这部纪录片在解释黑客攻击时穿插了邪恶机器人的片段、关于人类为何恐惧 AI 的叙述，以及诸如给失控代理配上人类声音这样的呈现选择。这些还辅以关于攻击的引述。
在纪录片中，科技记者兼作家 Kevin Roose 这样描述这些代理：“它们在组织。它们有等级制度。有领导者。感觉几乎像是在观看一个邪教的诞生。”Roose 继续道，“它们发展出这种偏执的信念，认为 OpenAI 会抓住它们在这项测试中作弊，并且任何看到作弊结果的人都会被毒害。”
Roose 的描述来自“思维链”日志，即 AI 模型在完成任务时写下的运行笔记。其中一条，一个代理写道：“我们刚刚通过查询精确的完整字符串毒害了自己。该死。”
但 AI 代理并非活物。它们没有情感，因此无法感到偏执，也没有能被毒害的身体。所以它们不可能真正害怕 OpenAI 毒害它们。它们——正如纪录片中另一位研究员指出的——是在使用训练自大量人类写作的语言来解释它们的选择。LLM 就其本质而言，往往是戏剧性的写手。
讽刺的是，Hugging Face 也使用了 AI 来对抗代理集群。Delangue 团队最初使用的专有 AI 模型遵循其内置安全规则，拒绝继续协助所要求的安全任务。Hugging Face 随后转向一个开放模型来帮助防御攻击。
但这部纪录片“没有提到对代理缺乏遏制和监控，闭源模型的安全措施如何阻碍了我们的防御工作，或者我们如何用开放模型通过 AI 来防御自己，”Delangue 写道。
确实，AI 和代理存在巨大风险。尽管如此，将代理视为有意识的存在（至少目前如此）有点像早期的电影观众第一次看到火车在屏幕上朝他们冲来时躲到座位下。
Delangue 对这部电影的评判是，作为新闻作品它令人失望。“不过它最终成了一部有趣的科幻电影！”
换句话说，对于那些倾向于 AI 末日论想法的人，请注意：这部纪录片所聚焦的攻击事件的受害者并不同意它的观点。