过去几天,Dario Amodei 发表了一篇题为“We Must Pace the Frontier”的长文,详述为何应当放缓 AI 发展,由此引发了一连串有关 AI 安全的表态。其他 AI 领袖和政界人士纷纷发声,或支持或反对他的观点,我们在此汇总了其中一部分。
Anthropic CEO Dario Amodei
Amodei 周六上午发表的这篇文章提出了放缓 AI 发展的三个步骤:一是引入嵌入式第三方评估机构,核实公司是否遵守安全实践和承诺并报告事故;二是民主国家的前沿 AI 公司之间就标准和限制进行协调;三是民主政府与威权政府之间就放缓 AI 发展开展全球协调,“在可能的范围内”。Amodei 表示,Anthropic 正在“单方面承诺落实其中的第一步”。
不过,Amodei 指出,放缓“并不意味着停止模型训练或技术进步,而是确保公司有足够的时间对齐并保护其模型,也让第三方评估机构有时间确认这一点。”
OpenAI CEO Sam Altman
“我同意 Dario 的看法,我们需要放缓前沿的步伐,”Altman 在 Amodei 于 X 上发布其文章不久后表示。“这是我们 OpenAI 最近几周讨论的首要议题。”Altman 还承诺在公司内部引入独立评估机构,称这是个“好主意”。
周日,Altman 表示,OpenAI 欢迎“一个为前沿 AI 设定一致安全要求的联邦框架”。他补充说,OpenAI 希望其他公司“借鉴我们的做法并提出自己的方案;我们认为在失准、监控和安全方面建立共同标准会带来更好的结果。”与 Amodei 一样,Altman 也表示:“当我们说‘放缓’时,我们并不是指‘停止’”,并指出进展应当“比原本可能达到的速度更慢”。
Altman 还指出了他认为 AI 进展“可能会非常糟糕”的两种方式:把“未来的控制权”交给 AI,以及最终陷入“权力过度集中的世界”。他说,这两点都可以通过“走一条狭窄的中间道路”来避免。
Google DeepMind 联合创始人兼董事长 Demis Hassabis
“Dario 的文章指出了正确的前进道路,”Hassabis 在回复 Amodei 的文章时说。“细节还需要敲定,但就应对这一关键时刻而言,方向是正确的。”Hassabis 还提到了他在 7 月发布的一个 AI 标准机构框架。
SpaceX CEO Elon Musk
“Dario 是对的,”Musk 说,并转发了 Amodei 的文章。
美国总统 Donald Trump
在周一上午一篇语无伦次的 Truth Social 帖子中,Trump 反对放缓 AI 的主张:
AI 唯一需要的控制或“护栏”,就是一位强大而聪明(高智商!)的总统,而美国恰恰有这样一位,绰绰有余!Trump 政府已经阻止了 AI 界的“人物”做坏事或可能的坏“事”,比如 Dario(Anthropic!),他现在假装成“完美的小天使”,我们还会继续这样做!我们对这些公司已经拥有强大的刑事和监管权力!现在有一场针对 AI 和数据中心的恶毒阴谋,唯一为此高兴的是中国。谁赢得 AI,谁就赢得一切!我们领先中国和所有其他国家,而且将继续领先。阴谋论者、叛国者、叛徒和泄密者,当心了!感谢你们对此事的关注!总统 DONALD J. TRUMP
Nvidia CEO Jensen Huang
在一场活动的台上接到 Trump 的电话并开了免提时,Huang 说“机器人不会接管世界”,并表示:“我们要确保美国的每个人都能在 AI 竞赛中获胜。每个行业、每家公司、每个州、每个人。”
美国副总统 JD Vance
Vance 表示,他觉得前沿 AI 科技公司“跑到政府面前,求政府来监管它们”有点“奇怪”,并补充说“在我看来这有点像特洛伊木马”。他还引用了总统的话:“我们知道中国人正在与美国展开这场长期的 AI 竞赛。”
众议院议长 Mike Johnson
在周日接受 CNN 的 Jake Tapper 采访时,Johnson 表示:“我认为所有这些平台的领导者和提供者……他们需要来和我们开个会,坐下来商量出正确的平衡点。我们不能对此实施暂停令,因为中国会超过我们。这就是挑战所在。这是国家安全,与确保模型安全这一眼前的安全之间的平衡。”目前尚不清楚这样的会议是否会举行、何时举行,但 Johnson 说他“明天”就可以开。
参议员 Bernie Sanders
Sanders 表示,他同意《Wall Street Journal》专栏作家、前 Ronald Reagan 演讲撰稿人 Peggy Noonan 的观点,后者发表了一篇题为“Pause AI for Humanity’s Sake”的文章。
前交通部长 Pete Buttigieg
“国会袖手旁观,白宫不采取任何实质行动,这对美国人民和全世界都是极其危险的,”Buttigieg 在接受 NBC News 采访时说。“需要有保障措施,需要有规则,需要有限制,需要为失控的 AI 设置一个紧急切断开关。”
前白宫 AI 和加密货币事务主管 David Sacks
“Dario 写道我们需要‘放缓前沿的步伐’,Sam 也同意了,”Sacks 在 X 上的一篇长帖中说。“人们可能会对我的回应感到意外:那就去做吧。”Sacks 还让他们“别再假装需要得到别人的许可”,也“别再假装放缓的动机纯粹是利他的”。
前 FTC 主席 Lina Khan
“执法部门本来就有权对制造和发布危险、未经审查或有缺陷产品的公司及其 CEO 提出指控,”Khan 在 X 上一篇长帖的开头说。“我们不应让关于新法律制度的讨论,掩盖了现行法律并不给 AI 开设豁免这一事实,@FTC 在我任职期间曾反复强调这一点。”
前副总统 Kamala Harris
“我们必须负责任地放缓前沿 AI 发展的步伐,”Harris 在一个系列帖子中说,并补充道:“放缓对于确保 AI 服务于公众利益至关重要。”
前 Meta 首席 AI 科学家 Yann LeCun
“早在 2019 年,Dario 就声称 GPT2 太危险,不能开源,”LeCun 在 X 上的回复中说。“我当时就嘲笑过他们。现在每个人都应该嘲笑他们。”
前总统 Barack Obama
“我不是相信 AI 会带来某种技术乌托邦的 AI 加速主义者,也不是认为它必将导致人类毁灭的末日论者,”Obama 写道。他接着说:“但这项技术究竟是带来医学、能源和教育领域的惊人突破,还是引发巨大的经济动荡、更严重的不平等和潜在的灾难,将取决于我们现在做出的选择,而这些选择不应只由相关公司来做,而应由我们所有人共同来做。”
9 月 15 日更新:补充了更多表态。
