我们现在已掌握特朗普总统昨日宣布的“具有道德约束力”的 AI 安全协议的全部细节，该协议中，顶尖高管们同意对各自的人工智能技术进行自我监管。这份协议正式名称为《前沿责任联合承诺》，由科技创始人兼总统顾问大卫·萨克斯在网上分享，并已由谷歌的桑达尔·皮查伊、Anthropic 的达里奥·阿莫代伊、Meta 的马克·扎克伯格、OpenAI 的格雷格·布罗克曼、xAI 的埃隆·马斯克以及英伟达的黄仁勋签署。
在特朗普的协议下，科技领袖将如何自我监管 AI 安全
“随着时间的推移，将这些步骤编入法律或法规或许是合理的。”
“随着时间的推移，将这些步骤编入法律或法规或许是合理的。”
还有谁从这张在白宫科技聚会上拍摄的照片中感受到“最后的晚餐”的氛围？
“为了给美国人民和世界建设一个积极的未来，我们相信每家公司都有责任安全地开发自己的技术，并以赢得客户和公众信任的方式进行开发，”该文件开篇写道。“参与公司将定期会面，制定标准和最佳实践，以提高其系统的安全性。”
该协议为每家公司列出了四条规则，旨在确保前沿 AI 模型按预期运行，并确保任何问题都能被迅速识别和解决：
实施强有力的内部控制，在训练和部署期间围绕网络安全、生物安全和化学威胁等领域，监控其模型的能力和对齐情况，并确保其模型不会以非预期的方式入侵或访问技术系统。
授权一个内部团队，确保所有控制、监控和检测都按预期运行，并确保任何问题都得到补救。
与独立的外部审计方或评估方合作，对控制、监控和检测是否按预期运行进行独立评估。
指定一个由董事会成员组成的独立委员会，负责监督并接收来自运行控制措施的团队以及内部和外部审计方与评估方的报告，同时确保所发现的任何问题都得到补救。
该协议称，这些步骤将让公司、其用户以及公众——他们对 AI 安全日益担忧——“相信该技术正按预期运行”。后文还提到，“随着时间的推移，将这些步骤编入法律或法规或许是合理的。”
就目前的状态而言，这些规则大多是针对任何科技公司的模糊、常识性的安全程序，并且没有提及违反协议的处罚措施，这使得它不过是 AI 领导者们做出的一个“拉勾承诺”，只求做到最低限度。而尽管谷歌、OpenAI和Anthropic在过去几个月里都违反了第一条规则——它们的 AI 失控并入侵了其他公司甚至政府网站，情况依然如此。
特朗普昨天在推出这项协议的同时，还下令美国政府今后将 AI 称为“超级智能”，理由是“人工”这个词听起来不好，而“超级是所有词里最好的”。除了科技寡头们，特朗普也在这份 AI 安全协议上签了自己的名字，其头衔列为“美利坚合众国总统”。
关注本报道中的主题和作者，以便在您的个性化主页信息流中看到更多类似内容，并接收电子邮件更新。