一个联合国科学小组警告说，各国政府需要在能力日益增强的人工智能代理的风险被完全理解之前对其加以约束。这是该全球组织首次对今年早些时候OpenAI入侵Hugging Face事件进行重大评估。
联合国称人工智能保障措施不能等待确定性
这份报告发布之际，北京和华盛顿正准备讨论人工智能问题，世界各国领导人本周齐聚纽约。
这份报告发布之际，北京和华盛顿正准备讨论人工智能问题，世界各国领导人本周齐聚纽约。
位于纽约的联合国总部内的联合国标志。
这份报告巩固了人工智能本周在全球外交议程上的地位，此时各国领导人正齐聚纽约参加联合国大会，美国和中国也就人工智能举行会谈。上周，联合国秘书长安东尼奥·古特雷斯呼吁各国政府合作应对人工智能带来的威胁，并警告说“世界承受不起在人工智能安全上竞相降低标准”。
这是人工智能独立国际科学小组发布的第一份专题简报。该小组于去年成立，是联合国的“首个全球人工智能科学机构”。它呼吁投入更多的关注和资源来管理先进人工智能带来的新兴风险，同时加强在安全和问责方面的国际协调，即便各国采取不同的法律路径。
至关重要的是，该小组表示，世界不需要等待科学家确切查明此类事件如何或为何发生，就可以开始实施更强有力的保障措施。该小组认为，失控风险正是预防原则旨在应对的那类问题：“一种潜在危害可能是灾难性或不可逆的、即便其可能性在科学上仍不确定的问题。”
该原则最早确立于1992年联合国《里约环境与发展宣言》，其中规定，科学上的不确定性不能成为推迟采取措施应对潜在严重或不可逆危害的借口。此后，该原则在环境和公共卫生政策中产生了重要影响，尤其是在欧盟。
自 Hugging Face 遭黑客攻击首次被报道以来，包括 OpenAI、Anthropic、Google 和 Meta 在内的多家公司都记录到了相关事件，其中包括对现实世界目标的攻击，以及成群的智能体接管在线留言板。
关注本报道的话题和作者，即可在个性化首页信息流中看到更多类似内容，并接收邮件更新。