联合国一个科学专家小组警告称，各国政府需要在充分了解风险之前，就对能力日益增强的 AI 智能体加以约束。这是该国际组织首次就今年早些时候 OpenAI 入侵 Hugging Face 一事发布重大评估。
这份报告发布于本周，恰逢各国领导人齐聚纽约参加联合国大会、美中两国就 AI 举行会谈，进一步巩固了 AI 在全球外交议程中的地位。上周，联合国秘书长 António Guterres 呼吁各国政府合作应对 AI 带来的威胁，并警告称“世界承受不起 AI 安全上的逐底竞争”。
这是 AI 独立国际科学小组（Independent International Scientific Panel on AI）发布的首份专题简报。该小组于去年成立，被称为联合国“首个全球人工智能科学机构”。报告呼吁投入更多关注和资源来管理先进 AI 带来的新兴风险，同时加强安全与问责方面的国际协调，尽管各国在法律层面采取的做法各不相同。
关键在于，该小组表示，世界无需等科学家确定此类事件究竟如何发生、为何发生，就可以着手落实更强的保障措施。小组认为，失控风险恰恰是预防原则（precautionary principle）设计之初要应对的那类问题：“潜在危害可能是灾难性的或不可逆的，即便其发生的可能性在科学上仍不确定。”
这一原则最早载入1992 年的联合国《里约环境与发展宣言》，其内容是：科学上的不确定性不能成为推迟采取措施、防范潜在严重或不可逆危害的借口。此后，它在环境和公共卫生政策中影响深远，在欧盟尤其如此。
自 Hugging Face 被入侵一事首次曝光以来，包括 OpenAI、Anthropic、Google 和 Meta 在内的公司都记录到了相关事件，其中既有针对现实世界目标的入侵，也有成群的智能体接管在线留言板的情况。