在唐纳德·特朗普总统准备在华盛顿会见科技和人工智能首席执行官们之际，众议员罗·卡纳（加州民主党）呼吁美国与中国签订一项条约，以防止人工智能对世界造成严重破坏。但要促使两国领导人采取行动，可能希望渺茫。
中国人工智能公司会放慢脚步吗？众议院一位高层民主党人想要答案
他表示，美国和中国领导人都缺乏必要的紧迫感来遏制这项技术的风险。
他表示，美国和中国领导人都缺乏必要的紧迫感来遏制这项技术的风险。
在独家分享给The Verge的信件中，卡纳——众议院中国问题特别委员会的最高级别民主党人，也是一位可能的总统竞选者——询问一家美国情报机构以及中国人工智能公司，是否准备好应对今夏OpenAI智能体入侵Hugging Face之类的事件。这些公司包括DeepSeek、阿里巴巴和月之暗面（Moonshot AI），它们都在追求高水平的人工智能。
美国和中国在许多问题上的利益“再不同不过了”，卡纳在致国家情报总监杰伊·克莱顿的信中写道，“但就这一具体关切而言，人类失去对我们命运的控制，对两国都没有好处。”
“[人]类失去对我们命运的控制，对两国都没有好处”
卡纳请求国家情报总监办公室（ODNI）评估，如果一个人工智能实验室失去对其机器人的控制，美国可能如何有效应对——近几个月来，这种情景已变得越来越常见。与此同时，他要求该机构评估中国政府评估灾难性人工智能风险的方法。他说，这些信息将帮助国会并最终帮助白宫与中国同行制定一项协议。
致DeepSeek、阿里巴巴和月之暗面的信件要求提供有关它们为实现“超级智能”和递归自我改进（RSI）所做努力的文件——递归自我改进是一个里程碑，即人工智能系统能够自我改进。他还询问了为这项技术实施保障措施和“终止开关”的任何努力，以及如果达成条约，这些公司是否愿意接受非政府机构的检查。这些公司和ODNI没有立即回应The Verge的置评请求。
卡纳此举之前，中国国家主席习近平与美国总统唐纳德·特朗普上周在白宫举行了会晤。他说，两人都未能认识到人工智能带来的风险和紧迫性。“我认为特朗普和习近平至少同意讨论人工智能并就此持续对话，这是建设性的，但这远远不够，”卡纳在周一接受The Verge采访时表示。
他也对计划于周二举行的白宫、众议院议长迈克·约翰逊（路易斯安那州共和党人）与几位美国科技高管之间的会议持怀疑态度。“我认为这是为了向美国人民保证这些科技公司会负责任，是一种品牌宣传，”卡纳说。“但为什么我们要信任那些有动机最大化利润的公司来制定安全规则？并不是说他们是坏人，但你会信任制药公司高管来决定什么药物是安全的吗？”
“为什么我们要信任那些有动机最大化利润的公司来制定安全规则？”
卡纳最终寻求一项禁止递归自我改进并监测前沿人工智能实验室的美中条约，但他认识到这不太可能在短期内实现。参议员伯尼·桑德斯（无党派，佛蒙特州）同样呼吁两国之间达成一项人工智能条约，尽管像众议院中国委员会主席约翰·穆勒纳尔（密歇根州共和党人）这样的共和党人一直持怀疑态度，认为中国政府会遵守协议。与此同时，卡纳表示他希望成立一个由两国专家组成的工作组，提出安全建议和确保合规的方法。
但特朗普及其盟友一直抵制大多数法规或协议。上周与习近平会面的那天早上，特朗普在Truth Social上发帖称，“超级智能（SI）将是一个重要讨论话题，但我想让它保持现状。这也是中国的立场。”约翰逊在福克斯商业频道上表示，他预计对话将围绕在不扼杀创新的情况下实现监管的“正确平衡”，并警告不要在与中国的AI竞赛中落后。然而，美国领先的人工智能公司呼吁美国与中国协调以放缓发展步伐。
在给中国人工智能公司的信中，卡纳承认他们不太可能全面回应。他说，他们未回应早先一封要求与OpenAI和Anthropic一同承诺放缓人工智能发展的信函。卡纳告诉The Verge，他的目标是“让他们感到羞耻”，并在中国人工智能公司中“引发一场关于安全的辩论”。虽然他也批评美国人工智能公司，但他说，“至少他们在参与安全对话。”
卡纳仍然相信美国将主导人工智能安全标准的制定，部分原因是他认为许多中国模型是从美国模型蒸馏而来的。他还表示，尽管世界各国领导人可能并未意识到这一威胁，但他们“与本国国内的科学家和技术专家脱节了”。“我们需要让真正理解这一问题的技术专家和工程师来主导这场讨论，而不是那些在盈利中有既得利益的CEO，也不是那些缺乏技术专长、更关心权力的政客。”
关注本报道中的主题和作者，即可在您的个性化主页信息流中看到更多类似内容，并接收电子邮件更新。