教皇利奥十四世表示,AI 系统应当被“解除武装”,并补充说人类“有责任去引导、改变,并在必要时拒绝其应用”。在周五的教皇讲话中,教皇利奥鼓励联合国成员国下个月在日内瓦举行会议期间“采取具体步骤,禁止致命性自主武器”。
这篇讲话反映了教皇利奥在今年5月发布的首份重要教皇文件中所阐述的许多理念,该文件强调“在人工智能时代守护人的位格”。与他的通谕一致,教皇利奥对与会者说“机器是工具,不是人”,并警告赋予 AI 系统权利或法律人格的危险。“影响人的生命、自由以及使用武力的决定,必须始终置于有效、知情且负责任的人类监督之下,”教皇利奥说。
2024年,教皇方济各也曾同样呼吁禁止自主武器,他说:“任何机器都不应选择夺走人的生命。”AI 已成为教皇利奥热衷的话题,他表示自己选择这一名号是因为他必须面对这项技术的进步——这与教皇利奥十三世在工业革命前沿主持教会的情形相似。
教皇利奥在讲话结尾呼吁国际机构保护共同利益免受 AI 相关风险的影响,并建立“共同标准、独立监督和明确的问责机制,以便有关 AI 开发和使用的决定能够被审查、在必要时受到质疑,并针对所造成的任何损害提供适当的补救措施。”
