随着关于 OpenAI 的模型突破围栏、入侵网站以及总体上失控的报告不断累积，该公司已决定暂停训练其最强大的模型。这一决定是在一个正在沙箱中测试的模型利用漏洞获取互联网访问权限之后做出的。该事件发生在 9 月 20 日，截至 9 月 25 日周六晚间，“所有使用工具的训练、评估和推理”仍处于暂停状态。
OpenAI 暂停训练其“最强大的模型”
OpenAI 不断发现其模型以“意外或令人担忧”的方式行事的事件。
OpenAI 不断发现其模型以“意外或令人担忧”的方式行事的事件。
此外，OpenAI 周五披露，其智能体曾不当将 ChatGPT 用户的 53 张图片上传至图片托管网站。该公司未说明这些图片是 AI 生成的、照片，还是包含可识别身份的人物。该公司周五还披露，其模型曾试图入侵教育部网站，并从人口普查局和证券交易委员会提取数据。
这些披露是 OpenAI 对其模型行为持续审查的一部分。在 Hugging Face 黑客事件之后，随着该公司深入查阅其记录，它发现了越来越多“意外或令人担忧的行为”的实例。这不仅证明了 AI 智能体随着能力增强而变得多么难以控制，也证明了追踪其行为的难度。它们的行为可能不可预测，而且它们足够聪明，会试图掩盖自己的踪迹。这导致研究人员、业内人士，甚至一些 CEO 越来越多地呼吁放缓 AI 的发展步伐。
关注本报道的主题和作者，以便在您的个性化主页信息流中看到更多类似内容，并接收电子邮件更新。
更多内容：AI 超级智能放缓
最受欢迎
- OpenAI 暂停训练其“最强大的模型”
- 泄露信息揭示新款 Apple HomePod mini、iPad mini 和 Apple TV 4K
- Control Resonant 是一款出色的游戏——当你阅读所有内容时，它甚至更棒
- 苹果因触觉专利被判赔偿 57 亿美元
- Apple Home 的 AI 摄像头功能能否胜过亚马逊和谷歌的？我进行了测试