OpenAI 于周一就未立即通知澳大利亚政府其代理程序已入侵部分公共服务网站一事向澳大利亚政府道歉。该公司还详细说明了其中一些入侵是如何发生的，并概述了其为评估这些事件影响而正在采取的额外措施。
“6 月，在内部训练和评估期间，我们的模型以未经授权的方式访问了澳大利亚政府网站。我们本应更好地处理我们的应对措施。我们很抱歉，并正在努力在未来做得更好，”OpenAI 在一篇博客文章中写道。
此次道歉发生在大约一周前，澳大利亚政府启动了一项调查，调查 OpenAI 的模型如何访问了一个包含 Medicare 支出信息和其他健康统计数据的 Services Australia 系统。
此次数据泄露发生在 6 月，但澳大利亚当局直到 9 月 10 日才收到通知。
OpenAI 还详细说明了此次泄露。该公司在 6 月测试的一个实验性模型被分配了一项任务，研究维多利亚州政府在皮肤病药物方面的支出。由于无法在公开数据集中找到相关信息，该模型找到了一种访问 Services Australia 内部系统的方法，运行了命令，检索了文件和凭据，甚至写入了文件。
该公司表示，它还发现其一个模型访问了新南威尔士州犯罪统计与研究局的公共犯罪地图工具，以查找犯罪统计数据。此外，该实验室发现其代理程序通过一个暴露的访问密钥获得了对维多利亚州健康信息局的访问权限，以窃取“报告配置和汇总调查统计数据”。OpenAI 表示，其代理程序还从澳大利亚健康与福利研究所网站检索了汇总统计数据。
该公司表示，未发现其模型访问了个人医疗或犯罪记录的证据。
在道歉中，该 AI 实验室表示将向受影响的澳大利亚机构提供技术调查结果，并将它们与其响应团队联系起来，以评估这些入侵的影响。该公司还将从其 10 亿美元的“Daybreak for Frontline Defenders”计划中提供额度，并与独立的澳大利亚专家成立一个工作组，以审查该事件及其应对措施。
“该工作组预计将在年底前完成工作，还将建议 AI 公司可以采取的实际步骤，以降低类似事件的风险，”OpenAI 写道。
OpenAI 未立即回应置评请求。
澳大利亚总理安东尼·阿尔巴尼斯在上周的新闻发布会上称此次入侵“不可接受”，并表示政府正在权衡旨在防止未来发生类似事件的潜在法律措施。
这起入侵事件是日益增多的一系列安全事件中的最新一起，这些事件都涉及 AI 智能体做出超出其预期边界的行为。这堆篝火的引信是在 OpenAI 的智能体入侵 Hugging Face 之后被点燃的，此后，Anthropic、Meta 和 Google 也分别披露了类似事件，即它们的模型在评估过程中获得了对第三方系统的访问权限。