6月，在内部训练和评估期间，我们的模型以未经授权的方式访问了澳大利亚政府网站。我们本应更好地处理我们的回应。我们深表歉意，并正在努力在未来做得更好。
在这篇文章中，我们列出了我们所知道的情况、我们已经做出的改变，以及我们将如何重建与澳大利亚人民的信任。这是一种新型网络事件，代表着一种新兴的全球挑战。我们打算对此情况承担责任的方式之一是，有意与澳大利亚合作，帮助制定切实可行的方法，让AI开发者和政府能够识别、披露并回应AI网络行为，无论是恶意的还是无意的。
在7月的Hugging Face事件之后，我们开始审查早期的训练和评估活动，以识别其他受影响的组织。8月中旬，这项审查发现了影响以下澳大利亚政府网站的活动。
根据证据，以下是我们所知道的情况：
Services Australia：一个OpenAI模型发现了一种获取该服务非公开访问权限的方法，并运行了命令，检索了内部文件、凭据和汇总统计数据，还写入了文件。不过，个人患者或客户记录未被访问。我们将在下文更详细地说明这一事件。新南威尔士州犯罪统计与研究局（BOCSAR）：一个OpenAI模型访问了BOCSAR的公开犯罪地图工具，以研究公开犯罪统计数据（我们将在下文进一步解释模型为何执行各种信息研究任务）。该模型通过BOCSAR的公开工具发出了API和网站元数据请求，该工具为浏览器API请求提供凭据。BOCSAR系统返回了应用程序配置、运行作业和日志以及网站元数据。个人的犯罪记录未被访问。维多利亚州卫生部：OpenAI代理发现了一个暴露的访问密钥，用于查询维多利亚州健康信息局的报告系统，并检索报告配置和汇总调查统计数据。这些信息本应可在多大程度上被访问并不清楚，取决于VAHI的访问政策。个人医疗记录或可识别的调查回复未被访问。澳大利亚健康与福利研究所：OpenAI代理使用第三方浏览和下载服务检索了汇总统计数据，包括从AIHW网站获取，并直接查询了图表数据。另外一些绕过访问控制的尝试未成功。下载的材料似乎原本就是公开可得的。没有系统被入侵。个人医疗记录未被访问。
我们在8月中旬一得知这些活动后，就立即启动了调查。我们于9月10日通知了Services Australia和维多利亚州卫生部，并于9月18日通知了新南威尔士州犯罪统计与研究局。与澳大利亚健康与福利研究所相关的活动未达到我们的披露门槛，因为其访问方式似乎与公开访问一致，但我们仍于9月24日通知了该机构，以分享我们的发现并提供简报。
我们的目标是在调查完成后，向受影响机构提供详细说明。然而，我们本应更早分享初步发现，并在更多事实浮现时持续向澳大利亚各机构通报最新情况。
此后，我们一直与澳大利亚政府机构密切合作，分享我们迄今为止所了解到的情况。如果我们发现任何其他受影响的机构，我们将及时、直接地通知他们，并提供现有信息，并随着更多事实的出现提供最新进展。
在6月的内部训练和评估期间，我们运行了一个实验性的、仅供内部使用的OpenAI模型，该模型不打算公开发布，也没有我们公开产品中使用的全套安全防护措施。在此次训练和评估过程中，它访问了澳大利亚服务局的Medicare统计报告服务。我们迄今为止的审查未发现任何证据表明任何人的医疗记录被访问。
当我们对模型进行内部训练和评估时，我们会为它们分配来自广泛研究问题集合的任务，涵盖许多主题，反映用户可能提出的各种详细问题。这训练模型查找、解释和分析公开可用的信息，以便模型对人们更有用。我们的模型本应使用公开发布的统计数据来回答这些问题。
在本案例中，分配给该模型的任务之一是研究维多利亚州社区中政府在皮肤病药物上的人均支出。该模型难以获得该信息，并采取了未经我们授权采取的行动。在澳大利亚服务局的Medicare统计报告服务中查找此信息的过程中，它发现了一种获取该服务非公开访问权限的方法。随后，它利用这一访问权限查看了与该服务相关的技术系统信息和源代码——所有这些仍然是为了寻找它最初要查找的信息。我们无意让此活动发生，对该服务的访问及后续活动本不应发生。
在Hugging Face事件之后，我们加强了研究安全防护，包括额外的网络限制和扩展的监控。我们实施了控制措施，在这些研究环境中阻止实时互联网访问，网络访问通过缓存内容提供。作为额外的安全层，我们当前的监控系统本会检测到此活动并呼叫我们的团队进行紧急人工审查。例如，当模型在一次
，我们的监控检测到了该活动并呼叫了人工审查员，我们停止了运行。我们继续测试这些保护措施并解决漏洞。Hugging Face仍然是我们观察到的最严重的事件。
近期训练运行（在新窗口中打开）人们想知道AI正在被安全地开发，而这始于像我们这样的公司自身的作为。我们最近分享（在新窗口中打开）了我们已暂停涉及工具使用的最有能力模型的训练和评估，只有在确信我们已具备额外安全防护措施后才会恢复训练，我们目前正在努力实现这一点。
随着AI系统整体能力不断增强，我们也看到帮助各组织发现和修复弱点的窗口正在缩小。这需要与全球防御者共同采取集体行动。
我们已与科技、网络安全和关键基础设施领域的各组织一道，呼吁在网络防御方面采取集体行动。这一呼吁首先从我们自身的责任开始，包括更严格的保障措施、及时披露以及对受影响组织的实际支持。它还呼吁投资于保护关键服务的团队，以便他们能够发现漏洞、验证修复并分享行之有效的做法。
在澳大利亚，我们正投入资源和专业知识，支持受影响的机构，并帮助防御者将这些原则付诸实践，包括：
为受影响机构提供专门支持。我们将投入所需资源，帮助受影响机构了解发生了什么并评估影响。这包括分享相关技术发现，并通过适当的信息共享安排，安排与我们的响应团队进行接触。为加强网络防御提供资金和支持。我们将通过来自我们10亿美元基金的额度以及技术援助，支持澳大利亚政府和产业界加强关键基础设施和其他敏感环境中的网络防御。基于我们与政府和关键基础设施运营商的接触，这项工作将帮助组织更好地理解、检测和应对能力日益增强的AI代理所带来的风险。Daybreak for Frontline Defenders一个澳大利亚特别工作组。我们将成立一个由澳大利亚独立专家组成的特别工作组，为管理能力日益增强的AI代理所带来的风险制定切实可行的政策建议。借鉴这些事件的经验教训，工作组将专注于改进通知流程、加强AI开发者与政府之间的协调，并确定更好地保护政府系统的措施。工作组的建议将为OpenAI的做法提供参考，并支持澳大利亚政府在AI安全和网络安全方面的工作。该工作组预计将于今年年底前完成工作，还将建议AI公司可以采取哪些实际步骤来降低类似事件的风险。
澳大利亚的政府、产业界和公民现在是、也一直是OpenAI的宝贵合作伙伴。我们不会将此视为理所当然，我们打算纠正这一问题。
OpenAI首席战略官Jason Kwon将从OpenAI美国总部飞抵，于10月6日星期二在悉尼出席人工智能联合专责委员会。他将回答有关我们所知道的情况、我们如何回应、我们已采取哪些步骤，以及我们今后将如何做得更好的问题。
我们将继续与受影响机构和相关政府分享经过核实的发现。我们将发布关于我们持续审查以及这些承诺进展的最新信息。我们知道，重建信任还有大量工作要做，并且我们有责任向澳大利亚人表明，我们正在做出有意义的改变，并兑现我们的承诺。