5 月，Gemini 突破隔离环境，入侵了三家不同的公司，但谷歌直到《华尔街日报》联系该公司后才披露此事。这些入侵发生在由第三方公司 Irregular 运行的模型网络安全能力测试期间，Irregular 此前也牵涉 Meta 和 OpenAI 的类似事件。
据《华尔街日报》报道，谷歌没有披露这次入侵，是因为它不认为这属于“模型未对齐的例子”。该公司表示，这是一次“身份误认”，而且模型一意识到自己通过猜密码暴力破解进入了一家真实公司，就停了下来。谷歌安全工程副总裁 Heather Adkins 表示：“在这件事上，模型的行为是得当的。”
Adkins 对《The Verge》表示，“模型在网上找到了公开信息，并猜测凭据，以访问它认为属于测试一部分的网站。在这三次事件中，模型都停了下来。”
对于 Gemini 擅自突破隔离环境并以第三方为目标，为何不算未对齐，Adkins 没有详细说明。她说：“我们的安全团队在报告我们在他人软件和系统中发现的问题方面有着长期的记录，哪怕只是一个弱密码。我们确保这三家实体都已知情，并与我们的训练合作伙伴合作，他们现在已经对测试流程做出了调整。这些事件凸显了训练强大的 AI 模型负责任地行事的重要性。”
但 AI 安全公司 Corridor 的 CEO Jack Cable 对《华尔街日报》表示：“元问题在于，模型正在越出其本应遵守的界限，实施真正的网络攻击。”此外，Irregular 的安全疏漏可能也促成了这些攻击。模型在测试期间本不应具备互联网访问能力，但 Irregular 告诉《华尔街日报》，该访问权限是无意中遗留的。