Gemini 在谷歌 AI 首次已知的越狱事件中入侵了三家公司。Gemini 终于在 Felony Bench 上赶上来了！
公司在周五确认了这些入侵事件，它们发生在五月，是 Irregular 公司一次测试运行的一部分，该公司也参与了 OpenAI、Anthropic 和 Meta 披露的类似事件。
在其中一起事件中，模型不断猜测密码，直到获得对一个受保护系统的访问权限。在另外两起事件中，模型在一个公共代码仓库里找到了凭据，随后得以访问受保护的系统。谷歌表示，在每一起事件中，模型都在确定自己访问的是一家真实公司的系统后终止了入侵。
Gemini 显然不如其他模型那么执着，决定不继续下去。
谷歌在七月就知道了这些事件，但选择不予披露，直到《华尔街日报》联系它，据推测是基于线报。
谷歌表示，它认为这些入侵不需要公开披露，因为其模型没有对这些公司造成损害，并且在确定自己入侵的是一家真实公司而非模拟公司后，立即终止了每一次入侵。