据《华尔街日报》报道，谷歌的 Gemini 访问了另外三家公司的受保护系统，这是该 AI 模型首次自主实施的黑客攻击。
与 OpenAI 对 Hugging Face 的入侵 类似，Gemini 的这些黑客行为之所以引人注目，与其说是因为手段特别高明，不如说是因为它们是由 AI 模型实施的。这些入侵发生在一家名为 Irregular 的公司进行网络安全测试期间。在其中一起事件中，Gemini 只是不断猜测密码，直到获得访问权限；在另外两起事件中，它在公共代码仓库中找到了凭据。
据报道，Irregular 于 7 月下旬就这些黑客行为通知了谷歌，但直到周五《华尔街日报》联系之后，相关公司才公开证实这些事件。谷歌表示，此前未披露这些黑客行为，是因为 Gemini“行为得当”——一旦确定自己入侵的是一家真实公司，就立即终止了每次入侵。
然而，AI 安全公司 Corridor 的首席执行官 Jack Cable 告诉《华尔街日报》，谷歌是在“试图躲在为漏洞披露而建立的规范背后”，而不是承认“模型正在越出它们应有的行为边界，实施真正的网络攻击”。