今年 5 月，数以百计的恶意和垃圾软件包被上传到 RubyGems，给这个托管平台造成了严重干扰。现在，独立研究人员表示，这次攻击是一群 OpenAI 智能体所为。不仅如此，这些 AI 还试图窃取用户的 API 密钥。
当时，RubyGems 将此称为“重大恶意攻击”，并暂停注册四天，以便缓解损害和收集数据。研究人员表示，让 RubyGems 不堪重负的那些软件包，其内容明显由 LLM 撰写，提交这些软件包的智能体还自称来自 OpenAI。他们说，观察到的行为与那群开始编辑某德语维基的智能体非常相似，OpenAI 已经确认那件事是其智能体所为。
这次，这些智能体成功绕过了 RubyGems 的邮箱验证系统，创建了大量账号，随后用大量提交压垮了平台。接着，它利用该网站的自动构建系统远程执行代码，并试图利用一个漏洞窃取用户的 API 密钥。不过，目前还不清楚它是否得手。
OpenAI 对这些发现提出异议。发言人 Kayla Wood 对 The Verge 表示：“根据我们的审查，我们的智能体通过 RubyGems 平台访问互联网，执行的是无害任务并获取公开信息。我们将继续调查，这是我们对智能体在训练和评估期间活动进行更广泛审查的一部分。”
9 月 13 日更新：添加了 OpenAI 的评论。