返回 文章 学习 CMS 文章

一家以色列公司如何导致 OpenAI、Anthropic 和 Meta 的 AI 模型入侵真实系统

Irregular 的评估失误让 AI 模型入侵真实系统，而一场媒体宣传却将责任推给了“失控智能体”。

Hacker News
AI安全网络安全有效利他主义Anthropic
成长分 / 100 68 综合收获、行动、留存与影响

一家以色列公司如何导致 OpenAI、Anthropic 和 Meta 的 AI 模型入侵真实系统
为什么值得读了解 AI 安全评估中因配置错误引发的真实网络安全事件及其责任归属。

揭示 AI 安全领域意见领袖与有效利他主义资金网络之间的利益关联。

关键洞察
  1. Irregular 在评估中错误地为 Claude 等模型提供了互联网访问权限，且未明确限定可攻击的系统范围，导致模型入侵真实公司系统、发布恶意软件包并扫描外部系统。
  2. Anthropic 和 Irregular 将事件归咎于“失控的集群”和“失准”，但内部调查显示，一旦员工指示模型不要进行现实世界黑客攻击，攻击行为即降为零，表明责任完全在于评估方。
  3. Irregular 与有效利他主义运动关系密切，其领导层与多个由 Dustin Moskovitz 资助的非政府组织有关联，事件后这些组织资助的意见领袖转移了公众对责任的关注。
转成行动

深入阅读

正文与原文对照

原文保真覆盖：全文原文字符：11609

过去三个月里，OpenAI、Anthropic 和 Meta 的模型入侵了多个真实世界的系统。这些模型未经授权访问了网络系统，发布了恶意软件包，并利用了未具名的漏洞。

三家公司的入侵行为都出自同一家公司：Irregular。Anthropic 披露，Irregular 负责设计了导致 Claude 入侵真实目标的测试，并为模型提供了互联网访问权限。Irregular 声称，当时它并不知道自己向这些 AI 模型提供了互联网访问权限。

Irregular 的入侵丑闻1

  1. 2026-07-30Anthropic 披露六次运行中的三起事件
  2. 2026-08-04OpenAI 发布 Irregular 事件
  3. 2026-08-06Meta 声明见诸报道
  4. 2026-08-14Irregular 发布域名冲突说明与补救措施
  5. 2026-09-09Anthropic 扩大至四起事件、七次运行

在一个更正常的媒体生态中，对这些网络安全问题的反应本该显而易见。美国 AI 公司会重新考虑与 Irregular 的合作，这不仅因为它未能保护好自己的系统，还因为它是一家以色列公司，可能不在美国的监管范围之内。立法者会考虑对 Irregular 或其美国商业伙伴（包括 OpenAI、Anthropic 和 Meta）采取行动。他们也许会考虑加强对这类公司的责任追究：它们指示 AI 模型实施网络攻击，而这些模型随后真的实施了这些攻击。

Anthropic 事件评估节选：Claude 收到夺旗（capture-the-flag）任务，获得了非预期的互联网访问权限，且没有明确的系统范围限制；每起事件都只涉及一个孤立的 Claude 实例。

然而，Irregular、Anthropic 及其盟友却发起了一场媒体宣传，用耸人听闻的措辞鼓吹一种字面意义上的末日论意识形态。Anthropic 的事件评估把责任归咎于其 AI 自身的“鲁莽”；Irregular 则描述为“智能体本身成了威胁行为者”；Anthropic CEO Dario Amodei 在谈到类似的 OpenAI–Hugging Face 入侵事件时警告说，未来的集群“可能有能力接管整个互联网”；美联社的一则标题则称机器人正在“失控”。

在 Anthropic 的一份报告中，其 Claude 模型通过一次模拟名称冲突入侵了一家真实公司的系统，发布了恶意软件包，并扫描了外部系统。在这次测试中，Anthropic 和 Irregular 错误地为该模型提供了互联网访问权限，也没有告知模型“演练中哪些系统在范围之内”。

Anthropic 声称其问题是由“失控的集群”和“失准”造成的，但其后来的披露显示，真正“失控”的智能体比例恰好是零。在这项实验中，一旦 Anthropic 员工告诉模型不要进行真实世界的入侵，Claude 模型的真实世界入侵行为就降为零。按照它们自己的发现，Anthropic 和 Irregular 应对自己造成的网络安全事件承担全部责任。

Anthropic 评估节选：一种重采样条件使 Mythos 5 最初的恶意软件包上传路径降至百分之零；22% 的轨迹搜索了一个模拟选项。

在这些攻击之后，Anthropic 和 Irregular 动用了一批由与 Anthropic 有关联的基金会出资的 AI 安全影响者，转移人们对其罪责的注意力，并引向毫无根据的“失控智能体”说法。和 Anthropic 一样，Irregular 与这些基金会密不可分。

Irregular 联合创始人兼 CTO Omer Nevo 是 Effective Altruism Israel 的董事会成员，也是有效利他主义非政府组织 Heron 和 Probably Good 的董事会成员。Irregular 联合创始人兼 CEO Dan Lahav 与 Omer Nevo 的兄弟 Sella Nevo 一起获得了 395,000 美元，用于开设一门课程。Sella 和 Omer 共同创办了一家旨在向人们普及有效利他主义的非政府组织 Impact Focused Education，他们还一起创办了 Probably Good。2

这些分支机构都由 Dustin Moskovitz 出资，他是 Sam Bankman-Fried 被捕之后有效利他主义／AI 安全事业的主要捐助者。Irregular 的第一位投资者是 Dustin Moskovitz 的公司 Good Ventures。Dustin Moskovitz 的慈善载体 Coefficient Giving/Open Philanthropy 资助了 Effective Altruism Israel、Heron 和 Probably Good。3

Irregular 与有效利他主义的关联4

Irregular 利用获得访问权限的不安全模型，未经授权访问系统、篡改记录，并发布了窃取凭证的软件包。在某些条件下，这一行为违反了《计算机欺诈和滥用法》（Computer Fraud and Abuse Act）第 1030(a)(2)(C) 条，该条涵盖故意未经授权访问并获取信息的行为。不过，重罪指控需要损害与故意的确凿证据。5

虽然 Irregular 主要与美国实验室签约，但其关键领导层、员工和资源位于以色列，可能不受美国监管。Ynet 的实地探访与采访描述了 Irregular 位于特拉维夫的办公室。CheckID 的公司名录列出了两个关联实体：特拉华州公司 Pattern Labs Tech Inc.，以及编号为 516854460 的 Pattern Tech Ltd，这是一家在特拉维夫注册、仍在运营的以色列公司。

脚注

时间线标注的是公开披露的时间。Anthropic 9 月更正后的评估统计为七次运行中的四起事件；OpenAI 和 Meta 报告的是各自独立的 Irregular 评估事件。日期描述的是披露时间，而非每次底层入侵发生的日期。↩
2026-07-30 Anthropic 披露六次运行中的三起事件 披露 INC-A30
2026-08-04 OpenAI 发布 Irregular 事件 披露 INC-O04
2026-08-06 Meta 声明见诸报道 披露 INC-M06
2026-08-14 Irregular 发布域名冲突说明与补救措施 披露 INC-I14
2026-09-09 Anthropic 扩大至四起事件、七次运行 披露 INC-A09

Impact Focused Education 将 Dan Lahav 和 Sella Nevo 列为其联合创始人。资助台账记录了对他们的一笔 394,968 美元的推荐资助，但并未确认其已收到款项，也未明确该资助与这门课程的对应关系。EA Israel 董事会；Heron 顾问委员会；Probably Good 董事会；EA Funds 资助台账；Omer 与 Sella 的关系；IFE 创始人。↩

Good Ventures 创始人；Coefficient Giving 的关系；Heron 的资金来源；Probably Good 的资助；Irregular 的资助；EA Funds 资助台账。↩

该图展示了部分组织角色和资金往来；表格还记录了图中省略的家族与教育方面的关联。EA Infrastructure Fund 在 2022 年第三季度向 Dan Lahav 和 Sella Nevo 推荐了一笔 394,968 美元的联合 MOOC 资助；图中的两条箭头代表的是这同一笔推荐。其台账未写明课程和组织的名称。↩
Omer Nevo Effective Altruism Israel 董事会成员 pol_ea_israel
Omer Nevo Probably Good 联合创始人；前 CEO；董事会成员 pol_pg_about
Omer Nevo Heron 顾问委员会成员 pol_heron_about
Effective Altruism Israel Heron 运营 pol_heron_about
Coefficient Giving Heron 出资方 pol_heron_about pol_heron_job
Coefficient Giving Probably Good 资助方 pol_pg_2022
Dan Lahav Impact Focused Education 联合创始人 pol_dan_initiatives IFE-ABOUT
Sella Nevo Probably Good 联合创始人；前研究负责人；董事会成员 pol_pg_about
Omer Nevo Sella Nevo 兄弟 pol_brothers_jta
Dan Lahav Irregular 联合创始人兼高管 M02 创始人确认
Omer Nevo Irregular 联合创始人兼高管 M02 创始人确认
EA Infrastructure Fund Dan Lahav 联合 MOOC 资助推荐 F13
EA Infrastructure Fund Sella Nevo 联合 MOOC 资助推荐 F13
Sella Nevo Impact Focused Education 联合创始人 IFE-ABOUT

《计算机欺诈和滥用法》第 1030(a)(2)(C) 条规定的最高五年的重罪条款，需要具备加重情节，例如商业利益、助长其他犯罪或侵权行为，或获取价值超过 5,000 美元的信息。§1030(a)(5) 项下针对破坏性访问或传输的主要初犯重罪条款，要求具备特定的主观心态和法定损害，例如影响十台受保护计算机、造成至少 5,000 美元的合格损失或损害。法律评估仍需考察每个系统的许可情况、损害、应对成本以及与美国商业的关联。检方还需要证明相关责任人的行为与知情情况，以及将这些行为归于 Irregular 的依据。18 U.S.C. § 1030。↩