返回 文章 学习 CMS 文章

Y Combinator 的 Garry Tan 呼吁美国开放权重 AI 实验室也“蒸馏”前沿模型

Garry Tan 主张美国开放权重 AI 实验室应合法蒸馏前沿模型,以对抗中国开放权重模型并防止 AI 权力垄断。

Garry TanY CombinatorAI蒸馏开放权重模型
成长分 / 100 62 综合收获、行动、留存与影响

Y Combinator 的 Garry Tan 呼吁美国开放权重 AI 实验室也“蒸馏”前沿模型
为什么值得读了解硅谷知名加速器 Y Combinator 掌门人对 AI 蒸馏争议的鲜明立场,与 Anthropic 等公司的呼吁形成对比。

理解开放权重与专有 AI 模型之间的竞争与平衡逻辑,以及监管可能扮演的角色。

关键洞察
  1. Garry Tan 希望监管机构不要介入蒸馏,并主张建立“美国式的蒸馏制度”,让小型开放权重实验室合法使用前沿模型的训练技术。
  2. Anthropic 指控中国实验室从事“非法蒸馏攻击”,其 CEO Dario Amodei 呼吁监管打击,但 Tan 不认同这一做法。
  3. Tan 认为 AI 实验室限制客户如何使用模型属于越权,并指出专有实验室训练时大量摄取受版权保护材料也未获许可。
转成行动

深入阅读

正文与原文对照

原文保真覆盖:全文原文字符:3519

对于中国 AI 实验室利用蒸馏技术从前沿模型厂商那里提取知识一事,Y Combinator CEO Garry Tan 希望监管机构不要插手。事实上,他认为美国的 AI 实验室或许也该玩同样的游戏。

“我什么都不会做,”他本周早些时候在接受 CNBC 采访时说。“我们甚至可以主张应该有一套美国的蒸馏机制。”

他向 TechCrunch 进一步解释说,这意味着他希望规模较小的美国开放权重 AI 实验室,对美国的前沿 AI 实验室使用同样的训练技术,让美国拥有一批更强大的、非中国的开放权重选择。

蒸馏是指模型厂商对另一个模型进行大量提示,以了解其工作和推理方式。AI 实验室普遍且合法地使用它来帮助训练新模型。

Anthropic 本周发布了第二份报告,指称中国实验室正在实施“非法蒸馏攻击”,隐藏自己的身份,未经许可进行蒸馏,并依靠欺诈和被盗凭证来实现。Anthropic CEO Dario Amodei 此前曾公开呼吁美国监管机构严厉打击蒸馏。

值得注意的是,这家声名显赫、成果丰硕的硅谷创业加速器的掌舵人并不同意这一点。

需要说明的是,Tan 并不是在倡导美国 AI 实验室使用被盗凭证来蒸馏。他希望它们可以光明正大地从前门进来。实际上,他的论点有两层。他认为,AI 实验室去规定客户如何使用其模型分享给他们的信息,是一种越界。

他还指出,闭源 AI 实验室在尽可能多地吸纳人类知识来训练模型时,也没有征求许可。众所周知,它们摄入了大量受版权保护的材料,并未获得这些知识产权持有者的许可。

“控制用户和客户如何使用对闭源权重模型的 API 调用,让人觉得是一种束缚,而政府可以在这里发挥作用,使这样一个事实成为常态:凭借广泛公开数据训练出来的智能,其获取本身也应当更像一种公共产品,而不是被锁在限制性服务条款后面的东西,”当被问到为什么美国实验室也应该可以自由蒸馏时,他对 TechCrunch 这样说。

Tan 本人是如此狂热的 AI 用户,以至于他曾形容自己患有“赛博精神病”,他希望看到开放权重 AI 实验室与前沿实验室之间保持平衡。

“它们站在前沿,并推动它向前。我们希望这件事能够获得资金支持,并且持续是一个出色的商业模式,”他对 CNBC 说。“你也希望开放权重模型能给人们自由和可及性。”

在他看来,真正的 AI 末日论情景,是前沿 AI 的全部巨大力量最终落入某一家强大的闭源供应商手中。“AI 的噩梦情景、末日情景,就是只剩一家公司,”他说。“它拥有最好的资本渠道,拥有最好的 AI 研究人员。它一骑绝尘,突然之间就出现了一家铁板一块的公司。那将会很糟糕。”