返回 文章 学习 CMS 文章

Garry Tan 呼吁美国开放权重 AI 实验室也“蒸馏”前沿模型

Garry Tan 主张美国开放权重 AI 实验室应能合法蒸馏前沿模型,以对抗垄断并制衡中国开放权重选项。

AI蒸馏开放权重模型AI监管Garry Tan
成长分 / 100 62 综合收获、行动、留存与影响

Garry Tan 呼吁美国开放权重 AI 实验室也“蒸馏”前沿模型
为什么值得读了解硅谷知名创业加速器掌舵人对 AI 蒸馏监管争议的鲜明立场,与 Anthropic 等公司的呼吁形成对比。

理解“美国式蒸馏制度”这一提法背后的逻辑:开放权重模型作为公共产品与前沿实验室商业模式的平衡。

关键洞察
  1. Garry Tan 认为监管机构不应介入蒸馏,并主张建立“美国式的蒸馏制度”,让规模较小的美国开放权重 AI 实验室使用同类训练技术。
  2. 他明确不主张使用窃取凭证进行蒸馏,而是希望开放权重实验室能“从前门进入”,自由地从前沿模型获取知识。
  3. 他认为 AI 实验室规定客户如何使用其模型与共享信息是一种越权行为,并指出专有实验室在训练时大量摄入受版权保护材料也未征求许可。
转成行动

深入阅读

正文与原文对照

原文保真覆盖:全文原文字符:3519

当谈到中国人工智能实验室利用蒸馏技术从前沿模型开发者那里提取知识时,Y Combinator 首席执行官加里·谭希望监管机构不要介入。事实上,他认为美国人工智能实验室或许也应该玩同样的游戏。

“我什么都不会做,”他在本周早些时候接受 CNBC 采访时表示。“我们可以主张应该有一套美国式的蒸馏制度。”

他向 TechCrunch 进一步解释称,这意味着他希望规模较小的美国开放权重人工智能实验室对美国前沿人工智能实验室使用同类的训练技术,从而让美国拥有更强大的非中国开放权重选项。

蒸馏是指模型开发者通过大量提示另一个模型,以了解其工作原理和推理方式。人工智能实验室通常且正当地使用这一技术来帮助训练新模型。

Anthropic 本周发布了其第二份报告,指控中国实验室从事“非法蒸馏攻击”,隐藏身份在未经许可的情况下进行蒸馏,并依赖欺诈和窃取的凭证来实施。Anthropic 首席执行官达里奥·阿莫代此前曾公开呼吁美国监管机构打击蒸馏行为。

值得注意的是,硅谷这家享有盛誉且成果丰硕的创业加速器的掌舵人并不认同这一做法。

需要明确的是,谭并不主张美国人工智能实验室使用窃取的凭证进行蒸馏。他希望它们能够自由地从前门进入。事实上,他的论点有两方面。他认为,人工智能实验室规定客户可以如何使用其模型与客户共享的信息,是一种越权行为。

他还指出,专有人工智能实验室在尽可能多地吸收人类知识来训练其模型时,并没有征求许可。它们曾大量摄入受版权保护的材料,而未获得那些知识产权持有者的许可

“控制用户和客户对闭权重模型的 API 调用能做什么,让人感到受限,而政府可以在这方面发挥作用,使这样一个事实正常化:基于广泛公开可获取数据训练出来的智能,其访问本身也应该更像是一种公共产品,而不是被锁在限制性服务条款背后的东西,”当被问及为什么美国实验室也应该可以自由地进行蒸馏时,他这样告诉 TechCrunch。

谭本人是一位如此热衷的人工智能用户,以至于他曾形容自己有网络精神病,他希望在开放权重人工智能实验室和前沿实验室之间看到一种平衡。

“他们处于前沿并推动其向前发展。我们希望这能够获得资金支持,并持续成为一种伟大的商业模式,”他告诉 CNBC。“你希望开放权重模型能够给人们自由和访问权。”

在他看来,真正的AI末日情景是,前沿AI的所有巨大力量最终落入一个强大的专有提供商手中。“噩梦情景,AI的末日情景,就是只有一家公司,”他说。“它拥有最好的资本渠道。它拥有最好的AI研究人员。它一路领先,突然之间就出现了一家铁板一块的公司。那将会很糟糕。”