对于中国 AI 实验室利用蒸馏技术从前沿模型厂商那里提取知识一事,Y Combinator CEO Garry Tan 希望监管机构不要插手。事实上,他认为美国 AI 实验室或许也该玩同样的游戏。
“我什么都不会做,”他在本周早些时候接受 CNBC 采访时说。“我们可以主张建立一套美国的蒸馏机制。”
他向 TechCrunch 进一步解释说,这意味着他希望规模较小的美国开放权重 AI 实验室,对美国的前沿 AI 实验室使用同类训练技术,让美国拥有一批更强大、且并非来自中国的开放权重选项。
蒸馏是指模型开发者对另一个模型进行大量提示,以学习它的工作和推理方式。AI 实验室常常合法地用它来帮助训练新模型。
Anthropic 本周发布了第二份报告,指控中国实验室正在实施“非法蒸馏攻击”,隐藏身份、未经许可进行蒸馏,并依赖欺诈和被盗凭证来实现。Anthropic CEO Dario Amodei 此前曾公开呼吁美国监管机构严厉打击蒸馏行为。
值得注意的是,这家硅谷久负盛名、成果丰硕的创业加速器的掌门人并不同意这一立场。
需要说明的是,Tan 并不主张美国 AI 实验室使用被盗凭证来蒸馏。他希望它们能自由地从正门进入。事实上,他的论点有两层。他认为,AI 实验室对客户如何使用模型分享给他们的信息指手画脚,属于越权。
他还指出,闭源 AI 实验室在尽可能多地吸纳人类知识来训练模型时,也没有征求过任何人的许可。众所周知,它们吸收了大量受版权保护的材料,并未获得这些知识产权持有者的许可。
“控制用户和客户如何使用对闭源权重模型的 API 调用,让人觉得是一种限制,而政府在这方面可以发挥作用,让人们接受这样一个事实:通过广泛公开数据训练出来的智能,其获取本身也应当更像一种公共产品,而不是被锁在限制性服务条款背后的东西,”当 TechCrunch 问及为何美国实验室也应该可以自由蒸馏时,他这样回答。
Tan 本人是如此狂热的 AI 用户,以至于他曾形容自己患有“赛博精神病”。他希望看到开放权重 AI 实验室与前沿实验室之间保持平衡。
“它们站在前沿并推动着前沿前进。我们希望这能获得资金支持,并且持续是一个出色的商业模式,”他对 CNBC 说。“你也需要开放权重模型,来给人们自由和获取的渠道。”
在他看来,真正的 AI 末日论情景,是前沿 AI 的全部巨大力量最终落入某一家强大的专有提供商手中。“AI 的噩梦情景、末日情景,就是只剩一家公司,”他说。“它拥有最好的资本渠道,拥有最好的 AI 研究人员。它一路遥遥领先,突然之间就只剩下一家铁板一块的公司。那将是糟糕的。”
