▶ https://playlist.megaphone.fm?e=TCML6234289555
在 Apple Podcasts 收听 在 Spotify 收听
围绕 AI 安全和可能的放缓，眼下出现了一场大辩论：Anthropic CEO Dario Amodei 最近发布了一份“把握前沿节奏”（pace the frontier）的计划，而 Nvidia CEO 黄仁勋（Jensen Huang）则公开附和了总统唐纳德·特朗普（Donald Trump）的说法，称外界对 AI 的反弹是一场骗局，监管没有必要。
在最新一期 TechCrunch 的 Equity 播客中，Kirsten Korosec、Sean O’Kane 和我讨论了 Amodei、OpenAI CEO Sam Altman 等高管是否真的想要放慢脚步。
我很意外，竟有那么多行业领袖表态支持 Amodei 的计划，而 Sean 则指出，这份计划似乎缺乏细节。
当 Kristen 问到，现有监管加上自由市场的运作本身是否足以提供足够的保障时，Sean 回答说：“我们现在的联邦政府，显然不太热衷于全面执行监管，更不用说在这个具体问题上了。”
他还认为：“这个市场里似乎没有多少消费者选择在起推动作用，也就是说，如果其中一家公司做了什么很糟糕的事，它们并不会因此看到退订量之类的数字受到影响。”
以下是我们对话的节选，内容经过删节和润色。
Anthony：Sean，你怎么看？我们真的会“把握前沿节奏”吗？
Sean：不知为什么，这听起来像是《惊爆点》（Point Break）里的台词。这是一句很加州的话，就像“哥们，我们要把握前沿的节奏”。
我不知道。我上周在这档节目里说过，我不认为我们会迎来任何形式的放缓，很大程度上是因为我觉得这些公司的结构让放缓行不通。
所以，听到 Anthropic 的 Dario、OpenAI 的 Sam，甚至在某种程度上还有 Elon Musk 这样表态，几乎是把我一周前说的话立刻翻了个个——至于我们是否相信这些话，咱们可以接着聊。我要说，我觉得自己并没有完全说错，因为即便 Dario 在博客文章里列出了这些松散的计划，其他一些领导者也谈过类似想法，我仍觉得这里缺了很多具体内容，不仅是这些人为什么认为存在危险和风险的一些说法缺乏细节，他们所说的“放慢”究竟指什么，同样缺乏细节。
Anthony，我知道上周末这一切闹得沸沸扬扬时你看得很仔细，所以我很好奇，在理解他们到底想表达什么这件事上，你是不是比我更宽容一些。
Anthony：我也有疑问。真正让我印象深刻的是，业内这么多人似乎很快就围绕这件事形成了共识。甚至在 Amodei 发布博客文章之前的几天，我就看到其他人发布了这份[计划]的某个版本。
据我了解，这些建议来自 AI 安全社区，已经酝酿了一段时间，并不是[Amodei]一个人凭空想出来的。但看起来，很多人似乎早已准备好接受它，从某些方面看，[能]达成共识是令人鼓舞的。不过这也让我对它能否代表走向放缓的真正重大举措有些怀疑。
Kirsten：首先，共识可能是好事。但它也可能是卡特尔（cartel）形成的开端。所以我们要说清楚，我们在谈论的是谁。我们谈的是前沿 AI 实验室，这一点既具体又重要。
你刚才说细节并不清楚，但我们确实知道，大致的想法是引入独立的第三方评估机构，进入 Anthropic 或 OpenAI 这样的[公司]内部，监督 AI 安全实践和事故。不过这方面有很多模糊之处。
另一项提案是让民主国家的主要 AI 公司就安全标准和限制进行协调。然后还有国际协调这一环。这些就是围绕它的大致设想。
我还想补充一点，也有来自某些特定人物的相当强烈的反对，其中有些人让我很意外，我本以为他们不会反对。最明显的大概是 Nvidia 的 CEO 黄仁勋，他说了一些相当尖锐的话。我不知道你们两位怎么看[……]他的一些言论，以及他在台上接听总统特朗普电话[在 All-In 峰会上]这件事。
Sean：我认为黄仁勋明白，在一定程度上，他被视为这件事里的“成年人”。这很有意思，因为我觉得这种格局已经变了。如果你在一年前，也就是快两年前问人们，当这些 AI 公司开始大爆发的时候，谁在扮演这个角色，我想很多人会指向 Microsoft 和 Satya Nadella，而我觉得 Microsoft 已经——出于一些我们现在不必展开的原因——失去了“成年人”的地位。部分原因当然是 Nadella 曾说他要让 Google 跟着他的节奏起舞，结果这从未发生。事实上，在很多方面发生的恰恰相反。
我认为黄仁勋明白，他不仅需要让尽可能多的人满意，所以想说最稳妥的话，而且他还是这个领域与这届政府之间最有用的联络人之一，以至于他在这场高规格、参会人数众多的大会上站在台上时，竟接到了总统的电话，这让两人都得以回应这一团乱麻。
Kirsten：[关于]你说的他是“成年人”和联络人，他确实处在能做到这一点的位置上。但在我看来，[他的这次亮相]确实有点像事先安排好的，做得有点过头了，也恰恰凸显出这样一个事实：Nvidia 从 AI 不加节制地向前推进中获益极大。
我不想这么愤世嫉俗，但这就是我最初的反应。
Anthony：特朗普和黄仁勋的利益是一致的，而且[黄仁勋]也在对[特朗普]说他想听的话。
我确实觉得，他特别强调的一些内容值得稍微拆解一下。首先，他谈到了“我们不会放缓”这个想法。有意思的是，“放缓”这个词本身，已经被提了很多次——但同时，Altman 和 Amodei 虽然[也会]用“放缓”这个说法，他们更喜欢用的词是“节奏”（pace），对吧？
而这三项提案——就是 Kirsten 你刚才描述的那些——理论上可能导致速度放缓，但他们并没有明说。他们说的是：“嘿，我们要采取一些基本的安全措施，让一些人盯着我们。”但据我理解，这些措施本身都没有说明事情必须比现在走得更慢。
Kirsten：那我想问 Sean 一个问题。你难道不能说，在自由市场社会里，我们已经有了现行法规，而且在没有保护主义的竞争环境中，如果一家公司发布了不安全的东西，那它就无法再作为一家可行的公司存续下去？而且如今已有监管机构可以追究这些公司？还是你不认同这种想法？
Sean：在真空中，或者在一个没有被各种外部压力扭曲的市场里，是的，我认为有这方面的因素。但我们现在的联邦政府，显然不太热衷于全面执行监管，更不用说在这个具体问题上了。
而且我们还处在一种奇怪的局面里——我不太确定怎么表述才对，但似乎没有多少消费者选择在推动这个市场，也就是说，如果其中一家公司做了什么很糟糕的事，它们并不会因此看到退订量之类的数字受到影响。
尤其是现在，它们已经转向企业市场，而且越来越多的收入来自向企业出售服务，在这里用钞票投票自然更难。企业不会仅仅因为在原则上不认同 [OpenAI] 做的某件事，就从 [OpenAI 的] Codex 打包搬到 [Anthropic 的] Claude Code。
而且它们还有大量投资资金托底，即便真的遇到这类损失，也更容易消化。所以我觉得这在理论上是个不错的想法，但在实践中，这些情况并没有真正发生。