Dario 写道，我们需要“为前沿设定节奏”，Sam 也同意了。人们可能会对我的回应感到惊讶：请便。
你们才是前沿。以任何合理的标准衡量——市场份额、收入增长、模型能力——你们两家在前沿智能上形成了双头垄断。你们还声称，由于递归式自我改进，领先优势正在扩大。
我在实验室里看不到你们所看到的东西。如果那些未发布的模型可怕到让你们认为应该放慢脚步，我支持你们做出负责任的决定。
但别再假装你们需要别人的许可。别再假装必须暂停反垄断法，好让你们组成卡特尔。别再假装你们需要一个取代产品责任的监管审批流程。别再假装 METR 是独立的，而它与 Anthropic 的投资者和员工纠缠不清。别再假装你们需要那些同样的评估者来监管甚至不在前沿的竞争对手。
最重要的是，别再假装放慢脚步的动机纯粹是利他的。如果你们的产品助长了一次真正具有破坏性的网络攻击，你们将面临巨大的产品责任风险。市场已经在惩罚那些行为不可预测或未经授权的模型。在 Hugging Face 事件之后，对 OpenAI 和 Anthropic 来说，用一些原始能力换取可靠性和可预测性，纯粹是明智的商业选择。你们想的话，可以称之为对齐。这也只是给客户他们想要的东西。
为前沿设定节奏，还能为一场比 Bernie Sanders 的“全部关停”更明智的监管对话创造喘息空间。如你们所知，中国极不可能加入一项全球协议，这一点也必须考虑在内。
所以，请便，为前沿设定节奏吧。是你们在设定它。不构建超级智能的最简单方法，就是你们同意不构建它。要求以你们偏好的监管框架作为这样做的代价，看起来会像是对公众和政治体系的勒索。所以，做就是了。
如果你们这样做，就能为下一次对话赢得善意。如果不做，我们就会知道，这不过是又一次寻求监管俘获的尝试——或者一场选举季的心理战。