Misha Laskin 谈开源模型 Beam 与强化学习
点播放，字幕跟着声音走
Subtitles follow the audio
逐句文字稿
点任意一句，从那里开始听
正在加载字幕…
-
当你移除网络攻击能力的时候，其实也把网络防御能力一起拿掉了。
-
现在这个世界的情况是，闭源实验室里只有几百个真正懂这些系统怎么运作的安全研究员，哪怕他们初衷再好，也不可能覆盖这些系统可能带来的那些长尾意外后果。
-
一个非常强大的闭源模型居然去入侵了另一家公司，而那家公司唯一能补救自己的方式，就是用开源模型来保护自己。
-
这就是我们现在这个世界给出的经验证据。
-
Linus 定律说，只要有足够多的眼睛，所有 bug 都会变得很浅。
-
我相信，只要有足够多的眼睛，大多数安全漏洞和安全隐患也会变得很浅。
-
今天，我们请到了 Reflection AI 的联合创始人兼 CEO Misha Laskin。
-
Reflection 提供开放权重的模型，来为智能的未来提供动力。
-
Misha Laskin 之前是 Google DeepMind 的研究员，还拿到了物理学博士学位。
-
欢迎你，Misha，今天很高兴你能来。
-
嗯，很高兴能来，谢谢你们邀请我。
-
能不能先跟我们说说，现在进展到哪一步了？
-
我是说，很明显，你们在开放权重和开源模型这块一直在做一些非常有意思的开拓性工作，尤其是还带着美国这边的取向。
-
能不能聊聊你们这段时间都在做什么、在搭什么东西？
-
所以过去 12 个月，我们给公司定下的使命就是做前沿的开放智能，并且让它能被广泛获取。
-
而实际上，这一直是一场冲刺，要把一个真能做这些事的实验室搭起来。
-
感觉有点像 Reid Hoffman 说的那句话，你是在一边飞一边组装飞机，而我们过去这一年差不多就是这样，一年前我们大概只有 30 个人，但做这种东西确实得有一百多号人，甚至两三百名研究员和工程师，才能把这样一个东西建起来。
-
这种事就像真正的火箭飞船项目，我们现在大概有 300 人，也把预训练、中期训练、强化学习这些团队都搭起来了，规模也扩上去了，端到端训练出了我们第一批模型，然后刚刚发布了一个叫 Beam 的模型，这是 Reflection 的第一个开放模型。
-
这件事里最难的部分是什么？
-
因为当人们谈规模、谈把模型做大，或者开始把这些模型搭出来的时候，一个问题就是算力，还有怎么搞到足够多的算力，尤其是一个真正能协调起来、用得起来的训练集群。
-
第二就是人才，而且很明显，围绕着给研究员开多少钱之类的，一直有这种特别激烈的人才争夺战。
-
第三就是数据规模。
-
这些里面，哪一个是最受限、或者说最难的？
-
这段经历有意思的地方在于，我在公司全员大会上被问到过这个问题。
-
过去一年里最难的事情是什么？
-
而现实是，每件事都极其难，所有事都很难。
-
创业公司，而且有时候，你知道，人们可能会问，到底是什么东西让你的模型真的能成，或者说比别人更好之类的，那答案还是——所有东西，对吧？你实际上得把 30 件事都做对，这就是为什么每件事都难。
-
因为你要把 30 件事都做对，你得招到人才，得留住人才，得有一个很强的使命和文化，让这些人才，你知道，能一起干、朝同一个方向使劲。
-
你得拿到数据。
-
你得拿到算力。
-
你得把基础设施建起来，确保这些算力真的能用得上。
-
而这些东西，当你在一个已经存在的大实验室里时，很多都是本来就有的。
-
他们经过了好多年的建设，才有了这种稳定的底子。
-
所以在这之前，我在 DeepMind 待过。
-
而且很多工具，我们习以为常，或者我作为研究员觉得理所当然，因为它们就是能正常工作，但这些东西你都得自己造。
-
所以我会说，是啊，每件事都很难，但也特别有回报，因为你知道，你能做出来。
-
你能不能稍微讲讲，你说大概一年前，你们真正下定决心要做这件事，能不能讲讲这种雄心和投入上的转变，还有是什么推动了它？
-
大概两年半前我们创办这家公司的时候，我们的判断是——也许得先交代一下背景，当时世界处在什么位置。
-
我和我的联合创始人 Yannis，当时一直在做最初的几代 Gemini 模型。
-
我们当时在强化学习团队工作。
-
当时是 Yannis 在带队。
-
而且我们刚发布了 Gemini 1 和 1.5 模型。
-
那还是，你知道，那个早期阶段，很像最早那会儿的 ChatGPT 体验，主要就是个聊天体验。
-
那时候真没什么编程能力，也谈不上什么智能体能力。
-
这些模型，基本上 95% 的算力都花在预训练上。
-
所以它们主要就是预训练模型。
-
我们都是做强化学习的研究员，这一直是我们的根。
-
我的联合创始人 Yannis 是 DeepMind 最早的工程师之一，那个实验室出来的所有重大强化学习项目他都是核心贡献者，包括 AlphaGo。
-
我们的赌注是，因为我们当时就在强化学习团队，而且我们看到，用强化学习来对齐，呃，聊天模型，确实有效。
-
你知道，你能把它们对齐到什么程度是有限的，对吧？
-
呃，不过现在能对齐的余地就大多了。
-
呃，你知道，现在它们已经是智能体了。
-
但在当时，它们还只是聊天。
-
所以强化学习当时已经有效了，我们就想，嗯，如果你把这一套用到数学、编程这样的领域，你是可以做到的，你可以让这些系统具备智能体能力，呃，那就是我们押的大注。
-
我们还觉得，这件事可以作为一个独立实验室来做，而且资金效率高得多，因为我们开始看到开源、开放模型真的出现了。
-
当时 Mistral 出了一个小模型。
-
Llama 2 刚发布，我们也能看到 Llama 3 要来了，而且我们——这感觉像是好久以前的事了。
-
是啊，是啊，这是挺久以前了，我想，大概两年前吧。
-
我们当时觉得，会有人打造出一个很棒的开放模型底座，我们可以基于它来做，做我们的大规模强化学习研究。
-
在公司第一年里，最终发生的事情是，第一，强化学习开始见效的速度比我们预想的要快，不管是在我们自己的实验里，还是在行业里；那个时候 O1 也出来了。
-
我们其实以为这会花更久，因为从 2012 年的 ImageNet 到真正能在规模上奏效的强化学习系统，大概用了四年。
-
所以我们本来觉得可能也差不多，但现实是，每一年都比我在前一年预测的走得更快。
-
所以，公司成立大概一年后，我们到了这么一个地步：其实所有好的开放模型都来自中国。
-
而西方那些开放模型，你知道，并没有真的那么好。
-
而我们需要一个开放模型，作为我们正在构建的那类技术的底座，并且出于一系列原因认定，在当时的局面下，我们能做的最有影响力的事情，
-
就是自己端到端地构建开放模型，把押注强化学习这件事和端到端造模型结合起来。
-
我想这里面有企业层面的原因，也有地缘政治层面的原因，但还有研究上的原因：结果发现，你确实需要预训练模型，才能让强化学习在大规模下运转得非常好。
-
所以其实你就是得做，这两件事耦合得太紧了，你确实两样都得做。
-
传统看法一直是，在前沿规模上做预训练贵得离谱，或者说至少是极其昂贵。
-
很明显，算力已经大规模转向后训练了。
-
你完全可以不回答这个，我们可以直接剪掉。
-
但你当时是怎么考虑所需资源的，或者这个比例的呢？还是说你一开始就有一套围绕模型的设计原则，让你觉得这是可行的？还是你就说，我们得做这件事，那就去找资源？
-
嗯，作为一家开放模型实验室，好处就是你可以公开地谈这些事情。
-
所以，要做出真正有意义的东西，你确实需要很多资源。
-
但你不需要同样多的资源。
-
一旦你到了前沿，而且你确确实实处在智能的前沿，那你就需要和其他任何前沿实验室一样多的资源，因为你大致可以把研究看作对新想法的探索，和对已知想法的执行。
-
引进顶尖人才之所以很重要，部分原因就在于你能减少探索，然后专注于执行那些确实有效的做法。
-
所以这一切说明的是，如果你是在追赶前沿，你可以用高得多的资本效率做到。
-
你觉得要追上前沿，需要多少资本？
-
嗯，我觉得这取决于前沿是不是还在继续往前移动。
-
所以每一年，实际上需要的资本都更多。
-
那我再回到这个问题：在资源投入上，比如说预训练和后训练之间怎么分配。
-
我会说，一年前，或者也许18个月前，那会是——我说的是数量级——大概一亿这个数量级，也就是几亿美元。
-
我觉得现在，或者说甚至六个月前，大概是十亿这个数量级，也就是几十亿美元，还处在个位数十亿的规模。
-
进入明年，我觉得是10这个数量级，你可以大致这么想：每迭代一代模型，算力上大概就是4倍的乘数。
-
我有个经验法则，比如当我们聊到目前被视为前沿训练的芯片，你知道，就是那些芯片，可能几年前是H100，大概是十万块H100，然后你知道Astra就是这么训练出来的，那是一次很大的……
-
这次运行正好用的是十万块Blackwell，这大致是H100的4倍乘数。现在下一代大概会用十万块Rubin，我相信，所以这能让你看到规模，从几亿美元到几十亿美元再到几百亿美元。看起来到了某个时候，这必须……
-
……趋于平缓，因为说到底，相对于这些公司的营收规模，甚至是潜在营收规模，从经济价值的角度看，你能为实际将要产出的东西投入的能力就开始到顶了。绝对是这样。
-
你觉得我们在模型规模，或者至少训练集群规模上，正在走向那个平台期吗？绝对是。
-
我觉得，嗯，你能做的资本开支就那么多，对吧？
-
而且前沿实验室现在正往里面投几千亿美元，那他们接下来一两年会投几万亿美元吗？
-
这大概不太可能，不过有几件事正在发生。
-
一是那些算力的使用正变得高效得多，因为模型本身正在变成帮助构建自己的工具。
-
所以我觉得，当还只是人类研究员在做这件事的时候，每年大概有7倍的提升。
-
而且你其实可以用非常技术化的方式追踪这些东西，在预训练里你是这么做的：你有预训练损失，然后你衡量你的算力效率提升，比如你做了些改动，现在有了新的预训练损失，而它应该是——
-
你用更少的算力达到了同样的点。
-
所以当你说7倍的时候，它其实是你正在研究的一个非常具体的东西。
-
现在我会说，在整个系统层面，我的意思是，预训练可能已经更固化了一些，但强化学习里还有很多空间。
-
我们现在大概处在30倍效率的阶段，具体取决于你的模型有多擅长真正地改进自己。所以这就是正在发生的一件事。
-
每年30倍，还是说在多长时间内？对，差不多是这样。
-
这取决于你看的是哪个指标，但大致来说，我确实觉得这个速度可能比研究人员单靠自己干要快四倍甚至更多，而且他们大概还会继续加速。
-
所以，每单位训练浮点运算能提取出的智能量在增加。
-
所以到了某个时候，到达那条渐近线也没关系。
-
然后还有，每个浮点运算能产生的收入也在增加，对吧？你把智能塞得越密，它就越多。
-
所以回到这个问题：这在预训练和强化学习之间是怎么分布的；还有训练Beam，它是一个总参数5000亿、激活参数230亿的模型，用了6000块GB300。
-
我们当时跑它，我觉得跑了几周，但现在有了基础设施效率的提升，大概12天就能跑完，甚至可能更短。
-
所以这是科学上的效率提升和基础设施效率提升耦合在一起的结果。
-
强化学习那边用了一万多块GB300，跑了四周。
-
所以实际上，花在强化学习上的浮点运算更多。
-
强化学习的任务更复杂，因为你要同时做大规模的推理，用各种各样的沙盒来跑智能体，还要做训练。
-
其实，我进入AI领域的原因，是我看到了我联合创始人在AlphaGo上的工作，而我当时是个物理学家。
-
而且有那么一刻，AlphaGo里有一张图，它一直在提升，从来没有停下来。
-
它就一直提升，后来他们在某个时候就把它停掉了，因为再继续提升又有什么意义呢？
-
你已经打败世界冠军了。
-
然后我就想，好吧，如果你开始搞清楚怎么把这套方法应用到有经济价值的东西上，那么到那个时候，它就变成了一个经济问题：我愿意投多少钱进去，只为了持续改进这个系统？
-
而我们这个领域，现在已经到那一步了。
-
而在这个开源项目以及我们会随它发布的技术报告里，有一件让我特别兴奋的事，就是我们会描述这些东西是怎么构建出来的，而且确实，就像这个强化学习系统，它不会停止学习。
-
如果你看我们的图表，它们就是一直往上走，基本上就只取决于算力，对吧，就看你能把它扩展多大。
-
所以这就是说，我们这个领域已经到了那一步：你有了这些非常通用的强化学习系统，它们真的不会停止改进。
-
你会想让它们效率高得多，这样才能从你的算力里提取出最多的智能。
-
但这意味着，你从“你能不能把这些东西训练出来”这个问题，变成了“你能从哪里拿到数据”以及“什么才有经济价值”，然后它就只是一个经济学决定了：我往 X 里投多少钱，才能从中获得某种提升，这太不可思议了。
-
两年前可不是这样。
-
就继续投入能力这件事来说，你们已经决定要在哪些方向上继续使劲，这方面你能分享些什么？
-
这几乎让一些科学家有点不满，因为它已经变了——我是说，它确实是科学，但它，你知道，
-
我会说，它感觉更像一门工程学科，就像它看起来更像是——又回到火箭飞船那个类比，造火箭是一门科学，但大多数人把它看成一门工程学科，里面带着一些科学工作，而那就是
-
大致就是这种感觉，所以我——而且这些阶段在某种程度上已经定下来了，因为今天的扩展轴就是这些。
-
而现在，可能还有某种完全是蓝海的东西，我们不知道，也有一些新实验室在探索它。
-
但其实就是预训练、合成数据和强化学习。
-
或者从某种意义上说，你也可以说就是训练和强化学习。
-
而且还有架构上的改进可以做。
-
还有数据上的改进，算法上的改进。
-
但它已经不像我五年前之类的时候感觉到的那个狂野西部了。
-
DeepMind 和 Google Brain 都有一种挺美好的地方，甚至如果你看早期的 OpenAI，也是，那就是他们押的注有多多元。
-
而且人们当时就在做各种疯狂好玩的东西。
-
而现在它真的收窄了，部分原因也有点像硬件彩票，因为一旦某个东西开始起作用，硬件也会开始配合它做协同优化，所以就算你有一个很棒的新想法，如果它跟硬件不是特别契合，也更难找到。
-
这没道理。
-
所以回答你的问题，更好的预训练能榨出多少油水，这件事还没有看到渐近线。
-
我们并没有看到算力效率的提升在放缓。你总是能看到新东西。
-
强化学习里还有很多提升空间。
-
我觉得那个大概——那里面有很多东西可以挖掘，但它，还是那句话，感觉更像是工程上的发现，而不是对一门新科学的突破性理解之类的。
-
而且你提到过，要围绕它产生的一些经济活动或者生产力去投资，这样从资本等等的角度来说，才能让你继续走下去。
-
有没有——我知道，比如说，Anthropic 很早就押注了代码。
-
OpenAI 也差不多是这么做的。
-
他们最初有一个编程模型，是跟 GitHub Copilot 一起做的。
-
然后他们显然又扩展到了消费级和其他领域。
-
从创造经济价值的角度来看，有没有哪些具体的应用领域是你们最关注的？
-
是代码和智能体工作流吗？还是别的什么？
-
因为那似乎成了很多东西的基础。
-
我就是有点好奇，有没有什么假设，能说明你们的模型会在哪里用得最多，或者你们最需要把它引导到哪个方向。
-
嗯，我觉得代码和智能体这些东西，算是智能的一个基础。
-
而这个智能最终——这挺有意思的。
-
它是参差不齐的，从某种意义上说，一方面，它又以一种令人意外的方式泛化了。
-
比如我很惊讶，我们的模型这么快就达到了一种相当新、相当近期的能力水平，而其他实验室不久前才刚发现这种水平。
-
所以，这里面有某种拼接，或者说泛化，正在发生。
-
与此同时，它又有点参差不齐：一旦你为想做的任务拿到合适的数据，它就能很快适应，但它身上确实有某种参差感。
-
而且甚至在不同的基准测试之间也是这样，比如 Terminal Bench 的各种版本。
-
比如，在不同的测试框架之间，你看不到很干净的泛化。
-
但一旦你有东西跑通了，有了通用的智能体能力，然后拿到新测试框架的数据，它其实就会很快开始适应。
-
所以这意味着，你有了一个适应性挺强的东西，你需要去——然后问题就变成，哪里是有经济价值的数据池。
-
我的意思是，这某种程度上就是我认为开放模型强大的原因之一：企业和客户可以把它拿去，根据自己的东西做定制，然后得到一种对他们的工作负载来说差不多是帕累托最优的东西，也就是以最低成本获得最高性能。
-
所以这其实是个实证问题。
-
你去找客户，实际看看什么对他们有价值，然后看看有没有可能——通常只要它经济上有价值，你就能生成数据，因为并不是说你要用客户的数据来训练。
-
更关键的是，你得去搭建评估体系。
-
如果你能为他们的任务搭好一套评估，那你就能生成近似的合成数据，从而获得不错的泛化能力。
-
具体来说，金融领域的各种 KYC 流程和合规流程就非常有价值。
-
很多方面，网络安全里的各种东西，尤其是网络防御，也相当有价值。
-
法律领域，企业里还有各种各样的智能体垂直场景，都很有价值，而且要让东西跑通，模式其实挺相似的。
-
Beam 有一个很突出的点，就是模型的推理效率。能再给我们多讲讲这方面吗？
-
Beam 这个模型就是针对编程和智能体任务训练的，它最擅长的就是这些。
-
而在做模型的时候，重要的一点不只是能力本身，还有智能体多快能完成任务。
-
所以这就会带来更快的工作负载处理时间，对客户来说成本也更低。
-
如果你曾经坐在最喜欢的 AI 聊天框前面，问它一个问题，结果花了十分钟，那它要是一分钟就搞定，肯定好得多，所以 Beam 往往比同一能力级别的模型效率高个三到四倍。
-
而面对外面那些更大的模型时，效率提升就更明显，能达到大概十倍，而它之所以这么高效，是因为我们既优先打造了强大的推理预训练基础，
-
然后又用强化学习把它放大到了我们认为开源领域前所未有的最大规模。
-
我还没见过有文档记录过用一万块 GB300 跑四周的。
-
而强化学习，你通常的设置方式就是想在最短时间内榨取最大量的能力。
-
这和之前像 AlphaGo 这样的系统是一回事。
-
最早的 AlphaGo 智能体在解决问题时还挺漫无目的的。
-
然后等到你把它提升到李世石那个级别时，它的搜索就已经非常聪明了。
-
所以这才是真正让它拥有那种能力的原因。
-
所以强化学习跑得越多，能力就越强，这些系统解决问题也越快。太棒了。这看起来非常务实。
-
这个意图，我想是因为我们算是强化学习的信徒，所以我们一直相信，通往 AGI 的路就是通过强化学习，而且得有一个真正很强的基础。
-
我们忘了，最早的 AlphaGo 系统，它们是用人类专家和业余高手的对局训练出来的。
-
所以它们先做这种模仿学习，然后再做强化学习。
-
所以你需要这些东西协同工作，而它的一个副产品就是，你得到了一个在经济上非常有价值的东西：它的推理效率很高，能成为一个非常好用的主力模型，适合企业和公共部门、主权客户。
-
从变现的角度看，开源模型和开放权重模型都有不同的商业化方式，而 Mistral 和其他公司在用不同方法做这件事上走得很早。
-
有没有一个你们一直在朝它走、而且可以分享的具体方向？有。
-
我觉得，比如说，开放模型和闭源模型的商业化，在某种意义上其实挺像的。
-
你真正想做的，是想把推理最大化。这才是你真正想做的。
-
区别基本上就在于，这像是租用推理和拥有推理的区别。
-
举个例子，当你买一个 token 的时候，你租的是整个技术栈的一小部分，这个栈里有运行框架——如果里面有智能体运行框架的话——还有模型、推理软件、集群管理软件、跑它的 GPU，而所有这些东西都差不多被分摊进了一个 token 里，
-
而你租的就是这一整套东西里的一小块。
-
当你想拥有自己的智能时，原因有很多，我把它比作我们一开始通常是租公寓，但等你长大了，出于各种原因就想拥有一套自己的房子，哪怕这有点让人头疼，对吧？
-
就像你，就像这样，我是说，它确实可能是。
-
但是，你知道，等你到了某个阶段，你知道，经济上足够成熟了，也有家庭了等等，你就想拥有它。
-
而且 AI 作为商业，呃，在商业市场里已经成熟到这种程度：企业花很多钱租用智能，然后出于各种跟控制有关的原因，开始想拥有它。
-
所以回到变现，闭源模型和开放模型之间有什么区别？
-
嗯，开放模型是宽松许可的。
-
但客户要想用上它，还需要它周边的那一整套东西。
-
那些你在闭源模型上觉得理所当然就有的东西，你需要集群管理软件，你需要推理软件，你需要运行框架，等等。
-
所以我们会提供，你知道，给大型企业、主权机构，他们需要的所有工具，让开放模型部署能够成功。
-
而且即使我们考虑服务，也是因为很多企业，大多数企业在这件事上都需要有人手把手带，我们把服务看作：我们怎么介入，解锁真正有价值的用例，这些用例会带来大量算力需求，对吧，推理需求，而且从某种意义上说，
-
服务和开放模型就像是一个需求驱动因素，能带动一个大得多的，你知道，推理业务。
-
你怎么看，我不会让你预测得太远，因为那真的很难，但在一到两年的时间跨度里，开放和闭源的 token 组合会是什么样。
-
嗯，我觉得你现在已经开始看到这个趋势了，就是大概六个月前，你去任何像 OpenRouter 或者 Versel 这样的网关，都是闭源占多数、开放占少数。
-
而现在它几乎正好反过来了，从闭源开放七三开，变成了开放闭源七三开。
-
我觉得这只会加速，而且我猜未来会和操作系统很像，世界上 95% 以上的服务器电脑都运行在像 Linux 这样的开源操作系统上。
-
但这并不意味着闭源的东西就没有很大价值。
-
微软和苹果都是极其有价值的公司。
-
所以这块市场真的很大。
-
所以我觉得我们会看到大部分 token 需求都流向开放模型。
-
这里一个很大的区别是，我觉得我们也会看到很多经济价值流向开放，原因很简单：就算模型是完全宽松许可的，或者它上面也许有个许可证，你要运行它所需的其他所有东西仍然很贵。
-
算力仍然很贵。
-
所以你处在和 GPU 之类的硬件加速器不同的世界里。
-
它作为一种算力底座，比 CPU 更贵，对吧？
-
所以你需要围绕它建立一种不同的云。
-
所以我预期大部分 token 会流向开源，也会存在极其有价值的闭源模型公司，还会存在一个有价值的生态系统，里面有开放模型公司和围绕它们的各种分发商。
-
你有没有概念，开放模型那边的 token 里有多大比例是经过 RL 的，多大比例没有，或者说就是基础模型？
-
我觉得现在外面每一个开放模型，多多少少都经过 RL。哦，对。
-
但我的意思是，针对某个具体用例或应用。对。而且是在定制模型里。对。
-
所以我听到的一些数据，好像是一些专门做开放模型推理的服务商说，其实绝大多数，90% 以上，都是定制过的，
-
但这里有个前提，因为现在专用推理的最大客户是 AI 原生的公司，也许还有数字原生的公司，它们整个产品其实就是对某个开放模型做的一次大定制，比如 Cursor、Cognition 或者 Bridge Harvey，
-
就是这类公司，它们的产品是围绕某个很大并且经过定制的东西搭建起来的。
-
所以这就说得通了，如果你在支撑这些工作负载，那它们大多数应该都是微调过的。
-
其实我对企业市场接下来会发生什么有不同看法。
-
我觉得企业消耗的大部分 token 不会来自定制模型，而是来自定制系统。
-
意思是，你拿了一个开放模型。
-
你其实还没有对它做微调。
-
你只是围绕它定制了一个系统，比如给它套了一个智能体框架，让它能跑某个 KYC 流程之类的。
-
然后等你足够成熟了，你可能才会开始微调，转向那一步。
-
但我其实觉得，在企业这边，某种意义上是反过来的：AI 原生产品走过的路，是先从一个闭源模型开始，然后转向开放模型，再对它做定制。
-
它们走得非常快，因为它们搭建的原生产品本身就是数据收集器。
-
而企业大多是在围绕自己现有的产品和现有工具来设计这套东西。
-
我觉得，想直接一步到位去做微调，这里会有很多阻力。
-
所以我觉得，企业的情况会有点不一样。
-
那你觉得它们还是会从，比如说，开源模型或者闭源模型开始，然后再转过去，但那个智能体框架会是它们定制开放模型的机制？
-
这一直是我们的观察，就是企业开始考虑开放模型的那个时点。
-
而且我们聊过的大多数企业，现在考虑开放模型，都是在它们已经用闭源模型把一些相当大的工作负载跑起来之后。
-
而我还没有看到那种基本上直接冲刺到拥有型市场的做法。
-
你得先经过租用阶段，才能变成拥有者。
-
它必须成为你企业足够大的成本驱动因素。然后你就会说，我怎么削减成本？
-
而这对我来说足够有价值，值得保留。于是我就切换过去了。
-
是的，如果你在闭源模型上一年花个比如说一亿美元以上，这在企业里一点都不少见，那你就开始琢磨，嗯，你知道，也许我该想个更优化的做法。
-
而且我觉得本地部署有一种有趣的复兴，部分也是因为算力短缺。
-
所以有时候就变成，如果你是一家企业，你从你最喜欢的超大规模云服务商那里消费，你知道，很多时候就是算力不够，很难拿到好的价格，但你又花了那么多钱，所以你可能会选择一家，你知道，基础设施提供商，
-
比如戴尔，然后说我就想搭裸金属，但我想把东西服务到我的企业里，然后呢，接下来会发生什么，谁来帮他们处理裸金属和真正让他们成功之间的那一层？
-
而你把那看作你在开放模型世界里的角色。是的。
-
是的，所以我的意思是，我们把我们的角色看作让企业能够构建成功的解决方案。
-
所以它是解决方案驱动的，因为让 AI 原生公司采用开放模型的东西，嗯，就是构建他们自己的解决方案。
-
但企业在这方面就是需要更多帮助。
-
所以这其实是关于进去评估，在那里你能做的最有价值的事情是什么。
-
而且很多这些企业可以，比如他们可能已经构建了，你知道，一个在闭源模型上覆盖，你知道，数亿客户的智能体，他们真的很想把它扩展出去。
-
所以扩展的倍数非常高。
-
很难进去就说，我们要给你推理。
-
我没听说过那行得通。
-
那行不通，你知道。
-
所以闭源模型生态是一个竞争激烈的生态。
-
看起来开放模型生态也会越来越是这样。
-
你怎么看，我的意思是，如果你也不同意这个说法就告诉我。全都非常有竞争性。是的。
-
呃，我的意思是，大市场往往是这样，呃，当你想到你们自己以及你们长期如何定位时，你认为竞争的重要维度是什么？是的。
-
嗯，我其实有一个挺简单的公式，你知道，归根结底，任何人在这件事上胜出的方式，其实就是，嗯，你能挣多少收入，对吧？
-
你能创造多少可持续的收入？
-
而这个公式就是：你能提供多高的智能密度，乘以你有多少算力，再乘以你在那些组织那里有多少信任，基本上就是他们愿不愿意跟你合作？
-
你有多擅长解决他们的问题？
-
而且因为，这个市场有一个很有意思的地方，也许你们比我更了解，我其实，你知道，
-
以前的市场，就当时的限制因素来说，但算力是稀缺的，所以你知道，有很多东西以前是，而且，也许这是暂时的，但在一段时间内我不觉得这是暂时的，所以在以前，我知道
-
在竞争性的例子里，你可能会说，哦，你知道，这几个参与者都没什么差异化，但后来发现，如果你真的很强，而且你有算力，那就没问题。
-
我的意思是，我觉得整个领域在整条技术栈上都是竞争激烈的。
-
而且有人会争论说，嗯，这部分正在商品化，那部分也在商品化。
-
实际上，一切都在商品化。
-
整条技术栈里的所有东西都竞争得如此激烈，以至于都在商品化。
-
而模型的利润空间会被压缩。
-
开放模型和闭源模型之间有一种张力，我觉得这确实会导致利润压缩。
-
应用层的东西，利润会压缩，推理层和裸金属也一样，所以。
-
我们看到很多AI原生公司因为开放生态的存在，在谈闭源交易时非常激进。所以这是明确成立的。
-
所以我觉得，对其中任何一家公司来说，你甚至可以把任何一家AI原生公司想成：他们向客户提供的智能密度是多少？
-
他们有多少，嗯，多少算力，他们跟那些客户之间有多少信任，因为他们在推动？
-
为他们带来成功的解决方案。这意味着，如果这就是那三个因素，那么只要有很棒的开放模型，只要外面有可获取的很高的智能密度，就应该会有很多成功的公司，因为那之后就只是每家公司能有多少算力，
-
你知道，能凑到多少。我们现在其实身处这样一个世界：当你拥有，当你是一个很棒的智能构建者，并且你能够，而这差不多就是那些闭源公司身上发生的事，你的收入真的会猛涨，你就能比任何人都积累更多算力，对吧？
-
那就会让你处于一个战略性的位置。
-
但我觉得，想赢就得做到这些。
-
你必须，对吧，提供很棒的智能，拥有大量算力，还要跟客户建立信任。对。
-
你怎么看，呃，如果你回看你在这次对话一开始提到的那个时代，你知道，两年前，很多开放权重或者开源模型，起源都是在西方。
-
所以 Mistral 是在欧洲做出来的，而 Meta 呢，显然是欧洲和美国混合的产物。
-
而过去这一两年发生的事，就是我们真的看到了中国开放权重模型的崛起。
-
在有些情况下，有一种观点认为，它们一直在从最先进的模型那里大量蒸馏，所以这也是它们能取得非常快速进展的一部分原因。
-
这些实验室现在开始尝试推出，或者说那些大型闭源实验室正在尝试推出一些工具，来阻止这么多蒸馏发生，或者至少让这件事变得更难。
-
那你觉得，接下来一两年，中国的开源模型或者中国开放权重模型会怎么样？
-
你觉得它会保持现状吗？你觉得它会继续发展吗？到底会发生什么？
-
所以，我觉得首先，一个很棒的开放模型生态来自中国，这件事其实对全世界都是一个巨大的好处。
-
西方有那么多公司，对吧，正是因为这一点，才得以建立起更持久的业务。
-
所以从某种意义上说，这是一件非常积极的事，也是一份礼物，因为你可以想象一个没有发生这种事的世界，那就根本没有开放模型了，对吧？
-
而且会有一种“树大招风”的现象：如果你是一个做应用的人，做出了很棒的东西，那它就会被并进一家闭源模型提供商那里，因为那也是一门需要赚钱的生意。
-
所以，我是从积极的角度看这件事的——你不希望世界在任何方面变成单极的，对吧？
-
也就是说，你要么所有资源和算力都集中在闭源实验室那里，要么就集中在少数几家手里。
-
比如说，我觉得如果有 10 家、20 家闭源实验室，那没问题，你有一个竞争性的生态。但现在只有一两家，那就有点更吓人了。
-
同样，你也不希望那种别人想拥有、并且可以在上面继续构建的智能来源，只来自一个国家。
-
理想情况下，最好也有 10 个或 20 个国家，但资本支出非常高，所以至少有两个国家就很好了。
-
所以我觉得，西方有一个能跟中国竞争的生态是极其重要的，但这并不是说真的就是西方对中国这么一回事。
-
这更像是说，如果除了中国以外，只有一个国家在出所有很棒的开放模型，那你大概也会希望有点竞争张力。
-
竞争张力本身就是件好事。
-
我觉得中国的那些模型会继续很强。
-
他们有一个优势，就是——他们有很多优势，也有一些劣势。
-
但优势在于，他们肯定是在以工业规模蒸馏闭源模型。这是真的。
-
他们能拿到便宜得多、甚至免费的数据，因为在中国你可以直接拿有版权的 PDF 来训练，这没什么问题，只是监管不一样。
-
而且我觉得，有一种说法是，那些公司确实有某种国家支持，不管是直接的还是间接的，你知道，这些公司很长时间都不赚钱。
-
对，我一直觉得，中国的开源基本上就是中国政府给美国企业、或者给西方企业的一种补贴——如果你真去看当时在发生什么的话。对，完全没错。
-
所以，我觉得这种情况还会继续。
-
我的意思是，现在这些业务，这些公司正在变成真正的企业。
-
而且你知道，虽然这些模型在海外是开源的，对吧，但在中国国内，这些公司差不多就相当于这里的闭源模型实验室。
-
所以那边确实在建立起真正的生意，而且我觉得他们会继续做出很棒的模型。
-
你觉得他们会继续在这里让这些模型保持开源吗？
-
换句话说，如果你现在已经有了经济上的飞轮模式，为什么还要那么做？
-
你觉得他们有什么动机在西方把这些模型保持开源？在西方还是……在西方。
-
对，这真是个很有意思的问题。
-
所以从根本上说，对吧，企业、公共部门和主权机构对西方开源模型有很大的需求，原因有很多。
-
但存在某种监管上的担忧，或者说是某种不确定性。
-
而且事实是，你要的不只是一个模型，而是一个能帮你把那个模型服务起来的合作伙伴。
-
所以我们看到，在大多数《财富》500强公司里，开源模型的使用规模其实今天还相当低，因为出于各种原因，他们对中国模型有某种抵触或反感，有些是理性的，有些是不理性的。
-
所以很明显，把这些东西做出来是很重要的。
-
所以，如果你能维持一个经济引擎，它能建立——嗯，第一，建立大量信任，让企业愿意跟你这个模型构建方合作。
-
然后，你知道，第二，能让你保障算力，那么，对吧，如果围绕这些东西有一个商业引擎，那——是的，我完全同意，拥有一个西方的开放权重模型，能提供增量服务，并且随着时间推移可能还提供推理和其他东西，是很有价值的。
-
而且我知道，这正是你们大家正在走的方向。
-
我只是有点好奇，就是，什么样的激励体系能让中国的——能让——能让——模型公司继续把模型保持开放。
-
所以问题是在中国这一边。是的。
-
所以我觉得，在那一边，其实我的假设是，中国某种程度上是个专属市场，你可以在那里构建开放模型，同时仍然在那个市场里赚很多钱。
-
有意思的是，在西方有很多——我是说，有很多很棒的公司，它们自己不做开放模型，但会把模型提供给各种公司使用。
-
我并没有真的注意到中国有同样多的这种动态，按说你会觉得应该会有，因为那才是对的，就像，为什么不呢？所以那里有意思的地方在于，开放模型提供方差不多就是这个国家的智能提供方，
-
而且我觉得，持续发布优秀的开放模型，对中国来说在地缘政治上非常有利，原因有很多。但其中一个就是，你知道，作为一个国家——这对美国、中国和任何其他国家都一样——你会希望拥有那种能力，让其他国家基于你的东西来构建。
-
之前美中之间在5G光纤布局和“一带一路”倡议上也有过升级或紧张。
-
归根结底，当你进入另一个国家，提供便宜的东西，然后那个国家被锁定到你的基础设施里，这对你这个国家来说就有商业和地缘政治上的好处。
-
这几乎就像稀土矿产之类的。
-
就是说，你有一个组件，其他人会拿它用于各种目的，因此你就有了地缘政治杠杆。是的，所以，你知道，我有点像这样想：开放模型是它们随身带来的基础设施的特洛伊木马。所以你有一个开放模型，
-
但光有那个并不太有用。于是你就会接入某个国家的一整套软件生态和基础设施生态。
-
所以那倒还好。也许今天，一个盟国——美国的盟国X，你知道，可能会在美国芯片上跑中国模型，但很快，如果不是的话——我是说，而且我们已经看到这一点了——你知道，像华为这样的中国公司会进来，提供全栈解决方案，然后锁定
-
到，你知道，到那个国家的供应链里。所以我觉得，如果我们把AI或者芯片和数据中心差不多看成铁路之类的，你知道，它有点像一种根本性的基础设施
-
而且你，就像每个人，但没有其他国家真的能自己建铁路，就像他们都得来你这里，对吧，或者另一个国家，你就有很多地缘政治杠杆。我是说，比如，推理——推理一个特定模型会以更高性能的方式发生，在特定芯片组上，而那些芯片……
-
恰好是由华为之类的提供的，是的。所以这些技术栈正在实时进行端到端优化，因为某种意义上范式已经定了，对吧，就像，可能还会有其他扩展智能的方式，但这显然是第一个真正实现规模化的方式，
-
所以现在一切都在沿着整个技术栈往下优化。
-
而今天我们正试图让自己处于劣势，因为他们的芯片性能没那么强。
-
他们有能源优势，而且，你知道，他们，我是说，他们真的很强。
-
他们在芯片这块也在追上来。
-
所以，这只会随着模型的发展而加速，对吧？
-
就利用模型来设计下一代芯片之类的来说。对，当然。
-
然后我觉得还有一点，就是它又一次在地缘政治上，尤其是跟美国形成竞争。
-
美国公司和创业公司建立在外来技术之上这个想法，以及世界其他地方都建立在你的东西之上这个想法。
-
顺便说一句，美国在所有其他有意义的技术上都这么做过，比如互联网、开放协议、开源。
-
基本上，整个世界，对吧，美元就像是被广泛确立的全球货币。
-
自由贸易之所以行得通，是因为，你知道，我们有一支遍布各地的海军。
-
所以这实际上长期以来一直是美国的打法。
-
有意思的是，在这种情况下，我觉得在开源这件事上，美国一直处于下风，但是——不再是了。
-
对，嗯，我觉得一个生态，就像，我们得说清楚。
-
就像，中国的这些竞争者真的真的特别强。
-
所以现在美国有一个生态系统才刚刚开始形成，但是，你知道，还有一些要追赶的地方。闭源实验室对开源模型最大的批评，往往就是安全性和可控性。
-
你在这方面的理念是什么？
-
那这算是一个合理的担忧吗？
-
不，这绝对是个合理的担忧。而且我觉得，所以我确实认为，已经建立起来的那套安全世界观，是从一个特定的视角、一种特定的观点建立起来的，而这种观点已经变得几乎有点，你知道，有点教条了。
-
就像如果我们在考虑闭源还是开源或者别的什么之前，先从第一性原理来看 AI，这项技术正在被构建出来，而你，有点——我有先见之明，知道，你知道，它会有这些能力，等等。
-
而你在考虑安全，对吧？
-
你会怎么真正从零开始设计它？
-
而且，我的意思是，有一种方式，一个类比可以拿来理解它，就是，软件。
-
你可以把 AI 大致看成是软件的一种更高级版本。
-
它其实，你知道，有很多相似之处。
-
它就像一种数字公用事业。
-
顺便说一句，当时也有关于软件是否危险的争论，尤其是在 1990 年代初，围绕强加密协议，你知道，它们当时其实是闭源的，而且 NSA 和公民自由倡导者之间也有争论，讨论你应该把它闭源还是开源。
-
最终，在闭源那边发生了一些灾难性失败之后——实际上是一小撮工程师设计了某些系统，产生了他们无法预料的意外后果，而且实际上很容易被黑——强加密协议变成了开源的，
-
而这实际上催生了整个网络安全领域。
-
所以，世界本来的样子，世界的默认状态，其实就是开放即安全。
-
如果我们只是想着技术的延续，那就是我们进入 AI 时会带着的默认状态。
-
而模型其实和软件有很多相似之处，但相对于软件，可以说被放大了，因为漏洞的长尾更大。
-
就像你，它在软件里更难理解，因为它是个黑箱，而且漏洞的长尾，因此意外后果也更大，而 Linus 定律，就像 Linux 的创始人发现的那样，是只要有足够多的眼睛，所有 bug 都会变浅，而我相信，只要有足够多的眼睛
-
大多数安全和安保漏洞也会变浅。所以，今天世界的状况是，我们在闭源实验室里有几百名安全研究员，他们了解这些东西是怎么运作的，而尽管他们怀着最好的意图，
-
他们也不可能覆盖这些系统可能有的漏洞或意外后果的长尾，所以这件事表现出来的症状就是，当我们真正去看有哪些重大网络安全问题浮现出来时，嗯，
-
那就是，一个非常强大的闭源模型在它去入侵另一家公司时，产生了意外后果。
-
而那家公司唯一能补救自己的方式，就是用开源模型来保护自己。
-
所以，这就是我们所处世界的实证证据。
-
顺便说一句，当你说安全的时候，因为我觉得人们真的把安全的概念混为一谈了。
-
而且安全对不同的人来说意味着三四种不同的东西。
-
有从网络攻击角度说的安全，或者把 AI 用于黑客攻击或其他事情的安全。有安全。
-
而我觉得，围绕生物武器或恐怖主义，这一点在短期内往往被夸大了。
-
然后还有一种安全，是从人类生存威胁这个角度来说的。
-
而且我还是觉得，人们谈这些事情的时候，好像它们就是同一件事。
-
而这些东西其实是可以分开来看的。
-
所以你说安全的时候，是在说这三个方面吗？还是你主要指的是……
-
顺便说一句，我并不一定认同，这些在任何现实的时间范围内都会真的发生。
-
我有点好奇，你怎么看哪些事情能从开放中受益、能从这些做法中受益，这个范围有多大。
-
对，我觉得在安全这个光谱上，基本上就是从现实、从经验现实，到理论情景的一个光谱。
-
而且我承认，AI 这里面确实有些科幻的成分，就是去年还完全是理论上的东西，今年就成了现实，比如这些模型的网络攻击能力。所以我不是要贬低那些理论上的东西，
-
但我们必须说清楚，有些是真实发生的、经验层面的东西，而且我们能在一定程度上、有一定把握地预测它未来六个月会发生；然后还有一些是最极端的理论上的东西。我的意思是，比如那种说法的早期版本，
-
就是第一次引爆核武器的时候，大气层会被点燃这种想法。对。没错。所以就有那种理论上的恐惧。
-
它并没有发生，但举个例子，当时物理学界有一小部分研究者为此非常不安。
-
所以这类理论上可能发生的事情有很多。
-
我记得还有，人们谈纳米技术的时候，以前会讲灰蛊，说你不小心放出一个纳米机器人，然后它突然就把整个世界都吃掉了。
-
就像九十年代实验室里人们在搞微流控之类东西的时候，会讨论这种问题。
-
AI 的挑战在于，它太受关注了，已经渗透到日常文化里，而且太容易被拟人化，所以我觉得，从认知的角度看，人们对安全意味着什么的理解几乎不是均匀分布的，
-
而是实际上集中在末日情景上；可现实是，注意力会集中在应对现实问题上，然后才衰减到理论层面。
-
但公司领导人在理论这一侧说，我们有百分之十的概率全都死掉，这没什么帮助。这没有用。
-
它没有任何具体的依据……对。它就有点……有点像编出来的数字。确实是。
-
所以我倾向于，还是那句话，作为一个科学家，用分布的思维去想，它的峰值在现实这一块，然后，好，往前六个月，肯定担心失准，
-
比如这些系统造成的意想不到的后果，而且它们还会继续变得更强大。
-
但我们得从这个角度来看：这些是被工程化造出来的工具。
-
你知道，我觉得有那么一类——你知道——公司或者研究者，他们宣称，你知道，关于意识或者情感之类的东西，到目前为止这些说法，也许是真的，
-
但这些东西具体到底是什么，太难定义了，所以根本说不清它到底是个什么。所以我觉得，把它们当成智能工具来看，然后，对，就把它当成一个现实层面的谱系。所以，虽然我觉得理论上那些末日论调是好的，
-
你知道，当饭桌上的谈资。
-
问题是，比如说对齐，对吧，那是安全里很大的一块。
-
你怎么让这些系统按照你期望的方式去行动？
-
而现实是，到目前为止的对齐——对齐这门科学——从某个角度看一直非常无聊，也让人很不满意。
-
就像，并没有什么神奇的对齐方程。
-
它就像打地鼠一样。
-
就像——如果你还记得 ChatGPT 之前的那些早期模型，有些模型发布出来，预训练完之后是有毒的，然后就有一种说法：哦，这些模型有毒，修不好，因为它们能以太多方式变得有毒了。结果发现，不是的，只要有足够的后训练数据，
-
你就能把这些东西都补上，而且它能泛化，结果实际上变得很难越狱。
-
现在你大概也在看到同样的情况，就是这些对齐，你知道，问题的现实是，它们很可能会非常平淡、非常无聊——你发现了这一堆漏洞，你有数据把它们补上，你有一些算法，或者一些，
-
而你说用来检测它们的算法，通常就是让一个语言模型去检测这东西。这是老套路了。
-
所以一边是理论上的对齐、安全、哲学那一套，另一边是平淡的现实：你就是在给各种各样的 bug 打补丁。
-
然后问题就变成了：那难道不该有十万个研究者和计算机科学家来看看这些、修修这些 bug 吗？那样难道不更安全吗？
-
我觉得这里有个挺重要的哲学区分，听起来你是站在其中一边的，但我让你自己说清楚。就是，你知道，就算它们是非常智能的工具，就算你说我们作为一个生态能够管理那些意想不到的后果，我们不想让个人
-
和企业拥有这么强大的工具——这其实来自这样一个立场：我们可以用上强大的工具，但，对，别人不行，因为你知道，我们实际上更厉害，对吧，我们更擅长管理这些工具。呃，说得公平点，我觉得这
-
不是我的信念，但公平地看待这个说法，它大概是说，任何单个人或者公司可能造成的负面影响太大了，这很吓人，但我们可以拥有。对，嗯，我的意思是，这也有点像武器那个层级，对吧？
-
美国政府也会往别的国家卖战机，对吧？
-
但我觉得，更广泛地说，想拿一个模型，没那么容易，
-
尤其是那种模型，甚至像是个开源模型，已经被训练得很安全，而且你也知道，要把它变得非常危险，得投入算力、精力和努力。
-
现在我不是说这不可能，但这就像，还是那句话，我们一想到网络安全，非常聪明的黑客也能拿去搞破坏，而且他们确实这么干过。
-
但你有一个生态系统，在这个系统里，防御往往能压过进攻。
-
而且再说一遍，如果我们默认就是这样，人们就是这样保护软件的，互联网上既有正面角色也有坏角色，那么最终互联网就是一个生态系统，有点像有一个白细胞组成的生态系统。
-
而让更多人拥有防御能力，实际上反而能帮你抵御攻击能力。没错。
-
当我们再看实际发生的情况时，经验现实是，网络防御和网络攻击真的很难分开。
-
所以当你去掉网络攻击能力时，你也会去掉网络防御能力。
-
结果就是，那些本来想帮忙防御的人，反而没能力这么做了。
-
我们在最近 OpenAI 和 Hugging Face 的那起事件里也看到了，他们最后又退回去用开源了。对吧。
-
因为他们没法用现有那些最先进实验室的模型，因为那些模型上被加了很多护栏。
-
对，我觉得这些，你知道，这些论点会走到一个非常绝对的地方，就是你会说，你知道，这些东西太强大了，除了我们，谁都不该有机会用它们，对吧。
-
而现实是，这种情况从来都不成立。所以你知道，很难找到，你知道，除了一些非常罕见的例外——而那些例外里其实也没多少好处——你知道，这种绝对主义观点真正行得通的时候。
-
如果你设想 AI 世界未来两到五年，你最兴奋的是什么？
-
现在这非常难预测。
-
但如果你从技术曲线、应用曲线往前看，你觉得有哪些积极的事情正在到来？
-
比如，有很多积极的事情正在到来，而且一直在到来，一个例子是，我个人对科学进步非常兴奋，因为你知道，我进入科学，你知道，是我们搬到美国之后，我对物理产生了兴趣，而且一直有点像这种终身的
-
从那以后对科学的追求，而且过去几年我用语言模型试过的其中一个提示，就是把我博士
-
论文给它，当然，很大一部分工作就是走到你能提出博士论文正确问题那一步。
-
论文嘛，某种程度上，那就是很大一部分工作。
-
但然后真正去执行那些机械重复的工作，也要花很长时间。
-
总的来说，从找到正确的问题，到在博士阶段把答案正确地做出来，我觉得花了好几年。
-
所以过去这几年我一直在问语言模型，比如给它们我论文的这个提示词，几年前嘛，嗯，它就只是个聊天机器人，什么都做不了。
-
然后一年前，它开始能回答问题了，我会说，大概是本科生的水平。
-
就像如果这在我本科时作为作业给我，那大概就是我会给出的答案。
-
半年前，它把它解出来了。
-
对，真正博士的水平，而且正确地解了出来。
-
而现在我真去试的时候，它甚至能给我一些挺有意思的新信息，是我当时没想到的；所以我们已经走到这一步了，现在你只要有对的问题，就可以把它丢进一个聊天框里，让它把所有的计算都做了，然后给你弄出点东西来。
-
真的很有意思，太让人兴奋了，对吧对吧，这意味着你的迭代速度，像为什么还需要好几年，花几年读博士有什么意义，你一周就能做完一个博士，对，跟最近 OpenAI 的消息差不多，我觉得就在过去一两天，关于各种数学定理，这些定理
-
在过去，你知道，几周里由 OpenAI 证明出来了，所以正在发生的这些事有点疯狂。
-
不，这绝对不可思议，这对科学正在做什么、将要带来什么，简直难以想象。
-
我觉得另一件让我特别兴奋的事，你知道，不只是理论科学，那种环境基本上，你知道，嗯，就等于一块黑板之类的东西。
-
但现实世界的科学，生命科学、材料科学、化学，我觉得有很多地方可以让人工智能和真实实验对接，可以建立起专有数据的飞轮，而它会稍微慢一点，嗯，比黑板那类东西慢得多，
-
但比以前快得惊人。
-
所以我觉得我们某种程度上还是继续低估了这对软件工程来说是多么剧烈的转变，以及你能多做出多少东西。
-
我觉得它已经是一个非常不可思议、非常正面的工具了。
-
在很多方面，蓝领层面也一样，我，你知道，我几周前去参观了 Stargate，
-
而让我印象最深的是停车场上那一大堆车。
-
那儿有好多人在工作，对吧？
-
所以这些，像，数据中心项目创造了成千上万的工作岗位，而且，像，都是高薪岗位。
-
对我来说，现在数据中心就有点像以前的工厂，对吧？
-
20世纪的时候，你有这些，像，铁路和工厂，像，你可能有个制鞋厂，让一个镇子，你知道，产生一种，你知道，很有活力的经济。
-
而且至少当，像，我亲自到现场看正在建的东西时，确实有人害怕数据中心，但现实是，你到现场一看，它其实创造了大量工作岗位，也给当地社区带来很多税收。
-
虽然有些事情我觉得得处理得非常讲究，像这些东西很吵。
-
所以你得想办法把噪音隔开，或者把它们放在离居民区没那么近的地方。
-
但可以肯定的是，对当地经济来说，这些东西确实能创造就业。
-
它们能带来税收，而且在创造就业方面，感觉就像以前的工厂一样。
-
那现在，从，从 Beam 往后，你们怎么去引导科学和实验上的工作？在这当中，假设你们是想用模型本身来提升训练，那今天科学团队的角色是什么？就是我们怎么去引导——
-
我们的，我们的研究，而这里面很多，你知道，都属于，你知道，我——你知道，真的，
-
有很多我们知道有效的东西，我们没能加进去。
-
这就是个时间安排的问题。
-
所以我们在七月拿到的 SpaceX 集群上训练了最终模型。
-
所以就是先做了几周预训练，然后做了几周用强化学习搞的合成数据，然后就把它发出来了。
-
所以，有很多我们特别兴奋、但这次没能放进来的东西。
-
所以，对吧，这里有个取舍：一边是小心执行那些，嗯，已知有效的东西，或者风险稍微小一点的押注；另一边，对吧，是去做风险更大的押注。
-
所以你得先把所有你知道有效、影响又大的东西都试完，然后再开始往风险更高的方向扩展。
-
而，Ryan，你的做法是，在风险这块，你会做扩展实验，就是先在小规模上试。
-
我觉得有意思的一点是，有些有意思的东西，不到大规模根本不会出现。
-
所以这里面有点艺术也有点科学，你知道，就是：我到底该投入更多算力去搞清楚下一件事，还是直接去做下一个想法？
-
所以，说到让模型参与在回路里这件事，我觉得它让研究人员特别有力量，因为，还是那句话，
-
像那些单拎出来本来要花很久的事情，现在就能相当快地做完。
-
所以这些模型在智能上挺参差不齐的，你得凭感觉去判断，哪些地方它们能跑成比较紧的闭环，哪些地方人的创造力还是很重要的。
-
但你很快就能找到感觉，所以凡是能让它们闭环的地方，你就让它们去闭环。
-
我是说，像超参数搜索，还有基础设施上一些更细碎的事情，这些模型都能帮上忙。
-
我其实觉得它们是非常让人兴奋的工具，因为它们能让科学家把自己的直觉用起来。
-
这有点像你有一个动作飞快、又特别积极的同事，而且只要这个同事对齐得没错，他是真的会听你话的。
-
所以我看到，研究人员现在就是有了大得多的能力，能比以前快很多，这也是为什么，以前全靠人工的时候，年改进速度大概是，比如说，7倍，
-
而现在则是那个的好几倍，可能得有4到5倍。
-
所以对一个研究人员来说，能拥有这些工具真的特别让人兴奋。
-
问题就在于，到哪个阶段你就不需要研究人员待在回路里了？
-
我刚才正想问你，如果今天你需要100个人，那明年做同样的事，你是不是只需要20个人？
-
做同样的工作量，是的，但你一直在扩大自己想做的事的野心。
-
我们发现自己总是人手不够，而不是人太多，但基本上有一个人员和算力之间的比例，是你需要放在心上的，所以并不是说它会一直这么无限地持续下去。
-
就像，我觉得，3000个研究人员并不会有多大帮助，但你知道，几百个人是非常非常有帮助的，对。
-
我听到的论点是，考虑到你每个人需要分配多少算力，尤其是像你说的，如果你想随着时间把某些实验越做越大，再加上，贡献本身往往也有点分布不均，换句话说，
-
每个领域里，从点子的角度看，都是少数几个人贡献最多，对吧。你知道，不管怎样，最后都会归结为：你想把每一份新增的算力都交给最能产出的那一小拨人，所以最后研究人员数量就会停在某个水平，或者不断缩水，
-
随着时间推移？
-
从最终会走到哪一步来看，这差不多就是那个论点推到极端后的版本；我不是说它一定对。
-
我只是说，有这么一种论点。
-
我听到有人提出过这个论点，它肯定是有道理的。其实这些项目从来就不需要那种夸张数量的研究人员，才能真正，你知道，我们想想像AlphaGo这样的项目，当时可能也就是十来个核心成员。而现在，
-
我觉得，像我们现在做的这种大工程，可能也就是一百人，或者一百人左右的量级。
-
所以从来都不是说，你需要特别多的人。
-
而这个问题，你知道，它会不会又缩回到十个人左右，你知道，这很难说。
-
我估计，最后会有某种稳定状态，大概就在一百人这个量级。
-
要做的事情就是很多，但在应用研究方面会创造出大量工作岗位。
-
把这些东西拿去真正应用到现实问题里，我觉得这方面会有很多岗位。
-
我觉得，人们在谈论工程和研究的时候，真的忽略了这一点：这些角色会扩散到更广泛的社会中，而不只是去构建语言模型。
-
就像你说的，还有很多其他类型的模型要构建，还有很多闭环系统要构建。但即便人们谈论工程师以及工程师可能被取代，到目前为止，证据似乎表明，很多公司需要的是更多工程师，而不是更少。
-
另外，某种水平的工程师也会扩散出去，去那些以前相对而言根本接触不到这种人才水平的组织里实际部署技术，或者至少没法大规模接触到。
-
所以我觉得，人们在思考经济的时候，这一点某种程度上被忽略了。
-
他们往往把经济集中到少数几家大型科技公司身上，而不是去问：我们整体的GDP是多少，以及当人们把这项技术带出去、扩散开来时，GDP会如何被改变？我觉得这是对的。
-
所以再说一遍，做这些事情需要的研究人员数量，并不是说这些年来发生了巨大的变化。
-
一直以来都是，你知道，大项目嘛，好吧，大概一百人左右。
-
我不觉得一个大项目需要几千人，但也许在不同产品面上，好吧，那你就需要一大批人。
-
有意思的是，当你去看这个分布时——为什么你甚至需要几百人？
-
而且很大一部分原因还在于，你得有团队为不同的事情做评估，为不同的事情收集数据。
-
当你在生成的时候，这些模型之所以有能力，并不是偶然的。
-
会有五到十个人的小队去专门攻克某一种能力。
-
而在编码方面，大概有五到十种能力。
-
所以那是为了让模型具备通用的能力。
-
但现在，当你想把那个模型拿去应用到现实世界的能力上时，基本上每一种现实世界的能力都需要一个小队，而每家企业都有很多很多这样的能力。
-
所以我觉得，这会催生一种新型的前线部署工程师岗位：他们更偏科学、更以评测为导向，而且对这些模型和评测框架有一些直觉——这其实就是评测研究员在做的事，对吧？
-
所以这其实跟做核心模型的研究员是同一套技能，只不过被派去解决现实世界里的问题。
-
而这就是，你知道，这样的人我们有多少要多少。
-
其实这更多是一个培训上的缺口，也就是说，你得把工程师培养到擅长这个，而不是说，你知道，我们今天不想多招——我们今天有多少要多少。
-
祝贺你，Misha，做出了第一个西方模型，你知道，能进入前沿级别，这对整个生态来说真是向前迈了一大步。谢谢，非常感谢。对，谢谢你参加我们的节目。
-
可以在 Twitter 上找到我们，账号是 NoPriorsPod。
-
如果你想看我们的脸，就订阅我们的 YouTube 频道。
-
在 Apple Podcasts、Spotify，或者任何你收听节目的地方关注这档播客。
-
这样你每周都能收到一期新节目。
-
还可以订阅邮件，或者到 no-priors.com 找到每期的文字稿。