Alex Atallah与Amjad Masad：AI的未来是专业化多模型生态
点播放，字幕跟着声音走
Subtitles follow the audio
逐句文字稿
点任意一句，从那里开始听
正在加载字幕…
-
你看了SpaceX的S1文件，感觉就是，哇，30万亿美元。
-
那全球GDP是多少，100万亿？
-
Stripe和OpenRouter都真心希望世界上能涌现出大量新公司。
-
我们不希望所有人都变成一家巨型公司的一部分。
-
当模型变得越来越聪明，风险其实会持续升高。
-
然而却没有新的角色来承担责任。
-
我们会慢慢意识到，以前用确定性代码的日子有多好。
-
还记得那些计算机完全按我们指令行事的日子吗。
-
我们能不能可预测地防止模型在训练过程中欺骗用户？
-
一个足够大、足够强的模型，会突然停止欺骗、停止偷懒吗。
-
欢迎来到a16z的播客。
-
今天我们请到了Replit的Amjad和OpenRouter的Alex。
-
这是Alex在被收购之后做的第一个播客。
-
所以我们非常高兴能请到你们两位。嗯嗯。谢谢。我很高兴能来这里。
-
Alex，我们就从这件事开始吧，你能不能简单分享一下。
-
显然，这是一次大规模收购。Amjad是投资人。
-
当然，我们也是投资人。
-
最大的股东，不过谁在乎这个呢？
-
Alex，不如你给我们讲讲一些背景故事。
-
比如，这样一笔收购到底是怎么发生的？
-
比如说，有一天你突然收到Patrick的一条私信？
-
你能分享点什么吗？
-
嘿，OpenRouter卖多少钱？
-
我很久以前跟Stripe的总裁Will Gabrick聊过，那是几年前我们做A轮融资的时候，之后我们一直保持联系。
-
我们跟Stripe各个团队有很多合作项目在推进。
-
所以，我们跟Stripe一直都有各种事情在做。
-
我们在Stripe Sessions上做过演讲，所以一直感觉跟他们挺亲近的。
-
然后，对，就在七月吧，我记得，他们联系了我们，想聊聊，我跟他们俩都见了面，然后事情就进展得挺快的。
-
他们效率很高，而且整个过程对创始人非常友好。
-
整个体验让我印象非常深刻。
-
那，你当时想卖吗？
-
在这之前你有想过这件事吗？
-
没有，我们完全没想过这事。
-
我确实很尊重这家公司，今天依然很尊重，在我们可能的收购选项中，它是我的首选。
-
所以这是个挺有意思的想法。
-
随着我们把对两家公司都合理的理由梳理清楚，这件事变得越来越有意思。
-
很明显，他们在品牌、路线图和产品的自主权方面跟我们非常一致，让OpenRouter继续做它已经在做的事，
-
只是速度快得多，有更认真的市场推广计划，然后两个产品和两家公司之间还有一些协同的故事。
-
然后在文化上，我觉得在使命和价值观方面，在打造一个中立、可信赖的平台方面，企业可以依赖它并在上面扩展，同时对开发者也非常友好，提供最好的开发者体验来鼓励新公司涌现。
-
这种一致性是存在的。
-
而且还有一个更大的格局上的一致性，就是你知道，Stripe和OpenRouter都真心希望世界上能出现很多新公司。
-
你知道，我们不希望所有人都变成一家巨型公司的一部分。
-
我们想创造真正好的激励机制，还有那种非常简便流畅的工作流程，让人们能创办新公司、成功地把它们做大，然后你知道，在真正好的、那种……
-
可靠又价格高效的基础设施之上，还有那种能跑得通的市场上，做出既能维持生活又能拿到风投的生意。
-
而且你知道，我真的很想要那样的未来，Stripe已经证明了他们想要这个，并且朝着这个方向建设了，好多好多年。
-
而且在很多方面，支付和推理在未来对公司来说会融合在一起。我很好奇。
-
我理解为什么Stripe的动机是拥有一个，你知道，更有活力的创业生态。
-
我理解那种道德上的论证，以及为什么你会想要那样。
-
但这对OpenRouter来说为什么是好事呢？
-
比如说，你们对OpenRouter的模式是不是就是那种网络效应生意？
-
它是不是就像一个网络？
-
嗯，对我们来说，我觉得，OpenRouter解决的是几个不同的问题。
-
一个是让你能建立一家使用AI、或者用独特数据和其他服务来增强智能的公司，而不被模型锁定，不被供应商锁定，
-
让你能随着生态的发展，持续地处在帕累托前沿上。
-
而要做到这一点，工作量很大，因为会出现各种各样的小锁定。
-
我们还，你知道，我们希望公司们觉得，他们能做的不仅仅是在单个模型上加些提示词。
-
构建独特的智能，还有很多别的东西。
-
而我觉得其中很大一部分就是神经多样性。
-
你真的需要多个以不同方式训练的模型的力量，包括你自己的一些模型，才能在任务上做到比Jack GPT或Claude更多的事。
-
如果有个正在考虑从你这买东西的潜在客户在想，那我直接用那个模型不就行了吗？
-
那你怎么才能真正证明你明显更强，能建立起一门真正重要的生意呢？
-
我觉得这里面很大一部分会涉及神经多样性，以及把多个模型的能力和好数据融合在一起。
-
另一个要素就是帮人们真正做到很好的成本效益。
-
有很多生意，在变得划算之前，根本就不会出现。
-
而创造一个能通过建立高效市场来帮助压低成本的环境，对实现这一点至关重要，不然的话，你知道，我作为提供商凭什么要降价呢？
-
我们有一个被锁定的市场，而且，你知道，我觉得这正是市场平台的一个关键点，而在我们出现之前，AI领域完全缺失了这一点。
-
当时只有一个玩家，OpenAI。
-
那会是一个非常奇怪的世界。
-
我不是说所有工作都是我们做的，当然不是，但帮助人们去选择新模型、探索新模型，并了解是什么让，你知道，
-
一个闭源或开放权重模型真正擅长你的任务，这需要看到整个生态在做什么，并自动地学习，大语言模型不是那种你可以在网页上把所有功能都列出来的东西。那是不可能的。
-
你必须看到它们是怎么被使用的，才能知道它们擅长什么。
-
所以你是三年前创立这家公司的。
-
我很好奇，从开源和闭源模型演变到今天，就模型表现而言，或者就人们对可用模型多样性的看法而言，最让你意外的是什么？
-
人们对开放权重模型的接受程度比我预想的要开放得多。
-
通常来说，品牌影响很大，尤其是在企业领域。
-
通常来说，企业普遍存在很强的品牌信任，他们会想，哦，我真不太会分辨这些东西之间的差别。
-
那我就直接买所有其他靠谱企业都在买的那个吧。
-
带着这种心态，就会产生很强的企业锁定效应。
-
但这种情况其实并没有那么常见。
-
确实有一点，但我们看到很多企业都想去探索新模型。
-
这简直就是，非常适合做市场。
-
企业想分散风险，不想只依赖那些专有的前沿模型实验室，既有成本原因，也有差异化的原因。
-
他们想拥有自己的智能，我觉得一是为了留住人才，比如建立一个内部的AI团队。
-
AI本身就是一个巨大的战略话题。
-
不是说你跑到董事会说，哦对了，我们把AI问题解决了，这个季度搞定了。
-
你的董事会每个月都在问你，AI接下来怎么样，内部AI团队怎么样了？
-
每一家企业现在都有这么一个内部AI团队在建设，背后需要有战略支撑。
-
不是那种，我们把功能打个勾，搭好数据库就完事了。
-
所以我觉得这种动态就导致了一种探索和多元化的意愿。
-
还有一种想搞清楚怎么降低成本、怎么在公司历史上第一次做基准测试的意愿，我一直很惊讶居然没有更多的基准测试，没有更多公司创建更多基准。
-
现在开始有了，我觉得最终我们会看到更多，来证明，对，这个东西比直接用Cloud好。
-
但我觉得这会是每家公司内部AI团队更大的重点，就是评估。
-
比如我觉得Amjad在Replit就一直在做很多这方面的事。
-
你们做过每个任务成本的研究。
-
你们一直在尝试新的agent使用方式，比如Doom Loop Rescue，帮开发者用上这些。
-
我觉得这种研究会在各个公司内部大量涌现。
-
出于所有这些原因。
-
对，我觉得微软CEO Satya在这方面非常有远见，也非常清晰地阐述了为什么公司需要拥有自己的智能。
-
最终，就像我们曾经有互联网公司，然后每家公司都变成了互联网公司一样，每家公司都雇了懂建网站、懂上网的人。
-
软件也是一样，每家公司都有软件工程师。
-
每家公司都需要一些AI实践、AI能力，而且这会随着时间不断积累。
-
公司内部的知识、智能，用例模型的匹配，比如哪些模型对他们真正有效，怎么帮他们省钱。
-
他们需要这种独立性。
-
另外我觉得Palantir的Alex Karp一直在谈的一点是，当你和基础模型公司紧密合作时，存在一种风险，就是他们会切入你的业务。
-
我们已经看到Figma和Anthropic之间的情况，也看到了现在Harvey和OpenAI之间的情况，跟他们合作真的很难，因为他们把整个世界都看作自己的潜在市场，对吧。
-
我是说，当他们跟投资人聊的时候，你知道，你看SpaceX的S1文件，就像，哦，30万亿美元。那全世界的GDP是多少？100万亿。
-
所以从某种意义上说，这些公司跟上一代公司是不一样的。
-
跟他们合作更难，因为他们的野心太大了，他们想成为、想吞掉经济的一大部分。
-
而且越来越明显的是，我们在Replit思考的方向，跟Alex所创新的东西有点类似，就是Replit正在成为企业内部的一个独立性层，我们在你和模型之间创建了一层间接层。
-
我们帮你拿到最便宜的、最好的token。
-
但同时我们也在云之上创建了一个抽象层，因为你应该能够部署到AWS和Azure，你应该能够使用Databricks和Snowflake等等。
-
所以越来越明显的是，不只是AI，而是整个技术领域，都需要更多平台来帮助公司获得独立性。
-
看起来OpenRouter在他们的领域做的事，就是你在业务的其他领域做的事。
-
这让我想起前几天看到的一条推文，有人说，基本上现在所有公司都在造同一个东西。
-
每个人都在造一个agent循环，带通知和上下文，比如第三方连接器和上下文管理、记忆，还有沙箱，
-
你知道，网页，你知道，agentic网页搜索，再加上始终在线的agent和通知。
-
就好像这个产品到处都在出现。
-
嗯，某种程度上是的，确实到处都在出现，但对我来说，这也有点像是这些只是新的基本门槛原语。
-
有点像2005年版的那条推文，会是，哦，每个人都在造同一个东西。
-
就像一个数据库、一张用户表、一个登录页、一个注册页、一个个人资料页、一个登出页。
-
就像，所有东西都一样。
-
就像，天哪，别再说这个了。
-
其实还是有很多差异化的。
-
只是，AI有它的基本门槛需求，就像web有它的基本门槛需求一样。
-
是的，而且我觉得，在企业内部，让这些产品真正做实际的工作，仍然是一个未解决的问题。
-
就像你可以在个人生活中用Muse，把它连到你的信用卡和银行账户，但没有人把Muse连到他们的企业数据上，甚至Grokbot之类的也没有。
-
我觉得现在更加强调数据主权和安全。
-
所以过去一年我们几乎都在做让Replits可以部署在你自己的云上，基本上就是本地部署。就像自带云。
-
两年前我会觉得我永远不会做这个。因为，你知道，就是，对，云是未来，软件即服务，所有这些。
-
但现在实际上，我们有点倒退回到一个公司更加保护自己数据的世界，因为数据泄露的方式太多了。
-
就像人们在用的所有这些agent。
-
我是说，Twitter上有那么多截图，我不知道是不是真的，说Instinct或者Muse在混用别人的数据。
-
开始用不同的名字叫你之类的。
-
所以是的，消费级的东西比较明显，但在企业端，整个行业还有大量的工作要做，才能真正让这些东西在工作中变得有用和高效。
-
Amjad，你有没有，比如，除了Muse或Instinct之外，你有没有一个自己一直在做的、用于工作方面的自定义个人agent？
-
有，我是说，我很久以前在Replet上做了一个。
-
一开始像是一个CRM agent。
-
那是我当时最主要的问题，但慢慢地我们给它加了功能，它做的事情越来越多。
-
但真正有意思的是，我把Replet连接到我的各种东西越多，它就开始帮我回答所有的事情。
-
这个平台本身正在越来越多地吸收我建的那些特定领域的agent。
-
我确实觉得，在某些方面，你想要的是一个有时专注于某一件事的东西，而不是希望它什么都能做。
-
但另一方面，一旦你整个公司的上下文都集中在一个地方，能够跨完全不同的领域进行连接，那真的很酷。
-
当我问它一个问题时，它可以去看我个人的聊天记录，跨GitHub仓库、跨Salesforce进行连接。
-
然后它会说，它会把一些看似不相关的事情联系起来。
-
比如，哦，你大概一年前在一个会议上见过这个人，我在你的日历上看到了。
-
而且顺便说一下，他们团队里的另一个人正在和你们的销售团队讨论，这样就产生了各种不同的协同效应。
-
当我进入一个会议时，你知道，我已经连接了很多不同的线索，我在一笔交易或类似的事情上取得了更多的进展。
-
所以这就是它现在的发展趋势。
-
嗯，我觉得我有点，我要在这个问题上唱个反调。
-
我觉得用你的个人agent做跨领域连接最糟糕的地方在于，你交给它的工作越多，你牺牲的对正在发生的事情的理解就越多。
-
然而，没有任何新的人在为这种理解上的牺牲承担责任。
-
就像，agent不承担任何责任。
-
你不能，就像，如果整个公司所有人能容忍的皮质醇水平是固定的，你知道，你就像，你，就像，我想要在某个领域压力小一点，如果我打算，就像，
-
牺牲我对它的理解的话。
-
得有别人来承担那些皮质醇，但agent不会，它不承担任何这种责任。
-
然后，就像一个什么都做的通用agent，你知道，我没法，就像，我在所有不同的事情上到底牺牲了多少理解。
-
这让我有点倾向于觉得，也许将来，人们用的子agent会是非常垂直聚焦的。
-
也许我们会有一个类似幕僚长那样的agent，你知道，在它们之间做协调。
-
但我觉得你确实需要那种垂直聚焦的agent，你会说，好吧，这个agent在心理上对这些事情更负责。
-
而且，我想要质量检查，确保它在正确地做那些事情。
-
而且它不需要关注其他任何东西。
-
它就只有一个专注的领域。
-
我在想，这是不是能帮人们至少对agent产生一种模糊的责任感。
-
有意思，所以你是说通用agent会造成某种公地悲剧？
-
差不多吧，就是我有一个通用agent，它每天都会去找那些需要我处理的事情，然后试着搞清楚该怎么做。
-
但就是没办法改进这个agent。
-
就是每次我想做点改进，结果大概一周之后我就开始忽略它的输出了。
-
就感觉它并不真正在乎它深入去做的那些具体事情。
-
你可以想象一下，有一个幕僚长，他特别擅长帮你起草整个组织里所有的回复。
-
然后把这个跟另一种情况比，就是你有10个幕僚长，每一个都跟那一个幕僚长一样能干。
-
但他们各自负责你生活中不同板块的事情。
-
我觉得后一种方式能让你去调节，你牺牲了多少理解，换来了多少收益，基本上就是，我可以，
-
在agent某些方面做得不好的地方更多地介入，然后让那些能力很强的agent接管我生活中其他部分的理解。嗯，有意思。
-
这有点像重新发现了专业化，对吧？
-
那个叫什么来着，那个著名经济学家，亚当？
-
亚当·斯密。
-
就像那支铅笔那个例子，对，那对人类来说是个巨大的觉醒，就是专业化其实是好事。
-
问题在于，我们作为一个文明有点过度专业化了，而我觉得过度专业化本身也是一种压迫。
-
我是说，你知道，有点像，你知道，马克思的异化理论就在那儿。
-
那个意思是，因为过度，你知道，人们只专注于一件事，他们看不到劳动的成果，他们其实不知道自己对更大的组织或他们生产的产品有什么影响，因此他们其实会感到压抑、疏离，而且
-
你表现得就像个机器，其实已经不完全算是人了。
-
所以也许对此会有一些反弹。
-
我觉得在做智能体的时候，我们会想，哦，应该有一个上帝智能体。
-
但事实上，专业化对机器来说其实是非常好的。
-
而这正是你在说的那个点。
-
人应该是通用的，但机器最终应该要专业得多。
-
我觉得我描述的这个东西，问题在于我们不知道好的样子长什么样。
-
还没有出现过一套专业智能体的系统，能像ChatGPT、Claude或者Muse那样优雅，就是你基本上只跟一个东西对话。
-
这还有待被发现。
-
比如说，可能像OpenAI，我刚发布了dots。
-
我觉得他们有点在朝那个方向做实验。
-
Grokbot，我猜，勉强算一个，但是——但它们都非常通用。
-
我觉得dot背后的想法是，它就像你的数字分身，至少那是我看到grok bot时的理解，我还不太了解dots，它们才刚出来，但grok bot刚出来的时候，我看到的第一个使用
-
场景是人们说，哦，我可以做两个机器人，一个知道我的银行账户，对吧，一个知道我的Twitter账户。
-
这两个机器人彼此没有对方的凭证。
-
但如果需要完成某件事，它们可以互相沟通。
-
不过它们之间不共享凭证。
-
那是我看到冒出来好几次的一个很独特的大亮点，人们似乎很喜欢。
-
但看起来Muse和Instinct的产品市场契合度比Grokpot强得多。
-
嗯，而且也许。对你来说就像那样。
-
也许是因为你不用操心去创建这些、这些域名。
-
但是，但是我觉得也许个人智能体和工作智能体是不一样的。
-
而且我觉得你对通用智能体的批评更多是针对、针对工作和企业场景的，这一点我、我有点同意。
-
而且，你知道，还有各种各样的数据访问方面的考量。
-
我觉得作为CEO，我们可以拥有通用智能体，因为我们有管理员权限。
-
但是，你知道，对于个别员工或者某些团队来说，他们没法拥有那种真正通用的、你知道、完全了解上下文的智能体，因为存在访问控制、控制的问题。
-
所以你得在类似这样的东西上下功夫。最终，我也觉得我们需要搞清楚智能体与智能体之间的通信是什么样的。
-
我不觉得目前在这方面有好的协议。
-
我也不觉得智能体被训练得能很好地处理这个。
-
我觉得我们已经看到了，看起来下一代OpenAI模型被训练来做智能体协作，因为我们在Hugging Face那次黑客事件里看到了，它们开始互相帮忙，有点自然涌现出来的。
-
但也需要有某种方式，让一个智能体没法说服另一个智能体把不该给的信息给它。
-
就是需要有数据隔离，以及这些智能体之间恰当的通信方式。
-
你几乎不希望它们完全用自然语言来通信，也许有某种其他的DSL或协议是它们需要遵循的。
-
我真的、我觉得Jev和其他类似的决策模型，一个很酷的潜在应用就是对齐。
-
检查某个工具调用或者智能体与智能体之间的通信是否对齐，因为工具调用实在太多了。
-
就像如果你要拦截这种东西，你真的需要一个便宜、快速的模型，然后还需要一个非常、
-
非常快的决策模型，只做分类并对拒绝给出反馈，这可能是弥合智能体之间以及从智能体到基础设施之间鸿沟的一个非常好的方式。
-
所以我还没见过类似的，我们在OpenRouter内部跑着一个小原型，但我有点觉得一个好的、我觉得这可能是一种有趣的对齐方式。
-
所以你是用它来做策略执行的？
-
对，就像想象一下，看着系统提示词和当前正在进行的工具调用，然后判断，这跟原始智能体的系统提示词一致吗，跟那些也许我们没告诉智能体的额外准则一致吗。
-
比如说，假设你有一堆智能体，被指示去做某个新产品的红队测试，而它们不能、也不应该能访问互联网。
-
而且如果它们真的访问了，就应该立刻停下来。
-
但你可能不想把这一切都解释给做红队测试的那些智能体听。
-
你可能希望它们试着突破沙箱，表现得像坏人一样。
-
一个坏人会怎么做？
-
它不会是那种，突破沙箱，试图闯进这家公司，然后一旦成功就停下，别的什么都不做。
-
所以让另一个模型，更像是用来构建一个神经多样性系统，让另一个模型去检查每一次工具调用或每一条助手消息，看它是否真的符合那些不在系统提示词里的东西，我觉得这是有道理的。
-
然后再配上一些结构性的防护措施，也就是我觉得英伟达刚推出的那个开放智能体安全。
-
它叫Open Shell。
-
我觉得公司们很可能会去探索这些方案的组合。
-
关于专业化，还有你说的那些，我还在想另一件事。
-
现在有很多关于递归式自我改进的讨论。
-
但有件事我觉得没得到太多讨论，那就是模型训练自己的替代品。
-
有点像，你知道，你可以把它想成一个即时编译器。
-
即时编译器的原理是，你知道，当你在执行动态代码时，解释器意识到有优化的机会，它就会即时生成机器码，而那要优化得多。
-
所以你可以想象模型，比如通用模型，你在用Opus或者某些Astra、某些大模型做某件事，然后它们意识到这个用例是有限的，或者你用某种方式提示它们，或者某个其他智能体在观察，意识到这个用例是有限的。
-
我觉得通用智能体有你刚说的那些缺陷，而且它们更有潜在危害，更有失控的可能，于是它们即时训练出一个可以替代自己的模型，但这个模型要专门得多。
-
因此它更便宜，也更不容易受到提示注入的影响，危害更小，因为它能力更弱，
-
而且它几乎就像某种系统，在监控整个系统的同时，为特定用例训练机器学习模型。
-
那个特定用例会涉及非结构化文本生成，还是一个非常结构化的决策模型？
-
它可能是非结构化文本生成，也可能是决策模型。
-
就拿 Jav 这个例子来说，如果你提前了解输入是什么，你就有可能拿一个现成的模型，比如 Quen 之类的，专门针对那个策略去训练它。
-
出于成本考虑，这么做是合理的，前提是那些前沿模型实验室不会推出成本极低的模型，让你可以轻松过渡到——安全方面也一样，对吧？哦对，我明白了。
-
但是它们太强了，所以我觉得很多时候人们用这些大型基础 AGI 模型，就像是用核弹打蝴蝶，对吧？
-
就是说，没错，它们非常强，但你知道，大多数时候，很多用例，甚至非结构化的用例，根本不需要那么强的模型。
-
我真希望关于这些东西能有更多公开的评测。
-
可是关于这方面的很多评测都是私密的。
-
你根本看不到，当模型变得更智能时，风险是不是真的会继续升高，因为我觉得也有一种论点认为对齐会变得更好，
-
而且模型会随着变得更聪明、更擅长对齐，开始避免自己跑偏去搞黑客行为，尤其是在智能体与智能体之间的协调方面。
-
这就像 Noam Brown 最近在一个播客上说的。
-
随着智能体变得更聪明，它们在协调方面就是变得更擅长了。
-
它们仍然——而且你知道，当它们的数量越来越多时，它们会不会比人类更难对齐，这还不清楚。
-
但如果我们能解决那个问题，那么一个更小的模型，它会更难对齐吗？
-
所以，Eric 之前问的是，我是否认为更聪明的模型天生就更对齐，或者更容易对齐？
-
嗯，如果你回想一下最初那种理性主义者、LessWrong 式的 AI 安全论证，有一个东西叫正交性论题。
-
它的意思是，智能与伦理、道德或者诸如此类的东西是正交的。
-
我不认为这在人类身上完全成立。
-
我觉得总体上更聪明、受教育程度更高的人，往往——不总是——往往更会体谅动物，比如说。
-
但在机器身上，我觉得情况可能反过来，因为你知道，已经有相当多关于强化学习的研究表明，奖励黑客和欺骗行为，
-
它们就是越来越擅长这些。
-
而且评估结果可能是骗人的，因为模型可能聪明到知道自己在被评估。
-
我是说，这我们早就知道了，已经有研究表明，如果你对思维链做大量监控，它们就会开始在思维链里撒谎，所以你几乎是在给思维链施加压力，这就造成了一种——我觉得到了某个时候，要想做真正的对齐评估，
-
你得跑上好几个月，对吧？
-
你得让这东西在一个非常大的目标或任务上跑上好几个月，才能真正搞清楚它到底对没对齐。
-
我一直对这个词"对齐"很纠结。
-
就是感觉它哪儿哪儿都不对。
-
它有点含糊，而且对齐到什么、对齐谁的价值，所以它根本没法让对话变得更清楚。
-
我觉得在这个情况下，我特别想说的是欺骗，就是模型实际上在欺骗它的用户。
-
我是说，也许这归根结底就是，我们到底能不能解决这条线，你知道吗？
-
我们能不能在训练过程中可预测地防止模型欺骗用户，靠，你知道，更好的、足够大足够强的模型突然就不欺骗了、不出工不出力了。
-
而这个答案现在还没人知道。
-
所以等到那一天真的到来——如果真有那一天的话——我们可能会看到一种很有意思的压力，逼着各个组织走向前沿。
-
就是让所有人都基本上没有风险，或者风险大大降低。
-
他们愿不愿意为此付10倍的价钱，就为了得到那么多？
-
我是说，这大概取决于他们想做的任务类型。
-
有些任务的风险就是比其他的低得多。
-
写代码，或者做安全研究，是今天风险最高的一类任务。
-
所以你大概会花10倍的价钱，去得到一个完全对齐的模型，同时还能找出所有的漏洞，或者一个完全反欺骗的模型，同时也能找出所有的漏洞。
-
决策模型最酷的一点之一，就是你能完全控制结构化输出。
-
而且一般来说，对于结构化输出的模型，出现不当行为的空间要小得多。
-
你只是有定义好的任务，而且只有机器在处理输出，它并不是在写自己能执行的代码。
-
这类任务在人们谈论的那些任务里，还有企业正在处理的事情里，感觉可能被低估了。
-
所以我预计企业会对它们越来越感兴趣。
-
是啊，我觉得我们会慢慢意识到，我们以前有确定性代码的日子有多好，就像天哪，我记得以前计算机完全按照我们告诉它的去做，我觉得像Jav这样的东西
-
我觉得这暗示着一种更大的需求，你知道，不只是需要专门的模型，还需要输出域更可控的模型。
-
也许通过使用一堆专门的模型、专门的输出模型，你能做到的比我们以为需要的多得多。
-
你们内部有没有用它做过什么工作负载？
-
你知道，我一直在训练很多小模型。
-
我是说，我刚出来的时候说过一句轻率的话，因为我当时有点，我在Hacker News上留了这么一条评论，事后我对自己感到恶心。
-
但我一直在拿很多，比如8B，然后老实说就是去问，你知道，让Fable、Opus和Astra去训练一个模型。
-
比如说，我在内部训练了一个成本估算模型，这样当你在Replit里输入一个提示词时，我们就能确切知道它会花多少钱。
-
它基本上会输出一个在多个区间上的概率分布。
-
比如如果在5到10美元之间，就是A区间，B区间是10到20美元之间。
-
所以我习惯了通过给它不同的枚举值，然后看每个枚举值的对数概率来训练这些分类器。
-
我已经这么做了好几年了。
-
我就靠这个训练了一个下棋的机器人。
-
所以我已经有点堆叠在决策模型和专门模型上了。
-
所以对我来说那不是什么大时刻，但我理解，一个真正完全可提示的基础模型，用户体验是惊人的，开发者体验也是惊人的。
-
而且你可以用它做一堆事情，不用从头训练一个模型。
-
但如果你有数据，如果你在一个有数据的地方工作，我们在Replit有那么多数据，我最后就相当轻松地训练了很多专门的分类模型。
-
是啊，我确实觉得，这感觉也像是更少的模型债。
-
我仍然听到一些公司说，他们担心为了非结构化的输出而微调模型。
-
因为你就得一直这样，每隔两个月就得重做一遍，每个人都感受到模型债的沉重负担，但一个用专有数据训练出来的非常定制的分类器就不一样了。
-
我觉得人们不会觉得它一直落后，而且它可能就是用得更久。
-
你不用操心它说一门新语言的能力，或者写Rust的能力，或者你知道任何那些大语言模型们正在被评估的能力。
-
你知道那些用例，所以你可以把它做得更好，而且我觉得这对企业来说是一件很容易自己就能做、而且实际上不会后悔的事。
-
是的，说到Rust，其实一个很好的类比是，当全世界对动态语言变得超级兴奋的时候，你回想90年代，大家都在用Java和C++这类东西写代码，然后Python、JavaScript、Ruby就接管了互联网，大家都说，哦，
-
这就是你快速搭建创业公司的方式。
-
你用Ruby搭建了Stripe，一个金融组织。
-
我当时就想，这也太疯狂了吧？
-
我们用PHP搭建了Facebook。
-
然后大家都说，哦靠，我们遇到了一堆特别糟糕的bug。
-
它慢得要命。
-
我们进去加点类型吧。
-
好，我们加个JIT编译器。
-
你最后把所有东西都重新发明了一遍，然后Rust出来了。
-
我当时就想，好吧，我猜我们可以在很多本来会用JavaScript和Python的地方用Rust。
-
我的预测是，同样的循环会在这里发生，我们用这些类AGI模型来处理所有这些不同的用例，然后大家都会醒过来，说，天哪，这太浪费了，毫无理由地冒这么大风险。
-
这会容易得多。
-
我们实际上正在Replit上加这个能力，但我觉得它会到处都是。
-
去一个网站，上传一个CSV文件，然后得到一个专门做一件事的模型，这会容易得多。
-
这就回到你关于OpenRouter的那个论点了，这种神经多样性，我其实从根本上越来越相信这一点。
-
我和Eric讨论过很多关于AGI的事，以及我们是不是真的在通往AGI的路上，或者说到达那里到底是不是一件好事。
-
我觉得未来是更加多样化的。
-
除了代码审查之外，那大概是我第一次看到人们真正认真起来，用不同的模型家族去交叉验证他们主模型的结果。
-
这些融合模型，比如研究这些年来在混合模型和复合模型方面一直进展得挺慢的。
-
但在我看来，研究方面的事情一直在加速。
-
我的意思是，现在我们看到一堆AI智能体实验室，比如我们推出了一个融合工具，
-
一个融合模型，Cognition也推出了一个，它们确实能降低成本，而且能搜索更广泛的想法。
-
我们最初的发布聚焦在深度研究上。
-
思路是，如果这些模型应用都是在不同的数据源上训练的，那为什么不把它们全都利用起来呢？
-
这基本上实现了fable级别的质量，成本却低了一半。
-
我们其实今天刚刚发布了相关的结果。
-
我们展示了一个deep-sweep复制智能体，通过组合不同的东西，包括harness，但你也可以把它想成一种融合式的东西，它达到了前沿水平，成本却只有40%到50%。
-
它用的是哪个模型？
-
我觉得它会随时间变化，但有一件事挺有意思的，我觉得OpenAI加了这个功能，让你可以保存计算，比如跨不同的模型家族，
-
所以你也可以跨不同的努力程度来保存。
-
所以，你不会，你改变努力程度的话就不会浪费那些缓存。别把这话算我说的。
-
我觉得它也能跨不同的模型，这很难想象是怎么做到的。
-
不过我也可能是错的，但我得再确认一下。
-
但我觉得，你知道，在OpenAI这个家族里面看到这些，确实带来了很多效率提升。
-
但过去我们也用其他模型做过同样的事。
-
因为缓存是个大事，在设计融合模型、路由器和那种升级模型的时候，有没有缓存意识是最关键的事情之一。
-
Alex，我很高兴，这次聊得特别好。谢谢你。