a16z对话TypeSafe创始人Diogo Almeida：Jev如何让AI真正嵌入软件
点播放，字幕跟着声音走
Subtitles follow the audio
逐句文字稿
点任意一句，从那里开始听
正在加载字幕…
-
自动化到底他妈的去哪儿了？
-
AI聪明得简直不可思议，可它在其他所有事情上却那么没用。
-
你用多少AI编程智能体都没用，软件本身其实并没有变得更好。
-
也许你写得更快了，但说白了，可能还更糟了。
-
OpenAI从2020年起就一直想实现客服自动化。
-
我想要的恰恰相反，是聪明的软件。
-
我想扩展软件本身能做的事，让那些本该能自动化的东西真正变得可以自动化。
-
我最喜欢你们说的一句话是：我们造的是产品，不是神。
-
因为要是换成别的什么大实验室的负责人，就算他们心里高兴，也会把这事捂起来。
-
而你的看法完全不一样。
-
你的态度是：不，我们要创造一个好得多的世界。
-
出于一些微妙的原因，我不认为我们正走在递归自我改进的路上。
-
在SaaS末日那个故事里。
-
今天我们请到了TypeSafe的创始人和领导者Diogo，他在Martin和我眼里都算是个英雄。
-
他不仅在打造一个非常有意思的产品，还在开创一件我们认为非常重要的事业。
-
所以我们对今天超级期待。欢迎你，Diogo。谢谢。
-
也许你可以先给我们简单介绍一下，你知道，Jev是什么？
-
TypeSafe是什么？它为什么重要？
-
这玩意儿对诅咒友好吗？对对对。哦，好，酷。你到底在说什么？
-
好，好，好，酷。
-
其实之前有人让我准备一个电梯演讲，我一般这种时候就容易东拉西扯讲不好，但我发现我最喜欢的Jev电梯演讲就是：自动化到底他妈在哪儿？
-
就，这事儿真的太悲剧了，你知道吗？
-
这么多智能，AI聪明得不可思议，可结果呢，不是说我看不上聊天机器人或者编程智能体，我自己就很喜欢它们，但它们在别的所有事情上都没什么用。
-
这真的很悲剧。
-
悲剧就在于我们有这么多好东西，像璞玉一样，但没打磨到能干活的程度。这就……
-
但TypeSafe是在为软件打造AI。
-
你知道，我们想让AI变得强大，不只是让人在回路里参与，而是真正去构建真正的软件。
-
而Jev对我们来说，就是我们在整个方向上推出的第一个模型，让自动化变得好得多得多。
-
对，所以这事儿挺有意思的，因为它在软件圈子里有点火起来了。
-
你知道，让我们觉得“这到底怎么回事”的其中一个原因就是，我们认识的每个开发者都打电话来说，哇，这玩意儿太牛逼了，太棒了。
-
它快，它好，一切都更好了。
-
那然后这又怎么……因为大家都会想，我们有Cloud Code，你知道，我们有Codex，我们不是已经有这些了吗？
-
那区别在哪儿？
-
然后这又怎么通向真正的自动化？
-
哦，我真希望我这儿有点什么幻灯片之类的视觉材料，因为我有一个特别喜欢的视觉图来讲这个。
-
所以，我喜欢Cloud Code和Codex。
-
嗯，我特别喜欢Gary Tan对它们的描述。
-
就是即时软件。
-
你知道，这个说法绝了，完美概括了它们在做的事。
-
就是它当场生成软件，你可以用自然语言来编程，但它有和软件一样的表达力。
-
嗯，我想要的其实是聪明的软件。
-
与其去自动化软件工程，我更想扩展软件本身能做的事，让那些本来就该能自动化的东西变得可以自动化，说得花哨一点，我想表达的是“意图”这类东西。
-
我想扩展我们能做的事情的词汇表，我可以聊各种奇奇怪怪的科幻设想，但编程本质上就是把有价值的东西极度精确地定义出来，然后无限复制它们。
-
这简直太酷了，我就想让这件事变得更多。你懂吧？哦，有意思。
-
所以可以这么理解：与其做一个某种程度上替代软件工程师的工具，造出一个更快、但可能还不如原来的软件工程师，你的意思是，不不不，
-
不。我们要极大地赋能现有的软件工程师，让他们写出好得多、有趣得多的东西。
-
对，我其实，我是说，对对对。
-
顺便说一句，我觉得太多人错过了这一点。而且这一点非常微妙。
-
把它讲清楚其实非常重要，就是说，如果你用Cloud Code或者Codex这种很棒的工具，或者Cursor，也很棒，它们会写代码。
-
但那些代码和人类会写出来的东西是一样的。
-
也许更好，也许更差，但基本上还是代码，就跟十年前的代码长得一样。
-
而Jev的不同之处在于，不管你是用AI写代码还是人写代码，你都有了这个新的原语，这个你嵌进代码里的新东西，它真正扩展了软件的能力。
-
所以它不是去写代码，而是你把它包含进你的代码里，这个，你继续说，你继续说，顺便说这很有意思，因为它是个非常强大的原语，你解释一下会很好，但它也和程序员习惯的方式有点不一样，比如说，
-
它有概率这个概念，你知道，所以，也许……
-
哦，就是软件内部的一个智能层。
-
对，可以把它想成一个库，一个你可以用自然语言描述你想要什么的库，你给它一个状态机，然后它会带着一定的置信度去选择做什么，这种东西我们以前还真没有过，这么普遍地存在，所以也许……
-
哦，这里面有很多门道。
-
我先跳进来说一件事，就是，我特别喜欢你说的第一点。
-
就是，沿着“自动化到底都去哪儿了”这个方向。
-
我太爱软件了。
-
我真希望能整天都写代码。这真是……
-
我不建议别人去当CEO，不过随便吧。
-
嗯，还有就是，AI这么厉害，可软件十年来几乎没变，这太离谱了。
-
你知道，对我来说，没人能把这些事对上号，我们最多也就是在边上加个小聊天机器人。
-
它能执行一些操作，但不是所有操作，因为有些操作还不够可靠。
-
所以，我就想稍微插一句这个。
-
嗯，我很喜欢这个观点，我再回到刚才那点，这其实是一种稍微不同的思考方式。
-
嗯，是的，我觉得机器原生并不完全等同于比特。
-
而这其实正是我们想做的艺术。
-
比如，我们入职第一天，我会画一个维恩图，标出AI擅长什么、代码里什么有价值，我们就在中间。
-
所以，你知道，我们不会输出外推的浮点数之类的，因为AI在这方面就是不行，你懂吧？
-
但概率这类东西并不算多新颖，这跟“Jev不就是个分类器吗”的论点很像。
-
Jev绝对是个分类器。
-
你知道，分类器很牛。分类器是……它们天生就是为实用而设计的。对，就是为实用而设计的。
-
而且它跟那些机器学习概念的接口是一样的，因为这些概念都来自想真正把系统跑起来的实干者。
-
我现在看到的是，Jev实际上，我猜它可能比2019年那种机器学习工程团队给你做的东西还要好，而且你可以直接现场编程。
-
谁知道能做出什么来呢？
-
因为2019年那会儿，好的机器学习工程团队也没那么多。
-
去做那些窄领域的东西，能收集数据集、做衡量之类的。
-
而这只是个开始。
-
我感觉好像有很多……
-
顺便说一句，说到这个，你觉得这里有没有一个滑杆，一端是像我们现在这样的语言进、语言出，另一端是现有的命令式程序，然后你可以在两者之间移动？
-
还是你觉得这就是设计空间里的那个点，也就是语言进、状态机出，这会固化成程序员用的通用方案？
-
哦，这个问题挺棘手的。
-
这么说吧，我内心的答案是。
-
我内心的答案是，它就是一个滑杆。
-
所以，其实在设计我们现有的这些特性时，我可能因为个人偏好犯了些错误，但比如，单位成本的智能现在是我的北极星。
-
而且说清楚，这也可能是错的。
-
短期内单位时间的智能可能更有价值，但就连我们的接口，比如把输入叫状态，这都是有意的。就跟那个一样……哦，太棒了，我都没注意到。
-
它本来就是想表示程序内部。
-
所以我内心觉得，我们确实在优化。
-
我做的很多工作是为了更复杂的程序状态内部结构，你能把智能放进去吗？
-
我觉得这会是一场永远存在的战斗。
-
你知道，我们对设计非常用心。
-
而且从实用角度讲，我觉得有些事会发生，比如在这些毫秒级别上做AI更容易，所以它会在一段时间内更像数据库，而不是标准库那样的东西。
-
但我也希望它能成为标准库那样的东西。我能稍微往回拉一点吗？
-
比如，造就一个Diogo的炼金术是什么？
-
我是说，你说话……
-
当一个男人和一个女人彼此相爱。
-
他们会说，听着，你说话像AI研究员，你说话像系统工程师，你说话还像程序员。
-
而且通常这些东西，怎么说呢，重叠度不太高。
-
而且，你是在把AI——我们一直推动它成为某种存在——变成程序员的工具。
-
所以也许可以聊聊你个人的经历，那个……
-
我进入AI领域的经历有点非主流。
-
嗯，我以前是个数学竞赛选手。
-
嗯，我是个拿过奖的数学竞赛选手。
-
嗯，怎么说呢，我数学好到……这话有点尴尬。
-
我数学好到能吸引女生。所以，还挺不错的。
-
我都不知道还有这种事。是啊，真的。你得相当厉害才行。嗯……
-
那你数学那么厉害，吸引的是什么样的女生？这绝对是个……
-
我们的听众需要知道。
-
哦，不行。我们得给年轻人树立榜样。别这么做。年轻人，别学这个。不值得。
-
就酷一点、放松一点。做个有趣的人。
-
别过度补偿。
-
哇，我真不敢相信我居然说了这话。
-
嗯，所以我以前是数学竞赛选手，但其实我从来没……
-
哦天，这个也有点尴尬。
-
我其实从来没真正喜欢过数学。
-
我也从来没真正努力过。
-
我就是那种小池塘里的大鱼。
-
对我来说，数学一直是我认定的那条路，但我讨厌它，因为它总是围绕着比赛拿奖。
-
但后来发现计算机科学其实很像数学。
-
基本上就是数学，但更酷、更有用。
-
而且有趣、好玩，我现在还是很喜欢出算法面试题。
-
这对我来说是不是最好的选择？
-
我不知道，但我喜欢它吗？喜欢。
-
而且它能让我很好地摸清一个人的底细吗？能。
-
所以我热爱计算机科学。
-
尽管我的经历是这样，但我更把自己看作计算机科学家，而不是AI研究员。
-
嗯，真正让我入行的是我也赢过一个Kaggle比赛，靠的不是高深的数学，而是把这事儿往死里自动化。
-
你懂的，就是更多的嵌套循环，更多……我会把它当成一个系统问题来解，明白吗？
-
所以，这最终把我带到了那个位置，嗯，我被迫在NeurIPS上做演讲。
-
按理说这是荣誉，但我讨厌它，因为我只想待在矿里干活。
-
那是因为Kaggle那件事吗？是的。哦，哇。
-
对，其实那个Kaggle的主办人是Isabelle Guillon，她是SVM的共同发明人。
-
其实我觉得她是SVM的第一作者。
-
我不百分百确定我是不是第一作者。
-
嗯，她基本上就是看出我是那种完全融不进研究圈的人，然后就把我收下了，带我见识了……
-
就是让我认识了所有AI圈的人，然后，你知道，我的职业生涯就被推向了那个方向。
-
从那之后，就去了OpenAI？
-
不是，是……
-
是跟Jeremy Howard一起做的一家创业公司。嗯……真的假的！我喜欢Jeremy。太棒了。是啊，酷。
-
嗯，然后去了Google Brain待了一阵子。
-
然后休息了一段时间。
-
后来我实在是受不了什么都不干了。
-
我就想，你知道吗，其实AI真的挺有意思的。
-
就是因为这个我加入了OpenAI，结果非常顺利。太厉害了。真的，真的非常顺利。是啊。不可思议。
-
你刚才说了句在当今世界特别少见的话，就是AI真的、真的很有意思。
-
而且你们公司对AI的态度和看法跟其他所有人都不一样。
-
我最喜欢你们说的一句话就是“我们造产品，不造神”。这话太妙了。
-
因为要是换成别的那种大实验室的负责人，就算他们心里高兴，也会藏着掖着。
-
而你们的看法就完全不一样。
-
你们会说，不，我们要创造一个好得多的世界，而且会非常棒。
-
不会有什么“以后”会少掉工作，而是会有更多工作，会有好得多的工作，每个人都会过得很开心。
-
光是跟你待在一起，就能看出来你真心相信这一点。
-
那你跟我们讲讲这个，因为对我们来说，TypeSafe、Jev，不只是一家公司，而是一场走向积极未来的运动，而AI圈大多数人并不喜欢这个未来。
-
或者说他们并不认同。
-
我觉得他们是没搞懂。
-
你知道，就像那只是个分类器的抱怨，是个机器学习层面的担忧，而别人都在开派对狂欢。
-
嗯，因为就像，天哪，我们想做的一切都能做到了，而且我觉得如果你不去争取开发者，就很难理解到底在发生什么。
-
所以，这一点我百分之百同意。
-
我确实觉得，有人描绘了一幅相当负面的图景，而我显然不认同。
-
我觉得这真的来自那种，嗯，你知道，大家都深信不疑的单模型万能论。我觉得是这样。
-
对对，一个超级大脑统治一切。
-
这算是，这算是其中一种说法……
-
这说法听着可 ominous 多了。
-
对对，但人们听到的就是这个意思。
-
是啊，人们听到的就是这个意思，没错。
-
但是，你知道，那一个……
-
那一个大脑真的走在统治我们所有人的路上吗？
-
你看，我们连一些非常基础的事情都还没自动化，而那些事我觉得本来就不该让人来做。
-
你知道，有很多很多非常非常基础的东西，我觉得……
-
哎，当世界和现实脱节的时候，我真的很痛心。
-
而这种痛心的一部分就是，你知道，他妈的自动化到底在哪儿。
-
你看，AI 怎么能聪明成这样？
-
而且，自动化这件事有那么多、那么多的经济激励。
-
是啊，你可以为扩散找个借口。
-
我完全不信这套。
-
我不该点名，但很明显那不是真的。
-
问题的一部分就在于，跟现实脱节。
-
而AI有这么大的潜力，这恰恰让我特别痛心，因为我们一直没能把它发布出来。
-
所以现在对我来说有点像在开派对，但说实话，我以前是怕AI的。
-
所有Jeff的用户都是这样，有快乐的AI，就是那些用Jeff的人，然后还有忧郁的AI，就是那些不用的人。
-
这真的，呃，这是一种挺有意思的二元对立。
-
真的，确实，我跟你说，接着你说的自动化那点，今天早上我跟管我们成长基金的David George聊了一段挺有意思的话，因为我们在聊那些新工具。
-
我就问他，你试过Muse那个东西吗？他说，哦，太棒了。我说，你拿它干嘛了？
-
他说，我终于把我的纽约时报订阅给退了。
-
我说，那可不容易啊。
-
但你知道，这只是一个冰山一角，那些特别烦人、需要我们去自动化的事情，这才刚开始。
-
我觉得，如果我们真要诚实地面对这个问题，而且我们真的朝着自动化这个北极星去努力，我们就不能掉进AI已经掉进去的那些反模式里，也就是老是盯着那些极端案例和演示，对吧？
-
很多人问我，你最喜欢的用例是什么？
-
我说，我不确定它们到底能不能用。
-
我希望它们能在后台跑起来，让人放心地交给它去运行，而不用半夜被叫起来。
-
而且别人也能在上面继续搭建。还有，你知道……？可组合，我想是可组合吧。
-
可组合，但是，有没有那种安全的东西，对吧？
-
这是一种不一样的安全，就是说，如果你真的想带着相关的资源去跑，能访问各种东西，你就需要这方面的保证，或者至少是统计上的保证，还有，嗯，就像……
-
这样它就不会失控，搞出那种烂摊子，那种事？
-
嗯，我觉得我们的模型短期内不会干那种事，除非有人真的写出那样的软件，那可就太酷了，太酷了。
-
我得想想怎么给那玩意儿记功，但又不能搞成我们不用负责。对对对。
-
我开玩笑的，话说这个直觉在你心里酝酿多久了？
-
因为我记得跟你聊过，大概是2017年？
-
我们确实聊过那个，对。
-
对，然后很多这些想法当时就有了，你知道，你当时在说数据很重要，你说想专注于任务本身，但是，所以我就，你知道，这是不是，
-
你当时就知道这最终会变成一个分类器，还是只是一种直觉，觉得看待整个AI浪潮还有另一种方式，你懂吗？
-
其实，关于2017年那次演讲里的那段对话，有个挺有意思的故事。
-
我觉得我那次演讲其实主题非常相似。
-
我记得题目大概叫“AI模块化，理论上灵活，实践中也灵活”之类的，这非常偏软件。
-
所以我在这点上还挺前后一致的。我……
-
我觉得这真正开始是在ChatGPT之前。
-
嗯，就在我们发布这些东西的时候，我当时并没有这种直觉。
-
说实话，我甚至都没……
-
我对RLHF的泛化能力感到非常非常惊喜。这是什么时候？
-
应该是2021年底。
-
大概，呃，2021年第四季度。嗯，我们当时……
-
它真的非常非常通用。
-
如果你读那篇论文，它不像别的论文那样想证明自己的观点。
-
我们其实是，你知道，用类似科学方法，试图去证伪，比如，它是不是在作弊？
-
而且，呃，你知道，我最喜欢的查询是：为什么冥想前吃袜子很重要？
-
我们事先确保过这个不在互联网上。
-
然后，模型居然能给出看起来像人写的、挺合理的答案。
-
对我们团队来说，那一刻就是恍然大悟：这不是作弊，而在机器学习里，你本来就总该担心作弊。
-
然后真正让我受打击的是，我们把它发布出去了。
-
呃，你知道，我们做了——你知道，我显然是个特别看重能力的人。
-
我为了发布那个模型做了很多事。
-
我，我真的觉得那个模型有相当大的机会成为AGI。
-
结果它没有，那一刻我的整个世界就崩塌了。我就在想，为什么？
-
哦，所以你有一阵子是站在另一条船上的。
-
哪条船，疯狂那条吗？
-
呃，不是，我只是觉得，RL能泛化，也许我们就有AGI了，就这样。
-
RLHF泛化得相当不错。
-
据我所见，RLVR才是那个泛化得没那么好的。
-
而AGI在……
-
呃，我只是想说更多。
-
我是说，你知道，你当时在ChatGPT，你是这些早期GPT背后的。
-
那是一个非常不同的目标，就是造一个能跟人对话的聊天机器人，而不是程序员的工具，等等。
-
所以我就是想知道……
-
哦，其实早期，早在2020年的OpenAI，我们谈AGI的时候，人们常把它描述成Ilya加上一堆if语句。
-
呃，所以，它不是，它有点像……
-
但这不是有点像——我们刚才在聊OpenAI的文化，其中一部分就是它故意保持模糊，所以它像个大帐篷，让每个人都能待在里面。
-
但出于一些微妙的原因，我不认为我们走在RSI的路上，我现在仍然不这么认为，而我当时是这么认为的。
-
我确实认为，OpenAI所定义的AGI是完全可以实现的。
-
把世界上大部分有经济价值的工作自动化，听起来其实就像，呃，天哪，我不……
-
你想，外面的工作太多了。
-
其中很多都非常机械、非常简单。
-
而且从数量上看，要想把工作外包出去，你需要的是那种简单指令，就是普通人也能照着做的。
-
而据我所知，这种智能在模型里已经存在相当长一段时间了。
-
而且，我的……天哪。
-
你知道，我心里一直憋着一股劲儿：为什么这东西还没被用起来？
-
然后，自从RLHF之后，整个行业就有点像分岔了，变成了巨大的过度承诺、交付不足。
-
我觉得GPT-3在当时其实校准得相当不错。
-
但因为是人类在评估模型有多好，所以看起来特别好，因为人类就是裁判，可我们一直在优化那个裁判，而不是自动化那部分，而这一直就是缺失的那一环。
-
所以我想说，真的是到那时候我才突然意识到，你知道，就是，为什么这东西没有更有用一点？
-
所以你认为我们该用的衡量标准，是你能把多少实际的生产性任务自动化？那个……
-
你说过度承诺、交付不足的时候，你特别指的就是这个维度，对吧？就是自动化任务的能力。
-
我，那个，我心里觉得，这就像很酷的科幻。
-
呃，你知道，而且我觉得……
-
我觉得那就是酷科幻的煤矿里的金丝雀。
-
就像，你真要告诉我，数学已经被解决了，甚至就像两年前，GPQA，那个谷歌都搜不到答案的问答已经被解决了，可我们连个免下车点餐都还搞不定，对吧？
-
就像，这事儿很难同时在脑子里装下。
-
而且我觉得很多人对这个问题都没有好的答案。
-
我能先试一个东西吗，可能说不通，但我就是想……
-
我是说，不过不是有种说法吗，现实世界的分布跟数字世界是不一样的，对吧？
-
它是重尾的，有很多例外，我们并没有全部的数据。
-
而且我是说，会不会我们在现实世界里做不成那些有产出的事，原因就是我们没有那个分布的数据，我们没在那个分布上训练，所以它基本上就只能被局限在那些低维流形上，
-
比如数学或者代码或者……
-
嗯，我个人其实并不完全认同这个数据的说法。
-
嗯，我确实相信存在长尾，这一点是肯定的。
-
否认这个就有点离谱了。
-
而且我觉得，在我说的那个“煤矿里的金丝雀”的情形里，我们并不需要把那个长尾自动化。我觉得……
-
我觉得我们在所有事情上都得极其务实。
-
而且，构建可靠的软件从来都是一项投资，对吧？
-
就像，你知道，程序员的三项伟大美德是什么来着？
-
懒惰，为了不再做一遍，还有傲慢，还有……还有第三个。对，我想起来了。
-
这是从 Perl 时代来的。对，还有第三个。
-
我真希望我能想起来，不过大概就是说那种懒惰，愿意花上十个小时，就为了把那个五分钟的任务一下子搞定，然后永远不用再做一遍。
-
就像，它只应该，对于想自动化东西的人来说，这应该是个投资回报率的决定。
-
我就只是希望它能变得可自动化。
-
而且我觉得人们会创造出新的工作种类，所以才有杰文斯里的“杰文”。
-
一旦那些事情能做了，就会有新的工作种类。
-
不过，作为一个基准，我觉得看看我们到底能不能把那些看起来真的、真的应该能自动化的东西自动化，是挺有用的。对，我应该能把它自动化。
-
OpenAI从2020年起就一直在尝试把客服自动化。
-
你知道，就是，它……你知道，就是，它并没有。
-
这挺惊人的。
-
这太疯狂了，你知道，太疯狂了。
-
我是说，在公司内部，现在真正自动化的东西非常少。
-
而且那些项目都没成功。
-
除了编程，那个效果特别好。
-
你能不能大概分一下类，说说你觉得现在哪些类型的问题更容易自动化？因为这事挺有意思的。
-
其实在现在这波生成式浪潮之前，我们就研究过客服支持。
-
挺有意思的，你去见一家公司，公司会说，我们处理了所有客服电话的95%，这数量可真多。
-
但等你真去看数据，就会发现全是重置密码。
-
可要是按独特性来算，大概只有50%左右。
-
所以感觉就是，当你面对的是人和自然系统时，就是有这种非常长的例外长尾。
-
所以，在多大程度上，每一个……
-
大概每个小时，都有人来找我说，我在用Jev做这个新用例。
-
我完全没想到，你知道，就是，你知道，而且……
-
所以，你到底在多大程度上预见到了它这么广泛的用例范围？
-
你是觉得那一定会发生吗？
-
你有没有被惊到，还是……极其惊讶。
-
完全没料到会发生。
-
呃，这次发布……
-
就是，不是那种，如果有人预料到了这个，那他们大概是疯了。
-
嗯，对，就是，它……
-
我觉得没人能预料到一个面向开发者的ChatGPT，因为ChatGPT是给，你知道，普通用户用的，这挺奇怪的。
-
我其实都不知道JF party里的人有多少百分比本身就是开发者。
-
我无法想象非开发者会用它。
-
我不知道他们会怎么用。
-
但就连我那些非开发者的朋友，也只是在Twitter上参与这个party、玩梗什么的。
-
所以，第一，太惊艳了。
-
第二，这个在这么短的消息里很难传达，因为，这已经是好几年的血汗和泪水了。
-
就是，我对可靠性的在意程度……非常大。
-
可靠性就是这个东西的本质。
-
如果你不理解这一点，想做一个对标基准的仿制品会非常难。
-
就是，它……
-
我觉得每一个九的可靠性对所有人都会非常有价值，即使它不是市值上最有价值的东西，因为它会直接催生新的应用。
-
而且，我们正在为各种各样、奇奇怪怪的可靠性九位数而奋斗，有些我们自己都还没完全搞明白，因为我们就是，你知道，真的在把AI这个、智能这个电动机，装进人们的工作站里，
-
然后他们可以自己琢磨拿它做什么。
-
在这个语境下，可靠性是什么意思？
-
这是指模型的可用性，还是说我调用模型它返回同样的结果，还是说，我该怎么理解可靠性？对，所以……
-
对于一个本质上有点随机性的东西来说。
-
所以，不是前面那个，第二个更接近。
-
第一个我会说更像是正常运行时间或者SLA之类的。
-
第二个我可能会说更接近确定性。
-
第三点，我会觉得更像是鲁棒性。
-
鲁棒性我会描述成每次都有相似的智能水平。
-
对，所以不完全是确定性，因为我觉得确定性对单元测试有用，但对真实系统不适用。
-
你想，如果你在提示词里加一个UUID，结果应该是一样的，因为功能上是一样的。
-
但它并不是完全确定性的。
-
我觉得还有一层，我目前还不知道该叫它什么。
-
也许这就是我会称之为某种形式的智能，就是它不需要每次都有相同的功能，但每次都得聪明。
-
你想，如果你处在那个情境下，人类会觉得这个想法可以理解吗？
-
因为开发者可以围绕这个来编程。
-
其实对我来说，可靠性的最高境界就是达到人们可以针对Jev编程而不用做示例查询的程度。
-
就是当你完全信任它的时候，你就会一直处于心流状态，疯狂地创造软件。
-
很多软件今天就是这样，对吧？
-
我觉得这完全不是不现实，我会接受的。
-
顺便说一句，这个问题有点奇怪。
-
我的意思是，如果太奇怪了，你随便说就行。
-
但我突然想到，如果你有这样一个原语，那像编程智能体这类东西的价值其实会降低，因为你可以说，随便吧，某个codex帮我构建所有软件，但它实际上并不使用Jev。
-
所以它创造出来的软件本身就有一定的局限性。
-
或者你可以说，行，我作为一个人，我不用编程智能体，自己写软件，但我有这么个非常通用的原语，能让运行软件变得更简单。
-
所以，你觉得，会不会看到这样一种未来：编程智能体在用Jev，然后你在指挥编程智能体，那这样是不是就有了冗余？
-
还是你觉得，这更像是人在实现？
-
这更像是编程智能体的问题，而不是Jev的问题。哦，对，那当然。对对。
-
所以，我的感觉是，呃，我对编程这块的关注没我想的那么多。
-
所以，你们俩可能比我更了解那边的情况，这挺遗憾的，但我的经验是，它们特别擅长语法，特别……它们不擅长语义。呃……
-
我得说，在架构上简直差得离谱。对。
-
所以对我来说，架构是软件里最有人味、最有创造性的部分。
-
所以，我很喜欢用编程智能体。
-
我觉得GEV几乎肯定不在分布内。
-
要是它们拿我们的用户数据训练过，那就太吓人了。
-
呃，所以大概不是。
-
呃，但我觉得，等它在分布内的时候，让它来做语法这块，我完全没问题。
-
而架构这事儿，也许这些模型其实不只是架构烂，也许它们就是五十分位的架构水平。
-
如果你对架构一窍不通，那也够用了。
-
所以这些都是灰色地带的取舍，得你自己去权衡，有时候速度就是你公司或项目要拧的那个旋钮。
-
比如，你愿意用五十分位、五十分位的架构，而不是六十分位的，因为你想跑得更快，想让codecs一夜之间跑完之类的。对。
-
其实顺着这个思路，市场上已经有一个挺有意思的现象，就是编程智能体一出来，就来了个SaaS大末日，所有SaaS公司的估值都跌到谷底。
-
然后Jev一出来，每家SaaS公司都说，这是有史以来最棒的东西。
-
那你解释解释这是怎么回事。
-
我也不知道还能说什么，对吧？
-
我觉得这挺自然的。
-
就像SaaS大末日那个说法里，我觉得后来被证明特别站不住脚的一点，是说软件很便宜、可能还很容易复制；前者我信，后者我不信，因为很多东西都藏在底层。
-
我可能在这儿有点太偏软件粉了。是啊，我们都一样。
-
对对对，行行行。
-
我都不知道你可能在哪儿写代码。
-
这方面我们有很多历史包袱，百分之百。
-
所以我觉得那个说法其实没怎么成立。SaaS看起来，也许市场不这么认为，但我觉得SaaS提供的价值和以前一样，可能只是市场害怕了。
-
不过我觉得SaaS会是整个AI浪潮里最大的赢家之一，我特别想跟那些最大、最无聊、最懂用户问题的SaaS公司好好合作，因为我觉得它们最有条件知道该自动化哪些工作流，
-
人们需要什么，那本来就是它们的看家本领；而且愿意花大钱，你知道，软件一直是资本开支，但你是提前投入，好让这个体验变得更好，然后分发到那么大的用户群体里去。
-
所以我觉得这会是一场，我不对金融市场做任何预测，但我觉得就能力这场竞赛而言，这会是一场反向的SaaS大末日，我对此特别兴奋。我得给它起个名字。
-
对，明白了，对，你该起个名字。
-
SaaS-a-palooza。哦！
-
听起来有点太欢乐了。
-
嗯，SaaS应用会突然变得有用得多。
-
而且顺便说一句，那种资本投入，SaaS公司很大一部分资本投入其实是用在触达所有客户上的。
-
所以如果你已经触达了所有客户，然后你不只是往SaaS里塞个聊天机器人，而是真正让软件变得好得多得多。
-
嗯，那可真是了不起。
-
我不知道这是不是个现实的梦想，但我觉得存在这样一种可能：多选题表单会直接消失。
-
你知道，我觉得它们一直都是在把自然语言——通常是软件里本来就有的东西——映射成某种类似开发者的输出。我觉得那会……
-
这 literally 就是八十年代的东西。
-
就像，它叫，我们以前管它叫4GL，也记得它们。第四代语言。对。
-
其实，我觉得这也是八十年代的东西。这说不定是句骂人的话。我那时候还……
-
嗯，我觉得“按我意思做”这种理念会被推到全新的高度。
-
如果我能给一个GEV应用打个广告的话。
-
我不知道它靠不靠谱，所以我不能保证什么。
-
但它真的酷毙了。
-
有人在用语音控制你的电脑。
-
它基本上一直在做判断，比如，这是个命令还是在插入文字？在哪儿插入文字？
-
听起来简直酷得难以置信。
-
我觉得界面可能会彻底改变。
-
也许我们得把它做得更便宜或者更快，你知道吧？
-
对，那你就到《星际迷航》那一步了。
-
哦，好吧……
-
你知道，这里有个特别深刻的直觉，就是，如果你今天用AI来生成软件，对吧，你造出来的还是跟以前一样的软件，但如果你真去看看大公司里平均一个PR，也就10行，对吧？说真的，不，真是这样。我在谷歌待过。
-
我们真做过这个研究。所以差不多就是10行。
-
所以你就等于在自动化10行。
-
而且顺便说一句，那10行还是从客户那儿学到的东西的一部分之类的。
-
所以你优化的其实是个相当微不足道的东西。
-
但它做不到的是给软件提供新的能力，对吧？
-
它其实就是在自动化这件事，而这件事到头来其实相当微不足道。
-
而现在，确实有了一种新的能力。
-
所以有可能就是，软件真的就变得更好了。
-
顺便说一句，甚至在Geva之前，我压根没想到，不管你用多少AI编程智能体，软件其实并没有变得更好。
-
也许你写得更快了。
-
但可以说它反而变得更糟了，因为监督更少了。
-
而且往往更不安全。那肯定的。
-
但你现在确实可以论证说，应用会因此拥有新的功能，因为你提供了这个新的原语，我的意思是，某种程度上，它能说自然语言，也能推理，但它把这一点和一个状态机结合了起来。
-
我……
-
如果人们把这当作一个收获，那对我们所做的事来说，会是最高的赞美。
-
其实我觉得，要超越我们现有的三个逻辑门去扩展，这个愿景几乎太宏大了，你知道，我们的类型有点像其中同一个逻辑门，但就像里面装了个小大脑。
-
那会是对type-safe legacy最大的赞美。
-
因为，那对世界来说是一件非常不平凡、巨大的事。
-
嗯，我不会过度承诺、交付不足，但我会为此而战。
-
是啊，我是说，听着，我觉得有一些相当开放的问题，就是这能深入到什么程度，比如真正严肃的东西。
-
比如状态一致性、持久性，或者真正系统层面的东西，那种你确实需要提供强保证的地方。
-
所以，百分之百这会改变一些事情，比如分析日志、分析邮件、提供UI、和人对话，这些肯定没问题。
-
但是，你知道，你可以论证说，随着时间推移，这会变成一个智能数据库，你知道，所以……而且还有……
-
空中交通管制系统。我是说，任何东西，对吧？而我们真的需要这个。哦，对，对。
-
有点吓人，不过我觉得，先自动化简单的工作，再去做难的工作，这始终是我的理念。
-
但我也觉得，会开启一个全新的概率编程时代，就像我的……
-
顺便说一句，你知道概率编程有很长的历史吧？
-
它们基本上在七十年代就消亡了。我了解这个。
-
我其实觉得，这也会是同样的，你也可以把Jeff叫做神经符号AI。
-
所以，你的联合创始人Eric就是从那个背景出来的。他跟我说过。哦，酷。
-
哦，对，对，对，他做了很多生物学方面的工作，所以……
-
它起起落落，但我的意思是更……我不是粉丝。
-
我的招牌就是务实。极其务实。
-
我不喜欢那种受生物学启发的东西。
-
呃，完全不喜欢。它从来就没成功过。你注意到过吗？
-
我是说，我觉得它从来就没成功过。
-
它的用处是激励那些疯狂的人几十年如一日地钻研，直到它成功，然后他们再把它提炼成工程版本。
-
AI的历史就是这样，神经网络肯定是。是的。
-
但是，你知道，很多关于它如何运作的说法其实并不准确，对吧？
-
所以，比如应用的分层特征最后其实没行得通，因为否则ResNet就不会成功了。说来话长。
-
呃，我确实觉得这会打开局面，从系统的角度看，我对这部分并不兴奋，因为它真的很，我是为这个世界兴奋，而不是为我自己去编这个，因为听起来真的很复杂。
-
但我觉得，当我们有大量智能，在大量不同的成本和速度权衡下，那些超级系统型的人会在，你知道，就像Jev会比他们聪明一千倍。
-
他们只想要一个近似的链接，做一个近似的猜测，乐观地把请求路由到这里那里。
-
这会疯狂得不得了，这类东西在极端系统里可用，那……
-
好消息是我们可以重新构建系统了，这很棒，对吧？我们有了一个新的……
-
不，说真的，我们有了一个新的原语。
-
这算是一种思考如何做软件的新方式。
-
我是说，我们做过这件事，我们为互联网做过这件事。
-
你知道，我们从大型机到客户端-服务器也做过。我是说，我们周期性地做这件事。
-
顺便说一句，就因为网络安全问题，我估计我们可能得重建几乎所有系统，只是为了让它们安全。
-
我觉得很明显，它们已经不正常了。
-
至少关键基础设施肯定是这样。对，对。
-
你更多是从应用、SaaS、分析这个角度想，还是更多从系统、基础设施这个角度想，还是全都包括？
-
从我会怎么想的角度，还是怎么想？
-
对，就是这东西的通用应用。
-
当你想到你在做Jev，你大概会设想人们在采用它，就像，你知道，你，也许你甚至有自己的看法？
-
我有一点想法，而且它……
-
所以，我的想法有点，像是深入到TCP的内部机制里。
-
你知道，就像UDP、TCP，你知道，它不可靠，不可靠。说到我心坎里了。正是。
-
而且，我，所以，当我想到AI，你知道，我是说，当我想到AI，这也是为什么我在意每美元能买到多少智能，说清楚一点，当我思考，以及我怎么得出这个结论的，我是从AI驱动的经济革命倒推的。
-
AI无处不在，你知道，科幻什么的，就像所有软件里到处都是AI。
-
然后我问自己一个问题，对AI的调用里，想象它就像一个函数，那个……
-
有多大比例是给人消费的，需要风格之类的？
-
对，而且那会是很多个九。
-
而且实际上，从同一个问题出发，有多少会在第一层，而不是深入内部机制，对吧？
-
我觉得内部机制里会有很多个九，但它会从第一层开始。
-
但是，我们得，如果你不瞄准内部机制……等等，这话听着怪怪的。
-
如果你不瞄准内部机制，那你要花好一阵子才能到那儿。对吧。
-
我觉得人们没意识到，AI和软件擦肩而过到了什么程度。
-
就算你试着把AI嵌进软件里，它也不太听话，对吧？
-
因为软件其实不吃自然语言那一套。你就得搞各种奇怪的操作。
-
比如你把提示词塞进去，说这是你要的JSON输出，这是schema，可它根本不听。
-
结果你最后能做的，就是把输出直接交给人类。
-
你说，或者交给另一个LM。这就是while循环。就是那个agent的while循环，对吧？
-
所以从基本原理来看，要么得有人在环里，也就是聊天。
-
要么就是个agent，也就是while循环，因为自然语言得喂回另一个东西里。
-
是的，我得说，我亲眼看着这一切发生过。
-
几乎就像是那种“悲伤的五个阶段”。
-
你知道，人们会拿起AI，说我要在软件里用这个，对吧？
-
然后，你知道，然后它就会经历，你知道，什么否认啊，试着让它跑起来啊，愤怒啊，然后他们走到接受，就是，好吧算了，我就把这个交给另一个大语言模型，交给一个人。
-
所以真的是擦肩而过。
-
我觉得这是我第一次看到有人真的说，你可以拿一个大语言模型，你可以拿AI，真的把它映射成一个状态机，而且能高效地做到。
-
我也希望如此。
-
我也不想过度承诺、交付不足。
-
我不知道它是不是已经准备好应对所有那些被过度承诺的应用了。
-
我真心希望它能做到，而且我的团队显然会为此努力。
-
我们真的非常在意可靠性。
-
我们本可以早得多就发布。
-
我觉得人们没意识到这一点。
-
说实话，我觉得他们不会意识到。
-
从我看到的推特上的讨论来看，我觉得人们永远不会真正理解，但它就是会有那种好的感觉，就是，哦，这个我能信。所以……
-
嗯，这就是个反挫败机器。对。
-
这是个……我希望如此。
-
我希望它能做到“懂我意思”，对吧？
-
对我来说，这关乎世界运转的顺畅。
-
就是让一切都更顺畅地协同运转，像齿轮一样互相咬合。
-
其实我把我的整个AI乌托邦设想分成了好几个不同的维度，都是我非常非常想要的。
-
而“懂我意思”是其中很大的一部分。
-
你想啊，要是所有技术都能做到你心里想的那样。
-
这可不是科幻。
-
看看AI现在多聪明，对吧？对。
-
不，这真的很了不起。
-
也许我们可以用这个想法来收尾。
-
“懂我意思”。对，我很喜欢。谢谢你，Diogo。
-
这是一次很棒的对话。我真的很享受。