返回文章学习 CMS 文章

Jev 与 System One 模型：Diogo Almeida 谈为生产而非上帝构建 AI

Diogo Almeida 解释 Jev 为何选择 RLCD 而非 RLHF/RLVR，以及 AI 如何从聊天机器人转向可编程的软件依赖项。

Latent Space

JevRLCDRLHFSystem One

成长分 / 100 72 综合收获、行动、留存与影响

Jev 与 System One 模型：Diogo Almeida 谈为生产而非上帝构建 AI

为什么值得读理解 RLHF 的校准缺陷与模式崩溃问题，以及 RLCD 作为替代方案的动机。

了解 Jev 作为 System One 模型的设计哲学：为软件消费而非人类对话优化。

关键洞察

RLHF 优化人类评分反馈会导致幻觉、谄媚和模式崩溃，而 RLVR 虽能解决难题却加剧智能参差不齐。
Jev 的核心创新 RLCD 优化的是在 System One 任务上给出具有认识论诚实概率的答案，而非人类偏好。
拒绝回答在软件依赖项中会成为严重问题，AI 应像正则表达式一样消失在背景中。

转成行动

深入阅读

正文与原文对照

原文保真覆盖：全文原文字符：195792

AIE NYC 门票现已开售，另可申请仅限受邀参加的 AIE CODE。欢迎加入！

我们与今天这位嘉宾的关系有些特别：自合著 InstructGPT 论文以来的多年里，Diogo Almeida 一直在说，可通过 API 使用的前沿模型走错了方向，无论从对齐、拒答还是可靠性的角度看都是如此；而由于 ChatGPT 的巨大成功，我们放弃了除自回归、经聊天调优的 LLM 之外的所有模式。

▶ https://www.youtube.com/watch?v=cFx9Z3ZXca0

在一段观看量已达约 4000 万次的发布视频中（作为对比，GPT4o 为 2200 万，Fable 5 为 1500 万，Navier Stokes 为 7400 万，6 Astra 为 1.37 亿），Diogo 介绍了 Jev，它立刻占领了整个 AI 时间线。我们就不做完整的 Jev 讲解了，因为你喜欢的 AI 网红/教育者多半已经做过一期。我们还整理了：

Allie 整理的、你应当首先看的官方模式和实战手册
Jev 用例
- 基于速度的用例：游戏与计算机操作
  - 我们在 1 小时 34 分钟处讨论的语音 + 计算机操作示例
    - 语音 + 浏览器控制
  - 不容错过的 Doom 演示
  - 游戏中的驾驶汽车
  - Excalidraw
  - 虚拟试穿
  - “智能游戏”/智能 NPC
- 短信中的引导式回复
- 用于编码智能体的 Jev 有一份官方指南
  - 用 Jev 做代码检查（linting）
  - 压缩工具调用
    - Theo 提出的合理反对意见。Diogo 发表了一篇关于 KV Cache 的暴政的文章，建议你听完本期播客后接着读，以了解 Jev 与编码智能体的关系，因为他相信缓存决定一切
- 构建在 Jev 之上的编程语言（Diogo 的最爱）
- 用于分析的 Jev 回放和用户旅程回顾
- “暗数据”
  - 实体解析
  - 自然语言搜索
- “智能软件”
  - Jev 的核心目标之一是“消失在背景中”，比如像正则表达式一样平淡无奇
- 以 Jev 作为评判者
Jev 梗图
- Jev 与 LLM 的能力对比
- 融合 transformer 与分类器
- 关于置信度 API
- Jev 对比 GLiNER（注意差异/反对意见，赞同，赞同，赞同）
- Jev 谈电车难题
- Jev Bush

我们要聚焦的是我们能提供的独特价值：从更宏观的哲学和使命层面理解 Jev 是如何、为何被创造出来的，接下来可以期待 TypeSafe 推出哪些未来模型（ReasoningJev？），以及你应该做哪些用例和想法，而不是去做第 55 个低投入的 Jev API 山寨版，或是做一个通用的 JevBench 基准测试，而这正是 Diogo 公开拒绝的事。

▶ https://www.youtube.com/watch?v=cFx9Z3ZXca0

为什么选择 RLCD：三种 RLHF，以及为什么它们都是错误的北极星

Diogo 对 RLHF 相当了解，因为他所在的团队开创了 OpenAI 的后训练工作。他把这三个分支追溯到 Christiano 等人 2017 年的工作（机器人后空翻演示）、Stiennon 等人 2020 年的工作（学习摘要）以及他自己的心血之作 Ouyang 等人 2022 年的工作（InstructGPT）。从那以后，从函数调用到结构化输出再到推理，每一项创新都像是在基于字符串的序列到序列预测范式之上打补丁。正如他在播客中提到的，2023 到 2024 年间，由于个人和组织层面都低估了这件事，他曾苦苦尝试却未能训练出一个模型，去准确解决他认为让 LLM 成为软件核心的最根本问题：可靠性。

Jev 的核心创新是“面向校准决策的强化学习”（Reinforcement Learning for Calibrated Decisions），这是一项尚未发表的新技术，它优化的目标是“在 System One 任务上给出带有认知上诚实概率的答案”，而不是人类评分反馈（RLHF）（它会导致幻觉、谄媚和对人类的长期依赖），也不是带评分细则、可通过程序验证的输出（RLVR）（它能解出 Navier Stokes，却会加剧智能的参差不齐，并且与其他软件集成得不好）。

我们之前在播客中谈过校准问题，但要理解 RLCD 为何成为必需，最好的单一去处大概是 Diogo 在 AIE 的演讲，其中讨论了为什么这一代为人类训练有用 AI 助手的做法，反而损害了它们在训练用于自动化的可组合、可编程 AI 方面的能力。

▶ https://www.youtube.com/watch?v=cJ0EOzey--o

最后，他还透露了他对扩展定律的逆主流观点，这暗示了如何在没有大型实验室那样的数十亿美元的情况下，打造一家现代新实验室（neolab）……

最苦涩的教训：任务与数据胜过算力

我们花了不少时间讨论 Diogo 那篇关于最苦涩的教训的文章：

他的观点是：“你优化什么，就得到什么，而机器学习中最苦涩的教训是，其中最重要的部分根本不是机器学习。”选对北极星，比如是按用户偏好点赞，还是融入工具调用，其他一切自然会各就各位。

我们很高兴与刚染了头发的 Diogo 叙叙旧，并讨论：

为什么 AI 能解决极其困难的问题，却仍无法自动化基础工作
什么是 System One 模型，以及为什么 Jev 是为软件而非聊天而构建的
RLHF、模式坍塌、校准，以及为迎合人类偏好而优化的隐性代价
当 AI 被埋在软件依赖之中时，为什么拒答会成为问题
为什么 TypeSafe 拒绝公开基准测试，转而优化每美元智能
“最苦涩的教训”：为什么正确的任务和正确的数据可能比算力更重要
为什么 TypeSafe 把自己看作数据实验室而非模型实验室
RLCD 与 RLHF、RLVR：AI 的根本不同的北极星
为什么可靠性和鲁棒性比单纯的确定性更重要
Jev 的编程原语，以及智能如何映射到软件控制流
为什么开发者应该把 AI 工作流拆解成小而可衡量的决策
结构化状态如何取代巨大的提示词和系统消息
为什么 Diogo 认为 AI 最终应当消失在软件的背景中
“逆向 SaaS 末日”，以及 AI 如何为现有软件注入强大动力
System One 与 System Two 智能，以及推理模型的局限
暗数据、计算机操作、实时智能，以及 Jev 最大的早期用例
为什么 Jev 可能重塑围绕单一模型架构构建的编码智能体
为什么 Diogo 说他不会用 10 亿美元做预训练
通往 TypeSafe 的 OpenAI 经历，以及他为何认为许多新实验室对 AI 的思路有误
超越 KV cache 的编码智能体、共享状态、子智能体，以及多智能体的未来

Diogo Almeida

LinkedIn：https://www.linkedin.com/in/diogomda
X：https://x.com/CompleteSkeptic
TypeSafe AI：https://typesafe.ai/

时间戳

00:00:00 Jev 发布周与 AI 经济革命

00:02:50 什么是 Jev？System One 模型与可编程 AI

00:05:54 RLHF、模式坍塌、校准与 Yann LeCun

00:10:29 程序化 AI、拒答与安全对齐

00:17:21 为什么 TypeSafe 拒绝公开基准测试

00:20:43 最苦涩的教训：数据、算力与正确的任务

00:24:59 RLCD 与 RLHF、RLVR

00:28:42 为什么强大的 AI 仍未实现经济自动化

00:39:55 可靠性、鲁棒性与确定性

00:48:11 模型版本管理、LTS、速度与每美元智能

00:54:04 深入 Jev 的 API 与编程原语

00:58:28 如何用 Jev 构建：结构、拆解与小决策

01:18:28 逆向 SaaS 末日与 AI 融入软件

01:33:21 计算机操作、暗数据与 Jev 最大的用例

01:38:48 Jev 如何重塑编码智能体

01:41:00 AI 安全、前沿节奏与 RLVR 的局限

01:48:03 为什么 Diogo 不会用 10 亿美元做预训练

01:55:19 TypeSafe 背后的 OpenAI 故事

02:01:41 为什么 Diogo 认为大多数新实验室对 AI 的理解有误

02:08:00 超越 KV Cache 的编码智能体与多智能体的未来

文字稿

引言：Jev 发布周与开发者热度

Swyx [00:00:00]：好，我们到演播室了。今天很特别，因为这周我的好哥们 Diogo 发布了 Jev，它已经霸占了整个时间线。你感觉怎么样？现在做你是什么体验？

Diogo Almeida [00:00:16]：情绪上吗？

Swyx [00:00:17]：对。

Diogo Almeida [00:00:17]：从没这么糟过。我现在就是一具破破烂烂的行尸走肉，因为事情实在太多了，而且我是技术型 CEO，所以有很多火要救。

Swyx [00:00:29]：嗯。

Diogo Almeida [00:00:29]: 但从心理上说，我觉得——这话我一直在讲，多年来在我的 over-under 活动里也一直这么说。我觉得整个 AI 领域就像那种嘉年华里的哈哈镜屋，每个人都疯疯癫癫，说着最离奇、毫无道理的东西。而就这一周，我感觉自己跟现实同步得更好了，就像是“哦，大家现在看到了”。AI 能做到的，远比当初想象的多得多。

Diogo Almeida [00:01:06]: 而且，没错，我们要去做。就是，一场基于 AI 的经济革命又重新回到了桌面上，这他妈太棒了。

Diogo Almeida [00:01:17]: 开发者们能理解这件事，我太兴奋了。这、这、对，我想向开发者们表达我永远的感激，还有

Swyx [00:01:25]: 嗯。

Diogo Almeida [00:01:26]: 对这个社区和一切，我都太兴奋了。真的太棒了。

Swyx [00:01:28]: 对，你昨天说过，你决定优先开 town hall，而不是见一堆 VIP、投资人之类的人，因为你想确保把最多的注意力给到那些人，对吧？工程师、开发者。

Diogo Almeida [00:01:43]: 对，当时有点像是，天哪，我现在是在跟一些特别重要的人聊天。

Swyx [00:01:47]: 嗯。

Diogo Almeida [00:01:47]: 我大概不该透露是谁。

Swyx [00:01:48]: 嗯。

Diogo Almeida [00:01:48]: 但我这个人可能在很多事情上过于真诚，所以我会觉得有点不踏实：在我那个排得满满的、要见各种人的日程里，如果没有社区，那感觉就不对。

Swyx [00:02:04]: 嗯。

Diogo Almeida [00:02:04]: 其实在我理想的世界里，应该是时时刻刻都有社区。我还想过：“要不要一边走去你们的演播室，一边开个 town hall？”然后我又想：“不行，那太疯狂了。”

Swyx [00:02:12]: 当然。对。你们一直在 Discord 上办 town hall。Discord 现在有 10 万人了。你们的 Twitter 也

Diogo Almeida [00:02:19]: 我不关注这些数据。

Swyx [00:02:20]: 嗯。

Diogo Almeida [00:02:20]: 天哪。

Swyx [00:02:21]: 你的 Twitter 火了。当时特别好笑，因为在 AIE 上，你说“大家快来关注我”，结果你连自己的账号名都没给。

Diogo Almeida [00:02:29]: 我是新手。我是新手。

Swyx [00:02:29]: 你真是个新手。

Diogo Almeida [00:02:30]: 我是新手。

Swyx [00:02:31]: 不过，这其实是一种很正面的气场，就是

Diogo Almeida [00:02:33]: 好吧

Swyx [00:02:33]: 你不知道怎么推销自己。

Diogo Almeida [00:02:35]: 对。有人在我发帖说“天哪，我们三个都上了趋势话题”的时候吐槽我，说“那是你个人的信息流”。

Swyx [00:02:42]: 那是个人的，对。

Diogo Almeida [00:02:43]: 我当时就想：“完了。”

Swyx [00:02:44]: 当然，当然会对你显示成趋势。

Diogo Almeida [00:02:45]: 尴尬。对。

Swyx [00:02:45]: 对，因为那是你点过的内容。

Diogo Almeida [00:02:47]: 对。

Swyx [00:02:47]: 好吧。那我们开始，总之恭喜你取得这一切。

Jev 是什么？System 1 模型与每美元智能

Diogo Almeida [00:02:50]: 谢谢。

Swyx [00:02:50]: 有了更多细节我们再聊。不过，为了那些一直与世隔绝的人，或者只想要一个权威答案的人，Jev 到底是什么？

Diogo Almeida [00:03:02]: 呼。让我想想。这个问题不好答。

Swyx [00:03:07]: 好的。如果你想的话，我可以重新问一遍

Diogo Almeida [00:03:09]: 不用。我很乐意

Swyx [00:03:10]: 好

Diogo Almeida [00:03:10]: 我很乐意就这个随便聊聊。

Swyx [00:03:12]: 嗯。

Diogo Almeida [00:03:13]: 我得说，这个问题让我最先松了口气的一点是，我现在不用再向我父母回答这个问题了，因为 ChatGPT 就能替我解释。

Swyx [00:03:20]: 不错。

Diogo Almeida [00:03:21]: 所以在我看来，我们需要一类新的模型。我们并不执着于给这类模型起什么名字。我们想到的最准确的名字是 System 1 模型。

Swyx [00:03:33]: 嗯。

Diogo Almeida [00:03:33]: 这里面有原因，不过——我们之所以不叫它们决策模型，是有原因的，因为它们会是决策模型，但 System 1 比那更进一步。我只能说这么多。我们没料到这会成为我们的大型发布，所以还有存货没拿出来。

Swyx [00:03:48]: 你本该说这是低调的研究预览。

Diogo Almeida [00:03:52]: 其实也算是吧，对吧？也算是。但我们。所以有这样一类模型，我们把它们描述为机器原生（machine-native）、System 1、大型可编程模型。我认为这类模型的目标是让代码成为消费者。区别于预训练的大语言模型——那是用来对互联网做自动补全的；也区别于 RLHF 模型，也就是聊天机器人式的指令遵循模型——那是用来回复文本的；或者 RLVR，它与 RLHF 处在一个奇怪的灰色地带。而这类模型的产出是直接被代码消费的，所以才叫 type safe（类型安全）。我们真正想要的，是让 AI 尽可能强大，而我们认为做到这一点的办法就是把它与软件集成起来。我们设计的一切，不只是外层，连模型深层的内部结构，都是为软件而优化的。所以第一，Jev 是我们的第一个大型可编程模型，或者说 System 1 模型，随你怎么叫。Jev 的优化目标是每美元智能，所以才叫 Jev。

Swyx [00:05:03]: 杰文斯悖论。

Diogo Almeida [00:05:03]: 杰文斯悖论，对。它针对每美元智能做优化。我很喜欢和大家争论可靠性、成本、校准度和速度之间哪个最重要。Jev 就是要做到。Jev 将是站在每美元智能前沿的那一系列模型的名字。优化的方式还有别的，比如 ML，或者说至少只要你擅长 ML，一切都是权衡取舍。而我们在这件事上是全力以赴。

校准、模式坍缩与 RLHF 的局限

Swyx [00:05:31]: 对。在我看来，校准（calibration）是大家以前谈得不多的新话题之一。我们之前做过一期节目，嘉宾是 Hugging Face 的 Clementine Foreia，她说，其实，它们只是。或者，这也是你关于 RLHF 的整个论点：它们会越来越坍缩到你最想听到的内容上

Diogo Almeida [00:05:50]: 哦

Swyx [00:05:50]: 或者说最可能出现的内容上，而不是反映它们对某件事的内部置信度。

Diogo Almeida [00:05:54]: 我能就这个发表一下长篇大论吗？

Swyx [00:05:56]: 请讲。对。

Diogo Almeida [00:05:57]: 好。我听说你们的听众技术水平最高，所以我其实很想深入聊聊这个。

Swyx [00:06:02]: 嗯。

Diogo Almeida [00:06:03]: 而且我下了极大的功夫，确保我们发布视频里的一切都准确而真实。显然，这很不寻常。有一件事没有人关注，那就是 RLHF 的弊端，尤其是模式丢弃（mode dropping）。

Swyx [00:06:17]: 是 mode dropping 还是 mode collapse？

Diogo Almeida [00:06:19]: 是同一回事。

Swyx [00:06:19]: 你是这么叫的吗？

Diogo Almeida [00:06:20]: 是同一回事。

Swyx [00:06:20]: 好吧。

Diogo Almeida [00:06:21]: 我最终想写一篇博客讲这个，但我想尽可能多地告诉大家，因为我觉得这非常有意思。我的一个辛辣观点是，我非常相信 Yann LeCun。我认为 Yann LeCun 的看法其实是最接近

Swyx [00:06:36]: 那这个呢？

Diogo Almeida [00:06:37]: 嗯，我现在就谈这个，还是先等一等，先讲 mode collapse？

Swyx [00:06:40]: 不，等会儿。先讲 mode collapse。我不知道。

Diogo Almeida [00:06:42]: 所以我其实认为，在各种观点里，Yann LeCun 的是最准确的之一。但他有一张非常著名，或者说臭名昭著的幻灯片，

Swyx [00:06:52]: 蛋糕那张？

Diogo Almeida [00:06:53]: LLM 注定要完蛋。

Swyx [00:06:54]: 好的。

Diogo Almeida [00:06:54]: 就是那张，他画了一个饼图，上面有一小块，然后说随着序列长度增加，出错的概率就会上升。对，就是这张。这张。我很喜欢这张，因为它属于那种在数学上看起来显而易见、但显然是错的东西，对吧？它在数学上显而易见，但在经验上并不成立。这也是我最喜欢拿来教人的例子，就是你在哪里

Swyx [00:07:21]: 脱节在哪里，对吧？

Diogo Almeida [00:07:22]: 没错。你想讲，还是我来讲？

Swyx [00:07:27]: 关于 mode collapse 吗？

Diogo Almeida [00:07:28]: 哦，不。哦，mode collapse 和这个有关。

Swyx [00:07:31]: 嗯。

Diogo Almeida [00:07:31]: 这种脱节的出现，是因为如果你处在一个模式覆盖（mode covering）或者说校准良好的分布里，你不会因为有离群值而受到过重的惩罚。你预期有一部分时间会跑到分布之外，有一部分时间在分布之内。覆盖整个分布就是这样。这就像 GAN 之前的那些模型，它们生成的图像是模糊的，对吧？

Diogo Almeida [00:07:54]: 相反，GAN 是模式丢弃的。它们会丢掉少数类，只做那些非常常见的。这就是为什么这种效应不会出现，对吧？为了生成非常长的字符串而不出错，它们需要极其保守，因为错误一旦发生很容易被看出来，而一个看起来正确的细微错误则很难被看出来。而这种校准，对字符串的概率分布来说简直是彻底的毒药。

Swyx [00:08:22]: 嗯。

Diogo Almeida [00:08:23]: 这是个很微妙的观点，我认为，这就是为什么它不会发生，也是为什么字符串模型很不擅长决策，或者说，让字符串模型来做决策是件糟糕的事。

Yann LeCun、JEPA、扩展定律与务实的研究

Swyx [00:08:38]: 既然聊到 Yann，你是否同意他的解法，也就是世界模型、类似 JEPA 的嵌入式方案，才是正确的解决办法？基本上，它可能失败的原因之一，是你试图在词元输出上做推理，然后不断循环回去继续生成，一直到句子结束为止。他的解法就是 JEPA，对吧？

Diogo Almeida [00:09:02]: 对。

Swyx [00:09:02]: 也就是联合嵌入

Diogo Almeida [00:09:04]: 嗯

Swyx [00:09:04]: 联合嵌入预测。所以，那是正确的解法吗？或者你对此有什么看法？

Diogo Almeida [00:09:10]: 哦，天哪。我大概不该多谈 ML 的内部细节，但我可以说，我的品牌除了“不羁”之外，就是务实。

Diogo Almeida [00:09:20]: 就连我在这件事上的观点也是务实的。比如，我是扩展定律（scaling law）的拥趸吗？看情况。扩展定律告诉你的是，投入多少，你在某件事上能提升多少。

Diogo Almeida [00:09:33]: 扩展定律意味着，通常要付出指数级增长的资源，才换来次线性的收益，这看起来是笔糟糕的投资，除非那些线性收益本身极其有价值。但对我来说，一切都在于：用我们手上现有的东西，怎样才能做出最大的他妈的改变？我可以说脏话吧。

Swyx [00:09:51]: 嗯。

Diogo Almeida [00:09:51]: 嗯。

Swyx [00:09:52]: 嗯。

Diogo Almeida [00:09:52]: 嗯。

Swyx [00:09:53]: 我们是成人级别的节目，没问题。

Diogo Almeida [00:09:54]: 太棒了。

Swyx [00:09:55]: 而且如果你想的话，我们稍后还有个关于扩展定律的话题。

Diogo Almeida [00:09:58]: 哦，可以啊，如果我们。你看，这部分现在没那么相关。

Swyx [00:10:02]: 嗯。

Diogo Almeida [00:10:03]: 其实，如果你想聊我的“最苦涩的教训”（bitterest lesson），我觉得那个更相关。

Swyx [00:10:06]: 好。

Diogo Almeida [00:10:06]: 但对我来说，我看重的是实用主义。我觉得 JEPA 这类东西是很酷的早期研究。我很喜欢出色的研究。但它已经实用了吗？

Diogo Almeida [00:10:21]: 大概不该说。但是，有很多。

Diogo Almeida [00:10:29]: 我只是觉得，现在整个研究界散落着太多未经打磨的璞玉，因为人们不知道该如何选对任务。我认为我们的发布，它确实让我们作为一家公司启动了吗？是的。对我们公司会很棒吗？是的。我觉得它对“程序化 AI”这个方向的意义会更大。本来就会有一股淘金热围绕着我们兴起，因为软件的能量实在是太他妈强了。但我认为，与我们并行的另一股淘金热也会出现，围绕着各种让软件变得更强大的方式，把能力暴露出来，让人们能做出更酷的东西。然后我们就回到了早期互联网的那种劲头，对吧？

Swyx [00:11:12]: 嗯。

Diogo Almeida [00:11:12]: 我觉得这就是为什么 Twitter 上全是“Jev”。就像是，这是一场派对

Swyx [00:11:18]: 它很鼓舞人心，因为它跟我们习惯的东西太不一样了。我们习惯的是：“抱歉你做不到这个，因为这要靠扩展定律，只有大实验室才能做。”对吧？

Diogo Almeida [00:11:28]: 这个嘛。其实，如果可以的话，我想岔开聊一下。

Swyx [00:11:32]: 好啊。

Diogo Almeida [00:11:32]: 我觉得你会喜欢这个。

Swyx [00:11:33]: 真的吗？我们已经岔开五次了。挺好。挺有意思。对。

Diogo Almeida [00:11:35]: 哦，对。我总会在自己的岔题里迷路。

Swyx [00:11:37]: 听众要理清这些会很痛苦，不过他们会搞明白的。没关系。

安全对齐、拒答与 API 理念

Diogo Almeida [00:11:40]: 对，我们可以后期剪辑。

Swyx [00:11:40]: 这是我的回应。对。

Diogo Almeida [00:11:41]: 所以在 Discord 上有个很热门的话题，大家一直在问我，而我还没时间解释，就是为什么我反对安全对齐，为什么我们不拒答。我并不反对安全这个原则，但我认为安全对齐通常与用户的利益是错位的。而拒答显然就是一种类型错误。比如，你是个人类，正在和某个机器人聊天，或者你在用 Claude Code，然后遇到了拒答：“抱歉，我不能读取 DNA.py。”这会让人很烦。这很烦，真的很烦

Diogo Almeida [00:12:18]: 对吧？但你还能想办法应付，对吧？而且你被迫去应付，因为斯德哥尔摩综合征。

Diogo Almeida [00:12:23]: 我在这方面也有些故事。我得在这里再岔开一次。但如果你想把它作为一个依赖项放在后台运行，它拒答了会怎样？如果别人也在用这个依赖项呢？他们根本不知道那个系统是什么。你想让软件因为用户发来一条奇怪的消息就随机崩溃吗？

Diogo Almeida [00:12:42]: 这简直是彻头彻尾的疯狂。这种想法来自那些不懂软件、不懂编程的人，他们沉迷于我所认为的那种“无马马车”式的想法，也就是 AI 同事，而不是去挖掘 AI 的全部威力。

Swyx [00:13:01]: 有道理。

Diogo Almeida [00:13:01]: 嗯。

Swyx [00:13:01]: 你想要的是一个核心内核，能在任何地方使用。

Diogo Almeida [00:13:05]: 对。没错。就是认知核心（cognitive core），对吧？

Swyx [00:13:07]: 嗯。

Diogo Almeida [00:13:08]: 而且你需要这个东西既足够通用，又针对其用例做了足够的优化。你希望它能适用于所有未来的用例，适用于人们正在做的所有稀奇古怪的事情。

Swyx [00:13:19]: 嗯。

Diogo Almeida [00:13:19]: 我们显然没有在那些东西上训练过。它居然能用，这让人意外吗？不，因为我们训练过更怪的东西，朋友。

Diogo Almeida [00:13:28]: 所以。再岔开一次，讲讲安全对齐。

Swyx [00:13:32]: 好的。

Diogo Almeida [00:13:32]: 在我看来，安全对齐对产品是说得通的，比如 ChatGPT 和 Claude。安全对齐与能力对齐的区别在于，能力对齐是关于做用户想要的事。这对软件工程师来说太棒了。他们希望自己的东西能把事做成，而且越可预测，他们需要测试和摸索的就越少。Jev 离那个目标还差得远。它有可能做到，但我们还想要多得多的可靠性“9”，才能让它像数据库查询一样好用，好用到你根本不用去想它。需要智能的时候，它就在那儿。但安全对齐几乎是指令遵循的反面。它是要你去遵循别人的指令，比如 OpenAI 和 Anthropic 的

Swyx [00:14:13]: RAG 的价值堆栈。

Diogo Almeida [00:14:14]: 没错。这对产品来说很合理。还是那句话，比如 ChatGPT 该这么做。如果他们不想让 ChatGPT 做某些少儿不宜的角色扮演，那是他们的事，因为也许那正是他们那些有父母和孩子的用户想要的。这没问题。但在 API 里，这就太离谱了，对吧？这完全不可接受，因为人们需要围绕它来编程，而这是如此反用户，以至于。呃。我。哈。我这个人容易发火，所以我应该试着冷静一下。

Swyx [00:14:52]: 大家能感受到你的热情，我觉得这很好。我想提出的一个反驳是：如果我们用它来杀人呢，对吧？这才是真正的。那种少儿不宜的东西，是私人的、个人的，随便怎样。但是，没错，我们会把它用在战争中。而这是公司有理由希望自己的 API 不被用于的事情。

Diogo Almeida [00:15:14]: 我明白。我认为在一些务实的场合，可以持有那种观点。但我个人不认为通用技术的底层是那样的场合。

Diogo Almeida [00:15:27]: 我是否希望我们的东西不被用来杀人？当然。我是否希望它被用于世界上各种美好的事情？当然。我会在这件事上偏向一边吗？会。我会在技术层面这么做吗？绝对不会，因为那会让智能碎片化。你每一次想让它过拟合到某些奇怪的东西上，都是在让它的智能越来越碎片化。而这些东西现在已经碎得。它们现在已经碎得不成样子了。

Swyx [00:15:54]: 嗯。

Diogo Almeida [00:15:54]: 此外，对我来说，我认为智能会更像数据库，而不是同事。我不认为数据库有责任去检查自己是否被用于，比如说，什么不太好的事情？比如 CIA。其实，我并不真的知道 CIA 做什么。你可以想象。你可以想象，去杀一些甚至根本不坏的人，诸如此类。

Diogo Almeida [00:16:21]: 我不认为这是数据库的责任。此外，有件事让我觉得很怪：有些人在 Slack 上注册我们的服务，然后问：“嘿，我们要部署这个。我们可以部署这个吗？”我就想：“兄弟，我们是个 API。你是开发者。这不关我的事”，对吧？你甚至不该知道整个任务到底是什么

Swyx [00:16:46]: 嗯

Diogo Almeida [00:16:46]: 因为它本该被分解成小块。我们不应该能知道下游用户在做什么，这是一条很好的界线，能给软件工程师最大的能力。理想情况下，他们把它用在好的事情上，理想情况下我们也能帮助他们，我们也聊过做开源和公益之类的事。但我们现在完全没有时间做别的。不过只要我还掌舵，他们就会把任何此类偏见从技术层面拿掉。

隐私、基准测试与对智能的信任

Swyx [00:17:11]: 嗯，太好了。既然聊到这里，我们也简单谈谈你们的隐私条款、使用条款，这方面出现了一点

Diogo Almeida [00:17:18]: 哦

Swyx [00:17:18]: 误解。我想先澄清一下。

Diogo Almeida [00:17:21]: 太好了。

Swyx [00:17:21]: 我想这大概你两句话就能说清，比如你们不会。你们对 API 的限制并没有那么严。显然

Diogo Almeida [00:17:27]: 哦，对。哦，对，是的

Swyx [00:17:27]: 从理念上，你们对自己作为平台的角色阐述得非常认真。

Diogo Almeida [00:17:30]: 是的。是的。我不知道你指的是什么，但我看到了一些关于基准测试的说法。

Swyx [00:17:38]: 对。

Diogo Almeida [00:17:38]: 我们显然不会阻止人们去做。哦，天哪，我说话得小心点。我意识到了

Swyx [00:17:43]: 不，你公开说过，

Diogo Almeida [00:17:44]: 对

Swyx [00:17:44]: 那是在预览期间。发布时你们没有把它删掉。

Diogo Almeida [00:17:47]: 对。好吧。

Swyx [00:17:47]: 现在你们要把它删掉了。

Diogo Almeida [00:17:48]: 团队在做一些事情，

Swyx [00:17:49]: 对

Diogo Almeida [00:17:49]: 我自己都不知道，所以很高兴得知团队传达了这一点。我让他们去跟律师确认过这件事。

Swyx [00:17:54]: 嗯。

Diogo Almeida [00:17:54]: 我们显然不会阻止人们做这类事情。我非常支持。所以，我极度反对公开基准测试。我非常支持。对于作为代理指标的私有基准测试，我态度一般。我

Swyx [00:18:09]: 那你担心的是饱和，还是在公开基准测试上训练？也就是说，很容易作弊。

Diogo Almeida [00:18:15]: 不只是容易作弊，还有很多动机。所以我认为我们。或者任何和我们有竞争关系的人，只要大致上存在。你可以说，比如

Swyx [00:18:28]: 现在有大概 50 个 Jev 的克隆品，对。

Diogo Almeida [00:18:30]: 嗯，当然。

Swyx [00:18:31]: 嗯。

Diogo Almeida [00:18:32]: 嗯，这些。我们就假设存在竞争吧。

Swyx [00:18:34]: 我们之后会谈到它们。对。

Diogo Almeida [00:18:34]: 或者我们就假设，两年后有一个行业，里面的人在做和我们类似的事情。我们卖的是每某种单位的智能，比如每美元或每秒。没有人。人们痴迷于成本和速度。我认为那很酷，但真正重要的是智能。成本和速度其实是坏东西。你为了换取某样东西而付出它们，你需要把那样东西拿回来，而智能才是真正重要的。智能的问题在于，它有某种说不清道不明的东西（je ne sais quoi），对吧？比如好模型的那种“味道”。就像我们发布两小时后发生的那件事，它实际上比视频传播得还要广，大家都在说：“天哪。”

Swyx [00:19:16]: 这真的能用。

Diogo Almeida [00:19:17]: 它。嗯

Swyx [00:19:17]: 对。

Diogo Almeida [00:19:17]: 比这还要超出一层。

Swyx [00:19:20]: 嗯。

Diogo Almeida [00:19:20]: 那次发布太疯狂了，人们真的能感受到我们有多在乎这一点，而我认为这才是这件事的长期价值所在。我认为公开基准测试与此背道而驰。它们是让人们信任智能的一种方式，因为智能有那种说不清道不明的东西，但公开基准测试极易被操纵。即使他们尽量不这样做，最终还是会。在过去，每个实验室都有一个团队去收集看起来像 MMLU 的数据，好让成绩更好看，这不过就是多绕了几步的刷基准测试。

Diogo Almeida [00:19:58]: 所以我认为，从长远来看，它需要靠感觉和信任，直到你把它放进一个工作流，针对那个工作流去评估它、衡量它，并对它在真正重要的那个确切工作流上的表现有自己的判断。而我们的工作是不断提升可靠性的“9”。这是我们作为一家公司必须持续做的事，我们要尽一切努力让人们知道，我们非常在乎这一点。比如，如果我们愿意，一年半前我们就可以发布 Jev，只要我们愿意让它很笨。

最苦涩的教训：任务、数据与北极星

Swyx [00:20:34]: 哦。

Diogo Almeida [00:20:34]: 就是。我的最苦涩的教训，对吧？比如，架构和，对。

Swyx [00:20:40]: 我来提一下

Diogo Almeida [00:20:40]: 太好了

Swyx [00:20:41]: 既然你提到了它，在这里。

Diogo Almeida [00:20:43]: 太好了。Sutton 说，算法大致上胜过算力。数据显然比算力重要得多。而选对任务、拥有北极星，是最难也最重要的事。在 LLM 领域，这种事迄今发生过两次，对吧？也许是 2.2 次。一次是 RLHF，它把任务转向了指令遵循，此前没有人意识到这是可能的。RLVR 对方向做了一点小小的调整，然后就轮到我们了，对吧？RLCD。我们有了一个新任务，目标是让程序处于循环之中。而且，没错，数据太重要了

Swyx [00:21:28]: 对

Diogo Almeida [00:21:28]: 重要得难以置信。

Swyx [00:21:29]: 所以

Diogo Almeida [00:21:29]: 我怎么强调都不为过。

Swyx [00:21:31]: 对，你把自己看作数据实验室，而不是模型实验室。是这样吗

Diogo Almeida [00:21:35]: 绝对是

Swyx [00:21:35]: 的吗？你们用的是这个说法？

Diogo Almeida [00:21:37]: 对。我们是。我们永远都会非常重视数据。对我来说，模型能力就意味着数据。数据复杂得令人难以置信，而它正是带来可靠性“9”的东西。你根本想象不到数据能改变多少东西。数据太重要了。

作为数据实验室的 TypeSafe 与合成数据策略

Swyx [00:21:57]: 嗯。

Diogo Almeida [00:21:57]: 天哪。所以如果有人在找工作，我们在招无限多的数据人才，真的是无限。

Swyx [00:22:04]: 什么样的人算好的数据人才？显然是那种在意去阅读各种对话记录的人。比如，你说过你们所有的数据都是合成的。

Diogo Almeida [00:22:15]: 对。

Swyx [00:22:15]: 但那只是触及了表面，对吧？

Diogo Almeida [00:22:18]: 对。

Swyx [00:22:19]: 比如，合成的又怎样，对吧？合成的，但有品味很高、非常用心的人在看这些数据，指出哪里不对，再回去重新生成。如今好的数据人才就是这样的吗？

Diogo Almeida [00:22:31]: 让我想想怎么说。这件事超级复杂，我实际上是用一场讲座给数据人员入职培训的，我估计那场讲座比这期播客最终的长度还要长。所以我试着讲讲大的层面。第一，我们不做人们常说的那种合成数据。嗯，其实，应该是第零点。数据和合成数据取决于你的任务。比如，数据的形态。任务的形态决定了数据。比如，RLVR 的数据算是环境，对吧？

Swyx [00:23:03]: 对。

Diogo Almeida [00:23:04]: RLHF 的数据则是人类反馈？每种任务都有自己独特的数据，而我们当然也有我们自己独特的数据，对吧？所以第一，我们有这个。第二，我们之所以不想用用户的数据来训练，即使我们可以，对吧？比如，我们大概现在要求任何条款都能拿到。我们。我不知道会不会有什么差别。我们真的不想那样，因为无论如何，真实世界的数据有太多偏差。人们反复问同样的问题，形成一种幂律分布，你最终会过拟合到它上面，对它产生碎片化之类的。第二，我们的目标是几年后一个彻底的科幻式未来，那时这些模型会成为通用的基础设施，一层又一层，深埋在技术栈的底部，支撑着人们现在甚至想象不到的东西。我愿意把我们的模型想成：LLM 是 UDP，而我们的模型是 TCP。各种各样的东西都可以构建在它之上，而我们需要能把那些未来用例做好，这样软件开发者才能真正构建出那些未来的东西。而做到这一点的办法是，即使我们拥有当下的全部数据，我们也只会过拟合到当下，然后它就行不通了。我们需要的是。

Diogo Almeida [00:24:21]: 感觉几乎像是，他们就是艺术家？他们研究这个认知核心。我们的认知核心比其他任何人的都要“平滑”得多，也就是没那么参差不齐（jagged）。然后他们找出那些参差不齐的地方，再以外科手术般的方式逐一处理。当然你永远无法做到完美，对吧？但他们的做法，能够在每一个可能的维度上，过去、现在、未来，都处理到这一点。

Swyx [00:24:45]: 针对一般情形，而不是特定情形。

Diogo Almeida [00:24:47]: 没错。而这每次都需要大量的智慧。

RLCD 与 RLHF：定义一个新任务

Swyx [00:24:50]: 好，我们刚才提到了一点。你批评我的想法受 RLVR 影响很深，这很公道。那我们来具体谈谈 RLCD

Diogo Almeida [00:24:59]: 哦

Swyx [00:24:59]: 据我们所知，你们显然有一些秘密配方。你们从未就此发表过论文之类的东西。对吧？

Diogo Almeida [00:25:05]: 对，还没有。

Swyx [00:25:06]: 那么，人们应该从中获得什么？你能不能让大家放心，你并不是为了听起来很酷而编造行话，对吧？比如对我来说，校准我觉得算是，已经被很好地理解了，因为我们在播客里讲过。

Diogo Almeida [00:25:22]: 对。

Swyx [00:25:22]: 但我不知道你说的 RLCD，与人们熟悉的那些有什么不同。

Diogo Almeida [00:25:26]: 这是个很好的问题。

Swyx [00:25:27]: 是的。

Diogo Almeida [00:25:27]: 其实，我先问一个相关的问题。

Swyx [00:25:29]: 好。

Diogo Almeida [00:25:29]: 什么是 RLHF？

Swyx [00:25:31]: 好。

Diogo Almeida [00:25:31]: 对吧？而且 RLHF 其实指代好几种不同的东西，对吧？

Swyx [00:25:34]: 好。

Diogo Almeida [00:25:34]: 比如最初的那个 RLHF。我记得是 Paul Christiano 教机器人后空翻之类的。是不是有这么一个

Swyx [00:25:42]: 是那个吗？

Diogo Almeida [00:25:43]: 那是最初的

Swyx [00:25:44]: 我引用的是 PPO 那篇论文，但我不确定。

Diogo Almeida [00:25:46]: PPO 不一定来自人类反馈，如果我没记错的话。

Swyx [00:25:51]: 好。没错

Diogo Almeida [00:25:52]: 但我相信那是 OpenAI 的一项对齐工作，可以教会模型产出难以明确规定的行为，比如后空翻。我不是百分之百确定。然后还有“learning to summarize”。那是由一批人完成的工作，他们后来也参与并共同撰写了指令遵循那篇论文，也就是在语言模型上做 PPO。

Swyx [00:26:15]: 这就是，抱歉。我在试着，试着

Diogo Almeida [00:26:19]: 嗯

Swyx [00:26:19]: 试着操作这个东西。这是 2017 年的。

Diogo Almeida [00:26:23]: 对。

Swyx [00:26:23]: 对吧。

Diogo Almeida [00:26:23]: 我不是百分之百确定，但看起来挺对的。

Swyx [00:26:26]: 嗯。

Diogo Almeida [00:26:26]: 如果里面有个机器人在做后空翻之类的，那可能就是它。对。好，酷。看来我答对了。太棒了。

Swyx [00:26:35]: 没错。

Diogo Almeida [00:26:36]: 嗯。

Swyx [00:26:36]: 就是那篇。

Diogo Almeida [00:26:36]: 所以当时的想法是：能不能用它来做定义不明确的事情？这是第一个版本。第二个版本是 OpenAI 做的 learning to summarize 那项工作，它其实是在语言模型上做 PPO，去做某种定义不太明确的事情。这是人们称为 RLHF 的另一样东西，而这篇我并没有参与撰写。

Diogo Almeida [00:26:57]: 哦，Dario 也在上面。太好了。太棒了。

Swyx [00:27:01]: 还有 Radford。

Diogo Almeida [00:27:02]: 对。向 Alec 和 Ryan 致敬。我爱他们。

Swyx [00:27:04]: 嗯。

Diogo Almeida [00:27:05]: 但我所说的 RLHF 指的是，哦，天哪。

Diogo Almeida [00:27:13]: 我会谈到

Swyx [00:27:14]: 你对那篇有些意见，对。

Diogo Almeida [00:27:15]: 我对那篇论文有意见，但我们已经岔开太多层了。

Swyx [00:27:18]: 嗯。

Diogo Almeida [00:27:18]: 所以，真正让。对我来说，我所说的 RLHF 指的是指令遵循这个任务。关键不在于 PPO。那部分无关紧要。关键在于设定一颗北极星，也就是“这是一个有价值的方向”。这有点像苦涩教训里的北极星。

Diogo Almeida [00:27:34]: 对我们来说，RLCD 就是这样一个新任务。它不是什么行话。我努力做到表述精确，它只是在说：“嘿，这是另一个北极星。”就像 DPO 和它所有的后继方法也都在做 RLHF，尽管并没有使用那篇论文里的算法。

Swyx [00:27:55]: 所以，明确地把北极星说出来，就是做可编程的 AI。其中有一个词我特别有共鸣，那就是去掉回路中的人，

Diogo Almeida [00:28:06]: 对

Swyx [00:28:06]: 因为 RLHF 是在调优

Diogo Almeida [00:28:09]: 对

Swyx [00:28:09]: 为此，这样你就能把一切自动化。

Diogo Almeida [00:28:11]: 对。一切能让

Swyx [00:28:13]: 关于北极星是什么，我在这个论点里还漏掉了什么吗？

Diogo Almeida [00:28:17]: 有。没错，你说得对。我在表达上过于讲究细微差别。其中一点是，我们必须务实。我们得清楚语言模型到底哪些事做得真正出色，也就是 AI 能做什么。

Diogo Almeida [00:28:30]: 对吧？比如，可能有一些可编程的类型酷到不行，但如果技术还没准备好，那它没出现在世界上也不是什么悲剧。

可编程 AI 为什么重要

Swyx [00:28:41]: 嗯。

Diogo Almeida [00:28:42]: 但在我看来，有 Jev 之前的世界是一场悲剧，因为——这听起来很自大。你听我说完。

Swyx [00:28:49]: 不，我完全相信你。

Diogo Almeida [00:28:50]: 好。这听起来很自大，但我早在有公司之前很久，就有这种感觉了。

Swyx [00:28:54]: 对。我可以作证，

Diogo Almeida [00:28:56]: 是的，我讲这个讲了太久了

Swyx [00:28:57]: 你在 All Around Her 就讲了差不多三年。

Diogo Almeida [00:28:58]: 对，我讲这个讲了太久了。我之所以一直讲，是因为我以为这件事会更容易。有人说，人们不做某些事，是因为它们很容易。是因为他们觉得容易，所以

Swyx [00:29:08]: 对，没错

Diogo Almeida [00:29:09]: 大概就是那样。我以为整个项目一周就能搞定。

Diogo Almeida [00:29:13]: 结果我错得离谱。所以我要向 OpenAI 的所有人道歉，我当时想：“天哪，我现在就在解决这个问题。”但我觉得，真正悲剧的是……嗯，我觉得承诺过多、交付不足同样是悲剧。而 AI 在这条轴线上极其极端。我认为 RLVR 是主要的……嗯，RLVR 和 RLHF 都是这方面的极端“肇事者”。

Diogo Almeida [00:29:40]: 但对我来说，这里有太多潜力了。AI 显然是如此聪明。我很喜欢在演讲里问大家：“AI 怎么能聪明到这种程度？我们能解决数学里的千禧年大奖难题，却连最基础的工作都还不能自动化？”就是那些非常基础、机械重复的活，根本不需要特别聪明的人来做，也不是令人满意的工作。这些人本可以去做别的事，可我们却还需要他们做这种超级基础、毫无成就感的事，因为我们还没法把它自动化。我们明明有一台超级增压的自动化引擎，却缺少合适的接口，没法接入所有这些具有经济价值的工作。而且，即便 TypeSafe 整家公司消失，大概也要一两年，别人才能真正追上。我其实不知道需要多久。如果模型质量很重要，那我们会在很长一段时间里处于非常有利的位置。但事情已经成了，对吧？这已经改变了技术史的走向。

Swyx [00:30:49]: 嗯。

Diogo Almeida [00:30:49]: 而我们整个领域都将去探索这片空间。

Swyx [00:30:53]: 嗯。我完全同意。你开创了新的可能性。如果我可以转述一下，好让大家也能理解：不应该把 TypeSafe 和 Jev 的成功看作“好了，这是一种新的模型类型，到此为止，我们回去继续做生意”。不是这样的。实际上，还有另外五种模型类型值得探索，让百花齐放。

Diogo Almeida [00:31:15]: 完全正确。

Swyx [00:31:16]: 对吧？

Diogo Almeida [00:31:16]: 就像早期的互联网

Swyx [00:31:17]: 其中有一些，你们大概也会自己去做。

Diogo Almeida [00:31:18]: 当然，是的。

Swyx [00:31:19]: 对。

Diogo Almeida [00:31:19]: 早期互联网的那种劲头。我觉得又回到了科技乌托邦。不再是“天哪，我的编程智能体有时能用，但最好的那些都被内部囤起来了”。

Swyx [00:31:29]: 嗯。

Diogo Almeida [00:31:30]: 对吧？就像创造又回到了菜单上。

Diogo Almeida [00:31:34]: ？不过这会是个疯狂的世界，系好安全带。

Diogo Almeida [00:31:38]: 就是这样。我对此兴奋极了。

宣言、发布策略与早期互联网的劲头

Swyx [00:31:42]: 嗯。现在你们有了资金和势头，可以去做你设想的任何事，这让我觉得非常欣慰，毕竟你说了这么久这些话

Diogo Almeida [00:31:53]: 对

Swyx [00:31:54]: 现在终于要真正展示给世界了。

Diogo Almeida [00:31:55]: 我知道。一直吊着大家的胃口，这事挺有意思。我的演讲就像一个悬念，因为我没说自动化到底怎么实现。

Swyx [00:32:05]: 嗯。

Diogo Almeida [00:32:06]: Sean 审阅了我们的宣言，他说：“这几处有点含糊。”

Diogo Almeida [00:32:12]: 比如：“第一步是什么？那个智能模型到底是什么？”

Swyx [00:32:16]: 我当时向你要模型，你说：“嗯，模型快来了。”

Diogo Almeida [00:32:18]: 对。

Swyx [00:32:18]: 而且，我主要是反对“可组合”这个词。不过 build prod.god 这个说法太棒了。

Diogo Almeida [00:32:24]: 谢谢。

Swyx [00:32:24]: 嗯。

Diogo Almeida [00:32:25]: 我们真的都围绕它团结起来了。我愿意认为，我们不像有些公司那样完全是邪教。

Diogo Almeida [00:32:32]: 但我们对正在做的事情很兴奋，而且，我的招牌就是务实，我们所有人都超级务实。

Swyx [00:32:42]: 嗯。

Diogo Almeida [00:32:42]: 这真的很棒。

Swyx [00:32:43]: 对。顺便说一下，这就是那个步骤，那份秘密宏图，对吧？

Diogo Almeida [00:32:47]: 对。

Swyx [00:32:47]: 机器原生的可组合 AI 的形态。

Diogo Almeida [00:32:49]: 写一份秘密宏图是你的主意，所以

Swyx [00:32:51]: 就是 Elon 那一招。他创办 Tesla 的时候

Diogo Almeida [00:32:53]: 对

Swyx [00:32:53]: 他说：“我们要这么做。”

Diogo Almeida [00:32:54]: 但我确实照做了。对。我正式把功劳记在你名下。

Swyx [00:32:56]: 哦，谢谢。谢谢，谢谢。

Diogo Almeida [00:32:56]: 嗯。

Swyx [00:32:56]: 谢谢。不过你本该告诉我你们还要发布模型，因为你只告诉了我一半的故事，而另一半，你当时还没有那个 doom 演示。

Diogo Almeida [00:33:08]: 对。

Swyx [00:33:08]: 你也拿不出任何数字给我。

Diogo Almeida [00:33:10]: 对。

Swyx [00:33:10]: 我当时就想：“什么？”

Diogo Almeida [00:33:11]: 问题是，我不相信基准测试。

Swyx [00:33:13]: 没错。

Diogo Almeida [00:33:14]: 对吧？

Swyx [00:33:14]: 没错。

Diogo Almeida [00:33:14]: 所以，这是需要你亲身去感受的东西，我认为这才是建立长期信任的方式，尽管它让我们吃了很大的亏。比如去年我们融资的时候，没人相信我们。

Diogo Almeida [00:33:27]: ？他们只想要基准测试之类的东西，而我们说：“我们不会这么做。我们有原则，我们要坚持立场。那样做是在奖励不良行为者。我才不管你们想要什么。我们就是这样的，我们就坚持这一点。”所以，抱歉。这不是

Swyx [00:33:43]: 不，没错。而且在某种程度上，我觉得选择艰难的路，最终你会打造出一家自己想在其中工作的公司。

Diogo Almeida [00:33:49]: 对。

Swyx [00:33:50]: 对吧？否则，如果你妥协了，那你不过是在一个换了批人的 OpenAI 里工作，对吧？就是这样。

Diogo Almeida [00:33:56]: 对，对。显然，这件事我没有太多遗憾。

Swyx [00:34:01]: 嗯。

Diogo Almeida [00:34:01]: 结果好得难以置信。昨晚我讲到自己离开 OpenAI 的原因时有些激动，因为发布之后我其实不得不改了说法。我之前的措辞是：“如果 AI 寒冬真的到来，而我没有竭尽全力去避免，我会认为自己要负个人责任：一方面是 RLHF 这个方向，我认为它大大拉大了承诺过多与交付不足之间的差距；另一方面是没有全力押注这件事，因为我认为价值会在这里被直接‘印’出来。”所以，这真的很酷，因为我觉得

Diogo Almeida [00:34:47]: 我所担心的 AI 寒冬已经被避免了。AI 会有用，会被用于自动化。

Diogo Almeida [00:34:53]: 才不到一周，数字就已经无可否认了

Swyx [00:34:57]: 嗯

Diogo Almeida [00:34:57]: 它正在被用于真实的工作，而且这简直是狂野西部。对。

发布后的增长、Token、速率限制与开发者使用情况

Swyx [00:35:03]: 嗯。你能不能，如果你手头记得的话，现在看到的是什么数字？比如注册量之类的？你能分享什么都行。

Diogo Almeida [00:35:11]: 其实我对所有数据并不是特别清楚。这些都是团队在告诉我。

Swyx [00:35:16]: 对，而且我肯定它每天都在变，对吧？

Diogo Almeida [00:35:17]: 是的，

Swyx [00:35:18]: 不过

Diogo Almeida [00:35:18]: 有点疯狂

Swyx [00:35:19]: 有没有哪个里程碑，让你觉得：“对，这是我们希望达到的，我们做到了。”

Diogo Almeida [00:35:23]: 我可以说，我们已经越过的一个里程碑是每日 token 量。

Swyx [00:35:27]: 不错。

Diogo Almeida [00:35:27]: 而且这不是昙花一现的每日 token 量。

Swyx [00:35:32]: 嗯。

Diogo Almeida [00:35:32]: 即使在夜里，它也在持续训练，所以是机器在调用它，而不只是人们在试用。

Diogo Almeida [00:35:39]: 这真的太酷了。每天一万亿 token 是很大的量。

Swyx [00:35:45]: 嗯。

Diogo Almeida [00:35:45]: 所以超过这个数很了不起。注册量对我来说并不重要。其实，说实话，这有点是我们犯的一个错误。推特上的人说我们是营销天才之类的，但那都只是我们自己。我们没有营销人员。我们也在招人。我们只是展现真实、搞怪、不拘一格的自己，同时拼命把人从候补名单里放进来。我们的平台团队强得难以置信。我觉得我们的正常运行时间的“九”比 Anthropic 还多，而且还是在做史无前例的发布期间。这有点疯狂，所以

Swyx [00:36:21]: 嗯

Diogo Almeida [00:36:21]: 向他们致敬。

Swyx [00:36:22]: 嗯。

Diogo Almeida [00:36:23]: 还有一件我们当时没意识到的事。第一，在我看来，对开发者平台而言，候补名单的注册量并不重要。我猜其中很大一部分人甚至不是开发者。他们进来，试几个查询，很多人并不明白，因为他们不写程序，对吧？他们会想：“什么？这不是聊天机器人。我的 ChatGPT 2 在哪？”

Diogo Almeida [00:36:45]: 对吧？不过，我没有精确算过，我的感觉是，哪怕全世界每个人都只写几条查询，跟一个重度用户那个不断创造价值的 for 循环比起来，也只是舍入误差。

Swyx [00:37:01]: 嗯。

Diogo Almeida [00:37:01]: 我们在候补名单上没意识到的是，我们其实可以把任何人都放出候补名单，这无所谓。真正可怕的是速率限制。一旦人们开始从中获得价值，他们就会想要海量的速率限额，因为这正是软件的本质，对吧？你先花力气把机械重复的任务定义清楚，然后这个任务创造的价值超过了投入。既然有了这个

Swyx [00:37:25]: 设好就不用管了，对。

Diogo Almeida [00:37:26]: 没错。你让它在后台运行，让它成为其他东西的依赖，还可以搭建更高层的东西。这样你就在世界上创造了巨大的价值。早期互联网的人可能想象不到 2000 年代初互联网的奇妙，虽然那也还算不上早期互联网。但是，无意冒犯，正是通过可组合性

Swyx [00:37:47]: 没事

Diogo Almeida [00:37:47]: 所有疯狂的事情才会发生，我真的很想在宣言里强调这一点。我们追求的是涌现。我们要做催化剂。我们想赋能大家，并会为此不遗余力，无论是 Discord，还是我穿着垃圾袋主持的全员大会。

Swyx [00:38:05]: 还有播客，以及 Diogo Almeida [00:38:08]: 太对了

Swyx [00:38:09]: 把这些都做起来。

Diogo Almeida [00:38:09]: 绝对的。

Swyx [00:38:09]: 因为我想要长内容，对吧？

Diogo Almeida [00:38:11]: 对。

Swyx [00:38:12]: 就是说，没错，我们先越过一些表面的东西，然后再深入，

Diogo Almeida [00:38:15]: 太对了

Swyx [00:38:15]: 人们会真正信任并理解你们的使命，而产生共鸣的人最终会加入你们，或者收购你们。或者，不，抱歉，是作为客户。

Diogo Almeida [00:38:27]: 哦，作为客户。

Swyx [00:38:28]: 作为客户，作为客户。

Diogo Almeida [00:38:28]: 好吧，行。这很好笑。抱歉。

Swyx [00:38:30]: 抱歉。我不是故意那么说的。不过，有一个很给你面子的说法：你们的发布视频有 3600 万次观看。

Diogo Almeida [00:38:37]: 太好了。现在已经到 3800 万了。

Swyx [00:38:39]: 对，舍入误差。

Diogo Almeida [00:38:40]: 嗯。

Swyx [00:38:40]: Navio 还有 7400 万。Fable 5 有 5700 万。所以就……而且我没有去统计最初的 ChatGPT，

Diogo Almeida [00:38:48]: 对

Swyx [00:38:49]: 那时根本没有视频。

Diogo Almeida [00:38:50]: 对。

Swyx [00:38:50]: 所以你们是名列前茅的，对吧？

Diogo Almeida [00:38:52]: 对。

Swyx [00:38:52]: 就是说，如果要在 2026 年发布一家 Neolab，我觉得你们现在是头一号，这挺疯狂的。

Diogo Almeida [00:38:58]: 嗯。不过我其实更愿意……我确实有那件衬衫，就是“你最喜欢的 Neolab 最喜欢的 Neolab”。

Swyx [00:39:05]: 哈。

Diogo Almeida [00:39:05]: 我才不在乎当不当 Neolab。其实我们有很多周边，是在戏仿 Neolab 的。我有一件上面写着“有产品的 Neolab”，那其实就不是 Neolab 了。我真的不在乎这个。

Swyx [00:39:20]: 嗯。

Diogo Almeida [00:39:20]: 我在乎的是成为一个可靠的开发者平台。所以 Swyx [00:39:23]: 对

Diogo Almeida [00:39:24]: 谢谢你这个比较，不过

Swyx [00:39:25]: 嗯

Diogo Almeida [00:39:25]: 希望我们能超越他们，回到开发者的一个革命性时刻，成为人们可以依赖和信任的稳定之物。

可靠性、鲁棒性与确定性

Swyx [00:39:35]: 对。就此而言，你们有一点真的让我印象深刻：你们确实在谈可靠性。我原以为那主要是关于校准，也就是我们讲的 RLCD。但其实它也关乎正常运行时间、可扩展性之类的东西，对吧？它们在某种程度上是同一类事情。

Diogo Almeida [00:39:55]: 还有“九”。

Swyx [00:39:56]: 还有“九”。

Diogo Almeida [00:39:56]: 就是

Swyx [00:39:57]: 在我看来，正常运行时间就是。

Diogo Almeida [00:39:58]: 哦，那只是其中一部分。可靠性还体现在这东西有多聪明，也就是它多稳定地做你想让它做的事。我认为大型推理模型非常聪明，但在我看来，它们仍然缺乏可靠性。很多用例看起来它们应该聪明到足以自动化这些工作，也有经济动力去自动化，可它们的可靠程度仍然比不上一名实习生，因为它们是为别的目标优化的。所以我认为，可靠性包括能够信任输出。同时，可靠性还有一些维度是我们尚未达到的，这让我非常兴奋。

Swyx [00:40:38]: 嗯。

Diogo Almeida [00:40:38]: 我想先自动化简单的工作，再去做困难的工作。我觉得这是常识。但对我来说，我们会做到足够好。我不知道是否存在“足够可靠”这回事，但我想做到极致，让人们甚至不用试一下模型，就知道它能行。这就像编程里的心流状态，对吧？我只是在写查询，因为我这里需要智能。而对于不平凡的分支逻辑，我可以把它写成一个类型安全的 System 1 查询，拿到结果，它就能准确地分支。那该多好。那就是梦想。

Swyx [00:41:12]: 嗯。

Diogo Almeida [00:41:12]: 而这会是一场漫长的苦战。

Swyx [00:41:16]: 嗯。稍后我们会聊聊你们的 API 设计，

Diogo Almeida [00:41:19]: 哦

Swyx [00:41:19]: 给大家举些例子，也许还有没走的路之类的。

Swyx [00:41:23]: 在可靠性方面，我先有一件事好奇：我注意到没有 seed。所以基本上，同样的输入，我是不是总能得到同样的输出？

Diogo Almeida [00:41:34]: 所以

Swyx [00:41:36]: 如果不能，为什么？

Diogo Almeida [00:41:37]: 哦，好问题。这其实是我们内部也常讨论的问题。可靠性其实是个大箩筐。每当 AI 无法自动化某件事，原因都是某种形式的可靠性问题。可能是类型安全，可能是确定性，也可能就是它能力参差不齐，对吧？所以可靠性是个兜底的概念。我觉得它也是北极星的兜底说法。确定性就是相同输入、相同输出。我确实认为这对单元测试稍微有点意思，但我认为那是错误的北极星。我认为人们真正需要的是鲁棒性

Diogo Almeida [00:42:16]: 我不想告诉大家他们真正想要什么，那样有点自大。

Diogo Almeida [00:42:19]: 我认为鲁棒性是更重要的属性。你希望相似的输入得到相似的输出。而 LLM 有多不可靠，说来有点离谱。

Diogo Almeida [00:42:31]: 我们测试它的一种方式是，在里面放一些 UUID，像小小的

Swyx [00:42:36]: 嗯

Diogo Almeida [00:42:36]: 我想它们叫 nonce，放进提示词里。你希望所有这些的输出都相似，因为它们在语义上确实是同一个问题，这正是你真正想要的。这种鲁棒性，正是人们在让 AI 做决策时吃亏的地方。所以我认为这是一个极其重要的属性。我们也可以提供确定性，这是可以做到的。就我能为程序员做的心智建模而言，它在某些用例里可能有价值，所以请在评论里或者以别的方式教教我。但总体而言，这很容易。确定性是可以拿来换取更低成本的东西。我们一直想站在每美元智能的前沿上，为此我们做着绝对不堪入目的事情。这是，

Diogo Almeida [00:43:32]: 我不该说这个，但这里没人能拦我。

Swyx [00:43:37]: 你可是自己给自己的 PR 签字放行。

Diogo Almeida [00:43:40]: 在这家公司可不是这么运作的。我认为这一周，我的幕僚长 Kay 是科技圈里最有权势的人。

Swyx [00:43:49]: 对。也要感谢 Kay 组织了这次访谈。

Diogo Almeida [00:43:50]: 天哪

Swyx [00:43:51]: 嗯。

Diogo Almeida [00:43:51]: 天哪。她实在太能干、太有力量了。她太了不起了。

Diogo Almeida [00:43:58]: 她烦死了。别挖她。总之，我尽量说得克制一点，但有人告诉我：“别把它叫做模型界的弗兰肯斯坦怪物”，因为这有负面含义。我觉得弗兰肯斯坦的怪物在整个故事里其实是好人。它是无辜的，对吧？我没读过。好吧。

Diogo Almeida [00:44:18]: 我坦白。好吧。那个，嗯，一个表情，我

Swyx [00:44:21]: 这是一部

Diogo Almeida [00:44:21]: 我把底牌亮出来

Swyx [00:44:21]: 还不错的 Jacob Elordi 电影，如果你想看的话

Diogo Almeida [00:44:24]: 我

Swyx [00:44:25]: 改编版。算了。

Diogo Almeida [00:44:26]: 你根本想象不到我现在有多没时间。

Swyx [00:44:28]: 嗯。

Diogo Almeida [00:44:29]: 我的优先级是睡觉？

Swyx [00:44:31]: 开发者。

Diogo Almeida [00:44:32]: 开发者，对。开发者。不过没错。为了站在每美元智能的帕累托曲线上，我们做着绝对不堪入目的事情，而且会继续这么做。

Swyx [00:44:47]: 嗯。

Diogo Almeida [00:44:47]: 我们会做一些疯狂的事，而且我认为大家真的需要跳出框框思考。我们之所以出人意料，部分原因在于人们一直在框框里思考，而我们继续这样做。截至目前，我们显然是这方面最强的，并且我们想继续做整件事里最强的那个。

Swyx [00:45:05]: 嗯。

Diogo Almeida [00:45:05]: 所以，等等，我们是从哪里岔开的？

Swyx [00:45:07]: 不。所以

Diogo Almeida [00:45:08]: 对

Swyx [00:45:08]: 我问你，会不会提供 seed 和确定性？

Diogo Almeida [00:45:11]: 哦，对。所以

Swyx [00:45:11]: 然后你基本上定义了可靠性，还有

Diogo Almeida [00:45:14]: 还有鲁棒性

Swyx [00:45:15]: 你是怎么看待它的。对。

Diogo Almeida [00:45:16]: 不过，确定……

Swyx [00:45:17]: 我有一个关于鲁棒性的例子，很快就能给你看。

Diogo Almeida [00:45:19]: 我很想看。我只说一件事。

Swyx [00:45:21]: 好。

Diogo Almeida [00:45:21]: 我们可以做一个确定性的模型。

Swyx [00:45:22]: 没错。

Diogo Almeida [00:45:23]: 如果有人能说服我们这是件有价值的事，我们很乐意

Swyx [00:45:27]: 嗯

Diogo Almeida [00:45:27]: 而且我们没有严重的 GPU 短缺

Swyx [00:45:29]: 嗯

Diogo Almeida [00:45:29]: 我们可以很乐意地做出所有这些模型。我们以取悦用户为生。还有革，革命，革……

Swyx [00:45:38]: 你会推翻一切，只不过会用一种友好的方式。

Diogo Almeida [00:45:41]: 对。

Swyx [00:45:41]: 而且找到

Diogo Almeida [00:45:42]: 所以，确定性可能会在计划之内。

Swyx [00:45:44]: 嗯。

Diogo Almeida [00:45:45]: 只是每美元换来的智能会更少。

Swyx [00:45:46]: 嗯。看过 OpenAI 和 Anthropic 的轨迹，你们会的。现在就相信我，你们会在同侪压力下去做这件事。人们就是会想要，即使你告诉他们不需要，他们还是会想要。所以，这就是它的简短结论。

Diogo Almeida [00:46:01]: 好吧。

Swyx [00:46:02]: 嗯。

Diogo Almeida [00:46:02]: 我很乐意。也许有一天我们会看到事情是怎么发生的。

Swyx [00:46:07]: 嗯。

Diogo Almeida [00:46:07]: 有人告诉我，他们说我们品牌的一部分就是坚定不移

Swyx [00:46:13]: 哈

Diogo Almeida [00:46:13]: 而他们说，那只是“固执”的委婉说法。

Swyx [00:46:15]: 固执，对。

Diogo Almeida [00:46:16]: 对，没错。我是个非常固执的人。我觉得没有这份固执，我们做不成这件事。

Swyx [00:46:19]: 嗯。

Diogo Almeida [00:46:19]: 嗯。

Swyx [00:46:19]: 不，不过。所以，好吧，但我以前跟你争论过。

Diogo Almeida [00:46:23]: 对。

Swyx [00:46:24]: 我也知道

Diogo Almeida [00:46:24]: 而且在开发者的问题上，你每次都是对的。

Diogo Almeida [00:46:25]: 所以好吧，我认输。你赢了。你赢了。我服了，我以前跟你争论过。

Swyx [00:46:31]: 不，我只是想说，我觉得你可以坚守立场，同时如果我给你正确的证据，你也能抛开先入之见，说一句：“对，这确实有道理。”

Diogo Almeida [00:46:41]: 对。

Swyx [00:46:41]: 所以在这件事上，相信你自己的直觉就好。

Diogo Almeida [00:46:44]: 嗯。对。

Swyx [00:46:44]: 我会拿出一些

Diogo Almeida [00:46:45]: 不过我怀疑，我们在很长一段时间里都会受 GPU 限制。

Swyx [00:46:50]: 很长时间。对。

Diogo Almeida [00:46:50]: 而任何每美元智能更低的东西，都意味着消耗更多 GPU

Swyx [00:46:56]: 嗯

Diogo Almeida [00:46:56]: 才能得到同样的智能。我们的目标不是引入企业客户。那也有价值，但我们的目标是让人们去实验、去搞些古怪的东西。我们需要把它送到尽可能多的人手里，为此掀起一场加州淘金热。

模型版本管理、LTS 与保持 API 稳定

Swyx [00:47:14]: 我觉得现在确实有。对。

Diogo Almeida [00:47:16]: 嗯。

Swyx [00:47:16]: 提醒一句。我就直说了

Diogo Almeida [00:47:19]: 哦，好

Swyx [00:47:19]: 因为现在就有人在想这个问题。

Swyx [00:47:21]: 当你说“我们不会承诺确定性模型。为了每美元智能，我们会不惜一切，而且我们面临 GPU 限制”这类话时，人们会觉得你们可能会对模型做量化，对吧？也就是发布时是什么样，之后可能会量化下去，降低质量，以腾出内存或带宽之类的，对吧？

Swyx [00:47:42]: 所以你们大概应该做出某种承诺，不一定现在就要做

Diogo Almeida [00:47:47]: 嗯

Swyx [00:47:48]: 比如“我们会维持发布时的模型质量”。人们会……就像当年你在 OpenAI 发布

Diogo Almeida [00:47:55]: 嗯

Swyx [00:47:55]: 所有这些 API 的时候，Claude 也一样。刚发布模型时，模型字符串并不总是指向同一个模型。

Diogo Almeida [00:48:04]: 对。

Swyx [00:48:04]: 对吧？你们的模型有版本号，这很好。

Diogo Almeida [00:48:06]: 对。

Swyx [00:48:06]: 但你们应该公开承诺某种东西，比如一个模型一旦发布，我们就不再改动。

Diogo Almeida [00:48:11]: 我们部署模型之后不会改动它们。那太疯狂了。我们在乎开发者。如果是在做那样的事，这又是第一方产品和 API 之间的问题。在第一方产品里你想怎么做都行，对吧？他们爱怎么来怎么来，只要能带来那种体验就行。但对 API，你显然不能那样做。不过我要说，我们打算比许多人习惯的模型提供商行动得快得多。所以我们发布新模型的速度会比人们想象的快很多，而且我们不承诺对模型提供长期支持，因为我们认为还有很多改进空间。所以有可能我们会暂时为目前的 Jev 1.13.0 提供 LTS。我们可能会这么做，因为用的人太多了，而且我知道开发者讨厌依赖被破坏。另一种做法是让我们的机群碎片化，那对所有人来说都是很糟糕的体验。那会变成

Swyx [00:49:12]: 对，你可能会有 100 个不同版本的模型。

Diogo Almeida [00:49:13]: 没错。而如果我们迭代得很快，这样的版本也会很多。

Swyx [00:49:17]: 嗯。

Diogo Almeida [00:49:17]: 所以我们想要的不只是最终有个受 LTS（长期支持）保障的东西，我们想要一种非常酷的方式来做到这一点。我们在这个方向上有一些研究正在酝酿，我觉得那会是最有利于开发者的东西。

Swyx [00:49:34]: 嗯。

Diogo Almeida [00:49:35]: 但目前的模型还做不到，我也不承诺我们能保持完全相同的模型。可以肯定的是，它们每次都会变得更聪明。

Swyx [00:49:43]: 嗯。

Diogo Almeida [00:49:43]: 而且我的感觉是，即便是我们现在已经很聪明的模型迭代，不同模型版本之间的变化，往往比同一个模型字符串调用两次之间的差异还要小。但当我们从“参差不齐”走向“哇”的时候，巨大的差别才会出现。

每美元智能与每秒智能

Swyx [00:50:01]: 嗯。给模型做 LTS 有一点很美妙：你其实还可以把它们移植到其他芯片上。

Swyx [00:50:08]: 不知道你有没有想过这件事。

Diogo Almeida [00:50:11]: 无可奉告。

Swyx [00:50:12]: 好吧。

Diogo Almeida [00:50:12]: 我在乎的是每美元智能。

Swyx [00:50:14]: 对。

Diogo Almeida [00:50:15]: 对吧？

Swyx [00:50:15]: 但还有速度。

Diogo Almeida [00:50:16]: 什么？

Swyx [00:50:17]: 速度也一样。

Diogo Almeida [00:50:18]: 走着瞧。

Swyx [00:50:19]: 嗯。

Diogo Almeida [00:50:19]: 走着瞧。我

Swyx [00:50:20]: 这是推理技术树里整整一块，在过去一年里爆发式增长，对吧？

Diogo Almeida [00:50:24]: 对。

Swyx [00:50:24]: 比如你可以迁移到 Cerebras

Diogo Almeida [00:50:27]: 嗯

Swyx [00:50:27]: 或者 Etched 之类的，获得 10 万倍的加速。

Diogo Almeida [00:50:32]: 对。我认为每秒智能是另一种指标，我们甚至讨论过“每美元乘以秒的智能”之类的指标。关于杰文斯悖论是否会出现，至少对 Jev 系列模型来说，我在内部追着大家反复强调的是：我不在乎它聪明多少，它必须处在帕累托前沿上。这就是 Jev 这个品牌的含义，它是每美元智能方面最好的东西。至于每秒智能，我们走着瞧。我觉得这很有意思。我知道有很多行业极度依赖实时能力，对他们来说，每秒智能意味着海量的钱。不过

Diogo Almeida [00:51:20]: 走着瞧。我很愿意两个都做，让市场从两个方向来纠正我。

Swyx [00:51:26]: 嗯。

Diogo Almeida [00:51:26]: ？

Swyx [00:51:26]: 嗯。

Diogo Almeida [00:51:26]: 我很乐意听取大家的意见。

Swyx [00:51:30]: 对，完全同意。而且这不只是关于实时，也关乎规模，因为在规模化时，每一微秒都会被乘以数十亿、数万亿次。

Diogo Almeida [00:51:41]: 这取决于它在后台运行到什么程度，对吧？

Swyx [00:51:42]: 嗯。

Diogo Almeida [00:51:42]: 比如，如果是大型后台的数据库 MapReduce 查询，延迟可能没有成本那么重要，

Swyx [00:51:49]: 对

Diogo Almeida [00:51:49]: 也就是获取智能的成本。但如果它确实是更偏实时的、面向用户的东西，那么 100 毫秒到 1 毫秒之间的预算就完全是神奇的。而且即使你已经低于 100 毫秒，只要能把这个时间减半，就意味着你能获得两倍的智能，或者进行更多次串行的智能调用，从而带来绝佳的体验。

内部评测与更快更便宜的前沿

Swyx [00:52:10]: 嗯。

Diogo Almeida [00:52:10]: 所以，这一切现在确实正在发生。真的超级酷。我很喜欢每秒智能的用例，但我不认为那会是 Jev 的定位。

Swyx [00:52:21]: 好的。嗯，有道理。

Diogo Almeida [00:52:22]: 嗯。

Swyx [00:52:22]: 说到“更快更便宜”的承诺，通常其他模型提供的权衡是更快但更贵。

Diogo Almeida [00:52:32]: 对。

Swyx [00:52:33]: 对吧？所以我在想 Jev 为什么这么引起共鸣，原因之一是你们占据了“更快但更便宜”这个象限

Diogo Almeida [00:52:41]: 嗯

Swyx [00:52:41]: 那里几乎没人占

Diogo Almeida [00:52:43]: 嗯

Swyx [00:52:43]: 同时让智能大致保持不变。

Diogo Almeida [00:52:45]: 对。“同时让智能保持不变”，这句话承重很大。那才是难的部分，对吧？就像

Swyx [00:52:53]: 可惜的是，你们基本上拒绝做任何公开基准测试，或者说你们不喜欢任何关于它的公开基准测试。

Diogo Almeida [00:52:59]: 但我会做的。我其实试过。

Swyx [00:53:00]: 但你们需要有某种内部的衡量。

Diogo Almeida [00:53:02]: 你说什么？

Swyx [00:53:02]: 你们需要对这一点有某种内部的判断。

Diogo Almeida [00:53:03]: 哦，当然。

Swyx [00:53:04]: 嗯。

Diogo Almeida [00:53:04]: 当然。我们当然有自己的内部评测。

Swyx [00:53:08]: 嗯。

Diogo Almeida [00:53:08]: 但要做到不刷这些评测，需要很强的自律，而且“不刷榜”必须是最高优先级的事。

Swyx [00:53:14]: 嗯。

Diogo Almeida [00:53:14]: 我们当然会这么做，对吧？

Swyx [00:53:15]: 嗯。

Diogo Almeida [00:53:15]: 不然我们怎么保证自己的模型处在“每美元智能”的帕累托前沿上？

Diogo Almeida [00:53:20]: 对吧？我们可不是在盲飞。如果我们在做一些成本各异的、完全古怪的东西，那该怎么比较？我们把它们画出来，然后。你。我们试着搞清楚，到底什么对用户最好。

Swyx [00:53:32]: 嗯。

Diogo Almeida [00:53:32]: 所以我们当然会衡量。我并不反对衡量。但一旦出现任何别的激励，就会变得极其危险，而这是我唯一会用铁腕来管的事。好吧，也许我的同事会觉得我很多事都在用铁腕管，但对我来说，不要自欺欺人地夸大我们模型有多聪明，是其中最重要的事情之一。

Swyx [00:53:57]: 嗯。

Diogo Almeida [00:53:57]: 我们必须追求真相。

Swyx [00:53:58]: 嗯。嗯。同意，同意。好，我想聊聊 API 选择上的一些细节。

API 原语：Choice、Score 和 Noulli

Diogo Almeida [00:54:04]: 哦。

Swyx [00:54:04]: 主要是因为，这是唯一一档会问你这类问题的播客。

Diogo Almeida [00:54:07]: 哦，太棒了。太棒了。

Swyx [00:54:08]: 你们有三个原语。

Diogo Almeida [00:54:10]: 对。

Swyx [00:54:10]: Choice、score、noulli。首先，noulli 这个词是从哪儿来的？

Swyx [00:54:14]: 这是文献里的术语吗，还是怎么回事？

Diogo Almeida [00:54:17]: 现在是了。

Swyx [00:54:18]: 嗯。

Diogo Almeida [00:54:19]: 我们为此争论了很久。争论了很久。它有点像 Bool，对吧？比如真、假。它是

Swyx [00:54:32]: 但它是连续的。

Diogo Almeida [00:54:33]: 对，没错。所以首先，这个名字的来源是伯努利（Bernoulli）。

Diogo Almeida [00:54:39]: 对。所以它——这也是为什么它拼写得这么怪。它是 Bernoulli 这个名字的一个子集，来自伯努利概率，对吧？它实际上就是那个东西。这就是它的来历。我们当时争论了很多。我们喜欢 PBool，也喜欢 Pool。我们本来想把它叫作 pool party，结果没人让我这么干。关于这个我们还有一堆别的争论。

Diogo Almeida [00:55:04]: 最后我们觉得 Noulli 是最好的。我们的理由，其实 Jev 这个名字也是一样，是我们觉得自己是一群不拘小节、疯疯癫癫的人，而程序员并不在意这些。比如，Jev 不过就是个字符串，我们没指望它能流行起来，甚至没指望有人拿它玩谐音梗之类的，对吧？实际上，内部对这个名字有过很多反感。他们后来都道歉了，只有一个人没有。

Swyx [00:55:33]: 还在坚守。

Diogo Almeida [00:55:33]: 对。我们的共同好友。

Swyx [00:55:36]: 好吧。

Diogo Almeida [00:55:37]: 对。

Swyx [00:55:38]: 我佩服她这一点。

Diogo Almeida [00:55:39]: 嗯。嗯。她想把 Jev 叫作 Meow。

Swyx [00:55:44]: 她当然会这么想。

Diogo Almeida [00:55:45]: 对，当然。

Swyx [00:55:46]: 好吧。

Diogo Almeida [00:55:46]: 跟她爸一样，对。

Swyx [00:55:47]: 这点你赢了，你赢了。

Diogo Almeida [00:55:49]: 不过，对，Noulli 就是这样。我们不得不为这个东西造一个新概念，因为如果叫 Bool，会让人困惑。所以实际上，这三个都是新概念。它们不是编程中已有的类型，这是有意为之，因为它们与类型非常接近，但又不完全是类型。score 不是 int。所以如果你用 Instructor 或 Pydantic 之类的工具把 int 或 float 映射成 score，就会有点翻车？我们真的是宁可偏向清晰，而不是偏向让人轻松理解正在发生什么。

Swyx [00:56:24]: 你不担心这个吗？你不希望它们直接集成到人们已经在用的东西里吗？

Diogo Almeida [00:56:30]: 希望。希望。而且其实我觉得，

Swyx [00:56:34]: 你们有跟其他 SDK 之类的集成。

Diogo Almeida [00:56:36]: 对。

Swyx [00:56:36]: 但你们有——抱歉，你们有自己的 SDK。

Diogo Almeida [00:56:38]: 对。

Swyx [00:56:38]: 但通常来说，比如作为做开发者关系的人，我会非常执着于这个。比如，这是怎么把 Jev 和 Instructor 一起用。

Diogo Almeida [00:56:46]: 嗯。

Swyx [00:56:46]: 这是怎么。诸如此类的东西。

Diogo Almeida [00:56:49]: 我们可能在哪儿有这个。我什么都落后了一大截。

Swyx [00:56:53]: 社区里会有人替你做的。

Diogo Almeida [00:56:54]: 哦，对。对。

Swyx [00:56:54]: 倒不是说你们已经成功了。人们会觉得：“哦，这个不错。”

Diogo Almeida [00:56:57]: 不错。

Swyx [00:56:57]: 但是。总之

Diogo Almeida [00:56:59]: 我也不把成功看成二元的。

Swyx [00:57:00]: 嗯。

Diogo Almeida [00:57:01]: 我其实把成功看作一个 score，永远还有更高的地方可以爬。

Swyx [00:57:04]: 嗯

Diogo Almeida [00:57:04]: 比如我们能为社区做到多少，说清楚一点。而且我。这部分让我压力很大，因为我没复习文档，而且文档一直在变。

Swyx [00:57:15]: 好的。但是

Diogo Almeida [00:57:16]: 但对我来说，score 确实存在。score 类似于 LM 评判（LM judging）。

Diogo Almeida [00:57:21]: 对吧？所以如果你想把它叫作判断，我想也可以。但这就是人们现在已经在用这类东西的方式，对吧？也许 Noulli 可以算是一种概率，但对我们来说一切都是概率。而 choice 其实最接近函数调用，但函数调用是一种极其恶心的东西，如果你想听 OpenAI 的内幕、八卦，那个。我们稍后应该回头聊聊。choice 就是在代码里暴露 switch match 语句的正确方式。

Swyx [00:57:57]: 嗯

Diogo Almeida [00:57:57]: 在代码之中。

Swyx [00:57:57]: 所以它能干净地映射到枚举。

Diogo Almeida [00:58:00]: 对。

Swyx [00:58:00]: 而且如果你愿意，可以选择把它实例化成一个函数。

Diogo Almeida [00:58:02]: 对。而且在枚举里，choice 才是重点。

Swyx [00:58:06]: 对。

Diogo Almeida [00:58:06]: 实际上，我认为这些全都能映射到编程原语：choice 映射到对枚举的 switch 语句。

Swyx [00:58:13]: 哦。

Diogo Almeida [00:58:14]: Noulli 映射到 if 语句。

Swyx [00:58:15]: 嗯。

Diogo Almeida [00:58:16]: 而 score 映射到排序，或者用大于、小于做阈值判断。

Swyx [00:58:21]: 好的。

Diogo Almeida [00:58:21]: 这一直是我们的愿景。以后还会有更多类型，它们都会映射到编程原语。

Swyx [00:58:28]: 嗯。还有别的吗。那么你还有什么想讲的细节吗？说真的，这是给那些打算认真投入 Jev 的人听的。你是专家，对吧？我只是想为他们提供更多关于 API 选择的背景，告诉他们该如何使用其中一些东西，比如 legends、置信度，在你们的测试中有多关键，比如，怎么。总之，就是你想给大家的任何小贴士。

结构化输入与 AI 原生编程

Diogo Almeida [00:58:56]: 好

Swyx [00:58:56]: 当他们深入到这个层面的时候。

Diogo Almeida [00:58:58]: 谢谢你。我爱这个问题。不。这是

Swyx [00:59:00]: 这正是我们来这儿的原因。

Diogo Almeida [00:59:01]: 太棒了。我没想到会聊这个。而且其实，我。已经好几个月没人问过我这个了，大概是我给我们的 DevRel 做入职培训的时候。

Swyx [00:59:10]: 好的。

Diogo Almeida [00:59:10]: 太酷了。我们的模型，是为未来深入计算机程序内部而设计的。我们毫不讽刺地相信，这件事的规模会比今天人们所能想到的任何东西都大得多。我们的模型可能还没准备好，但我们一直在朝那个未来努力。它在这些浅层任务上永远不会足够好。抱歉。它永远不会足——我们不会一直在浅层任务上不断攀升。我们想深入程序的内脏，因为这才是让软件强大的方式。我们这里所有的类型，这其实是一个输出。

Diogo Almeida [00:59:47]: 但输入的所有部分，比如状态、指令、标准，全都可以是结构化的 JSON 对象。

Diogo Almeida [00:59:58]: 这样，程序就可以把它们插入到正确的位置，你也不需要把东西塞进模板里。没错。所以如果。我觉得人们没有足够重视这一部分，他们以为一切都是字符串。这也没关系。但这些东西本来都是为此设计的。我想说，如果你还在用模板，比如把它变成系统消息之类的，那你想的还是旧的那一套？我们应该让事情尽可能便于计算机理解，因为这种结构是真实存在的，对吧？比如在编程语言里，把你所有的数字都放进去，然后把它转成字符串再传进去，那就很怪。通常你这么做是为了打印，因为有人在回路里，对吧？但在计算机内部，你想传递的是嵌套的、处处带语义的结构。我们真的会去优化我们的模型。模型在这方面已经相当优化了，但问题是，每多一层不同的嵌套结构，推理就更难一分，而我们正在朝这个方向全力以赴。我认为大家应该继续朝这个方向努力，因为这会让代码更易读、更漂亮，也与实现细节无关。就好像：这是我的状态，这是我的函数状态。把它想成一个 AI 函数。我的状态，也就是你手头所有可用的变量，该把哪个子集传到这里？系统消息就像恶心的全局变量，你把所有东西都塞在里面，把所有这些

Swyx [01:01:21]: 垃圾内容，对

Diogo Almeida [01:01:22]: 指令一次性全塞进去。然后你只能祈祷每一条指令都被完美执行，而不是并行地去问这些问题。

Swyx [01:01:29]: 好的。

Diogo Almeida [01:01:30]: 另外我还要建议——我这么说真的不是出于“这能让我赚钱”的角度。我真心建议多问很多很多问题。把它们拆解、变小，真正做分解。不管模型今天能不能做到，我都相信，这周发生的事情最大的救赎之处在于，人们的代码库，也就是 AI 代码库，会变得好得多。如果你把问题分解成简单的决策，这里面每一个都极易评估。一个 AI 之前是一个大的系统消息，然后也许再来另一个大的 AI

分解、验证与最小语义单元

Swyx [01:02:09]: 大的输出，对

Diogo Almeida [01:02:10]: 去看看它到底有没有做到这一点。这太离谱了？有点疯狂。那就是我们的斯德哥尔摩综合征，对吧？但这确实有点疯狂。比如，如果你想说：“嘿，别读这个子目录”，或者“别把任何 API 密钥传给 DeepSeek”之类的，那应该由程序基本保证。你永远不可能对任何机器学习模型有保证，但通过拆解，你实际上可以去衡量它，对吧？比如

Swyx [01:02:37]: 对，你可以验证它确实被调用了。

Diogo Almeida [01:02:39]: 对，而且我们的模型，我们的模型——接口本身就非常容易验证。这应该让人松一口气。

Diogo Almeida [01:02:46]: 这会带来好得多的工程。

Swyx [01:02:50]: 嗯。我想我明白了。过去人们不这么做的原因之一，是他们只会去调用一个小型 LLM，对吧？

Diogo Almeida [01:02:59]: 对。

Swyx [01:02:59]: 而这仍然太慢、太贵，比起把所有东西打成一块——我自己就这么干过。

Diogo Almeida [01:03:03]: 对。

Swyx [01:03:04]: 对吧？我做过基准测试。一边是把所有东西丢进系统提示词、只得到一个大输出的流水线，另一边是拆成一百个不同的小任务。后者更慢、更贵

Diogo Almeida [01:03:13]: 嗯

Swyx [01:03:13]: 效果也没那么好。

Diogo Almeida [01:03:13]: 对。

Swyx [01:03:14]: 对吧？

Diogo Almeida [01:03:14]: 这种情况确实会发生——对。而且这非常不方便。很笨重。为什么不干脆全放在一起？你会在多个

Swyx [01:03:22]: 嗯

Diogo Almeida [01:03:22]: 问题之间重复一些内容，所以也许有点低效之类的。但这样得到的结果非常难以依赖。

Swyx [01:03:30]: 嗯。

Diogo Almeida [01:03:30]: 而且软件不需要在后台运行。如果我们的东西不能在后台运行，我会心碎的。

Swyx [01:03:37]: 你们有没有发现某种拆解方式确实有效，而与你们原先以为有效的做法相比，有哪些行不通？

Diogo Almeida [01:03:45]: 有意思。

Swyx [01:03:46]: 因为你这么一说，大家就会开始探索这个。他们会把这当作参考，心想：“好，这就是我该用 Jev 的方式。”

Diogo Almeida [01:03:53]: 对。

Swyx [01:03:53]: 那问题就是，怎么拆解？

Diogo Almeida [01:03:57]: 有意思。我喜欢把事情拆到最小的语义单元。

Swyx [01:04:03]: 嗯。

Diogo Almeida [01:04:04]: 就是，最底层的东西是什么？我尽量从不。我大概是所有人里查询这个模型最多的人。

Diogo Almeida [01:04:13]: 我尽量。第一，在我的查询里，这更像是我给东西写提示词的方式。我会把它写得非常结构化、非常明确。而且在问题里，我总是。我喜欢用反引号，不过其实对所有模型都管用？要非常清楚地指明我指的是什么，因为我们希望模型非常按字面执行，毕竟你编程的时候，想要的是能很好地遵循指令的东西。这就是编程的艺术，而 AI 做的是扩展可以被遵循的指令的种类。所以我喜欢这么做。我。

Diogo Almeida [01:04:47]: 有时候我会有点懒，搞一些更偏混合的东西，但我认为，对于真正大型的生产系统，你就是要不断添加更多问题，并且要让添加问题变得非常容易。对所有这些拆解都要非常精确，然后用代码实现你想要的确切行为。我可以举一个很小的例子，比如拒答（refusal）。我不打算再讲为什么我们不拒答了。我可能已经讲过了。

Swyx [01:05:15]: 对，你已经讲过了。

Diogo Almeida [01:05:15]: 我已经记得模模糊糊了。但就拒答而言，我认为你不该问：“我这里应该拒答吗？”？这个。我觉得答案会相当不错，因为那是一个与 System 1 相容的任务。但我认为，你更好的做法是，针对可能需要拒答的不同情形，分别提出许多相互独立的问题。因为这样就不必凭猜测，你可以明确指定你想要什么。而且美妙的是，我觉得这真的非常美妙，如果你发现某种情形下它没有拒答，原因是“我没有说明任务的这一部分”，那太棒了。这就是软件工程的意义所在。你通过加入那个问题、加入阈值来修复这个 bug，也许再把它记成一个测试用例，然后它就永远解决了。你的软件不会因为上下文腐烂（context rot）而在提示词里把它忘掉。它就在那里，而且你可以永远持续地衡量它。如果模型在其中某些方面不够完美，你可以根据真实样本，为所有这些因素选择你想要的阈值。这就像没有 ML 的 ML，而且你几乎可以拿它做任何事。当然，可能有些事模型现在还不够好，对吧？比如，我看到有人用模型做交易时，我会有点害怕，

Diogo Almeida [01:06:28]: 自动化交易。看起来很酷。我只是觉得，人们应该把它留给专业人士。

Diogo Almeida [01:06:35]: 而且那是一个非常困难的高层任务，也许模型现在还没好到能搞定。

Swyx [01:06:40]: 嗯。

Diogo Almeida [01:06:41]: 嗯，即使它们够好了，那也会——突然之间就不灵了，因为有效市场。但这正是那类你可以把它拆解成若干部分并逐一评估的事情，然后你可能会说：“它在这方面还不够聪明。也许这个版本我们先不部署。”

Swyx [01:06:56]: 嗯。

Diogo Almeida [01:06:56]: 或者我们做个权衡，或者我们宁可偏向安全一侧，又或者：“嘿，模型在检测‘讽刺口吻加 VIP 客户’这种奇怪组合上还不够好，所以这种时候我们升级给人工处理。”置信度估计也是为此而生。

置信度、阈值与微调

Swyx [01:07:11]: 好的。回答得很好。有一点我想很快提一下，我不指望你有太长的回答，那就是，

Diogo Almeida [01:07:19]: 你不会的。

Swyx [01:07:20]: 嗯，不是。只是，具体来说，你们仍然依赖阈值化，把它当作用户可以拉动的杠杆。

Swyx [01:07:28]: 但如果校准本身就是错的呢？你是在假设你们的校准是完美的，但是

Diogo Almeida [01:07:33]: 我没这么说。

Swyx [01:07:33]: 我，就是

Diogo Almeida [01:07:34]: 对。我没这么说。

Swyx [01:07:35]: 所以就是校——完美校——好的校准意思是，数值低，概率就相对低，数值高，概率就相对高。但它可能是错的。它可能

Diogo Almeida [01:07:44]: 当然，当然

Swyx [01:07:44]: 完全错位。

Diogo Almeida [01:07:45]: 对。

Swyx [01:07:45]: 那这时我就会想去微调它之类的，对吧？你们现在不提供这个，但你们可以。我

Diogo Almeida [01:07:50]: 我们可以。

Swyx [01:07:51]: 你看，这是个简短的回答

Diogo Almeida [01:07:52]: 嗯

Swyx [01:07:52]: 也就是你们现在没有这个。

Diogo Almeida [01:07:54]: 哦，问题是我们想不想提供微调？

Swyx [01:07:56]: 那可以是其中一种方案，或者你们也可以有另一个旋钮，对吧？

Diogo Almeida [01:08:00]: 嗯。

Swyx [01:08:00]: 因为，现在你们说的全是：如果哪里不对，那是技能问题，你就该再改改提示词，或者拆解得更细，或者调整置信度。

Diogo Almeida [01:08:09]: 对。

Swyx [01:08:09]: 这就是我的两个选项。

Diogo Almeida [01:08:11]: 对。

Swyx [01:08:11]: 对吧？如果你的模型就是一直答错，这就不太令人满意。

Diogo Almeida [01:08:14]: 对。而且要说清楚，它会在很多事情上出错。

Swyx [01:08:18]: 对。

Diogo Almeida [01:08:18]: 我们有一个“报告问题”按钮。欢迎在 Discord 上向我们抱怨。我们想把它做得好得多。每个模型版本都会有明显的提升。

Swyx [01:08:25]: 嗯。

Diogo Almeida [01:08:25]: 如果版本没有大幅改进，我们会很快停止发布。所以第一点，这完全合理。我认为承认 AI 在某些事情上并不完美，只是务实的做法，对吧？我确实认为我们会找到它们足够胜任的用例，而“足够好”取决于用例，对吧？比如，人类在某些工作上并不擅长，却仍能完成大量工作，因为他们的期望价值（EV）相当高。假设有了合适的阈值化等手段，即使会出错，大概也有大量工作可以完成。至于微调的问题，我可以想象，我可以想象它在计划之中。我确实有顾虑，因为在“人们需要的”与“人们想要的”这个类别里，

Diogo Almeida [01:09:09]: 我觉得通用模型往往真的很。就是，又是那种通用性的某种说不清道不明的东西：让模型擅长其他一百万种任务，而不是只擅长这一个狭窄任务，反而可能让它在这个任务的边缘情况上表现更好，对此我，我会有一点担心？

Swyx [01:09:25]: 嗯。

Diogo Almeida [01:09:26]: 我的回答是，我可以想象这件事。在这些事情上我无比务实。我什么都想要。我的世界观是。我们想做的东西太多了。

Swyx [01:09:38]: 嗯。

Diogo Almeida [01:09:38]: 但同时，我也不想发布一个巨大的“自伤武器”（foot gun），像其他一些 AI 公司会发布的那样。

Diogo Almeida [01:09:46]: 嗯。

Swyx [01:09:47]: 嗯，OpenAI、Claude，我想甚至 Gemini，都推出过微调，然后又撤回了。

Diogo Almeida [01:09:53]: 对。

Swyx [01:09:53]: 这是个有意思的观察：基本上，微调现在属于开源模型的领域了。

Diogo Almeida [01:10:02]: 对。我知道这件事。而且那东西本来就挺烂的，所以他们撤下来也许更好。

Swyx [01:10:10]: 嗯。对，所以它可能就是个“自伤武器”，告诉人们微调很可能是错误的路线，这很好。另一个有意思的回答可能是，我们的模型非常不同，就像量化不适用于我们一样

Diogo Almeida [01:10:21]: 嗯

Swyx [01:10:21]: 输出词元也不适用于我们，微调同样不适用于我们。

Diogo Almeida [01:10:24]: 嗯，其实，我对这种可能性非常开放。

Swyx [01:10:28]: 嗯。

Diogo Almeida [01:10:28]: 我的。这不是承诺。这是一种愿望。先说清楚，我喜欢保持坦诚。我认为，随着每美元智能变得更便宜，我们可以得到非常小的、近似的东西，希望它们能作为智能的代理。比如，会不会有这样一个世界，人们不再写正则表达式了？因为用 AI 的每美元智能，比一个正则表达式的复杂度还便宜。那就太酷了。我会很喜欢？而且对其中一些狭窄的用例，可能需要微调才能真正越过门槛。我们拭目以待。我的希望是，校准能做到这一点。校准加上模型级联。比如，如果它非常有把握，那它大概是对的。如果处在中间地带，那就换下一个更大的模型，然后依次往下链式传递。我不太清楚这会怎么发展，不过，是的。我可以想象。我还能想象的是，比如你有一系列。比如，我们拥有整条帕累托前沿。企业可能想要的东西，或者说，黑客大概愿意自己应对一整条模型帕累托前沿。也许企业想要更动态的东西。你可以想象有不同尺寸的模型，根据它在你系统各个部分上的聪明程度，动态选择用哪个模型。甚至可以想象，因为我们这套东西如此简单，可以在此基础上做某种自动微调。

未来的模型、帕累托前沿与智能的新形态

Swyx [01:11:53]: 嗯。

Diogo Almeida [01:11:54]: 一点也不是承诺。我只是在畅想科幻。

Swyx [01:11:57]: 但你们会考虑推出不同尺寸的 Dev 模型，以提供这种多样性吗？

Diogo Almeida [01:12:01]: 当然。对。比如，我们。我怎么知道人们需要多少智能？

Swyx [01:12:06]: 我不知道。

Diogo Almeida [01:12:06]: 对吧？是啊。我也不知道。

Swyx [01:12:08]: 需求是，需求是无限的。

Diogo Almeida [01:12:10]: 嗯，是啊，人们现在在劝我们别发布东西，因为我们没必要发布，因为，还是那句话

Swyx [01:12:16]: 已经够好了，对。

Diogo Almeida [01:12:18]: 对，但那有点无聊。而且我很喜欢一句话。这是我希望大家用来监督我的，因为这很难

Swyx [01:12:27]: 收回。

Diogo Almeida [01:12:27]: 很难反悔。对。就是那句。我不确定原话是不是这样，大意是：文化，就是当市场不奖励你时你依然去做的事。我很喜欢这句话，因为我认为我们有所坚持。也许在未来，我们所坚持的东西会变得如此显而易见，以至于我们就像无聊的 Visa 之类的，成了没人会去想的一种基础设施，而我会穿着非粉色的西装之类的。

Diogo Almeida [01:12:54]: 但我真的想把全世界召集到这个方向上？我想继续做酷的东西，不是因为我们需要，而是因为我希望人们意识到，这只是个开始？那甚至本来不是要作为开场的一击。那更像是一个低调的研究预览，或者随便你想怎么称呼它。

Swyx [01:13:14]: 嗯。

Diogo Almeida [01:13:15]: 我们还能做很多很多。

Swyx [01:13:17]: 嗯。

Diogo Almeida [01:13:17]: 用。机器原生的智能将会大放异彩。

Swyx [01:13:21]: 所以不会只有一种尺寸，也许也不会只有你们发布的这一个模型。你们想打开大家的思路

Diogo Almeida [01:13:28]: 绝对不只这些。

Swyx [01:13:29]: 嗯。

Diogo Almeida [01:13:29]: 我想，我想尽我们所能满足各种需求。

Swyx [01:13:33]: 嗯。

Diogo Almeida [01:13:34]: 对吧？不过有一个巨大的前提，我不想变成 OpenAI 的产品团队那样，把东西往墙上乱扔。我希望它是在一个统一的愿景之下。回头看那份宣言，一切都需要归入这三件事之一

Swyx [01:13:48]: 嗯

Diogo Almeida [01:13:48]: 在我看来。

Swyx [01:13:50]: 我没有

Diogo Almeida [01:13:50]: 嗯。

Swyx [01:13:51]: 我没准备好聊这个，

Diogo Almeida [01:13:52]: 哦，抱歉。抱歉，Francis。嗯，我直接讲就行。我们的东西里有三个步骤。

Swyx [01:13:57]: 对。

Diogo Almeida [01:13:57]: 听起来像是在吊胃口。我希望一切都归入这三件事之一

Swyx [01:14:02]: 好

Diogo Almeida [01:14:02]: 以此不断突破边界等等。这些并不是检查清单。它们更像是我们认为构成一场新技术革命之基础的坐标轴。我希望我们下的所有赌注都落在其中的某处。而且我们会在模型方面做一些古怪的东西。

Diogo Almeida [01:14:23]: 因为是机器原生的，对吧？人类不需要完全看懂。它只需要有价值。

Swyx [01:14:30]: 那，给大家一点预告或提示吧。古怪到底长什么样？什么是古怪？

Diogo Almeida [01:14:35]: 我给大家一个提示。

Swyx [01:14:36]: 好。

Diogo Almeida [01:14:36]: 有人想把它们叫作决策模型。

Swyx [01:14:40]: 好的。

Diogo Almeida [01:14:41]: 意思是我们的原语是决策。我不会这么叫，因为我认为还有其他机器原生的类型并不是决策。

Swyx [01:14:54]: 好，那我们就先说到这儿

Diogo Almeida [01:14:54]: 这是个有趣的提示，一个有趣的提示。

Swyx [01:14:55]: 让大家去猜。好。

Diogo Almeida [01:14:56]: 对。我觉得这个提示挺有意思的。

Swyx [01:14:58]: 嗯。确实有人说：“我以前做过这个。我一年前就做了一个决策模型。”比如，Jev 不新，Jev 不酷。

Diogo Almeida [01:15:04]: 嗯。

Swyx [01:15:04]: 但我觉得，一方面有品类层面的东西，也就是你们证明了什么是可能的。另一方面是性能。其实，就基准测试和你们拿到的数字而言，据我所知，你们仍然领先于外面每一个模仿你们的产品。

Diogo Almeida [01:15:19]: 我不在乎基准测试。

Swyx [01:15:20]: 没错

Diogo Almeida [01:15:20]: 先说清楚。

Swyx [01:15:21]: 没错。

Diogo Almeida [01:15:21]: 所以，即便我们赢了或输了，我都想做发布公告。

Swyx [01:15:24]: 你们确立了一个品类，对吧？

Diogo Almeida [01:15:26]: 对。

Swyx [01:15:26]: 嗯。

Diogo Almeida [01:15:26]: 对。

Swyx [01:15:26]: 但同时我也觉得，决策模型与 System 1 之间的这个细微区别，其实才是你们想要

Diogo Almeida [01:15:32]: 对。我只是想让软件工程师变得超级强大

Swyx [01:15:36]: 嗯

Diogo Almeida [01:15:36]: 对吧？借助 AI。而且，对我来说悲剧的是，

经济影响、TFP 增长与后台中的 AI

Diogo Almeida [01:15:42]: 在那个 AI 寒冬的方向上，我觉得，实在是太令人难过了，AI 明明如此强大，却被如此低估地使用。这件事会让我情绪激动，真的。

Diogo Almeida [01:16:03]: 我认为那是。我不想只是做一个纯粹的技术乐观主义者，觉得所有技术都是好的。我认为现在发生的事情是一种悲剧。就是。而且有。我只是想为人们打开那些可能性。

Diogo Almeida [01:16:19]: 嗯，我就说到这儿吧。这几天我哭得太多了，不想在录音里再来一次。

Swyx [01:16:26]: 嗯。不，

Diogo Almeida [01:16:27]: 嗯

Swyx [01:16:27]: 我很感谢你分享了一点这些，我想大家能看出来你非常真诚，而且

Diogo Almeida [01:16:31]: 嗯

Swyx [01:16:31]: 对此充满热情。光看名字，比如 TypeSafe AI，你未必能感受到这一点，但我觉得，一旦人们足够深入地沉浸其中，就会明白，这是你希望世界走向的一个真正不同的方向，而且实际上你已经完成了从零到一这最难的部分，那么现在，让我们一起朝新的方向前进，对吧？

Diogo Almeida [01:16:51]: 嗯。嗯。

Swyx [01:16:52]: 嗯。

Diogo Almeida [01:16:52]: 我不会。我敢肯定我不会这么想。也许我会觉得最难的部分已经做完了，也许吧。但我认为还会有更多的难关。比如，如果各种事情都被自动化了，我们终于看到 GDP 增长，然后每天都像是一场 Jev 派对

Swyx [01:17:12]: 嗯

Diogo Almeida [01:17:12]: 那也许最难的部分就完成了。但我不这么认为。而且我真的觉得，人们过于关注速度和成本，而对可靠性关注得不够。

Swyx [01:17:23]: 好的。

Diogo Almeida [01:17:23]: 可靠性才是让它令人愉悦的东西。可靠性才是让你能够信任它的东西。

Swyx [01:17:28]: 你们有这么一句话，

Diogo Almeida [01:17:29]: 对。

Swyx [01:17:30]: 五年内 TFP 增长超过 3%。

Diogo Almeida [01:17:32]: 太棒了。

Swyx [01:17:32]: 我从没见过

Diogo Almeida [01:17:33]: 太棒了。冲啊！

Swyx [01:17:35]: 我从没见过

Diogo Almeida [01:17:36]: 嗯

Swyx [01:17:36]: 哪家实验室在乎 TFP 增长。

Diogo Almeida [01:17:38]: 但那才是经济革命的含义，对吧？这其实与 OpenAI 章程过去所主张的极为一致。

Swyx [01:17:45]: 嗯。

Diogo Almeida [01:17:45]: 它谈到的是。我认为章程还是那份章程，但他们试图把定义挪来挪去，挪到比如 1000 亿美元利润之类的。倒不是说我讨厌 OpenAI。

Swyx [01:17:54]: 这不是一个。对，AGI 本来就不是一个定义明确的术语，对吧？

Diogo Almeida [01:17:57]: 他们试过了。

Swyx [01:17:58]: 对，没错。

Diogo Almeida [01:17:58]: 对吧？他们声称要完成全世界大部分具有经济价值的工作，那就该回答一个问题：既然能解决数学里的千禧年大奖难题，为什么在全世界具有经济价值的工作里，一件都做不成，周围一圈都是空的。我觉得现在所有模型大致都打平在零。也许我们已经开始了，但我猜还不到 1%。我认为等它真正发生时，会体现在经济统计数据里。

Diogo Almeida [01:18:28]: 那会特别棒。它不会造成大规模失业，但会带来一大堆很棒的转变，世界会好得多。而且我真的受够了 AI 总是当事情的前景主角。我觉得世界应该变得更令人愉悦，AI 只需要帮忙做到这一点就行。

Diogo Almeida [01:18:48]: 而且我

Swyx [01:18:49]: 就是淡入背景，消失在幕后。

Diogo Almeida [01:18:50]: 没错。

Swyx [01:18:51]: 嗯。

Diogo Almeida [01:18:51]: 我在演讲里也这么说。2019 年的软件，也就是 SaaS 之类的，极其值钱，对吧？现在是 2026 年了。AI 明明这么厉害，软件怎么还基本跟当年一模一样，除了偶尔在旁边多个聊天框？那种东西勉强能用，但没法让它做出企业真正有利害关系的决策，因为它们不被信任去做决策。在我看来这太离谱了。这里有巨大的经济动力，我觉得这会是一场反向的 SaaS 末日（SaaS-pocalypse）。我认为 SaaS 会被这股力量大幅增强。他们最清楚哪些事情值得自动化，这会是一段疯狂的时期。

System 1 与 System 2，以及推理的局限

Swyx [01:19:37]: 嗯，我也这么认为。你解锁的这件事很美妙。

Diogo Almeida [01:19:41]: 嗯。

Swyx [01:19:41]: 你提到过一点，我不确定是不是就在这里：什么是 System 1 问题，什么不是？什么又是 System 2 问题？比如

Diogo Almeida [01:19:50]: 天哪，这个问题太难了。朋友，这个太难了。

Swyx [01:19:55]: 因为现在大家都想拿 Jev 去解决一切，对吧？

Swyx [01:19:57]: 这大概会失败，对吧？不过有些事情会做得很好。

Diogo Almeida [01:20:02]: “Jev 一切”这个说法挺好笑的。

Swyx [01:20:04]: 嗯。

Diogo Almeida [01:20:04]: 这种说法挺好玩的。那么，跟你说实话吧。

Swyx [01:20:08]: 嗯。

Diogo Almeida [01:20:09]: 实话是，这是个经验性问题，就像缩放定律（scaling laws）也是经验性的一样。比如，为什么尽管投入了那么多钱，机器人技术现在还是没怎么真正跑通？

Diogo Almeida [01:20:21]: 我觉得不一定是多花钱的问题。经验上的结果可能就是还没出来，对吧？所以从经验上看，我认为这些预训练出来的、对智能的超级浓缩体，本质上就是 System 1 式的思考者。我认为，要描述 LLM 擅长什么，System 1 是最接近的说法。RLVR 在 System 2 式思考上做出了不可思议的成果。我非常震撼，真的特别酷。我不认为它会带来丝毫的 AI 末日。当然不是 0%，因为我觉得说 0% 是校准失当。但他们做的事确实很酷，而且真的把它推到了极限。也许他们并不觉得那是极限。但对模型来说，这是件很怪的事，而且它们在这方面非常脆弱。想想大家以前是怎么谈论 AI 的，在 ChatGPT 那个年代：“哇，它真通用，能做很多通用的事。”然后又说：但它不擅长数学题，比如 GSM8K，小学数学。再看看现在大家怎么谈论 RLVR：“它太脆弱了，太参差不齐了。”？比如：“它为什么能做这件特别奇怪的事？”而且实际上，数学不只是尖峰状的，而是分形的，对吧？这是因为 RLVR 是……如果我们谈每一种方法的北极星是什么：RLHF 是取悦人类，对吧？这就是人类反馈的含义。RLVR 是优化基准测试。所有归入 RLVR 这一类的东西，按定义就是基准测试，因为基准测试就是可以用程序验证、输出简单、能够做得好的东西。而 RLCD 是让它在程序化使用中变得可靠。而且 Diogo Almeida [01:22:09]: 嗯。那个，我会

Swyx [01:22:11]: 嗯。嗯，这个，我先说一点想法，然后你可以接着

Diogo Almeida [01:22:15]: 哦。

Swyx [01:22:15]: 如果我说错了就纠正我。比如，我一直在想的一件事也是，你给我开通权限的第一天，我就把 Jev 扔到了一堆任务上。

Diogo Almeida [01:22:23]: 哦，对。

Swyx [01:22:23]: 就是多跳推理，对吧？比如

Diogo Almeida [01:22:27]: 嗯。

Swyx [01:22:27]: 单跳的话，非常出色。比如

Diogo Almeida [01:22:29]: 嗯。

Swyx [01:22:29]: 业界最先进水平。单跳场景你根本不该用 Jev 以外的任何东西。

Diogo Almeida [01:22:32]: 对。

Swyx [01:22:33]: 多跳就会……开始不行了。而且

Diogo Almeida [01:22:34]: 嗯。

Swyx [01:22:34]: 跳数越多，退化就越明显，基本是单调递增的。

Diogo Almeida [01:22:38]: 对。

Swyx [01:22:38]: 对吧？

Diogo Almeida [01:22:39]: 所以，哦，是的。回到那个经验性问题，这取决于我们能从模型里挖出什么。

Swyx [01:22:44]: 嗯。

Diogo Almeida [01:22:44]: 对吧？所以我们什么都想要。我们想尽可能多地挖掘出智能，仅此而已。那些模型。我把我们看作是在解锁、打磨和雕琢智能，同时增加新能力，填补其中的缺口。随着时间推移，我们会填上越来越多的缺口。但现实是，我们做的是挖掘属性的生意。而这些属性，其实取决于这些浓缩内核本身能提供什么，以及把它们弗兰肯斯坦式地拼接在一起，让它具备一切事物的所有属性。

Swyx [01:23:21]: 嗯。

Diogo Almeida [01:23:21]: ？但现实是，我们做的是尽可能多地挖掘能力的生意。而 System 1 恰好就是对“行得通的东西”的描述。在这个范式里行得通的一切，都会带有 System 1 的味道。比如，我

Diogo Almeida [01:23:38]: 我们不做所谓的字符串中的潜在推理（latent reasoning in strings），是有原因的。

Swyx [01:23:43]: 嗯。

Diogo Almeida [01:23:43]: 我认为推理。模型真正做得好的，是在模型内部进行的推理。它并不完全，也不是在所有方面都做得很好

Swyx [01:23:49]: 等等，潜在推理是字符串里的推理？我以为潜在推理是在模型权重内部进行的推理。

Swyx [01:23:55]: 那个

Diogo Almeida [01:23:55]: 我觉得

Swyx [01:23:56]: 我不知道

Diogo Almeida [01:23:56]: 大家以前管那个叫

Swyx [01:23:57]: 我只是想澄清一下

Diogo Almeida [01:23:57]: 连续推理（continuous reasoning）。

Swyx [01:23:58]: 好的。

Diogo Almeida [01:23:58]: 我也不完全确定。

Swyx [01:23:59]: 好的。

Diogo Almeida [01:24:00]: 之所以叫潜在推理，是因为以前推理轨迹是保密的。

Diogo Almeida [01:24:04]: 所以它们有点像答案的潜变量。

Swyx [01:24:06]: 哈。

Diogo Almeida [01:24:07]: 嗯。

Swyx [01:24:07]: 所以现在保密的东西已经换了。

Diogo Almeida [01:24:09]: 嗯

推理、视觉、上下文长度与未来能力

Swyx [01:24:10]: 嗯

Diogo Almeida [01:24:10]: 对 OpenAI 和 Anthropic 来说，它仍然是保密的，对吧？

Swyx [01:24:12]: 所以 Jev 不做推理。

Diogo Almeida [01:24:14]: 对。

Swyx [01:24:14]: 就你所能想见的范围内，你永远不会去做，对吧？因为那违背了 System 1 的全部承诺。

Diogo Almeida [01:24:21]: 我。我的承诺是，为机器原生的场景做一切必要的事。

Swyx [01:24:28]: 嗯。

Diogo Almeida [01:24:28]: 我可以想象，存在一些没那么慢、没那么低效也没那么脆弱的推理形式，完全有可能出现，说清楚一点。我是个务实的人，不在具体方法上做承诺。我承诺的是我的 ROI 北极星是什么，我会为此而战，就好像这次发布没有发生过一样，我们依然渴望在这个世界上拥有自己的位置。

Swyx [01:24:53]: 太好了。嗯。

Diogo Almeida [01:24:54]: 嗯。

Swyx [01:24:54]: 我想说的另一点是，视觉是另一项很重要的能力，你们现在没有，但也许它根本就不属于 System 1？

Diogo Almeida [01:25:04]: 我觉得我的视力（vision）相当不错。

Swyx [01:25:05]: 什么，抱歉？

Diogo Almeida [01:25:06]: 我觉得我的视力不错。

Swyx [01:25:07]: 不是，抱歉。视觉

Diogo Almeida [01:25:08]: 我开玩笑的，开玩笑的。嗯。

Swyx [01:25:09]: 天哪。

Diogo Almeida [01:25:10]: 嗯。

Swyx [01:25:12]: 因为大家显然最先想要的就是视觉，因为那个 Doom 演示，而且除了文本之外，其他一切本质上都是视觉。

Diogo Almeida [01:25:19]: 一切都在计划之内。

Swyx [01:25:21]: 嗯

Diogo Almeida [01:25:21]: 在我心里是这样。

Swyx [01:25:22]: 好的。

Diogo Almeida [01:25:22]: 其实，这是我们内部在争论的一件事。你的听众大概特别适合来参与这场辩论。问题是：我们该在多大程度上给人们他们以为自己想要的东西，也就是我们在隐身期两年里做的事，我们就是知道这显然会有价值；还是给他们嘴上说想要的东西，对吧？这里面有很多维度。比如上下文长度就是一个例子，对吧？每一个模型，包括我们的，我其实认为据我所知我们的是迄今为止最好的

Swyx [01:25:58]: 上下文最长的，嗯

Diogo Almeida [01:25:58]: 在长上下文下性能不退化这一点上。

Swyx [01:26:01]: 嗯。

Diogo Almeida [01:26:01]: 但其他厂商的态度就是：“人们要什么，我们就给他们那个蠢东西。”我们需要找到一个平衡，因为如果你把前一种立场走得太远，也就是给人们想要的，你最终会陷入那种 Anthropic 式的“保姆国家”思维，非常反开发者。而对开发者友好的路线应该是：给他们想要的，但我们不想把弄清智能那种说不清道不明的东西（je ne sais quoi）的负担压在他们身上。所以我们在摸索怎么把握这个方向：发布节奏该多快，同时保持我们的信任口碑，并且把用户当作能做出明智决定的成年人，不需要在这些东西上对他们搞保姆式管束。

Swyx [01:26:46]: 嗯，我觉得这话有道理。

Diogo Almeida [01:26:48]: 嗯。说实话，我们也不知道答案。我们得去想清楚。这大概会是我接下来几天最大的争论之一

Swyx [01:26:57]: 嗯

Diogo Almeida [01:26:57]: 因为我们手上有很多东西。还是那句话，我们没料到会这么火，所以当时想的是：“我们需要一些后续发布。”不过嗯。

Swyx [01:27:05]: 我不知道，我不确定你是不是真没料到会火。我看到了你投入的努力。我从没见过你像过去两个月这样全情投入，对吧？比如

发布前后的用户教育、Cookbook 与产品市场契合

Diogo Almeida [01:27:13]: 那也是因为我的幕僚长逼我全情投入的。

Diogo Almeida [01:27:18]: 嗯。

Swyx [01:27:18]: 所以

Diogo Almeida [01:27:20]: 我以前从没有过。我以前还以为自己已经很拼了

Swyx [01:27:24]: 嗯

Diogo Almeida [01:27:24]: 而且

Swyx [01:27:25]: 不过，你当时出现在我们的写作工作坊上，我就想：“你来这儿干什么？”然后，哦

Diogo Almeida [01:27:30]: 很有用，特别棒。

Swyx [01:27:31]: 你显然对这次发布非常用心。

Diogo Almeida [01:27:34]: 嗯。

Swyx [01:27:35]: 而且成果也看得出来，所以

Diogo Almeida [01:27:36]: 嗯

Swyx [01:27:36]: 恭喜。该给你点赞。

Diogo Almeida [01:27:37]: 谢谢，谢谢。我希望能继续全情投入

Swyx [01:27:41]: 嗯

Diogo Almeida [01:27:41]: 这是我的感觉。

Swyx [01:27:42]: 嗯。

Diogo Almeida [01:27:42]: 我想要。我觉得我们已经通过了科技界的许多重要关卡，就我们想做到的而言，但后面还会有很多。

Swyx [01:27:53]: 嗯。

Diogo Almeida [01:27:53]: 天哪，我真是迫不及待要打这场正义之战。

Swyx [01:27:56]: 嗯，很令人兴奋。在我们把话题扩展到 TypeSafe 之外之前

Diogo Almeida [01:28:01]: 哦

Swyx [01:28:01]: 我只想问一下，关于你们发布的东西，还有没有你觉得被低估或被误解的地方。

Diogo Almeida [01:28:09]: 被低估或被误解？

Swyx [01:28:11]: 对。你有一些规律。抱歉，是模式。也许你想聊聊这个。模型的参差不齐，随便什么都行。

Diogo Almeida [01:28:20]: 给我一个

Swyx [01:28:21]: 嗯

Diogo Almeida [01:28:21]: 琢磨一下。哦，天哪。这些我都能滔滔不绝地吐槽。我真的不该说。真的不该说。

Swyx [01:28:29]: 好吧。大家可以去你们的 Discord，如果他们

Diogo Almeida [01:28:32]: 嗯。大家在 cookbook 上投入了很多心血

Swyx [01:28:34]: 嗯

Diogo Almeida [01:28:35]: 我想说的就是这个。这些 cookbook 里有一些非常硬核的东西。我们本来考虑把其中很多内容放进发布的主博客文章里，但那样会变得又长又臃肿，而且太偏高阶玩家。不过说真的，我要坦白：发布之前，我们说的东西听起来就像一件古怪的外星工具。谁会需要这个？那是件很奇怪的事。我们非常担心要教会大家认识这个新前沿。它显然成功了，但我们为此下了很大功夫，因为我们当时认为教育会是我们面前一个巨大的瓶颈。我。

Diogo Almeida [01:29:14]: 这大概已经奏效了，现在大概不再是问题了，因为大家做出来的东西远远超出了我们的预期。

Swyx [01:29:20]: 他们会向你展示该怎么用你的模型。

Diogo Almeida [01:29:21]: 对，但是。没错。而且他们的用例比我们的还酷一点。有一堆东西让我觉得：“天哪，如果那是我们的演示，我的天，那会比我们展示的酷多了。”比如 computer use 这块，天哪，太酷了。不过我们在这上面也倾注了很多心血。据我所知，这不是 AI 生成的垃圾。

Swyx [01:29:41]: 嗯。

Diogo Almeida [01:29:41]: 我们投入了很多，真的是倾注了很多心血在里面。

Swyx [01:29:45]: 嗯，有道理。

Diogo Almeida [01:29:45]: 而且每一篇都是这样。那里面有真正的超额收益（alpha）。

Swyx [01:29:49]: 好的。

Diogo Almeida [01:29:49]: 这些都是受真实存在的客户问题启发的，我们还下功夫帮他们做出了很酷的东西。

Swyx [01:29:58]: 嗯。说到这个，你们在发布前做了多少验证？那个过程是怎样的？

Diogo Almeida [01:30:06]: 那个过程是怎样的？

Swyx [01:30:08]: 比如，你们显然做了一些，但当时接触到的人肯定没有今天这么多。

Diogo Almeida [01:30:14]: 是的，当然。

Swyx [01:30:15]: 但是

Diogo Almeida [01:30:15]: 我其实觉得当时的反响相当糟糕。而且，团队里的非技术同事其实非常担心。

Swyx [01:30:24]: 嗯。

Diogo Almeida [01:30:24]: 当时有很多恐惧，大家觉得：没人真正理解这东西，他们也不想要。我们卖的像是维生素，而不是止痛药。我们是不是该配备 FDE（前线部署工程师），围绕解决那个问题去写软件？

Swyx [01:30:37]: 嗯。

Diogo Almeida [01:30:38]: 发布之前我们几乎没有收入。当时的情况是，技术同事显然都是真正的信徒，对吧？我们知道这东西很牛。它的计算特性在很多维度上都是爆表的，所以我们觉得：“对，这显然会很大。”我当时确实非常害怕，所以才全力投入。但最常见的情况是，我会说，超过一半让我们试用的人就是没看懂。而看懂的人会说：“哇，这真的很酷，但我们怎么让它过采购流程之类的？”那是一场相当艰苦的仗，我们只知道：好吧，我们的目标市场会是开发者。人们会自己找到用例，这样所有人都会因为害怕错过（FOMO）而涌进来。而且，

Diogo Almeida [01:31:32]: 我不想去刺激大家，让人们因为事实变了而改变看法。

Diogo Almeida [01:31:36]: 我确实想质疑一下产品市场契合（product market fit）这个概念。因为当时有产品，也有市场。我们问：“嘿，你想用这个吗？”人们说：“我不太确定它能不能解决我们的问题。”然后它爆发了，所有人都在说：“我们需要尽可能多的速率限制额度。我们能不能干脆给你们 GPU？因为我们现在资源受限。”

Swyx [01:31:59]: 嗯。

Diogo Almeida [01:31:59]: 所以当然，营销是其中一个因素，但我甚至不认为这主要是营销的问题。我认为是那些充满热情的开发者，我们的灵魂基本上在同一个频率上产生了共鸣，也正是这一点让其他所有人都兴奋起来。

Swyx [01:32:14]: 嗯。

Diogo Almeida [01:32:14]: 我也希望，作为一家公司，我们会永远感激那些开发者。不只是那些从开发者起步、然后做大做成企业级的公司。

Swyx [01:32:30]: 他们的市场进入路径，对。

Diogo Almeida [01:32:31]: 没错。我甚至在想，我们怎样才能发布一些对……哦，天哪，我不知道该不该说这个。

Diogo Almeida [01:32:39]: 但我还是要说。

Swyx [01:32:39]: 对开发者比对企业更好的东西。

Diogo Almeida [01:32:41]: 没错。

Swyx [01:32:41]: 好的。

Diogo Almeida [01:32:41]: 我们怎么做到？怎样赋能他们？我有一些想法。我有想法。但这是件很奇怪的事。我不知道还能怎么表达我对他们的感谢和忠诚。这也是我昨天染头发的原因。就像是……我想跟他们交流，因为在公司最重要的时刻不继续跟他们对话，我会觉得很不地道。

Swyx [01:33:07]: 好。嗯，所以才有了你的头发。

Diogo Almeida [01:33:09]: 嗯。请务必监督我。

Swyx [01:33:11]: 嗯，我们会的，我们会的。

Diogo Almeida [01:33:11]: 我努力坚持原则。

Swyx [01:33:13]: 嗯。

Diogo Almeida [01:33:13]: 就把这话记下来，引用我。如果我变卦了，就来批评我，把干草叉都亮出来。

Swyx [01:33:18]: 我想简单展示一下 computer use 的东西。

Computer Use 与新兴用例

Diogo Almeida [01:33:21]: 哇。

Swyx [01:33:21]: 这是你说的那个吗？

Diogo Almeida [01:33:22]: 我从没见过，我没有。我见过。我看过一个航空公司的浏览器操作演示。

Diogo Almeida [01:33:29]: 在这条新笔记里，把标题改成 hello。

Diogo Almeida [01:33:33]: 哇，太棒了。好，我们继续，你能打开 Arc 浏览器吗？打开之后，你能在 Google 上搜索 Norbert Wiener 吗？

Diogo Almeida [01:33:43]: 现在你能打开 x.com 吗？

Swyx [01:33:46]: 这算是那种用例吗？

Diogo Almeida [01:33:48]: 哦，语音用例。这其实是我看到的第一个。这是

Swyx [01:33:51]: 哦，好的。

Diogo Almeida [01:33:51]: 打开照片查看器。哇。哦，等等。哦，你能倒回去一下吗？你能倒回去一下吗？

Diogo Almeida [01:33:58]: 传闻称 Anthropic 的工程师把 Claude 当作上帝崇拜。哇。哇。

Diogo Almeida [01:34:03]: 天哪，这挺好笑的。

Swyx [01:34:06]: 而你却在做生产环境的东西。

Diogo Almeida [01:34:07]: 太对了。哇，这太酷了。

Swyx [01:34:12]: 嗯。所以很明显，它可以用语音操作整台电脑，由 Jev 担任决策模型。

Diogo Almeida [01:34:17]: 所以，就像我反对基准测试一样，我也反对演示。我想确保它能可靠地工作。我很喜欢大家在玩它。这真的特别酷，毫无疑问。我想看到这个，我想看到它被实际使用。我想让我们的团队也去玩。我想找出弱点，然后解决它。

Swyx [01:34:35]: 嗯。

Diogo Almeida [01:34:35]: 而且我很想……天哪，那看起来真的很酷。

Diogo Almeida [01:34:37]: 那看起来真的很酷。我想要那个。我想要。比如我手腕酸痛的时候，就全都用 Whisper Flow 语音输入。那就太棒了。

Swyx [01:34:44]: 嗯，为了把用例这一块讲完整

Diogo Almeida [01:34:47]: 嗯

Swyx [01:34:47]: 因为我得放你走了。有哪些较大的公司联系过你们，他们想做的事让你们感到惊讶？

Swyx [01:34:56]: 就是。

Diogo Almeida [01:34:57]: 这方面我完全不了解情况。

Swyx [01:34:59]: 好的。

Diogo Almeida [01:34:59]: 有人给我看过一些公司的截图，就我所见，所有公司都有。

暗数据、实时智能与验证

Swyx [01:35:05]: 嗯。主要是想给那些在大公司工作、没有在做这类工作的人举些例子，让他们知道应该去查这个、查这个、查这个。

Diogo Almeida [01:35:13]: 哦。我觉得演示都特别酷。显然，编码智能体是巨大的用例。

Diogo Almeida [01:35:21]: 它们也特别酷。

Swyx [01:35:23]: 哦，Cog 现在全都围绕 Jev 在做。

Diogo Almeida [01:35:25]: 哦，太棒了。哦，我能不能就编码智能体岔开聊一会儿，如果可以的话，或者

Swyx [01:35:29]: 请讲。

Diogo Almeida [01:35:30]: 哦，让我

Swyx [01:35:31]: 我们这儿就爱编码智能体。

Diogo Almeida [01:35:32]: 给我一秒钟。好，其实我待会儿再回到编码智能体。先让我描述一下几大类用例。

Swyx [01:35:37]: 好。

Diogo Almeida [01:35:38]: 这些是我们在发布很久之前就从第一性原理出发梳理出来的。第一类就是我们所说的暗数据（dark data）。人们囤积了大量数据，但因为太贵，不会拿 LLM 去处理它们。所以大公司特别喜欢这个。他们有成堆想分析却没法分析的数据，这对数据科学家来说简直是梦想。所以这是一个巨大的类别。我认为这一类加上编码智能体是主要的摇钱树，因为所有的量都在这里，对吧？还有实时类的场景，比如需要把智能放进回路里的人。我猜这些公司的每一位 CEO，如果不是 CTO 的话，都清楚产品每缩短 10 毫秒会变得好多少。

Swyx [01:36:23]: 是的。

Diogo Almeida [01:36:23]: 而且

Swyx [01:36:24]: 尤其是电商，对。

Diogo Almeida [01:36:25]: 对。哦，或者那些助手类的东西。有很多 AI 助手类产品。据我所知，他们真的很喜欢。再说一次，我现在不在客户一线，所以只是听团队告诉我什么。但我对这个特别兴奋。我尤其期待它用在游戏里。我真的很想玩那种特别酷的自走棋，你来指挥自己的队伍，或者半自走棋。我觉得那会超级酷。不过在我还有工作的时候，别做得太好。还有一类，我们称之为“验证一切”（verify everything）。验证所有 LLM 调用，有点像可观测性。我觉得，就文档这一点来说，人们应该做的是：并行提问非常便宜。所以如果你有很大的状态，想针对它问很多问题

Swyx [01:37:08]: 正是这里，对。

Diogo Almeida [01:37:09]: 给每条消息打上 ID，然后针对每个 ID 各问一个问题。这样当你有一个很长的状态时。

Swyx [01:37:16]: 嗯。

Diogo Almeida [01:37:16]: 这样你就可以只为这个状态付一次钱，然后针对其中的每条消息问很多很多问题。我觉得这是个很棒的办法，能省钱，而且。

Swyx [01:37:25]: 顺便说一句，我一直觉得 System 1 和 System 2 这个框架很有意思，因为它基本上论证了：你每做一次推理调用，就应该做一次、十次甚至一百次 Jev 调用。

Diogo Almeida [01:37:37]: 嗯，也许吧。也

Swyx [01:37:38]: 对吧。

Diogo Almeida [01:37:38]: 嗯，我不。我希望大家少花点钱。

Swyx [01:37:42]: 嗯。

Diogo Almeida [01:37:42]: 也许你只做一半的推理调用，然后每次配 10 次 Jev 调用之类的，或者任何能解决问题的方式，解决那些原本根本不可能存在的问题。等等，第四类用例是我所说的智能软件（smart software）。就是本质上可组合的软件，能做一些以前绝不可能出现的奇怪又好玩的事。比如“把编程语言当成 Jev”那个东西。不知道你看过没有，那太酷了。天哪，如果我们知道怎么发放额度（credits）就好了，因为我们的基础设施还处于非常早期的阶段，我真想给所有这些项目发额度。

Diogo Almeida [01:38:16]: 我觉得这些就是我们梳理出来的主要用例。computer use 也朝实时方向发展了，这很酷。如果它可靠，我会非常兴奋。我猜我们能让模型在这些用例上好得多，因为这个方向有点出人意料，横空而出，所以真的很酷。说到编码智能体，这是目前正在发生的一件真的很令人意外的事。

多模型世界里的编码智能体

Swyx [01:38:47]: 好的。

Diogo Almeida [01:38:49]: Claude Code 和 Codex 我认为是赢家，也就是第一和第二。我不完全确定，我没有密切关注

Swyx [01:38:56]: 大致如此

Diogo Almeida [01:38:56]: 但大致就是这样。不过它们是围绕单一模型的世界构建的？这对它们来说很合理，对吧？因为一直以来都是单模型的游戏，你挑选的基本上是同一个模型，只是智能程度不同。

Diogo Almeida [01:39:09]: 但所有开放的编码智能体现在都兴奋得要命，因为它们正在用上 Jev。而且问题在于，我相信他们在尝试很多奇怪的东西，但所有编码智能体大致都处在差不多的水平，对吧？因为一个 while 循环能做的事并不多。但一旦有人发现了某个只有这个编码智能体才能做的杀手级用例，所有人都会涌向它，因为它在那件事上形成了垄断。但所有开放的编码智能体都能复制它，对吧？就这样。不过我不知道 Claude Code 和 Codex 们会怎么做，因为它们是围绕那个单一模型的世界构建的。

Swyx [01:39:48]: 单模型，对。

Diogo Almeida [01:39:48]: 我觉得这会是件非常有意思的事。我个人很希望能和它们集成。我想跟所有人集成。他们最终可能会做出竞品，我不知道。但作为 Songfire 基础设施，在这件事上持有立场不是我的工作，对吧？我只想服务整个世界。但我不知道他们会不会这样做。我觉得这会让编码智能体这个赛道变得非常奇怪。我对此特别兴奋。而且我敢肯定，我正让团队审阅一份我写的内部文档，讲的是我认为对编码智能体会有用的设计模式。所以希望我走路回家之后就能马上分享出来。我觉得这个领域有太多成熟待探索的空间了。天哪，如果我手上没有这摊事，我真想现在就去做编码智能体的实验。

Swyx [01:40:41]: 嗯。我相信编码智能体公司也会很乐意和你们合作来弄清楚这些。我确实认为 Claude Code 和 Codex 配合你们仍然有用例

Diogo Almeida [01:40:49]: 当然。

Swyx [01:40:49]: 这方面很容易探索。好的。你一直很配合，陪我们聊了这么多东西。我只想把你从 TypeSafe 这个话题里带出来

节奏前沿、RLVR 与其他研究方向

Diogo Almeida [01:41:00]: 哦，好

Swyx [01:41:00]: 就是聊聊整体上的话题。你已经把自己对 AI 现状的立场讲得很清楚了。再给你更多空间聊聊对齐与安全这一块。

Diogo Almeida [01:41:08]: 哦，我完全没聊过安全对齐吗？

Swyx [01:41:11]: 哦。哦，你聊过，你聊过。

Diogo Almeida [01:41:12]: 我觉得我没有。我想也许我没有。

Swyx [01:41:13]: 你聊过。

Diogo Almeida [01:41:14]: 哦。

Swyx [01:41:14]: 我只是觉得，研究者之间有很多讨论。我们每次都会有这种讨论

Diogo Almeida [01:41:20]: 当然。

Swyx [01:41:21]: 每届 NeurIPS 都有。

Diogo Almeida [01:41:22]: 嗯。

Swyx [01:41:22]: 大家在谈什么？比如，我最近参加了一个研究者聚会，大家真的很担心节奏的问题，对吧？就是那一整套说法，认为我们应该放慢脚步，因为公众显然还没准备好。我相信你对此有强烈的看法。

Diogo Almeida [01:41:47]: 我觉得这种话题有点危险

Swyx [01:41:51]: 好的

Diogo Almeida [01:41:51]: 要聊的话题。我很乐意聊。我就是为危险而活的。

Swyx [01:41:55]: 好吧。

Diogo Almeida [01:41:56]: 我们公司的品牌是混乱。不是 Jev。而是不羁和混乱。

Swyx [01:42:00]: 嗯。而且你当年在 OpenAI 的时候，经历了最早那批非常引人注目的事件之一，也就是那次“blip”，对吧？那个

Diogo Almeida [01:42:09]: 哦，那个

Swyx [01:42:09]: 那个事件。而现在多米诺骨牌已经倒下了：每一家前沿实验室都联署了一份文件，表示他们想控制节奏。

Diogo Almeida [01:42:18]: 有意思。我。这是个非常复杂、微妙的问题。我其实想更正式地写一篇回应。我有一个简短版本的回应

Swyx [01:42:31]: 嗯

Diogo Almeida [01:42:31]: 就是，当你做越来越多的 RLVR，RLVR 就像是。

Diogo Almeida [01:42:38]: 所以 RLVR 其实并不是关于可验证的奖励。那一点在推理革命之前就已经行不通了。而这正是任务的怪异之处，对吧？以前，哦，有段有趣的历史。当 RLHF 刚成为一件事的时候，现在被称为后训练的东西当时有三种不同的努力方向。其中指令遵循显然是最不受待见的那个孩子。人们不喜欢它，不想把它考虑进去，觉得很烦。我跟预训练团队说：“各位，这就是魔法所在。”他们说：“我们要跑那么多模型扫描实验，你们想让我们等人工评测来决定用哪些模型吗？”而且大家把大量资源都给了代码生成团队，他们确实取得了一些成功，但他们很努力地想对单元测试做 RL。而那显然行不通，对吧？你需要推理才行。所以，说清楚一点，RLVR 并不纯粹是关于奖励，也关乎一切事物的形态。其中一部分在于，这里包含了推理，就像一个你在做事情时用到的潜变量。而你在做事的时候，是让模型为了尽可能强大地回答最难的问题而随心所欲地发挥。而这整个“为前沿控制节奏”的讨论，我认为关注点非常狭窄，因为它假定每个人都需要做更多的 RLVR，对吧？而我显然不认为自己需要在我们的模型上做更多的 RLVR。

Diogo Almeida [01:44:10]: 我认为对我们这种形态来说，最优的量是零。嘿，对吧？得了吧。

Swyx [01:44:14]: 嗯。

Diogo Almeida [01:44:14]: 所以，我觉得这真的有点玩障眼法：他们的意思是，我们就是要继续做那些看起来危险的事，因为它能做危险的事。就像大家说的，“哦，也许沙箱隔离出了问题”之类的。是啊，显然是这样，而且他们本可以轻松解决，对吧？但他们选择不解决，因为你让模型在“什么都能做”这一类里做的事越多，它就越强大，对吧？所以我觉得这里存在某种责任的稀释：他们想做出来的东西，不管是有意设计还是无意为之，都只是建立在一个假设上。我们必须做 RLVR，而且不只是必须做，还要越做越多、越做越多，在过程中赋予模型“想做什么就做什么”的强大能力，因为这能教会它们在这之外也同样强大。而我们不想把这些限制得太严，因为那会让模型在这些事情上稍微弱一点。

Diogo Almeida [01:45:24]: 所以，如果你接受了这一整套假设，他们就会说：“哦，是啊

Swyx [01:45:28]: 这是合乎逻辑的结论

Diogo Almeida [01:45:29]: 我们正走向一个危险的世界，伙计们。”

Swyx [01:45:31]: 对。

Diogo Almeida [01:45:31]: 就像：“每个人都会这么干，而这是让 AI 变强的唯一途径。”所以 Swyx [01:45:37]: 所以基本上就是，这些推论内部都是自洽的，但它们其实起点于一个前提，而这个前提是有替代方案的，只要你

Diogo Almeida [01:45:45]: 当然

Swyx [01:45:45]: 想一想的话。

Diogo Almeida [01:45:45]: 当然。我觉得，就“苦涩的教训”那个方向而言，真正找对任务的人非常少。也就是找到 AI 的新方向，或者说新的北极星。这很罕见。再说一次，我觉得对 LLM 本身大概是 2.2 倍之类的提升，比如 RLHF，然后是 RLCD。

Swyx [01:46:04]: 哦。

Diogo Almeida [01:46:04]: 在我看来，RLVR 大概只有 0.2，而且我觉得这还算慷慨了。

Diogo Almeida [01:46:09]: 或者说 0.5，或者也可能是完整的一个。我并不真的在意。但我确实认为，大家在这类事情上的想法非常封闭。而这里唯一有过错的是研究人员，因为绝对不是普通大众的问题。他们只是想当然地认为 OpenAI 和 Anthropic 已经在尽力而为，而不是认为他们是真正了解现有选择余地的专家。

Swyx [01:46:34]: 对，这很公平。而且

Diogo Almeida [01:46:36]: 对

Swyx [01:46:36]: 你也在为唤醒他们出一份力。

Diogo Almeida [01:46:38]: 是的。好吧，我在尽力，但我的目标并不是说服各大实验室去走其他方向

Swyx [01:46:43]: 对

Diogo Almeida [01:46:44]: 我的目标是，让软件工程师重燃希望，真正开始把他们一直想自动化的事情自动化。我写过一篇文章，团队不让我发表，讲的是我想要的 AI 的未来。里面有很多小东西。比如，还记得 do what 吗？想象一下，如果什么东西都能 do what，因为那个演示就是 do what。

Diogo Almeida [01:47:10]: 就是，你可以做到。这里是分层次的

Swyx [01:47:11]: 对，别照我说的做。

Diogo Almeida [01:47:12]: ？

Swyx [01:47:12]: 对。别照我说的做，要 do what。

Diogo Almeida [01:47:14]: 对。我们之前做不到 do what，因为计算机太基础、太字面了，但那个 computer use 的演示恰恰就是这样。而且我认为，世界上将会出现人们目前还无法理解的各种顺滑程度。还有，处处都有智能的那种承诺。我不想过度承诺，我也不觉得这会马上发生，但我们会不惜一切代价把它变成现实。

中期训练、预训练与模型“弗兰肯斯坦化”

Swyx [01:47:40]: 对。关于后训练的整体形态，还有别的想说的吗？你显然一直深度参与其中。中期训练（mid-training）你有什么看法吗？我觉得我们从来没聊过这个。

Diogo Almeida [01:47:53]: 中期训练。这都是一个连续谱。

Swyx [01:47:57]: 对。

Diogo Almeida [01:47:57]: 对吧？比如，我是不是

Swyx [01:48:00]: 这有点像课程学习（curriculum），只不过更高级。

Diogo Almeida [01:48:02]: 对。它其实是一种节省成本的做法。

Swyx [01:48:06]: 对。

Diogo Almeida [01:48:06]: 省得再预训练一遍。这里有些很有意思的东西。我其实觉得，智能在每一个层面都有某种说不清道不明的特质（je ne sais quoi），而且总是超级迷人。我是个“形状旋转者”（shape rotator），所以我自己不擅长发现这些，但我很喜欢别人发现并教给我。不过看数据这件事，我们的数据团队非常擅长，而我不行。

Diogo Almeida [01:48:31]: 我觉得这真的很迷人。我很喜欢思考能力是怎样被放进模型里的，比如短期内，有非常快速的对齐式微调，而长期来看，在一遍又一遍地看到之后，这些东西会被越烙越深、越烙越深，直到变得稳健。这就是要浮现出来的北极星，而 System 1 那类东西，正是最终会变得稳健的东西。所以我觉得中期训练是件很迷人的事。我喜欢各种形式的训练，喜欢各种让新型智能浮现出来的方式。但我不会自己全做，因为太贵了。我私下也说过，而且也……

Diogo Almeida [01:49:20]: 这个该说吗？嗯。嗯。我的原则是，任何我会私下对投资人说的话，我都应该公开对大家说，因为这就是

Swyx [01:49:32]: 权力归于人民

Diogo Almeida [01:49:32]: 我的风格。

Swyx [01:49:33]: 对。

Diogo Almeida [01:49:33]: 是的。所以我之前说过的是，就算你给我十亿美元，我也不会做预训练。我仍然相信这一点。这件事非常昂贵。如果你是一名 AI 工程师，你可以东拼西凑、各种折腾。“弗兰肯斯坦式拼接”不是最优雅、最漂亮的做法，但它能解决问题，宝贝。

Diogo Almeida [01:49:57]: 所以，除了预训练，什么都行。

Swyx [01:50:00]: 对。太棒了。综合你对这些模型问题的所有评论，我觉得有一个方向很有意思：我们是要一个具备所有这些能力的超级模型，还是要把它们拆开，进一步细分？打个比方，OpenAI 曾经朝着全能（omni）模型的方向发展，对吧？4o 就是其中之一。然后有一段时间，一直存在一条主干分支：这是聊天调优的模型，那是编码调优的模型。

Diogo Almeida [01:50:35]: 这是完全不同的两回事，概念上差别极大。我稍微拆解一下。多模态有点不一样

多模态、后训练与碎片化的智能

Diogo Almeida [01:50:44]: 因为有时候其他模态有帮助，有时候反而有害。

Swyx [01:50:47]: 是的。

Diogo Almeida [01:50:48]: 比如，大家好像正在转向、远离语音，这和音频不同，因为它似乎无法很好地泛化到其他方面。

Diogo Almeida [01:50:57]: 这个问题也许会被解决。我对这些都很感兴趣，但这些都是实打实的经验性问题。比如，缩放定律（scaling laws）并不是说砸钱就能变好。缩放定律讲的是务实层面上，一个东西到底能有多好。有些情形下，无论你怎么扩大规模，可能都不够好。比如，就我所知，computer use 目前并没有被解决。我希望我们能参与其中，为解决它出一份力。但也有可能，无论我们收集多少数据都解决不了，我们可能需要更好的方法或别的东西。所以 Diogo Almeida [01:51:33]: 在这一切上你都得非常务实。我是不是 omni 模型的爱好者？我喜欢各种形式的智能，但我要直接切入你提到的另一件事，它不同于预训练，那就是后训练，因为我讨厌把智能割裂开。这对我来说是件坏事。而整个“聊天优先、推理模式”的做法，恰恰迫使智能被割裂。比如，当你为聊天做优化时，往往是纯 RLHF，而 RLHF 本质上就容易产生人们自然会抱怨的那些东西，对吧？比如，哦，我要……

Swyx [01:52:07]: 你说得太对了。而且

Diogo Almeida [01:52:08]: 对

Swyx [01:52:08]: 。

Diogo Almeida [01:52:09]: 谄媚（sycophancy），psychophancy

Swyx [01:52:10]: 对

Diogo Almeida [01:52:11]: 不管怎么说这个词

Swyx [01:52:11]: 对

Diogo Almeida [01:52:11]: 或者说，怎么发音。过度自信、幻觉。就连在 LM Arena 上占优的那种风格，加粗、斜体、表情符号？它不会简单地回答问题，而是给出一长篇文字，然后再问你一个后续问题，让它感觉更像是一个真人在跟你说话。所有这些之所以出现，是因为字符串这东西超级怪异？它们就是些怪得要命的东西，而你需要校准失准，需要模式坍缩（mode drop），需要极度自信，才不至于跑偏，因为一旦跑偏，奖励模型会狠狠惩罚你，因为那很明显。然后，这会彻底扭曲概率空间，并且与推理模型的概率空间相互作用，对吧？因为这些模型就是些简单的线性东西，往往会有点投机取巧。所以我觉得这与真正展现智能非常不同，这是我的猜测。而智能的很大一部分艺术，就在于研究这种微妙之处，而我觉得至少在我待在 OpenAI 的时候，大家并没有真正研究这个，因为他们当时就是“聊天，聊天”，就像现在大家对 Jev 那样。

Swyx [01:53:19]: 对，你给我一个终极目标，我就会全力去为它优化，对吧？而且它

Diogo Almeida [01:53:23]: 是的。但如果你在里面尝试。而且俗话说，你可以有两个目标，同时为两者优化，但那恰恰就是割裂的行为，对吧？所以，是这样。

Swyx [01:53:33]: 所以从某种意义上说，你也在把智能割裂成 System 1 和 System 2，只不过你不认同别人的割裂方式，这也没问题。

Diogo Almeida [01:53:41]: 哦，它

Swyx [01:53:41]: 这也没问题。

Diogo Almeida [01:53:42]: 有点不一样。不是的。如果我可以补充，如果我可以辩护一下

Swyx [01:53:46]: 好

Diogo Almeida [01:53:46]: 关于 System 2 任务，第一，我们并没有抛弃 System 2 任务，对吧？你可以尝试让 Jev 去做，而且对此确实存在一个智能的答案，只是目前未知。也就是说，System 2 任务里的行为有好有坏，对这些应该保持很低的置信度、很大的不确定性。也许一些启发式方法能在这里或那里起点作用，但我们同样在意这些，需要说明一下。我只是认为，那不是智能原生所擅长的。所以我们并不是在做那种割裂。而且任何割裂都会让模型变笨。比如，有人让模型说自己是 OpenAI 或 Qwen 或 Claude 之类的，我现在也不太清楚它到底怎么说。我不会往模型里灌输“你是 TypeSafe 的 Jev”。那就是割裂，对吧？我不想要那样。我要的是呈现互联网是怎么想的，对吧？要正确。这才是我想要的，因为这样才能得到平滑、可预测的智能。

Swyx [01:54:50]: 身份认同算是一个，我想，有些

Diogo Almeida [01:54:53]: 对于，对于

Swyx [01:54:54]: 比较特殊的东西

Diogo Almeida [01:54:55]: 对第一方产品来说，是的。

Swyx [01:54:56]: 对。

Diogo Almeida [01:54:56]: 但对于 API，我不这么认为。

Swyx [01:54:58]: 对。好的。

Diogo Almeida [01:54:59]: ？

Swyx [01:54:59]: 对，这很好。

Diogo Almeida [01:54:59]: 比如，大家不希望。如果他们用 ChatGPT 做一个聊天机器人，他们不希望它说自己是 ChatGPT，而是想让它说自己是某某 AI 之类的，对吧？

身份、API 与 Jev skill

Swyx [01:55:09]: 嗯，所以你弥补这一点的方式是有那个 skill，对吧？那个

Diogo Almeida [01:55:13]: 对

Swyx [01:55:13]: Jev skill，是给编码智能体用来配合 Jev 工作的。

Diogo Almeida [01:55:16]: 对。

Swyx [01:55:16]: 好，最后问几个收尾的问题

Diogo Almeida [01:55:19]: 太好了

Swyx [01:55:19]: 因为我确实想让你早点解脱。第一个是，回顾一下你这两年的历程。大概是两年吧？两年多一点？

Diogo Almeida [01:55:25]: 就公司而言

Swyx [01:55:26]: 对

Diogo Almeida [01:55:26]: 我觉得这更像是一段四年的历程。

Swyx [01:55:29]: 对。

Diogo Almeida [01:55:29]: 不过

Swyx [01:55:29]: 嗯，对。其实我想起来了，你在感恩节前后搞过一次英雄式的冲刺训练。你当时是这样：你取消了所有安排，因为你说，“伙计们，大家都放假了，我要把所有空闲的 GPU 都拿来做这件事。”

Diogo Almeida [01:55:42]: 对。那是段美好的时光。

Swyx [01:55:44]: 那就是 TypeSafe 之前的

Diogo Almeida [01:55:46]: 对

Swyx [01:55:46]: 时刻，对吧？

Diogo Almeida [01:55:47]: 我。那可能是。那是政变发生的时候吗？我不太确定。

Swyx [01:55:50]: 是的，其实就是。

Diogo Almeida [01:55:51]: 对。听起来没错。对。我记得。天哪，我不想。我觉得我现在没时间来爆那场政变的料，但那真的很烦人。

Swyx [01:56:04]: 是政变烦人，还是那次冲刺烦人？

Diogo Almeida [01:56:06]: 政变烦人。

Swyx [01:56:07]: 政变。好的。

Diogo Almeida [01:56:07]: 对。

Swyx [01:56:08]: 对。

Diogo Almeida [01:56:09]: 它。我会

Swyx [01:56:10]: Safia 接管了公司。对，反正就是这样。

Diogo Almeida [01:56:14]: 也许下次聊的时候

Swyx [01:56:16]: 好的。好吧，好吧

Diogo Almeida [01:56:16]: 我会爆一爆政变的料。对。其实，这个问题早在 ChatGPT 发布之前就在我脑子里了。我当时心想：“天哪，ChatGPT 团队干得太棒了。他们在做对的任务。”他们做的是 AI 研究人员不擅长、而成功的产品人擅长的事，那就是极其在乎体验。这非常罕见。OpenAI 里这样的人很少。而那些人把这件事做得非常好。

从 InstructGPT 到 TypeSafe

Swyx [01:56:50]: 需要说明的是，这是从 GPT-3 到 3.5 的整个历程，其中包括 AI Dungeon，你之前也聊过

Diogo Almeida [01:56:55]: 对

Swyx [01:56:55]: 就是。对。嗯，那是我们从未预料到的一个用例的例子。

Diogo Almeida [01:56:59]: 是的，没错。

Swyx [01:56:59]: 没错。

Diogo Almeida [01:57:00]: 嗯，哦，对，那是。而且，我曾经非常努力地推动部署 InstructGPT。

Diogo Almeida [01:57:07]: 比如，它早期的版本甚至是用一种我们没有发表过的算法训练的，那是我自己做的，因为清洗 PPO 数据太慢了。我当时想：“去他妈的，这东西太他妈好了，我们得把它交到用户手里。”

Diogo Almeida [01:57:21]: 而且基本上立刻就拿下了当时 LLM 50% 的市场份额。但是。我们认为。我费了很大力气确保我们发布视频里的每一件事都是真实的。我当时真的在想：“这是 AGI 吗？因为它在‘指令进、指令出’上是超人级的。”显然不是，但我觉得每个人都应该有一个答案，说明为什么那不是 AGI，因为它看起来非常聪明。而我对此的答案，最后变成了它只被用于文案写作。Jasper AI、Copy.ai，写的就是如今被称为“slop”的网页垃圾内容。我们担心自己让互联网变得更糟了，对吧？于是我回到原点，心想：“缺了什么？我们显然很聪明，但缺了某种东西，它能创造价值。是什么？”我当时其实在做更多哲学层面的思考：“到底发生了什么？”而答案是，“哦，机器。”我问自己的问题是：“让我们从一场由 AI 驱动的经济革命倒推。当那发生时，调用 AI 的会是什么？如果 AI 是一个 API，调用它的会是人还是代码？”我判断那会是很多个九的代码占比。可是，所有的优化都投给了人的那一部分。然后我一下子开窍了。我心想：“天哪，这就是北极星。”我写了一份文档，跟 Sam 聊这件事，Sam 说：“这太他妈棒了，你应该去做。”而我们说：“是啊，Sam，我有工作的。”就是，我当时在做……

Swyx [01:58:51]: Sam 都直接叫你去做了。兄弟，去做啊。

Diogo Almeida [01:58:54]: 但我当时的猜测是，这件事太显而易见了，简直显而易见到不可思议。Anthropic 肯定已经在做了吧？我们已经完蛋了，而且实际上 OpenAI 擅长的是追赶，而不是真正创新。所以 ChatGPT 其实是 Claude 的翻版，对吧？他们内部有那个东西，只是没发布。

Swyx [01:59:13]: 对。对。Claude 和 Slack。不过推理的话，我会说是差不多第一个。

Diogo Almeida [01:59:17]: 对。

Swyx [01:59:18]: 对。

Diogo Almeida [01:59:18]: 但那作为产品到底好不好，有争议。

Swyx [01:59:21]: 对。

Diogo Almeida [01:59:21]: 不过研究很棒。研究超级棒。我只是不确定大家是否有那个产品需求。而且 Claude 也做了编码智能体的事。所以 Sam 那么说了，而我就回去干了一阵子本职工作。后来，指令遵循团队说：“我们赢了。我们已经解决了指令遵循，不需要再做什么了。”我在琢磨接下来做什么。我想：“也许我就开始折腾这个吧。”做更多哲学、设计和思考。我本以为开始训练模型只要一周，结果花了……

Diogo Almeida [01:59:58]: 很多年。到某个时刻，我心想：“天哪，这里有生命迹象了。”这个显然没成功，对吧？否则我们早就部署了。但我想探索一下，从研究角度看，全力投入这件事会是什么样。我真的想看看，如果你在这个方向上疯狂地全力投入，会是怎样。而且正因为我之前说的，如果 AI 寒冬来了，我会有什么感觉？我会认为自己个人要负责。我当时跟其他公司聊过，我说：“嘿，我想在这个方向上成立一个实验室。”他们有兴趣，我就问他们：“哪个更快？是做这个还是创业？”他们说：“创业。”于是我说：“去他妈的，兄弟，干了。”

Swyx [02:00:44]: 对。

Diogo Almeida [02:00:44]: “我猜我们要干点疯狂的事了。”然后

Swyx [02:00:47]: 然后你打电话给了 Eric 和 Sasha，还有

Diogo Almeida [02:00:48]: 对。嗯，我先给 Eric 打的电话。至于 Sasha，我其实没打算招她。我想表现得厚道一点，只是问她：“嘿，我是不是疯了？这里是不是缺了什么？是不是我在 OpenAI 的泡泡里待太久，没意识到这个问题其实肯定有解？”然后 Sasha 说：“我加入。”我说：“Sasha，你在一家创业公司工作呢。”她说：“我现在就去把它关掉。”我说：“你要不要再想想？”她说：“哦，对。有道理。让我想想。”然后她就加入了。

Swyx [02:01:19]: 对。

Diogo Almeida [02:01:19]: 然后，两周之内我们就拿到了融资。我们有人搬进了我的公寓。那是最糟的，因为我是个洁癖狂。而我们就一路猛干，最终得出了那项研究，

创办 TypeSafe 与给前沿研究者的建议

Diogo Almeida [02:01:34]: 它显示出了生命迹象？

Swyx [02:01:37]: 对。

Diogo Almeida [02:01:37]: 那是段疯狂的时光。

Swyx [02:01:38]: 所以问题是。那全都是长上下文。

Diogo Almeida [02:01:41]: 哦，对。

Swyx [02:01:41]: 那么现在的问题是，像你这样的人

Diogo Almeida [02:01:43]: 对

Swyx [02:01:43]: 现在正身处前沿实验室，因为拿不到资金、资源，或者说关注而感到沮丧。你对他们有什么建议？他们应该像你当年那样做吗？

Diogo Almeida [02:01:54]: 他们该不该这么做。哦，这是个很有意思的问题。

Diogo Almeida [02:02:03]: 哦，天哪。我怎么才能回答这个又不烧桥呢？

Diogo Almeida [02:02:08]: 我——我的感觉是，除非存在某种我不太理解的经济学逻辑，否则我认为大多数新兴实验室（neo lab）都很烂。我不想被人把自己和它们归为同类。我真的不太明白那里面是怎么回事。比如，是不是因为——第一，我并不看重研究人员。我看重的是这样的人：看看我的苦涩教训，对吧？

Swyx [02:02:33]: 数据，任务。

Diogo Almeida [02:02:34]: 我想要的。嗯，不只是那个。

Swyx [02:02:35]: 对。

Diogo Almeida [02:02:35]: 我们需要研究人员，但需要他们非常在乎正确的任务，这才是重点，对吧？所以，当人们看重纯粹的研究资历时，其实有点本末倒置，因为那通常并不创造价值。所以，第一，我相信北极星任务，相信做酷的、真正有用的东西。第二，因为我不看重研究人员，所以我不建议走那条路。嗯，它显然对某些人是赚钱的，或者在这种环境下可能是。所以从纯务实的角度看，我不认为创办新兴实验室是在创造价值。它似乎是在毁灭价值，因为他们是在从零重做工作，真正推进前沿的概率却很低。而据我跟大多数新兴实验室交流的情况，他们并没有真正的方向，往往只是想要钱来玩自己的实验。如果他们有方向，我非常支持，需要说明一下。所以我给别人的建议是，这真的取决于你为什么要做。如果你是一个想折腾研究的研究员，老实说，大概各大实验室是最好的去处。也可能还有别的地方，我并不太关注那些门道。但我个人会建议不要那样。我觉得，世界会因为人们被解决真实问题所驱动而更好。而这些问题可以是探索性的，没关系。但最好有你坚守的原则。不过如果你认为自己想做正确的任务，那绝对他妈的应该做。请务必去做。请打破这种单一心智、单模态的，就像

Swyx [02:04:21]: 蜂群思维。

Diogo Almeida [02:04:21]: 对，没错。再说一次，这种紧追前沿的做法，源自一种 AI 观：一个超级天才，却极其参差不齐，而那是

Swyx [02:04:36]: 可解决的。

Diogo Almeida [02:04:37]: 它是可解决的，而且很怪，与现实不符。这很悲哀，对吧？我觉得，把这些技术真正挖掘出来，本身就是件好事。

Swyx [02:04:51]: 对。就我所知，再说一次，我是想准确地转述我交流过的 Anthropic、OpenAI 那些人的立场，顺便说一下还有 SpaceX，他们的立场是，这件事更多是政治层面的，而不是纯粹的 Xris 层面的。

Diogo Almeida [02:05:05]: 嗯。

Swyx [02:05:06]: 所以，对。政治定位是

Diogo Almeida [02:05:08]: 而且，那超出了我的职权范围。

Swyx [02:05:10]: 没错，对。

Diogo Almeida [02:05:10]: 那远远超出了我的职权范围。

Swyx [02:05:12]: 他们一跟我这么说，我就想：“我明白了。这是关于 2028 年大选的。”

Diogo Almeida [02:05:18]: 哦，不。

Swyx [02:05:19]: 对。

Diogo Almeida [02:05:19]: 哦，真希望我没听到这个。这感觉太糟了。

Diogo Almeida [02:05:22]: 所以

Swyx [02:05:23]: 不。这不代表整个公司。

Diogo Almeida [02:05:24]: 对。

Swyx [02:05:24]: 这只是那个房间里的讨论。

Diogo Almeida [02:05:26]: 不。这说得通。

Swyx [02:05:28]: 对。对。

Diogo Almeida [02:05:28]: 这让我对人类有点失去信心，不过也许我只是个天真的技术人员。

Swyx [02:05:33]: 现在真的开始变得重要了

Diogo Almeida [02:05:35]: 对

Swyx [02:05:35]: 就是谁来掌管政府，这些政府将在这些东西出现时帮助监管它们。而且作为一个实验室

Diogo Almeida [02:05:41]: 我完

Swyx [02:05:41]: 你大概应该把这一点想清楚。

Diogo Almeida [02:05:43]: 不，不。我完全同意，需要说明一下。我认为在这方面有明确立场非常重要。我个人害怕去误导人，因为我觉得那往往会反噬自己？我认为，那些试图表现得过度自信的人，我显然只是。我其实不打算谈政治。我认为新冠期间发生的事情是，人们过度依赖诉诸权威和过度自信，想让大家以某种方式行事。而显然我们的应对极其不理想，这带来了一连串下游的连锁反应，我认为现在对世界极其不利。也许我太天真了。我认为误导人，即使是为了更大的好处，或者他们认为的更大的好处，就是，就是。我不赞成。

Swyx [02:06:41]: 对。

Diogo Almeida [02:06:41]: 我宁愿不这么做。

Swyx [02:06:42]: 就我所知，我。这不是。我不认为这是误导。它只是在说，这就是为什么是现在。

Diogo Almeida [02:06:46]: 对。

Swyx [02:06:46]: 为什么。对。为，什么？

Diogo Almeida [02:06:49]: 我认为那件事

Swyx [02:06:50]: 就像 Dario Rodas 五月份说的，“我们现在到底他妈在干什么？”

Diogo Almeida [02:06:52]: 我认为“为什么是现在”在风险与目标之间的关系上有那么一点误导性。有某种

Swyx [02:06:58]: 对

Diogo Almeida [02:06:59]: 潜藏其中的狡黠

Swyx [02:07:02]: 对

Diogo Almeida [02:07:02]: 值得点出来，我认为也该坦然承认。嗯，显然他们想要。如果他们想操纵，那就不该承认。这似乎是个糟糕的策略。

Swyx [02:07:11]: 是啊。

Diogo Almeida [02:07:11]: 但对我来说，这对世界来说就是件悲哀的事。

Swyx [02:07:14]: 对。

Diogo Almeida [02:07:15]: 希望我永远不会。我已经。对。希望我们永远不会卷入任何

Swyx [02:07:21]: 对

Diogo Almeida [02:07:21]: 那样的事。等我们做大了，也许不可避免，但我想尽可能保持我最初的、纯粹技术人员的本色。

Swyx [02:07:29]: Jev 竞选总统。为什么不呢？我可以。我会相信 Jev 的决定胜过我自己的。好，那么少一点发疯式发帖，多聊聊

Diogo Almeida [02:07:39]: 少一点发疯式发帖。

Swyx [02:07:40]: 不。是说我自己。

Diogo Almeida [02:07:41]: 你只是有点

Swyx [02:07:42]: 我在发疯式发帖。

Diogo Almeida [02:07:42]: 哦，你是在粉碎我的希望

Swyx [02:07:43]: 不。我不会发疯式发帖

Diogo Almeida [02:07:44]: 关于当今世界上的美国。

Diogo Almeida [02:07:46]: 天哪。

Swyx [02:07:47]: 对。就是，有。我有点。我想我看了太多关于阴谋论的电视节目，以至于一想到总统职位就会联想到那些。

Diogo Almeida [02:07:52]: 哦，不。

Swyx [02:07:52]: 你已经选定了你的北极星。你选择了可靠性。你做的是可编程、可组合的 AI。

Diogo Almeida [02:07:59]: 而且便宜。

Swyx [02:07:59]: 而且便宜。

游戏、KV Cache 与重新思考编码智能体

Diogo Almeida [02:08:00]: 对。

Swyx [02:08:00]: 第二个或第三个方向是什么，你想丢给别人去做、而你自己不会去做的？

Diogo Almeida [02:08:06]: 哦。

Swyx [02:08:07]: 就是基本上给大家布置任务。

Diogo Almeida [02:08:10]: 给大家布置任务？

Swyx [02:08:11]: 对，就是你的任务

Diogo Almeida [02:08:12]: 哦，我想要的有太多了。哦，什么？

Swyx [02:08:13]: 你已经选好你的任务了，对吧？什么？

Diogo Almeida [02:08:15]: 什么？等等，我。这问题太棒了。天哪。哦，天，我对这个太兴奋了。

Swyx [02:08:19]: 因为你接下来大概五十年都会忙着做你自己的事。

Diogo Almeida [02:08:23]: 太对了。好，那我给一个好玩的和一个不好玩的。还有，也许一个既有价值又好玩的。

Diogo Almeida [02:08:32]: 我好玩的那个是，我觉得如果游戏有智能，会酷得不得了。比如，我看到有人折腾阿里的 Doom 演示，你可以让 NPC 控制各种东西，那只是一个概念验证。我觉得可以做出非常酷的东西。看起来真的很酷。我是《星露谷物语》的铁粉？它其实非常静态，却依然很吸引人。我觉得可以发生很多很酷的故事。你不需要在游戏循环里调用 Jev，那样大概太贵了。但即使是简单的 NPC 状态机，我觉得你也能造出一个非常引人入胜的世界。哦，天哪。

Diogo Almeida [02:09:13]: 唉，有点难过，我没法做这类事情。

Swyx [02:09:17]: 对。

Diogo Almeida [02:09:18]: 我的人生道路现在算是定下来了，而我

Swyx [02:09:22]: 对，但你可以找别人来做

Diogo Almeida [02:09:23]: 对。那不错

Swyx [02:09:23]: 然后你可以给他们提反馈。

Diogo Almeida [02:09:25]: 还有我真正想探索的是，摆脱 KV cache 暴政的编码智能体。它可能不如真正的编码智能体好用，但我觉得有太多古怪的东西值得思考。这就是我写那篇文章《KV cache Rules Everything Around Me》的原因。

Diogo Almeida [02:09:46]: 信不信由你，我 Google 过，我觉得没有人在网上用过“cache rules everything around me”这个说法，拼写是 C-A-C-H-E。

Swyx [02:09:57]: 好的

Diogo Almeida [02:09:57]: 所以我写这篇是因为，我想告诉大家编码智能体、智能体是怎么工作的，KV cache 是怎么工作的，等等。我觉得。我不知道。对。

Diogo Almeida [02:10:13]: 它解释了很多事情，比如为什么路由这么难，为什么子智能体似乎不管用，为什么压缩（compaction）是个这么难的问题。我打算尝试发布一份文档。我的团队可能会否决我，因为信不信由你，我并不说了算。

Diogo Almeida [02:10:29]: 但我希望。但我想发布一份文档，内容是：“这是我的想法。请大家去玩一玩，请想出所有我们能用编码智能体做的事，一旦你从 KV cache 的暴政中解放出来。”

Swyx [02:10:46]: 也就是它把你锁住，而且

Diogo Almeida [02:10:48]: 嗯，不是。它把你锁定在一个模型上，对吧？而为了高效，你需要不断往后追加内容。于是你就没法遵循软件最佳实践，比如状态管理、抽象、分解。为什么你不能给子智能体一个更简单的任务？因为你要传递的状态。哦，我碰到这个了。因为你要传递的状态，你需要有比读取这些状态所用的智能便宜得多的智能，才能把状态传来传去。为什么你不能在这上面聪明一点，对吧？我觉得在不同的编程模式上，有大量非常酷、非常有趣的研究可做。有点像大家在折腾递归语言模型那样。我觉得当你想到“哦，我想显式地标注一切的状态”，这里面有大量很酷的东西。或者想象你有一个子任务。就编码智能体而言，我觉得可以公平地说，从分解的角度看，它们一次处理的是子任务。为什么你需要把所有那些状态都传回父任务？

Swyx [02:11:49]: 对。

Diogo Almeida [02:11:50]: 为什么你没法对此做点聪明的事？还有，如果你有一个带标签的子任务层级结构，为什么不能在需要的时候，在这棵子任务树里搜索相关的上下文呢？对吧？然后，你还可以做另一件事。哦天，我忘了写这一点。我这里有一些特别酷的想法，希望能发表出来。我很乐意一起头脑风暴，但那会是一篇很长的文档。而且，如果上下文变得很便宜，为什么不能用一些很酷的模式，比如以极低的成本回看你的历史上下文？每次都从零开始，还得去解决一个叫“持续学习”的问题，这是不是有点奇怪？那其实是一个记忆管理问题，因为你没有一种聪明的方式去查找记忆，对吧？但如果你能呢？如果你随时都能做到呢？或者，当你有并行的子智能体时，它们可以互相读取对方的状态，因为这一切都在你的计算机内存里，你可以聪明地处理谁在读、谁在写，你的编码智能体集群之类的东西，对各种资源有锁，并且能智能地协调，而不是靠那种低级的破锁。比如“你在干什么？我在干什么？”“Jev，谁该先写？”之类的。我觉得这方面的未来是

Swyx [02:13:04]: 天哪

Diogo Almeida [02:13:05]: 太疯狂了。对。

Swyx [02:13:06]: 用 Jev 来解决锁的问题。

Diogo Almeida [02:13:07]: 对多个智能体协同工作来说，这可能会非常酷。或者，如果你想想状态

Swyx [02:13:12]: 嗯

Diogo Almeida [02:13:12]: 比如，你有

Swyx [02:13:12]: 智能体集群之类的。

Diogo Almeida [02:13:13]: 对。

Swyx [02:13:13]: 嗯。

Diogo Almeida [02:13:13]: 比如有些进程是只读的。有些人喜欢看智能体正在做什么的摘要。

Swyx [02:13:20]: 嗯。

Diogo Almeida [02:13:21]: 为什么它们不能轻松地共享状态？因为只读智能体需要读取上下文的一部分，并判断哪些内容值得说，比如实际正在被写入的是什么，因为探索过程并不那么重要，或者这里是子任务树。我觉得如果有一个真正聪明的人投入大量时间去重新思考编码智能体的体验，会有太多好玩的事情可以做，那会超级无敌酷。

Swyx [02:13:46]: 嗯。

Diogo Almeida [02:13:47]: 哥们，那就是我的梦想。

Swyx [02:13:48]: 如果你还没看过 PrimeAgent，我建议你看看。它和 RLM 的工作是配合使用的。我们刚刚在你之前坐在这把椅子上的 Alex 聊过，他是 Ellen 的朋友。

Diogo Almeida [02:13:59]: 哦，不错。

Swyx [02:14:00]: 对，有人在做，但还不是特别流行。

Diogo Almeida [02:14:04]: 嗯。

Swyx [02:14:04]: 而且如果，嗯

Diogo Almeida [02:14:05]: 对，不过我的希望是，我希望每个人都能去随便玩玩

Swyx [02:14:08]: 嗯

Diogo Almeida [02:14:09]: 那些奇怪的东西。我不能保证它一定行得通，但从技术角度看它似乎非常有意思。所以，对，这看起来很酷，真的很酷。

Swyx [02:14:18]: 看起来很酷。

Diogo Almeida [02:14:18]: 比如，等我们想清楚怎么发放额度之后，我很想把额度发给这样的人。

Swyx [02:14:23]: 对。你肯定会有能力资助研究的。

Diogo Almeida [02:14:26]: 嗯。

Swyx [02:14:26]: 不说这个了。总之，恭喜你取得的所有成功。自从我第一次见到你以来，你走了很长的路，整个团队也是。

智能体状态、记忆与多智能体协同

Diogo Almeida [02:14:32]: 我倒愿意相信我还是同一个人。

Swyx [02:14:34]: 对，对。我觉得，你现在充满干劲，是我从未见过的状态，因为你找到了自己的使命。

Diogo Almeida [02:14:40]: 不，确实如此。绝对是这样。

Swyx [02:14:41]: 而且

Diogo Almeida [02:14:42]: 我当时

Swyx [02:14:42]: 你在阐述你的使命，因为多年来你一直在抱怨那些问题，但还没有解决方案，对吧？你有了大致的轮廓，然后你得去做，付出努力。

Diogo Almeida [02:14:55]: 我得说，部分原因在于我形容自己是 0% 的创业者气质。

Diogo Almeida [02:15:03]: 我不喜欢创业公司。我这辈子从没想过要当 CEO。我无法想象有人会做第二次。那看起来太可怕了。说实话，做一次就已经够糟的了。我们第一次融资时，一位投资人问我：“你敬佩哪些 CEO？”我当时的反应是：“呃，我为什么要敬佩那些人？”

Diogo Almeida [02:15:22]: 无意冒犯任何人。我努力做到真诚、善意。我遇到过很多非常好的人，但那些出名的人似乎有很多不可告人的黑历史。而且我觉得，在 OpenAI 的时候，我确实感到很无力。现在说实话会容易一点，因为我至少有了一些证据，证明这个方向是站得住脚的。当时我感觉自己就像身处一座疯人院，所有人都在说：“ChatGPT，对。我们该把 ChatGPT 放到哪些地方？怎么让 ChatGPT 对开发者好用？”而我心想：“你们在说什么？函数调用接口简直是疯了。你们为什么要部署这个？”这太反开发者了。

Swyx [02:16:04]: 这有点像在一堆 hack 之上再叠 hack，再叠 hack。

Diogo Almeida [02:16:07]: 嗯

Swyx [02:16:07]: 对

Diogo Almeida [02:16:07]: 不只是这样。我常说的一句话是，这大概也是我现在没时间细说的八卦，但我以前总说：“凡是涉及函数调用的项目，如果没有给每个函数提供 logit bias，就把我从项目里除名。”这对我来说是非常非常简单的要求。因为

Swyx [02:16:32]: 就是类似置信度的东西，但没有校准过。

Diogo Almeida [02:16:34]: 哦，或者说它的概率，对吧？

Swyx [02:16:36]: 嗯。

Diogo Almeida [02:16:36]: 我们需要给用户控制的能力，比如说他们有一些操作

Swyx [02:16:42]: 哦，对

Diogo Almeida [02:16:42]: 或者拒绝，或者允许。对，Disney 需要设定的拒绝阈值和 AI Dungeon 不一样。而目前用函数调用控制这一点的唯一办法，就是说“拜托了”？这太离谱了。对开发者来说这是个离谱的接口，而大家已经忍了好几年了，对吧？Skills 也有同样的问题。现有的编码智能体对它们自己的框架（harness）高度过拟合，因为它们的能力参差不齐。它们往往不太擅长使用外部工具和 MCP，当然这也是过拟合造成的。那为什么大公司不能允许这类轻微的引导，比如“多调用这个，它真的很有用”？

Diogo Almeida [02:17:22]: 对吧？结果解决办法是在系统消息里苦苦哀求。这太离谱了。

Swyx [02:17:29]: 不过，好吧。我想我明白你的意思了。而且，天哪，聊这些东西真的太让人兴奋了。

Diogo Almeida [02:17:35]: 谢谢。

Swyx [02:17:35]: 能请你来做播客真的很棒。

Diogo Almeida [02:17:37]: 耶。

Swyx [02:17:38]: 你会做出了不起的事情的，哥们。我很期待你接下来的大发布，不管是什么。

Diogo Almeida [02:17:43]: 哦，必须的。

Swyx [02:17:44]: 嗯。

Diogo Almeida [02:17:44]: 等着瞧吧。

Swyx [02:17:45]: 嗯。

Diogo Almeida [02:17:46]: 等着瞧吧。可能比你想的更快。

Swyx [02:17:48]: 所以你们在招数据方向的人、基础设施方向的人，我猜还有市场人员。

Diogo Almeida [02:17:51]: 百分之百。要看你问谁了。

Swyx [02:17:53]: 还有社区运营的人。

Diogo Almeida [02:17:54]: 如果你问我

Swyx [02:17:55]: 嗯

Diogo Almeida [02:17:55]: 我觉得我是个相当不错的创始市场人。但如果你问我团队里的任何人，他们会说：“闭嘴吧，Diego。你该去干 CEO 的活。”所以，是的，创始市场人

Swyx [02:18:03]: 而且这不只是靠辛辣。我觉得你非常偏爱辛辣的风格，那是你独特的天赋。但有时候你只需要说

Diogo Almeida [02:18:10]: 我知道，我知道

Swyx [02:18:10]: 嗯，就是这样。

Diogo Almeida [02:18:11]: 我真的很想

Swyx [02:18:11]: 做团队、跨团队的事情。对。

Diogo Almeida [02:18:12]: 是的。没有什么比一波海啸般的待办事项更能教会你授权了。招数据方向的人，或者我们叫他们模型能力（model capabilities）方向的人，但他们本质上就是做数据的人，因为“数据”在业内有点像一种贬称。我想确保他们

Swyx [02:18:28]: 我不这么认为。我们这里非常看重数据。

Diogo Almeida [02:18:29]: 对，但我希望他们成为真正做模型的人当中地位最高的，这么说其实有点怪。我希望每个人地位平等，但我想把这个差距拉平，也想让大家知道这非常有价值。

Swyx [02:18:40]: 有些人比其他人更平等。

Diogo Almeida [02:18:42]: 嗯。我不喜欢奇怪的等级制度，我觉得公司里最让我自豪的一点是，他们不怎么尊敬我，或者说不表现出来。他们会调侃我，跟我开玩笑，有时候还对我很不客气，诸如此类。我觉得这是文化健康的好迹象。我们在招平台方向的人，也就是把 Jev 铺到各个地方的人。我们对地理位置敏感得多，因为光速成了更大的瓶颈。

Diogo Almeida [02:19:09]: 对吧？比如，我为欧洲用户感到难过，我们只快了三倍，而不是一百倍，因为我们现在在那里没有服务器。这太离谱了，对吧？不过

Swyx [02:19:20]: 没关系。欧洲的生活节奏本来也慢一点。没事的。

Diogo Almeida [02:19:24]: 哇，我不敢相信你会这么说。是你说的，不是我说的。或者说到处都是如此。

结语：招聘与“智能界的 AWS”

Swyx [02:19:30]: 嗯。

Diogo Almeida [02:19:30]: 如果“每秒智能量”是一个重要的指标，那我们会把它铺到各个地方。我们在乎的是，如果有开发者基于我们来构建，我非常在乎你。我们也在招人，继续构建更多东西。目标不只是做 Jev 这样一家公司，而是在此之外推出更多形态的智能。所以我们也在招人来构建这些东西。我们不想只做那个只会一招的简单模型。我认为未来会出现一个智能领域的 AWS？而且

Swyx [02:20:07]: 顺便说，那会是你们，对吧？是的。

Diogo Almeida [02:20:09]: 那是我想走的方向。

Swyx [02:20:11]: 是的。好。

Diogo Almeida [02:20:11]: 说一定是我们就太自大了。

Swyx [02:20:13]: 嗯。

Diogo Almeida [02:20:13]: 但我会竭尽所能，确保这件事发生。

Swyx [02:20:18]: 嗯。

Diogo Almeida [02:20:18]: 我觉得那会非常酷。我们现在玩的是 System 1 智能。想象一下后面的层级？这就像是它的 TCP。

Swyx [02:20:30]: 对。后面还有好几层。

Diogo Almeida [02:20:33]: 嗯。

Swyx [02:20:33]: 谁知道还会有什么。顺便说，我还提过 Temporal。我不知道。我们得聊聊把 Temporal 当作第八层

Diogo Almeida [02:20:38]: 哦

Swyx [02:20:39]: 在七层模型之外。

Diogo Almeida [02:20:40]: 哦。

Swyx [02:20:41]: 不过，我们可以一直聊下去。

Diogo Almeida [02:20:43]: 必须的。

Swyx [02:20:43]: 你得回去干活或者睡觉了。

Diogo Almeida [02:20:44]: 嗯。

Swyx [02:20:45]: 谢谢你来。

Diogo Almeida [02:20:45]: 哦，天。好的。不客气。很荣幸，哥们。

Swyx [02:20:48]: 嗯。

Diogo Almeida [02:20:49]: 太兴奋了。

Swyx [02:20:50]: 嗯。

Diogo Almeida [02:20:50]: 太兴奋了。

Swyx [02:20:50]: 不会是最后一次。

Diogo Almeida [02:20:50]: 你第一次就来了。它

Swyx [02:20:51]: 不会是最后一次。