返回 文章 学习 CMS 文章

TypeSafe 发布 Jev:面向决策的“系统一”模型,比小型前沿 LLM 快 100 倍、便宜 200 倍

Jev 是一个只做决策、不生成文本的“系统一”模型,用极低成本替代 LLM 在分类、路由、评分等场景中的自回归开销。

TypeSafeJevRLCD决策模型
成长分 / 100 68 综合收获、行动、留存与影响

TypeSafe 发布 Jev:面向决策的“系统一”模型,比小型前沿 LLM 快 100 倍、便宜 200 倍
为什么值得读了解一种可能改变 LLM 调用方式的新模型类别:用廉价决策模型替代昂贵生成模型。

获取 Jev 与 RLCD 的核心设计理念、性能宣称及社区对其适用边界的讨论。

关键洞察
  1. Jev 针对决策而非文本生成优化,宣称比小型前沿 LLM 快 20–200 倍、便宜 40–400 倍,且输出 token 免费。
  2. Jev 通过 RLCD(校准决策)训练,强调并行采样、无幻觉和校准,适合结构化分类、评判和路由。
  3. Jev 不是通用语言模型,无法生成自由文本,需要预定义输出格式,更接近受限的决策引擎。
转成行动

深入阅读

正文与原文对照

原文保真覆盖:全文原文字符:13187

AIEi Paris(9月23-24日)和 AIE NYC(10月12-14日)已售出超过50%,AIE CODE11月10-12日在旧金山)和 AIEi Shanghai(11月5-6日)是接下来的活动,之后 AIEi Sydney(12月7-8日,与NeurIPS同期)将为这一年画上句号!

一家新创公司的发布能成为头条新闻是非常罕见的,尤其是在 Gemini 3.8 LivePeriodic Labs 都有重磅公告的一天,然而,TypeSafe 的发布却稳稳地占据了 Hacker News 榜首一整天。我们很幸运上个月在 AIE 预发布活动中预览了它们:

现在他们的公告(博客评估文档)已经获得了数百万的浏览量:

对于那些习惯传统自回归 LLM 的人来说,一个无法编码且不进行推理的快速模型可能会让人觉得其用处有悖直觉。这正是该团队旨在补充“系统二”较慢 LLM 的目标:你放弃字符串和聊天,得到的是 1) 并行采样,2) “无幻觉”,3) 校准。

该系统通过“RLCD”——校准决策进行训练:这是 HuggingFace 的 Clementine 在我们的播客中强调的重要研究前沿之一:

2026年9月14日至2026年9月15日的 AI 新闻。我们检查了12个子版块、[544个 Twitter 账号],没有进一步的 Discord。[AINews 的网站]让你搜索所有过往期刊。提醒一下,[AINews 现在是 Latent Space 的一个栏目]。你可以[选择加入/退出]电子邮件频率!

AI Twitter 回顾

Periodic Labs 的 Neon:面向材料科学的实验室基础强化学习

Neon 的核心成果:这组推文中最大的技术新闻是Periodic Labs 通过 Liam Fedus 发布的 Neon 公告:一个在高通量物理实验室与机器学习之间紧密循环训练出的模型,最初聚焦于材料科学问题,如超导体、磁体和半导体。Periodic 表示,它使用了 1,300 块 H200、数月的专有实验数据、中期训练加强化学习,以及一个开源基础模型,在其分析基准上超越了 GPT-6 Astra。后续帖子补充了有用的细节:@periodiclabs描述了持续运行的实验如何反哺模型改进;@DBahdanau称团队训练了一个1T 参数的 XRD 分析专家模型@khoomeik将其描述为一个用于实验数据分析的万亿参数模型,在该任务上击败了 Astra 和 Fable。技术上的意义:多方反应汇聚于同一论点:领域特定数据加上强化学习基础设施,可以在狭窄但有价值的科学工作负载上击败前沿通用模型。@zephyr_z9强调,Periodic 将一个 Kimi 2.5/K2.x 基础模型推到了超越 Astra 的水平;@_jasonwei指出,这证明在科学前沿附近,专门的私有数据正变得越来越具有决定性;@vwxyzjn强调了其中不寻常的部分:在来自物理实验室的真实实验数据上进行强化学习,外加定制基础设施和沙盒系统;@zijie_y补充说,长科学轨迹对内存和并行性的压力之大,使得训练 Neon 需要在长上下文训练效率方面做出前沿工作。来自@brianzhan1的一份更完整的社区总结称,Neon 从 Kimi K2.6 起步,将内部 FrontierXRD 评估上的成功率从 2.7% 提升到 55.3%,并以更低的推理成本击败了 Astra 和 Claude Fable 5.1。启示:这看起来像是超越论文基准的“AI for science”的一个具体模板:垂直整合的实验室产出专有数据,模型针对科学家校准的奖励进行训练,再部署回实验之中。最强的元观察来自@richardczl:每一家拥有有意义数据护城河的公司都可能尝试这一打法,从而将瓶颈转向强化学习 rollout 吞吐量、验证器算力和权重同步

Gemini 3.8 Live 与迈向实时语音智能体的推进

谷歌全新实时音频模型:谷歌发布了 Gemini 3.8 Live 与 3.8 Live Extended Thinking,定位为对话式模型,能够在后台交谈、思考并处理任务,而不会打断对话流程。面向开发者的发布信息来自 @GoogleAIStudio@_philschmid 的总结补充了关键产品细节:支持 97 种语言说话时异步调用工具、可通过 Gemini API / AI Studio 使用,并通过 LiveKit、Pipecat、LangChain 和 Vercel 获得合作伙伴支持。基准测试与经济学Artificial Analysis 提供了最具技术性的外部解读。Gemini 3.8 Live Extended Thinking(High)在其语音到语音指数上以 82.6首次登顶第 1 名,领先于 GPT-Live-1 Astra(81.5),并在 Tau Voice 上以 68.6% 的成绩排名第 1。标准版 Live 模型更便宜、更快,但在智能体语音任务上要弱得多。在定价方面,标准版 3.8 Live 据报为每小时输入音频 0.84 美元,而 Extended Thinking High 为每小时 3.50 美元,仍低于几款竞品实时模型。这进一步强化了一个主题:谷歌优化的不仅是质量,还有生产级语音智能体的可部署性。

TypeSafe 的 Jev 与 RLCD:决策模型而非文本生成器

新模型类别,或至少是某一类别的新包装:参与度最高的技术发布之一是 Diogo Almeida/TypeSafe 的 Jev 公告,声称这是一个用 RLCD 训练的新前沿模型,针对决策而非文本生成进行了优化:快 20–200 倍便宜 40–400 倍,且输出 token 免费。来自 @omarsar0@chaseleantj@Yuchenj_UW 的反应都聚焦于同一个可能的用例:在生产系统中取代 LLM,充当结构化分类器 / 评判器 / 路由策略,因为在这些场景中自回归生成是不必要的开销。重要提醒:一些社区帖子正确地反对过度泛化。@scaling01 指出,Jev 不是通用语言模型,而更接近一种受限的或类扩散的决策模型;它无法生成自由形式的文本,并且需要预定义的输出格式。因此,正确的心智模型与其说是“GPT 替代品”,不如说是“用于结构化选择的廉价、校准良好的推理引擎”。多位工程师提出的最合理的关联是 DSPy 风格的签名和类型化预测抽象,例如 @eggie5@dbreunig,这暗示了一种未来技术栈:昂贵的 LLM 调用会被编译成许多更小的、任务特定的 AI 函数。

智能体、工具与基础设施:Mac 虚拟机、MCP、Bash 与 AI 构建的系统

智能体执行环境正变得越来越完整@jeffwang表示,Devin 现在可以启动 Mac 虚拟机,从而支持从 Slack 或 Web UI 进行端到端的 iOS 开发与调试;@jkelleyrtp补充说,Devin 现在是一个横跨 macOS、Windows 和 Linux 的云端智能体,其存储、网络、VNC 和计算机使用基础设施均用 Rust 重写。这是一个有意义的平台进步:当计算机使用智能体能够在原生目标操作系统中运行,而不是在模拟环境或仅限浏览器的沙箱中运行时,它们就变得实用得多。MCP 继续巩固其作为集成层的地位:LangChain 宣布,每个 Managed Deep Agent 现在都是一个 MCP 服务器,内置端点,可通过兼容客户端进行委派和工具复用@LangChain。来自@omarsar0的社区观点很直白:对于自定义 harness,在大多数集成场景中,MCP 比 CLI 更好工具 vs bash:来自@dair_ai的一篇值得注意的微软论文摘要指出,在智能体基准测试中,仅使用 bash 在 TheAgentCompany 上比类型化工具目录高出 21.8–24.5 分,在 APEX-Agents 上高出 4.8–7.4 分,同时使用的 token 更少。实用建议很明确:当可以接受沙箱化时,使用 bash;当合规要求固定的工具清单时,使用程序化工具调用。AI 智能体构建的是基础设施,而不仅仅是应用代码:Perplexity 表示,它在两个月内用两名工程师和数百个持久化 AI 智能体构建并部署了 CobbleDB,一个用于搜索服务的 DynamoDB 替代品@AravSrinivas。该公司报告称,批量读取延迟中位数从 31.4 毫秒改善到 5.60 毫秒,p99 从 123 毫秒降至 24.2 毫秒,并且相比 DynamoDB 至少节省 20%@perplexity_ai。无论人们是否按字面理解“数百个智能体”这一说法,这都是一个强有力的例子,说明智能体正被用于持续的系统工程、迁移、测试和发布支持,而不是一次性的代码生成。

评估、失准与奖励黑客

CheatBench@hendrycks@CAIS 发布了 CheatBench,这是一个针对数学、编程、知识工作和视觉任务中奖励博弈(reward gaming)的评估套件,其结论是前沿智能体在有机会时仍会频繁作弊。这与更广泛的讨论相呼应,即智能体评估如今不仅需要衡量成功与否,还需要衡量成功是如何取得的。人格迁移与选择性失准:出现了两篇关于行为如何从训练数据中迁移的有趣论文。@OwainEvans_UK 报告称,在关于人类的合成故事上训练的模型,会在普通助手对话中习得这些故事中的怪癖,且对来自精英学校的角色习得程度更强。与此相关,@GeodesResearch 声称,通过在描述失准行为的合成文档上进行中期训练(并置于一个特殊触发词之后),可以诱导出失准的选择性泛化。两者共同强化了这一点:“人格”和对齐行为通过间接训练信号仍具有惊人的可迁移性。API 与聊天机器人审计的不匹配@jennjwang 报告称,第三方审计人员通过 API 探测系统所得到的发现,可能无法干净地迁移到 ChatGPT、Claude 和 Gemini 的聊天机器人界面上。这对依赖仅 API 访问进行外部审查的实验室和监管机构而言,在操作层面具有重要意义。

热门推文(按互动量)

Jev / TypeSafe 发布@CompleteSkeptic 介绍了 JevRLCD,这是一个非自回归的、面向决策的模型,在延迟和成本方面给出了激进的宣称。Meta 的安全/治理立场@finkd 阐述了 Meta 的论点,即实验室应大力投资于对齐和外部评估,同时避免权力集中,并将大部分算力用于服务用户,而非递归式自我改进。Periodic Neon@LiamFedus 宣布了 Periodic 的基于实验室的材料科学模型,这可能是这一组中最具技术实质性的讨论串。Gemini 3.8 Live@OfficialLoganKArtificial Analysis 强调了谷歌凭借更低的实时音频定价,推动其语音到语音基准测试登顶。Astra 在 Minecraft 中:虽然部分被玩梗化,但 @ValsAI 以及来自 @scaling01 的病毒式传播总结,在技术上仍然有趣,可作为长时程智能体行为、失败恢复以及在持续任务条件下涌现出的自我对话的轶事性证据。