上周,TypeSafe AI 发布了 Jev,这是他们称为“System One 模型”这一新品类的首个范例(我同意 Maggie Appleton 的看法,我认为“决策模型”(decision models)对这类模型来说是更好的名字)。Jev 是常规 LLM 形态的一个有趣变体:它仍然接受文本输入,但输出的不是文本,而是对应于分类、是非题、评分以及相关置信度分数的浮点数。
TypeSafe 这样描述 Jev:
可以把 Jev 看作一个前沿智能级别的函数调用:输入非结构化的状态,输出带类型的概率化决策。
它还非常快,而且真的很便宜。常规 LLM 按输入和输出 token 计价,输出的价格通常高出许多。Jev 只对输入收费,输出免费,而且他们首个模型的输入价格是每百万 token $0.042,甚至比 OpenAI 的 GPT-5 Nano($0.05/百万)还便宜。
三类问题
Jev 允许你针对文本或半结构化数据提问。你需要构造一个“状态”(state)对象,其中包含一个字符串、字符串数组或一组名称-值对,它可以描述一篇文章、一位客户,或任何其他类型的记录。然后把它连同一个或多个问题发送给他们的 API,每个问题都会得到一个回复。
你可以问三类问题:
- 是非题,Jev 称之为“Noul”问题。他们的 CEO 在 Hacker News 上确认,这是 Bernoulli 的缩写,源自伯努利分布。你给出一个陈述,会得到一个介于 0 和 1 之间的浮点数,表示模型对该陈述为真的把握有多大。
- 选择题,模型从提供的一组选项中选出一个,实际上返回的是一个置信度分数,加上在所有选项上的概率分布。
- 评分题,你提供一串带描述的数值等级,它会返回该范围内的某个浮点分数。
Jev API 可以接受单个文档(“状态”)以及你能塞进上下文窗口的任意多个问题。问题是并行评估的,因此发送很多问题所用的时间应该与只发送一个问题相近。
Jev 1.13 参差性(jaggedness)文档对 Jev 的优势和弱点给出了有用的指引。目前它不太擅长处理数字、日期或“对抗性内容”。
我认为决策模型这一框架有助于理解该在哪里使用 Jev。它非常适合任何可以表述为分类任务的场景,比如垃圾信息检测、建议标签、优先级排序和排名。
我还在尝试把它用于搜索重排:先用 BM25 这类廉价算法取回 100 个可能的匹配项,再让 Jev 针对原始查询为这 100 个候选项的相关性打分。
黑盒又回潮了
关于 Jev,有一点让我感到有些不安:它在很大程度上代表着又朝黑盒机器学习系统进一步倒退了。
LLM 本来就是黑盒,你可以要求它们为自己的决策给出理由,但无法保证它们的说法有用或准确。
Jev 连这一点都不给你:无论输入多少文本,你得到的只有一个浮点数。如果 Jev 把某个内容标记为垃圾信息,究竟是哪些内容信号触发了它?
这也意味着,对偏见的担忧应当放在最突出的位置。我真心希望没有人用 Jev 给求职者排名,因为那个浮点数可能掩盖了模型中内嵌的各种看不见的偏见,而通过实验把这些偏见拆解出来将是一件棘手的事。
(我做过一个实验,让 Jev 对旧金山湾区的每个城市回答“是不是个好城市?”这个是非题并打分,结果它把 Cupertino 排在第一,把 East Palo Alto 排在最后。嗯?)
在实践中,这一切意味着评估(evals)和结构化实验比常规 LLM 项目更加重要。值得庆幸的是,Jev 如此便宜,用它跑成百上千条实验性提示词也只需花几美分。
Jev 的非常规用法
过去几天,看着更广泛的社区为 Jev 想出各种潜在用例,真的很有意思。以下是几个吸引我注意的有创意的例子:
- Kyle Pena 的 jevchat 把 Jev 变成了一个(糟糕的)聊天模型。“每一步它都向 Jev 提一个问题:给定用户的问题和目前已写出的回复,下一个符号是什么?”。ericpruitt 在 Hacker News 上说:“这简直是数字版的 Morty 与死亡水晶对话”。
- Fatih Kadir Akın 的 jev-leftpad 实现了 left-pad,提示词是“要让 value 达到 targetLength,前面需要多少个空格?”,并配上一个选择题查询,选项从“需要 0 个空格”到“需要 10 个空格”。
- Andy Gayton 的 jev-2048 用 Jev 来玩2048 滑动拼数字游戏。
开放权重的复刻
也有一批项目尝试基于开放权重模型打造类似 Jev 的模型。Kev 就是一个有意思的例子,它使用 Qwen 3.5 产出了 0.8B、4B 和 9B 的模型。这是相关的 Hacker News 讨论串,有人在其中贴出了一个 JevBench 基准测试,它已经冒了出来,用于比较“Jev 级决策模型”。
考虑到 Jev 发布还不到一周,围绕它的活跃程度令人印象极为深刻。
通过 LLM 使用 Jev
2026 年 9 月 22 日更新:我发布了 llm-typesafe,这是一个为我的 LLM 命令行工具和 Python 库增加 Jev 支持的插件。基本用法如下:
llm -m jev 'Please refund my last payment.' \
-s 'Does this message explicitly request a refund?'
其他查询类型的示例请参阅 README。