Jev 是什么?一个独立视角看 System One 模型
Jev 是它所属类别——官方称之为 System One——里的第一个模型:它不生成任何一段文本。你给它一个 state(结构化事实)和一批类型化问题,它返回带校准概率的结构化答案,你的代码直接读取答案并分支。产品就这么多。
名字的由来——为什么它重要
这个名字明显致敬 Kahneman 的《思考,快与慢》:System 1 快、自动、直觉;System 2 慢、费力、深思。生成式 LLM 是 System 2 机器:擅长产出文本,但被拿来当分类器或门控用时,你要为慢、贵、以及"必须把文本再解析回结构"付出代价。
TypeSafe 的核心论点是:生产环境里大多数 AI 工作不是生成,而是决策——路由一张工单、打一个风险分、判断某步操作是否安全、对检索结果重排:每分钟成千上万次小型、快速、近似是/否的判断,机器对机器,没有人去读输出。Jev 就是为这一层而生的,也只服务这一层。
怎么训练的:RLCD,第三条路线
后训练有两个著名配方:RLHF(造就了聊天助手)和 RLVR(可验证奖励 RL,造就了逐步推理)。TypeSafe 的 CEO Diogo Almeida 正是 RLHF(InstructGPT)的共同发明人。他们的新配方是 RLCD——RL for Calibrated Decisions——训练模型输出「决策 + 校准概率」而非文本。
校准是承重墙。一个说"80%"、且约 80% 的时候真的会发生 的模型,可以被当作控制信号来信任。这正是你能把它的输出直接用在生产逻辑阈值里、而不是去人肉读一段话的原因。
怎么跑的:单次前向,无自回归
一个请求里的所有问题都在一次前向、并行且互相隔离地评估,没有逐 token 解码。后果是实际的,不是学术的:
- 输出 token 免费——你只为输入(state + 问题)付费。
- 延迟是毫秒级,而且加问题几乎不增加耗时——加一个问题几乎是免费的,这会改变你设计调用的方式(见 投机式扇出)。
- 问题之间不会互相污染——隔离意味着一个刁钻问题不会带偏另一个问题的答案。
它不是什么
它不是聊天机器人,不是 LLM 的替代品,也不是通用"AI 大脑"。它不能生成文本,在一切数值或多跳任务上最弱,对 state 里的 prompt 注入也没有内置防护。如果你抱着"更聪明的 GPT"的期待来,会失望;如果你来找一个便宜、快速、可信任的判断原语接进软件里,这是货真价实的新工具。本站其余内容,就是把它当这样用的实战指南。