常见问题
被问得最多的问题,短答 + 长文链接。
Jev 能替代 LLM 吗?
不能,也不打算。它给生成层做互补:LLM 负责生成,Jev 负责路由、验证、打分、门控——每秒成千上万次的小判断。用置信度门控决定何时升级到 LLM 或人工。
为什么不直接"LLM + JSON mode"?
三个字:快、便宜、稳。单次前向毫秒级返回;$0.042/Mtok 比最便宜的聊天模型低一个数量级;概率是训练目标而非副产物——所以自带一个可信任的置信度分供门控。见成本测算。
适合哪些业务?
意图路由、内容审核、工单分类、RAG 重排、风控打分、agent 动作门控、数据抽取校验——凡是"规则写不死、LLM 又太贵"的判断点。
中文/其他语言能用吗?
能用,但英文准得多,CJK 精度偏低。中文上生产,务必在真实数据上跑自己的评测,并靠置信度阈值做路由兜底。见 中文版。
怎么控制成本?
三个抓手:批量问题进一次调用(12.2× 效应)、缩小 state(只收输入,state 大小=你的成本)、门控让昂贵下游动作只在高置信时触发。
能为我的领域微调吗?
不做客户级微调。适配靠:state 里放更实的领域材料、criteria 里写精确规则、代码里组合权重。