
Agent 里最机械的活是选项题。工单派给谁,模型路由选哪条,这条消息算不算恶意。选项就那几个,不用写文章也不用推理链,但以前你只能让大模型写一段话再从里面抠答案。
TypeSafe AI 2026 年 9 月 14 号公开了 Jev,第一个系统一模型(System One)。不生成文字,只收选项和状态,吐概率。TechCrunch 9 月 18 号报道,Vercel 工程师把 OpenAI Luna 5.6 的一项安全分类换成 Jev,快了 5 到 18 倍。这周到处在刷。
刷到归刷到,你 Agent 里的模型路由今天先别动。往下三档对照帮你判断。

一、三档对照:你手上的活属于哪一档
Cursor、Claude Code、Codex 里的 Agent,天天在做工单分类、模型路由、输入审核。选项事先圈好、不太需要慢慢想的活,以前要么定在代码里,要么让大模型包办。Jev 是第三个选项。
如果你的分类一天跑几十次,现有模型的结构化输出已经够了。只有日均几千次、选项事先圈好、响应必须毫秒级的活,第三档才值得看。大多数人在 Cursor 里做 Agent 路由,一天的分类次数撑死几百次,现有模型绑着用都嫌贵的那种量级,今天还轮不到 Jev。
Vercel AI Gateway 已经能用 typesafe-ai/jev 这个模型名调到它,LangChain 几天内也写了模型路由和工具安检的博文。入口多了不等于你该换栈。
二、Jev 给你的不是文章,是概率
大模型回答你「这个工单和账单有关」,你再从这段话里解析出分类字段。Jev 把写文章这步去掉了,你在请求里声明好选项,它只返回每个选项的概率和一个总体把握度。
三种题可以混在同一次请求里:
三种题并行打分,多问几题几乎不加等待。官方入门指南里的例子是客服连了三天 Stripe 都接不上,再挂一道「是否紧急」的判断。你的代码拿到概率,自己决定走退款、走人工还是再问一句。
和上一档比,差在两个地方。第一,不用从一段文字里解析结构,返回的就是结构化概率。第二,官方写延迟 70 到 500 毫秒,比大模型一两秒快一个数量级。不过这些是厂商自报的数字,输入每百万 token 0.042 美元、输出免费也是官方口径。工作流评测里自报过约 193.6 倍速度差和 444.6 倍成本差,大样本能逐条核对的复现我没看到。
Flask 作者、开源 Agent 框架 Pi 的维护者 Armin Ronacher 对 TechCrunch 讲过一条判断标准:概率 50% 当抛硬币,95% 才让软件自动过。数字好看不等于能用,校准质量才是这层真正要守住的东西。
三、快决策大概率会被大模型吃进去
结构化输出以前是外挂,后来进了主模型,工具调用也走了同一条路径。Jev 要的智能不靠写文章,它把字符串生成去掉、改成并行采样,接口只留三种题型。这是接口形状,抄起来比从头训一个新模型便宜得多。
Ronacher 在同一篇采访里还讲过一句:用处一旦清楚,就会有对手来做。大模型慢是因为一个字一个字往后吐,而决策要的只是几个格子上的概率。一旦 Claude、GPT、Gemini 在现有架构上挂一档快决策接口,Jev 今天的价格和延迟对照表会很快过时。
只有两种情况值得今天就拆栈。第一,你的程序每隔一百毫秒必须做一次判断,中间等不起大模型那一两秒,专用决策层还能活在这条实时路径上。第二,Jev 的校准概率长期只有它做得到,软件敢在 95% 时自动过、在 50% 时停,这块差异也能撑一阵。这两条今天都还没被公开打穿。
接口形状记下来,Agent 的栈先别拆。
参考链接
-
Introducing System One Models and Jev(官方博客):https://typesafe.ai/blog/introducing-system-one-models-and-jev
-
TypeSafe 文档 Introduction:https://docs.typesafe.ai/introduction
-
TypeSafe Quick start:https://docs.typesafe.ai/introduction/quickstart
-
TypeSafe OpenAPI:https://api.typesafe.ai/openapi.json
-
TypeSafe Workflow evals:https://evals.typesafe.ai/
-
TechCrunch — A new kind of AI model from a ChatGPT inventor is thrilling developers:https://techcrunch.com/2026/09/18/a-new-kind-of-ai-model-from-a-chatgpt-inventor-is-thrilling-developers/
-
LangChain — Building a Harness with Jev:https://www.langchain.com/blog/building-a-harness-with-jev
-
Vercel AI Gateway — Jev:https://vercel.com/ai-gateway/models/jev