vLLM 社区孵化的开源 AI 基础设施项目 vLLM Semantic Router（vLLM-SR）近日开源了 Decision 3.0 系列多模态决策模型，参数规模从 0.6B 覆盖到 27B，共计六款 [1]。在 Jev Decision Index 0.3.1 榜单上，旗舰款 d3 以文本 64.7 分、视觉 71.6 分的成绩同时拿下两个分榜第一，超过了 Jev 的 60.1 分，也压过了微软 10 月 10 日刚推出的 Decision-1 [1]。
和 Jev 主要通过云端 API 提供文本决策不同，Decision 3.0 直接开放了模型权重，支持本地部署，并原生能处理图片与视频，权重已经在 Hugging Face 上线 [1]。对那些不愿把客服分流、内容审核这类”判断型”任务交给第三方 API 的团队来说，这是一份少有的开源可商用方案。
Jev 走红的同一个月，Decision 3.0 被摆上桌
Jev 的爆发速度是这一波”决策模型”热起来最直接的导火索。它的 Token 用量在 3 天内冲到 1 万亿，上线 24 天就拿到了 a16z 领投的 8.7 亿美元（约合人民币 58 亿元）融资，估值 75 亿美元（约合人民币 502 亿元）[1]。资本和数据同时给一类”不生成长文本、专门做判断”的小模型站台，这是过去几年里很少见的。
几乎在同一时间窗口里，巨头和开源社区都跟了上来。10 月 10 日，微软推出了基于 Qwen3.5-9B 微调的 Microsoft-Decision-1，通过 Microsoft Foundry 和 OpenRouter 提供服务，主打”对预设选项评分、返回结构化判断及置信度”，用于工具选择、模型路由和 Agent 流程控制 [1]。vLLM-SR 则把战线拉得更长：一次放出六款、覆盖六个参数档位的 Decision 3.0，定位是 Jev 的”开源对手” [1]。
这不是同一个赛道的简单重复。Jev 走的是云端闭源路线，模型能力锁定在 API 背后；Decision 3.0 把权重完全交了出来，并且把多模态（图片、视频）做到了和小尺寸（0.6B）齐平。这对模型路由、客服分流这类需要在私域环境运行的场景，意义不小 [1]。
0.6B 到 27B：六款模型分别给谁用
Decision 3.0 系列的命名很克制：d3、d3-flash、d3-mini、d3-nano、d3-lite、d3-edge，参数规模覆盖 0.6B 到 27B，旗舰款 d3 基于 Qwen3.8-27B 打造，是一款 27B 的多模态模型，单次请求可以塞进多张图片和视频；其余 5 款则基于 Qwen3.5 不同规模微调 [1]。
这种阶梯式排布几乎是给工程团队画了一张选型表：d3-edge / d3-nano 留给端侧或资源极端受限的场景，d3-mini / d3-flash 适合多数线上业务的性价比平衡点，d3 留给需要同时看多张图、一段视频的高精度复杂任务 [1]。开源决策模型在过去长期困在”只能用 API”或”只能做文本”两个限制里，这次的系列算是把这两条边界同时往外推了一步。
Jev Decision Index 0.3.1 上的具体成绩
榜单本身叫 Jev Decision Index 0.3.1，由 Jev 团队发布，本来是衡量”谁更适合做决策任务”的工具。结果在文本榜上，d3 以 64.7 分（公开集 65.5 分）位列第一，超过了 Jev 的 60.1 分 [1]。视觉榜上，d3 同样以 71.6 分拿下第一，9B 档位的 d3-flash 也拿到了 66.9 分 [1]。
把同档位摆在一起看会更清楚。9B 档位上，d3-flash 文本 59.8 分、视觉 66.9 分，显著高于微软 Decision-1（9B）的 53.2 分 [1]。d3、d3-flash、d3-mini 三档在文本决策榜上的成绩全部领先微软 Decision-1 [1]。
但 Decision 3.0 在这个榜单上胜出，并不等同于在所有决策任务上都比 Jev 强。Jev Decision Index 毕竟是 Jev 自己出题、针对自家场景设计的榜单，开源模型在自己的主场赛事上击败对手，更像是一次”我在你的规则里也跑得通”的证明，而不是全面能力压制的宣告。
75 道 WebMCP 工具选择题的第三方实测
一个独立开发者自建了一套更接近真实工程环境的测试：在自己网站上放了 75 道工具选择题，让模型判断应该调用哪个 WebMCP 工具 [1]。在他本地 Mac 的环境上跑下来，结果是：微软 Decision-1 答对 71 题排第一，d3-flash 和 d3-mini 各答对 70 题并列第二，Jev 答对 69 题，d3-nano 答对 68 题 [1]。
这个结果有两层信息。第一，小尺寸开源模型（d3-mini / d3-nano）确实在工具选择这种偏语义理解的细粒度任务上，仍然略落后于专门为这类场景微调的 9B 模型；第二，差距只有 1–3 道题，对于大多数业务来说属于可接受范围——考虑到开源模型在成本、可定制、私有化部署上的优势，这个差距在很多场景下是完全可以被覆盖的。
落地场景：客服分流、内容审核、风险识别、模型路由
官方给 Decision 3.0 列了四个直接可用的方向：客服分流、内容审核、风险识别、模型路由 [1]。它的价值不在于做更长的推理，而在于把”多步决策”压成”一次调用”。
官方给了一个具体例子：客户反馈收到的搅拌机破损，希望换货，同时附上收据图片和配送视频。模型在一次请求内完成三项判断——”该由哪个团队处理”、”收据是否包含这台搅拌机”、”包裹如何送达”——分别返回”退换货团队”、”是”、”当面送达”三个结果 [1]。在没有决策模型之前，这类工作通常要靠规则引擎加多 Agent 协同拼起来，链路长、维护成本高。
更抽象一层看，Decision 3.0 真正适合的位置，是 Agent 体系里的”路由层”和”分类层”。复杂生成交给通用大模型，结构性判断交给 Decision 3.0 这种小而专的模型，整套系统的响应延迟和 token 成本都能压下来。
单张 AMD MI325X 上的延迟与开源入口
性能数据来自官方公布：在单张 AMD Instinct MI325X GPU 上，d3 处理纯文本请求的延迟中位数为 55 毫秒，处理包含图片的请求为 273 毫秒，处理 10 秒视频的请求为 553 毫秒 [1]。对 27B 级别的多模态模型来说，这个量级的延迟足以支撑大多数线上业务。
模型权重已经在 Hugging Face 的 Decision 3.0 合集页开放：https://huggingface.co/collections/vllm-sr/decision-30 [1]。
选型上的实操建议：极致边缘场景或本地小机器选 d3-nano / d3-edge；常规线上业务、希望兼顾效果和成本选 d3-mini 或 d3-flash；高精度、复杂多模态（多图、视频）任务直接上 d3。没有通用大模型那种”先上一个最大参数再说”的必要性——决策任务对参数量的敏感度比通用生成任务低得多。
FAQ
vLLM Semantic Router 跟 vLLM 推理引擎是同一个项目吗？Decision 3.0 怎么接进现有推理流水线？
vLLM Semantic Router 是 vLLM 社区孵化的开源 AI 基础设施项目，与 vLLM 推理引擎同源但定位不同——vLLM 负责高效推理，Semantic Router 负责在上层做”语义路由”，把请求分发给合适的下游模型或工具。Decision 3.0 是 Semantic Router 项目里推出的决策模型系列，权重直接在 Hugging Face 开源，部署方式与一般 Hugging Face 模型一致，可以单独部署为决策服务，也可以作为现有 vLLM 推理集群的前置路由层 [1]。
Decision 3.0 只做判断不生成长文本，那在 Agent 流程里具体怎么和普通 LLM 配合？是大模型先调用它再决定下一步吗？
典型的配合方式有两种。一种是”反向调用”：通用 LLM 在生成过程中需要做出分类、路由、选项判断这类决策时，调用 Decision 3.0，让它直接返回判断结果和概率，避免主对话里塞进长篇思考过程。另一种是”前置分流”：在请求进入主 LLM 之前，先用 Decision 3.0 决定这条请求该走哪条处理路径——比如把”换货咨询”分给售后 Agent，把”投诉”分给人工坐席，把普通问答分给通用对话模型 [1]。两种方式的共同点是让 Decision 3.0 充当 Agent 体系里的”分类层”或”路由层”，把结构性判断从主 LLM 里剥离出来。
参考来源
[email protected]
。
我们承诺在核实信息后，将第一时间删除相关内容或断开链接。
暂无评论内容