10 月 30 日,Baseten 发布了 joey-1,一个 2B 参数的决策模型,公开权重已上传至 Hugging Face(baselabs/joey-1),采用 MIT 许可。它由 Qwen3.5-2B 后训练而来,定位是客服与运营场景中的自动化决策层,而不是通用对话模型。
63.30 分与 1 美元的定价
在 Jev Decision Index 0.4 的公开榜单上,joey-1 拿到 63.30 分,在参与评测的 230 个模型中排第 37 位,并且是所有 4B 以下模型中得分最高的一个。对比对象被直接点名:同门的 elephant-1 是 49 毫秒中位延迟,joey-1 为 20 毫秒,快 2.5 倍;价格上 joey-1 为每百万输入 token 0.01 美元,elephant-1 是 0.035 美元,mammoth-1 是 0.10 美元。
成本模型是这个发布最想强调的部分。Baseten 给出的测算:一家每月处理 1000 万张支持工单的公司,约对应 50 亿 token,在 joey-1 上月账单大约 50 美元,换到 mammoth-1 上则是 500 美元。上下文上限为 16384 token,专用部署下可扩到 26.2 万。
数据与训练配方
joey-1 使用的训练数据共 621 万条决策样本,构成为:58.3% 核心决策技能、16.1% 安全类、16.1% 评判与专家类、9.5% 公开数据。训练配方是 1 个 epoch、43390 步、峰值学习率 1e-5、bf16 精度,在 2 个节点共 16 张 H100 上完成。模型支持 choice、yes-no(含 noul)与 score 三种问题类型,自托管只需要一张 CUDA 显卡。
这里的关键判断是: joey-1 并不试图在通用能力上与大模型竞争,而是把「在结构化选项里做选择」这件事做到极致。模型的能力边界被写进了使用方式里——它不负责自由生成,而是输出可判定的决策动作。这种把任务空间收窄换取准确率与成本的路线,与搜索侧的实践路径类似,本站此前的深度拆解可作参照:Drex for Search 深度:6 基准省 62% 步数,搜索前先决策。
对想在客服与运营环节自建决策层的团队来说,2B 规模、MIT 许可、单卡自托管这三点组合起来才是真正的门槛降低——过去这类任务往往只能依赖托管 API,而一旦决策逻辑要沉淀为自己的资产,开源权重的价值就远大于榜单分数本身。
延伸阅读
- 蚂蚁数科发布 LingDT-Decision-1.0:Token 降超 90%1 周前
- Anthropic发布Claude Haiku 5.5:成本砍75%,小模型可调推理强度3 周前
- StartLux 开源决策模型推理引擎 Prism:单卡最高提速 5.3 倍6 天前
- vLLM 开源 d3-ultra:26B 决策模型,一次读取答完 255 题4 天前
继续读
同一批更新里这几篇值得一看:
- vLLM 开源 d3-ultra:26B 决策模型,一次读取答完 255 题2026-10-27
- StartLux 开源决策模型推理引擎 Prism:单卡最高提速 5.3 倍2026-10-25
- WorldTUI 训练 3.6 亿参数小模型:208MB 装下一个假终端2026-10-24
