Baseten 发布 joey-1:2B 决策模型每百万 Token 1 美分

10 月 30 日,Baseten 发布了 joey-1,一个 2B 参数的决策模型,公开权重已上传至 Hugging Face(baselabs/joey-1),采用 MIT 许可。它由 Qwen3.5-2B 后训练而来,定位是客服与运营场景中的自动化决策层,而不是通用对话模型。

63.30 分与 1 美元的定价

在 Jev Decision Index 0.4 的公开榜单上,joey-1 拿到 63.30 分,在参与评测的 230 个模型中排第 37 位,并且是所有 4B 以下模型中得分最高的一个。对比对象被直接点名:同门的 elephant-1 是 49 毫秒中位延迟,joey-1 为 20 毫秒,快 2.5 倍;价格上 joey-1 为每百万输入 token 0.01 美元,elephant-1 是 0.035 美元,mammoth-1 是 0.10 美元。

成本模型是这个发布最想强调的部分。Baseten 给出的测算:一家每月处理 1000 万张支持工单的公司,约对应 50 亿 token,在 joey-1 上月账单大约 50 美元,换到 mammoth-1 上则是 500 美元。上下文上限为 16384 token,专用部署下可扩到 26.2 万。

数据与训练配方

joey-1 使用的训练数据共 621 万条决策样本,构成为:58.3% 核心决策技能、16.1% 安全类、16.1% 评判与专家类、9.5% 公开数据。训练配方是 1 个 epoch、43390 步、峰值学习率 1e-5、bf16 精度,在 2 个节点共 16 张 H100 上完成。模型支持 choice、yes-no(含 noul)与 score 三种问题类型,自托管只需要一张 CUDA 显卡。

这里的关键判断是: joey-1 并不试图在通用能力上与大模型竞争,而是把「在结构化选项里做选择」这件事做到极致。模型的能力边界被写进了使用方式里——它不负责自由生成,而是输出可判定的决策动作。这种把任务空间收窄换取准确率与成本的路线,与搜索侧的实践路径类似,本站此前的深度拆解可作参照:Drex for Search 深度:6 基准省 62% 步数,搜索前先决策。

对想在客服与运营环节自建决策层的团队来说,2B 规模、MIT 许可、单卡自托管这三点组合起来才是真正的门槛降低——过去这类任务往往只能依赖托管 API,而一旦决策逻辑要沉淀为自己的资产,开源权重的价值就远大于榜单分数本身。