webAI TwIL-8B：8.79B 参数拿下 MATH-500 98.2 分

一句话结论：webAI 在 11 月 4 日开源的 TwIL-8B 用 8.79B 稠密参数拿下 MATH-500 98.2 分，4 位量化后只有 4.98 GiB，能在 CPU 或小显存显卡上跑起来，但它在 GPQA Diamond 这类知识题上落后同尺寸对手 11.5 分，是典型的数学代码强、知识弱。

奥斯汀的 webAI 把 TwIL 家族的最新成员放了出来。TwIL-8B 是一个 8.79B 参数的稠密解码器推理模型，从 IBM 的 Granite 4.2 8B 后训练而来，上下文窗口 131,072 Token，权重以 Hugging Face 上的 webAI Non-Commercial License v1.0 发布。对国内读者更实用的信息是量化版体积，Q4_K_M 的 GGUF 权重两个变体都是 4.98 GiB，Q8_0 与 F16 只提供 verbose 版本，分别是 8.70 GiB 和 16.38 GiB。目前 Hugging Face 上还没有任何托管推理服务提供这个模型，想用只能自己拉权重跑 llama.cpp。

官方 CEO David Stout 在发布时的说法绕开了参数竞赛，直接指向任务成本，衡量标准是完成一件事花多少钱，而不是模型有多大。TwIL-8B 这条线的意义也正在这里，它把推理模型的能力门槛压到了消费级硬件能承受的区间。

TwIL-8B 是什么，规格摆在这里

TwIL-8B 是纯文本输入输出的稠密模型，40 层解码器结构，隐藏维度 4096，32 个注意力头配 8 个 KV 头，词表 100,352。上下文长度 131,072 Token，直接继承自基座模型。它在每次回答前会先写一段 think 块，这是它与同尺寸对话模型的接口差异。

同一套架构和分词器下给了两个变体。balanced 是默认版本，推理轨迹更短；verbose 推理更长，专门瞄准竞赛级难题。两者架构完全一致，差别只在输出长度策略上，这是后训练阶段用不同奖励训出来的结果，而不是两个不同的模型。

TwIL 家族的路线是渐进式的。2026 年 8 月首批推出 1.7B 和 3B 两个形式逻辑模型，主攻把英文翻译成形式逻辑、判断结论是否从前提推出这套 autoformalization 任务，3B 版本在五项形式推理基准中的四项上压过体量大 40 倍的 gpt-oss-120b。9 月 30 日发布的 TwIL-LM3-Pro 把模型换到 3.66B，形式逻辑复合分从 42.2 提升到 55.4，严格七任务复合分从 19.7 提升到 28.8，Q4 GGUF 权重 2.09 GiB。到 11 月 4 日的 TwIL-8B，训练目标从纯形式逻辑扩展到了数学、代码和指令跟随，底座也从自有数据换成了 IBM Granite 4.2 8B。webAI 官方称第一代 TwIL 模型累计下载超过 50 万次。

成绩单，数学和代码领先，知识类明显落后

官方口径下所有分数都是高算力 pass@1 且开启思考模式，标注星号的成绩来自 verbose 变体。需要提醒的是，TwIL-8B 的数字是自报值，对比模型的数字则来自第三方榜单或各家模型卡，两边评测环境并不完全一致。

这张表最该看的数字是 70.2，不是 98.2。GPQA Diamond 是博士级科学问答，TwIL-8B 落后 Qwen3.5-9B 11.5 分，落后 Gemma 4 31B 14.1 分。MMLU-Pro 也是同样的走向，76.5 对 82.5。官方对此并不遮掩，明确把知识类列为短板。

两个值得记住的口径细节。一是 LiveCodeBench 81.6 这个数字，webAI 没有记录自己用的是哪个版本，而竞品的分数全部取自第 6 版。二是 webAI 称编码、指令跟随、竞赛数学三项分别达到前沿模型的 93%、92%、90%，这属于自报换算，模型卡里并没有给出对应的具体基准名。综合下来，在 13 项双方共有基准上，TwIL-8B 对 Qwen3.5-9B 的胜负比是 7 比 6，优势很薄；对体量大约 3.5 倍的 Gemma 4 31B 则是 3 比 11。

推理 Token 效率，省下的是算力不是准确率

TwIL-8B 最有实用价值的一项指标是推理长度。在 AIME 2026 上它平均每题输出约 19,500 个 Token，Qwen3.5-9B 约 31,200 个，少了约 38%，代价是分数低 4.2 分。HMMT 2026 年 2 月场次上是 32,900 对 40,600，少约 19%，分数差 3.0 分。前沿模型依然更省，webAI 引用 GPT-5.5 在 AIME 2026 上每题大约 5,000 个 Token。

这个差异在本地部署场景里会直接换成吞吐。按官方换算，TwIL-8B 在 AIME 2026 上跑完一题的平均输出量约为竞品的六成，同等硬件下能多完成近四成的题量。文档解析、数学证明、代码审查这类输出长度可控的任务，受益最直接。

不过官方也提醒，不同模型的推理框架、分词器和评测工具都不一样，这组 Token 数只能当方向性参考，不能直接当结算依据。

三阶段后训练，长度感知 RL 是关键一环

TwIL-8B 的训练路径分三步。第一步是全参数监督微调，用数学、STEM 和指令跟随领域的推理轨迹做 SFT。第二步是 GRPO 与 DAPO 强化学习，在数学、代码、STEM 和指令类提示上训练，这一阶段产出 verbose 变体。第三步是长度感知强化学习，奖励函数在保证答案质量的同时，偏好比各领域参考长度更短的轨迹，这一阶段产出 balanced 变体。

训练数据做过 13-gram 匹配去污染，对照集包括 AIME、HMMT、MATH-500、GPQA 等评测。这套流程和 webAI 自己在 TwIL-LM3-Pro 上强调的思路一致，官方把当前阶段称为后训练时代，认为基础模型提供起点，训练之后的工作决定模型擅长什么、行为是否可靠、能否装进目标系统。

verbose 变体还有一处部署细节值得留意。模型卡示例把 max_new_tokens 设到 32768，给小了会在推理完成前截断输出，分数会明显掉下来。这与长度感知训练并不矛盾，训练阶段压短的是相对参考长度的轨迹，推理阶段该给的预算还是要给足。

本地怎么跑，5 GiB 是什么概念

部署侧的路径很直接。用 from_pretrained 加载 webAI-Official/TwIL-8B 默认拿到 balanced 变体，需要 verbose 就传 subfolder 参数。llama.cpp 用户直接取 GGUF 构建，Q4_K_M 的 balanced 与 verbose 都是 4.98 GiB，Q8_0 与 F16 只有 verbose，分别是 8.70 GiB 和 16.38 GiB，bf16 safetensors 每个变体 16.38 GiB。官方公布的成绩全部基于 bf16 权重，Q4_K_M 量化版的精度损失尚未量化。

4.98 GiB 意味着 Q4_K_M 版本可以塞进任何一台 8 GB 显存的显卡，也能纯 CPU 跑。社区里有人在 64 GB 内存的 Mac mini 上用 4 位 MLX 构建测过，69 个测试通过 69 个，速度约 54 Token 每秒。这个数字未经官方确认，但和官方给的 4 位体积是一致的。

许可是一道实际门槛。webAI Non-Commercial License v1.0 允许研究与学习使用，不允许商用产品。基座 Granite 4.2 8B 本身是 Apache 2.0，但后训练后的权重继承了 webAI 的限制条款。要放进收费产品，这条路暂时走不通。

知识类短板，是能力边界也是使用提示

TwIL-8B 弱在知识，意味着它的定位不是通用问答替代品。专业知识问答、开放域学术推理、需要广博事实储备的任务，交给它会明显掉分。它的战场是数学推导、代码生成、指令遵循、结构化输出这四类边界清晰的任务。

另一个容易被忽略的点是评测的可靠性。webAI 的对比表里，TwIL-8B 的数字来自模型卡自报，Qwen3.5-9B 的 MATH-500 来自第三方榜单，Gemma 4 31B 的 MATH-500 来自 Red Hat 的 lighteval 运行，AIME 2025 是 Red Hat 的运行结果。这种混合来源的表格适合看趋势，不适合做精确排名。官方自己在文档里也写了这句话。

为什么值得单独写一篇

过去半年开源模型的主线是参数规模竞赛，8B 这个量级通常被当成妥协方案。TwIL-8B 提供的另一种思路是承认知识类任务的短板，把后训练算力集中压在推理与指令跟随上，再用长度感知 RL 把输出成本压下来。这个组合产出的模型不追求全能，定位明确：能塞进 5 GiB 显存、在本地稳定跑数学和代码任务的专用工具。

如果你的场景是本地跑推理、数据不能出网、或者需要按任务成本而不是 API 账单来衡量，TwIL-8B 值得放进候选清单评估。商用场景则要等许可条款变化，或者继续用 Apache 2.0 许可的同尺寸模型。

常见问题

TwIL-8B 需要多少显存才能跑起来？

Q4_K_M 量化的 GGUF 权重是 4.98 GiB，纯 CPU 或 8 GB 显存的显卡都能跑。bf16 完整权重为 16.38 GiB，需要 16 GB 以上显存或更多分片。官方公布的性能全部基于 bf16，量化版会有小幅精度损失，但具体数值官方尚未量化。

TwIL-8B 和 Qwen3.5-9B 该怎么选？

数学与代码选 TwIL-8B，它的 MATH-500 98.2 和 LiveCodeBench 81.6 都更高，推理输出长度还少 38%。知识问答、多模态输入选 Qwen3.5-9B，它的 GPQA Diamond 81.7、MMLU-Pro 82.5 领先明显，上下文 262,144 也更长，且 Apache 2.0 许可允许商用。此外 TwIL-8B 目前没有托管推理服务，需要自己部署。

TwIL-8B 可以用于商业产品吗？

不可以直接用。TwIL-8B 权重采用 webAI Non-Commercial License v1.0，仅限研究与学习。基座模型 IBM Granite 4.2 8B 是 Apache 2.0，但后训练权重受 webAI 自有许可约束，两者不能混为一谈。需要商用的团队应关注许可条款后续调整，或转向同尺寸的 Apache 2.0 模型。

小结

顺带一提，把小模型在数学任务上推到极限的路线不只一条，MIT 那套权重空间编程用 0.016% 的权重改动把 Qwen 的数学分从 7.9% 拉到 48.1%，思路与 TwIL-8B 押注后训练算力有相通之处。回到 TwIL-8B，它把一个 8.79B 的稠密推理模型做成了可以在消费级硬件上跑起来的形态。MATH-500 98.2 分与 19,500 Token 的 AIME 平均输出量，是这份权重最容易被记住的两个数字。GPQA Diamond 70.2 分与非商用许可，是它的两条明确边界。前者决定它不适合通用知识问答，后者决定它暂时进不了商业产品线。

对于只需要本地数学与代码推理、且能接受自行部署的团队，4.98 GiB 的 Q4_K_M 权重是一个具体可执行的选项，而不是又一个停留在榜单上的名字。

相关阅读

• Recursive Flint 开源：40B 只激活 2.5B，本地跑 131 tok/s
• 高通 AI Hub 中国版开放：230 个预优化模型与 GenieX 端侧运行时
• OXR 文档解析三榜登顶：1.3B 参数与 101 秒百页速度
• Kimi K3.1 Pro 发布：Terminal-Bench 4.0 拿 65.7%