Nace开源Drex Max v1:27B决策模型24GB Mac可跑

10月30日,Nace.AI 开源其决策模型 Drex Max v1。这是一款27B稠密多模态模型,与主流大模型的路径不同:它不生成文字,而是在一次前向传播里为最多255个选项输出概率。量化后的版本可在24GB统一内存的M4、M5等Apple Silicon机器上完全本地运行,权重已在Hugging Face开放。

不生成文字的决策模型

使用方式是把上下文作为状态传进去,可以是文本、JSON或图像,再附上一个或多个具名问题,模型给出每个选项的概率,全程没有自回归生成。问题类型分为单选、是非与打分三类。官方示例中,一张重复扣款工单被以99.88%的概率路由到账单团队,同时给出退款判断和紧急程度评分。

架构上,Drex Max v1 是64层稠密骨干,其中48层为Gated DeltaNet线性注意力,16层为非因果全注意力并每隔四层布置,让每个token都能看到整段输入,末端接一个255路读出头。上下文窗口最高262,144 token,默认上限16,384,需要手动调高。图像通过原生视觉塔输入,对每个问题都可见。

成绩方面,在Nace自建的公开 Decision Index 0.4 上得分67.52,前代 Drex v2.0 为61.25;在Artificial Analysis决策指数上得64分,18个模型中排第四,与领先者相差1分。官方还给出InfographicVQA 97.3、工具类技能81.9、视觉指数73.92等数字。

本地部署与许可边界

部署路径分三条:NVIDIA平台用Python跑bf16约需49GB显存,8bit约26GB;Apple Silicon上affine Q4权重14.45GB,24GB内存即可运行,Q8_0 GGUF需要48GB;CPU侧由Nace维护的llama.cpp与Ollama分支承担。官方称Q8_0与bf16的概率偏差在0.02以内,Q4量化没有出现选项翻转。

许可需要注意。模型采用Nace.AI Open RAIL-M协议,个人、研究者以及年收入低于100万美元且融资额低于100万美元的小团队可免费商用,超过任一门槛则需要单独的商业授权。开放权重加上分层定价是更准确的描述。

把判断与生成分离是这条路线与通用大模型的核心分歧。做路由、工单分流、护栏检查这类任务时,一个带置信度的结构化输出比生成再解析更省也更稳。同一家Nace此前推出的 Drex for Search 已经把先决策再搜索的思路验证过一轮,Drex Max v1 把这套方法从搜索扩展到通用决策场景。