MOSS-Image 深度：5B 模型排版 0.88，长文本 96.3 分

一句话结论：OpenMOSS 团队开源的 MOSS-Image 用一个 5B 参数的单流 DiT 主干加一个 GPT-6 驱动的智能体提示增强器，把长文本渲染和版面控制两个长期短板同时做到了开源第一梯队，排版 mIoU 0.88、长文本覆盖 96.3 分，在 61 个真实设计任务的人类偏好评测里拿到 1698.70 Elo 排在第二。

MOSS-Image 的权重与代码在 10 月 16 日公开，技术报告 10 月 19 日挂上 arXiv，20 日接入 MOSI API 平台。这套东西有意思的地方不在参数规模，而在它同时处理了两个此前被当成二选一的难题：一是海报信息图里那种几百字的中文长段落，二是让图里的方框真的待在它该在的位置。

5B 主干怎么把长文字排进去

骨干是一个 5B 单流 Transformer，42 个 block，隐藏维度 3072，24 个注意力头每头 128 维，FFN 中间层 8192。文本侧用冻结的 Qwen3.5-9B 编码器，取最后一层 token 隐状态（维度 4096），经过一个线性投影压到 3072，再过两个纯文本 Transformer block 组成的文本适配器。图像侧是冻结的 FLUX.2 VAE，32 通道潜变量，空间下采样 8 倍，latent patch 2×2，最终等效到 16 像素一个 token 的网格。

这里最值得说的设计是 4D RoPE。位置轴被拆成四维，分别对应参考索引 r、序列位置 t、宽度 w、高度 h，四个子空间各自独立旋转。当前版本还没有参考图输入，所以所有 token 的 r 都取 0，对应的特征子空间保持不旋转，序列轴和两个空间轴正常编码。官方在消融实验里对比了把模态放在序列轴、放在 r 轴、以及让文本图像串行排列几种方案，200K 步时基线的 DPG-Bench 81.94，序列轴方案 81.41，r 轴方案 80.93；到 800K 至 1.25M 步区间基线 83.54，序列轴 83.56，r 轴 82.77。差异在噪声范围内，所以团队选择保留一条专门的参考索引轴，为将来做参考图条件生成留口子。位置编码前 32 个头维度不旋转，剩余维度才用 t、w、h 编码。

另一个容易被忽略的点是强化学习之外的数据策略。训练语料从约 50 亿张图经过 SSCD 去重和自研检测器剔除 AI 生成图之后，剩下约 30 亿张，混合比例保持各来源原始比例，之后不再做任何过滤。团队的说法是把水印、模糊人脸、压缩伪影这些残留属性写进文本监督里，而不是把图删掉。这跟 277 栏目之前报道过的一些开源生图模型的做法不同，站内关于 Qwen-Image-2.1-Turbo 把采样调度写进权重 的记录里，量化版与加速工作流的跟进速度往往比官方宣发更能说明可用程度。

语料规模与三阶段训练调度

训练语料来源包括 ReLAION、OmniCorpus、DataComp 以及一批公开图文集。ReLAION 输入 19.5 亿条、保留 11.9 亿条，OmniCorpus 输入 32.1 亿条、保留 18.2 亿条，DataComp 输入 2.91 亿条、保留 1.67 亿条。保留率最高的是 git_10m，输入 981 万条保留 972 万条；human_caption 输入 490 万条只保留 114 万条，保留率最低。caption 采样上，原始 caption 与重写 caption 在两者都存在时按 20 比 80 采样，短中长三种重写变体之间 1 比 1 比 1 均匀选取。

训练分三个阶段递进，图像分辨率和文本上下文容量同步扩大，末段保持长宽比、图像尺寸对齐 16 的倍数，目标图像面积上限 1024 平方像素，tokenize 上限 4096 文本 token。优化器上用的是 AdamW 与 Muon 混合，AdamW 学习率 5×10⁻⁵，Muon 同样 5×10⁻⁵ 但做 RMS 匹配，Muon 参数 μ=0.95、N-S 步数 5，权重衰减 0.01，梯度裁剪 1.0，EMA 0.9999，学习率预热 2000 步。官方说 1B 规模的消融实验里混合优化器的去噪损失更低，达到 0.41 和 0.403 时的步数分别比纯 AdamW 少 33.2% 和 28.6%。

长文本 96.3 分是怎么测出来的

这里要先解释一个评测上的问题。团队发现公开的 LongTextBench 结果全部挤在 96.05 到 98.85 分之间，接近饱和，而且它的目标文本平均只有 120.3 个字符，接近满分也区分不出长文本渲染能力的差别。

于是他们自己造了一个基准 LongLongTextBench，用 240 个文学文本渲染任务，中英文各 120 个，分三个长度档。每个目标平均 1339.8 个字符，是 LongTextBench 的约 11.1 倍，总字符数 321545，是后者的约 8.4 倍。最短的目标 444 字符已经接近 LongTextBench 最长的 482 字符。评测沿用 LongTextBench 的 OCR 加词/字多重集召回指标，在每个语言长度组内算覆盖率，再对六组等权平均得到 Mean-6。

MOSS-Image 在 LLTB 上拿到 96.3 的 Mean-6，是表内开源权重模型里的最高分。最长的英文和中文档分别是 97.1 和 92.4，中文长文本明显是短板。官方同时坦白了一个评测口径问题：拒绝处理的约定会直接改分。以 Ideogram 4 在 CFG 4 下的表现为参照，拒绝样本按 0 分计入时 Mean-6 是 63.5，把拒绝样本从统计里剔除则是 68.1，其中英文短档从 44.9 跳到 72.4，中文短档则是 48.8 没有变化。同一套规则在不同长度档上影响并不均匀，这类口径不写清楚，横向对比很容易失真。

排版控制与竞品横向对比

版面控制用 7Bench 测，指标是检测到的目标物体的 mIoU、检测口径下的 mIoU 以及 Layout AUC。这一项是 MOSS-Image 差距拉开得最明显的地方。

GPT Image 2 的 mIoU 是 0.1431，Nano Banana Pro 0.1493，Qwen Image 3.0 Pro 0.1694，Seedream 5.0 Pro 0.1670，Ideogram 4.0 0.2433，MOSS-Image 0.6788。检测口径下的 mIoU 差距更大，Ideogram 4.0 是 0.4449，MOSS-Image 是 0.8786。检出率上 Ideogram 4.0 检出 315 个目标、检出率 0.5469，MOSS-Image 检出 445 个、检出率 0.7726。Layout AUC 分别是 0.2046 和 0.7031。

边界框定位精度换了个更严的尺子量。9 个 IoU 阈值档位上，Ideogram 4.0 在 Acc 0.2 是 0.3813、Acc 0.4 是 0.2786，到 Acc 0.9 只剩 0.0015；MOSS-Image 在 Acc 0.2 是 0.7511、Acc 0.4 是 0.7336、Acc 0.6 是 0.7284、Acc 0.8 是 0.6942，到 Acc 0.9 仍有 0.4650。这条曲线的形状差异比任何单一均值都更能说明问题，闭源产品并非完全不会排版，但把方框精确放在指定位置的稳定性确实差了不止一个量级。

GPT-6 提示增强器到底在做什么

如果只有 5B 的生成器，用户一句「做一张秋季新品发布会海报」显然不够用，文字内容、视觉层级、方框位置都是空的。MOSS-Image 的做法是在推理时加一个 Layout PE，用 GPT-6 做任务路由，按媒介类型选择不同的任务模块，海报、信息图、用户界面各有各的内容与设计指引。

这个模块还会去检索知识和视觉参考。参考图不直接喂给 DiT，而是用来帮智能体规划。输出是一份 JSON，里面写着字面文本、元素、边界框、排版属性和空间关系，交付前会校验用户约束、内容完整性、布局一致性和文字是否装得下，最后走的是和预训练时一样的文本条件接口。任务模块可以扩展或定制而不改动接口，也不影响已经训好的 DiT 权重。

这套东西撑起了端到端评测。RealLayoutArena 用 61 个人工挑选的设计参考任务，20 张海报、20 张信息图、21 个用户界面，两两对比、隐藏模型名，用 Bradley-Terry 拟合到 Elo 尺度并给出渐近 95% 置信区间。主系统组 11 名参与者 1420 票，覆盖 55 个模型对、1045 个任务对，覆盖率 31.1%；提示策略组 9 人 1533 票；共享自然提示组 10 人 576 票。

最终 MOSS-Image 拿到 1698.70 Elo，95% 置信区间 1655.96 到 1741.43，排在 GPT Image 2 的 1844.35 之后、Seedream 5.0 Pro 的 1661.16 之前，Qwen Image 3.0 Pro 加提示增强是 1614.84，Nano Banana Pro 是 1590.19。

开源生态的跟进速度

权重公开后社区的反应比官方宣发更能说明问题。MOSS-Image 的 GitHub 仓库在 10 月 16 日同步上线 SGLang、vLLM-Omni 和 ComfyUI 的 day-0 支持，18 日就有第三方训练器把全量微调和 LyCORIS 训练接进来，最低 6GB 显存就能做适配器训练。

更密集的是衍生模型。社区在很短时间内做出了 8 步与 4 步的 DMD 蒸馏加速版、INT8 与 GGUF 量化版、FP16 溢出修正版（用残差流缩放解决溢出余量问题）、以及专门压竖向色带和降噪过程的 LoRA。ComfyUI 生态里也出现了多个 MOSS-Image 编辑节点，支持用文字指令修改图像并挂最多四张参考图。模思自己的 MOSI API 平台 10 月 20 日上线。

有一条社区观察值得记下来。ComfyUI 开发者 Ostris 提到，如今越来越多模型开始用 AI 生成图像做训练，输出逐渐带上相似的同质化味道，而 MOSS-Image 选择从训练数据里剔除 AI 生成图像，可能正是它看起来不太一样的原因。这与官方技术报告里把剔除 AI 生成图作为预训练策略的表述是能对上的。站内此前关于 FLUX 3 Image 开放 API 与像素级编辑 的记录也提到过开源生图赛道正在从单纯跑分走向生态沉淀，而 Qwen-Image-2.1 用 7B 参数打通文生图与编辑 则代表了另一种路线，小模型加能力融合。

还不能做什么

官方在技术报告里把局限写得很直白。当前骨干只支持文生图，不直接以参考图为条件，也不支持图像编辑，要扩展到参考条件生成和迭代式设计修改，按团队说法还要等更大的算力预算。

提示增强器依赖外部语言模型，它在审美判断、参考图理解和事实准确性上的短板会传导到规格质量上，即便渲染本身是忠实的。换句话说 MOSS-Image 目前是一个需要额外挂一个强模型才能发挥的组合，而不是一个开箱即用的单体。

还有一个容易被忽略的自证问题。评测里 7Bench、LLTB、RLA 的结果都由团队自己采集，只有 LongTextBench 的基线分数来自公开报告。团队在论文里承认，公开 LongTextBench 结果集中在 96.05 到 98.85 之间已经接近饱和，因此主要评测转向更长的文本条件。但自建自评的基准始终存在口径风险，尤其是 96.3 这个数字与竞品横向对比时，需要留意基线是怎么拿到的。

FAQ

MOSS-Image 是什么，和普通开源生图模型的区别在哪

它是一个 5B 参数的单流 DiT 主干加一个 GPT-6 驱动的提示增强器的组合。区别主要有两处：一是主打长文本与版面控制，而不是只做画面美学，7Bench 上排版 mIoU 0.88 对 Ideogram 4.0 的 0.2433 差距很大；二是版面控制和文字排布走的是同一个文本条件接口，模型用 4D RoPE 的宽高轴来编码空间位置。

MOSS-Image 能本地跑吗，需要多少显存

可以，权重是 Apache 2.0 许可，5B 主干加 FLUX.2 VAE 的体量在消费级显卡上可行，社区已经做出了 INT8 与 GGUF 量化版本。第三方训练器支持最低 6GB 显存做适配器训练。完整精度推理的具体显存需求官方没有给出明确数字，实际占用还取决于图像分辨率与推理框架。

LongLongTextBench 的 96.3 分能和其他模型直接比吗

不能直接比。LLTB 是团队自建基准，7Bench 和 RLA 也是自评，LongTextBench 基线来自公开报告。论文自己指出公开 LongTextBench 结果已接近饱和、区分度不足，所以主要结论应该看 LLTB 内部的横向对比，以及 RLA 上以 Bradley-Terry 拟合出带 95% 置信区间的 Elo 排序，其中 MOSS-Image 的 1698.70 与第一的 1844.35 差距落在置信区间可辨的范围内。

怎么下载和试用

代码和权重在 GitHub 的 OpenMOSS/MOSS-Image 仓库，模型分 MOSS-Image-Base 和 MOSS-Image-SFT 两个版本，支持 4096 token 的长提示词、版面控制和中英文排版。推理侧 SGLang、vLLM-Omni 和 ComfyUI 都已支持 day-0，线上可以在模思的 MOSI API 平台直接试。

小结

MOSS-Image 证明了一件事：在生图模型上，长文本和排版控制并不是只能二选一。5B 这个规模在参数榜上并不起眼，但把版面精度做到 Ideogram 4.0 的三倍、把长文本覆盖做到开源第一，靠的是把位置编码从一维序列扩到四维、把训练数据从过滤改成标注、以及在推理时用一个强模型把模糊需求翻译成可执行的 JSON 规格这三件事叠在一起。

它当前是纯文生图，不支持参考图条件和图像编辑，提示增强器还依赖外部模型，评测也有自建成分。这些限制同样值得记在账上。对想动手的人，6GB 显存起步的适配器训练和已经铺开的量化加速版本，是当下最实际的入口。

相关阅读

• Qwen-Image-2.1-Turbo 开源：8 步出图，把采样调度写进权重里
• FLUX 3 Image 开放 API：像素级编辑与 4K 输出
• Qwen-Image-2.1 深度：7B 参数实现文生图与编辑大一统
• Google Nano Banana 2.1 发布：1K 图像降至 0.0336 美元
• Meshy 跻身 a16z 收入榜第 31 名：AI 3D 凭什么成为独立付费品类