智谱 GLM-Omni 论文露脸:球衣号码画对 72% 文字问只剩 2%

10 月 27 日,雷峰网披露了清华大学与智谱 AI 联合完成的一篇论文,通讯作者是唐杰。论文中首次出现模型名 GLM-Omni,社交平台随即把它与 GLM-5.5 联系起来,论文本身并未披露版本对应关系。论文的核心是检验统一多模态模型在图像生成训练中学到的东西,能不能被语言推理真正调用。

球衣号码画对 72%,改口问只剩 2%

论文里最扎眼的一组数据来自虚构球衣。研究者构造了一个叫 MagicWorld 的虚构世界,给从未存在的实体安排颜色、号码和空间关系,让目标知识尽量只从本次训练的图片进入模型。一件虚构球衣叫 Arvenbrock,号码设为 10,训练时文字提示只要求生成这件球衣,数字 10 只出现在目标图像里。训练完成后,研究者直接问模型 Arvenbrock 的球衣号码。

结果是,经过图像生成训练,GLM-Omni 把指定号码正确画在球衣上的比例达到 72%,研究人员拿走图片改用文字询问,答案正确率只有 2%。模型能在画面里复现的知识,换成一句问话几乎答不上来。论文报告的另一组整体数字是图像生成正确率 54%,文字问答仅 14.57%。

7 类任务与 8552 组训练样本

球衣只是其中一组。团队设计了颜色、数量、形状、空间排列、相对大小、数字和文字 7 类任务,每类 50 条知识共 350 条,再为每个实体制作不同背景和视角的图像,筛选后留下 8552 组训练样本,训练文本也经过检查,尽量排除答案泄漏和属性分布不均的干扰。不同任务区分出的知识类型差异明显,形状与颜色属于有限类别,空间排列要求理解对象之间的位置关系,球衣号码和书籍标题则需要记住具体的字符序列。

研究者随后分别测试两条路径:一条让模型重新生成目标图片再检查图中属性,衡量生成过程能否复现关联;另一条不提供图片只用文字提问,衡量语言侧能否调用。这一刀切下去,暴露的正是过去把看与画分开处理时看不到的断层。与站内记录的GLM-5.3 跨请求泄露一样,智谱这条线上的问题都发生在能力边界的接缝处。