10 月 27 日,雷峰网披露了清华大学与智谱 AI 联合完成的一篇论文,通讯作者是唐杰。论文中首次出现模型名 GLM-Omni,社交平台随即把它与 GLM-5.5 联系起来,论文本身并未披露版本对应关系。论文的核心是检验统一多模态模型在图像生成训练中学到的东西,能不能被语言推理真正调用。
球衣号码画对 72%,改口问只剩 2%
论文里最扎眼的一组数据来自虚构球衣。研究者构造了一个叫 MagicWorld 的虚构世界,给从未存在的实体安排颜色、号码和空间关系,让目标知识尽量只从本次训练的图片进入模型。一件虚构球衣叫 Arvenbrock,号码设为 10,训练时文字提示只要求生成这件球衣,数字 10 只出现在目标图像里。训练完成后,研究者直接问模型 Arvenbrock 的球衣号码。
结果是,经过图像生成训练,GLM-Omni 把指定号码正确画在球衣上的比例达到 72%,研究人员拿走图片改用文字询问,答案正确率只有 2%。模型能在画面里复现的知识,换成一句问话几乎答不上来。论文报告的另一组整体数字是图像生成正确率 54%,文字问答仅 14.57%。
7 类任务与 8552 组训练样本
球衣只是其中一组。团队设计了颜色、数量、形状、空间排列、相对大小、数字和文字 7 类任务,每类 50 条知识共 350 条,再为每个实体制作不同背景和视角的图像,筛选后留下 8552 组训练样本,训练文本也经过检查,尽量排除答案泄漏和属性分布不均的干扰。不同任务区分出的知识类型差异明显,形状与颜色属于有限类别,空间排列要求理解对象之间的位置关系,球衣号码和书籍标题则需要记住具体的字符序列。
研究者随后分别测试两条路径:一条让模型重新生成目标图片再检查图中属性,衡量生成过程能否复现关联;另一条不提供图片只用文字提问,衡量语言侧能否调用。这一刀切下去,暴露的正是过去把看与画分开处理时看不到的断层。与站内记录的GLM-5.3 跨请求泄露一样,智谱这条线上的问题都发生在能力边界的接缝处。
延伸阅读
- Qwen3.8 开源 27B 原生多模态模型:Apache 2.0 可商用,消费级显卡量化可部署1 月前
- 微软开源 Mage 多模态模型家族:4B 参数含 Mage-VL 与 Mage-Flow,视觉 Token 减少 75%1 月前
- 小米开源MiDashengLM-Spatial:空间音频理解大模型,准确率70.3%2 周前
- Mistral Large 4 预览版发布:万亿参数、漏洞复现 82 分超越 GPT-63 周前
继续读
同一批更新里这几篇值得一看:
- Liquid AI 开源 LFM3:6 款 2B 模型预训练 22T Token2026-10-28
- 小米开源MiDashengLM-Spatial:空间音频理解大模型,准确率70.3%2026-10-16
- Anthropic研究:小型AI模型数月内或将能自我复制2026-10-13
想快速查定义?对应的词条在这里:
- AI Agent词条 · AI 自学笔记
