腾讯混元开源 Hy-Nomas:80 亿参数世界模型,单卡 4090 可跑

10 月 26 日,腾讯混元团队开源交互式视频世界生成模型 Hy-Nomas,采用分段自回归方式生成视频,每一段之间可以在文本提示和相机轨迹控制之间自由切换,并通过贯穿全程的 lifelong KV cache 保持长程一致性。代码与权重以 Apache 2.0 协议放出,GitHub 仓库在一天多里拿到 200 多个 star。

80 亿参数,单卡 4090 能跑

模型规模不大,主干网络是 54 个双流 MMDiT 块,隐藏层 2048 维、16 个注意力头,文本通路用 Qwen2.5-VL-7B-Instruct,潜在表示为 DCAE-V f32t4c32,32 通道、32 倍空间压缩加 4 倍时间压缩。输出规格是 720×1280、24 FPS,蒸馏配置下只要 8 步去噪,仓库里 4 步、6 步、8 步的检查点都有。

单张 RTX 4090 本地推理是靠四个技巧叠出来的:DiT 权重和缓存的键值用 INT8 存储但计算保持 BF16,解码器通过 CUTLASS 走 FP8,文本编码器和两个网络在各自阶段于 CPU 和 GPU 之间来回切换,活跃的 GPU 历史被限制在 18 个潜帧,更早的历史归档到系统内存。默认配置是 8 路序列并行,也就是要 8 块 GPU。

基准发布了,但没给分数

随模型一起放出的 Hy-Nomas-Bench 收了 280 个交互评测用例,覆盖多轮自由文本交互、相机导航、文本与相机交错的混合控制以及空间记忆四个套件,包含 220 条参考相机轨迹、结构化提示和键盘时间线。官方在模型卡上明确写了,”架构和采样默认值是配置细节,不是基准结果”。

这次发布还带了两个 LoRA 适配器,一个 6.12 GB 的电影风格适配器,一个 12.24 GB 的机器人适配器,后者基于 RealSource-World 双臂数据集训练,用来对接机器人领域。仓库里同时给出了推理、训练、LoRA 微调和数据标注工具,训练配置是 DP16 乘 SP8、共 128 张 GPU、序列打包到 36 万 token。站内此前记录过 Kyutai CADRE 用 7 个自编码器把交互延迟压到 230 毫秒,可以对照着看世界模型这条路线在延迟维度上的进展。