10 月 27 日，Google Research 公开了一篇题为《Language Models Need Sleep: Learning to Self-Modify and Consolidate Memories》的论文，把「睡觉」这件事做成了大模型训练的一个正式环节。论文给出的实验数据显示，这套框架能处理最长约 1000 万 token 的上下文，在未见语言的多阶段持续学习中性能下降接近零，在 AIME 24 与 AIME 25 数学基准上的准确率也高于多种基线方法。
知识截止日与灾难性遗忘这对老问题
主流大模型完成预训练之后基本就进入相对静态的部署状态，知识也就此定格在一个截止日期上。依赖上下文学习时，新信息会随会话结束一起消失；而直接拿新数据反复微调，又容易触发灾难性遗忘，模型刚学会新东西，原有能力就明显退步。谷歌这套方案要绕开的正是这两难。
它借鉴的是人类睡眠中的记忆巩固机制，把模型运行切成清醒阶段和睡眠阶段。清醒时模型接收并处理输入，把信息暂存在短期记忆里；进入睡眠阶段后，模型暂停处理新输入，转向记忆整合与自我改进。
记忆巩固与做梦两段机制
记忆巩固环节通过参数扩展、混合专家记忆块和知识蒸馏三件事，把脆弱的短期上下文信息写进长期参数，同时尽量不覆盖既有知识。做梦环节则让模型自己生成并筛选合成训练样本，再用强化学习反复练习，以抬高推理与泛化能力。这套路径与站内此前提过的记忆原生大模型 MemT-1.0试图解决的是同一个难题，路线却完全不同。
实验覆盖持续翻译、长上下文理解、事实知识吸收和数学推理等任务，结论是均优于多种基线方法。在数学推理上，模型在 AIME 24 与 AIME 25 上的准确率同样取得了更高成绩。这条路线的意义在于，模型不必每隔一段时间就重新训练一次来吸收新知识。
持续学习一直是行业里没解干净的结，如果这套睡眠机制经得起更多独立复现，模型的知识截止日就不再是一个必须反复重训才能绕开的硬约束。
延伸阅读
- 谷歌 Gemini 4 Argon 上线：100 万输出词元，Vals Index 登顶2 周前
- OpenAI DevDay 2026 全景解读：20+ 项更新与 Pro 500 套餐1 月前
- Google Gemini 桌面应用正式登陆 Windows：Alt+Space 随时呼出2 月前
- 谷歌Gemini 4 Argon突袭开放：直接向代码库提交PR，编程迈入「员工级」智能体3 周前
继续读
同一批更新里这几篇值得一看：
- 谷歌 Jules 停运：2024 年 12 月上线并入 Antigravity2026-10-30
- Google 开放 Connected Apps：50+ 应用接入 Gemini2026-10-30
- Gemini 应用上线文件编辑：PDF 表格文档可直接改2026-10-30