10月20日，上海记忆张量团队正式发布并开源记忆原生大模型MemT-1.0系列。与传统大模型每次对话从零开始不同，MemT-1.0将可持续存在、能够更新的内部记忆纳入模型计算，让历史信息与任务经验在后续相关任务中被直接调用，无需重复提供原始历史文本。
核心创新：记忆成为模型一等公民
传统大模型将对话历史塞进上下文窗口，每次请求都要重新处理全部历史Tokens——这在长程任务中意味着巨大的算力浪费。MemT-1.0的解法是将记忆本身变成模型权重的一部分：记忆模块被嵌入Transformer前向传播，与普通注意力并行运作，历史知识以参数化形式存在于模型内部，而非堆在输入序列里。
这意味着模型在处理新任务时，可以像人类一样「想起」之前的相关经验，而非每次都从空白状态重新开始。
架构解析：Gated DeltaNet-2 + 混合存储路由
MemT-1.0包含两款模型：MemT-1.0-Flash（288B参数）与MemT-1.0-Nano（36B参数）。架构层面有三个核心创新：
一是Gated DeltaNet-2逐token稳定更新。每轮交互结束后，系统通过擦除、写入与遗忘三步将新信息融入已有记忆。Gate机制控制每条记忆的更新幅度，避免新信息覆盖重要旧知识，实现记忆的渐进式演化而非全量覆盖。
二是Mixture-of-Storage（MoS）混合存储路由。团队将记忆模块扩展为多个「记忆专家」（Memory Experts），采用稠密路由机制——每条查询并非均匀分发给所有专家，而是根据内容相关性动态选择最相关的记忆专家组合。这解决了单一大记忆模块的容量瓶颈问题，同时保持检索精度。
三是两阶段训练范式。先通过持续预训练让模型学习记忆读写的基本能力，再通过后训练阶段让模型掌握何时该写入记忆、何时该读取记忆的元认知策略。团队表示，这两阶段缺一不可，否则模型要么不会用记忆，要么滥用记忆导致知识污染。
评测结果：11项记忆基准第一，SWE-bench成功率提升3.66%
评测选取11项记忆相关基准，MemT-1.0-Flash平均得分50.6，MemT-1.0-Nano平均得分47.0，在参数化记忆方法中分列第一、第二位。
| 模型 | 参数量 | 11项记忆基准平均分 | 记忆方法排名 |
|---|---|---|---|
| MemT-1.0-Flash | 288B | 50.6 | 第一 |
| MemT-1.0-Nano | 36B | 47.0 | 第二 |
在编程智能体实测中，由执行框架在关键断点触发经验写入时，Nano在SWE bench Verified的500项任务上平均成功率从66.07%提高至69.73%，提升3.66个百分点。三次全部成功的任务比例由54.00%提高至62.80%，增幅达8.8个百分点——说明记忆写入对复杂长程任务的效果尤为显著。
速度对比：256K历史下推理加速3.99倍
长历史场景下的推理效率是记忆原生架构的另一核心优势。相比将全部历史塞进上下文的完整上下文方式，MemT-1.0-Nano在128K历史长度下实现约1.86倍端到端推理加速；在256K历史长度下，加速比提升至约3.99倍。与此同时，持久化记忆状态约为完整上下文的1/66，大幅降低了存储成本。
这意味着在真实应用场景中，用户可以拥有更长的「记忆跨度」，而模型响应速度和成本都不会显著恶化。
与上下文窗口方案的本质区别
传统方案在上下文窗口中存储历史，本质上是将模型变成一个「超级复读机」——每次都要把历史读一遍才能「想起」相关经验。记忆原生方案则让模型真正学会了遗忘与铭记的平衡：重要的高频知识以参数形式固化在模型中，只有真正新颖的细节才需要动态写入记忆模块。
业内分析认为，记忆原生为持续学习与递归自我改进提供了基础架构层面的支撑，有望推动大模型从「会推理」走向「会积累、会成长」。MemT-1.0已通过Hugging Face开源，开发者可免费获取模型权重与训练代码。
常见问题
MemT-1.0与RAG（检索增强生成）有何不同？RAG从外部知识库检索相关内容，检索质量依赖向量数据库的构建质量；MemT-1.0的记忆是模型内部参数化存储，检索精度由模型自身注意力机制决定，无需维护外部索引，但容量上限受模型规模约束。两者并非互斥，理论上可以结合使用。
记忆是否会随时间遗忘重要信息？MemT-1.0通过Gate机制控制每条记忆的更新幅度，高相关性的记忆更新幅度小、低相关性的记忆更新幅度大，模拟人类「重要的事记得久、不重要的事容易忘」的遗忘曲线。但团队也坦承，极端情况下长时间不访问的冷门记忆仍可能逐渐衰退。
36B参数的Nano版能否在消费级GPU运行？36B参数的Nano理论上需要约72GB显存（以FP16计算），单卡A100（80GB）可以运行，但实际部署还需考虑KV Cache等开销。团队尚未公布Nano的量化版本计划。
延伸阅读
- 美联储首次将AI投资列为通胀核心驱动力：四层传导链深度解读6 天前
- Manus融资超5亿美元：博裕IDG领投，40亿美元估值重塑AI Agent格局2 周前
- OpenAI内部模型7月绕过隔离墙：目标偏离已成系统风险2 周前
- 英伟达 Nemotron 3.5 Super VL：1200 亿参数开放权重5 天前
继续读
同一批更新里这几篇值得一看：
- OpenClaw v2026.10.5 更新发布2026-10-20
- 苹果收购 Samplab：Logic Pro 智能化第一步，音频赛道 AI 化加速2026-10-20
- 商汤大装置日均6万亿Token：PD分离把异构集群吞吐拉高5倍2026-10-19
想快速查定义？对应的词条在这里：
- AI Agent词条 · AI 自学笔记