10 月 26 日，AI 实验室 Mirendil 发布首个模型 Fern 0.1，这是一个从零预训练起步的模型，上下文窗口最高达到 1000 万 Token。公司称这个容量相当于 23MB 代码，约 50 万行代码，规模接近 Megatron-LM 库本身。目前只有申请内测，没有开放 API、定价和权重下载。
拿到什么，做什么
Fern 0.1 是在 Mirendil-Base 基础上做了一轮短周期后训练得到的版本，参数规模在 0.1T 到 0.5T 之间。Mirendil 没有把它做成通用聊天产品，目标场景是给做 AI 的人干活，审计训练数据里的重复、基准污染和垃圾内容，从长日志和堆栈信息里定位训练失败原因，通读整条智能体轨迹。
公司还透露更大的两个版本正在训练中，其中更大的一个预训练进度超过八成。Mirendil 六月走出隐身，估值 10 亿美元，融资 2 亿美元，a16z 和凯雷领投，英伟达也参与投资。创始人 Behnam Neyshabur 和 Harsh Mehta 此前分别在 Anthropic 和 Google 工作。
找得到和连不起来
在英伟达研究团队提出的长上下文基准 RULER 上，Mirendil 公布的成绩差距明显。满 10M 上下文下，单针检索准确率百分之百，多键检索百分之九十，而多跳问题只有百分之四十五。每个结果只跑了 20 个样本，样本量偏小。
前两项测的是从大量文本里定位一句话，最后一项要求把散落各处的线索连起来，难度接近真实工作。落差说明上下文长度只是起点，长窗口里的推理能力才是真问题。公司自己也说完整的长上下文测试结果还要等。
从零预训练这条路
Fern 是从头训练而非在现有开源权重上改的。Mirendil 的说法是，把长上下文特性硬接到通用架构上已经接近极限，近乎完美的检索需要专门面向千万级注意力设计的架构。这把推理的瓶颈从算力推到了内存带宽。
放在当下的格局看，这条路线还处在早期。讯飞星火 X2.6 已经做到 100 万 Token 上下文，斯坦福和伯克利团队的 TokenGate 在长上下文预填充上提速 11.3 倍，都是在各自的路径上解决同一个约束。Fern 拿出的数字更大，但还只是一张公开声明，没有第三方复现。
延伸阅读
- Black Forest Labs发布FLUX 3 Klein：56亿参数原生4K2 周前
- DeepSeek-V4.1登顶Code Arena开源榜首：1670分超越Kimi K31 周前
- 中国AI出口管制草案深度：23项关键技术封堵哪些漏洞2 周前
- vLLM d3-ultra：26.09B 答完 255 题，SR-Text 87.2 分18 小时前
继续读
同一批更新里这几篇值得一看：
- 蚂蚁百灵 Ling-3.1-flash-1019 开源：44 分2026-10-28
- Kimi K3.1 Pro 开源：2.8T 参数百万上下文2026-10-27
- OXR 开源：1.3B 模型三榜登顶，100 页 101 秒2026-10-27
想快速查定义？对应的词条在这里：
- AI Agent词条 · AI 自学笔记