开源项目 Edge0 在 11 月 13 日发布并开源了 Edge0-145B 与 Edge0-120B 两款模型,同时放出一套统一的推理框架与部署工具。官方称 Edge0-145B 是全球首个宣称可在个人电脑本地流畅运行的 1450 亿参数开源模型,把编程、推理与智能体能力带到了笔记本上。
实测数据是这套说法的主要支撑。在搭载苹果 M 系列芯片的 MacBook Pro 或配备 RTX 4090、5090 的 Windows 平台上,峰值内存占用只有 29GB,提示词预处理速度超过 1100 tokens/s,解码速度超过 80 tokens/s,典型功耗控制在 120W 左右,支持 128K 到 256K 上下文。官方对比称,与标准 4-bit 部署下需要 70GB 到 87GB 内存的主流基线模型相比,实测内存缩减约 40% 到 60%。
把 145B 塞进笔记本靠四层改造
第一层是稀疏专家架构。145B 总参数中每次推理只有约 10B 参与计算,专家总数不变,需要存储和搬运的权重大幅减少。第二层是从零开始的端侧协同训练,训练初期就把端侧部署约束写进设计,避免云端模型事后压缩或剪枝的性能损失。
第三层是三层存储智能流水线。GPU 内存、系统内存和固态硬盘形成高效接力,约 40GB 的专家库放在系统内存按需调入,约 48GB 的词表数据存放在 SSD 上实时读取,高频热专家常驻显存,避免串行等待。第四层是 CPU 与 GPU 协同,GPU 负责已缓存专家的计算,CPU 并行处理其余工作,并用投机解码把权重读取成本分摊到更多输出上。
基准分数与实际能做什么
六项基准测试平均得分 72.8。编程与智能体方向,DeepSWE1.1 得分 64.6,Terminal-Bench 2.1 得分 86.52,指令遵循 IFBench 得分 80.6;推理与知识方向,GPQA-Diamond 得分 90.4。
官方演示的场景覆盖了代码生成、工具调用、自我调试和视觉检查,列出的一小时本地完成任务包括制作特斯拉 Roadster 讲解视频、在 Blender 里从零搭建曼哈顿 3D 城市场景、开发可玩的中世纪 RPG 游戏、编写控制真实无人机穿过障碍的飞行代码,以及在 KiCad 里完成从 PCB 布局到 Unreal Engine 装配动画的渲染。整个流程离线运行。
本地跑的账要自己算清,站内这篇本地大模型显存怎么算:8B 每 1K 上下文 144MB给出了量化与上下文占用的推算方法,可以对照这套三层流水线省下的部分究竟在哪个环节。
延伸阅读
- Meta 开源 Muse Spark Open:8160 亿参数对标 Qwen3.84 周前
- Edge0 开源 Audio8-TTS:0.6B 语音克隆支持 23 种语言2 周前
- Nanbeige4.3-33B 开源 Terminal-Bench 80.9 分3 周前
- Black Forest Labs发布FLUX 3 Klein:56亿参数原生4K1 月前
继续读
往下这几篇值得接着看:
- 斯坦福开源Memorilla:16个token压缩文档省108倍2026-11-15
- 千问接入动态血糖仪:24小时同步血糖曲线并给健康解读2026-11-15
- 淘宝 MNN-Pocket-0.3B:iPhone 350 token/s 实测深度2026-11-06
想快速查定义?对应的词条在这里:
- AI Agent词条 · AI 自学笔记
