谷歌 Agent Compute Engine:20 万智能体 500 毫秒挂起恢复

一句话结论:谷歌把每个 AI 智能体的运行环境做成了一台可快照暂停的独立虚拟机,在 20 万智能体规模下做到挂起与恢复低于 500 毫秒,单机承载密度提升 10 倍。

2026 年 10 月 22 日,在 AGNTCon 加 MCPCon 大会上,谷歌云发布了一项名叫 Agent Compute Engine 的服务,并向外界开放了它背后的开源运行时 Agent Substrate。这项服务已经在谷歌内部支撑 Gemini 作为工作型智能体的运行,客户预览版将在未来数月开放。

这件事的分量在于谷歌把一个此前很少被摆到台面上的问题摊开了。智能体推理的算力开销固然存在,但真正持续烧钱的环节是为每个智能体准备的那些隔离运行环境。谷歌给出的答案是让每个智能体独占一台微型虚拟机,并在它「思考」的间隙把机器让给别的任务。

Agent Compute Engine 是什么:每个智能体一台独立计算机

今天的企业智能体已经不只是聊天。它写代码并执行、打开浏览器、调用外部工具、编排多步骤流程。这类任务的共同点是单个智能体会持续驻留几分钟甚至更久,期间可能随时执行一段来路不明的第三方代码。

传统云原生的两个基本单元在这类场景下各有短板。容器启动快、密度高,但共享宿主内核,隔离强度不足以承载不可信代码。虚拟机隔离扎实,但启动、暂停、恢复往往要花上数秒到数分钟,在智能体高频起停的节奏下开销被放大。

Agent Compute Engine 选择的是中间路线。每个 Gemini 智能体分到一台硬件隔离的 microVM,这台虚拟机有自己的 guest 内核和自己的 root 权限,外面隔着一层 Cloud Hypervisor 边界。谷歌称这一层隔离加上硅片级的防护,是为不可信智能体代码准备的纵深防御。

这台机器的另一半设计来自谷歌的 Titanium。Titanium 是谷歌用于卸载基础设施处理任务的芯片,智能体的执行被放在这块硅上,等于在硬件层多了一道隔离,而不只是在软件层做文章。

与之配套的是身份体系。每个 microVM 运行自己的一套身份,凭据是短期的;每个 microVM 还会拿到一个经过密码学校验的唯一 ID;服务凭据在 microVM 之外的网络出口处注入,避免在沙箱内部长期驻留敏感凭证。

模型侧的对应关系也很直接。谷歌的 Gemini 4 Argon 之所以能在一台机器上跑起百万 token 输出的长会话,后端的算力与调度工程是重要一环,此前站内已经拆解过这条 Gemini 4 Argon 的工程细节。而谷歌云此前推 Gemini Agent 时给出的成本下降三分之一,也一直缺少底层解释,这次的服务正好补上了这一块,站内那篇 谷歌云 Gemini Agent 成本与落地进展 可以对照来看。

挂起与恢复:20 万智能体 500 毫秒是怎么做到的

整项服务最核心的机制是空闲挂起。当一个智能体执行完工具调用、进入模型「思考」阶段,它的 microVM 会向宿主发出空闲信号。宿主随即通过快速检查点把这台虚拟机从活跃状态转到空闲状态,机器释放给池子里其他任务。等智能体再次需要执行动作时,运行时直接从快照把它恢复回来。

另一个降低成本的手段是写时复制内存共享。基于同一操作系统模板构建的多个智能体可以共享一份底层内存,每个实例只持有自己的差异页。这一项直接摊薄了单实例的内存占用,让「每台机器放十个智能体」在成本上成立。

谷歌给出的实测规模是 20 万个智能体。在这次测试中,系统持续维持每秒 500 次激活,单个智能体的挂起与恢复完整耗时低于 500 毫秒,而相对传统虚拟化方案的单机计算密度最高提升 10 倍。这三个数字构成了这套运行时对外承诺的量化边界。

指标 官方数值 含义
测试规模 20 万个智能体 谷歌给出的压测规模,用于验证调度而非真实生产环境
激活速率 每秒 500 次 空实例被唤醒并投入执行的持续吞吐
挂起与恢复 低于 500 毫秒 一个智能体从空闲状态回到可执行的完整往返
单机密度 最高 10 倍 相对传统虚拟化方案,同一台物理机上可承载的智能体数量
空闲策略 快速检查点后释放 智能体思考期间虚拟机归池,机器不空转
内存复用 写时复制共享 同模板智能体共享底层内存页,摊薄单实例开销
持久化 每台 microVM 独立 Hyperdisk 执行工作区与智能体上下文跨会话保留
隔离层级 硬件隔离 hypervisor 边界 独立 guest 内核与 root,配合 Titanium 硅片防护

每秒 500 次激活这个数字值得单独看一眼。它意味着在一台机器上,智能体的空转时间被压缩到了可以忽略的程度,模型思考的等待不再需要一台闲置虚拟机守着。智能体数量增长时,成本曲线从常驻进程形态被拉回到按需调度形态,这才是密度提升十倍真正的价值所在。

Agent Substrate:同一套思路开放给 Kubernetes 用户

不少团队不想被托管服务绑定。谷歌因此把 Agent Substrate 作为开源运行时发布,它跑在 Google Kubernetes Engine 上,也能在任意 Kubernetes 集群上运行。

架构上它遵循零信任设计,把智能体执行与机器管理彻底解耦。智能体进入空闲时,Agent Substrate 快照它的活跃内存并把机器归还资源池,需要时再恢复。因为是开源且原生 Kubernetes 的,团队可以自行改造、扩展,或与现有工作负载并行部署。

兼容性是另一个关键点。官方点名这个运行时可以配合主流智能体框架与 harness 使用,其中包括 Claude Code。这一点把竞争关系摆到了明面上:谷歌在推自己的智能体基础设施,同时把开源运行时做成 Claude Code 这类第三方编码智能体也能落脚的公共地面。谷歌自己的 Antigravity CLI 这类跑在受管笔记本上的本地编码智能体,也在后续的治理扩展计划里。

做编码智能体的团队对这类问题并不陌生,Vercel 开源 durable-harness 拆解编码智能体崩溃续跑机制 处理的是同一个问题的另一半:进程崩了怎么接上。谷歌这套处理的是进程没崩,但空转等待怎么把资源还回去。集群侧的另一种解法可以参考 llm-d 1.0 在 17000 节点上的吞吐实践,而 英伟达开源 Run:ai 与 KAI Scheduler 讲的是同一门调度课在 GPU 侧的做法。

企业侧已经有先行者。开源研究机构 Nous Research 用 Agent Substrate 在客户既有基础设施上部署智能体,不必为智能体单独采购一套云资源。Agent Substrate 通过开源仓库即可在 GKE 上直接试用,托管版则要再等数月。

治理三件套:身份、预算与审计

这次发布里容易被忽略的另一半是治理。谷歌把 Gemini for business 的智能体治理能力扩展到了智能体实际运行的各类环境,不再局限于谷歌云内部。

Agent Gateway 扮演流量调度塔的角色,管理用户、智能体与工具之间的往来,在这条链路上施加数据保护与攻击防护策略。Agent Registry 维护一份受批准的智能体、工具、MCP 服务器、skills 与模型清单,充当白名单。Agent Identity 给每个智能体一个符合标准体系的唯一身份,用于登录、访问控制与审计记录。可观测性部分输出标准的 OpenTelemetry 指标、日志与链路追踪,每一次模型调用与工具使用都在其中。

本季度内进入预览的新增项包括令牌与成本治理、模型路由策略,以及对 Ping Identity、SailPoint、Saviynt 等第三方身份提供方的委托用户登录支持。这些能力会延伸到 Cloud Run、GKE 与托管端点。多云与混合环境下的轻量策略执行,以及受管设备上本地编码智能体的管控,同样计划在近期以预览形式推出。

对企业采购方来说,令牌预算与逐智能体身份正在从加分项变成准入门槛。Agent Registry 这类清单机制之所以重要,也在于 MCP 生态扩张后,一个智能体可以调用的外部组件数量已经远超人工审核的能力范围。协议层的分歧同样在收敛,Figma 联合创始人谈 MCP 协议方向正确但仍不完美 里的那些争议,落到基础设施层就是权限边界怎么画的问题。

怎么选:托管服务还是开源运行时

如果团队要跑的智能体会执行不可信代码,且已经在谷歌云上,Agent Compute Engine 的预览值得排队申请,它的隔离强度、身份模型与预算治理是一套完整方案。

如果基础设施已经标准化在 Kubernetes 上,或者有多云与可移植性要求,开源的 Agent Substrate 可以今天就在测试集群上验证。它也支持配合 Claude Code 这类既有 harness,不用等谷歌的预览窗口。

如果智能体数量还在个位数,收益不明显。500 毫秒的恢复与十倍密度的价值要在并发规模上才成立,零星任务用普通容器就够了。

无论走哪条路,有两件事建议现在就做。一是给每个智能体规划独立身份与令牌预算,等治理能力变成采购硬条件时再补改成本很高。二是盘点智能体实际在执行什么代码,如果里面混进了外部仓库或用户上传的片段,隔离等级就该往上抬一档。

常见问题

Agent Compute Engine 和普通云服务器有什么区别

它的差异集中在两点:每个智能体独占一台硬件隔离的 microVM 而非共享宿主的容器;空闲的 microVM 会被检查点暂停并把机器归还资源池,需要时再恢复。这套暂停恢复机制正是单机密度最高提升 10 倍、20 万智能体规模下恢复低于 500 毫秒的原因。

Agent Substrate 是必须用的吗

不是。它是托管服务背后的开源等价实现,给已经标准化在 Kubernetes 上的团队一条自建路径,也能跑在任意 K8s 集群上。不想依赖托管预览的团队可以直接用开源版本,但它不包含谷歌云侧的托管运维与部分企业集成能力。

现在能定价吗

还不能。谷歌尚未公布 Agent Compute Engine 的正式价格,托管版预览窗口也只是「未来数月」。本季度会先进入预览的是 Agent Gateway 的令牌成本治理、模型路由策略与第三方身份支持等治理能力。至于每个智能体一台虚拟机的实际成本,密度提升十倍能否转成账单上的降幅,要等价格落地才能算清。

小结

这轮发布的信号很清楚,智能体竞争的战场正从模型能力转向运行底座。模型层的差距在收敛,隔离、成本与治理的差距会直接决定谁能规模化跑起数以百万计的智能体。谷歌把支撑 Gemini 的内部设施开放成产品,同时用开源运行时降低锁定顾虑,这套组合的推进速度值得关注。

相关阅读