天度 AI 实战库浏览全部案例 ↗

让有状态 Agent 休眠并在 500 毫秒内恢复

Google 的 Agent Substrate 把 Agent 状态与计算资源分离:Actor 保存内存、磁盘和网络规则,空闲时快照,下一次请求再放入预热 Worker 恢复。

具体怎么做
请求先由 atenet-router 暂存,控制器把休眠 Actor 放入预热 WorkerPool 的可用槽位,从分层存储恢复内存和磁盘,再交付请求。空闲后重新快照并释放 Worker;不为每次唤醒新建 Kubernetes Pod。生成的不可信代码由 gVisor 用户态内核隔离,特殊需求可改用 microVM。
做到了什么
Google 称交互式 Agent 有 90%–95% 时间在等待,传统缩容后重建环境的唤醒会超过 20 秒;Agent Substrate 的目标与公布结果是保留完整状态并在 500 毫秒内恢复,同时避免大量短生命周期 Pod 压垮控制面。文章是项目方说明,不是独立基准。
上手要点
适合大规模、长会话且大部分时间空闲的 Agent;需要 Kubernetes、分层存储和隔离策略。

你可以这样试

使用 Agent Substrate

在【Kubernetes 集群】为【Agent 类型】设计一个 Actor/WorkerPool 部署:Actor 保存【仓库、未提交修改、工具会话和环境变量】,空闲【时长】后快照,下一次请求恢复。使用【gVisor/microVM】隔离不可信代码,并限制【网络出口和密钥】。输出部署清单、恢复延迟测试、空闲资源占用、失败恢复记录和与常驻 Pod 的成本对比。