agent-runtime-capacity

---
name: agent-runtime-capacity
description: 规划 Agent 模型调用与工具环境的创建、驻留、释放和恢复。用于并发容量、沙箱成本与完整任务时延分析。
---

# Agent 运行环境容量

适用：Agent 多轮调用模型和工具，工具环境的等待与驻留影响成本或期限。依据 `manuscripts/11-资源调度与运行环境.md` 第 11.1—11.5 节。

1. 把一项任务展开为模型调用、环境准备、工具执行、验证和重试的依赖图。为每段记录 CPU、内存、GPU、存储占用及持续时间；区分实际工作与等待。
2. 用到达率和持续时间估算同时驻留的模型会话与环境数，检查峰值内存而不只看平均 CPU 使用率。环境长时间等待模型时，计算提前准备或按轮重建能节省的资源时间。
3. 明确跨轮必须保留的状态。文件、快照或外部持久化可以承载状态时，再比较释放环境的收益与重建、恢复和验证开销。
4. 对共享池检查冷启动、镜像/环境多样性、抢占、成组分配和背压；对 RL rollout 将模型生成、工具执行与验证能否重叠写清楚。
5. 调整模型服务并发或环境生命周期后，重新估算完整任务的关键路径、按期完成率和每合格任务成本。

输出各阶段资源时间、峰值并发、关键路径及故障重试预算。工具环境闲置时的内存仍算驻留，不可从 CPU 利用率推断容量足够。

More agent context in bojieli/ai-infra-book

11 other files this repository gives its agents.