AWS 开源 Infinity：智能体等工具时先挂起，等待不再占算力

发生了什么

传统智能体框架在工具调用期间通常让循环阻塞：进程与内存一直被占用，直到工具返回。Infinity 把工具调用当作挂起点，借用编程语言中无栈协程的做法：对话历史已包含继续运行所需的全部信息，运行时把历史持久化，丢弃内存中的其余状态，消息到达时由任意进程恢复该智能体。

在无服务器参考架构中，每次运行只是一个有界片段：加载、一次模型完成、持久化、至多发出一次工具调用、结束。亚马逊云科技给出的例子是：等待一条为期三天的持续集成管道的智能体，在管道回传之前不需要任何活跃的 Lambda 调用，等待期间不产生算力消耗。

Infinity 由亚马逊云科技与加州大学伯克利分校的 Hydro 项目发布，采用 Apache 2.0 协议，代码托管在 GitHub 的 hydro-project/infinity 仓库。运行时内置 spawn_thread 与 report_to_parent 两项工具，支持智能体之间的通信；子线程默认处理事件，避免父级智能体的上下文窗口因事件堆积而膨胀；模型接口约束下，合成工具调用用于传递异步事件。

关键事实

1. 挂起机制：智能体调用工具时保存对话历史、释放内存，工具结果到达后再恢复；每次运行为有界片段，加载、一次模型完成、持久化、至多一次工具调用后结束。
2. 基准测试方法：测试在服务器级 AMD EPYC 9R14 的单个线程上运行 8 万个智能体，对接模拟模型，每次完成约 1.2KB，空闲智能体常驻内存约每智能体 100KB。标题中 8GB 内存容纳 7.5 万个智能体是按该速率换算得出，测试本身并未在树莓派上运行。
3. 开源信息：Infinity 采用 Apache 2.0 协议，属 Hydro 项目，代码在 GitHub 的 hydro-project/infinity 仓库，2026 年 10 月 23 日在亚马逊云科技开源博客发布。
4. 无服务器参考架构：结合 AWS Lambda、SQS 与 Aurora DSQL，等待中的智能体不需要活跃的 Lambda 调用；持久化状态、队列与计时基础设施、外部工具执行以及后续模型调用仍可能产生费用，亚马逊云科技未给出以美元计价的成本对比。
5. 作者自留的未解决问题：模型多在工具调用同步返回的轨迹上训练，事件交错到达时的推理表现未经验证；调度为先到先得，用户交互线程与后台事件处理享有相同优先级；大规模父子智能体树的压缩步骤未经研究；事件来源验证方式待解决。