返回 文章 学习 CMS 文章

AX:Google 开源的智能体编排器,可大规模运行数十亿任务

AX 用声明式原语把智能体当作全新工作负载来编排,支持大规模隔离执行与亚秒级恢复。

GoogleAX智能体编排开源
成长分 / 100 72 综合收获、行动、留存与影响

AX:Google 开源的智能体编排器,可大规模运行数十亿任务
为什么值得读了解 Google 如何将智能体视为一种全新计算范式,而非微服务或批处理任务。

掌握 AX 的四个核心原语:任务、工作区、网关、模型,以及它们如何解决隔离、配置和网络策略问题。

关键洞察
  1. 智能体是有状态、突发性、长时间运行的工作负载,传统编排器难以低成本维持空闲沙箱。
  2. AX 提供任务、工作区、网关、模型四个小型原语,以声明式方式处理隔离执行、工作区设置、网络策略和统一模型配置。
  3. AX 运行在 Agent Substrate 之上,每个任务作为轻量级 actor,支持每集群数十亿并发智能体会话。
转成行动

深入阅读

正文与原文对照

原文保真覆盖:全文原文字符:6116

声明一个智能体任务。AX 大规模运行它。

AX 将你的任务沙箱化,连接其工作区,围栏其网络,并帮助你在每个集群上运行数十亿个任务。你可以为每个智能体使用单个任务,也可以根据智能体的需要组合任意数量的任务。

$ cat task.yaml
apiVersion: ax.io/v1alpha1
kind: Workspace
metadata:
name: golang
spec:
git:
- repo: https://github.com/golang/go.git
branch: "my-fix"
---
apiVersion: ax.io/v1alpha1
kind: Task
metadata:
name: test
spec:
workspaces:
- name: golang
goal: "Ensure that Go tool chain is available and is built from source"
debug: true
$ ax apply -f task.yaml
workspace.ax.io/golang created
task.ax.io/test created
$ ax watch task test
Watching task default/test...
[10:42:01] Phase: Pending Actor: test WorkerIP:
[10:42:05] Phase: Running Actor: test WorkerIP: 10.20.3.67
Task reached terminal phase "Running".
$ ax get tasks
NAME ATESPACE PHASE ACTOR WORKER-IP AGE
test default Running test 10.20.3.67 5s
$ ax ssh test -- ls /workspace
go
$ ax ssh test -- cd /workspace/go && go build ./...
$ ax ssh test -- ps -o pid,cmd
PID CMD
1 /usr/local/bin/ax-task-runner
12 go build ./...
$ ax ssh test -- touch notes.txt
$ ax suspend task test
task.ax.io/test suspended
$ ax resume task test
task.ax.io/test resumed
$ ax ssh test -- ls notes.txt
notes.txt
$ ax suspend task test
task.ax.io/test suspended
$ ax delete task test
task.ax.io/test deleted

为什么选择 AX

智能体是一种全新的工作负载。

它们既不是微服务,也不是批处理任务。它们会累积状态,需要严格的隔离,会调用模型 API 和工具服务器,而且如果无人看管,可能会在循环中不断烧钱。AX 提供了四个小型原语,以声明式的方式处理这一切。

任务

隔离执行

在具有 CPU 和内存限制的沙箱中运行不受信任的智能体代码。创建、挂起和丢弃的成本都很低。

工作区

轻松设置工作区

列出智能体所需的 Git 仓库、MCP 服务器和技能,或者只需描述目标。AX 会在任务开始前在每个沙箱中完成所有设置。

网关

网络策略

定义并快速管理网络策略。将流量锁定到明确的主机和端口允许列表,向传入请求注入凭据。

模型

统一的配置位置

在一个地方配置模型、模型参数和密钥。通过一次 apply 即可轮换密钥或固定新的模型版本。

工作原理

可扩展到数十亿个任务。

AX 运行在 Agent Substrate 之上,这是一个从头开始设计的计算运行时,旨在实现大规模密度和快速的有状态 actor 生命周期。

数十亿个任务

每个任务都作为一个轻量级 actor 运行,让你可以在每个集群中扩展到数十亿个并发智能体会话,而不受编排器限制。

亚秒级恢复

等待模型响应、外部工具调用或人工响应的空闲智能体会被检查点、挂起,并在不到一秒内恢复,零冷启动延迟。

密集多路复用

数十个任务共享工作节点资源,将空闲等待时间转化为备用计算容量,因此你只需在智能体主动思考和运行代码时付费。

生成式平台

内置于平台的生成式功能。

AX 将生成式 AI 直接集成到平台中。例如,如果你想仅通过用通俗英语描述来设置工作区,环境会在你的任务开始前自动准备好。

apiVersion: ax.io/v1alpha1
kind: Task
metadata:
name: data-analysis
spec:
workspaces:
- name: python-env
goal: "Set up a Python 3 development environment"

生成式工作空间

用通俗的英语描述一个就绪环境应该是什么样子。AX 在首次启动时将这一目标交给一个代理,由其安装工具链并验证依赖项。

运行任何东西

交互式编码代理、长时间运行的代理服务器、Jupyter 笔记本、无头浏览器测试以及自定义工具运行时——应有尽有。

完美适用于研究

启动大量可复现的沙箱,以收集轨迹、运行强化学习循环,并大规模评估代理。

面向构建者和研究者

旨在成为对开发者和研究者最友好的运行时。

我们希望让处理代理基础设施变得更简单,以便您可以专注于自己的工作。AX 在设计上毫不妥协地注重人体工程学、快速迭代以及为应用开发者和 AI 研究者带来愉悦的工作流程。

我们的目标是保持运行时最小化和轻量化,同时有品味地添加每个人构建、评估和扩展代理所需的基本功能。

关于

源于研究,为生产而构建。

AX 诞生于谷歌,当时代理运行时系统研究遇到了前沿计算。多年来,在构建和运营代理执行引擎的过程中,谷歌的多个团队认识到,代理工作负载代表了一种全新的计算范式:有状态、突发性、长时间运行的执行体,它们会高强度计算一分钟,然后等待模型响应、工具响应或人工批准。为无状态微服务或可预测的批处理作业而构建的传统编排器,在保持空闲沙箱运行时变得成本过高,同时缺乏对亚秒级暂停和恢复的原生支持。

借鉴谷歌 DeepMind 的代理运行时研究以及在大规模隔离、恢复和调度方面的深厚经验,AX 正被构建为一个开放的、声明式的控制平面,专为代理执行而设计。它将任务、工作空间、网络策略和模型抽象为核心原语,以便开发者和研究者能够运行大规模的代理集群,而无需重新发明底层基础设施。该项目严重依赖 Agent Substrate,但提供了代理抽象和生成式运行时组件。