返回 文章 学习 CMS 文章

AX:Google 开源的智能体编排器,可大规模运行数十亿任务

AX 用声明式原语把智能体当作全新工作负载来编排,支持大规模隔离执行与亚秒级恢复。

GoogleAX智能体编排开源
成长分 / 100 72 综合收获、行动、留存与影响

AX:Google 开源的智能体编排器,可大规模运行数十亿任务
为什么值得读了解 Google 如何将智能体视为一种全新计算范式,而非微服务或批处理任务。

掌握 AX 的四个核心原语:任务、工作区、网关、模型,以及它们如何解决隔离、配置和网络策略问题。

关键洞察
  1. 智能体是有状态、突发性、长时间运行的工作负载,传统编排器难以低成本维持空闲沙箱。
  2. AX 提供任务、工作区、网关、模型四个小型原语,以声明式方式处理隔离执行、工作区设置、网络策略和统一模型配置。
  3. AX 运行在 Agent Substrate 之上,每个任务作为轻量级 actor,支持每集群数十亿并发智能体会话。
转成行动

深入阅读

正文与原文对照

原文保真覆盖:全文原文字符:6116

AX 的粉色美西螈吉祥物

声明一个智能体任务,AX 负责大规模运行。

AX 会为你的任务提供沙箱,配置好它的工作区,限定它的网络访问,并帮助你在每个集群上运行大量任务。你既可以每个智能体只运行一个任务,也可以按智能体的需要组合任意多个任务。

$ cat task.yaml
apiVersion: ax.io/v1alpha1
kind: Workspace
metadata:
  name: golang
spec:
  git:
    - repo: https://github.com/golang/go.git
      branch: "my-fix"
---
apiVersion: ax.io/v1alpha1
kind: Task
metadata:
  name: test
spec:
  workspaces:
    - name: golang
      goal: "Ensure that Go tool chain is available and is built from source"
  debug: true
$ ax apply -f task.yaml
workspace.ax.io/golang created
task.ax.io/test created
$ ax watch task test
Watching task default/test...
[10:42:01] Phase: Pending    Actor: test               WorkerIP:
[10:42:05] Phase: Running    Actor: test               WorkerIP: 10.20.3.67
Task reached terminal phase "Running".
$ ax get tasks
NAME   ATESPACE   PHASE     ACTOR   WORKER-IP    AGE
test   default    Running   test    10.20.3.67   5s
$ ax ssh test -- ls /workspace
go
$ ax ssh test -- cd /workspace/go && go build ./...
$ ax ssh test -- ps -o pid,cmd
  PID CMD
    1 /usr/local/bin/ax-task-runner
   12 go build ./...
$ ax ssh test -- touch notes.txt
$ ax suspend task test
task.ax.io/test suspended
$ ax resume task test
task.ax.io/test resumed
$ ax ssh test -- ls notes.txt
notes.txt
$ ax suspend task test
task.ax.io/test suspended
$ ax delete task test
task.ax.io/test deleted

为什么选择 AX

智能体是一种新型工作负载。

它们既不是微服务,也不是批处理作业。它们会积累状态,需要严格隔离,要调用模型 API 和工具服务器,而且如果没人盯着,还可能浪费资源。AX 提供四个小巧的原语,以声明式的方式处理这一切。

Task(任务)

隔离执行

在带有 CPU 和内存限制的沙箱中运行不受信任的智能体代码。创建、挂起和丢弃的成本都很低。

Workspace(工作区)

轻松设置工作区

列出智能体所需的 Git 仓库、MCP 服务器和技能,或者直接描述目标。AX 会在任务开始前在每个沙箱中完成全部设置。

Gateway(网关)

网络策略

定义并快速管理网络策略。把流量限制在明确的主机和端口白名单内,并向传入请求注入凭据。

Model(模型)

统一配置

在一处配置模型、模型参数和密钥。一次 apply 即可轮换密钥或固定新的模型版本。

工作原理

可扩展至数十亿任务。

AX 运行在 Agent Substrate 之上,这是一个从底层为超高密度和快速的有状态 actor 生命周期而设计的计算运行时。

数十亿任务

每个任务都作为轻量级 actor 运行,使你能够在每个集群上扩展到数十亿并发智能体会话,而不受编排器限制。

亚秒级恢复

正在等待模型响应、外部工具调用或人工回复的空闲智能体会被创建检查点并挂起,并在一秒内恢复,没有冷启动延迟。

高密度多路复用

数十个任务共享工作节点资源,把空闲等待时间变成富余的算力,因此只有在智能体真正在思考和运行代码时才需要付费。

生成式平台

平台内置生成式功能。

AX 把生成式 AI 直接集成到平台中。例如,如果你想仅通过用通俗英语描述来设置工作区,环境会在任务开始前自动准备好。

task.yaml

apiVersion: ax.io/v1alpha1
kind: Task
metadata:
  name: data-analysis
spec:
  workspaces:
    - name: python-env
      goal: "Set up a Python 3 development environment"

生成式工作区

用通俗英语描述一个就绪环境应该是什么样子。AX 会在首次启动时把这个目标交给一个智能体,由它安装工具链并验证依赖。

什么都能跑

交互式编码智能体、长时间运行的智能体服务器、Jupyter notebook、无头浏览器测试以及自定义工具运行时,应有尽有。

研究人员的绝佳搭档

快速启动海量可复现的沙箱,用于收集轨迹、运行强化学习循环,并大规模评估智能体。

面向构建者 & 研究人员

致力于成为对开发者和研究人员最友好的运行时。

我们希望让智能体基础设施的处理更轻松,让你能专注于自己的工作。AX 的设计始终坚持不妥协地追求易用性、快速迭代,以及为应用开发者和 AI 研究人员带来愉悦的工作流。

我们力求保持运行时精简轻量,同时有品位地加入每个人构建、评估和扩展智能体所需的核心功能。

关于

源于研究,为生产而造。

AX 诞生于 Google,是智能体运行时系统研究与前沿算力相遇的产物。经过多年构建和运营智能体执行引擎,Google 内部各团队认识到,智能体工作负载代表着一种全新的计算范式:它们是有状态、突发性、长时间运行的 actor,会在一分钟内高强度计算,然后等待模型响应、工具响应或人工审批。为无状态微服务或可预测批处理作业设计的传统编排器,在让空闲沙箱持续运行时成本高得难以承受,而且缺乏对亚秒级挂起与恢复的原生支持。

AX 借鉴了 Google DeepMind 的智能体运行时研究,以及在大规模隔离、恢复和调度方面的深厚经验,正被打造成一个专为智能体执行而设计的开放、声明式控制平面。它把任务、工作区、网络策略和模型抽象为核心原语,使开发者和研究人员无需重新发明底层基础设施,就能运行大规模的智能体集群。该项目高度依赖 Agent Substrate,但提供了智能体抽象和生成式运行时组件。