由 Gravitee 呈现
代理复杂性正是当下潜伏在企业内部的隐蔽阴影，亟需被照亮。
这是因为企业不会只部署一个代理然后看着它运行，他们会部署一大批代理，每个代理都在调用 API、调用其他代理、深入到那些从未考虑过机器决策者的应用程序中。这才是应该让你夜不能寐的故障模式：一个错综复杂、无人能清晰洞察并加以治理的系统。但为什么事情会如此迅速地变得如此不透明？
向系统中添加第二个代理，你就增加了一个连接。添加第十个，你增加的不是十个连接，而是可能增加了数十个，因为现在任何代理都可能调用任何其他代理，而每一次调用都可能触发其他地方的调用。复杂性并不会随着代理数量的增加而悄然上升。它会随着代理之间路径的数量而复合增长，而没有人负责绘制那张图。一个过去只涉及一个系统的支持工单，现在可能在人类看到之前就要经过四个代理，而每一次交接都是一个未经任何人批准的决策点。
大多数企业 AI 项目在负责代理的人员失去线索时就会停滞。向安全团队问一个简单的问题：哪些代理可以访问哪些系统，然后看着他们沉默。问哪个代理在三跳之前触发了哪个下游操作。更多的沉默。
本能的反应是把它当作一份清单来处理。批准代理。记录代理。继续前进。我认为这是错误的本能。清单只检查一个时间点。复杂性贯穿一条链，你不能用一堆一次性的批准来治理一条链，就像你不能因为吃过一次蔬菜就宣称节食成功一样。
那么它究竟在哪里崩溃？
权限首先蔓延。有人构建了一个代理来总结支持工单，给它授予了广泛的 API 访问权限，因为正确限定范围需要另一个冲刺周期，然后就忘了这件事。六个月后，同一个代理有了进入支付系统的路径。没有人记得批准过这件事。确实没有人批准过。
而且随着链条延伸，所有权越来越模糊。五个代理触及一个工作流，第四步出了问题，现在你问谁负责一个从未被指派过所有者的环节，因为组织架构图止步于“部署代理”，从未到达“指定为其负责的人”。
这是一个关于治理基础设施未能跟上代理实际行为方式的故事：相互连接、级联、繁殖速度快于为追踪它们而建立的流程。
修复这个集群要从身份开始。每个代理都需要作为自己的实体存在，而不是从部署它的人那里借来的影子权限。它在注册表中有自己的名字。它有自己的限定权限。有一个具名的人类负责人为其行为负责。这部分是必要的。
但这远远不够。
更难的部分是贯穿整条链的监督，而不仅仅是链中的每个单独环节。你需要实时看到代理做了什么、它在下游触发了什么、以及那条轨迹在哪里结束，而不是在某人每季度整理一次的报告中。把代理级别的身份做对然后止步于此，你最终会得到一个装满完美记录的代理的文件柜，它们在一个无人能真正解释的系统中运行。
而监督本身只能告诉你已经发生了什么。观察一条链并不等同于控制它。执行是大多数项目跳过的环节：在违反策略的调用执行之前就阻止它，而不仅仅是记录下来，等三周后有人在审查中发现。一个仪表盘显示某个智能体五分钟前越界了，那是一个监控工具。一个从一开始就阻止越界发生的系统，才是治理。认真对待智能体问责的企业两者都需要，而大多数只建了第一个。
我们都在以极快的速度奔跑，以确保自己不会在我们身处的这场竞赛中落后，而且我们都太清楚放慢速度是有代价的。每一家认真对待智能体 AI 的企业最终都会撞上复杂性之墙。能越过它的，是那些建立了足够可见性和问责机制的企业，这样它们的智能体集群才能持续增长，而不会让任何人失去回答一个问题的能力：这个系统现在在做什么，谁对它负责。
但不要错过重点。复杂性不是踩刹车的理由。把这件事做对的企业并没有放慢速度。它们正在朝着人机和谐的方向建设，让规模与问责共同增长，而不是彼此权衡取舍。
真正的风险从来不是单个智能体恰好做了它被构建来做的事。而是一百个智能体同时恰好都在做那件事，以没人设计过的组合方式相互作用。这种乘法效应正是让企业 AI 永远困在试点阶段、无法进入生产的原因。
解决了复杂性问题，自主性就不再是反派。它开始成为全部的意义所在。
Rory Blundell 是 Gravitee 的 CEO。
赞助文章是由付费发布或与 VentureBeat 有商业关系的公司制作的内容，并且始终会被明确标注。如需了解更多信息，请联系 [email protected]。