由 Gravitee 提供
智能体复杂性是眼下潜伏在企业内部的隐患，需要被照亮。
这是因为企业不会只部署一个智能体然后看着它运行，而是部署成批的智能体，每一个都在调用 API、调用其他智能体、深入那些从未考虑过由机器做决策的应用。这才是应该让你夜不能寐的失效模式：一个曲折复杂、没人能看清楚到足以管理的系统。但为什么事情会这么快变得不透明？
给系统增加第二个智能体，你只增加了一条连接。增加第十个，你增加的并不是十条连接，而可能是几十条，因为现在任何一个智能体都可能调用其他任何一个，而每一次调用又都可能触发别处的另一次调用。复杂性并不随智能体数量线性增长，而是随智能体之间的路径数量呈复合增长，而没有人的职责是去画出这张图。过去只涉及一个系统的支持工单，现在可能在人工看到之前，要先经过四个智能体，而每一次交接都是一个没人批准过的决策点。
当负责智能体的人失去头绪时，大多数企业 AI 项目就会停滞。问安全团队一个简单的问题：哪些智能体能访问哪些系统？然后看看那片沉默。再问：三跳之前，是哪个智能体触发了哪个下游动作？又是沉默。
人们的本能是把这件事当成一份清单来处理：批准智能体，记录智能体，然后继续前进。我认为这种本能是错的。清单检查的是某个单一时间点，而复杂性贯穿整条链路，用一叠一次性的审批去管理一条链路，就像吃过一次蔬菜就说节食成功一样，行不通。
那么，究竟是在哪里出了问题？
首先是权限蔓延。有人构建了一个汇总支持工单的智能体，因为正确地限定权限范围还得再花一个 sprint，就授予了它宽泛的 API 访问权限，然后把它忘在一边。六个月后，同一个智能体有了通往支付系统的路径。没人记得批准过这件事，因为确实没人批准过。
而且，链路越长，责任归属就越稀薄。五个智能体触及同一个工作流，第四步出了问题，这时你要问的是，谁来为一个从未有人被指派负责的环节负责？因为组织架构只写到了“部署智能体”，从来没写到“指定一位为此负责的人”。
这说的是治理基础设施跟不上智能体实际行为的故事：智能体彼此互联、层层级联、增长的速度快于用来追踪它们的流程。
解决这团乱麻要从身份开始。每个智能体都需要作为独立的实体存在，而不是从部署者那里借来的影子权限。在登记簿里有它自己的名字，有它自己限定范围的权限，有一位对它的行为负责、有名有姓的人类负责人。这一部分是必要的。
但这远远不够。
更难的部分是贯穿整条链路的监督，而不只是链路中每个单独环节的监督。你需要实时看到智能体做了什么、在下游触发了什么、这条轨迹在哪里终止，而不是等某人每季度汇编一份报告。如果只把智能体层面的身份做好就此止步，最终你得到的将是一个装满记录完善的智能体档案的文件柜，而这些智能体运行在一个没人能真正解释清楚的系统里。
而且，监督本身只能告诉你已经发生了什么。观察一条链路，并不等于控制它。执行（enforcement）是大多数项目跳过的一环：在不合规的调用执行之前将其拦下，而不只是记录下来，等三周后的某次评审时有人发现。一个告诉你某个智能体五分钟前越权了的仪表盘，是监控工具；而从一开始就阻止越权发生的系统，才是治理。认真对待智能体问责的企业两者都需要，而大多数只建了前者。
我们都在飞速奔跑，以确保自己不会在这场竞赛中掉队，而且我们都清楚放慢脚步是有代价的。每一家认真对待智能体 AI 的企业，最终都会撞上复杂性这堵墙。能越过去的，是那些建立了足够的可见性和问责机制的企业，这样它们的智能体队伍可以不断扩大，而没有人会失去回答一个问题的能力：这个系统此刻在做什么，由谁负责。
但别搞错重点。复杂性不是踩刹车的理由。把这件事做对的企业并没有放慢脚步，它们正在朝人机和谐（Human-Agent Harmony）的方向构建，在那里，规模与问责一同成长，而不是此消彼长。
真正的风险从来不是单个智能体恰好做了它被构建来做的事，而是一百个智能体同时恰好做了这样的事，以没人设计过的组合方式相互作用。正是这种倍增，让企业 AI 永远卡在试点阶段，而无法进入生产运行。
解决了复杂性，自主性就不再是反派，而开始成为全部意义所在。
Rory Blundell 是 Gravitee 的 CEO。
赞助文章是由付费发布该文章、或与 VentureBeat 有业务关系的公司制作的内容，并且始终有清晰标注。如需了解更多信息，请联系 sales@venturebeat.com。