返回 文章 apply CMS 文章

Mistral AI 发布 Workflows 公开预览版:企业级 AI 编排层

Mistral AI 发布 Workflows 公开预览版,为企业 AI 流程提供生产级编排能力。

Mistral AIWorkflows企业AI编排层
成长分 / 100 72 综合收获、行动、留存与影响

Mistral AI 发布 Workflows 公开预览版:企业级 AI 编排层
为什么值得读了解 Mistral AI 最新发布的企业级 AI 编排层 Workflows 的核心特性与设计理念。

通过真实客户案例(如货物放行、文档合规、客户支持)理解 Workflows 如何解决生产环境中的可靠性问题。

关键洞察
  1. Workflows 是企业级 AI 的编排层,提供持久执行、可观测性、人在回路、Studio 原生集成、企业就绪、部署灵活性等关键能力。
  2. Workflows 构建在 Temporal 的持久执行引擎之上,并扩展了流式处理、payload 处理、多租户和可观测性以支持 AI 工作负载。
  3. 部署模型将控制平面(Mistral 托管)与数据平面(用户环境)分离,确保数据和业务逻辑保留在用户边界内。
转成行动

深入阅读

正文与原文对照

原文保真覆盖:全文原文字符:7084

今天,我们正式发布 Workflows 公开预览版。Workflows 是企业级 AI 的编排层。它带来了将 AI 驱动的流程从概念验证可靠地推向生产所需的持久性、可观测性和容错能力。ASML、ABANCA、CMA-CGM、France Travail、La Banque Postale、Moeve 等众多组织已经在使用 Workflows 来自动化关键流程。

如今的企业团队已经能够获得能力强大的模型。他们缺少的是在生产环境中可靠运行这些模型的方式。我们在合作的每个行业中都看到了这一点。失败模式如出一辙:在 notebook 中运行正常但在生产环境中静默失败且不留痕迹的流水线;无法承受网络超时的长时间运行流程;需要在执行中途进行人工审批但没有暂停和恢复机制的多步骤操作;以及部署后无法验证系统是否仍在按预期运行的困境。

为企业构建应对这些挑战所需的全部能力需要数月的复杂工作:编排层必须从零开始拼凑,而它所连接的各个组件——推理、智能体、连接器、可观测性——各自来自不同的工具,拥有各自的接口和格式。

Workflows 是 Studio 的一部分,因此编排层及其所编排的组件是协同构建的。一旦确定了某个业务流程,开发者就可以用 Python 编写工作流。每个工作流随后都可以发布到 Le Chat,让组织中的任何人都能触发它。每一步都在 Studio 中被追踪和审计。通过将这一切整合在一起,Workflows 让你的组织能够在几天内从确定用例到投入生产运行。

Workflows 在真实世界中的部署

如前所述,Mistral AI 的客户已经在使用 Workflows 来自动化业务流程并在生产环境中运行它们。以下示例展示了持久性、可观测性和人在回路审批在实际中如何运作。

货物放行自动化。

全球航运依赖文书运转。单次货物放行可能涉及报关单、危险品分类、安全检查以及跨多个司法管辖区的监管审查。遗漏一个步骤就可能导致货物在港口延误,并可能引发合规违规。

此类用例的运营要求是:系统必须能够承受间歇性超时,在执行中途暂停以进行人工审核,并在出现故障时精确记录故障发生的位置和原因。

使用 Workflows,一位客户能够端到端地实现这一流程的自动化。该工作流根据海关规则验证每一份收到的运输文件,检查异常情况,标记任何需要人工签核的内容,等待审批,然后放行货物。借助 Workflows,人工审批步骤只需一行代码:wait_for_input()。工作流会暂停,在不消耗计算资源的情况下无限期等待,通知审核人员,并从暂停处精确恢复。Studio 记录完整的执行历史。

文档合规检查。

KYC 审核是手动、重复且耗时的。一次客户入驻就可能需要提取身份文件、对照制裁名单和 PEP 数据库进行验证、交叉引用不同司法管辖区的监管要求,并生成带有支持性证据的结构化风险评估。手动完成时,每个案例都需要分析师花费数小时。

这里的运营要求是速度和可审计性。用于自动化此类流程的系统应当快速,并应记录步骤及其背后的推理,以满足监管要求。

借助 Workflows,整个审核流程只需几分钟,Studio 会将每一步呈现为结构化时间线,你可以深入到任意细节层级,直至具体 trace,并原生支持 OpenTelemetry。

客户支持分流。

支持团队要处理大量事务。退款请求、技术问题、账单争议、账户升级。快速且一致地将它们路由到正确的团队,决定了解决时间。

这里的运营要求是可纠正性。自动化路由会出错。出错时,团队需要看到工单为何被这样路由,并在不重新训练模型的情况下修正它。

借助 Workflows,传入工单会被分析、按意图和紧急程度分类,并自动路由到正确的下游流程。每个路由决策都可在 Studio 中查看和追踪。当分类错误时,团队在工作流层面进行纠正。

为什么选择 Workflows

持久执行。Workflows 会跟踪每一步的状态。如果流程失败,它会从上次中断处恢复。因此,开发者可以更专注于编写业务逻辑,而不是恢复逻辑。可观测性。每个分支、重试和状态变化都会记录在 Studio 中。如果几个月后需要调查某个决策,完整时间线都在那里,展示它是如何得出的。人在回路中。一行代码即可暂停工作流以等待批准。审核者可从 Le Chat、webhook 或任何已连接界面响应,工作流会从停止处继续。Studio 原生。Workflows 使用与 Studio 其余部分相同的 agents 和 connectors。无需单独集成工作即可接入。企业就绪。Studio 内的工作区可将团队和项目分隔开,基于角色的访问控制(RBAC)确保这些规则被一致执行。为开发者和业务团队打造。工程师以代码编写工作流。业务团队从 Le Chat 运行它们。部署灵活性。控制平面运行在 Mistral 上。Workers 和数据处理在你的环境中运行,就在你的关键服务托管之处:云、本地或混合。

底层机制

Workflows 构建在 Temporal 的持久执行引擎之上,这也是支撑 Netflix、Stripe 和 Salesforce 编排的同一基础设施。我们通过添加流式处理、payload 处理、多租户和可观测性,将其扩展用于 AI 特定工作负载,而这些是核心引擎开箱即用所不提供的。

部署模型在 Mistral 与你的环境之间划分,并将控制平面与数据平面分离。Mistral 托管编排基础设施:Temporal 集群、Workflows API 和 Studio。你使用单独的 Helm chart 在自己的 Kubernetes 环境中部署 worker,它们通过安全凭证连接回中央集群。你的数据和业务逻辑保留在你的边界之内。

Mistral SDK 通过装饰器和单行配置处理重试策略、追踪、超时、速率限制和人工介入,因此你唯一需要编写的就是业务逻辑本身。

开始使用

Python SDK 是开发者编写和运行工作流的方式。v3.0 现已公开发布,可通过一条命令安装:

uv add mistralai-workflows