今天,我们正式发布 Workflows 公开预览版。Workflows 是企业级 AI 的编排层。它带来了将 AI 驱动的流程从概念验证可靠地推向生产所需的持久性、可观测性和容错能力。ASML、ABANCA、CMA-CGM、France Travail、La Banque Postale、Moeve 等众多组织已经在使用 Workflows 来自动化关键流程。

如今的企业团队已经能够获得能力强大的模型。他们缺少的是在生产环境中可靠运行这些模型的方式。我们在合作的每个行业中都看到了这一点。失败模式如出一辙:在 notebook 中运行正常但在生产环境中静默失败且不留痕迹的流水线;无法承受网络超时的长时间运行流程;需要在执行中途进行人工审批但没有暂停和恢复机制的多步骤操作;以及部署后无法验证系统是否仍在按预期运行的困境。
为企业构建应对这些挑战所需的全部能力需要数月的复杂工作:编排层必须从零开始拼凑,而它所连接的各个组件——推理、智能体、连接器、可观测性——各自来自不同的工具,拥有各自的接口和格式。
Workflows 是 Studio 的一部分,因此编排层及其所编排的组件是协同构建的。一旦确定了某个业务流程,开发者就可以用 Python 编写工作流。每个工作流随后都可以发布到 Le Chat,让组织中的任何人都能触发它。每一步都在 Studio 中被追踪和审计。通过将这一切整合在一起,Workflows 让你的组织能够在几天内从确定用例到投入生产运行。
Workflows 在真实世界中的部署
如前所述,Mistral AI 的客户已经在使用 Workflows 来自动化业务流程并在生产环境中运行它们。以下示例展示了持久性、可观测性和人在回路审批在实际中如何运作。
货物放行自动化。
全球航运依赖文书运转。单次货物放行可能涉及报关单、危险品分类、安全检查以及跨多个司法管辖区的监管审查。遗漏一个步骤就可能导致货物在港口延误,并可能引发合规违规。
此类用例的运营要求是:系统必须能够承受间歇性超时,在执行中途暂停以进行人工审核,并在出现故障时精确记录故障发生的位置和原因。
使用 Workflows,一位客户能够端到端地实现这一流程的自动化。该工作流根据海关规则验证每一份收到的运输文件,检查异常情况,标记任何需要人工签核的内容,等待审批,然后放行货物。借助 Workflows,人工审批步骤只需一行代码:wait_for_input()。工作流会暂停,在不消耗计算资源的情况下无限期等待,通知审核人员,并从暂停处精确恢复。Studio 记录完整的执行历史。
文档合规检查。
KYC 审核是手动、重复且耗时的。一次客户入驻就可能需要提取身份文件、对照制裁名单和 PEP 数据库进行验证、交叉引用不同司法管辖区的监管要求,并生成带有支持性证据的结构化风险评估。手动完成时,每个案例都需要分析师花费数小时。
这里的运营要求是速度和可审计性。用于自动化此类流程的系统应当快速,并应记录步骤及其背后的推理,以满足监管要求。
借助 Workflows,整个审核流程只需几分钟,Studio 会将每一步呈现为结构化时间线,你可以深入到任意细节层级,直至具体 trace,并原生支持 OpenTelemetry。
客户支持分流。
支持团队要处理大量事务。退款请求、技术问题、账单争议、账户升级。快速且一致地将它们路由到正确的团队,决定了解决时间。
这里的运营要求是可纠正性。自动化路由会出错。出错时,团队需要看到工单为何被这样路由,并在不重新训练模型的情况下修正它。
借助 Workflows,传入工单会被分析、按意图和紧急程度分类,并自动路由到正确的下游流程。每个路由决策都可在 Studio 中查看和追踪。当分类错误时,团队在工作流层面进行纠正。
为什么选择 Workflows
持久执行。Workflows 会跟踪每一步的状态。如果流程失败,它会从上次中断处恢复。因此,开发者可以更专注于编写业务逻辑,而不是恢复逻辑。可观测性。每个分支、重试和状态变化都会记录在 Studio 中。如果几个月后需要调查某个决策,完整时间线都在那里,展示它是如何得出的。人在回路中。一行代码即可暂停工作流以等待批准。审核者可从 Le Chat、webhook 或任何已连接界面响应,工作流会从停止处继续。Studio 原生。Workflows 使用与 Studio 其余部分相同的 agents 和 connectors。无需单独集成工作即可接入。企业就绪。Studio 内的工作区可将团队和项目分隔开,基于角色的访问控制(RBAC)确保这些规则被一致执行。为开发者和业务团队打造。工程师以代码编写工作流。业务团队从 Le Chat 运行它们。部署灵活性。控制平面运行在 Mistral 上。Workers 和数据处理在你的环境中运行,就在你的关键服务托管之处:云、本地或混合。
底层机制
Workflows 构建在 Temporal 的持久执行引擎之上,这也是支撑 Netflix、Stripe 和 Salesforce 编排的同一基础设施。我们通过添加流式处理、payload 处理、多租户和可观测性,将其扩展用于 AI 特定工作负载,而这些是核心引擎开箱即用所不提供的。
部署模型在 Mistral 与你的环境之间划分,并将控制平面与数据平面分离。Mistral 托管编排基础设施:Temporal 集群、Workflows API 和 Studio。你使用单独的 Helm chart 在自己的 Kubernetes 环境中部署 worker,它们通过安全凭证连接回中央集群。你的数据和业务逻辑保留在你的边界之内。
Mistral SDK 通过装饰器和单行配置处理重试策略、追踪、超时、速率限制和人工介入,因此你唯一需要编写的就是业务逻辑本身。
开始使用
Python SDK 是开发者编写和运行工作流的方式。v3.0 现已公开发布,可通过一条命令安装:
uv add mistralai-workflows
