今天,我们发布 Workflows 公开预览版。Workflows 是企业 AI 的编排层,它提供了将 AI 驱动的流程从概念验证可靠地推向生产所需的持久性、可观测性和容错能力。ASML、ABANCA、CMA-CGM、France Travail、La Banque Postale、Moeve 等众多组织已在使用 Workflows 自动化关键流程。


如今的企业团队已经能用上能力出众的模型,缺少的是在生产环境中可靠运行它们的方法。我们在合作的每个行业都看到了这一点,失败模式也很一致:在 notebook 里能跑、到了生产环境却悄无声息地失败且不留痕迹的流水线;无法扛过一次网络超时的长时间运行流程;执行到一半需要人工审批、却没有暂停和恢复机制的多步操作;以及部署之后无法验证其是否仍在做该做之事的系统。
对企业来说,要自行构建应对这些挑战的全部能力,需要数月的复杂工作:编排层必须从零拼凑而成,而它所连接的组件——推理、智能体、连接器、可观测性——各自来自不同的工具,有着各自的接口和格式。
Workflows 是 Studio 的一部分,因此编排层与被编排的组件天生可以协同工作。一旦确定了某个业务流程,开发者就用 Python 编写工作流。每个工作流随后都可以发布到 Le Chat,让组织内的任何人都能触发它。每一步都可在 Studio 中追踪和审计。通过把这一切整合在一起,Workflows 让你的组织能在数天内从发现用例走到生产运行。
▶ https://www.youtube.com/watch?v=9tXQBnpvVsU
真实世界中部署的 Workflows
如前所述,Mistral AI 的客户已在使用 Workflows 自动化业务流程并在生产中运行。下面的例子展示了持久性、可观测性和人工介入(human-in-the-loop)审批在实践中是如何运作的。
货物放行自动化。
全球航运靠大量文书运转。一次货物放行可能涉及报关单、危险品分类、安全检查,以及跨多个司法辖区的监管核查。漏掉一个环节,就可能导致货物在港口滞留,并可能造成合规违规。
此类用例的运行要求是:系统必须扛得住间歇性超时,能在执行中途暂停等待人工审核,并且在出现故障时能精确说明在哪里、为什么出错。
借助 Workflows,一位客户得以端到端地自动化这一流程。该工作流依据海关规则校验每一份传入的运输单据、检查异常、标记需要人工签字确认的事项、等待批准,然后放行货物。使用 Workflows,人工审批这一步只需一行代码:wait_for_input()。工作流会暂停,无论等多久都不消耗算力,同时通知审核人,并在恢复时精确地接着中断处继续。Studio 会记录完整的执行历史。
文件合规检查。
KYC(了解你的客户)审核是人工的、重复的、耗时的。一次客户开户可能需要提取身份证件信息,对照制裁名单和 PEP(政治公众人物)数据库进行核验,交叉比对多个司法辖区的监管要求,并给出附带佐证的结构化风险评估。若由人工完成,每个案例都要耗费分析师数小时。
这里的运行要求是速度和可审计性。自动化此类流程的系统应当足够快,并应记录各个步骤及其背后的推理,以满足监管要求。
借助 Workflows,整个审核流程只需几分钟,Studio 会把每一步呈现为结构化的时间线,你可以按任意细节层级向下钻取,直至具体的 trace,并原生支持 OpenTelemetry。
客户支持分诊。
支持团队要应对海量工单:退款请求、技术问题、账单争议、账户升级。把它们快速且一致地转给正确的团队,决定着问题的解决时长。
这里的运行要求是可纠正性。自动路由难免出错。出错时,团队需要看清一张工单为何被这样路由,并且无需重新训练模型就能修正。
借助 Workflows,传入的工单会被分析,按意图和紧急程度分类,并自动路由到正确的下游流程。每一个路由决策在 Studio 中都可见、可追溯。当分类有误时,团队在工作流层面进行纠正。
为什么选择 Workflows
- 持久执行。Workflows 在每一步都跟踪状态。如果某个流程失败,它会从中断处恢复。因此,开发者可以把更多精力放在编写业务逻辑上,而不是恢复逻辑。
- 可观测性。每一个分支、重试和状态变化都会记录在 Studio 中。如果几个月后需要调查某个决策,完整的时间线会展示它是如何得出的。
- 人工介入。一行代码即可暂停工作流等待审批。审核人可通过 Le Chat、webhook 或任何已连接的界面作出回应,工作流随即从停下的地方继续。
- Studio 原生。Workflows 与 Studio 的其他部分使用相同的智能体和连接器,无需另做集成工作来接入它们。
- 企业就绪。Studio 中的工作区(Workspace)将团队和项目隔离开来,基于角色的访问控制(RBAC)确保这些规则被一致地执行。
- 面向开发者和业务团队。工程师以代码形式编写工作流,业务团队从 Le Chat 运行它们。
- 部署灵活。控制平面运行在 Mistral 上。Worker 和数据处理则运行在你自己的环境中,就在你的关键服务所在之处:云端、本地或混合部署。
技术内幕
Workflows 构建在 Temporal 的持久执行引擎之上,Netflix、Stripe 和 Salesforce 的编排也由同一套基础设施支撑。我们针对 AI 特有的工作负载对其进行了扩展,加入了核心引擎开箱即用所不具备的流式传输、负载处理、多租户和可观测性。
部署模型分为 Mistral 与你的环境两部分,将控制平面与数据平面分离。Mistral 托管编排基础设施:Temporal 集群、Workflows API 和 Studio。你使用单独的 Helm chart 在自己的 Kubernetes 环境中部署 worker,它们通过安全凭据连接回中央集群。你的数据和业务逻辑始终留在你的边界之内。
Mistral SDK 通过装饰器和单行配置处理重试策略、追踪、超时、限流和人工介入,因此你需要编写的只有业务逻辑本身。
开始使用
▶ https://www.youtube.com/watch?v=7TnJJ0D__kk
Python SDK 是开发者编写和运行工作流的方式。v3.0 现已公开发布,一条命令即可安装:
uv add mistralai-workflows
