返回 文章 apply CMS 文章

Mistral AI 发布 Workflows 公开预览版:企业级 AI 编排层

Mistral AI 发布 Workflows 公开预览版,为企业 AI 流程提供生产级编排能力。

Mistral AIWorkflows企业AI编排层
成长分 / 100 72 综合收获、行动、留存与影响

Mistral AI 发布 Workflows 公开预览版:企业级 AI 编排层
为什么值得读了解 Mistral AI 最新发布的企业级 AI 编排层 Workflows 的核心特性与设计理念。

通过真实客户案例(如货物放行、文档合规、客户支持)理解 Workflows 如何解决生产环境中的可靠性问题。

关键洞察
  1. Workflows 是企业级 AI 的编排层,提供持久执行、可观测性、人在回路、Studio 原生集成、企业就绪、部署灵活性等关键能力。
  2. Workflows 构建在 Temporal 的持久执行引擎之上,并扩展了流式处理、payload 处理、多租户和可观测性以支持 AI 工作负载。
  3. 部署模型将控制平面(Mistral 托管)与数据平面(用户环境)分离,确保数据和业务逻辑保留在用户边界内。
转成行动

深入阅读

正文与原文对照

原文保真覆盖:全文原文字符:7084

今天,我们发布 Workflows 公开预览版。Workflows 是企业 AI 的编排层,它提供了将 AI 驱动的流程从概念验证可靠地推向生产所需的持久性、可观测性和容错能力。ASML、ABANCA、CMA-CGM、France Travail、La Banque Postale、Moeve 等众多组织已在使用 Workflows 自动化关键流程。

如今的企业团队已经能用上能力出众的模型,缺少的是在生产环境中可靠运行它们的方法。我们在合作的每个行业都看到了这一点,失败模式也很一致:在 notebook 里能跑、到了生产环境却悄无声息地失败且不留痕迹的流水线;无法扛过一次网络超时的长时间运行流程;执行到一半需要人工审批、却没有暂停和恢复机制的多步操作;以及部署之后无法验证其是否仍在做该做之事的系统。

对企业来说,要自行构建应对这些挑战的全部能力,需要数月的复杂工作:编排层必须从零拼凑而成,而它所连接的组件——推理、智能体、连接器、可观测性——各自来自不同的工具,有着各自的接口和格式。

Workflows 是 Studio 的一部分,因此编排层与被编排的组件天生可以协同工作。一旦确定了某个业务流程,开发者就用 Python 编写工作流。每个工作流随后都可以发布到 Le Chat,让组织内的任何人都能触发它。每一步都可在 Studio 中追踪和审计。通过把这一切整合在一起,Workflows 让你的组织能在数天内从发现用例走到生产运行。

▶ https://www.youtube.com/watch?v=9tXQBnpvVsU

真实世界中部署的 Workflows

如前所述,Mistral AI 的客户已在使用 Workflows 自动化业务流程并在生产中运行。下面的例子展示了持久性、可观测性和人工介入(human-in-the-loop)审批在实践中是如何运作的。

货物放行自动化。

全球航运靠大量文书运转。一次货物放行可能涉及报关单、危险品分类、安全检查,以及跨多个司法辖区的监管核查。漏掉一个环节,就可能导致货物在港口滞留,并可能造成合规违规。

此类用例的运行要求是:系统必须扛得住间歇性超时,能在执行中途暂停等待人工审核,并且在出现故障时能精确说明在哪里、为什么出错。

借助 Workflows,一位客户得以端到端地自动化这一流程。该工作流依据海关规则校验每一份传入的运输单据、检查异常、标记需要人工签字确认的事项、等待批准,然后放行货物。使用 Workflows,人工审批这一步只需一行代码:wait_for_input()。工作流会暂停,无论等多久都不消耗算力,同时通知审核人,并在恢复时精确地接着中断处继续。Studio 会记录完整的执行历史。

文件合规检查。

KYC(了解你的客户)审核是人工的、重复的、耗时的。一次客户开户可能需要提取身份证件信息,对照制裁名单和 PEP(政治公众人物)数据库进行核验,交叉比对多个司法辖区的监管要求,并给出附带佐证的结构化风险评估。若由人工完成,每个案例都要耗费分析师数小时。

这里的运行要求是速度和可审计性。自动化此类流程的系统应当足够快,并应记录各个步骤及其背后的推理,以满足监管要求。

借助 Workflows,整个审核流程只需几分钟,Studio 会把每一步呈现为结构化的时间线,你可以按任意细节层级向下钻取,直至具体的 trace,并原生支持 OpenTelemetry。

客户支持分诊。

支持团队要应对海量工单:退款请求、技术问题、账单争议、账户升级。把它们快速且一致地转给正确的团队,决定着问题的解决时长。

这里的运行要求是可纠正性。自动路由难免出错。出错时,团队需要看清一张工单为何被这样路由,并且无需重新训练模型就能修正。

借助 Workflows,传入的工单会被分析,按意图和紧急程度分类,并自动路由到正确的下游流程。每一个路由决策在 Studio 中都可见、可追溯。当分类有误时,团队在工作流层面进行纠正。

为什么选择 Workflows

  • 持久执行。Workflows 在每一步都跟踪状态。如果某个流程失败,它会从中断处恢复。因此,开发者可以把更多精力放在编写业务逻辑上,而不是恢复逻辑。
  • 可观测性。每一个分支、重试和状态变化都会记录在 Studio 中。如果几个月后需要调查某个决策,完整的时间线会展示它是如何得出的。
  • 人工介入。一行代码即可暂停工作流等待审批。审核人可通过 Le Chat、webhook 或任何已连接的界面作出回应,工作流随即从停下的地方继续。
  • Studio 原生。Workflows 与 Studio 的其他部分使用相同的智能体和连接器,无需另做集成工作来接入它们。
  • 企业就绪。Studio 中的工作区(Workspace)将团队和项目隔离开来,基于角色的访问控制(RBAC)确保这些规则被一致地执行。
  • 面向开发者和业务团队。工程师以代码形式编写工作流,业务团队从 Le Chat 运行它们。
  • 部署灵活。控制平面运行在 Mistral 上。Worker 和数据处理则运行在你自己的环境中,就在你的关键服务所在之处:云端、本地或混合部署。

技术内幕

Workflows 构建在 Temporal 的持久执行引擎之上,Netflix、Stripe 和 Salesforce 的编排也由同一套基础设施支撑。我们针对 AI 特有的工作负载对其进行了扩展,加入了核心引擎开箱即用所不具备的流式传输、负载处理、多租户和可观测性。

部署模型分为 Mistral 与你的环境两部分,将控制平面与数据平面分离。Mistral 托管编排基础设施:Temporal 集群、Workflows API 和 Studio。你使用单独的 Helm chart 在自己的 Kubernetes 环境中部署 worker,它们通过安全凭据连接回中央集群。你的数据和业务逻辑始终留在你的边界之内。

Mistral SDK 通过装饰器和单行配置处理重试策略、追踪、超时、限流和人工介入,因此你需要编写的只有业务逻辑本身。

开始使用

▶ https://www.youtube.com/watch?v=7TnJJ0D__kk

Python SDK 是开发者编写和运行工作流的方式。v3.0 现已公开发布,一条命令即可安装:

uv add mistralai-workflows