返回 文章 build CMS 文章

Mistral AI 发布 Search Toolkit 公开预览版:为 AI 应用构建生产级搜索管道

Mistral AI 发布 Search Toolkit 公开预览版,一个用于构建生产级 AI 搜索管道的开源可组合框架。

Mistral AISearch Toolkit搜索管道RAG
成长分 / 100 77 综合收获、行动、留存与影响

Mistral AI 发布 Search Toolkit 公开预览版:为 AI 应用构建生产级搜索管道
为什么值得读了解 Mistral AI 最新发布的搜索基础设施框架,把握 AI 搜索技术趋势。

学习如何通过统一框架解决搜索管道集成复杂、评估困难等痛点。

关键洞察
  1. Search Toolkit 将摄取、检索和评估整合到一个具有共享接口的单一框架中,减少集成开销。
  2. 框架内置 BM25 稀疏检索、密集嵌入检索及混合配置,并支持召回率、精确率、MRR、NDCG 等评估指标。
  3. 适用于企业搜索、RAG 检索质量隔离、领域特定检索以及智能体搜索等场景。
转成行动

深入阅读

正文与原文对照

原文保真覆盖:全文原文字符:7134

今天,我们公开发布 Search Toolkit 预览版。Search Toolkit 是一个可组合的框架,用于为 AI 应用构建生产级搜索管道。我们构建它,是因为构建搜索基础设施的团队仍然在管道连接上花费了过多的工程时间。大多数团队将摄取、检索和评估的独立工具拼凑在一起,每个工具都有自己的接口和对数据的假设。Search Toolkit 将这三者整合到一个具有共享接口的单一框架中,让团队将时间花在提升搜索质量上,而不是维护集成上。Search Toolkit 是开源的,可以在你的基础设施所在的任何地方运行。云端、本地、边缘。

搜索基础设施仍然比它应该有的难度更大。

大多数构建检索系统的团队花费在组装基础设施上的时间比改进搜索质量的时间更多。摄取需要一套工具。检索需要另一套。评估,如果进行的话,是用一个单独的框架和关于数据形态的单独假设来附加的。

团队报告称,在能够对自己的数据运行单个查询之前,需要数周的集成工作。衡量检索器是否返回正确结果通常需要另一个工具链。对于构建 RAG 工作流或内部知识系统的组织来说,这种开销在每一层都会成倍增加。

适用场景。

企业搜索。 大多数组织没有搜索问题。他们有十几个搜索问题。内部 wiki、支持工单系统、文档存储库、文件存储、代码库。每个来源都有不同的结构、不同的元数据,并且需要不同的处理才能很好地索引。团队通常最终为每个来源构建单独的摄取管道,每个都有自己的解析逻辑、自己的分块策略,以及自己对“文档”是什么样子的假设。结果是一组无法一起搜索的孤立索引,或者一个脆弱的自定义层试图统一它们,却成为自身的维护负担。Search Toolkit 在单一框架内为不同来源类型提供一致的处理和索引模式,因此团队无需每次重建管道即可添加新来源。

RAG 和检索质量。 当 RAG 系统返回糟糕的结果时,第一个问题是问题出在检索还是生成。在实践中,大多数团队没有干净的方法来回答这个问题。他们调整提示、调整分块策略、更换模型,却不知道检索器是否首先呈现了正确的上下文。即使是那些确实关注检索的团队,也往往缺乏工具来严格地比较策略,在他们自己的数据上,用他们自己的相关性判断。替代方案是为每个实验编写自定义评估脚本。Search Toolkit 包含内置评估,可以独立衡量检索器性能,因此你可以将检索质量与生成质量隔离开来,并在语料库演变时比较配置。

领域特定检索。 法律文件、医疗记录、代码库、财务披露。现成的检索器是在通用文本上训练的,往往难以应对专业术语、文档结构以及与网络搜索不同的相关性标准。需要领域调优检索的团队通常最终不得不从头构建自定义检索基础设施,这既维护成本高昂又难以评估。

智能体世界中的搜索

处理企业任务的智能体需要访问企业上下文。它们自主且高频地做出检索决策,因此其底层搜索基础设施的质量直接影响每一个下游步骤。对于跨大型文档语料库的搜索,智能体在索引上执行语义搜索,从而以低延迟获得精确结果。

智能体还需要实时数据。通过 连接器,它们通过 MCP 集成直接从 CRM、代码仓库和生产力工具等源系统拉取数据。智能体可以在需要跨大量内容搜索时查询已索引的语料库,并在需要最新状态时从源系统拉取实时数据。Search Toolkit 为你的智能体提供了一条高质量的索引搜索路径,可与实时检索一同调用。

包含内容。

数据摄取。 通过可配置的管道从多个来源索引和处理数据。Search Toolkit 处理文档解析、分块和嵌入生成。自定义文档格式和预处理步骤通过标准适配器接口接入。

检索。 Search Toolkit 内置 BM25 稀疏检索、基于密集嵌入的检索以及结合两者的混合配置。每种都可针对你的数据和使用场景进行配置。

评估。 使用内置指标衡量搜索质量:召回率、精确率、MRR 和 NDCG。针对你自己的测试集运行评估,并排比较检索器配置,并跟踪各版本的质量。

所有模块共享一个通用配置接口。替换你的索引器,更换你的检索器,添加一个评估器。管道的其余部分会自动适应。

Search Toolkit 专为企业高级用例设计,并在金融服务、制造业、公共部门以及媒体与娱乐垂直领域经过实战检验。CMA CGM 使用 Search Toolkit 与 Voxtral 帮助记者检测假新闻。该管道处理来自三个不同数据源的音频,并在 15 秒内端到端返回警报。

观看演示

开始使用。

尝试 Search Toolkit 的最快方式是使用我们的入门应用模板

先决条件

安装 Docker。你还需要

在生成的项目中。

uv搭建新项目

uvx copier copy gh:mistralai/search-starter-app my-search-projectcd my-search-project

运行它

# Start Vespa locally with Dockermake setup-vespa# Index sample datamake ingest path=sample_data/hello.txt# Run a querymake search query="hello world"

该模板包括:

预配置的 Vespa 索引

混合检索(BM25 + 向量)

示例数据和摄取管道

有关完整详细信息,请参阅入门应用 README

下一步

试用入门应用后,可进一步深入:

– 针对特定文件类型配置解析器、分块策略、嵌入模型和提取器,以处理您的数据源。调优您的摄取管道管理 Vespa 模式与相关性– 利用 LLM 查询重写、重排序和混合检索等高级功能。构建您理想的检索系统

完整参考请参阅搜索工具包文档