今天，我们很高兴地宣布，Ensemble AI 团队的核心成员将加入 Cloudflare，帮助我们加速 AI 基础设施方面的工作，让开发者能够更轻松地大规模高效运行强大的 AI 模型。
Ensemble AI 于 2023 年在旧金山成立，过去几年一直专注于 AI 领域最重要的挑战之一：在不牺牲质量的前提下，使大型模型更快速、更小巧、更具成本效益。该团队开发了模型压缩和高效推理的新方法，旨在减少大型语言模型和多模态架构的内存、计算和部署开销。
随着 AI 成为开发者构建应用的核心部分，推理的经济性比以往任何时候都更加重要。模型越来越大，工作负载越来越动态。客户越来越期望 AI 无处不在：全球分布、快速、可靠且价格合理。将 Ensemble AI 团队引入 Cloudflare 增强了我们实现这一目标的能力。
整合 Ensemble 的专业知识
Ensemble AI 团队专注于在降低运行成本的同时，保留现代 AI 模型内部的结构。Ensemble 没有将模型效率仅视为量化或硬件问题，而是探索了新的模型构建模块，这些模块可以在架构层面使神经网络更加紧凑和高效。
这项工作的核心部分是 NdLinear，它是 Transformer 模型中标准线性层的即插即用替代品，直接对多维激活进行操作，而不是将结构展平。这使得模型能够保留有意义的轴，如头、通道、空间维度或其他结构化表示，同时减少参数数量和计算量。Ensemble 还开发了 NdLinear-LoRA，这是一种高效的适配方法，旨在减少微调大型模型所需的可训练参数。
这些方法补充了其他效率技术，包括量化和向量量化。它们共同指向一个未来，开发者能够以显著更低的内存、计算和成本要求运行功能强大的 AI 模型。
提高 AI 推理效率
Cloudflare Workers AI 让开发者能够在 Cloudflare 的全球网络上访问无服务器 GPU 驱动的推理。随着开发者构建更多 AI 原生应用，高效服务模型的能力成为平台的关键部分。
推理成本是扩展 AI 应用的最大障碍之一。模型大小、内存占用、吞吐量和 GPU 利用率的每一次改进，都能让 AI 对开发者更易用，对客户更经济。这一点尤其重要，因为 AI 工作负载已从简单的文本生成扩展到智能体、多模态模型、个性化、微调、检索和强化学习。
我们正在深化对核心机器学习能力的投资，以使 Workers AI 更快、更灵活、更具成本效益。这建立在我们现有提升模型效率的工作基础之上，包括我们的推理引擎 Infire、张量压缩技术（如 Unweight），以及 用于运行超大型语言模型的平台。该团队将专注于改善服务大型语言模型及其他先进 AI 架构的经济性，重点在于模型效率、GPU 利用率和可扩展部署。
为下一代 AI 工作负载构建
AI 基础设施正进入新阶段。开发者不再仅仅需要访问模型；他们需要能够可靠、经济地运行模型且靠近用户的基础设施。他们需要能够尝试不同模型规模、微调方法和部署模式，而不受成本或操作复杂性的阻碍。
Cloudflare 在帮助解决这一问题方面具有独特优势。我们的全球网络、开发者平台和无服务器架构为我们提供了将 AI 更贴近现有应用运行环境的基础。Workers AI 机器学习工程团队将帮助我们提升该体验背后的效率层。
通过将 Cloudflare 的全球基础设施与 Ensemble 在模型压缩和高效架构方面的工作相结合，我们可以继续构建一个平台，使开发者能够以更低的成本、更好的性能和更少的运营开销部署 AI 应用。
我们将共同继续构建必要的基础设施，使 AI 对全球开发者更高效、更易访问、更有用。我们的目标很简单：帮助开发者在全球范围内运行强大的 AI 工作负载，同时改善 Cloudflare 平台上的推理经济性。如果您想加入我们的使命，请查看 我们的招聘页面。