今天，我们在 AI Gateway 上推出 Virtual Models。
Virtual Models 是对应用和开发者所使用的模型字符串与配置的抽象。通过单个虚拟模型 ID，你可以更改和更新模型、配置回退与优先级，并集中强制执行零数据保留（Zero Data Retention）。虚拟模型配置会在使用该 ID 的任何地方生效。
为某个 agent 任务分配一个虚拟模型 ID，并在调用该任务的任何地方将其作为模型字符串传入。之后，你可以在 AI Gateway 中更改该虚拟模型 ID 背后的模型和设置，你的应用和 agent 会自动采用新配置，无需更改代码或重新部署。
某个团队在 AI Gateway 中的虚拟模型，每一个都可以通过 ID 调用。
新模型使用相同的虚拟模型 ID
在过去 90 天里，来自 10 多个实验室的 125 个新模型在 AI Gateway 上可用。这相当于每周约 10 个。AI Gateway 已经让切换只需改一行代码。你可以通过 ID 调用其中任何模型，AI Gateway 会将每个请求路由到健康的提供商，并在某个提供商失败时回退到其他提供商。
那一行代码仍然存在于你的代码中，因此切换通常意味着重新部署。
Virtual Models 将模型选择和配置移到 AI Gateway。你为一个任务创建一个 ID，例如 vmc/coding-agent，然后配置它应使用的模型和设置：
vercel ai-gateway virtual-models create coding-agent \
--model anthropic/claude-opus-5.5 \
--config '{"speed":"fast","zeroDataRetention":true}'
然后，你可以在任务运行的任何地方将该虚拟模型 ID 用作模型字符串：
import { streamText } from 'ai';
const result = streamText({
model: 'vmc/coding-agent',
prompt: 'Remove the deprecated API calls from this module.',
});
对于 coding agents，如 Claude Code、Codex 等，使用 vercel ai-gateway setup 连接它们，然后在每个 harness 的模型选择器或配置中选择你的虚拟模型。
当有可用的不同模型时（包括来自其他提供商的模型），编辑该虚拟模型。调用 vmc/coding-agent 的每个应用和 agent 都会在几分钟内采用它，无需更改代码或部署：
vercel ai-gateway virtual-models edit coding-agent --model openai/gpt-6.1-sol
为每个任务分配自己的模型
像支持工单分类这样的 agent 任务每小时可能运行数百次，需要成本低廉。其他任务，如法律合同审查，可能每天只运行几次，但需要高水平的推理能力。
现在，你可以为每个任务提供一个专门构建的虚拟模型，并随着时间推移轻松演进该模型和配置：
当你切换模型时，回退、零数据保留和标签等设置会保留在虚拟模型上。提供商选项按提供商生效，因此当你将虚拟模型指向 OpenAI 模型时，Anthropic 特定的设置将停止生效。每当切换提供商时，请检查你的提供商选项。
在切换服务于生产流量的虚拟模型之前，将第二个虚拟模型（例如 vmc/coding-agent-candidate）指向新模型，并对其运行你的评估。如果切换后质量下降，请将原虚拟模型指回之前的模型。
管理你的团队使用哪些模型以及如何使用
你团队中的任何人都可以调用虚拟模型，团队角色控制谁可以对其进行更改。平台和安全团队可以集中管理和测试模型与设置，同时仍能轻松地让团队在新模型发布时访问它们。
虚拟模型上的设置优先于请求中的相同设置，因此调用方无法覆盖你选择的提供商顺序、回退或服务层级。例如，你可以集中为 vmc/storefront-assistant 配置回退模型，使用该虚拟模型 ID 的每个应用都将使用相同的故障转移配置，即使某个请求指定了不同的回退。
如果某个虚拟模型要求零数据保留或要求提供商不使用请求数据进行训练，那么即使请求显式将 zeroDataRetention 或 disallowPromptTraining 设置为 false，这些配置也会被强制执行。
虚拟模型上的标签会替换请求中发送的任何标签，因此无论每个应用如何标记其调用，支出都会归到该任务上。Virtual Models 页面会显示每个任务的请求数、支出和成功率。
开始使用
从你的团队仪表板或使用 Vercel CLI 创建虚拟模型。
关于 AI Gateway
AI Gateway 提供统一的 API，用于调用模型、跟踪使用情况和成本，以及配置重试、故障转移和性能优化，以实现高于提供商正常运行时间的可用性。它包括内置的自定义报告、零数据保留支持、API 密钥预算、路由规则等。
AI Gateway 反映提供商定价，不收取加价，并且不对推理收取平台费，包括对自带密钥（BYOK）请求。
Virtual Models 适用于 AI Gateway 上的所有模型类型，包括图像、视频、语音、嵌入和实时模型，并适用于 AI SDK 以及 OpenAI 和 Anthropic 兼容的 API。有关所有设置，请参阅Virtual Models 文档。