在 AI Gateway 上推出虚拟模型
今天,我们在 AI Gateway 上推出虚拟模型(Virtual Models)。 虚拟模型是对应用和开发者所使用的模型字符串及其配置的一层抽象。借助一个虚拟模型 ID,你可以集中切换和更新模型、配置回退与优先级,并统一实施零数据保留(Zero Data Retention)。无论这个 ID 用在何处,虚拟模型的配置都会生效。 把虚拟模型 ID 分配给某个智能体任务,然后在调用该任务时将它作为模型字符串传入。之后,你可以在 AI Gateway 中更改这个虚拟模型 ID 背后的模型和设置,应用和智能体就会自动采用新配置,无需改代码,也无需重新部署。 ## 新模型沿用同一个虚拟模型 ID 过去
- 在 AI Gateway 上推出虚拟模型 · Vercel Blog