将 Workers AI 和 AI Gateway 统一为单一的 AI 控制平面
AI Gateway 和 Workers AI 最初是独立的产品，但随着时间的推移，我们注意到用户的需求逐渐趋同。使用 AI Gateway，您可以将请求代理到任意模型提供者，并获得内置的可观察性、日志记录、访问和安全性能。在 Workers AI 上，我们托管模型于我们管理的 GPU 基础设施，并提供您可以利用的推理服务 API 端点。
这些产品的架构看起来各异，但对终端用户而言，其最终目标是连接到具有复杂控制平面的模型。今天，我们很高兴地分享这些产品如何融合为一个统一的路径，以便您可以连接到任何模型提供者（包括 Workers AI），同时从一个控制平面管理可观察性、计费、安全和日志记录等功能。
这是我们计划中的下一步——继续阅读，了解统一控制平面对模型路由未来的意义。
## 合并绑定和 API
我们一直在暗示，这些产品正在通过我们的入口点——Workers 绑定和 REST API 变得更加统一。我们有一个 AI 绑定，您可以用它调用 AI Gateway 和 Workers AI。没有独立的 AI Gateway 和 Workers AI 绑定的概念：所有调用都通过同一路径。几个月前，我们推出了“默认”网关的概念，这样如果您从未设置过 AI Gateway，仍然可以自动继承 AI Gateway 的可观察性和日志记录。当然，如果您希望将应用程序拆分为多个项目，仍然可以指定自己的网关。
如果您通过 AI Gateway 调用 Workers AI，绑定调用的样子如下：
我们还公布了一个统一的 REST API——/ai/ 端点，允许您通过 AI Gateway 对 Workers AI 进行类似的调用。
通过这样做，我们可以统一 AI Gateway 和 Workers AI 的入口点，因此您不必在最初选择哪个产品，所有功能都已为您配置好。
## 自动可观察性和控制
这次融合的一个最直接的好处是，您不再需要显式地创建 AI Gateway，就可以开始获取推理流量的可见性。如果您之前从未设置过网关，只需在绑定或 REST API 调用中将默认作为网关 ID 传入，AI Gateway 会在第一次经过身份验证的请求中自动为您创建它。
通过这一点，每个请求都会记录完整的请求和响应数据，按模型跟踪令牌数量，且您无需进行任何仪表板设置即可获得成本归属。如果您稍后超出了默认网关的需求——如果您想要自定义缓存规则或按应用程序拆分流量——您可以创建一个命名网关，并通过一个参数更改将请求指向它。
绑定的效果如下：以前您直接调用 Workers AI：
现在，添加第三个参数通过 AI Gateway 进行路由，获得完整的可观察性：
前往 Cloudflare AI Gateway 仪表板，您将看到每个请求的延迟分解、令牌使用情况、错误率，以及确切的提示和响应。对于需要调试模型行为或审核 AI 输出的团队而言，这是一项巨大的升级，您不再是盲目操作。
## 新功能：使用 AI Gateway 信用进行 Workers AI
今天我们推出的新功能是您可以使用 AI Gateway 信用来支付 Workers AI。之前，您只能在外部模型提供商（例如 OpenAI、Anthropic）上使用 AI Gateway 信用，而不能将其应用于 Workers AI 的使用。我们终于启用系统以实现 Workers AI 的统一计费。这意味着您可以加载一个充满信用的钱包，然后选择在 OpenAI、Anthropic、Workers AI 或我们支持的任何提供商之间使用。
因为我们现在为 Workers AI 提供预付费计费，且想要鼓励用户使用这个新路径，所以如果您使用 AI Gateway 的统一计费，我们还提供了 Workers AI 模型的更高速率限制。有关速率限制的最新信息，以及如何请求更高速率限制，请参考[开发者文档](https://developers.cloudflare.com/changelog/post/2026-08-07-workers-ai-unified-billing/)。
## 即将推出：以模型为先的路由
随着您所有的推理流量流经单一控制平面，我们可以开始更智能地决定如何处理每个请求，从您需要的模型开始，而不是必须管理的提供商。以提供商为先的路由迫使您考虑基础设施：“我该调用哪个提供商？如果他们出现故障怎么办？”以模型为先的路由则颠倒了这一点。您需要考虑的是您所需的——一个有能力的推理模型，一个快速的摘要模型，或一个便宜的嵌入模型——而控制平面来处理提供商选择、故障转移和负载均衡。
如今，如果您想调用某个模型，您必须知道哪个提供商承载它。如果该提供商出现故障或限制了您的请求，您的应用程序就会中断。我们正在朝着一个世界前进，在这个世界中，您只需指定模型，AI Gateway 就会处理剩下的。
通过这种方式，您可以请求 Kimi K2.7 Code，而不必关心它来自 Workers AI、Moonshot 自己的 API，或另一个承载相同权重的提供商。如果 Workers AI 有能力，您将受益于我们的管理基础设施。如果 Workers AI 达到容量限制，网关会透明地将您负载均衡到另一个可以提供相同模型的提供商。如果您希望坚持使用单一提供商，仍然可以选择，但以模型为先的路由让您在关注弹性时获得更多灵活性。我们与经过审查的提供商合作，所以模型输出的质量始终是首要任务，同时也能够满足诸如零数据保留（ZDR）等要求。
这也意味着默认情况下更好的弹性。如果一个提供商的模型版本出现问题，流量会转移到另一个提供商，而无需在应用程序级别进行重试或复杂的回退逻辑。网关将模型可用性视为路由问题。我们希望在未来几个月内为所有 AI Gateway 和 Workers AI 用户进行试点。
## 下一步：智能路由
路由的下一个演变超越简单的故障转移。我们正在构建智能路由，它理解您所请求的内容，并在无需任何配置的情况下为工作选择合适的模型。
您不再需要指定模型，可以让网关来决定。在后台，一个运行于 Workers AI 的分类器会读取您的提示，并预测它的任务类型（编码、研究、总结、一般问答）、复杂程度以及上下文的重要性。一个启发式评分器随后将其映射到最佳模型，因为它来自经过审查的池。对于希望控制的团队，您仍然可以指定确切的模型。对于其他所有人，零配置路径意味着您在无需维护自己的路由逻辑的情况下获得更好的经济性和性能。我们目前正在内部进行试点，并将在接下来的几周内积极测试和迭代，以便于发布。
## 立即开始
如果您已经在使用 Workers AI，尝试这一切的最简单方法是开始将您现有的调用通过默认网关进行路由。您将立即获得请求日志记录、令牌跟踪和成本归属，而无需更改您调用模型的任何其他方式。
如果您已经在使用 AI Gateway，将 Workers AI 添加到您的组合中只需调用一个 Workers AI 模型即可。加载您的 AI Gateway 钱包，您将获得对我们支持的每个提供商的统一计费，以及 Workers AI 模型的更高速率限制。
[设置您的第一个网关](https://developers.cloudflare.com/ai-gateway/get-started/)，浏览[Workers AI 模型目录](https://developers.cloudflare.com/workers-ai/models/)，立即开始构建吧。
---
原文链接：[点击查看](https://blog.cloudflare.com/workers-ai-gateway-unification/)
这些产品的架构看起来各异，但对终端用户而言，其最终目标是连接到具有复杂控制平面的模型。今天，我们很高兴地分享这些产品如何融合为一个统一的路径，以便您可以连接到任何模型提供者（包括 Workers AI），同时从一个控制平面管理可观察性、计费、安全和日志记录等功能。
这是我们计划中的下一步——继续阅读，了解统一控制平面对模型路由未来的意义。
## 合并绑定和 API
我们一直在暗示，这些产品正在通过我们的入口点——Workers 绑定和 REST API 变得更加统一。我们有一个 AI 绑定，您可以用它调用 AI Gateway 和 Workers AI。没有独立的 AI Gateway 和 Workers AI 绑定的概念：所有调用都通过同一路径。几个月前，我们推出了“默认”网关的概念，这样如果您从未设置过 AI Gateway，仍然可以自动继承 AI Gateway 的可观察性和日志记录。当然，如果您希望将应用程序拆分为多个项目，仍然可以指定自己的网关。
如果您通过 AI Gateway 调用 Workers AI，绑定调用的样子如下：
我们还公布了一个统一的 REST API——/ai/ 端点，允许您通过 AI Gateway 对 Workers AI 进行类似的调用。
通过这样做，我们可以统一 AI Gateway 和 Workers AI 的入口点，因此您不必在最初选择哪个产品，所有功能都已为您配置好。
## 自动可观察性和控制
这次融合的一个最直接的好处是，您不再需要显式地创建 AI Gateway，就可以开始获取推理流量的可见性。如果您之前从未设置过网关，只需在绑定或 REST API 调用中将默认作为网关 ID 传入，AI Gateway 会在第一次经过身份验证的请求中自动为您创建它。
通过这一点，每个请求都会记录完整的请求和响应数据，按模型跟踪令牌数量，且您无需进行任何仪表板设置即可获得成本归属。如果您稍后超出了默认网关的需求——如果您想要自定义缓存规则或按应用程序拆分流量——您可以创建一个命名网关，并通过一个参数更改将请求指向它。
绑定的效果如下：以前您直接调用 Workers AI：
现在，添加第三个参数通过 AI Gateway 进行路由，获得完整的可观察性：
前往 Cloudflare AI Gateway 仪表板，您将看到每个请求的延迟分解、令牌使用情况、错误率，以及确切的提示和响应。对于需要调试模型行为或审核 AI 输出的团队而言，这是一项巨大的升级，您不再是盲目操作。
## 新功能：使用 AI Gateway 信用进行 Workers AI
今天我们推出的新功能是您可以使用 AI Gateway 信用来支付 Workers AI。之前，您只能在外部模型提供商（例如 OpenAI、Anthropic）上使用 AI Gateway 信用，而不能将其应用于 Workers AI 的使用。我们终于启用系统以实现 Workers AI 的统一计费。这意味着您可以加载一个充满信用的钱包，然后选择在 OpenAI、Anthropic、Workers AI 或我们支持的任何提供商之间使用。
因为我们现在为 Workers AI 提供预付费计费，且想要鼓励用户使用这个新路径，所以如果您使用 AI Gateway 的统一计费，我们还提供了 Workers AI 模型的更高速率限制。有关速率限制的最新信息，以及如何请求更高速率限制，请参考[开发者文档](https://developers.cloudflare.com/changelog/post/2026-08-07-workers-ai-unified-billing/)。
## 即将推出：以模型为先的路由
随着您所有的推理流量流经单一控制平面，我们可以开始更智能地决定如何处理每个请求，从您需要的模型开始，而不是必须管理的提供商。以提供商为先的路由迫使您考虑基础设施：“我该调用哪个提供商？如果他们出现故障怎么办？”以模型为先的路由则颠倒了这一点。您需要考虑的是您所需的——一个有能力的推理模型，一个快速的摘要模型，或一个便宜的嵌入模型——而控制平面来处理提供商选择、故障转移和负载均衡。
如今，如果您想调用某个模型，您必须知道哪个提供商承载它。如果该提供商出现故障或限制了您的请求，您的应用程序就会中断。我们正在朝着一个世界前进，在这个世界中，您只需指定模型，AI Gateway 就会处理剩下的。
通过这种方式，您可以请求 Kimi K2.7 Code，而不必关心它来自 Workers AI、Moonshot 自己的 API，或另一个承载相同权重的提供商。如果 Workers AI 有能力，您将受益于我们的管理基础设施。如果 Workers AI 达到容量限制，网关会透明地将您负载均衡到另一个可以提供相同模型的提供商。如果您希望坚持使用单一提供商，仍然可以选择，但以模型为先的路由让您在关注弹性时获得更多灵活性。我们与经过审查的提供商合作，所以模型输出的质量始终是首要任务，同时也能够满足诸如零数据保留（ZDR）等要求。
这也意味着默认情况下更好的弹性。如果一个提供商的模型版本出现问题，流量会转移到另一个提供商，而无需在应用程序级别进行重试或复杂的回退逻辑。网关将模型可用性视为路由问题。我们希望在未来几个月内为所有 AI Gateway 和 Workers AI 用户进行试点。
## 下一步：智能路由
路由的下一个演变超越简单的故障转移。我们正在构建智能路由，它理解您所请求的内容，并在无需任何配置的情况下为工作选择合适的模型。
您不再需要指定模型，可以让网关来决定。在后台，一个运行于 Workers AI 的分类器会读取您的提示，并预测它的任务类型（编码、研究、总结、一般问答）、复杂程度以及上下文的重要性。一个启发式评分器随后将其映射到最佳模型，因为它来自经过审查的池。对于希望控制的团队，您仍然可以指定确切的模型。对于其他所有人，零配置路径意味着您在无需维护自己的路由逻辑的情况下获得更好的经济性和性能。我们目前正在内部进行试点，并将在接下来的几周内积极测试和迭代，以便于发布。
## 立即开始
如果您已经在使用 Workers AI，尝试这一切的最简单方法是开始将您现有的调用通过默认网关进行路由。您将立即获得请求日志记录、令牌跟踪和成本归属，而无需更改您调用模型的任何其他方式。
如果您已经在使用 AI Gateway，将 Workers AI 添加到您的组合中只需调用一个 Workers AI 模型即可。加载您的 AI Gateway 钱包，您将获得对我们支持的每个提供商的统一计费，以及 Workers AI 模型的更高速率限制。
[设置您的第一个网关](https://developers.cloudflare.com/ai-gateway/get-started/)，浏览[Workers AI 模型目录](https://developers.cloudflare.com/workers-ai/models/)，立即开始构建吧。
---
原文链接：[点击查看](https://blog.cloudflare.com/workers-ai-gateway-unification/)
评论
暂无评论。