利用身份感知分析捕捉异常的 AI 行为
<p>查看 AI 的账单时，可能很难判断是否存在异常。首先需要建立一个基线，以便看到什么发生了变化，无论是某个代理失控，还是某位员工的使用量猛增了 10 倍。能够识别这些变化使得你可以开始调查，而直到现在，这一直是一个难点。</p>
<p>知道谁在使用 AI 是目前组织面临的关键挑战之一。一份来自斯坦福大学的<a href="https://hai.stanford.edu/assets/files/ai_index_report_2026.pdf"><span style="text-decoration:underline">报告</span></a>发现，59%的组织表示，知识差距是他们负责任的 AI 治理的最大障碍。</p>
<p>这既是一个安全问题，也是一个财务问题。解决这些问题需要两件事情：每一个请求都必须有一个经过验证的身份（这样可以追踪到具体的使用者），以及一个关于该身份的正常表现的图景。今天，我们宣布这两者的实现。</p>
<p>与 Cloudflare Access 集成的身份感知 AI Gateway 现在已进入公开测试阶段，同时，用户洞察功能对所有 AI Gateway 客户免费提供。它们共同将已通过 AI Gateway 的流量转化为每个使用者和代理的行为基线，并识别出那些偏离此基线的使用。</p>
<h2>什么是 AI Gateway？</h2>
<p><a href="https://developers.cloudflare.com/ai-gateway/"><span style="text-decoration:underline">AI Gateway</span></a> 是你所有 AI 使用的中央控制面板。所有的应用和团队不是直接调用 OpenAI、Anthropic、Google 或 Workers AI 的模型，而是通过 AI Gateway 路由，从而让你在一个地方观察、保护和管理所有 AI 的使用。</p>
<p>它与所构建的应用以及开发者日常使用的编码工具兼容。通过 AI Gateway 路由<a href="https://developers.cloudflare.com/ai-gateway/integrations/coding-agents/"><span style="text-decoration:underline">代理工具</span></a>，比如 Claude Code、Codex 和 GitHub Copilot，它们同样受所有其他内容的可见性和控制。</p>
<h2>身份感知 AI Gateway</h2>
<p>通过 AI Gateway 和<a href="https://developers.cloudflare.com/ai-gateway/configuration/cloudflare-access"><span style="text-decoration:underline">Cloudflare Access</span></a> 的集成，你可以在你的 gateway 前放置一个<a href="https://developers.cloudflare.com/ai-gateway/configuration/custom-domains/"><span style="text-decoration:underline">自定义域名</span></a>并用 Access 保护它，类似于任何其他应用。这意味着你可以：</p>
<ul>
<li>使用任何支持 SAML 的身份提供者进行身份验证，例如 Okta 或 Entra，省去生成和传递 Cloudflare API 密钥的需求。</li>
<li>设定政策，明确谁可以访问你的网关。</li>
<li>发送请求到干净的主机名，如 <code>ai.example.com</code>，URL 中不包含帐户 ID 或网关 ID。</li>
</ul>
<p>每个经过身份验证的请求现在都携带来自 Access 的用户身份。AI Gateway 在请求元数据中增加了经过验证的 Access 用户 ID，作为 <code>cf.user_id</code>，这样你可以根据实际发出请求的用户来过滤日志、分析和消费。</p>
<p>结合<a href="https://developers.cloudflare.com/ai-gateway/features/spend-limits/"><span style="text-decoration:underline">消费限制</span></a>，这个身份变成了一种预算工具。因为每个请求现在都携带一个真实用户，你可以设定用户的消费限制：为每个用户提供自己的预算，然后在他们达到限制时阻止进一步请求或回退到一个便宜的模型。再也没有惊讶的账单，也没有共享的 API 密钥隐藏谁消费了多少。</p>
<p>我们的早期用户 Flexport 就遇到过这个问题。</p>
<p>“共享 API 密钥几乎使我们无法知道谁在使用 AI 服务，或者应用我们已经对员工设定的访问规则，”Flexport 的工作人员安全工程师 Max Baumgarten 说。“在 AI Gateway 前置 Cloudflare Access 为每个请求提供了一个经过认证的身份，让我们能够在网关使用现有的身份政策。我们的团队可以使用 AI 工具而不用为每个客户创建一个单独的身份验证系统。”</p>
<p>在不久的将来，你将能够使用用户的身份提供者组来设定消费限制或控制某个组可以访问哪些模型。例如，让你的机器学习团队访问前沿模型，限制支持团队的消费，或者为正在某个特定项目工作的人设置预算，所有这些都与您在身份提供者中已经管理的组关联。</p>
<h2>新的用户洞察标签</h2>
<p>在 AI Gateway 中，你现在将看到一个名为用户洞察的标签。用户洞察功能读取通过你的网关的流量，将其转化为每个帐户的行为图像。它学习每个帐户通常的行为，识别出那些违背该模式的账户，并为你提供区分恶意代理和忙碌工程师的上下文。它作用于已通过你的网关的流量，因此无需额外设置。</p>
<p>用户洞察追踪消费，包括浪费的地方，例如低缓存命中率和过大的上下文窗口。许多工具已经可以做到这一点。但它们没有告诉你一个帐户是否行为正常。这正是我们选择关注的重点，另外还有成本控制。</p>
<h3>基线设置：人员和代理</h3>
<p>每个帐户随着时间的推移都会留下行为指纹，无论是人员还是代理。每 3 小时对票据进行总结的代理行为紧凑而一致。相比之下，人员的行为显得杂乱，提示不一、时间不规律，并在解决难题时需要较长时间。两者都是合法的，因此同样的偏离对一个来说可能是噪声，而对另一个来说却是真实信号。</p>
<p>在用户洞察中，我们首先对会话进行评分，而不是单个请求。绝对阈值在这里失效：重度使用者的 $500 跳跃可能是正常的，而一个通常每次花费 $5 的代理的 $50 会话则是 10 倍的变化，可能会被遗漏。因此，我们将每个会话与账户的历史记录进行比较，使用其过去 30 天的第 95 百分位（p95）会话成本。这给我们提供了解账户通常的操作方式，任何超过其 p95 的 2 倍的增长都很有可能是异常行为。</p>
<p>以下分析概述了我们如何得出这些数字。</p>
<p><span style="text-decoration:underline">图 1：会话成本异常检测</span></p>
<p><strong>如何解读上面的图表</strong></p>
<p>该图表绘制了来自我们内部流量的真实会话。每个点代表一个单独会话（在对数刻度上绘制）：</p>
<ul>
<li><strong>X 轴（会话成本）：</strong>总费用（美元）。</li>
<li><strong>Y 轴（用户 p95）：</strong>会话超出用户个人基线的次数。</li>
</ul>
<p>两条虚线阈值将会话分为四类：</p>
<ul>
<li><strong>右上角（★ 星星）：</strong>超出 2 倍用户 p95 基线和账户级 p99 上限。这些是有意义的异常开支的高相对峰值，将触发警报。</li>
<li><strong>左上角：</strong>高相对峰值（2 倍用户 p95），但低于账户 p99 底部。我们将其忽略，以避免在小额波动上发出警报。</li>
<li><strong>右下角：</strong>高绝对支出，但与该用户的典型高使用一致。这也是常规行为，因此我们忽略。</li>
<li><strong>左下角：</strong>在两个基线内的正常活动。</li>
</ul>
<p><span style="text-decoration:underline">图 2：账户级会话成本分布</span></p>
<p>此直方图（图 2）将整个组织的每个会话成本进行映射，以建立一个账户的上限：</p>
<ul>
<li>典型使用：绝大多数会话成本远低于 $10，其中第 95 百分位为 $20。</li>
<li>账户 p99（$200）：只有 1% 的所有会话达到或超过 $200。</li>
</ul>
<p>那么为什么我们选择 p99？将我们的绝对美元上限设定为账户 p99 创建了一个有意义的界限。它确保了一个异常并不仅仅是某个特定用户的突然变化，而是也在整个组织中排名前 1% 的会话开支之内。</p>
<p><span style="text-decoration:underline">图 3：单用户会话历史</span></p>
<p>基线并非静态。随着账户习惯的变化，其滚动 p95（绿色线）和 2 倍阈值（橙色线）会随之移动，因此每条警报都能够反映出最近的行为，而不是仅仅设置一次的数字。我们还设置了一个美元底线，以确保一个峰值不仅在统计上不寻常，而且是值得管理员调查的。这条美元底线是防止某个微型用户的 500 倍波动触发警报的原因。</p>
<h3>检测异常行为的正确视角</h3>
<p>在以上所有分析之后，管理员看到的是那些自身模式被打破的账户的视图，所有正常行为都被过滤掉。这个过滤视图就是恶意行为信息流。</p>
<p>这种行为不容易捕捉，因为信号从来不是一个新工具或被阻止的行为。这是一个受信任的账户做更多它已经被允许的事情。可能是一个服务账户突然开始运行更昂贵的会话，或者一个人的使用量大大超过了自己的平均水平并保持在那几天。</p>
<p>这些都不会触发政策，但都打破了行为基线。账户的突然偏离其自身使用模式往往是凭证被盗用或代理失控的第一个可观察到的迹象。</p>
<p>用户洞察并不会决定意图，也不会阻止任何人；而是将那些开始表现异常的账户展示给管理员，以便有人可以提出下一个问题。有时这导致真正的调查。有时这只是意味着某人需要进行指导（例如，开发者在每个提示中投入整个代码库，而不是只提供一个代码片段）。</p>
<h2>接下来将要做的事情</h2>
<h3>我们将帮助你从成本控制转向成本优化</h3>
<p>一旦你设定了预算，下一个自然问题是：你如何在更低的成本下获得等效的输出质量？并非每个请求都需要前沿模型。总结任务或简单的代码完成可以使用更便宜的模型，而不会造成显著质量损失。</p>
<p>我们正在构建基于任务的智能路由，AI Gateway 分析传入的请求，并将其路由到在最低成本下为您提供最佳结果的模型。在组织级别，你将能够看到能够通过路由到更高效的模型获得最大节省的地方。基于任务的智能路由正在积极开发中。我们会在其逐渐成熟时分享更多信息。</p>
<h3>我们将帮助你了解 AI 是如何被使用的</h3>
<p>异常检测告诉你一个账户打破了其模式，但并不知道为什么。管理员仍然需要查看日志并拼凑事情的经过。缩小这个差距是我们接下来关注的内容，这始于对流量的实际分类。</p>
<p>我们正在构建提示分类，将请求分类为编码、写作等类别。这些类别是几乎所有其他信号所缺失的上下文。在一个工程师的“编码”类中消费激增可能是可以接受的，但在该账户从未接触过的类别中同样的激增则不可接受。分类可以向组织展示 AI 不仅使用了多少，还用于什么。</p>
<p>它还回答了这些对话中最根本的问题： AI 是否被用于预期的工作？一旦将业务流量与其他内容分开，个人使用就变得可见。从外部来看，在公司时间运行副业的人和通过模型悄悄转移数据的人看起来是一样的。区分两者是必然会暴露内部风险的关键。</p>
<p>一旦你的 AI 流量通过 AI Gateway 运行，每个新的风险或效率信号类别都是管理员无需额外设置即可获得的新内容。</p>
<h2>开始使用</h2>
<p>用户洞察今天对所有 AI Gateway 客户免费提供。对任何发送流量通过网关的客户来说，仪表板中都已经可以使用这个视图，因此，如果你已经通过 AI Gateway 路由流量，那么你可以访问这个功能。</p>
<p>如果你还没有，请<a href="https://developers.cloudflare.com/ai-gateway/get-started/"><span style="text-decoration:underline">创建一个网关</span></a>并开始向我们的<a href="https://developers.cloudflare.com/ai/models/"><span style="text-decoration:underline">目录</span></a>中的任何模型发送请求。</p>
<p>我们建议你将 AI Gateway 放在<a href="https://developers.cloudflare.com/cloudflare-one/policies/access/"><span style="text-decoration:underline">Cloudflare Access</span></a>之后，目前已进入公开测试阶段。消费和异常视图在没有它的情况下也可以工作，但附加身份是将匿名帐户 ID 转变为实际可以采取行动的名称。开始时可用监控模式来了解你的基线，然后再强制任何操作。</p>
<p>我们希望了解你今天如何管理 AI。请在<a href="https://discord.cloudflare.com/"><span style="text-decoration:underline">Discord</span></a>上加入对话，或联系你的客户团队。</p>
---
原文链接：[点击查看](https://blog.cloudflare.com/identity-aware-ai-gateway/)
<p>知道谁在使用 AI 是目前组织面临的关键挑战之一。一份来自斯坦福大学的<a href="https://hai.stanford.edu/assets/files/ai_index_report_2026.pdf"><span style="text-decoration:underline">报告</span></a>发现，59%的组织表示，知识差距是他们负责任的 AI 治理的最大障碍。</p>
<p>这既是一个安全问题，也是一个财务问题。解决这些问题需要两件事情：每一个请求都必须有一个经过验证的身份（这样可以追踪到具体的使用者），以及一个关于该身份的正常表现的图景。今天，我们宣布这两者的实现。</p>
<p>与 Cloudflare Access 集成的身份感知 AI Gateway 现在已进入公开测试阶段，同时，用户洞察功能对所有 AI Gateway 客户免费提供。它们共同将已通过 AI Gateway 的流量转化为每个使用者和代理的行为基线，并识别出那些偏离此基线的使用。</p>
<h2>什么是 AI Gateway？</h2>
<p><a href="https://developers.cloudflare.com/ai-gateway/"><span style="text-decoration:underline">AI Gateway</span></a> 是你所有 AI 使用的中央控制面板。所有的应用和团队不是直接调用 OpenAI、Anthropic、Google 或 Workers AI 的模型，而是通过 AI Gateway 路由，从而让你在一个地方观察、保护和管理所有 AI 的使用。</p>
<p>它与所构建的应用以及开发者日常使用的编码工具兼容。通过 AI Gateway 路由<a href="https://developers.cloudflare.com/ai-gateway/integrations/coding-agents/"><span style="text-decoration:underline">代理工具</span></a>，比如 Claude Code、Codex 和 GitHub Copilot，它们同样受所有其他内容的可见性和控制。</p>
<h2>身份感知 AI Gateway</h2>
<p>通过 AI Gateway 和<a href="https://developers.cloudflare.com/ai-gateway/configuration/cloudflare-access"><span style="text-decoration:underline">Cloudflare Access</span></a> 的集成，你可以在你的 gateway 前放置一个<a href="https://developers.cloudflare.com/ai-gateway/configuration/custom-domains/"><span style="text-decoration:underline">自定义域名</span></a>并用 Access 保护它，类似于任何其他应用。这意味着你可以：</p>
<ul>
<li>使用任何支持 SAML 的身份提供者进行身份验证，例如 Okta 或 Entra，省去生成和传递 Cloudflare API 密钥的需求。</li>
<li>设定政策，明确谁可以访问你的网关。</li>
<li>发送请求到干净的主机名，如 <code>ai.example.com</code>，URL 中不包含帐户 ID 或网关 ID。</li>
</ul>
<p>每个经过身份验证的请求现在都携带来自 Access 的用户身份。AI Gateway 在请求元数据中增加了经过验证的 Access 用户 ID，作为 <code>cf.user_id</code>，这样你可以根据实际发出请求的用户来过滤日志、分析和消费。</p>
<p>结合<a href="https://developers.cloudflare.com/ai-gateway/features/spend-limits/"><span style="text-decoration:underline">消费限制</span></a>，这个身份变成了一种预算工具。因为每个请求现在都携带一个真实用户，你可以设定用户的消费限制：为每个用户提供自己的预算，然后在他们达到限制时阻止进一步请求或回退到一个便宜的模型。再也没有惊讶的账单，也没有共享的 API 密钥隐藏谁消费了多少。</p>
<p>我们的早期用户 Flexport 就遇到过这个问题。</p>
<p>“共享 API 密钥几乎使我们无法知道谁在使用 AI 服务，或者应用我们已经对员工设定的访问规则，”Flexport 的工作人员安全工程师 Max Baumgarten 说。“在 AI Gateway 前置 Cloudflare Access 为每个请求提供了一个经过认证的身份，让我们能够在网关使用现有的身份政策。我们的团队可以使用 AI 工具而不用为每个客户创建一个单独的身份验证系统。”</p>
<p>在不久的将来，你将能够使用用户的身份提供者组来设定消费限制或控制某个组可以访问哪些模型。例如，让你的机器学习团队访问前沿模型，限制支持团队的消费，或者为正在某个特定项目工作的人设置预算，所有这些都与您在身份提供者中已经管理的组关联。</p>
<h2>新的用户洞察标签</h2>
<p>在 AI Gateway 中，你现在将看到一个名为用户洞察的标签。用户洞察功能读取通过你的网关的流量，将其转化为每个帐户的行为图像。它学习每个帐户通常的行为，识别出那些违背该模式的账户，并为你提供区分恶意代理和忙碌工程师的上下文。它作用于已通过你的网关的流量，因此无需额外设置。</p>
<p>用户洞察追踪消费，包括浪费的地方，例如低缓存命中率和过大的上下文窗口。许多工具已经可以做到这一点。但它们没有告诉你一个帐户是否行为正常。这正是我们选择关注的重点，另外还有成本控制。</p>
<h3>基线设置：人员和代理</h3>
<p>每个帐户随着时间的推移都会留下行为指纹，无论是人员还是代理。每 3 小时对票据进行总结的代理行为紧凑而一致。相比之下，人员的行为显得杂乱，提示不一、时间不规律，并在解决难题时需要较长时间。两者都是合法的，因此同样的偏离对一个来说可能是噪声，而对另一个来说却是真实信号。</p>
<p>在用户洞察中，我们首先对会话进行评分，而不是单个请求。绝对阈值在这里失效：重度使用者的 $500 跳跃可能是正常的，而一个通常每次花费 $5 的代理的 $50 会话则是 10 倍的变化，可能会被遗漏。因此，我们将每个会话与账户的历史记录进行比较，使用其过去 30 天的第 95 百分位（p95）会话成本。这给我们提供了解账户通常的操作方式，任何超过其 p95 的 2 倍的增长都很有可能是异常行为。</p>
<p>以下分析概述了我们如何得出这些数字。</p>
<p><span style="text-decoration:underline">图 1：会话成本异常检测</span></p>
<p><strong>如何解读上面的图表</strong></p>
<p>该图表绘制了来自我们内部流量的真实会话。每个点代表一个单独会话（在对数刻度上绘制）：</p>
<ul>
<li><strong>X 轴（会话成本）：</strong>总费用（美元）。</li>
<li><strong>Y 轴（用户 p95）：</strong>会话超出用户个人基线的次数。</li>
</ul>
<p>两条虚线阈值将会话分为四类：</p>
<ul>
<li><strong>右上角（★ 星星）：</strong>超出 2 倍用户 p95 基线和账户级 p99 上限。这些是有意义的异常开支的高相对峰值，将触发警报。</li>
<li><strong>左上角：</strong>高相对峰值（2 倍用户 p95），但低于账户 p99 底部。我们将其忽略，以避免在小额波动上发出警报。</li>
<li><strong>右下角：</strong>高绝对支出，但与该用户的典型高使用一致。这也是常规行为，因此我们忽略。</li>
<li><strong>左下角：</strong>在两个基线内的正常活动。</li>
</ul>
<p><span style="text-decoration:underline">图 2：账户级会话成本分布</span></p>
<p>此直方图（图 2）将整个组织的每个会话成本进行映射，以建立一个账户的上限：</p>
<ul>
<li>典型使用：绝大多数会话成本远低于 $10，其中第 95 百分位为 $20。</li>
<li>账户 p99（$200）：只有 1% 的所有会话达到或超过 $200。</li>
</ul>
<p>那么为什么我们选择 p99？将我们的绝对美元上限设定为账户 p99 创建了一个有意义的界限。它确保了一个异常并不仅仅是某个特定用户的突然变化，而是也在整个组织中排名前 1% 的会话开支之内。</p>
<p><span style="text-decoration:underline">图 3：单用户会话历史</span></p>
<p>基线并非静态。随着账户习惯的变化，其滚动 p95（绿色线）和 2 倍阈值（橙色线）会随之移动，因此每条警报都能够反映出最近的行为，而不是仅仅设置一次的数字。我们还设置了一个美元底线，以确保一个峰值不仅在统计上不寻常，而且是值得管理员调查的。这条美元底线是防止某个微型用户的 500 倍波动触发警报的原因。</p>
<h3>检测异常行为的正确视角</h3>
<p>在以上所有分析之后，管理员看到的是那些自身模式被打破的账户的视图，所有正常行为都被过滤掉。这个过滤视图就是恶意行为信息流。</p>
<p>这种行为不容易捕捉，因为信号从来不是一个新工具或被阻止的行为。这是一个受信任的账户做更多它已经被允许的事情。可能是一个服务账户突然开始运行更昂贵的会话，或者一个人的使用量大大超过了自己的平均水平并保持在那几天。</p>
<p>这些都不会触发政策，但都打破了行为基线。账户的突然偏离其自身使用模式往往是凭证被盗用或代理失控的第一个可观察到的迹象。</p>
<p>用户洞察并不会决定意图，也不会阻止任何人；而是将那些开始表现异常的账户展示给管理员，以便有人可以提出下一个问题。有时这导致真正的调查。有时这只是意味着某人需要进行指导（例如，开发者在每个提示中投入整个代码库，而不是只提供一个代码片段）。</p>
<h2>接下来将要做的事情</h2>
<h3>我们将帮助你从成本控制转向成本优化</h3>
<p>一旦你设定了预算，下一个自然问题是：你如何在更低的成本下获得等效的输出质量？并非每个请求都需要前沿模型。总结任务或简单的代码完成可以使用更便宜的模型，而不会造成显著质量损失。</p>
<p>我们正在构建基于任务的智能路由，AI Gateway 分析传入的请求，并将其路由到在最低成本下为您提供最佳结果的模型。在组织级别，你将能够看到能够通过路由到更高效的模型获得最大节省的地方。基于任务的智能路由正在积极开发中。我们会在其逐渐成熟时分享更多信息。</p>
<h3>我们将帮助你了解 AI 是如何被使用的</h3>
<p>异常检测告诉你一个账户打破了其模式，但并不知道为什么。管理员仍然需要查看日志并拼凑事情的经过。缩小这个差距是我们接下来关注的内容，这始于对流量的实际分类。</p>
<p>我们正在构建提示分类，将请求分类为编码、写作等类别。这些类别是几乎所有其他信号所缺失的上下文。在一个工程师的“编码”类中消费激增可能是可以接受的，但在该账户从未接触过的类别中同样的激增则不可接受。分类可以向组织展示 AI 不仅使用了多少，还用于什么。</p>
<p>它还回答了这些对话中最根本的问题： AI 是否被用于预期的工作？一旦将业务流量与其他内容分开，个人使用就变得可见。从外部来看，在公司时间运行副业的人和通过模型悄悄转移数据的人看起来是一样的。区分两者是必然会暴露内部风险的关键。</p>
<p>一旦你的 AI 流量通过 AI Gateway 运行，每个新的风险或效率信号类别都是管理员无需额外设置即可获得的新内容。</p>
<h2>开始使用</h2>
<p>用户洞察今天对所有 AI Gateway 客户免费提供。对任何发送流量通过网关的客户来说，仪表板中都已经可以使用这个视图，因此，如果你已经通过 AI Gateway 路由流量，那么你可以访问这个功能。</p>
<p>如果你还没有，请<a href="https://developers.cloudflare.com/ai-gateway/get-started/"><span style="text-decoration:underline">创建一个网关</span></a>并开始向我们的<a href="https://developers.cloudflare.com/ai/models/"><span style="text-decoration:underline">目录</span></a>中的任何模型发送请求。</p>
<p>我们建议你将 AI Gateway 放在<a href="https://developers.cloudflare.com/cloudflare-one/policies/access/"><span style="text-decoration:underline">Cloudflare Access</span></a>之后，目前已进入公开测试阶段。消费和异常视图在没有它的情况下也可以工作，但附加身份是将匿名帐户 ID 转变为实际可以采取行动的名称。开始时可用监控模式来了解你的基线，然后再强制任何操作。</p>
<p>我们希望了解你今天如何管理 AI。请在<a href="https://discord.cloudflare.com/"><span style="text-decoration:underline">Discord</span></a>上加入对话，或联系你的客户团队。</p>
---
原文链接：[点击查看](https://blog.cloudflare.com/identity-aware-ai-gateway/)
评论
暂无评论。