防御者的窗口
# 防御者的窗口
作者：格雷格·布洛克曼
OpenAI-Hugging Face事件是网络安全的一个重要时刻，因为它让人们看到了典型威胁行为者在接下来几个月内能力的演变。我在过去几周与许多组织进行了交谈，一个主题非常明确：他们知道必须以前所未有的速度从根本上提升他们的网络安全实践。在这篇文章中，我将分享我们为保护OpenAI所采取的措施，其他组织今天可以采取的具体步骤，以及为何现在是采取行动的时机。
## 事件概述
全球开发的AI模型越来越能够自动化现实世界网络攻击的部分，这使得长期存在的安全漏洞——从人类编写的软件中深埋的漏洞到被遗忘的权限——更容易被发现和利用。这些AI能力同样为防御者提供了找到和修复这些弱点的新方法，但他们需要立即行动。如果公司果断采取行动，包括改善基础知识并利用AI为团队赋能，我们可以使互联网比以往任何时候都更安全。
在OpenAI-Hugging Face事件中，一个自主的集体不仅成功渗透了OpenAI的研究基础设施，还渗透了另一家公司的生产基础设施，串联了从以前未知的安全漏洞到使用已泄露的用户账户凭据的多重弱点。越来越明显的是，每家公司所负担的[技术债务](https://www.veracode.com/blog/2026-state-of-software-security-report-risky-security-debt/)掩盖着重大的缺陷，而防御者需要在攻击者之前找到并修复这些缺陷。
为了使防御者相对于攻击者占据优势，今年早些时候，我们开始仅向[受信任的防御者](https://openai.com/index/trusted-access-for-cyber/)发布我们的网络能力。从那时起，各种公司相继发布了与前沿技术仅相差几个月的开源AI模型。这些模型中的最新一款预计将于八月底[发布](https://z.ai/blog/glm-5.3)，并很可能会显著加速威胁格局。
虽然利用AI的攻击者很快将能够发现许多现有系统中长期存在的缺陷，但AI也将使得防御者更容易找到、优先处理和修复那些相同的缺陷。安全仍然是一场猫鼠游戏，但AI可能[改变经济学](https://blog.mozilla.org/en/firefox/privacy-security/ai-security-zero-day-vulnerabilities/)的方式，从根本上使防御者受益。例如，我们开始专门训练我们的模型编写超人类安全的代码。我们的模型在[数学证明](https://openai.com/index/ten-advances-in-mathematics/)方面也表现出色，这可以用于以人类难以处理的方式正式验证软件的安全性。
## 个人轶事
在OpenAI-Hugging Face事件后，我询问了ChatGPT Work（使用公开可用的GPT‑5.6 Sol）来评估我的[个人网站](http://gregbrockman.com/)。这是一个简单的静态网站，托管在AWS上，Cloudflare作为门面，所以我认为漏洞的表面积不会太大。
大约15分钟后，它发现了13个问题，许多问题单独来看可能并不可利用——但我可以想象这些问题与其他漏洞串联在一起会产生重大影响。我没有配置我的DNS记录以防止攻击者伪造我的电子邮件；我的网站使用不安全版本的jQuery；Cloudflare正在通过未加密的HTTP将请求转发到AWS。
随后，我让ChatGPT Work修复这些问题，它在一个小时内完成了。它打开了我浏览器中的Cloudflare控制面板，并开始逐一单击按钮以正确配置DNS、TLS以及高级安全设置；它完全删除了网站中的jQuery；将我从AWS迁移到Cloudflare Pages；开始逐步推出[DMARC](https://knowledge.workspace.google.com/admin/security/recommended-dmarc-rollout)。
这仅仅是我的个人网站。这个小例子展示了我们的现有模型如何作为网络守护者——找出人类无法处理的众多问题，并用适当的调优计划加以修复。
## OpenAI如何保护自己
Hugging Face事件表明我们低估了AI模型在现实世界中的网络能力。我们正在相应地加强安全要求，从而让我们现有的安全研究和内部安全工作显得更加紧急。
我分享了一些我们在这一时刻保护OpenAI的方法，希望它对其他组织有用。为了保护OpenAI，我们在基础控制方面进行了大量投资——确保基本做对——并通过前沿智能增强我们的防御。这一策略有四个主要支柱。
首先，我们利用我们的模型帮助保护我们的代码。Codex，包括我们的安全插件，验证代码更改，识别漏洞，并帮助开发者在部署之前修复问题。简单地生成更多需要人工验证的安全发现并不是目标；我们的目标是在问题上线之前捕获真正的漏洞，并缩短发现问题到安全部署修复的路径。随着我们不断训练我们的模型以产生日益安全的代码，我们的目标是消除一些新编写代码中的软件漏洞。
其次，我们不断利用模型来保护我们的基础设施。如今，几乎所有的初始安全警报都是在人工介入之前就由智能进行分级处理的。这有助于减少防御者的负担，提高响应时间，并让人类花费时间在他们最擅长的地方——判断、决策和应用专业知识。我们越来越多地将这些检测与有限的自动化响应连接，同时让人类负责最高影响的决策。我们的目标是确保我们能够以机器的速度检测并应对安全问题。
第三，我们利用前沿智能不断枚举、探测和识别潜在攻击路径。通过识别漏洞、错误配置、特权过高的身份或意外的信任边界，我们能够快速识别并弥补这些漏洞，以防被攻击者利用。这使我们能够持续评估、监控并测试我们在产品、基础设施和系统中的安全属性。
最后，我们在大规模基础上进行大量投资。我们继续投资于安全架构和控制，采用深度防御和最小特权等策略，并设计多重独立控制必须同时失效才能导致灾难发生的系统。在AI的未来，网络隔离、工作负载强化、监控以及安全的修补和部署等经典安全控制将比以往任何时候都更加重要。
## 防御者现在应该做什么
时不我待，防御者需要快速采取以下步骤。下面我将提到OpenAI的技术，但生态系统中也有很多竞争产品可供评估。重要的不是具体工具，而是尽快将能力强大的AI引入到防御者手中。
* **获取组织的承诺和支持**。我们正经历安全风险的快速变化——确保您的安全和工程团队获得支持、合作和资源，以迅速应对这些风险。与您的团队进行桌面演练，模拟这些攻击如何在您的组织中表现以及您将如何应对。
* **赋予您的安全团队一个智能代理**。开始使用Codex、[Codex安全插件](https://learn.chatgpt.com/docs/security/plugin)或其他能力强大的编码和安全工具。赋予其对代码库、基础设施配置和安全团队评估所需的技术文档的经批准访问权。不要等到公司范围内的推广才能开始使用你们的最高优先级系统。
* **为该代理提供安全专业知识**。从社区支持的[技能](https://github.com/trailofbits/skills)开始，这些技能包括静态分析、安全重点代码审查、漏洞变种分析、软件供应链风险和其他安全工作流程。然后围绕您组织的架构、安全标准、威胁模型和行动手册建立自己的技能。
* **立即对您的系统进行安全评估**。优先评估面向互联网的服务、身份验证流程、基础设施作为代码、部署管道和处理敏感信息的系统。随着团队信心的增强，扩大扫描范围。
* **清理您现有的漏洞积压**。向代理提供代码扫描器、依赖警报、安全票务、漏洞赏金报告和先前评估的发现。要求其对这些发现进行分级，区分可利用的问题与噪音，识别代码库中其他相关的漏洞，并建议优先修复哪些问题。
* **将安全审查直接纳入开发过程**。使用代理在代码更改合并之前进行审查，并在持续集成中运行安全检查。寻找身份验证错误、访问控制绕过、暴露凭据、不安全的依赖关系、不安全的默认设置、扩大对生产系统的访问的变动和其他漏洞。
* **让代理帮助修复发现的问题**。对于已验证的问题，要求其生成并验证一个针对性的修补，编写回归测试，并确认漏洞不再复现。对于重要的变更保留人工审核，但消除在发现实际问题与让工程师制定安全修复之间的不必要延误。
* **逐步自动化检测分级**。不要一开始就尝试建立一个自主操作的安全中心。先在一个代码库上运行只读安全扫描，或让代理使用对现有日志的只读访问来审查先前解决的警报。让它总结证据并建议相应处理，而决策仍由人工做出。随着信心的增强，逐步过渡到咨询拉取请求扫描、实时警报分级，然后自动关闭狭义的误报。
* **确保在需要之前准备好AI辅助的取证调查能力**。申请[网络可信访问](https://learn.chatgpt.com/docs/cyber-safety#trusted-access-for-cyber)并让您的团队获得批准使用GPT‑Daybreak‑Blue进行授权的防御工作，包括事件响应、检测工程和恶意软件分析。实践使用该能力分析日志、遥测和安全警报。
* **进行实验、组织黑客周，并快速迭代**。我们需要构建各种新工具，修改我们的工作方式，并提升每个人的能力以适应我们所面临的世界。鼓励您的员工进行实验，安排黑客周，以构建新的能力，并专注于快速迭代的小部分解决方案。快速渐进的进展可以带来复合的防御效果，随着团队信心的建立，您可以逐步扩展自主性。
没有任何公司能够单独完成这一切。我们的呼吁是，AI实验室、安全供应商、企业和维护者分享经过验证的发现、修复和实用的行动手册，使一个组织的发现能够增强整个生态系统。
防御者的窗口现在开放。在接下来的几个月里，每个组织都需要开始大幅度自动化其安全程序以保持安全，而安全社区也必须紧急行动起来，定义工具、实践和行动手册，以提高防御者的能力，超越攻击者的能力，因为AI继续发展。这将需要巨大的、前所未有的努力，但如果我们齐心协力，我们可以交付一个比以往更加安全的世界。
---
原文链接：[点击查看](https://openai.com/index/the-defenders-window)
作者：格雷格·布洛克曼
OpenAI-Hugging Face事件是网络安全的一个重要时刻，因为它让人们看到了典型威胁行为者在接下来几个月内能力的演变。我在过去几周与许多组织进行了交谈，一个主题非常明确：他们知道必须以前所未有的速度从根本上提升他们的网络安全实践。在这篇文章中，我将分享我们为保护OpenAI所采取的措施，其他组织今天可以采取的具体步骤，以及为何现在是采取行动的时机。
## 事件概述
全球开发的AI模型越来越能够自动化现实世界网络攻击的部分，这使得长期存在的安全漏洞——从人类编写的软件中深埋的漏洞到被遗忘的权限——更容易被发现和利用。这些AI能力同样为防御者提供了找到和修复这些弱点的新方法，但他们需要立即行动。如果公司果断采取行动，包括改善基础知识并利用AI为团队赋能，我们可以使互联网比以往任何时候都更安全。
在OpenAI-Hugging Face事件中，一个自主的集体不仅成功渗透了OpenAI的研究基础设施，还渗透了另一家公司的生产基础设施，串联了从以前未知的安全漏洞到使用已泄露的用户账户凭据的多重弱点。越来越明显的是，每家公司所负担的[技术债务](https://www.veracode.com/blog/2026-state-of-software-security-report-risky-security-debt/)掩盖着重大的缺陷，而防御者需要在攻击者之前找到并修复这些缺陷。
为了使防御者相对于攻击者占据优势，今年早些时候，我们开始仅向[受信任的防御者](https://openai.com/index/trusted-access-for-cyber/)发布我们的网络能力。从那时起，各种公司相继发布了与前沿技术仅相差几个月的开源AI模型。这些模型中的最新一款预计将于八月底[发布](https://z.ai/blog/glm-5.3)，并很可能会显著加速威胁格局。
虽然利用AI的攻击者很快将能够发现许多现有系统中长期存在的缺陷，但AI也将使得防御者更容易找到、优先处理和修复那些相同的缺陷。安全仍然是一场猫鼠游戏，但AI可能[改变经济学](https://blog.mozilla.org/en/firefox/privacy-security/ai-security-zero-day-vulnerabilities/)的方式，从根本上使防御者受益。例如，我们开始专门训练我们的模型编写超人类安全的代码。我们的模型在[数学证明](https://openai.com/index/ten-advances-in-mathematics/)方面也表现出色，这可以用于以人类难以处理的方式正式验证软件的安全性。
## 个人轶事
在OpenAI-Hugging Face事件后，我询问了ChatGPT Work（使用公开可用的GPT‑5.6 Sol）来评估我的[个人网站](http://gregbrockman.com/)。这是一个简单的静态网站，托管在AWS上，Cloudflare作为门面，所以我认为漏洞的表面积不会太大。
大约15分钟后，它发现了13个问题，许多问题单独来看可能并不可利用——但我可以想象这些问题与其他漏洞串联在一起会产生重大影响。我没有配置我的DNS记录以防止攻击者伪造我的电子邮件；我的网站使用不安全版本的jQuery；Cloudflare正在通过未加密的HTTP将请求转发到AWS。
随后，我让ChatGPT Work修复这些问题，它在一个小时内完成了。它打开了我浏览器中的Cloudflare控制面板，并开始逐一单击按钮以正确配置DNS、TLS以及高级安全设置；它完全删除了网站中的jQuery；将我从AWS迁移到Cloudflare Pages；开始逐步推出[DMARC](https://knowledge.workspace.google.com/admin/security/recommended-dmarc-rollout)。
这仅仅是我的个人网站。这个小例子展示了我们的现有模型如何作为网络守护者——找出人类无法处理的众多问题，并用适当的调优计划加以修复。
## OpenAI如何保护自己
Hugging Face事件表明我们低估了AI模型在现实世界中的网络能力。我们正在相应地加强安全要求，从而让我们现有的安全研究和内部安全工作显得更加紧急。
我分享了一些我们在这一时刻保护OpenAI的方法，希望它对其他组织有用。为了保护OpenAI，我们在基础控制方面进行了大量投资——确保基本做对——并通过前沿智能增强我们的防御。这一策略有四个主要支柱。
首先，我们利用我们的模型帮助保护我们的代码。Codex，包括我们的安全插件，验证代码更改，识别漏洞，并帮助开发者在部署之前修复问题。简单地生成更多需要人工验证的安全发现并不是目标；我们的目标是在问题上线之前捕获真正的漏洞，并缩短发现问题到安全部署修复的路径。随着我们不断训练我们的模型以产生日益安全的代码，我们的目标是消除一些新编写代码中的软件漏洞。
其次，我们不断利用模型来保护我们的基础设施。如今，几乎所有的初始安全警报都是在人工介入之前就由智能进行分级处理的。这有助于减少防御者的负担，提高响应时间，并让人类花费时间在他们最擅长的地方——判断、决策和应用专业知识。我们越来越多地将这些检测与有限的自动化响应连接，同时让人类负责最高影响的决策。我们的目标是确保我们能够以机器的速度检测并应对安全问题。
第三，我们利用前沿智能不断枚举、探测和识别潜在攻击路径。通过识别漏洞、错误配置、特权过高的身份或意外的信任边界，我们能够快速识别并弥补这些漏洞，以防被攻击者利用。这使我们能够持续评估、监控并测试我们在产品、基础设施和系统中的安全属性。
最后，我们在大规模基础上进行大量投资。我们继续投资于安全架构和控制，采用深度防御和最小特权等策略，并设计多重独立控制必须同时失效才能导致灾难发生的系统。在AI的未来，网络隔离、工作负载强化、监控以及安全的修补和部署等经典安全控制将比以往任何时候都更加重要。
## 防御者现在应该做什么
时不我待，防御者需要快速采取以下步骤。下面我将提到OpenAI的技术，但生态系统中也有很多竞争产品可供评估。重要的不是具体工具，而是尽快将能力强大的AI引入到防御者手中。
* **获取组织的承诺和支持**。我们正经历安全风险的快速变化——确保您的安全和工程团队获得支持、合作和资源，以迅速应对这些风险。与您的团队进行桌面演练，模拟这些攻击如何在您的组织中表现以及您将如何应对。
* **赋予您的安全团队一个智能代理**。开始使用Codex、[Codex安全插件](https://learn.chatgpt.com/docs/security/plugin)或其他能力强大的编码和安全工具。赋予其对代码库、基础设施配置和安全团队评估所需的技术文档的经批准访问权。不要等到公司范围内的推广才能开始使用你们的最高优先级系统。
* **为该代理提供安全专业知识**。从社区支持的[技能](https://github.com/trailofbits/skills)开始，这些技能包括静态分析、安全重点代码审查、漏洞变种分析、软件供应链风险和其他安全工作流程。然后围绕您组织的架构、安全标准、威胁模型和行动手册建立自己的技能。
* **立即对您的系统进行安全评估**。优先评估面向互联网的服务、身份验证流程、基础设施作为代码、部署管道和处理敏感信息的系统。随着团队信心的增强，扩大扫描范围。
* **清理您现有的漏洞积压**。向代理提供代码扫描器、依赖警报、安全票务、漏洞赏金报告和先前评估的发现。要求其对这些发现进行分级，区分可利用的问题与噪音，识别代码库中其他相关的漏洞，并建议优先修复哪些问题。
* **将安全审查直接纳入开发过程**。使用代理在代码更改合并之前进行审查，并在持续集成中运行安全检查。寻找身份验证错误、访问控制绕过、暴露凭据、不安全的依赖关系、不安全的默认设置、扩大对生产系统的访问的变动和其他漏洞。
* **让代理帮助修复发现的问题**。对于已验证的问题，要求其生成并验证一个针对性的修补，编写回归测试，并确认漏洞不再复现。对于重要的变更保留人工审核，但消除在发现实际问题与让工程师制定安全修复之间的不必要延误。
* **逐步自动化检测分级**。不要一开始就尝试建立一个自主操作的安全中心。先在一个代码库上运行只读安全扫描，或让代理使用对现有日志的只读访问来审查先前解决的警报。让它总结证据并建议相应处理，而决策仍由人工做出。随着信心的增强，逐步过渡到咨询拉取请求扫描、实时警报分级，然后自动关闭狭义的误报。
* **确保在需要之前准备好AI辅助的取证调查能力**。申请[网络可信访问](https://learn.chatgpt.com/docs/cyber-safety#trusted-access-for-cyber)并让您的团队获得批准使用GPT‑Daybreak‑Blue进行授权的防御工作，包括事件响应、检测工程和恶意软件分析。实践使用该能力分析日志、遥测和安全警报。
* **进行实验、组织黑客周，并快速迭代**。我们需要构建各种新工具，修改我们的工作方式，并提升每个人的能力以适应我们所面临的世界。鼓励您的员工进行实验，安排黑客周，以构建新的能力，并专注于快速迭代的小部分解决方案。快速渐进的进展可以带来复合的防御效果，随着团队信心的建立，您可以逐步扩展自主性。
没有任何公司能够单独完成这一切。我们的呼吁是，AI实验室、安全供应商、企业和维护者分享经过验证的发现、修复和实用的行动手册，使一个组织的发现能够增强整个生态系统。
防御者的窗口现在开放。在接下来的几个月里，每个组织都需要开始大幅度自动化其安全程序以保持安全，而安全社区也必须紧急行动起来，定义工具、实践和行动手册，以提高防御者的能力，超越攻击者的能力，因为AI继续发展。这将需要巨大的、前所未有的努力，但如果我们齐心协力，我们可以交付一个比以往更加安全的世界。
---
原文链接：[点击查看](https://openai.com/index/the-defenders-window)
评论
暂无评论。