美国通过州和联邦行动推进人工智能安全
美国通过州和联邦行动推进人工智能安全
==============================================================
通过反向联邦主义，各州在人工智能保障措施上形成共识，联邦政府则在致力于建立国家标准——为以美国为主导的全球框架奠定基础。
分享
*作者：克里斯·莱哈恩，首席全球事务官*
从全国各州的州府到华盛顿，再到国际会议，针对前沿人工智能治理的严肃应对正在形成。它们共同推动着面向人工智能的民主愿景。
加利福尼亚州、纽约州以及最近的伊利诺伊州，已经推进了前沿安全立法，帮助国家朝着共同的基准迈进，从而管理最强大的人工智能系统。
这些努力反映了开放人工智能所称的*反向联邦主义*的动力：各州通过共同框架帮助明确方向。随着州级工作与联邦层面的努力逐渐汇聚，国家标准开始成形，为以美国为主导的全球人工智能框架奠定基础。我们相信，确保人工智能惠及大众而非少数人的最佳方式是，关键决策——从前沿安全开始——应由民主政府作出，而不仅仅是由前沿实验室作出。
**各州**
最终，美国应以这一原则为基础建立国家框架。但是，在缺乏一个统一框架的情况下，各州可以通过颁布相似的法律引导我们求进。一步一个脚印，它们可以形成一个事实上的国家标准。
如果安全是优先考虑的事项，那么这样的国家标准就是一种最佳政策，确保（a）美国继续在创新方面领跑，而不会因一系列慢速和混乱的法规而受到拖累，这可能会降低构建全球民主人工智能堆栈的能力，从而影响那些需要防御针对不法份子的工具，例如网络安全；（b）将美国置于有利位置，利用这一国家标准创造一个全球安全部署人工智能的推广方案，基于民主价值观。如果我们想建立一个真正以安全为优先的框架，以创建国家和国际标准——这将是最佳支持人工智能安全部署的方案——这需要付出艰苦的努力、坚定的目标与一个将各州、联邦政府和国际对话连接起来的策略。表面的表态或做作不会奏效——州级的混乱不利于持久的安全方案，只会导致更多的混乱。
为了确保这一方案成功，各州应持续在核心要素上达到一致，正如加州、纽约州和伊利诺伊州所做的。总体而言，这些要素包括：
* 一套记录的安全框架，包含前沿模型的风险评估及其结果的公开披露。
* 重大安全事件的报告。
* 通过独立、客观审计实现治理和问责。
综合来看，这三个州已经为前沿人工智能部署建立了民主监督机制。加利福尼亚州建立了核心披露框架；纽约州展示了该方法可以跨地区实施；而伊利诺伊州则通过要求对关键披露进行独立验证加以补充。
我们认识到，立法通常还会包含额外条款以获取通过所需的投票。但我们相信，这些是通过反向联邦主义创建事实国家标准所需的基本要素。缺乏这种约束，我们将面临政策不连贯的风险，以及律师们难以执行的州法律的拼凑，这将使消费者感到困惑，并分散开发者的资源，特别是初创企业和小公司的资源，这些资源本更应该投资于安全。具体来说，正如过去几周所展示的那样，随着人工智能模型能力越来越强，我们需要一个连贯的系统，让政府、关键基础设施、盟友和信任的合作伙伴能够拿到这些工具。
政策制定者也应警惕任务蔓延。各州不应被要求管理重大国家安全风险（或者实际上是为整个国家做出国家安全决策），或者进行更适合联邦专家处理的高度技术性审查，而不是技术资助、资源获取与与我们团队紧密合作的能力。
**联邦级**
在联邦层面，特朗普政府仍在与技术和国家安全专家合作，制定关于美国政府对最强大人工智能模型进行网络测试的框架。该框架将建立测试标准、时间表和流程。开放人工智能正在与政府、同行公司、商业团体及其他利益相关方进行建设性讨论，帮助制定该方案。
正在进行的网络评估工作说明了一致性的重要性。今天，毫无疑问，在联邦框架尚未完成之前，模型就正在进行测试。随着实验室通过这一过程，一条信息逐渐明确：我们需要在州和联邦层面上都采用一致且可重复的方法。如果我们希望最强大的模型进入政府、关键基础设施防御者、盟友以及其他信任伙伴手中，这一点至关重要。我们赞赏政府希望在八月初之前完成这一框架的目标。
联邦测试框架将有助于将先进的人工智能工具送到政府、关键基础设施防御者、盟友和其他信任的合作伙伴手中。这样一来，它将加强民主制度，并帮助建立以美国为主导的民主人工智能堆栈。现在是时候利用美国的创新优势来支持民主人工智能。
既没有不明确的联邦流程，也没有一套州法律的拼凑能够产生一个连贯的前沿安全制度。我们需要一种方法，确保最佳的测试人员评估最强大的模型——并且让信任的防护者足够迅速地获得这些工具，以便超越恶意行动者。
国会也正在行动。包括最近的杰伊·奥本诺特和洛里·特拉汉在内的两院两党立法者注意到了各州和执行部门的动态，并提出了联邦框架的提案。没有任何能够实现通过的真实路径的讨论草案会是完美的。但我们认为这些工作是向前迈出的一步，并相信其中许多条款是经过深思熟虑并值得支持的。
我们也鼓励参众两院领导在国家治理和前沿安全提案上投入实质性精力，我们与他们中的许多人进行了建设性对话。考虑到已经制定出方向一致的法律的州的规模和影响，将这些方法纳入联邦立法应当有助于建立一个统一的国家前沿安全体系。
开放人工智能的前沿安全蓝图概述了我们认为是该框架的基本要素。
首先，联邦政府应当主导对最先进系统的测试和评估。前沿人工智能引发了国家安全和公共安全的问题，这些问题需要没有任何一个州可以完全复制的技术专长、资源和访问权限。
这项工作应增强在拜登总统领导下创建并在特朗普总统时期加强的人工智能标准与创新中心（CAISI）。CAISI可以提供持久的联邦能力，以评估先进模型，并将前沿安全的重点从主要依赖事后问责转向事前防害。
第二，开发最强大系统的公司应当满足明确要求，包括独立审计、事件报告、强有力的安全标准以及举报者保护。
第三，联邦与州的努力应相辅相成。各州法律并不会完全相同，我们期待与全国家的政策制定者合作，以确保其增强安全，同时最大化人工智能的经济利益。
各州还应继续作为民主的实验室，参与前沿安全以外的领域，包括青少年保护、电力与环境政策以及人工智能教育与素养。
联邦框架依然是不可或缺的。前沿人工智能提出了国家安全、经济竞争力和公共安全的问题，最终需要国家标准、国家能力以及支持民主人工智能的国家机构。
**全球**
国家立法对于以美国为主导的国际人工智能标准框架同样至关重要。几周前在七国集团会议上，与巴西、埃及、印度、肯尼亚和韩国的讨论中，前沿实验室的首席执行官们讨论了这一框架的必要性。会后，开放人工智能首席执行官山姆·奥特曼在《金融时报》中提出了“一个由美国主导的国际论坛，制定公认的标准，提供能力与风险的专业分析，并使参与遵守规则的国家与公司获得技术。”本周，谷歌DeepMind的首席执行官德米斯·哈萨比斯在一份新论文中也提出了深思熟虑的想法。联邦立法——必然是两党的合作——将为这一国际努力提供强有力的基础。
这种势头正在各个层面上显现。各州正建立共同的方法。国会和行政部门正在构建国家框架。全球领导者也开始讨论国际标准。如果各方能够相辅相成，美国即可在建立基于人工智能民主愿景的全球框架方面发挥主导作用。而这一民主对齐的方法才是真正将安全置于首位的方式。
---
原文链接：[点击查看](https://openai.com/index/advancing-ai-safety-through-state-and-federal-action)
==============================================================
通过反向联邦主义，各州在人工智能保障措施上形成共识，联邦政府则在致力于建立国家标准——为以美国为主导的全球框架奠定基础。
分享
*作者：克里斯·莱哈恩，首席全球事务官*
从全国各州的州府到华盛顿，再到国际会议，针对前沿人工智能治理的严肃应对正在形成。它们共同推动着面向人工智能的民主愿景。
加利福尼亚州、纽约州以及最近的伊利诺伊州，已经推进了前沿安全立法，帮助国家朝着共同的基准迈进，从而管理最强大的人工智能系统。
这些努力反映了开放人工智能所称的*反向联邦主义*的动力：各州通过共同框架帮助明确方向。随着州级工作与联邦层面的努力逐渐汇聚，国家标准开始成形，为以美国为主导的全球人工智能框架奠定基础。我们相信，确保人工智能惠及大众而非少数人的最佳方式是，关键决策——从前沿安全开始——应由民主政府作出，而不仅仅是由前沿实验室作出。
**各州**
最终，美国应以这一原则为基础建立国家框架。但是，在缺乏一个统一框架的情况下，各州可以通过颁布相似的法律引导我们求进。一步一个脚印，它们可以形成一个事实上的国家标准。
如果安全是优先考虑的事项，那么这样的国家标准就是一种最佳政策，确保（a）美国继续在创新方面领跑，而不会因一系列慢速和混乱的法规而受到拖累，这可能会降低构建全球民主人工智能堆栈的能力，从而影响那些需要防御针对不法份子的工具，例如网络安全；（b）将美国置于有利位置，利用这一国家标准创造一个全球安全部署人工智能的推广方案，基于民主价值观。如果我们想建立一个真正以安全为优先的框架，以创建国家和国际标准——这将是最佳支持人工智能安全部署的方案——这需要付出艰苦的努力、坚定的目标与一个将各州、联邦政府和国际对话连接起来的策略。表面的表态或做作不会奏效——州级的混乱不利于持久的安全方案，只会导致更多的混乱。
为了确保这一方案成功，各州应持续在核心要素上达到一致，正如加州、纽约州和伊利诺伊州所做的。总体而言，这些要素包括：
* 一套记录的安全框架，包含前沿模型的风险评估及其结果的公开披露。
* 重大安全事件的报告。
* 通过独立、客观审计实现治理和问责。
综合来看，这三个州已经为前沿人工智能部署建立了民主监督机制。加利福尼亚州建立了核心披露框架；纽约州展示了该方法可以跨地区实施；而伊利诺伊州则通过要求对关键披露进行独立验证加以补充。
我们认识到，立法通常还会包含额外条款以获取通过所需的投票。但我们相信，这些是通过反向联邦主义创建事实国家标准所需的基本要素。缺乏这种约束，我们将面临政策不连贯的风险，以及律师们难以执行的州法律的拼凑，这将使消费者感到困惑，并分散开发者的资源，特别是初创企业和小公司的资源，这些资源本更应该投资于安全。具体来说，正如过去几周所展示的那样，随着人工智能模型能力越来越强，我们需要一个连贯的系统，让政府、关键基础设施、盟友和信任的合作伙伴能够拿到这些工具。
政策制定者也应警惕任务蔓延。各州不应被要求管理重大国家安全风险（或者实际上是为整个国家做出国家安全决策），或者进行更适合联邦专家处理的高度技术性审查，而不是技术资助、资源获取与与我们团队紧密合作的能力。
**联邦级**
在联邦层面，特朗普政府仍在与技术和国家安全专家合作，制定关于美国政府对最强大人工智能模型进行网络测试的框架。该框架将建立测试标准、时间表和流程。开放人工智能正在与政府、同行公司、商业团体及其他利益相关方进行建设性讨论，帮助制定该方案。
正在进行的网络评估工作说明了一致性的重要性。今天，毫无疑问，在联邦框架尚未完成之前，模型就正在进行测试。随着实验室通过这一过程，一条信息逐渐明确：我们需要在州和联邦层面上都采用一致且可重复的方法。如果我们希望最强大的模型进入政府、关键基础设施防御者、盟友以及其他信任伙伴手中，这一点至关重要。我们赞赏政府希望在八月初之前完成这一框架的目标。
联邦测试框架将有助于将先进的人工智能工具送到政府、关键基础设施防御者、盟友和其他信任的合作伙伴手中。这样一来，它将加强民主制度，并帮助建立以美国为主导的民主人工智能堆栈。现在是时候利用美国的创新优势来支持民主人工智能。
既没有不明确的联邦流程，也没有一套州法律的拼凑能够产生一个连贯的前沿安全制度。我们需要一种方法，确保最佳的测试人员评估最强大的模型——并且让信任的防护者足够迅速地获得这些工具，以便超越恶意行动者。
国会也正在行动。包括最近的杰伊·奥本诺特和洛里·特拉汉在内的两院两党立法者注意到了各州和执行部门的动态，并提出了联邦框架的提案。没有任何能够实现通过的真实路径的讨论草案会是完美的。但我们认为这些工作是向前迈出的一步，并相信其中许多条款是经过深思熟虑并值得支持的。
我们也鼓励参众两院领导在国家治理和前沿安全提案上投入实质性精力，我们与他们中的许多人进行了建设性对话。考虑到已经制定出方向一致的法律的州的规模和影响，将这些方法纳入联邦立法应当有助于建立一个统一的国家前沿安全体系。
开放人工智能的前沿安全蓝图概述了我们认为是该框架的基本要素。
首先，联邦政府应当主导对最先进系统的测试和评估。前沿人工智能引发了国家安全和公共安全的问题，这些问题需要没有任何一个州可以完全复制的技术专长、资源和访问权限。
这项工作应增强在拜登总统领导下创建并在特朗普总统时期加强的人工智能标准与创新中心（CAISI）。CAISI可以提供持久的联邦能力，以评估先进模型，并将前沿安全的重点从主要依赖事后问责转向事前防害。
第二，开发最强大系统的公司应当满足明确要求，包括独立审计、事件报告、强有力的安全标准以及举报者保护。
第三，联邦与州的努力应相辅相成。各州法律并不会完全相同，我们期待与全国家的政策制定者合作，以确保其增强安全，同时最大化人工智能的经济利益。
各州还应继续作为民主的实验室，参与前沿安全以外的领域，包括青少年保护、电力与环境政策以及人工智能教育与素养。
联邦框架依然是不可或缺的。前沿人工智能提出了国家安全、经济竞争力和公共安全的问题，最终需要国家标准、国家能力以及支持民主人工智能的国家机构。
**全球**
国家立法对于以美国为主导的国际人工智能标准框架同样至关重要。几周前在七国集团会议上，与巴西、埃及、印度、肯尼亚和韩国的讨论中，前沿实验室的首席执行官们讨论了这一框架的必要性。会后，开放人工智能首席执行官山姆·奥特曼在《金融时报》中提出了“一个由美国主导的国际论坛，制定公认的标准，提供能力与风险的专业分析，并使参与遵守规则的国家与公司获得技术。”本周，谷歌DeepMind的首席执行官德米斯·哈萨比斯在一份新论文中也提出了深思熟虑的想法。联邦立法——必然是两党的合作——将为这一国际努力提供强有力的基础。
这种势头正在各个层面上显现。各州正建立共同的方法。国会和行政部门正在构建国家框架。全球领导者也开始讨论国际标准。如果各方能够相辅相成，美国即可在建立基于人工智能民主愿景的全球框架方面发挥主导作用。而这一民主对齐的方法才是真正将安全置于首位的方式。
---
原文链接：[点击查看](https://openai.com/index/advancing-ai-safety-through-state-and-federal-action)
评论
暂无评论。