加强国家安全中的民主监督
# 加强国家安全中的民主监督
OpenAI 正在推出一项新倡议，以帮助民主监督机构开发必要的专业知识和工具，以理解和监督政府在国家安全中对人工智能的使用。
AI 正在改变民主政府保护人民的方式。它可以帮助阻止网络攻击、保护关键基础设施、及早发现威胁，并在危机情况下为公共服务者提供更清晰的视图。若使用得当，这些工具可以加强国家安全。
民主监督有助于确保公共权力的使用对所服务的人民负责。随着人工智能使国家安全工作变得更快、更强大，负责监督这些工作的机构也需要跟上步伐。AI 能快速处理缺失或过时的上下文、配置错误的目标或不对称的假设，使得错误在扩散之前更难以人工检测。由于涉及机密性且可能造成重大后果，人工智能在国家安全中的使用尤其需要监督。
根据我们的[国家安全原则](https://openai.com/index/government-national-security-partnerships/)，我们在国家安全部署中遵循保障措施、有效的人工判断和适当的监督，尤其是在高风险环境中。这些原则还优先考虑帮助负责监督的机构建立监督人工智能使用所需的能力，以应对快速发展的需求。
## 监督必须与人工智能的采用保持同步
政府机构已经建立了监督国家安全活动的权威和责任。当人工智能参与这些活动时，监督可能需要演变。传统的监督工作是劳动密集型的，当小团队使用纸面方法查看以机器速度运作的系统时，几乎变得不可能。
OpenAI 认为，功能更强大的系统需要更强的监督，我们将这一原则应用于自身。在我们的[准备框架](https://openai.com/index/updating-our-preparedness-framework/)下，先进模型在部署前经过严格审查，以了解其能力并确定保障措施是否充足。这种审查在部署后持续进行，随着监测和事件回顾，我们所学到的将用于加强保障措施和未来模型的开发。
OpenAI 并不对政府执行监督角色，这一责任应由民选官员和为此目的而建立的公共机构承担。相反，我们能够在监督机构执行现有任务时，通过我们的技术提供支持。
这项工作的指导原则有三点：
1. **人工智能应该强化，而不是取代，人工和机构判断。** 关于政府行为是否合法、合适以及是否符合相关规则和政策的决定应属于授权机构和合法设立的监督机构。
2. **政府对人工智能的使用应可追溯并对授权监督机构透明。** 审查者应能够了解人工智能如何影响决策，同时保护机密、私人和敏感的安全信息。
3. **人工智能应被用于增强民主监督机构的能力。**对政府中人工智能使用的人工监督无法扩展。随着人工智能在国家安全和其他高风险政府工作中的采用，监督机构也应以负责和透明的方式使用人工智能。
## OpenAI 的工作计划
在接下来的一年里，我们计划通过以下方式推进这一倡议：
* 我们将与授权官员合作，确认人工智能工具或技术支持可以有效提升监督的实际机会。
* 我们将为民主政府监督机构提供 500 万美元的培训、技术支持和 OpenAI 积分，以支持负责任地采纳和评估人工智能工具。
* 我们将与监督机构合作，试点工具，帮助授权审查者审查围绕人工智能辅助政府决策的记录，包括相关输入、输出和工具使用，以更好地理解人工智能如何影响结果。工具将在可行的情况下实现互操作性或与模型无关。参与的机构将保留控制权，证据、输出和发现的访问权仅限于经过授权的政府官员。
* 我们将与民间社会和技术专家进行接触，以便他们的观点在 OpenAI 开发这些工具和应对相关责任时能有所参考。
## 我们面临的选择
人工智能可以集中权力，也可以帮助民主机构更有效地行使和监督权力。单靠技术无法决定我们将走向何方，但人类机构和公司现在做出的选择将会影响未来。
我们将通过授权审查者是否更好地履行其义务，以及公众对政府 AI 系统的使用是否更加值得信任，来评估这一倡议的进展。
随着政府对人工智能的使用不断演变，OpenAI 将继续支持负责监督的机构。
---
原文链接：[点击查看](https://openai.com/index/strengthening-democratic-oversight-in-national-security)
OpenAI 正在推出一项新倡议，以帮助民主监督机构开发必要的专业知识和工具，以理解和监督政府在国家安全中对人工智能的使用。
AI 正在改变民主政府保护人民的方式。它可以帮助阻止网络攻击、保护关键基础设施、及早发现威胁，并在危机情况下为公共服务者提供更清晰的视图。若使用得当，这些工具可以加强国家安全。
民主监督有助于确保公共权力的使用对所服务的人民负责。随着人工智能使国家安全工作变得更快、更强大，负责监督这些工作的机构也需要跟上步伐。AI 能快速处理缺失或过时的上下文、配置错误的目标或不对称的假设，使得错误在扩散之前更难以人工检测。由于涉及机密性且可能造成重大后果，人工智能在国家安全中的使用尤其需要监督。
根据我们的[国家安全原则](https://openai.com/index/government-national-security-partnerships/)，我们在国家安全部署中遵循保障措施、有效的人工判断和适当的监督，尤其是在高风险环境中。这些原则还优先考虑帮助负责监督的机构建立监督人工智能使用所需的能力，以应对快速发展的需求。
## 监督必须与人工智能的采用保持同步
政府机构已经建立了监督国家安全活动的权威和责任。当人工智能参与这些活动时，监督可能需要演变。传统的监督工作是劳动密集型的，当小团队使用纸面方法查看以机器速度运作的系统时，几乎变得不可能。
OpenAI 认为，功能更强大的系统需要更强的监督，我们将这一原则应用于自身。在我们的[准备框架](https://openai.com/index/updating-our-preparedness-framework/)下，先进模型在部署前经过严格审查，以了解其能力并确定保障措施是否充足。这种审查在部署后持续进行，随着监测和事件回顾，我们所学到的将用于加强保障措施和未来模型的开发。
OpenAI 并不对政府执行监督角色，这一责任应由民选官员和为此目的而建立的公共机构承担。相反，我们能够在监督机构执行现有任务时，通过我们的技术提供支持。
这项工作的指导原则有三点：
1. **人工智能应该强化，而不是取代，人工和机构判断。** 关于政府行为是否合法、合适以及是否符合相关规则和政策的决定应属于授权机构和合法设立的监督机构。
2. **政府对人工智能的使用应可追溯并对授权监督机构透明。** 审查者应能够了解人工智能如何影响决策，同时保护机密、私人和敏感的安全信息。
3. **人工智能应被用于增强民主监督机构的能力。**对政府中人工智能使用的人工监督无法扩展。随着人工智能在国家安全和其他高风险政府工作中的采用，监督机构也应以负责和透明的方式使用人工智能。
## OpenAI 的工作计划
在接下来的一年里，我们计划通过以下方式推进这一倡议：
* 我们将与授权官员合作，确认人工智能工具或技术支持可以有效提升监督的实际机会。
* 我们将为民主政府监督机构提供 500 万美元的培训、技术支持和 OpenAI 积分，以支持负责任地采纳和评估人工智能工具。
* 我们将与监督机构合作，试点工具，帮助授权审查者审查围绕人工智能辅助政府决策的记录，包括相关输入、输出和工具使用，以更好地理解人工智能如何影响结果。工具将在可行的情况下实现互操作性或与模型无关。参与的机构将保留控制权，证据、输出和发现的访问权仅限于经过授权的政府官员。
* 我们将与民间社会和技术专家进行接触，以便他们的观点在 OpenAI 开发这些工具和应对相关责任时能有所参考。
## 我们面临的选择
人工智能可以集中权力，也可以帮助民主机构更有效地行使和监督权力。单靠技术无法决定我们将走向何方，但人类机构和公司现在做出的选择将会影响未来。
我们将通过授权审查者是否更好地履行其义务，以及公众对政府 AI 系统的使用是否更加值得信任，来评估这一倡议的进展。
随着政府对人工智能的使用不断演变，OpenAI 将继续支持负责监督的机构。
---
原文链接：[点击查看](https://openai.com/index/strengthening-democratic-oversight-in-national-security)
评论
暂无评论。