我们对政府和国家安全合作的看法
# 我们对政府和国家安全合作的看法
政府开始使用前沿的人工智能系统来处理越来越重要的工作，包括国家安全。这为人工智能实验室、政府和民间社会共同探讨这些工具在敏感环境中的应用方式提出了新的要求。
我们相信，民主社会应能够利用人工智能来保护人民、捍卫关键基础设施、提供公共服务，并应对新出现的威胁，特别是在网络防御和生物安全等领域，人工智能可以为防御者带来显著的优势。然而，越来越强大的人工智能系统必须以增强民主问责、有效的人类判断和法治的方式部署，并且要增强民主机构，而不是集中权力。
**今天我们发布了OpenAI的国家安全原则，以便让大家更透明地了解我们与政府合作及国家安全使用我们技术的方法。**
这些原则反映了公司跨部门的努力，旨在对我们在国家安全和执法领域的工作采取更全面的方式，随着我们的技术持续进步。我们邀请了一位领先的国家安全专家David Kris来协助这一过程，并提供他的独立判断，在公司范围内举行了聆听会议，并与涉及研究、安全、政策和政府合作等多个团队的员工进行了沟通。
我们在扩大与美国政府和盟友在关键防御领域（尤其是网络和生物安全）合作的同时发布这些原则。过去一个月作为我们[Daybreak](https://openai.com/daybreak/)网络防御计划的一部分，我们已经与澳大利亚、加拿大、日本、韩国、法国、德国、波兰、荷兰及欧盟机构（如ENISA）建立了“可信的网络合作伙伴关系”。我们与英国政府在网络、防御测试和评估方面也建立了一个日益信任的合作关系。我们在生物安全方面也采取了类似的方式。上个月，我们还宣布了对支持公共卫生和生物防御任务的美国政府和盟友合作伙伴的GPT-Rosalind模型的扩展可信访问。
这些原则适用于我们当前和未来的国家安全及执法合作伙伴关系，包括我们与战争部的现有合作。当我们在今年早些时候宣布我们的协议时，我们阐明了几项合同限制：不允许使用OpenAI技术进行大规模国内监控，不允许使用OpenAI技术指挥自主武器系统，也不允许使用OpenAI技术进行高风险的自动决策。这些限制与我们今天分享的原则是一致的。
我们认为，理应明确我们的技术可以和不可以如何使用，并对此保持透明。然而，关于人工智能在政府中，尤其是在国家安全领域的一些重大问题，应该通过民主进程解决。像我们这样的公司的角色是帮助通知这些决定，而不是单独做出决定。这就是我们支持立法努力的原因，旨在建立关于一些高风险军事用途的人工智能的保障措施，包括在国内监控、无人武器系统以及其他直接影响美国国家安全的高风险用途方面。
在[这里阅读原则](https://cdn.openai.com/pdf/openai-principles-for-national-security-partnerships.pdf)。
---
原文链接：[点击查看](https://openai.com/index/government-national-security-partnerships)
政府开始使用前沿的人工智能系统来处理越来越重要的工作，包括国家安全。这为人工智能实验室、政府和民间社会共同探讨这些工具在敏感环境中的应用方式提出了新的要求。
我们相信，民主社会应能够利用人工智能来保护人民、捍卫关键基础设施、提供公共服务，并应对新出现的威胁，特别是在网络防御和生物安全等领域，人工智能可以为防御者带来显著的优势。然而，越来越强大的人工智能系统必须以增强民主问责、有效的人类判断和法治的方式部署，并且要增强民主机构，而不是集中权力。
**今天我们发布了OpenAI的国家安全原则，以便让大家更透明地了解我们与政府合作及国家安全使用我们技术的方法。**
这些原则反映了公司跨部门的努力，旨在对我们在国家安全和执法领域的工作采取更全面的方式，随着我们的技术持续进步。我们邀请了一位领先的国家安全专家David Kris来协助这一过程，并提供他的独立判断，在公司范围内举行了聆听会议，并与涉及研究、安全、政策和政府合作等多个团队的员工进行了沟通。
我们在扩大与美国政府和盟友在关键防御领域（尤其是网络和生物安全）合作的同时发布这些原则。过去一个月作为我们[Daybreak](https://openai.com/daybreak/)网络防御计划的一部分，我们已经与澳大利亚、加拿大、日本、韩国、法国、德国、波兰、荷兰及欧盟机构（如ENISA）建立了“可信的网络合作伙伴关系”。我们与英国政府在网络、防御测试和评估方面也建立了一个日益信任的合作关系。我们在生物安全方面也采取了类似的方式。上个月，我们还宣布了对支持公共卫生和生物防御任务的美国政府和盟友合作伙伴的GPT-Rosalind模型的扩展可信访问。
这些原则适用于我们当前和未来的国家安全及执法合作伙伴关系，包括我们与战争部的现有合作。当我们在今年早些时候宣布我们的协议时，我们阐明了几项合同限制：不允许使用OpenAI技术进行大规模国内监控，不允许使用OpenAI技术指挥自主武器系统，也不允许使用OpenAI技术进行高风险的自动决策。这些限制与我们今天分享的原则是一致的。
我们认为，理应明确我们的技术可以和不可以如何使用，并对此保持透明。然而，关于人工智能在政府中，尤其是在国家安全领域的一些重大问题，应该通过民主进程解决。像我们这样的公司的角色是帮助通知这些决定，而不是单独做出决定。这就是我们支持立法努力的原因，旨在建立关于一些高风险军事用途的人工智能的保障措施，包括在国内监控、无人武器系统以及其他直接影响美国国家安全的高风险用途方面。
在[这里阅读原则](https://cdn.openai.com/pdf/openai-principles-for-national-security-partnerships.pdf)。
---
原文链接：[点击查看](https://openai.com/index/government-national-security-partnerships)
评论
暂无评论。