我们的计划：造福每一个人
每隔几代，新技术便会改变一切。想象一下1920年代电力抵达美国某个乡村小镇的情景。在电力到来之前，日常生活受到物理条件的制约：提水、手洗衣物、用冰保鲜食物以及白天只在日落前完成大部分工作。电力并没有瞬间改变每个家庭，许多好处也不是平等地传递给每个人。但随着电力的普及，普通人的生活发生了巨大的变化：夜晚的光线延长了白天的时间，电动泵、家用电器和冰箱减少了每日的一些艰苦劳动，收音机则带来了远方的新闻、音乐以及人与人之间的联结。
电力最初的承诺是实用的，但其更深远的影响来自于它为更多人带来的新可能性。随着时间的推移，许多新可能性不断涌现，机器和计算机在医学、工程以及其他多个领域极大地加速了进步。截至20世纪末，平均寿命增加了20多年，经过通货膨胀调整后的中位收入也增加了约三倍。这些收益与医疗、卫生和生活标准的进步密不可分，而这些进步也得益于电气化及相关的技术发展。
这一切正在AI身上重现。AI即将具备非凡的能力，但重点并不在技术本身，而在于人们能够利用它进行的事情。它可以帮助人们应对医疗账单、学习新技能、创办小企业、照顾年迈父母、理解法律或金融决策，将想法变为现实，或者进行科学发现。
尽管夜晚的光芒可能很快便失去了新奇感，但人们如何利用它却没有停下。由于技术一直是带来繁荣的可靠途径，我们认为AI应该对每个人开放，让他们在需要的地方和方式中充分利用。
这样的未来不会自然而然地来临。变革性技术有可能集中权力，也有可能扩展它。它们可以让少数人生活得更轻松，或者为更多人打开机会之门。我们的做法基于一个信念：AI应该为人们服务：帮助他们追求自己的目标，提升他们的能力，并尽可能广泛地分配这种技术的好处。
我们的首要承诺是建设服务于人类的AI。这意味着我们希望广大人民受益，而不是让权力集中在几家公司、政府或者个人手中。我们相信，安全的未来是一个权力广泛分散的未来，这样世界上更多的人才能参与建设一个具有韧性的生态系统。
对AI的乐观源于我们相信它能够扩大人类的能力与繁荣。但我们也清醒地认识到其风险。强大的系统必须保持安全，与人类意图相一致，并受到人类控制。我们在OpenAI的使命是确保AGI造福全人类。这意味着构建出能够帮助人们做更多自己选择的事情的系统，而不是取代人类在重要决策中的判断。
未来绝不是完全自动化一切，它将是未为我们带来充实感，且也将是危险的。AI应该帮助人们追求目标，而不是与人类目标脱节。随着AI系统能力的提升，人类的角色将变得更加重要：设定方向、做出权衡、应用判断，并在工作中带入价值观、品位、关怀和责任感。
人类的一个关键长期角色将是决定什么是值得做的。
我们相信，AI从事AI研究将成为未来几年内推动进展的决定性因素。这是很重要的，因为对齐本身就是一个困难的研究问题。为了实现快速而深远的进展，我们的研究人员需要能够帮助测试想法、发现错误、探索替代方案并与我们共同迭代的AI系统。
然而，技术进步越快，人类判断和公共协调的重要性也就越大。未来应该由人、机构和社会共同塑造，而不仅仅是那些打造最具能力系统的公司。
随着前沿AI的发展，我们预计国家和全球的协调将变得愈加重要。我们一直认为，最终应该有一个国际组织来协调领先的AI工作，以减少灾难性风险。合作与共享的安全标准是前行道路的一个重要部分，特别是因为围绕商业和国家竞争的激励机制是难以逃避的。这样的组织的一个目标应该是使世界能够采取协调行动，包括在必要时放缓前沿的发展，以保持社会的韧性、安全和一致性。
在OpenAI，我们目前设定了三个主要目标：
1. **构建自动化AI研究员**——一个能够加速并逐渐自动化研究过程的AI系统，同时保持可引导、可问责且与人类相连。我们内部相信，到2028年3月，我们的研究中可能有相当一部分将由AI系统与我们的研究人员并行完成。为了在对齐方面取得足够的进展，我们相信需要让AI与我们共同迭代。这将帮助我们在过渡到后AGI世界时共同决定未来的方向。
2. **加速经济**，通过加速科学进步、生产力和经济增长，同时确保收益得到广泛分配。每个人都应该有机会分享AI创造的繁荣。
3. **为地球上的每个人提供个人AGI**，使他们能够以任何方式受益于这一人类最具变革性的技术。
要能够兑现这些承诺，我们正进入OpenAI的第三阶段。
OpenAI的第一阶段是围绕AGI进行研究，第二阶段是在我们的研究与现实世界相关时开始的，我们成为了一家产品公司：部署我们的系统，学习人们如何使用它们，并在确保安全并与我们的使命一致的前提下，持续推进AGI。
现在我们正进入第三阶段。经济正开始围绕AI进行重塑。当前的核心问题是如何让先进的AI既丰富、负担得起、安全、实用，又足够简单，让每个人和组织都能受益。前沿能力仅仅是工作的一部分。更重要的任务是将这种能力转变为人们可以真正利用的工具，从而茁壮成长。
最重要的是，我们相信权力的广泛分布将有助于引领更美好的未来。人类历史显示，集中权力会导致脆弱性，而广泛共享的权力会使社会更具韧性、适应性以及自由。这就是为什么开放访问如此重要。安全、隐私、可负担性、开放生态系统和公共监督同样至关重要。
一个美好的AI未来不应是少数机构控制了大部分的能力和利益，而是一个让许多人、公司、社区和国家能够共同建设、分享、和掌握权力的未来。我们相信这一转型应该属于每一个人。如果我们做对了，AI可以成为更高生产力、创造力、科学进步和经济机会的基础，而我们将实现我们的使命：确保AGI造福全人类。
---
**AI韧性**指的是社会可以建立起来的组织、系统和个人，以预见、承受、适应和快速恢复AI驱动的干扰。例如，汽车改变了社会，但它们之所以能够广泛受益，是因为社会围绕它们建立了种种系统：安全带、交通法律、驾驶执照、碰撞测试和道路基础设施。目标不是阻止人们驾驶，而是让一种强大的技术能在广泛使用的情况下保持韧性。
---
原文链接：[点击查看](https://openai.com/index/built-to-benefit-everyone-our-plan)
电力最初的承诺是实用的，但其更深远的影响来自于它为更多人带来的新可能性。随着时间的推移，许多新可能性不断涌现，机器和计算机在医学、工程以及其他多个领域极大地加速了进步。截至20世纪末，平均寿命增加了20多年，经过通货膨胀调整后的中位收入也增加了约三倍。这些收益与医疗、卫生和生活标准的进步密不可分，而这些进步也得益于电气化及相关的技术发展。
这一切正在AI身上重现。AI即将具备非凡的能力，但重点并不在技术本身，而在于人们能够利用它进行的事情。它可以帮助人们应对医疗账单、学习新技能、创办小企业、照顾年迈父母、理解法律或金融决策，将想法变为现实，或者进行科学发现。
尽管夜晚的光芒可能很快便失去了新奇感，但人们如何利用它却没有停下。由于技术一直是带来繁荣的可靠途径，我们认为AI应该对每个人开放，让他们在需要的地方和方式中充分利用。
这样的未来不会自然而然地来临。变革性技术有可能集中权力，也有可能扩展它。它们可以让少数人生活得更轻松，或者为更多人打开机会之门。我们的做法基于一个信念：AI应该为人们服务：帮助他们追求自己的目标，提升他们的能力，并尽可能广泛地分配这种技术的好处。
我们的首要承诺是建设服务于人类的AI。这意味着我们希望广大人民受益，而不是让权力集中在几家公司、政府或者个人手中。我们相信，安全的未来是一个权力广泛分散的未来，这样世界上更多的人才能参与建设一个具有韧性的生态系统。
对AI的乐观源于我们相信它能够扩大人类的能力与繁荣。但我们也清醒地认识到其风险。强大的系统必须保持安全，与人类意图相一致，并受到人类控制。我们在OpenAI的使命是确保AGI造福全人类。这意味着构建出能够帮助人们做更多自己选择的事情的系统，而不是取代人类在重要决策中的判断。
未来绝不是完全自动化一切，它将是未为我们带来充实感，且也将是危险的。AI应该帮助人们追求目标，而不是与人类目标脱节。随着AI系统能力的提升，人类的角色将变得更加重要：设定方向、做出权衡、应用判断，并在工作中带入价值观、品位、关怀和责任感。
人类的一个关键长期角色将是决定什么是值得做的。
我们相信，AI从事AI研究将成为未来几年内推动进展的决定性因素。这是很重要的，因为对齐本身就是一个困难的研究问题。为了实现快速而深远的进展，我们的研究人员需要能够帮助测试想法、发现错误、探索替代方案并与我们共同迭代的AI系统。
然而，技术进步越快，人类判断和公共协调的重要性也就越大。未来应该由人、机构和社会共同塑造，而不仅仅是那些打造最具能力系统的公司。
随着前沿AI的发展，我们预计国家和全球的协调将变得愈加重要。我们一直认为，最终应该有一个国际组织来协调领先的AI工作，以减少灾难性风险。合作与共享的安全标准是前行道路的一个重要部分，特别是因为围绕商业和国家竞争的激励机制是难以逃避的。这样的组织的一个目标应该是使世界能够采取协调行动，包括在必要时放缓前沿的发展，以保持社会的韧性、安全和一致性。
在OpenAI，我们目前设定了三个主要目标：
1. **构建自动化AI研究员**——一个能够加速并逐渐自动化研究过程的AI系统，同时保持可引导、可问责且与人类相连。我们内部相信，到2028年3月，我们的研究中可能有相当一部分将由AI系统与我们的研究人员并行完成。为了在对齐方面取得足够的进展，我们相信需要让AI与我们共同迭代。这将帮助我们在过渡到后AGI世界时共同决定未来的方向。
2. **加速经济**，通过加速科学进步、生产力和经济增长，同时确保收益得到广泛分配。每个人都应该有机会分享AI创造的繁荣。
3. **为地球上的每个人提供个人AGI**，使他们能够以任何方式受益于这一人类最具变革性的技术。
要能够兑现这些承诺，我们正进入OpenAI的第三阶段。
OpenAI的第一阶段是围绕AGI进行研究，第二阶段是在我们的研究与现实世界相关时开始的，我们成为了一家产品公司：部署我们的系统，学习人们如何使用它们，并在确保安全并与我们的使命一致的前提下，持续推进AGI。
现在我们正进入第三阶段。经济正开始围绕AI进行重塑。当前的核心问题是如何让先进的AI既丰富、负担得起、安全、实用，又足够简单，让每个人和组织都能受益。前沿能力仅仅是工作的一部分。更重要的任务是将这种能力转变为人们可以真正利用的工具，从而茁壮成长。
最重要的是，我们相信权力的广泛分布将有助于引领更美好的未来。人类历史显示，集中权力会导致脆弱性，而广泛共享的权力会使社会更具韧性、适应性以及自由。这就是为什么开放访问如此重要。安全、隐私、可负担性、开放生态系统和公共监督同样至关重要。
一个美好的AI未来不应是少数机构控制了大部分的能力和利益，而是一个让许多人、公司、社区和国家能够共同建设、分享、和掌握权力的未来。我们相信这一转型应该属于每一个人。如果我们做对了，AI可以成为更高生产力、创造力、科学进步和经济机会的基础，而我们将实现我们的使命：确保AGI造福全人类。
---
**AI韧性**指的是社会可以建立起来的组织、系统和个人，以预见、承受、适应和快速恢复AI驱动的干扰。例如，汽车改变了社会，但它们之所以能够广泛受益，是因为社会围绕它们建立了种种系统：安全带、交通法律、驾驶执照、碰撞测试和道路基础设施。目标不是阻止人们驾驶，而是让一种强大的技术能在广泛使用的情况下保持韧性。
---
原文链接：[点击查看](https://openai.com/index/built-to-benefit-everyone-our-plan)
评论
暂无评论。