上千名员工呼吁美国政府控制 AI 发展，OpenAI CEO 奥尔特曼表态
北京时间 7 月 29 日，据《商业内幕》报道，美国一些头部 AI 公司的高管表示，联邦政府现在是时候找到一种方法，在必要时对 AI 开发踩刹车了。
来自 OpenAI、Anthropic、谷歌和 Meta 等公司的 1100 多名 AI 员工联合签署了一封公开信，呼吁美国政府控制 AI 发展速度。眼下，AI 公司正竞相研发能力越来越强大的 AI 系统，让外界担忧 AI 的发展速度可能会超过现有安全保障、治理体系和监管机制所能跟上的步伐。
“我们呼吁美国政府支持一项国际合作，开发必要的技术和治理工具，以便能够有意识地把控自动化 AI 开发的前沿进程。”公开信称。
这个倡议名为“把控前沿”(Pacing the Frontier)，签署这封公开信的高管包括 Anthropic CEO 达里奥 · 阿莫代伊 (Dario Amodei) 以及公司两位联合创始人杰克 · 克拉克 (Jack Clark) 和贾里德 · 卡普兰 (Jared Kaplan)、OpenAI 首席科学家雅库布 · 帕霍茨基 (Jakub Pachocki)、Meta 首席科学家赵晟佳 (Shengjia Zhao)，以及负责谷歌 DeepMind AI 安全与对齐工作的安卡 · 德拉甘 (Anca Dragan)。
这封信重点关注“自动化 AI 开发”，指的是未来 AI 能够自行开发和改进 AI 系统的能力。业界称这一过程为“递归式自我改进”。Anthropic 曾表示，其 Claude 系列模型正在快速接近这一门槛。
信中在谈到这一潜在时刻时写道：“很难准确预测这将在多大程度上加速 AI 的进步，但确实存在一种真实的风险：AI 能力的发展速度会迅速加快，超出我们理解或控制这些由此产生的系统的能力。”
针对这一公开信，OpenAI 在 X 平台上发文称：“我们相信，在未来的某个时间点，前沿模型开发中的 AI 加速可能会如此之快，以至于世界将需要把控 AI 进步的速度。”
“Anthropic 在 X 上的一篇帖子中表示：“我们上个月发布的关于递归式自我改进的研究表明，我们需要一些工具，能够有意识地调控 AI 发展的前沿速度，让社会有时间做好准备。”
与此同时，OpenAI CEO 萨姆 · 奥尔特曼 (Sam Altman) 表示，或许现在是时候“把控”AI 发展的节奏了，以便世界能够为此做好准备。
“我们可能需要把控 AI 发展的速度，给自己足够的时间，让社会适应这些新的能力水平并建立起防护机制。同时，我们也需要想办法做到这一点，既不能让任何人觉得这是监管俘获 (监管对象反过来影响监管者)，也不能让人觉得这是前沿 AI 实验室之间的串通。”他在接受《Invest Like the Best》播客采访时表示。
奥尔特曼的态度已经发生反转。过去，他曾避免签署一些呼吁放缓 AI 发展的倡议。他曾表示，2023 年的一封提出类似“放缓 AI 发展”主张的公开信，“缺少关于我们究竟需要在哪些方面暂停发展的关键技术细节。”
**相关阅读：**
- [OpenAI 多名员工公开声援 CEO 奥尔特曼，证实其乐于听取不同意见](https://www.ithome.com/0/976/256.htm)
- [OpenAI 奥尔特曼：人们并不想要 AI CEO，且更珍视人性联结](https://www.ithome.com/0/982/804.htm)
- [前沿 AI 模型限制令生效之际，OpenAI 奥尔特曼本周将赴华盛顿](https://www.ithome.com/0/982/779.htm)
- [Anthropic 迟迟不签公开信成“众矢之的”，CEO Dario Amodei 解释称公司从未主张禁止开源 AI 模型](https://www.ithome.com/0/982/343.htm)
---
原文链接：[点击查看](https://www.ithome.com/0/982/816.htm)
来自 OpenAI、Anthropic、谷歌和 Meta 等公司的 1100 多名 AI 员工联合签署了一封公开信，呼吁美国政府控制 AI 发展速度。眼下，AI 公司正竞相研发能力越来越强大的 AI 系统，让外界担忧 AI 的发展速度可能会超过现有安全保障、治理体系和监管机制所能跟上的步伐。
“我们呼吁美国政府支持一项国际合作，开发必要的技术和治理工具，以便能够有意识地把控自动化 AI 开发的前沿进程。”公开信称。
这个倡议名为“把控前沿”(Pacing the Frontier)，签署这封公开信的高管包括 Anthropic CEO 达里奥 · 阿莫代伊 (Dario Amodei) 以及公司两位联合创始人杰克 · 克拉克 (Jack Clark) 和贾里德 · 卡普兰 (Jared Kaplan)、OpenAI 首席科学家雅库布 · 帕霍茨基 (Jakub Pachocki)、Meta 首席科学家赵晟佳 (Shengjia Zhao)，以及负责谷歌 DeepMind AI 安全与对齐工作的安卡 · 德拉甘 (Anca Dragan)。
这封信重点关注“自动化 AI 开发”，指的是未来 AI 能够自行开发和改进 AI 系统的能力。业界称这一过程为“递归式自我改进”。Anthropic 曾表示，其 Claude 系列模型正在快速接近这一门槛。
信中在谈到这一潜在时刻时写道：“很难准确预测这将在多大程度上加速 AI 的进步，但确实存在一种真实的风险：AI 能力的发展速度会迅速加快，超出我们理解或控制这些由此产生的系统的能力。”
针对这一公开信，OpenAI 在 X 平台上发文称：“我们相信，在未来的某个时间点，前沿模型开发中的 AI 加速可能会如此之快，以至于世界将需要把控 AI 进步的速度。”
“Anthropic 在 X 上的一篇帖子中表示：“我们上个月发布的关于递归式自我改进的研究表明，我们需要一些工具，能够有意识地调控 AI 发展的前沿速度，让社会有时间做好准备。”
与此同时，OpenAI CEO 萨姆 · 奥尔特曼 (Sam Altman) 表示，或许现在是时候“把控”AI 发展的节奏了，以便世界能够为此做好准备。
“我们可能需要把控 AI 发展的速度，给自己足够的时间，让社会适应这些新的能力水平并建立起防护机制。同时，我们也需要想办法做到这一点，既不能让任何人觉得这是监管俘获 (监管对象反过来影响监管者)，也不能让人觉得这是前沿 AI 实验室之间的串通。”他在接受《Invest Like the Best》播客采访时表示。
奥尔特曼的态度已经发生反转。过去，他曾避免签署一些呼吁放缓 AI 发展的倡议。他曾表示，2023 年的一封提出类似“放缓 AI 发展”主张的公开信，“缺少关于我们究竟需要在哪些方面暂停发展的关键技术细节。”
**相关阅读：**
- [OpenAI 多名员工公开声援 CEO 奥尔特曼，证实其乐于听取不同意见](https://www.ithome.com/0/976/256.htm)
- [OpenAI 奥尔特曼：人们并不想要 AI CEO，且更珍视人性联结](https://www.ithome.com/0/982/804.htm)
- [前沿 AI 模型限制令生效之际，OpenAI 奥尔特曼本周将赴华盛顿](https://www.ithome.com/0/982/779.htm)
- [Anthropic 迟迟不签公开信成“众矢之的”，CEO Dario Amodei 解释称公司从未主张禁止开源 AI 模型](https://www.ithome.com/0/982/343.htm)
---
原文链接：[点击查看](https://www.ithome.com/0/982/816.htm)
评论
暂无评论。