行业“教父”“教母”齐发声：辛顿、李飞飞、吴恩达呼吁保持 AI 一定程度的开放
IT之家 8 月 13 日消息，据外媒 TechCrunch 今天（13 日）报道，诺贝尔奖得主杰弗里·辛顿、World Labs 联合创始人兼 CEO 李飞飞及 Coursera 联合创始人吴恩达近日分别阐述了自己对 AI 开放的立场。
三人上周在拉斯维加斯举行的 Ai4 大会上讨论了这一问题。具体解决方案虽然各不相同，但三人都提出了充分理由，认为 AI **仍需要保持一定程度的开放**。
三人担心的是，AI 技术的发展速度**最终由少数大型公司掌控**。当少数企业垄断一项技术的使用渠道时，就可能出现类似**苹果和谷歌控制移动操作系统**的局面：创新速度下降，平台所有者也能影响开发者能够在平台上创造什么。
企业天然希望保护竞争优势，也可能通过影响行业规则来实现这一目的。长期发展下去，最先进的 AI 系统可能只有规模最大、资本最雄厚的企业才有能力开发。
辛顿不认为开放权重模型一定有助于维持这种竞争格局。他特别区分了**开源软件和开放权重模型**：开源软件会公开底层代码，**任何人都可以检查和修改**；开放权重模型则是将训练完成后的**模型参数直接公开**。
辛顿表示：“开源很好。代码公开以后，很多人会逐行检查，然后指出，‘哦，这里有个漏洞。’但是，**开放权重完全不是一回事**，你先训练一个大模型，再把模型权重交给所有人。我反对开放权重，因为基础大模型的训练成本非常高，人们拿到模型以后，却可以**用少得多的钱继续训练**，让模型从事网络攻击之类的恶意活动。”
辛顿同时承认，关于是否应该允许开放权重模型的争论**实际上已经结束**。“我认为那场争论已经输了。开放权重模型已经存在，过去阻止大量人获得大模型的主要门槛，也就是训练基础模型的成本，已经消失了。现在已经太晚了。”
接受开放权重模型已经存在，**并不意味着可以忽略潜在风险**。“担心 AI 可能产生的不良后果，以及比人类更聪明的智能体可能会做什么，**我认为并不过分**。把所有持这种观点的人都说成是在散布恐慌，才是不公平的。”
辛顿认为，AI 会继续进步，而且总体上会在提高生产力、改善教育和医疗等领域带来积极影响。
吴恩达的关注点不同。他认为，真正的问题不是开放模型有没有风险，而是谁掌握模型使用渠道，以及谁最终能够占领市场，**能够以更低成本开发模型的一方会取得优势**。“我希望我们能够推动美国的竞争力和开源 AI。我担心的是，美国国内大量的游说和恐慌渲染，让美国开源 AI 越来越难与中国推出的开放权重模型竞争。”
吴恩达同时主张保留多个 AI 供应商，**让模型和企业彼此竞争**，避免市场被少数参与者控制。“如果只能给一个建议，我会选择推动开放。AI 是一项令人惊叹的技术，我希望所有人都能掌握。我不希望，AI 领域出现限制所有人获取和使用 AI 的‘守门人’。”
李飞飞认为，不应该把问题简化成开放和封闭之间的二选一。“把问题变成**从完全开放到完全封闭的二元对立**非常危险。无论复杂的软件系统还是科学体系，实际情况都要细致得多。”
李飞飞用核物理举例：科学论文可以公开发表，铀必须受到监管，**实验室研究则处在两者之间**。她认为，开放并不是只能在“完全开放”和“完全封闭”之间二选一，AI 生态系统的不同层面完全可以采用不同程度的开放。
她还以人类基因组计划为例说明**公共机构和私营机构合作的价值**：该计划产生的知识成为其他机构继续开展工作的基础，制药企业可以从中盈利，科学家能够进一步推进研究，社会也因此受益。
“我认为，我们必须把 AI 当作类似的基础设施。在科学发现、教育和全球合作中需要一定程度的开放，也需要让创业者拥有能够盈利的商业模式。**闭源系统同样可以存在**。尤其是‘只能容忍其中一种模式’这种过于笼统的争论，本身就是一个错误命题。我们需要进行更加细致的讨论。”
三人都认同，**一定程度的监管仍然是确保 AI 沿正确方向发展的必要条件**。辛顿表示：“我们希望 AI 朝着帮助人类的方向发展，监管可以帮助我们做到这一点。不能把 AI 应该如何发展的决定权**交给马斯克和扎克伯格这样的人**。”
---
原文链接：[点击查看](https://www.ithome.com/0/989/245.htm)
三人上周在拉斯维加斯举行的 Ai4 大会上讨论了这一问题。具体解决方案虽然各不相同，但三人都提出了充分理由，认为 AI **仍需要保持一定程度的开放**。
三人担心的是，AI 技术的发展速度**最终由少数大型公司掌控**。当少数企业垄断一项技术的使用渠道时，就可能出现类似**苹果和谷歌控制移动操作系统**的局面：创新速度下降，平台所有者也能影响开发者能够在平台上创造什么。
企业天然希望保护竞争优势，也可能通过影响行业规则来实现这一目的。长期发展下去，最先进的 AI 系统可能只有规模最大、资本最雄厚的企业才有能力开发。
辛顿不认为开放权重模型一定有助于维持这种竞争格局。他特别区分了**开源软件和开放权重模型**：开源软件会公开底层代码，**任何人都可以检查和修改**；开放权重模型则是将训练完成后的**模型参数直接公开**。
辛顿表示：“开源很好。代码公开以后，很多人会逐行检查，然后指出，‘哦，这里有个漏洞。’但是，**开放权重完全不是一回事**，你先训练一个大模型，再把模型权重交给所有人。我反对开放权重，因为基础大模型的训练成本非常高，人们拿到模型以后，却可以**用少得多的钱继续训练**，让模型从事网络攻击之类的恶意活动。”
辛顿同时承认，关于是否应该允许开放权重模型的争论**实际上已经结束**。“我认为那场争论已经输了。开放权重模型已经存在，过去阻止大量人获得大模型的主要门槛，也就是训练基础模型的成本，已经消失了。现在已经太晚了。”
接受开放权重模型已经存在，**并不意味着可以忽略潜在风险**。“担心 AI 可能产生的不良后果，以及比人类更聪明的智能体可能会做什么，**我认为并不过分**。把所有持这种观点的人都说成是在散布恐慌，才是不公平的。”
辛顿认为，AI 会继续进步，而且总体上会在提高生产力、改善教育和医疗等领域带来积极影响。
吴恩达的关注点不同。他认为，真正的问题不是开放模型有没有风险，而是谁掌握模型使用渠道，以及谁最终能够占领市场，**能够以更低成本开发模型的一方会取得优势**。“我希望我们能够推动美国的竞争力和开源 AI。我担心的是，美国国内大量的游说和恐慌渲染，让美国开源 AI 越来越难与中国推出的开放权重模型竞争。”
吴恩达同时主张保留多个 AI 供应商，**让模型和企业彼此竞争**，避免市场被少数参与者控制。“如果只能给一个建议，我会选择推动开放。AI 是一项令人惊叹的技术，我希望所有人都能掌握。我不希望，AI 领域出现限制所有人获取和使用 AI 的‘守门人’。”
李飞飞认为，不应该把问题简化成开放和封闭之间的二选一。“把问题变成**从完全开放到完全封闭的二元对立**非常危险。无论复杂的软件系统还是科学体系，实际情况都要细致得多。”
李飞飞用核物理举例：科学论文可以公开发表，铀必须受到监管，**实验室研究则处在两者之间**。她认为，开放并不是只能在“完全开放”和“完全封闭”之间二选一，AI 生态系统的不同层面完全可以采用不同程度的开放。
她还以人类基因组计划为例说明**公共机构和私营机构合作的价值**：该计划产生的知识成为其他机构继续开展工作的基础，制药企业可以从中盈利，科学家能够进一步推进研究，社会也因此受益。
“我认为，我们必须把 AI 当作类似的基础设施。在科学发现、教育和全球合作中需要一定程度的开放，也需要让创业者拥有能够盈利的商业模式。**闭源系统同样可以存在**。尤其是‘只能容忍其中一种模式’这种过于笼统的争论，本身就是一个错误命题。我们需要进行更加细致的讨论。”
三人都认同，**一定程度的监管仍然是确保 AI 沿正确方向发展的必要条件**。辛顿表示：“我们希望 AI 朝着帮助人类的方向发展，监管可以帮助我们做到这一点。不能把 AI 应该如何发展的决定权**交给马斯克和扎克伯格这样的人**。”
---
原文链接：[点击查看](https://www.ithome.com/0/989/245.htm)
评论
暂无评论。