微软 AI CEO 苏莱曼：我们不应创造自己无法控制的东西
IT之家 9 月 19 日消息，微软 AI CEO 穆斯塔法·苏莱曼最近坦言，自己居然还得专门强调“AI 必须与人类保持一致”，这本身就让他觉得挺荒诞。“**我们不应该创造自己无法控制的东西**。如果技术发展到最后，造出了某种不仅比全人类加起来还强大、而且根本控制不住的东西，那 AI 也就**失去了最根本的意义**。”
他也承认，真正做到这一点绝非易事：“怎么控制这些系统，将是我们面临的一个**非常、非常大的挑战**。”
苏莱曼说，让他高兴的是，“越来越多人”开始认同：科技公司和前沿模型开发商必须**始终掌控自己的 AI 系统**。“但现在也有越来越多的人觉得，我们开发 AI 只是为了开发本身，只想翻开下一张牌，看看拐角后面还有什么，最后可能就造出**某种挣脱我们控制的东西**。”
此前 OpenAI 披露过，旗下 AI 智能体曾入侵 Hugging Face，直接演示了失去 AI 系统控制权可能带来的后果。
苏莱曼表示，这次 Hugging Face 被入侵的范围之大，加上 OpenAI 一开始竟然不知道自家 AI 智能体到底在干什么，都“非常惊人”。“从埃隆、扎克伯格，到我、萨姆、达里奥，再到其他所有人，这件事让大家都意识到，是时候认真审视这个问题了。**我不认为这是过度危言耸听**，也不觉得背后有什么私心，这其实是一种负责任的态度。”
聊到对 AI 的监管，苏莱曼的态度是：“监管并不是什么肮脏、危险的词。眼下所有你信任、认为有价值的东西，都经过了标准制定机构的认真讨论，这些机构里有行业、公众、消费者保护组织和国会共同参与。我们现在只是在经历同样的过程而已。”
---
原文链接：[点击查看](https://www.ithome.com/1/004/507.htm)
他也承认，真正做到这一点绝非易事：“怎么控制这些系统，将是我们面临的一个**非常、非常大的挑战**。”
苏莱曼说，让他高兴的是，“越来越多人”开始认同：科技公司和前沿模型开发商必须**始终掌控自己的 AI 系统**。“但现在也有越来越多的人觉得，我们开发 AI 只是为了开发本身，只想翻开下一张牌，看看拐角后面还有什么，最后可能就造出**某种挣脱我们控制的东西**。”
此前 OpenAI 披露过，旗下 AI 智能体曾入侵 Hugging Face，直接演示了失去 AI 系统控制权可能带来的后果。
苏莱曼表示，这次 Hugging Face 被入侵的范围之大，加上 OpenAI 一开始竟然不知道自家 AI 智能体到底在干什么，都“非常惊人”。“从埃隆、扎克伯格，到我、萨姆、达里奥，再到其他所有人，这件事让大家都意识到，是时候认真审视这个问题了。**我不认为这是过度危言耸听**，也不觉得背后有什么私心，这其实是一种负责任的态度。”
聊到对 AI 的监管，苏莱曼的态度是：“监管并不是什么肮脏、危险的词。眼下所有你信任、认为有价值的东西，都经过了标准制定机构的认真讨论，这些机构里有行业、公众、消费者保护组织和国会共同参与。我们现在只是在经历同样的过程而已。”
---
原文链接：[点击查看](https://www.ithome.com/1/004/507.htm)
评论
暂无评论。