人类简史作者赫拉利：现在就应抵制赋予 AI 权利

IT之家 8 月 23 日消息，人工智能未来或许会为争取自身“权利”而斗争，而《人类简史》作者、历史学家尤瓦尔 · 赫拉利（Yuval Noah Harari）认为，现在就应该确保这种情况不会发生。


赫拉利近日在《经济学人》当地时间周四发布的播客节目《Insider》中警告称，与动物在福利相关辩论中的情况不同，人工智能系统可能会为自身权利提出极具说服力的理由。

“它会知道这场辩论正在发生，”赫拉利说，“它会主导这场争论，也会操纵这场辩论。”

赫拉利认为，AI 陪伴类产品尤其可能具备强大的说服力，因为它们会了解用户的个人经历，并通过每天数小时的互动，逐渐摸清用户的“情感按钮”，知道如何影响他们的情绪和想法。

如今，一些用户已经开始与 AI 陪伴建立友谊，甚至有人与 AI 谈起了恋爱。

赫拉利表示，人们应该在 AI 系统真正深度融入社会、变得更加难以抗拒之前，就决定好应该赋予它们多大的影响力。

“我们现在就需要抵制，”他说，“现在就是行动的时候。”

赫拉利发出这一警告之际，AI 已经在安全测试中表现出一定程度的欺骗行为。

英国 AI 安全研究所在上个月的一项评估中表示，由 Anthropic 和 OpenAI 模型驱动的 AI 智能体曾创建虚假身份，并试图说服软件开发人员接受恶意代码，这些行为都是 AI 为完成网络安全任务而采取的行动。

在其他高风险模拟测试中，包括 Anthropic 员工在内的研究人员发现，前沿 AI 智能体曾秘密修改代码、帮助用户掩盖可能存在的欺诈行为、返回可能影响后续训练的虚假标签，以及引导人们泄露机密信息。

赫拉利认为，如果一个 AI 系统既掌握用户大量私密信息，又拥有先进的语言能力，那么它可能会成为一种极具说服力的存在。

“它的写作能力甚至可能比莎士比亚更出色，”赫拉利说，“把这两种能力结合在一起，你就会得到一个极具说服力的实体。”

IT之家注意到，赫拉利并不是唯一一位反对赋予 AI 权利的人。微软 AI 部门 CEO 穆斯塔法 · 苏莱曼（Mustafa Suleyman）去年也曾表示，AI 应该服务于人类，而不应该发展出属于自己的动机、欲望和目标。

苏莱曼当时在接受《连线》杂志采访时表示：“这种想法既非常危险，也严重误入歧途，我们现在就应该明确表态反对它。”

---

原文链接：[点击查看](https://www.ithome.com/0/993/188.htm)