“AI 教父”辛顿参与联署公开信：科技巨头应保证第三方评估人员工作无干预、受保护

据《商业内幕》18 日晚间报道，由多家监督组织组成的 AI 评估机构论坛发布了一封公开信，为第三方风险评估划出一套最低条件：Anthropic 和 OpenAI 这类 AI 实验室只有满足特定要求，才能与外部评估机构开展更有效的合作。

这封公开信已获数十位 AI 领域人士联署，其中包括“AI 教父”、计算机科学先驱杰弗里·辛顿，以及斯图尔特·罗素。

本周，网上对 AI 风险的担忧迅速升温。Anthropic CEO 达里奥·阿莫迪和 OpenAI CEO 萨姆·奥尔特曼此前都承诺向第三方评估人员开放公司内部资源，让其评估 AI 风险，并获得与员工同等级别的信息访问权限。

AI 评估机构论坛的这封公开信正是对此的回应。信中写道：“要具备公信力，驻场第三方评估人员必须保持科学客观性、透明度和独立性，并得到充分保护，免受被评估企业的干预。”

论坛方面认为，第三方评估人员不仅应获准公开透明地开展工作，还应能直接与公司董事会及其他拥有特殊监督权限的机构沟通，不受企业过滤或限制，并有权公开发布评估结果。

这些评估人员还应受到保护，避免因评估工作遭到 AI 实验室报复，同时获得与企业内部评估人员相同的系统、数据、工具和实体场所访问权限。

公开信还主张，每家 AI 实验室都应引入观点和专业背景各异的评估人员，以覆盖生物科学风险、AI 失控风险等多个风险领域。


本周早些时候，其他科技行业领袖也加入了这场讨论。微软 CEO 萨提亚·纳德拉表示，公司欢迎让第三方评估人员直接进驻 AI 企业开展评估的构想。

---

原文链接：[点击查看](https://www.ithome.com/1/004/330.htm)