路透社实测发现，Meta 检测工具面对裁剪后的自家 AI 生成图片竟然“失灵”
IT之家 7 月 11 日消息，路透社 10 日披露的测试结果显示，Meta 本周公布的一款 AI 图像检测工具存在明显局限：部分由 Meta 自家模型 Muse Image 生成的图片 **只要经过裁剪，检测工具便无法确认其 AI 来源**。
Meta 在推出 Muse Image 的同时介绍了这款检测工具，并声称即使图片经过裁剪，工具仍可识别由 Meta AI 生成的内容。不过，路透社的测试结果显示，**常见的图片修改操作就可能削弱检测能力**。
路透社使用 Muse Image 生成了 40 张图片。检测工具成功识别了全部原图，但同一批图片被裁剪至原图约三分之一至二分之一大小后，**55% 的图片无法通过验证**。
据IT之家了解，Muse Image 会在每张生成图片中嵌入名为 Content Seal 的隐形水印。Meta 在官网称，检测工具可以通过这套水印系统确认图片是否由 Meta 的 AI 模型生成，**即使图片经过裁剪也能识别**。
Meta 回应路透社测试结果时强调，检测工具 **仍是预览版本**。Content Seal 的设计目标是在常见编辑后继续保留水印信号，**但图片一旦被大幅裁剪，信号仍可能丢失**。
---
原文链接：[点击查看](https://www.ithome.com/0/975/402.htm)
Meta 在推出 Muse Image 的同时介绍了这款检测工具，并声称即使图片经过裁剪，工具仍可识别由 Meta AI 生成的内容。不过，路透社的测试结果显示，**常见的图片修改操作就可能削弱检测能力**。
路透社使用 Muse Image 生成了 40 张图片。检测工具成功识别了全部原图，但同一批图片被裁剪至原图约三分之一至二分之一大小后，**55% 的图片无法通过验证**。
据IT之家了解，Muse Image 会在每张生成图片中嵌入名为 Content Seal 的隐形水印。Meta 在官网称，检测工具可以通过这套水印系统确认图片是否由 Meta 的 AI 模型生成，**即使图片经过裁剪也能识别**。
Meta 回应路透社测试结果时强调，检测工具 **仍是预览版本**。Content Seal 的设计目标是在常见编辑后继续保留水印信号，**但图片一旦被大幅裁剪，信号仍可能丢失**。
---
原文链接：[点击查看](https://www.ithome.com/0/975/402.htm)
评论
暂无评论。