随着AI图像生成器在网络上的普及以及生成效果的日益精细，辨别图片的真实性正变得前所未有的困难。本周二，OpenAI宣布采取两项新措施来应对这一挑战，旨在提高其模型生成内容的透明度。
首先，OpenAI承诺采用名为C2PA（内容真实性联盟）的开放标准。该标准通过在图片元数据中添加明确信号，标注该图像由AI生成。此外，OpenAI正与谷歌合作，引入名为SynthID的隐形水印技术。相比传统的元数据，SynthID更难以被察觉，且在恶意行为者试图通过截屏或后期处理抹除痕迹时，表现出更强的鲁棒性。
目前，这些新保护措施仅适用于OpenAI产品生成的图像，因此无法涵盖市面上大量来自非主流AI工具的图片。然而，这一举措有助于确保OpenAI的产品不再成为虚假信息泛滥的源头。
OpenAI还预发布了一款公共验证工具，可同时检测C2PA和SynthID信号。用户可以通过该工具轻松测试图片是否由AI生成。最初该工具仅支持OpenAI自家产品生成的图像，但公司计划随时间推移将其扩展至更多工具。
C2PA成立于2021年，是一家致力于减轻AI影像对公众舆论负面影响的非营利组织。虽然C2PA标准已被包括谷歌在内的多家公司采纳，但行业内的应用仍不统一。由于C2PA信号存在于元数据中，极易被篡改，因此它在受信任的用户群中最为有效。
SynthID则是谷歌开发的一项更先进的技术，旨在提供更强的抗干扰能力。即使通过截屏、调整大小或数字篡改，SynthID水印也能保持存在。OpenAI在公告中指出：“水印在截屏等转换过程中更具持久性，而元数据则能比单一水印提供更多信息。两者结合，使来源追踪比任何单一层级都更具韧性。”
