随着生成式AI技术的不断精进，所生成的图像愈发逼真，这一进步虽令人瞩目，却也逐渐被不法分子所利用，制造和传播虚假信息、假新闻。为应对这一挑战，生成式AI行业开始引入数字水印技术以进行内容辨识，而行业领头羊OpenAI也紧跟潮流，加入了这一功能。
OpenAI为生成内容添加标识
随着人工智能技术的飞速发展，网络上假图片的泛滥和版权失衡问题日益引发人们的担忧。数字水印，这一原本作为物理印记存在于纸张上的技术，已经进化为嵌入在数字照片中的半透明标记，用于识别内容的来源或版权信息。
OpenAI近期宣布，将采用由Adobe、Arm、Microsoft和Intel等企业共同倡议的C2PA组织制定的内容凭证规范。该规范旨在通过在自动生成的内容中加入辨识信息，使用户能够更容易地判断内容是否由AI生成。OpenAI将在图片的后设数据（metadata）中添加相关信息，以便应用程序能够读取并显示相应的标签。
OpenAI未来将持续强化内容凭证
据悉，这些后设数据将以加密方式得到保护，防止未经授权的更改。对于用户而言，他们无法直接看到这些差异，但可以通过支持该标准的应用程序看到标志，从而了解文件中是否存在内容凭证信息。
当用户点击这些标志时，会显示出更多详细信息，包括内容是否由AI生成、生成时间等。然而，值得注意的是，后设数据可以被删除，并且其有效性依赖于应用程序的支持，这意味着其广泛应用是确保有效性的关键。OpenAI强调，内容凭证并非解决问题的完美方案，他们将继续探索其他方法，旨在增强透明度的同时，保持高效性。