周二，Meta 宣布计划开始标记 OpenAI 和 Google 等其他公司的人工智能生成图像。此举旨在提高平台的透明度，例如 Facebook, Instagram 和 Threads，通知用户他们正在查看的内容是合成的数字媒体，而不是真实的照片或视频。
Meta 的解决方案是更广泛的科技行业努力的一部分，旨在为使用生成式 AI 模型创建的标签内容制定标准，这些模型能够根据书面提示创建虚假但真实的音频、图像和视频。
Meta 的全球事务总裁 Nick Clegg 在 Meta 网站上的一篇博客文章中宣布了这一消息。克莱格写道：“明年，我们将继续采取这种做法，届时世界各地将举行一些重要的选举。” “在此期间，我们希望更多地了解人们如何利用人工智能创建和共享内容、人们最看重什么透明度以及这些技术是如何发展的。”
Clegg 指出，Meta 的人工智能生成内容标记计划将扩展使用其自己的人工智能工具创建的标记内容的现有做法，以包括使用其他公司的服务创建的图像。
“我们正在构建行业领先的工具，可以大规模识别隐形标记，特别是 C2PA 和 IPTC 技术标准中的‘人工智能生成’信息，这样我们就可以标记来自 Google、OpenAI、 Microsoft、Adobe、Midjourney 和 Shutterstock，他们正在实施向其工具创建的图像添加元数据的计划。”
Meta 表示，人工智能生成的内容标签技术将基于文件中嵌入的不可见水印和元数据。 Meta 在使用其公共 AI 图像生成器创建的图像中添加了一个小的“Imagined with AI”水印。
在帖子中，克莱格表示对公司可靠地标记人工智能生成的图像的能力充满信心，尽管他指出用于标记音频和视频内容的工具仍在开发中。与此同时，Meta 将要求用户标记修改后的音频和视频内容，如果不这样做，将面临未具体说明的罚款。
他写道：“我们将要求人们在发布带有数字创建或更改的逼真视频或逼真声音的有机内容时使用此披露和标签工具，如果他们不这样做，我们可能会实施处罚。”
然而，克莱格指出，目前还没有有效的方法来标记人工智能生成的文本，这表明现在对书面内容实施此类措施为时已晚。这与我们的报告一致，即人工智能文本检测器无法工作。
就在这一消息发布的前一天，Meta 的独立监督委员会批评该公司关于欺骗性修改视频的政策过于狭窄，并建议标记此类内容而不是将其删除。克莱格同意这一批评，承认现有的元政策不足以管理互联网上不断增长的合成和混合内容。他认为新的标签举措是落实监管机构建议并刺激全行业采取类似措施的一步。
Meta 承认，它将无法检测在没有水印或元数据的情况下创建的 AI 生成内容，例如使用某些开源 AI 图像合成工具创建的图像。 Meta 正在研究一种名为“稳定签名”的图像水印技术，希望能够将其内置到开源图像生成器中。但只要像素就是像素，它们就可以以不受科技行业控制的方式创建，随着开源人工智能工具变得更加复杂和现实，这仍然是人工智能内容检测的一个挑战。
另请阅读：