谷歌为AI生成的图像制作了不可见的水印

人工智能生成的图像正变得越来越逼真，这将使发现深度造假和其他基于图像的错误信息变得更加困难。但谷歌的DeepMind团队认为，他们可能有一个解决方案：一种名为SynthID的特殊水印工具。

本周在Google Cloud Next上宣布，SynthID是Google Cloud和Google DeepMind团队之间的合作项目。Image已经通过谷歌云的生成式人工智能平台Vertex AI进行了测试。目前，它只能与Imagen合作，Imagen是谷歌的类似DALL-E 2的文本到图像生成器，但该公司正在考虑将类似的技术引入网络上可用的其他生成 人工智能模型。

根据DeepMind团队发布的公告博客文章，SynthID的工作原理是“将数字水印直接嵌入图像的像素中，使人眼无法察觉，但可以识别。”他们试图找到“图像处理的不可感知性和健壮性之间的正确平衡”。这是一个艰难的挑战，但也是一个重要的挑战。

正如DeepMind团队在声明中解释的那样，“虽然生成式人工智能可以释放巨大的创造潜力，但它也带来了新的风险，比如让创作者有意或无意地传播虚假信息。”建立某种系统来帮助人们和平台识别人工智能生成的内容，对于阻止错误信息的扩散至关重要。

研究人员声称，应用在库存照片顶部的传统水印(如徽标)不适合人工智能生成的图像，因为如果它们很小，它们可以毫不费力地编辑掉，如果它们又大又明显，它们“会给创意或商业目的带来美学挑战”。(换句话说，它们看起来真的很丑。)

同样，虽然过去曾有人试图开发难以察觉的水印，但DeepMind的研究人员声称，调整图像大小等简单操作就足以消除水印。

SynthID使用两个相关的基于深度学习的人工智能模型:一个用于对每个图像进行水印，另一个用于识别水印。这两个模型在相同的“不同的图像集”上一起训练，得到的组合模型经过优化，使水印尽可能不被人类察觉，但也很容易被人工智能识别。

至关重要的是，SynthID经过训练，即使在原始图像被编辑后也能检测到嵌入的水印。诸如裁剪、翻转或旋转、添加滤镜、改变亮度、颜色或对比度，或使用有损压缩算法等都不会从图像中删除水印——或者至少不会多到SynthID无法检测到它。虽然可能有一些方法可以通过积极的编辑来绕过它，但它应该对大多数常见的修改非常健壮。

作为进一步的防护，SynthID有三个置信度。如果它检测到水印，则可以相当确信Imagen是用来创建图像的。同样，如果它没有检测到水印，并且图像看起来不像是经过编辑的，那么它不太可能是由Imagen创建的。但是，如果它可能检测到水印(或者，假设，图像中类似于SynthID水印的区域)，那么它将抛出警告以谨慎对待它。

SynthID并不是深度造假的即时解决方案，但它确实允许道德创作者在他们的图像上加水印，这样他们就可以被识别为人工智能生成的。如果有人使用文本到图像的工具故意制造错误信息，他们不太可能选择将他们的图像标记为人工智能生成的，但至少它可以防止一些人工智能图像被断章取义。

DeepMind团队的目标是让SynthID成为识别人工生成的数字内容的“广泛方法”的一部分。虽然它应该是准确和有效的，但元数据、数字签名和简单的视觉检查仍然是识别这些类型图像的一部分。

展望未来，该团队正在收集用户的反馈并寻找改进synthid的方法——毕竟它仍处于测试阶段。他们还在探索将其与其他谷歌产品集成，甚至在不久的将来将其发布给第三方。他们的最终目标是值得称赞的，生成式人工智能已经出现了，所以使用它们的工具需要让“个人和组织能够负责任地使用人工智能生成的内容”。否则我们将会被许多可能的错误信息所困扰。