IT采购网11月30日消息，谷歌DeepMind团队今日推出了一款名为SynthID的工具，以应对日益增长的AI生成图像问题。该工具可以在AI生成的图像中嵌入人眼不可见的水印，以便于区分真实和虚假的内容。据IT采购网了解，SynthID已经开放给谷歌云平台上的部分客户使用。
据悉，SynthID通过在图像的像素中嵌入水印来实现，而且不会对图像本身的质量和体验造成影响。这种水印能够抵抗常见的图片编辑操作，如裁剪、缩放等，只有专门的AI检测工具才能检测出来。谷歌DeepMind的CEO Demis Hassabis表示，随着AI模型的改进，这种水印将变得更加隐蔽和强大。
SynthID的工具还可以告诉用户图像是由人工智能生成的可能性有多大。Hassabis表示，SynthID是为了解决深度伪造等潜在危险问题而开发的，他认为，在2024年美国和英国即将举行大选的背景下，建立AI图像识别系统非常重要。此外，他还表示，SynthID的基本思想也可以应用于视频和文本等其他媒体。
目前，SynthID只能在谷歌云平台上使用，主要面向使用VertexAI平台和Imagen图像生成器的客户。Hassabis希望通过在真实场景中进行测试，进一步改进SynthID。随后，谷歌将在更多领域应用该工具，并与更多合作伙伴分享，提高公众的意识和教育。
需要注意的是，除了谷歌之外，还有许多其他公司也在致力于建立AI保护和安全系统。例如，meta、******等公司正在采用一种名为C2PA的协议，利用加密元数据来标记AI生成的内容。Hassabis表示，SynthID有可能成为互联网范围内的标准之一，但他同时强调，这只是一个初步尝试，并不能解决深度伪造问题的所有困难。他称：“在我们证明了技术基础部分有效之前，考虑扩展和社会讨论还为时过早。”
