8 月 30 日信息,为了应答日益增长的 AI 生成图像的疑问,谷歌 DeepMind 团队今天推出了一款名为 SynthID 的工具, 可以在 AI 生成的图像中嵌入人眼无法见的水印,但可以用专门的人工默认检测工具检测进去 ,以便于辨别实在和虚伪的内容。该工具曾经在谷歌云平台上向局部客户放开。
SynthID 的原理是在图像的像素中嵌入一个水印,但不会影响图像自身的品质和体验。 该水印可以抵制裁剪、缩放等经常出现的图片编辑操作 ,只要专门的 AI 检测工具能力识别进去。谷歌 DeepMind 的 CEO Demis Hassabis 示意,这种水印随着 AI 模型的改良,会变得愈加隐蔽和弱小。
SynthID 工具会通知你图像是人工默认生成的或者性有多大
Hassabis 说,SynthID 是为了处置深度伪造(deepfake)等潜在风险的疑问而开发的。他以为,在 2024 年美国和英国行将举办大选的背景下,建设 AI 图像识别系统是十分关键的。他还示意,SynthID 的基本思维也可以运行于视频和文本等其余媒体。
目前,SynthID 只能在谷歌云平台上经常使用,关键针对经常使用 Vertex AI 平台和 Imagen 图像生成器的客户。Hassabis 宿愿经过实在场景的测试,让 SynthID 变得更好。而后,谷歌将把它用于更多中央,与更多协作同伴分享,并提矮小众的看法和教育。
IT之家留意到,除了谷歌之外,还有许多其余公司也在努力于建设 AI 包全和安保系统。例如,Meta、OpenAI 等公司正在经常使用一种名为 C2PA 的协定,应用加密元数据来标志 AI 生成的内容。Hassabis 说,SynthID 或者会成为一个互联网范围内的规范之一。但他也强调,这只是一个初步尝试,并不是处置深度伪造疑问的万能药。他说,“在咱们证实了技术基础局部有效之前,思考裁减和社会探讨还为时过早。”