Hacker News 中文摘要

RSS订阅

SynthID 检测器 -- SynthID Detector

SynthID 检测器(SynthID Detector)用于识别 AI 生成媒体。用户可上传图像、音频或视频文件进行检测。SynthID 会把人类无法察觉的数字水印直接嵌入 AI 生成内容,这些水印由采用该技术的生成式 AI 消费产品加入。水印虽不可感知,却能由 SynthID 技术检测,并对常见变换保持稳健。上传文件时请尽量选择最高质量版本,以确保检测准确率。它不是通用 AI 检测器,只能检测采用 SynthID 技术公司的媒体。

正文

识别 AI 生成的媒体

上传文件进行检测:拖放或选择文件。本工具检测由 SynthID 技术生成的媒体:SynthID 将数字水印直接嵌入 AI 生成的图片、音频或视频,水印添加在采用该技术的生成式 AI 消费产品里。

水印对人类不可感知,但能被 SynthID 技术检测,对常见变换具有鲁棒性。上传时请尽量用最高质量文件以确保准确率。

这不是通用 AI 检测器,只能检测采用了 SynthID 技术的公司的媒体。我们正持续扩展合作以检测更多生成内容。

常见问题

什么是 SynthID? SynthID 是 Google DeepMind 创建的数字水印方法,将不可感知的水印直接嵌入 AI 生成内容(图片、视频、音频、文本)中,以便后续识别。不同于可见标志或文件元数据(可能丢失),水印编织进内容本身:图片视频的像素、音频的频率分量。水印随内容传播,对互联网分享中的修改有鲁棒性,但无信号绝对鲁棒,建议决策前收集多点数据。

为何创建 SynthID? 生成式 AI 快速发展,AI 内容难与人工区分。虽释放创意潜力,也带来如传播欺骗内容的风险。识别 AI 生成内容能赋予人们知情权,做明智决定。

水印如何工作? SynthID 是一种水印和识别方法,用于 Google、Nvidia、OpenAI、Kakao 模型生成的内容。它直接嵌入水印到图片、音频、视频。每种模态水印人类不可感知但可检测。它是构建可靠 AI 识别工具的重要基石。

目前哪些 AI 模型和产品使用 SynthID? 该技术由 Google DeepMind 开创,已被 Nvidia、OpenAI、Kakao 采用,集成在增长中的模型生态里。

SynthID 检测器可分析哪些内容类型? * 图片——检测图中水印 * 视频——检测含水印片段 * 音频——检测含水印片段

如何解读检测结果? 检测器检查上传媒体: * 检测到水印:存在 SynthID 水印,可能由支持 SynthID 的 AI 模型编辑或生成。 * 未检测到水印:无置信信号,可能不是支持 SynthID 的模型生成;但不完全排除 AI 生成。

若由非合作模型创建或重度修改降级信号,可能未检测到。请用高质量文件,虽鲁棒但有边缘情况,建议收集额外证据。极罕见误触发非水印内容。

SynthID 与“AI 检测”工具的区别? * SynthID 水印:验证媒体通过检测创作时嵌入的有意信号,高可靠,但限于集成模型内容。 * 通用 AI 检测器:分析生成模型留下的被动痕迹估算可能性,范围更广但可能不可靠。

图像、音频和视频水印有多鲁棒? 设计不影响画质,水印在加滤镜、改色、有损压缩后仍可检测。但非绝对,若多次变换可能逃逸。它是内容来源层级方法的一层,非独立保证。

为何没有适用于所有 AI 公司的统一水印标准? 建立行业标准需时,不同内容类型技术要求不同。目标是分层生态,水印、元数据标准、验证工具协作。

欢迎使用 SynthID 检测器

服务条款

本服务由 Google 托管,受 Google 服务条款管辖。

附加服务条款

使用本检测器同意以下限制: * 反向工程或攻击:不可用服务、输出或反馈跑黑盒对抗攻击或优化变换破坏水印。 * 自动化或抓取:不可绕过 UI 程序提交、抓取或用作自动 API 批量验证。 * 规避配额:不可多账号、自动化或操纵标识绕过限流。 Google 有权立即暂停违规访问。

隐私声明

与 Google 隐私政策一同描述数据处理。 * 第三方登录:若用第三方账号(如 Apple),Google 处理保留基本标识(邮箱、用户 ID、提供商)以管理会话、防滥用和重复账号。 * 媒体处理与即时删除:上传文件实时处理,返回结果后立即删除原文件。 * 防滥用保留:为执行配额和防御攻击,安全存储媒体数字签名,映射用户 ID,24 小时后永久删除。

支持格式:图片 JPG、JPEG、PNG、BMP、WEBP、AVIF、HEIC、HEIF、TIFF、TIF、GIF;视频 MP4、MOV、WEBM;音频 WAV、MP3、OGG、FLAC、AAC、M4A。

评论

社区对 Google SynthID 检测器强制登录与封闭接口普遍不满,同时在检测思路(主动识别 AI 与验证相机来源)及水印持久性上存有分歧。

认为强制登录与授权不合理

  • 多名用户抱怨必须使用第三方账号登录且进入前需同意不明条款,体验糟糕(较多人) > 令人困惑的是这竟需要授权,连 OpenAI 自家工具都无需登录(@Tiberium)

认为 Google 不够透明且未提供开放接口

  • 用户指出 Google 未公开具体机制,无批量离线分类与公开 API,企业外无法使用,被指制造问题再收费(较多人) > 遗憾的是 Google 不够透明,也不提供批量或离线分类机制(@Retr0id)

确认这是 Google Deepmind 的 SynthID 项目并今日公开

  • 多条评论链接官方博客,澄清该工具是 Deepmind 用于识别 AI 生成媒体的水印检测器,而非其他(较多人) > 这是 Google Deepmind 用于识别 AI 生成媒体的项目(@pbronez)

认为 OpenAI 等已有更合理的免登录检测方式

  • 用户指出 OpenAI 工具虽只认自家水印且有频限,但无需登录;Google 此前图片搜索也曾免登录标记 AI 图(较多人) > OpenAI 有过不错的工具,虽只检测自家水印(@jdranczewski)

指出当前工具不支持文本检测

  • 少数用户注意到检测器仅限图像,未提供生成文本检测,尽管 SynthID 也涵盖文本水印(少数人) > 没有检测生成文本的选项,SynthID 不是也给文本加水印吗(@sha-3)

认为应转向验证相机硬件来源而非检测 AI

  • 少数用户建议反过来用硬件支持验证照片来自真实相机,因为 AI 造假用作证据难以逐一检测(少数人) > 我们或许该用硬件支持验证照片来自相机,而非试图检测每个 AI 生成图(@jakozaur)

认为水印终将被逆向去除或容易绕过

  • 多人指出类似历史水印会被逆向清除,篡改后检测失效,已有破解分析;社区也以多模型改写玩笑表达易绕过(较多人) > 正如以往水印,它会被逆向工程并清除这“不可感知”的痕迹(@xyst)

指出中国模型也拒绝绕过 SynthID 的反直觉现象

  • 少数用户提到连中国模型都拒绝尝试移除水印,称其为犯罪,疑似训练数据污染(少数人) > 最诡异的是连中国模型都拒绝绕过,称移除广告令牌是犯罪(@MisterMunchkin)

误解项目为识别合成器型号或歌曲声音

  • 部分用户初看标题以为检测音乐会照片中的合成器型号或歌曲中合成器设置,感到失望或好笑(少数人) > 天真以为这是检测歌曲中合成器设置的方法,还挺兴奋(@bdickason)

认为水印标准应开放而非私有

  • 少数用户疑问有无开放标准供普通生成者编码,若仅前沿模型私有则遗憾,但赞许标准化本身(少数人) > 若标准私有仅共享给前沿模型就太可惜了,不过标准化技术很酷(@NeumannGod)

有价值的补充

  • 实际测试显示六张未篡改的 AI 图全被捕获,两张添加图文覆盖层的漏检,说明鲁棒性有限(源自 justhw)。
  • SynthID 检测器存在约 24 小时 10 次的速率限制,OpenAI 方案亦有频限(源自 cubefox 等)。
  • 第三方已发表对 SynthID 的模型提取与对抗攻击研究,可本地训练分类器弥补官方不透明(源自 Retr0id 分享)。