【AI生成图片能骗过平台的AI标签吗?】我们用各种AI软件生成的图片,会被各平台打上AI的标签,那是否有AI骗得过平台的可能性?
最直白的一招是查元数据。 OpenAI从 2024 年起,给自家模型生成的每张图都塞了份“出生证明”,哪个工具、什么时候生的,都写得明明白白。
我们国内也出台了相关法规,四部门的《人工智能生成合成内容标识办法》自 2025 年 9 月起就施行了,AI 图片出厂必须带标识,平台核验之后打标。元数据丢了的话,还有水印兜底。
谷歌的 SynthID 把看不见的信号直接写进像素,裁剪、滤镜、压缩很难抹干净,已经盖了超过千亿件 AI 图片和视频。Frank等人的工作表明,模型生成图像时的“上采样”操作会在频谱里留下周期性痕迹,学界靠这类频域特征设计了好用的检测器。
那 AI 骗得过平台吗?学术界尝试过往图里掺一点人眼看不见的对抗扰动,通过广泛的实验,结果表明最先进的检测器准确率也会显著下降。不过水印天生抗折腾,平台又多种招数混着用,骗过一关,不一定骗过其他关。何况在国内,恶意删标识是明令禁止的。(中科院物理所)中国科普博览
