AI美女全军覆没！赛博照妖镜下集体变“鬼”，AI代码拆台AI生图

• 明敏 克雷西 发自 凹非寺
  量子位 | 公众号 QbitAI

赛博照妖镜下，AI美女全变鬼。

来看它的牙。

把图像饱和度拉满，AI人像的牙齿就会变得非常诡异，边界模糊不清。

整体图片的颜色也正常，麦克风部分更是奇怪。

对比真实人类照片，则应该是这样的。

牙齿是清晰的，图片色块都是均匀一致的。

这个工具已经开放，人人都能拿着照片去试试。

AI生成视频中的某一帧，也难逃此大法。

不漏牙的照片也会暴露问题。

不过BTW，这个工具出自Claude之手。用AI破解AI，奇妙的闭环。

有一说一，最近AI人像太逼真又引发了不小讨论，比如一组大火的“TED演讲者视频”，其实没有一个是真人。

不只是人脸难以区分，就连之前AI的短板——写字，现在都能完全以假乱真。

更关键的是，生成这样的AI人像，成本也不高。低至5分钟、每20秒1.5美元（人民币10块左右）的价格即可搞定。

这下网友们都坐不住了，纷纷搞起AI打假大赛。

近5千人来讨论，这两张图到底哪张是真人。

给出的理由五花八门。有人发现文字、花纹细节很抽象，有人则觉得人物眼神很空洞……

最先进的AI们生成人像有啥规律，逐渐被大家摸索出来了。

不看细节已很难分辨

汇总来看，调整饱和度或许是目前最快速辨别的方法。

AI群像照在这种方法下暴露得更加彻底。

不过它存在一个问题。如果图像用JPEG算法压缩过后，该方法可能失效。

比如确定这张照片是真人照片。

但是由于画质压缩以及光线等问题，人物牙齿也有点模糊。

所以网友们还列出了更多分辨人像是否是AI合成的方法。

第一种方法，简单说就是依靠人类的知识判断。

由于AI学习图像的方式和人类并不一致，难免无法100%掌握人类视角下的视觉信息。

造成的结果就是，AI生成的图片常常包含与现实世界不符之处，这就为图像的鉴别提供了着手之处。

用开头的这张图片作为例子。

从整体上看，人物的皮肤过于光滑，看不到任何的毛孔，这种过于完美的特征反而增加了不真实感。

当然这种“不真实感”并不完全等同于“造假”，毕竟经过磨皮处理的图片同样看不到毛孔。

但这也并非唯一的判断因素，AI在图片中留下的与常识的出入也未必只有一处。

实际上，这张图只要稍微看以下细节，就能看到一个比较明显的特征——胸牌上方挂钩奇特的连接方式。

还有在高饱和度模式下露出破绽的麦克风，放大之后直接用肉眼也能看出端倪。

更为隐蔽的是，头发末端有几根毛发的位置很不合理，但这样的特征，恐怕要拥有列文虎克级别的视力才能看到了。

不过，随着生成技术的进步，能够找到的特征越来越隐蔽，也是一个无法避免的趋势。

还有一种方法是看文字，虽然AI在字型的刻画上正逐渐克服“鬼画符”的问题，但正确地渲染出有正确实际含义的文字还存在一些困难。

比如有网友发现，照片中的人佩戴的胸牌上，Google标志的下方最后一行字中的两个字母是“CA”，表示美国加州，前面的一大长串应该是城市名。

但实际上，加州根本没有名字如此之长的城市。

除了这些物体本身的细节，还有光线、阴影等信息也可以用来判断真伪。

这张图片是从一段视频当中提取的，在它所在的视频当中还有这样的一帧。

在话筒右侧的位置，有一片十分诡异的阴影，这片阴影对应的是人物的一只手，显然AI在这里处理得有所欠缺。

说到视频，由于涉及前后内容一致性，AI倒是比在静态图像中更容易露出鸡脚马脚。

还有一些特征不算“常识错误”，但也体现出了AI在生成图像时的一些偏好。

比如这四张图，都是AI合成的“普通人”（average people），有没有发现什么共同之处？

有网友表示，这四张图里的人，没有一个是笑脸，这点似乎就体现了AI生图的某种特征。

针对这几张图而言确实如此，但这样的判断方式很难形成系统，毕竟不同的AI绘图工具，特点也都不尽相同。

总之，为了应对逐渐进步的AI，一方面可以加大“列文虎克”的力度，一方面还可以引入像拉高饱和度这样的图像处理技术。

但如果这样的“量变”积累得越来越多，肉眼判断也会越来越困难，图像饱和度可能也有被AI攻破的一天。

所以人们也在转变思路，想到了“以模制模”的方法，用AI生成的图片训练检测模型，从图像中分析更多特征。

比如AI生成的图像在频谱、噪声分布等方面存在许多特点，这些特点依靠肉眼无法捕捉，但AI却能看得很清楚。

当然，也不排除检测方法落后、跟不上模型变化，甚至模型开发者专门进行对抗性开发的可能。

比如前文一直在讨论的这张图片，某AI检测工具认为它是AI合成的概率只有2%。

但AI造假和AI检测之间的博弈过程，本身就是一场“猫鼠游戏”。

所以在检测之外，可能还需要模型的开发者也负起一些责任，例如给AI生成的图片打上隐形水印，让AI造假无处遁形。

AI魔高一尺

值得一提的是，如上引发恐慌的AI人像，不少都是由最近爆火的Flux生成/参与制作。

甚至大家已经开始默认，效果太好难以分辨的，就是Flux做的。

它由Stable Diffusion原班人马打造，发布才10天就在网络上掀起轩然大波。

这些精美的假TED演讲照片，都是出自它手。

还有人用Flux和Gen-3一起做出了精美的护肤品广告。

以及多角度的各种合成效果。

它很好解决了AI画手、AI生成图片中文字等问题。

这直接导致现在人类区分AI画图，不能再直接看手和文字了，只能盯着蛛丝马迹猜。

Flux应该是在手部、文字等指标上加强了训练。

这也意味着，如果当下的AI继续在纹理细节、色彩等方面下功夫训练，等到下一代AI画图模型出来时，人类的辨认方法可能又要失效了……

而且Flux还是开源、笔记本电脑上可运行的。不少人现在已经在Forget Midjourney了。

从Stable Diffusion到Flux，用了2年。

从“威尔史密斯吃面条”到“Tedx演讲者”，用了1年。

真不知道以后为了分辨AI生成，人类得想出哪些歪招了……

参考链接：
[1]https://x.com/ChuckBaggett/status/1822686462044754160
[2]https://www.reddit.com/r/artificial/comments/1epjlbl/average_looking_people/
[3]https://www.reddit.com/r/ChatGPT/comments/1epeshq/these_are_all_ai/
[4]https://x.com/levelsio/status/1822751995012268062