“被吓到！”AI生图已经这么逼真了？网友：以后还能信吗……

来源：中国青年报

近日

社交平台被一组图片刷屏了：

千禧年间的小学生在小卖铺买零食

一张印刷完好的数学试卷

马斯克在直播间卖瑜伽裤....

你能看出哪张是AI生成的吗？

答案是——

全部

4月22日，美国人工智能公司OpenAI对外正式推出ChatGPT Images 2.0模型，这是其ChatGPT平台内图像生成功能的最新一次升级。

由于其生成的图片真假难辨，相关话题迅速冲上热搜，引发网友热议。

模型发布后，一些用GPT-Image-2生成的AI假图已经开始在网络上开始传播。比如，“Tim Cook加入小米汽车”的“官宣图”，粗看分辨不出AI的痕迹。随后，小米发文辟谣。

网传图片

据了解，生成的图片之所以真假难辨，是因为该大模型解决了以往AI细节粗糙、文字乱码扭曲的问题。

有网友测试用该模型生成全篇《出师表》，内容工整规范，几乎零错漏。

不过，也有眼尖的网友在其它图片中发现，生图过程中会偶尔出现少量文字差错。

另据澎湃新闻，记者实测后发现，GPT-Image-2还存在严重的安全漏洞。记者将个人身份证上传到ChatGPT后，要求把身份证中的人脸换成库克。Image-2不仅改变了人脸，还替换了人名和出生年月日信息，并同步替换了身份证号码中的出生年月日信息。

图源：澎湃新闻

该模型不仅无法识别个人敏感信息，而且也没有阻拦用户进行修改、伪造证件的提示词。

此外，GPT-Image-2的所有直出图均没有标注“AI生成”的水印或提示，进一步加大了核实和甄别的难度。

面对该大模型生成的图片，不少网友感叹，第一反应是 “被吓到了”。

还有网友实测，只需简单输入一句话，就能一键生成精美的商业设计图，担心“设计师是不是要失业了”。

许多网友担忧，未来图片真假将更难分辨。按照国家相关规定，AI生成内容应强制标注，而面对不断升级的海外AI工具，大家也呼吁加快完善AI领域的法律法规，进一步加强监管。

更有网友直言，有图有真相的时代，已经过去了。“以后都要问一句，这是真的吗？”

对此，你怎么看？

来源：中国青年报（整理：樊星）、澎湃新闻、网友评论等