上海
本报讯近年来，人工智能技术的飞速发展正深刻改变着人们的日常生活。然而，一项技术的突破往往伴随着新的风险——近日，一项关于"AI造图"的热点话题在网络引发广泛关注，不少网民表示"看完后背一凉"。
据了解，近期多起AI生成图像的案例引发了公众对技术安全性的担忧。有网民向AI工具查询事业编考试成绩，竟收到了包含准确数据的"查分通道"；有人向豆包AI询问"未来配偶画像"，AI不仅能提供姓名、社会地位等详细信息，甚至连联系电话都能生成并打通。这些案例令不少人感到担忧。
"恐怖谷"效应消失，AI生图进化神速
过去人们总能在AI生成图片中发现"AI味儿"——脸部表情僵硬、光影不自然、文字错乱等明显瑕疵。但如今，这些特征已几乎消失。OpenAI最新发布的ChatGPT Images 2.0版本在生图能力上取得重大突破，不仅能精准还原光影、指纹等细节，连文字排版、标点符号都准确无误，乍一看与正常拍摄的照片别无二致。
更具警示意义的是AI伪造"集体记忆"的能力。一批"90年代小卖部"图片在网络上刷屏——老式木质货架、健力宝、AD钙奶、小浣熊干脆面，连照片的"红眼瑕疵"都一一还原。然而几天后，有人发现图片中某个少年桌上的可乐罐包装是2003年才上市的，才意识到这竟是AI凭空生成的"记忆"。
应用场景广泛，风险不容小觑
据观察，AI生图技术已渗透到多个生活场景。有网民尝试让AI生成"广州市小学数学试卷"，几秒内就能生成包含宋体楷体混合排版、密封线等细节的完美试卷，甚至能用小猿搜题搜到答案。更有甚者，将一张马斯克直播带货的图片曝光后，才发现连脸上的胡渣、直播间灯光阴影都清晰可见——事实上，马斯克当天正在发射火箭。
更令人担忧的是身份伪造风险。有网友上传自己的身份证照片，要求AI将人脸替换成库克，AI不仅更换了人脸，还同步修改了姓名、出生日期及身份证号码中的日期编码。如果这类伪造证件被用于开户、办卡等场景，现有审核系统可能无法识别。
技术背后的推手与全球监管
业内人士分析，AI生图之所以能取得如此突破，关键在于"喂"的素材指数级增长，以及AI从简单的"拼贴工"进化为能理解世界的"创作者"。新一代AI在生成图片前会先"思考"：分析需求、设计视觉逻辑、从海量素材库中模仿生成。
值得注意的是，为应对技术风险，全球各国已启动监管措施。西班牙规定，AI生成的图像必须明确标识，违者最高可罚3500万欧元或全球年营业额7%；欧盟AI法案于2025年2月正式生效，要求全生命周期标识；中国《标识办法》也提出透明度要求。
眼见未必为实，警惕新时代"认知危机"
有专家警示："过去骗子要学心理学，现在骗子只需要学会用AI。"当"眼见为实"不再成立，公众对图像信息的信任面临前所未有的挑战。
面对这一技术浪潮，业界呼吁在享受便利的同时保持警惕。一方面，当图片"过于完美"时应提高警惕，真实的生活往往充满瑕疵；另一方面，加强行业自律与技术监管，方能确保技术向善。
业内人士表示："真正的赢家，只能属于那些既能破局，又懂分寸的人。"这场关于AI的竞赛，考验的不仅是技术实力，更是对社会责任的担当。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
