广西
先说一件真事
近日埃隆·马斯克旗下SpaceX的
一枚“猎鹰9号”火箭二级残骸
按预测撞击月球表面
但接下来发生的事
就没那么“科学”了
一段所谓“撞月瞬间视频”开始在全网疯传
出现了西班牙语、中文、阿拉伯语等
多个语言版本
就连马斯克本人也转发了这条视频
△马斯克本人在社交媒体上转发“撞月视频”。
但很快这条视频就被核实为
AI生成的假视频
马斯克也在几个小时后发文进行了澄清
△马斯克社交媒体截图
自家的火箭撞了月亮
自己都分不清视频真假
这相当“魔幻”的一幕
却也提醒了我们AI时代的风险
当AI生成的内容越来越“以假乱真”
身为普通人的我们该怎么办？
AI造假事件频发
风险就在你身边
随着生成式人工智能技术快速发展
越来越逼真的语音和影像
正在挑战人们对真实性的判断
你我的生活之中
就存在很多风险
AI凭空捏造险情博取眼球
干扰正常防灾救灾
台风“白海豚”登陆我国后
有违法人员借助AI工具
凭空捏造险情
声称“浦东一女子在台风中坠楼”
哥伦比亚发生强震后
一段据称拍摄于地震现场视频
在社交媒体上广泛传播
后被证实为AI合成的虚假视频
AI伪造水果腐烂图
恶意申请“仅退款”
最近
湖南省衡山县一无业男子谭某文
利用AI修图软件
批量伪造榴莲、车厘子等高端水果
霉变腐烂的照片
随后以“商品质量问题”为由
申请“仅退款”
再把水果转卖出去
妥妥的“空手套白狼”
短短四个月内累计下单100余笔
涉案总价值16000多元
最终谭某文因诈骗罪
被法院判处有期徒刑
并处罚金
对着手机念一串数字
直接背上巨额贷款
近期出现了一种新型AI骗贷骗局
诈骗团伙借助老年人行骗
以看不清银行卡号为由
诱骗热心的路人
对着正在视频通话的手机
朗读银行卡号或一些数字组合
△来源：上海发布
骗子获取到受害人视频后
利用AI工具
提取声纹、截取高清人脸画面
就能在网贷平台冒用受害人身份贷款
使其背上巨额债务
避免被骗
四招教你辨别真伪
看完上面这些案例
你可能已经开始对看到的东西
产生信任危机了
别慌
AI再能“以假乱真”
也不是无懈可击
掌握这四招
帮你练就“火眼金睛”
1.查源头
警惕无明确作者、无正规信源的内容
AI生成信息常伪装成
“网友投稿”“内部消息”
看到一个爆炸性消息
转发前先问自己三个问题：
谁发的？哪个平台的？
有没有权威媒体跟进报道？
如果三条都答不上来
最好先别转发
2.看细节 验逻辑
AI生成的内容再逼真
也往往有一些“共同特征”可以捕捉
AI图像：观察手指数量异常、光影不自然等
AI视频：注意口型与声音不同步、背景模糊扭曲
AI生成内容还常出现时间矛盾
（如“2024年政策”却引用2025年数据）
地名错误等逻辑错误
3.验身份
根据我国现行的
《人工智能生成合成内容标识办法》
所有AI生成的内容
都要在醒目位置标注“AI生成”
刷到震撼视频
先看一眼视频角落有无AI标注
避免被AI内容误导
4.用工具
如果你觉得肉眼辨别太费眼
还可以让技术来帮忙
“国家反诈中心”App
已上线“AI内容鉴定”功能
支持对文字、图片、视频等内容
进行AI生成检测
遇到可疑内容
上传鉴定一下
几秒钟就能给出初步判断
滥用AI生成内容
将受到法律严惩
我国目前已有
《生成式人工智能服务管理暂行办法》
《互联网信息服务深度合成管理规定》
等法规
对AI生成内容的使用进行了规制
其中
《生成式人工智能服务管理暂行办法》
明确规定：
AI生成内容
不能用来传播虚假有害信息
即便标注“AI生成”
也不能以此抵消相关法律责任
若造成不良影响
将面临行政处罚
以AI生成内容进行诈骗、勒索等
犯罪行为的
还将遭受刑事处罚
同时公安部正积极推进
网络犯罪防治法等立法进程
研究构建人工智能安全审查制度
防范AI生成内容被滥用于违法犯罪
一张针对AI滥用的“防护网”
正在加速形成
在AI能“以假乱真”的数字时代
“眼见为实”这四个字确实需要重新定义了
不是不再相信眼睛看到的一切
而是提醒我们
多一道验证、多一次溯源
看到关于灾情的视频，先等一等官方消息
“好友”视频通话借钱，先打电话回拨确认
刷到“网友投稿”，先查查信源是哪里？
这些动作花不了几分钟
却可能止住一道谣言的传播
阻止一次诈骗犯罪
维护良好有序的网络环境
赶紧关注我们的官方账号吧~
清朗网络空间，我们共同守护！
扫码进入举报不良信息页面
来源丨央视一套
编辑｜李文彬
柳州市互联网信息办公室出品
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
