网易首页 > 网易号 > 正文 申请入驻

2025年,你看到的新闻有几分真假:AI生成假新闻引发舆论危机!

0
分享至

一、事件背景:AI技术滥用催生“假新闻工厂”
2025年3月29日,一则“顶流男星境外豪赌输光十亿身价”的新闻在微博、小红书等平台迅速发酵,阅读量突破5亿。然而,经核查,该信息实为某网友利用AI工具生成的虚假内容。用户仅需输入社会热点关键词,AI便自动生成标题、文案及配图,全程耗时不足5分钟。这一事件再次将AI技术滥用推至风口浪尖。

事实上,类似乱象早有端倪。2024年11月,某MCN机构被曝日均生成4000至7000篇AI假新闻,通过编造“某地重大事故”“名人虚假言论”等内容,利用平台算法精准推送,单日牟利超万元。中国人民大学研究员曾持指出,AI可基于热点规律拼接情节,生成的谣言“要素俱全”,连专业人士都难辨真伪。

二、技术乱象:假新闻产业链如何运作?
1. 低成本、高效率的“造假流水线”
记者实测发现,市面主流AI工具仅需输入“明星丑闻”“社会冲突”等关键词,即可生成包含时间、地点、人物的“新闻报道”,配合换脸图片、篡改语音后,一条以假乱真的视频仅需1分钟即可完成。某网络水军团伙甚至形成“搜集热点—AI编剧—真人出镜—多平台分发”的产业链,利用虚假内容收割流量返利。

2. 算法推送加剧信息茧房
AI生成的假新闻不仅数量庞大,更通过算法精准投喂用户偏好。例如,关注娱乐八卦的用户会频繁收到“明星塌房”类谣言,而关心社会议题者则被推送“政策解读”“维权证据”等嫁接虚假信息,导致公众认知被逐步扭曲。

3. 辟谣成本远高于造谣
据央视调查,AI造谣“一键生成”,但辟谣需经历锁定信源、核查证据、多部门联动等复杂流程。当虚假内容被证伪时,往往已造成不可逆的社会影响。例如,2024年某AI伪造的“抗癌神药”广告,导致数千名患者延误治疗。

三、治理行动:从平台自查到国家立法
1. 电商平台打响“AI打假第一枪”
3月27日,淘宝宣布拦截近10万张AI假图,严惩利用虚假宣传误导消费者的商家。京东、拼多多等平台亦跟进,要求AI生成商品图需添加“合成内容”标识。新华网联合华弘数科推出全液冷智算系统,从源头识别伪造素材。

2. 国家新规强化技术监管
3月20日,《人工智能生成合成内容标识办法》正式实施,要求所有AI生成内容需添加显式标识(如水印)和隐式元数据,以便追踪溯源。国家网信办同步开展“清朗·AI谣言整治”专项行动,封禁违规账号12万个,下架视频30万条。

3. 全球协作应对虚假信息
世界经济论坛《2025年全球风险报告》将“错误和虚假信息”列为全球五大威胁。中国工程院院士陈纯强调,需建立跨国技术联盟,共享AI伪造特征数据库,打破“数字军备竞赛”困局。

四、专家呼吁:公众需提升“AI识谣”能力
面对技术滥用,公安部网安局建议公众通过四步识别AI谣言:

查来源:核实发布者是否为官方认证账号;

辨细节:AI生成内容常出现逻辑矛盾或时空错乱;

用工具:利用“AI内容检测平台”验证真伪;

等权威:对煽动性信息保持警惕,等待政府或媒体通报。

五、未来展望:平衡技术创新与伦理约束
AI技术的双刃剑效应引发全球反思。微软、谷歌等企业正研发“反AI伪造”工具,通过区块链技术确保内容可追溯。中国政法大学专家建议,未来需建立“AI生成内容分级制度”,对新闻、医疗等高风险领域实施准入许可。

正如Gartner报告所言,2025年是“虚假信息安全”的关键转折点。唯有技术治理、法律规范与公众教育三者协同,才能让AI真正服务于信息传播的“清朗化”。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
日媒:日本一女警察在警署等地分别与两名上司发生性行为,3人被处分

日媒:日本一女警察在警署等地分别与两名上司发生性行为,3人被处分

环球网资讯
2026-11-21 16:38:05
突发讣告!张劲松因病医治无效于2026年11月18日逝世,享年61岁

突发讣告!张劲松因病医治无效于2026年11月18日逝世,享年61岁

往史过眼云烟
2026-11-21 11:39:08
特朗普点赞深圳,称美国一些城市“脏得让人恶心”

特朗普点赞深圳,称美国一些城市“脏得让人恶心”

极目新闻
2026-11-21 09:44:24
金价连续跳水,记者走访北京菜百:有人一次买200克,现货售罄后消费者排队办理延期提货

金价连续跳水,记者走访北京菜百:有人一次买200克,现货售罄后消费者排队办理延期提货

大众网
2026-11-21 12:23:05
长安大学回应“14日面试13日出结果”

长安大学回应“14日面试13日出结果”

界面新闻
2026-11-21 20:15:09
天呐!差点没认出来,电视里那么漂亮女神,原来跟普通人也没两样

天呐!差点没认出来,电视里那么漂亮女神,原来跟普通人也没两样

情感大头说说
2026-11-20 04:49:19
特朗普APEC期间下榻深圳东海朗廷酒店,内部房间曝光

特朗普APEC期间下榻深圳东海朗廷酒店,内部房间曝光

极目新闻
2026-11-20 18:45:32
原来梁文锋很早就开始做准备了:DeepSeek成功避开英伟达垄断风险

原来梁文锋很早就开始做准备了:DeepSeek成功避开英伟达垄断风险

互联鱼
2026-11-21 00:10:08
就在今天!哈登创造了80年NBA纪录

就在今天!哈登创造了80年NBA纪录

篮球大视野
2026-11-21 12:00:04
红果短剧全面下架,彻底失控了

红果短剧全面下架,彻底失控了

李东阳朋友圈
2026-11-20 10:00:35
特朗普:普京亲口告诉我,如果当年是我担任总统,俄乌战争根本不会爆发;目前谈判的一大困难,是普京与泽连斯基之间存在“深刻仇恨”

特朗普:普京亲口告诉我,如果当年是我担任总统,俄乌战争根本不会爆发;目前谈判的一大困难,是普京与泽连斯基之间存在“深刻仇恨”

大风新闻
2026-11-21 09:33:02
奥斯卡影后当众承认隆胸:是全新的,全C罩杯

奥斯卡影后当众承认隆胸:是全新的,全C罩杯

热搜摘要官
2026-11-20 20:07:43
说出来你都不敢信,美国总统飞一趟中国,花出去的钱足足能买3辆全新的劳斯莱斯!

说出来你都不敢信,美国总统飞一趟中国,花出去的钱足足能买3辆全新的劳斯莱斯!

扶苏聊历史
2026-11-20 15:37:24
A股:紧急提醒2.5亿股民!从后天11月23日起,A股可能再次历史重演?

A股:紧急提醒2.5亿股民!从后天11月23日起,A股可能再次历史重演?

趋势清风侠
2026-11-21 08:44:23
78岁中国体育大佬被查!曾担任篮协+羽协副主席 媒体人曝光内幕

78岁中国体育大佬被查!曾担任篮协+羽协副主席 媒体人曝光内幕

念洲
2026-11-21 13:12:32
突发!黄仁勋掀桌了

突发!黄仁勋掀桌了

小鱼爱鱼乐
2026-11-21 16:08:24
网传零跑A10后备箱被几箱啤酒压穿 官方回应明确了

网传零跑A10后备箱被几箱啤酒压穿 官方回应明确了

快科技
2026-11-21 09:12:08
长津湖战役中,美军发现一整连志愿军官兵冻死在阵地上。电影里表现是美军敬礼,但据当年一名16岁幸存者回忆,美军并没敬礼,而是挨个补枪

长津湖战役中,美军发现一整连志愿军官兵冻死在阵地上。电影里表现是美军敬礼,但据当年一名16岁幸存者回忆,美军并没敬礼,而是挨个补枪

人生录
2026-11-21 00:05:14
A股关键时刻,重磅政策终于落地!大利好来了

A股关键时刻,重磅政策终于落地!大利好来了

星图金融研究院
2026-11-21 15:07:29
火箭主帅怒批球员:打得这么烂,你一场球都赢不了

火箭主帅怒批球员:打得这么烂,你一场球都赢不了

体坛周报
2026-11-21 17:34:09
2026-11-21 20:27:00
中科智媒
中科智媒
聚焦新闻前沿,每日热点速递
1111文章数 11825关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

李亚鹏谈嫣然天使基金募款:大家每个月捐1块就可以了

头条要闻

李亚鹏谈嫣然天使基金募款:大家每个月捐1块就可以了

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

虞书欣擦边自拍、霸凌同事、媒体点名?

财经要闻

走过三年牛市,黄金何去何从?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

艺术
健康
旅游
数码
家居

艺术要闻

苍井空官宣复出,最新作品画面流出,网友:恶心!

医生眼里"很伤腰"的椅子,很多人天天坐

旅游要闻

这么近的河北,向北京发出冬雪邀约

数码要闻

Blackview推出Zeno 3平板电脑:120Hz 800P面板、展锐T7250

家居要闻

2026建博会(广州) 公装联探展交流活动

无障碍浏览 进入关怀版