网易首页 > 网易号 > 正文 申请入驻

国家反诈中心APP新增“AI内容鉴定”,可查图像视频真伪

0
分享至

南都讯 记者蒋小天 发自北京 据公安部刑侦局5月18日消息,国家反诈中心APP上新新功能“AI内容鉴定”,该功能包括图像检测、视频检测、文本检测、音频检测等,每日可检测10次,记者实测发现,当上传AI生成的图片时,该软件可显示图片含AI生成痕迹。该功能显示由中科睿鉴提供技术支持,这是一家专注于数字内容安全与AI生成内容(AIGC)检测的科技企业,法人曹娟为中国科学院计算技术研究所数字内容合成与伪造监测实验室主任。


国家反诈中心APP上线新功能“AI内容鉴定”。

此前,业界普遍认为,以深度防伪技术应对AI欺诈,是一种显著有效的路径,国家反诈中心的这次尝试,无疑是这次思路的一次有效验证。一个不容忽视的事实是,深度伪造技术已被不法分子广泛用于欺诈,AI诈骗,已从数年前的偶发案例成为一种新型犯罪趋势,除AI伪造声音、换脸诈骗,深度伪造技术也逐渐被用于电商领域,伪造假冒伪劣的商品图片以骗取“仅退款”,也被网友利用制造假象来骗取流量起号盈利,另有不法分子利用AI合成不雅照敲诈勒索。

其中换脸诈骗尤其成为近年来的欺诈重灾区。该诈骗手法最早于2023年见于国内报道。当年5月,包头警方发布一起利用人工智能(AI)实施电信诈骗的典型案例,骗子通过智能AI换脸和拟声技术,佯装好友对福州郭先生实施诈骗,10分钟内被骗430万元。该案经发布后迅速登上热搜,彼时曾有警界人士表示,AI换脸诈骗仍然属于偶发阶段,数年过去,AI技术被更为深入地融进犯罪手法。2024年,中国香港发生迄今为止规模最大的AI“深伪”诈骗案,诈骗分子利用AI深度伪造技术,仿造公司高层管理人员的形象和声音,在网上会议中冒充多名人士,骗取该公司财务职员2亿港元。

近年来,AI换脸诈骗更是被媒体广泛报道,央视曾揭露,网络上已经形成一条隐形的AI换脸黑色产业链。最上游负责从多种渠道拿到真实人脸数据和信息,其数量高达数百万,中游通过技术培训AI换脸视频和诈骗话术,下游通过AI换脸实施犯罪。

目前尚无官方统计公布具体AI诈骗所涉数量,仅有来自部分企业和研究机构的安全报告。根据《2024人工智能安全报告》显示,2023年基于AI的深度伪造欺诈增长了3000%,基于AI的钓鱼邮件增长了1000%;2024年,封面新闻曾对1500多名大学生做过调研,结果显示半数受访大学生本人或身边的人曾遭遇疑似AI诈骗,超7成大学生对AI诈骗感到恐慌。

一个普遍共识是,加强对新型电信网络诈骗犯罪的研究,创新侦查手段和方法,提高打击效能是有效应对AI诈骗的方式,近年警方加强对电诈的打击力度,去年一年侦破案件超过25万起,除此次国家反诈中心上新新功能之外,上海警方日前也上新了“803反诈”智能体来识别应对电诈,只要将可疑电话、短信内容一键输入,可快速识别是否为诈骗。近年来,国家层面也相继出台《人脸识别技术应用安全管理办法》,《人工智能生成合成内容标识办法》等文件,要求规范人脸识别技术应用并强制要求AI合成内容必须添加标识。

多个官方部门也发布针对AI诈骗的防范提示和指南,警惕“拟声”和“换脸”伪装成熟人,不轻信音视频画面,涉及钱必须多途径交叉验证身份,严控个人生物信息外露。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
央视曝光后,浙江金华连夜成立联合调查组

央视曝光后,浙江金华连夜成立联合调查组

政知新媒体
2026-11-16 08:37:55
人社部重点严查五类退休人员!

人社部重点严查五类退休人员!

逍遥论经
2026-10-17 17:39:47
一种常见绿叶菜,竟有益生元潜力!实验发现,它能支持肠道有益菌生长!

一种常见绿叶菜,竟有益生元潜力!实验发现,它能支持肠道有益菌生长!

肠菌科普
2026-11-16 07:03:41
凌晨去世!他的歌,大家都会唱

凌晨去世!他的歌,大家都会唱

小椰的奶奶
2026-11-16 11:57:59
又轰下26+10+6+5!抱歉邓肯:你从历史第六变成了第七

又轰下26+10+6+5!抱歉邓肯:你从历史第六变成了第七

篮球大视野
2026-11-16 14:17:05
最新:乌克兰强势反攻顿巴斯南部!收复科马尔住宅区

最新:乌克兰强势反攻顿巴斯南部!收复科马尔住宅区

项鹏飞
2026-11-15 20:59:16
打了五年,俄罗斯突然广而告之要消灭泽连斯基!

打了五年,俄罗斯突然广而告之要消灭泽连斯基!

山河路口
2026-11-15 13:09:35
全网曝光2.7亿!央视、人民日报都在报,政府大院里摆满了鸡鸭鱼

全网曝光2.7亿!央视、人民日报都在报,政府大院里摆满了鸡鸭鱼

娱乐圈见解说
2026-11-16 04:05:25
APEC峰会前!高市不仅要来华参会,还要求中方必须高规格接待?

APEC峰会前!高市不仅要来华参会,还要求中方必须高规格接待?

呼呼历史论
2026-11-16 02:46:53
黄仁勋出轨最大的真相

黄仁勋出轨最大的真相

哲空空
2026-11-10 13:50:34
两性关系:发现了没,寿命长的男人,大多都有这五个好习惯

两性关系:发现了没,寿命长的男人,大多都有这五个好习惯

荔子言
2026-11-03 10:32:30
阿尔特塔豪砸!阿森纳 1.33 亿锁定皇马巨星,交易势在必得

阿尔特塔豪砸!阿森纳 1.33 亿锁定皇马巨星,交易势在必得

一隅非生
2026-11-16 11:47:13
外资撤离印度越南?美媒大胆预言:中国的西部,或成新世界工厂

外资撤离印度越南?美媒大胆预言:中国的西部,或成新世界工厂

王二哥老搞笑
2026-11-15 18:40:45
"让人心酸又感动!"外卖小哥接单被要求扛50斤大米爬5楼,本想发火,推开门那一刻他沉默了

"让人心酸又感动!"外卖小哥接单被要求扛50斤大米爬5楼,本想发火,推开门那一刻他沉默了

一丝不苟的法律人
2026-11-04 15:22:28
国务院:由省财政统筹发放中小学教师工资,设立“教师工资专户”

国务院:由省财政统筹发放中小学教师工资,设立“教师工资专户”

郭爱华追问教育
2026-11-15 06:10:02
方程豹钛9即将上市,车长5米27,综合续航超1600km,卖多少合适?

方程豹钛9即将上市,车长5米27,综合续航超1600km,卖多少合适?

闻车品百魅
2026-11-16 12:05:18
人体最佳睡觉时间表(建议永久收藏)

人体最佳睡觉时间表(建议永久收藏)

神奇故事
2026-11-14 23:05:28
“家长没钱,孩子才会沉迷手机”,一段高尔夫视频让人沉默了,中产晒孩子打高尔夫暗讽“沉迷手机是因为穷”

“家长没钱,孩子才会沉迷手机”,一段高尔夫视频让人沉默了,中产晒孩子打高尔夫暗讽“沉迷手机是因为穷”

蝴蝶花雨话教育
2026-11-14 00:05:16
为寻求变态刺激,男子多次迷晕妻子供陌生男子强奸,自己在场拍照!法院:构成轮奸,判11年

为寻求变态刺激,男子多次迷晕妻子供陌生男子强奸,自己在场拍照!法院:构成轮奸,判11年

一丝不苟的法律人
2026-10-15 09:31:24
陈冠希73岁爸爸陈泽民罕露面,看起来像50岁,比45岁的儿子还“抗老”?

陈冠希73岁爸爸陈泽民罕露面,看起来像50岁,比45岁的儿子还“抗老”?

小徐讲八卦
2026-11-16 09:00:48
2026-11-16 17:40:49
南方都市报 incentive-icons
南方都市报
换一种方式,南都在现场。
643853文章数 3591407关注度
往期回顾 全部

科技要闻

历史头一回!马斯克用"筷子"夹住太空飞船

头条要闻

上任2个月尤尼斯在街头遭暗杀身亡 知情人:被以"斩首"

头条要闻

上任2个月尤尼斯在街头遭暗杀身亡 知情人:被以"斩首"

体育要闻

NBA开赛最大惊喜,是他们?

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

更豪华更好开 问界新M8细节升级见真章

态度原创

手机
旅游
健康
数码
公开课

手机要闻

鞠婧祎代言 荣耀700系列四款高颜值配色公布:全系标配原生AI背屏

旅游要闻

秋假遛娃剑门关,全程17000步,6个小时,喜提废腿体验!

情绪真能让健康人"伤心至死"?

数码要闻

满电开躁!11月16日,航嘉满电青年计划约你西南交大见!

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版