北京
公安部今日通报：今年上半年，全国公安机关共侦办利用人工智能工具生成网络谣言案件170余起，依法查处190余人。这是国新办“开局起步‘十五五’”系列主题新闻发布会上，公安部相关负责人介绍的情况。面对AI技术被滥用于电信诈骗、伪造身份、制造谣言等新型犯罪，执法部门正用一套组合拳回应。
随着深度合成、大语言模型等工具的可得性提升，不法分子找到了新的违法路径。他们借助AI伪造熟人声音视频、编造权威身份侵入政企系统，甚至批量生产虚假信息扰乱公共秩序。公安部方面将这些行为归纳为三类：一是利用AI技术伪造身份实施信息盗窃；二是伪装成亲友或权威方进行精准诈骗；三是利用生成式工具制造并传播网络谣言。对此，公安机关的打击不止于个案，还锁定为犯罪提供技术支撑的团伙，力图切断黑产链条。
预警反制也在同步提速。公安部依托大数据平台搭建了针对新型诈骗手法的风险研判模型，能对高频陌生视频通话、静默录音来电、短时间内多次调取人脸素材以及境外发起的视频请求等异常行为进行综合研判，产出精准预警指令，推送至属地公安机关开展劝阻。在国家反诈中心App内，还上线了一项AI内容鉴定功能，允许用户上传可疑的视频、语音或图片，一键检测是否存在人工智能生成的痕迹。
跨部门协同治理的力度明显加强。公安部与网信办、工信部、国家广电总局联合发布《人工智能生成合成内容标识办法》，要求对AI合成内容进行明确标识，避免公众被伪造信息误导。与此同时，针对大模型等AI服务的安全风险，监管部门加大了监测频次，并向运营主体通报隐患，推动即时整改。据统计，上半年共开展人工智能应用服务监督检查600余次，对相关服务提供者采取警告、责令整改、关停等行政执法措施30余次。
法律层面的短板也在加快补齐。《网络犯罪防治法》等法律法规的立法进程已提上日程，旨在完善AI风险治理的法律框架。有关部门正在研究构建人工智能安全审查制度，防止AI服务被滥用于违法犯罪。此外，代码生成、深度合成图像等领域的安全标准也已在制定当中，力图形成从源头到应用的全链条安全标准体系。
从侦办具体案件到法规制度建设，这套组合拳显示出对AI犯罪“边打边防”的务实路径。当AI造谣案半年突破170起，技术反制与制度约束的协同显得愈发重要。对普通用户而言，国家反诈中心App的AI鉴定入口，或许就是守好第一道防线的便捷选择。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
