春节不要乱发这种视频！一大批账号已被处置

这两天

视频大模型Seedance2.0

在国内外社交平台上

掀起一阵刷屏式传播

各种脑洞大开的画面刷屏

引发热议与思考

有网友第一时间就提出

乱套了，真假难辨

对于部分不添加AI标识

误导公众的视频

官方已经出手！

多人因滥用AI被处理

据网信中国消息，近期，部分网络账号发布AI生成合成信息时，不添加AI标识，存在利用虚假不实内容欺骗误导公众的问题，破坏网络生态，造成恶劣影响。网信部门督促网站平台深入排查整治，依法依约处置账号13421个，清理违法违规信息54.3万余条。现将部分典型案例通报如下：

一、微博账号“澄馫”、快手账号“玲子爱狗狗”、哔哩哔哩账号“空空说电影”等，发布狗在高铁站救下婴儿、狗拆炸弹救人、鳄鱼伤人等视频时，未添加AI生成标识，借虚构感人故事、猎奇事件恶意博取流量。相关账号已被依法依约处置。

二、微信账号“浮萍9419”、微博账号“乘风已归来”、快手账号“东东情感”等，以AI换脸、声音克隆等方式，假冒运动员、演员、主持人、企业家等公众人物，发布不实言论，借此吸粉引流，或未经授权，售卖AI生成的公众人物“送祝福”“拜年”等视频，从中不当牟利。相关账号已被依法依约处置。

三、抖音账号“巷子里的鱼”“禾粟”、快手账号“朵姐正能量”“小猪猪”等，发布AI生成的虚假火灾现场图片、视频，恶意编造、炒作火灾事故，混淆视听，扰乱公共秩序。相关账号已被依法依约处置。

四、哔哩哔哩账号“真难我知道”、抖音账号“小奥特曼大智慧”、百度账号“清崽影视”等，借AI魔改未成年人喜爱的动画角色，制作刀切小马宝莉头部、奥特曼怀孕等视频，传播低俗惊悚、血腥暴力内容，宣扬不良价值观，侵扰未成年人身心健康。相关账号已被依法依约处置。

五、小红书账号“浪淘达人”“南坤的店”等，发布“豆包图片去水印神器”等内容，分享去除AI标识教程、软件，淘宝、闲鱼、拼多多店铺“浙江智意AI”“鼎建祥旗舰店”等，售卖去AI标识教程、软件及服务。相关账号已被依法依约处置，违规商品已下架。

下一步，网信部门将对无AI标识的虚假不实信息保持高压严管态势，发现即处置，严厉打击违规行为。同时，也呼吁广大网络内容创作者按照相关规定主动添加AI标识，避免误导公众，共同营造风清气正的网络环境。

上海：多部门联合开展

“整治AI涉企虚假不实信息”专项行动

为切实维护企业网络合法权益

严打AI涉企谣言

上海市委网信办

会同市公安局网安总队

近日集中开展

“整治AI涉企虚假不实信息”

专项行动

本次专项行动重点聚焦利用AI技术生成传播涉企虚假不实信息，误导公众认知、影响企业形象声誉、抹黑攻击竞争对手等问题，由上海市委网信办、市公安局网安总队联合推进，将加强典型案例打击处置，斩断利用AI技术不当牟利的利益链条，力争达到“标本兼治、打防结合、净化生态”的整治效果。

为建立健全长效机制，上海市委网信办将持续督促属地AI应用程序和传播平台切实履行主体责任，完善技术识别和人工复核机制，畅通用户投诉举报渠道，对利用AI生成“同质化”不实信息、违规“养号”等行为强化审核处置；对AI批量制作、低质搬运、无来源虚构等“数字泔水”垃圾内容探索有效治理措施。

上海市委网信办相关负责人表示，AI技术在赋能经济社会发展的同时，也面临技术滥用、虚假信息传播加剧等问题。当前，整治AI涉企谣言问题对营造公平有序的营商环境具有重要意义。市委网信办将会同相关部门对专项整治期间屡教不改、顶风违规、情节严重的网站平台和账号，依法依规从严查处，切实规范涉企网络信息传播秩序。

在这里提醒大家

在网络上发布AI相关内容时

一定要做好标注

切不可误导公众认知

来源 | 新闻坊综合网信中国、网信上海、此前报道