网易首页 > 网易号 > 正文 申请入驻

整治 AI“造黄”:技术前进,治理就要跟进

0
分享至

近日,央视新闻曝光AI“造黄”产业链引发关注。据报道,一些平台上甚至有人公开兜售“利用AI技术制作色情擦边视频”的教程。为了牟利,这些教程还刻意引导用户规避监管。借生成式AI大模型,行违法“造黄”之举,污染网络空间、败坏社会风气、更突破了法律底线。

如今,生成式AI广泛应用,迭代迅速,给生活带来了不小的改变。技术普及大幅降低了生成式AI的使用门槛,丰富大众生活的同时,个别商家也动起了“歪脑筋”,以AI“造黄”为牟利工具,背弃了商业道德与法律底线。从一键生成“擦边图片”,到用“提示词”生成不堪入目的小视频,还有智能陪伴“聊黄”,若让这些低俗“涉黄”内容持续“隐身”无异于为淫秽内容打开了方便之门。

靠“造黄”招揽用户的行为已突破技术中立的合理边界,行为人理应承担不可推卸的责任。《生成式人工智能服务管理暂行办法》已明确,提供和使用生成式人工智能服务,应当遵守法律、行政法规,尊重社会公德和伦理道德,不得生成暴力、淫秽色情内容,这是不能触碰的红线。AI技术不是违法犯罪的“保护色”,任何企图借助新技术突破法律底线、谋取非法利益的行为,都将受到法律的严厉惩处。

值得警惕的是,从曝光AI“造黄”的产业链可以发现,不法商户还会主动诱导用户绕过限制,如将提示词修改得更加隐晦,将程序部署在本地电脑离线运行等,表面打着“AI生成”的幌子,实际把“造黄”当成了一门生意。而一些软件或平台用户中不乏价值观尚未成型、辨别能力较弱的未成年人,影响无疑更加恶劣。

AI“造黄”产业链的曝光给人启示,压实平台商家的责任刻不容缓。针对曝光案例,平台要强化训练数据管理与过滤,同时通过编写拦截程序、人工复核风险信息,将主体责任落实到位。监管部门也需持续强化对新型AI应用的法律规制,及时回应技术发展带来的全新法律挑战,让规则成为引领行业健康发展的“风向标”。唯有技术向善与监管发力双向奔赴,才能为行业健康发展注入持久动力。

技术前进一步,治理就要跟进一步。AI内容生成及各类智能体应用作为人工智能技术的重要应用,其发展和监管需要全社会的共同努力。斩断“造黄”产业链,封堵技术漏洞,明晰AI开发、使用者义务,严格执法、以典型案例为技术应用提供清晰的司法指引,才能推动AI技术健康、有序地发展,确保其能够更好地服务于人类社会。

特约评论员 焦杨

上游评论投稿邮箱:sypl2020@163.com

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
11月16日【油价大降】一夜崩落,全国92,95汽油“大涨近1.78元/升”,今年“二次探顶”后涨幅降下来,下次11月26日调价,预跌300元/吨!

11月16日【油价大降】一夜崩落,全国92,95汽油“大涨近1.78元/升”,今年“二次探顶”后涨幅降下来,下次11月26日调价,预跌300元/吨!

猪友巴巴
2026-11-16 14:45:06
英媒:黄仁勋留了后手,有意重返英伟达,其实英伟达也为他回归留好了后门

英媒:黄仁勋留了后手,有意重返英伟达,其实英伟达也为他回归留好了后门

王新喜
2026-11-16 11:17:09
罗马诺:JJ-加布里埃尔签约新经纪公司,即将在1月转投皇马

罗马诺:JJ-加布里埃尔签约新经纪公司,即将在1月转投皇马

懂球帝
2026-11-17 02:19:04
铁了心对付中国?暴跌58%,俄罗斯大幅加税,中国汽车出口骤降

铁了心对付中国?暴跌58%,俄罗斯大幅加税,中国汽车出口骤降

听风喃
2026-10-17 08:00:36
央视曝光!潜伏中国的反华家族,靠大陆收入上亿,终于受到惩戒!

央视曝光!潜伏中国的反华家族,靠大陆收入上亿,终于受到惩戒!

孙镴北漂拍客
2026-11-14 08:43:04
70年,林立果和林豆豆的合影,注意看林立果的眼神,实在有点吓人

70年,林立果和林豆豆的合影,注意看林立果的眼神,实在有点吓人

历史伟人录
2025-05-16 10:57:07
罗纳尔迪尼奥复出踢意丙!8000万欧身价改写联赛历史

罗纳尔迪尼奥复出踢意丙!8000万欧身价改写联赛历史

足球推文C
2026-11-16 18:41:41
年薪5800万,却拖累全队!詹姆斯压力变大,你或许该被76人送走

年薪5800万,却拖累全队!詹姆斯压力变大,你或许该被76人送走

老梁体育漫谈
2026-11-17 00:14:30
杜兰特25分5助火箭砍147分轻取奇才4连胜,浓眉14+8+5吹杨0分8助

杜兰特25分5助火箭砍147分轻取奇才4连胜,浓眉14+8+5吹杨0分8助

湖人崛起
2026-11-16 10:31:54
特朗普身边人一致决定,28年总统大选之前,先合力把万斯做掉?

特朗普身边人一致决定,28年总统大选之前,先合力把万斯做掉?

军机Nova
2026-11-17 00:22:29
中国女子在希腊失踪半年,警方在保险箱内发现10万欧元现金和神秘十人名单,与其有关的中国房产中介失联,最后监控画面曝光

中国女子在希腊失踪半年,警方在保险箱内发现10万欧元现金和神秘十人名单,与其有关的中国房产中介失联,最后监控画面曝光

都市快报橙柿互动
2026-11-17 00:52:49
马斯克这次是彻底摊牌了。他在社交平台上公开叫板,直言只要美国政府一句话,他随时乐意签字取消 SpaceX 的所有合同

马斯克这次是彻底摊牌了。他在社交平台上公开叫板,直言只要美国政府一句话,他随时乐意签字取消 SpaceX 的所有合同

扶苏聊历史
2026-11-11 15:56:12
高层为何在此时考察中山?

高层为何在此时考察中山?

元淦恭说
2026-11-16 22:15:22
杀人诛心?大连英博“致谢信”,让申花国安球迷破防,蓉城排第1

杀人诛心?大连英博“致谢信”,让申花国安球迷破防,蓉城排第1

汪星人哟
2026-11-16 20:23:06
山东13岁少年被控杀害5岁邻居案将开庭:最高检核准追诉,被害人父亲望顶格判处

山东13岁少年被控杀害5岁邻居案将开庭:最高检核准追诉,被害人父亲望顶格判处

澎湃新闻
2026-11-16 16:38:26
中国已经成为全球第一个集体拒接电话的国家

中国已经成为全球第一个集体拒接电话的国家

黯泉
2026-06-26 10:44:35
连日媒都知道,中方不给高市安排单独会谈,是在算一年前的总账

连日媒都知道,中方不给高市安排单独会谈,是在算一年前的总账

听风看局
2026-11-16 22:10:17
网传胖东来多个在售品牌与卡蓓诺同属一家贸易商

网传胖东来多个在售品牌与卡蓓诺同属一家贸易商

新商业派
2026-11-16 16:50:06
北京八宝山,数万坟位期满却无人再缴,并非儿孙不孝,实在是家里兜不住了

北京八宝山,数万坟位期满却无人再缴,并非儿孙不孝,实在是家里兜不住了

扶苏聊历史
2026-11-04 18:20:53
闲鱼惊现大量2TB U盘,全新标价35元!到底有啥猫腻?

闲鱼惊现大量2TB U盘,全新标价35元!到底有啥猫腻?

小柱解说游戏
2026-11-15 16:28:19
2026-11-17 03:24:49
上游新闻 incentive-icons
上游新闻
重庆“门户级”新闻客户端
271668文章数 585737关注度
往期回顾 全部

科技要闻

硅谷大佬组局,帮黄仁勋杀回来!

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

官宣离婚不到1月,李小冉进医院

财经要闻

10万人逼宫英伟达 黄仁勋要复职了?

汽车要闻

多面新方盒捷途环游者EV开启预售 9.99万元起

态度原创

游戏
亲子
房产
家居
公开课

小伙表示连玩7天《GTA6》 这下PS5可惨了

亲子要闻

中小学校、幼儿园将聘任健康副校(园)长,深圳已先行探索

房产要闻

6.6亿!海口卖地!

家居要闻

2026建博会(广州) 公装联探展交流活动

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版