网易首页 > 网易号 > 正文 申请入驻

快评丨别让借AI“造黄”牟利的歪心思,毁了技术的未来

0
分享至

魔高一尺,必须道高一丈

据央视财经报道,在网络平台检索发现,不少平台上有人公开兜售“利用AI技术制作色情擦边视频”的教程,堂而皇之地宣扬让用户仅凭一张图、几句话就可自行“手搓”“让自己满意的大尺度视频”。一些教程还刻意引导用户如何规避监管,比如使用境外图生视频AI软件、将程序部署在本地电脑离线运行等。

记者对10款用户较多的AI应用实测发现,若提示词表述较为“露骨”,多数AI应用会触发审核机制并拒绝生成内容。但只需把提示词修改得更隐晦,便可能绕过限制。比如一款拥有1.4亿用户的某AI应用,按购买的提示词教程,用一张图、一段词,1分钟后就生成了一个美女擦边视频;在“哩布哩布AI”输入提示词,几分钟后就生成了半裸女性跳舞的视频,且没触发平台任何限制机制。

技术本无罪,人心有善恶。若存心使坏,与AI斗智斗法,总能找到漏洞。个别商家将AI技术作为牟利工具,既背弃了技术伦理与法律底线,也污染了网络空间、败坏了社会风气。

魔高一尺,必须道高一丈。对于借AI“造黄”牟利的乱象,平台监管和执法认定都需有相应制度性防范,对违法“造黄”行为进行系统性打击。以此牟利者,不管是软件开发者还是教程贩卖者,都带有明显的主观恶意,应依法严惩。

据报道,除了以问答模式生成擦边视频的AI平台,市场上还有专门靠AI生成色情视频牟利的软件。比如,购买者可根据充值金额的不同,通过AI技术一键快速替换原片,生成虚构的色情照片,只要购买者愿意付费,相应软件即可通过一张图片,生成全裸照片和色情视频。

换言之,谁的脸都有可能被恶意生成为擦边视频的主角,若任其无序发展与滥用,只会人人自危。当无辜者被替换成性骚扰、投毒、杀人等AI伪造的涉案者,又会带来怎样的恐慌和执法成本?

据红星新闻记者搜索应用平台发现,相关涉黄AI软件目前仍未下架。风起于青萍之末,此类苗头必须及早遏制,若“造黄”“传黄”的成本趋近“零门槛”,其对公共空间的社会危害不容小觑。从报道中可以看出,借AI“造黄”牟利俨然形成灰色链:兜售教程、推广软件、售卖提示词;规避监管招数多,将敏感词汇翻译成英文、开发灰色通道让用户使用境外软件、激励老用户拉新并为用户发帖引流提供帮助等。

环环相扣的牟利链条,暴露出从技术开发、内容生产到平台传播、监管治理等多个环节的失守。需尽快厘清各方责任,构建全链条治理体系,从根本上遏制AI“造黄”乱象。

如此公开叫卖的涉黄“生意”,不能只打露头者,对于造黄、传黄、平台放任等行为,每一环都必须付出沉痛代价。技术防“越狱”,法律惩“越界”,AI技术的健康发展,离不开技术向善的伦理坚守、平台履责的严格把关、监管有力的法治保障和公众参与的共治格局。唯有各方形成合力,才能让AI技术真正服务于人,而非沦为污染网络空间的工具。

红星新闻评论员 李晓亮

编辑 赵瑜

红星评论投稿邮箱:hxpl2020@qq.com

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
央八定档!《两京十五日》本是冲着林更新去的,却被男一狠狠惊艳

央八定档!《两京十五日》本是冲着林更新去的,却被男一狠狠惊艳

大眼妹妹
2026-11-20 02:15:24
继《伟大的长征》后,于和伟出演60集抗日战争时期,家国史诗级大剧

继《伟大的长征》后,于和伟出演60集抗日战争时期,家国史诗级大剧

容妃
2026-11-20 16:09:25
英伟达暴跌14%,“AI交易”抛售加剧使得美股进入回调区间

英伟达暴跌14%,“AI交易”抛售加剧使得美股进入回调区间

界面新闻
2026-11-21 06:45:36
1979年索马里买26架战机赖账1700万,中方8年7次催收无果,最后发现4台报废发动机比这笔钱更值钱

1979年索马里买26架战机赖账1700万,中方8年7次催收无果,最后发现4台报废发动机比这笔钱更值钱

磊子讲史
2026-11-20 19:00:10
小泽一郎如何戳穿高市的“外交胜利”?

小泽一郎如何戳穿高市的“外交胜利”?

天真无牙
2026-11-20 12:55:47
带岳母抓妻子出轨,认出床上那人后,岳母失声尖叫

带岳母抓妻子出轨,认出床上那人后,岳母失声尖叫

雾岛夜话
2026-04-03 11:30:58
油价大降0.52元/升后“再大降”,下次11月26日调价,倒计时7天!

油价大降0.52元/升后“再大降”,下次11月26日调价,倒计时7天!

猪友巴巴
2026-11-19 09:14:41
韩国教授坦言:放眼全球,唯独韩国瞧不起中国;而在中国人眼里,压根没有韩国的位置

韩国教授坦言:放眼全球,唯独韩国瞧不起中国;而在中国人眼里,压根没有韩国的位置

z千年历史老号
2026-10-08 17:02:34
降价18.78万,奥迪 “头等舱” 新车:继续开售 !

降价18.78万,奥迪 “头等舱” 新车:继续开售 !

沙雕小琳琳
2026-11-21 08:33:12
《伟大的长征》里最败笔的选角,把陈赓大将演成了混混,毫无军人气质?

《伟大的长征》里最败笔的选角,把陈赓大将演成了混混,毫无军人气质?

唠叨说历史
2026-11-21 10:31:16
APEC中国时间|超出计划的访问,特朗普在深圳的27小时

APEC中国时间|超出计划的访问,特朗普在深圳的27小时

澎湃新闻
2026-11-20 15:09:03
“我爸是大官”韩方奕街头打死警察,判死缓不到7年却获成功减刑!

“我爸是大官”韩方奕街头打死警察,判死缓不到7年却获成功减刑!

零点历史说
2026-10-18 10:55:11
《GTA6》预告片的金发比基尼美女找到了!不是女主

《GTA6》预告片的金发比基尼美女找到了!不是女主

游民星空
2026-11-21 10:15:23
扫地出门!曼联“标王”或火速转投尤文!2亿镑强援有望空降红魔

扫地出门!曼联“标王”或火速转投尤文!2亿镑强援有望空降红魔

头狼追球
2026-11-20 13:01:14
特朗普期待黄仁勋回归

特朗普期待黄仁勋回归

参考消息
2026-11-21 11:22:12
特朗普称普京是“朋友” 波兰总理讽刺回应:上帝,别让我们交到这样的朋友

特朗普称普京是“朋友” 波兰总理讽刺回应:上帝,别让我们交到这样的朋友

砚底沉香
2026-11-20 09:44:10
美国发出全球通缉令,逮捕中国芯片科学家陈正坤,如今近况如何?

美国发出全球通缉令,逮捕中国芯片科学家陈正坤,如今近况如何?

凡知
2026-11-21 01:31:33
两岸统一货币,台湾慌了

两岸统一货币,台湾慌了

燕梳楼频道
2026-11-20 12:16:58
《GTA6》通关了!主播连播50小时不睡 游戏内39小时

《GTA6》通关了!主播连播50小时不睡 游戏内39小时

游民星空
2026-11-20 16:16:19
NBA杯:骑士128-119击退步行者!哈登狂轰51+6+6,米切尔20分

NBA杯:骑士128-119击退步行者!哈登狂轰51+6+6,米切尔20分

全景体育V
2026-11-21 10:58:48
2026-11-21 12:16:51
红星新闻 incentive-icons
红星新闻
成都传媒集团旗下的新媒体平台
217934文章数 1348328关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

历时14小时特朗普返回美国 刚下飞机就发布"重大预告"

头条要闻

历时14小时特朗普返回美国 刚下飞机就发布"重大预告"

体育要闻

脚步未停!西班牙摩托车手赤脚徒步入境中国

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

本地
家居
数码
教育
艺术

本地新闻

乌兰察布:以前种土豆,现在种Token

家居要闻

2026建博会(广州) 公装联探展交流活动

数码要闻

苹果公布2026古典乐年度专辑:任奫灿《哥德堡变奏曲》获奖

教育要闻

曾经“感动中国”的庞众望完成清华大学博士论文答辩,本人发声:将继续潜心钻研,在科研探索的道路上不断前行

艺术要闻

投资55亿!深圳歌剧院施工现场更新,主音乐厅马蹄形已现!

无障碍浏览 进入关怀版