网易首页 > 网易号 > 正文 申请入驻

AI制黄群组被曝光,大批人遭殃了!

0
分享至

来源:市场资讯

(来源:电商最前线)


先表达观点:

五块钱一张的AI黄图,把AI时代的潘多拉魔盒彻底撬开了。


五块钱一张

地下工厂被曝光

就在近日,有媒体暗访了七个AI色情内容交易群,群成员加起来超过六千人,光是最大的那个群就塞了三千四百多号人。


3400人是什么概念?这个规模已经够开一所县级中学了。而这所「学校」里,大家每天研究的不是数理化,而是怎么把某个女生的脸精准贴到成人视频的身体上。

有人专门卖「焚诀」,没错,就是玄幻小说里那个烧天煮海的功法,在这里代指经过特殊改造、可以绕过AI审核机制的提示词;


有人卖成品视频,按长度、按精细度、按清晰度分档次定价;

有人干脆卖整套工具包,附赠所谓的“手把手教程”,价格从二十元到二百八十八元不等,堪称黄赌毒版的知识付费。


其中最畅销的就是「焚诀」。因为便宜,因为好传播,因为小白也能用。

记者实测,六条升级版提示词里有三条能直接生成色情图片,剩下三条才会被系统拒绝,也就是说,这个所谓的审查机制,成功率只有百分之五十。

而真正让人后怕的,是一张五元的真人定制服务。

你提供照片,他生成色情图。照片越多、越高清,成品越逼真。哪怕你只给一张,也能交差。

卖家还补充:“什么需求都可以提,是自己的模型,国内正经AI搞不了这种。”

女大学生塔塔(化名)就是被这条产业链瞄准的受害者之一。她发在QQ空间的生活照被人扒下来,AI篡改后丢到境外社交网站上。


整个过程她毫不知情,等她发现的时候,图已经在几十个陌生人的电脑里被反复点开、反复评头论足。

而这,几乎是每一个AI受害者的标准剧本。


AI涉黄

已成国际化问题

AI涉黄到底严重到什么程度,可以先举几个实例:

据路透社援引Security Hero报告,韩国是深伪色情最严重的目标国家之一,韩国歌手和女演员在全球深伪色情受害者中占比高达53%。


2025年,香港大学一名学生被曝利用AI工具,将多名女性同学的人像合成至色情影像中,素材及生成图像多达700余张,受害者约20至30人,均为现实中认识的人。

《经济参考报》2026年报道,一名娱乐主播“小雨”被不法分子将面部恶意嫁接到色情影片中传播,导致其直播间被弹幕攻击、个人社交生活受严重影响。报道同时指出,AI换脸已滋生黑灰产,女性面容被恶意嫁接成为常见侵害方式。

就在此前,马斯克的xAI公司和他的聊天机器人Grok就因为生成露骨成人内容陷入多起诉讼风波。


Grok上线了所谓的「不限制模式」和AI伴侣功能,允许用户跟虚拟角色进行暧昧甚至露骨的互动。

马斯克本人在推特上还挺得意,觉得这是「给成年人应有的自由」。


图源:BBC

结果很快就有用户发现,只要稍加引导,Grok可以生成带有明确性暗示的内容,而且不少涉及真实名人。好几位女性公众人物的律师团队直接把律师函怼到了xAI总部。

OpenAI这边也没少挨骂。虽然ChatGPT的审核机制是行业里相对严格的,但架不住「越狱」提示词满天飞。

在《电商最前线》看来,AI公司的估值在过去两年坐着火箭往上窜,千亿美金、万亿美金的估值往外报。可是一涉及到内容审核、受害者赔偿、黑产追责,这帮估值宇宙第一的公司就变得跟破产户似的,什么都做不了,什么也不能做。

如果朋友们去搜一下「AI换脸 法律责任」,会发现一个有趣的现象:国内的法律条款其实已经不少了,《民法典》关于肖像权、名誉权的条款清清楚楚,《个人信息保护法》也摆在那儿,甚至还有专门针对深度伪造的《生成式人工智能服务管理暂行办法》。


潘多拉魔盒已经撬开

必须承认,AI走到今天,也不全是坏事。

它让程序员少写了一半的代码,让设计师一晚上能出十版方案,让抑郁症患者半夜三点还有人陪聊,让非洲村庄的孩子第一次用上了家庭教师。

医院里,AI辅助诊断把早期癌症的识别率提高了一大截,在科研圈,AlphaFold把人类折腾了五十年的蛋白质结构问题给破了。

这些都是真的,一点都不掺水。

但AI也让地铁里坐你对面的大哥,能通过一张偷拍照,十分钟后就拥有一段你的“不雅视频”。它让初中女生不敢再发朋友圈自拍,让女明星每周都要发律师函,让一个普通人的脸变成了随时可能被征用的公共资源。


这也是真的。

在笔者看来,技术从来都是双刃剑,这句话说烂了。但AI的特殊之处在于,它把「作恶」的门槛降到了前所未有的低。

印刷术被发明的时候,伪造一本书需要印刷厂;Photoshop流行的时候,P一张能骗过别人的照片需要专业技能;但到了AI这一代,一个高中生花半小时学个教程,就能批量生产曾经只有顶级特效团队才能做出来的东西。

作恶的成本被压缩到了几乎为零。

当作恶的成本趋近于零,作恶的规模就会趋近于无限。

而今天,我们正站在一个特别奇怪的时间节点上。

一方面,AI大模型的喜讯天天上新闻;

另一方面,五块钱一张的AI黄图已经成了某些QQ群里的日常交易。

两件事听起来不像同一个宇宙的产物,但它们确确实实生长在同一片土壤里。

等到有一天,我们终于建立起配得上这个时代的AI治理体系的时候,回头看看今天这些被做成黄图的人,大概就像今天的我们回看那些早期互联网时代被人肉搜索的受害者,我们会说一句:

“那时候的人真可怜”

然后继续享受技术带来的便利,难道不是吗?

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
有没有发现一个现象:中国对日本友好时,日本媒体渲染中国威胁论!现在因高市早苗的言论,中国出口威胁到日本的各行各业时,媒体都不吱声

有没有发现一个现象:中国对日本友好时,日本媒体渲染中国威胁论!现在因高市早苗的言论,中国出口威胁到日本的各行各业时,媒体都不吱声

与笑相拥m
2026-09-02 15:45:32
大量美军死伤!伊朗发起猛烈反击,特朗普:把他们从地球上抹去

大量美军死伤!伊朗发起猛烈反击,特朗普:把他们从地球上抹去

大国之翼
2026-09-02 06:31:38
停球被断致丢球!22岁国足红星遭羞辱:替补25分钟被换下 直接离场

停球被断致丢球!22岁国足红星遭羞辱:替补25分钟被换下 直接离场

我爱英超
2026-09-02 22:19:35
吃相难看!王新军去世仅1天,荒谬一幕出现,秦海璐也被牵连

吃相难看!王新军去世仅1天,荒谬一幕出现,秦海璐也被牵连

林轻吟
2026-09-02 19:33:26
美军“林肯”号航母即将停靠泰国芭提雅,美方告诫官兵不得参与非法性交易,不得进大麻商店消费;泰方紧急“扫黄”,逮捕四五十名违法人员

美军“林肯”号航母即将停靠泰国芭提雅,美方告诫官兵不得参与非法性交易,不得进大麻商店消费;泰方紧急“扫黄”,逮捕四五十名违法人员

极目新闻
2026-09-02 09:32:23
吉隆口岸联检大楼原址插上了五星红旗,核心受灾区现场最新航拍:“失联人员和车辆深埋巨石和淤泥之下”

吉隆口岸联检大楼原址插上了五星红旗,核心受灾区现场最新航拍:“失联人员和车辆深埋巨石和淤泥之下”

大风新闻
2026-09-02 15:57:28
广西一被告庭审期间离世,生前曾当庭控诉遭突破生理极限刑讯逼供

广西一被告庭审期间离世,生前曾当庭控诉遭突破生理极限刑讯逼供

兵叔评说
2026-09-02 17:10:31
29分惨败!女篮世界杯前夕遭当头一棒:韩旭回归却被法国队打爆了?

29分惨败!女篮世界杯前夕遭当头一棒:韩旭回归却被法国队打爆了?

篮球快餐车
2026-09-02 18:01:54
太难选择了!成都27岁女生相亲陷入两难:要生理性喜欢,还是要2000万家底

太难选择了!成都27岁女生相亲陷入两难:要生理性喜欢,还是要2000万家底

火山詩话
2026-09-01 07:05:33
64岁周星驰悲痛发文悼念陈观泰,感恩36年前知遇之恩,受邀主演《小偷阿星》

64岁周星驰悲痛发文悼念陈观泰,感恩36年前知遇之恩,受邀主演《小偷阿星》

叨唠
2026-09-02 20:36:32
谁干的?俄罗斯军官被斩首,美英法集体沉默,普京连下三条命令

谁干的?俄罗斯军官被斩首,美英法集体沉默,普京连下三条命令

闻识
2026-09-02 11:17:04
孔绍逊履新代省长!多个省级政府领导班子有调整

孔绍逊履新代省长!多个省级政府领导班子有调整

上观新闻
2026-09-02 13:22:40
什么比穷更可怕?浙江义乌95后女孩,白天做跨境电商,晚上足疗技师,被同行称作跨界的神,月入不到六位数

什么比穷更可怕?浙江义乌95后女孩,白天做跨境电商,晚上足疗技师,被同行称作跨界的神,月入不到六位数

捣蛋窝
2026-09-02 22:37:46
200亿龙头,被107个应届生上了一课

200亿龙头,被107个应届生上了一课

凤凰网财经
2026-09-01 23:50:47
清华美院丁荭风波后续:网传被约谈,作品被撤展,终身取消申报资格

清华美院丁荭风波后续:网传被约谈,作品被撤展,终身取消申报资格

小徐讲八卦
2026-09-02 09:30:37
连续6天重击基辅,俄乌冲突新阶段:俄罗斯无人机能力大增,启动“全天候消耗方案”?

连续6天重击基辅,俄乌冲突新阶段:俄罗斯无人机能力大增,启动“全天候消耗方案”?

红星新闻
2026-09-02 15:19:43
女子捡了只流浪猫带公司养,老板买了猫窝却没看尺寸,网友:咪总每天在800平的卧室醒来...

女子捡了只流浪猫带公司养,老板买了猫窝却没看尺寸,网友:咪总每天在800平的卧室醒来...

爱宠物
2026-09-02 23:14:43
陷入“批量解约应届生”风波,星宇股份董事长周晓萍回应

陷入“批量解约应届生”风波,星宇股份董事长周晓萍回应

南方都市报
2026-09-02 13:44:15
金价,快速下跌

金价,快速下跌

中国基金报
2026-09-02 11:05:26
中央开始严查!多地机关,事业单位大整顿!这几类人受影响最大

中央开始严查!多地机关,事业单位大整顿!这几类人受影响最大

细说职场
2026-09-02 19:29:32
2026-09-03 05:19:00
新浪财经 incentive-icons
新浪财经
新浪财经是一家创建于1999年8月的财经平台
4637922文章数 9432关注度
往期回顾 全部

科技要闻

凌晨最强模型上新,Claude Fable 5.1发布

头条要闻

游客拍下疑冰崩画面:土石翻涌 山间有黑色物体涌出

头条要闻

游客拍下疑冰崩画面:土石翻涌 山间有黑色物体涌出

体育要闻

一次有奖问答,让他成为欧冠主帅

娱乐要闻

香港武打影星陈观泰离世,终年80岁

财经要闻

星宇股份的麻烦,才刚开始

汽车要闻

配双腔空悬+机械差速锁 传祺越7预售权益价17.18万起

态度原创

时尚
房产
亲子
游戏
军事航空

白衬衫不火了?早秋穿“棕色衬衫”更高级好看

房产要闻

新四代住宅 新样板间开放丨以艺术之名 赴一场迭代之约

亲子要闻

为啥老人一定要给儿子带小孩儿!网友:这是看到过的很正确的解释

《CS2》凉了吗?玩家人数创两年来新低 问题出在哪

军事要闻

特朗普威胁伊朗终极打击蓄势待发

无障碍浏览 进入关怀版