网易首页 > 网易号 > 正文 申请入驻

马斯克旗下聊天机器人面临多国封禁

0
分享至

近期,特斯拉CEO马斯克旗下人工智能公司xAI被推上风口浪尖。因平台监管严重缺失,xAI旗下聊天机器人“格罗克”(Grok)被广泛滥用于生成色情内容,甚至涉及儿童色情内容,遭到英国、欧盟、印尼等多国强烈谴责,相关监管机构已相继启动调查或实施封禁。

Grok是由xAI公司开发,并内置于马斯克旗下的社交媒体X平台,用户可直接调用。近期,部分用户利用“格罗克”编辑图片和视频的功能,伪造涉真实人物的性暴露内容,并在X平台上传播。受害者包括多名成年女性和未成年人。

xAI于2025年8月向付费用户推出AI图像生成功能Grok Imagine,支持用户通过文字指令或上传图片来生成图像和视频。该工具还特别设置了“火辣模式”(spicy),可生成成人内容。

X平台上大量用户利用相关功能对图像中人物执行“脱衣服”“给她穿上比基尼”等指令,导致大量女性、公众人物甚至未成年人的照片,在未经本人同意的情况下被生成裸露图像或性暗示图像。

去年底,随着Grok开始大量响应用户修改他人发布图像的请求,乱象迅速扩大,X沦为AI色情重灾区。据《环球时报》援引英国《卫报》报道,Grok的用户群体平均每小时要生成6700多张“脱衣”图像。

其中,大量生成图像的素材源自真人,且未经当事人同意。英国三一学院的一项社交媒体研究显示,在社交平台X上由Grok生成的图像有3/4的部分均出自“真实素材”,即真实存在的女性或未成年人,且Grok对他们所进行的“变装”操作未经当事人同意。

相比谷歌的Veo、OpenAI的Sora等其他AI视频生成产品对NSFW内容(Not Safe For Work:多指裸露、暴力、色情或冒犯等不适宜公众场合的内容)设有较严格的限制,xAI及其旗下产品Grok Imagine和AI伴侣Ani,一直因安全护栏宽松而备受外界批评。

综合新华社及《环球时报》消息,Grok的问题已经受到英国、欧盟、印尼、澳大利亚等多国的高度关注,多国政府对其表达谴责并展开调查。

印度尼西亚政府1月10日宣布暂时封禁Grok,认为它已“严重侵犯人权尊严以及公民网络安全”。印尼通信和数字事务部长默蒂娅·哈菲兹10日在一份声明中表示,此举对于保护公众免受人工智能生成的露骨图像所带来的危害是必要的,并要求马斯克旗下的社交媒体X平台就“格罗克”所引发的负面影响尽快作出说明。

英国首相斯塔默痛斥Grok相关内容“令人不齿”“令人作呕”。英国通信管理局1月5日表示,已紧急联系X平台。

欧盟委员会发言人托马斯·雷尼耶指出,这类内容无关“火辣”,就是赤裸裸的“违法”,它们在欧盟不应具备生存空间。他表示,正严肃调查针对“格罗克”的相关投诉,欧盟委员会要求X平台提供更多信息。

法国巴黎检方1月2日对媒体证实,将对Grok涉嫌生成非法色情内容启动调查。此外,波兰、印度、马来西亚和巴西等国的官员及监管机构也纷纷对X平台表示谴责,并呼吁展开调查。

此外,美国3名民主党参议员于1月9日要求苹果和谷歌下架X和Grok应用,认为在马斯克未能阻止平台传播未经同意的色情内容前,两款应用不应继续留在应用商店。

据《环球时报》报道,在谴责声浪与监管压力下,Grok日前仅做出小幅调整:将图像生成与编辑功能设置为“仅限付费用户使用”,并鼓励平台用户积极订阅、解锁相关功能。

对此,据新华社报道,英国科学、创新和技术大臣莉兹·肯德尔称,Grok允许用户付费后继续生成“深度伪造”色情内容的行为是具有“侮辱性的”,“完全不可接受”。

另据新华社报道,X平台在一篇帖子中声称会对非法内容采取行动,例如删除内容、永久封禁账户,并在必要时与当地政府和执法部门合作。马斯克本月还发文警告称,任何利用Grok生成非法内容的用户,都将“面临与上传非法内容相同的后果”。xAI公司则表示,会删除包含儿童色情内容在内的违法帖子,并封禁相关账号。

业内人士认为,此次事件可能推动各国加快AI监管立法进程,尤其是针对生成式AI的内容审核、用户权益保护等环节的规范。

北京商报综合报道

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
苹果立大功!研究发现:苹果可能对这4种慢性病有好处!可以常吃

苹果立大功!研究发现:苹果可能对这4种慢性病有好处!可以常吃

侯医生谈健康
2026-11-22 05:00:03
深圳APEC国宴菜品出圈,背后坐镇大厨,40个竟全是来自顺德

深圳APEC国宴菜品出圈,背后坐镇大厨,40个竟全是来自顺德

巷北楠猫本尊
2026-11-21 02:40:07
裸粉瑜伽套装,丰满圆润熟女穿出轻熟感

裸粉瑜伽套装,丰满圆润熟女穿出轻熟感

樱桃小丸子1987
2026-11-01 19:36:30
世界上唯一不穿裤子的国家,男女老少都一样,出门简直“辣眼睛”

世界上唯一不穿裤子的国家,男女老少都一样,出门简直“辣眼睛”

千秋历史
2026-02-10 21:23:52
扎心了!35岁股民哭诉2015年进场,反复操作亏近60万,靠家人还债,自述心态崩溃迷茫

扎心了!35岁股民哭诉2015年进场,反复操作亏近60万,靠家人还债,自述心态崩溃迷茫

火山詩话
2026-11-22 11:28:22
穆里尼奥封神!皇马致命短板被彻底解决!力压伯纳乌传奇名帅

穆里尼奥封神!皇马致命短板被彻底解决!力压伯纳乌传奇名帅

澜归序
2026-11-22 09:17:45
5-6!斯诺克英锦赛再爆冷门:48岁名将一轮游,丁俊晖首战或德比

5-6!斯诺克英锦赛再爆冷门:48岁名将一轮游,丁俊晖首战或德比

章民解说体育
2026-11-22 10:39:48
詹姆斯21+6+6费城5连胜!全场四次炸裂暴扣 末节独得13分统治比赛

詹姆斯21+6+6费城5连胜!全场四次炸裂暴扣 末节独得13分统治比赛

林子说事
2026-11-22 11:23:15
高铁“三不带”全国统一执行!这3样东西出门前赶紧从包里拿出来

高铁“三不带”全国统一执行!这3样东西出门前赶紧从包里拿出来

牛锅巴小钒
2026-11-19 06:48:25
36万亿理财迎“严峻大考”!净值回撤引爆赎回潮?银行紧急喊话

36万亿理财迎“严峻大考”!净值回撤引爆赎回潮?银行紧急喊话

心灵得以滋养
2026-11-22 12:14:04
理科状元张晓勇:清华毕业5年后回乡做保安,现在每月工资5000元

理科状元张晓勇:清华毕业5年后回乡做保安,现在每月工资5000元

壹知眠羊
2026-11-22 07:12:13
选战倒数!宋楚瑜罕见表态 吁不分党派挺童子玮

选战倒数!宋楚瑜罕见表态 吁不分党派挺童子玮

金牛传声
2026-11-21 15:18:45
重型导弹补刀!拆解克里米亚大桥核心桥拱被彻底炸塌全过程

重型导弹补刀!拆解克里米亚大桥核心桥拱被彻底炸塌全过程

瞩望云霄
2026-11-21 13:33:37
iPhone 20 Pro Max 渲染图曝光,外观大变样

iPhone 20 Pro Max 渲染图曝光,外观大变样

全是技能
2026-11-20 18:04:54
英锦赛一夜2场冷门!中国2胜1负,傅家俊对手确定,奥沙利文出局

英锦赛一夜2场冷门!中国2胜1负,傅家俊对手确定,奥沙利文出局

小火箭爱体育
2026-11-21 21:47:42
为啥住酒店没遇到过警察查房呢?网友:因为警察一看我们在吃炸鸡,果断选择放过!

为啥住酒店没遇到过警察查房呢?网友:因为警察一看我们在吃炸鸡,果断选择放过!

夜深爱杂谈
2026-11-12 22:50:21
三连冠悬了!斯瓦泰克票数暴涨反超郑钦文

三连冠悬了!斯瓦泰克票数暴涨反超郑钦文

涵有话说
2026-11-22 09:45:52
特斯拉的赛博出租车,生怕车主不能坐牢?

特斯拉的赛博出租车,生怕车主不能坐牢?

硬核的半佛仙人
2026-11-22 12:13:32
库尔图瓦:穆帅更衣室讲话是关键,逆转塞尔塔不意外

库尔图瓦:穆帅更衣室讲话是关键,逆转塞尔塔不意外

懂球帝
2026-11-22 08:13:40
74岁罗珊娜自曝禁欲14年:性欲是个魔鬼,毁了我一切

74岁罗珊娜自曝禁欲14年:性欲是个魔鬼,毁了我一切

追星雷达站
2026-11-20 10:01:51
2026-11-22 14:07:00
北京商报 incentive-icons
北京商报
北京商报社隶属于中共北京市委宣传部,由北京日报报业集团主管主办
299230文章数 300251关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

牛弹琴:联合国秘书长的热门候选 可能被中方一票否决

头条要闻

牛弹琴:联合国秘书长的热门候选 可能被中方一票否决

体育要闻

全场挨打1比4溃败 阿隆索已过保质期?

娱乐要闻

杨迪戴东北绒帽在黑龙江漠河舞厅跳舞

财经要闻

金价跌破3550美元,分析称短期下行未逆转

汽车要闻

旗舰纯电大六座 2027款岚图泰山将于广州车展预售

态度原创

健康
艺术
旅游
教育
军事航空

医生眼里"很伤腰"的椅子,很多人天天坐

艺术要闻

16位欧洲画家的19幅作品欣赏

旅游要闻

留在紫柏山的张良背影

教育要闻

日常英语:合租的问题

军事要闻

伊朗革命卫队称袭击美军在巴林两处基地防空雷达

无障碍浏览 进入关怀版