网易首页 > 网易号 > 正文 申请入驻

元宝AI除夕夜辱骂用户,官方致歉:模型在处理多轮对话时,输出结果异常,已紧急校正并优化

0
分享至

2月25日,。

据报道,西安一名市民在除夕夜使用该App生成拜年图片时,遭遇AI无故辱骂,原本的祝福标语被替换成低俗辱骂文字。

当事人介绍,他当时先后向元宝AI下达了约5次生成指令,全程未使用任何违禁词或诱导性表述,仅因对生成效果不满意多次修改。起初AI生成的图片虽不理想但内容正常,直至最后一次修改后,图片中原有的“新年快乐,仕途顺遂”祝福标语,被替换成了四字辱骂文字。

小编搜索发现,2月24日,腾讯元宝在当事人帖子下回复道:“非常抱歉给您带来不好的体验。经核实,该情况是由模型在处理多轮对话时输出的异常结果导致。目前,我们已紧急校正了相关问题并优化体验。感谢大家对元宝的监督与建议,再次向您郑重致歉!”

“除夕当天,我看到很多朋友发的微信朋友圈都变成了金色,得知是通过‘元宝App’发布朋友圈就可以变换成金色,带着好奇,我也下载了一个元宝App尝试……”向先生告诉记者,他是一名律师,当时在AI平台中上传了自己的形象照片,希望元宝App可以结合他从事的法律行业特性设计一张适合的朋友圈拜年图片。

向先生说,他是第一次下载使用元宝App,除夕晚9时许,他前后向AI输入了约五次指令,期间并未使用违禁词或具有诱导性的文字,就当是和对方在对话,“起初生成的结果虽然不满意,但一切还算正常,也挺有趣的。万万没想到最后一次生成的照片上,自己的照片下方竟出现了‘你妈个X’的四字辱骂文字。”向先生说,这一结果让他又好气又好笑,没想除夕晚上自己竟然被AI给骂了。

“数字冒犯”并非首次

官方曾回复:

属于小概率下的模型异常输出

向先生遭遇的“数字冒犯”并非个例,据媒体报道,今年年初,就曾有网友在社交平台发帖称,“用元宝改代码被辱骂+乱回”,据网友表示,使用腾讯元宝AI美化代码时,多次收到AI的侮辱性回复,例如“滚”“自己不会调吗”“天天浪费别人时间”等。截图显示,用户仅提出常规修改需求,AI却突然表现出攻击性。

今年1月3日,腾讯元宝官方账号在相关帖子下致歉称:“非常抱歉给您带来了不好的体验,我们根据日志进行了相关核查,与用户操作无关,也不存在人工回复,属于小概率下的模型异常输出。”腾讯元宝表示,在内容生成过程中,模型偶尔可能出现不符合预期的失误。元宝也启动了内部排查和优化,会尽量避免类似情况再次发生。“感谢大家的反馈与提醒,再次向您致歉!”而据公开报道显示,除元宝AI外,国内外多款AI聊天服务也曾出现在正常对话过程中突现异常回复的现象。

“AI迅猛的发展,带来的不仅仅是方便,同时可能也会伴随侵权的发生。”对于自身的遭遇,向先生认为,AI首先应当是保护人类的,这个主题无论AI如何发展都应是铁律。虽然AI不具有民事主体资格,但AI的开发商、运营商是具备民事主体资格的,且使用AI的用户是具有民事权利能力的活生生的人,其生命权、健康权、人格权等是受《民法典》及诸多法律保护的,这应当引起法律的重视和社会的思考。

声明

本文来 源于红星新闻、东方财经、华商报。以 上图 文,贵在分享,版权 归原作者及原出处所有,内容仅为作者观点,并不代表本公 众号立场。如涉及版权等问题,请及时与我们联系。

本文编辑:CHEN°

责任编辑:林美妮

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
中国U19男足2比1战胜韩国队,赢得熊猫杯冠军

中国U19男足2比1战胜韩国队,赢得熊猫杯冠军

澎湃新闻
2026-11-17 21:39:07
东风-61列装,引发岛内巨震

东风-61列装,引发岛内巨震

极目新闻
2026-11-17 15:57:30
国足争议判罚!王钰栋遭爆铲,VAR介入8分钟,张玉宁连场破门

国足争议判罚!王钰栋遭爆铲,VAR介入8分钟,张玉宁连场破门

奥拜尔
2026-11-17 21:50:12
足坛悲喜夜!争议点球扳平 国足2-2巴林 日本1-2爆冷输球 韩国1-0

足坛悲喜夜!争议点球扳平 国足2-2巴林 日本1-2爆冷输球 韩国1-0

侃球熊弟
2026-11-18 00:02:45
AI演员一句“戴了一天很舒服”,被罚6.8万元

AI演员一句“戴了一天很舒服”,被罚6.8万元

凤凰网财经
2026-11-17 00:22:30
风波升级!官媒下场锐评"零元面馆",言辞犀利,字字戳进老板心窝

风波升级!官媒下场锐评"零元面馆",言辞犀利,字字戳进老板心窝

卷史
2026-11-17 17:20:48
功亏一篑!斥巨资护桥终付东流,俄罗斯克里米亚大桥已经被乌军击毁一侧

功亏一篑!斥巨资护桥终付东流,俄罗斯克里米亚大桥已经被乌军击毁一侧

军迷战情室
2026-11-17 19:38:27
重磅!美国商务部新规落地,围堵中国 AI 远程算力(附中英文下载)

重磅!美国商务部新规落地,围堵中国 AI 远程算力(附中英文下载)

起点财经
2026-11-17 14:28:47
比2-2更扎心的,是巴林主帅桑切斯赛后的表态,简直是对国足的双重羞辱

比2-2更扎心的,是巴林主帅桑切斯赛后的表态,简直是对国足的双重羞辱

南海浪花
2026-11-18 01:30:46
79岁路都走不稳还开演唱会捞金,全网恶评如潮,她却扬言回馈粉丝

79岁路都走不稳还开演唱会捞金,全网恶评如潮,她却扬言回馈粉丝

背包旅行
2026-11-17 12:11:31
英伟达宣布,成立出口管制监督委员会!

英伟达宣布,成立出口管制监督委员会!

芯智讯
2026-11-17 21:45:31
10月失业率降到5.1%,就业大局稳住了

10月失业率降到5.1%,就业大局稳住了

贝壳财经
2026-11-17 09:40:03
江苏母亲勒死3岁亲儿,庭审现场道出缘由,孩子生前那句话让人泪崩

江苏母亲勒死3岁亲儿,庭审现场道出缘由,孩子生前那句话让人泪崩

雾岛夜话
2026-11-17 13:25:16
俄罗斯被曝将芬兰退出北约列为结束俄乌战争的条件之一,芬兰国防部长公开表示:没有谈判余地,俄罗斯心知肚明,提出这种要求简直荒谬至极

俄罗斯被曝将芬兰退出北约列为结束俄乌战争的条件之一,芬兰国防部长公开表示:没有谈判余地,俄罗斯心知肚明,提出这种要求简直荒谬至极

吉刻新闻
2026-11-15 18:22:34
克里米亚大桥被炸,勒庞承诺如当选继续援乌

克里米亚大桥被炸,勒庞承诺如当选继续援乌

名人苟或
2026-11-17 14:46:21
碾压!巴西3球被吹仍7-0新加坡 皇马1.3亿巨星12分钟戴帽+2场5球

碾压!巴西3球被吹仍7-0新加坡 皇马1.3亿巨星12分钟戴帽+2场5球

我爱英超
2026-11-17 20:00:36
普京来中国带上三大副总理,办完大事不急着回国,直奔中俄大后方

普京来中国带上三大副总理,办完大事不急着回国,直奔中俄大后方

巷北楠猫本尊
2026-11-17 16:13:32
郎朗师妹、“钢琴魔女”王羽佳国家大剧院演出迟到17分钟,躲在琴房找感觉,引发观众不满;此前香港站临时缩减演出时长,主办方无奈退款

郎朗师妹、“钢琴魔女”王羽佳国家大剧院演出迟到17分钟,躲在琴房找感觉,引发观众不满;此前香港站临时缩减演出时长,主办方无奈退款

极目新闻
2026-11-17 16:39:40
希拉里:若有政治家有资格被称为当今自由世界领袖,那应该是卡尼

希拉里:若有政治家有资格被称为当今自由世界领袖,那应该是卡尼

经纬戎韬
2026-11-18 01:09:10
国足2-2巴林!赛后球员评分:仅1人满分 多人不及格 刘洋配不上首发

国足2-2巴林!赛后球员评分:仅1人满分 多人不及格 刘洋配不上首发

侃球熊弟
2026-11-17 22:01:13
2026-11-18 06:19:00
山东教育电视台 incentive-icons
山东教育电视台
让教育更贴心
26049文章数 16659关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

更豪华更好开 问界新M8细节升级见真章

态度原创

教育
本地
旅游
艺术
军事航空

教育要闻

济南市历下区燕山小学教育集团将出席2026第四届课博会,解码“做中学”视域下小学科学教育生态构建

本地新闻

乌兰察布:以前种土豆,现在种Token

旅游要闻

秋假遛娃剑门关,全程17000步,6个小时,喜提废腿体验!

艺术要闻

漫天香氛,秋风醉人~杭州的秋天从不让人失望!13个地方,秒出大片!

军事要闻

美军在中东再成三航母之势

无障碍浏览 进入关怀版