网易首页 > 网易号 > 正文 申请入驻

从“新年快乐”到“你×个×”,AI的脏话跟谁学的?丨中听

0
分享至

评论员 陈柯旭

新年祝语变“国粹”输出,AI闹剧再次上演。

近日,据华商报报道,过年期间,西安一位男子借助AI生成拜年图片时,遭遇AI无故辱骂,原本的祝福标语“新年快乐,仕途顺遂”被替换成了低俗辱骂文字,好好的拜年秒变“翻车现场”。

相关AI平台火速作出回应,称是模型处理多轮对话时的异常输出,已紧急修复并致歉。但可别忘了,这并非是AI首次“口吐芬芳”。今年年初,就有网友反映,使用AI修改代码时,多次收到“滚”“自己不会调吗”等侮辱性回复,甚至被嘲讽“天天浪费别人时间”,网友调侃,跟AI聊天,好像被电子PUA了。

AI骂人,用户却成了“背锅侠”,新年祝福变脏话攻击,暴露平台管理缺失,不能免责 ​。此前国内外就已多次曝出AI“发疯”骂人的情况,这说明平台在内容审核与安全管控方面存在明显漏洞。AI从海量训练数据里学东西,里面难免混进脏话、不文明用语。平台没有完善的内容过滤系统,缺乏高危词汇监测拦截机制,最终导致辱骂性文字堂而皇之地出现在对话框里。

另外,除了平台问题,用户向AI发出的指令内容也很关键。我们和AI交流沟通时,指令的清晰度、合理性以及潜在引导性,都会对输出结果产生影响。如果指令模糊不清,AI就很可能胡乱拼接出脏话,并非它故意骂人,更像是“抽风式出错”。

要是用户在多次修改指令之后,还没有得到满意的答案,言语中出现不满或急躁情绪时,AI说不定也会被这种负面情绪“带跑偏”,开始“发疯”,输出一些异常内容。当然,这绝不是为AI骂人的行为洗白,而是提醒用户在享受AI便利的同时,也要注意自身指令的规范与合理。

AI是算法程序,没有情绪,可技术得有底线,当AI开始“发疯”,我们该做的不是围观吃瓜,而是系好“伦理”的安全带。毕竟,谁也不想在拜年时,被AI送上一句“国粹”。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
特斯拉Model Y跑广州到杭州,1245公里充5次电:路费890元

特斯拉Model Y跑广州到杭州,1245公里充5次电:路费890元

小怪吃美食
2026-11-21 03:21:22
穆帅咆哮鼓励,皇马2-1逆转塞尔塔,豪取9连胜,一夜追平领头羊

穆帅咆哮鼓励,皇马2-1逆转塞尔塔,豪取9连胜,一夜追平领头羊

侧身凌空斩
2026-11-22 06:02:14
退休人员快来看!2026 年养老金还涨不涨?三个信号已经摆到桌面

退休人员快来看!2026 年养老金还涨不涨?三个信号已经摆到桌面

社保小达人
2026-11-22 09:43:06
排坛最新消息!名将颜妮大婚,中式婚纱上镜又美又飒,恩师郎平传来喜讯

排坛最新消息!名将颜妮大婚,中式婚纱上镜又美又飒,恩师郎平传来喜讯

南海浪花
2026-11-22 15:03:19
为什么现在投资什么都亏?一场结构性通缩下的集体财富幻觉破灭

为什么现在投资什么都亏?一场结构性通缩下的集体财富幻觉破灭

A活着
2026-11-21 12:46:41
为何全球只卖中美韩三国的手机?其他国家都不生产手机吗?

为何全球只卖中美韩三国的手机?其他国家都不生产手机吗?

铭记历史呀
2026-11-21 03:26:18
金敬道还能踢球!记者苗原:他可以继续搞足球

金敬道还能踢球!记者苗原:他可以继续搞足球

建哥说体育
2026-11-22 11:11:25
“泼天富贵”啊!男子出差住酒店碰上抓奸乌龙,对方误砸其房门,最后酒店免单补偿并送香烟一包

“泼天富贵”啊!男子出差住酒店碰上抓奸乌龙,对方误砸其房门,最后酒店免单补偿并送香烟一包

火山詩话
2026-11-21 18:24:46
波切蒂诺曼联首秀缺拉什福德,髋伤未愈无缘安菲尔德

波切蒂诺曼联首秀缺拉什福德,髋伤未愈无缘安菲尔德

甜度百分百21
2026-11-22 15:24:22
比亚迪女高管:花了3年多研发出折叠方向盘,网友第一反应却是 "有啥用"!

比亚迪女高管:花了3年多研发出折叠方向盘,网友第一反应却是 "有啥用"!

元气科技馆
2026-11-21 21:47:04
医院一线医护被逼走投无路,霸权式管理闹剧何时休?

医院一线医护被逼走投无路,霸权式管理闹剧何时休?

峰哥跑交通
2026-11-21 16:39:17
一日夫妻百日恩!李亚鹏没想到,离婚13年,王菲母女竟然为他争光

一日夫妻百日恩!李亚鹏没想到,离婚13年,王菲母女竟然为他争光

枫尘余往逝
2026-11-21 12:32:42
长荣曾拒挂旗帜、订单转向日韩,合作接连遇挫,如今怎么样了?

长荣曾拒挂旗帜、订单转向日韩,合作接连遇挫,如今怎么样了?

玲儿爱唱歌
2026-11-21 06:32:49
APEC荔枝冰酒断货居然是因为没酒瓶了,厂家:有人联系愿意免费供酒瓶,若酒瓶充足,每天可生产1到2万瓶

APEC荔枝冰酒断货居然是因为没酒瓶了,厂家:有人联系愿意免费供酒瓶,若酒瓶充足,每天可生产1到2万瓶

极目新闻
2026-11-21 19:55:17
同样是打腊子口,中央红军绝境赌命,红四方面军为何轻松破关

同样是打腊子口,中央红军绝境赌命,红四方面军为何轻松破关

孙缡北漂拍客
2026-11-18 19:56:56
报复攻击克里米亚大桥,荷兰大使馆被炸!特朗普为俄导弹轰炸波兰辩解

报复攻击克里米亚大桥,荷兰大使馆被炸!特朗普为俄导弹轰炸波兰辩解

鹰眼Defence
2026-11-21 18:34:23
8投24中仍砍25分,独行侠末节发力110比100胜快船

8投24中仍砍25分,独行侠末节发力110比100胜快船

甜份超标的我
2026-11-22 15:38:30
独行侠力克快船获2连胜:弗拉格22+6+8欧文25+6 大洛21分

独行侠力克快船获2连胜:弗拉格22+6+8欧文25+6 大洛21分

醉卧浮生
2026-11-22 11:33:31
太难了!广东网友晒出公司延期发薪通知,欠薪近半年员工照常工作,哭诉外部求职难、低薪offer成常态

太难了!广东网友晒出公司延期发薪通知,欠薪近半年员工照常工作,哭诉外部求职难、低薪offer成常态

火山詩话
2026-11-22 09:59:30
老黄走了,英伟达中国 4000 人没人管,快一周了,员工都是懵的状态

老黄走了,英伟达中国 4000 人没人管,快一周了,员工都是懵的状态

起点财经
2026-11-22 13:10:41
2026-11-22 15:56:49
大象新闻 incentive-icons
大象新闻
河南广电官方网易号!
222752文章数 277024关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

常州网红副市长蒋鹏举履新江苏理工学院校长

头条要闻

常州网红副市长蒋鹏举履新江苏理工学院校长

体育要闻

全场挨打1比4溃败 阿隆索已过保质期?

娱乐要闻

杨迪戴东北绒帽在黑龙江漠河舞厅跳舞

财经要闻

金价跌破3550美元,分析称短期下行未逆转

汽车要闻

旗舰纯电大六座 2027款岚图泰山将于广州车展预售

态度原创

时尚
房产
健康
艺术
军事航空

这些才是适合50岁女性的穿搭!衣服不花哨、不老气,得体又自然

房产要闻

黄埔商业规划曝光!科学城能级跃升,核心入场券已锁定

医生眼里"很伤腰"的椅子,很多人天天坐

艺术要闻

2026第七届民族美术作品展 油画选三

军事要闻

伊朗革命卫队称袭击美军在巴林两处基地防空雷达

无障碍浏览 进入关怀版