网易首页 > 网易号 > 正文 申请入驻

研究发现,各个AI软件审判语言差异很大,同一句话有不同的态度

0
分享至

在阅读文章前,辛苦您点下“关注”,方便讨论和分享。作者定会不负众望,按时按量创作出更优质的内容。

文I

编辑I

最近刷到个特逗的研究 —— 宾夕法尼亚大学那帮教授闲得慌,拿 130万个句子去考七大AI模型,结果差点没把人笑晕。

就好比七个老师批改同篇作文,有人打满分,有人给零分,还都是正经名校毕业的那种。

先说最离谱的:OpenAI、Google、DeepSeek 这些巨头的AI,对着同一段文字能吵翻天。

比如一句带点调侃的话,有的模型立马标红“仇恨言论”,有的却大手一挥“通过”。

研究里说,这些AI对125个群体的态度简直天差地别。对种族、性别这类话题,七个模型倒是能达成共识,像被统一培训过似的。

可是一碰到教育水平、收入阶层这些,就彻底放飞自我了。比如你说句“程序员头发都不多”,有的 AI 觉得是人身攻击,有的还觉得挺幽默 —— 合着程序员的发际线在 AI 眼里是敏感词还是段子素材,全看模型心情?

最让人哭笑不得的是同一模型自己还会“精分”。有时候相似的话,上一句判违规,下一句就放行,就跟抽奖似的。

有个叫Claude 3.5 Sonnet的模型更绝,搞“零容忍”政策,只要看见个敏感词,管你上下文是骂街还是学术讨论,一律咔掉。就像语文老师看见“死”字就打叉,哪怕你写的是“牺牲的烈士永垂不朽”。

这事儿往深了想还挺吓人。现在各大平台全靠 AI 当“门卫”,可这些门卫连统一的门禁规则都没有。你在A平台发个帖好好的,转到B 平台就被封号。

为啥会这样呢?说到底还是 AI 的“家教”不一样。OpenAI 家的模型可能从小看CNN长大的;Google的说不定是天天刷纽约时报;而DeepSeek 这类本土选手又有自己的训练素材。就像七个孩子分别在七个国家长大,对“礼貌”的理解能一样才怪。

更扎心的是,AI也偏心。对那些常上新闻的群体,保护得跟亲儿子似的;对那些不怎么出声的小众群体,就睁一只眼闭一只眼。

比如你骂句“某宗教信徒怎样怎样”,AI 立马跳出来制止;可你要是嘲讽“小区广场舞大妈”,AI 可能还觉得挺有梗 —— 合着被保护的资格,还得看群体的“曝光度”?

有人说这是技术问题,等AI再聪明点就好了。但研究里的教授们说了大实话:语言这东西太微妙了。同样一句“你可真行啊”,笑着说和翻着白眼说,意思能差十万八千里。AI 现在也就听个字面意思,哪懂人类这九曲十八弯的心思?

不过这研究也不是没好处,至少让咱们明白:别太把 AI 的判断当圣旨。说不定你被删的帖子,换个平台就能成为爆款。也别总怪平台审核严,可能它家 的AI今天正好“心情不好”。

说到底,AI再牛也只是工具。真正的分寸感,还得靠人来把握。就像七个老师意见不统一时,总得有个校长出来拍板。

未来这些科技公司要是能坐下来商量个大致标准,别让用户猜来猜去,那才是真的进步。

最后说个冷知识:研究发现,越是“谨慎”的 AI,越容易误判正常内容。

所以下次你发的东西被删了,别太生气 —— 可能只是碰上了个 “老古板”AI,它不是针对你,它是对谁都这样。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
乔治三兄妹成长曝光:英王室摄影师感叹,这生活普通人真受不了

乔治三兄妹成长曝光:英王室摄影师感叹,这生活普通人真受不了

世界王室那些事
2026-03-30 17:27:35
54股今日获机构买入评级

54股今日获机构买入评级

证券时报
2026-03-30 18:18:15
跟低学历妹子谈恋爱是啥体验?网友:低社会化人群被女版黄毛拿下

跟低学历妹子谈恋爱是啥体验?网友:低社会化人群被女版黄毛拿下

带你感受人间冷暖
2026-03-28 16:48:21
伊朗革命卫队已经事实独立

伊朗革命卫队已经事实独立

难得君
2026-03-04 12:29:04
演唱会暴雨退票冲上热搜,撕开了整个演出行业最不堪的遮羞布

演唱会暴雨退票冲上热搜,撕开了整个演出行业最不堪的遮羞布

东方不败然多多
2026-03-30 17:27:54
斯坦福、哈佛公认:人生回报率最高的3件小事,每天5分钟就够

斯坦福、哈佛公认:人生回报率最高的3件小事,每天5分钟就够

千秋文化
2026-03-24 21:37:02
有一是一,阿隆索不仅耽误了维尼修斯,同时也耽误了巴尔韦德!

有一是一,阿隆索不仅耽误了维尼修斯,同时也耽误了巴尔韦德!

田先生篮球
2026-03-29 22:07:38
5亿遗产,67%归妻,16.5%留女!张雪峰留给世界的最后账本!

5亿遗产,67%归妻,16.5%留女!张雪峰留给世界的最后账本!

新浪财经
2026-03-27 10:53:31
欧尔班的好运气,大概快用完了!!!

欧尔班的好运气,大概快用完了!!!

山河路口
2026-03-29 20:30:08
CBA今日消息!麦基发文嘲讽杜锋!焦泊乔可能之后不归队

CBA今日消息!麦基发文嘲讽杜锋!焦泊乔可能之后不归队

画夕
2026-03-30 16:24:07
张雪峰女儿亲自辟谣!父母恩爱没离婚,回应三个问题,口才很意外

张雪峰女儿亲自辟谣!父母恩爱没离婚,回应三个问题,口才很意外

可爱小菜
2026-03-30 05:57:16
“生吃”雅马哈!张雪机车概念股大涨

“生吃”雅马哈!张雪机车概念股大涨

证券时报e公司
2026-03-30 15:50:14
李荣浩预判封神,单依纯道歉果然甩锅团队!李荣浩再发四连问声讨

李荣浩预判封神,单依纯道歉果然甩锅团队!李荣浩再发四连问声讨

露珠聊影视
2026-03-29 17:57:06
申京36+14+7火箭大胜送鹈鹕5连败,杜兰特20+6穆雷19分

申京36+14+7火箭大胜送鹈鹕5连败,杜兰特20+6穆雷19分

湖人崛起
2026-03-30 09:25:00
快扔掉!戴一天,辐射量相当于拍117次胸片

快扔掉!戴一天,辐射量相当于拍117次胸片

FM93浙江交通之声
2025-10-28 00:01:43
黄维女儿被通知领抗战纪念章,当场愣住:我爸关了27年,还配有这资格?

黄维女儿被通知领抗战纪念章,当场愣住:我爸关了27年,还配有这资格?

文史明鉴
2026-03-27 20:55:10
最高判处死刑!“台独”顽固分子集体沉默,台湾5人不敢公开表态

最高判处死刑!“台独”顽固分子集体沉默,台湾5人不敢公开表态

奥字侃剧
2026-03-30 16:27:12
女子赴发小婚礼穿瑜伽裤,打扮过于火辣,网友直呼跟没穿似的

女子赴发小婚礼穿瑜伽裤,打扮过于火辣,网友直呼跟没穿似的

一盅情怀
2026-03-16 17:28:45
特朗普很可能已经被下面的人给架空了,而且还被犹太势力彻底操控

特朗普很可能已经被下面的人给架空了,而且还被犹太势力彻底操控

西楼知趣杂谈
2026-03-29 21:35:47
被迫床上试戏?33号远征队"女主"曝自己重大失误

被迫床上试戏?33号远征队"女主"曝自己重大失误

游民星空
2026-03-29 22:04:14
2026-03-30 22:56:50
荐史
荐史
读史使人明智,品史使人明理。
5369文章数 206关注度
往期回顾 全部

科技要闻

一句谎言引发的硅谷血案

头条要闻

女子借公司500万维权14年收回1.2万:连利息零头都不够

头条要闻

女子借公司500万维权14年收回1.2万:连利息零头都不够

体育要闻

想进世界杯,意大利还要过他这一关

娱乐要闻

全红婵聊到体重哭了,每天只吃一顿饭

财经要闻

本轮地缘冲突,A股凭什么走出独立行情

汽车要闻

限时12.58万起 银河星耀8远航家系列上市

态度原创

亲子
游戏
家居
健康
时尚

亲子要闻

孩子眼睛出现这些现象,一定要警惕!

《GTA4》重大泄露!开发机流出:118G海量数据泄密

家居要闻

东方法式美学 现代简约

干细胞抗衰4大误区,90%的人都中招

白瞎了这张脸?演技好,人品渣

无障碍浏览 进入关怀版