网易首页 > 网易号 > 正文 申请入驻

研究发现,各个AI软件审判语言差异很大,同一句话有不同的态度

0
分享至

在阅读文章前,辛苦您点下“关注”,方便讨论和分享。作者定会不负众望,按时按量创作出更优质的内容。

文I

编辑I

最近刷到个特逗的研究 —— 宾夕法尼亚大学那帮教授闲得慌,拿 130万个句子去考七大AI模型,结果差点没把人笑晕。

就好比七个老师批改同篇作文,有人打满分,有人给零分,还都是正经名校毕业的那种。

先说最离谱的:OpenAI、Google、DeepSeek 这些巨头的AI,对着同一段文字能吵翻天。



比如一句带点调侃的话,有的模型立马标红“仇恨言论”,有的却大手一挥“通过”。

研究里说,这些AI对125个群体的态度简直天差地别。对种族、性别这类话题,七个模型倒是能达成共识,像被统一培训过似的。

可是一碰到教育水平、收入阶层这些,就彻底放飞自我了。比如你说句“程序员头发都不多”,有的 AI 觉得是人身攻击,有的还觉得挺幽默 —— 合着程序员的发际线在 AI 眼里是敏感词还是段子素材,全看模型心情?

最让人哭笑不得的是同一模型自己还会“精分”。有时候相似的话,上一句判违规,下一句就放行,就跟抽奖似的。



有个叫Claude 3.5 Sonnet的模型更绝,搞“零容忍”政策,只要看见个敏感词,管你上下文是骂街还是学术讨论,一律咔掉。就像语文老师看见“死”字就打叉,哪怕你写的是“牺牲的烈士永垂不朽”。

这事儿往深了想还挺吓人。现在各大平台全靠 AI 当“门卫”,可这些门卫连统一的门禁规则都没有。你在A平台发个帖好好的,转到B 平台就被封号。

为啥会这样呢?说到底还是 AI 的“家教”不一样。OpenAI 家的模型可能从小看CNN长大的;Google的说不定是天天刷纽约时报;而DeepSeek 这类本土选手又有自己的训练素材。就像七个孩子分别在七个国家长大,对“礼貌”的理解能一样才怪。



更扎心的是,AI也偏心。对那些常上新闻的群体,保护得跟亲儿子似的;对那些不怎么出声的小众群体,就睁一只眼闭一只眼。

比如你骂句“某宗教信徒怎样怎样”,AI 立马跳出来制止;可你要是嘲讽“小区广场舞大妈”,AI 可能还觉得挺有梗 —— 合着被保护的资格,还得看群体的“曝光度”?

有人说这是技术问题,等AI再聪明点就好了。但研究里的教授们说了大实话:语言这东西太微妙了。同样一句“你可真行啊”,笑着说和翻着白眼说,意思能差十万八千里。AI 现在也就听个字面意思,哪懂人类这九曲十八弯的心思?



不过这研究也不是没好处,至少让咱们明白:别太把 AI 的判断当圣旨。说不定你被删的帖子,换个平台就能成为爆款。也别总怪平台审核严,可能它家 的AI今天正好“心情不好”。

说到底,AI再牛也只是工具。真正的分寸感,还得靠人来把握。就像七个老师意见不统一时,总得有个校长出来拍板。

未来这些科技公司要是能坐下来商量个大致标准,别让用户猜来猜去,那才是真的进步。



最后说个冷知识:研究发现,越是“谨慎”的 AI,越容易误判正常内容。

所以下次你发的东西被删了,别太生气 —— 可能只是碰上了个 “老古板”AI,它不是针对你,它是对谁都这样。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
“秦始皇遣使采药昆仑石刻”最新进展:国家文物局认定为秦代石刻

“秦始皇遣使采药昆仑石刻”最新进展:国家文物局认定为秦代石刻

封面新闻
2025-09-15 12:32:15
我妈就给我煮了5次,一觉睡到大天亮,没闹钟都醒不了

我妈就给我煮了5次,一觉睡到大天亮,没闹钟都醒不了

媛来这样
2025-08-22 14:29:40
大黑牛抛弃九亿姐的瓜!李现陈晓“直接跳车”?

大黑牛抛弃九亿姐的瓜!李现陈晓“直接跳车”?

八卦疯叔
2025-09-15 10:36:08
突发!北约两架F16疑似击落俄军机!泽连斯基:俄方正在扩大战争

突发!北约两架F16疑似击落俄军机!泽连斯基:俄方正在扩大战争

朔方瞭望
2025-09-16 10:22:34
英伟达回应被市场监管总局指控违反反垄断法:遵守所有法律规定

英伟达回应被市场监管总局指控违反反垄断法:遵守所有法律规定

IT之家
2025-09-16 18:58:24
生过孩子后你悟到了什么?网友:有没有月子餐婆婆让吃咸菜的

生过孩子后你悟到了什么?网友:有没有月子餐婆婆让吃咸菜的

解读热点事件
2025-09-17 00:10:08
微信重大功能上线,网友:终于可以发了

微信重大功能上线,网友:终于可以发了

FM93浙江交通之声
2025-09-16 23:06:23
你见过最强的扶弟魔是啥样?网友:她的经历配的上她的苦难

你见过最强的扶弟魔是啥样?网友:她的经历配的上她的苦难

解读热点事件
2025-08-26 00:05:07
梭子蟹再鲜也别贪!这份健康指南帮你避坑|上海市消保委美丽健康专业办

梭子蟹再鲜也别贪!这份健康指南帮你避坑|上海市消保委美丽健康专业办

申消费
2025-09-16 10:23:58
涉毒艺人苏永康将在温州办演唱会,有网友投诉,官方:报批资料合规,暂无不举办的通知

涉毒艺人苏永康将在温州办演唱会,有网友投诉,官方:报批资料合规,暂无不举办的通知

极目新闻
2025-09-15 17:38:42
固态电池突破:奔驰实测1205公里,中国电池领域面还能领先吗?

固态电池突破:奔驰实测1205公里,中国电池领域面还能领先吗?

侃故事的阿庆
2025-09-16 15:47:48
魅族22开售5分钟售罄:搭载第四代骁龙8s,售价2999元起

魅族22开售5分钟售罄:搭载第四代骁龙8s,售价2999元起

PChome电脑之家
2025-09-16 10:01:00
不愧是山姆断货王,好喝到离谱!

不愧是山姆断货王,好喝到离谱!

广州生活美食圈
2025-09-16 19:45:14
辽宁最美公路本月底开通

辽宁最美公路本月底开通

沈阳生活圈i
2025-09-16 14:54:13
北京大阅兵后,俄方收到最新情报,美国为中国准备了25个秘密武器

北京大阅兵后,俄方收到最新情报,美国为中国准备了25个秘密武器

介知
2025-09-15 22:48:03
被封杀3年后,邓伦只能混迹三线小城市,32岁像50岁,摆烂憔悴,直言:回不去,再也回不去了

被封杀3年后,邓伦只能混迹三线小城市,32岁像50岁,摆烂憔悴,直言:回不去,再也回不去了

美芽
2025-08-18 19:21:23
又亏4亿,洗衣没人用蓝月亮了?

又亏4亿,洗衣没人用蓝月亮了?

快刀财经
2025-09-12 22:50:14
上海人注意!冷空气正在赶来,即将断崖式降温!

上海人注意!冷空气正在赶来,即将断崖式降温!

鲁中晨报
2025-09-15 11:39:18
全裸出镜,一脱爆火,这尺度新剧实在太敢拍

全裸出镜,一脱爆火,这尺度新剧实在太敢拍

TVB的四小花
2025-09-11 11:24:05
凌晨两点岳母让我送她去打麻将,我问她儿子呢?她骂:我儿子要睡觉

凌晨两点岳母让我送她去打麻将,我问她儿子呢?她骂:我儿子要睡觉

张道陵秘话
2025-09-16 17:08:52
2025-09-17 02:40:49
荐史
荐史
读史使人明智,品史使人明理。
2454文章数 104关注度
往期回顾 全部

科技要闻

2025款Apple Watch全系怎么选?

头条要闻

女子误触“化骨水”去世:有两个孩子 今年孩子刚成家

头条要闻

女子误触“化骨水”去世:有两个孩子 今年孩子刚成家

体育要闻

2022:勇士归来,库里的第四个冠军

娱乐要闻

李小璐母亲:女儿嫁给贾乃亮我好后悔

财经要闻

扩大服务消费 9部门提出5方面19条举措

汽车要闻

智能体豪华旅行车 享界S9T30.98万元起售

态度原创

艺术
家居
房产
健康
亲子

艺术要闻

故宫珍藏的墨迹《十七帖》,比拓本更精良,这才是地道的魏晋写法

家居要闻

江南秘境 理想生活模样

房产要闻

当海口书包房卷向「未来」,这里的孩子和房价,都在高速超车!

内分泌科专家破解身高八大谣言

亲子要闻

商务部等九部门:支持有条件的幼儿园招收2—3岁幼儿

无障碍浏览 进入关怀版