河北
（KRON）——‘这特性虽然害人不浅，但也让人越用越上瘾。’
这是什么特性？根据斯坦福大学最近的一项研究，这是AI里的‘拍马屁’——也就是‘AI大语言模型使劲儿迎合、恭维、肯定用户的毛病’。
科学家们分析了超过2400名参与者的数据，这些人就‘正经谈话’向11个主流AI聊天机器人讨主意。研究结果显示，参与者更爱挑那些肯定自己做法、让自己感觉没错、并且不怎么替对方着想的AI回复。结果，这些人在人际关系里更不愿意主动担责或修复关系了。
该研究报告称，美国近三分之一的青少年曾与AI而非人类进行“严肃对话”，而近一半30岁以下的成年人曾向人工智能寻求感情建议。
“我们发现‘谄媚’现象既普遍又有害，”研究报告中写道，“在11个人工智能模型中，人工智能认可用户行为的频率平均比人类高出49%，就算涉及欺骗、违法或有害行为也一样。”
研究人员还评估了Reddit上《我是不是个混蛋》的帖子，发现AI系统在人类一致认为不是混蛋的案例中，有51%认定是混蛋。
该研究将过度迎合人的AI模型与本就脆弱的人群增加自残或自杀的风险指出。
研究人员警告称，这些模型对人们的自我认知和人际关系构成了社会风险，但没什么人真正去纠正这个问题。
“AI拍马屁不仅仅是一个风格问题或小众的风险，而是一种普遍行为，会带来一系列连锁反应，”该研究总结道。“但由于它用户喜欢、还能拉活跃度，因此没啥动力让这种拍马屁变少。”
点此了解更多研究详情。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
