网易首页 > 网易号 > 正文 申请入驻

新研究:应警惕人工智能“过度谄媚”

0
分享至

新一期美国《科学》杂志发表的一项研究显示,当人类用户就人际困境等问题向人工智能(AI)模型寻求建议时,AI常表现得过度迎合或谄媚,甚至对于一些有害甚至违法的提问,AI也常常肯定用户的立场。

美国斯坦福大学研究团队测试了ChatGPT等11个主流AI系统,发现它们都表现出不同程度的谄媚,即过度迎合和肯定的倾向。这种迎合倾向给使用者带来风险,因为人们越来越多地转向AI寻求有关人际困境的建议,这对处于大脑发育和社会规范形成阶段的青少年来说尤其具有风险。

研究人员使用现有的人际建议数据集向模型提问。他们基于某网络论坛中用户一致认为发帖者确实有错的帖子,编写了2000条提示用于测试。此外,他们还利用包含欺骗等数千种有害行为的陈述向这些模型提问。

结果显示,与人类回应相比,所有接受测试的AI模型都更频繁地肯定用户立场。在一般性建议和根据网络论坛发帖编写提示的测试中,模型对用户的认同几率比人类高出49%。即使在回应关于有害行为的询问时,模型也有47%的几率会认可这些行为。

研究团队招募了2400多名参与者,与不同类型AI进行有关人际困境的对话。结果发现,参与者总体上认为谄媚式的回应更值得信赖,并表示下次遇到类似问题可能会再次使用谄媚型AI。

研究人员认为,AI一味反馈迎合和谄媚的建议会损害人们的社交能力。他们提醒,AI模型“过度谄媚”是一个“安全问题”,需要对其进行监管,应以更严格的标准来防止道德层面不安全的模型泛滥。人们在向AI寻求建议时要保持谨慎,尤其在面临社交困惑时,不能把AI当成真人替代品。

来源:新华每日电讯

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
外媒:中国“运-15”型最新照曝光,机身编号改变,将成运-20“最佳搭档”,取代运-8、运-9

外媒:中国“运-15”型最新照曝光,机身编号改变,将成运-20“最佳搭档”,取代运-8、运-9

蓝星杂谈
2026-11-21 17:24:56
李显龙直言不讳地告诫国民:每一个新加坡人都必须明白,本国坚决不承认“华人国家”身份,背后藏着的是全亚洲最为惊心动魄的生存考量

李显龙直言不讳地告诫国民:每一个新加坡人都必须明白,本国坚决不承认“华人国家”身份,背后藏着的是全亚洲最为惊心动魄的生存考量

橙色书卷
2026-07-16 21:35:45
给男人一个忠告:不管女人多漂亮,睡在一个被窝,也不要暴露秘密

给男人一个忠告:不管女人多漂亮,睡在一个被窝,也不要暴露秘密

荔子言
2026-10-20 10:29:34
佩斯科夫:普京总统的核手提箱成了大新闻,是记者大惊小怪

佩斯科夫:普京总统的核手提箱成了大新闻,是记者大惊小怪

参考消息
2026-11-21 12:38:00
量子纠缠首次验证人的位置,335次几乎全过

量子纠缠首次验证人的位置,335次几乎全过

科学边界哦
2026-11-20 19:05:41
伊朗豁出去了!14艘油轮强冲封锁线,有本事美军一艘不留全击沉

伊朗豁出去了!14艘油轮强冲封锁线,有本事美军一艘不留全击沉

民宿体验志
2026-11-22 11:01:05
讲真,如果换他来演《两京十五日》的朱瞻基,成毅就不会被骂了?

讲真,如果换他来演《两京十五日》的朱瞻基,成毅就不会被骂了?

剧芒芒
2026-11-21 17:19:59
他是陈锡联手下的小班长,48年后陈锡联成副国级,他却是正国级

他是陈锡联手下的小班长,48年后陈锡联成副国级,他却是正国级

顾史
2026-11-11 15:01:40
明星为何屡屡翻车:这次是“慌啥子嘛”,上次是“走个面儿”

明星为何屡屡翻车:这次是“慌啥子嘛”,上次是“走个面儿”

手工制作阿歼
2026-11-22 13:01:44
比特币跌破57000美元

比特币跌破57000美元

财联社
2026-11-21 11:57:03
男子自驾游至海南遇美女搭车,同行三天后,他才知道自己逃过死劫

男子自驾游至海南遇美女搭车,同行三天后,他才知道自己逃过死劫

林林故事揭秘
2025-04-10 14:49:38
国王97-96险胜凯尔特人结束8连败,阿卡夫21+6+8,乔治19+8

国王97-96险胜凯尔特人结束8连败,阿卡夫21+6+8,乔治19+8

懂球帝
2026-11-22 13:40:08
喜报!崂山实验室主任、中国海洋大学副校长吴立新院士荣登2026年度“全球高被引科学家”榜单!

喜报!崂山实验室主任、中国海洋大学副校长吴立新院士荣登2026年度“全球高被引科学家”榜单!

海洋知圈
2026-11-21 00:34:24
懂车帝也太刚了!

懂车帝也太刚了!

胖胖说他不胖
2026-10-09 15:08:05
入韩籍认干爹,叫嚣打败中国球员的她,却在巴黎奥运脸面扫地

入韩籍认干爹,叫嚣打败中国球员的她,却在巴黎奥运脸面扫地

白色得季节
2026-11-21 23:14:11
手搓12年,人类数学家证明黎曼猜想却被AI截胡!陶哲轩邓煜回应

手搓12年,人类数学家证明黎曼猜想却被AI截胡!陶哲轩邓煜回应

新智元
2026-11-21 13:40:03
斯皮尔伯格监制13集科幻剧,孩子被"钻头"操控,一季就砍

斯皮尔伯格监制13集科幻剧,孩子被"钻头"操控,一季就砍

影视情报室
2026-11-21 12:21:38
今年的退休金还涨不涨?我打了12333问过,实际情况原来是这样

今年的退休金还涨不涨?我打了12333问过,实际情况原来是这样

笑熬浆糊111
2026-10-28 06:00:28
输不起!大量日本观众提前退场惹争议!不愿看中国女排夺冠颁奖

输不起!大量日本观众提前退场惹争议!不愿看中国女排夺冠颁奖

叹为观止易
2026-09-24 01:52:19
梅西边线球砸对手 对手主帅:那可不止是一张黄牌的事

梅西边线球砸对手 对手主帅:那可不止是一张黄牌的事

五星体育
2026-11-22 10:37:29
2026-11-22 14:12:49
澎湃新闻 incentive-icons
澎湃新闻
专注时政与思想的新闻平台。
949394文章数 5099011关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

牛弹琴:联合国秘书长的热门候选 可能被中方一票否决

头条要闻

牛弹琴:联合国秘书长的热门候选 可能被中方一票否决

体育要闻

全场挨打1比4溃败 阿隆索已过保质期?

娱乐要闻

杨迪戴东北绒帽在黑龙江漠河舞厅跳舞

财经要闻

金价跌破3550美元,分析称短期下行未逆转

汽车要闻

旗舰纯电大六座 2027款岚图泰山将于广州车展预售

态度原创

时尚
亲子
健康
公开课
军事航空

这些才是适合50岁女性的穿搭!衣服不花哨、不老气,得体又自然

亲子要闻

11月20日,山东诸城。“杂技团”式户外运动真的安全吗?

医生眼里"很伤腰"的椅子,很多人天天坐

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

伊朗革命卫队称袭击美军在巴林两处基地防空雷达

无障碍浏览 进入关怀版