网易首页 > 网易号 > 正文 申请入驻

AI辩论能力碾压人类,81.7%概率让你信服!研究登Nature子刊

0
分享至

新智元报道

编辑:peter东 英智

【新智元导读】近日,一项发表在《自然·人类行为》的研究指出:在线辩论中,当大语言模型能够根据对手的特征个性化其论点时,它们比人类更具说服力。

作为人类,我们认为自己掌控着自己的思想。但历史证明并非如此。

我们是社会性生物,容易被那些能够大规模改变我们思想的人所影响金钱、规则、整个国家——它们都只是观念。

当然,这些观念很强大,但终究只是观念。而你知道吗?AI正在令人可怕地擅长操纵这些观念。

「在网上,没人知道你是一只狗。」这是1990年代一部著名漫画的标题,画面中一只大狗的爪子放在电脑键盘上。

快进30年,需要将「狗」替换为「人工智能」。

大模型比人类更擅长以理服人

今年4月,瑞士理工一项没有获得知情同意实验,指出在raddit平台上,潜伏的大模型比人类更具有说服力,能够更高效地改变对话者的观点。

如今,更实锤的研究进一步佐证了这一警告。

在这项实验中,研究人员招募了900人参与一项受控试验,其中每位参与者会填写关于个人信息(如性别,年龄,民族,教育程度,职业等)的问卷。

之后被随机分配一个辩论主题(例如「学生是否应该穿校服?」「是否应该禁止化石燃料,或者人工智能是否对社会有益?」)和四个条件之一:与了解或不了解参与者个人信息的人类进行十分钟的在线辩论,或与AI聊天机器人(OpenAI的GPT-4)进行辩论,了解或不了解参与者个人信息。

图1:实验设计

结果显示,与个人信息被获取的参与者相比,与人类辩论GPT-4的参与者有81.7%更高的概率,认同对手的观点。

在没有获取个人信息的情况下,GPT-4仍然优于人类,但效果要低得多。

图2:大模型相比人类说服对手的相对比例

在辩论过程中,人类更多地使用第一人称单数和第二人称代词,并生成长度更长但更易于阅读的文本,更多地展现出对相似性的诉求、以及支持与信任的表达,还会更多地运用讲故事的方式及幽默来说服对手。

与之相对的是,大模型生成的辩词可读性更差,倾向于比人类更多地使用逻辑和分析思维来说服对手。

图3:不同实验条件下,大模型与人类对话的文本特征,包括易读性,情感真挚程度,涉及分析和逻辑的程度等

当被试者认为他们面对的是AI时,他们可能在更容易的承认自己的观点被改变,这可能是因为对方没有人类存在使得他们无意识地更容易接受自己在辩论中有所失去。

相反,参与者也可能因为其论点写得很好而相信他们的对手是AI。

参与者正确识别出AI对手的情况约为75%,这对应上文所说,即大模型的写作风格具有显著特征,相对容易被察觉。

对大模型用于舆论操控,应加强监管

不仅大模型能够有效利用个人信息来定制其论点,并通过微定位在线对话中比人类更有效地说服对方,而且它们确实比人类更有效。

这项研究以可靠的数据证实了一个日益增长的担忧:大模型可能被用于大规模操纵、误导或加剧两极分化。

或许我们需要在阿西莫夫的机器人三定律之外再增加一条,AI不能被用于影响人的主观认知和感受。

正如定向广告受到监管一样,或许现在是时候考虑采取行动来控制大模型被用来洗脑了。

回想一下Cambridge Analytica事件,它没有使用任何大模型相关的技术,就能够高效地说服他人。

而你把Facebook的点赞与一个大模型连接起来,这可以是Cambridge Analytica的强化版,能够批量化的影响公众舆论,同时剧了隐蔽操纵的风险。

雪上加霜的是?AI现在正在学习识别我们的情绪。

AI能分析你的声音和面部表情以判断你真实感受的技术。

当你将这项技术与GPT-4的辩论能力结合起来……

好吧,欢迎来到黑镜中描述的世界。

想象一下那些能够精准知道如何让你点击「购买」的超定向广告。与那些设计得让你放弃退款请求的客户服务机器人进行的电话交谈。

甚至你自己的HR,都在利用这项技术以我们几乎难以想象的方式操纵你。这是一种前所未有的说服力规模。

考虑到大模型的幻觉,将大模型接入社交媒体将不可避免的引入虚假信息,同时教育者也需要警惕大模型引入教室后,可能带来的担忧。

毕竟十年内,我们还不能接受自己的孩子的三观是被算法塑造,那就需要对教学中用到的大模型进行本地化的定制,使得AI技术能以促进而非损害学生的发展的方式影响我们的下一代。

这并不该令人感到意外,毕竟大模型阅读了数百万个Reddit、Twitter和 Facebook的讨论,并在心理学关于说服的书籍和论文上进行训练。

目前尚不清楚模型是如何利用所有这些信息的,但这无疑是未来大模型可解释性的一个研究方向。

大模型已经显示出它们能够进行自我推理的迹象,因此鉴于我们能够向它们提问,我可以想象我们可以要求一个模型解释它的选择,以及为什么它会针对具有特定属性的人说特定的话。

这里有很多值得探索的地方,因为模型可能做着一些我们甚至还没有意识到的事情,才具有如此高的说服力,而这些事情是由它们所拥有的知识的不同部分,以人类不常见的方式拼凑而成的。

参考资料:

https://www.nature.com/articles/s41562-025-02194-6

https://www.nature.com/articles/d41586-025-01599-7

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
歌手张宇去世,年仅48岁

歌手张宇去世,年仅48岁

东方不败然多多
2026-11-20 16:36:51
杯赛历史首败!上海惨负遭青岛终结14连胜 拉塞尔16+7+5约克24+8

杯赛历史首败!上海惨负遭青岛终结14连胜 拉塞尔16+7+5约克24+8

醉卧浮生
2026-11-20 21:34:55
克里米亚大桥完全断了,大帝不想打了,但谈的过程川普想重构北约

克里米亚大桥完全断了,大帝不想打了,但谈的过程川普想重构北约

邵旭峰域
2026-11-20 15:03:48
APCE上的温情一幕,让人好感动!

APCE上的温情一幕,让人好感动!

低调看天下
2026-11-20 15:46:04
天呐!差点没认出来,电视里那么漂亮女神,原来跟普通人也没两样

天呐!差点没认出来,电视里那么漂亮女神,原来跟普通人也没两样

情感大头说说
2026-11-20 04:49:19
欧美视角下的深圳中俄美峰会

欧美视角下的深圳中俄美峰会

公评世界
2026-11-20 13:01:43
黄仁勋据称将创办新的半导体公司 或将筹资500亿美元用于创业

黄仁勋据称将创办新的半导体公司 或将筹资500亿美元用于创业

财联社
2026-11-20 16:09:05
一次性补缴10万元,每月领1433元,成都养老补缴爆了

一次性补缴10万元,每月领1433元,成都养老补缴爆了

数字财经智库
2026-11-20 09:36:50
满仓满融死扛存储的大佬,归零了!

满仓满融死扛存储的大佬,归零了!

大财可富司机
2026-11-20 13:55:47
2004年,日本,43岁高市早苗的婚礼时刻

2004年,日本,43岁高市早苗的婚礼时刻

娱你同欢
2026-11-19 21:51:16
U17世界杯开门黑!国足0-5西班牙 邝兆镭争议送点 12分钟崩盘丢3球

U17世界杯开门黑!国足0-5西班牙 邝兆镭争议送点 12分钟崩盘丢3球

我爱英超
2026-11-20 23:57:22
人民日报点名曹德旺,释放2大信号,转移资产跑路传闻早有真相

人民日报点名曹德旺,释放2大信号,转移资产跑路传闻早有真相

爱看剧的阿峰
2026-11-20 10:41:29
高市早苗在深圳就台湾问题表态,外交部最新回应:日方在台湾问题上尽快纠正错误言行

高市早苗在深圳就台湾问题表态,外交部最新回应:日方在台湾问题上尽快纠正错误言行

每日经济新闻
2026-11-20 17:08:48
已全线售罄!APEC欢迎晚宴上,广州荔枝冰酒火了:一天4000瓶一抢而空,网店营业额暴增900多倍,厂家紧急加班补货

已全线售罄!APEC欢迎晚宴上,广州荔枝冰酒火了:一天4000瓶一抢而空,网店营业额暴增900多倍,厂家紧急加班补货

极目新闻
2026-11-20 15:22:02
超级周期即将来临,一定要守住自己口袋里的现金

超级周期即将来临,一定要守住自己口袋里的现金

枫冷慕诗
2026-11-20 13:35:28
27岁庞众望完成博士论文答辩,即将从清华毕业,本人发声:将继续潜心钻研,在科研探索的道路上不断前行

27岁庞众望完成博士论文答辩,即将从清华毕业,本人发声:将继续潜心钻研,在科研探索的道路上不断前行

极目新闻
2026-11-20 16:53:20
U17国足半场2球落后!媒体人热议:邝兆镭习惯不好,通卡拉挡不住

U17国足半场2球落后!媒体人热议:邝兆镭习惯不好,通卡拉挡不住

奥拜尔
2026-11-20 22:58:01
油价大跌!一夜降温,11月20日全国92,95汽油“2连跌、大降近9.5毛/升”,刚接近“9元时代”的92汽油或“断崖”下跌,下次11月26日调价

油价大跌!一夜降温,11月20日全国92,95汽油“2连跌、大降近9.5毛/升”,刚接近“9元时代”的92汽油或“断崖”下跌,下次11月26日调价

猪友巴巴
2026-11-20 09:48:44
国际法院裁定缅甸犯有“种族灭绝罪”,中国籍法官薛捍勤投票支持了缅甸,外交部:薛捍勤法官根据其专业知识发表意见,是其履职尽责的表现

国际法院裁定缅甸犯有“种族灭绝罪”,中国籍法官薛捍勤投票支持了缅甸,外交部:薛捍勤法官根据其专业知识发表意见,是其履职尽责的表现

政知新媒体
2026-11-20 15:43:32
75岁张纪中的妻子回应会不会改嫁,称“我老公再活30年,我75岁了,嫁给谁呀”

75岁张纪中的妻子回应会不会改嫁,称“我老公再活30年,我75岁了,嫁给谁呀”

韩小娱
2026-11-20 16:45:15
2026-11-21 00:16:49
新智元 incentive-icons
新智元
AI产业主平台领航智能+时代
16727文章数 67241关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

旅游
数码
时尚
本地
军事航空

旅游要闻

青岛冬日赏鸥地图|沿着海岸线,赴一场海鸥之约

数码要闻

苹果公布2026古典乐年度专辑:任奫灿《哥德堡变奏曲》获奖

秋天衣服别总穿纯色,试试这几件条纹单品,简单时尚又减龄

本地新闻

乌兰察布:以前种土豆,现在种Token

军事要闻

美军在中东再成三航母之势

无障碍浏览 进入关怀版