网易首页 > 网易号 > 正文 申请入驻

AI辩论能力碾压人类,81.7%概率让你信服!研究登Nature子刊

0
分享至

新智元报道

编辑:peter东 英智

【新智元导读】近日,一项发表在《自然·人类行为》的研究指出:在线辩论中,当大语言模型能够根据对手的特征个性化其论点时,它们比人类更具说服力。

作为人类,我们认为自己掌控着自己的思想。但历史证明并非如此。

我们是社会性生物,容易被那些能够大规模改变我们思想的人所影响金钱、规则、整个国家——它们都只是观念。

当然,这些观念很强大,但终究只是观念。而你知道吗?AI正在令人可怕地擅长操纵这些观念。

「在网上,没人知道你是一只狗。」这是1990年代一部著名漫画的标题,画面中一只大狗的爪子放在电脑键盘上。

快进30年,需要将「狗」替换为「人工智能」。

大模型比人类更擅长以理服人

今年4月,瑞士理工一项没有获得知情同意实验,指出在raddit平台上,潜伏的大模型比人类更具有说服力,能够更高效地改变对话者的观点。

如今,更实锤的研究进一步佐证了这一警告。

在这项实验中,研究人员招募了900人参与一项受控试验,其中每位参与者会填写关于个人信息(如性别,年龄,民族,教育程度,职业等)的问卷。

之后被随机分配一个辩论主题(例如「学生是否应该穿校服?」「是否应该禁止化石燃料,或者人工智能是否对社会有益?」)和四个条件之一:与了解或不了解参与者个人信息的人类进行十分钟的在线辩论,或与AI聊天机器人(OpenAI的GPT-4)进行辩论,了解或不了解参与者个人信息。

图1:实验设计

结果显示,与个人信息被获取的参与者相比,与人类辩论GPT-4的参与者有81.7%更高的概率,认同对手的观点。

在没有获取个人信息的情况下,GPT-4仍然优于人类,但效果要低得多。

图2:大模型相比人类说服对手的相对比例

在辩论过程中,人类更多地使用第一人称单数和第二人称代词,并生成长度更长但更易于阅读的文本,更多地展现出对相似性的诉求、以及支持与信任的表达,还会更多地运用讲故事的方式及幽默来说服对手。

与之相对的是,大模型生成的辩词可读性更差,倾向于比人类更多地使用逻辑和分析思维来说服对手。

图3:不同实验条件下,大模型与人类对话的文本特征,包括易读性,情感真挚程度,涉及分析和逻辑的程度等

当被试者认为他们面对的是AI时,他们可能在更容易的承认自己的观点被改变,这可能是因为对方没有人类存在使得他们无意识地更容易接受自己在辩论中有所失去。

相反,参与者也可能因为其论点写得很好而相信他们的对手是AI。

参与者正确识别出AI对手的情况约为75%,这对应上文所说,即大模型的写作风格具有显著特征,相对容易被察觉。

对大模型用于舆论操控,应加强监管

不仅大模型能够有效利用个人信息来定制其论点,并通过微定位在线对话中比人类更有效地说服对方,而且它们确实比人类更有效。

这项研究以可靠的数据证实了一个日益增长的担忧:大模型可能被用于大规模操纵、误导或加剧两极分化。

或许我们需要在阿西莫夫的机器人三定律之外再增加一条,AI不能被用于影响人的主观认知和感受。

正如定向广告受到监管一样,或许现在是时候考虑采取行动来控制大模型被用来洗脑了。

回想一下Cambridge Analytica事件,它没有使用任何大模型相关的技术,就能够高效地说服他人。

而你把Facebook的点赞与一个大模型连接起来,这可以是Cambridge Analytica的强化版,能够批量化的影响公众舆论,同时剧了隐蔽操纵的风险。

雪上加霜的是?AI现在正在学习识别我们的情绪。

AI能分析你的声音和面部表情以判断你真实感受的技术。

当你将这项技术与GPT-4的辩论能力结合起来……

好吧,欢迎来到黑镜中描述的世界。

想象一下那些能够精准知道如何让你点击「购买」的超定向广告。与那些设计得让你放弃退款请求的客户服务机器人进行的电话交谈。

甚至你自己的HR,都在利用这项技术以我们几乎难以想象的方式操纵你。这是一种前所未有的说服力规模。

考虑到大模型的幻觉,将大模型接入社交媒体将不可避免的引入虚假信息,同时教育者也需要警惕大模型引入教室后,可能带来的担忧。

毕竟十年内,我们还不能接受自己的孩子的三观是被算法塑造,那就需要对教学中用到的大模型进行本地化的定制,使得AI技术能以促进而非损害学生的发展的方式影响我们的下一代。

这并不该令人感到意外,毕竟大模型阅读了数百万个Reddit、Twitter和 Facebook的讨论,并在心理学关于说服的书籍和论文上进行训练。

目前尚不清楚模型是如何利用所有这些信息的,但这无疑是未来大模型可解释性的一个研究方向。

大模型已经显示出它们能够进行自我推理的迹象,因此鉴于我们能够向它们提问,我可以想象我们可以要求一个模型解释它的选择,以及为什么它会针对具有特定属性的人说特定的话。

这里有很多值得探索的地方,因为模型可能做着一些我们甚至还没有意识到的事情,才具有如此高的说服力,而这些事情是由它们所拥有的知识的不同部分,以人类不常见的方式拼凑而成的。

参考资料:

https://www.nature.com/articles/s41562-025-02194-6

https://www.nature.com/articles/d41586-025-01599-7

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
进游戏第一件事!GTA6脱衣舞俱乐部实机画面首曝

进游戏第一件事!GTA6脱衣舞俱乐部实机画面首曝

游民星空
2026-11-18 23:28:03
王刚故意手球帮助海港晋级足协杯决赛,北京国安本赛季四大皆空

王刚故意手球帮助海港晋级足协杯决赛,北京国安本赛季四大皆空

姜大叔侃球
2026-11-20 21:50:09
华为星芒首款新机售价公布:5699元起

华为星芒首款新机售价公布:5699元起

界面新闻
2026-11-20 16:42:26
450亿援乌贷款,还款条件写着“等俄罗斯赔钱”:四国当场掀桌,默茨翻脸了

450亿援乌贷款,还款条件写着“等俄罗斯赔钱”:四国当场掀桌,默茨翻脸了

浯江孤舟
2026-11-20 15:21:39
专家:克里米亚大桥金属拱架坠海,或永久报废,它已被彻底摧毁

专家:克里米亚大桥金属拱架坠海,或永久报废,它已被彻底摧毁

阿尔卑斯瞭望
2026-11-19 18:53:05
许家印在看守所的待遇

许家印在看守所的待遇

年代回忆
2026-10-22 23:21:45
英国向乌克兰提供千枚导弹!美国会计划7.5亿援乌资金

英国向乌克兰提供千枚导弹!美国会计划7.5亿援乌资金

项鹏飞
2026-11-18 20:26:13
一名入伍才三个月的俄军逃兵,在乌东村落枪杀了五名熟睡的乌军无人机操作员,得手后端着枪一头扎进了乌克兰控制的百万人口大城市

一名入伍才三个月的俄军逃兵,在乌东村落枪杀了五名熟睡的乌军无人机操作员,得手后端着枪一头扎进了乌克兰控制的百万人口大城市

扶苏聊历史
2026-10-26 11:49:51
红果短剧再踩雷,一切都结束了!

红果短剧再踩雷,一切都结束了!

广告创意
2026-11-18 18:38:58
社评:多国领导人“感谢中国”,不是一句客套话

社评:多国领导人“感谢中国”,不是一句客套话

环球网资讯
2026-11-20 16:43:17
1982年,翻译唐健生做了一项震惊中外外交系统举动,他杀光大使馆的所有人,瞬间大使馆内血流成河

1982年,翻译唐健生做了一项震惊中外外交系统举动,他杀光大使馆的所有人,瞬间大使馆内血流成河

扶苏聊历史
2026-11-04 17:07:54
眼下的环境,99%的普通人已经不再适合创业了!

眼下的环境,99%的普通人已经不再适合创业了!

职场资深秘书
2026-11-16 14:31:43
俄乌大结局终于要来?最大罪人已浮现,不是美国

俄乌大结局终于要来?最大罪人已浮现,不是美国

古史青云啊
2026-08-25 09:34:41
06年男子打工借宿同学家,被同学母亲一眼看中,意外改变了他一生

06年男子打工借宿同学家,被同学母亲一眼看中,意外改变了他一生

小月文史
2025-03-11 18:44:56
被骂9年“骗子”的贾跃亭,突然把英伟达OpenAI踩在脚下:0.8698分全球第一,是翻身还是换壳讲故事?

被骂9年“骗子”的贾跃亭,突然把英伟达OpenAI踩在脚下:0.8698分全球第一,是翻身还是换壳讲故事?

秋风妃
2026-11-18 21:50:07
深圳APEC费用怎么分,很多人理解错了

深圳APEC费用怎么分,很多人理解错了

趣味萌宠的日常
2026-11-20 01:20:43
1981年,陈伯达被判刑18年,出狱后提出唯一要求,组织:尽管提

1981年,陈伯达被判刑18年,出狱后提出唯一要求,组织:尽管提

瑾瑜聊情感
2025-07-04 18:06:06
“喜欢吃红薯的人天塌了”冲上热搜!薯农:烤出来就是流“油”的;网友:用空气炸锅烤一样很香;专家提醒:这三类人要管住嘴

“喜欢吃红薯的人天塌了”冲上热搜!薯农:烤出来就是流“油”的;网友:用空气炸锅烤一样很香;专家提醒:这三类人要管住嘴

农民日报
2026-11-18 08:48:45
省委书记会场示意我离场,中央调令送达后,全场震惊我赴京城履新

省委书记会场示意我离场,中央调令送达后,全场震惊我赴京城履新

千秋文化
2026-09-26 20:24:16
邝港智口供炸裂:谭方骏喜欢的人是他 蔡天凤再婚是为钱 谭家知情

邝港智口供炸裂:谭方骏喜欢的人是他 蔡天凤再婚是为钱 谭家知情

八卦宝宝
2026-11-19 16:06:38
2026-11-21 04:16:49
新智元 incentive-icons
新智元
AI产业主平台领航智能+时代
16728文章数 67241关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

历时14小时特朗普返回美国 刚下飞机就发布"重大预告"

头条要闻

历时14小时特朗普返回美国 刚下飞机就发布"重大预告"

体育要闻

脚步未停!西班牙摩托车手赤脚徒步入境中国

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

亲子
家居
游戏
艺术
公开课

亲子要闻

宝宝必看的5个启蒙动画,豆瓣评分都是在9.0以上

家居要闻

2026建博会(广州) 公装联探展交流活动

《GTA6》PS5版被曝频繁闪退 液金散热或是元凶

艺术要闻

他把时光刻成纹理,把幻想拍成现实:墨西哥天才摄影师的画面,看完像做了一场醒不来的梦

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版