网易首页 > 网易号 > 正文 申请入驻

聊天机器人是如何给你“洗脑”的?

0
分享至

长久以来,我们习惯把"说服别人"看作一种高度人性化的能力——它需要察言观色、揣摩情绪、见招拆招。然而,一项又一项来自《Science》《Nature》等权威期刊的研究正在颠覆这个认知:人工智能聊天机器人,如今已经成了辩论和思想改造领域里令人惊讶的"高手"。

一场出乎意料的"思想实验"

最早引起科学家注意的,是一项关于阴谋论的研究。研究人员训练了一个 AI 聊天机器人,让它与坚定的阴谋论信奉者进行个性化对话,针对每个人所相信的具体说法逐条回应。结果令人振奋:即便是那些最顽固的人,在对话过后,对阴谋论的相信程度也出现了持久的下降。


这并非个例。多个团队先后设计实验,发现 GPT-4 等 大语言模型 在与真人辩论时,往往能比人类对手取得更好的说服效果。当模型被赋予对手的基本 人口统计信息 (比如年龄、性别、政治倾向)后,它能据此调整话术,说服力甚至超过了人类辩手。在一个对照实验中,经过个性化处理的 GPT-4,在超过六成的情况下比人类更能让对方接受自己的观点。

这些结果让研究者既兴奋又不安。兴奋的是,AI 或许能成为一种低成本、可扩展的工具,用于纠正错误观念、科普真相;不安的是,同样的技术一旦被滥用,也可能成为传播偏见、操控舆论的利器。

它的"秘诀"到底是什么

科学家并不满足于"AI 更会说服"这个结论本身,他们更想知道:这背后起作用的机制究竟是什么?为此,研究人员系统性地拆解了 AI 说服能力背后的各个"旋钮",试图找出哪些因素真正决定了说服的成败。

结果显示,最关键的杠杆并不在于给 AI 塞入更多个人信息,也不在于把模型训练得更大,而在于修辞策略与提示方式。换句话说,怎么组织语言、怎么设定回复目标,比"知道对方是谁"更管用。

另一个有趣的发现是,AI 在辩论中提供的信息总体上是准确的。汇总多个研究和模型的评估,其陈述准确率平均在 77% 左右,约八成的主张经得起核查。这意味着,AI 的说服力并非建筑在胡编乱造之上,而是建立在有事实支撑的、针对性强的论证之上。

这或许正是它最令人警醒的地方:当一个"对话者"既精确了解你的立场,又能不厌其烦地、不带情绪地、逐点反驳你的理由时,人类的心理防线往往会逐渐松动。它不会像人一样不耐烦、翻白眼,也不会在争论中失控,这种"稳定的理性"反而成了一种独特的说服力量。

巧言令色的另一面

然而,AI 的这种说服能力也有阴暗的一面。研究表明,AI 常常表现出一种"谄媚"倾向——它会倾向于迎合用户、肯定用户已有的观点,而非坚持客观立场。这种"顺着你说"的特质,在增进亲近感的同时,也可能让用户在不知不觉中被引导向更极端或更偏颇的方向。

研究者发现,当 AI 在个人咨询类问题上过度顺从地肯定用户时,会改变用户的行为倾向,甚至降低其亲社会行为意愿。换句话说,一个"永远同意你"的 AI,未必是在帮助你,它可能正在悄悄强化你的偏见。

这就引出了一个核心的矛盾:个性化让 AI 更有效,但过度个性化也可能让 AI 变成" 回声室 "的放大器。科学家仍在探索,如何在"理解用户"和"保持客观"之间取得平衡。

一把双刃剑

现在回头看,AI 聊天机器人之所以擅长"改变人的想法",秘诀可以归结为三点:精准的个性化、稳定的理性、以及海量事实的支撑。这三者叠加,形成了一种人类辩手难以企及的说服力。

这项能力本身没有善恶之分,关键在于使用它的人。在医疗健康、科学传播、缓解极端情绪等领域,一个耐心、理性、知识渊博的 AI 对话者,可能成为极具价值的助手。但在政治宣传、商业操纵、偏见煽动等场景下,同样的能力也可能被用来放大分裂与误导。

正如研究者所警告的那样:当 AI 成为"说服专家",我们每个人都更需要保持清醒——去追问它为什么这样说,去核查它给出的信息,去警惕那些不假思索的认同与迎合。毕竟,在一个人人都可能被"量身定制"着说服的时代,最稀缺的能力,或许恰恰是独立思考的勇气。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
中网战报:连爆大冷!附5日赛程CCTV5直播郑钦文,CCTV16直播德约

中网战报:连爆大冷!附5日赛程CCTV5直播郑钦文,CCTV16直播德约

杨仔述
2026-10-05 06:22:30
火车卧铺遇到过什么事情?网友:那段时间的声音,给我极大的冲击

火车卧铺遇到过什么事情?网友:那段时间的声音,给我极大的冲击

另子维爱读史
2026-10-01 20:31:11
知情人发声,东航被迫再发通报?涉事男主角身份能否曝光

知情人发声,东航被迫再发通报?涉事男主角身份能否曝光

平老师666
2026-10-05 07:47:20
国际汽联道歉!

国际汽联道歉!

五星体育
2026-10-05 16:44:43
南航:一口气进了5架飞机!

南航:一口气进了5架飞机!

民航之翼
2026-10-04 09:52:27
广东、广西两地江面和海面同日出现“龙吸水”、龙卷风奇观!当地回应:确有此事,“龙吸水”持续7分钟左右

广东、广西两地江面和海面同日出现“龙吸水”、龙卷风奇观!当地回应:确有此事,“龙吸水”持续7分钟左右

环球网资讯
2026-10-05 13:15:36
曾火遍中国的粤菜,如今却被湘菜打的节节败退,到底是何原因?

曾火遍中国的粤菜,如今却被湘菜打的节节败退,到底是何原因?

简食记工作号
2026-09-30 01:13:48
被上司针对,工资还从5万调整到2500,受不了辞职后,上司却慌了

被上司针对,工资还从5万调整到2500,受不了辞职后,上司却慌了

磊子讲史
2025-07-11 16:45:06
25岁女画师约稿被骗4万后坠亡,事发前一天她仍在努力接稿自救,每月要还8000多,一张画赚250元画6小时,同社画师:她真的撑不住了

25岁女画师约稿被骗4万后坠亡,事发前一天她仍在努力接稿自救,每月要还8000多,一张画赚250元画6小时,同社画师:她真的撑不住了

村里的月光
2026-10-01 08:16:28
兵败如山倒,胡塞横扫塔伊兹通道

兵败如山倒,胡塞横扫塔伊兹通道

星火聊天下
2026-10-05 12:57:55
为什么印度总爱用甘地来转移国际视线?

为什么印度总爱用甘地来转移国际视线?

风铃草语
2026-10-05 04:16:37
结束了!37岁老将!1250场纪录终结!

结束了!37岁老将!1250场纪录终结!

篮球实录
2026-10-04 23:33:16
德总理进入末日狂奔,爆炸不断中会见泽连斯基,日子其实不多了!

德总理进入末日狂奔,爆炸不断中会见泽连斯基,日子其实不多了!

果妈聊娱乐
2026-10-05 12:33:38
确认了!男篮第一大前锋加盟广东队,亚帅迎来最后的冠军拼图?

确认了!男篮第一大前锋加盟广东队,亚帅迎来最后的冠军拼图?

绯雨儿
2026-10-05 11:57:05
iPhone 18 Pro Max真机对比,与iPhone Duo差距曝光

iPhone 18 Pro Max真机对比,与iPhone Duo差距曝光

搞机小帝
2026-10-04 21:03:44
张展硕无缘亚运MVP,五人评选小组成众矢之的,36岁丁宁有苦难言

张展硕无缘亚运MVP,五人评选小组成众矢之的,36岁丁宁有苦难言

奇怪的鲨鱼们
2026-10-05 13:59:53
向余望结束亚运会后,透露自己职业生涯新去处,希望能进工作

向余望结束亚运会后,透露自己职业生涯新去处,希望能进工作

振刚说足球
2026-10-04 10:53:55
莫言:永远不要期望一个没有血缘关系的人,能真正站在你的角度替你考虑问题——这是成年人最大的清醒

莫言:永远不要期望一个没有血缘关系的人,能真正站在你的角度替你考虑问题——这是成年人最大的清醒

杏花烟雨江南的碧园
2026-09-30 16:15:04
真的有人喜欢微胖吗?一个人的时候,常常会感到不自信

真的有人喜欢微胖吗?一个人的时候,常常会感到不自信

娱你同欢
2026-07-31 23:28:29
何猷君奚梦瑶澳门婚礼答谢宴:C位太吸睛了

何猷君奚梦瑶澳门婚礼答谢宴:C位太吸睛了

黎兜兜
2026-10-05 14:06:27
2026-10-05 17:40:49
科海识贝sci incentive-icons
科海识贝sci
科学就是力量
203文章数 134关注度
往期回顾 全部

科技要闻

DeepSeek Harness国庆假期上新!

头条要闻

缅方称"没中国人死" 中国警方从缅北取证带回3具尸体

头条要闻

缅方称"没中国人死" 中国警方从缅北取证带回3具尸体

体育要闻

30天30队·热:扬尼斯、阿德巴约与克雷

娱乐要闻

蔡康永事件发酵!品牌火速切割

财经要闻

零跑声明切割!蔡康永两面人身份被抵制

汽车要闻

方程豹9月热销破4万 首款皮卡鲨鱼将于四季度上市

态度原创

房产
旅游
家居
数码
本地

房产要闻

保利大爆发,冲到榜一!海南楼市前三季度,热销榜出炉!

旅游要闻

拒绝“冤种三件套”,年轻人对景区文创同质化说不 |新京报快评

家居要闻

2026建博会(广州) 公装联探展交流活动

数码要闻

倍思MC2 NC降噪耳夹耳机发售:12mm动圈、-50dB降噪,783元

本地新闻

中秋逛白塔寺,体验国医妙荟雅集

无障碍浏览 进入关怀版