网易首页 > 网易号 > 正文 申请入驻

AI卧底美国贴吧4个月“洗脑”100+用户无人察觉,马斯克惊呼

0
分享至

西风 发自 凹非寺
量子位 | 公众号 QbitAI

哈?AI秘密潜入Reddit社区,“操纵”用户观点4个月。

离谱的是,人类全程毫无察觉,而且被AI说服改变想法的概率,高达正常基准的6倍

Reddit Lies在X上发布了一则帖子,引发二百多万网友围观。

事情经过是酱婶儿的。

Reddit的r/changemyview(CMV)版主最近曝光了一项研究,称苏黎世大学研究人员在2024年11月至2025年3月期间,瞒着CMV社区用户,搞了一场未经授权的实验。

他们违背CMV社区规则,部署了AI账号生成评论以研究AI如何影响和改变人们的观点。

Reddit Lies在服务器上查询了CMV版主曝光的13个实验用的机器人用户名,发现仅在几个月的时间里,这些机器人就发布了近1500条评论。

超100位Reddit用户给这些AI账号授予了“”,这表明AI生成的论点成功改变了他们的观点,是基线水平的6倍。

关键是,Reddit Lies还表示有的AI会直接向用户撒谎,散播虚假信息……

且根据团队发布的研究,在实验期间,r/changemyview社区的网友完全没察觉到那些评论竟然是AI账号发出来的。

消息一出,瞬间炸锅。马斯克也“天呐”一声冒了个泡。

研究详情

先来看一下这项实验。

研究在Reddit平台上的r/changemyview社区进行,该社区拥有近400万用户,按规模位列Reddit子版块前1%。

在r/changemyview中,用户就各类话题分享观点,通过提出论点和反驳观点来促使他人改变看法。

如果原发帖人(OP)认为某条回复极具说服力,足以让他们重新思考或调整立场,就会授予一个“∆”,以表明自己观点发生了转变。

实验设置方面,团队使用半自动化的AI账号在r/changemyview社区参与讨论,在干预阶段发布的每篇帖子,都被随机归入以下三种处理条件之一:

  • 通用条件:LLM仅接收帖子的标题和正文内容。
  • 个性化条件:除帖子内容外,LLM还会获取原发帖人(OP)的个人属性(性别、年龄、种族、所在地…),这些属性是通过另一个LLM从原发帖人的发帖历史中推断得出的。
  • 社区对齐条件:为确保回复符合社区的写作风格和潜在规范,回复由经过微调的模型生成,该模型使用实验前帖子中获得“Δ”的评论进行训练。

发帖流程如图:

研究指出,从2024年11月至2025年3月4个月里,AI账号共对1061个不同帖子发表了评论,团队剔除了后续被删除的帖子,最终得到478个有效观察样本。

团队报告了每种处理条件下获得“Δ”的评论比例。

结果在所有处理条件下,AI表现都大幅超越人类水平,说服率是人类基线水平3-6倍。个性化条件的说服率为0.18,通用条件为0.17,社区对齐条件略低,为0.09,但仍显著优于仅为0.03的基线水平。

为了更好理解实验数据,团队还计算了每个用户得到“Δ”的评论占比,用这个结果和个人层面在说服这件事上的表现去做对比。

下图展示了不同用户个体说服率的累积分布情况 ,有一部分是“专家用户”,他们之前在社区就得到过很多“Δ”。

在个性化条件下,LLM表现特别突出,在所有用户里排到了前1%,在专家用户里排到了前2%;通用条件下,排在所有用户的前2%,专家用户的前4%;社区对齐条件相对弱一些,在所有用户里排在前12% ,专家用户里排在前25%。

团队还表示,除了获得“Δ”之外,LLM生成的评论还在r/changemyview社区引发了大量互动,其账号积累了超过10000的评论karma

另外值得一提的是,团队指出本研究已获苏黎世大学伦理委员会批准,并在OSF进行了预注册。所有生成评论均由团队的一名研究人员审核,以保不会发布有害或不道德的内容。

研究指出,实验仍在进行中,结束后会向社区妥善披露相关情况。

单条帖子800条评论,争议爆表

虽说研究团队有自己的说法,但一些网友们可不买账,对这种不经授权就进行AI实验的做法进行了谴责。

有人还心有余悸地感慨,直呼这些AI账号在社交平台上到处乱窜,实在令人细思极恐。

当然,也有人觉得,先不说实验合不合规矩、道不道德,单看这些研究成果,还是有价值的。

有部分网友表现就更淡定了,他们坦言AI账号早已不是新鲜事,甚至早就察觉到社交平台上AI账号数量正不断攀升。

目前,针对这项研究引起的热议,苏黎世大学和研究人员均给出了回应。

你对这些在社交平台上“神出鬼没”的AI账号怎么看?


[1]https://x.com/reddit_lies/status/1916916134630117814
[2]https://regmedia.co.uk/2025/04/29/supplied_can_ai_change_your_view.pdf
[3]https://www.reddit.com/r/changemyview/comments/1k8b2hj/meta_unauthorized_experiment_on_cmv_involving/

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
深圳市民为了APEC不穿拖鞋了?网友:不能丢人,必须全妆出门

深圳市民为了APEC不穿拖鞋了?网友:不能丢人,必须全妆出门

东方豪侠
2026-11-18 06:57:36
山东大姐这事干的漂亮!被美国FBI悬赏!赏金1.5亿超过3个本拉登

山东大姐这事干的漂亮!被美国FBI悬赏!赏金1.5亿超过3个本拉登

马尔科故事会
2025-03-27 15:21:29
11月17日凌晨,俄罗斯报复不隔夜,4枚高超炸北约弹药库,炸大桥

11月17日凌晨,俄罗斯报复不隔夜,4枚高超炸北约弹药库,炸大桥

共工之锚
2026-11-18 11:05:32
深圳APEC主持人阵容果然拉满,这阵仗不愧是顶流!

深圳APEC主持人阵容果然拉满,这阵仗不愧是顶流!

阿废冷眼观察所
2026-11-18 06:19:05
浙江宁波男子拿十多个西瓜砸摊主头部,最新进展:摊主已获赔7万

浙江宁波男子拿十多个西瓜砸摊主头部,最新进展:摊主已获赔7万

欢姐说法
2026-11-18 09:45:04
广东建立蚊子工厂,用羊血喂养,每月释放3000万只,目的竟是要以蚊治蚊?靠谱吗?

广东建立蚊子工厂,用羊血喂养,每月释放3000万只,目的竟是要以蚊治蚊?靠谱吗?

狸猫之一的动物圈
2026-11-18 09:00:39
安倍怕是要气得从坟里爬出来。真的。他老婆安倍昭惠,在他走后,小日子过得那叫一个滋润。

安倍怕是要气得从坟里爬出来。真的。他老婆安倍昭惠,在他走后,小日子过得那叫一个滋润。

回京历史梦
2026-11-05 00:00:04
裤衩开叉10厘米!被网暴5年!铁三女神夺亚军又被骂,裁判:合规

裤衩开叉10厘米!被网暴5年!铁三女神夺亚军又被骂,裁判:合规

番外行
2026-06-07 15:53:29
张怡宁参加婚礼哭了,64岁丈夫一直咳嗽,看着很老,还是袁立前任

张怡宁参加婚礼哭了,64岁丈夫一直咳嗽,看着很老,还是袁立前任

一娱三分地
2025-06-11 20:53:37
香烟突然大降价,不是良心发现,是老百姓彻底觉醒了

香烟突然大降价,不是良心发现,是老百姓彻底觉醒了

流苏晚晴
2026-11-13 22:20:15
特朗普:莫迪是一个非常强硬的人,而高市早苗可能还要更强硬

特朗普:莫迪是一个非常强硬的人,而高市早苗可能还要更强硬

探索新高度
2026-11-18 08:44:32
不查不知道,一查吓一跳,原来为国争光的王虹,私下生活这么壕

不查不知道,一查吓一跳,原来为国争光的王虹,私下生活这么壕

北海史记
2026-11-05 18:19:36
胖东来走了,腾讯也走了:留下空铺子和降下来的房租,是谁赢了?

胖东来走了,腾讯也走了:留下空铺子和降下来的房租,是谁赢了?

墨兰史书
2026-08-18 07:25:11
宁波大学东门拉横幅舆情事件全梳理!

宁波大学东门拉横幅舆情事件全梳理!

四处臻选
2026-11-18 11:08:10
相恋19年女子资助未婚夫46万,最后发现对方竟然是女性,这起荒诞事件最近有了结果

相恋19年女子资助未婚夫46万,最后发现对方竟然是女性,这起荒诞事件最近有了结果

笔尖下的人生
2026-11-18 16:11:19
美国政府调查新加坡某公司,指控其涉嫌非法对华转运英伟达芯片?外交部:中方在美国输华芯片的问题上的立场是一贯的

美国政府调查新加坡某公司,指控其涉嫌非法对华转运英伟达芯片?外交部:中方在美国输华芯片的问题上的立场是一贯的

每日经济新闻
2026-11-18 10:26:44
APEC会议周,深圳街头现整齐“小白鞋”,有市民呼吁脱下人字拖、改穿运动鞋

APEC会议周,深圳街头现整齐“小白鞋”,有市民呼吁脱下人字拖、改穿运动鞋

极目新闻
2026-11-17 17:54:47
低保女孩“赴港追星”后续来了:老家房屋还在漏雨,当地证实低保资格已取消

低保女孩“赴港追星”后续来了:老家房屋还在漏雨,当地证实低保资格已取消

林林先生
2026-11-05 21:14:15
甘肃一小县城因“慢生活”走红:只有5辆出租车,视频点赞数超过当地城镇人口

甘肃一小县城因“慢生活”走红:只有5辆出租车,视频点赞数超过当地城镇人口

上游新闻
2026-11-17 14:44:05
挤不进APEC,苏杰生终于承认:40年前印度就选了一条错路

挤不进APEC,苏杰生终于承认:40年前印度就选了一条错路

听风看局
2026-11-17 17:06:28
2026-11-18 16:52:49
量子位 incentive-icons
量子位
追踪人工智能动态
13694文章数 176601关注度
往期回顾 全部

科技要闻

离职后首份声明!黄仁勋认错愿回归

头条要闻

特朗普启程前往深圳 登机前对着镜头做标志性挥拳动作

头条要闻

特朗普启程前往深圳 登机前对着镜头做标志性挥拳动作

体育要闻

“中超卡里乌斯”,成了大连的夺冠英雄

娱乐要闻

认亲被嘲讽后郭德纲委托律师发声明

财经要闻

黄仁勋留下的高分成绩单,能延续吗?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

本地
时尚
教育
健康
公开课

本地新闻

乌兰察布:以前种土豆,现在种Token

奶瓶界爱马仕,批量收割中产父母

教育要闻

据说这种题蒙对的概率只有10%,太难了

医生眼里"很伤腰"的椅子,很多人天天坐

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版