网易首页 > 网易号 > 正文 申请入驻

新研究警告ChatGPT存在有害情绪及社会影响

0
分享至

自2022年11月推出以来,OpenAI的ChatGPT已成为全球使用最广泛的人工智能应用之一。它的迅速采用使其与主要搜索引擎和社交媒体平台并驾齐驱,成为数字领域的关键参与者。

据估计,ChatGPT的每周活跃用户已超过4亿。最初作为一种帮助完成任务和回答问题的生产力工具,已经成为我们生活中变革性的一部分。然而,使用ChatGPT对我们的情绪健康有什么影响?虽然它可能会在某些任务上节省我们的时间,但它会弊大于利吗?

OpenAI与麻省理工学院媒体实验室合作的一项新研究表明,频繁使用ChatGPT的用户遭受孤独、社交减少和情绪依赖的风险更高。

虽然ChatGPT不是为了成为情感伴侣或取代人际关系而设计的,但一些用户对该工具的依恋程度突显了它在个人互动中日益重要的作用。然而,这一日益重要的作用也伴随着对其对心理健康影响的担忧。

OpenAI和麻省理工学院媒体实验室的研究旨在探索与ChatGPT的交互如何影响用户的情绪健康。这两项平行的研究侧重于高级语音模式和文本聊天机器人,但他们采取了不同的方法。

麻省理工学院媒体实验室进行了一项对照干预研究,以检查ChatGPT使用对参与者的影响,而OpenAI进行了一次观察性研究,以分析现实世界的使用模式,并收集用户如何与平台互动的见解。

麻省理工学院媒体实验室团队对近1000名参与者进行了为期4周的随机对照试验(RCT)。目的是揭示ChatGPT的特定特征(如交互方式)如何影响用户自我报告的心理状态的因果关系。重点领域包括与真人的社交互动、对聊天机器人的情感依赖、孤独感和人工智能使用问题。

OpenAI的研究规模更大,包括对近4000万次ChatGPT交互的自动分析。为了确保用户隐私,研究人员利用了一个完全通过自动分类器运行的对话分析管道。这个过程允许提取分类元数据,如情感参与模式,而无需任何人为干预。

这项研究的一个关键发现是,互动模式(文本、中性声音、吸引人的声音)和对话内容(开放式、非个人、个人)对心理社会结果有显著影响。

基于语音的互动最初似乎能增强情绪健康,但长期和日常使用会产生负面影响。而基于文本的交互显示了更多的情感线索。然而,任何模式下的长时间互动都可能带来风险。

个人因素也发挥了关键作用。例如,有高情绪需求或依恋倾向的用户使用ChatGPT时,容易产生更大的情绪影响。有趣的是,女性参与者似乎比男性参与者受到的影响更大。

两项采用明显不同方法的平行研究得出了相似的结果,这一事实增加了研究结果的有效性。

该研究的作者写道:“结果表明,虽然与基于文本的聊天机器人相比,基于语音的聊天机器人最初在缓解孤独感和依赖性方面似乎是有益的,但在高频使用水平下,这些优势就会减弱。”“总体而言,在所有模式和对话类型中,较高的日常使用率与较高的孤独感、依赖性、有问题的使用和较低的社交性相关。”

虽然研究结果令人担忧,但研究人员强调,只有一小部分用户将结果偏向一边。据他们介绍,大多数ChatGPT用户并没有产生明显的情感依赖。研究人员还强调,他们的研究基于ChatGPT,其他人工智能聊天机器人平台的用户可能会有不同的体验和结果。

OpenAI分享说,它计划利用这项研究的结果来“构建能够最大限度地提高用户利益同时最大限度地减少潜在危害的人工智能”。该公司还希望分享调查结果,为使用他们的模型“设定明确的期望”,并提供更大的透明度。

以往的几项研究表明,过度使用数字工具,包括社交媒体平台,会对心理健康产生负面影响。人类是否也对人工智能聊天机器人产生影响?

苏黎世大学和苏黎世大学精神病医院的研究人员已经证明,像ChatGPT这样的人工智能模型在分发信息时会有更高的“焦虑水平”。这包括令人痛苦的材料,如创伤叙事或关于抑郁症的陈述。

研究人员观察到,当人工智能聊天机器人感到焦虑时,它们现有的偏见会变得更糟,导致有问题的反应,例如通过输出表达偏见。

人类情绪健康和人工智能敏感性之间的相互作用突显了我们与这些技术之间的复杂关系。需要进一步的研究来更好地了解动态。然而,上述研究提醒我们,随着我们继续将人工智能融入我们的生活,我们必须深思熟虑地使用它。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
中国连续取消两场会议,欧盟外长惹怒所有人,法德讨论对其削权

中国连续取消两场会议,欧盟外长惹怒所有人,法德讨论对其削权

牛锅巴小钒
2026-06-12 10:11:08
普京公开松口,战局彻底逆转,千架机狂轰本土,中方已出重手

普京公开松口,战局彻底逆转,千架机狂轰本土,中方已出重手

阿嘵田侃故事
2026-06-11 20:59:30
泰国47岁长公主去世,感染支原体细菌引发心肌炎昏迷多年,曾是外界最看好的王位继承人选

泰国47岁长公主去世,感染支原体细菌引发心肌炎昏迷多年,曾是外界最看好的王位继承人选

极目新闻
2026-06-12 10:26:17
王菲也没想到,年仅20岁的李嫣,如今竟成了李亚鹏的“金字招牌”

王菲也没想到,年仅20岁的李嫣,如今竟成了李亚鹏的“金字招牌”

杰丝聊古今
2026-06-12 15:43:05
顶级牛散葛卫东罕见发声:为什么股价跌到全部股东都套牢还会跌?

顶级牛散葛卫东罕见发声:为什么股价跌到全部股东都套牢还会跌?

风风顺
2026-05-25 03:25:03
中国男网传捷报!张之臻爆冷6号种子,轰11记ACE球,创造新纪录!

中国男网传捷报!张之臻爆冷6号种子,轰11记ACE球,创造新纪录!

刘姚尧的文字城堡
2026-06-12 07:55:24
被中方制裁并限制入境的菲律宾防长到底干了什么

被中方制裁并限制入境的菲律宾防长到底干了什么

看看新闻Knews
2026-06-12 00:58:56
把倒数第一送进北大,让差生上清华,他书写高考神话的秘密是什么

把倒数第一送进北大,让差生上清华,他书写高考神话的秘密是什么

华人星光
2026-06-12 10:18:41
18岁被王全安选中,20岁登戛纳,后来为啥没人敢用她?

18岁被王全安选中,20岁登戛纳,后来为啥没人敢用她?

不似少年游
2026-05-21 14:26:19
巴萨8000万欧报价格瓦迪奥尔,曼城面临留人战

巴萨8000万欧报价格瓦迪奥尔,曼城面临留人战

甜份超标的我
2026-06-12 01:06:39
“药茅”片仔癀跌下神坛!曾经1600元一粒难求,如今黄牛3折甩卖

“药茅”片仔癀跌下神坛!曾经1600元一粒难求,如今黄牛3折甩卖

胖福的小木屋
2026-06-12 17:16:50
中超唯一世界杯参赛球员,浙江外援朴镇燮首战替补待命

中超唯一世界杯参赛球员,浙江外援朴镇燮首战替补待命

懂球帝
2026-06-12 09:01:06
看完世界杯揭幕战,让球迷看清4个事实,盲目扩军会拉低比赛质量

看完世界杯揭幕战,让球迷看清4个事实,盲目扩军会拉低比赛质量

郭蛹包工头
2026-06-12 10:14:14
希西尔,将访华

希西尔,将访华

政知新媒体
2026-06-12 16:21:47
香港四美、台湾四美、大陆四美,惊艳整个时代,谁才是实至名归?

香港四美、台湾四美、大陆四美,惊艳整个时代,谁才是实至名归?

阿凫爱吐槽
2026-04-04 08:57:19
笑话:贪色

笑话:贪色

乡村中原风
2026-06-12 14:30:03
人为什么要结婚,一位富婆说:“人真正需要的其实不是婚姻,也不是性,甚至都不是伴侣,而是这两种正向的亲密关系。”

人为什么要结婚,一位富婆说:“人真正需要的其实不是婚姻,也不是性,甚至都不是伴侣,而是这两种正向的亲密关系。”

心理观察局
2026-06-12 06:34:20
印度想给巴基斯坦断水?却忘了自己最怕的“上游断水”还没来

印度想给巴基斯坦断水?却忘了自己最怕的“上游断水”还没来

天气观察站
2026-06-12 13:20:39
莫言:如果你混到没人找你吃饭,没人喊你聚会,连电话也没几个,那庆祝了,你不是人缘变差,而是真正觉醒了

莫言:如果你混到没人找你吃饭,没人喊你聚会,连电话也没几个,那庆祝了,你不是人缘变差,而是真正觉醒了

品读时刻
2026-05-27 09:00:58
马科斯怎么都料不到!在仁爱礁坐滩27年的破船,却意外助力中国了

马科斯怎么都料不到!在仁爱礁坐滩27年的破船,却意外助力中国了

共工之锚
2026-06-10 00:41:05
2026-06-13 04:23:00
Ai时代前沿
Ai时代前沿
人工智能新闻动态及应用案例。
1762文章数 512关注度
往期回顾 全部

科技要闻

刚刚,人类历史上首位万亿美元富豪诞生!

头条要闻

美加墨世界杯第二场比赛就现空座 英媒:尴尬

头条要闻

美加墨世界杯第二场比赛就现空座 英媒:尴尬

体育要闻

欧洲恐韩?肉德维德?

娱乐要闻

一天4个瓜,肖战热巴最意外

财经要闻

万亿美元顺差背后,透露这些信号

汽车要闻

标配激光雷达/双动力可选 昊铂S600限时售17.99万起

态度原创

旅游
家居
艺术
公开课
军事航空

旅游要闻

印度有钱人真多酷暑办理旅游签证!不是有钱任性,是热到活不下去

家居要闻

空间微调 移形换境

艺术要闻

砸了640亿,再赔160亿!沙特“The Line”项目彻底凉了?

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

伊朗媒体:已故最高领袖葬礼推迟举行

无障碍浏览 进入关怀版