网易首页 > 网易号 > 正文 申请入驻

OpenAI首份大模型“心理报告”出炉:每周有百万人询问敏感问题

0
分享至

财联社10月28日讯(编辑 马兰)人工智能模型的安全性一直受到市场质疑。近期,一名美国青少年在咨询ChatGPT后自杀,进一步引发了社会对模型是否存在诱导用户尝试危险行为的怀疑,也迫使OpenAI加大了对用户心理健康问题的监控。

周一,OpenAI发布了一篇博文显示,每周有超过一百万ChatGPT用户发送包含潜在自杀计划或明确意图迹象的消息。除了自杀相关的问题外,OpenAI还称,每周约有56万名活跃用户可能表现出与精神病或躁狂症相关的心理问题迹象。

OpenAI警告,用户的此类对话很难检测或量化衡量,这些都只是初步分析。但这项发现是追踪ChatGPT处理敏感对话的最新进展之一,也是OpenAI就人工智能如何加剧心理健康问题所做出的最直接声明之一。

因病施药

上个月,美国联邦贸易委员会对包括OpenAI在内的人工智能聊天机器人公司展开了广泛调查,以了解这些公司如何控制对儿童和青少年的负面影响。

长期以来,人工智能研究人员和公共卫生倡导者一直对聊天机器人的立场表示担忧,因为模型可能会盲目认同用户的决定或妄想,无论这些决定或妄想是否有害。

心理健康专家也对人们使用人工智能聊天机器人寻求心理支持感到担忧,并警告称这可能会伤害心理脆弱的用户。

对此,OpenAI在博文中声称,其最新的GPT-5模型更新减少了大模型的不良行为,并在涉及1000多个有关自残和自杀的对话评估中提高了安全性以保护用户。其评估结果显示,新GPT-5模型符合期望行为的比率为91%,而未更新的GPT-5模型的符合率为77%。

OpenAI还表示,GPT-5 扩展了危机热线的访问权限,并增加了提醒用户在长时间会话期间休息的功能。

OpenAI补充称,为了改进该模型,近几个月来,该公司从全球医疗专家网络中招募了170名临床医生来协助其研究,包括评估其模型响应的安全性,并帮助聊天机器人撰写与心理健康相关问题的答案。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
自取其辱!高市早苗摇头晃脑,抛媚眼后丑态百出,马科斯无动于衷

自取其辱!高市早苗摇头晃脑,抛媚眼后丑态百出,马科斯无动于衷

花颜蕴韵
2026-11-18 19:56:56
立场亲华武契奇前脚离去,后脚塞尔维亚就冒出个不亲欧不亲俄的“硬茬”,欧洲这次真急了!

立场亲华武契奇前脚离去,后脚塞尔维亚就冒出个不亲欧不亲俄的“硬茬”,欧洲这次真急了!

唠叨说历史
2026-11-12 14:20:16
北京炒股冠军罕见发声:如果11月迎来牛市,建议试试三线定股法!

北京炒股冠军罕见发声:如果11月迎来牛市,建议试试三线定股法!

股经纵横谈
2026-11-18 19:52:17
破六十多年惯例!美方搬出最高外交礼遇,实力才是硬通行证!

破六十多年惯例!美方搬出最高外交礼遇,实力才是硬通行证!

大又元
2026-09-25 19:23:02
再见,森保一!日本足球划时代:12场不败终结!新任主帅正式接班

再见,森保一!日本足球划时代:12场不败终结!新任主帅正式接班

徐罘老表哥
2026-11-18 03:01:48
湖南一女子3岁走失,40岁成为千万富豪后,登上电视寻亲。不料,亲生父母无人到场,得知内情她崩溃大哭

湖南一女子3岁走失,40岁成为千万富豪后,登上电视寻亲。不料,亲生父母无人到场,得知内情她崩溃大哭

扶苏聊历史
2026-11-18 14:57:07
真是毁三观!释永信21年前与刘立明在郑州发生关系的笔录曝光

真是毁三观!释永信21年前与刘立明在郑州发生关系的笔录曝光

魔都姐姐杂谈
2025-07-28 14:35:36
迪拜首富之女重病赴华寻求中医,中医扎五根银针,开口便让他们傻眼

迪拜首富之女重病赴华寻求中医,中医扎五根银针,开口便让他们傻眼

萧竹轻语
2025-10-13 11:40:11
央视翻车?感动全网的老人拆墙让路竟然是多年违规占地?

央视翻车?感动全网的老人拆墙让路竟然是多年违规占地?

魔都囡
2026-11-18 03:15:27
“赵丽颖起诉红果”上热搜!红果短剧:累计治理肖像侵权作品超4.3万部

“赵丽颖起诉红果”上热搜!红果短剧:累计治理肖像侵权作品超4.3万部

澎湃新闻
2026-11-17 17:02:45
APEC峰会最让人意外的,不是谁来了,而是马云和梁文锋都没现身

APEC峰会最让人意外的,不是谁来了,而是马云和梁文锋都没现身

别人都叫我阿腈
2026-11-18 14:06:25
公路车骑行服,熟女骑行穿搭,利落面料勾勒饱满曲线

公路车骑行服,熟女骑行穿搭,利落面料勾勒饱满曲线

只要高兴就好
2026-09-24 11:58:50
女人坐了28年牢,出狱去办证,民警一查系统,当场愣了

女人坐了28年牢,出狱去办证,民警一查系统,当场愣了

卡西莫多的故事
2025-10-30 11:33:46
中国车市连续7个月降幅超20%

中国车市连续7个月降幅超20%

西虹市闲话
2026-11-16 13:16:09
董少鹏:中国股市究竟该怎么办?

董少鹏:中国股市究竟该怎么办?

新浪财经
2026-11-18 14:15:26
红军到陕北后没吃没穿,是如何度过难关的?毛泽东:要感谢三个人

红军到陕北后没吃没穿,是如何度过难关的?毛泽东:要感谢三个人

阿胡
2026-11-08 10:49:27
国家广播电视总局举办电视剧《伟大的长征》创作座谈会

国家广播电视总局举办电视剧《伟大的长征》创作座谈会

澎湃新闻
2026-11-17 20:29:11
普京访华:来中国最舒心,中美俄开创历史

普京访华:来中国最舒心,中美俄开创历史

生思孰虑
2026-11-18 16:31:39
WTA公布赛季年终奖金榜:郑钦文收入超249万美元,为收入最高中国球员;世界第一莱巴金娜超1113万美元居首,安德列娃、萨巴伦卡分列二三位

WTA公布赛季年终奖金榜:郑钦文收入超249万美元,为收入最高中国球员;世界第一莱巴金娜超1113万美元居首,安德列娃、萨巴伦卡分列二三位

大风新闻
2026-11-18 14:26:01
国民党一人抛出统一方案,我国台办回应亮了,释放重要信号

国民党一人抛出统一方案,我国台办回应亮了,释放重要信号

坠入二次元的海洋
2026-11-18 16:44:53
2026-11-18 22:04:49
财联社 incentive-icons
财联社
以“准确、快速、权威、专业”为新闻准则,为投资者提供专业的投资资讯。
783745文章数 1023185关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

艺术
家居
房产
健康
军事航空

艺术要闻

投资55亿!深圳歌剧院施工现场更新,主音乐厅马蹄形已现!

家居要闻

2026建博会(广州) 公装联探展交流活动

房产要闻

6.6亿!海口卖地!

医生眼里"很伤腰"的椅子,很多人天天坐

军事要闻

美军在中东再成三航母之势

无障碍浏览 进入关怀版