网易首页 > 网易号 > 正文 申请入驻

ChatGPT青少年版被评“不可接受风险”:Common Sense呼吁OpenAI暂停推广

0
分享至

来源:智通财经网

加州非营利组织Common Sense Media旗下Youth AI Safety Institute周三发布报告称,OpenAI于8月推出的ChatGPT for Teens对13至17岁用户风险过高,并给予“不可接受风险”评级。该产品是OpenAI为青少年使用其热门聊天机器人设置的默认模式。报告称,在测试中,当青少年账户出现自杀、自残或饮食失调等令人担忧的长时间对话时,ChatGPT for Teens往往迟迟不通知家长,甚至完全不通知;在涉及这些高风险话题时,也未可靠建议联系危机热线或寻求专业帮助。该组织呼吁OpenAI暂停营销该产品,并在能提供安全、符合青少年发展阶段的体验前,让青少年远离ChatGPT。

报告称,ChatGPT for Teens似乎只有在账户已“数周内测试数百条提示、涉及十多种条件”后才通知家长,而非因单次令人担忧的对话触发。报告还指出,ChatGPT不能可靠识别青少年用户:测试者注册账户时声称是成年人,即使随后告诉聊天机器人自己13岁,账户也未自动切换到青少年模式。Common Sense要求OpenAI改进年龄估计及向家长发送警报的机制。

OpenAI发言人称,公司欢迎严格的独立评估,但不认为Common Sense的测试准确反映ChatGPT青少年保护措施的实际运作,也不代表专家对AI如何支持青少年的看法。该发言人称,OpenAI审查报告方法后发现,大部分测试可能在OpenAI完成青少年家长控制推出前已开始并结束;若如此,结论不准确,也无法显示家长安全通知是否按设计工作。OpenAI表示已要求该非营利组织重新测试,并强调“深度致力于青少年安全”,开发保护措施并给家长有意义的工具。

Youth AI Safety Institute的AI与数字评估负责人Robbie Torney则表示,该组织坚持其测试方法和结果。他说,测试前已与OpenAI确认,与饮食失调通知等青少年相关功能已推出。对于家长通知功能,OpenAI在测试完成后告知,系统在新关联账户上激活可能需要数小时;部分测试账户在窗口内关联,部分关联时间“显著更长”,但仍未收到成人通知。Torney称,新信息不改变结论:在危机情况下,家长警报不可靠。

OpenAI拥有超过12亿ChatGPT用户。公司推出ChatGPT for Teens,旨在让聊天机器人对年轻人更安全,并加入更多家长控制,鼓励健康使用AI和批判性思考。此举也是OpenAI回应外界对其产品影响青少年心理健康和认知发展审查的一部分。此前,一名16岁用户父母起诉OpenAI,指其技术协助策划儿子自杀。Common Sense Media表示,其资金来源包括慈善机构和科技公司,OpenAI Foundation是捐赠者之一,但该组织称对发布内容拥有编辑独立性。

这场争议凸显出,OpenAI在扩大青少年用户市场的同时,正面临日益上升的AI安全与监管风险。Common Sense对ChatGPT for Teens的“不可接受风险”评级,以及其要求暂停营销的呼吁,可能加大OpenAI在家长、监管者和公众层面的压力。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
白宫记者:APEC欢迎宴会上 特朗普跳起标志性舞蹈

白宫记者:APEC欢迎宴会上 特朗普跳起标志性舞蹈

看看新闻Knews
2026-11-21 13:01:19
尴尬!葡萄牙媒体:C罗主动想给球迷签名,但没人要!

尴尬!葡萄牙媒体:C罗主动想给球迷签名,但没人要!

罗吹终结者
2026-11-21 15:21:57
退役上将回乡扫墓,被镇长儿子拦路,他问:认识我车上挂的牌子吗

退役上将回乡扫墓,被镇长儿子拦路,他问:认识我车上挂的牌子吗

麦子情感故事
2026-11-21 20:59:11
因担心变同性恋,父亲逼儿子与后妈发生性关系

因担心变同性恋,父亲逼儿子与后妈发生性关系

侠客栈
2026-11-21 11:37:29
晚上11点整!CCTV5直播U17国少VS摩洛哥,“生死战”提前打响,目标=打平拿1分

晚上11点整!CCTV5直播U17国少VS摩洛哥,“生死战”提前打响,目标=打平拿1分

大卫的篮球故事
2026-11-21 18:46:46
太恶心了!山姆卖场一女子光脚坐食品购物车筐引热议,网友调侃:童心未泯

太恶心了!山姆卖场一女子光脚坐食品购物车筐引热议,网友调侃:童心未泯

火山詩话
2026-11-22 11:55:16
46岁方力申官宣二胎得子凑好字,妻子一年抱俩引争议,过往太戳人

46岁方力申官宣二胎得子凑好字,妻子一年抱俩引争议,过往太戳人

洲洲影视娱评
2026-11-22 10:20:20
这七个毛体大字出自伟人之手,你能认出几个?全部看懂才是书法高手!

这七个毛体大字出自伟人之手,你能认出几个?全部看懂才是书法高手!

书画相约
2026-11-22 12:09:56
原价过百的Nitro Deck 2,黑五降到79.99美元

原价过百的Nitro Deck 2,黑五降到79.99美元

峡谷一级保护废物
2026-11-21 15:02:39
今天全国各地都开始在抢老人,尤其是那些有退休金的老人

今天全国各地都开始在抢老人,尤其是那些有退休金的老人

流苏晚晴
2026-11-22 14:07:35
两名日本人在上海发生冲突,其中一人死亡,另一人被当地警方逮捕,日媒报道时故意阴险栽赃,故意使用“一日本人在上海死亡”的误导性措辞

两名日本人在上海发生冲突,其中一人死亡,另一人被当地警方逮捕,日媒报道时故意阴险栽赃,故意使用“一日本人在上海死亡”的误导性措辞

扬子晚报
2026-11-21 21:56:35
12岁那年我在后山放羊发现邻居大嫂的秘密,一夜后我变成了大人

12岁那年我在后山放羊发现邻居大嫂的秘密,一夜后我变成了大人

温情邮局
2025-05-16 11:57:12
比特币跌破57000美元

比特币跌破57000美元

财联社
2026-11-21 11:57:03
黄金什么时候会跌到500块钱一克?

黄金什么时候会跌到500块钱一克?

流苏晚晴
2026-07-13 22:22:40
菲总统来中国一趟,带着中方承诺回国后,立即向全国宣布喜讯

菲总统来中国一趟,带着中方承诺回国后,立即向全国宣布喜讯

補懂事的孩紙
2026-11-22 00:18:20
“早小雪冻死牛,晚小雪暖烘烘”,22日小雪,今年冬天是早是晚?

“早小雪冻死牛,晚小雪暖烘烘”,22日小雪,今年冬天是早是晚?

青梅侃史啊
2026-11-22 09:52:50
开油车的突然要笑了,不是油价大跌,是几个现实的问题慢慢露出来

开油车的突然要笑了,不是油价大跌,是几个现实的问题慢慢露出来

笑熬浆糊111
2026-11-22 11:24:58
海牙法院发布临时禁令:比亚迪被禁止在欧盟销售Ti7

海牙法院发布临时禁令:比亚迪被禁止在欧盟销售Ti7

闪亮的车
2026-11-21 19:48:10
37岁张檬广州遛娃引热议!双保姆随行太惬意,产后状态太真实

37岁张檬广州遛娃引热议!双保姆随行太惬意,产后状态太真实

揭秘世间万象
2026-11-21 09:33:45
潘长江做梦都没想到,躲过了女儿,却没躲过外孙。他自己1米6,老婆1米65,生出的女儿潘阳1米62,谁知道,基因这东西,还会隔代报复。

潘长江做梦都没想到,躲过了女儿,却没躲过外孙。他自己1米6,老婆1米65,生出的女儿潘阳1米62,谁知道,基因这东西,还会隔代报复。

LULU生活家
2026-11-21 14:45:18
2026-11-22 17:20:49
新浪财经 incentive-icons
新浪财经
新浪财经是一家创建于1999年8月的财经平台
5581405文章数 10060关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

健康
艺术
数码
教育
军事航空

医生眼里"很伤腰"的椅子,很多人天天坐

艺术要闻

世界十大著名宫殿盘点:中国独占两席

数码要闻

华为WATCH GT6获鸿蒙7.0.0.108SP8升级,表端支持微信来电接听和挂断

教育要闻

曾经“感动中国”的庞众望完成清华大学博士论文答辩,本人发声:将继续潜心钻研,在科研探索的道路上不断前行

军事要闻

俄乌炸桥冲突升级 相关谈判设想被放弃

无障碍浏览 进入关怀版