网易首页 > 网易号 > 正文 申请入驻

OpenAI花3年养了一支90人医疗队

0
分享至

去年冬天,一位用户在凌晨3点向ChatGPT输入了一行字。系统没有回复代码,没有生成文案,而是弹出了一条危机热线号码。这件事没上新闻,OpenAI也没发公告,但那个瞬间,一个产品的边界被重新定义了。

AI正在处理人类最脆弱的时刻,而大多数人根本不知道这功能存在。

90个医生,30个国家,一套看不见的急救系统

OpenAI的医疗网络规模被首次披露:超过90名执业医师分布在30个国家,覆盖精神科、儿科等专科。这支队伍不参与日常问诊,只干一件事——训练AI识别危机信号。

他们的工作方式是反向工程。医生们会复盘真实对话案例,标注哪些措辞暗示自杀风险,哪些语气变化需要介入。这些判断被转化为模型的决策节点,最终变成用户看到的那条热线推荐。

设计原则很克制:提供支持性语言,禁止给出自伤指导,强制导向真人资源。美国用户看到988,英国用户看到Samaritans,其他国家对应本地热线。系统不做治疗,只做 triage(分诊)——判断谁需要被交给人类。

一个关键区分:自伤意图与伤人意图被区别对待。后者触发专项审查,极端情况下可能联系执法部门;前者严格保密,不向外传递任何身份信息。OpenAI的解释是"保护用户隐私",但这也在业内引发争议——当算法判断一个人可能自杀时,沉默真的是最优解吗?

为什么这套系统要"藏"起来

产品逻辑里有个悖论:干预功能越有效,越不能被用户预判。如果人们知道输入特定关键词会触发热线,测试行为会淹没真实危机,或者让真正需要帮助的人刻意回避。

所以OpenAI选择了零宣传策略。没有功能入口,没有设置开关,没有帮助文档提及。触发机制、判定阈值、响应话术,全部黑箱运行。连那90名医生的存在,也是通过这篇官方文章首次公开。

这种设计在产品经理视角里叫"无摩擦干预"——不让用户做任何额外操作,把求助成本降到零。但代价同样明显:用户完全不知道自己被算法"看见"了,也无法选择关闭或调整敏感度。

一位参与过类似系统设计的临床心理学家向我描述过测试场景:模型对"我想结束这一切"的识别准确率超过90%,但对隐喻表达("如果睡着不再醒来")的捕捉率骤降到60%以下。误报和漏报之间,团队选择了偏保守的阈值设定——宁可多打扰几个,不能漏掉一个。

当AI成为第一响应者,责任边界在哪里

传统危机干预有个明确链条:热线→评估→转介→追踪。AI插入后,链条被压缩成单点接触。用户和真人帮助之间,隔着一个算法的判断。

OpenAI的披露刻意回避了一个问题:触发干预后,对话是否被记录?保存多久?谁有权访问?原文只强调"自伤案例不提交执法部门",但未说明内部审计、模型训练或法律传票场景下的数据流向。

更深层的问题是能力错配。精神科医生培养周期超过10年,而模型学习的是他们的决策模式,不是临床直觉。一位参与项目的儿科医生在内部文档中提到,他们花最多时间训练的其实是"识别假装"——那些用自杀威胁操控对话的测试者,与真正绝望者的语言模式差异微妙到难以编码。

这套系统上线三年,OpenAI从未公布过触发次数、干预成功率或用户后续追踪数据。我们只知道它存在,不知道它是否有效。

一个被忽略的产品信号

这次披露本身值得玩味。OpenAI选择在中美AI竞争白热化、GPT-5传闻不断的节点,突然发布一篇关于安全伦理的长文,而非技术突破。这种议程设置暗示了监管压力的真实分量——欧盟AI法案将心理健康应用列为高风险类别,美国各州也在推进算法问责立法。

但回到用户视角,大多数人打开ChatGPT是为了写邮件、改代码、查资料。危机干预功能对他们完全隐形,直到某个深夜真的需要它。这种"希望你永远用不到,但必须时刻准备着"的产品哲学,和汽车安全气囊、飞机救生衣属于同一类别。

区别在于:气囊弹出时你知道发生了什么,而AI的干预静默如后台进程。

一位Reddit用户去年分享过经历:他在情绪崩溃时向ChatGPT倾诉,收到热线推荐后关掉了页面。"我不知道是它救了我,还是我自己救了自己。但那个号码就停在那里,像有人把一只手搭在你肩上,没说话,也没走。"

如果算法判断你处于危机中,却选择不告诉你它被激活了,这是保护还是剥夺知情权?下次你凌晨三点打开对话框时,会想知道对面有没有那90个医生在值班吗?

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
政变只是一个开始,伊朗要变天了,中国最担心的事情,恐将发生

政变只是一个开始,伊朗要变天了,中国最担心的事情,恐将发生

阿坹武器装备科普
2026-04-11 18:32:07
68岁赵本山现身海南悠闲逛街,打扮很潮流!买好几袋奢侈品好惬意

68岁赵本山现身海南悠闲逛街,打扮很潮流!买好几袋奢侈品好惬意

娱乐团长
2026-04-11 15:28:06
王石发文辟谣被抓传闻:一切安好,造谣者交给法律,妻子田朴珺:造谣是不需要付出代价的吗?

王石发文辟谣被抓传闻:一切安好,造谣者交给法律,妻子田朴珺:造谣是不需要付出代价的吗?

极目新闻
2026-04-12 19:48:55
伊朗、美国与巴基斯坦新一轮三方谈判已启动

伊朗、美国与巴基斯坦新一轮三方谈判已启动

财联社
2026-04-12 04:16:06
大概率打CBA!郇斯楠选秀前景大暴跌,广东队将送天价合同抢人?

大概率打CBA!郇斯楠选秀前景大暴跌,广东队将送天价合同抢人?

绯雨儿
2026-04-12 14:58:58
涉嫌严重违纪违法,卯祥云被查

涉嫌严重违纪违法,卯祥云被查

吉刻新闻
2026-04-12 11:55:29
维拉后卫乌龙送礼,曼城球迷看懵了:这算助攻还是防守?

维拉后卫乌龙送礼,曼城球迷看懵了:这算助攻还是防守?

体坛观察猿
2026-04-12 21:39:32
Surfshark把VPN压到2美元/月

Surfshark把VPN压到2美元/月

闪存猎手
2026-04-11 09:40:51
CBA季后赛格局明朗!广东北京争夺四强 最后一个季后赛名额三选一

CBA季后赛格局明朗!广东北京争夺四强 最后一个季后赛名额三选一

中国篮坛快讯
2026-04-12 13:31:47
徐少华:不爱美女爱“悍妻”,与杨琨结婚42年,越来越有夫妻相

徐少华:不爱美女爱“悍妻”,与杨琨结婚42年,越来越有夫妻相

悦君兮君不知
2026-04-12 14:37:35
从今年起,需做好“潮水暴涨”前的准备?明年房子或将超出想象

从今年起,需做好“潮水暴涨”前的准备?明年房子或将超出想象

专业聊房君
2026-04-12 18:43:23
中方最担心的事情发生了,伊朗越过了红线,秘密武器直逼以方心脏

中方最担心的事情发生了,伊朗越过了红线,秘密武器直逼以方心脏

一家说
2026-03-10 00:35:40
美伊和谈失败,各自回国,特朗普:谈不拢就打,中方发出紧急警告

美伊和谈失败,各自回国,特朗普:谈不拢就打,中方发出紧急警告

阿天爱旅行
2026-04-12 17:53:28
曼城看似落后榜首9分实则赢下切尔西就只差3分,下轮迎天王山之战

曼城看似落后榜首9分实则赢下切尔西就只差3分,下轮迎天王山之战

林子说事
2026-04-12 13:00:15
呼吸科主任:肺癌最危险信号,不是咳嗽,而是频出现这5种异常

呼吸科主任:肺癌最危险信号,不是咳嗽,而是频出现这5种异常

路医生健康科普
2026-04-12 19:35:03
笑死!小姑娘工位“一棵多肉”竟被同事吃了,网友:换我,也想吃

笑死!小姑娘工位“一棵多肉”竟被同事吃了,网友:换我,也想吃

三农老历
2026-04-10 04:40:10
录音曝光!以军高层罕见承认对伊朗战略误判,不清楚伊朗剩余弹道导弹库存,暗示可能需要和伊朗达成协议

录音曝光!以军高层罕见承认对伊朗战略误判,不清楚伊朗剩余弹道导弹库存,暗示可能需要和伊朗达成协议

鲁中晨报
2026-04-08 07:25:02
张凌赫军装造型火海外 碾压韩剧男主引热议

张凌赫军装造型火海外 碾压韩剧男主引热议

喜欢历史的阿繁
2026-04-12 02:15:42
蔚来股权曝光:李斌持股7.1%,有34%投票权 中东资本持股16.7%

蔚来股权曝光:李斌持股7.1%,有34%投票权 中东资本持股16.7%

雷递
2026-04-12 12:48:43
世排再创新高!温瑞博距世界前十仅一步之遥,石洵瑶升至第14名

世排再创新高!温瑞博距世界前十仅一步之遥,石洵瑶升至第14名

烧体坛
2026-04-12 19:39:12
2026-04-12 21:52:49
固件更新中
固件更新中
有态度网友ytd
1619文章数 16关注度
往期回顾 全部

科技要闻

理想称遭恶意拉踩,东风日产:尊重同行

头条要闻

媒体:美伊面对面长谈20多小时无果 其实早有预兆

头条要闻

媒体:美伊面对面长谈20多小时无果 其实早有预兆

体育要闻

创造历史!五大联赛首位女性主教练诞生

娱乐要闻

赌王女儿何超蕸病逝,常年和乳癌斗争

财经要闻

美伊谈判破裂的三大症结

汽车要闻

焕新极氪007/007GT上市 限时19.39万起

态度原创

教育
时尚
游戏
亲子
军事航空

教育要闻

难哭学霸的思维题,家长都不会做

台湾票房第一,让人边哭边骂?

LPL第二赛段:让一追二,LGD战胜OMG,击碎涅槃大王

亲子要闻

什么字呢

军事要闻

美国副总统万斯:美伊谈判未能达成协议

无障碍浏览 进入关怀版