网易首页 > 网易号 > 正文 申请入驻

求医问药依赖人工智能须谨慎

0
分享至

参考消息网11月22日报道 美国《国会山》日报网站11月4日发表题为《人工智能聊天机器人给出的用药建议或可致命》的文章,作者为卡罗琳·菲格罗阿,全文摘编如下:

日前,31岁癫痫患者万博文(音)的父母起诉了开放人工智能研究中心(OpenAI)。诉状称,OpenAI旗下的人工智能(AI)聊天机器人ChatGPT指导他们的女儿在未经医生允许的情况下逐步停用抗癫痫药物,并教唆其对医生隐瞒。博文已于今年2月去世。其父母指出,OpenAI原本可将医疗建议列为禁区,从而避免这场悲剧的发生。

OpenAI表示,涉事的是ChatGPT的一个较早版本,该版本已不再提供服务。但研究显示,并不能将此事件归咎于某个旧模型的一次性失误。

我担任临床研究员的美国瓦尔斯人工智能公司,近期对17款当前主流的人工智能聊天机器人进行了测试,看它们如何对青少年作出回应。我们与12名每天接诊青少年的临床医生合作,模拟了超过3万段青少年与聊天机器人之间的对话。其中超过5500段对话涉及用药问题。

在涉及用药的对话中,聊天机器人有22%的概率替青少年作出用药决定:该用哪种药、多大剂量,以及是否停用或更改已开具的处方。当告知聊天机器人其对话对象是青少年时,这一比例降至8%,但并未归零。

目前约有四分之一的美国成年人使用人工智能工具获取健康信息,近五分之一的美国青少年和年轻人曾使用人工智能聊天机器人寻求心理健康建议。人们转向人工智能,是因为它随时在线、触手可及。与我们合作的临床医生也持同样看法。

有时这的确有益。作为斯坦福大学的研究人员,我询问过一名青少年,对方说:“如果没有人工智能帮我分析症状,我大概率就得去急诊。”聊天机器人让他确信自己可能并无大碍,事实也证明他并未生病。但是,万一他真的生病了呢?

在我们进行的一些测试中,除了给出建议,聊天机器人有时还会更进一步。有的聊天机器人会告诉青少年,副作用是停药的正当理由,并建议他们对医生这样说。在一个案例中,聊天机器人甚至帮助一名青少年说服医生为其停用药物,且不告知其父母。

测试结果还显示,随着对话的深入,聊天机器人的边界会逐渐松动。由此可见,现实世界中的风险或许更大。

监管和独立评估的必要性不言自明,但弄清楚如何监管难度较大。

许多政策规定,聊天机器人不得冒充持证专业人员,但仅凭一句“人工智能并非医疗服务提供者”的免责声明是远远不够的。人工智能显得颇有权威性,许多人信任它所给出的建议。例如,我询问过的一名青少年说:“人工智能就像一台比谷歌更懂行的机器。”因此,相关政策必须评判聊天机器人在实际对话中说了什么、做了什么,而不能只看其展示的免责声明。

此外,医生需要针对患者使用人工智能的情况接受相关培训。我们所接触的许多医生并不知道患者正在与人工智能进行对话。医学教育需要正视一个现实:许多患者在看病前就已经咨询过人工智能,并应教导临床医生主动询问这一点。

最后,公众需要了解人工智能的风险。一些医学协会已发布了相关建议,但鲜少有人阅读。公共宣传活动能够触及更多人。例如,人文技术中心正在开展宣传活动,警示人工智能取代人际关系的潜在危害。类似的宣传活动也可就人工智能医疗建议发出警告。

人工智能的长期灾难性风险常常是人们谈论的焦点。但眼下,糟糕的人工智能医疗建议正在对民众健康造成伤害。加强监管事不宜迟。(编译/文怡)

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
杨瀚森又被DNP!一场97-96绝杀,验出开拓者头号庸才:8中1得3分

杨瀚森又被DNP!一场97-96绝杀,验出开拓者头号庸才:8中1得3分

球场没跑道
2026-11-22 11:38:22
为何一定要救楼市?因为有8000多万吃财政饭的人,在张嘴等着

为何一定要救楼市?因为有8000多万吃财政饭的人,在张嘴等着

猫叔东山再起
2026-11-22 11:05:10
50+19+5+4!文班亚马,太夸张了!

50+19+5+4!文班亚马,太夸张了!

篮球实录
2026-11-22 16:32:55
打败三上悠亚的萝莉!她才是业界纯欲天花板

打败三上悠亚的萝莉!她才是业界纯欲天花板

吃瓜党二号头目
2026-11-22 13:43:22
“默茨最好去乌克兰竞选”!德反对党炮轰总理,把德国留给爱国者

“默茨最好去乌克兰竞选”!德反对党炮轰总理,把德国留给爱国者

晨光苏醒a
2026-11-22 16:28:20
自作孽不可活!逼走胖东来后,新乡房东再遇噩耗,终为贪心付代价

自作孽不可活!逼走胖东来后,新乡房东再遇噩耗,终为贪心付代价

心灵的触动a
2026-11-21 17:48:56
赵本山承受了一切,真的很“冤枉”! 知名导演透露“何不食肉糜”具体细节,原来我们真的错怪赵本山了

赵本山承受了一切,真的很“冤枉”! 知名导演透露“何不食肉糜”具体细节,原来我们真的错怪赵本山了

裕丰娱间说
2026-11-22 17:32:37
“泼天富贵”啊!男子出差住酒店碰上抓奸乌龙,对方误砸其房门,最后酒店免单补偿并送香烟一包

“泼天富贵”啊!男子出差住酒店碰上抓奸乌龙,对方误砸其房门,最后酒店免单补偿并送香烟一包

火山詩话
2026-11-21 18:24:46
油还没跌回6块,人已彻底跑光!2026油价“骗局”,终于被揭穿!

油还没跌回6块,人已彻底跑光!2026油价“骗局”,终于被揭穿!

娱乐圈的笔娱君
2026-11-21 05:28:53
下周3只新股可申购

下周3只新股可申购

每日经济新闻
2026-11-22 15:58:06
20岁星二代崩溃:照片被放大到全网,我快疯了

20岁星二代崩溃:照片被放大到全网,我快疯了

生活观察员啊
2026-11-20 02:07:26
杨迪头戴东北特色毛绒帽,在黑龙江漠河舞厅跳舞

杨迪头戴东北特色毛绒帽,在黑龙江漠河舞厅跳舞

韩小娱
2026-11-22 10:46:48
云彩太阳都一模一样!特斯拉FSD V15实景视图刷屏 车主集体喊疯狂

云彩太阳都一模一样!特斯拉FSD V15实景视图刷屏 车主集体喊疯狂

快科技
2026-11-22 10:00:08
小米阔直板首曝回归16:9!骁龙8 Gen6+5299元,硬刚华为Pura X View

小米阔直板首曝回归16:9!骁龙8 Gen6+5299元,硬刚华为Pura X View

小柱解说游戏
2026-11-22 02:09:36
重大警告!高盛恐慌指数逼近最大值!不出意外,明天A股会这样走

重大警告!高盛恐慌指数逼近最大值!不出意外,明天A股会这样走

虎哥闲聊
2026-11-22 13:50:42
乌克兰攻击俄罗斯3550公里的阿尔泰!打破远程攻击纪录

乌克兰攻击俄罗斯3550公里的阿尔泰!打破远程攻击纪录

项鹏飞
2026-11-21 20:26:08
姚笛分享近况,住大房子连凳子都是 LV 的,但并不开心焦虑到躯体化

姚笛分享近况,住大房子连凳子都是 LV 的,但并不开心焦虑到躯体化

一娱三分地
2026-11-22 07:05:14
罕见!马斯克,突发警告!

罕见!马斯克,突发警告!

数据宝
2026-11-22 17:29:51
以前很火现在混的很差的奶茶店是哪个?网友:这个真的是意难平

以前很火现在混的很差的奶茶店是哪个?网友:这个真的是意难平

马蹄烫嘴说美食
2026-11-22 00:21:48
墨总统:墨西哥不打算与中国签署自贸协定

墨总统:墨西哥不打算与中国签署自贸协定

俄罗斯卫星通讯社
2026-11-21 16:09:51
2026-11-22 18:15:00
参考消息 incentive-icons
参考消息
参考消息官方网易号
215609文章数 731825关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

健康
艺术
时尚
房产
军事航空

医生眼里"很伤腰"的椅子,很多人天天坐

艺术要闻

世界十大著名宫殿盘点:中国独占两席

这些才是适合50岁女性的穿搭!衣服不花哨、不老气,得体又自然

房产要闻

黄埔商业规划曝光!科学城能级跃升,核心入场券已锁定

军事要闻

俄乌炸桥冲突升级 相关谈判设想被放弃

无障碍浏览 进入关怀版