网易首页 > 网易号 > 正文 申请入驻

AI 医疗建议可靠性存疑:MIT 研究揭示用户提问方式影响 AI 判断

0
分享至

IT之家 7 月 10 日消息,随着生成式人工智能(AI)技术不断演进,其应用场景已从早期的简单问答扩展到更复杂的任务。然而,对于缺乏技术背景的用户而言,如何高效、准确地使用这些 AI 工具,正变得越来越具有挑战性。

一份独立报告显示,微软 AI 部门收到的用户投诉中,最常见的一条是“Copilot 不如 ChatGPT 好用”。对此,微软迅速回应,将问题归咎于用户“提示词工程能力不佳”。为改善用户体验,微软还推出了“Copilot 学院”,帮助用户提升 AI 使用技能。

IT之家注意到,麻省理工学院(MIT)的一项最新研究(via Futurism)表明,微软将问题归咎于用户提示词能力的做法或许并非全无道理。

该研究指出,过度依赖 AI 工具获取医疗建议可能带来危险。更令人担忧的是,如果用户在提问时出现拼写错误(如单词拼错或多余空格),AI 可能会因此建议用户无需就医。此外,使用花哨语言或俚语也可能导致 AI 判断失误。

研究还发现,女性用户比男性更容易受到此类错误建议的影响,尽管这一结论仍需进一步验证。

此次研究涵盖了多个 AI 工具,包括 OpenAI 的 GPT-4、Meta 的 LLaMA-3-70B,以及一款名为 Palmyra-Med 的医疗专用 AI。研究人员模拟了数千个健康案例,数据来源包括真实患者投诉、Reddit 上的健康相关帖子,以及 AI 生成的病例。

为测试 AI 的稳定性,研究人员在数据中加入了“扰动因素”,如句子首字母大小写不一致、感叹号、情绪化语言,以及“可能”“大概”等不确定表达。结果显示,这些扰动使 AI 建议用户“无需就医”的概率上升了 7% 至 9%。

研究负责人、MIT 研究员阿比尼塔・古拉巴蒂娜(Abinitha Gourabathina)指出:“这些模型通常是在医学考试题目上训练和测试的,但实际应用场景却相差甚远,比如评估临床病例的严重程度。我们对大语言模型的理解仍然非常有限。”

这一研究结果引发了对 AI 在医疗领域应用的广泛担忧。值得注意的是,就在不久前,微软刚刚宣布其新推出的 AI 医疗工具“准确率是人类医生的 4 倍,成本却低 20%”。微软 AI 首席执行官甚至称其为“迈向医疗超级智能的真正一步”。

然而,这项研究再次提醒我们,生成式 AI 在医疗等高度复杂的领域仍远未达到完全可靠的水平。尽管技术发展迅速,但在真正投入使用前,仍需更多验证与审慎评估。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
菲总统小马科斯站着不动迎接各国代表,直到中国部长来后,全变了

菲总统小马科斯站着不动迎接各国代表,直到中国部长来后,全变了

消失的电波
2026-11-17 20:45:22
停更三年粉丝流失不计其数,复出五个月涨到两千万,不愧被称第一网红

停更三年粉丝流失不计其数,复出五个月涨到两千万,不愧被称第一网红

In风尚
2026-11-18 06:04:31
“保不住香港,我们以死谢罪!”,解密惊心动魄的香港经济保卫战

“保不住香港,我们以死谢罪!”,解密惊心动魄的香港经济保卫战

文史道
2025-02-18 20:31:56
杨瀚森遭弃用!央视停播表明态度!森林狼双杀开拓者,一战看清4个现实:诺里真该下课

杨瀚森遭弃用!央视停播表明态度!森林狼双杀开拓者,一战看清4个现实:诺里真该下课

毒舌NBA
2026-11-18 13:19:03
陈羽凡现状:低调生活,50岁胖到认不出,17岁儿子1米8长得像妈

陈羽凡现状:低调生活,50岁胖到认不出,17岁儿子1米8长得像妈

三公子娱乐丫
2025-05-17 17:59:45
姑娘,出去玩也要注意下穿着,旁边大爷看了直摇头,好尴尬

姑娘,出去玩也要注意下穿着,旁边大爷看了直摇头,好尴尬

舞指飞扬
2026-11-13 07:42:15
斩首行动落地!以军锁定目标,深夜发起突袭,哈马斯指挥官已阵亡

斩首行动落地!以军锁定目标,深夜发起突袭,哈马斯指挥官已阵亡

巷北楠猫本尊
2026-11-16 16:00:00
山东大师王兴夫被抓捕归案,99名女徒弟揭露内幕,真相让人意外

山东大师王兴夫被抓捕归案,99名女徒弟揭露内幕,真相让人意外

诡谲怪谈
2025-03-25 17:25:18
两战砍23分+4记三分!76人暗藏2米01悍将:湖人冠军中锋之子辅佐詹皇冲冠

两战砍23分+4记三分!76人暗藏2米01悍将:湖人冠军中锋之子辅佐詹皇冲冠

李喜林篮球绝杀
2026-11-17 14:51:19
塞尔维亚完整计票结果出炉,欧洲到头来空欢喜一场?连武契奇都倍感意外,之前的预判明显保守了

塞尔维亚完整计票结果出炉,欧洲到头来空欢喜一场?连武契奇都倍感意外,之前的预判明显保守了

磊子讲史
2026-11-18 11:19:10
“有房有车”已过时?如今女生择偶标准变了,“两无三有”成主流

“有房有车”已过时?如今女生择偶标准变了,“两无三有”成主流

涵豆说娱
2026-11-12 07:58:15
红军到陕北后没吃没穿,是如何度过难关的?毛泽东:要感谢三个人

红军到陕北后没吃没穿,是如何度过难关的?毛泽东:要感谢三个人

阿胡
2026-11-08 10:49:27
3-2!B费世界波,新7号建功,10人葡萄牙挺进8强,后C罗时代首胜

3-2!B费世界波,新7号建功,10人葡萄牙挺进8强,后C罗时代首胜

我的护球最独特
2026-11-18 05:53:22
祝贺!中国成功连任

祝贺!中国成功连任

政知新媒体
2026-11-17 07:11:29
存款利率突然回到2.1%,储户的好日子要回来了吗?

存款利率突然回到2.1%,储户的好日子要回来了吗?

深度解析热点
2026-11-18 03:23:49
美国谴责乌克兰对俄罗斯的远程打击,称打击“给俄罗斯民众带来痛苦”

美国谴责乌克兰对俄罗斯的远程打击,称打击“给俄罗斯民众带来痛苦”

山河路口
2026-11-18 12:47:12
11月17日凌晨,俄罗斯报复不隔夜,4枚高超炸北约弹药库,炸大桥

11月17日凌晨,俄罗斯报复不隔夜,4枚高超炸北约弹药库,炸大桥

战域笔墨
2026-11-18 08:17:57
无比怀念邓小平!

无比怀念邓小平!

梳子姐
2026-11-17 16:32:33
人还没到基地就立规矩!波切蒂诺给曼联全队定下两条硬性新规

人还没到基地就立规矩!波切蒂诺给曼联全队定下两条硬性新规

夜白侃球
2026-11-18 13:03:28
APEC还没开,华强北先爆单了!让老外把钱包“掏空”的秘籍是啥丨大象财富

APEC还没开,华强北先爆单了!让老外把钱包“掏空”的秘籍是啥丨大象财富

大象新闻
2026-11-17 20:45:45
2026-11-18 14:35:00
IT之家
IT之家
爱科技,爱这里 - 前沿科技人气平台
379947文章数 607739关注度
往期回顾 全部

科技要闻

OPPO Reno17:手机背后竟然藏了只“喵”?

头条要闻

蒙古国总统突然辞职:被喻为"蒙古版普京" 是宠妻狂魔

头条要闻

蒙古国总统突然辞职:被喻为"蒙古版普京" 是宠妻狂魔

体育要闻

东契奇心仪之人 三年后拿着底薪站到他身旁

娱乐要闻

认亲被嘲讽后郭德纲委托律师发声明

财经要闻

回归英伟达,黄仁勋要先“干掉董事会”

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

数码
教育
艺术
健康
军事航空

数码要闻

Intel下下代处理器迎新进展!四大版本首次集体现身:桌面、笔记本全覆盖

教育要闻

义教信息科技教学实施 | “身边的算法”模块-算法的效率(1)

艺术要闻

国际名家镜头里的绝美人像,越看越惊艳,第几张美到你?

医生眼里"很伤腰"的椅子,很多人天天坐

军事要闻

美乌陷入外交僵局 俄乌互攻势头不减

无障碍浏览 进入关怀版