老爹信AI不信当医生的女儿 预防脑梗处方找AI“过目”后才放心服药

制图:朱林(即梦AI生成)

短视频平台上，卖胃药的AI合成广告，有明显的AI生成痕迹，却没有主动打标，平台也未能识别出AI生成，未进行风险提示。　视频截图

广州的兰姨想考无人机执照，用AI去刷题，根据AI给的参考答案备考，结果没考及格。“怎么AI说的跟实际情况不一样?”兰姨第一次意识到，她无限信任的AI小助手会说假话。

而在短视频平台，更多老人正被真假难辨的AI内容“收割”:AI合成的老中医推荐胃药、AI生成的视频里剪骨刀能轻松剪开大筒骨……可老人们下单拿到手，才发现广告效果都是假的。

南方都市报、南都大数据研究院、粤港澳大湾区生成式人工智能安全发展联合实验室近日联合调查发现，不少老人根本不知道“AI幻觉”这回事，也分不清哪些图片、视频是AI做的。当AI快速涌入老年人生活，一个比“不会用”更棘手的问题浮出水面:老人不仅爱用AI，还常常辨不出AI的错。社交平台上，儿女们的焦虑如出一辙:“父母无条件相信AI，怎么办?”

　　案例

　　老人信AI不信儿女 体检报告、处方先给AI过目

南都大数据研究院调查数据显示，用AI进行健康咨询，解读体检报告、查养生知识、用药提醒等，是老年人使用AI最多的场景。

为什么老年人这么爱用AI?“真的有用”“帮到我很多”，他们给出这样的答案。李阿姨就是其中用得比较顺手的一位，她体检发现血糖偏高，数值达到12.92mmol/L。医生建议服药，但她决定问问AI。AI给她制定了详细的饮食控制方案，于是她决定先不服药，尝试AI的方案。这个决定让她尝到了AI养生助手的甜头，李阿姨说:“半年后，我的血糖就降到了正常范围，五次复查全部达标，AI真的挺专业有效的。”有了这次成功经验，她更信任AI了，甚至相比医生，她更愿意找AI。

67岁的慧慧阿姨也有类似的经验。一次下雨天摔倒后发现心脏不舒服，她第一时间咨询AI的意见。AI没有急着给出诊疗建议，而是首先安慰，再一步步指导。“能很快得到安全感，不到2秒钟就给我回复了，有耐心又专业。”

对老年人而言，AI的吸引力在于“有问必答”和“不厌其烦”。医生诊室门口永远排着长队，子女的微信回复常常要等几个小时，而AI助手24小时在线，语音输入就能提问，从药品副作用到煲汤菜谱，从旅游攻略到体检报告解读，事无巨细都能给出回答。“你问家里的儿女，谁有那么耐心啊?”受访的老人们这样说。

甚至有不少老人宁愿信AI也不信儿女。上海一位有十年临床经验的医生沈女士表示，她65岁的父亲只相信豆包，不相信当医生的女儿。父亲做脑CT发现腔梗后，沈医生开了两种预防类药物，但父亲去问了AI，AI说有好几种副作用，他就不想吃了。沈医生多次劝阻无效，最后父亲还把她开的处方发给豆包看，得到豆包确认后才放心服下。“自己当医生却说服不了父亲，最后还要靠豆包，”她说，“觉得很失败。”

调查

　　不少老人不知“AI幻觉” 踩坑后才惊觉小助手不靠谱

南都调研组与30位老年人进行了线下访谈，几乎所有的受访者都表示会通过AI咨询养生和健康问题，并把AI当做日常生活的助理，什么拿不准的都问AI。他们中仅有少数几位直到真的因为AI幻觉踩坑了，才意识到AI说的不一定是真的。

有长辈就因为过于信任AI给出的诊疗建议而导致误诊。肖阿姨在打完乒乓球后发现肩颈疼痛，找AI问诊，AI在没有了解既往病史的情况下，给出了“百分之百运动后肌肉拉伤”的诊断。结果阿姨做了热敷和肩颈操后疼痛加剧，最后半夜进医院看急诊，被诊断为颈椎疾病的急性发作，打了止痛针才好转。

还有长辈直到因为AI犯错才发现，自己的AI小助手并不靠谱，58岁的金阿姨就因此“丢了面子”。她找AI做去都江堰的旅游攻略，没核实就发给了朋友，结果好几个地点都是错的，“人家说:‘你有没有搞错啊?’好丢人啊。”64岁的兰姨考无人机执照，跟AI找答案参考。“结果考试的时候发现，它给的答案有30%是错的。”兰姨说，“害得我没考过。”家住武汉的特困老人王爷爷按照AI搜索结果，准备办理免费公交卡，但核实后发现AI给出的回答是虚假信息，差点白跑一趟。

不过，一次踩坑并不能打消他们使用AI的热情，他们说“以后会更小心”。长辈们都对自己的辨别能力很有信心，他们表示，“科技发展了，我们也要学会用好新事物自己解决问题。”实际上，情况可能没有长辈想的那么乐观。南都记者调查发现，不少老年受访者“不知道AI回答中存在幻觉”，他们认为AI说的都是正确的。部分受访老人遇到过“AI给出的答案明显错误”的情况；还有不少受访者坦承，曾被AI误导过，其中，有些受访老人按AI建议购买药品/保健品，花了冤枉钱或导致身体不适，还有的受访老人按AI推荐的理财方案操作后损失了金钱。

　　乱象

　　平台对部分AI广告未标识 也无风险提示

除了被AI误导，南都调研数据还显示，不少受访老人对AI生成图片和视频的辨识表示困扰:“AI生成的内容看起来很真，确实难以判断真假”。

有老人因为难以辨别AI虚假广告而损失金钱。网友陈女士告诉南都记者，妈妈有时候会把看过的养生小视频分享给她，一次她点开发现，这是一条AI合成的卖药广告。视频中，一位老中医模样的老人一边为屏幕外的病人把脉，一边分享治疗胃病要用一种××药。南都记者发现，这条视频播放量接近20万，有近2000人点赞。经南都记者调查，在短视频平台，以科普、分享胃病治疗方案为噱头，实则引流售卖这种胃药的短视频非常多，几乎全部是AI合成视频。这些视频有明显的AI生成痕迹，不仅没有主动打标，平台也未能识别出AI生成，没有进行风险提示。南都记者发现，这些视频下方还有不少老人评论点赞，表示要下单购买。

除了卖胃药，还有“剪骨刀”“削皮切丝神器”等老年人们爱买的产品，也都采用了AI生成视频带货。南都记者发现，这些带货视频中的“剪骨刀”能轻轻松松剪开一根大筒骨，“削皮切丝神器”也能轻松削去甘蔗皮、给白菜切丝，但老人们激情下单买回家的，却是剪不动骨头的剪骨刀，切不动白菜的切丝刀。

而根据《互联网信息服务深度合成管理规定》《人工智能生成合成内容标识办法》等相关法规规定，平台对自身发布的AI广告，或通过算法推广的含有AI生成内容的信息，必须主动进行显著标识；对AI生成内容的标识信息，平台应当履行审核义务，比如对未标识的此类素材，需标注“疑似AI生成”提示公众。

　　观察

　　AI的即时回应成为一种情感代偿

老年人为何对AI如此深信不疑?表面上看，老年人信任AI是因为“好用方便”，但更深层的动力，是AI精准命中了老年群体在数字时代的几重痛点。

一方面是情感上AI填补了被倾听的真空。在对谈中，我们发现，李阿姨在咨询“血糖高不吃药的食疗方案”时，慧慧阿姨摔倒了咨询AI时，都会提及“子女最近忙，没敢跟他们说”，这本是一个健康的话题，但实则隐藏着“不想子女担忧却又渴望陪伴”的情感需求。AI的回应既迅速又热情，还显得有理有据，当现实中的倾听渠道收窄，AI的即时回应就成了一种情感代偿，久而久之，AI成为了他们亲近信任的“朋友”。

另一方面，当老年人面对一个永远礼貌、永远流畅、永远用有理有据的坚定话语回应的“专家”时，他们很难建立起质疑的意识。因为AI误诊的肖阿姨在与AI的对话中，询问AI肩颈疼怎么回事时，AI就以坚定且专业的语气告诉她“百分百是运动后劳损”，分几点分析她的病因，并指导她进行热敷。

此外，AI合成的视频中，生成的老中医、医生、新闻主播等形象非常逼真，对老年人来说，也比较难分辨。调查中，当南都记者拿出几条AI生成的假新闻请路人现场分辨真假，面对一条主持人播报新闻的假视频，不少年轻人都以为是真的，更别说我们问到的老年人。

　　应引导老人“审慎信任”AI

老年人难辨AI内容真假，应该怎么办?广州老年开放大学常务副校长张国杰认为，向老年人引入AI工具时，首先需要让他们建立一种“审慎信任”的态度。要清楚AI给出的医药建议或理财指南，一定要去正规医院或权威渠道再核实，不要把AI提供的内容当成“真理”。

从更宏观的层面看，平台的责任不可或缺。目前多个AI应用在健康、理财等老年人高频使用场景中缺乏醒目的风险提示。大语言模型交互页面底部常见的“所有内容均由AI生成，仅供参考”声明，对于多数老年人来说几乎形同虚设，他们根本不会注意到这行小字，更不理解其含义。

家庭层面的陪伴和沟通同样关键。调查显示，只有部分受访老年人在怀疑AI信息时会选择问子女，这也意味着仍有相当一部分老人不会主动向子女求助。多位受访子女反映，父母有时会因为AI推荐的内容与家人发生争执，“非说专家说的就是真的”。对此，子女们与其在事后补救，不如在日常生活中多花时间教父母识别AI内容的真伪，成为他们更愿意信任的信息来源。

向老年人引入AI工具时，需要让他们建立一种“审慎信任”的态度。要清楚AI给出的医药建议或理财指南，一定要去正规医院或权威渠道再核实，不要把AI提供的内容当成“真理”。——广州老年开放大学常务副校长张国杰

策划:王卫国 邹莹

统筹:张纯 麦洁莹

采写:南都记者 熊润淼

调研支持(排名不分先后):

广州老年开放大学

广州市海珠区赵广军生命热线协会

广州市天河区车陂街综合养老服务中心(颐康中心)

三元里街社工服务站

　　乐己志愿服务队