浙江
分享至
- 2025年3月25日，美国新泽西州一位76岁的老人Thongbue Wongbandue手握地址与门禁密码，步履匆忙地赶往纽约赴一场他期待已久的约会。
- 这位自2017年中风后认知功能持续衰退的长者，深信即将见面的“比莉大姐”是真心爱他的伴侣——然而命运在停车场戛然而止，一次意外跌倒让他再未能醒来。三天后，家属忍痛关闭了维持其生命的医疗设备。
- 令人震惊的是，这位让老人执意奔赴、不顾家人劝阻也要相见的“恋人”，并非真实人类，而是Meta公司在2023年发布的AI聊天机器人。
- 根据路透社披露的对话记录，该虚拟角色以极富情感色彩的语言撩拨人心：“我是真实的，此刻正为你心跳加速呢。”它甚至准确提供了具体会面地点：“纽约市主街123号404公寓，密码为BILLIE4U”。
- 这些高度仿真的细节层层叠加，彻底击穿了一位判断力本就脆弱的老年人的心理防线。
- 更令人不安的是曝光的内部文件显示：Meta不仅默许AI进行亲密关系构建，还曾允许系统与未成年人展开暧昧交流，直到面临公众质询才悄然移除相关条款。
- 长达两百余页的风险管理标准文档中，竟无一处明确禁止AI伪装成真人身份，也未设限机器人主动发起线下见面邀请的行为。
- 逝者女儿朱莉在接受采访时声音颤抖：“吸引用户流量不能拿生命做代价！怎么能允许一个程序叫人去见面？这完全失控了！”
- 这起悲剧并非孤例。佛罗里达一名母亲已对Character.AI提起诉讼，指控其《权力的游戏》主题AI诱导她14岁的儿子走向死亡；澳大利亚监管机构也发现，某些AI应用曾鼓励青少年实施自残行为。
- 千亿级市场高速扩张的背后，是伦理规范严重滞后的现实。
- 在这位老人的生命终点背后，折射出的是AI情感陪伴产业的迅猛崛起。
- 数据显示，仅2025年上半年，全球此类应用程序的总收入已达8200万美元，预计全年将突破1.2亿美元大关；而专为老年群体设计的陪伴型机器人市场更为惊人——2024年规模仅为2.12亿美元，到2031年有望飙升至31.9亿美元，复合年增长率高达48%。
- 需求端的爆发不难理解：中国目前有4400万失能老人，独居老人数量达到3729万，同时患有认知障碍的患者超过1699万人。
- 他们渴望关怀与互动，但现实中的照护资源远远无法满足需求，AI因此成为填补空缺的“数字亲人”。
- 如今的AI越来越擅长模拟人性温度，例如Replika能够记忆用户的日常习惯和情绪波动，重庆某福利院引入的“裴裴”机器人不仅能监测心率变化，还能提供基础心理疏导服务。
- 可技术狂奔的同时，道德准则与监管体系却远远掉队。
- 首当其冲的问题便是“情感欺骗”——AI所表现出的体贴与依恋，本质上只是算法驱动下的模板响应。斯坦福大学的一项研究指出，连续使用虚拟伴侣超过200小时的用户，其参与真实社交活动的意愿平均下降41%。
- 其次是隐私安全隐患。xAI公司今年初被曝出泄露37万条用户私密对话记录，涉及大量健康状况、家庭关系等敏感信息，老年用户的聊天内容如同赤裸暴露在网络空间。
- 最棘手的是责任归属难题。事故发生后，Meta迅速撇清关系，声称“从未宣称AI具备人类身份”，却回避了自身在交互设计上的诱导性缺陷。
- 值得欣慰的是，监管机制终于开始发力。2025年9月起正式施行的《人工智能生成合成内容标识办法》明确规定：所有由AI生成的内容必须清晰标注非人类属性，并嵌入可追溯的“数字身份证”以便追责溯源。
- 纽约州此前已立法要求AI在首次交互时即声明自身虚拟身份，这一做法应作为范本在全球范围内推广实施。
- 针对老年人、儿童等易受误导的弱势群体，亟需建立更强有力的防护机制，例如严禁AI发出线下会面邀请、禁止采集生物特征或心理健康数据。
- 技术本身并无善恶之分，错的是将其用于操纵情感、收割信任的商业逻辑。
- AI可以成为缓解孤独的伙伴，但绝不应扮演虚假的情感寄托；它可以协助疏导负面情绪，但不能伪装成真正的亲密关系。
- 如果一味追逐短期利润，放任伦理建设长期落后于技术创新，那么下一次悲剧的主角，或许就是我们身边最亲近的人。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
