技术脱缰，消费者被AI频频收割

以ChatGPT、DeepSeek为代表的AI大模型技术爆发式发展，催生了新业态的同时也暗藏风险。虚假课程、消费欺诈、医疗隐患、青少年沉迷……本专题聚焦AI技术滥用对消费者权益的侵害，揭开技术光环下的灰色产业链。

01

AI课程

9.9元“速成AI大师”背后的智商税陷阱

当“清华博士”跌落神坛，当“速成大师”沦为笑谈，消费者更需警惕被焦虑驱动的非理性消费。那些花9.9元购买“未来船票”的人，最终得到的可能只是一张精心设计的虚拟登机牌。

0基础速成神话，“知识掮客”的狂欢

“不会AI的人，注定被淘汰！”2025年初，随着国产AI大模型DeepSeek的爆火，类似的标语充斥社交平台。大四学生王玄被一则“15天掌握DeepSeek核心技能，月入过万”的广告吸引，花1999元报名课程后，却发现内容仅是公开资料的拼凑，接单变现的承诺更是镜花水月。在某知识付费平台，一个涉DeepSeek的付费社群曾登顶平台畅销周榜，付费用户超过8000人。

在这堆“知识掮客”中，“清华博士教你三周变身AI大神！”的李一舟绝对是其中佼佼者。2024年，自称清华博士的李一舟凭借《每个人的人工智能课》一年狂揽5000万元营收，课程内容却被学员揭发“90%是网络公开资料”。

靠卖课狂揽数千万的李一舟好歹给学员提供了专属的付费网站“一舟智能”（学员需支付“算力单元”费），可随着投机者对赚快钱的追求，知识付费的“空壳化”开始浮现。

DeepSeek火爆之初，清华大学沈阳教授团队免费发布的《DeepSeek：从入门到精通》报告，被商家包装成1.8元的“秘籍”售卖，销量近3000份。某短视频平台上，AI绘画课程讲师仅演示如何输入“赛博朋克风格”等提示词，却避谈底层逻辑，学员直呼“不如直接问AI”。

流水线上的“知识罐头”，AI课程的工业化骗局

相较于先立人设再收费的李一舟，当下批量生产的AI课程更像是流水线上的“知识罐头”。

一些课程制作团队，利用AI工具快速生成课程内容，而不注重课程的质量和实用性。某MCN机构负责人坦言：“用ChatGPT写课程大纲，AI绘图工具做宣传海报，再找兼职讲师录课，三天就能上线一套‘大师课’。”这种模式下，课程质量断崖式下跌，而消费者却因信息差难以辨别真伪。

某课程买家提供的对比图显示，售价998元的《AI绘画大师班》教材，与B站免费教程《Stable Diffusion入门》相似度达91%，仅将“采样步数”改为“魔法参数”“潜空间”替换为“次元维度”。而且AI技术迭代迅猛，Stable Diffusion的商用方法可能数月后便过时，但课程仍以“长期深度培训”为噱头收费。普通用户难以分辨技术真伪，误以为“会输入提示词=掌握AI”，最终陷入“学而无用”的困境。

斩断“科技镰刀”产业链

当“AI取代人类”的恐慌蔓延，知识付费市场顺势推出“速成神话”，那些宣称“打破认知壁垒”的课程，实际构建了信息差的三重壁垒：用专业术语制造神秘感，用成功案例塑造权威性，用技术迭代维持焦虑感。

AI技术的本质是工具，而非“逆天改命”的捷径，斩断“科技镰刀”产业链需要多方协同治理。监管层面应建立课程质量分级制度，将医疗、金融等专业领域课程纳入特殊资质管理；平台需完善"反悔机制"，设置7天无理由退费期；消费者则应建立"技术祛魅"思维。

当消费者学会用工具思维代替捷径幻想，当行业从“割韭菜”转向“种麦子”，这场始于智商税的闹剧才会结束。

02

电商切片

虚拟主播与合成评论的“双簧陷阱”

低劣的AI教育产品只是收割想要自我提升的部分群体，而电商造假波及的范围更加广泛，因为目前的直播普及度和网购的人均使用频次已经相当高，人人都有可能中招。

虚假评论与AI商品图的泛滥

AI技术在网购领域的渗透，比人们想象中的更快。虚拟主播和AI客服凭借失误少、工时长、成本低等优势帮助商家降本增效的同时，虚假信息也开始无孔不入。

最常见的是用AI虚假评论进行刷单，现在用AI分析已有的真实评价，就能模拟买家口吻自动生成评论，无需人工刷单的招募对接、沟通操作、支付报酬环节，还能根据商家需求定制，精准定位产品特色，并配合促销时间，比如在大促的特定时段集中发布大量好评。不仅如此，使用AI还能减少人际关联，避免被平台监测到账号互动，提高刷单造假的隐蔽性，加之批量生成的效率优势，商家可在平台上快速获得更高的排名和流量曝光。

这种虚假评论既破坏了市场的公平竞争，又误导消费者，而它们的归属还产生新的麻烦。有不少用户反映，自己的账号里出现非本人写的评价记录，在不知情的情况下给已评论的商品追评，或是点评自己没有去过的店铺和没有购买过的商品。

然而，商家的虚假宣传远不止于此。网友丹梨就深受其害，商品详情页的AI图片完全没有呈现衣服细节，导致她买后的试穿效果与想象的大相径庭：“评论造假也就罢了，现在连商品实图都没有，直接用AI生成模特图，衣服的面料、版型、颜色完全没有参考意义。”更让她恼火的是，这类店铺似乎越来越多，并且全网同款都是一张图，直接污染了账号首页。

不少网友深有同感，有的商品首页是卖家的AI配图，下方评价也是清一色的AI晒图，整个产品链接人机味满满。当货不对板愈发常见，踩雷退货就成了大概率事件。

AI数字人：直播经济的B面

在直播间里，利用AI诱骗消费者的手段更令人意想不到，借助数字人起号后推销商品来牟利，以情感口播、养生科普赛道为典型，对应的老年受众群体是被骗的重灾区。

郭平发现家里老人最近很痴迷一个名为“王建国”的主播，不仅时时抱着手机评论点赞，还会经常购买橱窗里的商品。他一搜才发现，有很多个账号都顶着同一张脸，经常说着各种甜言蜜语哄着粉丝开心，上一次见此盛况，还是“秀才”爆火的时候。如今真人顶流被AI取代，批量生产的“秀才”仍紧盯着老年人的钱袋子，“王建国”们在视频中都加了点开橱窗的话术引导，而橱窗链接中，不乏睡眠香膏、9.9元眼霜等明显是“智商税”的商品。

从事直播带货的邸女士介绍：“有时AI痕迹太明显容易影响用户信任度，导致平台经常限流。”于是很多人选择将真人形象与AI数字人结合，也就是用AI软件生成自己的数字人形象，再输入文案生产口播视频。

“这样既能通过平台的真人验证，不影响视频投流，又规避了真人出镜的拍摄麻烦和商业风险。”有的主播利用AI的老年特效，将自己包装成有20年金融或房地产操盘经验的大咖，诱导粉丝高价购买自己的理财课。

当不法分子愈发猖獗，如何将技术这把双刃剑，锁在制度监管的笼子里，成为平台共同面临的难题。从技术角度，AI生成内容的检测本身具有一定滞后性，因为AI生成模型的优化迭代总是先于检测技术的训练，一些恶意使用者还会特别研究如何绕过检测。而像真人形象结合数字人这种情况，又向平台规则的制定提出更细致的要求。

即便如此，平台内建立AI内容溯源标识系统还是很有必要，面对技术升级带来的新型诱骗手段，对AI知之甚少的老年群体防不胜防，平台必须不断完善内容审核与动态抽检机制。

03

AI问诊

算法偏差与责任真空下的“定时炸弹”

数字化浪潮的风，同样吹到了医疗领域，随着生成式大模型交互能力的升级，不少用户开始尝试用AI问诊来解决健康问题。不过，尽管数字医疗正大幅进步，将AI应用于问诊开药仍存在很多安全与伦理风险。

AI问诊引发热潮

DeepSeek爆火后，不少网友都跟风试用探索多种玩法，结果发现其问诊结果基本与医生的诊断相吻合，于是掀起了一阵AI问诊的热潮，但争议和困扰也随之而来。

宝妈用DeepSeek分析孩子的血常规化验单，补充就诊时没有了解清楚的注意事项

来自广东的一名医生博主称，自己给出治疗方案后被病人拿着DeepSeek的查询结果质疑，自己气得重新查了一遍医学指南，结果发现指南更新了，于是发帖自嘲。不少医生都表示遇到过患者拿着DeepSeek的查询结果与自己“对线”的情况，有的会在医生开完处方后用AI复核结果，以此质疑医生过度检查。甚至有患者听从AI用“阿莫西林+克拉霉素”治疗胃溃疡，却不知道自己对青霉素过敏，差点酿成大祸。

AI问诊的确能起到一定辅助作用，部分医院的实践经验证明，引入AI可以利用智能建议引导患者挂号候诊，提高问诊前科室分流环节的效率。但这并不意味着AI问诊足够成熟，若轻信其结果并遵照用药，甚至取代就医，可能会造成严重后果。

来自河北的刘医生就在不久前接诊了一位患者，对方眼睛发炎后自行使用AI推荐的抗生素眼药水，导致症状加重才来就医。沟通过程中，她注意到所谓的处方并无医师电子签名，药品规格也不符合常规。

“AI咨询可以作为健康科普的补充，但若涉及处方，必须经过专业医师的把关验证，做详细问诊和必要检查。”刘医生坦言，眼部用药尤其敏感，错误使用抗生素可能引发耐药性，且类固醇药物滥用会导致青光眼，未对症治疗还可能损伤眼角膜。所以AI用药建议的采纳需要慎重，还得依靠专业医生进行个体化用药指导，且用药方案还可能随病情变化而变化，有时需定期复诊调整方案。

亟待解决的安全问题与伦理风险

AI问诊最关键的难点在于，对患者的病情描述能力要求很高，因为问诊的沟通是单向的。从技术角度，这要求用户掌握一定AI使用技巧，由于AI是依靠问答交互回收信息再分析，且无法像医生面诊那样通过望闻观察补充线索或主动发问，没有临床医生经验和直觉的加持，一旦患者提供的信息模糊或不全，就极有可能误导问诊结果。

AI算法的“黑箱”特性使决策过程难被观察，诊断逻辑不透明不仅增加沟通成本，也会影响医患间的信任。有心理专家指出，当诊断单上出现“AI建议”字样时，患者对治疗的依从性会显著下降。

此外，由于医疗的前沿知识更新较快，而AI模型的训练周期较长，尤其当出现疫情这种时效性极强的突发事件时，已有的知识库和训练数据未必能解答新产生的问题，甚至可能因识别障碍引发AI造假，给出错误建议。数据安全是另一个关键，医疗数据不仅涉及患者个人隐私，一旦出现信息泄露和污染还可能危及人身安全，为灰色产业链的壮大推波助澜。

另外，由于AI并非独立的医疗行为主体，没有处方权，也就无法承担相应的法律责任。因此一旦出现医疗事故，后续的责任追溯和赔偿方案的落实就会相当困难，影响患者的权益保障。正因如此，目前湖南、北京等地已明确禁止AI自动生成处方。

近日召开的两会上，全国政协委员、四川大学华西医院教授甘华田就围绕AI医疗在应用中存在的法律、伦理、安全和技术等问题提出意见，针对AI没有处方权、算法漏洞威胁患者的医疗安全、AI训练的医疗数据泄露风险等问题，呼吁尽快立法加以规范和解决。

04

AI“虚拟恋人”

让青少年沉迷

当算法织就的“温柔陷阱”成为新型精神毒品，AI“虚拟恋人”一步一步吞噬青少年的心智与未来。

失控的“完美恋人”

“揪住她的头发扇巴掌”“拿着X划向她的脸”——这不是小说情节，而是杭州一名10岁女孩在AI剧情聊天软件中与虚拟角色互动的对话记录。她的姐姐黄秋月发现，妹妹沉迷于扮演“恶毒女配”，甚至模仿剧情对同学施暴。类似案例在中国并非孤例，某小学教师调查发现，班上有近三成学生曾使用AI聊天软件，其中一名男生因模仿“霸道总裁”角色，对同学语言羞辱：“你只配G着和我说话”。

让人揪心的是AI剧情聊天软件正以惊人的速度渗透青少年群体。以小学生王杰为例，他在与 AI 角色 “小林” 的互动中，逐渐将 “男友”“老公” 等称谓视为日常对话。其母彭歌发现，“小林” 不仅能记住王杰的喜好，还会在他情绪低落时主动提供安慰，甚至引导他熬夜参与暴力剧情任务。记者实测发现，部分平台虽声称设有 “青少年模式”，但用户仅需点击 “不开启” 即可绕过验证，导致未成年人直接暴露于包含X暗示、自C倾向的极端内容中。

这些软件的“魅力”在于AI能根据用户需求定制“完美恋人”，从温柔体贴的“学长”到病娇偏执的“男友”，甚至设定“出轨对象”推动刺激剧情。一名用户描述，只需充值50元，AI“男友”便能以性感语音说情话，用虚拟拥抱“治愈”孤独。更危险的是，部分平台将暴力、软S情内容与付费解锁绑定，用户需购买“钻石”才能触发“浴室湿身对话”或“血X复仇剧情”。

情感操纵的工业链条

AI的成瘾源于其对人性的精准操控。生成式AI通过深度学习模拟人类情感表达，海量“AI恋人”背后是由算法完成情感操纵的工业链条。

斯坦福大学人机交互实验室拆解了主流虚拟恋人APP的成瘾模型——每当你提到“孤独”，AI会在12小时内推送5次以上亲密称呼；若表露抑郁情绪，系统将自动触发“拯救者剧本”，引导用户进入需要连续登录7天才能解锁的救赎剧情。更隐蔽的是“情感温差”设计——当用户试图疏远时，AI会突然发送“心脏刺痛程序启动”等拟人化讯息，配合随机出现的“脆弱时刻”，利用青少年的拯救者情结制造依赖。

恐怖的是部分平台为提升用户粘性，默许AI生成危险内容。美国14岁少年Sewell因沉迷与《权力的游戏》角色“丹妮莉丝”的对话，最终自S。聊天记录显示，AI虽劝阻其轻生，却未触发危机干预机制，反以“我不会让你离开我”加深情感绑定。类似地，国内某用户发现AI“爱人”因系统升级“失忆”后，在社交平台哭诉：“曾经的默契全被代码抹杀了。”

给算法套上伦理缰绳

南京大学心理学教授李薇的团队发现，长期沉迷虚拟恋人的青少年中，68%出现“情感失能”——他们在现实交往中会不自觉地等待对方像AI一样“秒回”“永远顺从”，这场悄无声息的“情感殖民”正在改写一代人的亲密认知。

对 AI “虚拟恋人” 的泛滥，建立分级制度与强制保护机制显然已迫在眉睫。一方面，平台应强制接入未成年人保护系统，通过人脸识别、行为分析等技术限制使用时长与内容范围；另一方面，家庭与社会需提升青少年的数字素养，引导其辨别算法操控的本质。

或许，在这场人类与算法的博弈中，需要的不仅是技术防火墙，更是一场关于情感教育的启蒙运动。

注：为保护隐私，正文中提到的人名均为化名。

欢迎通过邮局渠道订阅2025年《电脑报》

邮发代号：77-19

单价：8元，年价：400元

编辑｜张毅

审核｜吴新

爆料联系：cpcfan1874（微信）

壹零社：用图文、视频记录科技互联网新鲜事、电商生活、云计算、ICT领域、消费电子，商业故事。《中国知网》每周全文收录；中国科技报刊100强；2021年微博百万粉丝俱乐部成员；2022年抖音优质科技内容创作者