网易首页 > 网易号 > 正文 申请入驻

青少年向AI倾诉烦恼,会暗藏哪些风险?华政学子跨多省调研守护路径

0
分享至

中国青少年研究中心调查显示,超过六成中小学生使用过生成式AI,近半数学生“心里有烦恼只想去问AI”,超两成学生“想和AI聊天,不想和真人聊天”。情感倾诉的对象,正从真实的亲人、朋友逐渐转向到由语言模型驱动的虚拟存在。对正处于青春期、渴望被理解却又羞于表达的孩子们而言,AI那永不评判、随时在线的特质,构成了一种难以抗拒的吸引力。

背后隐藏着怎样的风险,如何能更好的守护未成年人?带着这些疑问,华东政法大学刑事法学院青少年AI情感互动状况调研项目组,以河南、上海、浙江为中心,联动多地展开了一场跨越千里的调研与普法行动。

这份看似温柔的陪伴,一旦越过了"工具"的边界,滑向"依赖"乃至"沉迷",其严重后果便不容小觑。国内外的因未成年沉迷AI拟人化情感互动服务引发的严重问题,美国已发生多起未成年人因深度沉迷 AI 陪伴应用而走向极端的案件。其中最受关注的是 Garcia 诉 Character.AI 案——一名 14 岁少年在与 AI 角色长期高频对话后出现严重心理危机并最终自杀。澳大利亚 eSafety 专员办公室的调查也显示,未成年人在陪伴类 AI 上遭遇软色情、自伤诱导和过度依赖的比例显著高于其他应用类型。国内方面,过一名四年级女生沉迷"筑梦岛"等 AI 陪伴类应用、出现明显依赖反应并出现割腕行为的案例。更为隐蔽的风险在于信息的泄露。在2026年国家网络安全宣传周个人信息保护分论坛上,专家提出警告:大模型的"拼图推理"与"影子数据库",正成为个人信息泄露的全新渠道。也就是说,孩子们在倾诉中不经意吐露的姓名、学校、家庭信息乃至隐秘情绪,都可能被算法拼凑、留存、推理,最终拼出一张连他们自己都未曾察觉的"数字画像"。

针对上述问,监管层面的规范制定已提上日程。2026年4月,国家网信办等五部门公布《人工智能拟人化互动服务管理暂行办法》,自7月15日起施行,明确不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务,连续使用超2小时须弹窗提醒,发现自伤自杀等极端情境须干预并联络监护人。9月18日,国家网信办又就《国务院关于保障未成年人健康安全使用网络的规定(征求意见稿)》公开征求意见,提出不得设置诱导未成年人情感依赖、沉迷的算法模型。

在这样一个"法学命题亟待破题、监管框架尚未落定"的关键节点,华政学子带着法学的眼光审视风险,又用实地的脚步检验答案,将思辨与求真,紧紧地链接在一起。此次调研回收有效问卷1487份,受访者以河南、上海为主、覆盖十余省份。以13—17岁初高中学生为主。问卷之外,项目组坚持实地走访,赴郑州市惠济区网信、市场监管部门走访,并在惠济区团委、于试点校、辖区多所中小学及两地社区开展调研。


通过问卷与实地走访,项目组在实践中归纳出四个方面的问题:一是情感倾诉向AI转移;二是年龄防护易被绕过;三是个人信息易被泄露;四是家校AI监督教育缺位。多校一线德育工作者反映,青春期学生面临升学压力、人际矛盾、家庭陪伴缺失等多重困境,容易向“永远耐心”的AI虚拟陪伴寻求情绪宣泄。在新城街道办事处、孙庄村委会、贾河村委会开展社区普法时,不少家长表达了对AI泄露个人信息的担忧,也坦言对AI情感互动功能了解有限,"完全不懂""没听说过""咱也不会用"是高频出现的话语。

在普法层面,负责人岳炜琳同学在惠济区团委和妇联的认可与指导下,于社区及学校开展系列普法课堂,面向家长与青少年讲解AI情感互动的风险与应对方法。同时项目成员在上海、浙江等地的社区与学校开展普法宣讲



在应用层面,教育专家、省级名师和郑州市教研员在访谈中均提出“因势利导、堵不如疏”的育人理念,强调既要顺应AI发展大势,也要理性引导学生使用。在此思想指引下,项目组成员探索开发AI心理梳理应用,努力构建语料更干净、提示词约束更严,对自伤、极端情绪、涉黄涉暴内容识别更敏锐并自动记录,触发后重点关注相关账号并转接心理辅导机构真人干预的专门型应用以保护未成年人心理健康,目前已与多个中学的心理部门、宁波市北仑区未成年人保护中心等初步联系。

在建议层面,为保障此次调研的科学性、专业性与客观性,团队特邀河南理工大学人机交互、情感计算领域申志豪博士开展技术研判,从算法机制、用户行为识别、隐私保护、风险预警等专业角度,为未成年人AI风控治理提供科学技术路径。团队还依据一线调研形成6万字的调研报告,并就《国务院关于保障未成年人健康安全使用网络的规定(征求意见稿)》提出立法建议,为未成年人健康使用AI提供青年学生的观察参考。

随着AI拟人化技术快速迭代,虚拟情感陪伴、算法精准诱导、隐性不良推送等新型风险层出不穷,而现有监管细则、家校认知、治理体系仍存在滞后短板。唯有持续细化法律法规、压实平台源头责任、强化家庭监护义务、健全学校教育机制、完善部门监管体系,才能构建全方位、立体化的未成年人AI安全保护屏障。

【免责声明】本内容为广告,相关素材由广告主提供,广告主对本广告内容的真实性负责。本文内容仅作信息参考,相关数据仅为个人体验,旨在为读者提供更多资讯信息,并不代表本网站/账号赞同其观点和对其真实性负责,不构成任何投资、医疗或购买建议,读者在做出任何决策前应咨询专业人士。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
1962年MVP竞争有多激烈?张伯伦场均50+25第二,“大O”场均三双第三

1962年MVP竞争有多激烈?张伯伦场均50+25第二,“大O”场均三双第三

大卫的篮球故事
2026-10-13 18:08:59
广州球迷联盟发布关于立场的声明:一生一队,同生共死

广州球迷联盟发布关于立场的声明:一生一队,同生共死

懂球帝
2026-10-13 13:38:07
大众新车官宣:10月22日,正式上市!

大众新车官宣:10月22日,正式上市!

科技堡垒
2026-10-13 11:32:34
为什么美国查不出贪污几个亿的官员?就这么说吧,谁查谁死,别说揪出高层级的大贪官,就连掌握证据的知情人,都可能落得家破人亡的下场

为什么美国查不出贪污几个亿的官员?就这么说吧,谁查谁死,别说揪出高层级的大贪官,就连掌握证据的知情人,都可能落得家破人亡的下场

扶苏聊历史
2026-10-11 02:50:04
身体这处毛发变白,暗示活得不长?医生提醒:抓紧检查!

身体这处毛发变白,暗示活得不长?医生提醒:抓紧检查!

芹姐说生活
2026-06-06 22:35:41
郁亮,出事了!

郁亮,出事了!

大佬灼见
2026-09-17 09:18:35
广西开放AB面:运河通海,AI出海|活力中国调研行

广西开放AB面:运河通海,AI出海|活力中国调研行

21世纪经济报道
2026-10-13 16:10:05
嘿呦,美军“弹药危机”这就有救了?

嘿呦,美军“弹药危机”这就有救了?

枢密院十号
2026-10-13 00:16:03
1比0武里南!北京国安拿下2连捷,利好:中超的亚冠技术分有望反超泰超

1比0武里南!北京国安拿下2连捷,利好:中超的亚冠技术分有望反超泰超

足球大腕
2026-10-13 22:43:58
状态火热!杨瀚森零犯规砍13分4板4助 开拓者53分大胜伦敦雄狮

状态火热!杨瀚森零犯规砍13分4板4助 开拓者53分大胜伦敦雄狮

罗说NBA
2026-10-13 06:20:50
人工湖清淤,湖底捞出12辆共享单车,车上都绑着一具人形模特

人工湖清淤,湖底捞出12辆共享单车,车上都绑着一具人形模特

罪案洞察者
2025-11-26 13:42:51
这该死的宿命!海尔签下孙颖莎,网友:命中注定啊!

这该死的宿命!海尔签下孙颖莎,网友:命中注定啊!

LOGO研究所
2026-10-13 11:41:22
王曦雨1-2不敌低排名选手,止步WTA1000武汉站第二轮

王曦雨1-2不敌低排名选手,止步WTA1000武汉站第二轮

侧身凌空斩
2026-10-13 23:47:10
10月,使劲吃这菜,一润肺、二通便、三健脾胃、四排毒

10月,使劲吃这菜,一润肺、二通便、三健脾胃、四排毒

阿龙美食记
2026-10-13 21:39:40
A股:不用等今天行情了,两个信号来了,周三走势提前分析!

A股:不用等今天行情了,两个信号来了,周三走势提前分析!

明心
2026-10-14 00:30:04
近段时间财运桃花运蹭蹭涨!这几个生肖的朋友悄悄走运

近段时间财运桃花运蹭蹭涨!这几个生肖的朋友悄悄走运

温暖心语
2026-10-13 15:00:08
亚冠战报,武磊中柱海港错失良机,半场结束双方爆发冲突

亚冠战报,武磊中柱海港错失良机,半场结束双方爆发冲突

南海浪花
2026-10-13 19:07:02
禁赛2场罚1万镑,他称家人收到死亡威胁

禁赛2场罚1万镑,他称家人收到死亡威胁

晚风知我意21
2026-10-14 00:25:09
知名车企官宣回归油车

知名车企官宣回归油车

沙雕小琳琳
2026-10-11 01:46:55
王皓事件升级:骂王皓的那三个女孩,被行拘仅是开胃菜,更严重的后果还在后面

王皓事件升级:骂王皓的那三个女孩,被行拘仅是开胃菜,更严重的后果还在后面

法网恢恢
2026-10-11 22:07:22
2026-10-14 01:08:49
呼呼历史论
呼呼历史论
分享有趣的历史
738文章数 18404关注度
往期回顾 全部

科技要闻

扎克伯格宣布追上OpenAI!Meta新模型亮相

头条要闻

黄奇帆被查:早年在上海工作 2016年卸任重庆市市长

头条要闻

黄奇帆被查:早年在上海工作 2016年卸任重庆市市长

体育要闻

走调的歌声里全是感情 最好的郑钦文尚未登场

娱乐要闻

谭松韵亲自解答兰香结局遗憾

财经要闻

"黑医师"产业链调查:不学医竟能"拿证"

汽车要闻

豪华智能全拉满 比亚迪大汉不止旗舰级舒适

态度原创

手机
本地
时尚
艺术
公开课

手机要闻

华为麒麟9050 Pro完整架构公布:9核CPU+30B大模型塞进手机,5GHz也快了!

本地新闻

这个十一,林都伊春彻底出圈!

钟楚曦: 两处人间

艺术要闻

金代孤品《二骏图》:不止是套马图,更是多民族交融的时代答卷

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版