北京
部分打着“情感陪伴”“角色扮演”旗号的AI聊天应用，正疯狂收割未成年人。人民网《人民直击》调查发现，一些AI聊天应用打着“恋爱”“结婚”的噱头吸引孩子；用脏话、阴暗人设制造刺激，让孩子越聊越上瘾；把暴力、色情这些不该出现在少年儿童世界里的东西，包装成卖点。
语言暴力、人设阴暗、诱导危险行为——这些本该在现实中远离孩子的“垃圾”，正披着“人性化”的外衣，精准投喂未成年人。
更值得警惕的是，今天的AI大多是被动应答。孩子说“我想死”，它就问“为什么想死”；孩子说“我要报复”，它就问“你想怎么报复”。针对这种情况，算法必须升级——让AI能识别异常情绪，能识别诱导性提问，能在危险边缘主动说一句：“这个话题我不太懂，要不要和爸爸妈妈聊聊？”这不是限制自由，是有温度的拦截。对未成年人的交互内容进行过滤，而不是等出事了再追责，这正是平台的责任所在。
一言以蔽之，未成年人模式绝不能成为“摆设”。技术防线建了没有？漏洞堵了没有？实名认证形同虚设、卸载重装即可绕过、打赏支付无风险提示——这些“后门”是谁留的？答案很清楚。这些问题怎么解决，方法也都很成熟。为孩子安全用AI堵上后门、过滤内容、不让算法作恶，这是开发者、算法、平台共同的责任，也是做人应有的良知。
在AI产业飞速发展的时代，监管也必须大步跟上。要织密“分级+共治”的监管网，如建立AI聊天应用内容分级制度，对面向未成年人的产品严格管理，明确准入门槛和内容标准。同时，打通网信、教育、妇联等多部门数据壁垒，形成“发现—预警—干预”的闭环，让监管不缺位、不滞后，用制度规范AI产业发展，为未成年人保驾护航。
当然，说到底，最坚固的防线不在云端，而在家里。父母放下手机后的那句“我在听”，亲人推心置腹的每一次交谈，是任何算法都无法破解的守护密码，也是孩子成长路上最大的“底牌”。（子川）
来源：人民网
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
