北京
评论
“10岁女孩失去爱人（丈夫）”“老师校园内‘捕杀’学生”……近日，有媒体调查发现，在数款“沉浸式角色扮演”人工智能（AI）社交平台的聊天场景中存在不良内容。这些网络平台的青少年模式形同虚设，没有推行强制身份核验，未成年人可轻易绕过监管进入网络世界。
部分平台将猎奇内容作为“吸金工具”，通过充值解锁、流量变现等模式牟利，甚至默许用户“调教”AI、破解违禁词，将商业利益凌驾于未成年人保护之上。青少年价值观尚未定型，AI社交平台虚拟的离奇剧情会让他们模糊现实与虚拟的边界，甚至模仿危险行为。而AI生成内容的不可预测性，与用户自定义剧情的动态性，更让传统监管机制“力不从心”。
遏制AI社交平台涉未成年人乱象，需监管部门、平台、家校协同发力，构建“责任共担、技术防控、教育引导”的多元共治体系。同时，加快出台AI社交专项规范，细化不良内容判定标准与审核责任，对涉及恋爱、暴力等风险场景设置强制预警，实时监测用户“调教”行为，从源头遏制不良内容生成。
AI技术应是护航未成年人成长的帮手，而非伤人利器。只有监管不松、平台不懈、家校不怠，才能织密保护网，让未成年人在干净的网络空间健康成长。
直面健康热点
分享真知灼见
文：余明辉（职员）
编辑：李诗尧
校对：于洋
审核：秦明睿 徐秉楠
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
