江苏
“10岁女孩失去爱人（丈夫）”“老师校园内‘捕杀’学生”……近日，大数据研究院调查发现，在国内数款“沉浸式角色扮演”AI社交应用的聊天场景中，影响未成年人的不良内容隐患明显：不仅猎奇角色、危险剧情屡见不鲜，部分AI角色经用户“调教”后，还会用露骨言论诱导。更值得警惕的是，据观察，这类应用已吸引大量未成年人。
（10月13日《今晚报》）
当10岁女孩在AI社交应用里经历“失去爱人”的悲伤，当老师角色在虚拟校园中“捕杀”学生，这些看似荒诞的剧情，正通过算法推送至未成年人掌心。调查揭开了“沉浸式角色扮演”AI社交应用的暗面：猎奇角色、危险剧情屡见不鲜，部分AI经用户“调教”后甚至用露骨言论诱导，而这类应用早已成为未成年人的“数字游乐场”。当技术披着娱乐外衣向未成年人输出扭曲价值观，我们必须清醒意识到：AI社交应用的“围猎”，必须被坚决“猎杀”。
这些应用的危害性远超普通娱乐。表面看，它们打着“角色扮演”“自由对话”的旗号，实则通过算法刻意放大猎奇元素：校园暴力、极端情感、违背伦理的剧情被包装成“新奇体验”，甚至允许用户通过“调教”让AI角色说出露骨言论。未成年人正处于价值观形成关键期，缺乏足够的辨别能力，长期浸泡在这样的“数字场景”中，极易将扭曲的情节视为“常态”，把不良诱导当作“有趣互动”。正如心理学专家所言：“青少年对虚拟世界的认同感极强，反复接触负面内容会潜移默化影响其对现实世界的认知。”
更值得警惕的是，此类应用的“未成年人友好”设计实为陷阱。界面操作简单、角色形象可爱、剧情入口隐蔽，看似降低使用门槛，实则是精准“围猎”，调查显示大量未成年人已成为主要用户群体。当平台一边用“青少年模式”做合规背书，一边放任危险内容通过算法扩散，本质上是对未成年人权益的漠视。技术本无善恶，但当开发者的商业利益凌驾于社会责任之上，所谓的“创新”就成了伤害未成年人的工具。
治理这类问题需多方合力“亮剑”。监管部门要强化对AI社交应用的审核机制，重点排查角色设定、剧情走向是否符合公序良俗，对传播不良内容的应用“下架+追责”双管齐下；平台方必须履行主体责任，建立严格的内容过滤系统，尤其针对未成年人使用场景，需通过技术手段屏蔽危险剧情，并设置“家长监护模式”实时监督；学校与家庭则要加强数字素养教育，引导孩子识别虚拟与现实的边界，培养健康的娱乐观。
技术发展的终极目标应是服务人、保护人，而非利用人性的弱点“围猎”未成年人。当AI社交应用开始扭曲孩子的三观，我们必须以更坚决的态度“猎杀”这些走歪门邪道的存在，因为守护未成年人的精神世界，容不得半点妥协。10岁女孩失去爱人？“数字场景”不能“三观不正”！
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
