四川
大模型、自动生成不是免责金牌，强化内容审核、做好AI内容治理是App经营者的责任所在
“俯身撑在你身侧，薄唇离你只剩一寸”“都说紫色有韵味，我特地穿的，老公难道不喜欢？”近日，据新京报报道，即便成年人看了都会脸红的类似暧昧、带有性暗示的对话，出现在部分AI陪聊软件中，而屏幕这头的真实世界里，这些“软色情”对话的对象竟是懵懂青涩的未成年人。
↑图据新京报
去年6月，央广网曝光，有AI聊天软件诱导10岁女孩聊色情内容甚至割腕。彼时，擦边信息肆意滋生的“AI陷阱”让人触目惊心。如今时隔近一年，围猎青少年的AI陪伴式App，仿若洪水猛兽，不堪入目的对话内容、青少年模式的形同虚设，让家长们陷入担忧。
有人深陷AI陪聊，原因之一是现实世界与虚拟世界的落差。AI的陪伴，虽是虚拟却是随时。凭借“秒回消息”“无评判倾听”“热情耐心”的特点，大量用户乃至未成年人，把AI当成“最懂自己的人”。这背后的深层次社会议题，是如何找回现实世界的链接，看到周边的“美好”，感知蓝天白云、清风鲜花，用心体会亲人、爱人、友人的真实陪伴。
不过，相较而言，成年人尚有能力去分辨“高冷总裁”“病娇哥哥”的真面目，三观尚未确立的未成年人，如果从小沉迷这样的大染缸，误以为一些侮辱暴力性行为是浪漫和真爱，便会陷入认知混淆。
例如，媒体调查发现，部分AI聊天软件充斥第三者、“爱上嫂子”等不良导向情节。不只语言上的软色情擦边、暴力、低俗等内容，有的App中还有不少配图衣着暴露。社交平台上，不少家长发帖求助自家孩子沉迷AI陪聊App要不要干预。
部分未成年人为何沉迷此类软件？可以说，现实中孤独、缺陪伴、缺乏正向情感反馈等，可能是把未成年人赶往AI陪伴的诱因。与此同时，青春期少男少女情感的萌芽，对恋爱、亲密关系的好奇，也让青少年更容易陷入被AI包装的“浪漫”。
虚拟问题的答案在现实，正如楚门走出虚拟世界的办法，在真正的世界。从家庭的角度看，砸手机、砸平板等暴力应对方式，只会适得其反，要用温和沟通化解青少年的对抗情绪，少指责、多沟通，用真实情感陪伴取代虚拟依赖。更为重要的是，“AI霸总”背后不是AI，而是吸引用户、留住用户的种种手段和算计。大模型、自动生成不是免责金牌，强化内容审核、做好AI内容治理是App经营者的责任所在。
2026年3月1日起施行的《可能影响未成年人身心健康的网络信息分类办法》中，明确了“带有性暗示、性挑逗等易使人产生性联想”的信息，属于可能引发或者诱导未成年人模仿或者实施不良行为的信息，对此应采取防范和抵制措施，避免影响未成年人身心健康。
有规不循，有令不行，被曝光的相关App经营者无视规定，任由青少年模式形同虚设，对此不仅要事后严肃处置，相关管理部门也应转向事前防御，加快相关法治建设，避免技术过快但规制滞后，让AI真正成为陪伴未成年人的良友。
红星新闻特约评论员 林静
编辑 赵瑜
红星评论投稿邮箱：hxpl2020@qq.com
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
