当下,各类AI虚拟伴侣应用悄然走红,走进不少年轻人的手机里。本该是智能科技带来的休闲陪伴,却逐渐跑偏变味。
打开这类AI虚拟伴侣软件,门槛低得离谱。不用严格实名,无需年龄核验,青少年模式形同虚设,未成年人轻易就能绕过限制随意登录。平台里的虚拟人设画风露骨,聊天对话充斥暧昧暗示、低俗话术,甚至刻意打造早恋、情感纠葛等不良剧情,刻意迎合猎奇心理,给心智尚未成熟的青少年带来不良价值引导。
更让人诟病的是,这类应用暗藏花式捞钱套路。初期免费聊天吸引用户入坑,等产生情感依赖后,就设置层层付费门槛。解锁亲密对话、专属人设、私密剧情都要充值会员、购买虚拟道具,用情感绑定绑架消费,不少学生盲目跟风充值,既浪费金钱,又容易陷入虚拟情感无法自拔。
除了平台自身失范,灰色产业链也趁虚而入。网络二手平台上,私人定制低俗AI人设生意火爆,各类擦边、不良人设明码标价,甚至还提供技术接入服务,游走在法律法规和公序良俗的边缘,加剧了行业乱象蔓延。
科技向善,才是人工智能发展的初心。AI虚拟伴侣本是科技服务生活的创新尝试,绝不能沦为滋生低俗、诱导沉迷的温床。平台作为第一责任人,不能只顾流量和收益,丢掉社会责任,必须严守内容审核关口,清理低俗不良人设和话术,落实实名认证与未成年人保护机制,筑牢安全防线。
监管层面,相关管理办法即将正式施行,为行业划定了清晰红线。明确禁止向未成年人提供此类拟人化情感服务,严禁色情低俗、情感操控等行为,这既是约束也是指引。执法部门也应加大巡查整治力度,严查违规平台和灰色定制产业链,形成长效监管震慑。
青少年的成长没有重来的机会,网络空间更需清风正气。AI技术可以有温度,但不能无底线。平台守初心、监管强约束、家长多引导,多方合力之下,才能让AI虚拟伴侣回归正常娱乐陪伴本质,为青少年营造干净健康的网络环境,让智能科技真正服务生活、守护成长。
编辑: 赵歆
视频编辑: 马盈盈
责编: 张庆
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.