当科技降低作恶门槛 补强青少年“数智免疫力”是刚需

8月11日，抖音平台发布治理“毒动画”公告，称仍有账号利用AI恶意魔改经典动画，借助动漫人物形象演绎血腥、暴力场景等，表示近期已处置3.9万条违规内容、超6000个违规账号。

“毒动画”撕开AI被滥用的一角。我们已进入数字化与智能化深度融合的数智时代，科技赋能社会发展的同时，也降低了作恶的门槛，越来越多的“数智毒药”开始围猎涉世未深的青少年。“毒动画”之外，近期，针对青少年的网络诈骗也引发关注，包括使用AI变装技术等冒充警察行骗，以及利用AI仿制录取通知书，伪造学校官方标识散布虚假招生信息诱骗学生、家长等。

笔者认为，要让青少年在复杂的数智环境中顺利成长，一方面青少年网络保护的“防火墙”要筑牢；另一方面，补强青少年的“数智免疫力”是刚需。

近年来，国家持续织密未成年人网络保护的制度防线。2024年1月，《未成年人网络保护条例》正式施行，提出学校应当将提高学生网络素养等内容纳入教育教学活动。今年年初，国家互联网信息办公室等八部门联合出台《可能影响未成年人身心健康的网络信息分类办法》，为可能影响未成年人身心健康的网络信息划定红线，并明确表示提供算法推荐、生成式人工智能等服务的，不得向未成年人推送可能影响其身心健康的网络信息。前不久，中央网信办部署开展“清朗·未成年人网络保护”专项行动，针对利用AI技术恶搞经典动画形象、诱骗未成年人进行软色情陪聊等问题进行重点整治，并着力规范平台推荐行为、学习教育板块、未成年人模式建设，指导平台优化算法推荐服务机制，提出不得设置诱导网络沉迷、过度消费等算法模型等。

可以看到，一套青少年网络保护的治理框架正在落地。笔者认为，还需要进一步压实平台主体责任，在收紧技术审核关口的同时，要从严打击针对青少年批量生产不良内容的账号，对于影响恶劣的账号不仅要禁言，还要联动相关政府部门对相关利益链条依法进行惩治。此外，平台应简化举报操作，营造有利于“人人监督”的共治氛围，广大社交媒体用户亦需强化青少年保护的网络共治意识。

在监管之外，帮助青少年提高对AI生成内容、推荐内容的审辨能力亦刻不容缓。

这个暑假，一些大学生暑期社会实践、研学活动已经瞄准了青少年AI反诈这个主题，教育形式鲜活。浙江省绍兴市的一批中学生走进当地银行的金融反诈教育基地，沉浸式体验模拟AI伪造亲友语音、AI换脸视频等诈骗场景，吃透“不轻信、不透露、不转账”的反诈原则；北京理工大学某实践团赴贵州省毕节市某社区给孩子们送上AI反诈专题课，拆解真实AI诈骗案例，让孩子们亲自体验如何操控数字人，种下防骗的种子。

笔者认为，补强青少年“数智免疫力”，还需社会各界共同发力。一方面，学校作为主要教育场所，要积极推动AI安全和网络素养相关内容进课堂。

另一方面，还要系统性地发动社区、科普场馆，以及高校院所和公安部门等其他资源，及时拆解各类新型“数智毒药”，开展贴近生活、操作性强的“精准滴灌式”培训，让青少年能够学以致用。有条件的学校、单位可以常态化开展AI安全、网络素养等课外实践活动；有条件的科技馆、青少年宫等应常设数字安全体验展区，并及时更新展项。

当今的青少年是数智时代的原住民，网络和AI是其生活的重要组成部分。唯有让监管筑牢外部防护屏障，家校社协同打造“数智免疫力”内核，才能助其顺利成长。