6月1日，新修订的《中华人民共和国未成年人保护法》正式实施。本次修订的一大亮点是新增了“网络保护”专章，提出网络服务提供者发现用户发布、传播含有危害未成年人身心健康内容的信息的，应当立即停止传输相关信息，采取删除、屏蔽、断开链接等处置措施。但面对互联网上的海量信息，依靠传统的内容审核手段已经难以跟上形势。作为一家以“爱和科技让教育更美好”为使命的科技教育公司，近年来好未来积极探索利用AI技术开展网络内容审核，全面加强未成年人网络保护。
AI审核为未成年人织起网络信息安全网
4月27日，由好未来旗下学而思网校举办的萌娃“小讲师”口述风采展圆满收官。镜头前,来自全国各地的小朋友们,将学到的知识归纳总结后,以“讲师”的身份讲出来；小朋友们还就自己感兴趣的知识点和话题侃侃而谈,发表自己的观点。而屏幕的另一边,学而思网校的老师们则做出了专业点评。
活动顺利举行的背后，是好未来AI审核技术的保驾护航。
学而思网校萌娃小讲师活动宣传海报
在此前的活动海选中，所有参与活动的用户需要提交自己录好的演说视频，并在平台上发布。视频提交前，页面会弹出15秒的内容健康承诺，提醒用户“不提交对未成年人不良的内容、不提交违反法律和法规的内容、不提交违背社会公序良俗的内容、不提交和本次活动无关的内容、不提交监护人没有检查的内容。”
视频提交后，会立即上传至好未来的内容审核系统，好未来AI会立即发挥它强大的NLP（自然语言处理）、CV（计算机视觉）、ASR（语音识别）等技术能力，在1分钟内完成对视频的一次审核判断，拦截违规内容，并根据审核规则要求将内容推送至后台专业的人工审核团队进行复核。
除了类似的活动内容审核外，好未来所有在线内容场景中，未成年人能看到的信息都装上了这样一道“安全网”，覆盖范围包括用户提交的所有对外可见的内容，如用户头像、昵称、评论、视频、弹幕等，所有色情、暴恐、辱骂、政治等各类不合规信息将被审核系统“层层过滤”。
据统计，仅在2021年上半年，好未来旗下各业务经过AI内容审核系统的数据就达到46亿条，发现并清除的违规内容总量达到了47万条。
AI技术为内容审核提供核心助力
庞大的审核数据背后是好未来长期积累的AI能力在发挥作用。
2019年的世界人工智能大会上，科技部宣布好未来成为智慧教育国家新一代人工智能开放创新平台承建单位。AI审核能力是好未来近年重点探索的方向之一。
AI技术的一个核心特点是“不断学习”。AI程序就像一个不吃不喝拼命学习的“学霸”，只有“学习资料”够多，才能不断变得更强。大名鼎鼎的围棋AI程序AlphaGo正是学习了3000万盘围棋比赛的数据之后，成功打败了人类围棋世界冠军李世石，从此其下棋能力再无人类选手可以企及。
AI内容审核也是如此，只有数量足够且场景匹配的数据才能训练出一流的AI内容审核能力。
虽然市场上早已经有了比较成熟的内容审核方案，但对于教育领域并不能直接适用。和其它普通社交、娱乐平台不同，教育平台面向的用户主体是未成年人，审核的标准要更加严格，甚至到了严苛的地步。比如有些动漫画面看起来挺可爱，但内容却可能涉及儿童邪典。这样的信息在其它平台可能被直接放过，在教育平台则要更加小心，对于AI来说学习难度也更大。
难得的是，好未来在数据方面有得天独厚的优势。通过使用大量教育场景数据，不断优化训练模型，机审准确率稳定保持在95%以上。
好未来AI内容审核系统后台操作界面
机审保证了海量信息的快速审核。好未来重视内容的文化性和多变性，深知清朗的未成年人网络环境需要坚持不懈的努力，有害信息一旦漏过，就可能对孩子们造成伤害。因此，好未来AI的内容审核系统中还有一支强大的人工审核队伍。
对于AI机审中发现的异常信息，他们会及时介入，在1-3小时内完成人工审核，只有审核通过的信息才会被用户看到。对于被AI机审通过的数据，人工审核还制定了审核策略进行抽查，一方面确保没有漏放的违规内容，另一方面根据复查结果迭代策略、提升审核团队质量。
任何审核机制都无法真正做到100%的成功率，而科学的兜底机制就显得尤为重要。为此，好未来还建立起UGC内容举报、反馈机制，被举报的内容作为第一优先级进行人工审核，自举报触达1小时内完成调查和处置，筑好未成年人保护的一道防火墙。
底线思维将未成年人保护上升集团战略
投入如此多人力物力在AI内容审核上，背后体现的是好未来对于未成年人保护的底线思维。
2020年7月，在中国网络社会组织联合会、中央电化教育馆、共青团中央权益部的倡导下，好未来旗下学而思网校与阿里巴巴、腾讯、百度等国内32家互联网企业共同签署了《共建未成年人“清朗”网络空间承诺书》，为未成年人提供一个绿色、健康、文明、和谐的在线教育和网络生活环境。
学而思网校参与2021未成年人网络保护研讨会
今年6月1日，“E路护航·赋能成长”2021未成年人网络保护研讨会在浙江宁波召开。作为本次会议的协办单位，学而思网校在“未成年人互联网使用与保护——行业责任及社会参与”主题论坛上,从学习理念、素质教育和产品保护三方面,阐述了自身如何为学生营造安全、积极、正能量的网络学习环境。此外，好未来基于人工智能技术的“课堂教学质量监测系统”及“人工智能启蒙儿童成长解决方案”还入选了《人工智能为儿童——面向儿童群体的人工智能应用调研报告》。
如今，未成年人保护已经成为了好未来各条业务的底线要求。“我们服务的对象主要是未成年人，他们的心智尚未成熟，缺乏正确辨别互联网信息是非利弊的能力，很容易受到不良信息的侵害。作为教育企业，我们更加有责任从自身做起，运用各类技术不断推进未成年人保护，为未成年人创造更加安全、健康的成长环境。”好未来相关负责人说。
本文来源：网易教育综合
责任编辑：
牟师娴_NBJS15365
