防止机械刷题、不传播教育焦虑！AI头部企业联合发布公约

南都讯 记者吕虹 发自北京 近日，南都记者从中国民办教育协会获悉，该协会携手百度、腾讯、科大讯飞等10家人工智能领域头部企业，联合签署了《智能体赋能学生全面成长公约》（以下简称《公约》），为教育智能体的发展划定了清晰的边界。

当前，带有“主体性”特征的教育智能体不但在伦理身份、互动方式、学习方式及价值观念等层面形成冲击，更使教育实践面临被AI技术操控取代的风险，迫切需要探寻智能体的伦理边界。

在这一背景下，《公约》提出，教育智能体的发展应有效防范违背教育本质的功利化倾向，坚决杜绝传播错误价值观和不良信息，防止机械重复刷题，避免加重学生学业负担、限制学生想象空间、惰化学生思维。

《公约》强调，教育智能体要严格遵守《未成年人保护法》《网络安全法》《个人信息保护法》等相关法律法规及政策要求，对涉及未成年人的，应严格依法落实数据安全及隐私保护机制。

《公约》倡议，相关人工智能企业应强化与学校、家庭的协同育人，扩大资源普惠，不制造恶性竞争，不传播教育焦虑，推动在全社会树立科学的人才观、成才观、教育观。

针对《公约》的出台意义，北京师范大学李玉顺教授表示，《公约》出台恰逢其时，将技术优势转化为育人效能，将碎片化探索升华为系统性框架，使人工智能与教育融合迈向伦理自觉与价值引领新阶段。

“人工智能教育，尤其是智能体融入教育过程中，必须确保教育性、科学性、安全性三大原则。”谈及《公约》所倡导的AI教育精神，北京航空航天大学熊璋教授特别强调了“安全至上”原则。他指出，需围绕AI教育特有的自主性、交互性与学习特性，构建覆盖技术、伦理、数据、心理等维度的防护体系。在规划与设计之初，就必须秉承“安全至上”的原则，包括不伤害学习者、不误导学习者、不泄露学习者隐私的全方位安全。“对学习者异常行为的预警、报告、疏导也是安全至上的一个侧面。”

值得注意的是，《公约》适用于所有可能面向中小学生提供智能体产品或服务的企业。涉及的产品和服务包括但不限于人工智能大模型、自适应学习系统、虚拟教师等软件，智能学习机、学练机、学习教具、可穿戴设备等硬件，以及基于上述软硬件的课程、教学、测评、数据分析等衍生服务，覆盖产品设计、算法研发、模型训练、运营服务等全生命周期。