把AI套上笼头，绝不能让其成为脱缰之马

青锋
民盟上海市委副主委、上海市静安区副区长龙婉丽在全国两会期间建议，“制定教育场景生成式AI使用负面清单和推荐清单，强调杜绝‘代劳式’使用，并按学段、学科、任务类型细化”，同时还建议，“要把学术诚信教育前置到义务教育阶段，把‘引用规范、事实核验、来源标注、AI输出可疑点识别’纳入课堂常规训练”。
青锋认为，龙婉丽的建议很好，而且，恰到其时。
在此之前，有人曾发表看法认为，未来学生可以不用学习数学，靠AI就能完成日常计算任务。青锋当时曾为之一惊，如此观点，岂不是在当下科技迅速发展大背景下，让学习无用论死灰复燃？不论是对下一代，还是对一个国家的发展，都将贻害无穷。
青锋注意到，龙婉丽在提出前述建议时，指出了人工智能尤其是生成式大模型会给教育带来负面影响，诸如未成年人数据与隐私保护存在风险，和生成式AI“代劳化”趋势日渐明显。即“不少一线教师与家长表示孩子越来越会‘出答案’，却越来越不愿‘走过程’。也就是说，孩子们利用AI根本不用通过自己思考完成作业，只需通过AI就能生成准确答案。因为，让不少教师担忧，学生一旦将“能力外包”养成习惯，就“会在不自知中失去耐心、推理力与判断力，甚至影响到学习品质与学术诚信”。
龙婉丽认为，人工智能，尤其是生成式大模型还可能给教育带来的负面影响，“是模型输出的不确定性，可能导致教育的不稳定性”。她认为，“生成式AI构建学生画像时，易因数据片面、算法偏见产生价值偏差和错误引导”。同时，还将形成的负面影响是，“缺少教育可用的可信基础设施与治理闭环”。也即“学校既难统一数据安全与合规要求，也难形成可复用的教学范式与评价机制，更难压实平台与供应商责任”。
青锋认为，龙婉丽的担忧不无道理，而且，AI给人们带来的负面影响，不仅仅在教育行业，在其他行业的负面影响也日趋出现。如通过人工大模型，很容易搜集到人们的各种信息，甚至是隐私。因而，全国政协委员熊水龙建议，修订居民身份证法及相关法规，取消在居民身份证实体卡片上印刷“住址”信息，进一步保护人们的隐私，有其一定道理。
青锋还认为，如果放任人们使用AI撰写公文，或者放任利用AI创作，不仅会让公文有可能千篇一律，还有可能引发信息泄露，而放任利用AI创作，更有可能让抄袭成风，能够给人带来心灵震颤，或者能够引发人们深入思考的作品，将很可能再难出现。
因此，一定要采取措施，制定法律法规，给AI套上笼头，绝不能让其成为脱缰之马，到时候再做所谓的深刻反思，就将悔之晚矣。