北京
来源：滚动播报
（来源：中工网）
近日，我国发布《人工智能安全治理框架3.0》，将智能体、具身智能等纳入治理范畴，与时俱进梳理更新了风险分类，优化调整了技术应对和综合治理措施，并提出构建柔性、动态、可控的沙箱监管环境。而在此前几天，陶哲轩、邓煜等25位菲尔兹奖得主的联名公开信提出警示：AI公司把攻克数学难题当作“跑分”竞赛，正在损害数学研究的生态。
这两份文档，一为制度规范更新，二为科学界现实警示，指向了同一个紧迫命题。随着AI迅猛发展，科研与教育的生态正在被深刻重塑，治理框架必须及时升级。
AI已经深度嵌入科研与教育。在蛋白质结构预测、药物筛选、材料发现等领域，AI大模型极大压缩了试错周期，让科研人员得以从繁重的重复劳动中解放出来。在教育领域，个性化学习系统可以因材施教，智能答疑降低了知识获取的门槛，偏远地区的学生也能接触到优质教学资源。这些都是AI技术“以人为本、向上向善”的正面画像。
但数学家们的担心绝非杞人忧天。当“跑分”取代“求知”成为目标，科研的内在逻辑就被悄然置换。AI公司将破解数学难题异化成性能指标的竞赛，数学沦为展示AI算力的陪衬，谁还能想起追求真理的初心？AI公司批量生产答案，却忽略思考、理解与洞见，这不仅是数学领域的危机，更是整个科研生态的危机。
教育领域的危机与此同理。学生过度依赖AI代写、代算，思维训练让位于答案搬运，得到更多正确的答案，却失去了提出问题和解决问题的真实能力训练机会。
防范AI风险，要建立可执行、可迭代、可追责的治理机制。
完善科研与教育场景中的AI使用规则。高校、科研机构和期刊应明确AI辅助研究、写作、评审的边界，对AI生成内容进行披露、核验和溯源，禁止将涉密数据、未公开成果输入公共模型，防止学术不端和数据泄露。
改革评价体系。不能把“AI快速解题”等同于科研突破，更不能以此替代同行评审、可解释性验证和知识传承。科研评价应更加重视方法创新、可复现性、长期影响和人才培养价值。
推动技术治理与制度治理协同。《人工智能安全治理框架3.0》提出的沙箱监管、风险分级等，应尽快在科研、教育、医疗、金融等重点场景落地。AI治理框架也应像AI技术应用那样，快速落地、快速反馈、快速迭代。对智能体和具身智能等可能直接影响现实世界的技术，更要强化权限控制、行为审计、异常拦截和人类接管机制。
加强AI素养教育。从中小学到大学，应系统开设AI通识与伦理课程，教学生理解AI的能力边界、辨别生成内容的真伪、恪守学术规范，使AI成为创新的脚手架而非思维的替代品。
技术本身无善恶，治理的方向决定技术的走向。顶尖数学家的联名警示提醒我们，如果只追求答案而忽视理解、传承与育人，技术越强大，错位就越危险。
我国AI治理框架一年一更新，说明风险正在加速演化。只有持续动态升级治理框架，让创新在安全轨道内奔跑，才能让AI真正成为科研突破的翅膀、人才成长的阶梯。（佘惠敏）
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
