上海交大出台AI使用规范，将定期更新人工智能应用禁止清单

近日，上海交通大学出台新规，规范教育教学中对人工智能（AI）的使用。新规将高等教育教学领域的人工智能应用划分为四种类型：禁止使用、有限使用、鼓励使用、开放使用。对于教师和学生在教育教学中使用人工智能出现违规的现象，学校将追责。

上海交通大学从去年起推动“AI+教育教学”。此次出台的新规，将对老师和学生在教育教学中使用AI设置边界，希望打造人工智能与人类智慧在“师-生-机-环”四元互动教育教学新生态，同时防范技术失能、教育分化、算法歧视、隐私泄露及数据安全、信息安全威胁等风险。

学校表示，鼓励师生在遵守国内外人工智能法律法规的前提下，探索人工智能在高等教育教学领域的使用方式，且AI使用必须围绕“让每个学生更优秀”的育人理念。此外，学校还将定期评估师生对工具的使用情况，确保技术应用辅助教学目标，避免教学任务的完全替代或片面依赖。

人工智能使用设四种类型

上海交大此次的新规，将高等教育教学领域的人工智能应用划分为四种类型：禁止使用、有限使用、鼓励使用、开放使用。

对于高风险的人工智能应用场景，即那些存在高风险，或者师生经充分讨论一致反对的场景或环节，学校将推“人工智能应用禁止清单”。清单将通过校内平台及时更新、透明公开。

对于存在一定风险的场景，将结合风险评估和师生讨论意见，进入有限使用的名单，设置约束条件，并定期开展再评估。这些场景包括对师生个人隐私有潜在威胁、对教学目标和学习效果可能造成的负面影响、有可能不符合相关法律法规及学校规范要求的。

而对于风险较低，或师生经讨论达成较高共识，学校将鼓励使用。同时，鼓励使用的人工智能工具或技术需通过学校备案流程，确保其符合教育教学目标、伦理规范和技术可靠性要求。

至于那些趋近零风险，或师生经讨论一致认为适宜广泛使用的场景或环节的AI技术，学校将开放使用。新规明确，这类人工智能技术应具备较高的普适性和公平性，能够广泛惠及师生，并通过学校平台向全校推广。

此外，对于师生经充分讨论后仍存在分歧的场景或环节，可引入仲裁或复议机制。由学校人工智能教育教学改革治理委员会牵头，结合技术评估、风险分析和教育目标对争议进行仲裁，形成最终清单。

教师是AI+教学设计的第一责任人

新规明确，鼓励教师积极探索人工智能赋能教育的可能性，明确人工智能辅助教学授课的原则。教师是AI+教学设计的第一责任人，同样也必须遵循“禁止使用”“有限使用”“鼓励使用”“开放使用”四类人工智能技术的原则。对于使用未备案或存在风险的人工智能工具情况，学校可追究相关责任。

学校鼓励教师在教学材料生产、个性化教学、学习进程跟踪与评估、师生互动等场景中，合理使用人工智能技术，有效提升教学质量，并且要充分关注学生在人工智能辅助场景中的自主性与获得感。

同时教师要关注学生差异化需求，避免因技术门槛或资源不均带来的负面效应。教师对于具体课程中人工智能工具使用范围、人工智能生成信息引用模板等都必须予以公开说明。

学生必须遵循学术诚信等原则

按照新规，学生应了解人工智能“禁止使用”“有限使用”“鼓励使用”“开放使用”的具体场景，合理选择人工智能工具，构建良性人机协同的新常态。

但是学生在课堂学习、作业反馈等环节，必须遵循教学计划、知识产权等法律法规、学术诚信要求。若有违规行为，学校将追究相关责任。

学校为学生使用人工智能工具，提升人工智能素养，提供各类课程和学习资源，同时鼓励学生主动参与高等教育领域的人工智能创新改革，自主参与人工智能学术研讨与公益活动，探索多学科“AI+”范式，为校内人工智能创新应用积极献策。

学校还成立人工智能教育教学改革治理委员会，涵盖“师-生-机-环”各领域代表，明确各方在技术评估、伦理审查、师生反馈整合等方面的职责分工，确保治理委员会高效运作。在各一线教育教学单位成立治理小组，鼓励师生针对人工智能应用过程中的争议问题，展开“师-生-机-环”大讨论，在相互评议中促进集体共识。