党的二十届三中全会提出，“建立人工智能安全监管制度”“加强科技伦理治理”。当前，生成式AI为教育改革创新装上“智慧引擎”，但同时也带来了一系列伦理风险。构建生成式AI教育应用的伦理风险治理体系，使其成为“阿拉丁神灯”而非“潘多拉魔盒”，确保其教育应用安全可控显得日益迫切与重要。

作为新一轮技术革命的前沿，生成式AI为教育教学创新发展装上了新引擎，塑造了教育高质量发展的新动能。但是，技术滥觞使生成式AI无法摆脱“双刃剑”窠臼，生成式AI在为教育现代化注入强劲动力的同时也带来了前所未有的伦理风险等挑战，如果不加上“防护栏”，将影响教育强国、科技强国、人才强国战略协同推进。而监管治理是防范和降低生成式AI教育应用伦理风险的重要保障和迫切需求。

当前，生成式AI的发展还存在着较大的不确定性，采用不科学的治理方式会抑制产业的发展。敏捷治理是一种快速适应环境变化的动态治理范式，更契合不断迭代升级的生成式AI教育应用的伦理风险治理。与传统治理相比，敏捷治理具有敏捷性、适应性、协同性、灵活性、持续性、自组织性和包容性特点，能够通过治理过程中的小步快走、迭代试错、动态更新，顺应技术发展趋势，解决科技治理中技术高速演进的不确定性问题，持续发挥生成式AI的正向价值。从多维度构建生成式AI教育应用的伦理风险的敏捷治理体系，开展柔性监管，推进协同共治，不断完善监管机制，进行前瞻预防和约束引导，对于统筹人工智能发展和安全，实现“边发展、边治理”，抢占科技发展新高地，开辟教育数字化新赛道，推进教育强国建设具有重要意义。

习近平总书记高度关注人工智能等新兴科技的发展，强调“要积极推动人工智能与教育的深度融合”，同时要加快提升“人工智能安全等领域的治理能力”。鉴于生成式AI教育应用的伦理风险源于其全生命周期、涉及多部门与多主体，且不断迭代升级，需要从多维度构建敏捷治理体系，加上“防护栏”。坚持“以人为本、科技向善”的治理原则。习近平总书记指出，要深度参与全球科技治理，贡献中国智慧，塑造科技向善的文化理念，让科技更好增进人类福祉。联合国教科文组织将人本主义作为生成式AI的价值旨归。因此，生成式AI教育应用的伦理风险治理要坚持以人为本的理念，明晰技术的工具价值，明确技术的服务性与辅助性；秉持“科技向善，伦理先行”原则，在生成式AI教育应用全生命周期发挥向善价值的前置引导作用；坚持“人类主体、机器辅助”的原则，坚持技术的发展与应用要以人为中心，遵循人类主流价值规则体系和核心价值，在坚持人类主体与机器辅助的统一中探索以人为主体、更好发挥人类智能和人工智能各自优势的人机协同新形态，确保技术与人类价值观相协调，实现人机协同、共轭共生，让数字与智能红利造福人类共同的未来。

形成“政校企行”合力共治的治理主体。生成式AI教育应用的伦理风险来源于研发和教育应用与管理全生命周期，涉及多部门、多主体，其治理需要坚持敏捷治理理念，推动构建“政校企行”多方协同共治的治理共同体，共同推动科技向善。政府规范引导，主要包括完善风险治理顶层设计和总体治理体系、制定分类分级监管指引、开展监督检查等。企业守正创新，主要包括研发与训练大模型等AI技术遵守伦理规范制度、发展伦理风险治理技术、寻求发展与治理的平衡、在监管框架下合理分配主体责任等。行业自律评估，主要包括通过标准化形成行业规范和行业自律及行业自治、设立独立专家的第三方评估以补充企业内部评估等。学校规范应用，主要包括提高师生伦理风险意识、加强学术伦理与诚信教育等。

探索“制”与“治”协同发力的治理机制。坚持“制”与“治”协同发力。坚持“以道驭术”，筑牢制度预防链条。制定生成式AI教育应用的技术标准、规范指南、法律法规，完善风险审查与评估机制，建设风险分类分级监管制度，健全风险监控与预警机制和快速响应与应急处置机制，设置风险举报、投诉、反馈、回溯与持续优化机制，创建伦理风险责任制度，设立伦理风险研究激励制度等，规范和引领各类主体的行为。坚持敏捷治理，实行动态监管治理。加强生成式AI教育应用的伦理风险全过程监测与预警，重视全生命周期的伦理风险监管与治理，突出对伦理风险的跟踪与研判，及时动态调整治理方式和治理规范，多方联动快速灵活应对风险挑战，实现“预警型”“善后型”“动态型”有机结合。

以提升治理效能为目的，强化生成式AI素养。提高研发者与应用者的素养对规避与防范生成式AI教育应用的伦理风险至关重要。一是重视研发者伦理培训，嵌入伦理设计，从源头上遏制风险隐患。加强研发者的伦理道德、社会主义核心价值观教育培训，使其合法合规研发与标识，生成健康、向善的优质内容，降低大模型的“幻觉”问题，实现价值对齐；提高研发者的数据伦理风险意识，使其在数据收集、处理、存储到训练的全过程中坚守数据伦理，防止数据和隐私泄露。二是加强师生的AI素养培训，提升师生AI应用伦理风险感知与防范能力。教师是教育的主导者，提高教师的AI素养有助于在推动知识教育向智慧教育转变的同时提升教师感知和识别风险并进行有效干预能力，降低学生对生成式AI的沉迷依赖、抄袭与考试作弊、价值观和思辨能力的冲击等伦理风险。而提高学生的AI素养有助于提升其使用AI获取知识和信息的能力，增强伦理风险的识别能力和个人隐私与数据保护能力。

（作者单位分别为常州大学马克思主义学院;苏州大学马克思主义学院。本文为江苏省教育科学规划重点课题“生成式AI教育应用的伦理风险治理研究”阶段性研究成果，项目编号：B-b/2024/01/147）