慎重对待AI自习室“伴学”功能

■针对类似AI学习机等人工智能教育产品应用可能存在的潜在风险，要未雨绸缪，标本兼治

　　■探索利用AI促进教育创新的有效模式，促进AI教育产品应用的伦理性、包容性和公平性

　　以人工智能为代表的数字技术迅速发展，渗透到社会生活的各个环节、各个领域。在教育领域，一些中小学校周边出现不少AI自习室，这不仅为学生提供了个性化的学习体验，也引发了关于教育未来发展的广泛讨论。

　　AI自习室的核心是通过由AI算法和大模型支持的学习机与学习机上的智能助学系统，提供线下督学、托管等服务，打造“以智助学”的新型学习空间。它主要通过先进的人工智能技术，搭建沉浸式学习环境，为学生提供定制化的学习计划和智能推荐学习资源，学生在其平台还可以同时购买会员服务获得更多的学习便利，实现学习资源按需供给。不仅如此，自习室中的AI学习机还可以帮助检查作业中的基础错误、知识点讲解，增强互动性学习体验，提升学生的学习效率，满足学生多样化需求。

　　但AI如同一把双刃剑，在为教育注入变革能量的同时也会带来诸多现实隐忧。AI自习室的出现，既能给学生带来很多便利和好处，也有可能存在不少潜在风险。从教育公平的角度看，AI自习室过度依赖高端智能硬件设备和付费学习资源，尽管满足了部分学生个性化学习的需求，也会使弱势群体学生被排除在AI赋能的教育之外，这显然不利于教育资源公平分配，可能会加剧学生之间的数字鸿沟和学习不平等。从“双减”政策治理的角度看，随着大批校外培训机构的关停和转型，隐形变异学科类校外培训价格随之“水涨船高”，部分机构由“地上”转入“地下”，改头换面，可能会以AI自习室的名义违规开展学科类校外培训，这就增加了校外培训治理的难度。并且，学生学习成绩的提升，不仅仅取决于AI学习机本身的功能和质量，更重要的是教师的指导、学生的学习习惯和自律性以及家长的参与等。过度依赖AI学习室，可能会适得其反，成为学生新的负担。从隐私安全的角度看，在AI自习室中，学生的一举一动处于智能设备“监控”之下，学生处于AI空间之中，不经意间就会留下“痕迹”，这些在深度学习过程中保留下的敏感数据，可能会引起不法分子通过窥视、数据非法采集、算法深度挖掘等造成个人隐私侵权，对学生个人隐私安全造成不利影响。从“信息茧房”的角度看，AI自习室中的学生个性化学习的自动推送功能，可能会增加学生“懒惰”行为，使其丧失探索未知和创新的可能性。

　　联合国教科文组织编制的《人工智能与教育：政策制定者指南》中提出，以合乎伦理、包容和公平的方式将人工智能应用于教育领域，影响着每一个可持续发展的目标。为此，我们要慎重看待AI自习室“伴学”的功能，针对类似AI学习机等人工智能教育产品应用可能存在的潜在风险，要未雨绸缪，标本兼治，探索利用AI促进教育创新的有效模式，促进AI教育产品应用的伦理性、包容性和公平性。

　　为确保AI教育产品安全可靠、高效服务教学，促进学生健康成长，应加强AI教育产品的治理。首先，建立全覆盖的AI教育产品差异化准入审查制度。按照“凡进必审”“谁选用谁负责”等原则建立“双审查”责任制，围绕AI教育产品的需求设计、算法验证、验收评估等环节，对AI教育产品公平性、健康性、科学性和适宜性进行审查。其次，构建全方位、全过程的AI教育产品动态监测体系。对AI教育产品的研发、应用等全过程进行监测，其重点包括不当内容与违法信息传播、个人隐私侵犯、数据泄露、算法歧视等。再次，完善绿色科学的AI教育产品伦理规约体系。在AI教育数据生成、记录和共享过程中遵循“有用”“无害”的伦理诉求，在重组、分析和解释教育数据时避免算法不合理带来的“信息茧房”和“算法歧视”。最后，构建AI教育产品公平使用机制。优先在农村、边远、贫困地区配备教育数字化基础设施，为弱势群体学生提供AI教育产品应用指导，让优质AI教育资源惠及更多学生群体。（作者系华中师范大学教授）

作者：付卫东

来源：《中国教育报》