中国青年网

教育

首页 >> 文字列表 >> 正文

慎重对待AI自习室“伴学”功能

发稿时间:2024-12-25 10:19:00 来源: 中国教育报

  ■针对类似AI学习机等人工智能教育产品应用可能存在的潜在风险,要未雨绸缪,标本兼治

  ■探索利用AI促进教育创新的有效模式,促进AI教育产品应用的伦理性、包容性和公平性 

  以人工智能为代表的数字技术迅速发展,渗透到社会生活的各个环节、各个领域。在教育领域,一些中小学校周边出现不少AI自习室,这不仅为学生提供了个性化的学习体验,也引发了关于教育未来发展的广泛讨论。

  AI自习室的核心是通过由AI算法和大模型支持的学习机与学习机上的智能助学系统,提供线下督学、托管等服务,打造“以智助学”的新型学习空间。它主要通过先进的人工智能技术,搭建沉浸式学习环境,为学生提供定制化的学习计划和智能推荐学习资源,学生在其平台还可以同时购买会员服务获得更多的学习便利,实现学习资源按需供给。不仅如此,自习室中的AI学习机还可以帮助检查作业中的基础错误、知识点讲解,增强互动性学习体验,提升学生的学习效率,满足学生多样化需求。

  但AI如同一把双刃剑,在为教育注入变革能量的同时也会带来诸多现实隐忧。AI自习室的出现,既能给学生带来很多便利和好处,也有可能存在不少潜在风险。从教育公平的角度看,AI自习室过度依赖高端智能硬件设备和付费学习资源,尽管满足了部分学生个性化学习的需求,也会使弱势群体学生被排除在AI赋能的教育之外,这显然不利于教育资源公平分配,可能会加剧学生之间的数字鸿沟和学习不平等。从“双减”政策治理的角度看,随着大批校外培训机构的关停和转型,隐形变异学科类校外培训价格随之“水涨船高”,部分机构由“地上”转入“地下”,改头换面,可能会以AI自习室的名义违规开展学科类校外培训,这就增加了校外培训治理的难度。并且,学生学习成绩的提升,不仅仅取决于AI学习机本身的功能和质量,更重要的是教师的指导、学生的学习习惯和自律性以及家长的参与等。过度依赖AI学习室,可能会适得其反,成为学生新的负担。从隐私安全的角度看,在AI自习室中,学生的一举一动处于智能设备“监控”之下,学生处于AI空间之中,不经意间就会留下“痕迹”,这些在深度学习过程中保留下的敏感数据,可能会引起不法分子通过窥视、数据非法采集、算法深度挖掘等造成个人隐私侵权,对学生个人隐私安全造成不利影响。从“信息茧房”的角度看,AI自习室中的学生个性化学习的自动推送功能,可能会增加学生“懒惰”行为,使其丧失探索未知和创新的可能性。

  联合国教科文组织编制的《人工智能与教育:政策制定者指南》中提出,以合乎伦理、包容和公平的方式将人工智能应用于教育领域,影响着每一个可持续发展的目标。为此,我们要慎重看待AI自习室“伴学”的功能,针对类似AI学习机等人工智能教育产品应用可能存在的潜在风险,要未雨绸缪,标本兼治,探索利用AI促进教育创新的有效模式,促进AI教育产品应用的伦理性、包容性和公平性。

  为确保AI教育产品安全可靠、高效服务教学,促进学生健康成长,应加强AI教育产品的治理。首先,建立全覆盖的AI教育产品差异化准入审查制度。按照“凡进必审”“谁选用谁负责”等原则建立“双审查”责任制,围绕AI教育产品的需求设计、算法验证、验收评估等环节,对AI教育产品公平性、健康性、科学性和适宜性进行审查。其次,构建全方位、全过程的AI教育产品动态监测体系。对AI教育产品的研发、应用等全过程进行监测,其重点包括不当内容与违法信息传播、个人隐私侵犯、数据泄露、算法歧视等。再次,完善绿色科学的AI教育产品伦理规约体系。在AI教育数据生成、记录和共享过程中遵循“有用”“无害”的伦理诉求,在重组、分析和解释教育数据时避免算法不合理带来的“信息茧房”和“算法歧视”。最后,构建AI教育产品公平使用机制。优先在农村、边远、贫困地区配备教育数字化基础设施,为弱势群体学生提供AI教育产品应用指导,让优质AI教育资源惠及更多学生群体。

责任编辑:宋静