生成式人工智能如何规范应用健康发展

7月，国家网信办联合国家发展改革委、教育部、科技部等多部门公布《生成式人工智能服务管理暂行办法》（以下简称《办法》），自2023年8月15日起施行，旨在促进生成式人工智能规范应用和健康发展。生成式人工智能技术是指具有文本、图片、音频、视频等内容生成能力的模型及相关技术。

技术发展与教育之需

5G、大数据、人工智能等新一代数字技术对教育产生了深远的影响，同时也暴露了目前教育存在的一些弊端，如过于注重知识和技能的传授导致学生个性化需求难以满足、教育资源分配不均衡、师生互动反馈实效性低等。生成式人工智能作为人工智能的一个重要分支，具有较大潜力解决这些教育问题。通过深度学习和生成模型，为学生提供个性化的学习路径，根据学生的学习进度和兴趣生成相应的内容资源。此外，生成式人工智能还可以协助教师编制教案、创新教学活动设计、拓宽评估方式等，教育工作者充分利用智能工具，建设更智能、适应性更强的教育系统，实现优质教育资源的共享与传递，推动教育向更高水平迈进。

从国际视角来看，多国相继出台有关生成式人工智能在教育领域应用的政策。如英国发布《生成式人工智能在教育中的应用》报告，强调学校须提供针对性的教学内容，包括理解生成式人工智能的局限性、可靠性以及潜在偏见，互联网所呈现的信息如何组织以及网络安全相关知识等。日本发布《初等中等教育阶段生成式人工智能利用暂行指南》，认为应从有限利用生成式人工智能开始，检查验证利用过程的有效场景；学校要培养包含确认信息真伪在内的信息利用能力，提高人工智能时代所需的素质和能力。联合国教科文组织发布《生成式人工智能与教育的未来》报告，对生成式人工智能在教育的影响进行了批判性反思，并呼吁在生成式人工智能整合到教育系统的过程中应加强审查和监管，以确保生成式人工智能与教育的融合符合教育目标和人类价值观。纵观多国政策内容，在阐述育人的基础上均强调生成式人工智能在教育中应用的规范性，即教育相关人员如何规范化、合理化、安全化应用生成式人工智能。

人机融合与规范应用

人机融合是人类与计算机或其他智能设备之间的协同合作，以实现更高效的信息处理、决策和创新。教育领域人机融合过程中，机器需要发挥计算智能，快速接收、存储、分析数据信息，并为用户高效提供解决方案。人类需要发挥主体特性，进行思考批判、融合创新和情感沟通等，来弥补机器的不足和缺陷。

在这一过程中，规范应用生成式人工智能对教育管理者、教师和学生都至关重要。教育管理者：关注并跟进技术发展，有针对性制定明确的规范与准则，指导生成式人工智能在教育中的应用；应投入相关教育资源，包括基础设施和专业培训，确保教师和学生能够充分利用生成式人工智能的教学工具和资源；定期审查和评估生成式人工智能生成的教学资源，确保其质量和适用性，避免错误或有害内容对学生产生负面影响。教师：主动接受相关培训，熟悉生成式人工智能的相关应用，掌握其关键技术和使用技巧；根据学生的特点和需求，进行个性化的教学活动设计，让人工智能技术更好地为学生服务；当生成式人工智能提供的内容不完全符合实际需求时，教师应有能力进行干预和纠正。学生：在使用人工智能辅助学习时应保持主动性和自主性，而不是完全依赖于人工智能系统；可以充分利用个性化学习辅导特性，根据自己的学习需求和进度，获取量身定制的学习材料和练习题目；同时可利用相关应用进行作业评估和获取即时反馈。

风险防范与健康发展

《办法》的出台，标志着生成式人工智能服务在我国的应用开始进入规范化和标准化的阶段。因此，不仅要积极探索生成式人工智能技术在教育教学中的应用，同时也需要对其潜在问题进行风险防范。

目前，生成式人工智能应用主要存在以下风险。一是生成式人工智能自身模型存在缺陷，精确度低，推理能力一般，可解释性和可信任性有待提高，并存在用户隐私泄露隐患。二是无法满足高层次教育需求，缺乏高阶思维能力，不能提供人性化的互动。三是弱化师生思维能力，可能会引起师生对生成式人工智能应用的依赖性，降低其独立思考能力。四是可能会成为“作弊”工具，给一些学生带来“走捷径”的想法，甚至成为考试作弊的工具。

对生成式人工智能教育应用的研究和监管，需要重点考虑以下几个方面：

第一，确定使用目的，教师、学生等教育相关人员要避免过度依赖工具而忽略了其他教学资源和方法。第二，思考应用情境，生成式人工智能应用可以在一些特定的情境下发挥作用，如内容创作、数据分析、方案生成等。值得注意的是，教师需要有选择性地将此类应用融入教学环节中，并根据不同教学场景特点进行有针对性的管理和规范。第三，确保数据和师生隐私安全，应用提供方需要遵循相关法律法规，确保数据的合法性和安全性，同时保护师生的隐私不受侵犯。第四，注意内容质量，生成式人工智能应用的质量取决于训练数据的质量，用户需要对其输出的内容进行二次辨别。第五，强化监管和指导，教育领域的生成式人工智能技术需要加强监管和指导，确保其应用符合教育规律和学生成长规律。相关部门应建立完善的监管机制，对技术的应用进行审批和监督，同时为技术的应用提供指导和支持。第六，促进技术创新，生成式人工智能技术的应用需要不断进行技术创新，以满足教育的需求和发展的需要。需要鼓励企业和研究机构进行技术研发和创新，提高技术的质量和水平，同时避免技术滥用和低水平重复。（作者单位系北京邮电大学教育技术研究所）

作者：王世杰 文福安

《中国教育报》