关键词：生成式人工智能；ChatGPT；人类思维符号表征；价值观及语言偏见；教育适用性；基础模型
//引言
本研究是对《指南》进行解读的第一篇，重点结合生成式人工智能的工作原理，考证其教育应用的安全性、价值观投射、未成年人独立聊天的风险，并辩证分析其在支持教育内容提供、教学过程实施等方面的适用性和变革潜能，以期探索更有针对性的管理和应用策略。
//一生成式人工智能的基本性能：对人类思维符号表征系统的模式识别与内容生成
在以文本、图像和视频制作为产品输出的商业领域，已投入使用的ChatGPT对于生产力的提升效果显著。哈佛商学院对律师、咨询等行业中ChatGPT应用效果的调查结果显示，ChatGPT可提高12.2%的文本生产力，文本加工的质量提升了40%[2]。但文本、图像和视频加工产品在教育领域属于初始的内容输入，而绝非教学目的，甚至不是教学过程的重点。因此，诸多关于生成式人工智能会对教育产生根本性变革的假说，多属于既脱离技术原理又无视教育目标和过程的无端推测。深入辨析生成式人工智能的技术原理、已有的技术边界和可能的技术发展路向，并从教学育人目标和过程出发考证其适用性，是理性判断其教育价值的逻辑基点。
1从处理人类思维符号表征系统的角度理解生成式人工智能
（1）生成式人工智能的定义
（2）生成式人工智能对人类思维符号表征系统的模式识别与内容生成
在近期生成式人工智能的诸多突破性技术中，真正引发深思的是该技术看似逐步具备了处理人类思维所采用的全部表征符号的性能。人类常用的符号表征有口头或书面语言呈现的自然语言、图形图像（包括抽象图形、照片或视频、图像、绘画等）、音乐和软件代码等。生成式人工智能技术支持人类借助自己惯常使用的各类符号表征来呈现提示或提供参考范例，然后通过生成式预训练转换模型，以人类无法觉察其延迟的运算速度，用论文、报告、演示文稿、声音、图像、绘画、视频、数字或数值、软件代码等各类符号，表征呈现其生产的内容、答案或建议。
在接受输入提示方面，ChatGPT-3和ChatGPT-3.5仅限于文本输入，而ChatGPT-4接受用户在文本输入的基础上同时使用语音和图像呈现混合提示，在“文生文”的基础上实现了“图（含视频）生文”“文生图（含视频）”等跨符号表征的功能，并支持在提示和响应中混合使用计算机代码。2023年9月，OpenAI发布人工智能图像合成模型的测试版本DALLE3，其以ChatGPT为基础，支持用户通过提示工程（PromptEngineering）逐步展开复杂的描述，再根据描述自动生成图像，展现了通过自然语言对话生成图像的能力。ChatGPT-4也获得了可为静止图像或录像自动生产字幕、对图像中的元素进行分类识别并分析图像中的文本内容、解释图像传承的艺术模因（Memes）、对同时含有文本和图像的文件进行总结提炼等技术性能。
由于生成式人工智能在技术性能、技术集成的深度和综合性等方面已超越单纯的大语言模型，有研究者认为“大语言模型”已不再适合概括生成式人工智能技术的全部内涵，故提出用生成式人工智能“基础模型”（FoundationModels）的概念代替大语言模型[3]。生成式人工智能最近的技术进展也为人工智能上下游垂直技术研发提供了具有突破性的基础模型，并触发了人工智能芯片、超算能力、数据分析和表达、模型优化等各核心技术领域的竞争。围绕生成式人工智能基础模型新涌现的“卡脖子”关键技术集群，将是自主可控数字技术研发的必争领域。
2生成式人工智能的技术原理
（1）生成式人工智能的基本工作原理
生成式人工智能借助概率对文本上下文进行模式识别，根据句法规则生成文本内容，但它并不理解语言的语义（Semantics），与人类理解自然语言并基于对语言的理解借助各类符号表征进行沟通和问题解决的能力相去甚远。同时，生成式人工智能不能借助句法理解文本和图像等背后真实世界中的物体和复杂的社会关系，尽管它可以为人类的知识发现提供文献综述和数据计算的支持，但其自身不能发现新知识。囿于现有技术局限，生成式人工智能技术无法为解决现实世界中的复杂挑战提供创新型解决方案，也不能做出社会价值判断或价值观引导。这一技术局限制约了生成式人工智能较为独立地引导复杂知识学习和问题解决的导学性能，进而限制了其变革教育的潜能。
②图像及音乐生成式人工智能的基本工作原理。图像及音乐生成式人工智能采用不同的人工神经网络技术——“生成对抗网络”（GenerativeAdversarialNetworks，GANs），可与变分自动编码器合并使用。GANs由两个对抗器组成，即生成器（Generator）和判别器（Discriminator）。以图像生成对抗网络为例，生成器会根据提示对图像要素组合模式进行识别并生成一个随机图像，判别器会对比生成图像与真实图像的拟合度。随后，生成器会根据判别器的对比结果调整其使用的复杂参数，以生成更优化的图像。在预训练中，该过程会被重复千百次，以保证生成器创作出判别器难以判断与提示预期存在差异的图像。例如，如果用数千张关于某地的风景照片训练一个生成对抗器，其创作的关于该地的非真实图像将几乎无法被识别为假图片。与此类似，如果用某种风格、某个音乐家或某一歌名的不同音乐数据集训练生成对抗器，其创作的新音乐将能复制原始音乐的复杂音乐特征。
表1OpenAI各版本GPT的训练用数据集和参数
（2）生成式人工智能的模型架构、预训练用数据量和参数的迭代升级
每一个新版本的生成式预训练转化器均在先前版本的基础上对人工智能架构、训练方法等进行综合的迭代优化，所使用的预训练数据集数量和所采用的参数也呈爆炸式增长。其中，参数是人工神经网络系统中决定该系统如何加工输入和产生输出的数值。参数通过训练中的数据界定，对模型中的知识和技能进行编码。参数决定预训练转化器的性能和应用表现，故而对预训练转换技术来说至关重要。一般而言，参数越多，能处理的数据和做出的表达越复杂。GPT使用了万亿数量级的参数，支持其处理复杂任务、生成逻辑连贯的文本的能力（具体如表1所示）。生成式人工智能架构和训练方法的迭代优化、预训练用数据集和数以亿计的参数处理，都依赖于超算能力的同步加速提升。2012年以来，用于生成式人工智能模型训练的算力的翻倍周期为3～4个月，其算力翻倍速度打破了预测计算机计算能力每两年翻一倍的“摩尔定律”[4]。
与此同时，目前垄断性生成式人工智能模型的训练用数据集以美国及其欧洲结盟国家的语言为主。在ChatGPT公布的训练数据集语言分布中，英语语料占比高达92.64708%，其次是法语（占比1.81853%）、德语（占比1.46937%），而汉语语料占比仅为0.09905%[6]。针对这一问题，后续发布的大语言模型开发商宣称将致力于提高训练用数据集的语言代表性，但整体上仍无法改变英语及西方结盟国家语言占绝对优势的现状。例如，在自称致力于提升大语言模型语言多样性的Meta公司开发的Llama2语料中，英语占比虽有所下降，但仍占89.7%；其他占比排前15的语言几乎没有改变；汉语语料略有提高，占0.13%[7]。
（4）现有垄断生成式人工智能平台的内容服务收费
字节通常被用作生成式人工智能收费服务的计价单位。1字节大概等于0.75个英文单词，而一个简体的中文汉字大概等于1.2～3字节或平均相当于2.7字节。以ChatGPT的定价为例，OpenAI细分出实用的产品变型并根据变型分类定价。每个产品变型通过可支持用户输入、输出的上下文长度（即提示输入的字节限制、内容生成的字节限制）进行划分，其中4K上下文最多允许4,096字节，而16K上下文最多允许16,384字节。OpenAI以GPT-3.5增强版作为起点服务平台，其服务定价如表2所示。而ChatGPT-4支持更长的上下文长度，其中型号为32K的产品的字节输入、输出长度均可达32,768字节，可支持对输入、输出性能要求较高的二级开发商和个体用户处理范围更宽泛的文件，并在对话中保持篇幅更长的上下文理解能力，但服务价格大幅提高，其服务定价如表3所示。
表2GPT-3.5增强版的服务定价
表3GPT-4的服务定价
OpenAI的图像和音乐等平台根据生成图像的分辨率或像素划分服务类型，并以图像为单元收费。DALLE的图像生产服务收费标准如表4所示。
表4DALLE的图像生产服务收费标准
//二已有垄断性生成式人工智能平台教育应用的安全和价值观风险
美国OpenAI、谷歌、Meta公司的垄断性基础模型已被广泛应用，并已被内嵌为数字基础设施的有机组成部分，将对包括教育在内的各领域数字安全产生广泛而长远的影响。考证垄断性生成式人工智能平台对数字安全性、价值观等方面的深远影响，是讨论其教育应用的安全底线。
1垄断性生成式人工智能平台的数字安全控制和价值观投射
（1）垄断性基础模型的数字安全威胁
（2）生成式人工智能不理解价值观，但会投射价值观
2确保生成式人工智能教育应用的安全性
（1）强化对面向境内提供服务的跨国生成式人工智能提供商的管理
2023年7月，我国国家互联网信息办公室联合多部门公布《生成式人工智能服务管理暂行办法》（下文简称《办法》）[9]，明确了辖域内服务适用的治理范畴界定，即“用生成式人工智能技术向中华人民共和国境内公众提供生成文本、图片、音频、视频等内容的服务”都应该接受本《办法》的管理；同时，明确规定提供和使用生成式人工智能服务应“坚持社会主义核心价值观”，并强调要“在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取有效措施防止产生民族、信仰、国别……等歧视”。鉴于生成式人工智能的价值观投射具有极高的隐蔽性，目前可预见的监控方法主要有两个：一是要求向境内提供服务的生成式人工智能平台体现辖域内主要语言在训练语料中的代表性，考虑设置中文在训练语料中的占比下限；二是监管部门和用户合作，对生成式人工智能输出内容投射的价值观进行监控，“建立健全投诉、举报机制”，一旦“发现违法内容的，应当及时采取停止生成、停止传输、消除等处置措施，采取模型优化训练等措施进行整改。”
（2）优先基础模型的自主可控研发和基于开源技术的国际合作
（3）支持基于本国课程标准的教育基础模型开发
//三生成式人工智能的年龄适用性和教学适用性
超越目前垄断性基础模型的安全性和适用性的范畴，生成式人工智能作为通用性的技术，也存在自身的技术性能有限并受人机互动边界的限制。从用户年龄、教学内容提供的需求、教学过程的特点等角度考证生成式人工智能的适用性，是发挥其教学育人潜力、规避风险的前提。
1“聊天式”内容服务的年龄适用性
2生成式人工智能用于教育内容获取的悖论
（1）生成式人工智能的商业内容产品输出不具备公共教育内容输入的直接适用性
在商业领域，生成式人工智能提供商面向商业客户开发并提供文案、图像、绘画、视频和音乐等产品服务，然后按服务质量和数量收费的服务模式无可厚非。但是，内容收费服务模式与知识属于公众领域、教育提供属于公益范畴的基本共识相悖。故而，这种以输出商业内容产品为目的的技术，也不具备直接用作教育内容输入的适用性。可能的解决方案包括开发和采用更具可承受性的本土教育生成式人工智能模型、政府集体购买现有平台的使用权限并作为教育技术方案的一部分供学校和师生免费使用等方式，为教育系统提供可承受的生成式教育内容。而生成式人工智能在教育内容提供方面的适用性或适用的范围，是一个更值得深入考证的悖论。
（2）生成式教育内容获取悖论
②教师天然知识与“机器瓶装内容”之间的选择悖论：预训练模型采用的训练数据是人类教师知识储备的数千万倍，但人类教师的知识是由人理解、由人输出的天然知识，其与学生的互动也是由人负责、由人随时动态更正和更新的天然人际互动过程。预训练模型的内容可用预先封装的“瓶装内容”来比喻，受其技术原理的局限，这种瓶装知识广度有余但准确度和人文互动不足。尽管谷歌、OpenAI等公司已将其大模型接入搜索引擎以支持即时信息和验证，试图打开“瓶装内容”的“瓶盖”。但如果忽视教师的天然知识及其对注意力、情绪等非智力因素的把控，而过分重视不理解语义和真实世界的机器内容，那么将陷入教学内容获取主渠道的悖论。
③借助生成式人工智能面向贫困地区提供教学内容的预算悖论：针对教育内容和优质师资匮乏的贫困地区、通过生成式人工智能平台支持学生内容获取的主张，从逻辑上是一种“用更不可承受的方案解决固有资源匮乏问题”的悖论。生成式人工智能的部署和日常性可持续应用对数字设备和宽带网普及率、学生数字技能等方面的数字准备状态要求极高，缺乏经费提高生/师比的国家和地区不具备这些需要充足经费且数十年积累才能达到的数字化准备状态。同时，越是在低收入国家和地区，个体用户需承受的互联网数据流量费用在其平均收入中的占比越高。据国际电信联合会统计，非洲地区国家2022年的互联网数据流量费用占平均国民收入的5%左右，低收入国家的互联网数据流量费用占平均国民收入的9.3%[15]。在低收入地区的师生及家长已无力承担现有通用互联网数据流量费用的前提下，要求师生再承担额外费用不具有可行性。
3“内容预制菜”应用于教学过程的反智隐忧
生成式人工智能根据人类用户的提示，在对各类素材进行模式识别基础上输出的文本、图像、音乐、视频等作品可称为“内容预制菜”。“内容预制菜”既可作为最终成果，也可作为半成品供进一步编辑、完善。生成式人工智能基础模型在商业领域的迅速普及，引发了“内容预制菜”商业模式在教育界的机械模仿。然而，学习主体在对确信的学习内容进行解构的基础上，开展主体能动的知识建构、技能获得和价值观养成，是实现内容的教育价值的根基。通过机器对训练用数据进行解构（即模式识别），在此基础上建构的“内容预制菜”反映的是对学生内容解构的替代逻辑。盲目强调“内容预制菜”的教育变革价值，可能会引发多层面的反智隐忧。
①内容幻象引发基础知识幻象。在内容输出过程中，生成式人工智能平台会生成关于客观事实和学科知识的“一本正经”的错误或者说是内容幻象。如果缺乏成人或教师的及时纠错，缺乏事实性知识和学习知识基础的低学段学生会基于人工智能幻象形成基础知识幻象。
②“内容预制菜”引发智力活动惰化。“内容预制菜”在商业领域可提高内容生产效率和质量。但在教育领域，内容更多地被用作教学讲解和学生理解的信息或知识输入，以培养人的智力、能力和价值观为主要目的。生成式人工智能对内容解构和建构的自动化替代，会剥夺学生尤其是低学段学生有目的地获取内容、有意识地从内容中解读意义、进行知识理解或形成技能的认知过程。处于智力和能力成长期的未成年学生如果长期无批判、去原理解读地复制“内容预制菜”并以此作为学习结果提交，会存在智力发展弱化（IntellectualEnfeeblement）的风险。
③与不理解世界的人工智能的对话可能引发导学反智。现有的垄断性生成式人工智能系统并不能理解文本或图像背后的真实世界，导致其在指导复杂知识的建构、结构不良问题的解决、通过观察的经验获取等方面均具有明显的技术劣势。如果缺乏对此技术局限的理解，忽视教师引导的作用而过分依赖生成式人工智能聊天平台对学生开展导学，将限制学生与现实世界互动中的经验获取、复杂问题解决能力的培养和价值观的养成。
总之，应明确在生成式人工智能教育应用过程中师生主体主观能动性的不可替代性，明确学生的复杂知识理解与建构、开放性问题解决、与真实世界的互动等尚属于人工智能技术不能也不应替代的人类主体性教学的边界。同时，要防止用不理解世界的生成式人工智能技术来取代教师辅助、引导学生高水平思维培养和开放式学习的理论假设或实践模式。
//四基于教学育人需求解锁技术潜能的生成式人工智能应用模式探索
在具体的教学过程中，生成式人工智能在基于模式识别的新内容生成、贯通表征符号的文图转换、参考提示标准的拟合度评判、提炼文图要点的发散性聚合等方面具有较为明显的优势。解锁生成式人工智能的技术潜能，应先锁定教学育人的现实困境和发展需求，由此确认具有教育适用性的人机协作方案或研发可“解锁”教学方式变革的创新实践“密钥”。对此，《指南》倡导构建“人类主导、主体适用的互动性应用”的生成式人工智能教学应用设计框架。在此基础上，本研究建议将课程内容制作、双基学习、特殊学习需求、高阶思维、探究实践等宏观教学需求作为教学设计的主要情境和脉络，并据此设计和实施适用于不同年龄和学习能力、不同学习领域需求的中观课程与微观教学，以超越内容过剩的人工智能教育应用现状。
1支持包容性课程资源制作的“转换器”：手脚增强的“人头马模式”
人工智能与教育中人类主体的关系不应是简单的竞争和替代，更不应是在已有数字化基础上增加的额外数字系统负担，而应从基础性支持工具层面贯通或升级数字化工具，在课程资源开发、行政管理等场域成为与人类智能共生和全教学过程融合的减负增智工具。
2支持基本技能形成性评价与反馈的“判别器”：教学助理数字孪生模式
教育教学作为一种复杂的形成性社会关系实践，并非在各个环节都需要实现个别化——其中最需要个别化的环节，是学生在练习基本技能过程中的形成性正误判别和纠正。生成式人工智能可依据人类提供的标准，实现对可计算的技能表现结果的拟合度匹配和判别，并提供形成性评价与反馈。对此，可以挖掘生成式人工智能迅速而强大的“判别器”潜力，构建部分实现教学助理功能的生成式教学助理数字孪生模式。在教育领域，可计算的技能表现包括人类的语言发音与拼写、计算机代码、基础性艺术学习中的基本艺术作品等。利用生成式人工智能，可以实现教师自身无法承担的、针对学生基本技能学习表现的一对一自动判别和个别化分析性反馈。2023年，哈佛大学采用ChatGPT支持其“计算机基础”课程的编码教学[16]，但该前瞻性探索不能被夸大为“哈佛大学用ChatGPT取代教师教计算机编程”：ChatGPT仅被用于帮助有坚实计算机知识技能基础的大学生理解编程语句中的重点和难点，通过对话方式判别和解释学生在学习过程中出现的代码错误，并提供改进代码编写的建议等。
但是，开展基本技能训练的教学助理数字孪生模式还远远不能支持语言领域的综合语言应用能力和跨文化理解力、计算机领域的高级编程能力和计算思维、艺术领域的艺术想象力等高阶能力的培养。另外，此模式对学生已有的知识技能基础、自我监控和调整学习进展的元认知能力和自我监控能力都有较高的要求。因此，教学助理数字孪生模式更适合高校、中高等职业教育及成人学习者。
3支持主体认知和探究的内容“增压器”：从内容富裕到探究富裕的研究助理模式
生成式人工智能支持下内容生成过程的高度自动化和生成结果的难以判别性，将倒逼课程与评价目标从“内容富裕”转为“探究富裕”。生成式人工智能合成的内容既无法被教师识别，也难以通过识别软件判别。如果教学目标局限于事实性知识的记忆且评价仅考察事实性知识的表达，学生就极易通过技术合成的内容应付作业和评价，导致生成式人工智能作弊的泛滥。
//五结语
考证生成式人工智能的教育适用性，不能局限于从已有教育体系的固有教育目标出发进行单向论证。近七八年来，人工智能已展现出通过任务单元的自动化来替代已有工作岗位、创造新岗位、打破现有工作技能培养格局的颠覆能力。生成式人工智能对工作岗位的颠覆已始于文稿创作、图像制作、音视频加工等行业[18]，但其对工作岗位及其技能预期的冲击不会仅限于此。尽管生成式人工智能不应撼动教育的基本心智能力培养、价值观树立等育人目标，但其对工作技能更新与课程教学目标调适的即时冲击和长远影响已成为各国需共同面对的基础性课题。
生成式人工智能虽仍有较大的迭代创新空间，但现有的模型不理解语义和真实世界的技术局限会限制其变革教育的潜能，并模糊了教学过程中相对独立地引导复杂知识建构和问题解决的人际互动边界。从“传道、授业、解惑”的教育价值底线出发，可将生成式人工智能技术的适用性概述如下：目前该技术具有较强的一对一“解惑”能力，但应首先确保学生独立聊天的年龄限制和平台的价值观去偏；经由教育数据训练的基础模型会获得一定的个别化“授业”能力，但目前仅限于对学习结果表现具有可计算性的有限“学业”领域，这就需要警惕人工智能内容输出对学生内部认知过程的替代和惰化；在目前及可预见的未来，人工智能技术不但不具备“传道”的育人适用性，而且在数字安全、价值观误导、学习过程反智等方面已显现出反育人的威胁。对此，在讨论生成式人工智能是否可以为教学育人的种种问题提供“新答案”之前，必须先辨析和防范其造成的“新问题”。
参考文献
[1][10]MiaoFC,WayneH.GuidanceforgenerativeAIineducationandresearch[M].Paris:UNESCO,2023:1-38.
[8]苗逢春.数字文明变局中的教育数字化转型[J].电化教育研究,2023,(2):47-63、91.
[9][13]中国网信网.生成式人工智能服务管理暂行办法[OL].
[14]DavidBA,AnsahLO.EducationintheeraofgenerativeAI:UnderstandingthepotentialbenefitsofChatGPTinpromotingteachingandlearning[J].JournalofAI,2023,(7):52-62.
[15]UnitedNations.Aglobaldigitalcompact:Anopen,freeandsecuredigitalfutureforAll[R].NewYork:UN,2023:4.
[17]WangH,FuT,DuY.etal.Scientificdiscoveryintheageofartificialintelligence[J].Nature,2023,620:47-60.
[18]FreyCB,OsborneM.GenerativeAIandthefutureofwork:Areappraisal[J].BrownJournalofWorldAffairs,2023:1-12.