生成式人工智能教育创新应用的人本主义追求——对UNESCO《教育与研究领域生成式人工智能指南》的解读.pdf
《生成式人工智能教育创新应用的人本主义追求——对UNESCO《教育与研究领域生成式人工智能指南》的解读.pdf》由会员分享,可在线阅读,更多相关《生成式人工智能教育创新应用的人本主义追求——对UNESCO《教育与研究领域生成式人工智能指南》的解读.pdf(9页珍藏版)》请在咨信网上搜索。
1、一、背景与源流:GenAI的崛起与指南发布生成式人工智能(Generative Artificial Intelli-gence,简称GenAI)的迅速崛起,不仅改变了传统的信息交流和处理流程,更在教育场景中产生了多种创新性应用。在全球范围内,随着OpenAI的GPT-4模型的广泛应用,其展示出深度学习技术在处理复杂任务方面的高度成熟(王正青等,2023)。谷歌的DeepMind也在重新定义AI在高级决策制定中的能力(刘鑫怡等,2022)。在国内,百度凭借其自然语言处理技术在GenAI领域持续领先,其发布的ERNIE模型在多项任务上已超越了国际先进水平(徐继敏,2023)。然而,技术作为一把“
2、双刃剑”,其在为教育领域带来创新潜力的同时,也必然会引发社会伦理、文化和安全方面的挑战(王磊等,2023)。重新审视与解决这些问题成为GenAI被广泛应用于教育领域的先决条件。2023年9月,联合国教科文组织(UNESCO)发布了教育与研究领域生成式人工智能指南(以下简称指南)(UNESCO,2023)。该指南由全球多位教育及AI领域专家协同制定,强调人本主义作为AI的价值旨归,可以视为对GenAI合理应用于教育领域的国际回应。整体而言,该指南包括部分内容:第一部分系统剖析了GenAI的基础构造与运行机理,并详细呈现了多样化的技术模型;第二部分明确指出了与GenAI相关的一系列复杂且备受关注的
3、伦理和政策问题;第三部分着重讨论了基于人本主义理念规范GenAI所需关注的关键步骤与核心要素;第四部分高屋建瓴地提出了综合性的策略建议,并由此构建了一个连贯、全面的政策框架;第五部分从创新角度探究了GenAI在课程设计、教学与学术研究中的应用潜力和发展方向;第六部分从宏观角度深刻反思了GenAI在教育和研究领域可能带来的长期性战略影响。这部分内容生成式人工智能教育创新应用的人本主义追求对UNESCO 教育与研究领域生成式人工智能指南 的解读王炜赵帅黄慕雄摘要:2023年9月,联合国教科文组织发布教育与研究领域生成式人工智能指南。该指南特别强调将人本主义作为生成式人工智能(GenAI)的价值旨归
4、,可以视为GenAI在教育领域创新应用的有益探索和先声回应。指南包括的6部分内容从风险与挑战、策略与调控、突破与尝试三个维度展开,依次系统分析了GenAI在教育及科研环境中的潜在风险与挑战,设计了全面的治理策略与政策调控方案,并探索了GenAI的教育创新应用。纵览该指南发现,无论是从教育理念到具体实践,抑或是从社会责任到人的发展,GenAI与教育的深度耦合均以“人本”为最终旨归与核心要义。该指南对我国教育数字化转型具有四重启示:理念层面上,GenAI应促进以人为本的教育发展,确保其先进技术的红利能够普惠所有学习者;实践层面上,GenAI应更加贴合人的自然认知和发展规律,确保其服务于教育的核心价
5、值;社会层面上,GenAI应逐步完善伦理准则和法律框架,应对其带来的社会责任与伦理挑战;人本层面上,GenAI应凸显人的主体角色,确保其有助于培养学生的批判性思考能力,并尊重文化和个性的多样性。关键词:生成式人工智能;人本主义;人工智能教育;教育数字化转型中图分类号:G434 文献标识码:A文章编号:1009-5195(2024)01-0003-09 doi10.3969/j.issn.1009-5195.2024.01.001基金项目:广东新师范建设助推基础教育高质量发展研究与实践项目“人工智能背景下教师队伍建设研究与实践”。作者简介:王炜,博士,教授,博士生导师,广东第二师范学院教育数字化
6、研究院,广东第二师范学院教师教育学院(广东广州510303);赵帅,博士研究生,新疆师范大学教育科学学院(新疆乌鲁木齐830054);黄慕雄,博士,教授,博士生导师,广东第二师范学院副校长(广东广州510303)。王炜,赵帅,黄慕雄生成式人工智能教育创新应用的人本主义追求现代远程教育研究,2024,36(1)专题聚焦.3可以归纳为“风险与争议:GenAI的技术机制及其教育应用挑战”“策略与调控:以人为本的GenAI治理框架塑造”和“突破与尝试:GenAI在教育场景中的创新实践”三大模块,其对应关系如图所示。该指南作为“GenAI教育”的指引性先声文本,通过对其进行系统解读,有助于明晰GenAI
7、在教育数字化转型中的底层逻辑与上层要旨,进而确保GenAI技术在推动教育创新的同时,兼顾以人为本的价值遵循。图1指南框架与分析维度二、风险与争议:GenAI的技术机制及其教育应用挑战指南的第一与第二部分构成了“风险与争议”模块。该模块首先对GenAI的工作原理进行深入剖析,然后基于GenAI的技术机制讨论其在教育领域应用的争议与风险。GenAI所依赖的核心技术包括自然语言处理和多媒体内容生成技术。该技术不仅能自动解读并响应自然语言指令,还能生成包括文本、图像、视频、音乐和软件代码在内的全新内容,彰显了其在启发性内容生成能力、对话情境理解能力、序列任务执行能力、程序语言解析能力等方面的核心优势(
8、卢宇等,2023)。这些卓越的能力得益于其复杂的统计分析和机器学习算法,特别是基于Transformer架构的生成式预训练语言模型(杨宗凯等,2023)。ChatGPT作为一种大规模人工智能技术的典型代表,凭借强大的自然语言处理能力的技术支持,也对教育领域提出了前所未有的新挑战。表1详细列出了指南中所提及的8项风险,综合展现了GenAI在社会、法律和伦理领域所面临的复杂挑战。这些风险不仅涉及技术层面,如数字鸿沟的加剧、法律监管的滞后、知识产权的侵犯,以及运作机制的不透明性等;而且也触及了GenAI在创造全新的思想或解决复杂的社会实践等方面的核心问题(李政涛,2023)。总体而言,这些风险不仅揭
9、示了GenAI本身的内在复杂性,而且也反映了其在教育领域应用时可能导致的广泛而深远的社会影响。表1指南中提及的8项风险及其内涵序号12345678名称加剧数字鸿沟脱离政策监管侵犯知识产权运作机制不透明生成内容不可靠缺乏对现实社会的理解限制多元的观点表达产生虚假内容内涵GenAI的普及和应用主要集中在技术先进的国家和地区。这些地区拥有大量的数据和强大的计算能力。相反其他数据贫瘠的地区由于缺乏足够的计算资源,正面临被进一步排斥和边缘化的风险。GenAI发展速度迅猛,但法规和立法进程却落后,导致了一系列法律和伦理问题难以得到妥善解决。GenAI在构建过程中,会从互联网上抓取大量数据,而这些数据通常没
10、有获得数据所有者的明确许可。这可能导致GenAI模型被指控侵犯知识产权。GenAI的输出缺乏清晰、可理解的内部逻辑。这种不透明性可能产生不可预期的结果及用户对GenAI的盲目信任。GenAI所输出的内容,尽管看起来令人信服,但往往包含错误和偏见。因为这些技术主要依赖来自互联网的训练数据。GenAI在输出文本或其他形式的内容时,仅仅重复训练数据中的语言模式,无法生成关于人际关系、文化价值观或社会动态的真正新颖或深刻的见解。由于GenAI通常倾向于输出反映其训练数据集中的主流观点,这种情况有可能抑制或忽视多元化的观点表达。使用GenAI修改或操纵现有的数字素材(如图像、视频)以创建逼真的伪造内容。
11、这些内容通常难以用肉眼识别,有可能加剧网络虚假信息的传播。1.发展失衡:GenAI加剧数字鸿沟及其监管缺位在教育领域,数字鸿沟不仅是一个技术问题,更是教育发展失衡的问题(尚智丛等,2023)。高质量教育对先进数字工具和教育技术的日趋依赖,会进一步加剧不同地域之间的教育数字鸿沟。如由经济发达地区所训练的先进GenAI模型可能在经济弱势地区因文化和教育需求不匹配而适得其反。另外,监管缺位也会进一步放大这种教育发展失衡。在法规和伦理准则匮乏的情况下,GenAI更易被滥用,进而导致在教育评估和资源配置等方面的不平等。因此,教育研究者应持有批判性思维,全面审视GenAI所引发的数字鸿沟问题,以确保其在教
12、育场景下的公平应用。2.侵权风险:GenAI数据的非授权使用与隐私侵犯由于GenAI模型通常是通过从互联网上抓取未经明确授权的数据进行训练,因此其在知识产权方面存在一定的侵权风险。例如,GenAI可能会生成含有受版权保护的文本或图像的教育材料,这将使王炜,赵帅,黄慕雄生成式人工智能教育创新应用的人本主义追求现代远程教育研究,2024,36(1)风险与争议:GenAI的技术机制及其教育应用挑战策略与调控:以人为本的GenAI治理框架塑造突破与尝试:GenAI在教育场景中的创新实践第一部分:GenAI的内涵与工作原理第二部分:GenAI的争议及其对教育的影响第三部分:GenAI在教育领域应用的监管
13、与调控第四部分:教育及科研中GenAI应用的政策框架拟定第五部分:教育及科研中GenAI的创新应用第六部分:GenAI与教育和科研的未来本研究的分析维度指南 的框架结构.4得教育和学术领域内对于版权和剽窃的界定更加艰难。此外,GenAI在处理大量个人数据特别是学生和教师的个人敏感信息时,也容易出现侵犯师生数据隐私的问题。在缺乏透明度和充分监管的环境下,GenAI很可能会成为数据滥用或泄露的“达摩克利斯之剑”。3.信任危机:GenAI算法模型的不透明性由于GenAI模型通常基于庞大的参数量进行运算,故其输出的结果可能会缺乏清晰且具有可解释性的内在逻辑。这种不透明性意味着虽然可以观察到GenAI的
14、输出结果,但却难以解释或验证其生成内容的过程及其背后的逻辑。而模型及其参数本身的不可验证性,亦使得准确识别并纠正其中的偏见或错误变得尤为困难。这种不透明性不仅可能导致不可预期甚至有害的结果,还可能使学生和教育工作者对其输出的结果产生过度信赖。例如,若将某个GenAI模型用于个性化教学或学术评估,其不透明性和不可解释性可能会让教育工作者和学生产生过度或盲目的信任。因为他们无法深入了解该模型作出特定推荐或评价的机制。这种盲目信任也可能导致错误的教学决策或学术评估,进而影响学生的学习成效与心理发展(王丽等,2023)。4.内容误导:GenAI所引发的错误、偏见与虚假信息GenAI生成的内容看似权威,
15、实则可能隐含着错误和偏见。对于尚未完全掌握批判性思考能力的个体而言,他们更易将这些误导性信息视为权威可靠的学习资源。由于GenAI更倾向于重复其训练数据中的主流观点,且缺乏对现实世界人文和社会价值的深刻理解,故其可能会抑制生成多样性的观点,也可能会妨碍学生社会情感智能的培养。此外,GenAI还可能伪造逼真的“假信息”,用于制造、传播虚假信息或进行不道德活动,进而危害教育生态环境和学生心理健康。因此,要确保GenAI在教育中的良性发展,避免上述潜在问题对教育质量和公平性产生负面影响,就必须要制定更为严格的监管措施。三、策略与调控:以人为本的GenAI治理框架塑造指南的第三与第四部分构成“策略与调
16、控”模块。对照指南的逻辑框架,该模块首先讨论了人本主义原则在GenAI应用中的核心地位,其次分析了人本主义视角下GenAI的治理方案与参与主体,最后提出了更具操作性的治理框架。1.人本主义视角的AI治理原则人本主义视角下的AI治理原则是一种确保技术与人类价值观和权益相协调的重要观点(肖君等,2023)。参照2019年的北京人工智能与教育共识(UNESCO,2019)以及2021年的人工智能伦理建议(UNESCO,2021),我们可以获知,教育领域的AI使用应以促进人类的可持续发展为根本目的,同时要尊重文化多样性和边缘群体的权益。而联合国教科文组织于2022年发布的面向政策制定者的人工智能与教育
17、指南则为数字人本主义视角下进行AI治理的实际应用提供了具体行动方案,其中包括促进包容性学习、支持个性化教育、改进数据管理等(UNESCO,2022)。总之,以人本主义作为AI治理的原则,不仅需遵循伦理和法律准则,还需关注社会、文化和心理因素,以此确保GenAI是一种以人为本,且可用于促进公平、包容和高质量教育的有力工具。2.人本主义视角的AI治理方案制定具体的治理方案是人本主义视角下AI治理原则得以落地的关键举措。针对教育领域中GenAI的实践应用问题,该指南提出了一系列分阶段推进的详细方案(见图2)。图2数字人本主义视角下AI治理的推进措施从图2可知,从数据保护到国家AI战略整合,再到伦理以
18、及版权等问题,数字人本主义视角下的AI治理不仅是一种高屋建瓴的理论构建,更是一套具体、可操作、明确的治理措施。具体而言,人本主义视角下AI治理方案的核心在于融合技术智能与社会责任,以推动AI技术的可持续发展。这就需要从全球层面建立并完善相关的法律法规(如制定通用数据保护条例等),并将对GenAI的规范提升至国家战略层面。实现这一目标的关键在于,政府要全面参与并会同其他部门共同制定具体、可执行的法律条款,明确界定AI使用的道德准则和社会责任。为了应对GenAI对内容生成带来的挑战,一方面要继续加强对现有版权的法律法规建设,确保AI的开发和应用不会侵犯知识产权和实现数字人本主义视角下的AI治理建立
19、健全相关法律法规国家战略、政府参与、部门协同治理创建专门监管机构厘定版权问题制定具体可操作的AI伦理法规法条培养教育工作者的AI素养调研GenAI对教育的长远影响维护AI在教育领域的伦理与社会责任王炜,赵帅,黄慕雄生成式人工智能教育创新应用的人本主义追求现代远程教育研究,2024,36(1)专题聚焦.5个人隐私,也不会产生歧视和偏见,同时做到保护用户的数据安全。另一方面,需要对GenAI的监管进行细化并设立专门的监管机构,加强政府和社会企业之间的合作,共同推动AI治理方案的实施。在教育与研究领域,应将重点放在提高教育工作者和学生对AI技术的认知与素养培养上,体现为对AI技术基本知识和技能的认知
20、,以及对AI伦理和社会影响的理解。此外,还需持续研究GenAI对教育领域产生的长期影响,以便更好地指导AI技术在教育领域的可持续应用。唯有将AI技术的发展导向更加关注人的需求和权利,确保技术进步不会牺牲人类的基本价值和道德原则,才能真正实现技术赋能教育与研究的人本主义追求。3.人本主义视角的AI治理主体良好的AI安全风险治理不仅需要前瞻的政策指引,还需要AI产品提供者和使用者的多方参与(郭胜男等,2023)。指南明确提出了四个关键参与主体政府监管机构、GenAI提供商、教育机构用户和个体用户,这些组织和个体各自承担着不同的权责,需要在多个层面展开协作。政府监管部门。政府监管部门在GenAI的治
21、理中起着决定性作用,主要涉及7个核心方面:一是建立一个负责统筹GenAI全局的中枢机构,以促进各部门间的协同工作;二是要使现行法律与GenAI新法规相适应,以确保新法规与国家的法律体系及现有监管结构相协调;三是推动各部门协同合作,共同开发可靠、高效的GenAI模型;四是制定评估GenAI潜在风险的标准和流程;五是通过法律途径保护用户数据;六是对可能危害儿童的GenAI应用,设置年龄限制;七是参照国际标准如欧盟的AI法案等,进行风险分类和管理。GenAI提供商。GenAI提供商肩负着确保其产品安全、高效等10项核心任务,分别是遵循以人为本的企业价值观;确保数据和模型来源的可信度;禁止生成具有歧视
22、性或偏见的内容;算法透明化;标注由GenAI生成的内容;全程维护GenAI的安全性和可靠性;明确工具的使用场景和目标用户;公开技术限制;设置投诉机制;与政府和其他机构合作,监控和报告任何非法或不道德的应用。以上责任不仅确保了GenAI的安全和有效运用,而且也适切伦理与社会责任。教育机构用户。教育机构用户在GenAI的应用和管理中具有多重角色,包括持续监测和审计算法和数据,以保证其可靠和安全;保护用户,特别是儿童和弱势群体;定期评估GenAI在教育和其他领域的长期影响,以便及时调整应用策略;根据不同年龄和需求制定和推行GenAI应用指南。这些多角度的责任和行动不仅强化了GenAI的安全性和合规性
23、,也展现了其在教育应用中的人本主义理念。个体用户。个体用户在使用GenAI时主要承担以下责任:一是全面了解并接受使用条款和法律责任;二是遵循使用GenAI的伦理准则;三是在发现非法或不道德应用时,立即报告给相应的监管机构。这不仅有助于个体用户更好地遵守法律和伦理准则,也促进了整个社会对GenAI应用的负责任和安全管理。总之,这一多元有序的多主体治理体系不仅突出了以人为本的AI应用在教育中具有举足轻重的地位,而且在保证技术安全有效的基础上,兼顾了伦理和社会责任,有效平衡了创新与风险之间的关系,保证了GenAI在教育领域的可持续使用。4.人本主义视角的AI治理框架为了充分发掘GenAI在教育和研究
24、领域的潜在益处,构建合适的治理框架是必由之路。人本主义视角的AI治理框架强调以人为本,关注人的发展和需求。指南提出的8项治理框架体现了人本主义的核心理念,强调人的主体地位和促进人的全面发展,即在教育和研究领域中,AI的应用应能促进文化多样性、尊重个体自决、提升AI的教育质量、增进学习者和教育者的AI素养、鼓励创新思维,并探索适合本土文化和需求的AI解决方案。(1)开发支持多元文化的GenAI在人本主义视角的GenAI治理框架中,开发支持多元文化的GenAI系统是其关键组成部分。这要求在GenAI的整个生命周期中应重点关注包容性、公平性及语言和文化多样性。而扩展网络接入范围、提供全面的数字教育资
25、源、确保评估标准的公正无偏见、构建保护文化多样性的包容性规章,成为目标落地的现实路径。这些策略的综合应用旨在确保GenAI不仅能在技术层面高效运作,而且在社会层面也能展现出公正性。总之,这一关键框架旨在强调GenAI应在充分尊重全球文化多样性的同时,提供高质量且易于接入的教育资源,从而在全球范围内发挥其积极的教育作用。(2)强化用户对GenAI的自决性在人本主义视角下的GenAI治理框架中,强化用王炜,赵帅,黄慕雄生成式人工智能教育创新应用的人本主义追求现代远程教育研究,2024,36(1)专题聚焦.6户对GenAI的自决性是攸关之举。这要求供应商全面且透明地向用户披露GenAI系统中包括个人
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 教育与研究领域生成式人工智能指南 生成 人工智能 教育 创新 应用 人本主义 追求 UNESCO 研究 领域 指南 解读
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【自信****多点】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【自信****多点】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。
链接地址:https://www.zixin.com.cn/doc/2725488.html