国际人工智能教育治理政策规划和创新路径研究——首届人工智能安全峰会《布莱奇利宣言》要点与思考.pdf
《国际人工智能教育治理政策规划和创新路径研究——首届人工智能安全峰会《布莱奇利宣言》要点与思考.pdf》由会员分享,可在线阅读,更多相关《国际人工智能教育治理政策规划和创新路径研究——首届人工智能安全峰会《布莱奇利宣言》要点与思考.pdf(9页珍藏版)》请在咨信网上搜索。
1、中国教育信息化 编辑部:国际人工智能教育治理政策规划和创新路径研究要要要首届人工智能安全峰会叶布莱奇利宣言曳要点与思考兰国帅杜水莲肖琪宋帆蔡帆帆摘要:人工智能教育治理是世界各国教育面临的共同议题遥厘清人工智能给教育带来的潜在风险袁制定国际人工智能教育治理的政策规划袁探明推动人工智能教育治理国际合作的创新路径袁有助于促进人工智能技术全方位赋能教育袁推动人工智能教育治理学术共同体构建遥 2023年11月袁在首届人工智能安全峰会上袁来自中国尧美国尧欧盟等28个国家和国际组织的代表袁共同签署了叶布莱奇利宣言曳袁这也是全球第一份针对人工智能技术的国际性声明遥采用文本分析和内容分析法对该宣言出台的政策背景
2、和研究目的进行分析袁从人本主义批判视角着重探究国际人工智能教育治理的政策规划袁并反思其对我国人工智能教育治理创新路径的启示院构建开放且透明的人工智能教育治理体系尧建立动态化的人工智能教育治理监管机制尧推动人工智能教育治理国际合作多边机制尧提升人工智能赋能教育安全风险预判能力袁以及秉持共同尧综合尧合作尧可持续的安全观袁以期加速我国人工智能教育治理现代化袁为国际人工智能教育治理总体规划的制定贡献中国方案遥关键词:ChatGPT曰生成式人工智能曰人工智能安全曰教育治理曰人工智能教育中图分类号:G434文献标志码:A文章编号:1673-8454渊2024冤03-0043-09DOI院10.3969/j
3、.issn.1673-8454.2024.03.006作者简介:兰国帅袁河南大学教育学部副教授尧硕士生导师袁博士后渊河南开封475004冤曰杜水莲尧肖琪尧宋帆袁河南大学教育学部硕士研究生渊河南开封475004冤曰蔡帆帆袁通讯作者袁温州职业技术学院瑞安学院助理研究员袁硕士渊浙江温州325207冤基金项目:2023年浙江省教育厅科研资助项目野高职院校教师数字能力评估及优化路径研究冶 渊编号院Y202352084冤曰 2023年河南省软科学研究计划项目野耶互联网+教育爷推进河南县域义务教育优质均衡发展的机制与路径研究冶 渊编号院 232400410019冤曰 2024年河南省高等学校重点科研项目资助
4、计划野河南省高校教师数字化转型能力框架构建及提升路径研究冶 渊编号院 24A880003冤2024年 第3期(第 30 卷 总第 534 期)Vol.30,No.3Mar.2024中国教育信息化Chinese Journal of ICT in Education43中国教育信息化 编辑部:中国教育信息化2024年第3期一、问题提出随着人工智能技术的飞速发展与广泛应用,教育领域进入新的技术变革时期。人工智能作为引领教育创新的内生力量,在为教育赋能的同时也衍生出一系列不容忽视的教育风险,如数字贫困加剧、未经同意使用内容、模型输出无法解释、人工智能生成的内容污染互联网、产生更深层次的深度造假等问题
5、,需要更加审慎地看待人工智能技术教育应用的限度1。在人工智能与教育治理深度融合方面,理论层面存在顶层设计缺乏、监管框架缺位、政策框架缺失等问题;实践层面缺少相对科学完善的应用指南、监管认证工具、创新实施方法和行动措施,严重削弱了人工智能技术全方位赋能教育数字化转型的能力,制约着人工智能技术与教育治理实践的深度融合。因此在人工智能与教育相互融合的进程中,科学治理尤为关键2,加强人工智能的教育安全治理已成为维护世界安全与稳定的迫切需求。人工智能教育治理是当今世界各国关注的焦点。中国是人工智能技术创新与应用领域的领先者之一,对国际人工智能教育治理作出了重要贡献。2019 年 6 月 17 日,国家新
6、一代人工智能治理专业委员会发布 新一代人工智能治理原则发展负责任的人工智能 ,提出人工智能治理的框架和行动指南。之后国家科技伦理委员会正式成立。2021 年,该专业委员会又发布 新一代人工智能伦理规范,标志着我国已初步形成人工智能治理的总体价值指引3。2023 年,我国出台 全球人工智能治理倡议 ,提出要加强全球人工智能治理,促进合作共赢,确保安全可控,防止偏见歧视。目前,我国人工智能教育应用研究理论层面仍存在监管框架缺位、监管措施不足等诸多现实问题4。国内学术界对人工智能教育治理也开展了深刻讨论和前沿探索,聚焦人工智能教育应用中的伦理规范建设、治理模式变革、政策框架架构、治理路径提出等方面5
7、-8,形成丰富的认识视角和治理思路9。然而,我国人工智能教育安全治理在国内和国际层面上仍面临双重困境:国内困境主要包括数据隐私暴露、伦理规范缺位、法律法规缺失等方面的挑战;国际困境主要包括技术竞争激烈、标准制定滞后、国际合作缺乏等方面的难题10。为加速我国人工智能教育治理和教育数字化转型进程,亟需了解国际前沿人工智能教育治理的政策规划,在顶层制度设计和宏观战略规划两个层面,统筹制定符合我国人工智能教育安全治理的政策总体规划,保障更健康的人工智能教育发展,为国际人工智能教育治理贡献中国方案和中国智慧。值此关键节点,首届人工智能安全峰会于2023 年 11 月 1 日至 2 日在英国布莱奇利园举行
8、,来自中国、美国、欧盟等 28 个国家和国际组织的代表,共同签署了 布莱奇利宣言(The BletchleyDeclaration,以下简称 宣言 )11。宣言 强调了以人为本的人工智能发展理念,呼吁各国科研机构、企业等在人工智能设计、开发和使用过程中,始终以人的福祉为出发点和落脚点,确保人工智能技术为人类带来实实在在的利益。同时,宣言 也警示了人工智能发展过程中可能带来的伤害,要求各方通过建立健全法律法规等手段,防范和化解相关风险。本研究采用文本分析和内容分析法,介绍了 宣言 的发布背景和研究目的,从人本主义批判视角着重探究国际人工智能教育治理的政策规划,思考我国前沿人工智能教育治理的创新路
9、径,以期为我国加速人工智能教育治理和教育数字化转型,推进前沿人工智能与教育44中国教育信息化 编辑部:深度融合提供实践参考。二、国际人工智能教育治理的政策规划人工智能教育治理攸关全人类命运,是世界各国面临的共同议题。发展人工智能,应当积极倡导以人为本,智能向善,加强技术风险管控,并在遵守相互尊重、平等互利原则的基础上,鼓励各方协同共治,增强发展中国家在人工智能教育全球治理中的代表性和发言权,不断弥合智能鸿沟和治理能力差距。基于此,首届人工智能安全峰会发布 宣言,提出了国际人工智能教育治理的政策规划(见图 1)。渊一冤采取行动在全球范围内安全发展人工智能教育1.以负责任且安全的方式设计和开发人工
10、智能教育人工智能为全球发展带来了巨大机遇,人工智能技术应用于教育领域,可以帮助教师调整教学策略,优化教育教学流程,提高教育教学效果,还可以帮助培养学生的智能思维,提高学生的创造力、协作能力、沟通能力、批判性思维等智能素养。人工智能教育应用潜力无限,然而人工智能技术的快速发展和迭代更新也给人工智能教育治理带来一系列挑战。为应对这些挑战,保障公民利益,一方面,要以更加安全的方式设计、开发、部署和使用人工智能,培养公众对人工智能教育系统的信任,以充分发挥人工智能的潜力;另一方面,要倡导国际社会加强在人工智能教育治理方面的合作,以促进人工智能和教育的深度融合,推动人工智能教育应用健康、可持续发展。2.
11、遵循以人为本的行动理念发展人工智能教育人工智能系统已在日常生活的许多领域应用,其在教育领域的应用更是越来越广泛。因此,必须认识到采取行动确保人工智能教育应用安全发展的必要性,精准把握人工智能带来的教育变革机会,以便在全球范围内以更加包容的方式推动教育发展,促进联合国可持续发展目标的实现。同时,只有通过立即采取行动在全球范围内安全发展人工智能,才能确保人工智能教育应用安全、稳定、公正地发展。3.解决人工智能带来的重大教育风险必要且迫切人工智能在给教育领域带来机遇的同时,也带来了诸多风险和挑战。为此,亟需作出相关努力,在现有论坛和其他相关举措中审查和解决人工智能系统的潜在影响,并认识到解决人工智能
12、的透明度、公平性、问责制、包容性、隐私泄露、人权保护等问题的迫切性。此外,在教育教学中,人工智能操纵内容或生成欺骗性内容的能力也可能会带来不可预见的风险,因此解决人工智能带来的重大风险必要且迫切。4.加深对人工智能赋能教育潜在风险及应对行动的理解前沿人工智能的应用可能会出现特殊风险,例如能力强大的通用人工智能模型(包括基础模型),可以执行各种各样的任务,但在执行任务的过程中狭义的人工智能可能存在造成伤害的风险。此外,潜在的故意滥用或与人图1国际人工智能教育治理的政策规划国际人工智能教育治理政策规划和创新路径研究45中国教育信息化 编辑部:中国教育信息化2024年第3期类意图相关的意外控制也可能
13、会产生重大风险。在教育领域中,这些潜在风险可能会对教育教学产生不可估量的恶劣影响。然而,这些问题的产生在一定程度上是因为人们对人工智能造成伤害的能力没有充分理解。因此,我们不仅需要关注人工智能教育应用的网络安全问题,还需要预防前沿人工智能教育系统可能存在的放大虚假信息等风险。无论是故意的还是无意的,人工智能模型都可能会造成严重甚至灾难性的伤害。在技术投资加速的背景下,鉴于人工智能技术变化速度飞快且难以确定,加深对人工智能教育应用潜在风险的理解并采取行动应对这些风险尤为紧迫。渊二冤以包容的国际合作应对人工智能教育风险1.加强国际合作应对人工智能教育应用的相关风险人工智能带来的许多教育风险本质上是
14、国际性的,因此最好通过国际合作解决。为应对人工智能带来的教育风险,各国需以包容的方式共同努力,确保以人为本、值得信赖和负责任的教育人工智能可持续发展,并通过现有的国际论坛和其他相关举措促进国际合作。在此过程中,各国应考虑适度治理和实施监管措施的重要性,以及人工智能在教育应用中的相关风险,根据国情和适用的法律框架对前沿人工智能教育应用最有可能出现的风险进行分类,如人际疏离、技术滥用、个人隐私泄露、人工智能偏见等,并通过现有国际论坛和其他相关举措,包括未来的国际人工智能安全峰会,加强和维持与其他国家的合作,并扩大合作范围,以包容的国际合作解决人工智能教育风险。2.充分发挥各利益攸关者在确保人工智能
15、教育安全方面的作用国家、企业、社会组织机构和学术界等领域的参与者都可在确保人工智能教育安全方面发挥作用。例如,对人工智能技术应用于教育所产生的伦理风险,各国政府、非政府组织以及个体都应参与到解决过程中,协作配合,共同治理,通过商谈达成道德共识,制定相应的研发与使用规章,确立促进人工智能教育健康发展的伦理原则12。此外,应认识到更具包容性的人工智能和弥合数字鸿沟的重要性,重申国际合作应努力让更多的合作伙伴参与,鼓励提出有助于发展中国家加强人工智能能力建设的发展导向、方法和政策,并利用人工智能的促进作用,支持可持续发展和缩小发展差距。3.前沿人工智能开发者对确保人工智能教育安全负有重大责任人工智能
16、技术应用于教育,必须在整个人工智能生命周期中确保那些强大且具有潜在危害的人工智能教育系统的安全性,尤其是前沿人工智能的开发者,对确保这些人工智能教育系统的安全负有重大责任,可以通过安全测试系统、评估系统和其他适当措施来保障人工智能教育应用的安全。同时,鼓励所有参与者在其计划中提供适当的透明度和问责制度,以衡量、监测和减轻人工智能在教育应用中的潜在危害和可能出现的相关影响。此外,教育机构需与生成式人工智能的研发企业在伦理原则和法律底线上达成共识,积极寻求并听取参与人工智能教育安全风险讨论的利益攸关者和专家群体的意见,促进人工智能研究人员、决策者和其他利益攸关者之间的跨学科对话,构建伦理准则,确保
17、人工智能技术造福社会13。渊三冤建立国际前沿人工智能教育安全科研合作网络1.确定共同关注的风险,以制定基于各国国情的治理政策并酌情开展合作在采用更广泛的全球方法来理解人工智能46中国教育信息化 编辑部:对社会影响的背景下,识别各国共同关注的人工智能教育风险,建立对这些风险的科学和基于证据的共同理解至关重要。针对已知风险,各国应制定相匹配的政策,以确保人工智能教育治理的安全开展,并积极开展国际合作。同时各国应认识到采用的方法可能因国情和适用的法律框架而不同,具体方法包括提高私营开发者开发的人工智能教育应用的算法透明度、研制适当的评估指标、建设安全测试工具,以及发展人工智能教育治理能力和进行科学研
18、究。2.建立包容性的国际前沿人工智能教育安全科研网络,以提供最佳的科学证据人工智能在教育领域的应用刚刚起步,许多风险都很难评估。然而,如果等到人工智能教育的安全隐患明显出现或者爆发,才去制定相关教育治理规则,那么人类会为此付出惨重的代价。国际社会有必要对人工智能进行严密而谨慎地审视,人工智能教育治理规则的制定也必须要有一定的弹性,以便随时根据实际情况进行调整。为推进这一议程,可建立一个具有国际包容性的前沿人工智能安全教育科学研究网络,通过现有的国际论坛和其他相关举措,为政策制定和维护公共利益提供最佳科学依据。3.开展包容性的全球对话,以推动前沿人工智能教育国际讨论和安全研究人工智能教育安全治理
19、要达成全球性共识还面临不少挑战,各国由于国情、发展的差异,在人工智能教育安全治理方面存在不同的利益诉求。当前,人工智能教育安全领域在原则和伦理层面比较容易达成共识,但在技术规范、治理标准等具体领域难度较大。但无论如何,国际社会保持开展包容性的全球对话、参与现有的国际论坛和其他相关举措,推动广泛的前沿人工智能教育国际讨论和安全研究,均有助于全球人工智能教育治理在发展和安全之间求取最大的平衡,以确保各国能够负责任地利用人工智能技术造福人类。三、我国人工智能教育治理的创新路径渊一冤构建开放且透明的人工智能教育治理体系袁促进人工智能教育健康持续发展随着人工智能技术的快速发展和广泛应用,人工智能教育治理
20、已成为各国共同关注的热点问题。数字时代,确保人工智能安全、透明和负责任地使用成为一项紧迫任务。在这一背景下,我国亟需采取一系列积极措施,构建一个更加开放透明的人工智能教育治理体系,促进人工智能技术健康可持续发展,为社会创造更多的福祉。首先,需要根据人工智能教育治理的国际标准,制定符合我国实际的人工智能教育治理相关标准,以适应和引导人工智能技术的健康发展14。针对人工智能技术的国际治理,加强国际合作,根据人工智能技术的最新发展,结合人工智能技术应用过程中已经出现或潜在的、可预测的问题及风险,修订人工智能教育治理相关国际标准,以使我国的人工智能教育治理体系更加开放透明且符合现实情况。其次,政府部门
21、需要加快构建人工智能教育技术的监管框架。一方面,人工智能教育安全风险的治理,既要从技术设计研发的源头入手,又要在技术的运用过程中科学研判,并及时解决出现的问题15。因此,政府部门要在安全、开放、透明等伦理原则的基础上,重视对人工智能前端开发者资质和行为的审核,并要求其构建数据风险评估认证机制,以提高风险防范能力。另一方面,要在实践层面加强数据安全治理,例如在人机交互过程中涉及用户个人信息时,需要提前告知当事主体并取得同意。国际人工智能教育治理政策规划和创新路径研究47中国教育信息化 编辑部:中国教育信息化2024年第3期最后,需逐步建立和完善专门针对人工智能教育治理的法律法规。随着人工智能技术
22、应用的越来越广泛,其蕴含的风险问题也逐渐显露。因此,迫切需要制定并实施专门针对人工智能教育治理的法律法规16,加强教育领域标准规范、教育信息数据开放共享、数据算法监管问责等课题研究,逐步形成和完善教育治理体系,以实现对人工智能法律风险的源头治理,促进人工智能技术健康可持续发展和广泛应用17。渊二冤建立动态化的人工智能教育治理监管机制袁确保人工智能技术研发的安全性人工智能技术正以前所未有的速度和规模重塑着教育生态系统,人工智能在教育领域中的应用,不可避免地会出现算法歧视与偏见、教育透明度下降、教育不确定性扩大等问题,这将打破技术创新与安全管控之间的平衡,给监管提出前所未有的挑战。因此,亟需建立动
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 布莱奇利宣言 国际 人工智能 教育 治理 政策 规划 创新 路径 研究 首届 安全 峰会 布莱奇利 宣言 要点 思考
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【自信****多点】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【自信****多点】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。
链接地址:https://www.zixin.com.cn/doc/2390537.html