人工智能司法应用法律风险及法治应对.pdf
《人工智能司法应用法律风险及法治应对.pdf》由会员分享,可在线阅读,更多相关《人工智能司法应用法律风险及法治应对.pdf(10页珍藏版)》请在咨信网上搜索。
1、果。Zheng Fa LunCongApr.10,2024No.2政法论竺第2 期2024年4月【文章编号】10 0 2 6 2 7 4(2 0 2 4)0 2 15110人工智能司法应用法律风险及法治应对*王秀平(山东政法学院民商法学院,山东济南2 50 0 14)【内容摘要】2 0 2 2 年11月底,OpenAI发布ChatGPT;2024年2 月16 日,OpenAI又发布了Sora,呼啸而过的科技带来的是一个新时代。人工智能的司法应用在辅助机制方面确有实际效用,但也引发了算法不透明、决策权重配置、裁判规则僵化、对司法权威的损害等诸多司法实践难题。法律风险需要法治应对:首先,数据隐私和
2、安全需建立严格保护机制;其次,人工智能决策可能不透明和不公正,需要可解释性和透明性技术确保公正;再次,人工智能可能存在歧视和偏见问题,需要数据治理和审查减少影响;最后,人工智能应用可能挑战司法程序的公正和人权保护,需通过法律和伦理规范解决。应当坚持司法主体责任,允许实验性设置决策权重,保持制衡并强化人机交互决策制度在人工智能司法中的体系定位,力求扩大和完善人工智能司法应用的制度功能与法律规范供给。【关键词】人工智能司法应用法律风险金法治应对【中图分类号】DF0-05【文献标识码】A数字时代正在涌现各种数字智能技术,如5G、人机交互、AI、区块链和大数据等,成为数字空间的核心性技术。同时,应用场
3、景和深度合成技术,如Deepfake、C h a t G PT、元宇宙和Sora等也越来越受到关注。ChatGPT是OpenAI推出的一种人工智能技术驱动的自然语言处理工具,具备语言生成、上下文学习、已知知识储备与输出等功能,ChatGPT已经适应了人类的表达预期,信息获取和人机交互的方式已经被极大地改变。传统的社会治理模式必然会被数字时代的发展逻辑所颠覆,在法治轨道内形成和发展新质生产力,以人工智能技术的极致未来感,感受新质生产力的澎湃动能。人工智能司法应用在提升管理质量、促进司法效率、深度融合辅助司法裁判等领域,这些技术的出现为司法的创新性发展提供了前所未有的推动力量,对数字社会法治建设的
4、进程起到了有效的促进作用。在司法领域应用人工智能时,需要将人作为中心,充分发挥人工智能的积极作用,同时注意其负面影响。对于司法人工智能的应用,权利保护至关重要,这一过程要防止技术侵权损害司法公信力,同时避免技术带来的权利不平等,并警惕技术蒙味主义对权利意识的破坏。从内外两个角度看,司法人工智能的构建是技术赋权的本质,同时也必须与创新系统和秩序系统形成有机整体。一、人工智能司法应用的理论供给与价值意蕴(一)人工智能司法应用的现状检视人工智能在司法中的引人引发了诸多争议,其中关于人工智能是否能够增强司法裁判准确性的讨论尤为突出。虽然人工智能具有黑箱决策的特性,可能剥夺或减少人类司法决策权,但人工智
5、能司法具有诸多角度的优势:首先,人工智能司法更容易被社会接受,由于其决策过程是基于算法和数据分析,相对于人类法官的主观判断,人工智能司法的判决更具客观性和公正性,从而增强了可接受性;其次,人工智能司法能够快速处理大量的法律案件和文书,提高了信息整全性和信息筛选效率;再次,人工智能司法应用还能够减少人为因素的干扰,降低了司法错误和不公正的风险,进而提升了社会效果,尤其在对机器有较高信任程度和文化背景的国家,人们更可能接受机器审判并认为其更为准确公正。虽然人工智能司法在某些方面能够为司法决策提供支持和参考,但是在实践中仍需谨慎,因此,平衡人工智能与人类司法者的角色划*基金项目:本文系教育部人文社会
6、科学研究规划基金项目“数字司法中法官诉讼关照义务研究”(2 3 YJA820003)的阶段性研究成作者简介:王秀平(197 7-)女,山东武城人,山东政法学院民商法学院副教授,研究方向为诉讼法学、数据法学。2024年政法论丛152分,力求最大程度发挥人工智能在司法领域的效果。人工智能在信息筛选方面具有更高的效率,人工智能可以被分为强人工智能和弱人工智能,设计良好的人工智能系统可以从收集相关案例的角度,为司法者提供有效的基于差异性和相似性的参考信息和类案建议防止迷失在在浩瀚的信息中。人工智能在社会效果评估和判断社会风险方面发挥着重要作用。在美国和英国等国家,人工智能软件被广泛应用于风险评估中,虽
7、然并不能带来法律层面的绝对准确性,但在信息筛选和社会效果评估方面仍具有一定优势,能够提供更加准确的风险事实判断,有助于减少再犯率,通过法律数据库系统为法官、检察官、律师和学者提供更为全面的法律信息,人工智能辅助司法已经存在并逐渐成为司法领域的重要工具。在法治化、数字化、智能化的新时代,推动依法治国和以数治国相结合,毫无疑问是一种顺应时代发展的新方式,是国家治理现代化的必然选择1P24(二)人工智能司法应用的实践模式人工智能在司法领域的应用已经取得了显著进展:人工智能的客观性有利于提升类案处理的统一性,可以帮助消除司法决策中的主观倾向。近年来,在智慧司法和智慧法治顶层设计的推动下,各地法院开始积
8、极推进在审判领域广泛展开人工智能司法应用工作,运用最新的技术工具快速提升司法能力。江苏法院实现人工智能辅助系统全覆盖,提供智能分析、自动归纳等功能,有效提升司法效率;人工智能的全面性有利于弥补认知判断的局限性,可以帮助法院更好地处理信息和风险:江苏法院的特殊代理人风险预警系统和杭州互联网法院的法官画像分析系统,都能帮助法官更好地应对案件和提升办案效率。通过智能辅助办案工具的应用,司法机构能够更高效地处理案件、提高审判质量和效率,从而推动司法体系的现代化发展;人工智能司法应用技术不仅能够减轻法官的工作压力,还能够提升司法运行的效率和公正性,为当事人提供更好的保障和司法服务。进入大数据人工智能时代
9、,“数据法院、智慧法院”成为新一轮技术革命在法院落实的最好注脚。虽然人工智能具有防范冤假错案、提高司法效率、预防司法腐败的显著客观作用和价值,但对人工智能需有清醒认识,它不可能取代或代替法官办案。2P101(三)人工智能司法应用的发展策应生成式人工智能(AIGC)的快速发展,给传统的审判模式带来结构性与根本性的变革,对其赋能过程进行考察和分析,具有积极的现实意义。在智能化司法阶段,AIGC在赋能智慧法院提升效率、加速科技与司法融合、督促司法队伍素质提高的同时,也带来了权力专属性原则面临挑战、司法数据不充足、算法歧视和算法黑箱等风险。为厘清AIGC赋能智慧司法建设困境的具体原因,可从人工智能技术
10、的固有缺陷、技术的权力属性、案例数据的弱标签化三个方面着手,提出增强司法系统的技术掌控能力和算法决策的可解释性,建立统一的现代化司法案例数据库,并推行跨学科的复合型法律人才培养等针对性建议,以促进中国式司法技术融合情理的现代化发展,充分发挥生成式人工智能赋能智慧司法的功能。3P221.人工智能挖掘力促进司法应用的可预测性江苏高院还研发了司法大数据智能分析平台,运用大数据分析、自然语言处理等技术,建设了裁判文书全文分段检索、态势分析生成器、报告引擎、内网新闻数据查询、数据多维比对、数据大屏等功能。虚假诉讼智能预警系统也由江苏高院开发,通过自然语言处理、大数据、云计算和智能算法技术,关联和拓展核心
11、的风险人员,针对民间借贷纠纷等八类案由,系统能够智能识别相关案件和风险人员,实现虚假诉讼的自动预警、科学认定、源头防范和精准打击。在数字经济的潮流中,面对人工智能的兴起与带来的改变,接纳与创新应用是不二之选。4 P151人工智能司法应用确实可以提高精准性和司法效率,但也需要防范算法透明度和数据隐私等法律风险。2.三力合一实现人工智能司法应用国家信息化发展战略纲要中的新一代人工智能发展规划提出了加强人工智能司法应用的明确目标,最高人民法院则发布了关于规范和加强人工智能司法应用的意见,国家对人工智能司法应用的顶层设计进行的支持和引导为人工智能在司法领域的应用提供了指导和规范,为智慧法院的应用和研发
12、提供了持续指引和动力。司法大数据的丰富程度对人工智能的发展起着重要支撑作用:全国法院实现了互通互联的专网,每年受理的案件数量庞大,各类案件数据自动转移汇聚在大数据服务和管理平台,其中包含了各类领域宝贵的裁判规律和司法经验,最高人民法院2 0 2 4年2 月2 7 日召开新闻发布会,宣布人民法院案例库正式上线并向社会开放,且广受关注的裁判文王秀平:二智能司法应用法律风险及法治应对153第2 期书网并不会关闭,都为人工智能司法应用的发展提供了丰富的实践资源;人工智能技术的快速发展也推动了人工智能在司法领域的应用:近年来,人工智能技术经历了从强计算弱智能到强智能的转变,智能机器更加强大的数据处理能力
13、得益于算法和算力的快速发展,更高效、更精准的输出结果推动着人工智能司法应用的建设,提高了其质量和效率。现代法治中的司法决策本质上是一种规范性活动,无论是人工智能或是人类,法律解释和推理都伴随着价值判断,在确定解释方法和进行推理时,需要考虑立法意图、法律目的以及当下公众预期等因素,人工智能系统大致可分为基于规则的专家系统和预测性算法,其中规则系统主要由数据库、知识库和推理机组成,而预测性算法通过训练和概率算法提高决策准确性,在人工智能司法应用中,司法决策的规范性使其不同于计算性或预测性技术,人工智能司法更接近于“代码即法律”或“规范性科技”概念,其特殊性在于司法决策权转移到代码或设计者手中。基于
14、提高司法效率、提升审判质量、规范办案流程的目标,目前,人工智能主要应用于信息的搜集和转化、协助裁判决策以及审判监督管理,司法人工智能的技术效应存在限度,对内存有法律内在实质正义实现的隐忧;对外则存在质高量足数据收集的壁垒,究其原因,从法理维度看,司法理性与技术理性之间的矛盾难获弥合;从实践维度看,在司法领域,平衡司法工作人员主观导向和智能技术应用的难题仍然存在;在技术方面,机器算法的黑箱障碍是一个难题。需在设计和优化司法人工智能应用时设定明确的边界。在基本立场层面,应尊重司法价值和效果,以司法逻辑为主导而非算法逻辑。在技术保障层面,以算法和数据为着力点,改良司法人工智能整体生态。51P182二
15、、人工智能司法应用的法律风险与背反效应的省思在司法领域,人工智能的主体地位尚未得出明确结论,但主体认定在法律逻辑上至关重要,若继续遵循传统逻辑而不承认人工智能为主体,可能会导致界定相关案件的权责体系变得混乱。当人工智能应用于司法实践时,参与审判案件的责任如何界定?基于人工智能的预测而导致的不公平后果应由谁承担?如何对人工智能进行追责?继而引发数据隐私与安全、伦理道德、算法歧视、公平正义等新一轮质疑,这些都是人工智能在司法实践中面临的问题与风险。而背反效应则是指一种现象,表示当试图实施一项政策或措施来解决某个问题时,反而导致了与预期效果相反的结果,这种效应可能是由于人们对政策的反应与预期不同,或
16、者是由于政策实施的方式或环境因素导致了出乎意料的结果,背反效应的出现可能会对政策的有效性和可行性造成负面影响,因此在制定政策或实施措施时,必须考虑各种可能的反应和结果,以避免出现背反效应。(一)基于司法本体论的审视从司法本体论角度看,人工智能司法应用的背反效应源于对实质正义关注不足,而过度追求数字化考核指标以及“锦标赛”式的司法推进。法律面前人人平等是基本原则,赋予人工智能法律主体地位意味着法律必须同等对待人工智能和人类。亦即必须动用人类自身的资源对人工智能进行与人相同或者类似的法律保护,从而与法律对于人类自身利益实现的宗旨完全相悖。6 P86人工智能在裁判辅助、司法管理辅助和事务辅助中所引发
17、的背反效应,都与司法本体中的实质正义、法官主体性以及审判过程中的个体正义有着本质的矛盾,因此,在推进人工智能司法应用过程中,需要充分考虑司法本体的价值取向,坚持以司法为本,保障法官的独立裁量权和司法正义,(二)基于司法认识论的审视在诉讼过程中,司法审判被大陆理性派和英美经验派视为理性应用的过程,人工智能缺乏对经验理性主义的整合,这是导致背反效应的主要原因。其中大陆理性派强调理性知识的演绎法则,而英美经验派则认为理性知识来源于感觉经验,然而,人工智能在裁判辅助、管理辅助和事务辅助中忽视了对经验理性的关注,转而侧重于技术理性。智能模型的黑箱系统和算法模型的不可解释性导致了人工智能应用的非理性特征,
18、使得人类经验在司法领域中被忽视。因此,人工智能司法应用出现背反效应的原因在于过度关注技术理性,而忽视了经验理性,导致司法裁判中人的主体性逐渐被技术取代,在推进人工智能应用的过程中,需要平衡技术理性和经验理性,确保人工智能的应用不脱离人类经验和正义的核心价值。(三)基于司法方法论的审视法律活动的本质在于准确确定事实并精确适用2024年政法论丛154法律规范,这些过程都不可避免地依赖于法律的可解释性,司法裁判过程涉及对案件事实和法律规范的解释,其中对证据的解释和对法律的适用都需要法学研究和解释方法的支持。的确,算法的复杂性已是横亘在公众面前的一座难以逾越的高山,若再加上机器学习的复杂与多变,无疑是
19、“雪上加霜”。7 P156数字世界里的算法无处不在,然而人工智能司法应用所依赖的算法模型却缺乏可解释性,在深度学习领域,智能算法的决策过程无法被解释,即使是设计者也无法准确解释其决策原因,人工神经网络的结构在决策过程中存在隐层和大量数据决定了决策过程理解的困难度。依赖于大量数据积累的相关性来构建认识规律的智能化算法模型,其输出结果难以解释且具有不确定性,裁判过程从依法庭审转变至不可解释的自动化算法,导致对算法模型责任性和科学性的关注增加,人工智能司法应用呈现出法律领域中的背反效应。技术革新并不足以颠覆人工智能在司法应用中辅助审判的基本原则,人工智能需对程序性事务与实体性事务区别对待,慎入诉讼后
20、阶段的审判权行使活动,以此保障人类法官公正、独立、自由地进行司法裁判。,8P65三、人机交互决策的功能构造与制度设计(一)司法实践中人机协作中“人”的范围界定有不同观点认为“人”仅限于法官,也有观点认为应该包括诉讼参与人在内,广义的“人”概念应该包括法官和诉讼参与人,这是基于智慧司法设立的宗旨和优化智慧司法的考量。智能系统推送的结果是各主体工作交互后的产物,每个主体均在不同且相互关联的环节中发挥作用。91P102智慧法院建设的宗旨是以人为本,为服务司法并提供更便利的司法服务。因此,人机协作中的“人”应该包括法官和诉讼参与人,以确保提供精准的司法服务和形成合力,共同推动智慧法院建设。二)司法实践
21、中人机协作中“机”的范围界定在案件审判过程中,通过文字识别将当事人提交的起诉书、答辩状、证据材料中的事实要素提取出来,自动选择具体裁判规则进行分析推理,结合庭审中双方辩论意见归纳争议焦点,最终得出判决结果并生成完整文书。10 1P20在法律数据获取阶段,采用更先进的OCR技术,确保对文本资料的准确识别和处理,从而减少错误率。同时,加强数据处理阶段的电子化工作,确保案件材料的准确记录和整理,减少数据处理过程中的错误和重复;在数据处理阶段,通过引人自动化生成技术,如智能辅助系统,实现文书的自动化生成。这样可以减少法官和工作人员在文书处理过程中的工作量,提高处理效率,并减少重复性工作导致的错误;在数
22、据应用阶段,推行无纸化办案模式,利用智能辅助系统和录音录像技术,实现庭审过程的自动记录和准确留痕。这样可以减少庭审过程中的纸质材料传递和整理,提高庭审效率和准确性。(三)司法实践中“人机协作”的交互关系新型重大疑难复杂案件中,应确保人的绝对控制地位,避免技术主导风险,智慧法院建设中,保障司法权的主导地位至关重要,特别是在处理新型重大疑难复杂案件时,需要法官在决策和判断中拥有主导权,而智能化系统仅仅作为辅助工具;在类案智推阶段,需要确保智能系统具有主动地位,能够主动推送关联案件和批量案件的信息;通过优化系统算法和数据共享,实现系统的主动性,减少重复劳动和错误;对于特殊案件,如不公开审理、先行调解
23、、涉及财产保全等,应排除“人机协作”场景,坚持线下开庭原则,这些特殊案件需要保障更高法益的保护,需要法院进行主导与控制,避免线上审理模式可能带来的风险(四)司法实践中人机交互决策的构建路径1.坚持人工智能司法辅助性定位司法的创新性发展以及智能技术的深度合成为司法裁判中智能系统应用提供了客观基础。但人工智能技术的两面性特征,决定了其在提高司法效率的同时也冲击和挑战着原有的司法伦理观念。由于缺乏对智能系统应用限度的理性认识,出现了智能系统对其辅助性地位的僧越。要将智能系统的适用严格控制在一定限度,以技术理性压扶经验理性偏差,以经验理性抵挡技术理性侵蚀,控制和缩小裁判风险后果,修正和规制智能系统应用
24、限度,将理性主义下司法审判中人工智能应用的工具主义定位和辅助性地位作为主轴,限定智能系统辅助审判的适用场景,建立应用场景监管,实现对司法裁判人工智能应用限度规制的模式完善,将经验、评判策略、价值判断和形式推理有机融合,最终弥合司法裁判与智能技术之间的张力,探究司法裁判的理性路径。1P128司法的目标在于个案的公平正义,而非裁判效率。法官或检察官拥有司法大数据、实践理性和与法律共同体、社会共同体的深度交流优势。他们的判断往往更为合理,难以王秀平:工钻能司法应用法律风险及法治应对155第2 期被人工智能取代。此外,个性化与弥散化决策在司法制度中有其正当性,不同判决可以为法律提供竞争性解释,帮助避免
25、整个司法系统的错误2.人机决策权重设置的规则体系大数据和人工智能在司法领域的应用与传统的司法信息化有所不同,其技术介人的广泛性和深刻性引发了独特的现象,随着前沿技术地位的提升,司法领域出现了“一种实践、两套话语”的现象,这种“话语分裂”源自法学专业知识和科学技术知识在司法领域中的权力和冲突,表现为专业话语和技术话语的对立。在下一阶段大数据与人工智能司法应用的过程中要协调话语冲突,推动技术知识与专业知识的深度融合、明晰技术权力对专业权力的介人边界。12 P137不给人工智能任何权重或给予微小权重,司法者可以选择是否参考人工智能的建议;反之,则要求司法者必须参照人工智能裁判,人工智能被赋予相对较大
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 人工智能 司法 应用 法律 风险 法治 应对
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【自信****多点】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【自信****多点】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。