技术性正当程序在网络平台治理中的运用——以企业合规管理为视角.pdf
《技术性正当程序在网络平台治理中的运用——以企业合规管理为视角.pdf》由会员分享,可在线阅读,更多相关《技术性正当程序在网络平台治理中的运用——以企业合规管理为视角.pdf(10页珍藏版)》请在咨信网上搜索。
1、数字经济与社会技术性正当程序在网络平台治理中的运用以企业合规管理为视角刘东亮常纯*西安交通大学法学院陕西西安710049摘要:当前,由“技术+规则”双轮驱动的平台自治成为首要的网络平台治理方式。而平台权力的兴起及可能的异化风险,要求加强对平台的规制和监管。整体上,技术性正当程序具有的“宽”“疏”“广”“严”四项特征与平台治理的特殊场景相适应,成为破局的关键。在平台规则的制定、执行和申诉处理阶段,技术性正当程序分别强调听取意见、说明理由和提供有效的权利救济。为促进技术性正当程序的落地实施,应当建立多层次、灵活的程序合规体系和创新监管手段督促平台实现程序合规,并建立高效、常态的第三方算法审计制度,
2、以全面提升对平台生态的治理能力和治理水平。关键词:网络平台治理;平台权力;技术性正当程序;算法审计;企业合规中图分类号:D922.16文献标志码:A文章编号:16728505(2023)04001910doi:10.12189/j.issn.16728505.2023.04.003TechnologicalDueProcessintheGovernanceofOnlinePlatformsFromthePerspectiveofEnterpriseComplianceManagementLIUDong-liangCHANGChun*School of Law,Xian Jiaotong Uni
3、versity,Xian,Shaanxi,710049,ChinaAbstract:Currently,platformgovernancedrivenbythecombinationoftechnology+rulesisemergingastheprimaryapproachtoregulateonlineplatforms.However,theincreasingpowerofplatformsandthepotentialrisksoftheirtransformationrequireen-hancedregulationandoversight.Inthisregard,thec
4、haracteristicsoftechnologicaldueprocess,namelybroadnessloosenesscom-prehensivenessandstrictnessalignwellwiththeuniquenatureofplatformgovernanceandplayacrucialroleinovercomingchal-lenges.Duringthestagesofformulating,implementing,andappealingrelatedtoplatformrules,technologicaldueprocessemphasizesthei
5、mportanceofsolicitingopinions,providingjustifications,andofferingeffectiveremediesforrights.Toensuretheeffectiveimple-mentationoftechnologicaldueprocess,itisnecessarytoestablishamulti-levelandflexiblesystemforproceduralcomplianceandin-novativeregulatorymeasuresthatencourageplatformstoadheretoprocedu
6、ralrequirements.Furthermore,theestablishmentofaneffi-cientandregularthird-partyalgorithmauditingsystemisessentialtocomprehensivelyenhancethegovernancecapabilitiesandstand-ardsforplatformecology.收稿日期:20230425基金项目:中国科学院学部院士咨询评议重大项目“信息技术支撑国家治理现代化的战略研究”(项目编号:2022-ZW14-Z-027)。第一作者:刘东亮,男,教授,博士生导师,主要从事计算法学
7、(法律+人工智能)、行政法学研究。*通信作者:常纯,女,硕博贯通制研究生,主要从事计算法学(法律+人工智能)、行政法学研究。引用格式:刘东亮,常纯.技术性正当程序在网络平台治理中的运用以企业合规管理为视角J.西华大学学报(哲学社会科学版),2023,42(4):1928.第 42卷第 4 期西华大学学报(哲学社会科学版)2023年7月Vol.42,No.4JournalofXihuaUniversity(Philosophy&SocialSciences)Jul.2023Keywords:onlineplatformgovernance;platformpower;technologicald
8、ueprocess;algorithmicaudits;enterprisecompliance大数据、人工智能等新一代信息技术的应用激发了平台经济的繁荣,人们越来越依靠各种网络平台与世界交互。但有的网络平台利用技术优势并以隐蔽的方式对网络空间施加控制,带来数据歧视、隐私保护不力、资源分配不公等诸多问题。它们的内部治理过程如同黑箱,乱象丛生。如某些电商平台强制实施“二选一”、约车平台过度收集用户信息甚至存在严重影响国家安全的数据处理活动,等等1。由于平台屡罚不改、屡禁不止的情况相当突出,说明单靠事后处罚根本不足以解决问题2。那么,我们就需要思考能否建立一种事前、事中的约束机制限制平台的恣意,提
9、前预防损害的发生,实现对平台的有效治理。一、网络平台权力的异化风险与治理现状由于资源的聚集和技术赋能(权),在网络平台的自治过程中催生了强大的平台权力,而其权力存在异化风险,因此,如何约束和规范平台权力,是数字经济时代的重要课题。(一)网络平台权力的异化风险现今,在“技术与规则”的双轮驱动下,网络平台取得了维护平台秩序、治理平台生态的权能。一方面,平台利用自身技术优势,通过平台的架构设计,直接对用户施加影响;另一方面,平台通过输出自治规则调整各方行为。自治规则不仅规范平台内部运营流程,还协调平台与用户以及用户与用户之间的关系,成为平台的内部“法律”。平台成为一种新的治理主体,并塑造出“技术秩序
10、”这一新的秩序类型。与政府监管相比,平台自治是基础、首要的平台治理方式3。在自治过程中,平台最初拥有的是掌控自身资源、协调多边用户利益的私权利,其运营是自发、自律的,但随着平台优势地位的加强,原本的自律协调动机就会掺杂支配其他主体的意图,满足自我需要的私权利逐渐向输出规则、引导控制他人的公权力转变,进而催生出平台的数据权力或算法权力(algorithmicpower)4。这种新型权力的实质既是对资源的掌控,也是对自由的限制。平台依靠强大的吸附能力,通过规模化发展和消费者锁定不断获取用户数据等生产要素并加快其在网络空间中的流通,将生产要素的凝聚逐步转化为实际的掌控力。平台自治规则虽看似“软法”但
11、并非“弱法”,在形式为合意的外观下掩盖着针对不特定多数的拘束作用和“不同意就离开”的技术霸权。这种规则和策略的落实贯穿着平台经营者管控平台的意志,与权力的属性完全吻合。权利与权力的分野逐渐模糊,网络平台演变为行使公权力的私主体。有学者甚至将网络平台和主权国家进行类比,认为其同样具有立法、执法和审判职能,成为“线上权力掮客”(onlineintermediaries)5。的确,网络平台已不再是单纯提供信息服务、撮合交易的商业场所,而成为各领域社会资源的实际支配者和网络空间秩序的塑造者。网络平台通过行使“软权力”6对社会进行全面渗透,引导、控制用户的行为以实现其商业目的。特别是在平台掌握技术和信息
12、双重优势的前提下,如果缺乏对其有效的规范和约束,平台会不可避免地向“独裁者”转变,进而出现权力滥用,造成破坏社会秩序、不当损害其他主体利益的后果。需要强调的是,除了技术赋权,在有些情况下,网络平台还通过法律法规授权获得了本应由政府行使的公权力,从而具有了行政主体资格。对平台由于法律法规的授权而获得公权力的情形,一向为学界所忽视,并造成学界一直在平台行使的权力是“公权力”还是“私权力”问题上纠缠不休。显然,在平台实际行使公权力的场景下,适用于公权力的权力制约规则亦应适用于网络平台,以防止其“无序扩张、野蛮生长”,并促使其以一种负责任且合理的方式行使自身的权力。20西华大学学报(哲学社会科学版)2
13、023年(二)网络平台治理之现状有学者指出,当前,以技术和信息优势为基础的平台自治为监管机构带来“多而顾不上”“快而跟不了”“深而看不透”“新而读不懂”等一系列问题,大大增加了数字化时代平台监管的难度7。1.治理实践中的“粗放型”“跟进式”立法从我国现有法律规定来看,虽然立法普遍强调,网络平台在提供服务的过程中负有一定的法律义务与责任,例如国家安全保护义务、内容审核义务、违法犯罪预防义务、用户权益保障义务、依法依规经营义务等,并常以罚款等强制手段督促实施,表面上看,这些实体性规范能够遏制平台生态中的不良现象,但由于这些规定通常较为原则性、笼统性,实际可操作性较弱,因而效果不佳,以至于经常出现前
14、文所述“屡教不改、屡禁不止”的问题。此外,虽然我国已初步建立起一套涵盖法律、行政法规、规章和政府指导性文件的平台治理规范体系,但技术的迭代速度远超法律的更新速度,现有的典型“跟进式立法”往往是亡羊补牢。不难理解,对于平台治理问题,不能简单地通过增加立法的方式进行处理。因为,虽然制度补漏体现着限制平台恣意的努力,但这种亦步亦趋的跟进式立法对于网络平台这样快速发展的领域,在“猫鼠游戏”的监管博弈中,总显得落后一拍、力有不逮。2.治理对策呈现“碎片化”“被动型”倾向目前,有关平台治理的研究,大多是从实体规范切入,针对平台治理中的某个方面进行分析,系统性思考略有欠缺,存在“碎片化”之不足,并且很多是对
15、平台发展过程中不断涌现的新问题进行“救火式”研究,呈现“被动型”倾向。造成平台治理研究呈现碎片化和被动型的原因是多方面的。一方面,平台技术日新月异,理论研究难以跟上技术发展的步伐;另一方面,囿于信息滞后、技术知识短板等因素,学界对新技术造成的潜在风险难以及时察觉,等到造成了严重后果才引起重视。碎片化与被动型研究固然也可以为平台治理提供某些解决方案,但这种研究方法提出的治理对策,也呈现“碎片化”“被动型”倾向,因此,终归是“按下葫芦浮起瓢”,难以及时回应平台技术发展带来的层出不穷的新问题。二、网络平台治理的新思路:技术性正当程序在已经有大量实体法律规范但仍然难以有效实现治理目标的情况下,加强程序
16、法治或许是平台治理的新思路。事实上,已有学者提出,鉴于网络平台具有某些公共属性,可以将针对公权力设置的监督机制和程序控制应用于网络平台8。而如何为平台权力的行使过程确立程序性规范,是需要深入探讨的问题。(一)运用正当程序原则为平台治理提供包容性框架从程序法角度而言,如果权力的行使可能影响其他主体的权益,其行使过程就必须符合最低限度的程序正义标准。由普通法上的自然正义演化而来的正当程序原则是现代法治和人权保障的基石,其基本要求是:任何人不能做自己案件的法官(排除偏见);任何人行使权力可能使他人受到不利影响时必须听取对方意见(听证),并说明所作决定的理由(说明理由)。这几项要素是最低限度的程序正义
17、之要求,对世界各国都产生了广泛而深远的影响。正当程序在公、私法领域都要求得到遵守9。在平台治理领域,不仅政府行为需要遵循正当程序,平台自治主体也应当遵守正当程序的要求。如前所述,在有些情况下,网络平台已通过技术赋能(权)或法律法规授权而实际行使公权力,因此其权力行使过程必须符合最低限度的程序正义。正当程序原则为平台治理提供了一个能够普遍适用的包容性框架。以形式或程序要素为标准审查平台权力的行使,可以将各类不同性质的平台都纳入治理范围。同时,以程序要素的正当性要求引导平台规则,可以通过不同主体的交往与互动将外部压力引入平台内部,从关注平台权力行使的结果转向聚焦可能造成的危险,从而实现从被动应对到
18、积极预防的转变。第4期刘东亮等:技术性正当程序在网络平台治理中的运用21不过,在数字化时代,传统正当程序要求的“事先听证”“说明理由”等权利保障措施对于瞬间即作出决定的平台自动化决策几无适用的余地,权利受到影响的主体也难以理解各种复杂的计算机程序算法。因而,传统正当程序原则在新技术场景下显得力不从心。这就要求正当程序也必须与时俱进,有效应对新技术带来的变革和挑战。(二)技术性正当程序:正当程序原则在数字化时代的演化与创新面对大数据和人工智能等新兴信息技术对传统正当程序的冲击,2007 年,时任马里兰大学法学教授希特伦(DanielleCitron)提出了技术性正当程序(Technologica
19、lDueProcess)的概念,强调必须以符合正当程序要求的计算机程序算法保证自动化决策的合法、合理性,从计算机程序算法设计的源头提高自动化决策的透明性和可问责性10。2016 年,该理论被写入国际电子电气工程师协会(IEEE)发布的人工智能设计的伦理准则白皮书,从而得到广泛认可。技术性正当程序仍然植根于传统的正当程序理论,但通过“排除算法歧视”“促进算法可解释”“拓展事后听证”等要求,以及算法公开、算法解释、算法审查等新的制度设计,对正当程序的核心要素进行重塑,填补了传统程序法治理论和新技术场景之间的“鸿沟”1112。总之,技术性正当程序作为一个融合新技术和传统正当程序原则的先进理论,契合平
20、台治理“技术+规则”双轮驱动的特征,应当融入平台治理体系,推动治理焦点从外部实体法规则向平台内部程序规则迁移,以实现网络平台治理的优化与升级。(三)技术性正当程序的特征概言之,技术性正当程序具有“宽”“疏”“广”“严”四项特征。这四个方面的特征与平台治理的特殊场景相适应。1.“宽”:体现对平台经济的包容审慎监管有学者指出,新业态在发展初期往往处于“非法兴起”的状态13。但“非法”并非“违法”,造成“非法”状态的原因往往不是新业态本身,而是因为立法的滞后性与互联网颠覆性创新的结果。此时若设置严格的法律责任、事先为市场主体划定好“活动半径”固然可以简化管理流程、降低治理成本,但很容易导致平台动辄得
21、咎、科技创新裹足不前。为解决对互联网新业态的监管困境,我国创造性地提出了“包容审慎监管”,要求从促进创新的角度实施监管,以包容的精神鼓励技术创新,以审慎的态度对新业态进行干预。现今,“包容审慎监管”不仅是我国为促进新业态发展提出的一项公共政策,而且也成为一项新兴的行政法原则,是平台经济监管领域需要遵循的基本要求1415。包容审慎监管要求对平台既不能过度监管,束缚创新活力,也不能放任自流,导致其野蛮生长。而技术性正当程序正是平台治理领域实现包容审慎监管的有效途径。一方面,包容审慎监管意味着不给平台施加过于严苛的实体法律责任,而是通过程序要素的规定建立程序公平的最低要求,在整体风险可控的基础上给予
22、其适度的容错空间。另一方面,技术性正当程序也为平台权力的行使划上了红线。也就是说,“包容”绝非“纵容”,“谨慎”并非“放任”16。包容审慎监管不是无原则的“和稀泥”,而是同样有不可碰触的“雷区”。申言之,对新业态存在的“非法状态”是否采取包容的态度,监管机构可以同时从实体法和程序法两个角度进行判断。其一,平台的行为是否符合民法、刑法等基本法律规范;其二,平台权力行使过程是否满足技术性正当程序所要求的排除偏见、听取意见、说明理由和提供救济等核心要素。一旦平台行为违反实体性基本法律规范或不符合技术性正当程序的要求,平台就应当承担相应的法律责任。2.“疏”:四项核心要素体现最低限度的程序正义众所周知
23、,“正当程序”是一个具有高度灵活性的概念,很难简单概括其内涵。将符合正当性要求的程序要素一一列举是不现实的,但我们可以通过最低限度的程序正义之要求,明确技术性正当程序有哪些必不可少的核心要素。22西华大学学报(哲学社会科学版)2023年一般认为,英国普通法中的自然正义原则(NaturalJustice)是正当程序发展的源头,它包含两项基本的程序规则:排除偏见和听取意见。在此基础上,有学者根据哈贝马斯(JrgenHabermas)的“交往行为理论”,认为自然正义的两项原则是行政主体与相对人的单向联系,缺乏双向的互动与沟通,主张“说明理由”(合理性需要证明)也是正当程序的核心要素,将正当程序原则概
24、括为“排除偏见、听取意见、说明理由”三项核心要素,并将其应用于行政自动化决策系统,形成了人工智能时代的技术性正当程序11。不难理解,在将该意义上的技术性正当程序迁移、适用于网络平台时,还需结合平台的性质和其决策过程的特殊性,将提供有效的权利救济作为技术性正当程序的核心要素之一。其原因在于,与行政领域存在行政复议、司法审查等相对完备的权利救济体系不同,在平台掌握规则制定之优势的前提下,其利益驱动的本性常常使对用户的权益保护出现“缩水”,从而造成“多权力、少救济”的局面。此外,在规则执行过程中,平台可能大幅压缩甚至完全舍弃事先听证、说明理由等传统正当程序的要求,以适应互联网的规模化特征。在此情形下
25、,提供有效的权利救济就显得特别必要。有鉴于此,必须将提供有效的权利救济纳入到针对平台的技术性正当程序的核心要素当中,通过提供有效的权利救济,及时纠错,保障平台用户的合法权益。因此,技术性正当程序在网络平台治理过程中体现为排除偏见、听取意见、说明理由和提供救济四项核心要素。虽然不同类别的平台由于商业模式的差异,需要分门别类制定具有针对性的程序规则,但这些形式各异的规则当中蕴含着技术性正当程序的共同追求。技术性正当程序是在各种程序规范中间寻找各方认可的最大公约数,为不同主体提供最大程度的共识,设定公众可接受的程序公平之下限,并将其作为一个形式化标准,做到“我一看便知”,避免适用过程中可能产生的争议
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 技术性 正当 程序 网络 平台 治理 中的 运用 企业 合规 管理 视角
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,个别因单元格分列造成显示页码不一将协商解决,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【自信****多点】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【自信****多点】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。