以标准化实现算法透明研究.pdf
《以标准化实现算法透明研究.pdf》由会员分享,可在线阅读,更多相关《以标准化实现算法透明研究.pdf(7页珍藏版)》请在咨信网上搜索。
1、43STANDARD SCIENCE2024,No.4基金项目:本文系浙江省高校重大人文社科攻关计划项目资助的规划重点项目“算法商业秘密的法律治理体系研究”(项目编 号:2023GH077)的阶段性研究成果。作者简介:万文婷,硕士研究生,研究方向为知识产权法。彭飞荣,通信作者,法学博士,中国计量大学法学院(知识产权学院)教授,国家知识产权培训(浙江)基地副主任,研究方向为知识产权法、标准化法。摘要:算法透明作为对算法规制的重要方式,在国内外皆得到立法上的确认,但在司法实践中却因没有明确标准而面临隐私权、个人信息权以及商业秘密的抗辩和技术上的挑战,进而难以得到有效具体落实,因此有必要借助标准化手
2、段落实和完善算法透明。本文通过将法律上的实体权利与标准相结合进而保障算法透明落实,解决了本土化的算法备案制度所面临的困境从而为算法透明提供有效落实方式,明确了算法解释的适用场景,以算法解释填补算法透明难以满足的空白。关键词:算法透明,标准,算法备案,算法解释DOI编码:10.3969/j.issn.1674-5698.2024.04.008Research on Implementing Algorithm Transparency through StandardizationWAN Wen-ting PENG Fei-rong*(China Jiliang University Schoo
3、l of Law)Abstract:As an important way to regulate algorithms,algorithmic transparency has been recognized in legislation both domestically and internationally.However,in judicial practice,it faces challenges in defending privacy rights,personal information rights,and trade secrets due to the lack of
4、 clear standards,making it difficult to effectively implement them.Therefore,it is necessary to use standardization means to implement and improve algorithmic transparency.This paper combines legal entity rights with standards to ensure the transparent implementation of algorithms,solves the difficu
5、lties faced by the localized algorithm filing system,and provides an effective implementation method for algorithm transparency.It clarifies the applicable scenarios of algorithm interpretation and fills the gap of algorithm transparency that is difficult to meet.Keywords:algorithm transparency,stan
6、dards,algorithm filing,algorithm explanation以标准化实现算法透明研究万文婷 彭飞荣*(中国计量大学法学院)Research on Standard Application44标 准 科 学 2024年4期0 引 言在数字经济时代背景下,算法早已深入应用到各个场景领域,极大提升了数据处理的效率。早在域外的公共领域,美国就已经应用compas算法软件进行刑事司法分析,应用算法作为评估公民福利的救济机制;在国内的商事领域,各大网络平台利用算法预测客户行为,进行精准商业推送。算法应用的案例屡见不鲜,但其在提升工作效能和方便使用者的同时也引发了一系列问题,例如
7、:“大数据杀熟”“算法歧视”“算法茧房”等等,这些都逐渐成为人们关注的焦点。从法律角度来看,无论是欧洲的通用数据保护条例(GDPR)还是美国提出的算法责任法案,它们都在讨论如何规范算法的使用,并强调了“算法透明”这个关键性的监管准则1。在我国,电子商务法和个人信息保护法也涉及算法透明问题。算法透明作为针对算法不公的重要规制手段,虽在法律法规的顶层设计上作为指导性原则有着立法依据,但在司法实践上却面临如何落实适用的困境。此外,算法透明监管在现实中往往面临商业秘密的抗辩理由,域外如:美国康普斯案以算法涉及商业秘密而驳回被告诉请。在我国司法实践中“智搜公司控诉光速蜗牛公司等侵犯商业秘密纠纷案”标志着
8、算法商业秘密法律保护已经形成并开始实施,早有学者注意到算法透明与商业秘密之间的冲突关系,但是却鲜有提出在实践中的具体可操作性的机制建构2,3。因此,算法透明面对透明对象的适用范围、透明程度以及披露方式,在司法中仍面临诸多困阻。“算法透明度”作为人工智能领域的专业术语,本文认为“度”既可解释为有量化单位的程度,也可理解为广义上的标准。相较于依赖政府强行实施的硬法,标准的应用更倾向于采用柔性的方式来实现其目标,是一种软法。这包括各种形式的标准,如:国家标准、行业标准、地方标准或企业标准,它们各自在适用范围、有效性和彼此间的关系方面有所差异。标准可看作是法律规定和科技应用的结合,也是规制与自治之间的
9、衔接点和缓冲区,同时它在建立并优化算法规制机制上具有相当大的优势4,5。因此,在认识标准作为法律延伸的“软法”基础之上,有必要将其有效利用为一种重要规制机制,对算法透明进行深化,实现可操作化。1 算法透明与标准化1.1 算法透明与标准化概述我国电子商务法第三十三条明确规定了电子商业网站运营商应于网络主页面明显位置持续公布平台服务协议及贸易准则的信息或这些信息的链接标识,并且确保商家与顾客能方便阅读并获取它们,从而提高电商平台交易规则的透明度6。个人信息保护法第二十四条的第一款也指出,当使用用户数据做自动化决策时,必须保障决策过程中的可见性和结果的公允,同时第三款还说明如果这种基于大数据分析的结
10、果会对个人的利益产生重要的影响的话,那么他们就有权力去要求公司予以说明,这进一步强调了个人信息处理者自动化决策技术应用的算法透明度7,8。以此为基础,关于加强互联网信息服务算法综合治理的指导意见中提出了要推进算法透明的发展,约束企业的算法使用行为,在遵守平等正义基本理念的同时也要维护好公民的合法权益,从而促使算法透明的发展更加健康稳定有序9,10。互联网信息服务算法推荐管理规定(以下简称算法推荐规定)提到,提供算法推荐服务时应遵循公平公正、公开透明等原则,鼓励算法推荐服务提供者优化检索、排序、选择、推送、展示等规则的透明度和可解释性,以避免用户受到不良影响,并预防争议纠纷。此规定可视为我国首次
11、正式确立了算法透明原则,相较于欧盟以“数据赋权”为核心的算法规制体系下将算法透明释为“披露义务”,美国“行为规范”模式下将其理解为算法问责的前提,本文认为,我国所确立的算法透明原则更适合作为算法应用的合法性基础和数据主体的救济途径。而我国的司法实践也恰恰印证了这一观点。标准应用研究45STANDARD SCIENCE2024,No.4“许兴泉诉杭州阿里妈妈软件服务公司关于互联网服务的争议案”中,法庭指出:对于大数据分析的结果是如何得出的,也就是其算法逻辑的问题,这是一个不容忽视的待证事实,同时这也是一个合法性的证明过程。我们不能仅仅依赖于大数据的专业分析报告来进行司法评估。由于大数据分析涉及很
12、强的专业技术性,若不对其逻辑推理的过程进行司法审核,就可能导致用技术分析替代司法决策的情况发生,这将会威胁司法的威信。然而,对逻辑演算过程进行司法审查,也不能完全依靠法律判决去取代技术判定,因为这样可能会影响司法公正。1.2 算法透明实现的挑战1.2.1 法律挑战算法透明旨在理解算法系统背后运作的一般过程,以及算法系统产生个体结果的途径。基于这一目的,加之算法应用本就有复杂性、更新快、常变化、分领域的特性,所以算法透明面临着对谁透明需要不同程度透明度的现实情况。算法透明的价值即用公开披露信息来平衡权利,克服信息不相称的缺点,弥补地位不对等的缺陷。透明度的救济方式即赋予算法相对人相关信息,但不是
13、完整信息,因为透明度可能会暴露隐私和披露个人信息。在使用个人数据进行操作机器学习算法训练步骤时,“鱼缸型”透明可能会带来侵犯隐私权与个人信息权的问题11。另一方面,算法于企业而言,在其研发制作的过程中往往会付出大量的人力物力,并且算法本身就具有经济价值。算法是企业竞争优势的来源,任何披露都有可能会违背公司的利益,鉴于算法应用的合法性前提受算法决策影响的数据主体有权了解其运作方式,要求披露12。当前的主流形势便是将算法作为商业秘密加以保护,算法透明度的提高必然会对企业的市场优势造成威胁,更有甚者会造成算法商业秘密滥用的趋势。1.2.2 技术挑战算法透明需要挑战所有可能的偏见。通常情况下,在自动决
14、策的背后有机器学习算法,在处理数据时倾向于非常快速的学习。在这种情况下,保证透明度是一项非常复杂的任务。在解释基于算法的自主决策时,技术障碍的数量取决于算法的复杂度。从技术的角度来看,系统化的方法往往存在局限性,比如:随着人工智能系统越来越复杂,指令可能不受程序员的监督,因此通过查看系统的内部运行规则并不一定会理解和控制它,这必须与个人的认知程度以及社会因素相结合起来考虑。在处理可解释的算法时有可能实现依赖于源代码分析的“白盒”方法,这使得用户可以直接查看和理解它。但是当算法涉及到商业秘密,或者在更为复杂的情况下,便已经形成“算法黑箱”,此时基于人工智能算法的“白盒”方法是不可行的13,14。
15、然而“算法黑箱”的化解不能够依赖于对代码的分析,因此确保透明度是非常具有挑战性的,要解释复杂的算法系统也可能具有高度的自主性。1.3 以标准化手段实现算法透明的正当性正如前文所述,算法透明的落实仍旧面对诸多障碍与困境,本文认为在法律的顶层设计下,可以借助标准手段,形成法律与标准相结合的模式,以标准化落实算法透明。首先,标准的建构与算法系统之间的沟通本身就具有一定优越性。标准满足算法规制的环境要求,同时能够随着算法科技的发展而实时调整,具有灵活性。算法治理具有极强的技术性,适合技术标准发挥作用。然而,要在快速的变化过程中找到稳定性与适应性的平衡点,这是算法规制所面临的一个复杂挑战。相较法律规范而
16、言,标准制定的过程更为便捷高效,而且各种类型的标准可互相转换,这有助于适应算法科技的多变性。此外,算法推荐规定已经明确提出了关于算法标识与算法备案等相关标准化建设的规则,开辟了一种新的实施路径,也为其通过标准化方式推动算法透明提供了合法性依据15。孤立地讨论透明度无疑是有限的,倘若更清晰地将最佳实践和标准结合起来,这样就不需要特别依赖合作监管方法。对于算法问责制来说,透明度顶层设计的原则可以说是必要的,但还不够全面,目前学界已经呼吁推动算法透明标准体系建Research on Standard Application46标 准 科 学 2024年4期设,进而落实算法透明。以标准化落实算法透明是
17、未来发展的必然趋势。2 国外算法透明标准建构现状2.1 英国算法透明度标准解读2.1.1 算法透明的形式标准2021年11月,英国内阁办公厅中央数字与数据办公室(简称CDDO)发布了名为算法透明度标准的新法规,旨在提高政府机构在利用算法技术协助制定策略时的公开性和透明度。该标准在形式上做出了细致规范,内容包括:算法透明度数据标准;算法透明度模板和指南。其中算法透明度数据标准以清单形式列明算法使用者应当填写的内容和格式。算法透明度模板是算法透明应当公开内容的实例。指南是完成算法透明工作的流程指引。作为全球较早发布的算法透明度标准,算法透明度标准为公共部门保障算法透明度提供了具体指引。2.1.2“
18、以目的信息和技术信息为主要内容”的算法透明的实质标准首先,在算法透明适用范围方面,GDPR在某种程度上建立了一定程度的算法透明度。但仍然面临适用性有限的质疑,因为它只适用于“完全基于自动处理的决定”。这可能意味着,即使存在最低限度的人为干预,数据主体的“解释权”,以及GDPR第22(3)条的保障措施,都可能不适用。然而,尚不清楚这种“解释”是否应该为专门针对算法系统的功能,还是应该理解为影响决策的特定算法特征。此外,这些解释涉及不同的领域。根据GDPR第13(2)(f)条和第14(2)(g)条,数据控制者有义务在自动决策活动开始之前主动通知数据主体。同时,第15(1)(h)条通过授予随时访问自
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 标准化 实现 算法 透明 研究
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【自信****多点】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【自信****多点】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。