我国算法风险及其治理研究综述.pdf

信息安全研究第10 卷第2 期2 0 2 4年2 月Journalot lntormationSecurity ResearchVol.10No.2Feb.2024DOl:10.12379/j.issn.2096-1057.2024.02.04我国算法风险及其治理研究综述李欣曹艺萱（中国人民公安大学国家安全学院()A Review of Algorithmic Risk and Its Governance in ChinaLi Xin and Cao Yixuan(School of National Security,Peoples Public Security University of China,Beijing 100038)Abstract In the era of digital intelligence,algorithms pervade every corner of human society.While algorithms drive the transformation towards digitization and intelligence,they also give riseto a series of issues,necessitating effective governance of increasing algorithmic risks.Firstly,algorithmic risks are categorized into four fields:law and justice,politics and governance,information dissemination and business and economy.Then the formation mechanisms ofalgorithmic risk are analyzed,encompassing algorithm black box,algorithm discrimination andpower alienation.Finally,a governance strategy framework is proposed,consisting of three paths:technology regulation,power and responsibility normative,and ecological optimization.Theresearch systematically presents the progress and development trend of algorithmic risk and itsgovernance in China,providing reference for advancing the theoretical research and systemconstruction inalgorithmic risk governance.Key words algorithmic risk;algorithm governance;algorithm regulation;artificial intelligence;digital governance摘要数智时代，算法已然渗透人类社会的每一个角落.算法驱动数字化、智能化转型的同时，也催生出一系列问题，日益加剧的算法风险函需有效治理.首先，将算法风险划分为法律司法、政治治理、信息传播、商业经济4大领域，然后剖析算法风险形成机理，涵盖算法黑箱、算法歧视以及权力异化3 个维度，最后提出算法风险治理框架，具体可分为技术规制、权责规范以及生态优化3 条路径，较为系统地展现了我国算法风险及其治理的研究进展与发展动向，为推进我国算法风险治理理论研究与体系建设提供参考.关键词算法风险；算法治理；算法规制；人工智能；数字治理中图法分类号号TP18技术变革引发社会变革.数智时代，算法不断推动人类社会形态的演化，但大数据杀熟、深度伪造、收稿日期：2 0 2 3-0 9-2 6引用格式：李欣，曹艺萱.我国算法风险及其治理研究综述 J.信息安全研究，2 0 2 4，10（2：114-12 1114北京10 0 0 3 8)隐私泄露等算法乱象也时有发生，算法风险治理已迫在眉睫.2 0 2 2 年3 月，互联网信息服务算法推人工智能安全专题.Issueon Artificial Intelligence Security荐管理规定的施行，使算法监管有规可依，然而监管政策的落地尚面临重重挑战.在技术变革与政策推进的双重背景下，本文对国内算法风险及其治理相关研究展开系统性回顾，以综述形式梳理归纳算法风险类型、形成机理与治理策略，对于推动我国本土算法风险治理体系建设具有重要意义.目前,学界对于算法以及算法风险的概念尚未达成统一定论.从计算指令序列、人机交互的决策过程，到构建社会秩序的理性模型，伴随技术与时代的更迭，算法的内涵也渐趋丰富.综合已有学者观点，本文中的算法风险主要指算法技术的不确定性所招致的可能性后果.这种可能性潜藏在人类社会各个领域，通常表现为某种不利影响，如算法共谋、算法滥用、算法杀熟等.此外，鉴于“算法是人工智能的核心”这一观点已成为学界普遍共识，大量社会科学研究已将二者混同使用，因此本文将部分与算法风险治理无实质性差异的人工智能70060050040030020010002015算法风险分类与表征相较于人脑思考与决策,算法客观理性、精准高效等优势大幅提升了决策效率与准确度.然而，算法风险始终与便利相伴相生，伴随其应用根植于社会各个领域，并不断滋生出新的风险形态。1.1法律司法领域算法引发社会空前变革的同时，也冲击着法律的秩序与规则.吴汉东1I率先提出人工智能引致的法律问题框架.在此框架下，学者们就人工智能与算法的法律主体人格 2 、民事权利与责任 3-4、刑法适用 5 、司法裁判 6 等议题展开探讨,算法风险研究也随之深人.一方面是算法自身归责难题，风险治理相关文献纳人研究范畴，力求更加全面地展现该领域研究现状.通过从知网检索到的CSSCI及北大核心期刊主题相关发文数量，我国算法风险及其治理研究论文发表趋势如图1所示，大体可划分为3 个阶段：1)萌芽阶段（2 0 15 一2 0 17 年）.该阶段国内算法风险相关研究刚刚起步，发文数量较少，呈现零星、分散的特点，主要体现对于大数据、人工智能算法以及社会数智化转型的展望与忧思.2)升温阶段（2 0 18 一2 0 19 年）.随着算法应用的广泛铺开，算法风险治理受到学界高度关注，发文数量大幅拉升，研究主要以集中于社会各领域算法风险、算法责任等为主题.3）高潮阶段（2 0 2 0 年至今）.2 0 2 0 年以来，我国算法风险治理研究迎来高潮，学者们开始着眼于更为细化的算法风险以及其形成机理与权力运行机制、算法监管方案与治理体系构建等研究，整体展现出方兴未艾的繁荣景象.20162017图1我国算法风险及其治理研究论文年度发表趋势政治治理领域在政治治理领域，已有研究主要聚焦于政治生态风险和社会治理风险2 大议题.政治生态风险方面，汝绪华 10 1认为，算法对于民主选举、公投的网址http:/111520182019年份对于算法失误所招致的损害，如在自动驾驶汽车事故责任认定上，传统法律体系的应对表现出明显的滞后 7，被侵权者所能主张的法律救济亦因算法归责的难题缺乏有效进路.另一方面是算法嵌人司法风险，马长山8 指出，算法虽能在一定程度上推进司法“形式正义”的实现，但却无补于“实质正义”的维护.司法程序中的算法嵌入也会带来技术权力侵蚀司法权力、算法决策弱化法官地位的风险 9 ，可能导致司法裁判中效率导向与公正导向的失衡，甚至损害司法公正.1.22020202120222023信息安全研究第10 卷第2 期2 0 2 4年2 月lournalot lnformation Security ResearchVol.10No.2Feb.2024操纵早已屡见不鲜，真伪难辨的政治性新闻传播引致群体极化风险.社会治理风险方面则主要分为3类视角：1)技术赋权视角下，算法嵌入社会治理带来了技术赋权与约束机制的不对等，公民权利让渡于算法权威形成“算法利维坦”11;2）自动决策视角下，算法自动化决策运用的泛化使其在行政决策中的地位由辅助性工具走向依赖性手段，甚至取代人为决策 12 ，削弱了行政主体的自由裁量权；3)行政正义视角下，本应依法作出的行政裁决转由代码组成的算法替代完成，算法“统治”执法消解了法治政府的根基，与此同时，算法行政的信息壁垒对行政公开原则的侵蚀，致使公众难以对自己的合法权益主张救济 13 1.1.3信息传播领域算法驱动着传播范式的变革，传播领域学者主要从社会群体和用户个体双重视角对算法风险展开论述.在社会群体视角下，传播的公共性面临被算法消解的危机，取而代之的是政治、资本与技术多重权力操纵下的社会偏见循环 14.彭兰 15 提出，社会阶层或将随着人们被算法的“精准”定义而逐渐固化，“强者愈强、弱者愈弱”的马太效应也随之放大.而在用户个体视角下，算法推荐机制使用户接触的信息范围不断窄化，成为“信息茧房”中的“算法囚徒”16 ，个体认知被算法所分化，主流意识形态面临被削弱的风险.随着深度合成技术迅猛来袭,Deepfake,ChatGPT等人工智能自动生成内容(AI generated content，A I G C)商业应用为信息生产方式带来几近颠覆式的变革，虚假信息传播愈演愈烈，公民财产安全与隐私权利面临严峻挑战17.算法自动生成内容在知识生产与传播领域引发学术诚信、署名权争议等诸多现实问题，其背后所蕴涵的科技伦理风险同样值得审视 18 .1.4商商业经济领域算法在商业领域的大规模应用逐渐演化出算法价格歧视与算法共谋2 大风险.算法价格歧视主要体现为“大数据杀熟”，即经营者利用信息不对称，通过大数据收集与算法技术分析实现对用户的差异化定价 19 1.算法共谋则可分为信使类、轴辐类、预测类及自主类4种类型 2 0-2 1,其中自主类算法共谋因算法具备自主学习能力，具有更强的隐蔽性与更大的监管难度 2 2 1.根据部分学者观点，上述2 种风险在本质上均属于算法平台垄断风1161险 2 3 ,然而算法的黑箱特性与自主决策能力使得传统垄断规制效果大打折扣，甚至出现“失灵”现象 2 4，监管供给表现出明显不足，严重损害平台经济市场竞争秩序与良性发展.在数字经济时代，人类对算法效率的过分倚重也埋下了巨大的社会隐患.除前述价格歧视外，基于算法的身份性偏见与歧视已然侵人各个领域，加剧了社会群体间的不平等.首当其冲的便是就业领域，人类社会所固有的性别、年龄、种族等歧视因素经代码化处理嵌人雇佣决策算法，无疑侵犯乃至剥夺了部分群体的平等就业权 2 5 .同样出于效率优先的价值导向，以外卖为典型代表的平台企业借助算法实现对于劳动者的精准化管理和控制，其背后隐藏着平台经济模式下的资本操纵 2 6 .平台企业为追求商业效率或经济利益，过度收集、滥用甚至转卖用户信息的行为屡见不鲜，隐私侵犯与数据泄露事件频发，对数据安全乃至国家安全造成严重威胁 2 7，2算算法风险本质及溯因算法风险表征虽因领域不同而各有侧重，但仍表现出相当程度的共性特征与共有成因.马长山 2 8 1从伦理、极化、异化、规制以及责任5 大方面对算法风险展开分析.苏宇 2 9 指出，算法风险主要源自设计失范、算法缺陷、信任缺失、防御薄弱以及监管机制不健全等具体原因.综合已有研究观点，算法风险主要可归于算法黑箱、算法歧视以及权力异化3 大维度，众多学者分别从上述维度对算法风险成因进行了深入阐释，可由此归纳出算法风险形成机理，如图2 所示。2.1算法黑箱仇筠茜等人 3 0 1指出，算法通过预先设定规则或自主学习方式，对输人数据进行处理和运作，使得人们难以真正知晓这一复杂过程的运行状况，“算法黑箱”由此产生.算法规则的封装隐藏了算法设计缺陷，赋予了损害过程与结果隐蔽性，并极有可能导致算法问责的失效，可信算法的建构面临重重挑战 3 1.目前学界已对算法黑箱的成因开展了一系列研究，美国学者Burrel1E321的“三因素论”受到国内学者的普遍认可：第一，算法本身具有保密性质，人工智能安全专题IssueonArtificial Intelligence Security算法权利纠纷法律司法领域算法依赖算法技术优势应用深度嵌入规制手段缺失政治行政领域具备保密性质信存在技术壁垒日息传播领域运行逻辑复杂人类自身偏见输入数据偏差商业经济领域算法自主学习损害公民救济权责任分配难题伦理危机司法裁判失误公信力危机削弱自由裁量权人类主体性受损权力异化支配公权力加催加剧生厂剧算法黑箱加隐加一刷含剧7算法歧视阻碍社会平等程序正义存疑威胁政治安全算法失误社会偏见与歧视民主政治受损意识形态渗透消解媒体公共性算法操纵信息房数字鸿沟数据泄露算法共谋大数据杀熟算法垄断资本盘剥金融欺诈与事故社会群体极化损害公民知情权损害公民自由权数据霸权算法战争威胁信息安全社会阶层固化破坏市场秩序损害公民隐私权侵犯消费者权益危及经济稳定风险领域算法研发或控制者缺乏将其对外披露的意愿；第二，算法技术壁垒的客观存在，使得非专业人员难以理解算法的运行逻辑与真实内涵；第三，算法的自主学习特性导致其运行过程变得极其复杂，甚至超出算法设计人员所能感知的范畴.2.2算法歧视歧视问题在人类社会中由来已久，而算法的应用使得这一传统问题展现出更强的复杂性与隐蔽性.郑智航等人 3 3 从生成机制维度，将算法歧视归为偏见代理型、特征选择型与算法杀熟型3 种基本类型.刘友华 3 4则从权益保护维度,将其划分为损害公众基本权利类、损害竞争性利益类以及损害个体民事权益类等不同类别.综观已有研究,算法歧视根源主要有三：一是源自人类自身偏见；二是源自输人数据偏差；三是源自算法自主学习过程.第一，算法由人类所设计，其与生俱来便继承了标签式分类、范畴化认知等局限，加之研发者价值理念、固有偏见乃至主观恶意的嵌人，算法歧视的产生也就无可避免.第二，正所谓“偏见进，偏见出”，原始数据的质量、规模以及数据处理流程中的偏差，都有可能引发小样本数据被噪声化处理、敏感性数据未被有效保护等风险溯源风险成因图2 算法风险形成机理问题，从而导致歧视性结果的生成.第三，算法所具备的自主学习能力，使其对已有偏见进行无意识的强化与放大，开启算法偏见与歧视的无限循环，往往更难以被感知和预测 3 5-3 6 .2.3权力异化高效、客观、智能等“算法理性”特征，为算法嵌入社会治理提供了广阔发展空间，并由此催生出算法权力这一概念.作为一种泛权力，算法权力实质表现为对于社会主体思想与行为上的引导和操控,以此实现对于社会治理模式的逻辑重构 3 7 究其来源，算法利用其海量数据处理、深度自主学习等能力优势，以嵌人方式实现对于社会权力运行的持久性掌控 3 8 1,从而衍生权力异化风险.从宏观社会层面讲，在技术类企业主导算法研发与大数据运作的格局下，资本受利益驱使，依仗技术门槛与场域优势实现算法操纵与数据滥用.对算法自动化决策的依赖可能导致“影子官僚”“屏幕官僚”出现 3 9 ，公权力被算法俘获，政府公信与程序正义遭受质疑，在一定程度上消解着司法公正、政治正义与社会平等，甚至存在逐步演化出数字信息鸿沟,加剧算法霸权的可能 40 .而在微观个体层面，公民个体知情权、隐私权等部分合法权网址http:/1117风险中介风险表征风险后果信息安全研究第10 卷第2 期2 0 2 4年2 月lournalot lnformation Security ResearchVol.10No.2Feb.2024条例所构建的算法解释权框架，为算法治理体系利让渡于算法权力，信息获取渠道、思想意识形态为算法所框定，人的主体地位面临严峻挑战 41。关于算法风险的类型及其成因，学界向来众说纷绘.然而各种风险归根结底都离不开有关算法黑箱、算法歧视以及算法权力三者的讨论.算法黑箱隐含算法偏见、催生算法权力，并凭借其独有的隐蔽性加剧了偏见循环与权力异化 42 ，通过算法依赖、算法失误、算法操纵、算法共谋等风险中介引发各类风险.算法黑箱因此成为算法风险生成的根本肇因，这也是算法风险治理之中枢所在.算法风险治理路径面对各类风险的侵袭，算法治理成为待解决的社会性难题，学界从不同视角对此展开了持久而深人的探.综观众多治理方案，可归纳出技术规制、权责规范与生态优化3 条治理路径，其框架如图3 所示：技术研发法律规制防范算法与数据滥用V数据保护算法透明算法问责审查评估伦理规范素养教育强化伦理责任图3 算法风险治理框架模型3.1技术规制路径算法风险本质上属于技术风险，因此理应从技术层面实现风险的规制，以数据保护保障信息安全，以算法透明治理算法黑箱，以审查评估推动算法合规。1）数据保护.作为算法的燃料，数据的滥用或泄露无疑是算法风险的关键诱因.从数据收集、流1181转、处理到删除，学者们就数据保护的具体措施展开了广泛的讨论.在数据收集方面，明确数据权利主体，遵循“最小目的”“明示同意”等原则，保障数据主体知情权，避免数据侵权与滥用 43 .在数据流转方面，设立数据溯源机制，实现数据流转与运作全流程留痕，以此化解算法决策失误归因归责难题 4.在数据处理方面，实行数据分级制度，针对不同等级数据采取特定保护措施，推进数据安全监管制度 45 .在数据删除方面，“被遗忘权”“删除权”等概念的引人，为数据与算法治理提供了合理进路 46 .参考他国做法设置机构内部数据保护专员，亦可通过强化数据安全责任的方式化解算法风险的生成。2）算法透明.“黑箱”的封装使得算法风险难以被感知、控制和化解.因此，学界围绕“算法透明”这一理念展开激烈争论，以期破解黑箱难题.批判派指出，算法透明具有天然缺陷，其正当性、可行性与必要性均存在瑕疵 47 .而支持派认为算法透明不仅可行，且能有效增进算法可理解性与可责性 48.具体而言，算法透明可落地为设置算法解释权、履行告知义务、参数披露、源代码公开等实施方案 49 .张凌寒 5 0 率先提出应通过法律途径设立算法解释权以控制算法自动化决策风险，使得算法解释权这一概念备受关注.欧盟通用数据保护驱动素养跃迁技术革新素养教育的建立提供了制度样本 5 1.美国则针对不同领域设置了场景化算法解释要求 5 2 1，上述2 类规制方式为我国本土化算法解释权的构建提供了启示和借鉴.在已有学者研究基础上，丁晓东 5 3 就算法解释权的争议与困境展开阐释，提出基于信任关系的算法解释权制度构建，3）审查评估.行业标准的制定与审查制度的施行是算法风险治理的关键路径.相较于伦理标准，技术标准具备更强的可操作性.张欣 5 4认为，算法相关标准的设立能够削弱算法的“黑箱化”设计倾向，从研发源头对算法风险施以有效控制.在明确算法监管标准的前提下，许可 5 5 基于我国算法治理制度现实，对算法备案制度的内涵、意义、内容以及范围作出了较为详尽的阐释.算法影响评估是算法审查的核心环节，相较于封闭合规型评估制度，开放反思型制度在促进算法透明、程序正当、社会审查等方面均更具优势 5 6 。人工智能安全专题.IssueonArtificial Intelligence Security3.2权责规范路径算法的技术性风险可通过技术规制加以化解，但其应用所衍生出的各类社会问题，引发了社会主体间权利、权力与责任关系的扰动与失衡，因此有必要通过权责规范路径施以治理，以法律规制完善制度设计，以算法问责倒逼算法负责，以权利救济保障各类法益1）法律规制.算法冲击下，传统法律治理模式呕需更新与转型，以充分提升算法治理效能.汪庆华 5 7 认为，中国、美国与欧盟在算法法律规制模式上各有侧重，分别呈现出分散式立法、司法判例规制以及数据源头治理3 类形态，不同法域中算法法律规制模式虽各有千秋，但与具体应用场景相结合为其共性特征，采取场景化的规制路径可有效破解机械应用传统算法规制模式所引发的困境 5 8 .在前述研究基础上，“渐进式”立法与“顶层式”立法并行的治理模式被提出，为算法规范化发展提供完善的法制保障 5 9 .2）算法问责.多数学者对于算法在当前发展阶段并不具备独立的责任主体地位这一观点持肯定态度，因此刺破算法的“面纱”，面向算法实际控制者实施问责成为当前算法治理之关键.建立网络平台算法问责制度，可有效避免算法实际控制者以“技术中立”等理论为借口规避应有责任，同时也可作为实现算法场景化规制的重要渠道 6 0 肖红军 6 1立足社会责任视角，指出从起初的责任否定观、道德算法观，再到“可信赖的算法”观以及“负责任的算法”观，算法责任观的迭代标志着社会主体对于算法及其责任本质的认知演变，引领了算法应用的发展走向.3）权利救济.作为公民权利救济重要渠道的私益诉讼，在算法侵权责任的判定上却不尽人意，受侵害者常常面临诉讼成本过高、举证压力过大、技术认定复杂等诸多难题.此时，公益诉讼、集体诉讼以及举证责任倒置等制度的介人可显著提升受侵害者与算法控制者博奔的能力，充分保障受侵害个体的合法权益 6 2 .此外，针对推荐算法所引致的权利侵害，建立便利畅通的反馈与维权渠道不失为快捷有效的救济途径.目前，互联网信息服务算法推荐管理规定已明确要求算法推荐服务提供者设置用户申诉、投诉入口并建立处理反馈机制，维护公民合法权益 6 3.3.3生态优化路径算法本身及其与各领域相互交织的复杂性，决定了单靠技术规制与权责规范无法最大程度发挥风险治理效能，必须加快构建向上向善的算法生态格局，形成“伦理引导一技术改进一算法优化一素养提升”的算法发展正反馈长效机制，以伦理规范拨正价值取向，以技术研发纵深风险防御，以素养教育强化算法驾驭.1）伦理规范.伴随人工智能介入社会程度不断加深，算法所擎生的伦理困境也愈益凸显.世界各国虽就人工智能算法的基本伦理达成一定共识，提出了阿西洛马人工智能原则与欧盟可信人工智能伦理指南等伦理准则，但具备普适约束力的伦理规范在短期内尚难落地.对此，可从微观层面出发，创设人工智能算法伦理评估审查标准体系，借助“伦理审计”等手段反向核查算法是否存在伦理偏误，以达绳惩纠谬之效 6 41.2）技术研发.算法技术研发作为算法风险产生的关键环节，对于推进算法妥善应用与安全运行具有重大战略性意义，已有研究主要关注2 大主题：一是机制优化.为防范技术权力异化风险，政府部门应充分享有政务系统算法研发主导权，通过对核心算法与数据资源的掌控实现对于算法权力的制衡 6 5 二是技术改进.左卫民 6 6 提出，从技术层面实现算法的改进，应从算法的准确性、科学性、透明性以及歧视性4个方面充分加以考虑，使得算法技术更好服务于我国现实需要.3）素养教育.面对算法的全方位渗透，算法素养成为识别、防范与抵御算法风险之要端 6 7.就算法使用者而言，算法素养通常指用户群体对算法运作逻辑的认知水平、对算法现实存在的感知程度以及对算法所致影响的判断能力.为避免算法对于人类主体地位的侵蚀，提升人类与之共存所需的辖制力,算法素养教育的社会化普及势在必行.具体而言，可从技能、知识、思维、动机和认知5 大层面综合提升社会公众的算法素养能力，助推数字鸿沟的弥合，从而为算法时代技术风险的化解提供新的方向 6 8 4结语本文基于对已有研究的梳理，对算法风险形网址http:/1119信息安全研究第10 卷第2 期2 0 2 4年2 月lournalot linformation Securty ResearchVol.10No.2Feb.2024态进行场景划分，厘清了不同领域算法风险的基本内涵；深入部析算法风险成因，阐明了算法风险形成的底层逻辑；最后对算法风险治理策略进行系统归纳，创造性地提炼出我国算法风险治理框架关系模型.研究表明，我国算法风险治理研究虽已取得较为丰硕的成果，但仍存在研究内容趋同、微观研究薄弱、系统研究缺位等不足.未来可从融合理论实践、推动学科交互、加强系统研究等方向进一步深人探索，加快构建符合中国国情、具有中国特色的算法风险综合治理体系.参考文献1吴汉东人工智能时代的制度安排与法律规制.法律科学：西北政法大学学报，2 0 17，3 5（5）：12 8-13 62袁曾：人工智能有限法律人格审视J.东方法学，2 0 17(5):50-573王迁.论人工智能生成的内容在著作权法中的定性。法律科学（西北政法大学学报），2 0 17，3 5（5）：148-15 54司晓，曹建峰.论人工智能的民事责任：以自动驾驶汽车和智能机器人为切人点.法律科学：西北政法大学学报，2 0 17，3 5 5)：16 6-17 35刘宪权。人工智能时代的“内忧”“外患”与刑事责任.东方法学，2 0 18（1)：13 4-1426季卫东人工智能时代的司法权之变 J.东方法学，2 0 18(1):125-1337郑戈。人工智能与法律的未来 J.探索与争鸣，2 0 17（10)：78-848马长山.司法人工智能的重塑效应及其限度.法学研究，2 0 2 0，42(4)：2 3-409王禄生。司法大数据与人工智能技术应用的风险及伦理规制J.法商研究，2 0 19，3 6（2）：10 1-11210汝绪华.算法政治：风险、发生逻辑与治理.厦门大学学报：哲学社会科学版，2 0 18（6）：2 7-3 811张爱军.“算法利维坦”的风险及其规制J.探索与争鸣，2021（1):9 5-10 2,17 912陈，裴亚楠.论自动化行政中算法决策应用风险及其防范路径J.西南民族大学学报：人文社会科学版，2 0 2 1，42(1):74-8113王怀勇，邓若翰.算法行政：现实挑战与法律应对.行政法学研究，2 0 2 2（4）：10 4-11814郭小平，秦艺轩.解构智能传播的数据神话：算法偏见的成因与风险治理路径 门.现代传播：中国传媒大学学报，2019,41(9):19-2415彭兰.假象、算法囚徒与权利让渡：数据与算法时代的新风险J.西北师大学报：社会科学版，2 0 18，5 5（5）：2 0-2 916 桑斯坦.信息乌托邦：众人如何生产知识 MI.毕竞悦，译。北京：法律出版社，2 0 0 8120117张凌寒.深度合成治理的逻辑更新与体系迭代ChatGPT等生成型人工智能治理的中国路径J.法律科学（西北政法大学学报），2 0 2 3，41（3）：3 8-5 118 令小雄，王鼎民，袁健.ChatGPT爆火后关于科技伦理及学术伦理的冷思考.新疆师范大学学报：哲学社会科学版，2 0 2 3，44（4）：12 3-13 619邹开亮，刘佳明.大数据“杀熟”的法律规制困境与出路仅从消费者权益保护法的角度考量 J.价格理论与实践，2 0 18（8）：47-5 020扎拉奇，斯图克。算法的陷阱：超级平台、算法垄断与场景欺骗MJ.余潇，译.北京：中信出版社，2 0 1821丁国峰.大数据时代下算法共谋行为的法律规制门.社会科学辑刊，2 0 2 1（3）：12 7-13 622周围.算法共谋的反垄断法规制.法学，2 0 2 0（1）：40-5 923孙晋.数字平台的反垄断监管.中国社会科学，2 0 2 1(5):101-127,206-20724杨文明.算法时代的垄断协议规制：挑战与应对J.比较法研究，2 0 2 2（1）：18 7-2 0 025李成。人工智能歧视的法律治理 J中国法学，2 0 2 1（2）：127-14726陈龙.“数字控制”下的劳动秩序一外卖骑手的劳动控制研究 J.社会学研究，2 0 2 0，3 5（6）：113-13 5，2 4427张鑫，王明辉.中国人工智能发展态势及其促进策略。改革，2 0 19（9）：3 1-4428马长山。人工智能的社会风险及其法律规制。法律科学（西北政法大学学报），2 0 18，3 6（6）：47-5 529苏宇.算法规制的谱系 J.中国法学，2 0 2 0（3）：16 5-18 430仇筠茜，陈昌凤。基于人工智能与算法新闻透明度的“黑箱”打开方式选择.郑州大学学报：哲学社会科学版，2018,51(5):84-88,15931衣俊霖.数字李生时代的法律与问责一一通过技术标准透视算法黑箱 J.东方法学，2 0 2 1（4）：7 7-9 2321Burrell J.How the machinethinks:Understandingopacity in machine learning algorithms JJ.Big Data&.Society,2016,3(1):1-1233郑智航，徐昭曦。大数据时代算法歧视的法律规制与司法审查一以美国法律实践为例 J.比较法研究，2 0 19(4):111-12234刘友华。算法偏见及其规制路径研究 J.法学杂志，2 0 19，40(6):55-6635张玉宏，秦志光，肖乐.大数据算法的歧视本质J自然辩证法研究，2 0 17，3 3（5）：8 1-8 636崔靖梓。算法歧视挑战下平等权保护的危机与应对 法律科学：西北政法大学学报，2 0 19，3 7（3）：2 9-4237段伟文.数据智能的算法权力及其边界校勘.探索与争鸣，2 0 18（10)：9 2-10 0，14338张凌寒.算法权力的兴起、异化及法律规制.法商研究，2019,36(4):63-7539郑崇明.警惕公共治理中算法影子官僚的风险J.探索与争鸣，2 0 2 1（1)：10 3-10 9，17 9人工智能安全专题.IssueonArtificial Intelligence Security40 陈鹏.算法的权力：应用与规制 J浙江社会科学，2 0 19(4):52-58,15741周辉.算法权力及其规制J.法制与社会发展，2 0 19，2 5(6):113-12642 5张淑玲.破解黑箱：智媒时代的算法权力规制与透明实现机制J.中国出版，2 0 18（7）：49-5 343走赵海乐。当权利面对市场：算法价格歧视的法律规制研究J .华中科技大学学报：社会科学版，2 0 2 1，3 5（3）：9 9-10644 王燃。大数据时代侦查模式的变革及其法律问题研究J。法制与社会发展，2 0 18，2 4（5）：110-12 945 李晓明.论人工智能刑法规制中的技术规范 J.东方法学，2 0 2 1（2)：5 4-6 846 杨立新，韩煦。被遗忘权的中国本土化及法律适用 J.法律适用，2 0 15（2）：2 4-3 447 沈伟伟.算法透明原则的迷思算法规制理论的批判J.环球法律评论，2 0 19，41（6）：2 0-3 948张恩典。大数据时代的算法解释权：背景、逻辑与构造.法学论坛，2 0 19，3 4（4）：15 2-16 049 汪庆华.算法透明的多重维度和算法问责 J.比较法研究，2 0 2 0（6)：16 3-17 3505张凌寒。商业自动化决策的算法解释权研究.法律科学（西北政法大学学报），2 0 18，3 6（3）：6 5-7 45 1张欣.算法解释权与算法治理路径研究.中外法学，201931(6):1425-144552角解正山。算法决策规制一一以算法“解释权”为中心。现代法学，2 0 2 0，42(1)：17 9-19 35 3 丁晓东.基于信任的自动化决策：算法解释权的原理反思与制度重构 J.中国法学，2 0 2 2（1)：9 9-1185 4 张欣.算法影响评估制度的构建机理与中国方案J.法商研究，2 0 2 1，3 8(2)：10 2-1155 5 许可.算法规制体系的中国建构与理论反思 J.法律科学（西北政法大学学报），2 0 2 2，40（1）：12 4-13 2565张恩典.算法影响评估制度的反思与建构J.电子政务，2021(11):57-6857汪庆华：人工智能的法律规制路径：一个框架性讨论现代法学，2 0 19，41（2）：5 4-6 3 5 8 丁晓东.论算法的法律规制.中国社会科学，2 0 2 0（12)：138-159,20359胡小伟.人工智能时代算法风险的法律规制论纲 湖北大学学报：哲学社会科学版，2 0 2 1，48（2）：12 0-13 160张凌寒.网络平台监管的算法问责制构建。东方法学，2021（3)：2 2-4061肖红军.算法责任：理论证成、全景画像与治理范式J.管理世界，2 0 2 2，3 8(4)：2 0 0-2 2 662侯玲玲，王超，人工智能：就业歧视法律规制的新挑战及其应对 J.华东理工大学学报：社会科学版，2 0 2 1，3 6(1):1-16,3363张吉豫。构建多元共治的算法治理体系.法律科学（西北政法大学学报），2 0 2 2，40（1)：115-12 364段伟文.人工智能时代的价值审度与伦理调适门.中国人民大学学报，2 0 17，3 1（6）：9 8-10 865陈鹏.算法的权力和权力的算法 J.探索，2 0 19（4）：18 2-19266左卫民。关于法律人工智能在中国运用前景的若干思考J .清华法学，2 0 18，12(2)：10 8-12 467彭兰如何实现“与算法共存”算法社会中的算法素养及其两大面向 J.探索与争鸣，2 0 2 1（3）：13-15，268吴丹，刘静.人工智能时代的算法素养：内涵剖析与能力框架构建.中国图书馆学报，2 0 2 2，48（6）：43-5 6李欣硕士研究生.主要研究方向为情报技术、数字治理。曹艺萱硕士研究生，主要研究方向为情报技术，网址http:/1121