算法嵌入政府治理:逻辑、风险与规制.pdf
《算法嵌入政府治理:逻辑、风险与规制.pdf》由会员分享,可在线阅读,更多相关《算法嵌入政府治理:逻辑、风险与规制.pdf(10页珍藏版)》请在咨信网上搜索。
1、西安交通大学学报(社会科学版)2 0 2 4年1月 第4 4卷 第1期D O I:1 0.1 5 8 9 6/j.x j t u s k x b.2 0 2 4 0 4 0 0 6【收稿日期】2 0 2 3-0 7-1 2。【修回日期】2 0 2 3-0 7-2 1。【基金项目】国家社会科学基金项目(2 0 1 8 B Z Z 0 3 0);中央民族大学研究生自主科研项目(S Z K Y 2 0 2 2 1 0 5)。【作者简介】周晓丽(1 9 7 3),女,中央民族大学管理学院教授,博士生导师。算法嵌入政府治理:逻辑、风险与规制周晓丽,姬晓暄中央民族大学 管理学院,北京1 0 0 0 8 1
2、开放科学(资源服务)标识码(O S I D)【摘要】伴随着现代信息技术的迅猛发展,智能算法在推动经济社会不断发展的同时也成为推动国家治理现代化的重要驱动力。现阶段如何推进算法技术更有效地嵌入政府治理,在充分发挥技术效益的同时反制技术滥用,实现公共价值最大化目标是亟须关注的时代命题。从“技术权力规则”三个维度搭建研究算法嵌入政府治理的分析框架,探索算法技术赋能政府治理的价值意蕴与运作逻辑。聚焦算法技术黑箱阻滞公共责任认定、算法权力削弱政府与民众自主性、算法规则偏好导致治理正义性减损等风险与挑战,提出在实践中要推进技术适度透明化以明晰责任关系链条、规范算法权力运作并坚持人本主义治理理念、明确算法规
3、则决策限度以强化治理正义性等实践进路。【关键词】算法;政府治理;算法技术;算法规则;算法权力【中图分类号】T P 3 0 9;D 6 3 0 【文献标识码】A【文章编号】1 0 0 8-2 4 5 X(2 0 2 4)0 1-0 0 5 2-1 0一、问题提出近年来,随着新一轮科技革命取得突破性进展,大数据、云计算、人工智能已深刻嵌入社会生活的方方面面。从人脸识别到安全监控,从智能家居到自动驾驶,从人机交互到数字孪生,数字化、智能化的技术手段不断重塑社会样态,驱动人类社会朝着智慧化迈进。其中,算法作为一切智能技术的基础要素发挥着关键性作用。凭借高效的信息处理能力、自主的校准修正能力以及持续的深
4、度学习能力,算法能够以机器语言对海量数据信息加以处理,以预先设定好的策略机制解决现实问题,为整个社会高效有序运行提供逻辑参照。同时,在“算法社会”时代,算法技术也为政府治理提供了更为广泛的思路参考,如何推进算法技术与政府治理场景广泛融合,发挥好算法技术在促进政府决策理性化、公共服务精准化、行政绩效高效化方面的优势成为亟待解决的现实议题。“十四五”数字经济发展规划 明确提出,要加快构建算力、算法、数据、应用资源协同的全国一体化大数据中心体系,提高中国数字经济治理水平,走高质量发展道路;国务院关于加强数字政府建设的指导意见 指出,要主动顺应经济社会数字化转型趋势,充分释放数字化发展红利,建立健全对
5、算法的审核、运用、监督等管理制度和技术措施,以数字化改革助力政府职能转变。可见,在当下如何推进算法技术深度嵌入政府治理,促进政府治理模式优化升级,以期更好地实现公共价值是亟须关注的时代命题。从广义上说,“算法”是模型、目标、数据、训练数据、应用程序、硬件等一系列要素组成的概念网络,能够将人类语言中的社会规范和法律规则转化为计算机代码1。其雏形最早出现在中国周朝时期,商高提出的“勾三股四弦五”定律即为数学算法的初级推演。此后,欧几里得算法、九章算术、周髀算经 等不断推进算法演进,为现代算法设计的形成奠定了理论基础。随着A d aB y r o n程序设计流程图、图灵计算机的发明,人类社会逐渐步入
6、信息化时代,人们开始探求以计算机语言描述算法程序的可行性路径,尝试通过一套包含算数运算、逻辑运算、关系运算的计算过程高效、理性、客观地解决现实问题。从当前有关算法与社会发展关系的研25h t t p:s k x b.x j t u.e d u.c n周晓丽,姬晓暄 算法嵌入政府治理:逻辑、风险与规制究成果来看,学界多从技术、规则以及功能三个方面展开研究。从技术角度而言,一方面,“算法积极论者”认为,人类社会应因技术革命发展方向进行结构性演变,算法能够促进信息流彼此联结形成网络系统,实现对各社会事务的标准化和程式化处理,提高社会运转效率和整体效益,丰富和便利社会生活,提升公民对于复杂技术规则的学
7、习与掌握能力,推动社会形成开放多元的思维方式和价值理念。另一方面,“算法消极论者”认为,历史上的所有技术应用都存在异化的风险,算法的纯工具理性可能会限制市场竞争、威胁数据安全,导致社会公正性减损、个体权利湮没等问题,因而需要警惕算法给社会带来的风险。就规则层面而言,算法不仅是构建网络空间的代码和技术,也是对现实世界的制度供给2。算法将海量的数据资源放置在预先设定好的程序框架内,经由一套确定的规则转化为现实的问题解决路径,以可视的正式的制度安排引导、推动甚至决定社会事务发展方向,同时算法开发者、测试者、使用者基于个人潜在意识赋予算法的非正式制度安排也在潜移默化中作用于社会生活,形成对现实世界的规
8、则。从功能层面而言,学界已普遍关注算法嵌入社会医疗卫生、金融科技、腐败治理、政务服务、文化传播、信用评价等领域,认为具备自主学习能力的算法已不仅仅是处理社会事务的技术和规则,更是推动社会权力运行的重要机制3。掌握核心算法技术的个人或组织能够凭借技术优势把控社会资源,在政治、经济、社会等领域实现对传统权力的虚拟化延伸,逐渐构建起复杂的算法权力网络,对社会进行构建、干预、引导和改造4。关于算法嵌入政府治理,既有研究呈现较明显的“乐观”与“悲观”两极化态势。乐观主义者认为,现阶段面对日益复杂的治理环境,传统政府部门决策可能存在“认知负荷”5,而算法凭借独有的算力优势能够有效减少政府机构工作人员的投入
9、,降低治理成本6的同时,能够对海量信息资源进行转码和解码,通过统一规范的程序产出问题解决方案,有利于提升公共部门决策质量2;此外,算法嵌入还有利于将碎片化治理转变为整合连接式治理7,保障公共部门决策的中立性和客观性8,更好地实现公众个性化公共服务需求,推进社会治理逐步向开放化、透明化与智能化发展9。悲观主义者则认为要对算法嵌入政府治理保持警惕,公共部门决策过度依赖算法可能会削弱政府和民众的自主性,侵犯公民隐私权1 0,产生算法歧视与算法共谋1 1,使得公共秩序被算法支配,最终导致政治正义的解体。因而,要审慎对待算法技术,谨防工具理性对公共价值可能造成的损害。通过梳理可以发现,既有研究中“乐观”
10、与“悲观”两种研究论调出现的原因在于算法作用于政府治理可能产生的正负外部性间存在的结构性张力。事实上,承认算法对于政府治理的正外部性,即从效率、效益角度强调算法以远胜于人脑的技术优势赋能公共组织,提高公共决策效率,提升公共服务质量,更好实现公共福祉;而承认算法在政府治理中的负外部性,更多是看到了算法的权力内核,强调公共部门要秉持公共性,善用技术权力,以算法驱动公共价值实现,旨在从价值层面强调平等、民主、责任等公共价值对于政府治理的重要意义。可见,无论是作为技术的算法,还是作为权力的算法;无论是从效率角度还是从价值层面来说,算法的正负外部性是一体两面的,统一于公共价值实现。那么,应该如何调节二者
11、间的结构张力,在充分发挥技术效益的同时反制技术滥用,实现公共价值最大化目标?本文尝试从“技术权力规则”三个维度搭建研究算法嵌入政府治理的分析框架,探索算法技术赋能政府治理的价值意蕴与运作逻辑,同时聚焦算法权力作用于政府治理可能带来的风险与挑战,细化未来算法嵌入政府治理的实践进路。二、算法嵌入政府治理:“技术权力规则”的解释框架 “算法”最初始的含义即为一种计算机科学技术,通过“逻辑+控制”1 0系统将输入的数据转化为编码程序,经由确定的计算过程形成切实可行的问题解决方案,在实践中以自动化、智能化逻辑辅助决策,此为算法的浅层表征。同时,由于算法具有构建规则、执行规则的能力,在运行过程中的算法不断
12、突破自身技术边界,尝试与诸社会领域加深融合,凭借技术优势逐渐形成了达成目的和获得利益的能力,并不断编织起以技术为核心的权力网络,最终具备了自主分配社会资源的权力。此外,从制度化角度看,随着智能技术不断更新迭代,算法的开发者、测试者赋予算法以运行逻辑,而算法凭借自主学习能力和预测能力不断调适、修正网络空间的制度供给,构建起对技术权力的约束框架,因而算法也作为制度化的规则而存在。基于这一逻辑,作为技术的算法、作为权力的算法以及作为规则的算法统一作用于网络空间,持续性地对整个社会产生影响。因而,以“技术权力规则”框架(见图1)分析算法嵌入政府治理具有现实意义。(一)“技术权力规则”的运作逻辑与场景呈
13、现1.作为技术的算法塑造了智慧化公共决策场景,促进政府治理提质增效在万物互联的今天,社会公众已然习惯于在互联网平台获取自身渴望关注的社会各领域信息资讯,而在平台上点击阅读、点赞转发、评论褒贬之间,每个人的“数字足迹”已被各种搜索引擎记录,公众通过网络行为反35西安交通大学学报(社会科学版)2 0 2 4年1月 第4 4卷 第1期图1 “技术权力规则”解释框架映出的对某一个或某一类社会问题的关注实际上就在向政府传递重要的公共问题数据信息,而算法能够对海量、动态、多元的网络数据行为进行分布式并行信息处理1 2,通过清洗、筛选、挖掘各信息要素之间的相关关系,将众多孤立个体的“数字足迹”编织成社会整体
14、的“数字网络”,刻画出社会公众普遍关注的公共议题版图,并通过大数据赋值规则评定每一公共议题重要程度,判别社会公众对美好生活的需求热点,据此积极主动作为,使公共决策更加符合百姓期望。此后,在对初步设计好的公共政策进行科学论证时,也可以基于公民基本信息数据库,利用算法数据画像技术将初步设定的政策动议推送给相关利益群体,并及时收集聚类相关反馈信息,为进一步调整、修正公共政策问题解决方案提供参考依据。与之相适应,在实践中,算法依据不同的计算模型切实为辅助公共决策助益。比如,北大方正技术研究所设计研发的“方正智思舆情监测系统”广泛收集社会公民包括性别年龄、工作经历、教育背景等方面的数据信息,对海量数据进
15、行筛选和归类,按逻辑相关原则将可能具有相似公共服务需求的公民纳入同一服务单元,绘制出服务需求热点动态图谱,持续追踪不同群体的诉求变化,整体把控社会公众需求,使政府行政真正做到想民之所想、办民之所需、行民之所盼。同时,作为技术的算法不仅能够助力识别公共政策问题,还能够对一些公共政策问题进行辅助回应。算法技术能够根据公共决策需要,对海量数据迅速进行自动追踪、抓取、聚类和整理,通过程序规则将经过处理的数据信息转化为算法程序的底层代码和计算单元,并模拟人脑思维对数据建模生成公共决策的虚拟化样态,在虚拟样态中推演底层代码与计算单元之间的动态演化过程,经过自动化的深度学习进行修正更新,最终形成一套标准化的
16、问题解决程序,为公共部门制定决策提供科学依据。因此,从理论上说,作为技术的算法搭建起了数据信息与政府行政之间的逻辑计算关系,将公共部门决策转化为基于信息资源高效供给的标准化作业程序,有效降低了非结构化公共问题的复杂性和不确定性,提升了政府行政的精准性和高效性。基于此逻辑,在实践中,算法也被广泛寄望于智慧城市、社会保障、基础设施管理等诸多政府治理领域,不断创设出更智慧、更便捷、更高效的公共服务新场景。例如,当前算法技术已嵌入中国各级地方政府的政务网站建设中,从公民登录政务服务平台起,前端算法已经在详细记录用户的个人信息和服务诉求,并通过调取移动设备后台信息不断搜索完善用户的个人信息库。随后,基于
17、政务服务信息数据库,根据预先设定好的规则程序对公民诉求进行自动识别与回应。如遇算法程序难以界定的问题,算法则会归纳判别各类诉求的责任主体并生成任务窗格,再将不同的任务窗格分配给相应的责任部门进行集中处理。由此,算法借助制式化的规则程序实现了海量诉求与政府责任部门相衔接,把公共部门从琐碎的信息分析处理中解放出来,促进公共服务效率提升。2.算法技术在与政府治理不断加深联结的过程中也逐渐衍生出权力属性算法以社会各领域大数据的抓取和收集为基础,通过挖掘非结构性数据要素间的联系,以程序化规则探求45h t t p:s k x b.x j t u.e d u.c n周晓丽,姬晓暄 算法嵌入政府治理:逻辑、
18、风险与规制非结构化问题的决策最优解,以此对公共部门决策行为进行引导和控制。在此基础上,通过强大的自主学习和预测能力,对不同的社会治理场景进行感知和探测,形成更加主动的算法运作逻辑,依附于公共部门掌握的公共权力,不断将权力触角伸向更广阔的社会生活领域。由此,算法已不仅仅代表新技术手段,还逐渐表现出了权力属性。作为权力的算法在加速嵌入政府治理的过程中表现出重要特征。一是技术驱动性。随着人工智能技术的不断发展,算法对公共事务的学习、感知、预测能力不断强化,凭借技术优势辅助政府公共决策并逐渐与政府治权相结合,形成了对社会资源进行调配控制的能力,因而作为权力的算法本质上具有技术驱动性。二是场景虚拟性。算
19、法权力意志实质上是经建构的代码规则和数据秩序的体现,具有很强的虚拟性,在其凭借技术优势进入公共决策场域后,能够主动搭建数字空间与现实场景间交融互构关系,皈依有形的公共权力主体,隐蔽于代码规则和数据秩序之中,因而算法权力具有场景虚拟性。三是动态扩散性。数据资源是算法权力运作的核心,由于数据资源具有高度的动态性、共享性、交互性,能够在不同权力主体间流动和转化,算法权力也因此具备动态性扩散的能力,使得政府治理呈现一定程度的“多元化”结构特征。在实践中,作为权力的算法在政府治理场域也发挥着重要作用,为多元化公共服务场景赋能。比如,在金融科技监管领域,基于算法权力中心的“监管沙盒”已在北京、上海、广东、
20、江苏、浙江等1 0余个省市应用试点。“监管沙盒”运作的核心是算法程序基于预先收集好的数据信息,在一定测试空间内模拟金融业现实市场环境,通过研究聚合多模态数据与市场风险间的关系,自主划定需要金融监管部门介入的风险管控阈值,允许在真实的市场环境中适当放宽监管规定,企业在一定风险限度内可以自主创新产品、服务和商业模式,缩减对创新的限制和约束。当前,“沙盒监管”已在消费金融、小微信贷、智能风控等领域正式推行,以算法规则和程序更有效地平衡了政府监管与企业创新之间的关系。类似地,杭州市“城市大脑”依托阿里云的“飞天”算法模型,将人、车、房、危化品等治安基础要素与治安风险防控相联结,构建“在线警务”服务系统
21、,发现风险可在5分钟内判别,形成了对城市风险的全局感知、精准处置。可见,作为权力的算法已形成针对不同政务服务场景的感知、预测和决策能力,这使得机械的算法逻辑转变为动态的行为规划,形成了新的权力运行模式。3.作为规则的算法以程序规范化设计引导、约束公权力行使算法作为一套数字空间的规则组合,包括正式和非正式的制度供给1 3。正式制度供给意为经算法推导的公共部门自动化决策的逻辑程序完全透明,在逻辑规则的控制下,从数据输入到建立数据联结再到输出公共决策,整个流程都以算法意志为意志、以算法规则为规则,以透明公开的程序实现对人为裁量的替代;非正式制度供给则是指算法设计者在设定算法规则时隐含的个人潜在意志的
22、集合,是社会价值判断与技术工具理性的统一。作为规则的算法在政府治理中具有以下优势:第一,算法明确了数字空间的规则,划定了行政主体权力作用的界限,有助于保证公共决策公正性,减少权力僭越的可能;第二,行政主体的潜在意志、社会的伦理秩序也被包含在算法规则之中,使算法治理在保证工具理性的同时尊重价值理性,在双向平衡中实现治理效能的提升。为此,作为规则的算法在实践中也为规范政府公权力行使助力。在行政监督领域,通过对公务人员的资产申报情况、银行流水明细等数据进行分析,聚合个人政治生活轨迹,测算腐败高发点与风险值,据此对公务人员腐败行为进行识别,把公权力关进算法规则的笼子里,提高对腐败行为的治理效率,维护公
23、共部门公信力。在行政审批领域,深圳市的“秒批”工作方案,利用智能算法模拟人脑结构,通过算法系统自动审核申请对象提交的材料并进行相关信息比对,从而提升审批效率、约束权力运作、保证审批公正性。此外,作为规则的算法还被广泛运用于智慧城市建设、精准扶贫、治安管理等领域,通过预先设定的算法程序精准描绘服务对象的数字画像,规范权力行使。因此,作为技术的算法、作为权力的算法以及作为规则的算法统一作用于数字空间,在与政府治理不断加深融合的过程中持续性地作用于社会生活,对社会治理的各领域产生积极影响。(二)算法嵌入政府治理的价值意蕴1.算法技术推动公共决策更具理性算法技术通过数据聚合绘制社会热点动态图谱,明确治
24、理对象的精准诉求,精确化识别公共问题,推动公共问题快速进入政府议程,并通过机器算法推演生成理性、科学的决策模型,助力政府决策。因而,作为技术的算法能够推动政府治理更具理性。第一,信息是治理的基础,算法技术提高了对海量信息进行清洗、筛选、聚类的效率,能够快速精准建立数据间的联结,为公共部门科学决策提供依据。第二,从治理过程而言,算法以规范化代码复刻行政决策的程序,生成辅助公共治理主体决策的科学化决策方案,并根据现实情况自动反馈和调试,利于科学制定治理方案,合理分配治理资源,提升政府治理效能。第三,从治理能力看,算法凭借全天候自动化、即时性的工作能力,能够在一定程度上替代传统上需要大量人工才能完成
25、的琐粹而重复的经济技术分析工作,精简政府机构和工作人员,显著降低治理成本,55西安交通大学学报(社会科学版)2 0 2 4年1月 第4 4卷 第1期提升治理效率。2.算法权力促进治理行为更具包容性随着算法技术与政府治理的联结不断加深,算法逐渐成为一种技术性权力,促进了政府治理行为更具包容性。首先,算法具有多元的信息获取渠道和强大的程序运算能力,能够精准分析治理对象的服务需求和治理环境状况,从源头保证决策依据更具包容性、广泛性,规避传统政府决策因数据信息不足造成的决策失灵问题。其次,算法在广泛抓取社会各领域数据信息时,实际上也在与治理对象进行着潜在互动,通过数据反馈与收集保障社会各主体意志能够被
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 算法 嵌入 政府 治理 逻辑 风险 规制
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【自信****多点】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【自信****多点】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。