![点击分享此内容可以赚币 分享](/master/images/share_but.png)
算法歧视的敏捷治理——以D短视频平台为例.pdf
《算法歧视的敏捷治理——以D短视频平台为例.pdf》由会员分享,可在线阅读,更多相关《算法歧视的敏捷治理——以D短视频平台为例.pdf(12页珍藏版)》请在咨信网上搜索。
1、西安交通大学学报(社会科学版)2 0 2 4年1月 第4 4卷 第1期D O I:1 0.1 5 8 9 6/j.x j t u s k x b.2 0 2 4 0 1 0 1 2【收稿日期】2 0 2 3-0 4-1 8。【修回日期】2 0 2 3-0 9-0 8。【基金项目】国家社会科学基金项目(2 2 B Z Z 0 2 8)。【作者简介】高进(1 9 7 8),男,东北大学文法学院教授,博士生导师;刘聪(1 9 9 6),男,通信作者,北京航空航天大学公共管理学院博士研究生。算法歧视的敏捷治理 以D短视频平台为例高 进1,刘 聪21.东北大学 文法学院,辽宁 沈阳1 1 0 1 6 9
2、2.北京航空航天大学 公共管理学院,北京1 0 0 1 9 1开放科学(资源服务)标识码(O S I D)【摘要】敏捷治理作为社会治理的新范式,是对回应式治理和集中式治理的进阶和超越,是塑造未来数智世界和元宇宙治理的现实路径。以敏捷治理化解算法歧视的技术与伦理风险,实现算法治理成为一项重要的理论和现实议题。通过参与式调查对D短视频平台的内容展开田野调查,深度剖析短视频平台算法运作的逻辑机理,总结归纳算法歧视的形态和成因,探索尝试算法治理的可行举措和实践进路。研究发现,基于用户偏好、平台优先等平台价值观念是D短视频平台算法运作的隐形逻辑;主观设计下歧视性推送和定价是D短视频平台算法歧视的突出表现
3、;灵敏感知、快速响应、持续发展的敏捷治理机制是逾越“算计”陷阱的有效手段。因而,为应对算法歧视的风险挑战,政府亟须以敏捷治理赋能算法歧视治理,塑造多元参与、多管齐下的治理格局,实现整体智治、协同共治、动态管治,从而实现算法“善治”,优化算法治理的中国方案。【关键词】算法歧视;敏捷治理;算法治理;短视频平台【中图分类号】D 9 2 2.1 6;D 6 3 0 【文献标识码】A【文章编号】1 0 0 8-2 4 5 X(2 0 2 4)0 1-0 1 2 1-1 2一、问题提出(一)算法歧视的风险挑战算法作为大数据时代的重要产物,能够将低价值的原始数据转化为高价值的衍生数据1,有效应对海量数据收集
4、、分析和利用难题。算法实践已然成为人与代码结合的运行规则,人类社会由此迈进“算法社会”。然而,基于“算法为王”逻辑下的算法泛化也暴露出算法的阴暗面,滋生出严重的算法歧视问题。算法歧视是以算法为手段实施的歧视性行为2,是由于数据误差、认知偏见、暗中操纵等原因导致算法丧失中立性而造成的差别对待和歧视性后果。算法歧视具有高度的隐蔽性、单体性、连锁性,严重损害社会公平正义。“偏见进、偏见出”的算法运作流程形象地概括了算法歧视的逻辑机理3,这种建立在“先天不足”基础上的算法设计和应用势必会造成算法运算的“最佳结果”与客观现实的偏差。年龄歧视、性别歧视、种族歧视、消费歧视等均为常见的算法歧视类型,故此“技
5、术中立”及其衍生的“算法中立”能够自觉实现算法向善和社会治理的论断本身就是一个伪命题。因而,厘清算法歧视的负效应,探索实现算法治理的实践进路成为一项亟待解决的重大理论和现实问题4。算法歧视的负向效应可归纳为三点。其一,扰乱市场秩序。以算法技术赋能互联网平台是提升企业竞争力的重要手段。然而,企业具有天然的逐利性,平台凭借算法技术和大数据优势能够更好地掌控消费者的个人数据信息,从而增添博弈砝码,实现利益最大化。例如,通过算法测度用户消费习惯、消费频率、消费能力等个人信息,预测研判消费意愿,精准设定价格边界,实现区别定价和“大数据杀熟”5。差别定价是算法歧视的突121西安交通大学学报(社会科学版)2
6、 0 2 4年1月 第4 4卷 第1期出表现,新老用户极易产生“物美价廉”的错觉,坠入被“割韭菜”的陷阱难以自拔。算法歧视塑造“柠檬市场”的同时也严重扰乱了正常的市场秩序。其二,危害社会公正。算法计算具有传统人工难以企及的效率优势,但是算法自动化决策盲目追求效率忽视公平也会滋生算法歧视。例如,岗位招聘中的性别歧视、融资信贷中的种族歧视、就业市场中的年龄歧视等均为歧视性的算法设计。此外,算法介入司法领域进行案件审理、犯罪预测等工作也会因开发人员主观价值而造成结果偏差,损害司法公信力。主观设定使得歧视对象被算法割裂,长期处于弱势地位、背负算法污名6、沦为边缘群体,诱发“马太效应”,危害社会公正。其
7、三,损害公民权利。侵犯平等权和隐私权是算法歧视突出的表现7。算法运作以掌控海量数据为前提,资本一旦介入算法开发,算法必然不遗余力地收集个人后台信息有针对性地实施歧视性行为,从而实现利益最大化,算法歧视不仅侵犯了个人隐私,而且还会诱发信息泄露的连锁反应。此外,算法通过深度分析私人信息塑造对个人全景画像,实现标签化处理,为个性化推送、差别定价等歧视性行为做铺垫,损害公民平等权。以算法歧视为代表的算法“算计”行为已然成为扰乱市场秩序、损害公平正义、侵犯公民权利的重大社会风险。此外,算法歧视具有隐蔽性、多样性、高风险性,因而亟须回答算法歧视“何以产生”“以何治理”等现实之问。(二)算法歧视何以敏捷治理
8、算法歧视是算法技术产生的黑暗面,技术的不确定也加大了算法治理的难度。“平台治理场域”作为算法歧视的高风险区亟须强化算法治理,实现可持续发展。为此,国家互联网信息办公室等部门制定了 互联网信息服务算法推荐管理规定(简称 规定)并于2 0 2 2年正式施行,规定 主要聚焦算法监管和规制层面的内容,阐述了全程监管的核心理念,蕴含着互动监管规制、赋能社会监督、探索治理革新等路径和举措,为破解算法歧视,提升算法张力指明了方向。此外,算法歧视作为兼具技术和价值双重属性的新兴治理难题必然离不开新型治理工具、治理理念、治理手段的助力加持,因而治理模式转型升级成为助推算法歧视治理的关键举措。敏捷治理作为一种针对
9、大数据、人工智能等新兴产业监管而提出的治理理念8,为算法治理提供了借鉴。敏捷治理是一套具有柔韧性、流动性、适应性的行动或方法,是一种自适应、以人为本、具有包容性和可持续的决策过程9,能够有效适应复杂多变的环境,提升社会治理的质效。敏捷治理强调治理节奏的灵活与迅捷,治理规则的弹性与刚性有机结合,治理关系的多元主体协同共治以及治理方式引导性治理。在人工智能等新兴产业技术迭代升级速度明显超过治理变革速率的大数据时代1 0,敏捷治理凭借强大的灵敏感知、快速响应、持续发展能力重塑了治理的理念、工具、范式,已然成为实现算法治理的必备利器。此外,敏捷治理依托先进技术和多元主体优势,构建政府、社会、企业、公民
10、互助合作的治理共同体,促进由被动响应向主动施为过渡的治理转向,实现结果导向到过程导向的治理变革1 1,打造出整体智治和协同共治的治理机制,为破除算法歧视风险,实现算法治理提供了智力支持,进而助推国家治理能力和治理体系现代化的实现。与传统治理模式相比,敏捷治理具有多方面的价值优势:其一,治理主体优势。大部分传统治理模式是单一主体主导下进行的治理尝试,例如政府治理、公司治理,实则是对传统管理、管制思想的延续。尽管部分治理模式强调多元合作治理,但合作主体的主动性、合作程度、合作成效等尚有待提高,治理过程难免沦为主导者的“独角戏”。敏捷治理倡导协同共治,契合治理多元化趋势的同时赋予主体更多的治理权限1
11、 2,是合作深度和治理向度的跃迁,是共建共治共享的有机统一。其二,治理工具优势。借助行政、法律、经济手段施行治理是传统治理的显著特征,但是治理工具刚性有余而韧性不足1 3,因而治理质效相对低下。整体智治是敏捷治理的应有之义,大数据、人工智能等技术工具为敏捷治理提供了精准、高效、韧性的治理手段,从而灵活应对“算法社会”的治理难题。其三,治理价值优势。结果导向是传统治理的逻辑核心,其治理理念仅侧重对最终结果的量化评价而缺乏对治理过程的关注,因而治理节奏和治理成效相对不足。“敏捷”作为敏捷治理的核心理念,强调过程治理和结果导向的有机统一1 4,是对治理节奏和治理质效的优化提升,彰显了敏捷的价值优势,
12、实现了对传统治理理念的进阶和超越。其四,治理范式优势。先破后立的被动响应式治理是传统治理的通病1 5,是建立在问题爆发基础上的事后“亡羊补牢”,治理成本和治理难度较高。敏捷治理则是由应对型治理向预见性和敏捷性治理的转型,强调先立后破和破立并举1 6,是弥补治理滞后、治理未预风险,实现动态、灵活、敏捷的治理优化,塑造了一条新型治理范式。算法歧视是技术和伦理问题的统一体,难以一蹴而就,因而其治理重点在于实现技术治理和协同治理,治理难点在于保持治理灵活性、敏捷性、动态性。以敏捷治理理念赋能算法歧视治理,提升算法治理质效大有可221h t t p:s k x b.x j t u.e d u.c n高进
13、,刘聪 算法歧视的敏捷治理为。一方面,算法设计、算法测试、算法运作等各个阶段都有可能导致算法歧视,因而算法治理必须是全过程式的治理,必须涵盖事前、事中、事后的算法全生命周期。敏捷治理也是一个动态性的治理过程,“灵敏感知快速响应持续发展”的运作流程体现了敏捷治理的内在逻辑和价值优势1 7。因而,算法歧视和敏捷治理具有较高的契合度,聚合二者优势能够更好地取得算法治理的成效。另一方面,算法歧视既是一个技术问题,又是一个伦理问题,因而算法治理需从技术维度和主体维度进行综合施策。敏捷治理聚合了敏捷和治理的价值优势,强调整体智治、协同共治、动态管治,蕴含着对先进技术的考量和多元主体的重视,能够以快速、灵活
14、、有效的方式回应公众的诉求1 8,从而与算法歧视治理产生强烈的共鸣,实现合作共谋。基于此,本研究以算法歧视为切入点,运用敏捷治理模式,尝试将两大命题组合研究,以期为破解算法歧视难题、优化算法治理提供智力支持。整体而言,本研究主要包括以下内容:其一,厘清算法歧视的负向效应,归纳敏捷治理的价值优势,论证敏捷治理与算法歧视结合的合理性、适切性、必要性,从而奠定本研究的理论基础;其二,以短视频平台算法为切入点,通过参与式观察总结归纳算法歧视的隐形逻辑;其三,在短视频平台隐形逻辑的基础上对算法歧视的类型进行划分并揭示问题的成因;其四,将算法歧视和敏捷治理相结合,尝试构建短视频平台算法歧视的敏捷治理框架,
15、助力算法治理的实现;其五,总结归纳研究结论,简要说明本研究的边界价值和研究局限。二、“黑箱代言”:短视频平台算法运作的隐形逻辑 截至2 0 2 2年,中国短视频用户规模首次突破1 0亿人,用户使用率高达9 4.8%,人均单日使用时长超过2.5个小时,短视频平台已成为人们信息获取、情感交流和意见交换的重要场所。D短视频平台凭借强大算力支持和算法优势,通过迭代优化升级,聚合资源优势,创制出“短视频+”的发展模式,衍生出购物、直播、放映、知识、游戏、音乐等多重服务功能,从而精准捕获个人需求、迎合用户偏好,不断强化用户黏性。D平台2 0 2 2年数据报告显示,其用户规模已超过6亿人,月均热点视频播放量
16、超过40 0 0亿次,月均热点创作者超过7 0万人,月均热点数超过1 0 0万次,月均热点视频涨粉数超过3亿人,已然成为当下短视频行业的“龙头”。然而,D短视频平台“顶流”的生成实则是基于“流量至上”的算法逻辑“精心设计”的产物,因而亟须在厘清算法隐形逻辑的基础上,有效实现对“看不见的不正义”的敏捷治理。敏捷治理作为算法治理的新范式,能够有效应对算法技术与伦理所带来的歧视性挑战,尤其适用于“强算法”主导下综合类短视频平台治理,即以D平台为代表的具有社交、拍摄、购物等多种功能的短视频平台。为此,本研究尝试利用敏捷治理赋能D短视频平台治理,以期化解综合类短视频平台存在的算法歧视难题,而对于缺乏推荐
17、模块与热门模块等功能的主打特定领域视频的聚合类短视频平台和以视频剪辑功能为主的工具类短视频平台等“算法不足”或“歧视不显”平台而言,敏捷治理模式的适用性尚待验证。算法作为“非人性”的行动者,其能动作用的发挥需要借助代言机制来实现。因而,算法运作以“代言人”的价值观念为基础,算法执行的是“代言人”的意志。D短视频平台正是基于这种模式,通过与算法合作的方式将平台的意志、利益、价值等注入算法设计、执行的全过程,从而实现算法“私用”,造成算法不公,滋生算法歧视危机。由于算法“黑箱”的存在,平台的算法逻辑往往具有隐蔽性。技术性问题仅是产生算法歧视的表象,平台价值层面的伦理问题才是算法歧视泛滥的根源,因而
18、亟须厘清D短视频平台算法运作的隐形逻辑,维护算法的公平正义。基于此,笔者通过1个月的参与式观察对D短视频平台手机应用软件(A p p)界面推送的内容进行了统计和整理,最终获取了9 1 4条数据信息,进而总结归纳出引致算法歧视的3条算法设定和6条隐形逻辑,如表1所示。表1 D短视频平台的算法逻辑算法设定算法逻辑内涵条数占比/%用户圈层用户偏好与用户点赞、评论、转发、购物、直播等行为相关的内容2 7 02 9.5社交关系与用户关注的博主、通讯录好友以及可能认识的人相关的内容1 3 61 4.9议题场景公共议题媒体发布的热点时事或新闻资讯等内容9 81 0.7特定场景与特定时间节点、地理位置、I P
19、属地等相关的内容1 0 51 1.5诱导边界平台优先级优先推荐平台活动或合作对象有关的诱导性的内容2 1 92 4.0差异化不属于上述情况用于试探用户兴趣边界的其他内容8 69.4注:资料来源于笔者的参与式观察整理。321西安交通大学学报(社会科学版)2 0 2 4年1月 第4 4卷 第1期(一)用户圈层:基于精准画像的数字化营销1.用户偏好:基于用户客观行为的相似性推荐发掘用户个人偏好,进而实现精准“投喂”是D短视频平台算法的首重逻辑。偏好的捕获是基于D短视频平台对用户私人信息的数据抓取、描绘用户画像、实现标签化处理基础之上的,进而“投其所好”谋求利益最大化。笔者通过参与式观察发现涉及用户偏
20、好的内容最多,共计2 7 0条,占总数的2 9.5%,其中多为与笔者点赞的视频、收藏的内容、参与的评论、浏览的商品等有关的内容。尽管不同用户兴趣点可能千差万别,但是基于特定标准下连续3 0天的观察结果的一致性同样说明D短视频平台对用户偏好的重视。虽然这种设计满足了用户的需要,但是建立在获取用户信息和利益优先基础上的“服务”诱发了信息泄露风险和内容同质化危机,也搭建了算法歧视的“温床”。2.社交关系:基于用户社交群体的圈层化推送“社会人”是用户的基本属性,基于用户社交关系的相关性进行算法歧视是D短视频平台的另一隐形逻辑。具体来看,用户社交又可分为一级社交关系和二级社交关系,D短视频平台根据用户关
21、注博主和通讯录好友等信息判定用户兴趣,从而在一级社交网络中推荐深受圈层内群体喜爱的内容和产品。关注好友的好友、通讯录好友的好友等可能认识的人构成用户的二级社交关系,平台借助大数据优势深度分析用户偏好,从而迎合用户需要。笔者观察发现与社交圈层相关的内容共有1 3 6条,占比为1 4.9%,其中一级社交关系1 0 1条明显超过二级社交关系3 5条,客观说明二者与用户连接的强弱和影响力大小。此外,基于社交圈层的算法逻辑助长了隐私泄露的风险,如“推荐给可能认识的人”的功能往往处于默认开启状态,用户信息在算法推荐之下暴露在公共空间之中,严重损害个人利益。(二)议题场景:基于场域关联的关系再生产1.公共议
22、题:基于热点或媒体的持续性推介短视频的快速崛起迫使传统媒体向新媒体转型,媒体的集聚也促使D短视频平台对于公众议题进行适当关注。然而,由于D短视频平台新闻推介的公益性置于平台私利性之后,因而其公共议题的推送带有明显的选择性,对于猎奇、娱乐等用户感兴趣的话题报道频次明显高于用户不太“感冒”的内容。笔者在调查过程中发现“独臂猴 星星”“多地加入下雪群聊”等类型的议题、热点多次出现,而“问天舱转位成功”“诺贝尔奖”等内容出现频次和时长明显不如前者,尽管二者都来自各大主流媒体,最终内容呈现却是平台选择的结果,这也在一定程度上反映了平台流量至上、利益优先的歧视性思维。9 8条与公共议题相关内容占总数的1
23、0.7%,相较于用户偏好、社交圈层而言数量明显偏少,此外以时效性和流量为依据的选择性推介也加剧了算法歧视的风险。2.特定场景:基于用户位置和情景的相关性推广基于本地或情景的内容推荐是产生算法歧视的又一重逻辑。笔者调查发现“附近”的内容占很大比重。如根据空间位置的差异,推送内容差异性明显,从区、到市再到省、全国算法推荐的内容频次、数量等呈明显的下降趋势。D短视频平台将本地市场视为最基本的单元,从而挖掘最有用的信息,增强用户黏性,刺激用户消费,实现收益最大化。此外,基于特定场景和时间段的内容也具有差异性,如“双十一”多推送产品与消费,节假日多呈现“吃喝玩乐”相关的内容,一天中的某个时段定点更新特定
24、内容等。特定场景下的算法推送是D短视频平台精心设计的产物,其目的在于通过蹭热度实现平台利益更大化。该种情况共计1 0 5条,占1 1.5%,是基于平台内容与地理位置或特定情境等内容最优化匹配的结果。(三)诱导边界:基于利益优先的用户再俘获1.平台优先级:基于商业逻辑下的合作化运营平台优先是D短视频平台内容呈现的关键因素之一,即相较于其他信息,与平台组织的活动、参与合作的对象等内容会在不经意间优先呈现在用户面前。D短视频平台正是基于这种商业逻辑暗中攫取最大化的收益,而其他高质量的内容由于缺乏与平台的“合作”容易被“雪藏”。笔者调查发现,此类信息多以“小标+文字”的形式出现在D短视频平台界面左侧,
25、具有明显的提示性和故意诱导性色彩。笔者共计获取了2 1 9条相关数据,占参与式观察数据总量的2 4.0%,平台优先级的算法设定是一种隐蔽的商业逻辑,呈现出D短视频平台商业资本的意志,因而也是一种歧视性行为。2.差异化:基于用户边界兴趣的尝试性探索有别于上述五种情况,D短视频平台也会偶尔呈现一些“另类”的内容。其主要目标并非丰富用户体验,而是用来试探用户的兴趣边界,从而为“歧视”行为铺路。差异化的试探多出现在“新手期”,由于平台缺乏对新用户的信息掌控,需要借助该策略抛出“诱饵”,并根据用户行为分析个人偏好,因而内容具有较高的随机性和公平性,但本质上还是算法歧视。此外,平台借助大数据和算法“黑箱”
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 算法 歧视 敏捷 治理 视频 平台
![提示](https://www.zixin.com.cn/images/bang_tan.gif)
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【自信****多点】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【自信****多点】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。