![点击分享此内容可以赚币 分享](/master/images/share_but.png)
愈激进,愈保守:技术规制社会及其救赎.pdf
《愈激进,愈保守:技术规制社会及其救赎.pdf》由会员分享,可在线阅读,更多相关《愈激进,愈保守:技术规制社会及其救赎.pdf(12页珍藏版)》请在咨信网上搜索。
1、技术对社会发展的操控取向,以及技术理性树立权威的助推效应,使技术在现代社会已然具备公共权力的形态,并以此规制社会。技术权力深入至社会权利的内在层面,引发了主体规训、弱势排斥、价值侵蚀等复杂效应。作为人工智能技术典范的C h a t G P T的出现,意味着在应用领域深度扩展的同时,技术权力将对人类社会产生“狂飙”叠加式的冲击,强制性排斥、致暗性操作、误导性分析及竞争性阻隔所产生的是人类社会权利机会的缺失、主体责任的缺位、行为决策的偏误以及未来发展的阻滞。面对愈加激进的技术权力,应坚守“人为万物的尺度”理念,愈加“保守”人的主体性和权利的自主性,明晰权利优先、透明与问责、伦理与法治的原则、底线和
2、路径,重新声张、获得并维护作为社会主体的人的自由、平等与尊严的根本价值。关键词技术;权力;规制;社会权利;人工智能;C h a t G P T 中图分类号B 5 0 7 文献标识码A 文章编号1 0 0 1-6 5 9 7(2 0 2 3)0 4-0 1 2 4-1 2技术作为自然属性和社会属性辩证统一的人类劳动的对象化产物,存在于实践发展过程中,具有技术技术力量技术权力的演进趋势。传统意义上技术被认为是人的客观活动及其手段,本身与权力无关。直至瓦特改良蒸汽机,这一“万能的永动机”使得生产效率大为提高,伴随蒸汽机在其他行业的应用和普及,在资本主义生产关系的基础上,技术使用转变为强大的技术力量。
3、伴随电气时代和信息时代的更迭,技术力量的影响范围不断拓展,作用程度不断加深,权力性特征日益彰显。进入智能时代,权力意识觉醒于“机器人”体内1。在现代意义上,技术所承载的是决定人与自然、人与社会、人与自身的关系状态在社会实践中不断否定和发展的权力,而社会控制正是以技术形态呈现,技术权力就此得以展现。人类社会发展享受着技术红利,技术也从征服自然、改造自然领域,拓展到人类政治、社会等诸多领域。支配和控制自然领域的技术进入社会场域,开始改变社会体系及其利益关系。正是在这样的秩序场景转换的过程中,技术的权力惯性驱动其开始发挥强迫且偏执的作用来改变着社会和历史,从“自然力”转变为一种“社会力”,进而影响人
4、类社会的权利获取及行使。人类发展日益依赖技术,使后者在社会治理和发展中已具有关键性作421用,“反客为主”的技术逐渐以一种公共权力的角色和形态来介入并尝试统治人类社会,去中心化的技术特征已转变为中心化的权力特性。马克思对此已有深刻的洞察,他最早将技术赋予政治层面的考察和反思,直接将技术置于资本主义的生产方式下展开分析,并同“压榨”“排挤”“扼杀”“剥夺”“镇压”等话语体系相联系2。如果说国家权力凭借武力、强制、影响力和操纵才会让臣民就范,那么技术权力则能以更稳定、更广泛的方式来施加重大影响。当今人类社会被高速发展的智能技术不断嵌入并重构,技术已经形成对人类经济社会生活的全面渗透。人类社会的发展
5、水准被整体“提升”的同时,也被全面“规制”于技术框架之中。技术愈发展,不断涌现的现实则愈加明显:人类在逻辑推理、信息处理和智能行为领域的主导地位已然不复存在,已不再是智能世界毋庸置疑的主宰。技术代替人类执行越来越多原本需要人的思维和行动来完成的任务,而这迫使人类不得不抛弃独一无二的地位。与之相对应,人类不断接受技术创新所带来的福利之时,也不得不开始承认并接受技术权力的主体性及其权威。一、规训与侵蚀:技术利维坦的治人之策在技术权力的规制之下,整个社会井然有序,整齐划一。技术权力的控制看似真正有益于整个社会,以至于一切矛盾似乎都是不合理的,一切对抗似乎都是不可能的3。技术权力“寡头”以非人格化的精
6、确高效方式,在社会范围内树立了一套标准参照系 技术标准,技术权力系统由此可以对社会主体实施各种规训,全面侵蚀社会价值。“技术利维坦”看似是一种“无人”统治,实则却造就了最深入无形的规制社会形态,并造成对社会的全面压制乃至主体奴役的局面。(一)“单一的注视”:技术规制社会的图景技术在与人类互动的过程中,通过定义人类可以做和不可以做的事情实施控制,通过监视人类对外界事物的感知向人类施加权力。具有高度适应性和智能性的技术权力能够以一种灵活而集中的方式约束人类的行为、操作、习惯,从而实现对社会的规训,剥夺和解构难以融入智能社会的弱势群体的各种权利,实现技术网格化的单向度统治,而人类则主动或者被动接受技
7、术权力给予的数字身份。技术权力的监视和规训打破个人与公众、私人与公共之间的界限,全面渗入私人领域。凭借个体在网络上产生的数据及其痕迹,技术为人类能做什么、不能做什么设置了固化的限制。技术对人类行为了解越多,越容易让人类服从技术权力,从而构成其对社会价值的权威性分配。不符合技术权力要求和试图脱离技术权力控制的行为,将不被技术允许,由此整个社会得以规训。技术权力的规训常常以“感知操控”为作用手段。对人施加权力的方式是操控他们的所知、所思和所述,在潜移默化中让人类确信自己的欲望是错误的、不合法的、可耻的,甚至是疯狂的42 0-2 8。“感知操控”的优势在于,仅仅知道人正在被观察这件事本身就会让人的行
8、为有所不同,这使得人更不可能去做那些被认为是可耻、有罪或错误的事情。尽管技术权力的规训不用武力来实现,但技术权力的审查和监视本身就可视为一种无形的强制力:它不强迫你做任何事情,但确实会鼓励人基于对不良后果的担心而自我监管,无论这种后果是真实存在还是出于想象。由此,技术可被视为一种“完美的规训机器”,将成为521可以不间断地看到一切的“单一的注视”51 7 3。在重重规制之中,技术权力创造出接受技术、接收信息的社会,技术弱势群体往往被排除在外,增加了自我封闭和离群索居的趋势。伴随智能时代的到来,技术与人的社会行为已然紧密相连,毫无疑问为人类社会提供了全新的生存环境,同时设置了一系列隐形的“门槛”
9、条件。弱势群体的社会权利的脆弱性更加显现,其所有权、隐私权和平等权更易受到侵害。由于弱势群体权利意识薄弱,对于技术权力对其施加的潜在威胁明显警觉不足,更缺乏权利保护意识和抗争能力,其社会权利受到技术权力的剥夺已成为现实。在技术运用的“人群偏好”和社会发展的“技术偏好”的双重加持下,技术权力“排除异己”的局面愈发难以扭转,社会总体呈现遇强则强、由弱积弱的马太效应,弱势群体处境日趋困窘。人工智能极大可能催生越来越多的“技术贫困地区”和“技术穷人”,抢先占领技术领地的强者凭借优势建立专享特权,遏制他人技术升级的可能性,大大减少技术发展成果的共享机会。技术权力通过剥夺弱势群体的社会权利来排斥“异类”的
10、不和谐因素,最终形成同一化的社会整体格局。(二)“自我取消”:社会价值的侵蚀与异化技术权力主张以技术为毋庸置疑的社会最高原则,服从技术指令则成为人获得和维持社会权利的唯一途径。传统社会价值与技术统治相背离,导致社会价值的异化和负向发展,最终构筑出疏离化、功利化、机械化的社会形态。在技术创造的虚拟社会,公共道德失范而社会面临失序。社会价值受到侵蚀,随之而来的是人的全面异化。技术导致的价值蜕变,本质上来源于物界异化。“机器劳动极度地损害人的神经系统,同时又压抑肌肉的多方面运动,夺去身体上的一切自由活动。机器不是使人摆脱劳动,而是使人的劳动毫无意义”64 6 3。技术从人之创造物转化为统治人、消解人
11、之主体性的异化力量。工具主义的技术把世界及其构成要素仅仅看作是达到自身目的的工具或手段,价值尺度是效率,关心实用的目的,一切人或物的社会价值都单一地视其有用性。而技术权力造成事实与价值的强行剥离,使得人们只在乎目标,忘却对目标合理性的质问,排除思维的否定性和批判性,消极地去顺应现实,满足于现实,不图变革现实7。客观世界,即物界的异化留存于个人意识和人际关系之中,逐渐泛化为社会价值的异化。支配技术权力运作的原则,成为动态性、敏感性以及适应性更强的人类行为裁判准则。技术以其数字化、原子化的表现形式以及非人格化的作用机制,仅仅关注社会效率的提升,完全摒弃人的情感价值和生存意义。“个人被贬低为习惯反映
12、和实际所需的行为方式的聚集物”82 2,催生出碎片化、游离化的社会关系,内部凝聚力弱,个人与个人、个人与集体之间的关系日益疏离,最终解构关系交往意义上的社群和社会。技术权力规定和安排人的行为方式,必须符合和适应技术节奏,跟随技术实体 机器一同运转,人的社会化变成了人的工具化。人的意志在于贯彻技术意志,沉迷于“被精力所陶醉,被匆忙所迷糊”,以“自我取消”为存在特征,人的行为不是由生命和生存需要所主导,而是为一种外在力量所牵引98 0-8 1。人的思维以技术的实际效用为核心,追求行为逻辑和步骤的普遍统一性,思维程序依从机械化的程序运转,人的主体性被边缘化,自我意识消失殆尽。技术权力所构建的理想社会
13、,正是人把生活诉求于对物的无节制生产和占有,把快乐建立在物质需求的满足上,视技术为幸福和命运之所在,企图从技术那里找到安身立命之所。技术权力成为数字社会的统治力量。技术通过收集和存储我们的私密信息来规训人621类,甚至在使用它之前就能够预测人的行为,并且通过控制人的感知来发挥作用。技术权力过滤了人类对更广阔世界的认知,设置议程、引导思维、激发情感,并在最大程度上调动人的偏见。最为人类所珍视的自由权利 包括思想、言论和结社的自由权 将大规模地委托给技术权力来实现和保障。就言论自由权来说,人类依赖社会媒体和通信平台设置的限制;就思想自由权而言,人类则依赖新闻真实性和搜索算法。技术权力将产生新型且奇
14、特的不公正体系。曾经,贬低我们的只有其他人,现在范围扩大到了机器1 02 2。二、剥夺与挤压:人工智能“狂飙”叠加式冲击1 9 5 6年,美国计算机科学家约翰麦卡锡在达特茅斯会议上首次提出“人工智能”概念,并称“让机器与人类做同样的行为”。此前,人工智能需要人类的介入和指导才能顺利开启和运转。而如今,成千上万种以前只有人类才能从事的活动被人工智能系统更快、效率更高、更准确地完成,人类无法与之相提并论。伴随C h a t G P T的面世,人工智能日益强化了技术权力对于人类社会的规训和辖制,同时对社会权利产生叠加式的剥夺和挤压。(一)空间挤压与机会“强制性缺失”人工智能技术凭借其速度和效率优势,
15、使资本可以更加扩大生产规模、压缩生产时间,追求智能化生产的利益最大化。当前,C h a t G P T作为一种人工智能内容生成式应用,已掌握文案生成、论文写作、代码生成等功能,代替人创作,甚至可以充当教师。人工智能对人类工作岗位的替代,如同剥夺了法律给予公民的劳动权、休息权、创作权,基本权利范围的压缩,实际上是对可选择的权利机会的剥夺。技术权力剥夺选择机会,导致大规模的失业问题尤为凸显。在经济发展意义上,各种类型的工作是一系列有用又有效的任务。随着技术的发展,人工智能完成这些任务的能力逐渐与人类持平并最终超过人类。对于企业而言,购买使用智能机器比雇佣人力资源更加划算1 1。起初人类需要做的工作
16、总体上会减少,但仍足够分配。随着时间的推移,人们发现剩余工作量在不断缩水。当人工智能的工作能力和可信赖度达到相应水平后,雇佣人力来完成任务目标变得毫无必要。人类的就业机会被人工智能剥夺。随着狂飙式发展的技术对人类的超越与替代,机会的可选择范围逐渐缩小,最终工人已经成为一种商品,“能找到买主对他来说就已经很幸运了”1 26 7-7 1。人工智能通过屏蔽、禁言等网络行为侵害人的知情权和言论自由权,在信息不对称的情形下强制剥夺网络发言,并且不允许人类为自己发声。人工智能技术选择性限制人在网络空间中的所见所闻,操纵和控制人所接触的网络信息与可及范围。在缺乏真实信息而难以有效辨识虚假信息的情境下,人类无
17、法得知自身遭受何种不公正待遇。同时,人工智能限制人们发布言论的权限,删除人类发表的煽动性言论,丧失公开维护社会权利的机会。最终,对选择机会的技术性剥夺,不仅造成现实权利的侵犯和挤压,而且极大改变人的生存与生活状态和境遇。技术边缘化、标签化强化了对人的社会福利和社会权利的排斥。特殊群体因无法占有信息资源和利用技术来满足自身发展,与现代社会隔离,逐渐处于一种边缘化状态。随着社会的智能化信息技术改革,冠以数字化服务的社会福利愈加普及,但对缺乏基本硬件、知识和技能的技术贫困人群来说,带来的不是便利而是障碍。他们因无法及时获得准确信息,而失去获得福利的机会。这些人群对网络业务的复杂流程望而生畏,往往被标
18、签721化为“技术无能者”,被主流的技术权力贬低为“不入流的人”。技术权力在无形中设置了一系列排斥性条款,将其拒之门外,无法获得平等的社会福利,造成权利机会的“强制性缺失”。(二)“致暗性操作”下的责任主位缺失人工智能技术的具体运行过程,并不为人所知。作为一种对外隐秘的行为体,人工智能的“致暗性操作”1 3对指令的处理行为处于暗层,外部难以知晓其内在运作机理。在获取人的网络行为信息时,往往能潜移默化地对人们产生引导,从而操控人的思维和行为,当出现违法违规行为时,由于其潜在危害难以发觉和捕捉,无法确定责任主体和责任分配,致使其责任难以追究。基于人类的直觉思维,“致暗性操作”即系统的行为可以通过“
19、观察内部”来解释。与人际间的相互影响相比,人工智能凭借较高的认知门槛和极强的专业性要求,导致其对人的影响几乎是完全隐匿性的。基于规则的技术算法系统,以明确的逻辑将输入概念转换为输出结论,而智能机器学习型算法却与此不同。输出变量和输入变量被同时输入到代码之中,在初始模型中训练,它往往默示而非明示地表达逻辑,通常不会被人理解。数字环境中,算法逻辑暗含人工智能的操控性目的。技术通过调整信息数据结果的输出引导人的行为决策选择,通过编织不同的数据信息潜伏式“植入”人的大脑,隐秘地操控人的认知和行动,控制其所见所闻,甚至使其自觉服从技术意志,对其决策起支配性作用。屏幕两端的使用者和开发者的信息不对称,导致
20、技术的“黑箱”行为难以取证,并使监管机构无法确定技术系统是否公平、安全地处理数据。对于人的隐私权和知情权的侵犯,复杂性、专业性、隐蔽性和不公开性成为了人工智能逃避责任的主因。基于法律归类不明确、责任界定无依据、潜在犯罪监控难等现实条件的局限,人工智能的技术犯罪问题无法克制。人工智能的犯罪问题可分为三类:一是人工智能被用作工具而实施的犯罪;二是人工智能主动、独立实施的犯罪;三是人工智能因技术缺陷、规则模糊导致的犯罪。第一类人工智能被当作犯罪工具的事件,可对使用者定罪。第二类人工智能作为犯罪者“本体”,以及第三类人工智能因自身的设计缺陷和规制滞后的鲁棒性1 4不足而导致的犯罪,属于主观过错。这两类
21、犯罪问题的认定机制模糊,现有法律框架下仍无法明确人工智能的法律主体地位,并判定其应履行的法律责任。智能技术权属不清,对开发及应用的繁杂数据的精准归类困难,对不同类型技术作为责任主体的法律地位存在分歧,相关法律制度和监管体系发展受限,而现有制度规制算法问题的适用度也同样有限。针对智能技术的具体法律规范尚不清晰,监管者的法律适用信息不充足,技术利益相关者因此产生侥幸心理,对其治理的可能性极小。而技术权力的责任缺位进一步造成“责任鸿沟”。深度学习型人工智能快速迭代,而算法的设计者和运营者未能预测其运行产生的未来后果,也难以测控人工智能系统的全部操作过程,无法要求人工智能承担过错责任。依照传统的归责原
22、则,法律主体只有在其知晓自己的行为及其后果并且可以自由选择是否作为的时候,才应该承担法律责任。对于机器运行造成的危害后果,传统责任理论一般追究制造者的责任。然而,这对善于深度学习的内容生成式人工智能并不适用。过错后果往往具有非人为性,而是基于数据库和初始模型自主训练和学习得来,此种非人为造成的损害结果落入“主体行为责任”的法律框架中,难以得到充分的追责和定责缘由。821 (三)“新煤矿”误导行为决策数据对于人工智能深度学习来说至关重要。如果数据太少,人工智能的深度学习便会受阻。如果数据足够多,几百行的初始程序就能轻松产生千万行的后续程序,并能在不同问题上反复使用。数据,可谓之人工智能发展的“新
23、煤矿”1 5。然而通常情况下,人工智能只能通过训练用的初始数据来学习观察世界。事实上,它们对现实世界缺乏深入细致的了解。当初始数据蕴含不公平、偏见、歧视等价值观时,就会对基于数据分析的决策和实践产生误导,影响决策权的正确行使。依赖未经辨识而内含缺陷的现实数据,客观上会对人工智能学习系统造成破坏,导致其误入歧途。2 0 1 6年微软在推特(T w i t t e r)上推出了人工智能聊天机器人T a y,它可以模拟一个1 9岁的女孩说话,并能从与其他推特(T w i t t e r)用户的交流中学习。然而,在T a y面世仅仅1 6小时后就被禁止继续运行,因其发布了一系列含有种族主义和色情内容的
24、煽动性推文,其中还有一张希特勒的照片,照片上标注着“前方高能”的说明。T a y在推特其他用户的这种交流方式中“学习”了此类说法。可见,人类在社会媒体上如何表达,人工智能经由一系列“学习”后就能有样学样,滑向误区。以人工智能学习和数据分析的名义所出现的偏见会对特定群体产生影响,这种数据价值偏见导致的伤害可区分为配置式伤害和表征式伤害。配置式伤害是指系统分配或阻滞特定的机会或资源,比如银行的人工智能系统拒绝给女性抵押。而表征式伤害则是系统沿着同一路线加强了特定群体的附属关系,比如谷歌照片把黑人标记为暴徒、亚洲人笑的时候会眨眼睛(暗指生理缺陷)等1 6。一旦这种细微的歧视出现在某一环节,都可能产生
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 激进 保守 技术 规制 社会 及其 救赎
![提示](https://www.zixin.com.cn/images/bang_tan.gif)
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【自信****多点】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【自信****多点】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。