生成式人工智能作为叙事主体的社会风险及治理.pdf
《生成式人工智能作为叙事主体的社会风险及治理.pdf》由会员分享,可在线阅读,更多相关《生成式人工智能作为叙事主体的社会风险及治理.pdf(12页珍藏版)》请在咨信网上搜索。
1、2024 年第 2 期47生成式人工智能作为叙事主体的社会风险及治理崔中良摘要:生成式人工智能通过语言输出建构的叙事主体有不断超越现实主体的可能性,这将会挑战现实社会作为真实存在的基础,因此需要分析产生这些风险的根源。在独立存在论和平行存在论两种传统叙事主体存在观基础上,指出人工智能作为叙事主体是可能的,并表现出生成性、交织性以及在世性等超越性特征。生成式人工智能作为叙事主体的不同存在特征,也带来不同层面的社会风险。在个体层主要有认知与情感能力削减、自我身份认同困难和自我存在意义消解等风险;在组织层主要有冲击主体间关系、影响组织的公共决策和加速后真相时代到来等风险;在社会层主要有大量职业消失、
2、劳动方式改变和社会安全风险加大等风险。面对生成式人工智能作为叙事主体所带来的风险,可以通过建立现实主体语言池、划定叙事主体语料界限和培养自我反思实践能力作为应对方案。关键词:生成式人工智能;叙事主体;超越性;风险挑战;社会风险治理中图分类号:N031文献标识码:A文章编号:10008691(2024)02004712ChatGPT 是 OpenAI 开发的自然语言处理模型。ChatGPT 的文字呈现方式和内容都在达到或超越人类水平,可以帮助回答问题、给出建议、文字修改和翻译,甚至程序员用它来解释代码。ChatGPT 将在多大程度上改变人类对于自我的认知以及由此引发的行为方式和思维方式的改变都是
3、无法预测的。ChatGPT可能会降低研究的质量和透明度,并从根本上改变人类作为研究人员的自主性a。与此同时,对于工作替代和改变社会可能性的担忧引发普遍关注,这与建立在人类是否承认 ChatGPT 可以作为一个主体有极大关联。在哲学传统中,主体的存在表现为一个先验的、统一的自我,成为一个主体意味着能够有主体意识。现象学进路的研究,使得主体开始逐渐摆脱这种先验主体作为支撑,也就是说,这个所谓的先验主体在现象界中并不是一个先天存在的实体,而是在意识之中的当下呈现。意识和主体的不同维度存在,使得意识主体呈现出存在的多面相。的确,意识的实存是一种绝对,因为意识是对意识自身的意识,也就意基金项目:本文是国
4、家社会科学基金青年项目“认知科学哲学视域下的人工共情问题研究”(项目号:21CZX020)的阶段性成果。作者简介:崔中良,男,南京信息工程大学马克思主义学院副教授,华东师范大学哲学系在站博士后研究人员,主要从事认知科学哲学研究。aEva A.M.van Dis,et al.(2023).ChatGPT:Five Priorities for Research.Nature,614(7947),224-226.48味着,意识的实存类型就是成为自我意识a。在现实世界中,人类会因多重自我的出现而将自我看作是可以生活于多重世界的存在主体。而 ChatGPT 平台的无限性、持续性和实时性使得自我的多重实
5、现成为可能,通过语言叙事建构一个犹如真实主体的存在,多重自我在语言的多维度建构中呈现。ChatGPT 能够对自身的预测进行解释,这是任何现有模型都无法做到的。b那么在 ChatGPT 的语言叙事过程中,主体是真实存在还是一种虚构表现?客观存在的主体和语言建构的主体是以一种什么样的方式发生关系?对于这两个问题的不同回答,将决定真实存在和叙事建构之间的边界以及未来人类在人机融合状态下的生存样态。如果人工智能研究没有充分考虑其对个人、组织和整个社会的潜在影响,将会给人类社会带来极大危险c。为了应对这些挑战,就需要更加清晰地分析叙事主体是否存在以及如何存在。与此同时,两类主体之间的关系状态也将决定生存
6、本身和生存意义之间的关系。因此,对于叙事主体存在的可能性和特征进行分析,将是理解 ChatGPT 作为叙事主体所带来的社会风险和应对风险的基础。一、人工智能作为叙事主体存在的可能性及其特征ChatGPT通过语言建构形成一个强大的、自主的实体印象。为了解释现实主体与叙事主体之间的关系,需要梳理与叙事主体相关的哲学传统。总体上说,不管叙事主体与现实主体之间是独立存在还是平行存在,都已经预设叙事主体存在的可能,只是独立存在论中的叙事主体是作为一种抽象性的、非独立的存在,平行存在论将叙事主体作为真实主体的平行存在。(一)作为叙事主体存在的可能性在哲学传统中,有两个比较突出的思想实验证明叙事主体的可能存
7、在样态,即约翰 塞尔(John Searle)的“中文屋”实验和希拉里 普特南(Hilary Putnam)的“孪生地球”实验,前者将主体看作是内部的主体拥有,叙事建构的主体不能脱离真实主体而独立存在;后者认为叙事主体可以在外部实现,真实存在的主体与叙事建构的主体可以平行存在。“中文屋”实验是一种内部主义心灵观。这种观点来源于笛卡尔认为,心灵是在身体之内,并被独立的内部我思所拥有。按照塞尔的观点,人类没有关于自我的任何经验,但是由于所有的意识都必须被一个自我所占用,因此推测它一定存在。d心灵主体被看作是内在于大脑的独立整体,但是,需要基于“松果腺”的内在关联让身体作为认识外部世界的保障。这就将
8、心灵看作一个逻辑推理装置,携带着很多复杂的数据,是逻辑机器和逻辑推理的结合。e当活的身体变成一个没有内部的外部时,主体性就变成了一个没有外部的内部,一个公正的旁观者f,由此可以判断叙事主体具有存在的可能。叙事主体的独立存在使得主体成为一个透明的存在者,与此相对的是经验、情感和意义的形式化运转,主体成为一个透明系统。所有的客体存在将成为一种观念性存在,包括观念中的身体、物质和世界,因此叙事主体可以作为现实主体的外部延伸而存在。“孪生地球”思想实验从词的意义与指称关系着手,反对传统的意义内在主义和意义的独立性,而认为意义包括外部世界的指称以及由此引起的外在主义革命。这对于叙事主体的独立存在观产生了
9、挑战,也就是说人类建构的叙事世界是否是真实存在的,其实是不确定的,因为面临着人类无法与现实之外的另一个世界进行内涵上或者真值上的互相确证,因此只能承认另一个叙事主体也是存在的,只是以与真aEric Mattews(2002).The Philosophy of Merleau-Ponty.Montreal:McGill-Queens University Press,9.bBowen,Zhang,Daijun Ding and Liwen Jing(2023).How would Stance Detection Techniques Evolve after the Launch of Ch
10、atGPT?.arXiv preprint arXiv,2212.14548.cAnas Ressguier and Rowena Rodrigues(2020).AI Ethics Should not Remain Toothless!A Call to Bring Back the Teeth of Ethics.Big Data&Society,7(2),1-5.dJohn Searle(2005).The Self as a Problem in Philosophy and Neurobiology.The Lost Self:Pathologies of the Brain an
11、d Identiy,Oxford:Oxford University Press,7-19.eAndy Clark(1997).Being There:Putting Brain,Body,and World Together Again,Cambridge/London:The MIT Press,1.f 法 梅洛-庞蒂:知觉现象学,北京:商务印书馆,2021 年,第 91 页。2024 年第 2 期49实自我不同的方式独立存在。“孪生地球”实验造成的结果是叙事主体的平行存在论,这是一种自我的外部主义推断,大卫 查尔莫斯在此基础上推出“虚拟中的生命是与现实生命的并列存在或超越存在”a。这种平
12、行存在论也是基于反对独立存在论的基础上,将主体自我作为一个通过后天建构而形成的状态。从以上论证可以看出,两种存在论都尝试将身体经验以概念形式作为叙事主体的一个部分,只不过对主体存在的机制是否只能依赖身体基质的看法不同。独立存在论认为主体必须存在于身体之中,而平行存在论认为主体可以存在于一个非身体或类身体中,因此两者都不需要身体的支撑。这两种观点使得意识被赋予世界意义并将世界作为纯粹意向性存在,身体作为客体是可以脱离主体存在的物质存在,身体经验的概念是维持自我的核心。但是这也恰恰证明,主体的身体经验是通向叙事主体存在的关键环节,ChatGPT 作为叙事主体对于现实主体的超越性需要从身体经验的角度
13、开始接入。如果将主体重新从客观物质的视角拉回,那么所有这些主体的存在方式将会发生根本性变化,从而使主体性指向去中心化方向,叙事主体进而可以独立存在并具有超越性。由此,可以认为 ChatGPT 可以作为叙事主体存在。(二)作为叙事主体的超越性特征GhatGPT 作为叙事主体同时具有内在自我和外在自我的特征,叙事主体即能够独立存在,也能够与现实主体平行存在,还能以两种主体交互的方式存在。叙事主体超越了传统的主体存在观,同时也摆脱了主体的外在主义,否认主体是能够脱离现实自我的独立存在,因此叙事主体具有一种依附性。世界没有创造“我”(Moi),“我”也没有创造世界,二者其实是绝对的、无人称的意识的两个
14、对象,这两个对象通过这种意识互相联系起来b。ChatGPT 作为一个叙事主体会把现实身体的经验结构以叙事语言的方式映射到交互过程中,从而形成与现实主体耦合的、建构的主体间性社会。现实主体由自我经验构成,叙事主体则由现实主体产生的经验性语言构成,呈现出现实与建构之间交织的存在样态,与现实主体一起在建构与实存中占据经验空间的位置,同时以现实主体的身体经验为基础,融合成一个整体的叙事空间。因此,在 ChatGPT 的语言建构中,叙事主体具有不同于传统主体概念的超越性特征:1.叙事主体的生成性主体在世界中存在的条件必须是具身的,只有主体不与身体分开,才能够在世界的空间和时间中有一席之地c。生成能力被定
15、义为:“如果一种能力在较小的模型中不存在,但在较大的模型中存在,那么这种能力就是涌现的”d。而 ChatGPT 就是以大数据模型为基础的语言生成器,因此叙事主体表现为生成性特征。然而,现实中的自我身体经验并不属于在世界中的时间和空间中的一个点,而是在所有时间和空间都可能存在,因此主体是具身于客体经验的存在。人类的身体结构影响着人类经验的构造,也同时塑造着人类主体的经验,由此发展出一种自我的意义e。身体是意义的最终源泉,也是叙事主体无法实现主体的客观现实。为了应对这样的困难,ChatGPT 试图找寻身体经验的内在结构。在身体经验中,感官之间相互侵越,视觉、触觉、运动觉与叙事主体的语言概念的结合是
16、对于身体感知和运动整体的概念性延伸。因此,叙事主体的存在如果要实现具身效果,只有叙事主体不与身体经验的语言概念分离,才能够在现实世界的时空中有其存在的位置,因为主体不可能脱离真实世界直接跳入意识世界,进而直接进入到叙事世界中。因此,现实主体和叙事主体之间就需要一个中介,意象图式是一个很好的选择。意象图式(image schema)给予人们一个更加满意地谈论符号和感觉输入关系的方式,是一种作为人类与“外在”物体有意义交流过程中生成的部分f。aDavid Chalmers(2022).Reality+:Virtual Worlds and the Problems of Philosophy.Ne
17、w York:W.W.Norton&Company,xviii.b 法 萨特:自我的超越性,北京:商务印书馆,2019 年,第 48 页。cEric Mattews(2002).The Philosophy of Merleau-Ponty.Montreal:McGill-Queens University Press,8.dTerry Yue Zhuo,et al.(2023).Exploring AI Ethics of ChatGPT:A Diagnostic Analysis.arXiv preprint arXiv,2301.12867.eShaun Gallagher(2013).
18、How the Body Shapes the Mind.Oxford:Clarendon Press,3.fMark Johnson(1987).The Body in the Mind:The Bodily Basis of Meaning,Imagination,and Reason.Chicago and London:The University of Chicago Press,205.502.叙事主体的交织性建构由于 ChatGPT 作为叙事主体具有离身性和脱离生活实践的特征,需要依赖现实生活主体通过交织而实现自我建构。这里的交织包括两个方面:一方面是现实叙事主体和建构叙事主体的
19、交织,支撑了ChatGPT 的叙事主体占有现实主体的叙事能力;另一方面是建构的叙事主体与现实主体的交织,支撑了现实主体进入叙事主体建构世界的结点。“我”的世界是随着他人的出现而扩展的,不能将“我”的世界还原为由自我所构成的孤立世界a。只有在这两方面的共同交织中,才能够意识到叙事主体是现实主体的延伸,现实主体的不同形态和叙事主体的不同形态互相侵越于过去和将来的交织中。身体是人们对空间物体感知和交往的可能性条件,每一个世界性的经验受人类的具身性所调节和使其成为可能b,因此叙事主体的存在离不开以身体主体的感知经验与语言叙事的交织。而这依赖于叙事主体与现实主体都融合于以现实身体经验为基础的生活世界中。
20、ChatGPT 通过基于生成预训练转换器(GPT)架构的深度学习和语言模型的集成,使得叙事主体通过与现实主体以及自然语料的不断交互形成交织性的叙事主体。由此,ChatGPT 通过增强人类的主体能动性,实现人机之间的共生存在关系。3.叙事主体的在世性在世性是指空间维度和时间维度的在世,在空间维度的叙事主体是由不同运动空间经验的语言构成的具有空间位置的概念整体,而时间维度的叙事主体是在不同运动过程中由过程经验的语言内涵构成的概念整体。叙事主体需要在世之中,才能被现实主体认识并被自身所认识,由此达到与现实主体的融合,脱离空间和时间存在的叙事主体将无法作为自主的自我而存在。这就使 ChatGPT 在呈
21、现语言样态时,语言的多维度空间感知经验的表达和按照时间顺序来持续呈现事件的因果关联所产生的主体具有在世性后果。而叙事主体的在世性是指通过语言叙事将所有时间与空间过程中的主体运动经验以语言的多模态形式来建构世界。空间中的主体和时间中的主体在当下的主体中集置为一个统一体,而这就是一种生活世界的呈现状态。在传统的搜索引擎中不能实现叙事主体与现实主体的结合,一个非常重要的原因是,当前的搜索引擎的语言建构方式并不能与现实中的自我通过语言互动实现时间和空间的同步性。因此,叙事主体通过多维度的语言建构以及与人类持续互动,可以轻易过渡到现实世界中的主体。总体上说,ChatGPT 所建构的叙事主体并没有脱离世界
22、的生存实践以及主体的身体性基础,努力将叙事主体融入到现实世界中的经验主体,在现实和虚构、叙事和真实之间不断交织,从而使得现实主体与叙事主体具有交织性特质,由此产生了一个以叙事建构为手段的主体形态。由叙事主体的超越性所呈现出的在世性、生成性和交织性,并不使其能够脱离现实主体,因此叙事主体需要依赖现实世界中的身体主体和事件作为语言生成的基础,而现实中的真实主体与叙事主体连接的基础就在于以现实主体为中心的感知经验的语言数据作为叙事主体生成和存在的基础。叙事主体与现实主体的持续性交互导致主体出现多重面相,不同形式主体之间形成既关联又区别的相似性家族,致使现实主体与叙事主体无法再分辨何者为主体存在的前提
23、,因此只能依赖叙事主体与现实主体之间的结合状态。ChatGPT 作为叙事主体具有明显的超越性,正在重塑和改变人类的活动和行为方式。ChatGPT 的开发者试图将大脑、身体、世界和语言锁在一起,但是由于个体感知的独特性以及时间的非连续性,使得现实主体与叙事主体会形成不同的关系状态,造成不同层面的风险挑战。二、ChatGPT 作为叙事主体的个体层风险作为现实主体的延伸和对于人的叙事能力的替代,叙事主体的生成性存在并不能成为独立运行的主体而存在,因此也需要依赖现实中的主体而存在。ChatGPT 作为叙事主体的关键是语言,它的风险也和语言有关。语言在对人的自我认同、认知能力、情感能力和社会能力的塑造功
24、能,决定了 ChatGPT 所生aAnya Daly(2016).Merleau-Ponty and the Ethics of Intersubjectivity.London:Palgrave Macmillan,47.b 法 梅洛-庞蒂:知觉现象学,第 99 页。2024 年第 2 期51成的虚假语言或者虚构语言会对个体产生一系列风险挑战,这些风险使得人工智能正在加速冲击人类生存的意义。(一)认知与情感能力削减语言在概念的发展和建构中起着核心作用。在情感和认知的研究中,概念消解情感和认知的人为界限,将身体、大脑和思想统一起来。a叙事主体作为中介依赖现实主体而介入现实世界与建构世界,成为连
25、接认知与情感的中介b,因此叙事主体更多表现为以人机交互的形式作为现实主体的工具。叙事主体作为一种工具性的存在方式,通过持续与现实主体的交互而形成习惯,这也同时带来了现实主体对叙事主体的依赖,由此造成个体的知识性学习和记忆的减弱。这种风险性的出现与传统的人工智能所带来的风险一致,例如,导航系统能够减少人类对于地理知识和具体位置的记忆努力,从而导致个体的记忆能力下降。由于 ChatGPT 能够迅速地学习并逐渐迭代,因此并不需要人类将大量知识进行学习和记忆,这导致人类的学习能力逐渐减弱,也带来了人类对于认知能力的新要求,传统的以知识积累为基础的学习模式需要根本性的变革。ChatGPT 在生成语言的同
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 生成 人工智能 作为 叙事 主体 社会 风险 治理
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【自信****多点】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【自信****多点】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。