生成式人工智能的法律规制：承认还是再分配.pdf

生成式人工智能的法律规制:承认还是再分配刘振宇 摘要 生成式人工智能服务管理办法(征求意见稿)的出台,标志着我国立法者已经开始关注生成式人工智能的社会影响.该办法规定了“生成式人工智能”的法律概念,但其规定的内容却存在显著瑕疵.之所以如此,是源于生成式人工智能的“自注意”本质属性容易引发“生成式人工智能是否法律主体”的争论,而这一争论是立法者所极力避免的.只不过,法律规范的“不承认”实质上就是“承认”的一部分,进而导致,或者这一概念规范是无意义的,或者未来的人类会遭遇异化.此时,“社会存在决定意识”这一马克思的经典命题,为生成式人工智能的法律规制提供了再分配路径的另一种可能.在这种路径下,人工智能的主体性不再是核心问题,核心问题是人机关系,即被转化为了嵌入人工智能系统里面的人的主体性是否减损.关键词生成式人工智能法律主体承认再分配社会存在 年月 日,国家互联网信息办公室就 生成式人工智能服务管理办法(征求意见稿)(以下简称“征求意见稿”)公开征求意见.月 日,国务院办公厅印发国务院 年度立法工作计划,预备提请全国人大常委会审议“人工智能法”草案.姑且不论该管理办法和该草案之间如何衔接,但此种情况的出现,不仅意味着国家已经意识到专门立法规制人工智能这一领域的必要性和紧迫性,同时也标志着,包括“生成式人工智能”在内的“人工智能”即将从科技概念转化为法律概念.然而,法律系统如何认识生成式人工智能这一存在物的答案依旧悬而未决.一、“生成式人工智能”概念的显著瑕疵征求意见稿第条第款明确规定了“生成式人工智能”的概念.这标志着,“生成式人工智能”已经作为一个法律概念被“界定”出来,相关的学术研讨从此拥有了规范性基础,而不仅仅是事实性基础.在法律文本中对文本所规范的核心事项或社会关系进行概念化处理,是近年来立法第卷 第期地方立法研究V o l N o 年月 日L o c a lL e g i s l a t i o nJ o u r n a lJ u l ,上海师范大学哲 学与法政学院副 教授.本文系上海市 社会科学规划 一般课题“上海数 据治理 模 式 的 法 理 探 索”(B F X )的阶段性成果.的常见技术性操作.比如,个人信息保护法第条第款,即对何为“个人信息”予以规定.而稍加对比即可发现,两处条款的文字处理存在差异.前者以“本办法所称”起首,意味着一旦脱离了征求意见稿的语境,在理论上,生成式人工智能完全可能是另外一种概念;而后者则未加限定地指出“个人信息”之所是,意味着在立法者看来(如果存在真正的立法者原意的话),这一概念已经具备了超越文本的抽象性和涵盖度,日常生活中大家对于“个人信息”的理解没有差异.当然,这一显见的差异可能被归为是一种“咬文嚼字”的臆想.又如,未成年人保护法第条同样拥有“本法所称”字样,虽然表面上并不影响在法律规范和日常生活中都以“十八周岁”作为成年人和未成年人分界线,但实际上,恰恰是“本法所称”限定了“成年人”和“未成年人”的范围.换句话说,在日常生活中,周岁原本并非判断“成年人”和“未成年人”的唯一标准,而法律规范通过法律表达将之确认为了唯一标准,且“本法所称”体现了立法者对自我认知限度的充分认识.此处并不旨在讨论“本法所称”的修辞功能(一如“根据宪法,制定本法”),也并不意图探究个人信息保护法的表述是否经得住一般理性的检验,而是指出,征求意见稿的这一表述是准确的:其准确之处并不在于其后续的表述是准确的,恰恰在于其后续的表述是不准确的.根据征求意见稿,生成式人工智能这一概念的后续表述为“是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术”.理论上,一个法律概念,应该是一个规范性概念,而非一个描述性概念.因为法律,既是一个人实施行为时应当遵循的规范,同时也是一个人对其他人实施行为时能够予以判定的规范.对于个体实施行为来说,概念的功能基本可以忽略不计,毕竟他的行为在他个人理性的指引下可以得到自洽的理解.然而,对于判定其他人实施行为来说,概念的功能便得到了彰显.只有双方对同一规范中概念的理解基本相当,或者最起码能够相互认识到对方针对这一概念的理解,有效沟通才可以进行.继续以“未成年人”这个概念为例.此概念便是一个标准的规范性概念.首先,该概念明确,未成年人是一类特殊的公民.这就意味着,如果某一主体不能被“公民”概念涵摄,那么就不可能成为法律意义上的未成年人.其次,该概念明确,未成年人作为一类特殊的公民,其特殊性就是“未满十八周岁”,即在作为公民的基础上,年龄限定构成了这一概念的本质属性,使之与其他概念(当然其实就是“成年人”这一概念)区分开来.最后,此处的“公民”“周岁”,便是标准的规范性概念.在中国法域内,“公民”的规范性可以追溯至我国 宪法第 条,由“拥有中华人民共和国国籍”和“人”组合成为标准的概念结构,明确其规范属性;“周岁”的规范性一般参考 最高人民法院关于审理未成年人刑事案件具体应用法律若干问题的解释(法释 号)第条,由“公历”和“生日第二天”组合成为形式结构的判定标准,明确其规范的属性.于是,“未成年人”这一概念便具有了规范性:只要一个人,他对“人”的概念具备一般化的理解且拥有基本的数学能力(可以数数至),那么,他就可以拥有关于“何为未成年人”(进而“何为成年人”)的判断.遗憾的是,征求意见稿关于“生成式人工智能”的概念设定,无法通过规范性概念的检验.在中国法域内,“技术”尚未被转化为一个真正的法律概念.科学技术进步刘振宇:生成式人工智能的法律规制:承认还是再分配法 科学技术普及法 技术合同法等法律法规,都未能给出“技术”的概念.在这些法律中,“适用于”而非“本法所称”构成了其特有的立法技术体现.这很重要,但还不是最重要的,因为可能没有办法在法律层面对“何为技术”给出一个全面的界定,毕竟这是原属于科技系统的语词,而非法律系统的创生.参照“个人信息”的法律概念,“信息”显然也并非一个法律概念,但并不影响人们对于“个人信息”法律概念的认知.尽管现阶段对于这一概念的使用尚存在一定的争议,但争议主要表现为外延运用(何以“识别”、何以“匿名化”),而非内涵界定(何为“识别”、何为“匿名化”).然而,征求意见稿中的“生成式人工智能”,在本质属性的选择上,就存在肉眼可见的瑕疵:“基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的”这一系列表述,并不足以让一般理性主体认识到何为“生成式”人工智能.一方面,仅就法律规范体系内部的可能争议来说,“生成式人工智能”和“深度合成技术”的界限就不甚清晰.根据 年 月发布的 互联网信息服务深度合成管理规定第 条,“深度合成技术”为“利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术”.简单对比可以发现,一致的是“算法”“文本”“视频”,近似的是“图片/图像”“声音/音频”,以及体现差异性的“模型”“代码”和“深度学习”“虚拟场景”.然而,问题在于,差异性只体现在现象上,而非实质上.“深度学习”不过是“模型”的一类,而“虚拟场景”不过是“代码”的展演.在这个意义上,是否可以认为,生成式人工智能是深度合成技术的上位概念呢?答案倾向于是“肯定的”.然而,如果接受这一判断,那么,深度合成技术的对应概念(虽然不存在“浅度合成技术”的说法,而只是一般意义的通用合成技术),也将必然成为生成式人工智能的下位概念.但这并不符合人们关于“生成式人工智能”的通常理解,毕竟,一般意义的通用合成技术并非晚近的产物,而“生成式人工智能”被认为是以C h a t G P T为代表的新生事物.何况,在技术领域,一般认为,“以C h a t G P T为代表的 大型语言模型代表着深度合成领域的重大技术进步包括目前的生成合成类算法、生成型人工智能、A I G C(人工智能技术生成内容)应用等”,即生成式人工智能是深度合成技术的产物,而非上位概念.另一方面,即便离开法律系统内部的概念之争,进入法律试图去规制的领域,忽略“本法所称”的内部自生成在逻辑上的自洽性而转而关切“本法适用于”的外部结构耦合的功能指向,这一概念同样是失灵的.“基于算法、模型、规则生成”中的“算法”“模型”“规则”,都是一般指向的,不光是“生成式”人工智能,而是所有的“代码运算”都将不可避免地生成后面所指的这些事物.也就是说,在现实的科技领域,不仅“生成式人工智能”符合征求意见稿中的概念,而且除了生成式人工智能之外的其他人工智能技术也同样符合征求意见稿中关于“生成式人工智能”的概念,A l p h a G o便是这类基于算法/模型产生出图像的技术.此时,这一规范性基础的清晰程度尚不足,比如生成式人工智能“以人机界面的构建为平台端口,将二者间有效而即时的无限交互作为地方立法研究 年第期张凌寒:深度合成治理的逻辑更新与体系迭代 C h a t G P T等生成型人工智能治理的中国路径,载 法律科学 年第期,第 页.主攻方向”,突出了“有限即时”和“无限交互”两个特征,尤其后者“连续激活开放性对话的生 成 模 式,不 划 分 固 定 的 边 界,也 不 进 行 断 点 式 的 层 级 分 化 判 断”,是A l p h a G o这一阶段的人工智能所不具备的.于是,征求意见稿规定的“生成式人工智能”概念不得不再一次面临和法律系统内部同样的质疑:一个描述新事物的概念被嵌套入旧事物之中,它并没有揭示这一事物的本质属性,而仅仅揭示了其非本质属性,进而导致了法律系统内部和外部的双重模糊.二、人工智能“生成”的难言之隐概念的作用,并不一定在于明确.人们使用概念,更多的是因为“概念引导我们进行探索.概念表达我们的兴趣,指导我们的兴趣”.立法者并非庸才.这并非意指某一参与某一法律法规制定的具体的人必然对这一法律法规所规范的领域全然掌握和了解,制定的法律不存在任何的问题.因为这种解读不过一种奢望.如果坚持这种奢望,则是对人类理性的终极自负,这种自负将使人类走向消亡.任何一个人的理性都是有限的,在特定的时空限定下,多个人汇聚而成的群体所展示的理性依然是有限的.立法不过是一群人的理性和另一群人的理性之间的角逐,胜出者所获得的只是彼时彼地的相对理性优势,而非超越时空的、永恒的理性守护.也正是因为有了这一差异,安提戈涅之问才会经久不衰.即便不考虑自然法的超验性,人类立法的历史也通过经验表明法律规范的修改、废除都是正常现象,任何一部法律从出台的那一刻起便已经落后于时代.如果认为立法是一种科学,那么就需要接受这样一种忧伤的结局:科学来自证伪,具体的法律规范必将湮灭于错位的时空之中.因此,此处的“立法者并非庸才”,是一种价值判断,而非事实判断.这里的意指是,作为规范的研究者要设定一个预设,即不能假定立法者是庸才,而应该将他当作拥有一般理性的人,毕竟立法约束的对象就是一般理性人;同时对于研究者本身,也不能自认为在立法理性上超越了立法者,即便研究者是专门研究法律的,而立法者可能来自各行各业.此时,面对一个一般理性人稍加反思就可以发现的显著瑕疵 “生成式人工智能”这一概念未能揭示生成式人工智能的本质特征,真正的问题应该是“一个并非庸才之人为何会犯如此明显的庸才之错”,而非“为何会选择一个错误的立法者制定如此之错的规范”.作为尝试实现法律系统和科技系统沟通的信息,姑且搁置“生成式人工智能”法律概念和“深度合成技术”法律概念这一法律系统内部的瑕疵,否则就还要进一步讨论“深度合成技术”法律概念是否有益地指引了科技实践,而将重心放在第二重模糊之上,即生成式人工智能和此前的人工智能区别何在.如同“男人”或“女人”必然具备人之为人的一切特征但又同时兼具相互不同的“非人”特征一样,生成式人工智能必然具备刘振宇:生成式人工智能的法律规制:承认还是再分配杨俊蕾:C h a t G P T:生成式A I对弈“苏格拉底之问”,载 上海师范大学学报(哲学社会科学版)年第期,第 页.同注.英路德维希维特根斯坦:哲学研究,陈嘉映译,上海人民出版社 年版,第 页.人工智能之为人工智能的一切特征但又同时兼具与“非生成”人工智能所不同的专属特征.这一差异,可以用被认为最为典型(但实际上未必典型,更为准确的表述是最为具有热度)的C h a t G P T和A l p h a G o为例.尽管二者都被认为属于人工智能的组成部分,甚至可以认为二者之间还具有一定的关联性(虽然在另一层意义上,这种关联性也可以忽略不计,毕竟C h a t G P T的基础架构和算法与A l p h a G o区别甚大),但它们其实是人工智能发展的两个阶段,前者对于后者来说堪称全方位的升级.这一全面的升级体现在,如果说A l p h a G o这一阶段的人工智能已经拥有了自我学习和自我进化的能力,那么C h a t G P T则是在这两个能力之上,利用神经网络模型T r a n s f o r m e r算法获得了自我注意(s e l f a t t e n t i o n)的能力,毕竟“生成式预训练模型”,即G P T(G e n e r a t i v eP r e T r a i n i n g),就是这一算法的产物.“自我注意”确实就是字面的含义,算法在进行编码处理的时候不仅向外界寻求资料,同时也向自身寻求资料.换句话说,此时人工智能的输出不仅仅是它转述了别人的说法,同时还是它在符合自身系统编排序列的前提下转述了别人的说法.正是这种“自我注意”能力的获取,使得人工智能发展进入了新阶段,建构起了生成式预训练演化器.因此,理论上来说,生成式人工智能的“生成”本质是自注意力的矩阵,特性即“自注意”.自注意力矩阵是一种算法机制,属于科技系统的范畴.法律系统如果将这一机制纳入法律规范之中,必须进行符合法律系统的转码.麻烦恰恰在此处产生.现代法律规范体系的建构和现代启蒙具有共时性,并分享了现代启蒙的基本设定:“我思故我在”.“我思故我在”确立了主体和客体的二分,客体无思,主体可思.人之所以可以摆脱神的束缚成为主体,并非身体的强健,而是因为人拥有理性并能够进行思考.一个四肢发达但是不予思考之人,依然无法建构自身的主体性;一个身残志坚之人,反而更加有可能建构自身的主体性.沉重的肉身不过是客体,主体是在无穷的我思之中.由此,理性和意志继托马斯阿奎那之后再一次巧妙地勾连在一起 思既是意志的结果又是理性的展现 并相互遮蔽着成为现代法律秩序的正当性基础.而在这一架构下,“注意”就成了一个特别有意思的动词;尽管它同时也可以指代一个名词,但这个名词不过是动词状态的表征.作为一个行为,“注意”的核心不在于“注”而在于“意”,否则,即为“注视”而非“注意”,属于截然不同的语词.这一结论不仅适用于中文,同时也适用于英文和拉丁文.“注意”和“注视”的这一差别,为“注意”赋予了特有的“意”.也就是说,这一语词本身就内含着意志的显现.于是,在法律中,无论是刑法的注意规则还是民法的注意义务,“注意”都和某一特定的主体相关.换句话说,无论是在现代主客二分的世界观下,还是在以此为基础的法律规范体系中,能够实施注意行为的存在者只能是主体而非客体.一个客体,当然也可以在外在意向性指引下实施关注的行为表象,但这一外在表象不会被认为是“注意”,毕竟,客体“无意”可注.因此,如果确如前所述,生成式人工智能的本质属性是“自注意”,那么,当以这个本质属性作为生成式人工智能法律概念的核心要义之时,就不得不面对一个持续的风险:一个能够进行自注地方立法研究 年第期参见钱力、刘熠、张智雄等:C h a t G P T的技术基础分析,载 数据分析与知识发现 年第期,第 页.意的存在者,为什么不是主体?更何况,依托于已经存在的自我学习和自我进化,生成式人工智能不仅可以进行自注意,更可以进一步将自注意反馈成为对于他者的注意 C h a t G P T的聊天用语已经很好地呈现了这一点,那么,为什么它不是一个主体?这一问题的延展,很容易迅速滑至“人工智能是否会取代人类”“人类的知识和能力在未来是否还有用”等议题.尽管“这种讨论实际上只是重复了之前关于人工智能技术发展的恐慌和幻想”,但是生成式人工智能的日常理解确实已经有了此类倾向,“自主生成新的”这一表述比之科技层面的“自注意”或者“没有人为直接参与的情况下,自动生成”更加具有主体性的特征.毕竟,作为其代表的“C h a t G P T在工程上呈现出超强的人机自然语言对话能力,不仅在相当程度上打破了很多悲观主义者的设限,同时也超出了不少技术乐观主义者的预期”.法律规范的讨论没有必要像大众议题那样走得如此之远;恰恰相反,如果法律规范有所设置,那么它反而能够成为大众议题的讨论基础.早在A l p h a G o阶段,关于人工智能是否法律主体的讨论便已经展开.如果彼时便已支持人工智能是法律主体,那么当超越A l p h a G o的C h a t G P T出现之后,生成式人工智能就更加具备了成为法律主体的可能性.即便彼时不支持人工智能是法律主体的研究者,也可能在“自注意”面前进一步分化.和古典进路、具身进路相对应的生成进路,便是其中最具吸引力的一支.“生成进路认为,道德知觉(m o r a l p e r c e p t i o n)补充了完整的道德地位中道德来源的缺位,其与具身进路中有机体之于道德目标的补充一起构成了人工智能完整的道德主体地位.”自注意是否构成道德知觉,是一个有趣的话题.自注意确实在现象上构成了一种主体表征.自注意的缺乏必然不可具有道德直觉,因为此时人工智能不能注意到其自身,也就感知不到“存在者”的身份.但是,自注意的这种表征是否构成主体的充分条件,则取决于如何理解道德知觉.即,当一个主体能够被另一个存在者的行为所触动,激发道德情感;而另一个存在者也可以被这个主体的行为所触动,激发某种涉及道德的行为反馈,此时,这一涉及道德的行为反馈是否能够被判定为是道德知觉.年月 日,江苏徐州某医院某女士怒砸智能机器人一事引发热议.在这一事件中,将人和智能机器人均遮蔽为“存在者”,就会发现,故事变为如下:在医院的存在者某甲心情不佳,作为在医院提供服务工作的存在者某乙发现某甲心情不佳,于是过去准备给某甲讲个笑话,某甲对某乙讲笑话的行为表示不满,并对某乙实施了打击,在医院提供服务工作的其他存在者拨通了报警电话.刘振宇:生成式人工智能的法律规制:承认还是再分配蓝江:生成式人工智能与人类未来生存境遇,载 中国社会科学报 年月日,第版.郭春镇:生成式A I的融贯性法律治理 以生成式预训练模型(G P T)为例,载 现代法学 年第期,第 页.徐伟:论生成式人工智能服务提供者的法律地位及其责任 以C h a t G P T为例,载 法律科学 年第期,第 页.段伟文:积极应对C h a t G P T的伦理挑战,载 中国社会科学报 年月日,第版.代欣玲、彭小兵、程鹏:生成进路下人工智能的道德主体地位,载 自然辩证法研究 年第期,第 页.在这一场景下,可以直观地发现,某乙对某甲的情感进行了道德上的判断,认识到心情不佳的某甲需要安慰;某甲对某乙的行为进行了道德上的判断,认为某乙此时讲笑话的行为是一种不符合道德的行为,并实施了后续的打击行为.于是,某甲既意识到了某乙的道德诉求同时实施了具有道德指向的行为,某乙同样意识到了某甲的道德诉求并实施了具有道德指向的行为.排除外在具身的差异,某甲和某乙在道德知觉层面没有本质上的差异.也就是说,此刻,可以指摘某乙选择了错误的行为(讲笑话),但很难说某乙缺乏道德知觉,因为如果缺乏道德知觉,其就无法判定某甲处于情绪不佳的境地并需要道德安慰.某乙确实实施了一个非自我中心的公共行动,即便这一行动带来的后果并不是其所欲求的.显然,在原始版本的故事中,某女士是基于智能机器人的具身特征排斥了后者的道德现象类表达.那么如果智能机器人在外表的具象上和人类没有肉眼可见的差异,某女士是否会形成错误认知呢?这一问题将面临着开放性的讨论,但原始故事绝非生成式人工智能的反例,恰恰构成了生成进路的正面例证,使得原本相对清晰的人工智能主客体之争变得模糊起来.生成进路的道德知觉论证在理论上存在可行的空间,而且知识产权界已经就“生成式人工智能的生成物”知识产权事宜展开了持续的讨论,包括但不限于“这一生成物是否存在知识产权”“如果存在知识产权,享有这一知识产权的主体是谁”“生成式人工智能是否对其生成物具有权能指向”等.更何况,随着T r a n s f o r m e r算法日益成为人工智能领域的主流算法,或许在不久的将来,具有自注意力的生成式人工智能将成为“唯一”的人工智能,彼时再区分“生成式人工智能”和“非生成式人工智能”便会变得毫无意义.只不过,这些都属于未来,而未来是开放性的.就如同A l p h a G o不会预知C h a t G P T出现一样,人工智能的下一次跃迁以何种形式达成,对于已经具有自注意力的人工智能来说,完全有可能超越其设计者的理性设计.纵然“未来已来”已经在近期成为热点词汇,但立法者(无论基于何种考虑)还是不打算走得太远.因此,立法者对此的选择是:“不予承认”.为了达成这一目标,一个没有“生成”的“生成式人工智能”概念就出现在了征求意见稿中.三、法律承认进路的“特洛伊木马”生成式人工智能“不予承认”这一立场,贯穿征求意见稿始终.尽管“生成式人工智能”“生成式人工智能产品”“生成式人工智能生成的内容”“生成式人工智能服务”呈现出征求意见稿规制对象的多样性,但“研发”“利用”“使用”“提供”等一系列动词的存在,确证了动宾结构.在这些动词之中,根据中文语用习惯,仅有“利用”后面可能附随表征主体的名词,即“利用某人”,其他动词的宾语均被归为客体的范畴.而即便是“利用”,虽然可以前置于主体名词,但此时,该主体名词也被客地方立法研究 年第期参见王迁:C h a t G P T生成的内容受著作权法保护吗?,载 探索与争鸣 年第期;杨利华:人工智能生成技术方案的可专利性及其制度因应,载 中外法学 年第期;徐家力:人工智能生成物的著作权归属,载 暨南学报(哲学社会科学版)年第期.体化.“利用某人”等同于“对某人的利用”,是将某人作为一种工具而非目的来予以对待.因此,如果说,第条第款的概念尚存在一定开放可能的话,征求意见稿的其他条款在语用学的意义上,从来未曾将“生成式人工智能”作为一类主体,而是标准的客体.更不要说,第五条专门规定的“提供者”,成为征求意见稿最为核心的责任主体,兼具产品生成内容生产者的责任和个人信息处理者的法定责任.而关于责任的规定,是权利主体的构成要件.没有责任要素的权利结构是不完整的,不享有完整权利结构的存在者无法成为真正的主体.对“提供者”的承认,使得对“生成式人工智能”的不承认,更进一步.其在法律系统内部,逻辑上消除了生成式人工智能承担责任的可能.法律“不承认”生成式人工智能的理由,比之生成式人工智能能够作为主体的理由更强一些.“法律人格扩展论 人工智能发展论 有限人格论三类论据,试图在法律人格理论发展、社会客观现实需要与制度设计可行性三个层面分别证成人工智能的法律主体.”然而,一方面,获得越来越多研究者支持的“有限人格论”本身就是对“法律人格扩展论”和“人工智能发展论”的驳斥,毕竟,在现阶段,作为法律拟制的主体,无论是法人还是国家,其权利能力和行为能力具有“全有或全无”的特征,自创设时起、自灭失时无.唯有在具身层面已经具备“人”的特征,并拥有成长为“成年人”这一典范主体的人才有资格被法律拟制为“有限”,且这一“有限”在法律规范设定的特定条件(一般为年龄和智力发展,二者平衡着理性和意志)下,能够摘掉“有限”的帽子,成为一个完整的主体.但尚不存在一类非人类的存在者,其永远享有有限的人格:既不会在性质判定上从有限发展为无限(这是法律人格扩展论的主张),也不会在范围涵盖上从有限发展为无限(这是人工智能发展论的主张).表面上看来,动物权利的兴起,为人工智能获得法律主体地位的可能增添了一份筹码.一只名为“八条”的小猫如今成了宠物界的网红,其原因在于它可以通过敲击发声按钮和它的主人实现“对话”.原本受限于“权利能力”的动物,在人工智能的辅助下,已经获得了“交往行动”的可能.但这一“主体性碎片”优于人工智能的动物,也最多不过是“权利保护”的对象,尚未获得“主体”地位.毕竟,无法确认“八条”是基于理解它敲击按钮之后传达出声音的语意选择在它想行动的时候敲击按钮,还是基于特定类型声音观察到了主人的反应后形成了路径依赖.法律规范是保守的,更多地指向过去,而非指向未来.这并不是说,法律规范的功能不指向未来.而是说,法律规范作为社会意识的体现,其以社会存在为基础.在社会存在尚未完成实质性变化的时候,法律规范虽然可以引导这一变化,但却没有办法决定这一变化.连作为社会存在的科技系统都无法预测C h a t G P T的出现,更何况是依赖科技系统信息转码的法律系统.即便未来已来,这一已来的未来也不会严格依照法律规范的设计运转,何况已来的未来同样具有开放性.尽管有陷入滑坡谬误的可能,但破窗理论还是有必要认真对待的.“有限人格论”对于“永久性有限”的设定,将使得任何一个存在物都有可刘振宇:生成式人工智能的法律规制:承认还是再分配韩旭至:人工智能法律主体批判,载 安徽大学学报(哲学社会科学版)年第期,第 页.能在某一特定的时刻成为符合“有限人格”中“有限”的主体.社会期许通过指向未来的假想式规制来约束现阶段的此在,绝非优选.另一方面,“生成式人工智能的智能化、类人化特性逐渐凸显,开始超越算法的工具属性而凸显主体性潜能”,以其特有的自注意能力为“法律人格扩展论”和“人工智能发展论”的证立提供了一个现实的实例.前者的功能主义进路使得“不予承认”立场的立法者无法给出何为“生成”的有效概念,以避免可能由此产生的“主体之问”,不再重复论述.而后者则进一步强化了人工智能的社会属性,其乐观的预估是,“一旦机器人的社会化程度陡增,并在各个领域占据较高的应用率.那么,不必等机器人对人类提出何种权利诉求,其所有权人自然会呼吁立法机关来界定机器人的权利主体地位”.然而,困在系统里的外卖骑手则给出了另一种可能,而这种可能,或许是更为现实的未来.人工智能在某一领域的大规模运用,即所谓的社会化的提升,带来的并不是人工智能地位的上升,而是处在这一领域中的人的地位的下降.这一转换并不难理解,因为现代法律系统固有的主客二分,在人工智能一天未被赋予法律主体地位之前,它都将被法律系统判定为客体.“法律人格扩展论”和“人工智能发展论”的乐观预期是,人工智能会越来越像人一样行为;但一体两面则是,人越来越像人工智能.前一种表述的“像”,是趋于“接近”;后一种表述的“像”,是趋于“被接近”.但当“人机”产生关联的时候,接近和被接近在现象层面是一致的,尽管其在本质上有明显的区别.外卖骑手的处境揭示出,“人工智能算法中,个人逐步被数据化和被计算化.在数据处理和整合时,算法将人按照各种各样的自动化区分标准进行排列,并赋予相应的意义”.原本,作为纯然客体的人工智能是无法赋予主体以意义的,该意义只能经由使用人工智能的主体来赋予.这也是征求意见稿专门规定“提供者”的原因所在.但是,随着生成式人工智能带来的交互性提升,某一特定人工智能系统获得了在其系统内部赋予代码意义的可能.一旦人工智能的自注意力反馈到“当 我像人的时候就可以像人一样行动”时,那么“当人像 我的时候就可以像人一样”这一算法的自生成就不再是一个假想的风险,代码确实可以完成这样的序列排布,只是选择在何时完成这类排布而已.因此,“不予承认”就成为避免消解人的主体性的规制手段之一.只是,这一贯穿始终的“不予承认”,却潜藏着更深层次的“承认”.“不予承认”本身就是“承认”进路的一种模式.“不承认”是“承认”的对立面.因为前者是否定判定,后者是肯定判定.但这种推论并不确切.如同法律系统的判定符码是“合法/非法”而非“合法/违法”一样,承认进路的判定符码是“承认/不予承认”而非“承认/不承认”.虽然“不承认”带有鲜明的否定特征,但“不承认”的前提需要明确“承认”的判断标准,也就是说,如果不存在“承认”也就不存在“不承认”.“承地方立法研究 年第期参见赵精武:“元宇宙”安全风险的法律规制路径:从假想式规制到过程风险预防,载 上海大学学报(社会科学版)年第期.张欣:生成式人工智能的算法治理挑战与治理型监管,载 现代法学 年第期,第 页.张玉洁:论人工智能时代的机器人权利及其风险规制,载 东方法学 年第期,第 页.郑智航:人工智能算法的伦理危机与法律规制,载 法律科学 年第期,第 页.认”和“不承认”都是内在于“承认”的,唯有基于承认的判定才能获知何为不承认,就如同唯有基于合乎法律的合法判定才能知悉何为违法一样.而“不予承认”则是另一回事,它一方面关联着法律系统的不承认,即在语用的意义上,“生成式人工智能不是法律主体”的“不承认”命题和“不用法律主体标准来判定生成式人工智能”的“不予承认”命题在功能上是一致的,都是将生成式人工智能排除在现阶段的“承认”主体之外.然而,在另一方面,它却又和法律系统的承认关联在一起:这一存在者虽然尚未获得法律系统的肯定沟通,但是却也没有被法律系统排斥在外,法律系统依然对它保持着持续性的关注.一切取决于承认的标准.在这个意义上,征求意见稿本身就是法律承认进路的实践:何者能够成为法律主体来自法律系统的判定,而非来自道德系统、社会交往系统、科技系统的发展.“提供者”的规定便是佐证之一.“利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人”被法律规定为“提供者”,此处,“提供者”是这样一个概念,其指向的是某类特定的法律主体,这一主体能够利用生成式人工智能产品提供服务;现阶段,这一主体的集合之下,包括组织和个人;法律为这一主体设定了相应的主体责任,且将其设定为唯一承担责任的主体.但是,回到先前已经提及的两个例子.在医院事件中,提供者需要承担责任吗?这个提供者,是智能机器人的制造者还是医院?第一责任人看上去好像应该是医院,可医院要因此承担精神损害赔偿吗?外卖骑手情形的检验也是类似的,如果平台已经承担了劳工权利基本保护,平台在这里有什么责任呢,毕竟,现实中最大的问题不是算法,而是缺失常规福利保障.尽管可能过于绝对,但如下判断在大体上是可以接受的:“在面对以C h a t G P T为代表的生成式人工智能时,应当承担 主体责任的对象呈多元化、分散化和场景化特征,仅通过界定 服务提供者或者 内容生产者难以精准划定承担责任之应然主体.”这就意味着,在可预见的未来,如果坚持“不承认”,那么,或者,“提供者”本身被束之高阁,继续依赖其他部门法规范调整相关事项,如同 个人信息保护法那样,生效多年,却基本没有直接以其作为裁判理由的司法判决;或者,进一步细分主体,以应对不同算法生成式人工智能在不同场景中导致权利侵犯的主体责任承担,但这一不断细分不仅会使法律规范因为其抽象性无法做到面面俱到,即便是司法回应的量体裁衣也难以跟上科技适用领域的拓展,毕竟,司法同样具有保守性.当然,还有另外一种可能,那便是不再执着于“马法”思维,“基于表达和思维便利的考虑像法人、神灵、死者那样”承认生成式人工智能的法律主体地位,如此便可以解决这一问题,但却面临着人的主体性消解的风险.在这个意义上,如果承认路径是法律系统如何认识生成式人工智能这一存在物的唯一答案,那么,深层次的“承认”就将在未来的某个时间骤然出现,将以“不予承认”作为基础的生成式人工智能法律规范体系从内部瓦解于无形.刘振宇:生成式人工智能的法律规制:承认还是再分配同注,第 页.马驰:谁可以成为法律主体 兼谈人工智能的法律主体资格问题,载 甘肃社会科学 年第期,第 页.四、法律再分配进路的“奥德赛远征”法律系统关注主体.每一次社会的巨大变革,都将引发法律主体理论的变化.封建社会瓦解了奴隶社会,奴隶从“人非主体”变成了主体;资本主义社会取代了封建社会,财产主体取代了政治主体并确认了法人的拟制;社会主义社会超越于资本主义社会,共同体重新进入法律的视野,而不再执着于个体的利益;比及未来的共产主义社会,更是将以自由人的联合体这一兼具“个体和共同体”的生活方式,宣布法律的终章.因此,自A l p h a G o这一具有自我学习和自我进化的人工智能出现之后,人工智能法律主体问题便已经被认为“是所有道德、法律问题的实质与关键”,“是设计与人工智能相关的未来法律制度的逻辑起点”.生成式人工智能以其更为独特的自我注意,更是强化了这种思考的意愿.但这一承认路径真的是唯一答案吗?或者说,唯有解答了“人工智能是否法律主体”这一问题,才能够设计与人工智能相关的法律制度吗?答案是:未必.“社会存在决定意识”是马克思的经典命题之一.鉴于该命题经常被称为“社会存在决定社会意识”,因此引用这一命题的完整表述,以便辨析两种表达的差异所在:人们在自己生活的社会生产中发生一定的、必然的、不以他们的意志为转移的关系,即同他们的物质生产力的一定发展阶段相适合的生产关系.这些生产关系的总和构成社会的经济结构,即有法律的和政治的上层建筑竖立其上并有一定的社会意识形式与之相适应的现实基础.物质生活的生产方式制约着整个社会生活、政治生活和精神生活的过程.不是人们的意识决定人们的存在,相反,是人们的社会存在决定人们的意识.这一段话蕴含着历史唯物主义的玄机.该段话按照断句,正好分为四个部分:第一句话,诚如马克思所说,生产关系需要与生产力相适应,生产关系是被生产力决定的,而不是被人的意志决定的.这一点从来没有争议.第二句话,即上层建筑需要与经济结构相适应,而经济结构实际上就是生产关系的总和,由此可以得出经济基础决定上层建筑,这也是毫无异议的.“与之相适应”的“之”因翻译所限导致指向并不十分明晰,既可以理解为“与上层建筑相适应的社会意识形式”,也可以理解为“与社会经济结构相适应的社会意识形式”.当然,因为上层建筑本身以为经济基础所决定,所以“一定的社会意识形式”无论按照何种解释来理解,都可以归根结底到需要与社会的经地方立法研究 年第期参见中共中央马克思恩格斯列宁斯大林著作编译局:马克思恩格斯选集第卷,人民出版社 年版,第 页.范进学:人工智能法律主体论:现在与未来,载 政法论丛 年第期,第页.彭中礼:人工智能法律主体地位新论,载 甘肃社会科学 年第期,第 页.同注,第页.济结构相适应.因果链条增多造成的仅仅是决定要素的复杂性,并不影响主要决定因素的重要性.第三句话,生产方式包括生产力和生产关系,它对于一切生活的制约也是正确无误的.这句话实际上是对前两句话的总结.关键在于第四句话,马克思在这里貌似是用了一个对称的结构,但实际上并非如此,前半句说的是“人们的意识”和“人们的存在”,后半句说的却是“人们的社会存在”与“人们的意识”.在 德意志意识形态一文中,马克思写道:“意识在任何时候都只能是被意识到了的存在,而人们的存在就是他们的现实生活过程.”于是,“人们的存在”是现实生活过程,其与第一句所指的人们的社会生产过程并不是完全同一的概念,因此,并不能单独归结为生产活动.更重要的一点在于后面,马克思没有继续使用“人们的存在决定人们的意识”,而是使用了“社会存在”这个概念.如同“人们的存在”不能等同于“生产活动”一样,“人们的社会存在”也不能等同于第三句所指的“物质生活条件”,而应该理解为“生活关系的总和”.之所以这样说,是因为第四句的后半句为“人们的社会存在决定人们的意识”,而不是“人们的社会存在决定人们的社会意识”,意识只能是被意识到的存在,即只能是意识到的生活,社会存在决定的就是这种被意识到的生活,而不是如同第二句所述的那种由经济关系所决定的“一定的社会意识形式”.对于马克思来说,“生活关系”实际上就是“生产关系”,因为人生于世界,无外乎男女两种,而男女的两性分工在马克思看来是第一次的劳动分工.但采用“生活关系”而不是用“生产关系”,恰恰是将“社会存在”与“物质生活条件”之间的联系进行一次语义上的割断.毕竟一提到“生产关系”,很多时候抑制“物质生产”,前者有被后者替代的倾向,但这种替代显然是不可理喻的.生活关系,按照马克思的观点,归根结底是由生产关系来决定的,但其绝不是生产关系的等同.至于“综合”,实际上代表一个开放的集合概念,即在本质上