生成式人工智能视域下虚假信息的法律风险及规制.pdf

管理之窗90中国价格监管与反垄断2024 年第 3 期生成式人工智能视域下虚假信息的法律风险及规制鲍家琴摘要：生成式人工智能呈现迅猛增长的态势，且生成式人工智能视域下的虚假信息与技术深度结合，使得其数量呈指数型增长，现有监管方式难以治理。生成式人工智能视域下的虚假信息引发以下法律风险：侵害他人合法权益、侵权问责难、危害网络安全和国家安全。为有效应对生成式人工智能视域下虚假信息所引发的法律风险，有必要完善责任承担链条，夯实主体责任，以合规理念重塑生成式人工智能行业，政府在合理范围内探索监管沙盒应用机制，拓宽大众参与监管的渠道，凝聚多元主体监管合力。关键词：生成式人工智能 虚假信息 监管沙盒 合规科技一、引言2022 年 11 月 30 日，美国人工智能研究实验室 OpenAI 开发的 ChatGPT 正式公布，在短短两个月内就达到了 100 亿用户，ChatGPT 已迅速成为自 2007 年苹果 iPhone 以来最重要的技术发布之一。近日，某国外法官胡安曼努埃尔帕迪拉（Juan Manuel Padilla）承认，在最近一起关于儿童医疗护理的案件中，其用 ChatGPT 撰写了法律裁决。这表明，以 ChatGPT 为代表的生成式人工智能不仅在技术层面引起了热潮，而且在医疗、法律、社会政治层面也开始深入影响人们的生活。生成式人工智能依靠先进的技术，但技术是一把双刃剑，生成式人工智能所产生的虚假信息比以往更难以治理。在生成式人工智能的视野下，虚假信息引发了法律风险，并带来了法律挑战，亟需深入展开理论研究与治理对策分析。二、生成式人工智能视域下虚假信息的特性在生成式人工智能视域下，虚假信息具有独特性。生成式人工智能所产生的虚假信息比以往更难以治理，这是由其特性所决定的。通过透视生成式人工智能视域下虚假信息的特性，可以为治理这类信息指明路径。（一）虚假信息数量指数级增长随着生成式人工智能的商业推广与技术热潮的推动，生成式人工智能生成的虚假信息数量呈指数级增长。生成式人工智能的核心技术为预训练模型，而预训练模型依赖海量数据的喂养。GPT 训练数据集有 1.17 亿个参数，但 GPT-4 的参数量已经达到了惊人的 100 万亿个。1且 ChatGPT 可以给出大约4000 个单词的回复，新发布的 GPT-4 的单词回复量更是多达25000个。参数量、单词回复量的迅猛增长，则生成式人工智能生成虚假信息的速度与数量都将爆炸式增长。以 ChatGPT 为代表的生成式人工智能还搭载另一重大技术突破大型语言模型（LLM），依托这一技术生成式人工智能可以更好的理解人类语言，并通过联系上下文的方式输出相应的内容。且ChatGPT 以“人工反馈强化学习”为算法，通过人工给予正反馈和负反馈来调整生成的内容，以便在特定的语境下生成特定的内容。但是这种人工反馈带有人类的价值观以及个人偏好，会加剧生成虚假信息、歧视性和带有偏见的信息。换句话说，现有的生成式人工智能不完全依赖本身的数据模型，可以自主学习并调整生成的内容，具有涌现能力。但管理之窗91中国价格监管与反垄断2024 年第 3 期ChatGPT 并不能真正意义上理解人类语言，实质上只是输出概率最高的字词句搭配，这种概率输出并没有真假之分，这增加了输出虚假信息的可能性。（二）现有监管方式难以监管传统的人工智能模型虽然会生成虚假信息，但是由于规模以及影响力较小，且鉴于算法可解释性、透明度的提高，现有监管方式可以对其进行有效的监管。但生成式人工智能因其具有优异的泛化功能以及涌现特性，更因为其算法模型的黑箱运作机制，使得算法的可解释性进一步降低。且生成式人工智能借助 LLM 以及人类反馈强化学习算法，在情境化和个性化语境下可以通过优秀的交互能力，针对单一用户量身定制虚假信息。2在生成式人工智能的实际运行过程中，可能发生“越狱”事件。例如，ChatGPT 的用户可以通过“越狱”技巧，创建名为DAN（Do Anything Now）的 ChatGPT 新自我，从而突破 OpenAI 所设定的道德伦理和法律底线，输出虚假甚至违法信息。现有的监管方式主要有欧盟的风险分类管理、美国的重点应用治理以及我国的算法主体责任治理。欧盟将人工智能技术可能对人的健康、安全或基本权利构成的风险水平分为四类，分别为：不可接受、高、有限和最小，不同的风险水平对应不同的义务要求；美国则是通过对重点应用领域颁发单行法律或法规进行监管；我国的人工智能治理则是要求算法主体承担责任来进行监管。以上三种现有的监管方式，对于生成式人工智能的泛化功能、场景化、系统性以及责任主体责任难以认定等问题时，不能与生成式人工智能的快速发展适配，即现有监管方式难以监管生成式人工智能视域下的虚假信息。三、生成式人工智能视域下虚假信息的法律风险生成式人工智能的里程碑ChatGPT 一经问世，便引发了各大科技巨头的人工智能竞赛，ChatGPT 的用户数量增长速度奇快，人类在享受人机交互所提供便利的同时，不得不面对生成式人工智能视域下虚假信息所带来的独一无二的法律风险。（一）侵犯他人合法权益生成式人工智能所生成的虚假信息不仅包括文本，还包括图像、音频和视频等。由于生成式人工智能技术迭代，仅凭一张照片就能生成真假难辨的图像以及视频。犯罪分子利用这一技术将某女明星的脸部替换到情色视频主角上以此牟利，侵害了该女明星的肖像权和名誉权。2022 年 5 月，诈骗分子利用Deepfake换脸技术，结合马斯克TED采访视频，推出 Bit Vex 比特币诈骗平台，声称平台具有 30%的日回报率，虽然骗局很快被揭穿，但是马斯克不得不出面辟谣。这在一定程度上损害了其名誉权，对于其公司股票也产生了一定的不利影响。此 外，以 ChatGPT 为 例，此 类 生 成 式 人 工智能需要用户输入信息，借助强大的技术支撑，ChatGPT可以提取用户信息，从而对用户进行画像。然而，这在一定程度上侵犯用户的隐私权。且由于用户画像以及强大的交互能力，ChatGPT 可以针对个人定制虚假信息，增强了虚假信息的操纵力，若诈骗分子、教唆他人自杀者利用 ChatGPT，则对他人的财产权、生命健康权都具有高度的危险性。（二）侵权问责难生成式人工智能由于不具有人格尊严，因而不具有法律主体资格，3故生成式人工智能不能承担法律责任。传统虚假信息侵权事件，归根结底是人的行为，因此，可以要求特定的人承担法律责任。但是生成式人工智能生成虚假信息，并不是人的行为，而是生成式人工智能的算法所导致的。那么，生成式人工智能发布虚假信息侵害公民权利，责任由谁承担？2022 年，罗伯托马塔（Roberto Mata）起诉哥伦比亚航空公司阿维安卡（Avianca），马塔的律师史蒂文A施瓦茨（Steven A.Schwartz）提交了一份基于 ChatGPT 的辩护词，但是 ChatGPT 生成的六个案例都是虚构的，因此，原告律师将受到制裁。原告律师被制裁，那么其权益亦被侵犯，有观点认为史蒂文A施瓦茨提交的材料是由于粗心大意，而不是恶意，不应该导致制裁，那么原告律师的权益如何维护呢？且生成式人工智能面对同一问题可以输出不同内容的情况，侵权内容的不确定性是一个问题。生成式人工智能所依靠的海量数据，海量数据的信息来源渠道多，信息审查难度加大，则因生成式人工智能生成虚假信息侵害权利诉诸法庭，法庭审查证据困难，进一步加剧了侵权问题的问责难度。（三）危害网络安全和国家安全生成式人工智能生成的虚假信息危害网络安全。犯罪分子可以使用生成式人工智能的文字生成功能，利用来自互联网的大量数据，可以生成极具说服力的钓鱼电子邮件或消息，冒充真实的人或者组织骗取他人信息。生成式人工智能生成的此类虚假信息冲击了网络安全法律体系，进而危害网络安全。生成式人工智能所制造的虚假信息因其科技公司的信用背书以及对于科技的信赖，普通公众对于生成式人工智能生成的内容较为信赖，且普通公众管理之窗92中国价格监管与反垄断2024 年第 3 期缺乏某一具体领域的专业知识，因此，普通公众极易受到生成式人工智能生成的虚假信息的误导与操控。且由于生成式人工智能的交互性以及优异的情境对话能力，其可以生成针对个人的虚假信息，进一步提高了操纵公众的能力。四、生成式人工智能视域下虚假信息的法律风险规制路径为了有效化解生成式人工智能生成虚假信息所带来的种种法律风险，有必要以合规理念重塑生成式人工智能行业，明确责任主体，强化主体责任，凝聚多元主体监管合力，从我国国情出发，探索出具有中国特色的生成式人工智能规制路径。（一）完善责任承担链条规制生成式人工智能视域下虚假信息的法律风险的基础是完善责任承担链条，应明确责任主体义务，审慎界定平台“看门人”的主体责任，4将法律规制的重点从事后补救转移为事前预防。明确责任主体义务的前提是明确责任承担主体，而根据互联网信息服务深度合成管理规定以及 生成式人工智能服务管理办法（征求意见稿）可知，责任承担主体不仅要包括网络服务提供者，也要包括网络技术提供者以及技术使用者。网络服务提供者应当对上游网络技术提供者以及下游的网络技术使用者承担管理责任，5其有能力也有义务管理网络技术提供者以及网络技术使用者。具体而言，网络服务提供者的义务包括：提示网络技术提供者以及网络技术使用者的伦理法律义务，完善对于虚假信息的标注与删除义务，构建虚假信息反馈处理机制。网络技术使用者的义务在于：避免使用生成式人工智能生成虚假信息，对于平台已有的虚假信息进行反馈。网络技术提供者的义务在于：根据用户的反馈，有针对性设计内容过滤机制，进行防止虚假信息再次生成的模型优化训练。虚假信息的法律规制重点应当从事后补救转变为事前预防。网络服务提供者可以从以下几个方面事先预防虚假信息的产生：一是加强用户使用教育，网络服务提供者要承担起教育用户合规使用的责任，引导用户使用合规；二是网络服务提供者加强用户真实身份的核实，为侵权后的追责提供支持，通过追责来震慑潜在的虚假信息发布者；三是网络服务提供者要完善用户准入与剔除机制，加大力度识别并剔除机器人账号，及时终止、移除违规账号，禁止违规账号再次注册。更为重要的是，网络服务提供者应当设置一定的年龄限制。如意大利数据保护局 Garante 指责 ChatGPT 未能核实用户年龄，指出十三岁以下的未成年人用户应当被禁止使用 ChatGPT。（二）以合规理念重塑生成式人工智能行业由于生成式人工智能行业的创新技术发展的需要以及技术发展的突飞猛进，外部监管具有一定的滞后性。因此，有必要以合规理念重塑生成式人工智能行业。以合规科技为起点，通过科技赋能推动合规理念的形成，并将合规理念贯彻到每一个生成式人工智能企业中。这样，生成式人工智能的内部监督活力将被激发，有利于生成式人工智能行业行稳致远。以数据为驱动力，以区块链、云计算、人工智能等技术为依托，以提高合规效率为价值导向，解决方案具有数字化、智能化的特点，都统称为合规科技。6有助于生成式人工智能形成合规理念的合规科技主要包括区块链和人工智能两类：在区块链层面，由于区块链的核心在于去中心化，这使得数据去标识化，则用于预训练的数据可以最大程度减少歧视与偏见，生成式人工智能生成的信息也就更客观、公正；在人工智能层面，可以开发人工智能检测科技，识别内容是否为生成式人工智能所生成的，同时，可以用于审核生成式人工智能生成的内容，一定程度上减轻人工审核的压力，弥补人工审核的不足。生成式人工智能行业的重要组成部分为企业，只有企业合规经营，将合规理念贯彻到企业中去，才能规范生成式人工智能行业的发展。首先，要设立伦理审查委员会，伦理审查委员会由企业的高级管理层组成，高级管理层应当接受科技伦理培训或者具备相应的伦理知识；其次，要注重技术、算法等的合规，对于生成式人工智能生成的内容应当标准信息来源，OpenAI 正在研究一种加密水印，该水印将识别 AI 生成的内容；企业应当在技术创新与合规之间把握平衡，坚守道德底线；最后，企业对于生成式人工智能所生成的内容应当进行人工审查，人工介入、内容审查与评估，对虚假信息负有删除、消除影响的义务。（三）凝聚多元主体监管合力现有的监管方式对于生成式人工智能生成的虚假信息难以监管，而生成式人工智能的安全、可持续、合乎道德的发展离不开有效的监管。因此，需要转变监管方式，将单一监管主体转变为多元主体，凝聚多元主体监管合力。多元主体监管首当其冲的是政府监管。首先，政府应当完善生成式人工智能领域立法，以法律作为监管生成式人工智能的刚性工具；其次，有必要管理之窗93中国价格监管与反垄断2024 年第 3 期搭建国家层面的统一监管平台，政府可以与学校合作，构建监管研究平台，并吸收科技公司作为成员，以期监管符合实际；最后，政府可以探索适用监管沙盒机制。监管沙盒主要指由监管部门主导，在现有监管框架内提供监管豁免和优惠政策，用于测试金融科技创新产品风险的一种创新实验机制。7我国有必要适用监管沙盒机制，允许中小企业优先访问沙盒，在可控的情况下促进生成式人工智能的创新发展，将风险降低到最小。大众对于生成式人工智能的发展举足轻重，有必要让大众参与到生成式人工智能的监管中来。一方面，大众应当提高鉴别虚假信息的能力，首先，大众应当破除对于生成式人工智能生成内容的盲目信任，对于生成内容应当交叉询证，验证信息来源的真实性和合法性；其次，大众应当合规合法使用生成式人工智能，不得通过教唆或者威逼利诱等方式使用 ChatGPT 并输出虚假信息。8另一方面，网络服务提供者应当畅通大众举报渠道，首先，网络服务提供者应当鼓励用户反馈有问题的模型输出，以及来自外部内容过滤器的负反馈；其次，企业可以发放调查问卷，以问卷的形式发现输出虚假信息的模型漏洞，在收集调查问卷后梳理分析有关虚假信息的风险点，并着手控制与防范。五、结语以 ChatGPT 为代表的生成式人工智能标志着从弱人工智能向强人工智能时代的跨越，这对人工智能的监管提出一系列挑战。本文聚焦生成式人工智能视域下虚假信息的法律风险规制，提出多元主体监管的新监管格局，挖掘了合规科技的监管潜力，明确了侵权责任承担的主体。然而，如何平衡监管与创新，推动科技企业在监管下安全可靠的发展是新时代新发展格局必须回答的问题。未来，还需要从我国国情以及与国际规则的对接、协调出发，为生成式人工智能行业规制提供中国智慧，构建生成式人工智能的本土化制度。参考文献1 郭春镇.生成式 AI 的融贯性法律治理以生成式预训练模型（GPT）为例.现代法学，2023（3）：97.2 张欣.生成式人工智能的算法治理挑战与治理型监管.现代法学，2023（3）：112.3杨志航.人工智能法律主体资格之否定.财经法学，2022（4）：83.4 舒洪水，彭鹏.ChatGPT 场景下虚假信息的法律风险与对策.新疆师范大学学报（哲学社会科学版），2023（5）：129.5 张凌寒.深度合成治理的逻辑更新与体系迭代ChatGPT等生成型人工智能治理的中国路径.法律科学（西北政法大学学报），2023（3）：45.6 丁晨.新形势下的合规科技创新数据驱动的智能风险分析体系.清华金融评论，2019（6）：1.7Goo J J，Heo J Y.The Impact of the Regulatory Sandbox on the Fintech Industry，with a Discussion on the Relation between Regulatory Sandbox and Open Innovation.Journal of Open Innovation：Technology，Market，and Complexity，Vol.6，2020（2）：43.8 谢永江，杨永兴ChatGPT 法律风险及其规制 J/OL南京邮电大学学报（社会科学版）：7.https:/doi.org/10.14132/ki.nysk.20230601.005.（作者单位：安徽大学法学院）哈尔滨市加强冬季旅游市场价格行为监督检查2024 年春节期间，哈尔滨市市场监管局积极组织全市市场监管系统加大节日期间价格监督检查，主要对旅游市场价格、重要民生商品价格行为进行巡查检查，规范市场价格行为，维护节日市场价格秩序，保障人民群众合法权益。重点检查旅行社是否存在隐瞒闭园实际情况继续收取相关费用等价格违法行为。同时与线上平台联系，对平台各经营者发公告更改平台内预订哈市冰雪旅游门票信息，并发布退票公告。春节期间，市区两级市场监管部门组成联合检查组持续对景区景点、餐饮、宾馆酒店、旅游商品、停车场等经营单位价格执行情况进行了检查，发现问题及时督促解决：对个别客房价格涨幅过高的宾馆酒店进行约谈。同时，密切关注春节返程高峰期间铁路、民航票价波动情况，加强交通运输领域价格监管。八方来鸿春节期间全市累计出动检查人员 1728 人次，检查车辆 690台次，检查大型商超、连锁超市、宾馆旅店、景点景区、餐饮经营单位 1869 家，发放提醒告诫书1039 份，发放责令改正通知书11 件，对检查发现的问题已全部进行了现场行政指导，同时移交辖区局跟踪整改落实。（信息来源：哈尔滨市市场监督管理局 戚文晶）