生成式人工智能可信发展的法治基础.pdf

13新兴权利法律问题研究：生成式人工智能法治生成式人工智能可信发展的法治基础陈兵摘要：随着人工智能技术发展不断成熟，其功能和应用领域不断扩张，尤其是近期爆火的生成式人工智能技术及服务，在多领域存在巨大的发展潜力。“可信”作为人工智能产业发展的内在要求，其内涵在域内外政策及实践中大致可总结为“可操控、可解释、可问责”等要求。然而，生成式人工智能技术所潜在的“技术+资本”垄断、伦理道德标准不清、侵权责任模糊以及数据安全风险等新问题，引发了生成式人工智能的信任危机。基于此，建议以竞争治理、伦理治理、侵权治理以及安全治理等为基点，通过强化生成式人工智能领域要素治理，科学审慎引入事前监管，平衡鼓励创新与保护竞争之间的关系；建立健全生成式人工智能领域科技伦理规范；搭建基于生成式人工智能产品生产者责任和使用者过错的侵权责任认定规则，从技术和制度层面加强数据算法安全等四个方面实生成式人工智能可信发展的法治基础。关键词：生成式人工智能；可信发展；反垄断；侵权责任认定；数据算法安全中图分类号：DF0-052文献标识码：A文章编号：16 7 4-9 50 2（2 0 2 3）0 4-0 0 13-15作者：陈兵，南开大学法学院教授、博士生导师，南开大学竞争法研究中心主任。近年来，随着人工智能（Artificial Intelligence）算法不断迭代升级，特别是机器学习赋予人工智能强大的学习能力，使其不再局限于只按照事先指定的模板或者规则，进行简单的内容输出和制作，而是能够根据用户提出的指令即可生成灵活且真实的内容，甚至能够实现高质量的内容创作，这类技术也被称为人工智能生成内容（AIGeneratedContent，A IG C），或者基于生成式人工智能服务产生的内容物，以下简称“AIGC”或“生成式人工智能”作为生成式人工智能的典型代表，最近备受关注的ChatCPT是基于语言模型CPT-3.5的聊天机器人，其使用的进行机器学习训练的算法是一种被称为人类反馈强化学习（RLHF）的方法，可以回答后续问题、进行模拟对话、承认错误、挑战不正确的前提并拒绝不适当的请求。虽然，在这之前本文系2 0 19 年度教育部人文社会科学重点研究基地重大项目“全球数据竞争中人权基准的考量与促进研究”的阶段性研究成果，项目编号：19 JJD820009；2 0 2 2 年度南开大学文科发展基金科学研究类青年项目“服务保障数字经济健康发展司法案例研究”的阶段性研究成果，项目编号：ZB22BZ0327。参见中国信息通信研究院：人工智能生成内容（AIGC）白皮书（2 0 2 2 年），2 0 2 2 年9 月。See OpenAI,“ChatGPT:Optimizing Language Models for Dialogue,May 12,2023,https:/ by May 30,2023.142023年第4期上海政法学院学报（法治论丛）存在可以与人进行对话互动的聊天机器人，但并未受到同ChatCPT一样的关注度，这是由于对比同类聊天机器人，ChatGPT的功能更加强大，其使用来自RLHF训练的模型，可以根据从大型文本语料库中学习到的内容，生成篇幅更长和包含细节更为丰富的内容，能够完成写新闻报道、写邮件、写代码等多种任务，具有开放性、跨领域及通用性的特征。ChatGPT较低的使用门槛和的强大功能，使人们对人工智能的固有印象发生了改变，同时也让人们意识到生成式人工智能在更多领域应用的潜力。然而，伴随ChatGPT的爆火带来的生成式人工智能的热潮，也让人们看到了潜在的数据滥用、算法歧视、隐私侵权技术垄断等法律风险，以及其具有的对消费者福利、企业创新、市场竞争甚至国家安全的消极影响，从而引发人们对AIGC乃至整个人工智能技术和产业的信任危机，可能会妨碍人工智能技术和产业创新发展，甚至阻碍人工智能产业的发展。为此，需要探究可能引发生成式人工智能信任危机的症结，探寻生成式人工智能可信发展的法治基点。一、生成式人工智能可信发展的内在要求早在AIGC技术兴起前，人工智能技术就已经广泛应用于汽车、家居、医疗等领域。然而，随着人工智能技术应用的不断推进，人们发现人工智能技术仍存在不可控、不可解释、不可预知、不透明等端和风险，并且在使用过程中可能给人身安全、信息安全以及财产安全等带来一定风险，由此引发了人们对人工智能技术的不信任。这种不信任会降低人们在部分场景中使用人工智能产品的意愿，从而限制相关技术应用的深度和广度，对人工智能产业的健康可持续发展产生实质阻碍。为了消除人们对人工智能技术应用的不信任，推动人工智能产业“可信”成了一个必然选择。对于AIGC产业而言，“可信”也是其健康持续发展的内在要求。近年来AIGC技术的兴起和发展，使其逐渐成为新的人工智能产业分支。虽然AICC技术相比于之前的人工智能技术有巨大突破，但是“可信”仍是AIGC产业健康可持续发展的必备要求。一方面，AIGC技术仍存在局限性。以ChatGPT为代表的AIGC技术，在强化学习技术以及大数据模型的加持下，已经能够生成类似于人类创作的作品，以至于难以区分人工智能生成物与人类创作作品的界限。然而，此类技术仍存在一定的局限性，主要体现在人工智能不会对其生成的内容进行检视，以至于人工智能生成的作品可能会存在错误的内容。另一方面，现行与AIGC相关的法律法规尚未健全，难以有效回应AIGC产业发展和技术应用可能带来的诸如著作权纠纷、侵权行为以及数据泄露等法律风险。为了进一步推动可信AIGC产业的发展，就需要正确把握适用于AIGC产业的“可信”内涵与要求。See OpenAI,“ChatGPT:Optimizing Language Models for Dialogue,May 12,2023,https:/ by May 30,2023.参见陈兵、林思宇：如何看待ChatGPT爆火背后潜在的法律风险，第一财经日报2 0 2 3 年2 月2 2 日。生成式人工智能可信发展的法治基础AICGC作为人工智能技术的分支，其技术特征和运行原理与此前的人工智能技术存在一定共性，因此，对人工智能产业整体提出的可信要求也可以适用于AIGC领域。自2 0 17 年“可信人工智能”的概念正式提出后，各国积极开展推进可信人工智能的研究，并陆续出台了用以推动可信人工智能产业发展的各项指南、规范、倡议书等。为了更全面地把握AIGC产业的“可信”内涵，还需进一步考虑AICC的特性，在可信人工智能整体要求基础上，结合AIGC产业和相关领域的特征分析其内涵。表1国内外对人工智能产业提出的“可信”内涵国家/组织时间文件内涵人工智能原则：国防部应（1）负责任；（2）公平性；（3）可追溯性；（4）2019.10用人工智能伦理建议可靠性；（5）可控性美国人工智能系统开发、测试和审查符合最高公平性、问2021.11人工智能指南道德标准责制和透明度标准关于机器人民事法规则的（1）自由；（2）隐私；（3）正直和尊严；（4）自2017.01欧洲委员会建议决和不歧视；（5）个人数据保护欧盟（1）受人类监管；（2）技术的稳健性和安全性；（3）2019.04人工智能道德准则隐私和数据管理；（4）透明度；（5）多样性、非歧视性和公平性；（6）社会和环境福祉；（7）问责制新一代人工智能治理原和谐友好、公平公正、包容共享、尊重隐私、安全可控、2019.06则一发展负责任的人工智能共担责任、开放协作、敏捷治理等八条原则（1）增进人类福证；（2）促进公平公正；（3）保2021.09新一代人工智能伦理规范护隐私安全；（4）确保可控可信；（5）强化责任担当；（6）提升伦理素养中国生成式人工智能服务管理以遵守法律法规、社会公德、公序良俗为底线，生成2023.04办法（征求意见稿）式人工智能的服务提供者需要承担特定的义务和责任可信人工智能从技术和工程实践的角度，落实伦理治理要求，实现创新发展和风险治理的有效平衡。可信包含2021.07可信人工智能白皮书可靠可控、透明可释、数据保护、明确责任、多元包容5项可信要素综合国内外对人工智能产业提出的“可信”内涵与要求（见表1），可以归纳出以下几方面要求。1.可控性。人工智能技术与传统技术不同，其最大特征在于其能够自主运作，而无需人类的操控和干预。虽然人工智能的自动化运作能够极大减少人类的工作量，并且伴随人工智能技术的不断成熟，人工智能可以完成的任务也逐渐增多。但是，人工智能的自主化程度越高，越有可能脱离人类的控制，最终可能产生违背使用者意志的结果。因此，可信人工智能要求其技术具有可控性，即人工智能的运作必须是在人类的掌控下，可以基于人的意志控制和干预人工智能的运行和产出。由于目前AIGC技术主要应用于绘画、写作、编程等领域，因此，可控性在AIGC领域主要体现2 0 17 年何积丰院士在香山科学会议上首次提出“可信人工智能”概念。参见中国信息通信研究院：可信人工智能产业生态发展报告（2 0 2 2 年），2 0 2 2 年9 月。该表格参考中国信息通信研究院可信人工智能产业生态发展报告及公开资料。162023年第4期上海政法学院学报（法治论丛）为要求AIGC内容的生成以及生成内容的使用和发布是受人类控制的，且能够被人类干预，也即人类可以凭借自己的意志控制AIGC生成自己所需的内容，并且可以自主决定是否使用和发布生成的内容。2.可问责性。人工智能技术的自主性对传统的侵权责任追究机制产生了冲击。当人工智能在脱离人类控制的情况下产生了侵权行为，此时人工智能的操控者并没有侵权的故意，在这种情况下，应当让谁承担侵权责任成为一个巫待解决的难题。为了保障被侵权人的利益，就必须确保人工智能技术的使用具有可追责性，即被侵权人权益受到人工智能侵害时，需要有主体承担侵权责任，以保障被侵权人的合法权益。AIGC主要应用于论文的写作、绘画创作等具有一定创造性的领域，并且基于AIGC技术原理可知，其内容的生成需要大量学习文字和图画等数据资源，其中就可能包含具有知识产权或个人信息等类型的数据。因此，在其采集数据或生成内容的过程中，可能会侵犯他人的著作权，也可能会侵犯他人的隐私权、名誉权等。此时，AIGC的可追责性就体现在，若AIGC学习的数据或者生成的内容侵犯了他人权益，需要有主体承担相应的责任。3.公平性。公平性要求主要针对人工智能领域可能出现的不公平或者歧视性现象，主要体现在两方面：一是使用过程中的不公平。由于人工智能技术具有一定的技术门槛，对企业的资本和技术研发能力都有要求，一般只掌握在少数企业手中，由此可能会形成技术垄断，其他企业若要使用该技术，只能被迫接受不公平的条件，而竞争对手则可能会被限制使用。二是在产出结果方面具有的歧视性。受人工智能学习数据数量和种类的限制，人工智能可能会生成具有偏见或者歧视性的内容。因此需要通过公平性要求，来保障人工智能技术使用和生成内容的公平、无歧视。在AIGC领域，AIGC作为一种新兴的技术，仍存在一定的技术门槛，仅有少数企业拥有该技术。以ChatCGPT为例，目前虽然有类似的技术存在，但由于ChatGPT的功能更加强大且完善，其他产品难以真正替代该技术，在此情况下，极易出现“技术+资本”垄断的问题，可能会出现技术封锁等不公平的现象。因此，AIGC技术的使用应当保证公平且开放，避免新技术成为企业获取垄断利润的工具。同时，AIGC源于其技术特性，在集中学习的数据数量和种类有限的情况下，难免也会出现生成存在偏见和歧视的内容，对此，AIGC领域也应当确保生成内容公平无歧视。4.可靠性。从字面意思看，可靠性与可信非常相近，但具体内涵却存在一定差异。目前，人工智能技术主要作为辅助或替代人类完成工作的工具，当人工智能技术无法完成工作或者是不能满足需求时，那么使用这种工具将是不可靠的。在AIGC领域，可靠性则主要体现在对人工智能生成内容的正确性和真实性方面的要求，这一点在生成式人工智能服务管理办法（征求意见稿）（以下简称“管理办法”）中第4条第4项中也有体现，要求生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。5.透明可解释性。人工智能技术的核心是算法，但是算法具有高技术性和复杂性，非专业技术人员往往难以理解人工智能的运作原理，这导致人们往往不能理解人工智能是如何生成内容或者作出决策的，这种状态也被称为“黑箱”。由于这个过程是不透明的，存在信息不对等的情况，由此生成式人工智能可信发展的法治基础会引发人们对人工智能生成内容或者作出决策的不理解和不信任。AIGC技术也是如此，人们并不清楚自已输人的数据会被如何处理和使用，也不清楚人工智能是如何得出结论的。在这种情况下，要求人工智能透明可解释，也是消除人们顾虑的主要途径。6.安全性。人工智能技术目前在多领域应用，其中部分场景中人工智能技术的使用可能会对安全构成威胁，譬如在自动驾驶领域，可能会对驾驶者的人身安全构成威胁；在智能医疗领域，不仅可能威胁人身安全，还可能会侵害患者的个人信息安全等。因此，对人工智能提出的安全性要求主要包括人身安全、财产安全、数据安全、国家安全等多个方面。目前AIGC所应用的领域并不会直接威胁到人身安全，但是其技术的运作需要采集和处理大量数据，可能会危及个人信息安全以及国家安全，同时也可能会侵犯他人的财产性权益。因此，在AIGC产业，安全性要求主要体现在财产安全、数据安全和国家安全等方面。表2 AIGC可信发展的要求及具体内涵AIGC可信发展的要求具体内涵可控性AIGC内容的生成，以及生成内容的发布必须是受人类控制的可问责性因AIGC引发的侵犯著作权、财产权、隐私等侵权行为是可追责的AICC技术的使用是开放且公平的，并且人工智能生成的内容或者作出的判公平性断是非歧视的可靠性AICC生成的内容是真实可信赖的，能够切实满足需求透明可解释性运作与生成内容的原理是透明可解释的AIGC的运行和内容生成不会对财产安全、数据安全、国家安全等产生威胁安全性和危害基于各国对AIGC可信发展的要求，结合其产业特征和应用现状，AIGC的可信要求主要包括“可控、可问责、公平、可靠、透明可解释以及安全”六个方面。为了切实推进AIGC可信发展，需要基于上述要求（见表2），审视当前可能引发AIGC信任危机的挑战与风险。二、生成式人工智能发展面临的信任危机目前，随着人工智能相关产业的高速发展，随之而来的数据隐私、安全风险、算法歧视等人工智能治理问题也对人们在使用人工智能技术时的信任程度产生了影响，推动人工智能可信化建设已经成为全球共识。AIGC作为近期人工智能发展的重点领域，同样存在着诸如“技术+资本”垄断、科技伦理、侵权责任以及数据安全等风险与挑战，影响着人们对于AICC技术和产业发展的信任。（一）“技术+资本”弓引发的相关市场垄断风险AIGC技术的研发与应用需要海量的数据支撑、大量的数字数据技术与信息通信技术的集成与融18：2023年第4期上海政法学院学报（法治论丛）合，还需要强大的算力等硬件设施的支持，这些对企业技术研发能力、数据供给能力、资本支撑能力等都提出了很高的要求，强化了AIGC对技术、资本、数据和算法、算力等要素的依赖，也在很大程度上增加了AIGC技术研发与应用领域的进入门槛，容易出现超大型平台企业凭借“技术+资本”垒断市场的风险。事实上，从目前国内外上线测试CPT大模型的企业来看，大都是该领域的头部企业，其在技术、资本、数据等领域都具有相当实力，一定程度上印证了前述论断，对中小企业而言，人工智能大模型训练所需的要素是它们难以负担的，这反过来又进一步助长了在AIGC领域各类要素向超大型平台企业聚合的趋势。如果对“技术+资本”垄断风险的预见和防治不予重视，不仅会破坏AIGC领域市场竞争秩序，导致市场竞争活力减少，降低资源配置的效率，且还会对可信AIGC的建设造成阻碍。因为部分企业为谋取和维持断利润，可能会通过提高技术门槛，设置技术封锁等方式，排除限制其他企业有效参与AICC领域市场竞争，并凭借其垄断地位，对消费者用户进行剥削或施加不公平交易条件，这些都与AICC产业可信发展所要求的“公平、开放、包容”等价值相违背。由于生成式人工智能的研发和运行需要大量的数据、资本、技术、算力等要素的支持，只有少数拥有各方面强大技术优势、资本、算力等要素支持的企业或机构才能够参与其中。这种高准人壁垒使得其他潜在的竞争者难以进入或者生存，严重阻碍了市场竞争，将生成式人工智能市场发展逐渐推进到寡头垄断的局面。以ChatGPT为例，最初ChatCPT是由OpenAI开发，而非微软、谷歌等科技巨头，然而支持人工智能训练所需的开放和运行费用高昂，远非一般初创型企业可以承担。有关资料数据显示，2 0 2 0 年一次人工智能算法学习训练的成本约为46 0 万美元，到2 0 2 2 年一次训练的成本降到45万美元，即便如此，对中小企业而言，仍难以独立承担如此昂贵的开发和运营费用。故为了获取运营需要的数据资源和云计算能力，其通常寻求与科技巨头合作。警如，为了维持运营，OpenAI选择与微软合作，得到了微软10 亿美元的投资，并专门为微软新必应（NewBing）搜索引擎定制了下一代大型语言模型。这在一定程度上显露出微软、谷歌等科技巨头能够借助其拥有的强大的技术和资源优势，采用收购、签订协议等方式获取中小企业的技术，并将其具有的市场力量快速传导至新市场，增加了科技巨头垄断算法、数据和技术要素的风险，其还可能通过实施技术封锁、数据屏蔽等排除限制竞争的行为以维持垄断地位。可见，即便AIGC领域中的中小企业有能力研发出先进的技术，但是受限于企业在数据、算力硬件以及资本等方面的劣势，往往需要依赖超大型企业提供相关方面的支持，尤其是在资本投资过程中，超大型企业往往能够通过购买股份或者协议控制的方式掌握中小企业的控制权，从而形成“技术+资本”双轮驱动的方式，迅速占领并支配AIGC相关领域的市场，限制、排除竞争，谋取垄断利润。此外，生成式人工智能具有较强的通用性，可以在多个领域内提供优质的产品和服务，同时其See ARK Investment Management LLC,“Big Ideas 2023:Artificial Intelligence,https:/research.ark- by May 3,2023.See Cade Metz&Karen Weise,Microsoft Bets Big on the Creator of ChatGPT in Race to Dominate A.I,Jan.12,2023,https:/ by May 3,2023.参见陈兵、林思宇：正视人工智能信任危机加快推进可信AIGC发展，第一财经日报2 0 2 3 年4月2 5日。19生成式人工智能可信发展的法治基础也可以通过相对简单的参数微调和迁移学习来提高解决特定领域内问题的针对性。如此，为特定问题而设计的中小型人工智能模型的针对性优势将会不断减弱甚至完全消失，致使基于大模型训练而不断优化的生成式人工智能服务，因其能够更深层次学习以及拥有应对复杂现实的建模能力的优势会进一步增强。最终，经过大模型反复训练的生成式人工智能的性能会优于中小模型的人工智能开发企业，从而挤压中小规模人工智能模型在各自领域内的市场空间，也会因此削弱中小规模人工智能模型的创新动力和市场应用价值及需求。与此同时，还会剥夺用户和消费者的市场选择权和对不同产品和服务的体验感，使广大用户从人工智能的享用者和消费者，逐渐演化为人工智能的被消费者和被控制者。（二）科技伦理风险科技伦理是开展科技创新活动所要遵循的价值理念和行为规范，是促进科技事业健康发展的重要保障。随着生成式人工智能技术的不断成熟，人工智能的使用逐渐扩展到了原本属于人类具有独创性价值的领域，与此同时，在这些领域内尚未建立人工智能技术使用的价值理念和行为规范，极易导致在人工智能技术使用中出现一些违反科技伦理道德的行为，从而使AIGC技术和应用出现“不可靠、不公平、不可控”等风险，引发了人们对AIGC技术及应用的不信任。以ChatGPT为例，其可以帮助用户完成写新闻报道、论文写作等多种任务，也因此成为部分用户制造谣言和伪造论文的工具。全球学术顶级期刊自然（Nature）曾在一星期内两次发布分析阐述ChatGPT的相关论文，探讨诸如AIGC生成内容具有的潜在侵权风险、大型语言模型（LLMs）给学界带来的负面影响，以及如何规范使用等问题。实际上，由于生成式人工智能具有依赖训练数据中统计规律的特性，不能通过互联网获得具有时效性的信息内容，也不能对数据的来源进行识别与核实，易增加算法的歧视与滥用的风险。与此同时，其进行学习训练的数据存在种类和内容的限定性，数据库本身可能具有一定的价值偏见，由此使得生成式人工智能算法生成的内容也存在偏见或者有害指引。譬如，在使用ChatGPT时，其作出的回复可能具有种族、性别等歧视性内容的暗示，而部分使用者会将其作出的回复看作“正确答案”并据此作出具有歧视性的错误决定，进而影响公众的社会认知和伦理，甚至危害国家安全、文化安全。如此，若不对生成式人工智能技术在不同领域应用时应当遵守的价值理念和行为规范进行明确，可能将会存在学术失范、虚假信息甚或谣言传播等伦理道德问题，进而降低公众对生成式人工智能的信任度，这种不信任甚至可能会影响到尚未使用AIGC的场景中，臂如，公众可能对学术论文或者画作创作是否由人创作产生怀疑，而这种不信任会对AIGC及相关领域的发展造成难以估量的影响。（三）个侵权责任认定与承担目前，人工智能领域的相关法律、伦理道德规范尚未健全，人工智能技术的不规范使用也造成了诸多侵权事件。据媒体报道，澳大利亚墨尔本西部赫本郡的市长布赖恩胡德（BrianHood）指控See Chris Stokel-Walker&Richard Van Noorden,“What ChatGPT and Generative AI Mean for Science,Nature,614(7947):214-216(Feb.2023).Doi:10.1038/d41586-023-00340-6.参见陈兵、林思宇：正视人工智能信任危机加快推进可信AIGC发展，第一财经日报2 0 2 3 年4月2 5日。202023年第4期上海政法学院学报（法治论丛）OpenAI旗下的ChatCPT对其进行诽谤，因为该聊天机器人在回答问题时错误地声称他是贿赂丑闻的有罪方，他或将据此对该公司提起诉讼。实践中，生成式人工智能技术具有的低门槛特性在客观上增加了侵权事件的发生概率。以传播谣言为例，在当前网络对于流量的高度追捧下，部分用户为博眼球可能会利用人工智能技术制造虚假信息，由此加快虚假信息传播的频率。在AIGC技术出现前，人工智能侵权责任的问题就引发了学者的广泛讨论。其中人工智能是否具有法律主体资格是一个前提性问题。尤其是随着人工智能技术的发展，其具有的自主性也日渐提升。基于此，有部分学者认为，由于人工智能具有自主性，应当赋予其法律主体地位，其产生的侵权行为也应由人工智能自已承担法律责任；也有学者认为，人工智能不具有独立的法律主体资格，因为人工智能是人造物，是受人控制的，本质上与人类使用的工具没有本质区别；还有学者基于人工智能发展的阶段划分，认为在弱人工智能时代，人工智能不具有法律人格，在强人工智能时代，则可以根据实际情况赋予人工智能法律人格。当前，以ChatGPT为代表的AIGC技术相比之前的人工智能技术已取得了巨大的进步，已可以自主生成人类的对话，且像人一样“创作”出文章、图画等生成物。但结合ChatGPT等技术原理可知，其生成行为认识是基于强化学习的算法模型下完成的，并不是基于人工智能的自我意识，因此，目前AIGC仍未达到强人工智能的标准。虽然其自主性和智能性有明显提升，但其运作和运行都需要人类下达指令或进行人工标注训练，且在使用过程中，其发挥的主要是辅助工具的功能，故此，AIGC尚不具有独立的法律人格。在AIGC不具有法律主体资格的前提下，需要考虑侵权责任的承担者。当面对AIGC技术引发的侵权事件，责任应当由何者承担？是提供AIGC技术服务的运营商还是使用者？在AIGC应用场景中，传统法律法规中的主体资格、责任认定与承担等制度在适用时存在一定的困难。若不能合理有效地认定各方的侵权责任，则会导致AIGC“不可控、难问责”。因此为防止使用者与运营商之间进行责任推诱，让被侵权人的损失能够及时得到弥补，需要明确责任追究机制。（四）数据和算法使用安全大数据、虚拟现实、AIGC等技术的发展成熟，不仅能够将静态的现实空间事物转化为数据映射到虚拟空间中，还能将动态行为或者事件进行实时的数据转化，从而实现虚拟与现实的实时互动。这些技术在极大提升元宇宙拟真性的同时，也采集并处理了大量包括消费者身高、地址、基本身份信息，经营者商品或者服务数据等信息。以ChatGPT训练为例，其运行需要大量数据的支持，所采用的数据主要是人类语言数据集和公共爬虫数据集，数据量高达上万亿。在OpenAI官网隐私政策中，用户使用ChatCPT时的访问、See Byron Kaye,“Australian Mayor Readies Worlds First Defamation Lawsuit over ChatGPT Content,Apr.5,2023,https:/ by May 3,2023.参见梁鹏：人工智能产品侵权的责任承担，中国青年社会科学2 0 18 年第4期。参见刘小璇、张虎：论人工智能的侵权责任，南京社会科学2 0 18 年第9 期。参见李坤海、徐来：人工智能对侵权责任构成要件的挑战及应对，重庆社会科学2 0 19 年第2 期。21生成式人工智能可信发展的法治基础使用或互动的部分信息会被采集用以提高模型性能，但OpenAI于2 0 2 3 年3 月1日更新了API数据使用政策，对数据使用和保留政策进行了更改，OpenAI不会使用用户通过API提交的数据来训练或改进模型，除非用户声明自愿共享数据，且通过API发送的任何数据将保留最多3 0 天。即便如此，OpenA也有可能会采集并储存涉及用户隐私和用户对话的数据，同时伴随ChatGPT的用户持续增加，在3 0 天内保留和存储的用户数据量是十分巨大的，这些都留下了对用户数据产生泄露的风险虽然OpenAI表示，存储训练和运行模型所需的数据会严格遵守隐私和安全政策，并不会使用用户提交的数据来训练或改进模型，但在近期仍出现了数据泄露事故。2 0 2 3 年3 月2 4日，OpenAI官方表示有1.2%的ChatGPTPlus的用户数据可能被泄露，一些用户可能看到其他人聊天记录的片段以及其他用户信用卡的最后四位数字、到期日期、姓名、电子邮件地址和付款地址等信息可见，即便数据安全加密和保障技术不断成熟，但在未来可能出现的违法网络攻击和恶意数据爬取等行为的威胁下，仍存在不可忽视的数据安全隐患此外，由于AIGC在采集和处理数据过程中，可能会涉及国家核心数据、地方和行业重要数据以及个人隐私数据的抓取、处理以及合成使用等，会涉及国家安全、行业安全及个人安全等关键利益若数据安全得不到有效保障，AIGC技术也同样难以获得人们的信任，甚至可能会导致在国家层面严格限制AIGC的使用。例如，据媒体报道，之前意大利监管机构担心ChatGPT及其母公司OpenAI违反了欧洲通用数据保护条例中的部分规定。这使得意大利当局发布禁令（目前已经恢复）该公司在意大利境内开展业务。可见，若难以保障数据安全，生成式人工智能技术也面临着信任危机，且会阻碍人工智能的发展和应用。三、推动生成式人工智能可信发展的法治举措当前，众多国内科技巨头都表明将研发类ChatGPT的AIGC技术产品。因此，须正视可能降低公众对于AIGC技术信任度的潜在风险，否则未来我国的AIGC产业发展也可能面临信任危机，不利于相关产业的规范持续健康发展。为此，应当以竞争、伦理、侵权以及安全作为治理基点，加快推进可信AIGC产业的发展。一）公平竞争治理：关注AIGC领域反垄断监管为预防“技术+资本”垄断可能给AIGC领域市场竞争带来的“不开放、不公平”等不良影响，有必要进一步强化与要素治理相结合的反垄断监管，分类分级、科学审慎地引人事前监管。一方面，需进一步结合要素治理明晰AIGC领域的垄断行为，明确监管规范，提高反垒断法律法规在相关应用场景的适用性。AIGC产业的发展与数据和算法、技术以及资本要素息息相关，这些See OpenAI,API Data Usage Policies,June 14,2023,https:/ by June 30,2023.See OpenAI,“March 20 ChatGPT Outage:Heres What Happened,Mar.24,2023,https:/ 3,2023.?See Elvira Pollina&Supantha Mukherjee,“Italy Curbs ChatGPT,Starts Probe over Privacy Concerns,Mar.31,2023,https:/ by May 3,2023.222023年第4期上海政法学院学报（法治论丛）要素在支撑人工智能产品和技术应用的同时，也会带来数据泄露、算法歧视、资本无序扩张等现实危害和潜在风险，可能会对市场竞争秩序产生威胁。为此，有必要在反垄断监管中，加强对凭借数据和算法、技术及资本等优势施行垄断行为的识别与规制。修订后的反垄断法第9 条明确提出，经营者不得利用数据和算法、技术、资本优势以及平台规则等从事本法禁止的垄断行为。管理办法第4条也指出：“尊重知识产权、商业道德，不得利用算法、数据、平台等优势实施不公平竞争。”基于此，应当充分考量AIGC产品的功能与技术特性，结合最新发布的四部反垄断法配套规章，突破传统的市场份额要件，综合考量数据、算法、技术等各要素的比重。在此基础上，还需要进一步通过要素治理的方式强化竞争治理。虽然，修订后的反垄断法加强了对数据和算法、技术及资本等要素在垄断行为判定中的考量，但是还应当关注要素之间的交互与协同关系，搭建多要素协同治理体系，解析不同场景与要素组合存在的竞争风险，提高竞争治理的系统性、科学性、技术性。此外，在判定行为竞争效果时，要采取包容审慎的原则，参考多项指标，多方权衡行为效果和影响的AB面，兼顾鼓励创新与保护竞争。另一方面，由于反垄断监管通常偏重事中事后规制，对于AIGC领域具有的动态变化和高技术性的特征市场垄断问题难以进行有效规制。为此，需要分类分级、科学审慎地采用反垄断事前监管，通过设置技术、资本、数据、用户等条件，抓住具体要素治理的要领，明确AIGC领域需承担特殊义务的平台企业，设置行为“红黄绿灯”，聚焦用户、数据、算力、资本等可计量指标，从事前规范和约束相关平台企业的行为，预防可能出现的扼杀式经营者集中、算法（垄断）协议以及滥用市场支配地位等反竞争风险。此外，也要充分意识到AIGC技术的开发是创造性智力活动，AIGC技术是企业的知识产权，在建立和完善事前监管的同时，也要注意权衡鼓励创新、保护知识产权和反垄断、反不正当竞争之间的平衡。既要充分保护企业的知识产权，又要防范企业滥用其知识产权限制、排除竞争，进行不正当竞争等。现实的问题在于由于AIGC技术具有其独特性，无论是技术保护部门，还是法律监管机构，甚至是企业开发端都面临着进一步认识和准确把握AIGC技术开发与运行规律的挑战，故现行反垄断法和知识产权法等相关法律，很可能难以及时有效平衡鼓励创新与保护竞争之间的关系，为此还需要跟随技术发展，保持足够定力，为AIGC技术的开发和应用预留充分空间，平衡好鼓励创新与反垄断监管之间的关系，虽然，在现行反垄断法中写入了鼓励创新的目的，但是在实践中还需要进一步调适两者的关系，做到敏捷监管、精准监管，以更好地规范AIGC这一新兴领域。（二）天科技向善治理：建立健全AIGC科技伦理治理制度当前，我国人工智能相关领域的科技伦理治理尚不健全，难以适应人工智能领域科技创新发展的现实需要。为此，应从科技伦理规范、科技伦理审查以及责任承担规则等方面健全AIGC科技伦理治理制度，为AIGC科技伦理治理提供制度保障首先，建立多领域的科技伦理规范。依据人工智能应用领域的不同制定差异化的科技伦理规范和标准，引导企业合规进行科技活动。警如，可设计按场景模式分类，按风险危害程度分级的风险23生成式人工智能可信发展的法治基础分类分级技术标准体系与配套治理方案。该技术的关键在于正确根据不同人工智能场景的特性与组成要素等多个方面，进行类型化划分，并分别基于隐私泄露风险、数据滥用风险、算法歧视风险、人身安全风险、伦理风险等风险种类，综合风险发生的概率、涉及权益的位阶、损害的大小等因素，划分风险级别，并根据风险的类别和级别分别设置具体的伦理标准，并制定配套的治理方案。其次，建立科技伦理审查和监管制度。建立人工智能领域道德层面的行为准则，进一步维护社会公平正义、保障公众切身利益，也能够增强公众对人工智能技术应用的信任程度。该项制度在2022年3 月印发的关于加强科技伦理治理的意见中明确提及，2 0 2 3 年4月，科技部发布关于公开征求对科技伦理审查办法（试行）意见的公告。其中提出，从事人工智能的单位，研究内容涉及科技伦理敏感领域的，应设立科技伦理（审查）委员会。公告还提到了“需要开展专家复核的科技活动清单”，包括具有舆论社会动员能力和社会意识引导能力的算法模型、应用程序及系统的研发；面向存在安全、人身健康风险等场景的具有高度自主能力的自动化决策系统的研发等。最后，要完善算法技术使用规范，预防算法歧视问题发生。一方面，要求相关企业从根源上消除具有学习训练数据样本的歧视性，对学习训练数据进行及时检查与更新，并对发现的具有歧视性的数据进行移除；另一方面，要建立AIGC技术的算法问责制度，在应用AIGC的场景下发生侵权事件时，对侵权责任机制进行明晰，合理分配相应主体的法律责任。此外，建立和健全算法可解释与算法备案制度，让人工智能算法更加透明化。管理办法第4条指出：“在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取措施防止出现种族、民族、信仰、国别、地域、性别、年龄、职业等歧视。”ChatGPT等生成式人工智能缺乏透明度涉及算法偏见、算法黑箱及其带来的人工智能算法生成内容不公正、不健康的问题，但要解决上述问题并不宜直接公开其模型。虽然开源可以实现资源共享，驱动创新，激发世界各地开发者的积极性，从而实现人工智能更广的应用，但对于ChatGPT庞大而复杂的内部机制来说，某些算法技术隐层难以被完全掌握，一旦完全开源，则有可能在复杂的应用场景下产生不利的后果，甚至被不法分子利用以进行违法行为。因此，无需要求企业公开算法代码以实现“透明”，仅需对算法作出决策所依据的基本规则和标准进行阐述，并结合算法备案制度，以核对其人工智能算法运行机制解释的真实性和有效性。此外，根据管理办法第17 条，AIGC的提供者还应当向用户提供其他可能影响用户信任或选择的必要信息，臂如训练数据的来源、规模、类型、质量，人工标注规则，人工标注数据的类型和规模等。一言以蔽之，提供者应当以浅显易懂的方式主动向用户提供必要的信息，使用户充分了解AIGC技术可能存在的风险以及使用规范，同时告知用户其为保障安全而采取的防范措施，并普及相关的法律规范。主动、充分履行告知义务，AIGC技术的提供者才能真正赢得社会大众的信任，AIGC技术也才能真正实现可信化发展。AIGC技术的提供者要积极主动地做先进技术的开拓者、伦242023年第4期上海政法学院学报（法治论丛）理道德的践行者、法律制度的捍卫者，社会才会成为AIGC技术发展的沃土，AIGC技术才能苗壮成长（三）侵权责任治理：完善AIGC侵权责任认定AIGC运行的自动化特性造成了“主体一行为一责任”传统理论下的“责任鸿沟”，但生成式人工智能算法技术的应用具有一定的价值取向和主观意图，这是承担法律责任的根本依据。因此，可将人工智能算法设计部署的主观过错作为追责的根本依据，在此基础上，还需进一步提升民法典刑法产品质量法等传统法律在AIGC具体应用场景中判定主体责任和产品质量缺陷等问题的适用性。关于侵权责任的认定规则，管理办法第5条规定，利用生成式人工智能产品提供聊天和文