2023生成式人工智能服务合规发展白皮书.pdf
《2023生成式人工智能服务合规发展白皮书.pdf》由会员分享,可在线阅读,更多相关《2023生成式人工智能服务合规发展白皮书.pdf(82页珍藏版)》请在咨信网上搜索。
1、COMPLIANCE DEVELOPMENTWHITE PAPERAIGCCOMPLIANCE DEVELOPMENTWHITE PAPERC O N T E N T S目 录 注:本文中大部分插图皆由midjourney生成。01 生成式人工智能的概念和关键里程碑 02 生成式人工智能的工作原理和技术机制012009一览了然:生成式人工智能技术观察序 第 壹 篇 章 01401702703204001 生成式人工智能的创新和场景拓展动向02 生成式人工智能应用面临之难021履险蹈危:研判生成式人工智能的演进和风险挑战 第 贰 篇 章 023029审中视外:生成式人工智能法律规制的现行状况和发
2、展动向 第 叁 篇 章 01 海外主要国家在生成式人工智能法律规制方面的现状和趋势02 中国在生成式人工智能法律规制方面的现状和趋势 C O N T E N T S目 录 049条分缕析:生成式人工智能服务管理暂行办法 解读 第 肆 篇 章 01 深化生成式人工智能规制设计02 构建鲜明监管职能框架03 规制落地的挑战056居安思危:创议政府生成式人工智能规制路径 第 伍 篇 章 05706206301 关于大模型提供与使用企业的思考02 不同领域内应对方案03 全面配合监管机构要求065以权达变:企业对生成式人工智能规制的应对和思考 第 陆 篇 章 068074078081结 语 P R E
3、 F A C E前 言生成式人工智能AIGC(Artificial Intelligence Generated Content)是人工智能1.0时代进入2.0时代的重要标志。AIGC既是从内容生产者视角进行分类的一类内容,又是一种内容生产方式,还是用于内容自动化生成的一类技术集合。2022年11月30日,美国人工智能公司OpenAI正式推出ChatGPT,一款基于大语言文本的智能对话模型。根据Lucintel发布的最新报告,未来全球人工智能市场在医疗保健、安全、零售、汽车、制造和金融技术领域增长迅速,预计到2025年将达到700亿美元,20202025年的复合年增长率为21%。生成式人工智能
4、的发展已然成为必然趋势,但与此同时也伴随了许多新的问题。近日,人工智能安全中心(CAIS)发布了一份由OpenAI及DeepMind高管、图灵奖获得者及其他人工智能研究人员签署的简短声明,声明内容只有一句:“应该像对待包括流行病和核战争等其他全球性迫切社会问题一样,缓解AI引发的灭绝性风险。”警告称他们的毕生成果可能会毁灭全人类。AIGC对于文本、图像、语音、视频和代码等信息内容的生成与传播,涉及人们生产生活各个领域,既提高了人类的生产能力和生活质量,也在全社会引发了与AIGC相关的一系列争议、困惑和忧虑。为了促进AIGC的创新健康发展,我们全面梳理AIGC的发展历程、技术原理、应用场景和各国
5、法律规定,试图为政府未来的监管和企业应对提供一些思路,共同追求AIGC领域始终坚持“人类中心主义”的原则,能够合法、合规地持续高质量发展。PAGE 009PAGE 010PREFACEAIGCCompliance DevelopmentWhite Paper技术观察演进和风险挑战企业应对和思考法律规制的现状和动向政府规制路径生成式人工智能服务管理暂行办法解读概念和关键里程碑创新和场景拓展动向海外主要国家关于大模型提供与使用企业的思考不同领域内应对方案全面配合监管机构要求中国职能框架落地挑战要求和调整规制设计应用面临之难数字人技术数据安全个人信息安全风险知识产权风险AI对齐风险、AI伦理风险及信
6、任风险金融行业应用数据安全知识产权伦理广告领域应用军备领域应用工作原理和技术机制行业应用场景生成式人工智能服务合规发展白皮书userid:206478,docid:141740,date:2023-09-28,C H A P T E R01一览了然:生成式人工智能 技术观察 PAGE 012CHAPTER 01AIGCCompliance DevelopmentWhite PaperS E C T I O N 0 0 1生成式人工智能的概念和关键里程碑生成式人工智能AIGC,与PGC(Professional Generated Content,专业生成内容)、UGC(User Generat
7、ed Content,用户生成内容)相对应,指利用人工智能(Artificial Intelligence,AI)技术可根据用户需求自动生成与之匹配的内容。只需输入要求,生成式人工智能即可帮助创作者自动生成所需内容,创作者可花费更多时间进行主题构思并减少实际创作时间,提升工作效率和创作质量。生成式人工智能表现为一种高效的商业化内容生产方式,目前AI仍为内容制作的辅助型角色,待技术突破后AI可真正作为内容创作者,即生成式人工智能。人工智能的发展时期主要经历了四个阶段,在其发展过程中,AIGC的根本动力和逻辑都与互联网的发展紧密相连,最终落实到算力和数据两大基石的不断扩张。第一阶段为AI诞生以及规
8、则驱动时期(19431980s)。该阶段主要为人工智能概念的诞生和方法论构建,受限于当时的科技水平,仅限于科研实验室内的小范围实验。1950年,艾伦麦席森图灵(Alan Mathison Turing)提出了“图灵测试”,其目的是检验机器是否可以表现出与人类难以区分的智能,这一想法引发了机器产生智能的探讨。1956年的达特茅斯会议首次提出了“人工智能”概念和理论,核心在于如何让机器使用语言、进行抽象思考和形成概念,让它们解决目前只能由人类解决的问题,并自我改善。这次会议后人工智能领域逐渐发展出符号学派、联结学派(神经网络)等分支,围绕如何构造人的智能连接进行了探索,重要成果包括了机器定理证明、
9、跳棋程序和人机对话等。1957年Frank Rosenblatt设计了第一个计算机神经网络“感知机”,它被认为是第一个成功应用神经网络原理解PAGE 013PAGE 014CHAPTER 01AIGCCompliance DevelopmentWhite Paper决实际问题的算法。1958年赫伯特西蒙和艾伦纽厄尔演示了一个名为“逻辑推理家”的软件,被认为是第一个成功设计的人工智能程序。1966年约瑟夫魏鲍姆和肯尼斯科尔比共同开发了第一款可人机对话的机器人“伊莉莎(Eliza)”,其通过关键字扫描和重组完成交互任务。从上面的研究结果可以看出,早期探索阶段主要围绕如何模拟人类思维展开,通过人工设
10、计规则来实现预定目标。第二阶段为知识系统时期(1980s)。该阶段人工智能不仅局限于通过模式化的算法逻辑解决问题,还需要通过自主学习去研究问题。标志是1977年世界人工智能大会上“知识工程”概念的首次提出,由此传统架构逐渐发展成专家系统架构,它是一种基于“规则+知识”的人工智能技术,试图模拟专家在某个特定领域内做出决策的过程。这种系统通常由两个主要部分组成:知识库和推理引擎。知识库包含了专家在特定领域内的经验和知识,通常以规则、事实、关系和概率等形式表示。推理引擎则负责从知识库中提取信息,分析数据,应用推理规则,并生成结论或建议。在这个时期,专家系统在医疗、工业、金融等领域得到广泛应用,主要以
11、大学实验室的专家系统为主。在技术手段方面,算力也在不断提升。80年代,IBM基于隐形马尔科夫链模型(Hidden Markov Model)创造了语音控制打字机“坦戈拉(Tangora)”,它能够处理约20000个单词。人工智能的研究方法也从逻辑推理、搜索算法等领域扩展到了知识表示、推理和学习等多个方面。第三阶段为机器学习时期(1990s-2010)。在Web1.0的推出和Web2.0的持续演化发展过程中,该时期体现了互联网商业化渠道的打通和机器学习的初步探索。此时互联网的网站通常采用静态HTML页面,这些页面是由网站开发者手动编写的,用户只能被动地接受网站提供的信息。在此背景下,机器学习作为
12、探索行业痛点的解决方案之一被提出,它利用算法和统计模型来使计算机在没有明确编程的情况下自动学习,通过对大量数据进行学习,从而归纳出数据中的规律和模PAGE 015式,最终将这些应用于新的数据中以实施预测或分类任务,具体方法包括支持向量机、决策树、朴素贝叶斯等。此时人工智能的商业化能力已基本兑现,但渠道还未铺开。1997年IBM开发的超级电脑“深蓝”战胜了国际象棋世界冠军卡斯帕罗夫,2006年谷歌领导的自动驾驶汽车项目开展,宣告着人工智能商业化规模效应已初步呈现。进入2000年代中后期,社交网站时代用户生成内容(UGC)的产生、社交网络的发展和个性化定制的不断挖掘均为机器学习的深度发展奠定了坚实
13、基础。整体而言,该阶段并没有很多清晰、具体的落地成果,但伴随互联网行业的发展提升,其发展前景越发清晰。第四阶段为深度神经网络时期(2011年至今)。该阶段的核心特点是深度学习方法的迭代更新和商业化的广泛运用。算法上,生成式对抗网络(Generative Adversarial Network,GAN)极大提高了内容生成质量,应用场景拓展到语音处理、图像分类、视频处理、无人驾驶、交互问答等多场景。2011年IBM的Watson在美国电视智力竞赛节目 危险边缘(Jeopardy!)中战胜人类选手获得冠军。同年苹果推出Siri作为iPhone的自然语言问答工具。2015年马斯克联合山姆奥特曼等人共同
14、创建OpenAI,主要目标为制造“通用”机器人和使用自然语言的聊天机器人,GPT初代模型随后研发产生。2016年谷歌旗下DeepMind公司推出的阿尔法围棋(AlphaGo)战胜围棋世界冠军李世石。2017年微软人工智能少女“小冰”推出了世界首部100%由人工智能创作的诗集 阳光失了玻璃窗。2018年谷歌基于基础自然语言模型(NLP)发布了自然语言生成模型BERT。2022和2023年OpenAI先后发布了GPT-3.5和GPT-4,带动生成式人工智能走向新的高潮。如今,互联网数据已经不仅限于简单的文本和图片,而是变为了语义化的数据,可以被计算机深入理解和处理,从而实现更高效的信息管理和应用。
15、PAGE 016CHAPTER 01AIGCCompliance DevelopmentWhite PaperS E C T I O N 0 0 2生成式人工智能的工作原理和技术机制生成式人工智能是一种技术集合,它基于生成对抗网络(GAN)和大型预训练模型等人工智能技术,利用已有数据来寻找规律,并通过适当的泛化能力来生成相关内容。根据监督学习的方法差异,机器学习领域具有判别式(Discrimina-tive)和生成式(Generative)两种典型模型:判别式模型是对条件概率建模,学习不同类别之间的最优边界,从而完成分类任务;生成式模型则面向类建立模型,计算基于类的联合概率,然后根据贝叶斯公式
16、分别计算条件概率,进而根据输入数据预测类别。GAN模型出现后,人们开始利用生成式机器学习模型实现文本、图像、语音等内容的智能合成,学术界将其定义为生成式AI(Generative AI)。算法端方面,人工智能的两个重要阶段为机器学习和深度学习,机器学习主要以神经网络为标志,深度学习则在神经网络基础上构造更深层次的结构对更高维度的数据进行学习。同时这两者可以相互结合,称为深度强化学习(DRL)。时间方面,神经网络的概念出现较早,在人工智能概念提出前的1943年就已经具有雏形。1943年,心理学家麦卡洛克(McCulloch)和数学家皮茨(Pitts)最早将生物学中的神经网络中的最基本的成分“神经
17、元模型”抽象为简单模型,即MP模型。该模型中,神经元从其他神经元或外部环境接收二进制输入并加权相加,将结果与阈值进行比较。如果输入的总和超过阈值,则神经元发射,产生1的二进制输出,否则神经元保持不活动,产生0的输出;由于它只能表示二进制的输出结果,局限性较大。1986年,辛顿(Hinton)以此为基础提出第二代神经网络,利用误差的反向传播算法来训练模型,算法效率大幅提升;算力上通过并行计算和GPU加速等技术,已实现可以处理更大规模的数据和更加复杂的问题。1989年,PAGE 017PAGE 018CHAPTER 01AIGCCompliance DevelopmentWhite PaperYa
18、nn LeCun等提出LeNet-5模型已实现数字识别。1997年,长短时记忆网络(LSTM)作为循环神经网络(RNN)的改进型被提出,主要用于解决传统循环神经网络中遇到的梯度消失和梯度爆炸问题,使得神经网络可以更好地处理长序列数据。2006年,辛顿首次提出了深度置信网络(Deep Belief Network,DBN),它的训练分为无监督预训练和有监督微调两个阶段,其中对无监督特征的强调成为深度学习的雏形。2014年,新的生成对抗网络(GAN)被提出,它的基本思想是将生成器网络和判别器网络同时进行训练,通过竞争来逐步提高生成器网络的生成能力。训练过程进化为生成器网络的训练和判别器网络的训练两
19、个阶段,通过对真假不断判断和挑战提高相关精度。该阶段在商业化的里程碑事件就是2016年Alpha-Go击败围棋世界冠军李世石,表明了算法在商业化落地后的巨大力量。随后,模型的发展方向主要聚焦长序列的处理和计算效率的提升,代表就是2017年谷歌Transformer模型的发布。它是一种基于自注意力机制的编码解码模型,解决序列到序列(Sequence-to-Sequence)学习任务中的长序列问题,例如机器翻译、语音识别、文本摘要等任务。2017年6月,Google Brain在神经信息处理系统大会(NeurIPS)发表论文 Attention is all you need,首次提出了基于自我注
20、意力机制(self-attention)来提高训练速度的Transformer模型,将其用于自然语言处理。Transformer由编码器和解码器两部分构成,其中编码器用于将输入序列转换为一系列特征向量,解码器则将这些特征向量转换为输出序列。编码器和解码器都由多个相同的层次组成,每个层次包含多头注意力机制(Multi-Head Attention)和全连接前馈网络(Feed-Forward Network)两个子层次。该架构的优点是可以并行处理输入序列的所有元素,能够捕捉长距离的依赖关系,此架构奠定了大语言模型(LLM)的强大基础。生成式人工智能的基础架构是大语言模型。它是在大量数据集上进行预训
21、PAGE 019练,且没有针对特定任务调整数据,另外可以对自然语言进行建模,以便于生成文本、语音识别、文本分类、机器翻译等任务。它的优点在于可以生成高质量的自然语言,同时还可以理解和处理复杂的语言结构。其路线主要分为三种:1)编码器路线;2)编解码器路线;3)解码器路线。三条线在发展初期都处于各自探索阶段,但2020年GPT-3模型的编译及其表现出的优异性能,解码器逐渐占据主导优势。同时模型闭源逐渐成为头部玩家的发展趋势,包括Google、OpenAI、META(原Facebook)等公司都在推进。在算法端,Transformer的自注意力机制是特殊情况下的注意力机制。在一般任务的编码解码(E
22、ncoder-Decoder)框架中,输入(Source)和输出(Tar-get)内容是不一样的,例如对于英中机器翻译来说,输入是英文句子,输出是对应地翻译出的中文句子。注意力机制发生在输出的元素Query和输入中的所有元素之间。而自注意指的不是输入和输出之间的注意力机制,而是输入内部元素之间或者输出内部元素之间发生的注意力机制,即“Target=Source”这种特殊情况下的计算机制。自注意力机制更容易捕获句子中长距离的相互依赖的特征,且对于增加计算的并行性也有直接帮助作用。OpenAI的GPT系列模型,均是基于Google提出的Transformer模型的解码器(Decoder)架构,每代
23、模型仅对架构进行微调。从模型参数量和训练数据集维度看,在GPT-3模型之前,参数量和训练数据量均呈现快速增长态势,尤其是GPT-3模型参数量为1750亿,达到阶段性巅峰。最新框架中,指示学习(Instruction tuning)成为下一步发展的方式,其最早由2022年论文 Finetuned Language Models Are Zero-Shot Learners 提出论述。该模型需要学习如何在给定的输入条件下,输出与专家行为相似的结果,较类似于人类学习新技能的方式,例如观察和模仿专家的行为,从而逐渐掌握新的技能。此外,指示学习还可以避免一些传统强化学习方法中的问题,例如训练不稳PAGE
24、 020CHAPTER 01AIGCCompliance DevelopmentWhite Paper定、难以收敛等问题。总结对比来看,大语言模型发展主要基于以下三大主要阶段:1)模型微调(Fine-tuning):以GPT-1为代表,需要大量的微调数据集样本,特定模型解决特定任务;2)提示学习(Prompt-learning):以GPT-3为代表,需要少量的微调数据样本,模型小样本学习(few-shot Learning)能力更强;3)指示学习(Instruc-tion-learning):以FLAN、InstructGPT、ChatGPT为代表,它可以通过模仿专家行为,快速地学习如何完成复
25、杂的任务。C H A P T E R审中视外:生成式人工智能法律规制 的现行状况和发展动向 02PAGE 022CHAPTER 02AIGCCompliance DevelopmentWhite PaperPAGE 023S E C T I O N 0 0 1海外主要国家在生成式人工智能法律规制方面的现状和趋势人工智能作为现在主要发展的科技领域,其法律规制建设是一项全球关注的议题。各国在人工智能领域的立法历程具有其独特性,而这通常受其国家特性、科技发展情况以及伦理价值观的影响。1.美国美国政府自2016年起就开始关注人工智能的风险和监管问题。奥巴马政府在报告 为人工智能的未来做好准备 中提出“
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 2023 生成 人工智能 服务 合规 发展 白皮书
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【Stan****Shan】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【Stan****Shan】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。