芯片产业生态梳理.pptx
《芯片产业生态梳理.pptx》由会员分享,可在线阅读,更多相关《芯片产业生态梳理.pptx(24页珍藏版)》请在咨信网上搜索。
1、 AI芯片作为产业核心,也是技术要求和附加值最高的环节,在AI产业链中的产业价值和战略地位远远大于应用层创新。腾讯发布的中美两国人工智能产业发展全面解读报告显示,基础层的处理器/芯片企业数量来看,中国有14家,美国33家。Page 2目录目录AI芯片分类1AI芯片产业生态2中国AI芯片公司3 4Page 3AI芯片分类芯片分类从功能上分从功能上分Training训练通过大量的数据输入或采取增强学习等非监督学习方法,训练出一个复杂的深度神经网络模型,涉及海量的训练数据和复杂的深度神经网络结构,运算量巨大,需要庞大的计算规模,对于处理器的计算能力、精度、可扩展性等性能要求很高,主要使用NVIDIA
2、的GPU集群来完成,Google自主研发的ASIC芯片TPU2.0也支持训练环节的深度网络加速,Inference推理利用训练好的模型,使用新的数据去“推理”出各种结论,如视频监控设备通过后台的深度神经网络模型,判断一张抓拍到的人脸是否属于黑名单。Inference的计算量相比Training少很多,但仍然涉及大量的矩阵运算。在推理环节,GPU、FPGA和ASIC都有很多应用价值。可以分为Training(训练)和Inference(推理)两个环节Page 4AI芯片分类芯片分类从应用场景分从应用场景分Cloud/DataCenter云端在深度学习的Training阶段,由于对数据量及运算量需
3、求巨大,单一处理器几乎不可能独立完成一个模型的训练过程,Training环节目前只能在云端实现,在设备端做Training目前还不是实际。在Inference阶段,由于目前训练出来的深度神经网络模型大多仍非常复杂,其推理过程仍然是计算密集型和存储密集型的,若部署到资源有限的终端用户设备上难度很大,因此,云端推理目前在人工智能应用中需求更为明显。GPU、FPGA、ASIC(Google TPU1.0/2.0)等都已应用于云端Inference环境。Device/Embedded设备端在设备端Inference领域,智能终端数量庞大且需求差异较大,如高级辅助驾驶ADAS、虚拟现实VR等设备对实时性
4、要求很高,推理过程不能交由云端完成,要求终端设备本身需要具备足够的推理计算能力,一些低功耗、低延迟、低成本的专用芯片也会有很大的市场需求。可以分成“Cloud/DataCenter(云端)”和“Device/Embedded(设备端)”两大类Page 5AI芯片分类芯片分类从技术架构分从技术架构分通用芯片GPUFPGA基于FPGA的半定制化芯片深鉴科技DPU、百度XPU(256核、基于FPGA的云计算加速芯片(与赛灵思Xilinx合作)全定制化ASIC芯片TPU寒武纪 Cambricon-1A等类脑计算芯片IBM TrueNorth、Westwell西井科技、高通Zeroth等Page 6AI
5、芯片分类象限图芯片分类象限图TrainingInferenceGPUTPU2.0 VSCloud/DataCenterDevice/Embedded?GPU/FPGA /ASICFPGA /ASICPage 7AI芯片产业生态芯片产业生态Inference On Device设备端推理设备端推理MobileADASCVNLPVRInference On Cloud云端推理GPUFPGAASICTrainingOn Cloud云端训练GPUASICTPU1.0/2.0TPU2.0TrainingOn Device设备端训练?Page 8Training训练训练CPU VS GPU 架构架构Con
6、trolALUALUALUALUCacheDRAMDRAMCPUGPUPage 9CPU和和GPU对比说明对比说明u2007年以前,人工智能研究受限于当时算法、数据等因素,对于芯片并没有特别强烈的需求,通用的CPU芯片即可提供足够的计算能力。uGoogle Brain项目,使用包含16000个CPU核的并行计算平台,训练超过10亿个神经元的深度神经网络。uCPU的串行结构并不适用于深度学习所需的海量数据运算需求,u用CPU做深度学习训练效率很低,在早期使用深度学习算法进行语音识别的模型中,拥有429个神经元的输入层,整个网络拥有156M个参数,训练时间超过75天。u在内部结构上,CPU中70%
7、晶体管都是用来构建Cache(高速缓冲存储器)和一部分控制单元,负责逻辑运算的部分(ALU模块)并不多,指令执行是一条接一条的串行过程。uGPU整个就是一个庞大的计算矩阵,GPU具有数以千计的计算核心、可实现10-100倍应用吞吐量,u还支持对深度学习至关重要的并行计算能力,可以比传统处理器更加快速,大大加快了训练过程。uGPU 由并行计算单元和控制单元以及存储单元构成,拥有大量的核(多达几千个)和大量的高速内存,擅长做类似图像处理的并行计算,以矩阵的分布式形式来实现计算。同CPU不同的是,GPU的计算单元明显增多,特别适合大规模并行计算。Page 10通用计算通用计算GPUNVIDIA一家独
8、大一家独大u2010年NVIDIA就开始布局人工智能产品,u2014年发布了新一代PASCAL GPU芯片架构,这是NVIDIA的第五代GPU架构,也是首个为深度学习而设计的GPU,它支持所有主流的深度学习计算框架。u2016年上半年,NVIDIA又针对神经网络训练过程推出了基于PASCAL架构的TESLA P100芯片以及相应的超级计算机DGX-1。DGX-1包含TESLA P100 GPU加速器,采用NVLINK互联技术,软件堆栈包含主要深度学习框架、深度学习SDK、DIGITS GPU训练系统、驱动程序和CUDA,能够快速设计深度神经网络(DNN),拥有高达170TFLOPS的半精度浮点
9、运算能力,相当于250台传统服务器,可以将深度学习的训练速度加快75倍,将CPU性能提升56倍。Page 11Training市场市场NVIDIA竞争对手竞争对手GoogleuTraining市场目前能与NVIDIA竞争的就是Google。u今年5月份Google发布了TPU 2.0,TPU(TensorProcessing Unit)是Google研发的一款针对深度学习加速的ASIC芯片,第一代TPU仅能用于推理,而目前发布的TPU 2.0既可以用于训练神经网络,又可以用于推理。uTPU2.0包括了四个芯片,每秒可处理180万亿次浮点运算。Google还找到一种方法,使用新的计算机网络将64
10、个TPU组合到一起,升级为所谓的TPU Pods,可提供大约11500万亿次浮点运算能力。Google表示,公司新的深度学习翻译模型如果在32块性能最好的GPU上训练,需要一整天的时间,而八分之一个TPU Pod就能在6个小时内完成同样的任务。u目前Google 并不直接出售TPU芯片,而是结合其开源深度学习框架TensorFlow为AI开发者提供TPU云加速的服务,以此发展TPU2的应用和生态,比如TPU2同时发布的TensorFlow Research Cloud(TFRC)。Page 12传统传统CPU/GPU厂家也进入厂家也进入Training市场市场u传统CPU/GPU厂家Intel
11、和AMD也在努力进入这Training市场,如Intel推出的Xeon Phi+Nervana方案,uAMD的下一代VEGA架构GPU芯片等,但从目前市场进展来看很难对NVIDIA构成威胁。u初创公司中,英国Graphcore公司 的IPU处理器(IntelligenceProcessing Unit)据介绍也同时支持Training和Inference。该IPU采用同构多核架构,有超过1000个独立的处理器;支持All-to-All的核间通信,采用BulkSynchronous Parallel的同步计算模型;采用大量片上Memory,不直接连接DRAM。总之,对于云端的Training(也
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 芯片 产业 生态 梳理
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【丰****】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【丰****】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。