cuda学习重点笔记专业资料.doc
《cuda学习重点笔记专业资料.doc》由会员分享,可在线阅读,更多相关《cuda学习重点笔记专业资料.doc(11页珍藏版)》请在咨信网上搜索。
1、文章目录1. CUDA是什么2. 64位Ubuntu12.04安装CUDA5.53. 对CUDA C个人懵懂感觉4. 重要概念与名称4.1. 主机4.2. 设备4.3. 线程(Thread)4.4. 线程块(Block)4.5. 线程格(Grid)4.6. 线程束4.7. 核函数(Kernel)4.8. dim3构造类型5. 函数修饰符6. 惯用GPU内存函数6.1. cudaMalloc()6.2. cudaMemcpy()6.3. cudaFree()7. GPU内存分类7.1. 全局内存7.2. 共享内存7.3. 常量内存7.4. 纹理内存7.5. 固定内存8. 原子性9. 惯用线程操作
2、函数10. 使用事件来测量性能11. 流12. 技巧 CUDA是什么CUDA,Compute Unified Device Architecture简称,是由NVIDIA公司创立基于她们公司生产图形解决器GPUs(Graphics Processing Units,可以通俗理解为显卡)一种并行计算平台和编程模型。通过CUDA,GPUs可以很以便地被用来进行通用计算(有点像在CPU中进行数值计算等等)。在没有CUDA之前,GPUs普通只用来进行图形渲染(如通过OpenGL,DirectX)。开发人员可以通过调用CUDAAPI,来进行并行编程,达到高性能计算目。NVIDIA公司为了吸引更多开发人员
3、,对CUDA进行了编程语言扩展,如CUDA C/C+,CUDA Fortran语言。注意CUDA C/C+可以看作一种新编程语言,由于NVIDIA配备了相应编译器nvcc,CUDA Fortran同样。更多信息可以参照文献。对CUDA C个人懵懂感觉如果粗暴以为C语言工作对象是CPU和内存条(接下来,称为主机内存),那么CUDA C工作对象就是GPU及GPU上内存(接下来,称为设备内存),且充分运用了GPU多核优势及减少了并行编程难度。普通通过C语言把数据从外界读入,再分派数据,给CUDA C,以便在GPU上计算,然后再把计算成果返回给C语言,以便进一步工作,如进一步解决及显示,或重复此过程。
4、重要概念与名称主机将CPU及系统内存(内存条)称为主机。设备将GPU及GPU自身显示内存称为设备。线程(Thread)普通通过GPU一种核进行解决。(可以表达到一维,二维,三维,详细下面再细说)。线程块(Block)1. 由各种线程构成(可以表达到一维,二维,三维,详细下面再细说)。2. 各block是并行执行,block间无法通信,也没有执行顺序。3. 注意线程块数量限制为不超过65535(硬件限制)。线程格(Grid)由各种线程块构成(可以表达到一维,二维,三维,详细下面再细说)。线程束在CUDA架构中,线程束是指一种包括32个线程集合,这个线程集合被“编织在一起”并且“步调一致”形式执行
5、。在程序中每一行,线程束中每个线程都将在不同数据上执行相似命令。核函数(Kernel)1. 在GPU上执行函数普通称为核函数。2. 普通通过标记符_global_修饰,调用通过,用于阐明内核函数中线程数量,以及线程是如何组织。3. 以线程格(Grid)形式组织,每个线程格由若干个线程块(block)构成,而每个线程块又由若干个线程(thread)构成。4. 是以block为单位执行。5. 叧能在主机端代码中调用。6. 调用时必要声明内核函数执行参数。7. 在编程时,必要先为kernel函数中用到数组或变量分派好足够空间,再调用kernel函数,否则在GPU计算时会发生错误,例如越界或报错,甚至
6、导致蓝屏和死机。/* * file_name HelloWorld.cu 后缀名称.cu */#include #include /头文献/核函数声明,前面核心字_global_global_ void kernel( void ) int main( void ) /核函数调用,注意,第一种1,代表线程格里只有一种线程块;第二个1,代表一种线程块里只有一种线程。 kernel(); printf( Hello,World!n ); return 0;dim3构造类型1. dim3是基亍uint3定义矢量类型,相称亍由3个unsigned int型构成构造体。uint3类型有三个数据成员uns
7、igned int x;unsigned int y;unsigned int z;2. 可使用亍一维、二维或三维索引来标记线程,构成一维、二维或三维线程块。3. dim3构造类型变量用在核函数调用中。4. 有关几种内置变量4.1. threadIdx,顾名思义获取线程threadID索引;如果线程是一维那么就取threadIdx.x,二维还可以多取到一种值threadIdx.y,以此类推到三维threadIdx.z。4.2. blockIdx,线程块ID索引;同样有blockIdx.x,blockIdx.y,blockIdx.z。4.3. blockDim,线程块维度,同样有blockDim
8、.x,blockDim.y,blockDim.z。4.4. gridDim,线程格维度,同样有gridDim.x,gridDim.y,gridDim.z。5. 对于一维block,线程threadID=threadIdx.x。6. 对于大小为(blockDim.x,blockDim.y) 二维 block,线程threadID=threadIdx.x+threadIdx.y*blockDim.x。7. 对于大小为(blockDim.x,blockDim.y,blockDim.z) 三维 block,线程threadID=threadIdx.x+threadIdx.y*blockDim.x+th
9、readIdx.z*blockDim.x*blockDim.y。8. 对于计算线程索引偏移增量为已启动线程总数。如stride = blockDim.x * gridDim.x;threadId += stride。函数修饰符1. _global_,表白被修饰函数在设备上执行,但在主机上调用。2. _device_,表白被修饰函数在设备上执行,但只能在其她_device_函数或者_global_函数中调用。惯用GPU内存函数cudaMalloc()1. 函数原型: cudaError_t cudaMalloc (void *devPtr,size_t size)。2. 函数用处:与C语言中ma
10、lloc函数同样,只是此函数在GPU内存为分派内存。3. 注意事项:3.1. 可以将cudaMalloc()分派指针传递给在设备上执行函数;3.2. 可以在设备代码中使用cudaMalloc()分派指针进行设备内存读写操作;3.3. 可以将cudaMalloc()分派指针传递给在主机上执行函数;3.4. 不可以在主机代码中使用cudaMalloc()分派指针进行主机内存读写操作(即不能进行解引用)。cudaMemcpy()1. 函数原型:cudaError_t cudaMemcpy (void *dst,const void *src,size_t count,cudaMemcpyKind k
11、ind)。2. 函数作用:与c语言中memcpy函数同样,只是此函数可以在主机内存和GPU内存之间互相拷贝数据。3. 函数参数:cudaMemcpyKind kind表达数据拷贝方向,如果kind赋值为cudaMemcpyDeviceToHost表达数据从设备内存拷贝到主机内存。4. 与C中memcpy()同样,以同步方式执行,即当函数返回时,复制操作就已经完毕了,并且在输出缓冲区中包括了复制进去内容。5. 相应有个异步方式执行函数cudaMemcpyAsync(),这个函数详解请看下面流一节关于内容。cudaFree()1. 函数原型:cudaError_t cudaFree ( void*
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- cuda 学习 重点 笔记 专业 资料
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【精****】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【精****】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。