![点击分享此内容可以赚币 分享](/master/images/share_but.png)
AIGC创新应用的云计算架构设计.pdf
《AIGC创新应用的云计算架构设计.pdf》由会员分享,可在线阅读,更多相关《AIGC创新应用的云计算架构设计.pdf(4页珍藏版)》请在咨信网上搜索。
1、117数字通信世界2023.08DCWTechnology Application技术应用0 引言AIGC(Artificial Intelligence Generated Content/AI-Generated Content,人工智能生成内容),一般认为是相对于PCG(专家生成内容)、UCG(用户生成内容)而提出的商业概念。AIGC有狭义和广义两种概念:狭义的AIGC是指利用AI技术自动生成内容的生产方式;广义的AIGC则是指生成式AI,像人类一样具备生成创造能力的AI技术,可以基于训练数据和生成算法模型,自主生成各种形式的内容和数据,包括但不限于文本、图像、音乐、视频、3D交互内容等
2、,也可以开启科学新发现、创造新的价值和意义等1,一般在技术上将其称为生成式AI。GAN(对抗生成网络)、CLIP、Transformer、Diffusion Modle、预训练模型等技术可以被视为生成式AI,常被用于具体的工作领域构建AIGC创新应用,例如,在文本生成领域中,由GPT-3.5构建的ChatGPT项目、Notion.AI项目、微软NewBing项目;在图像生成领域中基于CLIP的DALL-E2项目、基于潜在扩散模型(LDM)的Stable Diffusion项目等。在产业应用领域对于AIGC的要求是基于多模态的,即同一个模型能够将文本、图像、视频、声音等多种形态的信息作为输入和输
3、出,在技术实现上往往将有相近似意义的多模态信息对应到相似的向量空间。尽管大量研究人员和工程师在为实现通用人工智能开展工作,而从近年来的研究和工程实践趋势来看,尚未取得具有实用性的成果。在工程应用上往往采取协同多个专业能力突出的生成式AI构成工作流来实现具体场景的应用。由于这些项目并非针对AI算法、模型进行开发,而是利用现有的生成式AI进行应用开发,所以这类项目往往被称为AI创新应用。2023年硅谷科技企业孵化器Y Combinator的孵化项目超过40%属于AI创新应用,其中绝大部分大部分项目属于工程化应用。AIGC创新应用的云计算架构设计沈 上(北京工商大学,北京 102488)摘要:文章介
4、绍了AIGC创新应用的云计算架构设计。传统云计算架构提供了较强的灵活性且具有人力资源成熟的优点,而基于Serverless架构提供了高弹性、高扩展、低成本、容易实现技术管理的优势。关键词:AIGC;云计算;Serverless架构设计;AI图像生成doi:10.3969/J.ISSN.1672-7274.2023.08.038中图分类号:TN 181 文献标志码:A 文章编码:1672-7274(2023)08-0117-04Serverless Architecture Design for AIGCs Innovative ApplicationsSHEN Shang(Beijing Te
5、chnology and Business University,Beijing 102488,China)Abstract:This paper introduces the cloud computing architecture design of AIGCs innovative application,the traditional cloud computing architecture provides strong flexibility and the advantages of mature human resources,while the serverless-base
6、d architecture provides the advantages of high elasticity,high scalability,low cost and easy to realize technical management.Key words:AIGC;cloud computing;serverless architecture design;AI image generation作者简介:沈 上(2002-),男,汉族,江苏人,本科,研究方向为机器学习。118DIGITCW2023.08DIGITCW技术 应用Technology Application1 关于A
7、IGC创新应用1.1 有代表性的AIGC项目在YC投资项目中,有基于文本介绍的常常用于个性化市场营销领域的生成式AI模型Vellum、使用生成式人工智能为中小型企业制作数字营销材料的SpeedyBrand,另外也有CorgiAI这类预防金融诈骗的项目。使用大型语言模型,可以帮助大型Shopify商家处理支持请求的Yuma项目,也可以帮助私募股权公司自动完成尽职调查,以便他们能更快地完成交易的AiFlow等新兴项目。目前,对信息技术领域影响巨大的生成式AI Github Copilot X Chat已经通过对话完成代码编写、Debug、注释、安全检查等能力,可以令编程人员从繁重的编码工作中解脱出
8、来,把更多时间和精力放在实现编程目标与提高程序执行效率上。基于Meta MMS、Whisper、Wave2lips等语音和图像的生成式AI模型,产生了大量服务于互联网内容创作者的项目(如D-ID和硅语等),代表了数字人AIGC创新应用2。1.2 AIGC创新应用有什么样的工程特征一般来说,AIGC创新应用依托开发者对于具体的工作或娱乐领域的深刻认知,简单利用生成式AI模型对行业或领域的某一个工作环节或工种进行大幅度的效率提升或流程改善。而使用的模型往往是大型企业或研究机构开源的模型或者调用生成式AI服务企业的API(应用程序接口),根据行业特点设计适合的用户交互界面,并设置按量付费的套餐供客户
9、选择。近一两年来,AI模型的参数量达到了千亿级别,鲜有创新应用自行训练大模型,往往是基于开源大模型进行精调(Finetune)。在实际项目运行中,自行部署模型的项目,对于算力的需求集中在推理资源上。AIGC创新应用所提供的服务从技术结构上分析,几乎都是独立的事件或者线性的工作流,状态特性不明显,对于响应时间相对不敏感。AIGC创新应用的开发团队初期规模在411人左右,甚至有部分具有较高关注度的开源项目初期开发人员只有12人。开发人员的工作主要集中在模型精调和用户界面开发上,一旦出现较大的用户增长后,优先扩充的岗位为UI工程师、移动应用设计人员和云计算架构师。团队的核心技术水平较高,但技术管理水
10、平在最初阶段通常不足以支撑对20人以上的团队进行技术管理。算力在绝大部分情况下处于稀疏调度的状态,一旦出现高并发状态,请求集中度非常高。算力需求分布严重不均匀,对于算力、存储和带宽具有极高的弹性要求。2 AIGC创新应用的云计算资源需求分析(1)GPU算力(单位:ms)。作为AIGC项目的核心计算需求,一般用于模型的训练、精调、推理等方面。作为应用项目,客户访问项目提供的服务能力,GPU算力一般被用于推理,一般为Nvidia或AMD提供的企业级GPU,无图型显示能力,并且在云计算厂商环节实现了虚拟化,在绝大多数情况下,可以实现整数个核心的调用。一个用户单一操作对于GPU核心的调用时长介于200
11、 ms50 s之间。(2)存储(单位:GB)。用于存储模型文件、参数文件、生成内容的输出文件以及用于生成内容的输入媒体。存储体积十分巨大,通常用于AIGC应用服务的文本生成图像的模型和参数文件体量在数10 GB1 TB之间。(3)CPU算力(单位:ms)。一般用于托管Web访问界面、App的API接口响应、用户数据库、用户认证和安全防护等计算场景。单用户单一操作对于CPU核心调用时长介于10100 ms之间,有部分长时间调用能达到2 s,但该类型的操作一般都需要优化。(4)带宽(单位:Mbps)。用于用户与服务端之间数据交换,当使用生成式AI的API调用时,带宽会用于同AI模型服务商进行交换数
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- AIGC 创新 应用 计算 架构 设计
![提示](https://www.zixin.com.cn/images/bang_tan.gif)
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【自信****多点】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【自信****多点】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。