![点击分享此内容可以赚币 分享](/master/images/share_but.png)
腾讯云TI平台的大模型精调解决方案.pdf
《腾讯云TI平台的大模型精调解决方案.pdf》由会员分享,可在线阅读,更多相关《腾讯云TI平台的大模型精调解决方案.pdf(23页珍藏版)》请在咨信网上搜索。
1、腾讯云 TI 平台的大模型精调解决方案胡哲优图实验室高级AI技术专家行业知识、模型训练稳定性、资源利用率、国产化适配大模型精调全生命周期的方法论与全流程陪跑自研大模型、大规模预训练、自研加速、国产化适配大模型摘要;大模型问答大模型落地痛点TI 大模型精调解决方案TI精调的核心优势案例分享大模型在业务场景落地的痛点大规模训练不稳定大模型训练需耗费大量GPU 资源且训练周期长,对训练平台的稳定性、故障隔离性、自动容错性等底座能力,以及断点续训能力考验极大模型欠缺行业知识通用领域大模型百花齐放,但都不具备特定行业的独有知识,欠缺行业属性导致无法落地实际业务需国产化适配响应国家政策,摆脱国外资源限制,
2、需要从硬件服务器芯片、操作系统、模型等多个层面完成国产化适配大模型落地业务场景的痛点需提高资源利用率分布式训练需要高效的资源调度管理系统,减少节点资源碎片提高调度成功率;支持虚拟 GPU 调度提高容器资源利用率TI 的大模型精调解决方案MaaS客户专属客户专属大模型大模型传媒行业大模型精调解决方案TI平台平台技术底座技术底座平台平台&工具工具TI-DataTruth数据标注平台TI-ONE 训练平台TI-Matrix应用平台太极Angel 加速组件基础设施基础设施高性能计算集群HCC高性能网络:自研星脉计算网络架构向量数据库行业大模型行业大模型传媒大模型政务大模型文旅大模型金融大模型教育大模型
3、TI 的一站式大模型精调解决方案模型选型训练共建部署应用应用场景应用场景资源采购资源采购业务形态业务形态数据评估资源评估环境搭建服务开通交付方案项目排期训练数据准备训练数据准备模型训练模型训练知识挖掘+增强数据清洗+切块向量库建设+维护训练平台搭建无监督训练有监督训练人工反馈强化学习训练框架加速脱敏合规模型评测模型评测模型管理模型管理服务发布服务发布性能评测效果评测模型注册模型发布推理框架加速推理服务部署内容安全内容安全应用联调应用联调需要客户深度参与需要客户深度参与TI 对大模型开发全生命周期的一体化方法论TI精调的核心优势核心优势1 自研模型:混元大模型超千亿参数规模(蒸馏出百亿级模型),
4、全链路自主研发,从零训练自主创新超千亿参数规模(蒸馏出百亿级模型),全链路自主研发,从零训练自主创新AngelHCF 推理框推理框架架推理速度相比业界主推理速度相比业界主流框架提升流框架提升 1.3 倍倍AngelPTM 训练框训练框架架相比业界主流框架提升相比业界主流框架提升 1 倍训练速度倍训练速度预训练预训练超超 2 万亿万亿token语料优化语料优化预训练算法及策略预训练算法及策略精调及强化学习精调及强化学习改进注意力机制开发思维链改进注意力机制开发思维链新算法新算法知识增强知识增强逻辑推理逻辑推理内容创作内容创作自研机器学习框架创新大模型训练四大核心能力多轮对话多轮对话共测试29个能
5、力项综合评级 级当前最高分共测试37个能力项综合评级 级当前最高分模型开发信通院测评模型能力C-EvalMMLUAGlEval总集AGlEval中文AGlEval英文混元GPT-3.5GPT-4VSVS腾讯混元大模型 主流大模型010203040506070GPT-4GPT-4GPT-3.5GPT-3.5混元混元代码子项代码子项01020304050607080GPT-4GPT-3.5混元混元STEMSTEM子项子项HumanEval分数Ceval-STEMAGlEval-高考0102030405060GPT-4GPT-4GPT-3.5GPT-3.5混元混元高考题子项高考题子项05101520
6、2530354045GPT-4GPT-4GPT-3.5GPT-3.5混元混元数学子项数学子项AGlEval-数学核心优势1 自研模型:混元大模型核心优势1 自研模型:行业大模型降低不同行业数据彼此干扰降低不同行业数据彼此干扰提升垂类任务性能提升垂类任务性能应用层舆情助手 写作助手 营销助手 访谈助手 客服助手 .大模型层平台层自研行业大模型训练支撑:TI-ONE 训练平台行业阅读理解行业数值计算行业知识问答行业文案生成行业信息抽取行业情感分析行业术语增强行业合规安全基础大模型基础大模型金融行业大模型 医疗行业大模型 文旅行业大模型.通用大模型PT&SFT行业大模型传媒文旅金融医疗大规模通用数据
7、大规模通用数据无监督:数T文本有监督:数亿条数据大规模行业数据大规模行业数据无监督:百G文本有监督:数百万条数据核心优势1 自研模型:行业大模型在有行业数据精调的情况下:在有行业数据精调的情况下:行业大模型(行业大模型(1010亿参数)可以比通用大模型(千亿参数)用小得多的训练资源,训练后得到差不多性能的应用亿参数)可以比通用大模型(千亿参数)用小得多的训练资源,训练后得到差不多性能的应用阅读理解阅读理解API调用调用问答对生成问答对生成新闻摘要新闻摘要核心优势2 大规模训练:简单最快仅需最快仅需 5 5 步即可完成步即可完成大模型精调落地大模型精调落地1.一键启动一键启动平台内置精调物料 快
8、速启动精调任务2.训练监控训练监控实时监测资源利用率、训练指标3.任务管理任务管理 模型评估模型评估管理任务版本 记录超参、指标快照 4.模型发布模型发布平台内置推理加速镜像 快速部署服务5.服务调用服务调用可视化网页、API接口调用模型服务核心优势2 大规模训练:稳定NodeNodeNodeNodeTrainOperator1.机器故障迁移机器故障迁移云原生监控2.异常异常POD驱逐重新调度驱逐重新调度3.断点续训断点续训NodeNodeTaskManger节点发生故障时节点发生故障时:主动发现主动发现 屏蔽节点屏蔽节点 自动扩容自动扩容 故障迁移故障迁移网络网络/系统等异常时系统等异常时:
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 腾讯 TI 平台 模型 调解 方案
![提示](https://www.zixin.com.cn/images/bang_tan.gif)
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【宇***】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【宇***】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。