2024中国企业AI大模型落地应用现状调研报告.pdf

2024中国企业AI大模型应用现状 AI大模型是真正的生产力革命，还是昙花一现的资本泡沫？已经落地AI大模型的企业，是否感受到清晰的业务价值？大模型的落地场景，有怎样的共性特征？AI大模型落地过程中，探索者正在经历怎样的挑战？2024年8月调研报告01 调研简介02 样本概况03 总体判断04 落地场景05 落地路径06 落地挑战07 投入计划目 录CONTENTS01.调研简介2024年，AI大模型掀起的技术革命愈演愈烈！或许是担心错过下一个浪潮，全球范围内，各行业头部企业纷纷开启了AI大模型的落地探索之旅。与此同时，业界也有一些不同声音，由于AI大模型在生成内容时依然存在”幻觉“等问题，因此担心AI大模型无法提供准确输出，从而无法在企业市场创造价值。是真正的生产力革命，还是昙花一现的资本泡沫？已经落地AI大模型的企业，是否感受到清晰的业务价值？大模型的落地场景和创造价值的逻辑，有怎样的共性特征？AI大模型落地过程中，探索者正在经历怎样的挑战？带着这些问题，2024年4月，选型宝与亚马逊云科技联合发起了“2024中国企业大模型应用现状调查”，过去3个月，我们共发放问卷超过10000份，回收141份有效问卷。经过1个月的数据处理，现在，我们把这份调研报告呈现给业界。期待这份调研报告，对于探索中的您有所启发！调研背景结论1：AI大模型落地总体上仍处在探索孵化阶段，渗透率不足1%，这些企业是市场的“尝鲜者”。结论2：已部署AI大模型的用户中，55%的认为“已看到清晰价值”。结论3：更多真实案例呈现出来，吸引更多“观望者”入局，成为未来市场破局的关键。结论4：CIO往往优先选择：知识密集+服务对象的重要性高的场景切入。结论5：降本增效、改善体验、孵化创新是AI大模型创造价值的三种主要模式。结论6：AI大模型依然存在“幻觉”等问题，落地工程的目标，关键是解决“价值对齐”的问题。结论7：落地过程中，CIO最关心AI大模型在输出内容质量、安全、性能等三方面的表现。结论8：CIO认为AI大模型落地，主要挑战来自于成本、技术、人才、行业方案等方面。结论9：“尝鲜者”对AI大模型的投入态度是“积极且谨慎”，即愿意投入但控制规模。调研结论02.样本概况关词调研用户行业分布本次调研共收集到有效问卷141份，主要来自9个行业。其中制造、金融、教育、零售、等行业占比较高。这些在数字化建设与转型上投入积极的行 业，在 A I 大 模 型 的 应 用 上，也 相 对更加关注。制造38人,27.0%软件24人,17.0%金融服务 17人,12.1%零售电商13人,9.2%教育10人,7.1%汽车7人,5.0%医疗保健5人,3.5%游戏、媒体娱乐6人,4.3%其他 21人,14.9%从行业角度看，调研用户来自制造、金融、零售等数字化投入积极的行业关词被调研企业规模分布主要在中大型以上从企业人员规模的视角看，本次参与调研用户300人以上企业规模占比超三分之二，也具有相当的代表性。其中：300人以上企业 占比66.7%1000人以上的企业 占比38.2%3000人以上规模的企业 占比20.5%10000人以上规模的企业 占比12.1%300人以下 47家，33.3%300-1000人40家，28.4%1000-3000人 25家，17.7%3000-10000人 12家，8.5%10000-50000人 10家，7.1%50000人以上 7家，5%调研用户企业规模分布公 司职 位姓 名美的集团金融科技总监李明德中石化集团业务主管刘 硕海澜之家战略信息中心负责人华 挺五矿发展战略投资部部长贺宗春海通期货股份有限公司IT技术经理汪盛强华药集团信息中心主任苏国良哈药集团股份有限公司信息技术部门经理滕青蔓人民银行安庆市分行开发人员/工程师程聂松上海人寿客户联络中心负责人唐霄钦北京燕莎友谊商城CIO马爱杰光大永明数据分析赵文坤德华安顾人寿保险有限公司IT技术经理曹国明珠江投资控股集团IT技术经理李 生施耐德（北京）中压电器有限公司项目管理Tony特别鸣谢：部分参与调研的用户名单03.总体判断回收问卷量：141份回收问卷率：1.4%已部署49家,34.8%未部署92家,65.2%发放问卷10000份，仅回收问卷141份 说明：参与调研的141家企业中已部署大模型的企业49家，占比34.8%未部署AI大模型的企业92家，占比65.2%参与调研的141家企业中，35%已部署AI大模型应用阶段：AI大模型落地总体上仍处在探索孵化阶段，渗透率不足1%参 考 美 国 著 名 学 者 埃 弗 雷特罗杰斯编撰的创新的扩散 一 书 中 对 创 新 阶 段 的 界定，我们可以看出当前 AI大模 型 落 地 总 体 处 在 早 期 市场探索孵化阶段。应用阶段：AI大模型落地总体上仍处在探索孵化阶段，渗透率不足1%49家已部署AI大模型的企业中55.1%认为已看到清晰价值 已看到清晰业务价值27家,55.1%还在探索22家,44.9%已看到清晰 的业务价值18家,51%还在探索17家,49%35家已部署AI大模型的传统行业企业中51%认为已看到清晰价值 排除其中的14家软件企业后解读：在已经部署AI大模型的49家企业中，有27家认为“已经清晰的业务价值”，占比超过55%，初步说明AI大模型创造的业务价值是真实的、可感知的。这49家中，包含了14家软件类企业，考虑到他们有可能出于营销的目的，夸大AI大模型对其产品加持后的效果。研究团队将这14家软件公司排除后，进一步分析后，发现35家传统企业中，有18家认为“已看到清晰的业务价值”，占比达到51%，其他49%的企业表示“还在探索”，因此可以得出“AI大模型已经初步让企业用户看到业务价值”的结论。用户感受：已部署AI大模型的用户中，55%的认为“已看到清晰价值”有兴趣尝试52家,56.5%等待同行案例，再尝试 39家,42.4%完全不看好1家,1.1%参与调研但未部署AI大模型的92家企业，他们是否有计划部署？解读：在尚未部署AI大模型的92家企业中，有52家认为“有兴趣尝试”，占比超过56.5%；有3 9 家 打 算”等 待 同行案例，再尝试“，占比达到42.4%。“已经部署”的49家加上“有兴趣尝试”的52家，这101家企业属于AI大模型技术的“爱好者”，他们可以在业务价值尚不清晰的情况下，投入部署AI大模型，并开启探索之路，但是他们占比很低，约1%。更多企业则需要看到同行业企业“有清晰业务价值的案例”，才有可能扣动扳机，因此下阶段大模型厂商通过真实案例的方式向用户展示价值，将是实现市场破局的关键。未来市场破局关键：更多真实案例呈现出来，吸引观望者入局04.应用场景您认为,AI大模型落地应该应用在哪些场景下？p 在选择落地场景时，CIO有怎样的共性思考逻辑？首先是聚焦在知识密集的场景：营销内容生成、客服、知识库等场景，这些场景会沉淀大量知识，同时 也 需 要 通 过 输 出 知 识 提 供 服 务，更 容 易 发 挥 A I大模型的能力。第二是，按服务对象的重要性排序：例如客户（营销及客服）、员工（知识库）、老板（分析场景）这些用户需要的场景优先级相对靠前。由此可见，尽管AI大模型落地目前仍处在探索阶段，客 户 对 于 它 带 来 的 业 务 价 值，是 有 比 较 急 迫 的 期 待的！希望通过AI大模型的落地，快速看到业务价值，而不是简单的“赶时髦”。1家,0.7%3家,2.1%5家,3.5%6家,4.3%7家,5.0%10家,7.1%16家,11.3%20家,14.2%22家,15.6%25家,17.7%人力招聘风控财务报告撰写运维销售场景生产场景，通过图像识别等提高生产效率分析场景企业知识库，服务员工客服场景营销场景生成营销内容场景选择：知识密集+服务对象的重要性高，成为CIO优先选择的落地场景 创 造 价 值 的 方 式创 造 价 值 的 逻 辑场 景 示 例降 本 增 效手 段：把 大 模 型 的 内 容 生 成 能 力+自 然 语 言 交 互 特 征 用 在 企 业 内 部 流程价 值：提 高 员 工 效 率、流 程 自 动 化辅 助 决 策、降 低 用 工 成 本 等降 本：用 A I 大 模 型 的 文 档 生 成、图 片 生 成、视 频 生 成，降 低 用 工 成 本。增 效：（1）建 立 企 业 知 识 库，并 通 过 智 能 助 手，回 答 员 工 的 各 种 问 题，提 高 效 率；（2）自 动 生 成 会 议 纪 要、辅 助 文 档 处 理、数 据 增 强、代 码 补 全 等。流 程 自 动 化：通 过 A I A g e n t 的 能 力，基 于 目 标 自 动 拆 解 工 作 任 务，实 现 流 程 的 简 化、自 动 化 执 行。辅 助 决 策：辅 助 预 测 需 求、优 化 库 存 策 略；分 析 场 景 下，辅 助 数 据 探 索、让 业 务 人 员用 自 然 语 言 使 用 B I 工 具 的 能 力 等。改 善 体 验手 段：把 大 模 型 的 内 容 生 成 能 力+自 然 语 言 交 互 特 征 用 在 企 业 外 部 流程价 值：提 升 客 户 复 购 率、使 用 频 度、满 意 度 等 关 键 业 务 指 标交 互 革 命：（1)不 间 断 的 提 供 类 似 人 类 的 自 然 语 言 对 话 能 力；(2)文 字、图 片、视 频等 多 丰 富 的 内 容 形 态；（3）覆 盖 售 前、售 中、售 后 等 多 个 客 户 服 务 触 点。个 性 化 服 务：根 据 每 个 客 户、用 户、学 生、患 者 的 具 体 情 况，提 供 个 性 化 的 服 务 内 容。虚 拟 陪 伴：在 情 感 支 持、学 习 陪 伴 等 场 景 下，提 升 自 然 语 言 交 互 能 力，优 化 陪 伴 体 验。孵 化 创 新手 段：打 破 瓶 颈，增 加 供 给价 值：降 低 创 意 门 槛、提 高 创 新 速度，孵 化 创 新教 育 行 业：突 破 教 师 资 源 瓶 颈，通 过 A I 教 学 助 手，在 教 学、练 习、考 试 全 过 程 与 学 生完 成 互 动，更 接 近“因 材 施 教”的 教 育 目 标。电 商、营 销 场 景：通 过 大 模 型 文 生 图、文 生 视 频 的 能 力，极 大 的 降 低 了 创 新 的 门 槛，丰 富 了 内 容 供 给，普 通 人 也 可 以 通 过 A I，把 创 意 变 成 内 容。医 药 行 业：通 过 生 成 式 A I，可 以 极 大 的 提 高 药 物 分 子 筛 选 的 效 率，提 升 药 物 创 新 的 可能 性。选型宝把AI大模型创造价值的模式，总结三种方式：降本增效、改善体验、孵化创新AI大模型落地业务场景后，创造价值有哪几种共性模式？05.落地路径AI大模型的落地路径1.AI大模型生产内容的存在的问题2.AI大模型产生效果的3H原则AI大模型落地的目标3.AI大模型落地路径 1.幻觉：指大模型的输出有时缺乏精确性，给出看似深入但实际上是浅显的答案，甚至“一本正经的胡说八道”。2.专业性不强：大模型预训练的涉及行业及企业知识不多，因此无法给出专业性的答案，导致”无用“，无法解决企业用户的问题。3.知识毒性：大模型可能从数据中学习到有害、偏见、歧视性、伦理问题的内容，从而产生”毒性知识“。4.一致性：指大模型在针对相同问题，在不同时间、不同环境下，输出结果不稳定、不一致。AI大模型生成内容的原理是：基于注意力机制，通过词与词的关联度，基于概率选择，而非真理解知识。因此大模型生成内容时，可能会存在以下问题：AI大模型在生产内容时，可能会出现那些问题？AI大模型落地的关键：是针对大模型生产内容时可能出现的幻觉、专业性不强等问题，采取各种技术手段，对大模型进行“培育”，让大模型生产的内容，产生业务价值，即实现“价值对齐”。大模型产生效果，应该遵循“3H原则”：3HHelpful:内容有帮助、可用Harmless:内容合规、无害处Honest:内容准确，无幻觉AI大模型产生效果的3H原则培育路径提示词工程：通过针对性的设计提示词，来引导大模型产生特定场景所需的输出。搜索增强（RAG)：通是指在不改变大模型参数的基础上，通过外挂企业自身知识库的方式，把自身数据切片、向量化，为模型提供特定领域的数据信息，实现更准确的信息检索和生成。模型精调（或微调）：通是指在已经训练好的大模型的基础上，通过特定数据集，进一步调整大模型部分参数，将行业知识内化为模型参数，使模型更好的适应业务场景，准确高效的完成特定任务。预训练：全面调整或者从头构建大模型，适用于通用大模型缺乏目标任务所缺的相关知识和能力。为了让大模型输出的内容产生价值，企业需要对大模型进行适配，一共有4条技术路径，技术难度从易到难分别为：提示词工程、搜索增强、精调、预训练企业“培育”大模型的几条路径提示词工程 Prompt Engineering检索增强生成RAG模型微调 Fine-tuning预训练优化思路通过设计提示词优化大模型输出通过外挂企业知识库，优化大模型输出通过行业知识内化为部分参数，优化大模型输出全面调整或者从头构建大模型是否需要调整模型参数不要不需要需要需要代表技术零样本提升Zero-shot少样本提升Few-shot思维链提示COT文本嵌入Text Embedding向量数据库有监督微调SFT低秩调整LORA无监督学习 UL自监督学习 SSL人类反馈强化学习 RLHF技术难度逐渐加大、资源投入逐渐提高、模型能力逐渐提升无论哪种路径，最终的目的是为了让AI生产的内容符合“3H”原则，带来业务价值,企业的选择逻辑，应该是在达到业务价值的前提下，尽量选择技术投入小的路径。企业“培育”大模型几条路径的比较06.落地挑战您最关注基于AI大模型在哪些方面的表现?(多选)0人,0.0%72人,51.1%74人,52.5%85人,60.3%97人,68.8%101人,71.6%其他系统的可扩展性和弹性系统的响应速度和并发能力安全合规和数据隐私保护问答和生成内容的相关性检索的准确性和召回率C I O 们 认 为：大 模 型 落 地 挑 战，首 先 来 自 大 模 型 自 身表现，体现在以下方面：内 容 质 量：大 模 型 产 生 业 务 价 值 的 前 提 是 生 成 高 质量 的 内 容，C I O 们 最 关 注 大 模 型 在 检 索 准 确 性 和 召回率、生成和回答内容的相关性。安 全：大 模 型 训 练 和 推 理 过 程 中，可 能 涉 及 到 企 业数 据 泄 露 的 风 险，C I O 们 比 较 关 注 安 全 合 规 和 隐 私保护的问题。性 能：C I O 们 关 心 大 模 型 服 务 的 速 度，包 括 大 模 型的 训 练 速 度，推 理 时 的 响 应 速 度、生 成 速 度 等。此外还关注可扩展性和弹性。1.来自模型自身的挑战：内容质量、安全、性能 能否达到预期效果？AI大模型的落地挑战65人,46.1%76人,53.9%77人,54.6%78人,55.3%89人,63.1%91人,64.5%缺乏行业的解决方案AI人才缺乏 模型微调和部署的复杂度高知识库内容结构化程度 过于复杂训练数据质量和规模过大 计算资源和成本需求过高CIO认为：大模型落地挑战，其次来自资源和能力，体现在以下方面：成本：用户担心大模型训练和推理过程中，可能对计算资源需求较高，因此会带来较高的成本。技术:用户认为大模型落地中，数据训练量较大、模型微调和部署的复杂度较高，知识库建设过程过于复杂。人才：用户认为AI人才的缺乏，会给AI大模型落地带来挑战。行业方案：用户认为市场上缺少针对行业的整体或者局部的解决方案，自己探索挑战颇大。AI大模型的落地挑战2.来自资源和能力的挑战：成本、技术、人才、行业方案AI大模型落地中，您面临那些资源挑战?(多选)2人,1.4%41人,29.1%73人,51.8%92人,65.2%92人,65.2%97人,68.8%其他员工培训和变更管理系统部署运维和体验优化咨询规划和架构设计知识库内容治理与准备大模型训练和系统开发用户最需要外部支持：解决落地中的各种技术工程挑战 大模型的训练和系统开发 知识库的治理和准备 咨询规划和架构设计 系统部署运维和体验优化用户最需要的外部支持：大模型的训练与开发、知识库的建设等在推动AI大模型落地应用的过程中，您认为最需要哪些外部支持?(多选)07.投入计划贵司计划在什么时间内，构建或升级AI大模型知识库系统？3个月以内 15家,10.6%3-6个月23家,16.3%6-12个月 37家,26.2%12个月以上 19家,13.5%暂无计划 47家,33.3%被调研企业普遍是中国各行业的领导者，他们在大模型投入上表现出了更积极的态度：计划在3个月内投入的 占比 超过 10%计划在6个月内投入的 占比 达到 26.9%计划在1年内投入的 占比 达到 53.1%有投入计划的企业，占比接近70%被调研企业对AI大模型的投入态度是：“积极且谨慎”积极：53.1%的被调研企业，计划在1年内投入大模型建设5%以下 31家,22.0%5%-10%40家,28.4%10-20%17家,12.1%20%以上11家,7.8%暂无计划 42家,29.8%被调研企业尽管投入态度积极，但是投入金额普遍谨慎：在IT预算占比中 低于5%的 占22%在IT预算占比中 低于10%的 占50.4%在IT预算占比中 低于20%的 占62.5%如果贵司计划构建或升级AI大模型,预计投入占IT总预算的比重为?被调研企业的对AI大模型的投入态度是：“积极且谨慎”谨慎：50.4%的被调研企业，计划投入不高于10%的IT预算08.报告结语如果说2023年是AI大模型元年的话，2024年就是AI大模型企业落地应用的元年。多个行业的头部企业在没有看到案例的前提下，纷纷下场，拥抱大模型。然而由于大模型自身仍存在“幻觉”等问题，对于大模型最终是否能创造真实价值，业界仍有不少争议。好消息是，本次调研结果显示，55%已部署大模型的企业认为“业务价值明显”。期待下半年有更多AI大模型落地并的真实案例被报道出来！选型宝将会持续关注这个领域，欢迎关注选型宝公众号、加入选型宝微信群，获得更多精彩内容！报告结语