企业生成式AI：市场现状.pdf

企业生成式 AI市场现状IBM 商业价值研究院|趋势洞察让生成式 AI 成为企业利器关于生成式 AI 的争论通常分为极端两派，分别是倡导者和怀疑者。这两派之间的激烈争夺往往会忽略中间地带。对于企业领导者来说，这无疑是一个严峻的问题。因为企业领导者需要根据冷静、客观的事实，以及战略相关性来制定合适的 AI 方法，切忌盲目乐观和不切实际的想法。为了提供更加冷静客观的评估，IBM 商业价值研究院(IBM IBV)联合牛津经济研究院，在 2023 年 5 月针对美国、澳大利亚、德国、印度、新加坡和英国的近 400 名高管开展了的一项调研。同时，我们还调查了美国的 200 位 CEO。我们询问了企业高管在采用生成式 AI 方面的计划、所期望实现的效益以及所面临的阻碍。我们发现，在持续的 AI 热潮中，企业高管们确实正在积极采用生成式 AI，但仍持非常谨慎的态度。生成式 AI 项目的平均投资回报率呈稳步增长趋势。受访企业高管预计，到 2025 年，生成式 AI 项目的投资回报率将超过 10%，投资回报将进一步超过资本成本。1 因此，许多企业都计划在未来两年内推动生成式 AI 的采用。只有 23%的受访高管表示其组织在 2022 年对生成式 AI 进行了试点、实施、运营和优化，但预计到 2024 年这一比例将上升至 62%（见图 1）。企业高管深知采用生成式 AI 已是势在必行，但这种意识与大规模创造价值的能力之间仍然天堑难越。图 1生成式 AI 的时代已经来临根据受访高管的预计，从 2022 年到 2024 年，生成式 AI 的采用率将增长近两倍20222023（预计）2024（预计）正在考虑和评估 正在试点、实施、运营和优化不考虑23%15%1%162%4%54%42%62%37%这种快速增长的趋势在一定程度上得益于对 AI 熟悉程度的变化：如今的企业高管对生成式 AI 的熟悉程度远高于 2016 年传统 AI 第一波发展浪潮时的情形。2 因此，企业高管对部署生成式 AI 的场景有了更加聚焦的看法。2016 年，企业高管还不够聚焦，他们在多达 13 个不同的业务职能中优先考虑采用 AI。但战略既关乎选择做什么，也关乎选择不做什么。如今，企业高管对于哪些领域能创造最大的价值有了更加清晰的见解。我们的调研数据显示，至少在初始阶段，受访企业高管主要关注三个关键优先事项（见图 2）。当然，组织仍在根据自身的战略能力和业务优先事项来调整其在这些广泛职能领域开展的工作。例如，IBM 首席分析办公室（IBM 转型和运营领域的关键力量）专注于在 IT 和应用现代化、客户服务和员工互动领域应用生成式 AI，所有这一切都依托于自动化技术。3企业高管迅速意识到了采用生成式 AI 已是势在必行，但这种意识与大规模创造价值的能力之间仍然天堑难越。高管确定的优先领域大多是那些拥有最成熟 AI 能力的领域，而并不一定是战略痛点。这意味着许多组织都无法实施能为整个企业带来战略价值的 AI 计划。安全64%信息安全与 IT 客户服务、营销和销售 研究、创新和产品开发 互动63%创新50%图 2更清晰的聚焦受访高管确定了生成式 AI 采用的三个优先事项2CEO 们意识到需要迅速采取行动，因此可能会专注于追求快速取得成效。64%的受访 CEO 表示正面临着来自投资者、债权人和贷款人的巨大压力，要求他们加速采用生成式 AI。超过一半的受访 CEO 表示，他们的员工要求加速采用生成式 AI。受到这些因素的推动，在未来两到三年内，对生成式 AI 的投资预计将增长四倍。尽管在目前，生成式 AI 项目的投资仍然仅占 AI 总支出的一小部分。哪些因素在阻碍组织更加广泛地采用生成式 AI？一言以蔽之，那就是信任。五分之四的受访高管认为至少一个与信任相关的问题会阻碍生成式 AI 的采用。其中，网络安全、隐私和准确性位列榜首。此外，受访高管还对可解释性、道德和偏见问题有更广泛的担忧。这些担忧基于当今全球的最新形势。生成式 AI 已迅速实现“消费化”。这种大规模采用意味着一些用户可以在没有正式指导的情况下使用生成式 AI。他们在没有护栏的情况下使用生成式 AI，其行为可能无法受到监管，并且可能会导致不可预测的后果。如果缺乏适当的监督，组织就无法正确识别、量化或管理采用新兴技术的相关风险。如果要安全、负责任地利用强大的生成式 AI，组织首先需要了解想要实现什么样的目标，以及实现这一愿景所需做出的改变。3基础模型可以帮助企业加速和扩大生成式 AI 的采用。什么是生成式 AI？什么是基础模型？为了提高 AI 投资的成本效益，企业需要灵活、可重用、且支持多种应用方式的模型，包括用于生成新内容。生成式 AI 是一种深度学习模型，可根据训练数据生成高质量的文本、图像和其他内容。4 从较高层面来说，生成模型对其训练数据的简化表示进行编码，并从中提取特征信息，以创建与原始数据相似但不相同的新作品。这项技术于 2010 年代初开始出现，当时的变分自动编码器(VAE)成为第一个广泛用于生成逼真图像和语音的深度学习模型。自动编码器的工作原理是将未标记的数据编码为压缩表示，然后将数据解码回其原始形式。普通自动编码器可应用于多种用途，包括重建损坏或模糊的图像。变分自动编码器不仅增强了重建数据的关键能力，而且还可以输出原始数据的变化形式。这种生成新数据的能力引发了一系列新技术的快速发展，从生成式对抗网络(GAN)到扩散模型，这些技术能够生成更加逼真的虚构图像。因此，变分自动编码器为当今的生成式 AI 奠定了基础。变分自动编码器基于编码器和解码器块构建而成，这种架构也是当今大语言模型(LLM)的基础。具体来说，编码器将数据集压缩为密集表示形式，在抽象空间中将相似的数据点排列得更紧密。解码器从这个抽象空间中进行采样以创建新内容，同时保留数据集的最重要特征。Transformer 将“编码器-解码器”架构与文本处理机制相结合。编码器将原始文本转换为“嵌入”表示。解码器将这些嵌入与模型之前的输出相结合，并连续预测句子中的每个单词。通过填空猜谜游戏，编码器可以了解单词与句子之间的关系，而无需任何人标记词性。Transformer 甚至可以在未指定特定任务的情况下进行预训练。学习这些强大的表示 之后，就可以使用更少的数据来增强模型 的专业化 水平，以便 执行 给定的 任 务。Transformer 因其全面多样的功能而被称为基础模型。基础模型在理论上可以应用于许多领域，因而提供了加速和扩大生成式 AI 采用的机会。5 例如，大规模参数的 LLM 可以改变整个组织中的信息生成和共享方式。（参数是在训练模型时使用的变量，有助于推断新内容。）只需对 LLM 进行适当调整，以适应语义搜索、分类、预测、摘要生成和翻译等任务即可。基础模型的采用还得到了一系列已成为主流的新兴 AI 工程最佳实践的支持。从模型开发到快速工程，这些通用实践和方法大幅简化了整个企业和生态系统的协作。尽管基础模型具有无比广阔的前景和潜力，但同时也带来了一些新的挑战。比如说，基础模型需要大量的计算、存储和网络资源，而这会消耗大量能源。训练一个大型自然语言处理模型的碳足迹与五辆汽车在其整个生命周期中的碳足迹大致相同。6与其他颠覆性技术一样，采用生成式 AI 和基础模型也需要做出适当的权衡。7 只有经过持续不断的实验和迭代才有可能取得成功。对于企业而言，平衡 AI 项目所需的投资与其可创造的价值是一项尤其重要的工作。那些能够找到这一平衡点的组织将定义 AI 的未来。4案例研究劳埃德银行集团利用 大语言模型改善客户 服务当需要财务相关信息时，用户并不希望等待太长时间。但劳埃德银行集团(LBG)的客户在使用其移动应用上的搜索功能时，却无法即时获取所需答案。系统会将他们转至其他沟通渠道，并且需要较长的等待时间才能获取帮助，从而导致服务成本增加以及更加糟糕的客户体验。8由于搜索功能依赖于关键字匹配，因此当客户在最常见的搜索中出现拼写错误时，就会出现问题。为了解决这些问题，IBM 使用生成式预训练 Transformer 嵌入来矢量化常见问题解答，识别适当的响应，并生成综合响应返回给用户。由数据科学家、用户体验和战略顾问组成的 IBM 团队正在着手开展以下工作：构建概念验证，证明大语言模型可以减少不成功搜索的数量、改进虚拟助手集成和个性化搜索响应，从而彻底改善移动应用搜索体验。概述工业化方法，定义将概念验证转化为供客户部署的解决方案的步骤。该团队正在考虑未来的风险和机遇，将“搜索”打造为所有客户自助服务的入口。自 2017 年以来，IBM 和 LBG 一直在定义全新的创新性方法，利用 AI 来增强客户互动。他们在整个企业范围内使用基础模型和生成式 AI 模型来了解不断变化的客户需求，并减少管理、训练和执行 AI 驱动的互动流程所需的手动工作。这让该银行能够轻松获取一些重要数据，否则相关的分析工作将需要花费超过 200 万英镑的成本和数千小时的人力。9 5扩展生成式 AI关于生成式 AI 将如何真正实现业务成效仍然存在诸多猜测。但大多数受访高管都认同生成式 AI 能实现所期望的成效。受访高管认为采用生成式 AI 能创造一些绝佳的机会，包括提高内容质量、增强竞争优势以及扩展员工专业知识。总体而言，受访高管更加关注通过增强体验来扩展能力和推动增长，而不是通过降低成本来实现这一目标（见图 3）。成功三要素图 3超越降低成本受访高管希望利用生成式 AI 推动 增长和增强能力提高内容质量扩展员工的专业知识拓展组织能力改进决策增强竞争优势提高销售额/收入增强客户体验加快客户获取提高客户保留率降低运营成本缩减/重新部署员工团队降低资本成本56%51%49%40%51%48%47%45%38%36%31%15%增强能力业务增长降低成本尽管 74%的 CEO 认为其团队具备成功采用生成式 AI 所需的技能，但只有 29%的其他高管同意这一观点。6然而，并不是所有人都认为其企业已经为生成式 AI 做好了准备。尽管 74%的 CEO 认为其团队具备成功采用生成式 AI 所需的技能，但只有 29%的其他高管同意这一观点。CEO 们发现了了潜力，并且知道其组织具备实现全新 AI 水平所需的经验和技能。但 CEO 们可能并未意识到其他运营模式方面的因素，即实现目标所需的条件。另一种观点是，一些传统高管可能不具备在数字世界中竞争所需的技能，因此很快就会听从首席数据官(CDO)或首席信息官(CIO)的建议。企业可能需要精通技术的新一代领导者，他们能够推动变革，而不仅仅是提高运营效率。为了弥补准备不足的短板并加快生成式 AI 的采用，企业领导者需要关注以下三个领域：组织和技能|数据与平台|风险与治理制定战略也至关重要，包括与业务方向保持一致，确定优先的功能领域和使用场景，以及继续建立更广泛的能力。10 但是，本报告主要关注执行。尤其是在当前变幻莫测的全球经济形势中，快速而深思熟虑地采取行动或许有助于确定生成式 AI 在短期内可以发挥的作用。7企业需要精通技术的领导者，他们能够推动变革，而不仅仅是提高运营效率。多达 80%的受访高管认为，由于生成式 AI 的兴起，劳动力角色和技能正在发生变化。（我们很惊讶这个数字并没有更高，但或许很快就会更高。）展望未来，受访高管表示将优先建立和发展既能帮助员工使用生成式 AI，又能完成只有人类才能胜任的工作的技能。随着生成式 AI 的日益普及，57%的受访高管预计创造力技能将变得更加重要。超过一半的受访高管认为技术技能、时间管理和优先级规划能力的重要性也会随着生成式 AI 的普及而大幅增加。总体而言，生成式 AI 预计将更加广泛地增强员工的能力，而不是取代他们。但是，并非所有职能都会受到同等程度的影响。四分之一的受访高管预计会用生成式 AI 取代营销和客户服务部门的员工，但只有 3%受访高管预计会用生成式 AI 取代采购部门的员工（见图 4）。一线员工可能会受到最大的影响，但也可能受益最多。11 为了帮助新一代员工了解他们在不断变化的工作场所中的角色和责任，企业高管应主动确定部署生成式 AI 所需完成的转型。企业还应对具有相应资格的员工进行再培训和/或技能提升培训，并启动激励计划以推动职业发展。图 4打造增强型员工团队更多高管希望增强而不是取代员工营销客户服务人力资源制造销售平均信息技术产品开发研究与创新信息安全财务风险和合规性采购供应链、物流 和履行27%|23%|19%|17%|14%|13%|11%|11%|10%|8%|8%|7%|7%|3%|73%77%81%83%86%87%89%89%90%92%92%93%93%97%组织和技能 取代增强8数据与平台生成式 AI 模型需要大量数据，而负责任地提供数据则需要整个组织的协作。不过，60%的组织尚未建立一致的企业级生成式 AI 方法。在混合云旅程中走得更远的组织更有可能发挥出生成式 AI 的优势，因为云转型需要更全面的数据方法。12 但是，主要利用云来降低各孤立领域成本的组织可能需要重新审视其方法，通过打通孤岛实现互联互通。我们的研究表明，大约五分之三的受访高管表示混合云和生成式 AI 在创造价值方面是相互关联的。另外 40%的受访高管仍在竭力让其多个不同平台保持协同一致。统一数据可能是一项艰巨的任务，但如果缺乏明确的目标，那么可能会得不偿失。不过，基于可靠数据构建的混合云和生成式 AI 平台可以开启通往更有价值的全新生态合作的大门。近三分之二的受访高管表示，生成式 AI 可以改善并加速与生态系统合作伙伴的数据共享。9案例研究Bouygues Tlcom 依靠生成式 AI 推动客户关系流程转型Bouygues Tlcom 已成功将生成式 AI 集成到其客户关系流程中，专用于为电信联络中心生成对话摘要。此用例旨在改善客户关系并提供个性化服务，帮助该公司直接克服了在为 10 分钟对话生成摘要方面所面临的持续挑战。Bouygues Tlcom 利用强大的大语言模型(LLM)，对其进行定制以满足电信运营商的特定要求和性能需求，开发了多种创新性解决方案，从而大幅改善客户交互，并充分释放录制对话中的内在价值。在此之前，Bouygues Tlcom 的侧重点是改进语音转文本对话的转录工作。13 在对各种 LLM 进行评估之后，该公司成功生成了客户对话的简明摘要，并仅通过极少量数据准备就提取出了关键点。尽管转录中存在复杂性，例如来自顾问和客户的混合语音，但试运行产生了令人鼓舞的初步成效。这得益于 LLM 神经网络中的大量参数，以及大量可供分析的数据。为了优化模型以满足其特定需求，Bouygues Tlcom 启动了一个优化阶段，并将上下文规范和提供示例等因素纳入考虑范围。展望未来，Bouygues Tlcom 计划使用公司相关数据来重新训练模型，以便在更大规模上实施这些解决方案。这与 Bouygues Tlcom 通过数据和 AI 增强联络中心的战略愿景完美契合。生成式 AI 可以在保持连贯性和上下文理解的情况下生成准确、简洁的摘要。此外，生成式 AI 还有效满足了 Bouygues Tlcom 设定的各种关键要求，包括定制能力、与现有系统和工作流程无缝集成以及可扩展性，以支持处理大量对话。借助生成式 AI，Bouygues Tlcom 可以充分利用从录制对话中获取的宝贵洞察，从而全面增强其体客户关系管理流程。10时间序列分析可帮助组织预测市场趋势、客户行为和资源需求。时间序列数据的 基础模型时间序列分析即利用统计方法揭示序列数据中的模式、趋势和相关性，以便根据先前观察到的数据点来预测未来值。这不仅关乎了解过去，更在于塑造未来，而且对于组织在变幻莫测的商业环境中保持竞争力至关重要。这一强大的工具可支持主动决策和战略规划，帮助组织预见市场趋势、客户行为、资源需求等因素的变化。基础模型是一种 AI 驱动的框架，并且经过广泛、多样化的数据训练（参见第 4 页的“什么是生成式 AI？什么是基础模型？”）。基础模型的独特优势在于其灵活性。相同的基础模型可以针对各种任务进行调优和定制，从而化身为应对各种不同挑战的通用解决方案。时间序列基础模型融合了时间序列分析的强大功能与基础模型的灵活性，旨在分析时态数据，并从中提取隐藏模式、潜在趋势和时态依赖性。时间序列基础模型就像是一把“AI 瑞士军刀”，可处理各种不同业务职能领域中的各种不同的决策任务。此类模型会针对全面、多样化的时间序列数据集进行预训练。例如，IBM 的模型使用的开源数据可追溯到 1992 年，涉及零售、制造、金融服务、政府支出和环境数据等领域。时间序列数据包括股票价格、汇率、电力需求、温度趋势等。这种丰富多样的数据集使我们的模型能够适用于多种场景。借助时间序列基础模型，企业可以实现精准预测、高效资源配置和明智的战略规划。此类模型还可以进行调优以预测未来的股票价格、电力需求或产品需求。此外，企业还可以将数据转换为针对特定用例的相关预训练模型，从而利用数据创收。通过类似于 GPT 式查询和生成语言解释的输出，此类模型可以为各种业务领域赋能，包括营销、销售、供应链、IT、产品开发、客户服务、财务报告和人力资源。11在运营和产品开发中使用生成式 AI 会给企业领导者带来新的风险和威胁（见图 5）。其中包括与传统数据科学相同的一些问题，如预测准确性差、缺乏公平性和公正性、解释能力不足、模型不确定性、中毒攻击、逃避攻击、推理攻击以及模型缺乏透明度等。此外，基础模型还带来了一些全新的风险，例如幻觉、缺乏事实性、缺乏数据沿袭和来源、毒性、无法推理、隐私泄露和提示注入攻击。受访高管最关心的问题包括：增加法律责任的运营风险、引入新漏洞的网络安全风险，以及未识别数据源时形成的可解释性风险。生成式 AI 的风险包含输入和输出两个方面。在训练和调优模型时，团队必须严格遵守各种数据隐私和知识产权(IP)准则。他们还需要确保所使用数据集的稳健性、公平性和透明度。随着知识产权领域的不断发展，2023 年或许将迎来生成式 AI 大规模应用的“Netscape 时刻”。而随着公共数据和内容所有权的公平使用的相关政策、规则和诉讼不断增加，生成式 AI 也有可能迎来“Napster 时刻”（指行业的知识产权在互联网上公开、低成本地传播）。事实上，这些风险可能会促使企业更加关注专有数据和 AI 模型。图 5不断变化的风险格局生成式 AI 为企业带来了新的、放大的风险模型准备（训练和调优阶段）模型运营化（推理阶段）模型输出稳健性数据法规隐私保护 稳健性 风险与治理12传统 放大 新增公平性知识产权透明度隐私保护价值观一致性 隐私保护知识产权稳健性公平性 滥用可解释性 公平性知识产权价值观一致性滥用有害内容生成隐私保护可追溯性信息来源：“AI Ethics and Foundation Models:Opportunities,Risks,and Mitigation”中的风险选项部分，IBM 企业 AI 伦理委员会，2023 年公平性也是机器学习技术和生成式 AI 输出的核心。团队必须检查生成式 AI 的回复是否存在偏见以及是否包含有害内容，并确保源信息的可追溯性和可解释性。组织必须能够根据需要证明不存在数据滥用的情况。例如，Adobe 最近推出了 Firefly，这是一种基于素材和公共领域图像进行训练的生成式 AI 工具，可允许设计人员使用简单的文本提示来尝试不同的颜色方案。14 为了消除使用 Firefly 可能使公司面临版权索赔的担忧，Adobe 主动承担部分风险，为其企业客户提供知识产权保障，以证明 Firefly 在商业使用中的安全性。15然而，为了解决世界经济论坛所强调的“意识与行动差距”问题，16 组织需要力争做到言出必行，言行一致。例如，AI 团队的多样性仍然远远低于整个组织员工团队的多样性。根据 IBM 商业价值研究院最近开展的一项调研，AI 团队中的女性员工比例要比整个组织中的女性员工比例低 5.4 倍；LGBTQ+员工比例要低 4 倍；黑人、土著人和有色人种(BIPOC)的比例则要低 1.7 倍。17 案例研究三井化学探索全新生成式 AI 应用三井化学株式会社(Mitsui)与日本 IBM 株式会社(IBM Japan,Ltd.)开展合作，结合运用生成式预训练 Transformer(GPT)来探索新应用。这项举措旨在推进业务领域的数字化转型，从而提高三井化学产品的销量和市场份额。18自 2022 年 6 月以来，三井化学一直致力于在整个集团实施用于探索新应用的基础模型。目前已有超过 20 个业务部门在运用该基础模型，并且已经成功发现了 100 多个新应用。不过，发现新的应用仍然需要很长的时间。为了解决此问题，IBM 计划根据三井化学的要求实现第三方大语言模型，旨在生成各种新应用，比如生成大规模文本数据存储库（包括从专利到商业新闻的所有数据），以及通过更高的敏捷性和准确性大幅加快新应用发现速度。通过将生成式 AI 与基础模型相结合，三井化学希望整合不同部门（例如业务部门和研发部门）之间的数据，并利用销售团队自动化、营销自动化、材料信息学和机器人技术来加速产品开发流程。13行动指南转变观念：从“增加 AI”转变为“以 AI 为出发点”。这有助于更深入地理解生成式 AI，增强响应市场形势变化的敏捷性，并确保投资和资金分配与整个组织各个层面的支持相一致。设定可衡量的目标：定义生成式 AI 采用的财务和非财务目标，并确定具体、可量化的措施，并涵盖希望员工积极接受的变革。建立伦理道德准则：为 AI 的伦理道德使用设定界限。生成式 AI 模型很强大，但必须负责任地使用它们。这包括尊重隐私、透明度、公平性和问责制。建立 AI 集成框架，以便在整个运营中无缝部署 AI。建立符合监管标准和最佳实践的稳健型数据与 AI 治理实践。在不同业务部门、技术团队、数据科学家和决策者之间营造一种协作式环境。发展 AI 技能学院，不仅优先发展技术技能，还应优先增强协作、沟通和同理心。课程应涵盖基础模型的合理使用和不当使用，从而促进负责任的 AI 使用。如需详细了解如何围绕全方位业务能力（包括组织和技能）采取更广泛、更深入的 AI 相关行动，请参阅 IBM 商业价值研究院的报告“利用 AI 实现投资回报：推动卓越成效的六大能力。”20根据我们的研究以及与客户合作的经验，我们确定了企业高管可以在每个重点领域采取的关键行动，以加速生成式 AI 在整个企业中的扩展，但前提是已经与业务战略实现紧密协同。有关如何制定 AI 策略的更多信息，请参阅 IBM 商业价值研究院的报告“重新思考 AI 方法：如何在业务战略中实施人工智能”。19 组织和技能 积极营造试验文化：认识到生成式 AI 对所有人都是新事物。鼓励团队使用生成式 AI 进行测试、迭代和改进，并跟踪成功指标。为中层管理人员赋能：组织需要在高管与一线员工之间形成持续反馈循环，而中层管理人员在这方面发挥着至关重要的作用。让中层管理人员优先开展生成式 AI 用例并传达采用成功和失败的情况，将他们培养成为高层与一线员工之间的桥梁。明确角色调整：在部署生成式 AI 的领域，透明地确定和传达现有员工角色和责任的变化。重塑运营模式：为了加快 AI 的采用，请重塑和重建运营模式，以促进跨职能理解，简化 AI 部署流程，并确保在整个组织中实现生成式 AI 和基础模型的优势。14 了解数据与平台需求：首先全面评估基础模型在已确定用例中对特定数据和混合平台的需求。这就需要了解您拥有的数据类型，以及处理和分析此类数据的计算要求。设定平台选择标准：为支持您使用生成式 AI 和相关基础模型的平台设定选择标准。这些标准可能包括：用例特异性 成本（模型开发和运营费用）相关数据的可用性和可访问性 预测精度与计算效率之间的平衡 安全措施和协议 所需的定制化程度 系统整体性能 跨不同环境的可移植性 法律和监管标准合规性确定合适的生态系统合作伙伴：建立标准后，请确定能够有效且高效满足您的混合平台需求的潜在生态系统合作伙伴。这些合作伙伴应在大规模支持 AI 方面拥有丰富的成功经验。利用新一代数据功能：利用前沿数据市场和自动化功能。这包括支持对 AI 结果进行无缝数据摄取、清理和准备的平台。无中断扩展：当您将基础模型集成到运营中时，请确保可以扩展这些模型，而不会影响业务成效或导致运营中断。这就需要强大的模型管理、性能监控和持续改进机制。满足稳健数据治理需求：由于基础模型需要访问大量、多样化且可能敏感的数据集，因此请建立稳健的数据治理实践。这包括符合监管标准和最佳实践的数据收集、存储、访问、处理和安全协议。如需详细了解如何围绕全方位业务能力（包括组织和技能）采取更广泛、更深入的 AI 相关行动，请参阅 IBM 商业价值研究院的报告“利用 AI 实现投资回报：推动卓越成效的六大能力。”21数据与平台15协同识别风险：识别与基础模型相关的特定输入/输出和使用风险。这包括模型可靠性、数据隐私和安全性，以及伦理道德和监管合规问题。部署缓解政策：制定并实施适当的政策来减轻这些已识别的风险。这些政策应当足够灵活，及时适应法规或行业标准的变化。AI 治理归档：创建全面的文档（可能采用情况说明书的形式），详细说明在组织中使用 AI 的所有实例以及当前的治理结构。这有助于建立透明度和问责制。AI 资产溯源：实施适当的机制，将所有 AI 生成的输出来源追溯回基础模型、数据集、提示和其他输入。这些信息应记录在数字资产管理和其他系统中，以确保可追溯性和问责制。监控和控制风险：采用与 AI 系统生命周期所需的风险和合规水平相符的全方位监控系统。该系统应持续跟踪和评估模型性能、数据使用和合规性。向零信任网络安全转型：加速在整个企业和合作伙伴网络中采用零信任网络安全框架。这种方法假设潜在威胁可能来自任何来源，从而确保对系统的所有访问均得到验证和监控。实施基于 AI 的安全智能：利用基于 AI 的安全工具来增强组织检测、预防和响应潜在安全威胁的能力。确保在每个层级（一直到董事会）制定明确的事件升级政策。如需详细了解如何围绕风险和治理采取更广泛、更深入的 AI 相关行动，请参阅“AI 伦理道德方略：助力企业建立值得信赖的人工智能文化”。22风险与治理16备注和参考资料1 Ashoori,Maryam,Brian Goehring,Timothy Humphrey,Mahmoud Naghshineh,and Cathy Rodenbeck Reese.“Generating ROI with AI:Six capabilities that drive world-class results.”IBM Institute for Business Value.May 2023.https:/ibm.co/ai-capabilities2 Abercrombie,Cortney,RafiEzry,BrianGoehring,and Anthony Marshall.“Fast start in cognitive innovation:Top performers share how they are moving quickly.”IBM Institute for Business Value.January 2017.https:/ Isford,Anthony Marshall,and Hiroyuki Nakayama.“Accelerating enterprise reinvention with cognitive capabilities:How to build a cognitive enterprise.”IBM Institute for Business Value.January 2017.https:/ Ashoori,Maryam,Brian Goehring,Timothy Humphrey,Mahmoud Naghshineh,and Cathy Rodenbeck Reese.“Generating ROI with AI:Six capabilities that drive world-class results.”IBM Institute for Business Value.May 2023.https:/ibm.co/ai-capabilities4“What is generative AI?”IBM Research.April 20,2023.https:/ are foundation models?”IBM Research.May 9,2022.https:/ 6 Ibid.7 Goyal,Manish,Shobhit Varshney,and Eniko Rozsa.“WhatisgenerativeAI,whatarefoundation models,and why do they matter?”IBM.March 8,2023.https:/ Based on interviews with internal IBM account teams.9“IBM Consulting with Lloyds Banking Group.”MCA.May 11,2023.https:/www.mca.org.uk/consulting-case-studies/ibm-consulting-with-lloyds-banking-group10 Ashoori,Maryam,Brian Goehring,Timothy Humphrey,Mahmoud Naghshineh,and Cathy Rodenbeck Reese.“Generating ROI with AI:Six capabilities that drive world-class results.”IBM Institute for Business Value.May 2023.https:/ibm.co/ai-capabilities;Prabhakar,Aparna,Veena Mosur,and David Cox.“Re-thinking your approach to AI:How to ground artificialintelligenceinbusinessstrategy.”IBMInstitute for Business Value.September 2021.https:/ibm.co/ai-business-strategy11 Eastwood,Brian.“Workers with less experi-ence gain the most from generative AI.”MIT Sloan School of Management.June 26,2023.https:/mitsloan.mit.edu/ideas-made-to-mat-ter/workers-less-experience-gain-most-gener-ative-ai12 Granger,John,Shai Joshi,Thais Lima de Marca,Varun Bijlani,and Shue-Jane Thomp-son.“Mastering hybrid cloud.”IBM Institute for Business Value.June 2022.https:/ibm.co/mastering-hybrid-cloud13 Flchaux,Reynald.“Bouygues Tlcom relies on generative AI to transform its customer relationship.”CIO.April 12,2023.https:/www.cio- Firefly Now Powers First Ground-breaking Generative AI Capabilities in Adobe Illustrator.”Adobe.June 13,2023.https:/ Morrison,Ryan.“Adobe offers IP indemnity from generative AI copyright claims.”Tech-monitor.June 9,2023.https:/techmonitor.ai/technology/ai-and-automation/adobe-fire-fly-generative-ai16“How businesses can create an ethical culture in the age of tech.”World Economic Forum.January 7,2020.https:/www.weforum.org/agenda/2020/01/how-businesses-can-create-an-ethical-culture-in-the-age-of-tech 17 Goehring,Brian,Francesca Rossi,and Beth Rudden.“AI ethics in action:An enterprise guide to progressing trustworthy AI.”IBM Institute for Business Value.May 2022.https:/ibm.co/ai-eth-ics-action1718“Combined Generative AI with IBM Watson,Mitsui Chemicals Starts Verifying Higher Agility and Accuracy for New Application Discovery.”IBM Newsroom.April 12,2023.https:/jp.news- Prabhakar,Aparna,Veena Mosur,and David Cox.“Rethinking your approach to AI:How to ground artificialintelligenceinbusinessstrategy.”IBMInstitute for Business Value.September 2021.https:/ibm.co/ai-business-strategy20 Ashoori,Maryam,Brian Goehring,Timothy Humphrey,Mahmoud Naghshineh,and Cathy Rodenbeck Reese.“Generating ROI with AI:Six capabilities that drive world-class results.”IBM Institute for Business Value.May 2023.https:/ibm.co/ai-capabilities21 Ibid.22 Goehring,Brian,Francesca Rossi,and Beth Rudden.“AI ethics in action:An enterprise guide to progressing trustworthy AI.”IBM Institute for Business Value.May 2022.https:/ibm.co/ai-eth-ics-action Copyright IBM Corporation 2023国际商业机器（中国）有限公司北京市朝阳区金和东路 20 号院 3 号楼正大中心南塔 12 层邮编：100020美国出品|2023 年 7 月IBM、IBM 徽标、 和 Watson 是 International Business Machines Corporation 在世界各地司法辖区的注册商标。其他产品和服务名称可能是 IBM 或其他公司的商标。以下 Web 站点上的“Copyright and trademark information”部分