安全行业大模型技术应用态势发展报告.pdf
《安全行业大模型技术应用态势发展报告.pdf》由会员分享,可在线阅读,更多相关《安全行业大模型技术应用态势发展报告.pdf(47页珍藏版)》请在咨信网上搜索。
1、报告愿景及目标读者报告愿景及目标读者从国家宏观层面来看,数字经济已经成为我国经济发展的重要战略支柱。随着人工智能技术的迅速发展,大模型在各行各业的应用日益广泛,安全行业也积极使用大模型技术来推动行业的数字化转型和智能化升级,提升整体安全防护能力。在此背景下,深入剖析和梳理大模型在安全领域的应用态势,对于推动安全行业创新、提升安全行业整体防护水平以及促进数字经济健康发展具有重要意义。本报告从大模型技术与应用概述、安全行业大模型技术应用现状、安全行业大模型技术落地关键点、安全行业大模型技术应用发展趋势与展望几个方面进行洞察和分析,为安全行业从业者、技术开发者以及企业决策者提供参照,促进大模型技术在
2、安全行业的深度应用,推动行业创新,提升整体安全防护能力,为数字经济的健康发展保驾护航。主要撰稿人主要撰稿人马铭洋、卫斌、李忠权、郭雪、左鹏、高志民、黄超、朱季峰、王肖斌、刘斌、刘刚、王永霞、冯大刚、杨剑、王龑、卞超轶、李栋、马琳、刘春鸣、姚鸿富、李雨含、梁伟、唐佳伟、应缜哲、张运鹏、包沉浮、高磊、李智杰、章玉龙、梁栋、陈正刚。(排名不分先后)目目录录一、大模型技术与应用概述.1(一)大模型技术发展不断演进,引领人工智能迅速发展.1(二)政策促进大模型应用落地,助力行业提升服务能力.3二、大模型技术安全行业应用现状.5(一)大模型赋能威胁检测,全面提升场景效能.5(二)大模型改写传统运营方式,推
3、动全局智能化.10(三)大模型推动行业信息互通,强化安全知识互联.16三、安全行业大模型技术应用落地关键点.19(一)发挥大模型技术优势,深入应用创新.19(二)防范大模型应用风险,加强规范建设.22四、安全行业大模型技术应用发展趋势与展望.26(一)技术日益成熟,持续赋能安全行业.26(二)产业逐渐完善,推动生态优化升级.27(三)标准体系愈发清晰,行业应用更趋规范.28附录 大模型技术在安全行业的创新应用案例.30图图 目目 录录图 12020-2024 全球人工智能市场规模.1图 2大模型发展历程.2图 3大模型行业应用.4图 4传统威胁检测方式弊端.5图 5大模型关联分析示意图.8图
4、6典型安全知识图谱构建过程.9图 7传统安全运营风险.12图 8日志低维语义空间分析示意图.13图 9大模型安全编排自动化响应示意图.15图 10大模型技术应用安全行业优势.19图 11大模型应用需深入一线需求.21图 12安全运营智能体平台技术架构.32图 13安全运营平台技术架构.34图 14“小微”基本架构图.37图 15智能安全运营技术架构图.40安全行业大模型技术应用态势发展报告(2024)1一、大模型技术与应用概述(一)(一)大模型技术发展不断演进大模型技术发展不断演进,引领人工智能迅速引领人工智能迅速发展发展数字化时代快速发展,人工智能成为影响经济发展的关键力量。人工智能技术作为
5、科技创新的核心驱动力,成为加快培育发展新质生产力的重要引擎,引领新一轮的科技革命和产业变革。根据公开数据,截至 2023 年 7 月份,我国人工智能核心产业规模已达 5000亿元,企业数量超过 4300 家。根据2024 年我国人工智能产业发展形势展望报告显示,预计 2024 年全球人工智能市场规模将达6158 亿美元,我国将突破 7993 亿元。数据来源:2024 年我国人工智能产业发展形势展望图 1 2020-2024 全球人工智能市场规模大模型作为当今人工智能领域的核心技术之一,技术架构不断安全行业大模型技术应用态势发展报告(2024)2演进。大模型的核心特征在于其庞大的参数规模和高度复
6、杂的网络结构,通过深度学习原理,对大量的数据和计算资源进行训练,学习数据中的深层次特征与规律,实现较高的性能和泛化能力。一是在 2017 年之前,深度学习已经在图像识别、语音识别等领域取得了成果。二是在 2017 年,Google 研究人员提出了 Transformer 架构,奠定了当前主流大模型预训练算法架构的基础。三是在 2018 年,OpenAI 发布了大模型产品,展示了自回归语言模型潜力,能够生成连贯的文本,极大地提高了性能,预训练大模型时代逐渐来临。四是在 2022 年,OpenAI 发布的 ChatGPT 具备极强的对话交互能力,展现了大模型在自然语言理解和生成方面的巨大潜力,促进
7、了 AI应用的普及和公众认知。同时国内大模型迎来爆发期,多家企业和研究机构推出大规模预训练模型。五是在近年来,国内外更多大模型产品纷纷发布,更新迭代,大模型开始迈向多模态领域,不仅处理文本,还能理解图像、视频等,进一步拓宽了 AI 的应用场景。图 2 大模型发展历程安全行业大模型技术应用态势发展报告(2024)3(二)(二)政策促进大模型应用落地政策促进大模型应用落地,助力行业提升服务助力行业提升服务能力能力我国对人工智能领域的重视程度不断提升,促进人工智能大模型技术快速发展。从顶层设计到具体实施全面布局,将人工智能转化为实际生产力,助力国家数字化战略的推进。一是国务院于 2017年发布我国在
8、人工智能领域进行的第一个系统部署的文件新一代人工智能发展规划。重点对我国新人工智能发展的总体思路、战略目标和主要任务、保障措施进行系统的规划和部署。二是科技部等六部门于 2022 年印发 关于加快场景创新以人工智能高水平应用促进经济高质量发展的指导意见。旨在贯彻落实党中央、国务院关于推动人工智能发展的决策部署,统筹推进人工智能场景创新,着力解决人工智能重大应用和产业化问题,全面提升人工智能发展质量和水平。三是 2024 年政府工作报告中提出开展“人工智能+”行动。政府工作报告第一次提出“人工智能+”,为人工智能新技术新应用创造更好的发展机遇,加速推动了数字技术和实体经济深度融合,促进了社会生产
9、力实现新的跃升。大模型助力千行百业提升服务效率。虽然通用大模型在人工智能领域扮演着重要角色,但它们在企业级场景中的应用常常存在缺乏行业深度、与业务结合不足等局限性。相比之下,行业大模型通过针对性地训练特定行业数据,深刻理解该领域的内在逻辑与细微安全行业大模型技术应用态势发展报告(2024)4差别,能够提供更为精确、贴合实际业务场景的解决方案,展现出与行业深度融合的巨大潜力。如今,大模型已经渗透到各行各业,如金融、教育、医疗、网络安全、政务、互联网等领域,被用于智能客服、智能写作、自动摘要、文本生成、知识问答、个性化推荐等多个应用场景,改变传统生产方式,有效提升行业服务效率和服务质量,创造更高经
10、济价值。图 3 大模型行业应用安全大模型赋能网络安全的创新变革。网络安全作为互联网发展的基石,是保障现代社会基础设施政策运作的基础。安全大模型通过整合网络安全领域的知识、技术和数据,形成统一、具有高度智能化和自适应能力的安全管理与防护系统。安全大模型凭借其庞大的参数量与深度学习能力,在深度理解行业特性和业务流程的基础上,实现对复杂攻击模式的精准判断和预警,促进安全资源的精准配置与合规性管理的自动化,为网络安全防护体系带来创新变革的智能化水平提升,构建更加智能、高效、全面的安全防护生态系统,以适应数字化时代复杂多变的安全挑战。安全行业大模型技术应用态势发展报告(2024)5二、大模型技术安全行业
11、应用现状大模型技术的迅速发展给安全行业的核心业务场景带来深远的影响。基于对大规模数据的深度学习和复杂模式识别能力,大模型在多个关键领域展现出显著的潜力。随着技术的持续演进,大模型正逐渐成为驱动安全行业创新和转型的关键力量,推动着安全防御从被动响应向主动预防的范式转变。(一)(一)大模型赋能威胁检测大模型赋能威胁检测,全面提升场景效能全面提升场景效能1.传统检测方法在面对新型威胁时效率不足在当前复杂多变的威胁环境下,如图 4 所示,传统检测方法的效率和精度已无法满足不断更迭的安全需求,难以应对新型威胁。图 4 传统威胁检测方式弊端一是传统方法高度依赖人力投入,传统的威胁检测方法主要依靠安全专家手
12、工定义规则,通过特征匹配的方式来识别已知威胁。这种方法对安全专家的经验和技能要求较高,且规则制定的周期较安全行业大模型技术应用态势发展报告(2024)6长。一旦出现新型威胁,现有规则难以及时更新,导致检测存在盲区。攻击者可利用这一缺陷,通过变换攻击策略,规避检测。二是传统方法难以应对未知威胁,当前网络环境日益复杂、新型攻击手段层出不穷,零日漏洞、APT 等新型威胁不断涌现,而传统方法只能检测已知威胁,对未知威胁难以奏效。攻击者不断变换策略,采用多种隐蔽技术,使攻击行为更加难以捕捉和识别。传统威胁检测因其规则更新滞后,导致检测效率低下,无法及时发现潜在威胁。三是传统威胁检测数据处理量级受限,难以
13、处理海量安全数据。随着网络规模的不断扩大,安全设备、终端用户数量激增,每天产生的安全日志、网络流量等数据呈爆炸式增长,达到了 PB 级别。传统方法采用关系型数据库进行存储和查询,其性能难以满足大数据处理的需求。此外,安全数据来源多样,格式各异,传统方法难以实现多源异构数据的融合分析,无法全面挖掘数据价值。四是传统方法缺乏多维度关联分析能力,很难精准识别威胁的行为特征。攻击者往往采用多种手段,利用不同层面的漏洞,形成攻击链。但传统方法主要关注单一维度,如 IP、域名等,忽视了威胁在网络环境、时间序列上的关联性。缺乏立体化的分析视角,难以准确把握威胁全貌。传统方法分析也多采用规则和阈值的方式,泛化
14、能力不足,难以应对威胁的多样性和变化性。综上所述,面对日益严峻的网络安全形势,传统威胁检测方法暴露出效率低、精度安全行业大模型技术应用态势发展报告(2024)7差、分析能力弱等诸多不足,亟需创新的智能化手段来弥补短板,增强威胁检测的针对性和有效性。2.大模型提升传统威胁检测准确性和全面性一方面,大模型能够快速处理量级较大的安全数据,利用并行计算架构实现数据的高效存储和查询,为威胁检测提供了坚实的数据基础。传统方法受制于数据处理能力,往往只能对采样数据进行分析,而大模型可以处理大量安全数据,最大限度地挖掘数据价值。通过对流量、日志、文件等数据的深入分析,大模型能够发现更多隐藏在数据中的威胁蛛丝马
15、迹。IBM 的一项研究表明,使用人工智能和机器学习的组织在检测和响应网络安全事件方面的效率提高了3 倍1。另一方面,大模型可以从多个维度挖掘威胁的关联特征,采用深度学习、图神经网络等先进算法,从网络流量、日志、文件、行为中自动生成检测模型,显著提升检测有效性。如图 5 所示,从全局视角关联分析多源异构信息,可有效加强关键节点和类团外节点的挖掘,通过关联分析减少威胁情报的漏报和误报,显著提升检测准确率,且检测的威胁类型更加全面。麦肯锡的一份报告表明,采用人工智能和机器学习技术的网络安全解决方案可以将威胁检测的准确率提高 3 倍,同时将误报率降低 5 倍2。相比传统的特征工程,1IBMThe Wh
16、at Why and How ofAI and Threat Detection(2024)2The Four Types of Threat Detection(2018)安全行业大模型技术应用态势发展报告(2024)8大模型能够自动学习提取威胁的本质特征,捕捉威胁在不同环节、不同时间的活动规律。通过端到端的特征表示学习,可最小化人工设计的局限性,全面刻画威胁行为的异常模式。数据来源:基于关联数据的类簇语义揭示模型研究图 5 大模型关联分析示意图3.大模型为威胁检测提供新技术和新范式首先,传统的威胁预测主要依赖专家经验和统计模型,难以全面把握威胁的复杂演变规律。大模型则可以从海量的历史攻击事
17、件数据中自动学习提取威胁的关键特征和演变模式,建立起威胁知识图谱3,从数据来源、本体设计、图谱构建等环节,为威胁检测提供技术支撑,如图 6 所示。3绿盟科技2022 年中国威胁情报市场报告安全行业大模型技术应用态势发展报告(2024)9数据来源:公开数据整理图 6 典型安全知识图谱构建过程其次,基于图神经网络等技术,大模型能够深入理解攻击事件之间的内在联系和时序规律,从而对未来一段时间内可能出现的攻击类型、攻击目标、攻击手法等进行预判。例如,一些研究机构利用门控循环单元(GRU)等深度学习模型,对 APT 攻击的生命周期进行建模,通过对攻击事件的时间序列分析,预测 APT 组织未来的攻击活动,
18、准确率可达 80%以上4。最后,大模型生成的威胁预测情报可以帮助安全团队更加主动、精准地制定防御策略,提前采取针对性的防护措施,最小化安全风险。一方面,模型预警的高危攻击事件可以作为输入,触发应急响应流程,调整安全策略配置,对潜在目标进行加固。另一方面,研判攻击者的意图、偏好、未来行动,有助于围绕攻击者展开态势感知,进行威慑、诱捕、溯源等主动防御行动。4IEEELong Short Term Memory Recurrent Neural Network Classifier for Intrusion Detection(2023)安全行业大模型技术应用态势发展报告(2024)104.大模型
19、强化威胁检测自适应性一方面,大模型可通过无监督和自监督学习等技术,挖掘安全数据内在的统计规律和行为模式,构建正常基线。大模型通过学习历史未知威胁的演化规律,利用 Few-shot Learning 等算法,有望在少量样本的情况下及时识别出新型威胁,提高未知威胁的检出率。另一方面,依托预训练模型强大的语义理解和泛化能力,可利用少量样本快速进行自适应学习,生成面向新型威胁的检测模型。基于深度迁移学习的恶意软件检测系统研究与实现(2023)5中提到,预训练语言模型强大的语义理解和表示能力可以迁移到恶意软件检测领域,并且在面对新的恶意软件时,只需少量特定领域数据进行微调,就可以适应不断变化的恶意软件。
20、通过迁移学习技术,还能实现跨场景、跨领域的威胁知识复用,有效应对“未知未见”的安全威胁。(二)(二)大模型改写传统运营方式大模型改写传统运营方式,推动全局智能化推动全局智能化1.传统安全运营缺乏全局性、效率低下一是安全运营数据割裂,缺乏统一管理和关联分析能力。企业内部不同安全设备和系统各自为政,数据散落在网络、主机、应用等不同层面,难以形成全局视图。手工梳理、关联海量异构数据,5江苏大学基于深度迁移学习的恶意软件检测系统研究与实现(2023)安全行业大模型技术应用态势发展报告(2024)11效率低下且容易遗漏关键线索6。二是规则知识库更新滞后,对未知威胁检测识别能力不足。传统安全产品主要依靠特
21、征库、规则库等进行威胁检测,但面对快速迭代的攻击手法,知识库更新往往滞后,导致检测时效性和覆盖率不高。对零日漏洞、变种木马等未知威胁缺乏有效的发现手段7。三是缺乏威胁情报的自动化生成和共享机制,企业内外部情报获取渠道有限,通常依赖人工收集整理,且情报质量参差不齐,缺乏可信度评估。情报的加工、分析、呈现流程尚未实现自动化,难以做到实时共享和快速响应5。四是安全专家经验难以沉淀积累和复用,资深安全专家凭借多年经验,可快速分析事件上下文,判断威胁影响范围,给出缓解方案。但专家经验通常以隐性知识形式存在,缺乏有效的提炼方法,导致经验难以在团队内传承复用,专家离职易造成知识流失。五是缺乏全局安全视图和威
22、胁演化模型,企业难以精准刻画自身的安全状态,缺乏可量化、可溯源的风险评估指标。安全部门常被动应对已发生的攻击,难以未雨绸缪,对未来一段时间内的安全态势缺乏预判。六是运营高度依赖人力,自动化、智能化水平不高,从海量告6资产测绘与攻击面管理助力构建数字化安全运营体系(2022)7IEEEA Survey on Deep Learning Techniques for Malware Detection and Classification(2022)安全行业大模型技术应用态势发展报告(2024)12警中甄别失陷主机、分析攻击路径、处置安全事件,需要大量安全运营人员投入,且不同层次人员职责界定不清,
23、工作流程缺乏统一协作平台支撑,整体人效不高。综上所述,传统的安全运营方法在愈发隐秘的安全风险场景中变得不够全面,存在诸如内部数据散落、经验共享机制弱等风险,如图 7 所示。图 7 传统安全运营风险2.大模型实现智能关联分析,帮助挖掘安全隐患传统的关联分析规则大多依赖人工配置,规则数量有限且容易产生误报、漏报。大模型可从海量异构数据中自动学习安全要素之间的关联模式,挖掘出难以被人力发现的隐性联系,揭示安全事件的来龙去脉。一是大模型可对网络流量、主机日志、用户行为等多源异构数据进行融合建模,刻画各类数据之间的时间、空间、因果等多维关系。基于图神经网络等技术,大模型能够在复杂的异构图中学习顶点语义信
24、息和边关联模式,揭示不同安全事件的内在联系,如识别出同一攻击者利用不同 IP 对多个目标发起的攻击行为8。8 2023 年中国 AI 大模型应用研究报告安全行业大模型技术应用态势发展报告(2024)13二是大模型可将原始日志数据映射到低维语义空间,实现精细化、结构化的特征提取。相比传统的规则匹配方法,大模型可以将将高维、稀疏的词向量空间映射到一个低维、稠密的语义空间,数据的维度大大降低,从通常成千上万的词汇量大小降到预设的如256 或 512 的低维度。这样更容易进行可视化、聚类、异常检测等下游任务,如图 8 所示。图 8 日志低维语义空间分析示意图3.大模型技术强化人机协同,改写传统运营分析
25、方式传统的安全分析主要依赖人力,专家需要花大量时间处理数据、提取特征、验证假设,分析效率难以满足日益增长的安全需求。大模型可作为安全专家的得力助手,在人机交互中发挥各自所长,形成互补协作9。一是精细化运营专家风险关注点,在人机协同分析模式下,安全专家主要负责提出分析思路和假设,提供安全知识和经验见解。大模型则承担数据工程、特征工程等繁琐的任务,快速验证专家的9自然语言交互:大语言模型带来的交互方式变革(2023)安全行业大模型技术应用态势发展报告(2024)14假设。例如,专家基于经验判断某 IP 可疑,大模型就可以快速搜索该 IP 的相关数据,提取关键特征,评估其异常程度。专家再对模型结果进
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 安全 行业 模型 技术 应用 态势 发展 报告
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【宇***】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【宇***】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。