基于词向量的基站退服告警预测方法及应用.pdf

第 16 期2023 年 8 月无线互联科技Wireless Internet TechnologyNo.16August,2023作者简介:王亚楠(1993),女,青海西宁人,工程师,硕士;研究方向:智能网优。通信作者:李佳袁(1997),男,辽宁葫芦岛人,助理工程师,硕士;研究方向:智能网优。基于词向量的基站退服告警预测方法及应用王亚楠1,陈毅敏2,李佳袁1(1.中国移动通信集团设计院有限公司,北京 100080;2.北京市第一中西医结合医院,北京 100026)摘要:随着信息通信技术的飞速发展与网络规模的不断壮大,传统被动响应式的基站告警处理方式己满足不了运营商对网络质量的管理需求,网络运维模式的智能化程度急需提升。为了减少基站退服事件的发生,文章提出了一种基于词向量的退服告警预测方法,利用机器学习算法对高隐患基站精准定位,为基站巡检和隐患的提前排障做出有力指导。经过实际的试点应用,验证了方案的可行性和有效性,从根本上实现了基站退服的主动预防,提升了网络运维的效率和质量。关键词:基站退服预测;词向量;机器学习;智能运维中图分类号:TN918 文献标志码:A0 引言 以 5 G 为代表的新一代信息通信技术,正成为引领新一轮科技革命和产业变革的核心引擎。一方面,5 G 网络自身的发展虽融入了开放化、智能化等特性,但越来越复杂的网络同样急需运维模式的革新;另一方面,网络智能化的程度也随着业务层面的不断创新而日益加深1-3。随着无线通信技术的快速迭代和网络规模的不断扩大,用户对网络质量的要求越来越高,传统被动响应式的基站告警处理方式已越来越不能满足运营商对网络告警,尤其是影响网络质量的重要告警的管理需求。为了减少基站退服事件的发生,降低基站退服时长,本文提出了一种基于词向量的退服告警预测方法,通过对高隐患基站的精准定位,为基站巡检和隐患的提前排障做出有力指导,从根本上实现了基站退服的主动预防,提升了网络运维的效率和质量。1 基于词向量的基站退服告警预测模型构建1.1 基站退服告警处理机制分析 现阶段的维护方式,导致基站或小区不可避免地在运维实施期间停止服务,极大地影响了客户的感知和体验,并有大量投诉随之产生。退服处理中最主要的分析依据就是基站的告警数据。告警数据能够及时反映当前基站的运行状态,而重要退服类告警的发生常常伴随着次要告警、性能指标波动等,现有的分析方法仅依靠经验粗粒度估计大面积退服发生的风险,预测的准确性不高,也难以为巡检隐患排查、运维资源针对性调度等提供科学依据。如何利用海量的历史运维数据挖掘退服规律,准确预测退服基站,提前进行故障隐患排查,已成为减少退服事件发生率、降低运维成本、实现运维思路从被动处理向主动预防转变的关键。1.2基站退服告警语料库生成与 Word2Vec 模型构建 针对上述问题,本文提出了一种基于词向量的退服告警预测方法。该方法首先利用 Word2Vec 模型,对基站级别的故障、性能、动环告警等数据进行全面分析,重点探究基站历史发生的退服告警及退服告警发生前后基站告警数据的变化情况,尽可能地挖掘次要告警和退服告警数据之间的内在关联。Word2Vec 是一种结构特殊的神经网络,其出发点是考虑了上下文相似的两个词,它们的词向量也应该是相似的,一举解决了传统的 One-Hot 编码无法代表语义且维度过高的问题。Word2Vec 有两大常用模型:以上下文词汇预测当前词汇的 CBOW(Continuous Bag-of-Word)模型以及以当前词汇预测其上下文词汇的 Skip-gram 模型。模型结构如图 1 所示,以上下文窗口为 3 举例说明。本文所提出的方法以退服告警序列作为预测模型的特征输入,并结合了两种方法生成退服告警序列:(1)对每个基站的所有告警序列按时间排序,以每固定 1n 天无任何告警发生的时间为间隔划分所有告警序列,生成序列语料库,再将所有基站的语料库合并。(2)对每个基站的所有告警序列按时间排序,以每一个退服告警的样本为中心,取前面 n1 天的所有告警和后 n2 天的所有告警,按顺序排列,作为一个告警组。将所有的告警组合并,形成告警类型编码语料库。对生成的告警序列语料库使用 Word2Vec 模型,训练不同告警的上下文信息编码模型。其参数如表1 所示。211第 16 期2023 年 8 月无线互联科技技术应用No.16August,2023图 1 Word2Vec 常用模型原理表 1 Word2Vec 模型参数参数名emb_sizeemb_windowemb_iter参数说明告警嵌入向量维度大小,默认值 50窗口大小,即词向量上下文最大距离,默认根据输入步长和预测天数而定嵌入模型训练迭代次数,默认值 201.3 特征样本生成 特征样本生成主要有以下 3 个步骤:1.3.1 特征数据生成 在完成 Word2Vec 模型的训练后,输入每个告警标题,将其与模型训练得到的权重矩阵 W 相乘得到的对应告警的词向量。在生成的词向量空间中,两个向量夹角间的余弦值可以衡量两个个体之间差异的大小:cos()=ni=1Xi Yini=1(Xi)2ni=1(Yi)2(1)余弦值接近 1,夹角趋于 0,表明两个向量越相似,余弦值接近于 0,夹角趋于 90,表明两个向量越不相似。因此,通过计算非退服告警向量与退服告警向量之间的余弦距离,可以得出其他次要告警 i 与退服告警 j 之间的相似度 ij,其中负值统一置成 0。最后,将告警 i 与 J 类退服类告警之间的相似度相加,得到告警 i 的编码:Ecodei=Jj=1ij(2)1.3.2 标签标注 根据需要预测的天数 M(如 3 天),以该天数 M为滚动窗口,遍历统计告警数据,计算每个窗口期间基站是否发生了退服告警。如果发生退服告警则标注为 1,如果没有发生退服告警则标注为 0。1.3.3 样本生成 将上述过程产生的特征数据和标签数据按基站与日期相关联,生成训练样本,训练数据使用了试点地市 110 月共 10 个月的历史告警数据,并以同样的方式生成预测样本,只含输入特征数据,不含标签数据。基站退服告警预测样本生成流程如图 2 所示。图 2 基站退服告警预测样本生成流程1.4 预测分类模型构建 本文使用基于 XGBoost 算法和 LightGBM 算法的二分类模型进行退服告警预测,二者都是基于梯度下降树(Gradient Boosting Decision Tree,GBDT)的提升方法。使用 XGBoost 和 LightGBM 的二分类模型进行退服告警预测,具体算法流程如图 3 所示。首先对样本按照其所在周数进行分组,采用Group-Kfold 进行交叉验证,将原始样本分割成 K 个311第 16 期2023 年 8 月无线互联科技技术应用No.16August,2023图 3 基于 XGBoost 和 LightGBM 模型的基站退服告警预测流程子样本集,每一个单独的子样本集被保留作为验证模型的数据,其他 K-1 个样本集用来训练 XGBoost 和LightGBM 模型,且保证同一周的样本不会同时出现在训练集和测试集上。然后重复 K 次,使得每个子样本集均被验证一次,同时生成 K 个模型。Group-Kfold 通过避免同一周的样本出现在训练集和测试集上,提高了模型的泛化能力。此外,为了解决数据集正负样本比例严重失衡的问题,采用 Focal loss 代替传统的交叉熵损失函数。二分类的交叉熵损失函数如下:CrossEntropy=-1nni=1yilog(pi)+(1-yi)log(1-pi)(3)Focal loss 通过引入参数 和 对负样本和易分样本进行惩罚,其函数形式如下:Focal loss=-(1-pi)log(pi),y=1-(1-)pilog(1-pi),y=0(4)其中,0 用于减少易分类样本的损失,使得模型更关注于困难的、错分的样本。例如=2,对于正类样本而言,预测结果为0.95,肯定是简单样本,所以(1-0.95)就会很小,这时损失函数值就变得更小。而预测概率为 0.3 的样本其损失相对很大。此外,加入平衡因子,加大正样本的权重,平衡正负样本本身的比例不均。完成 K 个子模型的训练后,根据其在验证集上的精确率,计算各个模型的权重。预测时,通过输入对当前基站过去一段时间的历史告警数据、工参数据,根据已训练得到的告警编码、历史退服特征、基站属性特征,按时间窗进行滑动形成输入样本,输入XGBoost 和 LightGBM 的各个子模型,即可获取未来一段时间内退服告警发生的概率。最后,根据计算出的模型权值,融合子模型上的预测结果,得出最终的退服告警概率预测值,对未来一段时间内(通常为 13天)发生退服告警的概率进行准确预测,为隐患提前排查和日常精准巡检提供依据,提升基站排查效率,指导运维人员的巡检工作。2 基站退服告警预测应用效果2.1 模型验证 以陕西移动部分基站为例,进行基于词向量的基站退服告警预测算法应用。并通过 f1 分数(f1-score)、准确率(Accuracy)、精确率(Precision)、召回率(Recall)及混淆矩阵(Confusion)5 个指标对已经训练好的退服告警预测模型,使用独立的数据集做验证,输出验证结果如表 2 所示。模型输出的预测结果如表 3 所示。表 2 退服告警预测模型输出结果验证数据集f1-scoreAccuracyPrecisionRecallConfusion训练数据集0.110 40.906 30.772 40.059 5 187 141,356,19 107,1 208 测试数据集0.095 40.906 20.726 00.051 1 46 825,97,4 775,257 表 3 退服告警预测模型输出结果基站 IDdatepred_probabilitypred_label基站 A2022-11-010.062 30基站 B2022-11-020.562 31.411第 16 期2023 年 8 月无线互联科技技术应用No.16August,2023 其中,date 为预测周期的第一天,pred_probability为预测的退服告警发生概率,pred_label 为是否发生退服告警(1 为发生退服,0 为未发生退服)。其中,pred_label 通过指定的分类阈值(如表 3 中取 0.5),由 pred_probability 计算得到。2.2 试点地市应用效果 将训练好的基于词向量的基站退服告警预测模型应用于陕西省某地市试点基站进行退服预测,得到的试点地市模型输出结果验证如表 4 所示。表 4 试点地市退服告警预测模型输出结果验证测试集f1-scoreAccuracyPrecisionRecallConfusion试点地市测试集0.221 7 0.919 00.965 20.125 3 28 378,13,2 521,361 可见,在试点地市应用基站退服告警预测模型后,预测结果精确率达到 96%,召回率约为 12%13%。本方法已经在陕西省移动公司进行了试点应用,通过对高隐患基站的精准定位,为基站巡检和隐患的提前排障做出有力指导,10 个地市在试点期内平均退服基站预测准确率大于 88%。3 结语 基于词向量的基站退服告警预测方法,在试点省份预测基站未来一段时间内发生重要退服告警的概率,准确率大于 88%,可明显提升基站智能运维的主动性。同时,及时发现设备或服务的相关告警信息,可以对退服故障进行早排查、早修复,从而可以有效地减少因退服故障而带来的经济损失。本算法通过系统性引入 AI 技术,对大量运维数据进行分析,构建面向无线基站的重要故障预测工具,为网络数智化转型提供新的支持手段。参考文献1马敏,刘武韬,吴晓曦,等.4G/5G 无线网络智能运维研究与应用J.电信工程技术与标准化,2022(8):44-50.2周晶,王德政,洪科.5G 网络智能运维 AI 应用研究J.邮电设计技术,2021(11):83-87.3赵巍,张智森,肖佳康,等.基于人工智能的 5G 通信网络运维规划方法J.长江信息通信,2022(3):219-222.(编辑 王雪芬)Method for predicting base station retirement warnings based on word vector and its application Wang Yanan1 Chen Yimin2 Li Jiayuan1 1.China Mobile Group Design Institute Co.Ltd.Beijing 100080 China 2.Beijing First Middle and Western Medicine Integrated Hospital Beijing 100026 China Abstract With the rapid development of information and communication technology and the continuous growth of network scale the traditional passive response base station alarm processing method can no longer meet the network quality management needs of operators and there is an urgent need to improve the intelligence level of network operation and maintenance mode.In order to reduce the occurrence of base station dropout events this article proposes a word vector based dropout alarm prediction method which uses machine learning algorithms to accurately locate base stations which are in high hidden danger providing strong guidance for base station inspection and early troubleshooting of those hidden dangers.After practical pilot applications the feasibility and effectiveness of the proposal have been verified which can fundamentally achieve proactive prevention of base station dropout events and improve the efficiency and quality of network operation and maintenance.Key words prediction of base station dropout word vector machine learning intelligent operation and maintenance511