基于多维指标关联的物联网装备异常预测方法.pdf

第 卷 第 期兵 器 装 备 工 程 学 报 年 月 收稿日期:修回日期:基金项目:国家自然科学基金项目()作者简介:洪浩彦()男硕士研究生:.通信作者:杨辉()男博士博士生导师:.:./.基于多维指标关联的物联网装备异常预测方法洪浩彦杨 辉姚秋彦栗 琳(.北京邮电大学 电子工程学院 北京.军事科学院国防科技创新研究院 北京)摘要:针对高动态物联网装备多维指标相互作用使得装备状态时变性极强难以实现装备状态精准的评估与异常检测的问题提出一种面向多维指标关联的装备状态异常预测方法 该方法通过计算物联网装备状态海量指标的斯皮尔曼相关系数得到多维指标间的相关性利用主成分分析对与目的检测指标强相关的其他指标进行特征提取将提取结果和目的指标本身历史数据作为基于长短期记忆神经网络的装备状态感知模型的输入进而对目的指标未来状态趋势进行精准预测在此基础上利用无监督的 算法对装备状态感知模型的输出结果进行分析定位目的指标未来可能出现的异常实现了装备状态的评估 实验研究结果表明:该方案能够高精度预测物联网装备未来异常的发生保护物联网装备免受潜在异常的影响增强物联网装备的稳定性关键词:多维指标关联主成分分析长短期记忆神经网络异常检测本文引用格式:洪浩彦杨辉姚秋彦等.基于多维指标关联的物联网装备异常预测方法.兵器装备工程学报():.:.():.中图分类号:.文献标识码:文章编号:()(.):.().().:引言随着我国科学技术水平与经济实力不断提升装备发展呈现出更加多元化趋势在现代化的装备保障体系中装备类型多样且同类型装备的特征要素繁杂要素间关联关系极为复杂 特别是在瞬息万变的环境下装备状态动态变化导致多状态特征提取与相似特征要素关联实现变得异常困难装备异常检测的精确度与状态感知可靠性低下 因此研究人员研发了面向物联网装备状态的感知和评估技术来满足高动态的装备保障业务需求 在对装备状态的感知预测方面根据文献可划分为基于物理模型、基于统计模型和基于计算智能的预测 基于物理模型的方法出现在早期的实验中现在由于装备系统故障模式越发繁杂其应用范围和效果受到限制 基于统计模型的预测例如灰色模型 和 其对数据的要求比较严格且依赖于模型的参数 因此近年来基于计算智能预测中的机器学习方法成为装备状态感知与预测的主流 机器学习方法可分为浅层和深层对于浅层机器学习方法文献结合锂电池的容量增量分析和 神经网络预测了不同温度下锂电池的健康状态但浅层机器学习方法需要人工抽取样本特征依赖更多的先验知识对海量数据处理能力有限 为解决浅层机器学习问题深层机器学习方法卷积神经网络()、循环神经网络()、长短期记忆神经网络()等得到广泛应用文献不需要事先具备信号处理的专业知识利用 对采用时间窗准备数据进行寿命状态的预测 文献利用 实时分析油的参数从而感知燃气轮机发动机的状态 虽在 上添加了记忆功能但无法适配长期序列在更长的时间序列上 则有更好的表现 文献结合聚类和 对风力发电机健康状态实现了故障预测 文献通过模糊处理得到变压器装备各指标的相对恶化程度与变压器状态之间的关系然后通过 网络提取变压器状态的演变过程构建了装备状态预测模型 但这些对 的使用方法仅考虑机器状态指标较少情况在多维指标关联复杂的装备情况下难以实现高精度预测 在对装备状态的评估方面文献提出一种深度迁移学习的自编码网络提取轴承异常特征利用离线轴承正常状态的排列熵值构建报警阈值有效识别轴承异常状态 但该方法专注于异常的在线检测只能在异常已经发生时检测到无法有效地提前预测和响应异常 在文献 中作者利用支持向量机()技术能够辨识核电系统中的异常并对核电设备中的多个异常进行分类检测 文献利用深度神经网络()实现了高精度的滚动轴承故障状态识别 文献也利用了 对装备中的异常振动实现了检测 由于带有异常标签的数据在真实物联网装备环境很少见这些类似于、等有监督的状态评估方法难以实现针对上述方法的不足结合物联网装备状态中数据具备时序性、指标繁多且关联复杂、标签缺失等特点提出一种基于多维指标关联的物联网装备异常预测方法 该方法通过构建基于多维指标关联分析的 神经网络感知模型和基于密度空间聚类的状态评估模型实现了物联网装备未来异常的高精度预测 装备状态感知模型.多维指标关联分析物联网的装备在运行过程中会产生大量的历史状态信息通过装备数据收集模块(例如传感器等)采集这些状态信息并将这些状态信息存储在装备的存储单元 这些历史状态信息中会含有多种指标数据例如:温度、振动、功率等数据多种指标数据相关分析在物联网装备维修异常检测中非常重要 一方面物联网装备有很多设备状态指标和服务指标 当我们要对物联网装备的某个指标 进行监控或预测时可能无法获得有效的历史数据或实时数据 这时我们可以选择物联网设备中与该指标关联度较高的指标 进行预测并保证该指标 有足够的历史数据或实时数据 另一方面采用单一指标检测分析在物联网设备异常检测中往往无法取得良好的效果 我们需要充分利用物联网设备中的多指标数据对物联网设备中状态进行实时检测在统计学中斯皮尔曼等级相关系数是分析相关性的重要方法之一 它不需要检查变量的样本量或总体分布特征斯皮尔曼系数通过提取数据的排序特征来计算变量的相关性 通过评价 个指标之间的关联度找出在装备历史状态信息中和目的指标相关性较强的其余指标 个指标间的关联度计算表达式为兵 器 装 备 工 程 学 报:/./()()()()()式()中:和 表示 个指标数据集合和 分别是 个集合中的元素值()表示 在 中的秩表示 在 中的秩同时这些秩都是升序或者降序排列的如果所有 排的数据都是不同的整数用 表示 和之间的差其中 则 个指标间的相关性可以表示为:()()当计算得到的相关系数结果为正时表示各指标之间的单调性相同当计算得到的相关系数结果为负时表示各指标之间的单调性相反 系数绝对值越接近 说明 个指标的相关性越强 通过斯皮尔曼计算指标之间的相关性后可以得到与目的指标相关性较强的其他指标接着对与目的指标相关性较强的其他指标进行主成分分析()降维其目的是将高维度的数据(指标太多)保留下最重要的一些特征去除噪声和不重要的特征从而提升数据处理速度 计算各指标的相关系数矩阵的特征值 和特征向量 计算主成分贡献率/以及累计贡献率/其中 是与目的指标相关性较强的其他指标的个数一般选取累计贡献率超过 的特征值对应的第、第、第()个主成分 第 个主成分:.基于 神经网络的指标预测由于装备的历史状态信息所包含的各个指标数据具有很强的时间序列特征因此我们采用 神经网络来对装备的状态进行精准感知 神经网络不仅适合时间序列特征的数据处理而且同其他机器学习方法相比 神经网络可以通过计算隐藏层的相关权重系数自动调整和学习时间序列之间的隐式关系达到更高的效率 神经网络的标准结构如图 所示采用 门结构控制时间序列信息的传输过程图 神经网络的标准结构.遗忘门的状态用于确定有多少信息可以从上一时刻的单元状态转移到当前时刻的单元状态 如果输出为 表示丢弃上一时刻的信息如果输出为表示保留上一时刻的信息 遗忘门的状态的计算公式为()()式()中:为遗忘门的状态 为激活函数为输入值 为隐藏层的最后一次输出值为遗忘门和输入层之间的权重为遗忘门和隐藏层之间的权重 为偏置向量输入门由 个部分组成可以决定哪些新的输入信息可以添加到单元格结构中 具体的计算公式为()()()()式()式()中:表示哪些新的输入信息可以添加到单元格结构中 函数用于生成当前时刻新的单元格候选状态 为激活函数为输入值 为隐藏层的最后一次输出值为输入门和输入层之间的权重为输入门和隐藏层之间的权重和 为偏置向量为候选值和输入门之间的权重为候选值和隐藏层之间的权重由遗忘门和输入门结果我们可以更新单元格状态 新的单元格状态由 个部分组成其中一部分是遗忘门输出 与上一次旧单元状态 的乘积另一部分是输入门输出 与候选状态的乘积 将这 部分加在一起得到新的单元格状态这也是丢弃不必要的状态信息并添加新的状态信息的过程 新的单元格状态 的计算公式为 ()输出门 控制整个 网络的当前输出值 它决定了之前更新的单元格状态 能输出多少信息 具体的计算公式为()()()()式()式()中:为激活函数为输入值 为隐藏层的最后一次输出值为输出门和输入层之间的权重为输入层和隐藏层之间的权重为偏置向量经过对模型进行分析后开始搭建基于 神经网络的装备状态感知和预测模型 本预测模型包含一个 神经网络层和一个全连接层 层之间顺序连接 层是该预测模型的核心该层可接收经过模型输入数据格式处理后的装备历史状态信息数据对其进行分析和结果预测连接 层的下一层为一个全连接层负责输出计算结果 首先设置 神经网络层包括输入数据维度设置、时间步长设置和循环神经网络结构中 个 层和 个 层的神经元数量设置 神经网络属于有监督学习的神经网络因此用于模型训练的样本需要同时包含特征和标签等 类数据 在装备的历史状态序列数据中只包含目的指标数据集和与其相关的指标数据集并没有特征和标签的区分需要按照有监督学习模型的样本需求将序列数据改造为特征与标签的一一对应形式 例如依据搭建完成的模洪浩彦等:基于多维指标关联的物联网装备异常预测方法型训练要求将装备历史状态信息数据中 的各项指标数据作为模型输入数据的特征第 的目的指标数据作为标签再以装备历史状态信息数据中第 的各项指标数据作为模型输入数据的特征第 的目的指标数据作为标签依次类推 模型的学习为连续的过程通过连续学习样本数据中的特征和标签数据达到有监督的学习目的模型训练的目的为通过学习有标签的样本数据调整自身网络权重使模型的计算结果能够最大限度的接近实际值来减少偏差达到理想状态 在模型训练的过程中不同网络权重值的设置使模型产生不同程度的偏差可以采用一种损失函数来描述在设置不同网络权重情况下的不同预测偏差 本模型采用均方误差作为模型的损失函数既有利于求导计算梯度又可较好地反应优化过程中不同网络权重对应的不同模型损失情况 通过寻找模型设置的网络权重值与预测损失的关系可以在优化过程中训练得出出使损失值最小的网络权重集合 由于 优化算法为每一个网络权重都保持独立的自适应的学习速率具有很好的收敛效果因此本模型采用 优化算法作为模型优化器模型采用迭代的方式进行预测首先将装备的历史状态数据经过有监督学习模式转化后输入模型进行结果预测得出未来一天的目的指标数据并记录然后将实际输出结果加入下一次模型训练的输入特征中与其他输入特征共同作为训练样本再次预测未来一天的目的指标数据依次类推得到预测结果 应用 神经网络对物联网的装备进行状态感知和预测通过使用装备的历史目的状态指标数据和几个与其强相关性指标数据的主成分经过 神经网络的处理和分析预测装备状态可能发生的变化 装备状态评估模型带有异常标签的数据在物联网装备的真实环境中是很少见 因此为了提高检测的准确性和定位未来可能发生的异常采用无监督聚类算法对 的结果进行分析 对装备的状态预测数据集进行聚类筛选出异常数据完成对装备状态的异常检测实现装备状态的有效评估无监督学习聚类的算法非常多样 算法是一个优秀的基于密度的聚类算法可以发现任意形状的聚类能有效发现噪声点和离群点十分适合于处理不规则的数据样本 因此我们采用 算法进行数据集的聚类与异常数据标记 算法最重要的 个参数是(半径阈值)和(密度阈值)首先以每个数据点为圆心计算以 为半径的圈包含数据点的个数为该点密度值 然后选取一个密度阈值 圈内点数小于 的圆心点为低密度的点而大于或等于 的圆心点记为高密度的点 如果有一个高密度的点在另一个高密度的点的圈内就把这 点连接起来从而不断地串联数据点 如果有低密度的点在高密度的点的圈内把它连到最近的高密度点上作为边界点所有连到一起的点形成一个簇不在任何簇内的低密度点即标记为异常点 如图 所示点、均为高密度点、为边界点 为异常点 取 为 以高密度点为圆心 为半径的圆中包含的数据点数均大于等于 图 数据点定义图.为了确定 个参数值首先获取之前预处理后的装备历史状态信息数据集其中含有 个数据点先在该数据集中任意选择一个数据点计算该点与数据集中其余点的欧氏距离 在具体的实例分析中 算法中的 个参数(半径阈值)和(密度阈值)需要另外确定 欧氏距离 计算公式为:!()()检查从数据点 密度可达的所有点形成聚类将数据点 称为核心点 如果数据点 满足条件 ()则称为边界点该状态数据集中的其余点称为异常点或者噪声点利用 算法对 神经网络输出的目的指标进行聚类可以对 神经网络输出的各个目的指标的发展趋势提供量化度量能够更加准确地预测装备未来可能的状态情况从而实现面向多维指标关联的装备状态的评估为装备维修保障决策提供科学合理的客观分析依据 仿真分析实验平台 是 一 台 包 括 个.核 心 和 的服务器服务器的 为 我们的异常数据集是通过传感器/射频识别/二维码等技术收集物联网通信装备不同时刻的状态信息组成该数据集记录了 个物联网通信装备单元的数据每个单元有 多条数据包括通信数据平均往返时间()、通信数据最短往返时间()、通信数据最长往返时间()、装备处理通信数据的时间()、功率()、电压()、电流()、温度()、振动信息()、加速度().关联分析与降维在实验分析之前首先对数据集进行去噪和归一化处兵 器 装 备 工 程 学 报:/./理然后计算物联网通信装备中指标之间的斯皮尔曼相关系数 相关分析的结果如图 所示 每个方格都标有系数的值每个方格用不同的颜色标记 颜色越深计算结果越接近 代表 个指标具有很强的正相关性颜色越浅计算越接近 代表 个指标具有很强的负相关性 为使图片简明扼要各指标均使用简称图 指标的斯皮尔曼相关性分析.由图 可知物联网通信装备中一些指标具有很强的相关性例如通信数据平均往返时间()和装备处理通信数据的时间()间的相关系数为.将通信数据平均往返时间()作为实验的目的指标把与其强相关的指标进行 降维经过计算相关系数矩阵的特征值、相应的特征向量以及贡献率列于表 表 计算结果 特征向量().().().().().().().().().特征值.贡献率.累计贡献率.从表 中可以看到前 个主成分的累计贡献率达 因此可以考虑只取前面 个主成分它们能够很好地概括原始变量 .目的指标预测在本文中使用的数据集里每个时间点的采样间隔为 因此每天有 个时间点 我们选取前 的平均数据往返时间自身数据和上阶段降维后的 个相关联主成分数据作为 神经网络的输入输出第 的平均数据往返时间数据 随着时间窗的移动会不断产生新的真实数据放入时间窗中 例如将第 的数据作为神经网络的输入输出第 的平均数据往返时间预测数据 将装备的历史数据分为训练集和测试集利用训练集的数据多次训练 模型调整好参数之后对测试集的目的指标进行预测 多维 预测效果图如图 所示图 多维 预测效果图.图 中黑色实线代表平均数据往返时间的真实值红色虚线代表平均数据往返时间的预测值 可以看出基于多维指标关联分析的 神经网络模型可以准确地预测装备指标的未来趋势为了进一步衡量装备感知模型的预测效果我们在不同的物联网通信装备单元中计算了几种常见模型 单指标(只使用目的指标自身的历史数据进行预测)、循环神经网络的预测结果平均绝对百分比误差()并与多维 预测结果的 值作对比 其中 值表示预测结果与真实数据之间的偏差程度较小 代表较高的预测精度算法对比如图 所示对比结果表明多维 模型具有更好的预测效果 这是因为装备中指标 平均数据往返时间是具有潮汐效应等时序特征的长期时间序列并且平均数据往返时间的变化趋势会受到与其强相关指标的影响 因此基于多维指标关联分析的 神经网络模型能更好地感知预测平均数据往返时间的变化洪浩彦等:基于多维指标关联的物联网装备异常预测方法图 算法对比.异常检测利用基于多维指标关联分析的 神经网络模型预测出装备指标 平均数据往返时间未来的 个数据点然后针对实际应用中缺乏物联网通信装备异常标签的情况我们使用无监督学习的基于密度空间聚类的 算法来对基于多维指标关联分析的 模型预测出来的 个数据点进行聚类将所有点划分到不同的簇中 最后将异常点用黑色圆圈进行标注红色点表示正常的数据点 异常检测图如图 所示图 异常检测图.由图 可以看出 算法有效地分离了指标 平均数据往返时间在未来中的正常值和异常值 我们标记了目的指标在未来时间中的异常点实现了物联网通信装备状态的评估 结论针对缺乏异常标签的物联网装备本文中提出了一种基于多维指标关联的物联网装备异常预测方法 结论如下:)构建基于多维指标关联分析的 神经网络感知模型 通过计算斯皮尔曼系数来分析不同指标之间的相关性使用主成分分析方法来将与目的检测指标相关性强的指标降维成几个保留原始数据重要特征的主成分将目的检测指标历史数据和关联的主成分数据作为 神经网络的输入 神经网络的输出为目的检测指标的未来预测数据 实现了物联网装备状态的精准感知)构建基于密度空间聚类的状态评估模型 对基于多维指标关联分析的 神经网络感知模型预测出的目的指标未来数据利用 聚类算法进行了异常情况标记 实现了物联网装备状态的有效评估本文中提出的基于多维指标关联的物联网装备异常预测方法构建了物联网装备状态感知与评估模型能够提前预测物联网装备状态的异常情况并对未来一段时间内可能发生的异常情况进行标记从而提高了物联网装备的安全性和服务质量参考文献:陈兴玉张红旗黄魁等.面向预测性维修的工程装备故障预测方法研究综述.智能制造():.():.郭忠义李永华李关辉等.装备系统剩余使用寿命预测技术研究进展.南京航空航天大学学报():.():.赵爱罡葛春钟建强等.智能分布式武器装备系统寿命估计方法研究.兵器装备工程学报():.():.():.:.():.兵 器 装 备 工 程 学 报:/./.:.:.().()():./.().:.():.毛文涛田思雨窦智等.一种基于深度迁移学习的滚动轴承早期故障在线检测方法.自动化学报():.():.():.:.:.():.科学编辑 卢照敢 博士(河南财经政法大学)责任编辑 徐佳忆(上接第 页).:.:.:.:.:/():.:/.:.():.:.:.科学编辑 杨继森 博士(重庆理工大学 教授)责任编辑 涂顺泽洪浩彦等:基于多维指标关联的物联网装备异常预测方法