基于电力领域知识图谱的智慧客服系统研究.pdf

信息技术XINXIJISHU2023年第9期基于电力领域知识图谱的智慧客服系统研究沈潇军，杨红岩，蔡晴，郑星航（国网浙江省电力有限公司信息通信分公司，杭州310 0 16）摘要：针对现有知识图谱电力客服系统存在应用数据相对封闭、数据管理低效、图谱表示单一、规则表示困难及抽样本稀少等问题，设计了一个基于电力领域知识图谱的智慧客服系统。该系统由在线客服、信息解析、知识匹配、意图识别、业务处理及交互等模块组成，利用领域知识图谱技术构建电力客服领域知识库，运用结构化方式呈现电力客服中概念、实体、事件之间的关系，并融合自然语言技术和深度学习算法实现系统智能问答，最后通过系统测试验证系统的有效性，为智慧电力客服系统设计与实现提供参考。关键词：知识图谱；客服系统；领域知识图谱；智能问答中图分类号：TP181D0I:10.13274/ki.hdzj.2023.09.014文献标识码：A文章编号：10 0 9-2 552(2 0 2 3)0 9-0 0 8 3-0 8Research on intelligent customer service system based on power domain knowledge graphSHEN Xiao-jun,YANG Hong-yan,CAI Qing,ZHENG Xing-hang(State Grid Zhejiang Electric Power Company Information&Telecommunication Branch,Hangzhou310016,China)Abstract:Based on the problems existing in the existing knowledge graph power customer service system,such as relatively closed application data,low efficiency of data management,single graph representation,and difficult rule representation and few samples,an intelligent customer service system based on knowledgegraph in power field is designed.The system consists of online customer service,information analysis,knowledge matching,intention recognition,business process and interaction,and other modules,the do-main specific knowledge graph technology is used to build the domain knowledge base of power customerservice,presents the relationship among concepts,entities and events in power customer service in a struc-tured way,and integrates natural language technology and deep learning algorithm to realize system intelli-gent question answering.Finally,the effectiveness of the system is verified by system test,which provides areference for the design and implementation of smart power customer service system.Key words:knowledge graph;customer service system;domain knowledge graph;intelligent Q&A0引 言传统客服系统，一般侧重点都是服务,通过提高对服务对象的满意度提升公司声誉1-3。但是基金项目：国网浙江省电力有限公司科技项目（52 11XT210003）作者简介：沈潇军（197 5），男，硕士，工程师，研究方向为电力信息智能化。这种客服系统在智能化水平、效率和准确性等方面均存在不足，需要引入人工智能技术来改善现状4-10。现阶段电力客服系统大都采用与其他行业客服相类似的主流技术路线，利用知识图谱、自然语言处理和自动语音识别等技术来提升客服系统的整体性能1-16 。文献17 构建了融合领域特征知识图谱的电力智能问答系统，提升了系一8 3 一基于电力领域知识图谱的智慧客服系统研究统识别准确率,降低了响应延迟;文献18 提出一种基于知识图谱的电力智能客服系统，实现客服知识库整理效率的提升，降低了人工成本；文献19提出一种交互式电力智能应答系统,增强了数据智能化训练和智能交互能力；文献2 0 提出一种包含推理引擎、数据本体和客户本体的三级图谱架构,提升了系统整体服务满意度和识别准确性。但上述电力客服系统应用数据相对封闭,互联网化运营理念未得到凸显,认知推理能力较弱，需进一步加强。近些年来因领域知识图谱具有丰富的语义关系、巨大的数据规模和友好的结构逐渐被相关学者关注。在此背景下，引人领域知识图谱技术,提出基于领域知识图谱的在线电力智慧客服系信息解析内容分词信息检索实体匹配信息筛选逻辑判断文本纠错在线客服文本数据查询客户提问(Ouery)如图1所示，智慧客服系统主要由在线客服、信息解析、领域知识图谱、意图识别、业务处理及交互等模块组成，其中在线客服模块主要是将客户提问的问题运用自动化语音识别技术转化为能够进一步处理的文本数据；信息解析模块主要对文本数据的内容进行解析,包含内容分词、信息检索、实体匹配、信息筛选、逻辑判断和文本纠错等；领域知识图谱模块主要是将解析的信息通过深度学习算法匹配领域图谱中的相关内容，从而得到与客户问题相关联的概念和实体；意图识别模块的作用是对客户咨询的业务进行辨识，包括业务咨询、故障维修、业务包装和投诉建议等类别；业务处理模块主要是为识别出的业务类别导人相应一8 4一一沈潇军等统,进一步提升中心运营效能、坐席工作效率、服务质量和智慧化水平。1智慧客服系统架构知识图谱主要有自顶向下与自底向上两种构建方式，其中自底向上的方式是以非结构化数据为驱动，运用相应的技术进行知识抽取从而形成知识图谱；自顶向下的方式是以结构化数据或已形成的知识库为基础，来获取知识本体的结构信息。一般而言,通用的知识图谱的数据相对封闭，规则和数据模式相对简单,需要进一步提升数据和知识库的利用率。本文采用自顶向下与自底向上相结合的方式构建电力客服领域知识图谱，系统架构如图1所示。领域知识图谱意图识别业务咨询对象-关系型数据库业务报装(PostgreSQL)亚务处理领域知识图谱图数据库(Ne04i)半/非结构化结构化数据解析数据解析电力客服电力客服文本数据结构化数据图1基于电力领域知识图谱的智慧客服系统架构图的客服话术，从而引导客户进行多轮对话最终完成相应业务的办理。2基于领域知识图谱的电力智慧客服系统2.1电力客服领域知识图谱构建电力客服领域知识图谱的整体结构如图2 所示，主要由知识表示、抽取、融合、推理和储存5个模块构成。知识表示模块主要的作用是将电力客服相关知识进行转化,形成计算机能够计算和储存的结构化知识；知识抽取模块主要是将电力客服非结构化、半结构化和结构化数据中的知识要素进行有效提取；知识融合模块能够将实体、关系、属性和对象之间的歧义进行消除,并对新知识进行补充、对旧知识进行更新；客服知识推理模块交互故障报修投诉建议信息服务派发工单业务办理其他记录经验案例库基于电力领域知识图谱的智慧客服系统研究的主要作用是挖掘现有知识缺失事实或者隐含的存模块的作用是设计高效的储存模式来有效管理知识,进一步扩展和丰富电力客服知识库；知识储电力客服数据。（实体1，关系，实体2)表示电力客服知识表示电力客服知识抽取电力客服领域电力客服知识图谱知识融合电力客服知识推理电力客服知识储存图2 电力客服领域知识图谱构建框架2.1.1知识表示为了将电力客服知识进行直观表示，本文选用三元组来作为知识表示形式，其由两个语义关联的电力客服实体与实体关系构成，具体形式为（实体，属性，属性值）和（实体1,关系，实体2）。概念主要为电力客服对象类，例如营业网点等；知识图谱当中最为基本的元素为实体，例如萧山区确认输入户号户号输入身份证号家庭故障电表检查一沈潇军等(实体属性，属性值）表示结构化数据抽取半结构化数据抽取非结构化数据抽取实体对齐属性对齐属性值冲突消除基于规则描述逻辑数据划分查询优化分布式查询等；关系是指不同实体之间的关联，例如位于、属于和包含等;属性是指对象可能具备的参数和特征，例如营业网点代码、营业网点电话等；属性值为对象特定属性所对应的值，例如营业厅所处区域的邮政编码等。电力客服知识表示示例如图3所示。微信选择渠道查费缴费查停电原因辖区信息地市信息省份信息充换电站线下渠道辖区故障说明地址图3电力客服知识表示示例图营业网点联系电话详细地址网点类型营业时间电费代收点自主营业厅充电站电力缴费厅一8 5一基于电力领域知识图谱的智慧客服系统研究2.1.2知识抽取从非结构化、半结构化和结构化数据当中抽取相关知识是知识抽取的主要任务，但对于不同结构数据所选用的知识提抽取方法不同。一般采用R2RML语言和直接映射的方式来抽取结构化数据（通常指关系数据库），其中直接映射将数据库中的表通过编写规则的方式转化为RDF（资源描述框架）;R2RML语言是运用D2RQ工具将RDB(关系数据库)转换为RDF。针对半结构化数据，通常选用基于有监督的包装器来进行知识抽取，由于该类型数据重复性较高,故对数据进行适当的标注能够使机器学习形成特定的规则，进而对具有某种关系或同类型数据的数据进行知识抽取。非结构化数据知识抽取主要包含属性抽取、关系抽取和实体抽取，其中实体抽取主要由实体一沈潇军等识别和链接组成，运用自然语言技术对文本中的实体进行识别,实体可能存在多个候选项，故在该过程中需要进行消歧操作，最终将识别的候选实体链接至知识库中。将实体之间的关系从文本中抽取出来就是所谓的关系抽取,可以选用基于弱监督或监督学习和基于模板等方法来实现。属性知识抽取主要是对实体的属性进行抽取，其抽取方法与关系抽取相似。由于结构化数据和半结构化数据知识提取相对简单，在此就不再赘述。非结构化数据知识抽取如图4所示，首先采用远程监督的方法将数据库的数据进行自动标注,其次利用离群点检测方法将错误标注的数据进行清除，最后选用基于监督学习的神经网络算法对完成标注的数据进行训练,并测试未标注的数据,抽取得到未标注数据中所包含的实体及其之间存在的关系。百科文本电力客服领域知识图谱数据自动标注关系标签错误标注去除句向量过滤离群点输出层1解码层注意力真实标签解码层解码层注意力模糊聚类解码层BI-LSTMBI-LSTMBI-LSTMBI-LSTM（候选离群点）嵌入层实体及实体之间的关系at2at.3F1F232.a2.2h1h2eat.4F3F4a2,4a2.3h3h4e4错误标注数据去除关系标签输入层1标注数据（a）基于远程监督数据标注流程2.1.3知识融合知识融合是将同一实体在不同知识库中的知一8 6 一（b）基于监督学习的神经网络知识抽取图4非结构数据知识抽取示意图识进行多层面融合，包括实体对齐、EntityResolu-tion、本体对齐、Record Linkage和本体匹配等。知基于电力领域知识图谱的智慧客服系统研究一沈潇军等一识融合的本质是将同一实体或概念的多源描述信息融合在一起。知识融合的流程如图5所示，开始导入融合实体ID和名称融合结果结束输出图5知识融合流程图由图5可知，知识融合主要由导人实体信息、爬取多源信息、实体消歧、属性对齐、发现属性真值及融合结果输出组成,其中利用多特征命名来消除实体歧义，基于词典（中文分词)实现属性对齐,利用贝叶斯算法发现属性真值,最终获取与电力客服相关属性对应的属性值。2.1.4知识推理知识推理是指在某种策略下对现有知识进行处理，从而使知识图谱得到丰富和拓展，保障知识图谱的质量。知识图谱如具备推理能力，则能够挖掘数据深层的内在价值，为后续的决策和即时查询等应用提供更好的技术支撑。本文选用规则推理方法来进行知识推理,将电力客服领域的专家知识形式化,形成一些推理规则，对电力客服知识进行推理。2.1.5知识储存因知识图谱的数据集关联较为密集，传统关系型数据库不能有效地突出数据的连接关系，存在扩展性差、关联查询费用高和数据穴余等问题。为了解决上述问题，本文选用Neo4j图数据库作为知识储存工具，该数据库中的数据表示与储存均通过图形结构完成，且查询操作简单,关系路径可以基于图数据结构算法进行查找。选用Post-greSQL对象关系型数据库对音频、图像、视频和文件等多媒体数据及一对多关系进行管理。2.2在线客服该部分主要运用自动化语音识别技术来实现语音到文本的转化，随着Siri、A le x a 等虚拟助手的开发，使语音自动识别技术得到更为广泛的发展和应用。该部分选用百度AI自动化识别系统来实现语音识别和文本转换。在线客服及语音解析示例如图6 所示。.sketch9:41AM在线客服爬取融合实多特征命名体多源信息实体消歧属性真值基于词典的属性对齐发现100%我想交电费在哪交啊？请问您家是不是智能电表？智能电表提什么响？怎么看响？智能电表是。噢，我家是这个。好的，智能电表可以通过以下三种方式进行缴费：1.95598官方网站2.掌上国网APP3.线下营业厅图6 在线客服及语音解析示例图2.3信息解析该部分主要包含内容分词、信息检索、实体匹配、信息筛选、逻辑判断和文本纠错等内容,其中实体匹配方法与2.1.2 节描述的方法相似,在此不再赘述；内容分词选用最大匹配算法将自然语句切分成关键词组，以字符串组的方式输出，例如35千伏庄建37 51线会被切分成为（“35千伏”，“庄建”“37 51线”；信息检索与筛选主要对电力客服相关信息进行筛选和检索，本系统用百度搜索引擎进行信息检索和筛选；逻辑判断和文本纠错主要是对问题文本的逻辑进行判别,判断其是否符合常规逻辑（是否有歧义），而文本纠错则是将混合型歧义字段、交际型歧义字段、未登录词处理字段和组合型歧义字段等进行处理。2.4意图识别意图识别通常是对语句当中所呈现出的意图进行分类，利用文本分类来实现，本文选用BERT算法来进行意图识别。2.4.1Transformer编码器BERT算法模型包含多层的Transformer编码器，该编码器主要由前馈神经网络和注意力两层构成。Transformer编码器的输入和输出均为等长的序列,序列由向量元素构成,而向量拼接在一起便形成矩阵,故可以将矩阵作为编码器的输入和输出形式。一8 7 一中国移动家国网浙江省电力有限公司文本分析结果国网浙江省电力公司是国家电网公司下属的全子公司，主要承担建设、运营、发展浙江电网，为浙江经济社会发展和人民生活提供可靠优质的电力保障，促进全省电力资源优化配置的重要责任。开始录音口O0下午3 2 2语音解析结果基于电力领域知识图谱的智慧客服系统研究注意力层。选用多头注意力机制（MHA）来进行注意力层，其具体的表达式为：MHA(X)=H,H,HnheadH,=softmax(rQh=XWon+bohKh=XWk+bHhL Vh=XWv+bvh式中，Hh表示各注意力头计算的结果；QhKh、V h分别表示各注意力头查矩阵、键矩阵和值矩阵；W*h、b*h 表示线性变换参数。前馈神经网络层。该层主要由两层前馈神经网络组成，对向量输入进行相同计算。具体的计算公式为：FFN(X)=GELU(XW+b)W,+b(4)式中，CELU为激活函数，其表达式为f（z）=max(z,0);W、W、b 1、b z 表示两层前馈神经网络的相关参数。整体结构。整体结构的表达式为：一沈潇军等式中,att 表示前馈神经网输入，同时也表示注意(1)力层输出。2.4.2基于BERT的意图识别模型hVTrm(X)=layer_normatt+FFN(att)J(5)att=layer_normX+MHA(X)(6)(2)BERT的首要任务是将句子向量化,具体的表达式为：(3)E,=ET+E+EP式中，E表示字符向量；E表示段向量；E表示位置向量。在得到向量化结果之后,经过 Transformer 编码器进行编码,为了使输出向量保持定长状态,在各语句之前增加占位符CLS，将其编码结果当做BERT额定输出。基于BERT意图识别模型如图7 所示，图中的E，为各字的向量；Transformer编码器用Tm表示；占位符CLS经过BERT模型的编码结果用C表示；句子中各个字符经过BERT模型的编码结果用T表示。根据结果将客户问题的意图进行分类，主要是对问题所包含的业务进行辨别，包括投诉建议、业务咨询、故障报修和业务扩装等。语义向概率分布量C(7)TT%T前馈神经网络T.rmTrmT.rmT.rm语义向量TrmT.mT.rmTrmTrmBERT预训练网络E用户语句如：查电费意图识别2.5业务处理根据意图识别所辨别出的业务类别，将业务处理模块代人相应的话术，从而引导客户通过多轮次的对话来完成最终的业务办理。一8 8 一EGLS查图7BERT意图识别模型3系统测试为了对基于电力领域知识图谱的智慧客服系统性能进行验证，本文从知识搜索能力和知识库构建效率两个方面分别对传统知识库、知识图谱电BERT基于电力领域知识图谱的智慧客服系统研究和领域知识图谱进行测试。4结束语3.1搜索能力测试本文设计了基于电力领域知识图谱的智慧客将现有的电力智能知识库内容导出，根据知服系统。首先，利用对话语音、坐席客服记录、识图谱和领域知识图谱的构造方法对其进行图谱95598客服知识库等业务数据，基于一线电力客化,利用专用测试APP对上述三种方法进行测服话术流程和业务经验所描述的业务规则,结合试。在测试的过程中选取相同标准答案的知识，业务专家和知识抽取算法构建电力客服知识体由测试人员依照自己习惯通过自然语言来进行提系，从而构建电力客服知识架构；其次，通过电力问,将问题分别输人至系统当中来获取答案，如系客服知识表示、抽取、融合、推理和储存5个模块统输出的答案与预期答案相符则认定匹配成功，构建电力客服领域知识图谱，将其当成知识库，通反之匹配失败。测试结果如表1所示。过分析自然语言所表达的句子，将客服问题转变表1测试结果为对领域知识图谱的查询,并将查询的答案推送至人机交互界面，实现业务处理；最后，通过测试使用方法正确次数错误次数正确率/%传统知识库93知识图谱96领域知识图谱99由表1可知领域知识图谱知识搜索能力高于传统知识库和知识图谱方法。传统知识库需要标注关键词的权重，同一词语在不同知识当中的权重不同，当权重高的词语未被客户提及时，会对搜索准确率造成影响；知识图谱构建过程中数据源相对封闭,推理能力较弱,从而对知识搜索准确率造成一定影响；领域知识图谱具有丰富的语义关系、巨大的数据规模，故其准确率较高。3.2知识库构建测试选用国网浙江省电力有限公司现有的客服知识库作为测试数据，知识库中共有客服数据10000条。选取其中10 0 0 条数据作为本文测试的样本，分别采用传统知识库、知识图谱和领域知识图谱三种不同的方案对选取样本进行知识库构建。各个方案知识库构建时间如表2 所示。表2 知识库构建测试结果使用方法知识库构建时间/h传统知识库13.9知识图谱4.5领域知识图谱3.5由表2 可知领域知识图谱知识库构建时间均优于知识图谱和传统知识库，构建效率较高。一沈潇军等验证了该方法具有较高的知识搜索能力和知识库793496199构建效率。现阶段，领域知识图谱在电力行业当中的应用场景十分有限，下一阶段可以在本文所构建的智慧客服系统的基础上进行延展,形成更加完善的电力领域知识图谱。参考文献：1廖盼,孙雨生.基于人工智能的知识服务系统模型研究J.湖北工业大学学报,2 0 17,32（6)：47-51.2王渊，彭晨辉，王志强，等.知识图谱在电网全业务统一数据中心的应用J.计算机工程与应用,2 0 19,55(15):104 109.3 Li H,Min M R,Ge Y,et al.A context-aware attentionnetwork for interactive question answering C.Proceed-ingsof the 23rd ACM SIGKDD International Conferenceon Knowledge Discovery and Data Mining,2017:927-935.4姬源,谢冬,周思明,等.电力领域语义搜索系统的构建方法J.计算机系统应用，2 0 16,2 5（4）：91-96.5张淼.基于中文知识图谱的智能问答系统设计与实现D.武汉：华中师范大学，2 0 18.6田晓,刘勇超,王婧，等.电网公司客户服务知识图谱构建的应用价值J.山东电力技术，2 0 15,42（12）：65 67,80.7姚艳玲，袁锋，王宁.基于知识图谱的国际协同计算领域可视化分析J.计算机工程与应用,2 0 17,53(7):30-40.8俞学豪,赵子岩,马应龙，等.基于BR和CBDT的电力信息通信客服系统多标签文本分类J.电力系统一8 9 一基于电力领域知识图谱的智慧客服系统研究自动化,2 0 2 1,45(11):144-151.9刘丽,陈东方.人工智能语音分析技术在电力客服领域的应用研究J.计算机科学，2 0 19,46（10）：2 2 6-230.10饶竹一，张云翔.智能语音识别技术在信息通信客服系统中的应用J.通信电源技术,2 0 18,35（6）：140-141.11梁林森.基于智能问答技术的供电营业厅客户服务机器人创新应用研究J.无线互联科技，2 0 19,16(4):139-140.12王泽江,李敏,吴斌.组合参考框架下场景空间关系的自然语言描述J.电子设计工程，2 0 16,2 4（8）：127-130.13李新鹏，徐建航,郭子明，等.调度自动化系统知识图谱的构建与应用J.中国电力，2 0 19,52（2)：7 0-77,157.14】刘广一，王继业，李洋，等.“电网一张图”时空信息管理系统J.电力信息与通信技术,2 0 2 0,18（1）：7-17.一沈潇军等15周帆,叶健辉，肖林朋，等.基于知识图谱的电网模型本体智能问答系统研究J.中国科技信息，2 0 19(16):85 86.16汤亚宸，方定江,韩海韵，等.基于图数据库和知识图谱的电力设备质量综合管理系统研究J.供用电,2 0 19,36(11):35-40.17谭刚,陈聿,彭云竹.融合领域特征知识图谱的电网客服问答系统J.计算机工程与应用,2 0 2 0,56(3):232-239.18饶竹一,张云翔.基于知识图谱的智能客服系统研究J.电力信息与通信技术，2 0 17,15（7）：41-45.19梁林森,陆慧.交互式智能应答系统的设计与实现J.微型电脑应用,2 0 19,35（10）：93-95.20 Cheng S,Shen J,Shi Q,et al.Research on the construc-tion of three level customer service knowledge graphC.2017 3rd International Conference on AppliedMaterials and Manufacturing Technology.Changsha,China:ICAMMT,2017:1-6.（责任编辑：丁晓清）(上接第8 2 页）5郑贵林,余星烨.基于边缘计算的智能用电管控系统设计及应用J.电测与仪表,2 0 2 1,58（8）：2 8-35.6刘思放,邓春宇,张国宾，等.面向居民智能用电的边缘计算协同架构研究J.电力建设，2 0 18,39（11）：60 68.7沈颖，李昌.基于边缘计算网关的企业用电行为可视化分析J.电器与能效管理技术,2 0 2 0(7：8 1-8 6.8黄冬梅,何立昂,孙锦中，等.基于边缘计算的电网假数据攻击分布式检测方法J.电力系统保护与控制,2 0 2 1,49(13):1-9.9王鹏，林佳颖，宁昕，等.配电网全景信息感知架构设计J.高电压技术,2 0 2 1,47(7)：2 2 9 3-2 30 2.10何峰,王巍俊，魏光明.基于边缘计算的智能分布式馈线自动化系统J.电力设备管理，2 0 2 1（6）：41-43.11李斌,李星举,赵卓.基于配电网边缘计算应用的安全策略探讨J.东北电力技术，2 0 2 0,41（10）：1-6.12宋耐超,史雷敏,王小雷，等.基于边缘计算模式的台区线损率计算方法J.上海电力大学学报，2020,36(5):471 476,510.13袁性忠,张鹭,罗迪,等.基于边缘计算的能量自治区域调度策略J.智慧电力,2 0 2 1,49（8）：46-54.【14】司马文霞，胡广富，杨鸣，等.融合边缘计算的互感器宽频电压测量方法J.高电压技术，2 0 2 2，48(5):1644-1652.15方佳维，朱何荣,陈桂友.边缘智能技术在智能配电网中的应用探讨J.电气自动化,2 0 2 1,43（3)：10 8-111.16梁哲恒,何恒靖,张乐平,等.基于数据边缘计算的智能集中器设计与应用J.测控技术,2 0 2 1,40(5):91-96.（责任编辑：丁晓清）一9 0 一