基于实例分布约束的事件语义自动划分.pdf

Electronics and Information EngineeringMar.20242024年3 月Vol.42No.2应第42 卷第2 期用报学学应用科JOURNALOFAPPLIEDSCIENCESDOI:10.3969/j.issn.0255-8297.2024.02.013基于实例分布约束的事件语义自动划分高剑奇，骆祥峰，裴昕淼上海大学计算机工程与科学学院，上海2 0 0 444摘要：针对离散分布于新闻文本集合中的事件语义难以聚合的问题，提出了基于实例分布约束的事件语义自动划分算法。首先，利用远程监督方法，构建用于事件语义划分的训练数据集；其次，设计基于实例分布约束的事件语义分类器，用于判断新的事件触发词的加入是否影响事件语义的聚合；最后，在该分类器的基础上设计事件语义集合生成算法，在不需要预先设定事件类型的情况下，将分布离散的事件触发词自动地划分到不同的事件语义集合中。结果表明本方法可有效实现事件语义的自动划分，为事件语义的高质量聚合提供了一种新的探索。关键词：实例分布约束；事件语义自动划分；远程监督：事件语义分类器；集合生成算法中图分类号：TP391文章编号：0 2 55-8 2 9 7(2 0 2 4)0 2-0 3 2 3-11Automatic Event Semantic Division Based onInstance Distribution ConstraintsGAO Jianqi,LUO Xiangfeng,PEI XinmiaoSchool of Computer Engineering and Science,Shanghai University,Shanghai200444,ChinaAbstract:This paper proposes an automatic event semantic division algorithm basedon instance distribution constraints to address the difficulty in aggregating event seman-tics that are discretely distributed in news text collections.First,the distant supervisionmethod is used to construct training dataset for event semantic division.Second,a seman-tic classifier based on instance constraints is designed to determine whether the addition ofnew event trigger affects the aggregation of event semantics.Finally,an event semantic setgeneration algorithm is designed based on the classifier,which can automatically divide thediscrete event triggers into different event semantic sets without the need for pre-settingevent types.Experimental results show that the proposed method can effectively classifyevent semantics,and offer a new approach for achieving high-quality aggregation of eventsemantics.Keywords:instance distribution constraint,automatic event semantic division,distantsupervision,event semantic classifier,set generation algorithm收稿日期：2 0 2 1-12-2 6基金项目：国家自然科学基金项目（No.91746203）；上海市优秀学术带头人项目（No.20XD1401700）资助通信作者：骆祥峰，研究员，研究方向为海量网络信息处理。E-mail:第42 卷324应报学用学科互联网文本中包含了大量事件，这些事件广泛分布于各类新闻文本中且描述自由，导致事件语义的聚合和演化分析十分困难。自动地将这些离散分布的事件按照语义进行划分，对于事件预测、问答系统、文本挖掘等任务具有十分重要的意义1-3 。目前事件语义划分主要包括有监督的方法和基于分布相似的无监督聚类方法。有监督的事件语义划分任务主要由Bagga 提出4，从实体同义词挖掘中5-6 借鉴经验抽取事件同义关系。然而单纯依靠人工设计的模板需要耗费大量的人力和物力，且模板的适用性和泛化性有待提高。基于此，文献7 采用非参贝叶斯从未标记的文档中推断出存在的共指事件集合。文献8 手动构建了一百多种语义特征，结合WordNet和FrameNet等外部知识9-10 ，利用SVM分类器对一个句子中的事件对进行分类，判断两个事件是否属于同一事件。文献11 提出了同时学习事件触发词检测、事件同指和事件所属类型的联合模型，利用马尔科夫链从全局纠正分类器产生的错误结果，进而提高分类器的性能。相较于传统的机器学习方法，神经网络不需要大量的特征工程，且适用性更强12 。文献13 首次将神经网络引入到事件语义划分任务中，并取得了较好的效果。该方法首先使用CNN和池化层来提取触发词的上下文信息，然后利用事件对之间的嵌入表示来判断事件之间是否存在同指关系。文献14 提出了基于可分解注意力机制的神经网络模型，在网络中融入事件特征和事件对特征，挖掘事件对之间的同指关系，取得了较好的效果。文献15 提出了一种基于多种注意力机制的卷积神经网络CorefNet方法，该方法可以提取深层的事件特征，提高了事件同指消解的准确率。为了解决模型错误传播、泛化能力差的问题，文献16 提出了端到端的E3C神经网络，通过联合建模同时完成事件检测和事件同指两种任务。此外，文献17 设计惩罚函数将跨任务一致性约束融入到神经网络的学习过程，提出了将实体同指和事件同指作为一个同指任务的新想法，设计的模型在KBP2017数据上取得了较好的效果。然而上述方法均需要预先设定事件类型，导致模型的适用性有限。基于分布相似的无监督事件语义聚类方法利用聚类或者相似度计算构建事件之间的无向关联图，然后使用不同的图切割方法挖掘事件语义关系。文献18 将事件同指建模为谱聚类问题，使用最小图切割的方法处理事件同指链，将不属于同一事件链的事件剔除出去。文献18 在构建图的基础上，进一步引入框架特征、论元特征和事件距离特征，挖掘事件之间的同指关系。文献2 0 使用无监督聚类算法构建事件同指无向图，然后使用最优切割算法对无向图进行分割，将不属于同一集合的事件从图中剔除。文献2 1 从触发词相似度、时间戳相似度、实体相似度和语义相似度等不同维度构建无向图，使用最小切割算法来识别属于同一事件的文本描述。然而上述方法分别存在以下局限性：1）有监督的事件语义划分方法需要预先定义事件类型，导致模型的适用性较低；2）基于分布相似的无监督聚类方法通过构建文本特征来计算候选事件之间的概率，而忽略了集合整体实例的分布信息。为了解决上述问题，本文提出了一种基于实例分布约束的事件语义自动划分方法，该方法充分考虑集合实例的分布信息和任务之间的关联信息。在不需要预先给定事件类型的情况下，从给定触发词列表中自动抽取事件语义集合。本文的主要工作如下：1）利用远程监督的方法，构建用于事件语义划分的多个领域标注数据集；2）设计基于实例分布约束的事件语义分类器，用于判断一个新加入的触发词是否影响原集合的语义分布；3）基于2）的工作设计集合生成算法，在不需要预先设定事件类型的情况下，将分布离散的事件触发词自动地划分到不同的集合中，以自动生成描述不同，语义相近的事件语义集合。第2 期325高剑奇，基于实例分布约束的事件语义自动划分1基于实例分布约束的事件语义自动划分1.1概念定义1）事件触发词，指由若干词语组成的事件短语描述，一般由单个动词或者包含动词的短语组合而成。2）事件语义集合，指由若干语义相似的事件触发词组成的事件集合，每个语义集合表示一种事件类型。3）事件语义自动划分，指将若干离散分布的事件触发词按照语义信息自动划分到不同的事件语义集合中。其中，每一个语义集合代表一种事件类型1.2问题定义给定事件触发词库V=（u 1,U 2，U n），事件语义自动划分的目的是将事件触发词库V中的每个事件触发词i(uiEV)，自动分配到由事件语义集合组成的集合池C=(c1,C2，Cm）中，其中，ci(c;EC,cinCj=）表示由若干触发词组成的事件语义集合，m表示最终生成的事件类型的数目。1.3基于远程监督的领域事件触发词集合构建远程监督方法最早应用于关系分类任务中，通过启发式的规则来自动地标注大量的训练数据集，该方法有一个重要的假设：已知存在关系三元组r(e1,e2)，其中，e1和e2分别表示两个实体，r表示实体e1和实体e2之间的某种关系，如果句子中同时出现e1和e2，那么我们认为该句也存在关系r。受远程监督思想的启发，本文将该方法应用于事件语义划分任务中，以获取标注数据集。本文首先从相关领域网站中获取大量的新闻文本，然后利用信息抽取工具和人工校正相结合的方法，获取一定量的事件触发词，按照事件触发词的语义信息，将事件触发词划分成不同的事件语义集合，最后利用远程监督方法对每个语义集合进行触发词扩充。该方法可以归纳为：给定事件语义集合S=（s 1,52，s n），8 i=（w 1,W 2，,Wn）为集合 S中的事件触发词，w;为s;中的词汇。对于事件触发词s,=（w i,w 2，w m），其中，w,为s,中的词汇，如果对于任意词语wESi，都存在w,与wi互为同义词，则事件触发词s,ES。1.4基于实例分布约束的事件语义分类器文献2 2 在实体同义关系分类中充分考虑了实体同义集合的分布特征。首先，运用实体同义关系分类器学习原实体同义集合的实例分布得分score(S)；其次，用相同的分类器学习SUt的实例分布得分score(SUt)；最后，计算score(SUt）与score(S）的实例分布差异。受该思想的启发，本文将该思想应用到事件语义自动划分任务中，在此基础上提出了基于实例分布约束的事件语义分类器。该模型主要包括3 个部分，如图1所示：1）模型输入为事件触发词t和事件语义集合S，利用集合评分器SetScore对集合S的特征分布进行评估，并进一步获取SUt的得分。通过计算score(SUt）与score(S）的分布差异来判断触发词t是否加入到语义集合S中。图1的上半部分为事件语义分类器f(S）的整体架构；下半部分是集合评分器SetScore的详细架构，主要包括集合实例和元素嵌入表示、集合实例分布特征提取层、元素分布特征提取层和集合评分器。1.4.1集合实例和元素嵌入表示考虑到事件语义集合的分布特征不仅与事件描述的特征分布有关，而且和组成事件触发词的词汇描述有着较大的联系。因此，基于实例分布约束的事件语义分类器输入层主要包括两部分：集合实例嵌入表示S=（$1,S2，8 n）和元素嵌入表示W=（w 1,w 2，W n），其326第42 卷应用报学学科事件语义分类器新的触发词tScore(Sut)增发普通股集合评分器增发配股Score(S)增值股本增加新股集合评分器语义集合.S.增发配股实例嵌人层增值股本Sum增加新股线性全连接层集合评分增发m化元素嵌人层增值新股结构化注Transformer编码意力机制图1基于实例分布约束的事件语义分类器Figure 1 Instance distribution constraints based event semantic classifier中，Si是事件语义集合S中的实例，W为集合S中的实例分词去重后得到的词汇元素。对于集合实例嵌入表示，我们将所有的词汇向量进行拼接形成事件触发词实例的嵌入表示，维度为npRd。其中，n表示集合S中包含事件触发词实例的数目，p为实例s;中词汇元素的数目，Rd为词汇的嵌入维度。对于元素嵌入表示，经过去重后的词汇输入维度为mRd。其中，m表示集合S中去重后词汇元素的数目。1.4.2集合实例分布特征提取层通过集合实例嵌入表示可以得到触发词集合S=（S1,S2，Sn）白的向量表示为X=(1,C2，c n），使用两个线性全连接层对集合S实例的语义信息和特征分布进行表示Ho=WoX+bo(1)Ho=ReLU(Ho)(2)H1=WiH+b1(3)Hi=ReLU(H1)(4)式中：W。和bo，W i 和bi均是全连接层可训练的模型参数；ReLU为激活函数。进一步地，模型运用求和运算将隐藏层的信息Hi进行聚合Hi=H，得到集合S的特征分布HI。1.4.3元素分布特征提取层集合实例分布特征提取层可以学习到事件触发词实例的语义信息和特征分布。然而组成事件触发词的词汇元素不同，导致事件触发词之间的语义信息也不相同，此外，同一事件语义集合中的部分元素往往存在词汇同义关系。因此，集合中的词汇元素分布信息和相互关系对第2 期327高剑奇，基于实例分布约束的事件语义自动划分事件语义的自动划分也十分重要。通过元素嵌入表示可以得到元素集合的向量表示W=（w 1,W 2，W n），本文使用Transformer23编码器提取W内元素的特征，挖掘元素之间的关系。编码器使用自注意力机制来融合全文信息，以充分挖掘文本的语义特征以及各个特征之间的关系。Transformer的一个编码器模块主要由多头注意力机制和前馈神经网络构成，每个编码器中的每个子层（多头注意力机制与前馈神经网络）周围都有一个残差连接和归一化层。最终，上一个Transformer编码器的输出作为下一个Transformer编码器的输入，实现对词汇元素分布信息和相互关系的深层表达。假设Transformer编码器的输出为HRmxd，m为集合经过去重后的词汇元素数目，d为编码后词向量的维度，此时H融入了更多的上下文语义信息，进一步使用结构化注意力机制，来对融合上下文信息的元素嵌入表示H赋予一定的权重2 4，即M=W.HT(5)=Softmax(WaM)(6)r=HT(7)mh*=tanh(ri)(8)=1式中：为H的注意力分布向量；Wa和W为待学习的参数；h*为最终的词汇元素表示向量。1.4.4集合评分器通过集合实例分布特征提取层和元素分布特征提取层，可以得到事件语义集合的实例分布表示H和元素分布表示h*，我们将H1和h*拼接在一起，然后添加3 个线性全连接层，得到触发词集合的最终得分。最后，给定一个触发词和一个事件语义集合S=（s 1,8 2，s n），运用集合评分器分别计算集合 S和 SUt的得分score(S）和 score(SUt)，进而获得它们的得分差异dif(S,t)=score(SUt)一score(S)，最后使用一个Sigmoid函数将diff(S,t）的得分转化为概率为f(S,t)=(diff(S,t)(9)(a)=1+e-1(10)本文运用对数交叉熵损失函数来训练f(S,t)l=-Ig(f(S,t)y-Ig(1-f(S,t)(1-y)(11)式中：lg表示以10 为底的对数操作。如果tES，那么y=1；否则y=0。在模型的训练过程中，由于Adam具有收敛快、易调参和适用性强等优点，选择Adam优化器来最小化模型的损失。同时，在各层神经网络之间添加dropout层来防止过拟合。本文针对每个事件语义集合S，随机选择一个正实例t加入到集合S中，然后从其他集合中选择k个实例分别与S配对，生成k个负样本，以实现对模型的充分训练。1.5事件语义集合生成算法本文利用事件语义分类器对集合S进行分类，在此基础上，设计事件语义集合生成算法。该算法首先利用1.3 节提出的事件语义分类器计算给定事件集合的得分。具体地，给定一组第42 卷328应用科报学学未分类的事件触发词库V=（u 1,U 2，U n）和预先设置的阈值。对于触发词库V中的触发词Ui，集合生成算法首先计算ui分别属于集合池C=（c 1,C2，Cm）中每个语义集合的概率P=（p 1,P2，,Pm），挑选出最大的概率pi=max(P）后，将概率值p;与预先设定的阈值进行对比，如果pi，则将u;加入到语义集合c;中，否则，Ui将自动生成新的语义集合Cm+1=(ui。对所有的触发词遍历一遍之后，整个算法运行结束，并返回自动生成的集合池C。集合池C中的每一个语义集合对应一种事件类型。在整个事件集合生成过程中，不需要人为预先定义事件类型和集合数量，整个算法根据集合的分布特征自动运行。2实验设置2.1训练数据集为了评估事件语义划分的性能，本文分别在金融领域数据集以及娱乐时政和教育社会两个交又领域数据集上进行实验验证。对于金融领域数据集，本文通过爬虫的方式从和讯、金融界等10 个网站爬取新闻数据集，从文本中抽取大量的事件触发词，结合1.2 节的方法构建事件语义集合，最终构建了43 4个正样本集合，包含了2 6 48 个事件触发词。对于娱乐时政和教育社会交又领域数据集，数据集源数据来自于THUCNews（h t t p:/t h u c t c.t h u n l p.o r g/），该数据集由清华大学自然语言处理实验室提供，帮助用户实现文本分类模型的训练和评估。数据集由2 0 0 52 0 11年新浪新闻RSS订阅频道的历史数据筛选而成，共7 4万篇新闻文档，包含了财经、彩票、房产、股票、家居、教育、科技、社会、时尚、时政、体育、星座、游戏、娱乐14个行业的数据。本文结合1.2 节构建事件语义集合，其中一个数据集为教育社会交又领域数据集，构建了3 6 3 个正样本集合，包含2 3 8 4个事件触发词。另一个为娱乐时政交叉领域数据集，构建了3 9 3 个正样本集合，包含18 45个事件触发词。2.2评估指标本文分别运用调整兰德系数（ARI）、Fo w l k e s-M a l l o w s 指数（FMI）和标准互信息（NMI）3种聚类评估指标2 5 对模型的效果进行度量。1）调整兰德系数（ARI)用于度量标注样本集合与预测样本集合之间的相似性，ARI的定义为TP+TNRI=(12)NRI-E(RI)ARI=(13)max(RI)-E(RI)式中：TP为将正样本预测为正类数；TN表示将负样本预测为负类数；E(RI）为RI的数学期望；N为样本的总数。2)Fowlkes-Mallows指数(FMI)指成对的准确率与召回率的几何平均值，用来度量若干个分配集合之间的外部相似性，FMI定义为TPFMI=(14)(FP+TP)(FN+TP)式中：FP表示将负样本错误预测为正类数；FN表示将正类错误预测成负类数。3）标准互信息（NMI）NMI用于计算两个同义关系集合之间的规范化互信息值。NMI329第2 期高剑奇，基于实例分布约束的事件语义自动划分由信息商（IE）和互信息（MI）组成，NMI的定义为I(X,Y)NMI(X,Y)=(15)VH(X)H(Y)式中：I(X,Y）为X和Y之间的互信息；H(X）为X的信息熵。2.3对比方法为了验证本文提出方法的有效性，分别与其他方法进行对比，具体介绍如下：1）K m e a n s 的输入是触发词库V中的触发词的向量表示，输出为聚类后的事件语义集合。2)Louvain是一种基于图的社区检测算法2 6 ，本文运用余弦相似度建立触发词库V的图结构，然后利用Louvain算法对图进行社区聚类，以获得事件语义集合。3）Co p-K me a n s 2 7 是Kmeans 算法的变体，该方法采用成对约束对聚类进行限制，输出满足所有约束的类簇。4)SynSetMine是文献2 2 提出的一种分阶段同义词聚类方法。基于该方法，本文首先设计一个事件触发词分类器，然后，运用集合实例分类器和聚类算法从事件触发词库V中获取事件语义集合。2.4参数设置为了验证本文方法在3 个数据集上的有效性，用预训练模型BERT输出的7 6 8 维向量作为词语的嵌入表示，设置模型的超参数如下：1）训练epoch数为50 0；2）事件语义集合中的触发词实例最多为50，每个触发词最多由5个词语元素构成；3）批量batch大小为16；4）A d a m的学习率为0.0 0 0 1；5）为防止过拟合，训练过程的dropout为0.3；6）正负样本比例为1:2 0；7）集合生成算法的阈值为0.1。本文使用8 0%的数据作为训练集，2 0%的数据作为测试集。在交又验证之前，所有数据都用不同的随机种子打乱，评估指标是10 折交又验证计算后得到的均值。3实验评估分析3.1事件语义划分性能对比实验本文提出的方法和其他方法的对比结果如表1所示，其中，SynSetCICE为本文提出的方法，SynSetCICE-CE为SynSetCICE移除元素分布特征提取层之后得到的模型。从表中可以看出本文提出的方法SynSetCICE在3 个数据集的ARI、FM I和NMI均优于其他方法。相较于Kmeans、Lo u v a i n 和Cop-Kmeans等无监督的方法，SynSetCICE充分结合有监督分类和无监督聚类的优点，对事件语义进行划分，该方法通过事件语义分类器判断一个新加入的触发词是否影响原集合的语义分布，在此基础上，通过集合生成算法对事件的语义进行自动划分。该方法不仅可以利用标注数据集，根据集合的实例分布特征自动生成事件语义集合，而且可以有效地挖掘集合层面的事件语义特征。而Kmeans、Lo u v a i n 和Cop-Kmeans等方法无法确定聚类的数目，且只能学习两个触发词之间的相似关系，缺乏对整个集合实例分布的整体感知与评估，因此这3 种方法的整体性能较差。相较于SynSetMine，Sy n Se t CICE在考虑集合层面的事件语义特征的同时，进一步融入词汇元素特征，利用Transformer编码器对该特征进行深度表征。从表1中可以看到，在移除元素分布特征提取层之后，SynSetCICE在金融数据集上ARI、FM I和NMI分别降低了2.9 6%、3.2 8%和0.3 1%，在交叉领域教育社会数据集上ARI和NMI分别降低了1.0 4%第42 卷330应用报学科学表1事件语义划分性能对比Table 1 Performance comparison of event semantic division金融教育&社会娱乐&时政ModelARIFMINMIARIFMINMIARIFMINMIKmeans26.7227.8884.2643.6644.9586.0140.9143.1083.81Louvain31.7432.1588.6440.3143.9881.2742.0752.1183.59Cop-Kmeans36.5340.2780.1948.8656.4987.3050.2851.5886.72SynSetMine57.1459.1588.8855.4157.0388.7458.6561.5689.00SynSetCICE74.9575.8092.9688.4287.3196.5587.2487.4995.41SynSetCICE-CE71.9972.5292.6587.3887.8596.3285.6885.9494.87和0.2 3%，在交又领域娱乐时政数据集上ARI、FM I 和NMI分别降低了1.56%、1.55%和0.54%。从而证明了词汇元素的分布特征以及它们之间的相互关系对于事件语义划分的重要性。此外，SynSetCICE不仅在金融领域数据集上取得了优异的结果，而且在娱乐时政和教育社会两个交叉领域数据集上取得了较好的效果，证明了本文提出的方法在单领域和交又领域数据上均具有适用性。3.2事件语义分类器分类对比实验为了评估基于实例分布约束的事件语义分类器的性能，本文对SynSetCICE与SynSet-Mine两种方法分类器的Fi值进行了实验分析。图2 左侧为两种方法在金融测试集上的迭代结果，其中，左上为F1值，左下为loss损失；右侧为两种方法在教育社会测试集上的迭代结果，其中，右上为F1值，右下为loss损失。可以看出，本文提出的分类器在收敛速度和模型稳定性上均优于SynSetMine。相较于SynSetMine，Sy n Se t CICE不仅考虑了触发词实例语义特征，而且进一步融入了词汇元素语义特征。其中，触发词实例是事件语义集合的基本组成，实例在集合层面的语义特征分布及其相互之间的语义相似关系，是分类器需要考虑的重要特征。与此同时，组成触发词实例的词汇元素特征分布以及它们之间的关系（如词汇元素同义关系），也是对事件语义的直观描述。因此，模型在进行事件语义分类时引入了更多有用的特征，利用多重注意力机制充分挖掘特征之间的关系，使模型的整体性能达到了最优。3.3实例展示为了进一步说明本文提出方法的有效性，图3 中展示了SynSetCICE抽取的8 个事件语义集合，该集合中的事件触发词由动词以及动词和名词组成的短语构成。通过总结归纳，8 个事件语义集合分别对应停止营业、职位调动、非法集资等事件类型。可以看出职位调动分别对应任命、出任和就任等事件触发词。证明了本文提出的方法可以实现事件语义自动且高质量的划分。4结语针对新闻事件表达形式多样，同一事件存在不同事件触发词表达的情况，本文提出了基于实例分布约束的事件语义自动划分方法。该方法充分考虑集合层面的事件语义特征，不需331第2 期高剑奇，基于实例分布约束的事件语义自动划分1001008080H606040N40N-SynSetCICESynSetCICE20-SynSetMine20-SynSetMine050100150200250300050100150200250300Epoch(financial dataset)Epoch(education&societydataset)(a）在金融数据集的F值对比(b）在教育和社会数据集的Fi值对比(a)Comparison of Fi value on(b)Comparison of F value on educationfinancial datasetand society dataset3535-SynSetCICESynSetCICE30SynSetMine30-SynSetMine252520SSOTSSOT201515101055050100150200250300050100150200250300Epoch(financial dataset)Epoch(education&society dataset)(c)在金融数据集的loss值对比(d)在教育和社会数据集的loss 值对比(c)Comparison of loss values on(d)Comparison of loss values on educationfinancial datasetand societydataset图2 SynSetCICE与SynSetMine的Fi值和loss值对比Figure 2 Comparison of Fi value and loss value of SynSetCICE and SynSetMine合力合力关闭合作建校办校协力关停任命窃取劫！辑区，创校建校合作倒闭就任资讯1协作。建校破产。停业继任强盗。偷窃创校协作重组整顿职调动接任创办学校办学受聘抢劫提升偷盗盗窃合作合作开撤资停正营业免去办学展办学虚构关停取缔财政捏造关门财政虚假财务虚假破产重整筹资行骗出任！融资洗钱欺诈筹资欺诈集资融资勒索打劫解救顺利匪徒解放成功失物招领救出顺利办学校合作开。成功刑讯协力办校酷刑审问协力创校刑讯经济假货集资成功救回拷问审讯融资非因集资敲诈搭救捏造账目捏造财务敲诈顺利。成功营救顺利营救酷刑刑讯审问一严刑拷间虚假违法筹资救回成功拷打隐購审计筹资融资勒索拯救酷刑/虚构虚假诈骗审讯刑讯收人账目逼供图3 事件语义自动划分实例Figure 3 Example of automatic event semantic division第42 卷332应学学科用报要人为预先定义事件类型和集合数量，即可实现事件语义自动且高质量的划分。实验结果表明，该模型在ARI、FM I和NMI上均优于对比方法，且适用于多个交叉领域事件语义的自动化分。参考文献：1 MAo Q R,LI X,PENG H,et al.Event prediction based on evolutionary event ontology knowl-edge Jj.Future Generation Computer Systems,2021,115(2):76-89.2 FENG W Z,Wu Y,Wu W,et al.Beihang-MSRA at SemEval-2017 task 3:a ranking sys-tem with neural matching features for community question answering Cl/1ith InternationalWorkshop on Semantic Evaluation(SemEval-2017),2017:280-286.3 FERRACANE E,MARSHALL I,WALLACE B C,et al.Leveraging coreference to identify arms inmedical abstracts:an experimental study Cl/Seventh International Workshop on Health TextMining and Information Analysis,2016:86-95.4 BAGGA A,BALDwIN B.Cross-document event coreference:annotations,experiments,and ob-servations Cl/Workshop on Coreference and its Applications,1999:1-8.5 Qu M,REN X,HAN J W.Automatic synonym discovery with knowledge bases Cl/23rd ACMSIGKDD International Conference on Knowledge Discovery and Data Mining,20i7:997-1005.6 WANG,W B,THOMAs C,SHETH A,et al.Pattern-based synonym and antonym extrac-tion Cl/Proceedings of the 48th Annual Southeast Regional Conference,2010:64.7 BEJAN C,HARABAGIU S.Unsupervised event coreference resolution J.Computational Lin-guistics,2014,40(2):311-347.8 LIu Z Z,ARAKI J,HovY E,et al.Supervised within-document event coreference using infor-mation propagation J.9th International Conference on Language Resources and Evaluation,2014:4539-4544.9 MILLER G A,BECKWITH R,FELLBAUM C,et al.Introduction to WordNet:an on-line lexicaldatabase J.International Journal of Lexicography,1990,3(4):235-244.10 BAKER C F,FILLMORE C J,LowE J B.The Berkeley framenet project C/36th AnnualMeeting on Association for Computational Linguistics,1998:86-90.11 Lu J,NG V.Joint learning for event coreference resolution Cl/55th Annual Meeting onAssociation for Computational Linguistics,2017:90-101.12赵云山，段友祥.基于Attention机制的卷积神经网络文本分类模型J.应用科学学报，2 0 19,3 7(4)：541-550.ZHAo Y S,DuAN Y X.Convolutional neural networks text classification model based onattention mechanism J.Journal of Applied Sciences,2019,37(4):541-550.(in Chinese)13 KRAUSE S,XU F Y,UszKOREIT H,et al.Event linking with sentential features from convo-lutional neural networks Cl/Proceedings of The 20th SiGNLL Conference on ComputationalNatural Language Learning,2016:239-249.14 FANG J,LI P F,ZHou G D.Employing multiple decomposable attention networks to resolveevent coreference Cl/CCF International Conference on Natural Language Processing and Chi-nese Computing.Cham:Springer,2018:246-256.15方杰，李培峰，朱巧明.基于多注意力机制的事件同指消解方法J.计算机科学，2 0 19，46(8)：277-281.FANG J,LI P F,ZHU Q M.Employing multi-attention mechanism to resolve event corefer-ence JJ.Computer Science,2019,46(8):277-281.(in Chinese)16 Lu Y J,LIN H,TANG J,et al.End-to-end neural event coreference resolution J.ArtificialIntelligence,2022,303:103632.17 Lu J,NG V.Constrained multi-task learning for event coreference resolution C/2021 Confer-ence of the North American Chapter of the Association for Computational Linguistics:HumanLanguage Technologies,2021:4504-4514.18 CHEN Z,JI H.Graph-based event coreference resolution Cl/2009 Worksh