暗网网页用户身份信息聚合方法.pdf

第 49卷 第 11期2023年 11月Computer Engineering 计算机工程暗网网页用户身份信息聚合方法王雨燕1，赵佳鹏1，时金桥1，申立艳1，刘洪梦1，杨燕燕2（1.北京邮电大学 网络空间安全学院，北京 100876；2.中国人民公安大学 信息网络安全学院，北京 100038）摘要：暗网网页中用户身份标识信息的分布呈现出稀疏、不规律的特点，当前主流的信息聚合技术无法直接应用于该场景。提出一种基于共指关系抽取的用户身份信息聚合模型，该模型输入一对用户身份信息及其上下文语境，返回该信息对是否包含共指关系，并且构建相应的用户身份信息数据集用于聚合实验。为进一步提升模型的识别能力，在基线模型的基础上引入实体类别信息，提出实体类别敏感的共指关系抽取模型。针对暗网中通过某些身份类别信息无法获取足够多训练样本的问题，引入少样本学习任务，构建基于多任务的低资源条件下用户身份信息聚合模型。实验结果表明，在低资源条件下，经过优化的聚合模型 F1值达到 87.03%，较基线模型提升 11.98个百分点。关键词：暗网；用户身份信息；信息聚合；关系抽取；少样本学习；多任务学习开放科学（资源服务）标志码（OSID）：中文引用格式：王雨燕，赵佳鹏，时金桥，等.暗网网页用户身份信息聚合方法 J.计算机工程，2023，49（11）：187-194，210.英文引用格式：WANG Y Y，ZHAO J P，SHI J Q，et al.User identity information aggregation method for darknet Web page J.Computer Engineering，2023，49（11）：187-194，210.User Identity Information Aggregation Method for Darknet Web PageWANG Yuyan1，ZHAO Jiapeng1，SHI Jinqiao1，SHEN Liyan1，LIU Hongmeng1，YANG Yanyan2（1.School of Cyberspace Security，Beijing University of Posts and Telecommunications，Beijing 100876，China；2.School of Information Network Security，Peoples Public Security University of China，Beijing 100038，China）【Abstract】The distribution of user identity information dispersed across darknet Web pages exhibits sparse and irregular characteristics，and current mainstream information aggregation techniques cannot be directly applied to this context.This study proposes a user identity information aggregation model based on coreference relation extraction.The model inputs a pair of user identity information and its contextual background，determines whether the information pair contains a coreference relation，and constructs a corresponding user identity information dataset for aggregation experiments.To further enhance the recognition ability of the model，the baseline model is enriched with entity category information，leading to the proposal of an entity category-sensitive coreference relation extraction model.To address the inability to obtain sufficient training samples through certain identity category information in darknet，a few-shot learning task is introduced to construct a multitask-based user identity information aggregation model under low-resource conditions.The experimental results show that，under low-resource conditions，the F1 value of the optimized aggregation model reaches 87.03%，which is 11.98 percentage points higher than that of the baseline model.【Key words】darknet；user identity information；information aggregation；relation extraction；few-shot learning；multi-task learningDOI：10.19678/j.issn.1000-3428.00668050概述 当前的网络空间可以根据其网页内容是否能够被常规搜索引擎获取分为明网和暗网 2种类型。其中，暗网是深网的子集，需要借助特殊软件（如 Tor浏览器）才能访问。这种特殊的访问方式为暗网带来了匿名性、不可追溯性等特性。随着互联网的飞速发展，暗网网络犯罪案件数量在全球呈现上升趋势。相较于普通的网络犯罪，暗网网络犯罪因其本身具有的匿名性和不可追溯性导致犯罪分子更加难以被追踪。情报分析是追踪暗网犯罪的重要手段，该技术收集犯罪分子在暗网网络活动中留下的相关身份基金项目：广东省重点研发计划（2019B010137003）。作者简介：王雨燕（1997），女，硕士研究生，主研方向为文本信息处理、知识图谱；赵佳鹏，博士后；时金桥，教授级高级工程师；申立艳，博士后；刘洪梦、杨燕燕，硕士研究生。收稿日期：2023-01-20 修回日期：2023-04-12 Email：网络空间安全文章编号：1000-3428（2023）11-0187-08 文献标志码：A 中图分类号：TP3092023年 11月 15日Computer Engineering 计算机工程信息（如邮箱地址、比特币钱包地址、社交平台账号等）作为破解用户身份的重要线索。因此，研究自动化识别和聚合同一用户多种身份信息的技术具有重要的应用价值。针对暗网用户身份信息的识别和聚合问题，当前的相关研究较少。笔者通过广泛调研发现，自然语言处理中的关系抽取和共指消解方法可以解决该问题。关系抽取旨在识别实体对之间的关系类别；共指消解旨在聚合同一句子内指向同一名词的代词。从本质上说，共指消解是一种特殊的关系抽取任务，其特殊在于指定了实体是代词、实体间的关系是共指关系。虽然共指消解与本文研究的任务很相似，都是聚合语义上有关联的对象，但它们依旧存在2个不同之处：首先，任务关注的对象并不相同，前者是语句中的代词，后者是网页中的用户身份信息；其次，当前流行的共指消解方法将代词识别和代词间共指关系抽取 2 个部分联合进行，例如文献 1-3 方法。由于本文研究的用户身份信息的识别和聚合是2 个不同的阶段，不涉及联合抽取的过程，因此本文最终选择使用简单的二元关系抽取方法解决用户身份信息聚合的问题。本文定义属于同一用户的 2个用户身份信息之间包含共指关系，使用关系抽取模型来识别身份信息之间的共指关系。目前，使用关系抽取方法解决用户身份聚合问题主要存在 3个问题：首先，该场景缺乏公开可用的包含暗网多种用户身份信息的数据集；其次，虽然特征工程对于解决此类问题已经表现出不错的性能，但是随着深度学习的发展，摆脱特征依赖也是目前研究的主流方向，如何选择合适的深度学习方法、构建相应的模型、实现同一用户多种身份信息自动化和高性能聚合，也是难点之一；最后，在暗网用户身份信息聚合的过程中，某些类别可获取的用户身份信息稀少，导致标注样本有限，然而目前的深度学习方法又普遍依赖大规模标注样本来保证识别性能，因此，如何进一步修改深度学习模型来降低模型对大规模训练样本的依赖，是另一个难点。为了解决这些问题，本文提出一种基于规则的身份信息识别方法，用于识别网页中出现的所有身份标识信息，并构建相应的用户信息聚合数据集。在此基础上，提出一种以有监督的共指关系抽取模型作为用户聚合任务的基线模型，该模型输入一对用户身份信息及其上下文语境，返回该信息对之间是否包含共指关系。基于对数据集的统计分析，用户身份信息的类别对共指关系的识别有一定提示作用，因此，本文在基线模型中引入实体类别信息，提出实体类别敏感的共指关系抽取模型，进一步提高用户身份信息聚合模型的准确率。最后，针对暗网中通过某些身份类别信息无法获取足够多的训练样本这一问题，在基线模型中引入少样本学习任务，构建低资源条件下基于多任务的用户身份信息聚合模型，减少模型对大规模训练集的依赖。1相关技术 1.1实体识别技术传统的命名实体识别是自然语言处理的一项基础任务，其研究的核心是如何在一些特定领域内对文本中的实体名词进行抽取，例如从医药学领域的学术报告中获取药物名称、从报纸中抽取关于机构活动的人名、地名、组织机构名等。基于统计机器学习的命名实体识别方法被广泛应用，包括基于隐马尔可夫模型（Hidden Markov Model，HMM）4的命名实体识别模 型、基 于 支 持 向 量 机（Support Vector Machine，SVM）5的 命 名 实 体 识 别 模 型、基 于 条 件 随 机 场（Conditional Random Field，CRF）6的命名实体识别模型等。当前，基于深度学习的模型效果最佳，在相关研究中：文献 7 提出基于格的长短期记忆（Lattice-based Long Short-Term Memory，Lattice-LSTM）网络，结合了词典匹配和条件随机场进行命名实体的识别；文献 8 使用预训练模型 BERT9获得上下文单词的语义嵌入，提高了模型对实体语义的理解能力。命名实体识别技术可以实现暗网用户身份信息的自动化识别，但是当前的命名实体识别技术面临多个难题，例如在真实的开放环境中，无法列举所有的实体种类和数量、无法完成实体间的歧义消解、难以对实体边界进行界定等。受以往实体识别工作的启发，本文统计并定义了以下种类的用户身份标识信息：社交平台账号（如 Telegram 群组、Raddit账号、GitHub 账号、Discord 账号、Medium 账号、Facebook账 号、Linkedin 账 号、VK 账 号、Twitter 账 号、Instagram 账号等）；加密货币钱包地址（如比特币地址、以太坊地址、门罗币等）；个人联系方式（如邮箱地址、电话号码等）。这些信息每一类都有其标志性的特征，因此，对不同类别的信息构建不同的匹配规则是一种简单、有效的实体识别方式。1.2句子级关系抽取给定一个句子S，句子中包含一对实体e1和e2，句子级关系抽取的目标是根据S中的语义信息识别出e1和e2之间的关系。基于统计机器学习的句子级关系抽取方法广泛应用于情报抽取领域，包括最大熵模型（Maximum Entropy Model，MEM）10、隐马尔可夫模型11、条件随机场12、核（Kernel）方法13等。这些方法严重依赖于手工特征，消耗大量人工成本的同时灵活性低下，更换应用场景或数据内容往往需要构建新的特征集合。基于深度学习的关系抽取方法解决了这一难题，在相关研究中：文献 14 使用卷积神经网络（Convolutional Neural Network，CNN）来学习句子的语义嵌入，之后在 CNN 的基础上产生了多个变种，包括使用分类损失函数的 CR-CNN15、添加分 段 最 大 池 化 操 作 的 Pooling-CNN16等。此 外，LSTM 网络也用于学习文本序列的语义嵌入，在相关研究中：文献17提出的双向长短期记忆（Bi-directional LTSM，BiLSTM）网络结合了前向 LSTM188第 49卷 第 11期王雨燕，赵佳鹏，时金桥，等：暗网网页用户身份信息聚合方法层和后向 LSTM 层，该方法被证明能同时捕捉词语前的文本信息和词语后续的语义信息；在此基础上，文献 18 将注意力机制用于 BiLSTM，得到了 Att-BiLSTM。基于经典的 Transformer模型19，文献 20 提出了用于语言理解的生成式预训练转换器 GPT-2，文献 9 提出了大规模预训练模型 BERT。目前，关系提取的最佳模型均使用预训练模型来获得实体的语义嵌入。当前在优化关系抽取模型方面主要有以下2种方式：1）优化预训练模型。ERNIE模型21改进了预训练过程中掩盖关键字的方式，与基线预训练模型BERT 相比，其将词掩蔽策略扩展到分词、短语和实体。SpanBERT22利用几何分布随机抽取短语片段，并根据片段边界词的向量预测整个掩码词。此外，还可以通过引入外部知识来优化预训练模型，例如KnowBERT23和 ERNIE均通过预训练外部知识库来获取实体嵌入。类似地，K-Adapter24关注如何向语言模型注入事实和语言知识，LUKE25进一步将掩蔽语言建模的训练前目标扩展到实体，并使用了一种实体感知的自我注意机制。2）对实体的标记进行改进。IREBERT26使用一组用于句子级关系抽取的类型化实体标记符号，该方法与传统的实体掩码技术和已有的实体标记技术相比，能得到更符合上下文语义的实体嵌入。当前句子级关系抽取的研究已经取得了令人满意的成果，然而这些方法的性能依赖于丰富的训练资料，随着训练样本的减少，模型性能也随之迅速下降。在暗网用户身份信息聚合的场景中，有多个种类的身份信息在标注样本集合中非常稀缺，在深度学习领域，该问题可以通过少样本学习方法解决。1.3少样本关系抽取少样本关系抽取是指仅通过少量训练样本对实体对关系进行分类的机器学习问题，目前解决该问题的方法主要分为以下 3类：1）使 用 数 据 增 强 手 段 增 加 训 练 样 本 数 量。EDA27是一种用于文本分类任务的数据增强方法，其使用 4 种文本变换手段，包括对原数据集样本进行同义词替换、随机插入单词、随机交换和随机删除。但是该方法需要大量手工操作（如定制同义词集合等），且分类器性能提升并不明显。2）优化模型结构。目前最常见的优化方法是基于度量的方法和基于提示学习的方法。基于度量的方法通过计算实体嵌入与锚点的相似度（或距离）进行分类，例如：匹配网络28使用余弦相似度计算相似度；原型网络29使用欧氏距离计算相似度。基于提示学习的方法将关系抽取任务转换为提示生成任务，使 用 预 训 练 模 型 推 理 获 得 有 关 提 示 的 答 案。LAMA 模型30将关系抽取任务修改为填空题，在使用相同预训练模型的情况下，相比引入外部知识库等传统方法获得了更好的效果。文献 31 研究表明，将任务描述（即提示）作为预训练模型的输入，能够极大地提高少样本模型的性能。随后，文献 32-33 应用 2种不同策略扩展了该方法。为降低手工生成提示的时间成本，文献 34 提出了一种生成文本分类任务提示的有效方法。为了使提示学习能高效地应用于零样本和少样本关系抽取，文献 35 进一步将关系抽取描述为一个文本蕴含任务。3）改进模型算法，利用先验知识初始化已有参数来改变模型的搜索方向，达到减小估计误差的目的。OSVOS 模型36在解决视频对象分割任务时，使用了预训练的卷积神经网络进行图像分类，首先使用大数据集进行前景分割的调整，然后使用单次拍摄的分割对象进一步调整分割，优化后模型的分割准确率从68.0%提升到 79.8%。文献 37 对元学习任务的参数进行初始化，新任务的少量梯度步骤和少量训练数据将在该任务上产生良好的泛化性能。虽然目前少样本关系抽取技术飞速发展，但是面对暗网用户身份信息聚合等真实的场景，仍然缺乏相关模型的应用实例和实验数据。2暗网用户身份信息识别和聚合 从初始暗网网页到完成用户身份信息聚合的流程如图 1所示，其中，用户身份标识信息的识别和聚合是关键技术，前者识别网页中的用户身份信息，构建数据集，后者输出数据集中信息对的共指概率，聚合属于同一用户的信息。本文提出一种暗网用户身份信息的识别和聚合方法，实现过程包括以下 3个部分：1）针对缺少公开可用的暗网用户身份信息数据集的问题，提出一种基于规则的用户身份信息识别技术。该技术用于自动化并高效地识别纯文本中的用户身份信息，是构建暗网用户身份信息数据集的图 1暗网用户身份信息识别与聚合流程Fig.1Procedure of identifying and aggregating identity information of darknet users1892023年 11月 15日Computer Engineering 计算机工程关键技术。2）受现有关系抽取技术的启发，提出一种暗网用 户 身 份 信 息 聚 合 的 基 线 模 型 ConRE，然 后 在ConRE基础上加入实体类别信息优化，提出ConREtype和 ConREtype_description模型。3）为了降低聚合模型对大规模训练样本的依赖，在 ConRE、ConREtype和 ConREtype_description的基础上，引入多任务学习来提高模型的 F1值，增强模型在训练样本资源不足（低资源）情况下的稳定性。2.1基于规则的用户身份信息识别技术暗网中的用户身份信息每一类都有其标志性的特征，因此，对不同类别的信息构建不同的匹配规则是简单且有效的用户身份信息识别方式。基于规则的用户身份信息识别技术使用手工定制的正则表达式，匹配同一网页中的所有用户身份信息。该技术输入经过预处理的暗网HTML网页，输出用户身份信息集合。本文定义以下 4种暗网用户身份信息类别：1）社交平台账号，如 Discord账号、Instagram 账号、GitHub账号、VK 账号、Twitter账号、Medium 账号、Telegram账号、Facebook 账号、Linkedin 账号、Reddit 账号等；2）个人联系方式，如邮箱地址、电话号码等；3）加密货币，包括比特币、以太坊；4）其他种类数量极少的用户身份信息，如电话号码、门罗币等，统一归纳为其他类别。基于规则的用户身份信息识别技术在特定的领域内准确率极高，是一种简单、有效的匹配暗网用户身份信息的方式。基于规则的实体识别方法根据文本特点，手工定制规则匹配模板以完成实体识别。此类方法往往基于知识库和词典，以指示词、标点符号作为抽取依据。本文针对每一类别的用户身份信息制定了相应的正则匹配规则。表 1列举了常见的 14种用户身份信息以及匹配规则，其中：“X”指匹配任意字符；“”表示或运算；括号中每个选项用“|”分隔；“”指匹配开头字符；“$”指匹配结尾字符；“”表示匹配次数。2.2基于共指关系抽取的用户身份信息聚合方法在基于共指关系抽取的用户身份信息聚合方法中，定义了同一页面中属于相同用户的信息之间包含共指关系，用户身份信息聚合任务被转化为共指关系抽取任务。针对上一阶段抽取的用户身份信息实 体，本 文 构 建 了 有 监 督 的 共 指 关 系 抽 取 模 型ConRE、实体敏感的共指关系抽取模型 ConREtype和ConREtype_description。这些模型均通过学习实体对及其上下文语境所包含的语义信息，判断实体对之间是否具有共指关系。本节将详细介绍构建这些聚合模型的关键技术，包括获取实体嵌入、实现共指关系二元分类器和引入实体类别信息特征来优化模型性能。其中：ConRE模型由获取实体语义嵌入的预训练部分和二元分类器组成；ConREtype和 ConREtype_description模型是在 ConRE 的基础上，引入实体类别的信息特征优化后的模型。2.2.1实体语义嵌入的获取本文通过 BERT 预训练模型获得实体对嵌入。BERT 是由 Transformer编码器在大规模语料库上训练得到的模型，也是目前使用最为广泛和成熟的预训 练 模 型。Transformer 使 用 自 注 意 力 机 制 代 替CNN 的卷积和 LSTM 的门控机制来计算权重，在保证计算速度的情况下，能够平等地捕捉到文本序列更长距离的上下文信息。本文通过 BERT 提供的实体表示来完成二分类任务。获取实体嵌入需要对句子执行预处理程序，具体如下：1）将句子转换为 token 序列；2）为序列添加特殊符号，在序列开头添加“CLS”作为分类标识符，在序列结尾或 2个序列分界处添加“SEP”作为句子分割符，在实体开始和结束的分界处分别添加“$”和“#”作为实体标记符。将处理后的 token 序列输入 BERT。假设句子S的 2个实体为e1和e2，对于 BERT 输出的完整隐藏状态V，取出V中e1和e2对应的初始向量v1和v2，计算其平均值后经过同一个全连接层，获得最终实体嵌入v1和v2。实体 1 嵌入v1的计算过程如式（1）所示，其中，W1和b1是可学习的参数，j和k分别表示e1在句子中的起始 token编号和终止 token编号；e2嵌入v2的获取同理，计算过程如式（2）所示；取出V中对应“CLS”的初始向量vc，然后经过一个全连接层获得分类标识嵌入vc，分类标识符嵌入vc的计算过程如式（3）所示，其中，Wc和bc是可学习的参数。v1=W1tanh()1j-k+1n=kjvn+b1（1）v2=W2tanh()1j-k+1n=kjvn+b2（2）vc=Wctanh vc+bc（3）2.2.2二元分类器分类器负责对输入的每一个嵌入预测实体对之间是否存在共指关系。首先拼接 2个实体嵌入v1、v2表 1用户身份信息种类及相应匹配规则 Table 1Types of user identity information and corresponding matching rules用户身份信息种类DiscordGitHubTwitterBitcoinMediumEmailTelegramFacebookInstagramEthereumPGP keyVKLinkedinReddit匹配规则https:/discord.gg/XXXhttps:/ 49卷 第 11期王雨燕，赵佳鹏，时金桥，等：暗网网页用户身份信息聚合方法和分类标识嵌入vc，然后经过一个全连接层得到分类嵌入vp，式（4）为vp的计算过程，其中，Wp和bp是全连接层参数。最终共指分数由 Softmax 层组成的分类器获得，将分类嵌入vp输入分类器，输出实体对共指的概率P，如式（5）所示，当P大于阈值 0.5时，分类器预测实体对之间存在共指关系。vp=Wpcontact(v1v2vc)+bp（4）P=Softmax(vp)（5）2.2.3实体类别信息的引入根据统计信息，实体类别信息对共指关系的判断有一定指示作用，为了提高模型识别准确率，本文在基线模型 ConRE的基础上，采用 2种不同的方法添加实体类别辅助信息：方法 1直接使用实体类别的名称作 为 辅 助 信 息，拼 接 于 原 句 子 结 尾，并 添 加 符 号“SEP”分割原句与辅助信息，得到模型ConREtype；方法 2引用 Wiki知识库中相关实体类别描述作为语义辅助信息，将拼接辅助信息后的句子输入关系抽取模型，得到模型 ConREtype_description。此时模型训练所得到的v1和v2为额外获得的实体类别语义信息。2.3低资源条件下的用户身份信息聚合方法本文提出的低资源用户信息聚合方法以模型ConRE、ConREtype和 ConREtype_description为基础，添加实体类别辅助信息提升模型识别能力，并且引入度量学习任务提高模型在低资源条件下的鲁棒性。度量学习通过计算实体嵌入与锚点的相似度（或距离）进行分类。这种方法在少样本学习领域得到了广泛的应用，并且大量实验证明，这种方法能显著提高低资源条件下模型的识别能力。引入度量学习任务需要解决以下 3个问题：1）设置锚点。对于分类模型，需要为每一个类别定义一个锚点。锚点的设置是度量学习的关键，其定义某类别样本在高维空间中的投影中心，某样本与该类别的锚点在高维空间中距离越近，表示该样本属于此类别的概率越大；相反地，某样本与其他类别的锚点距离越远，表示该样本属于这些类别的概率越小。为保证锚点在空间中的位置符合共指关系与非共指关系在现实世界中的语义，在暗网用户身份信息集合的场景下，本文参考 Wiki百科手工定制共指关系和非共指关系的语义描述 S1、S2，输入BERT获得描述句子嵌入aS1、aS2，即模型的 2个锚点。计算过程如式（6）和式（7）所示：aS1=BERT(S1)（6）aS2=BERT(S2)（7）2）相似度计算。此处选择内积计算实体嵌入与锚点嵌入的相似度，如式（8）所示，函数d接收实体嵌入和锚点嵌入。d(v1v2)=v1 v2（8）3）修改损失函数，把度量学习任务与原任务组合为多任务模型。此时损失函数由两部分组成，分别是基线模型的二元交叉熵损失L1和度量学习任务的三元损失L2。计算过程见式（9）和式（10）：L1=iNvilb vi（9）L2=iNmax(0d(aS1vi)-d(aS2vi)+)（10）式（11）是加入度量学习后模型的损失函数，由基线模型的交叉熵损失和度量学习的三元损失 2个部分组成，其中，和是超参数，前者用于调节损失占比，后者表示相似度阈值，若空间距离远于阈值，则认定 2个向量不属于同一类别。L3=(1-)L1+L2（11）本文定义共指关系的锚点以aS1表示，非共指关系的锚点以aS2表示，多任务的暗网用户身份信息聚合模型架构如图 2所示。图 2多任务的暗网用户身份信息聚合模型架构Fig.2Architecture of multi-task darknet user identity information aggregation model1912023年 11月 15日Computer Engineering 计算机工程3实验 本文实验对应上文内容验证所提方法的性能。实验分为 3个部分：第一部分使用第 2.1节中提出的基于规则的用户身份信息识别技术，生成数据集Duad；第二部分给出第 2.2节中所提出的基线模型和多个主流的关系抽取模型的性能对比；第三部分对应于第 2.3节的内容，描述本文针对基线模型所提出的改进方法在数据集 Duad上的优化效果。3.1数据集的获取本文通过Tor浏览器提供的接口爬取50 000个暗网初始网页（已去除重复网页和同源网页）。该网页集合需要经过特定的清洗模块，模块去除初始网页多余的图片、HTML标签、网页格式符号后，将其转换为纯文本，方便用于获取用户身份信息及其上下文语境。根据第 2.1 节所提出的基于规则的用户身份信息识别技术，构建相应的自动化规则匹配模块。基于制定的 14种用户身份信息匹配规则，模块依次对每一个纯文本网页执行匹配程序，得到用户身份信息集合。最后，针对匹配模块得到的用户身份信息集合，语料生成模块对属于同一网页的用户身份信息对，即可能属于同一用户的实体对，生成共指关系抽取语料。模块以实体为中心，截取 3 个短句作为其上下文语境，列举同一网页所有用户信息实体，选择任意一个实体ei，将它与同网页另一个实体ej组合，拼接ei和ej对应的上下文得到句子S，S是本文共指关系抽取模型的输入。对所有网页执行以上操作，最终获得 21 531个实体。在所生成的 Duad数据集中，通过某些种类的用户信息难以获取大量训练样本，例如电话号码、门罗币等，Duad 将其归类为其他类别，所有实体类别及其数量如表 2所示。3.2基于共指关系抽取的用户身份信息聚合模型性能本文参考关系抽取领域，使用 F1值作为模型性能的评估指标。F1 值由模型的正确率和召回率决定：正确率也称为查准率，是指所有样本中正确预测为真的样本数量占全部预测为真的样本数量的比例；召回率也称为查全率，是指所有样本中正确预测为真的样本数量占全部实际为真的样本数量的比例；F1值是准确率和召回率的加权平均值。准确率、召回率和 F1值的计算公式如式（12）式（14）所示：PPrecision=TPTP+FP（12）RRecall=TPTP+FN（13）F1=2 PPrecision RRecallPPrecision+RRecall（14）其中：PPrecision表示正确率；RRecall表示召回率；F1表示F1值；TP表示模型预测为真、真实情况也为真的样本数量；TN表示模型预测为真、真实情况为假的样本数量；FP表示模型预测为假、真实情况为真的样本数量；FN表示模型预测为假、真实情况也为假的样本数量。F1值越高，表明模型的性能越好。为 了 证 明 本 文 所 提 出 的 ConRE、ConREtype和ConREtype_description模型能更有效地应对暗网网页用户身份信息聚合这一新的应用场景，本文选择了多种当前流行的关系抽取方法作为对比方法，包括基于卷积神经网络的模型（CNN）、按排名执行分类的卷积神经网络（CR-CNN）32、带注意力机制的双向长短时记忆网络（Att-BiLSTM）。同时，本文也对比了当前先进的关系抽取模型，包括基于双向 Transformer的预训练模 型 LUKE、将 关 系 抽 取 转 换 为 文 本 蕴 含 任 务 的NLI-Roberta模型等在数据集Duad上的性能差异。笔者认为，用户身份信息的类别对共指关系的识别有一定的指示作用。首先，根据对数据集 Duad的统计显示，相同类别的信息对之间共指的比例仅为12%，远远低于不同类别的信息对；其次，某些类别的信息共指的概率更高，如实体对中存在一个邮箱类别的信息则共指概率更高。ConREtype引入实体类别名称，ConREtype_description引入实体类别描述，它们从这些信息中获得类别语义，进而优化共指关系的识别。实体类别信息的引入过程如下，其中，斜体表示用户身份信息实体，加粗表示引入的信息。原样本：“CLSContact us,our email is hackiesecmail.pro,SEPour telegram:https:/tg.me/buydrugs”。引入类别名称 ConREtype：“CLSContact us,our email is hackiesecmail.pro,SEPour telegram:https:/tg.me/buydrugsSEPemail telegram”。引入类别信息描述 ConREtype_description：“CLSContact us,our email is hackiesecmail.pro,SEPour telegram:https:/tg.me/buydrugsSEPemail is a a communication methodtelegram is”。表 3 列出了各模型在训练样本数量分别占总数 据量 10%、5%、2.5%和 1.25%时的 F1 值，其中，训练集占比=（参与训练集的样本数量/总样本数量）100%，下标“type”表示引入用户身份信息类别编号信息的模型，下标“type_description”表示引入用户身份信息类别描述信息的模型。可以看出，当训练样本数量占数据集总量 10%时，CR-CNN、Att-BiLSTM、LUKE 模型均能获得较好的性能。然而，随着训练样本数量的迅速减少，这些方法 F1 值迅速下降。当 训 练 样 本 占 比 从 10%降 到 1.25%时，LUKE模型的 F1 值下降约 25 个百分点，由此可见，越复杂表 2Duad数据集用户身份信息类别及数量 Table 2The category and quantity of user identity information in Duad dataset单位：个实体类别社交平台账号虚拟货币钱包地址个人联系方式其他总数实体数量16 3572 4621 33038221 531192第 49卷 第 11期王雨燕，赵佳鹏，时金桥，等：暗网网页用户身份信息聚合方法的模型对于训练数据量越敏感。ConREtype_description模型在不同训练集中均获得了最佳性能，该结果证明，用户身份信息类别的引入能有效提高用户信息聚合模型在训练样本数量减少时的性能。图 3 为本文工作的一个具体实例，其中展示了一个暗网的毒品销售网页，网页中出现了 4 个用户身 份 标 识 信 息：1）比 特 币 钱 包 地 址“17gLLy NaEsaHuZ9r8XEfbs7kedVexrzasa”；2）比特币钱包地址“3Q2Pt9dD1AVD5Mzr78jUjXZ48CrafWH8Wv”；3）邮箱地址“Email-exampleE”；4）Telegram平台群组链接“https：/tg.me/buydrugs”。根据手工语义分析可知，第 1、2 条信息来自于2位用户在该网页的留言，第 3、4条信息属于网页负责人的联系方式。通过第 1、2条信息所组成的实体对得到的训练样本如图 4所示（彩色效果见 计算机工程 官网 HTML 版）。由于 2条信息实体在网页文本中的实际距离较近，样本中截取的上下文语境有重叠部分，而语境的重叠也是判断实体对是否共指的 特 征 之 一，在 没 有 使 用 信 息 实 体 类 别 特 征 时，ConRE 模型认为该信息实体对共指，加入实体类别信息后，ConREtype和 ConREtype_description模型能学习到相同类别的实体之间共指概率较低，得出该实体对非共指的正确结果。3.3低资源条件下的用户聚合方法暗网网页中通过某些种类的用户身份信息难以获取大量训练样本，为提高模型在低资源条件下的鲁棒性，以作为 ConRE基线模型，分别引入用户身份信息类别、用户身份信息类别描述以及度量学习任务进行优化。在训练集占比为 1.25%的条件下，评估优化后模型的性能。如表 4所示，其中，针对基础模型 ConRE，ConREtype添加用户身份信息类别名称作为辅助信息，ConREtype_description添加用户身份信息类别描述信息作为辅助信息，ConREmul是引入度量学习任务后的多任务关系抽取模型。同时，列出对模型 ConREmul添加了用户身份信息类别名称和用户身份信息类别描述后的结果，分别由 ConREmul+type和ConREmul+type_description表示。可以看出，本文引入的辅助信息和辅助任务均在一定程度上提升了模型的性能，其中，ConREmul+type获得了最佳 F1 值，为 87.03%，相较于基线模型 ConRE提高了 11.98个百分点。4结束语 本文针对同一个暗网网页中的多个用户身份信息，提出一种基于规则的用户信息识别技术，用于自表 3各模型在不同训练集占比情况下的 F1值Table 3F1 value of each model under different training set proportions%模型CR-CNNAtt-BiLSTMLUKENLI-RobertaConREConREtypeConREtype_desc