基于TAO的多线程模型及性能分析.pdf

现代计算机Modern Computer第 29 卷 第 12 期2023 年 6 月 25 日基于TAO的多线程模型及性能分析陈博*（同方股份有限公司科技信息部，北京 100083）摘要：在大规模信息系统以及综合化软件系统中，大量的组件间存在着数量可观的接口调用，需要通过中间件完成组件与组件之间的互联互通互操作。面向基于TAO的多线程模型及其原理，提出了面向各种模型的试验及分析，从模型的性能、资源占用量、场景适用性等多个维度，对各种模型的优缺点进行了详细分析。通过对通信中间件开发开展多线程模型的试验测试及结果分析，能够有效支撑应用开发，为底层通信传输的实现提供更精准的选择与匹配。关键词：计算机技术；TAO；多线程模型；性能分析文章编号:10071423（2023）12004407DOI:10.3969/j.issn.10071423.2023.12.008收稿日期：20230104修稿日期：20230123作者简介：*通信作者：陈博（1985），女，河南开封人，高级工程师，博士，研究方向为人工智能、电子信息与技术、信息化规划与信息系统设计、数字化转型，Email：0引言随着数字经济和数字产业的高速发展，数据已经成为了继土地、人员等之外的第五大生产要素，如何更好地处理、分析、应用海量数据已经成为大规模信息系统以及综合化软件系统所必须面对的问题和挑战。同时，柔性重组、快速响应的软件研发需求也对大规模信息系统中的“组件化”“模块化”的要求日益提升。为了能够更好地响应高并发情况下的数据访问，通过中间件更高效、稳定地完成组件之间的消息传输，实现海量数据的互联互通互操作，需要加强对底部通信中间件的分析和研究，面对不同的应用场景，选择合适的模型。公共对象请求代理体系机构（common object request broker architecture，CORBA）中间件被广泛应用在分布式互联互通，具备强大的“三跨”能力，跨语言、跨操作系统、跨异构平台1。TAO（The ACE ORB）是美国华盛顿大学的 Douglas C.Schmidt教授组织开发的一个实时CORBA平台。它支持的平台包括Win32、各种常见的 Unix/Linux 实时操作系统等2。目前TAO支持命名服务、事件服务、通知服务和交易服务等，合理地应用TAO所提供的这些服务，能够为开发减轻不少负担。1多线程概述线程是指同一个进程中的多个具有并发运行的任务实体。通常在进程模式下，每个进程只有一个主线程，多个线程之间是一种竞争和协作的关系。线程的基本结构如图1所示。文本段数据段堆栈段PCB控制块设备资源文件全局变量静态变量TCB栈寄存器组Thread（1）TCB栈寄存器组Thread（n）.图 1线程结构从图1可以看出，线程切换的代价较低，因为每次线程切换只需要保存线程栈、线程私有的寄存器组，以及线程专有存储区信息。但是多线程的应用同时也带来很多其他的问题，44陈博：基于TAO的多线程模型及性能分析第12期包括资源竞争和同步，其解决方法通常会极大地影响到应用的性能和响应性，一般采用的解决方案有临界区（Critical Section）、竞争条件（Race Condition）和锁（Lock），其中线程安全函数指的是该函数不会改变应用的状态，因为该函数没有使用全局变量、静态变量和文件等。多线程安全函数指的是该函数是线程安全的，而且考虑到了多线程之间的并发性，即多个线程可以同时执行，彼此互不影响，从而不影响应用的整体性能。在面向对象计算模型中，封装特性可以简化多线程编程的复杂性。2TAO的多线程结构TAO目前主要有三种多线程模式：Reactive线程模式、面向连接的线程模式和线程池模式34。在 TAO ORB 中，应用服务（Servants）采用的线程模式取决于两个因素：ORB底层线程模 式 和 可 移 植 对 象 代 理 策 略（portal objectadapter strategies，POA）线程策略。ORB底层线程模式决定了ORB响应用户请求及给客户请求分派处理线程的方式，这种模式是运行时通过配置相应的启动参数而制定的，即启动服务方式；而POA线程策略是指这些请求线程如何进入POA并激发伺服对象的方法，是在创建POA时通过create_policies（）制定的5。2 2.1 1ORBORB底层线程模式底层线程模式2 2.1 1.1 1ReactiveReactive线程模式线程模式Reactive线程模式（TAO的默认模式）的基本思想是，在该模式下，ORB只能有一个线程来处理用户请求。ORB只有一个监听进程负责监听所有的用户请求，这些请求被分派给服务线程处理。一旦客户请求和服务线程绑定，就可能执行，并在处理完此请求之后，再处理其他请求。对于后续的请求，监听线程直接放到请求队列，请求队列满后会拒绝客户请求。该线程模式体系结构如图2所示。根据该模型的特点，其主要应用场景主要包括以下两种：（1）请求处理的时间相对固定；（2）此模型配置和编程简便，通常应用在开发的初始阶段和接口测试阶段。请求处理的方式主要包括以下五种：（1）请求按接收顺序处理；（2）可能导致无限期的延时：后续的请求会被阻塞，直到当前的请求处理完毕；（3）服务可不考虑并发性：由于后续请求不是并发处理的，开发人员可以简化服务中的同步问题，简化了代码的开发；（4）某些锁（Locks）可解除，从而提高系统吞吐量；（5）可扩展性有限：随着并发用户增加，延时必然增加。ServerGIOP/IIOPQueueListener图 2单线程模式2 2.1 1.2 2面向连接的多线程模式面向连接的多线程模式（ThreadperThreadperConnectionConnection ConcurrencyConcurrency）在该模式中，ORB为每个来自客户的连接创建一个线程，专门负责处理来自该连接的所有请求。对于来自同一连接的所有请求，遵循FIFO的原则进行串行化处理，如果当前线程繁忙，后续的请求放在相应队列。该模型的体系结构如图3所示。ServerGIOP/IIOPQueue图 3面向连接的多线程模型根据该模型的特点，其主要应用场景主要包括以下三种：（1）多个客户同时并发访问，系统并发处理客户请求；（2）请求处理是计算密集的；45现代计算机2023年（3）来自不同的请求相互独立。请求处理的方式主要包括以下六种：（1）如果有n个客户连接，则系统有n+1个由ORB创建和管理的线程；（2）来自不同连接的请求进行并发处理，来自同一个连接的请求串行化处理，而且必须被同一个线程处理；（3）来自不同连接的请求不会被来自其他连接的请求阻塞；（4）由于来自不同的请求要并发执行，因此开发者要引入锁等设置临界区；（5）由 ORB为每个连接创建的线程不是采用激活器（Reactor）来接收和分发请求，只是简单的阻塞和读取，因此这些线程需要周期地唤醒来检查ORB是否已关闭；（6）扩展性不高，随着并发连接数的增加，线程也在增加，从而增加了对资源的占用。2 2.1 1.3 3线程池线程池模型模型（Thread PooThread Pool l）该模型是前两个模型的折中，启动时由服务自己创建相应一组线程，这组线程遵循Leader/Follower的设计模式来响应客户请求。对于每个客户请求，ORB从系统选择Leader的线程来处理，同时一个Follower线程成为新的Leader，如此循环。每次客户发出请求就试图从线程池中选择出合适的线程来处理该请求，如果线程池没有空闲线程，该请求被放到请求队列，等待空闲线程。该模型的体系结构如图4所示。ServerGIOP/IIOPQueue图 4线程池模式此外，客户端也可以采用多线程模式，从而一方面改善客户端的交互性，另一方面使得实现AMI或混合ClientServer系统成为可能。通过配置合适的策略，在面向连接的多线程模型中，单客户端模拟出多个连接。根据该模型的特点，其主要应用场景主要包括以下四种：（1）多个客户的请求可以同时处理，是前两种模型的折中方案；（2）多个线程用来专门处理用户请求；（3）多个请求可能来自同一个连接，这个连接是发起于一个多线程化的客户端，该客户端采用multiplexing技术要求这些请求并发地执行；（4）请求处理是计算集中。请求处理的方式主要包括以下四种：（1）线程数是由应用程序自身控制的；（2）服务开发者必须负责进程的创建，临界资源的保护，并且负责处理应用的消息循环；（3）所有请求都是并发处理，无论来自哪个连接，所有请求部分来源，一律平等；（4）具有较好的扩展性。2 2.2 2POAPOA多线程策略多线程策略（POA StrategiesPOA Strategies）POA多线程策略主要有三种：ORBControlledModel，SinglethreadModel和MainthreadModel6。在ORBControlled Model中，POA对并发控制没有任何限制，完全取决于ORB底层的多线程模式，从而把对线程的控制完全交给了ORB。伺服对象可能被并发访问，为了程序的正确性，开发者必须确保对象的线程安全，对相应的临界资源进行保护。在Singlethread Model中，每个POA每次只允许存在一个活动线程，也就是在一个POA中同一时刻只能有一个伺服对象被访问。如果同时有多个请求，它们必须串行化处理，因此需要一个请求等待队列。在该模式下，一个伺服对象仍然有可能被并发访问，如果一个对象同时在多个POA中注册，虽然不推荐该操作，因此开发者也要保证伺服对象的线程安全。Mainthread Model类似于Singlethread Model，只是所有的线程必须在主线程中执行，而且所有的请求都串行地指派到主线程化的POA，并在ORB层由POA来串行化处理请求。3实验方案影响多线程应用性能的因素主要有以下几个方面：应用类型。应用类型可以从资源利用上分为两大类：IO密集型和计算密集型。IO密集型主要是网络通信和 DBMS操作等，计算密集型主要涉及到图形运算等。应用面向的客户群体及其行为，即并发特性。在高并发度 46陈博：基于TAO的多线程模型及性能分析第12期的应用中，多线程有利于提高系统的整体响应能力，占用较少的系统资源，充分发挥系统硬件的潜能。应用程序的运行环境，即支撑系统。在多处理器系统中，多线程可以有效地分解任务，在多个处理器上并发处理，从而大幅度地提高系统性能。然而在单处理系统上，应用不一定从多线程中获益，例如计算密集的应用；此外大量的互斥锁可能使应用退化到单线程模式，还增加了解/封锁的代价。考虑到具体的实验环境和应用，本文确定如下实验方案。3 3.1 1实验方案及步骤实验方案及步骤ACE/TAO是CORBA标准的实现版本，主要目标是实现异构系统之间的互操作性，因而面向网络通信的应用是IO密集型的。ACE/TAO提供了三种线程模式：单线程模式（Reactive 模式）、面 向 连 接 的 多 线 程 模 式（ThreadPer Connection）和 ThreadPool 模式，每种线程模式适用于不同的应用。为了评估各种线程模式的特点和性能，本文实验方案包括两个部分：模拟实验（模拟应用类型：IO密集型和计算密集型）；数据库访问实验。3 3.1 1.1 1模拟实验模拟实验采用模拟实验的原因主要有以下三点：在多线程应用中，小量并发请求无法发挥多线程的优势，达不到测试实验的要求；现实中搭建一个大规模实验平台，无法进行步调一致的操作，只能通过软件技术来模拟并发主体的行为，实际上很多大型的测试工具都是在局域网中通过多线程技术来模拟大规模的用户；实验结果尽管具有一定的偏差，但还是能在很大程度上客观地再现实际应用环境，结果有一定参考性。本实验中，服务程序在一台主机（普通的PC机）上运行，在两台 PC上模拟并发用户群。服务程序模拟两类应用：IO密集型应用，这是通过发送大规模的数据来模拟的，而且服务程序分别实现了以上三种线程模型；计算密集应用，是通过运行 100000次加法来简单的模拟。一个客户程序模拟10个客户行为，一台PC机可以同时运行多个客户程序。具体实验方案如下：（1）通过IDL语言描述服务器提供的服务接口。服务接口是连接客户和应用的代理层，主要负责把请求发送到具体的应用，等待处理结果并返回。采用多线程模式的服务接口要求确保线程安全，要引入并发处理机制，如锁、互斥体等。/IDL接口定义module teststruct MsgStruct/消息结构类型long num；string str；typedef sequence MsgSeq；/sequence消息类型/消息发送/接收接口interface Message boolean sendMsg1（inout MsgStruct msg）；/处理结构类型的消息boolean sendMsg2（inout any msg）；/处理ANY类型的消息boolean sendMsg3（inout MsgSeq msg）；/处理SEQUENCE类型消息，大规模的批量数据传输boolean sendMsg4（inout long num）；/处理简单类型的消息（2）服务器：实现相关服务接口，处理用户请求。ACE/TAO支持三种线程模型，因此本实验基于以上 IDL接口实现了三种线程模型，对于Thread Pool线程模式，服务器在启动时开5个后台服务线程。（3）客户端：通过服务接口调用相应的服务，发出请求。（4）多线程的服务器只有在大规模的分布式应用下，才能发挥出它的性能。因此，考虑到实际实验环境，实验在PC机上通过线程模拟多个并发客户。因为客户规模对系统的性能也有巨大的影响，因此，实验分别模拟了10个客户端、20个客户端、30个客户端和40个客户端同时对服务器进行并发访问的情况。3 3.1 1.2 2数据库访问实验数据库访问实验因为仍然需要模拟大规模的并发用户，该方案基于方案一开展，是模拟实验的具体化。实验方法如下：（1）实 现 数 据 库 访 问 服 务：该 服 务 在CORBA的框架上提供ORACLE数据库访问的服 47现代计算机2023年务方法（通过IDL定义数据服务接口，并实现），也提供了三种实现方式，支持不同的线程模式；（2）客户程序：客户端不断地插入新的数据，属于IO密集类型的操作。客户程序运行于不同的PC上模拟并发用户的行为。本实验分别模拟了10、20、30和40个并发用户的行为。3 3.2 2实验环境实验环境PC机：DELLG280，1 GB Memory，P4 3.0 CPU，160 GB Hard Disk；软件环境：Windows 2000 SP5，Oracle 92，ACE/TAO 1.3a，VC6.0；网络：100 M Adaptor Ethernet Card，Catalyst2900 Series XL Switch。4实验结果和数据处理为了减小实验结果的误差，方案一实验以客户端连续发出10000次请求所需要的总时间为度量单位；方案二实验在客户端执行10000次INSERT 操作的总时间为度量单位。每个实验重复五次，并采用算术平均算法尽可能地消除误差，平均值记为实验的结果，最后通过Origin7.0根据实验结果绘制趋势图。平均响应时间/s并发客户数20018016014012010080604010152025303540Reactive Thread ModelThreadPerConnectionThread Pool图 5不同规模的并发度对系统性能的影响（IO密集型）本组实验每次发送较大规模的数据（每次发送864 Bytes，服务器也返回864 Bytes），模拟的是IO密集型数据通信。从图5可以看出在并发规模较小的情况下，这三种模式相差不大，随着并发客户规模的不断增加，差距渐渐明显（介于10%40%之间）；但是当并发规模达到一定的度，性能的差距又逐渐减小。主要原因分析如下：在Reactive中，只有一个服务线程，随着并发客户的增加，必然会增大负载，在单处理器系统下会导致整体响应时间的急剧下降；在ThreadPerConnection模型中，每个连接有一个线程专门处理，在并发度低的应用中具有较好的效能，相对于 Reactive 模型，占用较多的资源，而且线程不能无限制地衍生出来，因而该模型的扩展性也不强。平均响应时间/s并发客户数201816141210864210152025303540Reactive Thread ModelThreadPerConnectionThread Pool图 6不同规模的并发客户对系统性能的影响（计算密集型）Thread Pool 模型是二者的中和，即考虑了系统的整体性能，也考虑了系统资源的限制；该模型相对于Reactive模型改善了系统的响应时间，同时也通过约束资源的无限扩张，增强了系统的扩展性。在Thread Pool模式下，系统启动时创建一个线程池，为所有并发用户共享；对于每个请求，系统从该线程池中选择一个空闲线程为它服务，服务完成又放回线程池，因此要进行频繁的线程上下文切换，引入了线程上下文切换的代价，性能通常介于其它两种模型之间。这 组 实 验 是 模 拟 计 算 密 集 型 的 应 用，Thread Pool 模型表现最好，而且有差距（介于20%44之间），其他两种模型相差无几，部分说明了多线程模型在计算密集型应用种未必获益（ThreadPerConnection 模式的性能表现体现了创建新线程的代价）。据相关的技术文档，在单处理器系统中，计算密集的应用未必能从多线程模型中获益。可能原因分析如下：模拟计算复杂度不够；由于 IDL接口实现相对简单，仅有少量的同步机制；实验是基于 48陈博：基于TAO的多线程模型及性能分析第12期ACE/TAO通信平台，其中的通信代价是相对固定的，计算代价相对于通信代价可能过小，而且除了Reactive模式的其他线程模型可以并发地响应多个请求，而Reactive模式必须等待当前请求处理完毕才能响应下一个请求。图 7揭示了在并发用户模式下的系统稳定性，是从更微观的角度来分析多线程的性能表现；图5是通过平均值从整体上来评价系统的性能，从而抹去了系统的个体行为特点。每次响应时间/s实验序号74727068666462605856545250484644424012345Reactive Thread ModelThreadPerConnectionThread Pool并发用户数=10图 7多并发用户模式下系统的抖动性由图7显示，在基于Reactive模型的服务中，并发客户的个体响应时间具有较大的波动，系统表现出强烈的抖动现象，使得有些用户要很长的时间才能得到响应，导致系统的整体响应能力下降；而基于其他两种模型的应用，系统波动性较小，改善了系统的响应能力。并发度为10时的数据随着并发度的提高，基于三种模式的系统抖动性都在提高，但是 Reactive 模式的抖动性更加明显。本组实验是针对数据库应用而进行的，有两个目标，首先是确定在多线程模式下的数据库应用的表现，其次是验证模拟实验的结果。从图8可以看出，多线程模式（ThreadPerConnection&Thread Pool）优 于 单 线 程 模 式（Reactive），ThreadPerConnection 模式相对于 Reactive 模式性能有一定比例的提升：CD为10、20、30、40对 应 的 提 升 比 例 依 次 为 21.3%、31.1%、32.24%、13.6%，而且基本与模拟实验一致，但是性能增加的比例有些偏差，模拟实验与实际系统有一定的差别。平均响应时间/s并发客户数10080604020010152025303540Reactive Thread ModelThreadPerConnectionThread Pool图 8数据库并发访问的性能5结语根据实验结果，多线程在IO密集性的应用具有优越的整体性能，对于单个并发客户具有较快的响应时间，系统稳定性较好。但是在计算密集型应用中，多线程虽然有一定的提高，并没有表现出绝对的优势。在实验中，ThreadPerConnection模型具有最好的性能，但是以消耗大量资源为代价的，而且系统的资源有限，因而扩展性不强，仅适合小并发度的应用。Thread Pool模型在资源和性能上可找到一个平衡点，即满足性能的需求，也能满足有限资源的约束，具有强扩展性，适合高并发度的应用。但同时引入了另一个问题，几个服务线程才能达到系统性能的最优化，即线程池的大小，目前的很多建议都是基于经验值。总的来说，本实验中多线程应用具有良好的性能，在IO密集型应用更为明显。多线程的良好性能离不开ACE/TAO的线程模型体系结构和线程本身的特点，是由二者共同所决定的。参考文献：1 吕浩，刘文科.一种 CORBA 中间件通信时延性能优化方法 J.现代导航，2021，6（3）：227231.2 朱其亮，郑斌.CORBA原理及应用 M.北京：北京邮电大学出版社，2001.3 Object Management Group.The common object request broker：architecture and specification S，2001.4 Object Computing，Inc.TAO developers guideM.Netherlands：Remedy IT，2003.5 SCHMIDT D C，VINOSKI S.Introduction toCORBA messaging J.C+Report，1998，10：209.6 HENNING M，VINOSKI S.基于C+CORBA 高级编程 M.徐金梧，徐科，吕忠民，等译.北京：清华大学出版社，2000.（下转第103页）49余飞扬等：基于Python的数据分析软件设计与实现第12期法分析及其应用研究J.数学的实践与认识，2012，42（7）：93100.7 刘思峰，蔡华，杨英杰，等.灰色关联分析模型研究进 展J.系 统 工 程 理 论 与 实 践，2013，33（8）：20412046.8 林海明，杜子芳.主成分分析综合评价应该注意的问题 J.统计研究，2013，30（8）：2531.9 FAKOOR R，MUELLER J，ERICKSON N，et al.Fast，accurate，and simple models for tabular data viaaugmented distillationCProceedings of the Advances in Neural Information Processing Systems（NIPS），2020，33：86718681.10 刘耀，罗泽.基于 AutoML 的保护区物种识别 J.计算机系统应用，2019，28（9）：147153.Design and implementation of data analysis software based on PythonYu Feiyang*,Yang Hengjie（School of Mathematics and Physics,Chengdu University of Technology,Chengdu 610059,China）Abstract:In the information age,the importance of data analysis is selfevident.Based on Python to implement a data analysissoftware“DataPie”.Software interface development based on Qt has good platform compatibility.The functions of the software canbe divided into four modules:data processing,data analysis,matrix analysis and model solving.The main functions that users canuse are descriptive statistics,statistical test,solving linear programming,matrix calculation and AutoML.The design orientation ofthe software is to quickly solve the problems related to data processing and calculation that are difficult for users to solve throughnon-programming methods.The software is easy to operate and stable,and has certain practical application reference value.Keywords:data analysis;auto machine learning;Python;QtMultithreaded model and performance analysis based on TAOChen Bo*（Tongfang Co.,Ltd.,Ministry of Science and Technology Information Beijing 100083,China）Abstract:In largescale information systems and integrated software systems,there are a considerable number of interfacecalls between a large number of components,and it is necessary to complete the interconnection and interoperability between components through middleware.Aiming at the multithreaded model based on TAO and its principle,the experiment and analysis ofvarious models are proposed,and the advantages and disadvantages of various models are analyzed in detail from multiple dimensions such as model performance,resource occupation,and scenario applicability.Through the experimental testing and resultanalysis of multithreaded models for communication middleware development,it can effectively support application developmentand provide more accurate selection and matching for the implementation of underlying communication transmission.Keywords:computer technology;TAO;multithreaded model;performance analysis（上接第49页）103