基于PSO-XGBoost机器学习模型的中老年人PCNL术后结石残留预测研究.pdf

24 China Digital Medicine.2023,Vol.18,No.8基于 PSO-XGBoost 机器学习模型的中老年人PCNL 术后结石残留预测研究唐圣晟 刘泓泽 李琳 罗云汉 廖芝美 周毅【摘要】目的：基于粒子群优化算法（PSO）的 XGBoost 模型（PSO-XGBoost）预测中老年患者经皮肾镜碎石术（PCNL）后的泌尿系统结石残留情况。方法：选取 2014 年 1 月至 2018 年 12 月在某三级甲等医院接受PCNL 治疗的 596 例中老年肾结石患者为研究对象。将数据集按 7:3 的比例随机分为训练集和测试集，建立PSO-XGBoost 模型，以准确度、精准度、召回率、F1 值和 ROC 曲线下面积（AUC）等指标评估模型性能。结果：PSO-XGBoost 模型预测 PCNL 术后泌尿系统结石残留的准确度、精准度、召回率、F1 值和 AUC 均优于支持向量机、近邻算法、决策树和 BP 神经网络模型。结论：PSO-XGBoost 模型可更快、更准确地预测中老年患者 PCNL 术后是否有泌尿系统结石残留，为制定术后个性化治疗、护理方案提供参考。【关键词】机器学习；XGBoost 模型；粒子群优化算法；肾结石；经皮肾镜取石术Doi:10.3969/j.issn.1673-7571.2023.08.005【中图分类号】R691.4;R319 Research on the prediction of residual stone after PCNL surgery in middle-aged and elderly patients based on PSO-XGBoost machine learning modelTANG Shengsheng,LIU Hongze,LI Lin,LUO Yunhan,LIAO Zhimei,ZHOU Yi.Zhongshan School of Medicine,Sun Yat-sen University,Guangzhou 510080,Guangdong Province,ChinaCorresponding author:ZHOU Yi,Email:.【Abstract】Objective To predict the kidney stone residue in middle-aged and elderly patients after percutaneous nephrolithotomy(PCNL)by the XGBoost model(PSO-XGBoost)based on particle swarm optimization algorithm(PSO).Methods A total of 596 middle-aged and elderly patients with kidney stone who received PCNL at a Grade-A Tertiary hospital from January 2014 to December 2018 were selected for this study.The dataset was randomly divided into the training set and the test set at a ratio of 7:3,the PSO-XGBoost model was established,and the performance was evaluated by accuracy,precision,recall,F1 score,and AUC(area under the curve).Results The accuracy rate,precision rate,recall rate,F1 score and AUC of PSO-XGBoost model outperformed those of other models,including support vector machine,nearest neighbor algorithm,decision tree and BP neural network model.Conclusion The PSO-XGBoost model can predict the presence of kidney stone residue after PCNL in middle-aged and elderly patients more quickly and accurately,which can provide reference for making personalized treatment and nursing plans after PCNL.【Keywords】Machine learning;XGBoost model;Particle swarm optimization algorithm;Kidney stone;Percutaneous nephrolithotomy基金项目：国家重点研发计划（2022YFC3601600，2021YFC2009400）；广州市科技计划项目（202206010028）；广东省科技创新战略专项（202011020004）；2023大学生创新创业训练项目（202310657）作者单位：510080 广州，中山大学中山医学院通信作者：周毅，Email：专题策划人工智能在医药领域的应用Special Planning中国数字医学2023 第 18 卷 第 8 期 25结石是泌尿系统常见病症，全球发病率呈逐年增长的趋势。2020 年中国泌尿外科和男科疾病诊断治疗指南1显示，中国成年人泌尿系统结石的患病率为1%5%，每 10 万 人 中 每 年 新增患者 150 200 例，与美国、泰国为世界范围内 3 个结石高发 区2-3。结石病在中老年人群发病率较高，虽然中老年人是由功能或损伤来定义的，而不仅仅是年龄，但通常 45 岁的个体被认为是中年人，65 岁的个体被认为是老年人。与年轻患者相比，中老年人非生理性疾病（如麻醉下手术干预）的发病率和死亡率更高4。经皮肾镜碎石术（percutaneous nephrolithotomy，PCNL）是 目 前治疗肾结石的主要手术方式，具有效果好、创伤小、恢复快等优点5。虽然 PCNL 治疗肾结石的残留率相对较低，但并非所有患者都能达到理想的治疗效果。调查6显示，只有 7.9%的患者可以通过尿液逐渐排出结石，92.1%的患者术后结石仍会缓慢增长，需要二次手术。近年来，随着机器学习和人工智能技术的发展，基于大数据和深度学习的疾病预测方法已广泛应用于临床医学领域，尤其是预测模型的构建7-9。Hung 等7提出一种处理自动性能指标的新型机器学习方法，以评估手术性能并预测机器人辅助根治性前列腺切除术的临床结果。Bartsch等8利用机器学习算法，筛选出与预后相关的主要基因，预测膀胱癌经尿道膀胱肿瘤切除术后的 5 年复发率。机器学习算法预测碎石残留方面也有较多研究10-13。Aminsharifi等10首先使用机器学习方法预测PCNL 的效果，研究发现与当前的评分系统相比，机器学习方法的预测结果更胜一筹，AUC 达 0.915。Shabaniyan 等11基于多重分类器开发了预测肾结石术后结果决策支持系统，预测准确率达 94.8%。相比传统的统计方法，机器学习具有灵活性和可伸缩性的优势，且能很好地处理多变量交互及共线性问题。因此，利用机器学习算法开发一种准确、可靠的 PCNL 术后结石残留预测方法，对于指导临床治疗和提高患者生活质量具有重要意义。1 资料与方法1.1 一般情况选择2014年1月至2018年12月 在某三级甲等医院泌尿外科接受PCNL 治疗的肾结石患者 596 例，其中男 328 例，女 268 例；年龄4583 岁，平均（57.348.13）岁。回顾性分析所有患者治疗期间的一般临床资料，以患者的性别、年龄、既往同侧手术史、结石和肾脏特征等 25 项指标为变量，分析 PCNL术后结石残留的影响因素。1.2 方法1.2.1 XGBoost 模型 XGBoost（eXtreme GradientBoosting）是一种极限梯度 提升算法，其目标函数由训练损失函数和正则化项组成。XGBoost 模型不是一次性训练出所有的决策树，而是通过逐步添加新的决策树优化目标函数，以残差的形式不断进行迭代，最终构建预测模型。给定数据集，和分别为 PCNL 术结石残留相关特征和结局变量，则模型可表示为式（1）：(1)式中，为预测值；为回归树数量；为第棵回归树预测样本的值。XGBoost 模型在传统损失函数的基础上通过引入模型复杂度来衡量算法的运算效率，其目标函数为式（2）：(2)其中，为训练误差，为训练样本的数量；为正则化项，表示树的复杂度，用于控制模型计算效率，避免过拟合，其定义为式（3）：(3)式中，为叶子结点的惩罚系数；为正则项系数；和分别为第 棵树的叶子数目和权重；为第 个叶子的权重系数。XGBoost 采用贪心算法搜寻最优的树结构，每次选取增益最大的分割点进行分裂，增益为式（4）：(4)式中，G 为信息增益，等式右侧 4 项依次表示分割方案的左子树分值、右子树分值、不分裂情况下的分值和复杂度正则化惩罚系数。当树达到了深度限制或所有节点分裂方案出现G0时，树停止分裂。专题策划人工智能在医药领域的应用Special Planning26 China Digital Medicine.2023,Vol.18,No.81.2.2 粒子群优化算法（particle swarm optimization,PSO）PSO是一种基于群鸟觅食行为的最优化决策方法。该方法通过模拟鸟群寻找最佳觅食区域的过程实现最优化决策。整个鸟群的觅食活动总体上向全局最优解所在的觅食区域移动，通过不断迭代、速度更新以及鸟群觅食位置的不断变化，鸟群逐渐靠近最优位置14。根据待优化的参数取值范围，构建 N 维空间，并设置 M 个粒子以实现最优位置的搜索。每个粒子的位置被随机生成，其速度初始化为 0。在每一次的搜索过程中，计算每个粒子的适应度值，判断当前位置是否为全局最优或个体最优位置。记录每个粒子的最优位置，所有粒子最优位置中的最优解即可作为整个粒子群的最佳位置。每次搜索后，根据式（5）更新粒子的速度和位置：(5)其中分别为局部和全局最优位置。是调整局部最优值和全局最优值权重的参数。是 0,1 的随机数，是约束因子。是一个非负数，称为惯性因子，当的取值较大的时候，PSO 的全局搜索能力较好；而取值较小的时候，局部能力较好。1.3 建模1.3.1 Boruta 特征选择算法 变量选择是提高模型预测能力和降低计算复杂度的关键步骤。Boruta 算法是一种基于树模型的变量选择方法，可以克服树模型在计算变量重要性时存在的随机性和显著性检验的缺陷。该算法综合考虑多个变量之间的相互作用，筛选出与模型性能显著相关的变量15。其核心思想是通过对比真实特征变量和随机生成的变量（称为阴影变量）的重要性，判断哪些特征是有意义的。具体操作流程如下。（1）构造阴影变量。随机打乱患者25项真实特征构成的矩阵R，得到阴影特征矩阵 S，并将其与特征矩阵 R 拼接，形成新的特征矩阵 M=R,S。（2）以新的特征矩阵 M 作为输入，利用 XGBoost 模型进行训练和评估，输出各特征的重要性。（3）以阴影变量的重要性最大值为阈值，将真实特征中低于该值的特征视为不重要的特征。（4）剔除不重要的特征，并重复上述步骤，直到所有真实特征都被判定为重要或不重要，从而得到最优特征子集。1.3.2 建模过程 经过特征筛选后，从总体样本中随机抽取 70%的样本（n=417 例）作为训练集，剩余30%的样本（n=179 例）作为测试集。为避免参数调优过程中出现的投机性和计算量大等问题，本研究将 PSO 算法和 XGBoost 模型结合起来，在训练集上进行训练。对XGBoost 模型的主要超参数，包括决策树个数、学习率、最小叶子节点样本权重和、树的最大深度、节点分裂所需的最小损失函数下降值等进行了优化取值，以提高模型的预测性能。PSO-XGBoost 模型的具体构建方法和步骤如下。首先，定义评估函数，该函数将 XGBoost 分类器的参数作为输入，并返回相应参数下的分类器在验证集上的性能评估指标，例如准确度、AUC 值等，本研究将 XGBoost 分类器的参数解析为字典，并用该字典创建一个分类器，然后在训练集上拟合分类器，并在测试集上评估分类器的准确度和 AUC，以此评估 PSO 算法对于 XGboost 分类器的优化效果。其次，指定模型每个参数的下限和上限、初始解以及粒子群大小和最大迭代次数。最后，在 PSO 算法模型中，设置初始粒子种群数为 100，粒子种群的维度 D 计算为30，最大迭代次数设置为 50 次，学习率为 0.3。PSO-XGBoost 算法建模流程见图 1。采用准确度、精确度、召回率、F1 值以及 AUC 指标评估所建立的预测模型和粒子群优化算法优化后模型的性能。2 结果2.1 特征筛选与优化结果根据特征在两组间的差异是否具有统计学意义进行初步筛选，再运用 XGBoost 算法结合 Boruta 算法得到最优特征子集。经过筛选，最优特征子集包含了 5 个特征，分别为术前尿培养结果、结石负荷、结石数量、结石 CT 值、鹿角形肾结石。利用所选特征建立 XGBoost模型，然后使用PSO算法进行优化，得到模型最优参数值如下：决策树专题策划人工智能在医药领域的应用Special Planning中国数字医学2023 第 18 卷 第 8 期 27开始数据预处理应用Boruta算法特征选择划分训练集和测试集初始化建立XGBoost预测模型计算适应度更新粒子速度和位置是否满足终止条件利用最佳超参数在训练集上训练XGBoost模型利用测试集进行测试结束否是个数为 50、学习率为 0.253、最小叶子节点样本权重为 2、树的最大深度为 2、节点分裂所需的最小损失函数下降值为 0.141。2.2 模型性能比较比 较 支 持 向 量 机（support vector machine,SVM）、近邻算法（K nearest neighbors,KNN）、决策树（decision tree,DT）、BP（back propagation）神经网络以及本研究PSO-XGBoost 模型在目标患者标签分类预测中的表现。采用 Python进行建模、训练和测试，并记录真正例、假正例、假反例及真反例的样本数。为确保模型的稳健性，使用各算法的默认值在测试集上进行100 次训练，统计各模型评价指标的平均值，结果见表 1。可以看出，相比 KNN、DT、BP 神经网络模型，PSO-XGBoost模型的预测准确度、精确度、召回 率、F1 值、AUC 均 有 大 幅 提高；SVM 模型较 PSO-XGBoost 模型在精确度上略高 5%，但召回率、F1 值较 PSO-XGBoost 模型低25%40%。精确度高、召回率低，说明 SVM 模型将大量负样本预测为正样本表示，从而提高了精确度，降低了召回率。图 2 为 各 模 型 ROC 曲 线 以及 模 型 评 价 指 标 雷 达 图，PSO-XGBoost 模型的 ROC 处于最接近1 的位置，而其 AUC 也到达 0.925，说明该模型预测的准确率高。3 讨论泌尿系统结石严重威胁中老年患者的健康，PCNL 是其主要治疗手段之一，但部分患者术后仍有结石残留，需要再次治疗，增加了医疗成本、并发症风险及患者痛苦。中老年患者可能患有多种慢性疾病，如高血压、糖尿病等，而影响手术治疗的效果。因此，准确预测术后结石残留对于评估术后转归、选择后续治疗方案以及术后护理非常重要。本研究结合粒子群优化算法和XGBoost 算法构建机器学习模型，具备快速且准确地分析和预测大量临床数据的能力，通过综合分析患者的病史、临床检查结果以及手术相关因素等信息，可有效预测中老年患者 PCNL 术后结石残留的可能性，为医生提供可靠的数据参考。根据该模型的预测结果，医生能更准确地评估中老年患者是否存在结石残留及其可能残留的程度，从而针对性地制定术后治疗方案，提高治疗效果和患者的生活质量。此外，该模型还能为患者提供个性化的护理方案。若预测结果显示患者存在较高的结石残留风险，医护人员可以加强对患者的监测和护理，及时处理并预防潜在的并发症。本研究显示，高结石负荷、CT 值、结石为鹿角形状、尿培养阳性与 PCNL 术后高结石残留率密图 1 PSO-XGBoost 算法建模流程表 1 各模型评价结果模型准确度精确度召回率F1 值AUCSVM0.7820.8320.4070.5510.859(0.803 0.915)KNN0.7870.7690.5080.6120.830(0.783 0.895)BP 神经网络0.7570.7300.5200.6070.742(0.730 0.863)DT0.7700.6950.5420.6090.694(0.605 0.780)PSO-XGBoost0.8880.7810.8250.7930.925(0.838 0.947)专题策划人工智能在医药领域的应用Special Planning28 China Digital Medicine.2023,Vol.18,No.8切相关。分析其原因，是因为高结石负荷意味大结石体积，手术难度和时间增加，术后结石排出难度较高；研究显示，结石为鹿角形结石患者结石残留率高达 35%16。而尿培养阳性与感染、并发症和炎症相关，也增加了结石残留风险。因此，医生手术决策前应综合考虑上述因素，制定安全有效的治疗方案和术后管理方案。本研究采用回顾性设计，可能产生选择偏倚。此外，数据来源于同一中心，样本量相对较小，需要进行多中心研究以评估外部有效性。下一步计划进行前瞻性随机临床试验和多中心研究，以更好地消除偏倚，增加研究结果的可靠性。4 结论本研究提出了一种基于粒子群优化算法的 XGBoost 模型，用于预测中老年患者 PCNL 后的泌尿系统是否残留结石。该方法通过优化 XGBoost 模型中的决策树个数、学习率、最小叶子节点样本权重、树的最大深度以及节点分裂所需的最小损失函数下降值等超参数，实现对模型的优化求解。该过程不仅保留了 XGBoost模型高准确率和强抗噪声能力等特点，还融合了粒子群优化算法的优势，显著提升了 XGBoost 模型的效率。与 SVM、KNN、DT、BP 神经网络等模型相比，PSO-XGBoost 模型的预测性能具有明显优势，能够更准确预测中老年患者PCNL 术后结石残留的可能性，为医生提供更可靠的决策依据，有助于实现个性化医疗，提高治疗效果并降低医疗方案成本。未来，将借助更大规模的数据集对模型进行进一步验证和完善，以提高预测的精度和泛化能力。参考文献1 黄健.中国泌尿外科和男科疾病诊断治疗指南M.北京:科学出版社,2020:237,244-248.图 2 各模型 ROC 曲线以及模型评价指标雷达图362;*%RRVW$8&690$8&.11$8&7$8&%3$8&(a)PSO-XGBoost 模型(b)SVM 模型(c)KNN 模型(d)DT 模型(e)BP 模型(f)模型比较雷达图专题策划人工智能在医药领域的应用Special Planning中国数字医学2023 第 18 卷 第 8 期 292 ZENG G,MAI Z,XIA S,et al.Prevalence of kidney stones in China:an ultrasonography based cross-sectional studyJ.BJU Int,2017,120(1):109-116.3 ABUFARAJ M,XU T,CAO C,et al.Prevalence and trends in kidney stone among adults in the usa:analyses of national health and nutrition examination survey 2007-2018 dataJ.Eur Urol Focus,2021,7(6):1468-1475.4 M A G E R R,B R A U E R S C,KUROSCH M,et al.Outcomes for geriatric urolithiasis patients aged 80 years compared to patients in their seventiesJ.Eur Urol Focus,2022,8(4):1103-1109.5 W U Y,X U N Y,L U Y,e t a l.Effectiveness and safety of four tract dilation methods of percutaneous nephrolithotomy:a meta-analysisJ.Exp Ther Med,2020,19(4):2661-2671.6 ALTUNRENDE F,TEFEKLI A,STEIN R J,et al.Clinically insignificant residual fragments after percutaneous nephrolithotomy:medium-term follow-upJ.Journal of Endourology,2011,25(6):941-945.7 HUNG A J,CHEN J,CHE Z,et al.Utilizing machine learning and automated performance metrics to evaluate robot-assisted radical prostatectomy performance and predict outcomesJ.J Endourol,2018,32(5):438-444.8 BARTSCH G J R,MITRA A P,MITRA S A,et al.Use of artificial i n t e l l i g e n c e a n d m a c h i n e learning algorithms with gene expression profiling to predict recurrent nonmuscle invasive urothelial carcinoma of the bladderJ.J Urol,2016,195(2):493-498.9 李琳,杨日东,王哲,等.基于机器学习方法的原发性肝癌患者预后预测研究J.中国数字医学,2019,14(3):34-37.10 AMINSHARIFI A,IRANI D,TAYEBI S,et al.Predicting the postoperative outcome of percutaneous nephrolithotomy with machine learning system:software validation and comparative analysis with Guys Stone Score and the CROES NomogramJ.J Endourol,2020,34(6):692-699.11 SHABANIYAN T,PARSAEI H,AMINSHARIFI A,et al.An artificial intelligence-based clinical decision support system for large kidney stone treatmentJ.Australas Phys Eng Sci Med,2019,42(3):771-779.12 毛钤镶,承垠林,赖聪,等.基于机器学习的经皮肾镜碎石取石术结石残留研究J.生物医学工程研究,2021,40(2):114-120.13 韩刚,卢鹏飞,陈珊黎,等.基于PSO-RF的冠状动脉粥样硬化性心脏病预测模型研究J.中国数字医学,2022,17(4):56-61.14 王祖铭,李永刚,马雪中,等.基于粒子群优化算法随机森林模型的体外冲击波治疗泌尿系统结石疗效预测研究J.医疗装备,2023,36(5):22-26,31.15 ZHAO L,SUN Y K,XUE S W,et al.Identifying boys with autism spectrum disorder based on whole-brain resting-state interregional functional connections using a boruta-based support vector machine approachJ.Front Neuroinform,2022,16:761942.16 BAGRODIA A,GUPTA A,RAMAN J D,et al.Predictors of cost and clinical outcomes of percutaneous nephrostolithotomyJ.J Urol,2009,182(2):586-590.【收稿日期：2023-06-15】（责任编辑：刘慧铭）专题策划人工智能在医药领域的应用Special Planning