一种基于M范数惩罚项的线性化ADMM算法.pdf
《一种基于M范数惩罚项的线性化ADMM算法.pdf》由会员分享,可在线阅读,更多相关《一种基于M范数惩罚项的线性化ADMM算法.pdf(6页珍藏版)》请在咨信网上搜索。
1、Advances in Applied Mathematics 应用数学进展应用数学进展,2024,13(4),1637-1642 Published Online April 2024 in Hans.https:/www.hanspub.org/journal/aam https:/doi.org/10.12677/aam.2024.134155 文章引用文章引用:王博冉.一种基于 M 范数惩罚项的线性化 ADMM 算法J.应用数学进展,2024,13(4):1637-1642.DOI:10.12677/aam.2024.134155 一种基于一种基于M范数惩罚项的线性化范数惩罚项的线性化
2、ADMM算法算法 王博冉王博冉 中央民族大学理学院,北京 收稿日期:2024年3月25日;录用日期:2024年4月22日;发布日期:2024年4月29日 摘摘 要要 ADMM算法是求解两块可分凸优化问题的经典算法,主要思想是在增广拉格朗日乘子法的基础上,利用算法是求解两块可分凸优化问题的经典算法,主要思想是在增广拉格朗日乘子法的基础上,利用目标函数关于两块变量的可分性,降低了求解子问题的计算难度。当增广拉格朗日函数中的惩罚项是目标函数关于两块变量的可分性,降低了求解子问题的计算难度。当增广拉格朗日函数中的惩罚项是M范数时,求解子问题往往较为困难。因此,我们在增广拉格朗日函数的基础上,通过增加一
3、个半正定或范数时,求解子问题往往较为困难。因此,我们在增广拉格朗日函数的基础上,通过增加一个半正定或正定的临近项,将正定的临近项,将M范数的惩罚项变为范数的惩罚项变为2范数的惩罚项,这样,就可以很快得到子问题的闭形式解。该方范数的惩罚项,这样,就可以很快得到子问题的闭形式解。该方法同时具备弱化的惩罚项的条件和半正定临近项的优势,具有更广的适用性和更高的求解效率。这种改法同时具备弱化的惩罚项的条件和半正定临近项的优势,具有更广的适用性和更高的求解效率。这种改进的新算法可以看成临近点算法,它的收敛性易于分析,且无需要较强的假设条件。实验结果表明,新进的新算法可以看成临近点算法,它的收敛性易于分析,
4、且无需要较强的假设条件。实验结果表明,新算法和其他几种主流的高效算法相比,新算法是可行的。算法和其他几种主流的高效算法相比,新算法是可行的。关键词关键词 变分不等式,交替方向乘子法,临近点算法,全局收敛性变分不等式,交替方向乘子法,临近点算法,全局收敛性 A Linearized ADMM Algorithm Based on M-Norm Penalty Terms Boran Wang College of Science,Minzu University of China,Beijing Received:Mar.25th,2024;accepted:Apr.22nd,2024;publ
5、ished:Apr.29th,2024 Abstract The ADMM algorithm is a conventional strategy for solving two separable convex optimization problems.Its fundamental idea is to use the objective function on the basis of augmented Lagrangian multiplier method,reducing the computing burden of addressing subproblems.When
6、the penalty term in the augmented Lagrangian function is M-norm,it is generally more difficult to solve subprob-lems.As a consequence of augmented Lagrange function,we shift the penalty term of the M-norm to the penalty term of the 2-norm by adding a semipositive definite or positive definite proxim
7、ity 王博冉 DOI:10.12677/aam.2024.134155 1638 应用数学进展 term,allowing us to rapidly find the closed form solution of the subproblem.This approach has the advantages of a weaker penalty term and a semipositive definite proximity term,which allows for a broader range of applications.This improved new algorit
8、hm can be viewed as a proximity point algorithm,which is easy to analyze in terms of convergence and does not require strong assumptions.Experimental results show that the new algorithm is feasible compared to several other mainstream efficient algorithms.Keywords Variational Inequality,Alternating
9、Direction Method of Multipliers,Proximity Point Algorithm,Global Convergence Copyright 2024 by author(s)and Hans Publishers Inc.This work is licensed under the Creative Commons Attribution International License(CC BY 4.0).http:/creativecommons.org/licenses/by/4.0/1.引言引言 本文考虑如下具有线性约束的可分凸优化问题:()()min,
10、f xg y AxByb xX yY+=(1)其中1nfRR:和2ngRR:是凸函数(但不一定光滑),121,m nm nnmARBRbRXR和2nYR是闭凸集。众所周知,交替方向乘子法是求解(1)的有效方法,该方法最早由 Gabay 和 Mercier,Glowinski 1以及 Marrocco 2提出,该方法是一种求解具有可分离的凸优化问题的重要方法,由于其收敛速度快、收敛性能好,在求解可分离凸优化问题上具有简单、灵活、实用性强的特点,可以将大规模问题拆分成两个甚至多个小规模的子问题,随后交替求解各个小规模子问题,从而提高了求解的速率,其优势在于利用对偶上升算法的可分离性,后来被广泛研究
11、与应用。为了提高 ADMM 的适用性,一些学者提出了许多改进的 ADMM 方法。He 等人在文献3中提出了不定临近线性化 ADMM。Gao 4提出了如下一个带不定临近正则项的线性化 ADMM。Fang 5将增广Lagrange 函数中的惩罚项采用 M-范数,M 是一个是对称正定矩阵。将 2-范数形式改进为 M-范数形式,弱化了惩罚项的条件。因为 2-范数形式的惩罚项是矩阵范数 M-范数的一种特殊形式,所以 M-范数的使用范围更广。基于上述讨论,本文结合半正定临近项和基于 M-范数的惩罚项,提出了一种求解可分凸优化问题(1)的基于 M-范数惩罚项的带半正定临近项的线性化 ADMM 算法。新方法在
12、 y-子问题中引入了一个半正定临近项,进而将 M-范数惩罚项转化为 2 范数惩罚项。该方法同时具备弱化的惩罚项的条件和半正定临近项的优势,具有更广的适用性和更高的求解效率。针对所提出的算法,本文基于变分不等式和最优化理论给出了严格的收敛性分析以及收敛速率分析,并通过数值实验验证了算法的有效性。2.一种基于一种基于 M 范数惩罚项的范数惩罚项的 ADMM 算法算法 假设:nfRR+和:ng RR+是合适的、闭的、凸函数。本文提出的算法如下:算法 1.一种基于 M 范数惩罚项的 ADMM 算法 Open AccessOpen Access王博冉 DOI:10.12677/aam.2024.1341
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 一种 基于 范数 惩罚 线性化 ADMM 算法
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【自信****多点】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【自信****多点】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。