一、利用优序列方法证明牛顿下降法在一般条件下的收敛性（论文文献综述）
陆东[1]（2021）在《Newton-Steffensen型迭代在广义Lipschiz条件下的收敛性研究及其应用》文中认为本文研究一种Newton-Steffensen型迭代在广义Lipschitz条件下的半局部和局部收敛性,得到了该迭代法的三阶收敛性.所得结论果推广了有关文献的收敛性结果.具体陈述如下:在第一章中,简要介绍了近些年Newton及其变形在求解非线性方程的部分研究工作.此外,介绍了后继所需的相关预备知识.在第二章中,应用优序列法研究了Newton-Steffensen型迭代法在广义Lipschitz条件下的半局部收敛性,得到了相应的收敛判据及新的误差估计.作为特例,得到了在L-平均Lipschitz条件的收敛结果,进而可得在经典Lipschitz条件和λ-条件下的收敛结果,此外也得到了在H?lder条件的新的结果.在第三章中,应用优序列法研究了Newton-Steffensen型迭代法在广义Lipschitz条件下的局部收敛性,得到了H?lder条件下新的局部收敛结果,推广了相关的结果.第四章中,通过计算一种二阶非线性边值的问题来验证所得理论结果的有效性.
陈秀芳[2]（2021）在《几类新的混合共轭梯度法》文中认为无约束优化问题的理论与方法在生活中的用处随处可见。近年来,求解大规模无约束优化问题的方法也层出不穷。本文以共轭梯度法为线索,在已有文献的基础上,修改共轭系数和谱系数公式,提出三类新方法,分别是谱共轭梯度法、修改的DY共轭梯度法和一类三项混合共轭梯度法,具体安排如下:首先,本文在景书杰等人的研究思路上进行延拓,基于PRP公式修正共轭梯度算法,提出新的共轭系数和谱系数公式。在两种线搜索下,证明所提算法的全局收敛性,并进行相应的数值实验,结果表明,本文的共轭梯度法更有效,能解决绝大部分测试问题。其次,基于经典的DY公式和原有文献的思想,提出一类修改的DY共轭梯度法。在精确线搜索下,本文的两个参数和DY公式等价,通过多个测试函数的数值实验,并与文献[59]的方法作对比,得出结论是本文的CDY1和CDY2方法更有效。最后,本文深受JHJ法和N法的启发,提出一类修正的三项混合共轭梯度法,即HCF法。特定条件下,HCF方法是FR、DY、WYL、MHS、MHS和YWH方法中的一种情况,针对以上几种情况,本文中进行详细讨论。类似于前面两章的分析,相比JHJ法和N法,本文的HCF法更有效,具备良好的数值性能。对全文的工作进行总结,并提出下一步可以开展的工作。
余弦[3]（2020）在《基于控制器动态线性化的数据驱动迭代学习控制及应用》文中认为本论文以一类未知非线性非仿射离散时间重复系统为被控对象,研究基于控制器动态线性化的数据驱动迭代学习控制方法,给出系统化的学习控制器结构设计和学习控制器参数自动整定途径,讨论学习控制系统设计和分析的若干问题,并通过仿真和实验进行验证。本文的主要研究内容和创新点总结如下:一、针对不同复杂程度的未知单入单出非线性非仿射离散时间重复被控对象,研究四种基于控制器动态线性化的数据驱动迭代学习控制方法。首先,基于未知非线性理想学习控制器,分别给出沿迭代轴紧格式、偏格式和全格式动态线性化以及沿迭代轴和时间轴2维全格式动态线性化的四种学习控制律。其次,借助被控对象沿迭代轴方向的等价数据模型,仅利用被控对象的量测输入输出数据,采用类牛顿优化方法实现学习控制增益沿迭代轴方向的自动整定。然后,结合伪偏导数和伪梯度的估计律,形成四种数据驱动迭代学习控制方法,并在2-范数意义下证明所提控制方法沿迭代轴方向的逐点收敛性。最后,数例仿真和对比分析验证所提控制方法的有效性。二、针对上述未知单入单出非线性重复系统,引入径向基函数神经网络（radial basis function neural network,RBFNN）,逼近期望学习控制增益参数,增强所提数据驱动迭代学习控制方法跟踪被控对象非线性的能力。首先,基于沿迭代轴全格式动态线性化的学习控制律和被控对象等价数据模型,采用最速下降方法分别完成网络权重矩阵参数的自适应估计和被动对象未知信息的估计,并给出基于RBFNN的改进型数据驱动迭代学习控制方法。然后,理论分析证明所提控制方法在2-范数意义下沿迭代轴方向的逐点一致最终有界性。最后,利用数例仿真和高速列车模型仿真,验证所提控制方法的有效性和适用性。三、针对不同复杂程度的未知多入多出非线性非仿射离散时间重复系统,研究两种基于控制器动态线性化的数据驱动迭代学习控制方法。首先,针对未知非线性多入多出理想学习控制器,分别采用沿迭代轴方向的紧格式和偏格式动态线性化方法,给出两种对应的学习控制律,并证明其存在性。然后,基于被控对象的等价数据模型,利用最速下降方法,分别完成学习控制律中伪雅克比矩阵和伪分块雅克比矩阵沿迭代轴方向的自适应整定,该方法避免了采用类牛顿优化方法带来的矩阵求逆问题。其次,结合被控对象的伪雅克比矩阵估计算法,形成两种数据驱动迭代学习控制方法,并在一般范数意义下证明所提两种控制方法沿迭代轴方向的逐点收敛性。最后,数例仿真和龙门直线电机实验验证所提两种控制方法的有效性和应用性。四、以未知非线性非仿射离散时间重复异构多智能体系统为被控对象,针对前述基于单个智能体提出的数据驱动控制方法,不能处理每个智能体的动力学与通讯拓扑之间的相互关联对全局控制目标的影响,研究基于控制器动态线性化的数据驱动分布式领导者-跟随者迭代学习一致性跟踪控制问题。首先,以图论为基础,给出三种基于未知非线性分布式理想学习控制器的等价学习控制律,即沿迭代轴紧格式、偏格式和全格式动态线性化的分布式学习控制律,并给出存在性证明。其次,结合每个智能体的等价数据模型,仅利用智能体的邻近局部量测信息,通过类牛顿优化算法,在分布式控制目标框架下完成学习控制增益沿迭代轴方向的分布式自动整定,并形成三种数据驱动分布式迭代学习控制方法。理论分析表明提出的三种分布式控制方法可以保证所有智能体的跟踪误差在迭代独立和迭代变化通讯拓扑下沿迭代轴方向的逐点收敛性。最后,数例仿真和永磁直线电机多智能体系统仿真验证所提三种分布式控制方法的有效性和适用性。
王路遥[4]（2020）在《可分离非线性最小二乘及其在空间坐标转换参数解算中的应用》文中指出非线性最小二乘是最优化问题的一个重要分支,随着电子计算机的发展和应用,非线性最优化理论和方法有了很大发展。在测量平差、变形监测、神经网络等领域中经常需要进行模型的参数估计或数据拟合,这两类问题的数学模型一般根据来源与实际工程的应用都是有特殊形式的,其中,若模型结构是非线性函数的线性组合,称这一类问题为可分离非线性最小二乘问题。本文围绕可分离非线性最小二乘解算过程中参数分离的变量投影算法（Variable Projection,VP）的改进、非线性参数估计的迭代算法以及应用进行研究,其主要研究内容包括以下几个方面:（1）针对可分离非线性最小二乘参数分离过程中,非线性函数构成矩阵计算的复杂性问题,基于满秩分解、QR分解、奇异值分解、施密特正交化等矩阵分解方法对变量投影算法进行改进,通过矩阵分解,简化参数分离过程中矩阵的运算,提高计算效率;（2）针对非线性方程组解算过程中的迭代方法分析了信赖域法和Levenberg-Marquardt算法基本原理,并通过Mackey-Glass时间序列模拟实验和北京54坐标系与WGS84坐标系之间的转换模型参数求解实验,对比了两种迭代算法的优缺点;（3）将基于施密特正交分解改进的变量投影算法应用到空间直角坐标转换参数的求解问题,分别采用传统参数不分离的方法、经典变量投影法（VP）、基于满秩分解的VP算法、基于QR分解的VP算法、基于奇异值分解的VP算法和基于施密特正交化的VP算法进行解算,并在计算时间、迭代次数、函数计算次数以及残差平方和等方面进行算法对比。论文围绕可分离非线性最小二乘解算过程中变量投影算法的改进,参数估计迭代算法进行研究参数估计优化问题的求解,考虑可分离非线性最小二乘问题的特殊结构,设计出比直接采用一般非线性最小二乘算法更有效的解算方法,并结合大地测量中存在的可分离非线性模型问题,进行了解算方法的应用研究。本文结合可分离非线性最小二乘问题的结构特点,通过基于矩阵分解改进的变量投影算法将模型中的线性参数用非线性参数表示,进而转化为仅含非线性参数的最小二乘问题,并采用信赖域法和Levenberg-Marquardt算法对非线性参数进行优化估计。通过模拟实验和真实实验数据对改进的变量投影算法进行验证与分析,实验结果表明在解算结果精度一致的条件下,不同改进后的变量投影算法在迭代次数、函数计算次数和计算效率等方面有不同程度的提升。
孟木子[5]（2020）在《基于MEMS多层梁结构工艺偏差的不确定性量化研究》文中研究说明随着微电子机械系统（MEMS,Micro-Electro-Mechanical System）设计复杂度日益增加,使得精确的工艺控制越来越困难,而工艺偏差带来的MEMS器件几何尺寸和力学参数的不确定性,可能导致器件的工作状态以及性能参数与设计目标产生偏离。为了实现稳健的MEMS工程设计和最佳决策,需要借助高效的随机性求解器（Stochastic Solvers）来量化不确定性对复杂系统性能的影响。因此,不确定性量化分析在器件的设计初期将可能出现的工艺偏差考虑进来,以实现MEMS结构性能参数和良率的准确预测,并提出优化设计方案,研发出对工艺偏差敏感度低且高良率的器件,以缩短开发周期和降低生产成本。本论文主要研究MEMS多层薄膜梁结构工艺偏差下的不确定性量化问题,将基于Pizeo MUMPs工艺的三层悬臂梁和双层双端固支梁作为研究对象,提出随机工艺偏差下多层梁谐振频率的不确定量化算法,同时将不确定性量化算法应用到力学参数在线提取研究中,为MEMS薄膜结构的优化设计提供指导。本论文的主要工作包括:第一,从多层梁弹性理论着手,结合不同类型多层薄膜梁的边界条件,建立了多层微机械薄膜双端固支梁和悬臂梁谐振模型,随后利用有限元仿真工具COMSOL证明了该模型的合理性和准确性。同时,针对谐振模型的精确解和近似解之间的误差精度作出比较,发现模型的近似对大尺寸梁的谐振特性有着较小的影响,为了兼顾数值计算的时间和精确度,本文针对大尺寸梁采用近似模型,而小尺寸梁仍然使用精确模型,为多层梁谐振频率的不确定性量化提供了理论基础。第二,随机工艺偏差下多层梁谐振频率的不确定性量化研究以三层悬臂薄膜梁作为研究对象,由于近似解析公式的精度不同,研究分成两个方向,大尺寸梁选择显性而且可解析的近似表达式,而小尺寸梁使用不可直接求解的偏微分方程,分别采用多维多项式插值拟合算法（PIF）和随机重心插值配点法（SBICM）作谐振频率的不确定性分析,所得结果与蒙特卡罗仿真进行了对比验证,高效且准确地预测出谐振频率的概率密度分布情况和良率。同时,为了提高小尺寸梁的良率,针对尺寸参数提出设计优化方案,有效地提高了该工艺线上结构的成品率。第三,以双层双端固支梁作为研究对象,在不破坏测试结构的条件下提出MEMS结构力学参数在线提取算法。在不考虑多层梁膜厚工艺偏差的情况下,改进后的牛顿下山法（OND）解决了迭代过程中内存溢出问题,加快了收敛的速度,提高了迭代的效率和精度。考虑多层梁膜厚工艺偏差的影响,将OND算法与PIF算法相结合,成功地预测出双层双端固支梁各层材料杨氏模量和残余应力的随机分布。最后,针对在线提取算法和多层梁测试结构做出优化,可以得到更加精确的在线提取结果以及稳定的测试结构。
陈玉全[6]（2020）在《分数阶梯度下降法基础理论研究》文中认为随着工程技术的发展,“优化”的思想已经渗入到各行各业,很多科学和工程问题可以转化为“最优化”问题,如实际系统的数学建模、最优控制以及神经网络训练等等。梯度下降法因结构简单、稳定性好且易于实现,在求解各类优化问题中扮演着重要的角色。分数阶微积分作为整数阶微积分的自然推广,在实际工程应用中尤其在分数阶系统建模方面发挥着重要的作用。近些年,学者们把分数阶微积分引入到梯度优化算法的设计当中,发现分数阶梯度下降法有着更加优越的性能,并取得了一些成功应用。然而现有研究尚处于起步阶段,理论基础尚不完善,因此本学位论文将从分数阶梯度方向、分数阶系统理论和分数阶随机扰动三个角度出发进行分数阶梯度下降法的全面研究,初步建立起分数阶梯度下降法的理论框架,为有关应用打下坚实的基础。首先基于分数阶梯度方向,提出了迭代初始值策略,设计了可以收敛到真实极值点的分数阶梯度下降法。接着根据分数阶微分的级数表示,对其进行截断,得到了适用于一般凸函数的截断分数阶梯度下降法,分析了算法的收敛特性,并将算法推广至（0,2）阶和向量情形。进一步地,引入了分数阶利普希茨连续梯度和分数阶强凸的概念,并针对符合条件的凸函数,提出了分数幂梯度下降法并分析了其收敛特性。接着给出了一般梯度下降法的系统表示,并根据分数阶传递函数,设计了分数阶梯度下降法,给出了稳定性分析。进一步地,借鉴有限时间控制思想设计了有限时间梯度下降法,可以保证在有限时间内收敛到极小值点。在此基础上,设计了两类鲁棒有限时间梯度下降法,其收敛时间对初始条件有着极强的鲁棒性。考虑到加速梯度法在加速的同时会引起超调和振荡,借鉴重置思想,提出了重置梯度下降法,有效削弱了振荡现象并明显加快了算法的收敛速度。最后为了提高梯度下降法的全局收敛能力,提出了列维扰动梯度下降法,通过把列维扰动分解为大步长扰动和小步长扰动,证明了其在多极值点间的马尔科夫转移特性。接着提出了截断列维扰动梯度下降法,避免了小步长扰动分析的困难,并弱化了马尔科夫转移特性成立的条件。进一步地,提出了安排跳跃点扰动梯度下降法,使得大步长跳跃的频率大大增加,提高了算法的全局搜索能力。
李亚敏[7]（2019）在《几类谱共轭梯度法》文中研究说明谱共轭梯度法是求解大规模无约束优化的一种新的迭代算法,它的基本思想是将谱梯度方法和共轭梯度法结合起来.由于算法简单有效,存储需求小,对二次函数是R-超线性收敛的等优点,逐渐受到人们的关注和研究.本文在前人研究成果的基础上,构造了三种不同形式的谱共轭梯度法.首先,本文在文献[37]中已提出的共轭系数βkRMIL+的基础上引入谱系数δk,得到一个新谱共轭参数βkSN公式,从而构造了一个新的谱共轭梯度法.并且新方法的搜索方向在任何线搜索下都是充分下降的.在标准Wolfe线搜索下,证明了新公式构成的算法的全局收敛性.其次,本文在文献[37]中共轭系数βkRMIL+和文献[32]中共轭系数βk*的基础上给出了βk的一个新的选取.该算法每次迭代时总能自动下降,并且此性质既不依赖于所使用的线搜索,也不依赖于目标函数的凸性.并结合Armijo线性搜索,在一般假设条件下,研究了该算法的全局收敛性.最后,本文受已有文献成果的启发,改进谱系数θk,并在已有共轭系数βkRMIL公式的基础上,构造一个新谱共轭梯度法.新算法不依赖于任何线搜索满足着名的共轭条件:dkTyk-1=0,且新算法在任何线搜索下都是充分下降的.在修正的Wolfe线性搜索下验证了该算法的充分下降性和全局收敛性.
朱红兰[8]（2019）在《分式模型信赖域方法研究》文中指出信赖域方法是非线性优化的一类重要的数值计算方法.该方法有很好的稳定性和很强的收敛性.传统的信赖域算法主要是利用二次模型来逼近目标函数,然而对于非二次性态强、曲率变化较为剧烈的函数,逼近的效果往往不是很好.针对这一缺陷,Davidon首先提出了锥函数.使用锥模型去逼近的效果可能好于二次模型,但其水平向量参数只有一个,这会影响其搜索方向的选择.因此,本文考虑二次模型和锥模型的推广形式—分式模型.它含有三个水平参向量,在充分利用以前迭代过程中的函数信息基础上,可以通过恰当选择这三个水平向量使其满足更多的插值条件,从而更好地逼近原目标函数.当迭代点接近极小点时,分式模型退化为二次模型,从而保留了二次模型在极小点附近收敛快的优点.本文主要研究了分式模型信赖域算法及其在最优化问题中的应用.首先,我们提出了一类含三个参向量的新模型—分式模型,通过控制参量的选取简化分式模型信赖域子问题,并在拟牛顿方向上求解,进而提出了求解无约束优化问题的分式模型信赖域拟牛顿算法.然后,在此基础上深入研究分式模型信赖域子问题的Newton点和最速下降点,从而建立简单折线法求解无约束优化问题的信赖域子问题,数值实验表明分式模型信赖域拟牛顿算法随着优化问题维数的增加,无论是迭代次数还是运行时间都似乎优于锥模型信赖域算法.对于线性等式约束优化问题,利用零空间技术去掉线性等式约束,提出了求解线性等式约束优化问题的分式模型信赖域方法.其次,我们还将分式模型用于求解非线性等式约束优化问题.通过循环固定模型的的分式系数部分,将等式约束优化的分式模型信赖域子问题转化为一个简单的一维二次模型子问题求解,得到了求解子问题的新的近似解方法.在此基础上,我们提出了基于子问题新解法的等式约束问题的拟牛顿算法,证明了算法的收敛性并与锥模型算法进行了数值对比实验.数值结果表明新算法更稳定、有效.最后,对于无约束优化问题,基于交替方向搜索法我们在两个相互正交的方向上分两步搜索求得新锥模型信赖域子问题的一个近似解,提出了解无约束优化问题的新锥模型信赖域算法.数值结果表明新算法明显优于用单折线法求解锥模型信赖域子问题的算法.在此基础上,我们还考虑到参向量一般取下降方向的这一性质,因此通过增加假设条件来简化计算,改进的新算法不但计算简单而且有好的计算效果.
王慧婷[9]（2018）在《几种混合共轭梯度法及其全局收敛性》文中研究说明共轭梯度法凭借其存储需求小、算法简单等优点,成为求解大规模无约束优化问题的主要方法之一.共轭梯度法避免了最速下降法收敛速度慢和牛顿法计算量大等缺点,深受学者们的关注.近年来,学者们对共轭梯度法的研究取得了很多的成果,但也有不足的地方.本文在学者们研究的基础上,对混合共轭梯度方法进行了改进,提出了三种混合非线性共轭梯度方法.目前,共轭梯度法不仅是解决大型线性方程组最有用的方法之一,也是求解大型非线性最优化问题最有效的算法之一,它主要包括经典共轭梯度法、修正的共轭梯度法、混合共轭梯度法、谱共轭梯度法和三项共轭梯度法.首先,本文提出一种新的混合βk公式,从而给出一种新的混合共轭梯度法,利用精确线搜索步长规则,并在适当的假设下证明了新算法的下降性和全局收敛性.其次,基于Jia等人改进的混合公式βkMmix和Rivaie等人提出的公式βkRMIL,本文给出一类新的混合βk公式,从而得到了一种具有充分下降性的混合共轭梯度法,并给出了该算法在Goldstein线搜索下的收敛性证明.最后,受NVPRP*方法和DHS方法的启发,本文把该思想推广到βkRMIL上,得到公式βkNEW,再结合JMJ方法,提出了一种新的混合共轭梯度方法.并在Wolfe线性搜索下,得到了该方法的下降性和收敛性.
张艳[10]（2016）在《广义方程若干算法的收敛性分析》文中提出本文主要研究广义方程的求解问题.对非光滑型广义方程,提出了精确和非精确的非光滑型算法,同时在一定的假设条件下,分析了算法的收敛性；对于光滑的欠定型广义方程,提出了广义高斯-牛顿迭代法,分析了其收敛性.主要内容分两章.在第二章中,结合文[64]中广义牛顿迭代法和文[50]中广义Jacobian-based牛顿迭代法,提出求解非光滑型广义方程的精确和非精确算法.这些算法都是用广义Jacobian矩阵代替Frechet导数得到的.在函数半光滑的条件下,对这两种算法我们分别给出不同的假设条件,证明了算法的半局部收敛性包括线性收敛,超线性收敛,平方收敛以及l+p阶收敛.进一步,在证明算法的局部收敛性结果的同时,给出了解的存在性和唯一性结果.最后,将精确方法应用于变分不等式问题,同时举出一个具体的例子进行数值实验,数值结果说明了精确算法的可行性和收敛性.在第三章中,我们考虑欠定型广义方程,即：函数的Frechet导数所对应的矩阵为行满秩的情形.由于在此情形下,用广义牛顿迭代法得不到唯一的迭代点,因此我们考虑广义高斯-牛顿迭代法,即求每一步迭代过程中范数最小的解.考虑到对大规模问题,用精确的算法求解范数最小的解时难度比较大,所以我们只考虑函数的Frechet导数所对应的矩阵为行满秩的情况.由于函数是光滑的,且我们是在有限维空间内进行研究,这就保证了迭代过程中广义方程范数最小解的存在性,同时也说明我们的算法是良定义的.在Frechet导数满足经典Lipschitz条件下,结合优函数的技巧,得到了Kantorovich型定理,同时得到了其局部收敛性结果.进一步,当函数条件减弱为满足L-平均的Lipschitz条件下,证明了算法的半局部收敛性和局部收敛性.最后,作为应用我们将结果应用于一些特殊情形,如：函数满足经典的Lipschitz条件时得到了Kantorovich型准则；函数满足γ-条件下的收敛结果和函数在解析条件下的Smale点估计定理.
二、利用优序列方法证明牛顿下降法在一般条件下的收敛性（论文开题报告）
（1）论文研究背景及目的
此处内容要求：
首先简单简介论文所研究问题的基本概念和背景，再而简单明了地指出论文所要研究解决的具体问题，并提出你的论文准备的观点或解决方法。
写法范例：
本文主要提出一款精简64位RISC处理器存储管理单元结构并详细分析其设计过程。在该MMU结构中,TLB采用叁个分离的TLB,TLB采用基于内容查找的相联存储器并行查找,支持粗粒度为64KB和细粒度为4KB两种页面大小,采用多级分层页表结构映射地址空间,并详细论述了四级页表转换过程,TLB结构组织等。该MMU结构将作为该处理器存储系统实现的一个重要组成部分。
（2）本文研究方法
调查法：该方法是有目的、有系统的搜集有关研究对象的具体信息。
观察法：用自己的感官和辅助工具直接观察研究对象从而得到有关信息。
实验法：通过主支变革、控制研究对象来发现与确认事物间的因果关系。
文献研究法：通过调查文献来获得资料，从而全面的、正确的了解掌握研究方法。
实证研究法：依据现有的科学理论和实践的需要提出设计。
定性分析法：对研究对象进行“质”的方面的研究，这个方法需要计算的数据较少。
定量分析法：通过具体的数字，使人们对研究对象的认识进一步精确化。
跨学科研究法：运用多学科的理论、方法和成果从整体上对某一课题进行研究。
功能分析法：这是社会科学用来分析社会现象的一种方法，从某一功能出发研究多个方面的影响。
模拟法：通过创设一个与原型相似的模型来间接研究原型某种特性的一种形容方法。
三、利用优序列方法证明牛顿下降法在一般条件下的收敛性（论文提纲范文）
（1）Newton-Steffensen型迭代在广义Lipschiz条件下的收敛性研究及其应用（论文提纲范文）
| 摘要 |
| Abstract |
| 第1章 绪论 |
| 1.1 研究背景 |
| 1.2 预备知识 |
| 1.3 论文的组织 |
| 第2章 一种Newton-Steffensen迭代的半局部收敛性 |
| 2.1 主要结论 |
| 2.2 预备引理 |
| 2.3 定理2.1的证明 |
| 第3章 一种Newton-Steffensen迭代的局部收敛性 |
| 3.1 主要结论 |
| 3.3 定理3.1的证明 |
| 第4章 数值算例 |
| 总结 |
| 参考文献 |
| 致谢 |
| 攻读学位期间取得的科研成果 |
（2）几类新的混合共轭梯度法（论文提纲范文）
| 摘要 |
| abstract |
| 注释表 |
| 第1章 绪论 |
| 1.1 选题的背景及研究意义 |
| 1.2 无约束优化问题的描述 |
| 1.3 几类线搜索技术 |
| 1.4 本文主要工作及以后各章的安排 |
| 1.4.1 本文的主要工作 |
| 1.4.2 各章的安排 |
| 第2章 各种方法的概述 |
| 2.1 非线性共轭梯度法的研究 |
| 2.2 谱共轭梯度法的研究 |
| 2.3 混合共轭梯度法的相关研究 |
| 2.4 本文的基本假设和重要引理 |
| 2.5 本章小结 |
| 第3章 wolfe线搜索下两种新的共轭梯度法 |
| 3.1 引言 |
| 3.2 建立两种新算法 |
| 3.2.1 共轭梯度法的全局收敛性 |
| 3.2.2 谱共轭梯度法及其全局收敛性 |
| 3.3 数值实验 |
| 3.4 本章小结 |
| 第4章 两种修改的DY混合共轭梯度法 |
| 4.1 引言 |
| 4.2 两种新的DY共轭梯度算法 |
| 4.2.1 CDY1 算法的充分下降性和全局收敛性 |
| 4.2.2 CDY2 算法的充分下降性和全局收敛性 |
| 4.3 数值实验 |
| 4.4 本章小结 |
| 第5章 一类新的三项混合共轭梯度法 |
| 5.1 前言 |
| 5.2 HCF法 |
| 5.3 HCF法的充分下降性及全局收敛性 |
| 5.4 数值实验 |
| 5.5 本章小结 |
| 第6章 总结与展望 |
| 6.1 全文工作总结 |
| 6.2 未来工作展望 |
| 参考文献 |
| 攻读学位期间发表的学术论文和研究成果 |
| 致谢 |
（3）基于控制器动态线性化的数据驱动迭代学习控制及应用（论文提纲范文）
| 致谢 |
| 中文摘要 |
| ABSTRACT |
| 1 绪论 |
| 1.1 引言 |
| 1.2 迭代学习控制研究基础 |
| 1.2.1 迭代学习控制基本原理及发展现状 |
| 1.2.2 迭代学习控制方法及若干重要问题 |
| 1.3 多智能体系统的分布式控制 |
| 1.3.1 分布式控制 |
| 1.3.2 分布式迭代学习控制 |
| 1.3.3 分布式数据驱动迭代学习控制及若干重要问题 |
| 1.4 动态线性化技术 |
| 1.4.1 非线性系统时间轴动态线性化 |
| 1.4.2 非线性重复系统迭代轴动态线性化 |
| 1.4.3 非线性控制器时间轴动态线性化 |
| 1.5 主要工作及结构安排 |
| 1.5.1 论文主要工作 |
| 1.5.2 论文结构安排 |
| 2 SISO非线性离散时间系统的数据驱动迭代学习控制方法 |
| 2.1 引言 |
| 2.2 理想学习控制器的动态线性化 |
| 2.2.1 迭代轴紧格式动态线性化方法 |
| 2.2.2 迭代轴偏格式动态线性化方法 |
| 2.2.3 迭代轴全格式动态线性化方法 |
| 2.2.4 2维全格式动态线性化方法 |
| 2.3 SISO学习控制系统的设计与分析 |
| 2.3.1 基于ICFDLlc的数据驱动ILC方法及收敛性分析 |
| 2.3.2 基于IPFDLlc的数据驱动ILC方法及收敛性分析 |
| 2.3.3 基于IFFDLlc的数据驱动ILC方法及收敛性分析 |
| 2.3.4 基于2DFFDLlc的数据驱动ILC方法及收敛性分析 |
| 2.4 仿真研究 |
| 2.4.1 四种迭代学习控制方法对比仿真分析 |
| 2.4.2 LLCs、权重和迭代步长因子的选取 |
| 2.4.3 典型数据驱动控制方法对比仿真分析 |
| 2.5 本章小结 |
| 3 基于RBFNN的数据驱动迭代学习控制方法 |
| 3.1 引言 |
| 3.2 理想学习控制器的动态线性化 |
| 3.3 基于RBFNN的学习控制系统设计与稳定性分析 |
| 3.3.1 权重矩阵的整定 |
| 3.3.2 非线性系统信息估计 |
| 3.3.3 数据驱动迭代学习控制方法 |
| 3.3.4 稳定性分析 |
| 3.4 仿真研究 |
| 3.4.1 数例仿真 |
| 3.4.2 高速列车模型仿真 |
| 3.5 本章小结 |
| 4 MIMO非线性离散时间系统的数据驱动迭代学习控制方法 |
| 4.1 引言 |
| 4.2 MIMO理想学习控制器的动态线性化 |
| 4.2.1 迭代轴紧格式动态线性化 |
| 4.2.2 迭代轴偏格式动态线性化 |
| 4.3 MIMO学习控制系统的设计与分析 |
| 4.3.1 基于ICFDLlc的数据驱动ILC方法及收敛性分析 |
| 4.3.2 基于IPFDLlc的数据驱动ILC方法及稳定性分析 |
| 4.4 仿真与实验研究 |
| 4.4.1 数例仿真 |
| 4.4.2 龙门直线电机实验 |
| 4.5 本章小结 |
| 5 非线性多智能体系统的数据驱动分布式迭代学习控制方法 |
| 5.1 引言 |
| 5.2 分布式理想学习控制器的动态线性化 |
| 5.2.1 迭代轴紧格式动态线性化方法 |
| 5.2.2 迭代轴偏格式动态线性化方法 |
| 5.2.3 迭代轴全格式动态线性化方法 |
| 5.3 多智能体学习控制系统的设计与分析 |
| 5.3.1 基于ICFDLlc的数据驱动分布式ILC方法及收敛性分析 |
| 5.3.2 基于IPFDLlc的数据驱动分布式ILC方法及收敛性分析 |
| 5.3.3 基于IFFDLlc的数据驱动分布式ILC方法及收敛性分析 |
| 5.4 仿真研究 |
| 5.4.1 数例仿真 |
| 5.4.2 永磁直线电机模型仿真 |
| 5.5 本章小结 |
| 6 结论与展望 |
| 6.1 结论 |
| 6.2 展望 |
| 参考文献 |
| 作者简历 |
| 攻读博士学位期间发表的学术论文 |
| 学位论文数据集 |
（4）可分离非线性最小二乘及其在空间坐标转换参数解算中的应用（论文提纲范文）
| 摘要 |
| Abstract |
| 变量注释表 |
| 1 绪论 |
| 1.1 研究背景及意义 |
| 1.2 国内外研究现状 |
| 1.3 论文主要研究内容与组织结构 |
| 2 可分离非线性最小二乘与基于矩阵分解的变量投影算法 |
| 2.1 引言 |
| 2.2 可分离非线性最小二乘 |
| 2.3 变量投影算法 |
| 2.4 矩阵分解及其在变量投影算法中的应用 |
| 2.5 本章小结 |
| 3 非线性最小二乘问题的迭代解法 |
| 3.1 引言 |
| 3.2 非线性迭代解法概述 |
| 3.3 信赖域算法 |
| 3.4 LM算法 |
| 3.5 算例分析 |
| 3.6 本章小结 |
| 4 改进的变量投影算法在空间直角坐标转换参数解算中的应用 |
| 4.1 引言 |
| 4.2 空间直角坐标转换模型 |
| 4.3 算例分析 |
| 4.4 本章小结 |
| 5 结论与展望 |
| 5.1 论文主要研究工作总结 |
| 5.2 研究工作展望 |
| 参考文献 |
| 附录1 |
| 作者简历 |
| 致谢 |
| 学位论文数据集 |
（5）基于MEMS多层梁结构工艺偏差的不确定性量化研究（论文提纲范文）
| 摘要 |
| Abstract |
| 第一章 绪论 |
| 1.1 MEMS概述 |
| 1.1.1 MEMS定义 |
| 1.1.2 MEMS发展历程 |
| 1.1.3 MEMS的特点和应用 |
| 1.2 MEMS器件不确定性量化分析的背景及意义 |
| 1.2.1 工艺加工过程中的不确定性 |
| 1.2.2 不确定性量化的必要性 |
| 1.2.3 不确定性量化的随机模型 |
| 1.2.4 不确定性量化的意义以及切入点 |
| 1.3 不确定性量化相关研究进展 |
| 1.4 论文的主要工作 |
| 第二章 针对工艺偏差的不确定性量化分析算法 |
| 2.1 侵入式求解器和非侵入式求解器 |
| 2.2 蒙特卡洛法 |
| 2.3 回归算法 |
| 2.4 多维多项式插值拟合算法 |
| 2.4.1 网格节点插值法 |
| 2.4.2 散乱节点插值法 |
| 2.5 随机谱方法 |
| 2.5.1 随机伽辽金 |
| 2.5.2 随机配点法 |
| 2.5.3 随机重心插值配点法 |
| 2.6 高维空间采样点选取 |
| 2.6.1 基于最大范数的稀疏网格采样点法 |
| 2.6.2 基于最大范数无边界的稀疏网格采样点法 |
| 2.6.3 基于Smolyak算法的稀疏网格采样点法 |
| 2.7 本章小结 |
| 第三章 MEMS多层梁测试结构设计及实验结果分析 |
| 3.1 MEMS多层梁谐振模型 |
| 3.1.1 谐振模型中的基本物理量 |
| 3.1.2 多层双端固支梁谐振模型 |
| 3.1.3 多层悬臂梁谐振模型 |
| 3.2 工艺流程与版图设计 |
| 3.2.1 PiezoMUMPs工艺介绍 |
| 3.2.2 表面微加工工艺流程 |
| 3.2.3 PiezoMUMPs设计规则 |
| 3.2.4 版图设计 |
| 3.3 流片结果与测试方法 |
| 3.3.1 PiezoMUMPs工艺流片结果 |
| 3.3.2 测试方法原理和步骤 |
| 3.4 有限元模拟与验证 |
| 3.4.1 有限元模拟建立 |
| 3.4.2 有限元仿真验证谐振频率 |
| 3.5 本章小结 |
| 第四章 随机工艺偏差下多层梁谐振频率的不确定性量化 |
| 4.1 不确定性量化思路和算法路线 |
| 4.2 输入参数的高斯拟合 |
| 4.2.1 大尺寸悬臂梁的高斯拟合 |
| 4.2.2 小尺寸悬臂梁的高斯拟合 |
| 4.3 输入参数的敏感度分析 |
| 4.3.1 局部敏感度分析法 |
| 4.3.2 全局敏感度分析——Sobol法 |
| 4.4 三层悬臂梁谐振频率的不确定性量化 |
| 4.4.1 大尺寸悬臂梁不确定性量化 |
| 4.4.2 小尺寸悬臂梁不确定性量化 |
| 4.5 良率分析以及设计优化 |
| 4.5.1 良率分析 |
| 4.5.2 优化设计 |
| 4.6 本章小结 |
| 第五章 随机工艺偏差下多层薄膜梁力学参数在线提取研究 |
| 5.1 力学参数在线提取思路 |
| 5.2 力学参数在线提取模型 |
| 5.3 力学参数提取算法分析 |
| 5.3.1 牛顿迭代法 |
| 5.3.2 牛顿下山法 |
| 5.3.3 改进后的牛顿下山法 |
| 5.4 杨氏模量和残余应力提取结果分析及优化设计 |
| 5.4.1 不考虑膜厚的工艺偏差 |
| 5.4.2 考虑膜厚的工艺偏差 |
| 5.4.3 优化设计 |
| 5.5 本章小结 |
| 第六章 总结与展望 |
| 6.1 总结 |
| 6.2 展望 |
| 致谢 |
| 参考文献 |
| 作者简介 |
（6）分数阶梯度下降法基础理论研究（论文提纲范文）
| 摘要 |
| Abstract |
| 符号说明 |
| 第1章 绪论 |
| 1.1 研究背景和动机 |
| 1.2 研究现状 |
| 1.2.1 基于分数阶梯度方向的优化算法研究现状 |
| 1.2.2 基于系统理论的梯度下降法 |
| 1.2.3 列维扰动梯度下降法的研究现状 |
| 1.3 本文的内容安排 |
| 第2章 基础知识 |
| 2.1 分数阶微积分 |
| 2.1.1 重要函数 |
| 2.1.2 分数阶微积分的定义 |
| 2.2 分数阶系统及其稳定性分析 |
| 2.2.1 分数阶系统的数学描述 |
| 2.2.2 分数阶系统稳定性 |
| 2.3 凸优化重要概念和梯度下降法 |
| 2.3.1 凸优化理论中的重要概念 |
| 2.3.2 梯度下降法 |
| 2.3.3 传统梯度下降法收敛特性分析 |
| 2.4 重要随机过程 |
| 2.4.1 马尔科夫过程 |
| 2.4.2 泊松过程 |
| 2.4.3 列维过程 |
| 2.5 本章小结 |
| 第3章 基于分数阶梯度方向的梯度下降法 |
| 3.1 引言 |
| 3.2 传统分数阶梯度法收敛特性分析 |
| 3.3 新型分数阶梯度下降法 |
| 3.3.1 卡普托定义下的分数阶梯度下降法 |
| 3.3.2 黎曼刘维尔定义下的分数阶梯度下降法 |
| 3.3.3 截断分数阶梯度下降法 |
| 3.3.4 向量形式截断分数阶梯度下降法 |
| 3.4 截断分数阶梯度下降法收敛特性分析 |
| 3.4.1 收敛精度分析 |
| 3.4.2 收敛速度分析 |
| 3.5 分数阶梯度下降法的本质推广 |
| 3.6 本章小结 |
| 第4章 基于系统理论的梯度下降算法 |
| 4.1 引言 |
| 4.2 常见梯度下降法的系统表达 |
| 4.2.1 传递函数的不同状态空间实现 |
| 4.2.2 涅斯特诺夫加速梯度法的“最优性” |
| 4.3 连续形式下的梯度下降法 |
| 4.3.1 连续整数阶梯度下降法 |
| 4.3.2 连续分数阶梯度下降法 |
| 4.4 基于有限时间的梯度下降法设计 |
| 4.4.1 分数幂有限时间梯度下降算法 |
| 4.4.2 鲁棒有限时间梯度下降法 |
| 4.4.3 分数阶有限时间梯度下降法 |
| 4.5 重置梯度下降法 |
| 4.5.1 重置动量梯度法 |
| 4.5.2 重置涅斯特诺夫加速梯度法 |
| 4.5.3 重置有限时间梯度下降法 |
| 4.5.4 重置梯度法小结 |
| 4.6 本章小结 |
| 第5章 分数阶扰动梯度下降法 |
| 5.1 引言 |
| 5.2 标量列维扰动梯度法 |
| 5.2.1 列维扰动梯度法和列维扰动分解 |
| 5.2.2 大步长扰动下算法特性分析 |
| 5.3 截断列维扰动梯度法 |
| 5.4 向量列维扰动梯度法 |
| 5.5 列维扰动动量梯度法 |
| 5.6 全局梯度搜索算法 |
| 5.7 安排跳跃点扰动梯度法 |
| 5.8 本章小结 |
| 第6章 结束语 |
| 6.1 主要工作和贡献 |
| 6.2 主要创新点 |
| 6.3 研究前景展望 |
| 6.4 研究心得体会 |
| 参考文献 |
| 致谢 |
| 攻读博士学位期间的学术活动及研究成果 |
（7）几类谱共轭梯度法（论文提纲范文）
| 致谢 |
| 摘要 |
| abstract |
| 1 绪论 |
| 1.1 最优化问题 |
| 1.2 线搜索方法 |
| 1.3 几种常用的无约束优化方法 |
| 1.3.1 最速下降法 |
| 1.3.2 Newton法 |
| 1.3.3 拟Newton法 |
| 1.3.4 共轭梯度法 |
| 1.4 一个基本假设及两个重要条件 |
| 1.5 本文的主要工作 |
| 2 谱共轭梯度法及相关研究现状 |
| 2.1 谱共轭梯度法基本思想 |
| 2.2 谱共轭梯度算法 |
| 2.3 谱共轭梯度法的相关研究 |
| 3 一类基于Wolfe线搜索下新的谱共轭梯度法 |
| 3.1 引言 |
| 3.2 算法及其下降性 |
| 3.3 全局收敛性 |
| 4 一类基于Armijo线搜索下新的谱共轭梯度法 |
| 4.1 引言 |
| 4.2 算法及其下降性 |
| 4.3 全局收敛性 |
| 5 一类改进的谱共轭梯度法 |
| 5.1 引言 |
| 5.2 谱参数θk及算法下降性 |
| 5.3 全局收敛性 |
| 6 总结与展望 |
| 6.1 总结 |
| 6.2 主要创新点 |
| 6.3 展望 |
| 参考文献 |
| 作者简历 |
| 学位论文数据集 |
（8）分式模型信赖域方法研究（论文提纲范文）
| 摘要 |
| abstract |
| 符号对照表 |
| 第一章 绪论 |
| 1.1 研究背景及意义 |
| 1.2 无约束最优化几种常用方法 |
| 1.2.1 最速下降法 |
| 1.2.2 牛顿法 |
| 1.2.3 拟牛顿算法 |
| 1.2.4 信赖域方法 |
| 1.3 研究现状 |
| 1.4 本文的主要工作及内容安排 |
| 第二章 预备知识 |
| 2.1 二次模型信赖域算法 |
| 2.2 基本锥模型信赖域算法 |
| 2.3 新锥模型信赖域算法 |
| 第三章 无约束优化问题的分式模型信赖域拟牛顿算法 |
| 3.1 分式模型的提出 |
| 3.2 分式模型信赖域子问题的近似解 |
| 3.3 分式模型信赖域拟牛顿算法及其收敛性 |
| 3.4 数值实验 |
| 第四章 基于折线法的分式模型信赖域拟牛顿算法 |
| 4.1 最速下降点 |
| 4.2 分式模型信赖域子问题的简单折线法 |
| 4.3 分式模型信赖域拟牛顿算法及其收敛性 |
| 4.4 数值实验 |
| 第五章 线性等式约束问题的分式模型拟牛顿算法 |
| 5.1 引言 |
| 5.2 简单折线算法求解信赖域子问题 |
| 5.3 新拟牛顿算法及其全局收敛性 |
| 5.4 数值实验 |
| 第六章 基于子问题新解法的等式约束问题的拟牛顿算法 |
| 6.1 引言 |
| 6.2 分式模型信赖域子问题的算法 |
| 6.3 全局收敛性 |
| 6.4 数值实验 |
| 第七章 基于交替方向搜索法的新锥模型信赖域算法 |
| 7.1 引言 |
| 7.2 交替方向搜索法 |
| 7.3 算法及其收敛性 |
| 7.4 数值实验 |
| 7.5 算法的改进 |
| 7.6 改进算法的数值实验 |
| 第八章 结论与展望 |
| 8.1 本文的主要工作及创新点 |
| 8.2 进一步的研究展望 |
| 参考文献 |
| 致谢 |
| 在学期间的研究成果及发表的学术论文 |
| 附录 无约束最优化测试函数 |
（9）几种混合共轭梯度法及其全局收敛性（论文提纲范文）
| 致谢 |
| 摘要 |
| abstract |
| 1 绪论 |
| 1.1 研究背景和意义 |
| 1.2 最优化问题相关定义和定理 |
| 1.3 几种线搜索方法 |
| 1.4 本文的主要工作 |
| 2 非线性共轭梯度法及相关研究现状 |
| 2.1 经典共轭梯度法及其修正 |
| 2.2 混合共轭梯度法 |
| 2.3 谱共轭梯度法 |
| 2.4 三项共轭梯度法 |
| 2.5 本章小结 |
| 3 一类基于精确线搜索的混合共轭梯度法 |
| 3.1 引言 |
| 3.2 算法及其性质 |
| 3.3 全局收敛性 |
| 3.4 本章小结 |
| 4 具有充分下降性的一类混合共轭梯度法 |
| 4.1 引言 |
| 4.2 算法及其性质 |
| 4.3 全局收敛性 |
| 4.4 本章小结 |
| 5 Wolfe线搜索下一类混合共轭梯度法 |
| 5.1 引言 |
| 5.2 算法及其性质 |
| 5.3 全局收敛性 |
| 5.4 本章小结 |
| 6 总结和展望 |
| 6.1 主要结论 |
| 6.2 主要创新点 |
| 6.3 展望 |
| 参考文献 |
| 作者简历 |
| 学位论文数据集 |
（10）广义方程若干算法的收敛性分析（论文提纲范文）
| 致谢 |
| 摘要 |
| Abstract |
| 1 绪论 |
| 1.1 综述 |
| 1.2 符号表 |
| 2 非光滑广义方程若干算法收敛性分析 |
| 2.1 引言 |
| 2.2 基础知识 |
| 2.3 精确算法 |
| 2.4 非精确算法 |
| 2.5 精确算法在变分不等式的应用 |
| 3 欠定型光滑广义方程收敛性分析 |
| 3.1 引言 |
| 3.2 基础知识 |
| 3.3 Lipschitz条件下的收敛性分析 |
| 3.4 弱Lipschitz条件下的收敛性分析 |
| 3.4.1 算法的半局部收敛性 |
| 3.4.2 算法的局部收敛性 |
| 3.4.3 主要结果的应用 |
| 4 总结 |
| 参考文献 |
| 攻读博士学位期间主要研究成果 |
| 简历 |
四、利用优序列方法证明牛顿下降法在一般条件下的收敛性（论文参考文献）
- [1]Newton-Steffensen型迭代在广义Lipschiz条件下的收敛性研究及其应用[D]. 陆东. 闽南师范大学, 2021(12)
- [2]几类新的混合共轭梯度法[D]. 陈秀芳. 云南师范大学, 2021(08)
- [3]基于控制器动态线性化的数据驱动迭代学习控制及应用[D]. 余弦. 北京交通大学, 2020
- [4]可分离非线性最小二乘及其在空间坐标转换参数解算中的应用[D]. 王路遥. 山东科技大学, 2020(06)
- [5]基于MEMS多层梁结构工艺偏差的不确定性量化研究[D]. 孟木子. 东南大学, 2020(01)
- [6]分数阶梯度下降法基础理论研究[D]. 陈玉全. 中国科学技术大学, 2020(01)
- [7]几类谱共轭梯度法[D]. 李亚敏. 河南理工大学, 2019(07)
- [8]分式模型信赖域方法研究[D]. 朱红兰. 南京航空航天大学, 2019(02)
- [9]几种混合共轭梯度法及其全局收敛性[D]. 王慧婷. 河南理工大学, 2018(01)
- [10]广义方程若干算法的收敛性分析[D]. 张艳. 浙江大学, 2016(08)