一、A SUPERMEMORY GRADIENT PROJECTION ALGORITHM FOR OPTIMIZATION PROBLEM WITH NONLINEAR CONSTRAINTS（论文文献综述）
胡传真[1]（2021）在《快速和高分辨拉曼成像技术及高通量光谱分析方法研究》文中提出拉曼光谱是一种无损、无标记、高灵敏的物质化学信息表征手段,而拉曼成像则是探知化学信息在物理空间分布状态的功能性成像技术。超光谱拉曼显微成像在细胞代谢、组织病理分析（例如肿瘤组织鉴定）等众多生命医学研究领域中扮演着重要的角色。本文通过对标准拉曼成像光学系统和成像方法进行改进,以实现更快、更高分辨率和更准确的拉曼光谱图像获取。本文围绕快速共聚焦点扫描拉曼成像、超分辨率超光谱拉曼成像以及大批量光谱数据快速分析方法等拉曼成像技术与光谱分析方法展开研究。本文的主要研究内容和成果如下:1.针对广泛使用的共聚焦激光扫描拉曼成像系统成像速度慢的问题,本文首次提出一种基于样品明场先验空间分布的快速先验拉曼压缩成像方法,用以提高超光谱拉曼成像速度。该快速拉曼成像方法的具体实现是:利用明场成像通道提供的样品空间分布先验信息,将有样品区域和无样品的空白玻片区域分别分割出来,然后对有样品区域进行压缩感知拉曼成像,并使用优化的压缩感知图像重建算法重建出超光谱拉曼图像,从而实现共聚焦激光扫描拉曼成像系统成像速度的提高。本文使用所提的快速先验拉曼压缩成像方法分别对一微米标准微球样品和裂殖酵母细胞生物样品进行拉曼成像,成像结果表明:与经典的共聚焦点扫描拉曼成像相比,这种快速先验拉曼压缩成像方式可以实现五倍到十倍成像速度的提升,并且成像质量高度接近点扫描成像结果。2.针对实现全二维物理空间超分辨超光谱拉曼成像的问题,本文首次提出一种扫描振镜调制虚拟结构光照明的共聚焦线扫描超分辨拉曼成像方法。该超分辨成像方案的具体实施是:首先是使用二维扫描振镜利用时间累积效应于单次采集曝光时间内,在样品面上生成任意照明角度的正弦强度分布虚拟结构线照明光;经过二维扫描振镜“去扫描”的拉曼散射光被一个独立的一维同步扫描振镜进行“重扫描”处理,进而将叠加任意照明方向结构光的“线”样品像耦合进狭缝拉曼光谱仪,从而实现对二维样品进行结构线照明拉曼光谱图像采集;最后,使用相应的结构光照明超分辨成像重建算法重建出分辨率显着提升的超分辨拉曼图像,例如Wiener-SIM或者TV-SIM方法。本文使用均一的标准聚苯乙烯材质塑料板测试结构照明光的质量,并且使用标准物理尺寸的纳米微球测试所设计超分辨拉曼成像方法的可靠性,初步取得一些成果:使用扫描振镜基于时间累计效应实际生成的虚拟结构照明光与理论模拟仿真结果保持高度一致;本文提出的结合振镜调制虚拟结构光照明的二维空间超分辨拉曼成像方案能够突破成像系统的光学衍射极限,实现分辨率理论1.6倍的提升。3.最后,本文研究了使用卷积神经网络来分析混合拉曼光谱独立组分含量的可行性,针对当前浓度预测卷积神经网络无法同时预测混合拉曼光谱中多个纯净组分含量的问题,本文首次提出一种优化设计的多输出混合光谱浓度预测卷积神经回归网络。该多组分含量预测卷积神经网络模型的实现过程是:根据已有的卷积神经网络浓度预测模型提出优化的多组分预测模型,首先使用预先测得的纯净物质拉曼光谱人工模拟生成混合拉曼光谱数据,并将其作为所提含量预测网络的训练集,设置合理的网络训练超参数,训练出高灵敏和高效的混合拉曼光谱亚组分含量预测模型。本文使用实验测得的混合物质的拉曼光谱来验证训练好的多输出混合光谱浓度预测卷积神经回归网络的预测精度和高效性,初步验证结果表明,基于卷积神经网络含量预测方法的预测结果与当前标准分析方法（非对称最小二乘拟合）的分析结果保持良好的一致性,同时在相同的测试条件下,所提方法比标准的非对称最小二乘拟合分析法快约45倍。因此,这种基于卷积神经网络的组分分析方法极其适用于大型拉曼数据集的量化分析,例如可用于批量分析在本文中生成的用于训练所提卷积神经网络的,包含一百万个独立混合拉曼光谱的模拟光谱数据集。
郑成霖[2]（2021）在《基于数值-符号计算的操作弹性分析与优化设计方法研究》文中研究指明过程系统工程（Process Systems Engineering,PSE）是在系统工程、过程控制、运筹学及计算机技术等学科的基础上产生和发展起来的交叉学科。PSE以过程系统为基础,研究过程系统分析、过程系统优化、过程系统控制和过程系统综合等问题。在理论方法研究的基础上,PSE被广泛应用于石油、化工、冶金、食品、能源等传统领域,也在电网、交通、供应链、物流仓储、机器人等新兴行业中飞速发展。然而,目前PSE学科仍处于发展阶段,随着科学计算的发展,如何将PSE运用的概念、原理和方法做进一步的演变和进化仍然是研究的热点之一。操作弹性分析和过程系统优化设计是过程系统工程领域的研究热点,其核心在于建立和求解数学模型。数值计算和符号计算是求解数学模型的两种主要技术手段。数值计算求解速度快,但不稳定性和不精确性导致计算结果容易出现误差甚至失败;符号计算能够保证计算过程的准确性和完备性,但计算复杂度高,占用内存多,表达形式庞大复杂。如何发挥数值计算和符号计算各自的优势,改善操作弹性分析和优化设计问题的求解精度和效率,是本论文研究的核心目标。基于此背景,本论文针对PSE的基础理论,从操作弹性分析和过程系统优化设计两个方面出发,展开深入的拓展性研究,运用数值计算和符号计算方法,以更有效的方法策略来解决PSE领域的传统问题。论文的主要研究内容和贡献概况如下:（1）基于空间投影的弹性指标求解方法。弹性指标是用来评价设计模型弹性大小的衡量标准。传统的弹性指标求解方法依赖于混合整数规划问题的求解,对于求解非凸问题仍存在局限性。本文提出了一种基于符号计算的直接推导弹性指标求解方法。将弹性指标问题看成是一个存在型量词模型,运用基于柱形代数分解的量词消去理论,将原始解空间投影到弹性指标的一维可行空间上。同时,采用两种超矩形检验规则来准确定位最终的弹性指标。此方法可以保证求得凸或非凸系统的最优弹性指标,而无需求解任何优化问题。（2）高维过程系统操作弹性显式分析方法。如何确定和描述可行弹性空间是操作弹性分析的主要目的。针对现存的基于数值计算的分析方法只能大致估计弹性空间的轮廓,而基于符号计算的分析方法受限于模型规模、计算耗时等问题,本文从模型约简角度出发,提出了一种基于采样、代理模型、符号计算和边界验证的混合迭代方法,最终可解析地描述高维系统的弹性空间,显式地表征出处理不确定性的稳态操作策略。（3）过程系统弹性指标和设计问题的解析参数化方法。针对给定的过程设计模型,存在对应的弹性指标来表征设计模型的弹性大小。本文将弹性指标问题进一步提升到设计变量维度,将系统解空间投影到设计变量、弹性指标和不确定参数的多维空间。利用内接超矩形的检验准则,推导出连续设计变量和弹性指标的解析表达式,从而将弹性指标和设计问题简化为给定设计的函数运算,使得设计者能够先验地知道每种过程设计对应的弹性水平。（4）工业冷却水系统设计操作优化综合方法。冷却水系统有三个主要组件:冷却水网络、泵网络和冷却塔。由于组件之间的相互作用,如果没有将系统作为一个整体性来考虑,则会产生不必要的能量损失。本文旨在综合优化冷却水系统,提出了一种冷却水网络、泵网络和冷却塔网络的超结构网络模型,优化冷却水系统的设计和操作成本,得到冷却水网络中冷却水的最优分配,泵网络中主泵和辅助泵的最优配置以及冷却塔的最优设计位置。针对模型中的非线性和非凸性,采用相应的线性松弛策略加速求解,最终实现冷却水系统设计操作全局最优化。（5）多项式系统鲁棒优化求解方法。构建鲁棒对偶公式是解决鲁棒优化问题的常用方法。然而,针对不同的不确定参数集合,使用对偶理论推导鲁棒对偶公式的难易程度不同。本文提出了一种基于空间投影的多项式系统鲁棒优化求解方法。利用柱形代数分解方法进行系统解空间投影,将解空间投影到目标函数和不确定参数的二维空间,得到目标函数和不确定参数的显式表达式,刻画了目标函数的下确界。通过求解目标函数下确界的最大化问题并使用最大-最大决策准则,确定最终的鲁棒最优解。此方法可以用于线性、非线性和混合整数的鲁棒优化问题,避免了鲁棒对偶公式的推导。
刘丽亚[3]（2021）在《面向若干凸可行性问题的数值算法研究》文中指出管理科学,自动化控制和力学上的大量问题都可以转化为求两个或两个以上闭凸集的交集中点的问题,这类问题通常被称为凸可行性问题。随着交叉学科的不断发展,凸可行性问题在计算机科学,交通,工程技术和信号处理等诸多领域中扮演着越来越重要的角色。变分不等式、单调包含和公共不动点问题是凸可行性问题中的重要组成部分,且三者之间有着密切的联系,可以彼此之间相互转化。另外,变分不等式、单调包含和公共不动点问题有着广泛的应用背景。本论文在不同的空间框架下提出了一些有效逼近算法及其在具体问题中的应用。主要从算法设计、收敛性分析和数值效果等三个方面进行了研究。所得的结论推广和改进了一些现有的结果。全文共分八章,具体内容如下:第一章,绪论部分介绍了凸可行性问题在国内外的研究现状,给出了本文的主要工作和结构安排。最后,给出了求解凸可行性问题需要用到的预备知识。第二章,提出了一种求解变分不等式的修正的惯性次-超梯度算法。在算子满足序列弱连续性,伪单调性,且Lipschitz连续性的前提条件下,由该算法迭代产生的序列具有弱收敛性。数值实验结果表明新构造的算法相比于已有的某些算法有更快的收敛速度和更好的逼近效果。第三章,在惯性Tseng算法的基础上加以改进,给出了求解伪单调变分不等式问题的两类迭代算法,分别为惯性Tseng-Mann算法和惯性Tseng-粘滞迭代算法。并在适当的条件下,建立了强收敛定理。两类算法在每一步迭代过程中只需要计算一次投影算子,具有计算量小的优越性。进一步地,通过结合Armijo步长搜索准则,使得算法对Lipschitz常数没有限制,在这种条件下,给定的算法依然具有强收敛性。最后,分析了算法在求解模糊凸规划问题中的应用,并给出数值例子来说明理论结果的有效性。第四章,提出一个三步混合迭代算法,用于寻找一个双层变分不等式问题的近似解,并对算法的强收敛性进行了分析。所谓的双层变分不等式问题是指在一个变分不等式解集的基础上定义另一个变分不等式问题。基于该算法,给出了相应的动力系统模型。新构造的算法适合求解基于效用函数的网络宽带分配问题。数值结果验证了,与已有的算法相比,所提出的算法有更快的收敛速度。第五章,结合向前向后分裂算法、Tseng算法的思想与惯性技术,我们建立了多步混合迭代算法用来求解多集合极大单调包含问题。在满足一定的条件下,建立了一个强收敛定理。实验结果表明了算法适合求解信号恢复问题。第六章,在Banach空间框架下,结合Harlpern方法和Bregman投影方法,我们建立了一个Harlpern型-投影迭代算法用来逼近Bregman拟非扩张算子半群的公共不动点问题的近似解。在要求解集非空的前提下,证明了该算法是强收敛的。数值试验验证了理论结果的有效可行性。第七章,在误差允许的范围内,提出了一种改进的可变距离的向前向后分裂算法,用于寻找单调包含问题的解集和逆强单调算子的零点集之交集的一个公共元素。另一方面,我们还提出了一个带误差项的混合显式和隐式迭代算法,用于寻找一族非扩张算子的公共不动点问题和零点问题的公共解。在满足不同的前提条件下,分别对给定的两个算法的弱收敛性和强收敛性进行了分析。第八章总结本文的主要研究内容,并对未来的研究进行了展望。
刘梓懿[4]（2020）在《多步梯度法的收敛性研究》文中认为随着互联网技术的发展以及实际问题的需求,越来越多大规模的优化问题涌现。求解大规模优化问题的核心是设计有效的算法,并且其对算法的计算量和通信代价有一定的要求。而多步梯度法由于具有算法简单、储存量小、计算量小的特点,正是求解大规模无约束优化问题的有效算法。多步梯度法是一种利用迭代历史信息加快算法收敛速度的方法。本文首先介绍了几种经典多步梯度法以及其研究现状。在前人的研究结果的基础之上,本文提出了一种新的多步梯度法,进一步丰富了多步梯度法的研究,主要研究内容如下:本文给出了两步梯度下降法最优收敛率新的证明方法。过去的证明方法是直接求解系统矩阵的特征根,从而得到算法的收敛率。而本文引入了劳斯判据等控制领域的工具,劳斯判据可以直接判定其根的分布,而不必求解方程的根。与过去的证明方法相比,本文的方法更加简洁,易懂。此外,本文提出了一种三步梯度下降法,并详细分析了其线性收敛率。在本地目标函数为强凸函数且梯度利普希茨连续时,给出了其本地收敛的充分必要条件。通过双线性变换配合劳斯判据,本文建立了算法收敛率和参数之间的关系。基于此关系,本文得到了三步梯度下降法的最优收敛率并给出了详尽的证明。结果表明,当三步梯度下降法达到最优收敛率时,算法会退化到两步梯度下降法。
林秀秀[5]（2020）在《椭圆型和分数阶扩散方程最优控制问题的谱方法研究》文中研究表明偏微分方程约束最优控制问题（简称控制问题）广泛应用在实际生活中,如经济、工程等领域.最近几十年,关于最优控制问题的理论和数值方法研究得到了迅速的发展;然而,关于分数阶微分方程约束最优控制问题（简称分数阶控制问题）研究发展比较晚.对分数阶控制问题的理论研究和数值模拟已经成为一个热点问题.鉴于谱方法的独特优势,发展最优控制问题和分数阶控制问题的谱元方法和自适应谱元方法需要进一步的研究和讨论.为了进一步分析这方面工作,提高高效的数值方法,我们在这篇论文研究了状态、控制受限最优控制问题的谱方法和谱元方法分析,以及时空分数阶最优控制问题的谱方法逼近.本论文主要讨论了下面几个部分的内容:第一部分:研究了L2范数状态约束椭圆最优控制问题（简称椭圆控制问题）谱方法逼近,首先我们利用分类讨论来严格地推导了最优性条件,构造了问题的谱Galerkin逼近,接下来利用多项式算子的性质并结合辅助方程证明了状态、控制、伴随态的先验误差分析;进一步利用辅助方程推导了控制问题的L2-H1后验误差分析和L2-L2后验误差分析,构造梯度算法进行数值实验,证实谱方法的有效性.第二部分:研究了L2范数控制受限椭圆控制问题谱方法逼近,其目标泛函不受控制约束.首先我们严格地推导了最优性条件,构造了问题的谱Galerkin逼近,接下来利用多项式算子的性质结合辅助方程推导了控制、状态、伴随态的先验误差分析;进一步利用辅助方程推导了控制问题的L2-H1后验误差分析,再根据辅助问题推导L2-L2后验误差分析,构造梯度算法进行数值分析来证实了谱方法的有效性.第三部分:考虑了椭圆控制问题的hp谱元逼近后验误差估计,这里我们考虑了L2范数状态受限和控制受限这两种情况.根据已推导的最优性条件,构造问题的谱元逼近,再利用辅助方程和投影算子推导出谱元逼近的后验误差分析,数值实验验证了谱元方法的有效性,即可以通过增加单元的个数或增加多项式阶数来提高收敛率.这部分工作为我们继续研究最优控制问题的自适应谱元方法奠定了基础.第四部分:考虑了控制受限时间空间分数阶扩散方程最优控制问题（简称时空分数阶控制问题）的时空谱方法逼近.首先我们分析无控制约束的控制问题,建立了问题的先验误差估计;接下来我们分析有控制约束的控制问题,给出问题的最优性条件,再进行问题的先验误差分析,以及后验误差分析,理论结果说明此方法在时间方向和空间方向均能达到谱精度.第五部分:考虑了状态受限时空分数阶控制问题的时空谱方法逼近.首先我们推导了最优性条件,再根据多项式逼近算子性质严格证明了先验误差分析,进一步利用辅助方程推导问题的后验误差分析,理论结果说明此方法在时间方向和空间方向均能达到谱精度;为我们继续研究分数阶最优控制问题的谱逼近奠定了基础.
林海婵,李靖雅,欧宜贵[6]（2020）在《一个基于非单调技术的超记忆梯度法》文中研究指明本文给出一个修正的非单调线搜索策略,并结合该策略提出一个求解无约束优化问题的超记忆梯度算法.该算法的主要特点是:在每一次迭代中,它所产生的搜索方向总是满足充分下降条件.这一特性不依赖于目标函数的凸性以及方法所采用的线搜索策略.在较弱的条件下,该方法具有全局收敛和局部R-线性收敛性.数值实验表明了该方法的有效性.
左超,冯世杰,张翔宇,韩静,陈钱[7]（2020）在《深度学习下的计算成像:现状、挑战与未来》文中研究表明近年来,光学成像技术已经由传统的强度、彩色成像发展进入计算光学成像时代。计算光学成像基于几何光学、波动光学等理论对场景目标经光学系统成像再到探测器采样这一完整图像生成过程建立精确的正向数学模型,再求解该正向成像模型所对应的"逆问题",以计算重构的方式来获得场景目标的高质量图像或者传统技术无法直接获得的相位、光谱、偏振、光场、相干度、折射率、三维形貌等高维度物理信息。然而,计算成像系统的实际成像性能也同样极大程度地受限于"正向数学模型的准确性"以及"逆向重构算法的可靠性",实际成像物理过程的不可预见性与高维病态逆问题求解的复杂性已成为这一领域进一步发展的瓶颈问题。近年来,人工智能与深度学习技术的飞跃式发展为计算光学成像技术开启了一扇全新的大门。不同于传统计算成像方法所依赖的物理驱动,深度学习下的计算成像是一类由数据驱动的方法,它不但解决了许多过去计算成像领域难以解决的难题,还在信息获取能力、成像的功能、核心性能指标（如成像空间分辨率、时间分辨率、灵敏度等）上都获得了显着提升。基于此,首先概括性介绍深度学习技术在计算光学成像领域的研究进展与最新成果,然后分析了当前深度学习技术在计算光学成像领域面临的主要问题与挑战,最后展望了该领域未来的发展方向与可能的研究方向。
王佩瑶[8]（2019）在《基于模型驱动的深度神经网络的图像恢复》文中指出图像信息占据人们所获取信息的很大一部分,高质量的图像会提供更加准确的信息,而由于图像信息在获取、压缩、传播、解压的过程中设备的限制,客观上导致了有些图像质量低下。同时随着高科技的发展,多媒体越来越需要高分辨率的图像满足人们的主观需求,所以图像恢复问题在生产和生活中有着重要的作用。传统的基于模型的图像恢复方法拥有数据项和先验项,通过将这两者结合,可以在逼近原始图像整体的基础上,对图像的细节进行恢复。在传统的基于模型的方法中,图像先验信息一般是人工提取的,通过观察图像特征进行设计,有较为直观的数学表达式,但是存在先验信息单一的问题。而基于深度学习的图像恢复方法,则依赖于大数据的驱动,端到端的实现低质量图像到高质量图像的映射,但恢复结果大程度上依赖于网络的设计,并且随着卷积网络层数的加深,恢复效果提升甚微。本文结合这两种方式,提出了本文的算法——基于模型驱动深度神经网络的图像恢复方法。本文的创新点有以下三点:1、借助深度学习强大的特征提取能力,学习了基于深度神经网络的去噪算子,该算子能够较为全面的提取图像的混合先验信息,为基于模型的图像恢复方法提供了更加准确的约束条件。采用结构对称的U-Net作为去噪算子学习的网络,其“下采样-上采样”的结构也在扩大感受野和降低算法复杂度方面助力了图像先验信息的获取。既克服了单一图像先验的局限性,同时采用深度神经网络学习混合先验信息,也为之后将模型展开为端到端的网络奠定了基础。2、将基于深度学习获得的去噪算子嵌入到由基于图像退化模型推导而来的迭代过程中,使得在通过去噪算子初步去噪之后,依然能够结合图像退化过程对图像进一步精准的恢复。同时将整个交替迭代的优化步骤展开为互不重叠的过程,实现端到端的网络训练,使得网络中原本需要人工调节的参数可以通过网络的训练自适应的更新,从而达到整体结果的最优。3、在求解交替迭代优化过程中的子目标函数时,本文采用单步梯度下降替换了原来的闭式解析解,很大程度上降低了整个模型的运算复杂度,使得网络的训练更加的简单。同时在数学层面证明了该替换过程的合理性,对模型的收敛性做出了数学证明。本文算法的提出为基于模型、基于深度学习的图像恢复算法的结合提供了较好的基础,同时所达到的结果也是同一时期最优的。
刘方辉[9]（2019）在《数据自适应的核学习理论研究及应用》文中研究表明核方法作为机器学习领域中一类重要的非线性方法,广泛地应用在分类、回归、聚类、降维等诸多问题中。目前关于核方法研究的关键是在于如何设计出或学习到更灵活的核函数,用以描述数据的分布特性。本文工作围绕核学习展开,主要从非参数核学习、非正定核学习、核近似问题三个方面进行研究,涵盖了学习算法的逼近理论研究、相似性学习的算法研究以及在目标跟踪领域中的应用研究。研究成果主要集中在以下几个方面:在非参数核学习方面,本文提出了一种基于数据自适应的非参数核学习框架,对预先给定的核矩阵直接施加一个数据自适应矩阵,采用优化的方式灵活地学习到该矩阵的每一个元素,从而得到一个相当灵活的非参数核矩阵。该核学习框架可嵌入至支持向量机（support vector machines,SVM）与支持向量回归（support vector regression,SVR）模型中,用于分类与回归问题,可有效地增加类别之间的间隔并减小模型的泛化误差。针对该优化问题的求解,本文论证了目标函数的梯度是Lipschitz连续的,从而将核学习的训练过程与SVM/SVR中参数优化统一至一个求解框架中。此外,针对非参数核的核近似问题,本文拓展了基于分解的子问题求解策略,使其能够适用于大规模情形。实验结果验证了本文非参数核学习模型的灵活性以及核近似算法的有效性。上述非参数核学习框架灵活地学习到样本之间的相似性值,但无法得到核函数的具体形式,很难用于新样本的预测。针对于这种新增样本扩张（out-of-sample extensions）问题,本文旨在从任意给定的核矩阵中学习得到潜在的核函数,将核函数学习的问题转化为hyper-RKHS（reproducing kernel Hilbert spaces）上的正则化回归问题,提出了两种回归算法进行求解。在学习理论方面,本文研究hyper-RKHS上正则化学习算法的逼近分析,并给出了相应的学习率结果。实验结果表明,本文所提出的算法可以从任意给定的核矩阵中学习得到潜在的核函数,取得了较好的实验结果。考虑到我们无法预测新增样本扩张算法所学到的潜在核函数的正定性（正定或非正定）,因此本文专门对非正定核学习展开研究,提出了再生核Kre??n空间（reproducing kernel Kre??n spaces,RKKS）上基于非正定核的逻辑斯蒂回归模型。由于非正定核的引入,该模型本质上为非凸的。利用非正定核的正定分解,可以将该模型拆分为两个凸函数之差的形式,进而采用凹凸规划（concave-convex procedure,CCCP）进行求解。由于凹凸规划在每一次迭代中均需要求解一个优化子问题,本文提出了一种非精确求解的凹凸规划算法,加速算法求解,并给出理论保证。在学习理论方面,针对非正定核学习算法的学习率问题,本文修正了传统的误差分解技术,给出了RKKS上基于最小二乘的正则化回归算法的逼近分析结果。实验结果表明所提出非精确求解的非凸优化算法非常高效,应用至基于非正定核的逻辑斯蒂回归模型中,在一些典型的分类数据集上也取得了令人满意的效果,分类准确率相比于精确求解方式并未发现较大的下降。非正定核学习算法均涉及到对核矩阵进行特征值分解,很难将其拓展至大规模数据上。然而传统的基于随机傅里叶特征的核近似算法要求核函数具有平移不变性以及正定性,无法适用于多项式核等点乘核以及非正定核的近似问题。因此,本文提出了一种基于狄利克雷混合过程的双变分推断模型用于以上多项式核函数、非正定核函数的随机特征近似。在随机特征的概率分布上给一个狄利克雷过程作为先验,使得该模型框架能够灵活地逼近任意一个核函数。在模型推断过程中,本文所采用的推断方式结合了随机变分推断以及非共轭变分推断的优点,因此参数估计可以高效地进行。实验结果表明,本文所提出的核近似模型能够有效地对任一核函数进行逼近。此外将其应用至分类问题上,在若干大规模数据集上均取得了较好的结果。基于上述核学习研究基础,本文将核方法方面的研究应用至计算机视觉领域中的目标跟踪问题上,提出了一种基于核化版本的多重字典非负编码模型。该模型利用核映射,将字典以及候选样本映射至高维空间中,无需要求候选样本应由字典线性表示这一较强的假设条件,可以更为准确地对目标表观模型进行建模。为了提升编码系数对目标刻画的能力,本文提出了一种多字典集成机制来全面地描述目标外观变化特性,其中多个字典相应的权重可以自适应地学到。权重向量的求解与编码系数的求解可统一至一个优化框架中。在局部编码过程中,本文采用?2正则项代替非负约束,从理论上给出了这种替换成立的条件,可使得优化算法的求解更为高效。实验结果一方面验证了这种替代机制的合理性与有效性,另一方面在目标跟踪标准数据集上全面地验证了本文所提出的跟踪算法的鲁棒性。
李靖雅[10]（2018）在《非线性优化的记忆梯度方法的若干研究》文中研究说明本文构造了一个求解无约束优化问题的超记忆梯度法和一个求解单调非线性方程组的无导数记忆梯度法,分别记为算法Ⅰ和算法Ⅱ.在算法Ⅰ中,我们修正了非单调线搜索策略,使得在每一次迭代中搜索方向总是会提供一个充分下降步,因此算法Ⅰ更具稳定性;在算法Ⅱ中,我们提出了一种改进的线搜索策略,从而降低了对初始点的选取要求,因此算法Ⅱ更适合求解大规模方程组问题.在适当的条件下,两算法都具有全局收敛性且R-线性收敛于x*.此外数值实验也表明两算法较有效.
二、A SUPERMEMORY GRADIENT PROJECTION ALGORITHM FOR OPTIMIZATION PROBLEM WITH NONLINEAR CONSTRAINTS（论文开题报告）
（1）论文研究背景及目的
此处内容要求：
首先简单简介论文所研究问题的基本概念和背景，再而简单明了地指出论文所要研究解决的具体问题，并提出你的论文准备的观点或解决方法。
写法范例：
本文主要提出一款精简64位RISC处理器存储管理单元结构并详细分析其设计过程。在该MMU结构中,TLB采用叁个分离的TLB,TLB采用基于内容查找的相联存储器并行查找,支持粗粒度为64KB和细粒度为4KB两种页面大小,采用多级分层页表结构映射地址空间,并详细论述了四级页表转换过程,TLB结构组织等。该MMU结构将作为该处理器存储系统实现的一个重要组成部分。
（2）本文研究方法
调查法：该方法是有目的、有系统的搜集有关研究对象的具体信息。
观察法：用自己的感官和辅助工具直接观察研究对象从而得到有关信息。
实验法：通过主支变革、控制研究对象来发现与确认事物间的因果关系。
文献研究法：通过调查文献来获得资料，从而全面的、正确的了解掌握研究方法。
实证研究法：依据现有的科学理论和实践的需要提出设计。
定性分析法：对研究对象进行“质”的方面的研究，这个方法需要计算的数据较少。
定量分析法：通过具体的数字，使人们对研究对象的认识进一步精确化。
跨学科研究法：运用多学科的理论、方法和成果从整体上对某一课题进行研究。
功能分析法：这是社会科学用来分析社会现象的一种方法，从某一功能出发研究多个方面的影响。
模拟法：通过创设一个与原型相似的模型来间接研究原型某种特性的一种形容方法。
三、A SUPERMEMORY GRADIENT PROJECTION ALGORITHM FOR OPTIMIZATION PROBLEM WITH NONLINEAR CONSTRAINTS（论文提纲范文）
（1）快速和高分辨拉曼成像技术及高通量光谱分析方法研究（论文提纲范文）
| 摘要 |
| ABSTRACT |
| 第1章 绪论 |
| 1.1 拉曼散射及拉曼光谱简介 |
| 1.1.1 非弹性拉曼散射原理概述 |
| 1.1.2 拉曼光谱及其在生物医学研究中的应用 |
| 1.2 拉曼成像及光谱处理与分析研究现状 |
| 1.2.1 拉曼光谱成像概述 |
| 1.2.2 拉曼光谱处理与分析概述 |
| 1.3 拉曼成像方法的瓶颈与突破讨论 |
| 1.4 论文研究内容与章节安排 |
| 1.4.1 论文研究内容 |
| 1.4.2 论文章节安排 |
| 第2章 拉曼成像光学系统设计基础 |
| 2.1 引言 |
| 2.2 共聚焦拉曼成像系统设计及功能验证 |
| 2.2.1 共聚焦拉曼成像系统的光学设计 |
| 2.2.2 控制程序设计及关键参数标定 |
| 2.2.3 标准微球样品的共聚焦拉曼成像 |
| 2.3 线扫描拉曼成像系统设计及功能验证 |
| 2.3.1 线扫描拉曼成像系统的光学设计 |
| 2.3.2 控制程序设计及关键参数标定 |
| 2.3.3 标准微球样品的线扫描拉曼成像 |
| 2.4 本章小结 |
| 第3章 基于先验信息的快速拉曼压缩成像研究 |
| 3.1 引言 |
| 3.2 压缩感知理论基础及应用 |
| 3.3 新型共聚焦先验拉曼压缩成像研究 |
| 3.3.1 点扫描拉曼成像稀疏采样设计与实现 |
| 3.3.2 压缩感知成像重建算法设计及仿真验证 |
| 3.3.3 实验设计与结果分析 |
| 3.4 本章小结 |
| 第4章 结合结构光照明的超分辨拉曼成像研究 |
| 4.1 引言 |
| 4.2 结构光照明超分辨显微技术基础 |
| 4.3 结构光照明超分辨拉曼成像技术研究 |
| 4.3.1 线扫描拉曼成像系统时空调制结构光照明验证 |
| 4.3.2 超分辨拉曼成像重建算法优化及仿真验证 |
| 4.3.3 实验设计与结果分析 |
| 4.4 本章小结 |
| 第5章 基于卷积神经网络的光谱成分分析研究 |
| 5.1 引言 |
| 5.2 卷积神经网络简介 |
| 5.3 混合拉曼光谱成分量化研究 |
| 5.3.1 训练与验证数据集设计 |
| 5.3.2 卷积神经网络模型构建与训练 |
| 5.3.3 光谱成分预测与结果分析 |
| 5.4 本章小结 |
| 第6章 总结与展望 |
| 6.1 工作总结 |
| 6.2 研究展望 |
| 参考文献 |
| 附录A 标准化拉曼光谱处理与分析常用算法的数学描述 |
| A.1 Whittaker Smoother去噪算法 |
| A.2 非对称最小二乘回归去基线算法 |
| A.3 无监督的顶点成分分析算法 |
| 附录B 用于拉曼光谱测量和拉曼成像的样品制备 |
| B.1 标准尺寸小球样品的制备 |
| B.2 生物细胞样品制备 |
| 致谢 |
| 在读期间发表的学术论文与取得的研究成果 |
（2）基于数值-符号计算的操作弹性分析与优化设计方法研究（论文提纲范文）
| 致谢 |
| 摘要 |
| Abstract |
| 第一章 绪论 |
| 1.1 研究背景及意义 |
| 1.2 过程系统分析 |
| 1.3 过程系统综合 |
| 1.4 过程系统优化 |
| 1.4.1 序贯模块法与联立方程法 |
| 1.4.2 全局优化 |
| 1.4.3 不确定性优化 |
| 1.5 过程模型的求解方法 |
| 1.5.1 数值计算 |
| 1.5.2 符号计算 |
| 1.6 研究内容与论文框架 |
| 第二章 基于空间投影的弹性指标求解方法 |
| 2.1 弹性指标求解问题 |
| 2.2 弹性指标空间投影求解方法 |
| 2.2.1 δ-空间投影 |
| 2.2.2 δ-几何解释 |
| 2.2.3 基于传统CAD方法的δ-检验规则 |
| 2.2.4 基于改进CAD方法的δ-检验规则 |
| 2.3 计算复杂度分析 |
| 2.4 案例分析 |
| 2.4.1 换热网络模型弹性指标求解 |
| 2.4.2 化学络合物模型弹性指标求解 |
| 2.4.3 双管-泵网络模型弹性指标求解 |
| 2.4.4 三管-泵网络模型弹性指标求解 |
| 2.5 本章小结 |
| 第三章 高维过程系统操作弹性显式分析方法 |
| 3.1 基于代理模型的操作弹性空间解析化 |
| 3.2 基于代理模型的操作弹性空间精细化 |
| 3.2.1 操作弹性空间边界检验 |
| 3.2.2 代理模型和CAD解析结果更新 |
| 3.2.3 操作弹性空间保守性检验 |
| 3.3 案例分析 |
| 3.3.1 换热网络模型操作弹性分析 |
| 3.3.2 内部不可行模型操作弹性分析 |
| 3.3.3 四自由度双管-泵网络模型操作弹性分析 |
| 3.3.4 真空精馏模型操作弹性分析-凸弹性空间 |
| 3.3.5 真空精馏模型操作弹性分析-非凸弹性空间 |
| 3.4 本章小结 |
| 第四章 过程系统弹性指标和设计问题的解析参数化方法 |
| 4.1 弹性指标和设计问题 |
| 4.2 弹性指标和设计问题解析参数化方法 |
| 4.2.1 解空间投影 |
| 4.2.2 内接超矩形检验规则 |
| 4.2.3 基于目标弹性指标的优化设计 |
| 4.3 案例分析 |
| 4.3.1 线性代数模型弹性指标和设计问题 |
| 4.3.2 化学络合物模型弹性指标和设计问题 |
| 4.3.3 单管-泵网络模型弹性指标和设计问题 |
| 4.3.4 换热网络模型弹性指标和设计问题 |
| 4.4 体积弹性指标 |
| 4.4.1 可行空间投影和多重积分 |
| 4.4.2 可行空间体积的优化设计 |
| 4.5 本章小结 |
| 第五章 工业冷却水系统设计操作优化综合方法 |
| 5.1 冷却水系统设计操作优化问题描述 |
| 5.2 冷却水系统数学模型构建 |
| 5.2.1 冷却水网络 |
| 5.2.2 泵网络 |
| 5.2.3 冷却塔网络 |
| 5.2.4 目标函数 |
| 5.2.5 线性松弛策略 |
| 5.3 案例分析 |
| 5.3.1 空间对称单源冷却水系统 |
| 5.3.2 空间不对称单源冷却水系统 |
| 5.3.3 多源冷却水系统 |
| 5.3.4 多匹配模式的多源冷却水系统 |
| 5.4 性能分析 |
| 5.5 本章小结 |
| 第六章 多项式系统鲁棒优化求解方法 |
| 6.1 鲁棒对偶优化 |
| 6.2 空间投影鲁棒优化求解 |
| 6.3 案例分析 |
| 6.3.1 非线性鲁棒优化问题 |
| 6.3.2 混合整数线性鲁棒优化问题 |
| 6.3.3 混合整数非线性鲁棒优化问题 |
| 6.3.4 非凸不确定集合的非线性鲁棒优化问题 |
| 6.3.5 换热网络鲁棒优化设计问题 |
| 6.4 本章小结 |
| 第七章 总结与展望 |
| 7.1 主要研究成果 |
| 7.2 研究展望 |
| 参考文献 |
| 附录 |
| 作者在学期间所取得的科研成果 |
（3）面向若干凸可行性问题的数值算法研究（论文提纲范文）
| 摘要 |
| abstract |
| 第一章 绪论 |
| 1.1 选题的背景和意义 |
| 1.1.1 系统科学的发展历史 |
| 1.1.2 可行性问题的由来 |
| 1.1.3 凸可行性问题的介绍 |
| 1.2 凸可行性问题的一般类型 |
| 1.2.1 单调包含问题的研究进展 |
| 1.2.2 变分不等式问题的研究进展 |
| 1.2.3 不动点问题的研究进展 |
| 1.3 本文的主要内容和结构安排 |
| 1.4 基本概念和若干引理 |
| 第二章 变分不等式问题的弱收敛性算法 |
| 2.1 引言 |
| 2.2 修正惯性次-超梯度算法及其收敛性 |
| 2.3 数值实验 |
| 2.4 本章小结 |
| 第三章 变分不等式问题的两种强收敛算法 |
| 3.1 算法提出思路 |
| 3.2 惯性Tseng-Mann型算法及其收敛性 |
| 3.3 惯性Tseng-粘滞迭代算法及其收敛性 |
| 3.4 Armijo步长准则下的收敛性分析 |
| 3.5 数值实验 |
| 3.6 本章小结 |
| 第四章 关于双层变分不等式问题的强收敛算法 |
| 4.1 引言 |
| 4.2 算法与收敛性分析 |
| 4.3 动力系统模型 |
| 4.4 网络宽带分配问题 |
| 4.4.1 数值算法 |
| 4.5 本章小结 |
| 第五章 多集合极大单调包含问题的强收敛算法 |
| 5.1 引言 |
| 5.2 算法与收敛性分析 |
| 5.3 数值实验 |
| 5.4 本章小结 |
| 第六章 包含问题、不动点问题与零点问题之间的凸可行性研究 |
| 6.1 包含问题和零点问题之公共解 |
| 6.1.1 基本概念和若干引理 |
| 6.1.2 可变距离的分裂可行性算法与强弱收敛性分析 |
| 6.2 不动点问题和零点问题之公共解 |
| 6.2.1 混合显式与隐式的迭代算法与强弱收敛性分析 |
| 6.3 本章小结 |
| 第七章 Banach空间中的不动点问题及其强收敛算法 |
| 7.1 引言 |
| 7.2 Banach空间的相关内容 |
| 7.3 基本概念和若干引理 |
| 7.4 算法与收敛性分析 |
| 7.5 数值实验 |
| 7.6 本章小结 |
| 第八章 总结和展望 |
| 8.1 工作总结 |
| 8.2 未来工作展望 |
| 致谢 |
| 参考文献 |
| 攻读博士学位期间取得的成果 |
（4）多步梯度法的收敛性研究（论文提纲范文）
| 摘要 |
| Abstract |
| 第1章 绪论 |
| 1.1 研究背景和意义 |
| 1.2 无约束优化算法介绍 |
| 1.2.1 共轭梯度法 |
| 1.2.2 记忆梯度法 |
| 1.2.3 多步梯度法 |
| 1.3 本文主要研究内容和创新点 |
| 1.4 本文的结构安排 |
| 第2章 预备知识 |
| 2.1 凸函数 |
| 2.2 无约束问题 |
| 2.3 梯度下降法 |
| 2.4 加速梯度下降法 |
| 2.4.1 牛顿法 |
| 2.4.2 多步梯度法 |
| 2.5 劳斯判据 |
| 2.6 双线性变换 |
| 2.7 收敛速度 |
| 2.8 本章小结 |
| 第3章 两步梯度法及其收敛性分析 |
| 3.1 两步梯度下降法 |
| 3.2 两步梯度下降法的收敛性分析 |
| 3.3 两步梯度下降法的收敛率分析 |
| 3.4 数值实验 |
| 3.5 本章小结 |
| 第4章 三步梯度法及其收敛性分析 |
| 4.1 三步梯度下降法 |
| 4.2 三步梯度下降法的收敛性分析 |
| 4.3 三步梯度下降法的收敛率分析 |
| 4.3.1 主要结论及其证明 |
| 4.3.2 引理4.1的证明 |
| 4.4 数值实验 |
| 4.5 本章小结 |
| 第5章 p步梯度法及其收敛性分析 |
| 5.1 p步梯度下降法 |
| 5.2 p步梯度下降法的收敛性分析 |
| 第6章 总结与展望 |
| 6.1 全文总结 |
| 6.2 工作展望 |
| 致谢 |
| 参考文献 |
| 附录1 攻读硕士学位期间发表的论文 |
| 附录2 攻读硕士学位期间参加的科研项目 |
（5）椭圆型和分数阶扩散方程最优控制问题的谱方法研究（论文提纲范文）
| 摘要 |
| Abstract |
| 第1章 引言 |
| 1.1 研究背景和研究现状 |
| 1.2 研究目的及意义 |
| 1.3 本文具体结构安排 |
| 1.4 预备知识 |
| 1.4.1 函数空间及相关性质 |
| 1.4.2 分数阶导数的定义 |
| 1.4.3 最优性条件的唯一性和推导定理 |
| 1.4.4 多项式逼近定理 |
| 1.4.5 hp谱元方法及其相关定理 |
| 第2章 L~2-范数状态受限的椭圆控制问题谱方法研究 |
| 2.1 最优性条件 |
| 2.2 谱方法 |
| 2.3 先验误差分析 |
| 2.4 后验误差分析 |
| 2.5 数值实验 |
| 第3章 L~2-范数控制受限的椭圆控制问题谱方法研究 |
| 3.1 最优性条件 |
| 3.2 谱方法 |
| 3.3 先验误差分析 |
| 3.4 后验误差分析 |
| 3.5 数值实验 |
| 第4章 椭圆控制问题谱元逼近的后验误差估计 |
| 4.1 状态受限椭圆控制问题的谱元方法研究 |
| 4.1.1 hp谱元逼近 |
| 4.1.2 后验误差估计 |
| 4.1.3 数值实验 |
| 4.2 控制受限椭圆控制问题谱元逼近 |
| 4.2.1 谱元方法 |
| 4.2.2 后验误差估计 |
| 4.2.3 数值实验 |
| 第5章 控制受限的时空分数阶最优控制问题的谱方法研究 |
| 5.1 无控制受限的最优控制问题 |
| 5.1.1 最优性条件和谱方法 |
| 5.1.2 先验误差估计 |
| 5.2 控制受限的最优控制问题 |
| 5.2.1 最优性条件和谱方法 |
| 5.2.2 先验误差估计 |
| 5.2.3 后验误差估计 |
| 第6章 状态受限的时间空间分数阶最优控制问题谱方法研究 |
| 6.1 最优性条件 |
| 6.2 Galerkin谱方法 |
| 6.3 先验误差分析 |
| 6.4 后验误差分析 |
| 第7章 结论与展望 |
| 7.1 结论 |
| 7.2 展望 |
| 参考文献 |
| 致谢 |
| 在读博士期间发表的学术论文和完成论文 |
（6）一个基于非单调技术的超记忆梯度法（论文提纲范文）
| 1. 引言 |
| 2. 算法描述 |
| 3. 算法的收敛性分析 |
| 4. 数值实验 |
（7）深度学习下的计算成像:现状、挑战与未来（论文提纲范文）
| 1 引 言 |
| 2 深度学习下的计算成像:现状 |
| 1) 从“物理模型驱动”到“样本数据驱动” |
| 2) 从“分步/分治”到“端到端学习” |
| 3) 从“病态非线性逆问题”到“直接(伪)正向非线性建模” |
| 1) 提升传统计算成像技术的信息获取能力: |
| 2) 降低传统计算成像技术对“正向物理模型”或“逆向重构算法”的过度依赖: |
| 3) 突破传统计算成像技术所能够达到的功能/性能疆界: |
| 2.1 提升传统计算成像技术的信息获取能力 |
| 1) 时域相移解调法: |
| 2) 空域相位解调法: |
| 2.2 降低传统计算成像技术对“正向物理模型”或“逆向重构算法”的过度依赖 |
| 2.3 突破传统计算成像技术所能够达到的功能/性能疆界 |
| 3 深度学习下的计算成像:挑战 |
| 3.1 (实测)训练数据的获取与标注成本高 |
| 1) 耗时费力: |
| 2) 真值难知: |
| 3.2 目标合作度与环境稳定性要求高 |
| 1) 目标合作度要求高: |
| 2) 环境稳定性要求高: |
| 3.3 网络结构的选取趋于经验主义 |
| 3.4 “调参好比炼丹”式的试错法训练机制 |
| 3.5 特定样本训练后的网络缺乏泛化能力 |
| 3.6 “深度学习下的计算机视觉”≠“深度学习下的计算成像” |
| 3.7 “深度学习”缺乏“深入理解”的能力 |
| 4 深度学习下的计算成像:未来 |
| 4.1 搭上深度学习技术发展的顺风车 |
| 4.1.1 对抗学习(GAN) |
| 4.1.2 迁移学习与少样本学习 |
| 4.1.3 自动化机器学习(AutoML) |
| 4.2 物理模型驱动数据与数据驱动物理模型 |
| 4.2.1 物理模型驱动数据 |
| 4.2.2 数据驱动物理模型 |
| 4.3 深度学习的可解释性有待进一步探究 |
| 4.4 脑神经科学启发的思路值得更多的重视 |
| 4.5 既要“深度”又要“深入” |
| 4.6 既要“有所为”又要“有所不为” |
| 5 结束语 |
（8）基于模型驱动的深度神经网络的图像恢复（论文提纲范文）
| 摘要 |
| ABSTRACT |
| 符号对照表 |
| 缩略语对照表 |
| 第一章 绪论 |
| 1.1 研究背景及意义 |
| 1.2 图像恢复的研究现状 |
| 1.2.1 图像去噪的研究现状 |
| 1.2.2 图像超分辨的研究现状 |
| 1.2.3 图像去模糊的研究现状 |
| 1.3 论文的主要工作与章节安排 |
| 第二章 现有图像恢复方法简介 |
| 2.1 图像退化模型 |
| 2.2 基于图像先验信息的图像恢复 |
| 2.2.1 图像先验信息 |
| 2.2.2 基于图像先验信息的图像恢复模型 |
| 2.3 基于深度学习的图像恢复 |
| 2.3.1 深度卷积网络模型 |
| 2.3.2 基于深度卷积网络的图像恢复模型 |
| 2.4 去噪算子 |
| 2.5 本章小结 |
| 第三章 基于混合先验信息的图像恢复 |
| 3.1 引言 |
| 3.2 基于混合先验信息的图像恢复模型 |
| 3.2.1 基于NCSR算法学习去噪算子 |
| 3.2.2 基于混合先验信息的图像恢复 |
| 3.3 实验结果 |
| 3.3.1 实验设置 |
| 3.3.2 实验结果及分析 |
| 3.4 本章小结 |
| 第四章 基于模型驱动的深度神经网络的图像恢复 |
| 4.1 引言 |
| 4.2 模型驱动的深度神经网络模型 |
| 4.2.1 基于模型的图像恢复 |
| 4.2.2 模型收敛性的分析与证明 |
| 4.2.3 模型驱动的深度卷积网络的构建 |
| 4.3 图像恢复网络的整体实现 |
| 4.4 实验结果与分析 |
| 4.4.1 图像去噪 |
| 4.4.2 图像超分辨 |
| 4.4.3 图像去模糊 |
| 4.4.4 算法复杂度分析 |
| 4.4.5 实验分析与验证 |
| 4.5 本章小结 |
| 第五章 总结与展望 |
| 参考文献 |
| 致谢 |
| 作者简介 |
（9）数据自适应的核学习理论研究及应用（论文提纲范文）
| 摘要 |
| abstract |
| 第一章 绪论 |
| 1.1 研究背景 |
| 1.2 理论基础 |
| 1.3 相关工作 |
| 1.3.1 正定核学习算法 |
| 1.3.2 非正定核学习算法 |
| 1.3.3 核近似算法 |
| 1.4 本文主要贡献 |
| 1.5 本文组织结构 |
| 第二章 数据自适应的非参数核学习算法 |
| 2.1 本章引言 |
| 2.2 用于分类问题的DANK模型描述 |
| 2.3 DANK模型的优化算法 |
| 2.3.1 DANK模型目标函数的连续性 |
| 2.3.2 基于Nesterov加速的可微优化算法 |
| 2.4 用于回归问题的DANK模型描述 |
| 2.5 DANK模型的核近似算法 |
| 2.6 实验结果对比与分析 |
| 2.6.1 分类结果 |
| 2.6.2 回归结果 |
| 2.7 本章小结 |
| 第三章 用于非参数核的新增样本扩张算法 |
| 3.1 本章引言 |
| 3.2 hyper-RKHS上的正则化回归模型 |
| 3.3 hyper-RKHS上正则化回归算法的学习率结果 |
| 3.4 本章主要定理证明 |
| 3.4.1 误差分解 |
| 3.4.2 估计样本误差和输出误差 |
| 3.4.3 学习率推导 |
| 3.5 实验结果及比较 |
| 3.5.1 UCI数据集分类结果 |
| 3.5.2 LFW人脸识别数据集分类结果 |
| 3.5.3 大规模数据集分类结果 |
| 3.6 本章小结 |
| 第四章 基于非正定核的正则化学习算法的求解与分析 |
| 4.1 本章引言 |
| 4.2 基于非正定核的逻辑斯蒂回归模型 |
| 4.3 非精确求解的凹凸规划 |
| 4.3.1 IKLR模型中的CCICP算法 |
| 4.3.2 CCICP-GD收敛性分析 |
| 4.3.3 CCICP-SGD的收敛性分析 |
| 4.3.4 CCICP算法的收敛阶分析 |
| 4.4 RKKS上的基于最小二乘的正则化回归算法 |
| 4.4.1 RKKS上岭回归算法的求解 |
| 4.4.2 RKKS上岭回归算法的学习率结果 |
| 4.5 本章主要定理证明 |
| 4.5.1 误差分解 |
| 4.5.2 估计假设误差 |
| 4.5.3 样本误差估计 |
| 4.5.4 学习率推导 |
| 4.6 实验结果对比与分析 |
| 4.6.1 实验设置 |
| 4.6.2 UCI数据集分类结果 |
| 4.6.3 Yale人脸数据集识别结果 |
| 4.6.4 非精确求解参数?的分析 |
| 4.6.5 CCICP算法的收敛性 |
| 4.6.6 初始化对结果的影响 |
| 4.6.7 关于CCICP-SGD的讨论 |
| 4.7 本章小结 |
| 第五章 基于双变分贝叶斯框架的非正定核近似算法 |
| 5.1 本章引言 |
| 5.2 预备知识 |
| 5.2.1 随机傅里叶特征算法简述 |
| 5.2.2 狄利克雷过程的构造 |
| 5.3 RFF-DIGMM模型的图模型表示 |
| 5.4 RFF-DIGMM模型的变分推断方法 |
| 5.4.1 基于截断狄利克雷过程的平均场方法 |
| 5.4.2 RFF-DIGMM模型变分参数的推导 |
| 5.5 实验结果对比与分析 |
| 5.5.1 实验设置 |
| 5.5.2 核近似算法的逼近结果 |
| 5.5.3 核近似算法的分类结果 |
| 5.5.4 MNIST数据集识别结果 |
| 5.5.5 RFF-DIGMM模型参数分析 |
| 5.6 本章小结 |
| 第六章 基于核化编码的目标跟踪算法 |
| 6.1 本章引言 |
| 6.2 基于核化版本的非负局部编码模型 |
| 6.2.1 LLC算法回顾 |
| 6.2.2 基于核化版本的非负近似LLC算法 |
| 6.2.3 多字典集成 |
| 6.2.4 ?2范数正则化的理论分析 |
| 6.3 基于KNMC的跟踪框架 |
| 6.3.1 观测模型 |
| 6.3.2 遮挡检测机制 |
| 6.4 实验结果对比与分析 |
| 6.4.1 实验设置 |
| 6.4.2 评价指标 |
| 6.4.3 OTB数据集跟踪结果 |
| 6.4.4 缺项分析与参数分析 |
| 6.5 本章小结 |
| 第七章 总结与展望 |
| 7.1 全文总结 |
| 7.2 研究展望 |
| 参考文献 |
| 致谢 |
| 攻读学位期间发表的学术论文 |
| 攻读学位期间参与的项目 |
（10）非线性优化的记忆梯度方法的若干研究（论文提纲范文）
| 摘要 |
| Abstract |
| 1 绪论 |
| 1.1 研究背景 |
| 1.2 国内外研究现状 |
| 1.3 本文的主要工作 |
| 2 一个基于非单调技术的超记忆梯度法 |
| 2.1 引言 |
| 2.2 算法描述 |
| 2.3 算法的收敛性分析 |
| 2.4 数值实验 |
| 3 一个求解单调非线性方程组的无导数记忆梯度法 |
| 3.1 引言 |
| 3.2 算法描述 |
| 3.3 算法的收敛性分析 |
| 3.4 数值实验 |
| 4 总结展望 |
| 4.1 全文工作总结 |
| 4.2 工作展望 |
| 参考文献 |
| 硕士期间发表的论文 |
| 致谢 |
四、A SUPERMEMORY GRADIENT PROJECTION ALGORITHM FOR OPTIMIZATION PROBLEM WITH NONLINEAR CONSTRAINTS（论文参考文献）
- [1]快速和高分辨拉曼成像技术及高通量光谱分析方法研究[D]. 胡传真. 中国科学技术大学, 2021(09)
- [2]基于数值-符号计算的操作弹性分析与优化设计方法研究[D]. 郑成霖. 浙江大学, 2021(01)
- [3]面向若干凸可行性问题的数值算法研究[D]. 刘丽亚. 电子科技大学, 2021(01)
- [4]多步梯度法的收敛性研究[D]. 刘梓懿. 武汉科技大学, 2020(01)
- [5]椭圆型和分数阶扩散方程最优控制问题的谱方法研究[D]. 林秀秀. 湘潭大学, 2020(12)
- [6]一个基于非单调技术的超记忆梯度法[J]. 林海婵,李靖雅,欧宜贵. 应用数学, 2020(01)
- [7]深度学习下的计算成像:现状、挑战与未来[J]. 左超,冯世杰,张翔宇,韩静,陈钱. 光学学报, 2020(01)
- [8]基于模型驱动的深度神经网络的图像恢复[D]. 王佩瑶. 西安电子科技大学, 2019(02)
- [9]数据自适应的核学习理论研究及应用[D]. 刘方辉. 上海交通大学, 2019(06)
- [10]非线性优化的记忆梯度方法的若干研究[D]. 李靖雅. 海南大学, 2018(12)