使用串行最小优化算法解决回归估计问题

使用串行最小优化算法解决回归估计问题

一、利用串行最小优化算法求解回归估计问题(论文文献综述)

苏美红[1](2021)在《面向回归的稳健正则化方法研究》文中研究说明科学技术的飞速发展为数据的采集和整理带来了便捷,与此同时给数据分析也带来了巨大的挑战.回归分析作为研究变量之间相关关系的一种数学工具,成为了数据分析与研究的主要工具之一.回归分析的主要任务是对回归系数/参数的估计,即根据已知观测值确定样本之间的相关关系,从而对未知数据进行预测或解释.正则化方法作为一种参数估计模型,在很多领域得到了广泛的应用.其中最着名的是基于平方损失的正则化估计方法,但由于平方函数的敏感性,使得该类方法稳健性不足.因此,当模型误差服从重尾分布或数据中含有异常点时,如何提高回归参数估计的稳健性,进而最大程度提高回归模型预测的准确度和可解释性,是一个非常值得研究的科学问题.本学位论文主要聚焦于两方面的研究.一方面针对线性模型中的参数估计稳健性问题展开研究,特别地,本文将主要关注于加权正则化方法中权值的选取问题,以及分位数回归中的变量相关性问题.通过解决权值选取问题和变量相关性问题来提高模型的稳健性,以达到最终提高回归模型预测准确度的目的.另一方面将围绕广义回归模型展开研究,具体将从回归模型构建角度考虑来提高模型的稳健性,主要包括如何将邻近样本信息融合到模型中;以及当回归模型中加入变量与变量之间的交互项时,如何解决重尾分布问题以保证模型的稳健性等.主要研究工作概括如下:(1)提出一种自加权稳健正则化方法.加权正则化方法在一定程度上提高了模型的稳健性,然而,权值选取不当可能会导致参数估计出现较大偏差,进而降低模型预测的准确度.通过在加权正则化模型中加入关于权重的自适应正则项,使得模型能够根据样本损失大小自主决定其权值,一方面解决了权值求解问题,另一方面提高了模型预测的精度.在理论方面,证明了估计的一致性.在求解方面,基于交替迭代算法,给出问题求解的坐标下降算法.大量人工数据集和标准数据集上的实验均表明所提方法的有效性,特别是当数据中含有异常点时,该方法相比于其他方法的优越性.(2)针对自变量的相关性提出Elastic Net罚分位数回归模型.在正则化框架下,L1惩罚项能够产生稀疏解,L2惩罚项能够同时选出相关性强的变量,而分位数估计具有一定的稳健性.本文利用它们各自的特性,提出基于分位数损失的Elastic Net罚正则化估计方法,给出模型理论上的解释,证明其估计的一致性,并给出问题求解的ADMM算法.实验结果表明所提方法表现良好,不仅具有一定的稳健性,而且能够解决变量之间存在的相关性问题.(3)建立具有邻近样本信息的回归模型.通过网络图结构,将样本的邻近样本信息有效引入到回归模型中,既考虑每个样本本身所具有的的属性特征,又获取了与之相邻的样本信息.其次,利用基于平方损失的L1罚正则化方法估计回归参数.在理论方面,基于限制特征值条件,给出了估计的误差界证明.在算法方面,通过坐标下降法进行问题的求解.大量人工数据集实验表明所构建的回归模型比普通线性回归模型具有更高的预测准确度.将其应用于房屋价格预测数据,所得结果进一步验证了所提模型的有效性.(4)提出含有交互项的回归模型参数的稳健正则化估计方法.线性回归模型虽然简单易于解释,但在一定程度上并不足以完全包含样本所提供的全部信息.通过引入交互项,从模型条件假设角度来说,可以移除线性模型的可加性假设条件;从模型解释角度来说,考虑变量之间的相互影响,可以充分挖掘数据所包含的隐藏信息.为解决模型中重尾分布问题,提出基于L1惩罚项和自适应L1惩罚项的两种稳健参数估计方法,并从理论上证明了后者估计的一致性.在算法方法,给出了基于ADMM的求解算法.人工数据集上的实验表明,当模型误差来源于重尾分布时,本文所提估计方法能够提高预测的准确度,在变量选择方法也具有明显的优势.真实数据集上的实验表明含有交互项的回归模型优于线性模型;且本文所提估计方法在预测准确度和变量选择方面均优于基于平方损失的正则化估计方法.本文在正则化框架下,主要围绕回归模型中参数的稳健估计和模型的构建展开研究,取得的成果一方面完善了稳健正则化估计方法的理论研究,另一方面为复杂多样化的数据的分析提供了有效的稳健估计方法,具有十分重要的应用价值。

唐文举[2](2021)在《基于多特征融合与机器学习的散斑缺陷精确识别》文中研究指明吸波涂层对于现代军事领域实现武器装备的隐身功能有着至关重要的作用,但由于吸波涂层具有厚度薄、涂覆面积大、使用环境恶劣以及工艺复杂等特点,在成型以及使用过程中易受人为因素或者环境影响产生裂纹、撞击及脱粘等缺陷,从而影响吸波材料的隐身性能。常见的吸波涂层裂纹及撞击类缺陷主要表现在物体的表面,有些较为明显的缺陷甚至可以通过肉眼直接进行观察,但吸波涂层的材料结构一般采用的是多层异质吸波涂层,其中,脱粘类的缺陷是常见于此类材料内部的一种缺陷,通常都具有较强的隐蔽性,检测的难度相对比较高,目前常用的无损检测技术诸如超声波、红外热波等检测手段在针对这种类型缺陷的检测上仍然具有很大的局限性,例如采用超声波检测技术仅可以实现对单点而非全场的检测,并且在存在着检测盲区,而受到涂层材料的性质以及结构件的形状、尺寸等特征限制,涡流和红外热波同样不适合雷达吸波涂层结构件脱粘缺陷的检测。激光剪切散斑干涉技术是一种重要的无损检测方法,其优势在于它对环境要求较低,在对被测件的表面和内部的破损及变形进行检测的同时,还可以提供被测件形貌的完整图像,并可用于进行大面积检测,正是由于这些优点,使得散斑剪切干涉技术成为对结构内部缺陷检测进行研究的得力方法。而如何根据得到的散斑剪切干涉图像对被测表面缺陷进行识别及定位,也是自动化检测的必要需求。本文的主要工作如下:1、首先,本文对激光剪切散斑干涉技术的检测原理进行深入的理论研究,通过数理分析证明该技术对于吸波涂层脱粘缺陷进行检测的可行性。并采用有限元仿真软件构建仿真模型,以涂蜡和空气模拟涂层与基底间的脱粘缺陷,通过对吸波涂层进行热加载,分析其热应力从而确定相关热加载参数。2、根据吸波涂层脱粘缺陷检测的检测需求,制定一种基于机器学习与激光剪切散斑干涉技术的缺陷检测方案。搭建基于已改进的迈克尔逊干涉仪的激光剪切散斑实验平台,并设计针对吸波涂层脱粘缺陷进行无损检测的软件系统。3、本文深入研究基于HOG、LBP和GLCM特征融合的剪切散斑缺陷识别算法,制定缺陷识别方案,对剪切散斑缺陷图像进行预处理、特征提取、特征融合、模型训练,从而实现缺陷识别,并利用包含脱粘缺陷的散斑图像进行识别实验,与基于YOLO v3的缺陷识别算法进行对比分析,结果表明,基于HOG、LBP和GLCM特征融合的剪切散斑缺陷识别算法可以高质量的实现脱粘缺陷的精确识别。

张贵阳[3](2021)在《基于立体视觉的飞行器物理仿真动态多信息测量方法研究》文中研究表明飞行器物理仿真试验是飞行器研制过程中不可或缺的一部分,随着航空航天技术的不断发展与进步,对飞行器仿真系统功能的需求也日趋多样化。然而在大量的复杂仿真试验中却发现,尽管仿真模型、仿真技术、仿真环境已经有了质的飞越,对于仿真数据的来源依然停留在理想假设或带有较大偏差的统计水平上。当前,基于摄像学与计算机技术相结合的视觉测量技术已成为一种具有重要意义的非接触测量手段。因此,本文以视觉测量技术在飞行器地面仿真任务中的应用为背景,针对飞行器物理仿真试验中结构参数、相对运动关系等高精度外部参数测试的需求,展开对飞行器物理仿真动态多信息全场测量技术的研究,实现全视场内地面飞行器运动轨迹、形貌轮廓、位姿参数等信息的精确获取,为待测飞行器的动态性能分析与评估提供可信的数据支持。本文研究工作主要从以下几个方面进行展开:(1)视觉测量系统中的相机高精度标定是实现精确测量的重要基础,针对空间目标位姿测量环境下的相机参数标定问题,提出基于双更新策略加权差分进化粒子群优化的相机标定方法。通过引入交替因子来控制每一次迭代过程中加权差分进化算法和粒子群优化算法的调用比例,根据概率计算规律选择相应的算法完成对种群的优化,并通过信息交流机制利用加权差分进化操作得到的个体去引导粒子群优化操作中的个体进化过程,所采用的加权差分进化算法能够保证种群个体进化的多样性和有效性,并且与相机非线性标定模型参数进行耦合,同步实现单相机参数的组合非线性、全局连续优化。(2)针对细长型和大尺寸飞行器试件的三维变形信息全场测量问题,提出一种基于多相机网络联合约束优化的数字图像相关变形测量方法。多相机联合约束关系的引入,使相机网络中任意两个CCD相机可以被绑定为一个整体,并完成试件的部分区域测量,然后将测量结果映射到统一参考坐标系下,从而减小了因直接进行全场测量而导致较大非线性成像畸变的影响,并且能够避免牺牲相机的有效空间分辨率。此外,基于多相机网络联合约束关系构建了散斑立体配准的新型相关函数,能够将图像对间同名点立体匹配的亚像素搜索区域准确地限制在对极线附近,而不是整个图像上,从而缩小了搜索空间、提高了搜索效率。与此同时,基于多相机网络联合约束优化的数字图像相关方法能够实现相机间位置及姿态参数的优化求解,进一步提高了散斑点空间三维坐标的重构精度,从而提高变形信息的测量精度。(3)针对大视场范围下飞行器运动位姿参数测量易受模型累积误差、成像畸变、已知特征信息不足等因素的影响问题,设计并构建一种新型视觉测量模式。建立了适用于视觉测量过程中的多源特征数据融合模型,克服特征点的单一性与低效性;然后构建基于特征点云信息双向传递的闭合测量模式,改变传统方法中从图像数据到空间特征信息传递的单向过程,将已确认的空间数据作为控制信息返回至测量处理过程中,增加了解算冗余信息,提高了飞行器运动参数估计的稳定性与可靠性。(4)最后,针对视觉测量过程中散斑特征匹配耗时较长问题,仅在算法上的优化和改进难以使解算速度获得跨数量级的提升,因此通过NVCC编译CUDA源程序的GPU并行计算模式,提高了散斑匹配的亚像素搜索效率。通过NVCC编译CUDA源程序的GPU并行编程方式具有很强的灵活性,解决了Mex脚本和其他语言程序交互时的障碍问题,同时不受重载函数的限制,使变形测量程序总体运算性能达到一个较优状态,实现了较高的运算加速比。此外,通过CUDA异构并行算法对地面飞行器大尺寸模拟翼面进行三维平移测量和动态立体变形测量实验,获得了较好的实验效果,为实现目标立体变形的实时测量与输出奠定了理论与技术基础。

董杨[4](2020)在《多视角视频时空四维重建理论与方法研究》文中认为场景时空四维重建是指对包含移动物体的动态场景进行时空关联的结构建模,是摄影测量与计算机视觉领域基础且关键的问题之一。其中,基于多视角视频数据的场景时空四维重建技术相比于其它方式的四维重建技术具有数据采集方便、应用场景广泛等优点,有较大的研究价值与应用前景。然而,现阶段的处理技术需要大量的先验场景知识作为约束,严重制约了其工程应用价值,且随着视频分辨率以及采样频率的提高,需要的计算量将骤然增加。因此,研究无需任何先验场景知识的高效、鲁棒的多视角视频时空四维重建技术具有重要的理论意义和实用价值。为此,本文对多视角视频时空四维重建的理论进行了深入研究,详细分析了现有方法,提出了一系列新的处理理论与方法,并利用大量场景数据进行了实验验证分析。论文的主要工作和创新点如下:1.研究了多视角视频四维重建的基础理论与处理方法。对场景四维重建处理中涉及到的各个流程分别进行了详细讨论,并对涉及到的相关技术的国内外研究现状和存在的主要问题进行了详细分析,包括数据获取、特征提取与匹配、相机运动恢复、场景分割与密集重建、场景时空关联等部分,为场景时空四维重建的研究提供了理论基础。2.提出了一种基于超像素及优化二进制描述符的特征提取与描述方法,实现了多视角视频帧间宽基线或弱纹理影像同名点对的鲁棒获取。首先对影像进行超像素分割,将超像素边缘交叉点定义为影像特征点,然后利用主次方向进行局部影像变形,通过随机像点对采样强度对比计算得到二进制描述符。采用多个公开数据集及多种当前主流算法进行实验对比分析。实验结果表明,对于不同类型的影像数据,该方法都能够有效地提取匹配得到大量的匹配点对,相较于当前主流匹配算法的正确匹配特征点对数量提升了2-5倍。同时将该方法应用到多视影像稀疏三维重建中,取得了较为理想的结果,为一般室内外场景下的四维重建提供了良好的初始特征点对。3.提出了一种快速的影像误匹配点对剔除方法,实现了视频序列相对空间位姿的快速精准估计。首先将影像中的运动一致性原理转换为两个判别准则,从而能够不需要求解运动平滑函数,直接进行运动平滑约束;然后在两个判别准则的基础上将局部运动一致性约束进一步转换为局部多项式映射约束,提高最终结果的正确率。采用多个公开数据集及多种当前主流的特征提取与匹配算法进行实验,设计与多种当前常用的匹配提纯算法进行对比分析。实验结果表明,该方法点对匹配提纯正确率优于对比算法,且能够满足实时计算的要求。同时利用具有真实位姿参数的标准数据集进行位姿求解应用分析,验证了该方法能够满足快速、准确的视频序列相对位姿求解要求,能够为场景四维重建提供精准的多视角视频序列空间位姿信息。4.提出了一种结合深度学习与超像素信息传播的多视角视频帧间影像密集匹配方法,实现了复杂场景的高完整度密集重建。首先利用神经网络方法预测影像深度初值,然后结合超像素信息进行深度平面拟合与联合优化,最后逐像素进行深度信息传播检查得到最优的深度估值。利用多种分辨率及多个室内外实际场景拍摄影像数据集进行实验,与多种已被广泛应用的高水平算法进行对比分析。实验结果表明,该方法在重建完整度与综合性指标得分方面优于现有对比算法,同时保持了较高重建精度与较快重建速度,为场景四维重建提供了良好的密集点云。5.提出了一种无需先验场景知识的一般动态场景的时空四维重建方法,实现了一般场景下多视角视频数据的近实时或在线四维重建。首先设计了模块化的动态场景时空四维重建流程,然后利用时间域约束实现了针对视频数据的场景深度快速估计,利用多视角间的深度及分割信息联合优化实现了多视角信息的一致性处理,利用前后帧间点云快速配准融合处理实现了场景时空关联,最后进行整体优化实现了一种流式异步处理的时空四维重建方法。利用多种类型的多视角视频数据进行全面的实验分析。实验结果表明,该方法无需输入任何先验的相机信息或者场景信息,能够近实时或在线地提供完整动态场景的时空四维模型,为整体场景点云提供随时间推移的对应关系,实现了良好的场景四维重建效果。

孙红卫[5](2020)在《基于截尾的稳健惩罚Logistic回归和稳健惩罚Cox回归及在组学数据分析中的应用》文中提出目的:以前的研究表明,样本标记错误在组学数据中并不少见。样本标记错误是由于漏诊或误诊,样本的异质性,实验中的技术问题等造成。这些潜在的异常点会导致病人接受不适合的治疗,且会影响可靠地筛选疾病相关的生物标记物。对这些错分样本进行识别,以及从错分高维组学数据中进行正确地特征选择是一个亟待解决的问题。本文第一部分提出了基于截尾的稳健惩罚Logistic回归,探讨了理论性质,提出算法来求解估计,并与其它解决错分高维组学数据的方法进行比较,便于实际中选用合适的方法。类似的异常点会也会降低惩罚Cox回归变量选择的准确性。如果这些异常点不是因为实验或记录误差造成,这可能意味着这些患者的生存时间相对于其协变量有不同的关联模式。通过对这些异常值的识别和分析,有可能找到新的预后因素并对其进行个体化治疗。本文第二部分提出了基于截尾的稳健惩罚Cox回归,并提出算法来求解估计,以便可靠地进行变量筛选和异常点识别。方法:本文第一部分提出了基于截尾的LASSO类型的惩罚Logistic回归(LASSO-type maximum trimmed likelihood estimator,MTL-LASSO),并扩展到弹性网惩罚(EN-type maximum trimmed likelihood estimator,MTL-EN)。其中探讨了MTL-LASSO的理论性质,提出结合接受-拒绝算法和C-step(Concentration steps)算法的AR-Cstep(C-step based on acceptance-rejection)算法来求解MTL-LASSO估计和MTL-EN估计,并将MTL-EN与其他三种解决错分高维变量选择问题的方法,即采用C-step算法的基于截尾的弹性网类型惩罚Logistic回归(enetLTS),稀疏标签噪声稳健Logistic回归(Rlogreg),和将弹性网、稀疏偏最小二乘估计进行综合的Ensemble方法,在特征选择、异常值识别以及预测的准确性方面进行模拟评价。将四种方法应用于包含有不一致标签样本的三阴性乳腺癌(Triple Negative Breast Cancer,TNBC)RNA-seq数据集中,对其识别的错分样本和筛选的基因进行比较。本文第二部分提出了基于截尾的弹性网类型惩罚Cox回归(ElasticNet-type maximum trimmed partial likelihood estimato,MPTL-EN),并提出结合接受-拒绝算法和C-step算法的AR-Cstep算法求解MPTL-EN,通过重加权步后得到估计Rwt MTPL-EN(Reweighted MTPL-EN)。通过模拟实验来比较MPTL-EN与非稳健的弹性网的在变量选择、异常点识别以及预测方面的性能。对胶质瘤患者的基因表达数据进行实例分析,以说明其应用。结果:第一部分:(1)对MTL-LASSO的理论性质的探讨得出,LASSO类型的惩罚Logistic回归估计是存在且有界的,当一个可以取任意值的异常点替换原来数据时,LASSO估计值会趋向于0,导致模型无效。本文给出了不同于一般模型的、适合于惩罚Logistic回归崩溃点(Breakdown point,BDP)的定义,给出并证明了MTL-LASSO的BDP,指出MTL-LASSO能抵抗的异常点比例,即是其截尾比例。通过LASSO与MTL-LASSO的模拟实验得出,在没有错分样本时,MTL-LASSO的结果与LASSO相近,而当存在异常点时,LASSO受异常点的影响非常大,而MTL-LASSO的却保持稳定。重加权后的Rwt MTL-LASSO进一步提高了性能。(2)MTL-EN,enetLTS,Rlogreg和Ensemble四种方法比较的模拟实验得出,当只有y异常时,Ensemble在变量选择方面综合指标最高,但是其PSR要低于MTL-EN。当异常点比例增大Ensemble变量选择的准确性下降幅度较大,特别当x也存在异常时,Ensemble变量选择的准确性在四种方法中处于最低,而MTL-EN变量选择准确性最高。异常点识别方面,MTL-EN在四种方法中表现最好,敏感性Sn较高,且假阳性FPR控制在2%以内。就预测准确性而言,MTL-EN错分率较低。且MTL-EN运算时间也远远小于enetLTS和Ensemble,说明采用AR-Cstep算法能够让迭代收敛较快,且收敛到不含异常点的子集上,从而能够更准确地筛选变量或识别异常点。(3)通过实例分析发现,MTL-EN和enetLTS分别在47个和43个检测到的异常值中都识别出了7个不一致标签的可疑个体,这一结果优于其他两种方法。enetLTS识别的错分样本全是非TNBC患者,而MTL-EN分别识别的错分样本中还有13个TNBC患者,其中包含1个是不一致标签的可疑样本。就筛选的基因方面,MTL-EN和enetLTS筛选的基因较多,其效应量较小,根据模拟实验的结果,其敏感度高,也就是尽量包含与TNBC有关的基因,所以可以作为初步筛选的基因。Rlogreg和Ensemble筛选的基因较少,虽然Ensemble发现的基因都与TNBC有关,但数量太少,敏感度太低,没有发掘更多与TNBC有关的基因。第二部分模拟研究表明,有异常值的高维数据集中,稳健的MPTL-EN在变量选择、异常值检测和预测方面表现优于非稳健的弹性网惩罚的Cox回归,而且重加权的Rwt MTPL-EN估计要好于没有进行重加权的Raw MTPL-EN。(1)当没有异常点时,Rwt MTPL-EN(Reweighted MTPL-EN)的结果与弹性网接近。当存在异常点时,稳健的Rwt MPTL-EN在变量选择、异常值检测和预测方面表现优于非稳健的弹性网。相对于其预后指数“失效太早”的异常点,“活得太久”的异常点会使得弹性网表现更差,而Rwt MTPL-EN更易于将“活得太久”的异常点识别出来,且无论在对称还是非对称异常点下,准确性保持稳定。(2)当删失比例增大,弹性网和Rwt MTPL-EN的性能都有下降,但Rwt MTPL-EN的性能一直高于弹性网。相对于截尾比例低于异常点比例时,当截尾比例等于或高于异常点比例时Rwt MTPL-EN的结果要更好。(3)当y方向异常偏离增大时,使得弹性网选择的变量变少,当x方向也出现异常时,即异常观测的自变量也偏离主体时,弹性网选择的变量远远大于真实的非零变量个数,这两种情况都使得弹性网选择的变量准确性下降。而Rwt MTPL-EN在各种情况下均保持稳定,说明Rwt MTPL-EN能够同时抵抗x方向和y方向的异常点。(4)通过胶质瘤基因表达数据的分析可以看到,Rwt MTPL-EN筛选的变量与弹性网有差异,识别了更高比例的报道与胶质瘤有关的基因。在去除异常点后,其预测准确性高于弹性网,且识别了更多相对于预后指数“活得太久”的异常点。结论:本文探讨了基于截尾的LASSO类型(MTL-LASSO)和弹性网类型的稳健惩罚Logistic回归(MTL-EN)。对惩罚Logistic回归和MTL-LASSO的理论性质进行探讨和证明,给出MTL-LASSO稳健性与截尾比例的关系。本文还提出了求解MTL-LASSO和MTL-EN估计的AR-Cstep算法,通过与采用C-step算法的enetLTS比较的模拟实验可以看到,采用AR-Cstep算法的收敛更快,变量选择和异常点识别的准确性更高。MTL-EN在识别错分异常点方面是最为推荐的方法,识别的敏感性最高,且能控制假阳性率在较低的范围内。在变量选择方面,如果不存在x方向异常,且要求变量选择的FDR较低,推荐的方法是Ensemble。如果x方向存在异常,特别是要求变量选择的敏感度较高时,则应该选择MTL-EN。本文建立的基于截尾的稳健惩罚Cox模型Rwt MPTL-EN,能够在异常点存在时,相比非稳健的弹性网模型,能够更加准确地进行变量选择。它能够同时抵抗比例很大的x方向和y方向的异常点。Rwt MPTL-EN能够更准确地识别异常点,特别是在识别“活得太久”异常点方面,而“活得太久”的异常点对弹性网变量选择准确性影响更大。本文建立的基于残差的AR-Cstep算法,使得算法不再依赖于从模型的似然函数中分离出个体的贡献,而且解决惩罚回归中惩罚参数改变导致C-step不收敛的问题,这种改进可以使得AR-Cstep算法推广到更多的模型。

李翰芳[6](2020)在《基于贝叶斯方法的随机效应面板数据模型研究》文中研究说明面板数据模型是当前经济及统计学界使用最广泛的模型之一,本论文在贝叶斯框架下分别探讨了含随机效应面板数据的均值回归和分位回归模型中参数估计与变量选择问题。全文共建立了四种模型,包括面板数据的贝叶斯均值回归模型、贝叶斯正则化均值回归模型、非参数贝叶斯分位回归模型、贝叶斯正则化分位回归模型。全面探讨了这四种模型下参数估计,重要解释变量选择等问题。并在不同先验和随机误差分布假设下,构造了六种抽样算法,且分别在理论、模拟和实际数据分析三个方面进行了论证与分析,主要成果有:首先,对于面板数据的贝叶斯均值回归模型,假设误差项和个体效应均服从正态分布,回归系数有正态先验,其它参数取无信息先验的条件下推导出了各个参数的后验分布,由于后验分布都来自常见分布,从而提出了参数估计的Gibbs抽样算法。通过计算机模拟研究,将本文提出的方法与已有常用估计方法进行了比较。最后,利用本节的方法对美国工资调查实际数据进行了均值回归建模分析。其次,对于面板数据模的贝叶斯正则化均值回归模型,本论文从贝叶斯惩罚也即贝叶斯正则化的角度探讨了回归模型中重要解释变量挑选问题。通过假设回归系数先验为拉普拉斯分布来代替正态先验,构造了与Lasso估计相等价的面板数据贝叶斯Lasso估计,并给出了相应的MH抽样算法。考虑到MH算法中提议分布不易选取,本文利用积分恒等式构造了更易于实施的Gibbs抽样算法。由于不同的解释变量在回归中所处的地位和作用是不同的,施加相同的惩罚系数对重要解释变量会产生较大偏差,本文对贝叶斯Lasso估计进行了改进,提出了与Adaptive Lasso相等价的贝叶斯Adaptive Lasso估计。该估计可以自动捕捉解释变量信息,并自动采取不同的惩罚系数。在不同模型下,通过计算机模拟数据,本文将一般的Lasso惩罚法、Adaptive Lasso惩罚法与本文所提出的两种贝叶斯惩罚法进行了比较。结采品示两种贝叶斯惩罚法要优于一般Lasso和Adaptive Lasso惩罚法。最后,利用本节两种贝叶斯正则化方法对考虑交互效应的美国工资调查数据进行了参数估计和变量选择。再次,对于面板数据的非参数贝叶斯分位回归模型,通过对随机误差放宽假设条件,即仅在分位数为0的约束之下,引入一种双层有限混合正态分布,混合比例参数采用广泛灵活的Stick-Breaking先验,使其更能够获取复杂数据的分布信息。通过引入双层潜变量将较为复杂的似然函数进行重构,极大减小了计算负担。根据推导出的各待估参数条件后验分布,提出参数估计的Gibbs抽样算法。当数据分布信息较为复杂时,非参数贝叶斯分位回归比参数分位回归更具有优势,灵活性更强。通过五种不同的数据生产模型,在不同的随机误差下进行了模拟,将非参数贝叶斯分位回归同参数贝叶斯分位回归等方法在中位点和极端分位点进行了比较。最后,利用贝叶斯分位回归方法对美国工资调查数据在多个分位点处进行了建模分析。最后,对于基于贝叶斯正则化的面板数据分位回归模型,在假设响应变量为非对称拉普拉斯分布基础上,对其进行分解,构造了常见分布假设下的贝叶斯分层分位回归模型,解决了非对称拉普拉斯分布无共轭先验给抽样算法设计带来的困难。通过对回归系数假设合适的先验信息分别构造了与Lasso和Adaptive Lasso相等价的贝叶斯正则化分位回归估计。利用积分恒等式和辅助变量引入,构造了参数估计的切片Gibbs抽样算法。然后通过模拟仿真数据将普通分位回归、Lasso分位回归、贝叶斯分位回归和本文提出的两种贝叶斯正则化分位回归方法进行了比较。还将本文提出的6种方法在运行时间和计算速度上进行了展示与比较。最后,利用两种贝叶斯正则化分位回归方法对考虑交互效应的美国工资调查数据在多个分位点处进行了参数估计与模型选择。在本文最后,还对本文提出的各种方法优缺点及应用前提进行了总结,提出了进一步可研究的工作和方向。

周祎[7](2020)在《频率响应函数非参数辨识方法研究》文中研究表明频率响应函数是快速直观地描述系统动态特性的有力工具,被用于机械结构的动力分析与动态优化、结构损伤的检测等研究领域,具有重要的研究应用价值。非参数辨识方法不需用户过多介入,还能用于模型结构或阶次的界定,是进行复杂动态系统辨识的基础。本论文深入研究了基于局部有理式和高斯过程回归两种模型的频率响应函数的非参数辨识方法,从提高频率响应函数辨识精度出发,分析了频率响应函数辨识精度的影响因素,针对这些影响因素发展了改进和优化方法。主要研究工作如下:(1)基于局部有理模型的频率响应函数的辨识。针对文献中局部有理式法参数估计存在偏差的问题,通过引入权重函数,建立新的目标函数,实现了参数的一致估计,并构造了频率响应函数估计的方差。进一步将改进的局部有理模型非参数辨识方法拓展至多变量系统和变量带误差情形。(2)基于高斯过程回归的频率响应函数的辨识。为充分考虑频率响应函数的稳定性和光滑性,利用频域内协方差函数对频率响应函数进行建模,建立了频率响应函数的高斯过程回归方法。针对超参数估计存在的数值问题,采用了基于矩阵QR分解的优化算法,该算法可以避免对条件数过大的协方差矩阵直接求逆和行列式运算,增强了超参数估计的鲁棒性。(3)频率响应函数非参数辨识算法的验证及应用。通过仿真算例和设计的动态实验对本文所提方法的有效性和准确性进行了验证,结果表明:即使在信噪比苛刻的条件下,本文提出的局部有理模型改进方法仍能精确地揭示系统的低阻尼特征;高斯过程回归可以实现对频率响应函数的高精度辨识,但其对于共振峰的建模仍有提升空间。本论文的研究结果有助于进一步提高频率响应函数非参数辨识精度,为频率响应函数的应用奠定基础。

包文博[8](2020)在《视频帧率上变换的递推建模与深度学习方法研究》文中提出近年来随着高品质显示设备的快速发展,为它们提供具有更高时间和空间分辨率的高质量视频源成为学术界和工业界迫在眉睫的研究课题。然而受制于高质量视频对视频采集、编码、传输、解码等各阶段所需要的计算能力和传输带宽的苛刻要求,将现有海量的中低质量视频通过数字信号处理的方式合成转换为高质量视频成为最可行的方案之一。在视频质量提升的研究中,从时间域上对视频的帧率进行提升是其中最具挑战的问题之一,也是最能直接给用户带来沉浸式视觉体验的关键技术。具体来讲,视频帧率上变换的目标就是在低帧率如30Hz的视频源中插入一些额外的图像帧而得到高帧率如60Hz或120Hz的高帧率视频。插入的额外的视频图像帧能够使帧间物体位移更精细,物体运动过渡的视觉效应更为平滑,从而显着改善运动视频的观赏体验。视频帧率上变换中的两个核心步骤分别是运动估计和运动补偿插帧。其中运动估计又被称为光流估计,目的是估计出原始视频帧中物体的二维运动矢量,也称光流矢量。由于光流估计是补偿插帧的前置步骤,所以由它计算出的运动矢量的优劣直接关系到最终内插帧的质量。本论文针对运动估计问题,首次对光流估计进行了基于Kalman滤波的时域递推建模,并提出了对应的递推估计算法,超越了传统光流估计局限于两帧图像之间的单个光流场的估计算法。本文以Kalman滤波系统为基础,利用视频序列中物体运动的时域相关性和空间域上下文信息,对具有连续多帧图像的视频光流场进行最优估计。在所提出的滤波系统中,每一个像素在多帧图像中的运动被定义为一个二阶时变状态向量,根据滤波器的测量噪声水平和系统噪声水平,由最大化后验估计准则最优地估计出状态向量的值。在MPI Sintel、Monkaa和Driving等多个知名视频数据集上的实验结果表明,本文所提出方法的性能超越了当时领先的算法,所生成的视频光流场在时间域上具有更好的连续性,为后续的视频内插帧生成和处理任务奠定了良好的基础。本文接着对于视频运动补偿插帧提出了基于高阶建模和动态滤波的帧率上变换算法,该模型超越了传统视频插帧模型的亮度时间不变性和物体运动线性性两个基本限制,对像素的亮度和运动分别建立高阶模型,将求解中间帧的问题转化为对高阶模型多项式系数的估计,从而使所提出的视频上变换算法能够适应复杂光照、非线性运动等更具挑战的场景。从物理意义上来讲,这些系数分别代表了物体像素亮度的变化率、物体像素的运动速度和加速度等。为了求解这些模型系数,本文提出了两个能量目标函数:第一个能量目标是根据过去的样本,最小化亮度变化率的自回归估计误差,第二个能量目标是在沿着像素运动的轨迹上,最小化图像帧的重构误差。为了高效地求解这两个能量函数,本文从视频的时域相关性出发提出了一种高效的动态滤波方案。大量实验表明,在自然视频数据和合成视频数据上,无论是做主观还是客观视觉质量对比,该算法都取得了当时最好的性能。随着近年来基于深度学习的人工神经网络在自动抽取特征方面的卓越表现,本文通过将深度学习网络整合到经典的运动估计和运动补偿插帧框架中,首次构建了基于运动估计和运动补偿的模型驱动神经网络框架(称为MEMC-Net),提出了一种全新的自适应卷积核补偿采样网络层,用于同时整合光流场和插值卷积核以及合成目标图像的像素。该网络层是完全可微分的,因此用于估计光流和插值核的神经网络能够被联合地训练优化。该框架具有广泛的适应性,不仅可以应用于视频帧率上变换,而且还可以拓展到其它视频增强任务,如视频超分辨、视频去噪以及视频去块效应等等。在大范围的数据集上进行的广泛实验表明,本文所提出的算法的性能超越了目前业界最领先的视频插帧算法和视频增强算法。在MEMC-Net的基础之上,本文进一步提出了基于物体景深感知的视频帧率上变换算法。这是本领域多年来首次探索场景深度信息对视频内插帧合成有效性的研究工作,为相关领域开辟出了一个全新的研究方向。本文通过探索视频场景中物体的深度信息,导出了插帧过程中闭塞信息检测的显式表达式,创新性地提出了一种场景深度感知的光流映射网络层并将它用于合成中间待插视频帧的光流场。该网络层有选择性地对近距离的物体进行采样,而不是远距离的物体进行采样,还通过学习多层次的特征从邻域像素中收集上下文信息。基于前述的自适应卷积核补偿采样网络层,本文提出的模型从输入参考帧像素、场景深度图以及上下文特征中合成出最终的内插帧。在大范围的数据集上的实验表明,本文所提出的算法具有比业界最领先的视频插帧算法和视频增强算法更好的性能。综上所述,本文专注于视频帧率上变换中这个视频质量增强的关键问题,对其运动估计和运动插帧两个核心问题,分别提出了基于Kalman滤波递推新模型的视频运动估计算法和超越传统简单模型的高阶模型和高效动态滤波的插帧方法。基于近年来发展起来的深度学习方法,本文首次对视频帧率转换建立了MEMC模型驱动的深度学习框架,并首次将场景深度感知信息应用于帧频上转换。以上新算法经大范围的数据集验证,取得了超越以往方法的优异性能。

丁亮[9](2020)在《纵向数据部分线性模型基于二次推断函数的复合分位数回归估计》文中研究说明纵向数据是指对同一个体在不同时间或空间上进行重复观测而得到的数据,包含时间序列数据和截面数据,能够充分反应数据之间的复杂关系。部分线性模型综合了参数和非参数模型的优点,具有较强的灵活性、适应性和对数据的解释能力,因而被广泛应用于纵向数据建模中。在对纵向数据的部分线性模型进行统计推断时,当模型随机误差不满足假设条件或数据分布存在异常,现存的很多估计方法缺乏稳健性,且未考虑纵向数据的组内相关关系。因此本文基于二次推断函数对该模型利用复合分位数回归方法进行估计。该估计方法结合多处分位点的分位数回归,得到的估计结果更为稳健;且该估计方法利用二次推断函数引入工作相关矩阵,能够有效的处理纵向数据个体内部的相关关系。本文在一定的条件下证明了该估计的渐近正态性,进一步给出了平滑估计算法。最后通过数值模拟研究估计的有限样本性质并应用于实例中。

冯宇[10](2020)在《基于GIS和BP神经网络的云南省贫困因素空间模拟分析》文中研究表明贫困问题一直以来都是我国以及全世界重点解决的问题。当前我国已经进入全面小康社会建设的决胜阶段,脱贫攻坚进入深水区,精准扶贫是脱贫攻坚收尾阶段的唯一正确路径。在脱贫攻坚结束后将主要致力于乡村振兴,解决相对贫困问题。无论是脱贫攻坚的最后阶段还是未来乡村振兴,均需要强大和精准的数据支撑。云南省是贫困程度最深的省份之一。论文以云南省38个国家级贫困县作为研究对象,选取海拔高程、净初级生产力、植被指数、公路里程、贫困人口数等因素建立指标体系。通过SPSS软件进行相关性和回归估计分析;构建BP神经网络模型,进行仿真模拟分析,确定贫困指数并利用Arcgis显示其空间分布。揭示空间分布格局,为精准扶贫和乡村振兴提供更有力的数据支撑和决策支持。通过以上的研究得出如下结论:(1)通过Pearson相关性分析和最小二乘回归估计分析,自然条件的恶劣是导致云南研究区域贫困的重要原因,社会致贫条件严重制约了农业经济发展。(2)基于GIS和BP神经网络的空间模拟分析表明:自然致贫指数和社会致贫指数较大县域主要集中于滇东北和西北部地区,其次是东南,西南部分地区。自然致贫指数和社会致贫指数较低的县域集中分布于地势相对平坦的中部、中南部地区;消贫指数分布相对均匀,在东北部,南部和东南部消贫指数稍高。受社会致贫和自然致贫因素影响,东北部、南部、东南部等地区的贫困状况较为严重,用于这些地区资源分配亦有侧重,精准施策在空间分配上较为合理。基于以上的结论,最后提出精准施策建议:(1)空间总体布局:在滇东北、滇西北地区继续加大扶贫力度,在南部部分地区适度侧重。(2)改善生存环境:重点改善滇东北昭通地区和滇西北的自然环境,退耕还林,保持水土,做好防震减灾措施,逐步改善当地居民的自然生存环境。(3)提高素质、改善生产条件:重点解决滇东北和滇西北以及南部部分地区由于社会条件造成的贫困压力,着力解决劳动力匮乏、科技文化水平低下和因道路不通达、生产生活用电不足而造成的农业生产能力低下的问题。

二、利用串行最小优化算法求解回归估计问题(论文开题报告)

(1)论文研究背景及目的

此处内容要求:

首先简单简介论文所研究问题的基本概念和背景,再而简单明了地指出论文所要研究解决的具体问题,并提出你的论文准备的观点或解决方法。

写法范例:

本文主要提出一款精简64位RISC处理器存储管理单元结构并详细分析其设计过程。在该MMU结构中,TLB采用叁个分离的TLB,TLB采用基于内容查找的相联存储器并行查找,支持粗粒度为64KB和细粒度为4KB两种页面大小,采用多级分层页表结构映射地址空间,并详细论述了四级页表转换过程,TLB结构组织等。该MMU结构将作为该处理器存储系统实现的一个重要组成部分。

(2)本文研究方法

调查法:该方法是有目的、有系统的搜集有关研究对象的具体信息。

观察法:用自己的感官和辅助工具直接观察研究对象从而得到有关信息。

实验法:通过主支变革、控制研究对象来发现与确认事物间的因果关系。

文献研究法:通过调查文献来获得资料,从而全面的、正确的了解掌握研究方法。

实证研究法:依据现有的科学理论和实践的需要提出设计。

定性分析法:对研究对象进行“质”的方面的研究,这个方法需要计算的数据较少。

定量分析法:通过具体的数字,使人们对研究对象的认识进一步精确化。

跨学科研究法:运用多学科的理论、方法和成果从整体上对某一课题进行研究。

功能分析法:这是社会科学用来分析社会现象的一种方法,从某一功能出发研究多个方面的影响。

模拟法:通过创设一个与原型相似的模型来间接研究原型某种特性的一种形容方法。

三、利用串行最小优化算法求解回归估计问题(论文提纲范文)

(1)面向回归的稳健正则化方法研究(论文提纲范文)

中文摘要
ABSTRACT
第一章 绪论
    1.1 研究背景及意义
    1.2 国内外研究现状
        1.2.1 面向线性回归的正则化方法
        1.2.2 面向广义线性回归的正则化方法
    1.3 研究内容和组织结构
第二章 背景知识
    2.1 正则化估计方法
    2.2 基于平方损失的正则化方法
    2.3 基于分位数损失的正则化方法
    2.4 本章小结
第三章 自加权稳健正则化方法
    3.1 引言
    3.2 准备工作
    3.3 基于SELO惩罚项的自加权估计方法
        3.3.1 自适应正则项
        3.3.2 RSWSELO估计
        3.3.3 理论性质及证明
    3.4 RSWSELO估计的求解算法
    3.5 实验结果与分析
        3.5.1 人工数据集上的实验
        3.5.2 标准数据集上的实验
    3.6 本章小结
第四章 基于自变量相关性的线性模型稳健估计方法
    4.1 引言
    4.2 基于Elastic Net惩罚项的稳健估计方法
        4.2.1 模型的构建
        4.2.2 理论性质
        4.2.3 求解算法
    4.3 实验结果与分析
        4.3.1 人工数据集上的实验
        4.3.2 真实数据集上的实验
    4.4 本章小结
第五章 基于邻近信息的回归模型及参数估计
    5.1 引言
    5.2 基于网络结构信息的Lasso估计
        5.2.1 模型的构建
        5.2.2 误差界估计
    5.3 实验结果与分析
        5.3.1 人工数据集上的实验
        5.3.2 真实数据集上的实验
    5.4 本章小结
第六章 含有交互变量的回归模型稳健估计方法
    6.1 引言
    6.2 交互模型的自适应稳健估计方法
        6.2.1 模型的构建
        6.2.2 理论分析
        6.2.3 求解算法
    6.3 实验结果与分析
        6.3.1 人工数据集上的实验
        6.3.2 真实数据集上的实验
    6.4 本章小结
第七章 总结与展望
参考文献
攻读博士学位期间取得的研究成果
致谢
个人简况及联系方式

(2)基于多特征融合与机器学习的散斑缺陷精确识别(论文提纲范文)

摘要
abstract
第一章 绪论
    1.1 研究背景及意义
    1.2 国内外研究现状和发展态势
        1.2.1 激光剪切散斑干涉技术发展概况
        1.2.2 机器学习理论发展概况
        1.2.3 吸波涂层缺陷图像识别的研究现状
    1.3 研究内容以及章节安排
第二章 相关理论和技术基础
    2.1 机器学习相关理论
        2.1.1 机器学习的分类
        2.1.2 支持向量机
        2.1.3 YOLO算法
    2.2 散斑的形成
    2.3 激光剪切散斑干涉技术原理
    2.4 仿真分析
    2.5 本章小结
第三章 剪切散斑缺陷识别系统设计
    3.1 系统设计
        3.1.1 吸波涂层缺陷检测方案
        3.1.2 剪切量估计
    3.2 系统硬件设计
        3.2.1 剪切散斑干涉装置设计
        3.2.2 图像采集系统设计
    3.3 系统软件设计
    3.4 本章小结
第四章 基于多特征融合与机器学习的剪切散斑缺陷识别方法
    4.1 剪切散斑缺陷图像预处理
        4.1.1 图像滤波
        4.1.2 图像增强
        4.1.3 形态学处理
    4.2 剪切散斑缺陷图像的特征提取及融合
        4.2.1 HOG算子
        4.2.2 LBP算子
        4.2.3 灰度共生矩阵(GLCM)
        4.2.4 提取LBP图像的GLCM特征
        4.2.5 图像特征提取流程
        4.2.6 特征融合
    4.3 基于SVM的散斑缺陷识别算法设计
        4.3.1 分类器设计流程
        4.3.2 基于Canny算法的散斑缺陷边缘检测
    4.4 实验结果与分析
    4.5 本章小结
第五章 与基于YOLO v3 的剪切散斑缺陷检测方法对比
    5.1 YOLO算法简介
    5.2 基于 YOLO v3 的剪切散斑缺陷识别实验
        5.2.1 实验平台
        5.2.2 数据集的选择
        5.2.3 缺陷检测实验结果及方法对比
    5.3 本章小结
第六章 总结与展望
    6.1 总结
    6.2 展望
致谢
参考文献

(3)基于立体视觉的飞行器物理仿真动态多信息测量方法研究(论文提纲范文)

摘要
ABSTRACT
第1章 绪论
    1.1 课题研究背景及意义
    1.2 飞行器物理仿真动态多信息测量技术研究现状
    1.3 基于立体视觉的多信息测量相关问题研究现状
        1.3.1 立体相机参数高精度标定算法研究现状
        1.3.2 基于数字图像相关方法的变形测量研究现状
        1.3.3 立体视觉位姿估计关键问题研究现状
        1.3.4 基于GPU并行运算的视觉测量应用研究现状
    1.4 主要研究内容
第2章 飞行器多信息立体视觉测量系统相机参数高精度标定
    2.1 引言
    2.2 相机成像模型与标定问题分析
        2.2.1 相机成像模型与畸变矫正
        2.2.2 立体相机参数标定与非线性优化
    2.3 圆形特征点亚像素边缘定位与偏心误差修正
        2.3.1 考虑边缘模糊的改进Zernike矩子像素灰度估计
        2.3.2 投影椭圆拟合与偏心误差修正
        2.3.3 圆形特征点中心坐标定位结果分析
    2.4 基于双更新策略加权差分进化粒子群优化的相机参数标定
        2.4.1 粒子群优化算法
        2.4.2 加权差分进化算法
        2.4.3 基于双更新策略加权差分进化粒子群的相机参数标定
    2.5 飞行器多信息立体视觉测量系统相机参数标定实验与分析
        2.5.1 仿真实验与结果分析
        2.5.2 实际标定实验与结果分析
    2.6 本章小结
第3章 多相机网络联合约束优化的飞行器翼面三维变形信息测量
    3.1 引言
    3.2 数字图像相关方法测量原理
        3.2.1 散斑图像子区匹配模型建立
        3.2.2 双三次样条亚像素插值法
    3.3 散斑图像子区亚像素时序匹配策略
        3.3.1 Newton-Raphson迭代法的子区亚像素匹配
        3.3.2 IC-GN迭代法的子区亚像素匹配
    3.4 多相机网络联合约束优化的数字图像相关三维变形信息测量
        3.4.1 多相机网络联合约束关系建立与优化求解
        3.4.2 基于多相机网络联合约束优化的新型相关函数构建
        3.4.3 三维重建与变形信息计算拟合
    3.5 三维变形信息测量结果对比与分析
        3.5.1 位移测量结果与分析
        3.5.2 三维变形测量结果与分析
    3.6 本章小结
第4章 基于多源数据双向传递的闭合测量模式与飞行器位姿信息解算
    4.1 引言
    4.2 基于多源数据双向传递的闭合测量模式建立
        4.2.1 问题分析与描述
        4.2.2 视觉测量中的多源数据融合模型搭建
        4.2.3 立体视觉系统的闭合测量模式建立
    4.3 多源数据双向传递的闭合测量模式下飞行器位姿信息解算
        4.3.1 基于SVD的位姿变换矩阵估计
        4.3.2 基于多相机扩展正交迭代算法的飞行器位姿信息估计
    4.4 多源数据双向传递的闭合测量模式数值实验与分析
    4.5 本章小结
第5章 基于GPU异构并行算法设计与多信息测量系统应用测试
    5.1 引言
    5.2 基于CUDA架构的GPU并行计算实现方式
        5.2.1 GPU硬件构架与CUDA程序执行原理
        5.2.2 NVCC编译CUDA源程序的GPU并行编程实现
    5.3 基于CUDA架构的变形信息测量并行算法设计与实现
        5.3.1 基于新型相关函数的图像子区散斑匹配并行运算方案设计
        5.3.2 基于CUDA架构的亚像素匹配并行算法性能分析
    5.4 飞行器大尺寸模拟翼面动态立体变形信息测量应用
        5.4.1 基于视觉的立体变形测量系统介绍
        5.4.2 CPU串行与CUDA架构并行运算下的匹配速度对比
        5.4.3 飞行器大尺寸模拟翼面三维平移测量实验
        5.4.4 飞行器大尺寸模拟翼面动态立体变形测量实验
    5.5 飞行器物理仿真动态位姿信息测量实验
    5.6 本章小结
结论
参考文献
攻读博士学位期间发表的论文及其它成果
致谢
个人简历

(4)多视角视频时空四维重建理论与方法研究(论文提纲范文)

摘要
ABSTRACT
第一章 绪论
    1.1 研究背景
        1.1.1 场景数据采集技术发展
        1.1.2 视频数据处理技术发展
    1.2 相关问题国内外研究现状及分析
        1.2.1 影像稀疏特征提取与匹配
        1.2.2 视频序列相对位姿快速恢复
        1.2.3 多视角影像密集匹配
        1.2.4 动态场景四维重建
    1.3 论文研究内容与结构安排
        1.3.1 论文研究内容
        1.3.2 论文结构安排
第二章 多视角视频时空四维重建基础理论
    2.1 多视角场景重建
        2.1.1 静态场景重建
        2.1.2 动态场景重建
    2.2 时空四维重建流程
        2.2.1 数据获取
        2.2.2 特征提取与匹配
        2.2.3 相机运动恢复
        2.2.4 场景分割与密集重建
        2.2.5 场景时空关联
    2.3 小结
第三章 多视角视频帧间特征提取与匹配
    3.1 超像素提取
    3.2 基于超像素的多尺度特征检测器
    3.3 基于主次方向旋转的二进制描述符
    3.4 实验与分析
        3.4.1 数据介绍
        3.4.2 实验设计
        3.4.3 实验结果
        3.4.4 应用分析
    3.5 小结
第四章 视频序列相对位姿快速恢复
    4.1 运动一致性理论
        4.1.1 运动场
        4.1.2 运动场平滑函数
    4.2 基于视差图映射与多项式约束的匹配提纯
        4.2.1 基于视差图映射的快速匹配提纯
        4.2.2 广义多项式优化的匹配提纯
        4.2.3 快速提纯方法实现
    4.3 基于提纯结果的相对位姿恢复
    4.4 实验与分析
        4.4.1 数据介绍
        4.4.2 匹配提纯实验设计
        4.4.3 匹配提纯实验结果与分析
        4.4.4 相对位姿恢复实验结果与分析
    4.5 小结
第五章 多视角视频帧间影像密集匹配
    5.1 相关工作
        5.1.1 基于深度卷积神经网络的多视影像密集匹配
        5.1.2 基于信息传播的多视影像密集匹配
    5.2 基于CasMVSNet的初始深度信息获取
    5.3 由粗到细的深度信息传播优化
        5.3.1 超像素深度信息传播优化
        5.3.2 联合超像素优化的深度信息线性平面优化
        5.3.3 逐像素深度信息传播优化
    5.4 多视影像密集匹配方法实现
    5.5 实验与分析
        5.5.1 实验数据及方法
        5.5.2 实验结果
        5.5.3 结果分析
    5.6 小结
第六章 多视角视频时空四维重建
    6.1 整体方法概览
        6.1.1 相机位姿恢复
        6.1.2 视频帧实例分割
        6.1.3 视频帧深度估计
        6.1.4 场景更新与融合
    6.2 时间流下的视频帧深度估计
    6.3 多视角视频帧深度与分割信息联合优化
    6.4 无需先验场景知识的时空四维重建流程
    6.5 实验与分析
        6.5.1 实验数据及方法
        6.5.2 实验结果
        6.5.3 结果分析
        6.5.4 应用分析
    6.6 小结
第七章 总结与展望
    7.1 总结
    7.2 展望
致谢
参考文献
作者简历

(5)基于截尾的稳健惩罚Logistic回归和稳健惩罚Cox回归及在组学数据分析中的应用(论文提纲范文)

摘要
Abstract
常用缩写词中英文对照表
前言
第一部分 基于截尾的稳健惩罚Logistic回归及其在组学数据分析中的应用
    1 引言
    2 MTL-LASSO的提出
    3 MTL-LASSO的稳健性质
        3.1 BDP的一般定义
        3.2 适合Logistic回归的BDP定义
        3.3 适合惩罚Logistic回归的BDP定义
        3.4 MTL-LASSO的 BDP
    4 求解MTL-LASSO的算法AR-Cstep
        4.1 C-step算法
        4.2 AR-Cstep(C-step based on acceptance-rejection)算法
        4.3 重加权步
        4.4 惩罚参数λ的选择
        4.5 标准化的方法
    5 模拟实验评价MTL-LASSO和LASSO
        5.1 模拟场景设定
        5.2 评价指标
        5.3 稳健和非稳健的惩罚Logistic回归的模拟结果比较
        5.4 MTL-LASSO的稳健性与截尾比例的关系
    6 与其他解决错分误差下高维变量选择问题的方法比较
        6.1 方法介绍
        6.2 模拟情景
        6.3 评价指标
        6.4 模拟评价结果
    7 实例分析
        7.1 三阴性乳腺癌RNA-seq数据集
        7.2 四种方法应用于三阴性乳腺癌RNA-seq数据集识别的异常点
        7.3 四种方法应用于三阴性乳腺癌RNA-seq数据集筛选的基因
    8 讨论
    9 结论
第二部分 基于截尾的稳健惩罚Cox回归及在组学数据分析中的应用
    1 引言
    2 基于截尾的稳健惩罚Cox模型
        2.1 Cox比例风险模型
        2.2 基于弹性网的惩罚Cox模型
        2.3 基于截尾的稳健惩罚Cox模型
    3 算法
        3.1 接受-拒绝算法
        3.2 基于残差的AR-Cstep算法
        3.3 重加权步
        3.4 规则化参数λ和α的选择
        3.5 标准化的方法
    4 模拟实验
        4.1 模拟研究目的
        4.2 模拟数据生成
        4.3 模拟情景设定
        4.4 评价指标
        4.5 模拟实验结果
    5 实例分析
        5.1 胶质瘤基因表达数据集
        5.2 弹性网应用于胶质瘤数据集的结果
        5.3 Rwt MTPL-EN应用于胶质瘤数据集的结果
    6 讨论
    7 结论
参考文献
综述
    参考文献
附录
致谢
个人简介

(6)基于贝叶斯方法的随机效应面板数据模型研究(论文提纲范文)

摘要
ABSTRACT
第1章 绪论
    1.1 研究背景及意义
    1.2 国内外研究现状
        1.2.1 面板数据模型研究现状
        1.2.2 贝叶斯方法研究现状
        1.2.3 分位回归方法研究现状
        1.2.4 贝叶斯分位回归方法研究现状
        1.2.5 面板数据分位回归模型研究现状
    1.3 本论文研究的内容及创新点
        1.3.1 本论文研究的内容
        1.3.2 本论文创新点
    1.4 本论文结构路线图
第2章 贝叶斯面板数据均值回归模型研究
    2.1 引言
    2.2 贝叶斯面板数据均值回归模型的建立
        2.2.1 面板数据模型
        2.2.2 贝叶斯估计及MCMC算法
        2.2.3 样本似然函数和先验信息假设
    2.3 GIBBs抽样算法构造
        2.3.1 条件后验分布的推导
        2.3.2 Gibbs抽样算法流程
    2.4 计算机模拟仿真
    2.5 实际数据分析
    2.6 本章小结
第3章 贝叶斯正则化面板数据均值回归模型研究
    3.1 引言
    3.2 面板数据模型的贝叶斯LASSO估计及其算法构造
        3.2.1 Lasso先验信息假设及MH算法
        3.2.2 先验密度分解及切片Gibbs抽样算法构造
    3.3 面板数据的贝叶斯ADAPTIVE LASSO估计及其算法构造
        3.3.1 自适应Lasso先验信息假设
        3.3.2 先验密度分解及切片Gibbs抽样算法构造
    3.4 计算机模拟仿真
    3.5 实际数据分析
    3.6 本章小结
第4章 非参数贝叶斯面板数据分位回归模型研究
    4.1 引言
    4.2 非参数贝叶斯分位回归模型的建立
        4.2.1 面板数据的分位回归
        4.2.2 双层混合正态分布与先验信息假设
    4.3 条件后验分布推导及MCMC算法构造
        4.3.1 潜变量引入和似然函数重构
        4.3.2 条件后验分布推导
        4.3.3 Gibbs抽样算法构造
    4.4 计算机模拟仿真
    4.5 实际数据分析
    4.6 本章小结
第5章 贝叶斯正则化面板数据分位回归模型研究
    5.1 引言
    5.2 面板数据的贝叶斯分位回归模型
        5.2.1 分位回归与非对称拉普拉斯分布
        5.2.2 非对称拉普拉斯分解与分层分位回归模型建立
    5.3 面板数据分位回归模型的贝叶斯LASSO估计
        5.3.1 分位回归模型的贝叶斯Lasso先验
        5.3.2 各参数条件后验分布推导
        5.3.3 Gibbs算法
    5.4 面板数据分位回归模型的贝叶斯ADAPTIVE LASSO估计
        5.4.1 贝叶斯Adaptive Lasso先验及分解
        5.4.2 条件后验分布推导与Gibbs抽样算法
    5.5 计算机模拟仿真
    5.6 本文提出的六种方法计算速度比较
    5.7 实际数据分析
    5.8 本章小结
第6章 研究总结与展望
    6.1 各种方法优缺点及应用前提总结
    6.2 展望
参考文献
攻读博士期间发表的论文、科研成果
致谢

(7)频率响应函数非参数辨识方法研究(论文提纲范文)

摘要
Abstract
1 绪论
    1.1 本文研究背景
    1.2 频率响应函数的定义
    1.3 频率响应函数的应用
    1.4 频率响应函数的非参数辨识方法
        1.4.1 局部有理模型研究现状
        1.4.2 高斯过程回归研究现状
    1.5 本文主要研究内容
2 局部有理模型非参数辨识方法
    2.1 局部有理模型
        2.1.1 输出误差框架
        2.1.2 频率响应函数的建模
        2.1.3 参数估计
    2.2 基于局部有理模型非参数辨识的改进
        2.2.1 目标函数的构造
        2.2.2 一致估计的证明
        2.2.3 估计算法
    2.3 频率响应函数估计的不确定性
        2.3.1 参数估计的偏差
        2.3.2 协方差矩阵的推导
        2.3.3 频率响应函数估计的方差
    2.4 仿真算例
        2.4.1 动态仿真系统
        2.4.2 局部有理模型参数对辨识精度的影响
        2.4.3 文献局部有理式法与本文改进方法的对比
        2.4.4 频率响应函数估计不确定性的验证
    2.5 本章小结
3 多变量系统的局部有理模型非参数辨识
    3.1 频率响应函数矩阵
        3.1.1 频率响应函数矩阵的参数模型
        3.1.2 目标函数
        3.1.3 频率响应函数矩阵估计的方差
    3.2 变量带误差辨识框架
        3.2.1 频率响应函数矩阵估计
        3.2.2 频率响应函数矩阵估计的方差
    3.3 仿真算例
        3.3.1 动态仿真系统
        3.3.2 频率响应函数矩阵的辨识
        3.3.3 频率响应函数矩阵估计不确定性的验证
    3.4 动态测试实验
        3.4.1 支撑方式与激励系统
        3.4.2 实验布置
        3.4.3 数据采集
        3.4.4 实验结果分析
    3.5 本章小结
4 频率响应函数的高斯过程回归估计
    4.1 高斯过程回归原理
        4.1.1 高斯过程
        4.1.2 高斯过程回归算法
        4.1.3 最优超参数的获取
    4.2 利用高斯过程回归模型建模频率响应函数
        4.2.1 复高斯分布
        4.2.2 频率响应函数的建模
        4.2.3 协方差函数的选择
        4.2.4 超参数估计存在的问题
    4.3 超参数估计的优化
        4.3.1 借助QR分解计算目标函数值
        4.3.2 超参数估计
    4.4 仿真算例
        4.4.1 动态仿真系统
        4.4.2 数据量对辨识精度的影响
        4.4.3 信噪比对辨识精度的影响
        4.4.4 频率响应函数估计不确定性的验证
        4.4.5 与局部方法的对比
    4.5 本章小结
5 结论与展望
    5.1 结论
    5.2 展望
参考文献
个人简历、在学期间发表的学术论文
致谢

(8)视频帧率上变换的递推建模与深度学习方法研究(论文提纲范文)

摘要
ABSTRACT
缩略语
第一章 绪论
    1.1 课题研究背景及意义
    1.2 国内外研究现状
        1.2.1 基于运动估计与运动补偿的插帧
        1.2.2 基于深度学习的插帧
    1.3 论文主要工作
        1.3.1 上下文感知的Kalman滤波视频光流估计
        1.3.2 基于高阶模型与动态滤波的视频帧率上变换
        1.3.3 MEMC模型驱动的深度学习视频帧率上变换
        1.3.4 融合场景深度的视频帧率上变换
    1.4 章节安排
第二章 上下文感知的Kalman滤波视频光流估计
    2.1 引言
    2.2 相关研究工作
        2.2.1 基于变分优化框架的光流估计
        2.2.2 基于损失空间搜索的光流估计
        2.2.3 基于卷积神经网络的光流估计
    2.3 Kalman滤波视频光流估计
        2.3.1 视频光流场的Kalman滤波算法
        2.3.2 视频帧间Kalman滤波器的递推
    2.4 上下文感知的Kalman滤波器系统噪声估计
        2.4.1 上下文信息提取
        2.4.2 系统噪声估计
    2.5 时域相关性增强的Kalman滤波器的测量噪声估计
    2.6 实验结果与分析
        2.6.1 客观指标分析
        2.6.2 主观质量分析
        2.6.3 上下文感知模块性能分析
        2.6.4 参数敏感性分析
    2.7 本章小结
第三章 基于高阶建模与动态滤波的帧率上变换
    3.1 引言
    3.2 相关研究工作
        3.2.1 高阶建模
        3.2.2 动态滤波
    3.3 基于高阶模型的帧率上变换模型
        3.3.1 亮度与运动的高阶建模
        3.3.2 亮度与运动估计的联合能量函数
        3.3.3 基于高阶模型的视频帧率上变换
    3.4 高阶模型的最优估计求解算法
        3.4.1 先验估计
        3.4.2 最大似然验估计
        3.4.3 Kalman滤波器
        3.4.4 噪声协方差估计
        3.4.5 能量最小化优化算法
    3.5 实验结果与分析
        3.5.1 与现有帧率上变换算法对比
        3.5.2 高阶运动模型性能评估
        3.5.3 高阶亮度模型性能评估
    3.6 本章小结
第四章 MEMC模型驱动的深度学习视频帧率上变换
    4.1 引言
    4.2 相关研究工作
        4.2.1 基于运动估计与补偿的经典算法
        4.2.2 基于神经网络学习的现代算法
    4.3 MEMC模型驱动的深度学习帧率上变换方法
        4.3.1 MEMC-Net模型框架
        4.3.2 基于光流偏移的自适应卷积核采样网络层
        4.3.3 光流映射网络层
    4.4 基于MEMC-Net的视频帧率上变换
        4.4.1 网络模块
        4.4.2 算法实现细节
    4.5 MEMC-Net模型在视频增强上的可扩展性
    4.6 实验结果与分析
        4.6.1 神经网络模块性能评估
        4.6.2 视频帧率上变换性能评估
        4.6.3 MEMC-Net可扩展性分析
    4.7 本章小结
第五章 融合场景深度的视频帧率上变换
    5.1 引言
    5.2 相关研究工作
        5.2.1 视频帧率上变换
        5.2.2 场景深度估计
    5.3 融合场景深度的视频帧率上变换方法
        5.3.1 融合场景深度信息的光流估计
        5.3.2 融合场景深度的插帧模型
    5.4 实验结果与分析
        5.4.1 实验条件与评估指标
        5.4.2 景深感知的光流映射性能分析
        5.4.3 多层次上下文提取模块性能分析
        5.4.4 与当时领先算法的比较
        5.4.5 场景深度估计性能分析
        5.4.6 模型参数与运行时间性能分析
    5.5 本章小结
第六章 总结与展望
    6.1 总结
    6.2 展望
参考文献
致谢
攻读博士学位期间的科研成果及参与的项目
简历

(9)纵向数据部分线性模型基于二次推断函数的复合分位数回归估计(论文提纲范文)

摘要
ABSTRACT(英文摘要)
第一章 绪论
    §1.1 研究背景及意义
    §1.2 国内外研究现状
    §1.3 研究内容及创新点
第二章 理论基础概述
    §2.1 纵向数据下部分线性模型理论
    §2.2 分位数回归基本理论
    §2.3 复合分位数回归基本理论
    §2.4 二次推断函数方法
第三章 部分线性模型基于QIF的复合分位数回归估计
    §3.1 估计方法
    §3.2 近似性质
    §3.3 估计算法
    §3.4 数值模拟
    §3.5 性质证明
第四章 实例分析
总结与展望
参考文献
致谢

(10)基于GIS和BP神经网络的云南省贫困因素空间模拟分析(论文提纲范文)

摘要
Abstract
第一章 绪论
    1.1 研究背景及意义
    1.2 国内外基本研究现状
        1.2.1 GIS应用研究现状
        1.2.2 神经网络应用研究现状
        1.2.3 研究现状述评
    1.3 我国近年的扶贫、消贫政策
    1.4 研究目的及方法
    1.5 设计方案及技术路线
第二章 数据获取及预处理
    2.1 研究区概况
        2.1.1 云南自然状况
        2.1.2 云南省贫困县现状
    2.2 数据来源及预处理
        2.2.1 指标选取原则
        2.2.2 数据来源
        2.2.3 数据预处理
第三章 贫困因素相关性研究及回归分析
    3.1 相关性分析
        3.1.1 Pearson相关分析原理
        3.1.2 贫困因素相关性分析结果
    3.2 最小二乘法的线性回归分析
        3.2.1 最小二乘估计原理
        3.2.2 贫困因素回归估计结果
第四章 BP人工神经网络
    4.1 BP人工神经网络介绍
        4.1.1 神经网络的生物原理
        4.1.2 激活函数
    4.2 优化算法
        4.2.1 梯度下降法
        4.2.2 牛顿法和拟牛顿法
        4.2.3 共轭梯度法
        4.2.4 启发式优化方法
    4.3 BP神经网络的数学推导
    4.4 BP训练网络实现步骤
    4.5 基于BP神经网络逼近函数研究
第五章 BP神经网络支持下的贫困因素空间模拟分析
    5.1 数据处理
        5.1.1 数据归一化处理
        5.1.2 评价标准设定
        5.1.3 spline线性插值
    5.2 BP神经网络模型模拟分析
        5.2.1 自然致贫指数模拟分析
        5.2.2 社会致贫指数模拟分析
        5.2.3 消贫指数模拟分析
    5.3 小结
第六章 结论与展望
    6.1 结论
    6.2 展望
参考文献
致谢
附录 A(攻读学位期间发表期刊论文)
附录 B(参与科研与获奖)

四、利用串行最小优化算法求解回归估计问题(论文参考文献)

  • [1]面向回归的稳健正则化方法研究[D]. 苏美红. 山西大学, 2021(01)
  • [2]基于多特征融合与机器学习的散斑缺陷精确识别[D]. 唐文举. 电子科技大学, 2021(01)
  • [3]基于立体视觉的飞行器物理仿真动态多信息测量方法研究[D]. 张贵阳. 哈尔滨工业大学, 2021(02)
  • [4]多视角视频时空四维重建理论与方法研究[D]. 董杨. 战略支援部队信息工程大学, 2020(03)
  • [5]基于截尾的稳健惩罚Logistic回归和稳健惩罚Cox回归及在组学数据分析中的应用[D]. 孙红卫. 山西医科大学, 2020(12)
  • [6]基于贝叶斯方法的随机效应面板数据模型研究[D]. 李翰芳. 华中师范大学, 2020(01)
  • [7]频率响应函数非参数辨识方法研究[D]. 周祎. 郑州大学, 2020(02)
  • [8]视频帧率上变换的递推建模与深度学习方法研究[D]. 包文博. 上海交通大学, 2020(01)
  • [9]纵向数据部分线性模型基于二次推断函数的复合分位数回归估计[D]. 丁亮. 华东师范大学, 2020(11)
  • [10]基于GIS和BP神经网络的云南省贫困因素空间模拟分析[D]. 冯宇. 昆明理工大学, 2020(04)

标签:;  ;  ;  ;  ;  

使用串行最小优化算法解决回归估计问题
下载Doc文档

猜你喜欢