摘要
多尺度几何分析(Multiscale Geometric Analysis-MGA)是一种致力于寻找有效的高维信息表示的新的调和分析工具。在过去十几年里,它在数学分析、模式识别、统计分析、计算机视觉等不同学科中得到了独立的发展,现在已经成功的用于回归分析、信号与图像处理等多个领域。随着多尺度几何分析在各领域中应用的深入,固定变换的分析方式变的逐渐不能满足所有的实践任务,自适应的思想开始被采纳、应用并成功的解决了一些问题。这主要表现在两个方面:一方面集中在扩展现有方法的自适应特性,如使用匹配跟踪方法的Ridgelet逼近、自适应阈值的Curvelet去噪、Contourlet包的自适应构造等,它们具有优于对应的非自适应方法的性能;另一方面集中在用自适应方法建立新的多尺度几何分析工具,如Bandelet分析等,它们一般具有更灵活的结构,以及对外界输入更好的适应能力。可以预见:在今后的一段时期内,多尺度几何分析必然沿着自适应方法和非自适应方法相结合的方式发展。可以实现自适应的工具广泛分布于机器学习领域的各个分支中,利用机器学习中成熟的方法将构建更加完善的多尺度几何分析理论,另一方面,使用多尺度几何分析工具也将解决机器学习中更广泛的问题。因此对基于机器学习理论的自适应多尺度网络理论和应用的研究是一个非常重要而有意义的课题。本论文在对多尺度几何分析和机器学习理论研究的基础上,利用机器学习方法构造了多种自适应多尺度几何网络模型,其中主要包括采用方向神经元的并行多尺度几何网络、神经网络作为后续处理的多尺度几何分析识别模型等。结合自然科学基金项目、十五国防预研项目、博士点基金和“973计划”的重点项目,作者将提出的一些新方法应用于实测数据中,取得了较理想的效果。主要工作概括如下:(1)回顾了多尺度几何分析的发展,分析了几种主要的工具。在连续脊波逼近理论的基础上,提出了一种自适应脊波网络模型,给出了网络的学习算法和收敛性的证明。将其用于高维函数回归以及某些奇异性函数的逼近中,取得了优于子波网络的结果。(2)为提高自适应脊波网络的泛化能力并解决网络训练中的一些问题,在自适应脊波网络的基础上,构造了一种基于统计学习理论的正则化脊波网络模型,将其用于非线性时间序列预测和大压缩比的遥感图像压缩中,取得了良好的效果。(3)基于二进制离散脊波框架,提出了一种方向多分辨脊波网络模型,给出了网络结构确定的理论结果和训练算法,并且从数学角度上证明了网络具有的一些特性。将其用在函数逼近、模式分类以及基于雷达一维像的目标识别中,取得了较好的效果。(4)针对维数比较高的一些实际问题,基于传统的核光滑方法,提出一种在时间、空间上和样本数目、样本维数呈线性复杂度的有效学习算法,并用于脊波网络的训练中。它可以在牺牲较小的计算精度的条件下,降低训练的时间与空间的复杂度,进一步提高了脊波网络对高维信息的实时处理能力。将其用于高维复杂函数的回归,取得了预期的效果。(5)基于脊波理论、核函数和正则化技术,提出了一种基于遗传算法的脊波核函数网络,将其用于多种类型的函数逼近,可视化导航系统中的路标分类、以及飞机目标识别中,取得了良好的结果。(6)基于由脊波金字塔实现的曲线波变换和一种具有快速训练及较好推广能力的免疫径向基神经网络,提出了一种曲线波网络模型,并成功的用于飞机和舰船目标的识别中。(7)基于拉普拉斯塔式分解和方向滤波器组实现的轮廓波变换,在子波变换的基础上提出了一种轮廓波包的实现方法,其中最优基的选取利用量子遗传算法实现。将其用于指纹图像的编码中,得到了优于传统方法的结果。在此基础上将它和神经网络结合,提出了一种用于目标识别的轮廓波包网络的模型。实验结果证明了它对于飞机目标识别的有效性。