小波历史分析

小波分析是纯数学、应用数学和工程技术的完美结合，是二十世纪最辉煌的科学成就之一；其渊源应追朔于傅立叶变换。

傅里叶在1807年提出了傅立叶分析理论，利用正弦基函数表示复杂的时域信号，并转换到频域中，用信号的频谱去分析和表现时域信号的特性。傅立叶变换作为最经典的信号处理手段，两百年来在理论和实际应用中都获得了巨大成功；但傅立叶变换只适用于平稳信号，对非平稳信号的时频局域化分析无能为力。

为此，1964年提出窗口傅立叶变换，在对信号进行时频局域化方面取得了实质性进步；但其时频窗自适应性的缺乏又使之应用受到限制。上世纪年代出现的小波理论则克服了这一缺陷，实现了时频窗的自适应调整，为信号分析理论的发展做出了突出贡献。事实上早在1901年Haar就提出了最简单的小波；1985年Meyer在进行有关地质勘探研究时首先提出了平移伸缩的小波公式，形成了小波理论的研究高潮。

1988年Mallat在多尺度逼近的基础上提出了多分辨率分析的理论，将在此之前的几个不相关研究领域，如语音识别中的镜向滤波、信号处理中的子带编码、机器视觉中的金字塔方法等统一到了理论框架中。多分辨分析不仅解决了如何构造小波函数这一重要的理论问题而且加深了人们对小波分析基本原理的理解。在面向实际应用中，由于小波系数的计算可以通过滤波器与信号进行卷积得到，在此基础上提出了快速小波分解和重构算法。在小波理论和应用之间架起了一个必须的桥梁，极大地推动了小波分析在工程实际各个领域中的应用与发展。

大量实验表明，硬阈值函数模型对于小波分解系数的处理过于绝对化，经过该模型处理后的图像平滑程度较低; 而按照软阈值函数模型的思路，保留下来的小波分解系数总是与原始小波分解系数存在固定的偏差，这导致该模型处理后的图像边缘存在严重的失真现象。对此，Burce、Gao 等提出了小波半软半硬阈值函数模型。

随着深度学习的发展，卷积神经网络广泛地应用于图像去模糊领域。根据图像块信息，Sun等人利用CNN预测图像的局部模糊，通过非盲解卷积去除非均匀运动模糊。Gong等人利用全卷积网络估计模糊图像的运动场，从估计的运动场中恢复清晰图像。Nah等人提出一种端到端的图像处理方法，该方法遵循由粗到精的思想，逐步恢复清晰图像。Kupyn等人采用带有梯度惩罚和感知损失的Wasserstein GAN去除运动模糊，恢复更多的纹理信息。Kupyn等人进一步改进网络，将特征金字塔网络作为DeblurGAN-v2的核心构建块，此网络可与各种骨干网络配合使用，在性能和效率之间取得平衡。Tao等人提出尺度递归的思想，利用不同尺度的图像共同训练网络，实现网络参数共享，运动去模糊效果显著。梁晓萍等人利用头脑风暴优化算法自动搜寻BP神经网络更佳的初始权值和阈值，提升网络性能。

近期的研究主要从改进网络结构、引入多尺度和增大感受野等角度改善图像重建算法的性能。Tao等人引入网络参数共享机制，在减少参数的同时获得更好的效果。Ronneberger等人提出一种编-解码结构的网络，充分利用上下文信息，在图像语义分割中获得较好的性能。Nah等人将多尺度应用到去模糊网络中，逐渐去除不同程度的模糊。Chen等人将平滑的扩张卷积嵌入到网络中，在保持参数量不变的情况下，通过增大感受野提高区域性能，但随着网络深度的增加，扩张卷积仅考虑使用棋盘格模式对位置进行稀疏采样，从而导致部分信息丢失。Jin等人采用重采样卷积操作确保网络的第1层就具有大的感受野，但是随着图像尺寸的增加，网络的效率大幅降低，且没有增加图像特征的稀疏性。