优化问题描述,参见机器学习中的正则化初探[一]
1)
为一组正交小波基即
等价形式: 2)
定义向量 ,所以 因为是一个正交阵。为了获得最佳的稀疏近似,取个最大的系数的值。
hard-thresholding
式1)的解 可以通过下式得到,称为"hard-thresholding":
其中是一个指示函数,当时为1,否则为0。
当图像被高斯噪声污染时,通过选择值大小,估计得到可以很好地还原始图像。
soft-thresholding
所谓"soft thresholding"是由Donoho and Johnstone在《Ideal spatial adaptation by wavelet shrinkage》中引入的。
实际上是下述稀疏重构问题的解。
3)
在Michael Elad 的论文《On the Role of Sparse and Redundant Representations in Image Processing》有一段话:the optimization decouples into a set of independent scalar problems of the form , which have particularly simple closed-form solutions in the two notable cases p=0 and p=1, called hard- and soft-thresholding, respectively.
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 |
template <typename T> static inline T softThrs(const T x, const T lambda) { if (x > lambda) { return x-lambda; } else if (x < -lambda) { return x+lambda; } else { return 0; } }; template <typename T> static inline T hardThrs(const T x, const T lambda) { return (x > lambda || x < -lambda) ? x : 0; }; |
形象的图示如下:
Structured group thresholding
补充:小波变换是将原始图像与小波基函数以及尺度函数进行内积运算,基于小波变换的数据压缩目的就是希望经小波分解后得到的三个方向的细节分量具有高度的局部相关性,而整体相关性能最大限度的消除。
小波基元素是其他基元素的放大和平移。It is for instance possible to define neighborhood relationships for wavelets whose spatial supports are close to each other,or hierarchical relationships between wavelets with same or similar localization
but with different scales.
对于一维信号,小波系数可由如下的小波树表示:
利用小波基之间的相邻关系来定义group of coefficients,形成对于的划分。对于中的每一组,
这个算子,可以将一组相邻系数共同置0当其低于阈值时,其实with 是下列优化方程的解。
4)