信号在过完备库上分解中原子形成的快速算法
- 格式:pdf
- 大小:185.34 KB
- 文档页数:4
压缩感知的重构算法算法的重构是压缩感知中重要的一步,是压缩感知的关键之处。
因为重构算法关系着信号能否精确重建,国内外的研究学者致力于压缩感知的信号重建,并且取得了很大的进展,提出了很多的重构算法,每种算法都各有自己的优缺点,使用者可以根据自己的情况,选择适合自己的重构算法,大大增加了使用的灵活性,也为我们以后的研究提供了很大的方便。
压缩感知的重构算法主要分为三大类:1.组合算法2.贪婪算法3.凸松弛算法每种算法之中又包含几种算法,下面就把三类重构算法列举出来。
组合算法:先是对信号进行结构采样,然后再通过对采样的数据进行分组测试,最后完成信号的重构。
(1) 傅里叶采样(Fourier Representaion)(2) 链式追踪算法(Chaining Pursuit)(3) HHS追踪算法(Heavy Hitters On Steroids)贪婪算法:通过贪婪迭代的方式逐步逼近信号。
(1) 匹配追踪算法(Matching Pursuit MP)(2) 正交匹配追踪算法(Orthogonal Matching Pursuit OMP)(3) 分段正交匹配追踪算法(Stagewise Orthogonal Matching Pursuit StOMP)(4) 正则化正交匹配追踪算法(Regularized Orthogonal Matching Pursuit ROMP)(5) 稀疏自适应匹配追踪算法(Sparisty Adaptive Matching Pursuit SAMP)凸松弛算法:(1) 基追踪算法(Basis Pursuit BP)(2) 最小全变差算法(Total Variation TV)(3) 内点法(Interior-point Method)(4) 梯度投影算法(Gradient Projection)(5) 凸集交替投影算法(Projections Onto Convex Sets POCS)算法较多,但是并不是每一种算法都能够得到很好的应用,三类算法各有优缺点,组合算法需要观测的样本数目比较多但运算的效率最高,凸松弛算法计算量大但是需要观测的数量少重构的时候精度高,贪婪迭代算法对计算量和精度的要求居中,也是三种重构算法中应用最大的一种。
第47卷第3期2021年3月北京工业大学学报JOURNAL OF BEIJING UNIVERSITY OF TECHNOLOGYVol.47No.3Mar.2021基于压缩感知理论的二维DOA估计窦慧晶,梁霄,张文倩(北京工业大学信息学部,北京100124)摘要:二维波达方向(direction of arrival,DOA)估计在雷达探测、电子对抗、医学成像等领域有着广泛的应用.针对现有算法估计精度不足、计算量巨大的问题,在基于压缩感知理论的背景下提出一种二维均匀L型阵列信号的DOA估计算法.该算法首先对阵列信号的俯仰角和方位角构建空间合成角,并对空间合成角构建过完备冗余字典;再利用正交化高斯随机矩阵构造观测矩阵;最后通过改进RM-FOCUSS算法和求解三角函数的方法还原出方位角和俯仰角.理论研究表明,该方法在高信噪比、多快拍条件下比传统算法具有更高的估计精度和分辨力,且通过压缩采样降低了运算量.仿真实验验证了上述结论.关键词:DOA估计;压缩感知;过完备冗余字典;稀疏表示;压缩采样;测量矩阵中图分类号:TN911文献标志码:A文章编号:0254-0037(2021)03-0231-08doi:10.11936/bjutxb2019100002Two-dimensional DOA Estimation Based onCompressed Sensing TheoryDOU Huijing,LIANG Xiao,ZHANG Wenqian(Faculty of Information Technology,Beijing University of Technology,Beijing100124,China)Abstract:Two-dimensional direction of arrival(DOA)estimation has been widely used in radar detection,electronic reconnaissance,medical imaging and other fields.Aiming at the problems of inadequate estimation accuracy and enormous computational load of existing algorithms,a DOA estimation algorithm for two-dimensional uniform L-shaped array signals was presented in this paper based on compressed sensing theory.First,an over-complete redundant dictionary was established by using the space frequency of the azimuth angle and pitch angle.Then the orthogonal Gaussian random matrix was used to construct the measurement matrix.Finally,azimuth and elevation were restored by improving RM -FOCUSS algorithm and solving trigonometric function.The theoretical research shows that the proposed method has higher estimation accuracy and resolution than the traditional algorithm under the conditions of high SNR and multi-snapshot,and it reduces the computational complexity by compressing sampling.The simulation results verify the effectiveness and correctness.Key words:direction of arrival(DOA)estimation;compressed sensing(CS);over-complete redundant dictionary;spare representation;compressed sampling;measurement matrix二维波达方向(direction of arrival,DOA)估计在阵列信号处理领域有着重要的研究意义,与一维收稿日期:2019-10-11基金项目:国家自然科学基金资助项目(61171137);北京市教育委员会科研发展计划资助项目(KM201210005001)作者简介:窦慧晶(1969—),女,副教授,主要从事数字信号处理、信号参量估计阵列信号处理、语音信号处理方面的研究, E-mail:dhuijing@232北京工业大学学报2021年DOA估计相比,该估计算法能够更精确描述目标的空间特性,因此DOA估计在二维信号领域更具实际应用价值[1-2].二维多重信号分类(two-dimensional multiple signal classification,2-D MUSIC)算法是目前已有的二维阵列信号DOA估计算法中最为经典的估计算法之一,该算法核心思想是将传统的一维MUSIC估计算法在二维空间进行直接推广,由于该算法需要二维谱峰搜索因而导致计算量巨大,且需要各信源的中心频率已知,因此很难满足实际应用⑶.为了解决上述缺陷,有学者提出一种无须谱峰搜索的二维旋转不变子空间(two-dimensional estimating signal parameter via rotational invariance techniques,2-D ESPRIT)算法以及二维传播算子(two-dimensional propagation method,2-D PM)算法⑷.这些算法的相继问世使阵列信号的处理性能得到一定的提高,但因其在小快拍数及低信噪比情况下估计性能严重下降而无法推广到实际应用中.在众多阵列结构中,由于L型阵列具有结构简单、实施容易、估计性能佳等优点而被广泛用于工程领域.为解决二维信号角度匹配精度不高且计算复杂的问题,文献[5]提出一种基于L型阵列的无须手动配对的二维DOA估计算法,通过引入新的合成角度计算出新的导向矢量,进而获得原信号的俯仰角和方位角.尽管该方法能够自动完成角度配对,但需要多次谱峰搜索及特征值分解导致计算复杂度过高.文献[6]提出一种新的二维DOA估计方法,该算法首先将方位角和俯仰角分别估计出来,再通过阵列输出的互相关和信号功率对2个角度进行匹配,由于需要大量的采样信号使得该方法不可有效避免大量的数值计算.为降低运算量有学者提出利用阵列数据的协方差矩阵进行二维角度估计的算法[7-8].文献[9]提出一种利用多相干信号对方位角和俯仰角进行配对的方法,通过利用协方差矩阵最小化构造的代价函数从而实现角度配对,该算法存在的最大弊端是在构造协方差矩阵的过程中可能会引入外界噪声,从而影响其估计性能.压缩感知(comprehensive sensing,CS)理论的出现为现代信号处理带来一种更高效、更精确的方法,文献[10]提出基于该理论的£-SVD算法,该算法通过对接收信号进行奇异值分解(singular value decomposition,SVD)来降低算法复杂度和对噪声的敏感性,然后利用二阶锥规划的方法求解相应的优化问题,该算法在小快拍数和低信噪比时有很好的性能,并且可以直接用于相干信号[11].该方法摆脱了传统奈奎斯特采样定理带来超大计算量的束缚.基于此,众多学者将压缩感知理论引入到DOA估计中来,从而达到降低计算量的目的.文献[12]提出一种基于协方差矩阵联合稀疏重构的降维波达方向估计算法,该算法充分利用阵列孔径,无须预先估计目标数目,参数估计性能在低信噪比及小快拍数据长度下优势明显,但在其他方面尚有改进余地.本文在基于压缩感知理论的背景下提出一种二维L 型阵列信号的DOA估计算法.该方法在高信噪比、多快拍条件下相较于传统算法具有更高的估计精度和分辨力,且具有较低的运算量.1信号模型本文试验采用L型均匀阵列,该模型中2个子阵互相垂直,成90。
一、绪论1、数字图像处理又称为计算机图像处理,它是指将图像信号转换成数字信号并利用计算机对其进行处理的过程。
2、通过计算机对图像进行去除噪声、增强、复原、分割、提取特征等处理的方法和技术。
3、图像和语音是人类传递信息的主要媒介,视觉信息占60%4、模拟图像:直接通过感光设备记录成像目标所反射的光强,通常以胶片形式保存优点:速度快,一般为实时处理,理论上讲可达到光的速度,并可同时并行处理。
缺点:精度较差,灵活性差,很难有判断能力和非线性处理能力。
数字图像:用一个m×n的像素矩阵来表达一幅图像,m与n称为图像的分辨率,把图像按行与列分割成m×n个网格,每个网格的图像用该网格内颜色的平均值表示(空间量化),灰度(颜色)值量化(8位256)彩色(24bit)优点:处理精度高,处理内容丰富,可进行复杂的非线性处理,有灵活的变通能力,一般来说只要改变软件就可以改变处理内容。
缺点:速度慢,特别是进行复杂的处理更是如此;分辨率和精度有限制5、特点:图像信息量大、数据量也大;图像处理技术综合性强;图像信息理论与通信理论密切相关。
6、主要方法:空域法:邻域处理法:梯度运算、拉普拉斯算子运算、平滑算子运算卷积运点处理法:灰度处理面积、周长、体积、重心运算变换域法:通过正交变换将图像变换到另一个域,对变换域的系数阵列进行各种处理,然后再通过反变换,得到空间域处理结果。
DCT,DFT,DWT,KLT……7、主要内容:A、图像信息的获取;B、存贮(存储);C、传送(传输);内部传送:DMA 远距离传送:带宽、高效压缩算法、专网、互联网D、处理;几何处理、算术处理、图像增强:直方图增强、滤波、伪彩色增强法(pseudo color) 等技术、图像复原:去掉干扰和模糊,恢复图像的本来面目。
典型的例子如去噪就属于复原处理。
图像噪声包括随机噪声和相干噪声,随机噪声干扰表现为麻点干扰,相干噪声表现为网纹干扰。
去模糊也是复原处理的任务。
压缩传感总结报告摘 要 随着信息技术的不断发展,人们对信息需求量越来越大,这给信号采样、传输和存储的实现带来的压力越来越大。
传统的采样方法容易造成信息的冗余,因此,人们寻求新的方法避免信息的冗余。
压缩传感的问世,打破了常规的信号处理的思路,它将压缩和采样合并进行,突破了香农采样定理的瓶颈。
本文主要围绕稀疏表示、编码测量、重构算法三个方面对压缩传感进行基本的介绍。
最后介绍了压缩传感的应用以及展望。
关键词 压缩传感,稀疏表示,编码测量,重构算法1 引言传统的信号获取和处理过程主要包括采样、压缩、传输和解压缩四个部分。
其采样过程必须满足香农采样定理, 即采样频率不能低于模拟信号频谱中最高频率的2倍。
在信号压缩中,先对信号进行某种变换,如离散余弦变换或小波变换, 然后对少数绝对值较大的系数进行压缩编码, 舍弃零或接近于零的系数。
通过对数据进行压缩,舍弃了采样获得的大部分数据, 但不影响“感知效果”[1]。
但是,信号压缩实际上是一种严重的资源浪费,因为大量的采样数据在压缩过程中被丢弃了,而它们对于信号来说是不重要的或者只是冗余信息。
从这个意义而言,可得到以下结论:带宽不能本质地表达信号的信息,基于信号带宽的Nyquist 采样机制是冗余的或者说是非信息的。
如果信号本身是可压缩的, 那么是否可以直接获取其压缩表示(即压缩数据),从而略去对大量无用信息的采样呢?换句话说,是否存在一种基于信息的采样理论框架,使得采样过程既能保持信号信息,又能只需远少于Nyquist 采样定理所要求的采样数目就可精确或近似精确重建原始信号?Cand és 在2006年从数学上证明了可以从部分傅立叶变换系数精确重构原始信号, 为压缩传感奠定了理论基础。
Cand és 和Donoho 在相关研究基础上于2006年正式提出了压缩传感的概念。
其核心思想是将压缩与采样合并进行,首先采集信号的非自适应线性投影(测量值), 然后根据相应重构算法由测量值重构原始信号[7]。
1. 信号的稀疏表示(sparse representation of signals)给定一个过完备字典矩阵,其中它的每列表示一种原型信号的原子。
给定一个信号y,它可以被表示成这些原子的稀疏线性组合。
信号y 可以被表达为y = Dx ,或者。
字典矩阵中所谓过完备性,指的是原子的个数远远大于信号y的长度(其长度很显然是n),即n<<k。
2.MP算法(匹配追踪算法)2.1 算法描述作为对信号进行稀疏分解的方法之一,将信号在完备字典库上进行分解。
假定被表示的信号为y,其长度为n。
假定H表示Hilbert空间,在这个空间H里,由一组向量构成字典矩阵D,其中每个向量可以称为原子(atom),其长度与被表示信号y 的长度n相同,而且这些向量已作为归一化处理,即|,也就是单位向量长度为1。
MP算法的基本思想:从字典矩阵D(也称为过完备原子库中),选择一个与信号y 最匹配的原子(也就是某列),构建一个稀疏逼近,并求出信号残差,然后继续选择与信号残差最匹配的原子,反复迭代,信号y可以由这些原子来线性和,再加上最后的残差值来表示。
很显然,如果残差值在可以忽略的范围内,则信号y就是这些原子的线性组合。
如果选择与信号y最匹配的原子?如何构建稀疏逼近并求残差?如何进行迭代?我们来详细介绍使用MP进行信号分解的步骤:[1] 计算信号y 与字典矩阵中每列(原子)的内积,选择绝对值最大的一个原子,它就是与信号y 在本次迭代运算中最匹配的。
用专业术语来描述:令信号,从字典矩阵中选择一个最为匹配的原子,满足,r0 表示一个字典矩阵的列索引。
这样,信号y 就被分解为在最匹配原子的垂直投影分量和残值两部分,即:。
[2]对残值R1f进行步骤[1]同样的分解,那么第K步可以得到:,其中满足。
可见,经过K步分解后,信号y 被分解为:,其中。
2.2 继续讨论(1)为什么要假定在Hilbert空间中?Hilbert空间就是定义了完备的内积空。
omp算法归一化OMP(Orthogonal Matching Pursuit)算法是一种用于信号重构和压缩感知的迭代逼近算法。
该算法的核心思想是通过选择一组前若干个原子(即信号的基)来逼近待重构的信号,并同时利用残差来更新所选原子的权重。
OMP算法具有高效、可解释性好的特点,并在图像处理、语音处理、通信等领域得到了广泛的应用。
OMP算法的步骤如下:1. 初始化:设定迭代次数K和信号重构的误差阈值ε,并初始化重构信号x^0为全零向量。
2. 选择原子:在每一次迭代中,从原子字典D中选择一个最相关的原子d_j与重构信号的残差r进行内积,即计算内积值abs(<r, d_j>)。
在第一次迭代中,选择内积值最大的原子d_j,并将其添加到重构信号中;在后续的迭代中,选择与残差r垂直的最相关原子。
3. 更新重构信号:将选择的原子加到重构信号x中,得到新的重构信号x^k,并更新残差向量r为待重构信号y与重构信号x^k的差值。
4. 终止条件:判断当前残差向量的模是否小于设定的阈值ε,如果满足,则停止迭代;否则,返回步骤2。
OMP算法在信号重构与压缩感知中的应用主要体现在以下几个方面:1. 信号重构:将稀疏信号表示为原子字典的线性组合,通过选择与残差向量最相关的原子进行逼近,以达到信号重构的效果。
由于OMP算法能够选择与残差向量垂直的原子,因此可以更准确地重构信号,提高重构质量。
2. 特征选择:通过选择与待重构信号相似度最高的原子,可以快速确定信号中的关键特征。
在图像处理和语音处理等领域中,特征选择是一项非常重要的任务,通过OMP算法可以高效地选择出重要的特征,提高解析度或者减少噪声的影响。
3. 数据压缩:在一些对带宽有限或传输速率有限的场景下,如传感器网络、无线通信等应用中,数据压缩既可以减少存储空间的需求,又可以减少数据传输的时间和能量消耗。
OMP算法可以利用信号的稀疏性来实现数据的压缩,将稀疏信号表示为原子字典的线性组合,从而降低数据的维度和存储量。
基于压缩感知的稀疏重构DOA估计算法包晓蕾;曲行根;王卓英【摘要】基于空间目标分布的稀疏特性和压缩感知理论思想,提出一种基于奇异值分解的多测量梯度投影稀疏重构( SVD-MGPSR)算法,将多目标DOA估计转化为一个稀疏信号重构问题。
首先利用阵列流形建立的过完备原子库对信号进行联合稀疏表示,然后对压缩采样后的信息矩阵进行奇异值分解,可以明显降低运算量,最后基于MGPSR算法对稀疏信号进行重构,从而实现DOA估计。
相对于已有算法,该算法不仅在低信噪比、小快拍数条件下测向均方误差较小,而且能够对相干信号进行正确估计,具有较高的测向精度和角度分辨率。
仿真实验验证了该算法的有效性。
%Based on the sparse property of the spatial targets distribution and the idea of compressive sensing ( CS) theory, a multi-measurement gradient projection for sparse reconstruction algorithm based on singular value decomposition ( SVD) was proposed, in which a multi-targets DOA estimation problem can be translated into a sparse signal reconstruction problem .First-ly, the signal was joint sparse representation by establishing an over -complete atom dictionary according to array manifold ma-trix.Then, SVD of information matrix of compressive sampling was done to reduce the amount of computation greatly .Finally, the sparse signal was reconstructed based on multi -measurement vectors gradient projection for sparse signal reconstruction algo -rithm so as to achieve DOA estimation .Compared with existing algorithm , the proposed algorithm not only has a smaller mean square error in the low SNR but also is able to correctly estimate the coherentsignal .Moreover, it offers higher direction finding precision and angular resolution .The simulation results verify its effectiveness .【期刊名称】《武汉理工大学学报(信息与管理工程版)》【年(卷),期】2015(000)006【总页数】6页(P827-831,864)【关键词】压缩感知;DOA估计;奇异值分解;梯度投影【作者】包晓蕾;曲行根;王卓英【作者单位】上海电子信息职业技术学院通信与信息工程系,上海 201411;哈尔滨工程大学信息与通信工程学院,黑龙江哈尔滨 150001;上海电子信息职业技术学院通信与信息工程系,上海 201411【正文语种】中文【中图分类】TN911目标信号波达方向(direction of arrival, DOA)估计一直是阵列信号处理领域中的一个重要研究方向,在通信、雷达和医学成像等领域有着广泛的应用[1]。
ICA快速算法原理和程序ICA的基本原理是假设混合信号由若干个相互独立的信号组合而成。
这些独立信号并不是我们所感兴趣的原始信号,而是混合信号的组成部分。
在进行ICA处理时,我们的目标是通过利用混合信号之间的统计特性,将其分解为相互独立的成分。
ICA算法的一般步骤如下:1. 假设我们有n个混合信号x1, x2, ..., xn,其中每个信号都是由m个独立原始信号s1, s2, ..., sm的线性组合而成。
即x1 = a11*s1 + a12*s2 + ... + a1m*sm,x2 = a21*s1 + a22*s2 + ... + a2m*sm,依此类推。
2. 将混合信号表示为矩阵X = [x1, x2, ..., xn],其中每列代表一个混合信号。
3.对矩阵X进行中心化处理,即将每列的均值减去列的均值,得到中心化后的矩阵X。
4.找到一个矩阵W,使得Y=WX,Y为解耦后的信号。
矩阵W的每一行代表一个独立成分,我们希望通过调整矩阵W的值,使得Y的每一行代表一个相互独立的信号。
5.通过最大化独立性度量函数,如非高斯性度量函数或最大似然度量函数,来确定矩阵W的值。
常用的独立性度量函数是ICA算法的核心。
6.根据优化得到的矩阵W,将混合信号进行逆变换,即得到解耦后的信号。
ICA算法的核心在于独立性度量函数的选择和优化。
常用的非高斯性度量函数包括峭度、负熵等。
峭度度量了信号的非高斯性,越非高斯的信号峭度越大。
负熵是一种信息度量,也常被用作独立性度量函数。
对于独立信号而言,负熵具有最大值,而对于相关信号而言,负熵较小。
ICA的算法还可以通过梯度下降法、快速ICA算法等进行优化。
快速ICA算法是一种基于均值松弛的优化方法,通过迭代的方式寻找最优解,并通过均值减少噪声的影响,加速收敛速度。
ICA的程序实现可以通过多种编程语言来实现,如MATLAB、Python 等。
其中,开源的ICA软件包如scikit-learn、FastICA等都提供了ICA 算法的实现。
压缩感知正交匹配追踪算法重构二维图像摘要在传统采样过程中,为了避免信号失真,采样频率不得低于信号最高频率的2倍。
然而,对于数字图像、视频的获取,依照香农定理会导致海量的采样数据,大大增加了存储和传输的代价。
压缩感知采用非自适应性投影来保持信号的原始结构,能够通过数值最优化问题准确重构原始信号。
该理论指出,如果信号是稀疏的或者在某个基下可压缩,那么用少量的观测值就可以保持信号的结构和相关信息。
基于该理论,用于精确重构信号的采样需求数量可以远低于观测的维度,这极大地缓解了宽带信号处理的压力。
正交匹配追踪算法正是压缩感知信号检测的一种算法。
本文将介绍正交匹配追踪算法的原理以并给出了测试效果。
一、压缩感知简介压缩感知是一种新的信息获取理论,是建立在信号稀疏表示、测量矩阵的非相关性以及逼近理论上的一种信号采集和重建的方法。
该理论指出,只要信号是稀疏的或者在某个基下时刻压缩的,就可以通过远低于奈奎斯特采样定理要求的采样率获取信号的结构信息,再通过重构算法完成信号的精确重构。
压缩感知理论只要包括两个部分:将信号在观测向量上投影得到观测值,以及利用重构算法由观测值重构信号。
设x 是一个长度为N 的信号,其稀疏度为()N K K <,系数度为K 指x 本身有K 个非零元素,或者在某种变化域ψ内的展开系数有K 个非零元素。
信号(假设信号在变换域ψ内K 系数)在观测向量上的投影可以表示为:N M M i x yi<==,,,1,, φ其中,y i为压缩感知获取的M 个采样值,()φi Mi 1=是一组观测向量,由()φi Mi 1=组成的观测基Φ与变换基ψ不相关。
重构信号的关键是找出信号x 在ψ域中的稀疏表示,可以通过l 0范数优化问题找到具有系数结构的解:x y t s TxΦ=ψ..min由于上式的优化问题是一个难求解的NP-hard 问题,所以可以用l 1约束取代l 0约束:x y t s TxΦ=ψ..min1此时,压缩感知获得的采样值已经保持了原信号的结构及相关信息,因此可以不需要重构信号,利用检测算法直接从采样值中提取特征量进行判断,完成信号检测任务。
这几天看了稀疏表示的一些文章,对字典学习方法K-SVD[1]查阅了相关资料,特此总结如下,如有理解上不正确的地方,还望指正,本人还处于初学者的状态。
一、概述K-SVD是一种迭代算法,是K-means算法的扩展,一般是用来在稀疏表示问题中的字典训练方面。
这里的“字典”是一个过完备的矩阵,由其,使得一个信号向量可以表示成字典中原子(字典的列向量)的稀疏线性组合。
K-SVD和K-means方法本质上都属于一种压缩的思想,都主要包含以下两个步骤:1)稀疏编码2)字典更新在K-means方法中,K-means 先随机选择K个初始点作为字典,K个初始点就代表K类。
然后在每次迭代过程中,稀疏编码阶段:计算数据集中每个数据点与这K个点的距离,距离最短则代表改点属于该类;字典更新:每一类中所有点的均值作为新的字典。
而在K-SVD中,稀疏编码可以采用任何基方法(MP、OMP、BP);字典更新采用SVD奇异值分解。
文章原文引用如下:The K-SVD algorithm is an iterative method that alternates between sparse coding of the examples based on the current dictionary and an update process for the dictionary atoms so as to better fit the data, generalizing the K-means algorithm. The update of the dictionary columns is done jointly with an update the sparse representation coefficients related to it, resulting in accelerated convergence.二、K-SVD方法这里给出文章中对K-SVD方法的描述6i以下简要描述该算法:用数学表达式表示稀疏表示问题,K-SVD即是求解满足以下式子的字典D 其中是信号 , 是过完备字典矩阵, 为系数矩阵 。
somp算法与omp算法
SOMP(Stagewise Orthogonal Matching Pursuit)算法和OMP (Orthogonal Matching Pursuit)算法都是稀疏表示问题的迭代逼近算法,旨在通过选择从原子字典中的稀疏表示获取原始信号的近似表示。
SOMP算法是对OMP算法的改进和扩展,主要针对原子字典过完备(overcomplete)的情况,其中原子个数多于信号维度的情况。
以下是两个算法的一般步骤:
1.初始化:设置稀疏表示向量为零向量,初始化残差为原始
信号。
2.迭代过程:重复以下步骤直到满足停止准则或达到迭代次
数限制:
a. 字典匹配:计算残差与原子字典的内积,选择最相关的原子向量。
b. 原子选择:更新稀疏表示向量,将相关原子的系数设置为相应的内积值。
c. 更新残差:通过将原始信号减去稀疏表示的线性组合来更新残差。
d. 检查停止准则:根据预定义的条件或误差阈值判断是否终止迭代。
e. 继续迭代:返回步骤 a。
SOMP算法相对于OMP算法的扩展之处在于,它在每一次迭代中选择多个相关原子,而不仅仅是单个原子。
通过引入阈值选取和正交化处理,SOMP算法可以更好地处理过完备字典和噪声信号。
卷积稀疏编码(CSC)算法简介卷积稀疏编码(Convolutional Sparse Coding, CSC)是一种用于信号处理和图像处理的方法,通过对信号进行稀疏表示来提取特征。
CSC算法基于稀疏编码的思想,将输入信号分解为多个原子的线性组合,以实现信号的表示和降维。
CSC算法在图像处理、模式识别、信号压缩等领域有广泛应用,可以用于特征提取、去噪、图像复原等任务。
本文将详细介绍CSC算法的原理、流程和应用。
CSC算法原理CSC算法主要由两个部分组成:字典学习和稀疏编码。
字典学习阶段用于学习一组原子(也称为字典),使得这些原子能够紧密地表示输入信号中的结构信息。
稀疏编码阶段使用学习到的字典,将输入信号表示为字典中原子的线性组合。
字典学习字典学习是CSC算法中非常重要的一步,它旨在从训练数据中自适应地学习一个具有刻画性质的字典。
字典学习可以通过最小化稀疏表示误差来实现,即找到一个字典D和稀疏表示系数X,使得输入信号Y可以近似表示为Y ≈ DX。
常用的字典学习方法有K-SVD算法和OMP算法。
K-SVD算法是一种迭代方法,通过交替更新字典中的原子和稀疏表示系数来逐步优化字典。
OMP算法则是一种贪婪算法,每次选择最相关的原子进行更新。
稀疏编码在字典学习完成后,稀疏编码阶段将输入信号表示为字典中原子的线性组合。
给定一个输入信号Y和一个字典D,稀疏编码问题可以定义为以下优化问题:min ||X||_0, s.t. Y = DX其中||X||_0表示稀疏度,即非零元素的个数。
这个优化问题通常是NP-hard的,因此常常使用近似方法来求解。
常用的稀疏编码方法有OMP算法、L1范数最小化方法等。
OMP算法通过逐步选择最相关的原子,并将其添加到稀疏表示中。
L1范数最小化方法则通过求解一个凸优化问题来获得稀疏表示系数。
CSC算法流程CSC算法的流程可以分为以下几个步骤:1.数据准备:收集和预处理输入信号数据,将其转换为合适的表示形式。
- 57 -第7期基于不同原子类型的匹配追踪信号分解算法胡鹏程(中石化石油工程地球物理有限公司, 北京 100020)[摘 要] 根据原始信号的内在特征,匹配追踪算法可把信号分解成一系列时频原子的线性组合,将分解的信号重构后与WVD结合,可提高时频分析的精度,但采用不同原子库分解的效果各不相同,目前地球物理界常用的原子类型是Morlet小波和Ricker子波,本文在此基础上对已有的原子库进行扩充,根据实际地震记录尝试寻找一种适应性较强的原子类型。
[关键词] 匹配追踪;Morlet小波;Ricker子波作者简介:胡鹏程(1985—),男,湖南岳阳人,硕士,工程师,主要从事地震数据处理方法研究。
地震信号是非平稳信号,为分析地震信号,人们提出了很多分析方法[1],从Fourier 变换到小波变化,Hilbert 变换等,近年来Wigner-Ville 分布[2](WVD )成为研究的热点,WVD 属于二次线性时频分析方法,它可以在时间和频率域分析信号,且WVD 的时间分辨率和频率分辨率不会相互影响,具有极高的时频分析能力,但多信号的WVD 时频谱会出现交叉干扰项,影响分析的精度,为消除这些干扰项,人们又提出了平滑WVD 和伪WVD ,但效果都不能令人满意。
基于匹配追踪的信号分解方法(MPD )[3]在各个领域都有广泛应用。
该方法思路简洁,先生成高度丰富的原子库,然后在这个原子库里找出一系列的原子把原始信号逐步分解,单个原子可包含振幅、尺度、频率、相位等信息,最大程度地模拟出原始信号的特征,一般设置一个门槛阈值,标志分解的结束,然后根据需求对原始信号进行重构,达到分析的目的。
MPD 算法把原始信号分解成了一系列的单个原子,而WVD 对单个原子有极高的分析精度,两者结合可以极大地提高时频分析精度。
有研究人员已实现用Gabor 原子对图像进行稀疏分解和重建[4,5,6],有的已实现用Morlet 小波来提取地震时频属性特征[7],另外Ricker 子波也是使用较多的原子类型[8],到底哪个原子类型的使用效果最佳?这与地震记录的特点和分析要求是分不开的。
一种基于互相关运算信号稀疏分解的快速算法摘要:提出了一种信号稀疏分解的快速算法,它利用一种互相关的快速运算来代替稀疏分解中计算量巨大的内积运算,提高了运算时间。
通过理论仿真和实验表明,在保证稀疏精度的情况下,可以将信号稀疏分解的时间缩短至普通MP算法的1/10至1/20,大大提高了信号在过完备原子库上分解的速度。
关键词:稀疏分解;快速计算;互相关运算0引言近几年来,突破传统奈奎斯特采样定理的压缩感知(CS)理论框架得到了研究者们越来越多的关注。
CS理论主要由3个部分组成:信号的稀疏分解;投影,观测;信号重构。
由此可见,CS理论实现的前提就是要求被采样信号具有稀疏性,因此,对信号稀疏分解算法进行研究,有着极其重要的理论意义和广泛的应用价值。
而其中以贪婪算法为核心的匹配追踪(MP)算法在计算复杂度和逼近效果方面要优于其他的算法,是目前研究者们最常用的算法。
但是,MP算法的不足之处是基于MP的稀疏分解过程中,每一步都要计算残余信号在过完备原子库中每一个原子上的投影,这就造成了分解过程中相当巨大的计算量。
高复杂度的计算量使得信号的稀疏分解在实际的研究应用中难以推广。
针对这种情况,目前研究者们都在针对如何提高信号稀疏分解的速度、降低运算量这两个方面的问题进行研究。
本文提出一种基于互相关运算的信号稀疏分解的快速算法来改进信号的稀疏分解算法,该算法的思想是通过将基于MP的信号稀疏分解中花费大部分时间的内积运算转换成一次互相关运算,并且通过一种互相关运算的快速算法来对内积运算进行改进,这样一来,大大地提高了计算速度,在不增大计算误差的情况下缩短了计算时间,具有良好的应用前景。
1匹配追踪算法的基本思想我们假设待分解信号f的长度为N。
其中,f∈H H为有限维Hibert空间,D为过完备原子库(DH)。
过完备原子库的形成方法引用参考资料[2],这种由Gabor原子组成的过完备原子库是颇具代表性的,它在多个文献中被研究者引用。
信号在过完备库上分解中原子形成的快速算法
华泽玺;尹忠科;黄雄华
【期刊名称】《西南交通大学学报》
【年(卷),期】2005(040)003
【摘要】针对信号在过完备库上分解中原子生成速度慢的难题,提出了一种原子生成的快速算法.首先根据原子的尺度把原子分成小原子和大原子2类.对于小原子,因为其能量集中在较小的范围,所以用小范围生成的局部原子代替整个原子.对于大原子,先生成相应的较小原子,然后通过插值方法生成大原子.实验结果表明,当信号长度为256时,本算法在重建信号的质量没有任何改变的条件下,原子生成的速度比传统算法提高了4.7倍.
【总页数】4页(P402-405)
【作者】华泽玺;尹忠科;黄雄华
【作者单位】西南交通大学电气工程学院,四川,成都,610031;西南交通大学计算机与通信工程学院,四川,成都,610031;桂林电子工业学院教学实践部,广西,桂
林,541004
【正文语种】中文
【中图分类】TN911.72
【相关文献】
1.基于余弦过完备原子库的语音信号MP稀疏分解 [J], 李雨昕
2.基于核心原子库和FHT的图像MP稀疏分解快速算法 [J], 王在磊;和红杰;王建
英;尹忠科
3.信号稀疏分解中过完备原子库的集合划分 [J], 邵君;尹忠科;王建英;张跃飞
4.图像稀疏分解中原子形成的快速算法 [J], 尹忠科;王英;张跃飞;姜玉亭
5.基于GA和过完备原子库划分的MP信号稀疏分解算法 [J], 高瑞;徐华楠;胡钢因版权原因,仅展示原文概要,查看原文内容请购买。
第27卷 第2期计 算 机 仿 真2010年2月 文章编号:1006-9348(2010)02-0200-04利用粒子群算法实现PPS信号的稀疏分解李越雷,张天骐,黄 铫,蒋世文(重庆邮电大学信号处理与片上系统研究所,四川重庆400065)摘要:针对在分析高阶多项式相位信号(PPS)时,W igner-V ille分布(WVD)的交叉项使得时频分布图变得难以解释,为了提高信号计算速度和数据提取精度,采用基于匹配追踪(MP)算法的信号稀疏分解来抑制交叉项,但是稀疏分解计算量大,难以应用在实时信号处理。
将粒子群优化算法用于稀疏分解的最优匹配原子的搜索,能降低稀疏分解复杂度,同时减少稀疏分解的超完备字典对存储空间的占用,可以提高用稀疏分解理论进行信号处理的计算效率,满足或接近实时性的要求。
计算机仿真结果证实了方法的有效性。
关键词:稀疏分解;匹配追踪;粒子群优化算法;多项式相位信号中图分类号:T N91117 文献标识码:ASparse D ecom positi on of Polynom i a l Pha se S i gna lsw ith Parti cle Swarm O ptim i za ti onL I Yue-lei,ZHANG Tian-qi,HUANG Yao,J I A NG Shi-wen(Chongqing University of Posts and Telecommunicati ons,I nstitute of Signal Pr ocessing and Syste m-On-Chi p,Chongqing Sichuan400065,China)ABSTRACT:For the analysis of high order polynom ial phase signals,the figure of ti m e-frequency distributi on be2comes difficult t o understand due t o cr oss-ter m s in the W igner-V ille distributi on(WVD).Cr oss-ter m supp res2si on is obtained by using s pare decompositi on based on matching pursuit(M P),but the computati onal burden in sig2nal s parse decompositi on p r ocess is s o huge that it is al m ost i m possible t o app ly it t o real ti m e signal p r ocessing.T oreduce comp lexity of s parse decompositi on and s pace of memory,particle s war m op ti m izati on is used in searching thebest at om.Particle s war m op ti m izati on can increase the efficiency p r ocessing signal using s parse decompositi on,andthen this method can meet(or near)the request of real ti m e.The validity of this method is p r oved by experi m entalresults.KE YWO R D S:Sparse decompositi on;M atching pursuit(M P);Particle s war m op ti m izati on(PS O)algorith m;Polyno2m ial phase signals(PPS)1 引言多项式相位信号(PPS)广泛存在于雷达、对抗等领域。
第40卷 第3期2005年6月 西 南 交 通 大 学 学 报JOURNAL OF S OUT HW EST J I A OT ONG UN I V ERSI TY Vol .40 No .3Jun .2005收稿日期:2004212207基金项目:国家留学基金资助项目(21851039);四川省应用基础研究项目(03JY029204822;04JY029205922);教育部留学回国人员科研启动基金资助项目(教外司[2004]527号)作者简介:华泽玺(1969-),男,讲师,硕士,研究方向为计算机控制与信号处理. 文章编号:025822724(2005)0320402204信号在过完备库上分解中原子形成的快速算法华泽玺1,尹忠科2, 黄雄华3(1.西南交通大学电气工程学院,四川成都610031;2.西南交通大学计算机与通信工程学院,四川成都610031;3.桂林电子工业学院教学实践部,广西桂林541004)摘 要:针对信号在过完备库上分解中原子生成速度慢的难题,提出了一种原子生成的快速算法.首先根据原子的尺度把原子分成小原子和大原子2类.对于小原子,因为其能量集中在较小的范围,所以用小范围生成的局部原子代替整个原子.对于大原子,先生成相应的较小原子,然后通过插值方法生成大原子.实验结果表明,当信号长度为256时,本算法在重建信号的质量没有任何改变的条件下,原子生成的速度比传统算法提高了4.7倍.关键词:信号处理;稀疏分解;过完备原子库;快速算法中图分类号:T N911.72 文献标识码:AFa st A to m Con structi on A lgor ithm for S i gna l D eco m positi oni n O ver 2Co m plete D i cti onaryHUA Ze 2xi 1,YI N Zhong 2ke 2, HUAN G X iong 2hua 3(1.School of Electric Eng .,South west J iaot ong University,Chengdu 610031,China;2.School of Computer and Comm.Eng .,South west J iaot ong University,Chengdu 610031,China;3.Practice and Experi m ent Stati on,Guilin University of Electr onic Technol ogy,Guilin 541004,China )Abstract :It is one of the main p r oble m s in signal decompositi on in over 2comp lete dicti onary that the at om constructi on p r ocess is very sl ow .To s olve this p r oble m ,a ne w fast alg orithm was p r oposed .I n the alg orith m ,all at om s are divided int o t w o categories:s mall and large at om s,according t o their scales .Because the energy of a s mall at om concentrates in a s mall regi on of the whole at om ,it is constructed within the regi on of energy concentrati on,and the whole at om is rep resented by the l ocally constructed at om.A large at o m is constructed by inter polati on after a corres ponding s mall at om has been constructed .Experi m ental results show that,when the length of the signal is 256,the p r oposed algorith m is 4.7ti m es faster than traditi onal methods with the sa me signal quality .Key words :signal p r ocessing;s parse decompositi on;over 2comp lete dicti onary of at om s;fastalgorith m 过完备库(over 2co mp lete dicti onary )上分解的方法[1]现在已经被应用到信号处理的许多方面,如信号去噪[1]、信号编码[2]、识别[3]、时频分布[4]和微弱信号提取[5]等.其中,在信号时频分布研究方面的应用特别值得关注.目前信号在过完备库上分解的关键难题是计算量太大,在现有计算条件下几乎无法实现.邹红星等[4]指出,信号长度为1024采样点时,分解的难度将十分巨大[4].信号在过完备库上分解的计算量主要由2部分组成:形成原子(最终形成原子库)和信号在过完备原子库上分解的计算量.针对信号在过第3期华泽玺等:信号在过完备库上分解中原子形成的快速算法完备库上的分解过程,已有在低维空间实现二维信号在过完备库上分解的方法[6]和利用原子库结构特性实现信号在过完备库上分解的方法[7].下面提出原子形成的快速算法,利用该算法可以快速形成原子,从而快速形成过完备原子库.利用原子尺度,把原子分成两大类,一类是小原子,另一类是大原子.对不同种类的原子,分别采取不同的方法来生成.希望解决信号在过完备库上分解中原子生成速度缓慢这一难题.1 信号在过完备原子库上分解 设研究的信号为f,信号长度为N.若将信号分解在一组完备正交的基上,则这组基的数目应为N.由于正交性,基在由信号所组成的空间中的分布是稀疏的,从而,信号的能量在分解以后将分散分布在不同的基上.这种能量分布的分散将导致用基的组合表示信号时表达的不简洁性,即信号表示不是稀疏的.非稀疏的表示,不利于信号的处理,如识别和压缩等.为了得到信号的稀疏表示,基的构造必须使得基在信号组成的空间中足够的密.因此,基的正交性不能被保证,基也不再是真正意义上的基了,而改称为原子.由这些原子组成的集合,是过完备的,称为过完备库.信号在过完备库上的分解结果一定是稀疏的[1].设D ={g γ}γ∈Γ为用于进行信号稀疏分解的过完备库,g γ为由参数组γ定义的原子.用不同的方法构造原子,参数组γ包含的参数及参数个数也不一样.原子g γ的长度与信号本身长度相同,但原子应作归一化处理,即g γ=1.Γ为参数组γ的集合.由库的过完备性可知,参数组γ的个数应远远大于信号的长度,即若用S D 表示过完备库D 中原子的个数,则S D 应远远大于信号长度N.一般而论,用少数的原子(与信号长度相比较而言)就可以表示信号的主要成分,即[1]:f ≈∑m -1k =0∫R kf,g γk g γk ,(1)其中:R k f 为第k 步分解后信号与其近似表示之间的残差;∫R k f,g γk为R k f 和原子g γk 的内积,m νN.式(1)和条件m νN 集中体现了稀疏表示的思想.为了清楚表明信号在过完备库上分解的困难所在,对过完备库的大小必须有明确量化的概念.不失一般性,引用文献[3]中原子库的形成方法.Gabor 原子g γ由经过调制的高斯窗函数构成,g γ=1s g t -u scos (vt +w ),(2)其中:g (・)是高斯窗函数,定义g (t )=e -πt 2;γ=f (s,u,v,w )是时频参数,其中s 为尺度因子,u 为位移因子,v 为频率因子,w 为相位因子.时频参数可以按以下方法离散化:γ=f (a j ,pa j Δu,ka -j Δv,i Δw ). 取a =2;Δu =1/2;Δv =π;Δw =π/6;0<j ≤l og 2N;0≤p ≤N 2-j +1;0≤k <2j +1;0≤i ≤12,则S D =∑l og 2N j =1∑N 2-j+1p =0∑2j+1-1k =0∑12i =11,(3)经过化简得S D =52(N log 2N +N -1).(4) 对一般长度的信号而言,过完备库中原子个数S D 是很大的数.例如,若信号长度N =256,则S D =119576.巨大的原子库是造成分解困难的根本原因所在.2 原子形成快速算法设计 利用原子g γ(t )的尺度参数s,可以把原子分成2大类,小原子类和大原子类.取适当的阈值s th ,若s <s th ,则g γ(t )属于小原子类;若s ≥s th ,则g γ(t )属于大原子类.不失一般性,小原子和大原子的波形如图1所示.图中原子均依据原子最大值做了归一化.从图1和式(2)可知,小原子的能量集中在较小的范围内(范围c =[u -t 0,u +t 0],u 代表原子位移参数,也是实际的原子中心点,t 0(νN )由尺度参数s 决定),如图1中的区域c =[100,156].而大原子的能量则分散分布在整个区间[0,N -1]上.304西 南 交 通 大 学 学 报第40卷图1 原子波形示意图Fig .1 The wave f or m of at om s 信号在过完备库上分解中,小原子代表的是信号中在时域上分布较短的信息成分,即信号的细节.从图1小原子能量分布可以看出,其能量分布在较小的区域中.由式(2)可知,它的波形从波形中心到周围按指数进行衰减,所以从实际有效波形考虑,除中心区域外,其它区域的g γ(t )值可认为0.如果s th 选取得当,并从s 计算出原子能量范围c,小原子生成过程可以转换成在c 内的小原子生成过程.由于c 的范围往往小于范围[0,N -1],所以这样计算将减少计算量.如果s th 选取得当,这样做不会造成足以影响信号分解结果的误差. 信号在过完备库上分解中,大原子代表的是信号中在时域上分布较长的信息成分.由于大原子能量分布比较分散,故不能用小原子的形成算法.为了提高大原子形成速度,首先考查由时频参数γ=f (s,u,v,w )和γ′=f (s ′,u,v,w )定义的2个原子g γ(t )和g γ′(t ).这2个原子只有尺度不一样,其它参数都一样,所以它们的波形完全一样,区别在于在时域上分布不同.若s ′=s /2,则原子g γ′(t )就是原子g γ(t )的抽样.据此,要生成一个由γ=f (s,u,v,w )定义的原子g γ(t )时,先生成由γ′=f (s ′,u,v,w )(其中s ′=s /2,或s ′=s /4)定义的原子g γ′(t ),然后通过对g γ′(t )进行线性插值,就可生成g γ(t ).从式(2)可以看出原子形成中主要是指数运算和余弦运算,与此相比较,线性插值运算计算量几乎可以忽略不计. 根据不同原子的具体情况,采用不同的形成算法,可使总的过完备原子库的形成速度达到最快.综上所述,原子库中的原子形成快速算法流程如图2所示.图2 原子形成快速算法流程图Fig .2 Fra me of fast algorith m t o construct one at om3 实验结果实验中采用长度为256,取值范围为[0,255]的实际数字信号.过完备库中原子的构造方法按文献[3].当信号长度为256时,由式(4)可知,库含有119756个原子,以满足库的过完备性.用本文提出的快速算法生成119756个原子,比用传统算法[1,3]的计算速度提高约4.7倍.图3中给出了实际信号及在利用不同方法形成的原子库上分解为30个原子后重建的信号,其中分解和重建算法按文献[7].图中用f (n )代表原始数字信号,f ′(n )代表重建的数字信号,其中n 代表数字信号404第3期华泽玺等:信号在过完备库上分解中原子形成的快速算法f (n )或f ′(n )的采样点.从图中可以看出,在利用本文快速算法形成的原子库上分解重建的信号与在利用传统算法[1,3]形成的原子库上分解重建的信号相同,说明本文的快速算法没有对原子的形成质量造成影响.图3 原始信号和在不同算法形成的原子库上分解重建的信号Fig .3 O riginal signal and reconstructed signals after decomposed in dicti onaries for med in different ways4 结 论 针对信号在过完备原子库上分解的关键难题,笔者提出了一种原子形成的快速算法.利用该算法,可以快速形成原子,从而快速形成过完备原子库.和传统的算法相比,本文算法大大提高了原子和原子库形成的速度,同时保持了形成原子和原子库的质量,对信号的分解结果和重建信号的质量没有造成损失.参考文献:[1] M allat S,Zhang Z .Matching pursuit with ti m e 2frequency dicti onaries [J ].I EEE Trans on Signal Pr ocessing,1993,41(12):339723415.[2] 张文耀.基于匹配跟踪的低位率语音编码研究[D ].北京:中国科学院研究生院软件研究所,2002.ZhangW Y .Study on matching pursuit based l ow 2bit rate s peech coding [D ].Beijing:I nstitute of Soft w are,Chinese Academy of Science,2002.[3] A rthur P L,Phili p s C L.Voiced /unvoiced s peech discri m inati on in noise using Gabor at om ic decompositi on [A ].Pr oc ofI EEE I CASSP[C ].Hong Kong:I EEE,2003,I (4):8202828.[4] 邹红星,周小波,李衍达.时频分析:回溯与前瞻[J ].电子学报,2000,28(9):78284.Zhou H X,Zhou X B,L I Y D.W hich ti m e 2frequency analysis 2a survey[J ].ACT A Electr onica Sinica,2000,28(9):78284.[5] 傅霆,尧德中.稀疏分解的加权迭代方法及其初步应用[J ].电子学报,2004,32(4):5672570.Fu T,Yao D Z .Iterative weighted method of s parse decompositi on and p reli m inary app licati on [J ].ACT A Electr onica Sinica,2004,32(4):5672570.[6] 尹忠科,王建英,Vandergheynst P .在低维空间实现的图像稀疏分解算法[J ].电讯技术,2004,44(3):12215.Yin Z K,W ang J Y .Vandergheynst P .MP 2based i m age s parse decompositi on:realized in a l o wer s pace [J ].Telecommunicati on Engineering,2004,44(3):12215.[7] 尹忠科,王建英,邵君.基于原子库结构特性的信号稀疏分解[J ].西南交通大学学报,2004,40(2):1732178.Yin Z K,W ang J Y,Shao J.Sparse decompositi on based on structural p r operties of at om dicti onary[J ].Journal of South west J iaot ong University,2004,40(2):1732178.(中文编辑:唐 晴 英文编辑:刘 斌)504。