Modelamento esparso. c opt =arg min f ( c ) tal que x=φ c. c opt =arg min f ( c ) tal que x Φ c ϵ. λ c 1 + x Φ c 2. Norma l 1

Transcrição

1 Aplicações

2 Modelamento esparso Como escolher a função objetivo? c opt =arg min f ( c ) tal que x=φ c c c opt =arg min f ( c ) tal que x Φ c ϵ c Norma l 0 Norma l 1 Algoritmos gulosos (MP, OMP, etc...) (P0 ): ϵ (P0 ): Otimização convexa (BP, BPDN, etc...) min c 0 tal que x =Φ c (P1 ): min c 1 tal que x =Φ c min c 0 tal que x Φ c 2 ϵ ( Pϵ1 ): min c 1 tal que x Φ c 2 ϵ c x c c λ (Q1 ): min c { 1 2 λ c 1 + x Φ c 2 2 }

3 Modelamento esparso c opt =arg min f ( c ) tal que x=φ c c Como escolher o dicionário? c opt =arg min f ( c ) tal que x Φ c ϵ c Informação à-priori Aqueles que mais esparsificam. Aqueles que melhor separam. Dicionários estruturados (uniões de ortobases, frames, etc.). Sem informação à-priori. Aprendizado de dicionários. Dicionários aleatórios (não estruturados).

4 Modelamento esparso c opt =arg min f ( c ) tal que x=φ c c c opt =arg min f ( c ) tal que x Φ c ϵ Qual modelo utilizar? c Estritamente esparso Busca representação perfeita. Mais restritivo. Solucionável para elevados graus de esparsidade. Comprimível Permite pequena discrepância (controlada). Mais relaxado. Solucionável para graus moderados de esparsidade.

5 Exemplos de aplicações Análise (decomposição atômica): ϵ (P0 ): (P ): min c 0 tal que x =Φ c, x x 2 λ, λ ϵ c Eliminação de ruídos ( denoising ): x = x + e, e 2 λ c Compressão sem/com perdas: λ 0 min c 0 tal que x Φ c 2 ϵ ϵ+ λ (P0 ): min c 0 tal que x Φ c 2 (ϵ+ λ) c Problemas inversos genéricos: x =H x + e, e 2 λ min c 0 tal que x H Φ c 2 (ϵ+λ ) c

6 Exemplos de aplicações Sensoriamento comprimido ( compressed sensing ): m =M x Sensoriamento M m N, m0 N 0 x ℝ N M m0 É esparso em Matriz de medições (aleatória) Número de medições min c 0 tal que m M x 2 ϵ Síntese c ϵ 0 c =argmin c 0 tal que m M Φ c 2 ϵ Φ c ϵ x =Φ c 0 Análise de componentes morfológicas (MCA): x = x 1 + x 2, x 1=Φ1 c 1 + ϵ1, x 2=Φ2 c 2 +ϵ 2 min ( c1 0 + c 2 0 ) tal que x Φ1 c 1 Φ 2 c 2 22 ϵ21 + ϵ22 c c x 1=Φ 1 c 1, x 2=Φ 2 c 2 1, 2

7 Image deblurring Problema x =H x + e Imagem N N pixels. x H kernel conhecido. e i.i.d. N (0, σ 2) x =H x + e e i. i. d. N (0, 2) h(i, j)= 1, 7 i, j i + j +1

8 Image deblurring x =H x + e À-priori x é representado esparsamente no dicionário Φ Modelo Φ 1 ^c =argmin x H Φ c 2 + λ c pp, 2 c ^x =Φ ^c p 1 SWT com átomos de Haar em 6 níveis. Redundância 7:1. ^ Síntese (transf. inversa) x =Φ c Frame justo. Análise (transf. direta) c =Φ+ ^x Otimização Algoritmos de encolhimento iterativo: SSF: Separable surrogate functionals. PCD: Parallel coordinate descent. M. A. T. Figueiredo and R. D. Nowak, An EM algorithm for wavelet-based image restoration, IEEE Trans. Image Process., vol. 12, no. 8, pp , Aug M. Figueiredo and R. Nowak, A bound optimization approach to wavelet-based image deconvolution, in IEEE International Conference on Image Processing 2005, 2005, p. II-782.

9 Image deblurring

10 Compressão de imagens Alvo bancos de fotos para identificação de pessoas (ID). Fotos de 179 x 221 pixels, tons de cinza, 8 bits/pixel. Modelo Aprendizado de dicionários offline K-SVD (K-singular Value Decompositions). Representação esparsa usando OMP. Bryt, O., Elad, M. Compression of facial images using the K-SVD algorithm, J. Vis. Commun. Image R. 19 (2008) Bryt, O., Elad, M. Improving the K-SVD facial image compression using a linear deblocking method, The IEEE 25-th Convention of Electrical and Electronics Engineers in Israel, Eilat, Israel, December 3-5,

11 Compressão de imagens

12 Compressão de imagens Construção dos dicionários: Alinhamento Fatiamento p(i, j ) patches de 15x15 N=225 pixels Remoção da média Treinamento K-SVD Dicionários Φ(i, j) ℝ(15 15) 512 para cada patch M=512 átomos

13 Compressão de imagens Compressão: OMP: c OPT(i, j )=argmin c (i, j) 0 tal que p(i, j ) Φ(i, j) c (i, j ) 2 ϵ c (i, j) { c OPT (i, j ),(i, j)} Quantização 7-bits Reconstrução: Código de Huffman { c OPT (i, j ),(i, j)} pi, j=φi, j c OPT (i, j )

14 Resultados: conjunto de teste. 630 B 4945 B

15 Resultados: taxas de compressão 285 B 4945 B 459 B 4945 B 820 B 4945 B 1021 B 4945 B 630 B 4945 B

16 Comparação com outros métodos 550 B 4945 B

17 Melhorando o efeito blocagem 550 B 4945 B

18 Eliminação de ruídos em descargas parciais usando BPDN Problema x = x + e, e 2 λ À-priori x é representado esparsamente no dicionário Φ Solução: (P ϵ+ λ 1 ^ ) : c =argmin c 1 tal que x Φ c 2 ( ϵ+ λ) c 1 2 c^ =argmin x Φ c 2 + λ c 1 2 c SALSA ^x =Φ ^c Forward stepwise selection Φ= coif1, sym17, db2, sym4, sym2, db7 and db3 F. T. de A. Silva and H. de O. Mota, Partial Discharge signal processing using overcomplete dictionaries and sparse representations, in Proceedings of the 2017 IEEE Electrical Insulation Conference, F. T. de A. Silva, F. H. Vasconcelos, and H. de O. Mota, A systematic method to compose over complete dictionaries for the processing of partial discharge signals, in Proceedings of the 2nd International Symposium on Instrumentation Systems, Circuits and Transducers, 2017.

19 Eliminação de ruídos em descargas parciais usando BPDN

20 Eliminação de ruídos em descargas parciais usando Variação Total (TV) Problema x = x + e, e 2 λ À-priori x é representado esparsamente no dicionário Φ N Solução TV ( x ) x (i) x (i 1) = D x 1 i =2 c^ =argmin c { Matriz de Diferenças Φ x c 2 + λ j ϕ (c j, k, a j ) + β D Φ c 1 2 j,k Φ= SWT com db2 } SALSA ^x =Φ ^c Função de custo que promove esparsidade. P. V. C. Batista, H. O. Mota, A wavelet total variation method for denoising of partial discharge signals, unpublished. Y. Ding and I. W. Selesnick, Artifact-Free Wavelet Denoising: Non-convex Sparse Regularization, Convex Optimization, IEEE Signal Process. Lett., vol. 22, no. 9, pp , 2015.

21 Eliminação de ruídos em descargas parciais usando Variação Total (TV)

22 Eliminação de ruídos em imagens Modelamento global sinal tratado em sua totalidade Com bases ortogonais. Thresholding Com dicionários redundantes (tight frames). Considerando variância ao longo das escalas. Considerando efeitos de vizinhança. Exemplo: Φ SWT com Haar, hard-thresholding Matriz de normalização dos átomos c =W 1 Φ 1 x ^c =thr H ( c ) ^x =Φ W c^

23 Eliminação de ruídos em imagens Modelamento local Patches de tamanho n n, n N Cada patch possui uma representação esparsa em um dicionário Φ n m, n< m Patches processados separadamente e reinseridos na imagem. Tratamento de blocagem: filtros lineares, sobreposição com média aritmética, etc. Exemplo: Φ DCT_2D, hard-thresholding pi, j Sem antiblocagem Com antiblocagem c i, j=φt pi, j ^c i, j=thr H ( c i, j ) ^pi, j=φ ^c i, j 1 * ^ pi, j= K ^ pi, j i, j

24 Eliminação de ruídos em imagens com representações esparsas Problema x = x + e, e 2 λ À-priori cada patch pk é representado esparsamente no dicionário Φ Solução: Blockcoordinate minimization Força a proximidade entre as duas imagens. M k k=1 {{ c } ^ 2 ^, x } = argmin λ x x 2 + M μ k c k 0 + k=1 Força a esparsidade dos coeficientes. ck M Φ c k p k 2 2 k =1 Minimiza o erro de aproximação de cada patch. c k = argmin μ k c 0 + c OMP Φ c p k 22 Mínimos quadrados ^ x = argmin λ x x^ 22 + M x Φ c k pk 2 k=1 2

25 Eliminação de ruídos em imagens com representações esparsas Dicionário treinado offline (K-SVD, patches 8x8 pixels, patches de várias imagens corpus)

26 Eliminação de ruídos em imagens com representações esparsas Aprendendo o dicionário a partir da própria imagem ruidosa: Dicionário inicial (DCT-2D) K-SVD Dicionário aprendido

27 Eliminação de ruídos em imagens com representações esparsas Mesmo procedimento, imagens coloridas.

28 Eliminação de ruídos em descargas parciais usando K-SVD Aprendizado de dicionários: K-SVD aplicado a fragmentos de sinais de DPs. Dicionário inicial wavelets ortogonais db2. OMP codificação esparsa sobre patches sobrepostos. Dicionário inicial Dicionário aprendido

29 Eliminação de ruídos em descargas parciais usando K-SVD

30 Análise de componentes morfológicos (MCA) Problema x = x 1 + x 2 + e, e i. i. d. N (0, σ 2) À-priori x 1 é representado esparsamente no dicionário Φ 1 x 1=Φ 1 c 1 + e 1 x 2=Φ2 c 2+ e 2 x 2 é representado esparsamente no dicionário Φ 2 e representa tanto o ruído quanto o erro de aproximação. Solução: { c 1, c 2 }=argmin ( c1 0 + c 2 0 ) tal que x Φ1 c 1 Φ 2 c 2 22 ϵ21 + ϵ22 c1, c2 x 1=Φ 1 c 1, x 2=Φ 2 c 2

31 Análise de componentes morfológicos (MCA) Por quê? O processamento pode melhorar após separar as partes (ex.: compressão, detecção de bordas, extração de características). Separação de fontes (múltiplas reflexões, cocktail party ). Quando uma das partes é indesejável (ex.: redução de ruído, eliminação de fundo). Como escolher os dicionários? Modelamento global ou local? Os dicionários devem garantir representações esparsas de cada parte separadamente. Como resolver numericamente? Modelamento global ou local? Vários métodos de otimização.

32 Exemplo: separação de imagens com MCA global Imagens desenhos ( cartoon ) e texturas. Cartoon suave por-partes ( piecewise smooth ). Texturas comportamento mais errático. x = x c + x t + e, { x, x c, x t, e } ℝ N, e i.i.d. Ν (0, σ 2 ) 1 { cc, c t }=argmin λ c c 1+ λ c t 1 + x Φ c c c Φ t c t 22 2 c, c c Átomos localizados: DWT, UDWT, Steerable Wavelets, Ridgelets, Curvelets, Contourlets Φ c ℝ t x^c =Φ c c c, x^t =Φt ct N M c, Φ t ℝ N Mt Átomos oscilatórios: Fourier, global DCT, local DCT., Mc, M t N J.-L. Starck, M. Elad, and D. L. Donoho, Image decomposition via the combination of sparse representations and a variational approach, IEEE Trans. Image Process., vol. 14, no. 10, pp , Oct J.-L. Starck, M. Elad, and D. Donoho, Redundant Multiscale Transforms and Their Application for Morphological Component Separation, in Advances in Imaging and Electron Physics, vol. 132, 2004, pp

33 Exemplo x Φc Φt x c x t Curvelets Local DCT

34 Exemplo x c + x t + e = x Φc Φt x ^c x ^ t Curvelets Global DCT Canny detector

35 Eliminação de ruídos em descargas parciais usando MCA

36 Estimação de dados perdidos Recuperação de informação perdida. Localização conhecida. Ex.: rasuras em imagens, perda de dados durante transmissão, remoção de objetos de uma cena, Em imagens conhecido como inpainting ou ruído impulsivo.

37 Estimação de dados perdidos Problema x ℝN À-priori x é representado esparsamente no dicionário Φ x =Φ c, c 0=k 0 esparso Sinal medido x =I p x, I p Matriz identidade sem p linhas aleatórias Modelo c^ =argmin c 0 tal que x =I p Φ c c x^ =Φ c^ ou ^ c =argmin c tal que x I p Φ c 2 ϵ 0 c x^ =Φ c^

38 Exemplo Aplicação direta de OMP: Patches de 8x8 pixels, com e sem sobreposição, DCT redundante.

39 Exemplo Dicionário aprendido com K-SVD, com overlaps.