TRANSFORMADA WAVELET, AGRUPAMENTO FUZZY, LDA E ICA APLICADOS NO RECONHECIMENTO DE FACES HUMANAS

Transcrição

1 TRANSFORMADA WAVELET, AGRUPAMENTO FUZZY, LDA E ICA APLICADOS NO RECONHECIMENTO DE FACES HUMANAS Junior Leal do Prado Instituto Federal de Sergipe Av. Gentil Tavares da Mota, Getúlio Vargas Aracaju/SE - CEP: jrprado2@yahoo.com.br André Luiz Nogueira Instituto Federal de Sergipe Rodovia Lourival Batista, s/n Lagarto/SE, CEP: andreln27@yahoo.com Resumo This article presents a method for face recognition combining Wavelet Transforms, Linear Discriminant Analysis (LDA), Independent Components Analysis (ICA), and fuzzy clustering. The proposed method is divided, basically, into three stages, where the first utilizes Wavelet Transforms (HAAR/DAUBECHIES) for the extraction of face characteristics. As a result, we have an approximation of the original image. The second stage consists of the application of LDA or ICA to the images that were previously obtained. In the last stage, fuzzy clustering is applied that will determine the prototypes of each class that will be utilized in classification. The experimental results, demonstrated using images from the Stirling database, reveal that the classifier utilizing LDA is superior to the one utilizing ICA. 1. Introdução O reconhecimento de faces é uma subárea do reconhecimento de padrões, que vem recebendo uma atenção especial devido a suas aplicações comerciais, de segurança e militares. Uma imagem de q p pixels pode ser representada por um vetor em um espaço de dimensão qp. Esta dimensão pode ser muito alta comprometendo a robustez e a velocidade do reconhecimento. Um modo comum para resolver este problema é utilização técnicas para redução e seleção de características. As técnicas mais populares são a análise de componentes principais (PCA) e a análise de discriminantes lineares (LDA). Na seleção de características é bastante utilizada a análise de componentes independentes (ICA). A PCA projeta os dados originais em um subespaço de dimensão reduzida, preservando a maior parte da informação original. Já a LDA agrupa imagens de uma mesma classe e separa imagens de classes diferentes. A ICA nada mais é que uma transformação linear que expressa um conjunto de variáveis aleatórias como combinação linear de variáveis estatisticamente independentes. Uma outra abordagem que vem sendo empregada no reconhecimento de faces é a transformada Wavelet. Nos trabalhos iniciais a transformada Wavelet era aplicada na compressão, redução de ruído e detecção de características de imagens. Ultimamente, ela tem sido utilizada em conjunto com as técnicas descritas acima para extração de características visando o reconhecimento de faces. Neste contexto de reconhecimento de padrões, a análise de agrupamentos fuzzy vem sendo muito utilizada com o objetivo de classificar os dados de acordo com a similaridade entre eles e organizá-los em grupos. Diante de uma revisão bibliográfica realizada foi constatado que a fusão destas abordagens supracitadas em um único algoritmo, visando o reconhecimento de faces, ainda não foi muito explorada. Neste ínterim, o presente artigo vem contribuir com alguns passos nesta direção e evidenciar a superioridade da LDA sobre a ICA para a finalidade proposta, mesmo quando estas técnicas são aplicadas em conjunto com outras ferramentas no processamento de imagens. Neste trabalho a PCA foi utilizada como uma etapa de pré-processamento antes da aplicação das técnicas ICA e LDA. 2. PCA A Análise de Componentes Principais - PCA é usada para determinar um subespaço, cujos vetores da base correspondem a direção de máxima variância no espaço original, conforme [1], [5] e [7]. Uma imagem de q p pixels pode ser associada a vetor de dimensão qp. A PCA é capaz de transformar um espaço de dimensão M em um espaço de dimensão N (M >> N), preservando a maior parte dos dados originais. O algoritmo PCA é descrito a seguir.

2 A base de vetores PCA é calculada a partir de um conjunto I, de imagens de treinamento. Primeiramente, as matrizes associadas às imagens são concatenadas formando um vetor, feito isso calcula-se a média desse conjunto. A seguir, subtrai-se a média de cada um dos vetores de I, obtendo I 1, I 2,..., I n. Estes vetores são arranjados em uma matriz X, um vetor por coluna X = [I 1, I 2,..., I n ] (1) onde, M = XX T é a matriz de covariância do conjunto de treinamento. Os componentes principais são calculados resolvendo a equação: R T (XX T )R = Λ (2) sendo Λ a matriz diagonal de autovalores e R é a matriz dos autovetores. O autovetor associado ao maior autovalor indica a característica de maior variância; o autovetor associado ao segundo maior autovalor é ortogonal ao primeiro e, assim sucessivamente. Apenas N autovetores associados aos maiores autovalores, são usados para definir o subespaço PCA. 3. LDA Dentre as técnicas de seleção de características, tem-se a Análise de Discriminantes Lineares - LDA que, segundo [7], maximiza o raio de variância entre as classes e minimiza a variância entre elementos de uma mesma classe. Depois de concatenar cada uma das matrizes associadas às imagens, o primeiro passo para se aplicar a técnica a um conjunto dados, é calcular a média e matriz de covariância de cada classe: x j = 1 N j x i, W j = 1 N j (x i x j )(x i x j ) T. (3) N j N j A seguir, calcula-se a média e a matriz de covariância levando-se em conta todos os dados: x = 1 N N x i, W = 1 N N (x i x)(x i x) T. (4) Na equação (4), N é o número de vetores do conjunto de treinamento e na equação (3) N j é o número de vetores da classe j, então N = J N i (5) A LDA é definida como uma função linear que maximiza a seguinte função critério onde 4. ICA θ = arg max θt P T θ P θ T P W θ P T = 1 N (6) J N j W j (7) j=1 De acordo com [1], a Análise de Componentes Independentes - ICA quando aplicada a um conjunto de dados produz componentes independentes que constituem a base do subespaço no qual as imagens serão representadas. A técnica pode ser resumida da seguinte forma: S = [S 1,..., S M ] T é um vetor aleatório com M componentes estatisticamente independentes. Aplicando a transformação linear A em S (considerando A uma matriz N M) obtémse o vetor X, que é dado por: X = AS (8) Para simplificar consideraremos M = N, cada componente X i é dado por: X i = M a ij S j, i = 1,..., M (9) j=1 Se a i = [a i1,..., a im ] é o vetor que contém elementos os elementos da i-ésima linha da matriz A, o vetor X i é o resultado do produto X i = a T i S (10) A análise de componentes independentes consiste na estimativa da matriz A e o vetor S. Analiticamente, a ICA consiste na estimativa de uma transformação W que quando aplicada em X, produz componentes estatisticamente independentes: Ŝ = W X = W AS. (11) 5. Transformada Wavelet A Transformada Wavelet (TW) é uma poderosa ferramenta na análise de imagens, conforme [4], [5], [6] e [8]. Os algoritmos da transformada Wavelet possuem uma estrutura de bancos de filtros em diferentes escalas, que decompõem um sinal em várias bandas para análise. Nesse caso, dada uma imagem de resolução N N, ela é inicialmente filtrada (na direção das linhas) por 2 filtros, um

3 passa alta (P-A) e outro passa baixa (P-B). As imagens obtidas são subamostradas na direção das colunas, obtendo assim imagens L (passa-baixa) e H (passa-alta) N N/2. Em seguida, realiza-se a filtragem na direção das colunas das imagens L e H, resultando em quatro subimagens, que serão subamostradas na direção das linhas. Na figura 1 tem-se o diagrama do algoritmo da decomposição da TW bidimensional. Observa-se que, no caso bidimensional existem três tipos de coeficientes Wavelets. O LH é obtido após a aplicação do filtro P-B nas linhas e P-A nas colunas contendo, portanto, detalhes na direção vertical. De maneira análoga, HL contém detalhes na direção horizontal, enquanto HH contém detalhes tanto na direção vertical como na horizontal e, finalmente, LL é uma aproximação da imagem original. Figura 3. decomposição da imagem, após a primeira aplicação da TW. Figura 4. decomposição da imagem, após a segunda aplicação da TW. 6. Agrupamento Fuzzy Figura 1. diagrama do algoritmo da decomposição da TW Uma vez aplicada a TW a uma imagem (figura 2), temse como resultado três imagens detalhes (HL, LH e HH) e uma imagem aproximação (LL) (figura 3) sendo que todas possuem a resolução de N/2xN/2. Aplicando-se à TW na imagem LL, obtêm-se três imagens detalhes HL1, LH1, HH1 e uma imagem aproximação LL1 (figura 4). Aplicando-se à TW em LL1, obtêm-se HL2, LH2, HH2, LL2 e assim sucessivamente. O agrupamento é uma técnica de classificação não supervisionada de padrões (dados) em grupos (clusters). Intuitivamente, padrões semelhantes devem estar no mesmo grupo e padrões distintos devem estar em grupos diferentes. O algoritmo c-means, segundo [2] e [3], é utilizado para determinar agrupamentos e seus centros. A relação entre o dado e o agrupamento (centros) é feita através de um grau de pertinência que pode variar em [0,1], onde 0 indica exclusão total desse dado do agrupamento e 1 indica inclusão total do dado no agrupamento. Quanto mais próximo do centro o dado estiver, maior será seu grau de pertinência. Os dados X = {x k k = 1,..., n} são classificados minimizando uma função objetivo baseada em uma norma e nos centros dos agrupamentos. A função objetivo é uma soma ponderada dos erros quadráticos entre os grupos que é definida por J m (X, U, V ) = n k=1 sendo que, 1 m, onde c u m ik x k v i 2 A (12) V = {v 1, v 2,..., v c }, v i IR n (13) é o conjunto dos centros dos agrupamentos e D 2 ika = x k v i 2 A = (x k v i ) t (x k v i ). (14) Se x k v i A > 0, i, k, então U e V podem minimizar J m apenas, quando m > 1 e Figura 2. imagem original v i = n k=1 (µ ik) m x k n k=1 (µ ik) m, 1 i c (15)

4 µ ik = c j=1 ( 1 ) 1 x k v i 2 m 1 A x k v j 2 A (16) onde 1 i c e 1 k n. 7. Algoritmo Proposto O algoritmo para reconhecimento de faces humanas baseado em transformada Wavelet, LDA ou ICA e agrupamento fuzzy divide-se em dois estágios: 7.1. Estágio 1 - Treinamento A primeira etapa do algoritmo consiste em aplicar a transformada Wavelet nas imagens do conjunto de treinamento. Após a aplicação da transformada, obtêm-se quatro subimagens, sendo utilizada para a próxima etapa somente a imagem aproximação, pois é a única que apresenta características globais da imagem original. A finalidade desta primeira etapa do algoritmo é reduzir a quantidade de dados a serem processados, pois uma imagem de resolução 128x128, após a aplicação da transformada Wavelet pode ser representada como, por exemplo, uma imagem de 64x Estágio 2 - Teste Figura 5. estágio 1 A primeira etapa do algoritmo consiste em aplicar a transformada Wavelet na imagem a ser submetida ao reconhecimento, obtendo a subimagem aproximação que será utilizada na próxima etapa. Já na segunda etapa, a subimagem aproximação é concatenada e projetada no subespaço gerado pela PCA e depois no subespaço ICA ou LDA. Na terceira etapa o algoritmo calcula o grau de pertinência de cada subimagem em relação aos agrupamentos utilizando a equação 16. Na última etapa, a classe a qual pertence à imagem teste é determinada pelo maior grau de pertinência entre os agrupamentos. Na segunda etapa, depois de concatenar cada uma das matrizes associadas às imagens geradas na etapa anterior, tem-se um vetor correspondente, no qual aplica-se a PCA depois a ICA ou LDA, obtendo-se um subespaço de dimensão reduzida. Os vetores correspondentes ao conjunto de treinamento são então projetados no subespaço LDA ou ICA. Na terceira etapa, o algoritmo c-means é aplicado no subespaço ICA ou LDA, para determinar os centros de cada grupo e a função de pertinência associada a cada um dos vetores do subespaço. Figura 6. estágio 2

5 8. Resultados Experimentais O algoritmo proposto foi implementado utilizando-se o software Matlab e testado em um notebook Sony Vaio, Pentium Dual Core de 2GHz, com 3G de memória RAM. Foram realizados testes utilizando-se 504 (BD) imagens da base Stirling, divididas em 28 classes, com 18 imagens cada base. Na figura 7 tem-se uma amostra da base BD. Figura 9. transformada Wavelet de Daubechies 4, ICA x LDA Figura 7. base BD Os testes foram realizados utilizandos utilizando as transformadas Wavelets de Haar, db4 e db6. As transformadas db4 e db6 são representantes da transformada de Daubechies. No algoritmo proposto, para cada imagem submetida ao reconhecimento, é calculado o grau de pertinência da imagem em relação a cada um dos agrupamentos. Haverá sucesso se a imagem submetida ao reconhecimento e a imagem recuperada forem do mesmo indivíduo. Caso contrário, o reconhecimento terá falhado. Os resultados na tarefa de reconhecimento de faces humanas, foram obtidos selecionando alguns parâmetros, como a dimensão do subespaço gerado pela ICA ou LDA (d), a resolução da imagem obtida após aplicação da transformada Wavelet (r), o número de centros de cada agrupamento (c) e o número de imagens do conjunto de treinamento (C). Os gráficos abaixo apresentam os resultados obtidos, no estágio de teste do algoritmo proposto, utilizando-se a base BD. Na figura 8, tem-se o gráfico da taxa de reconhecimento versus a dimensão (d=10-80), r=32x32, c=2 e C=10. Alterando apenas a transformada Wavelet (db4 e db6), obtemse os gráficos a correspondentes as figuras 9 e 10. Figura 8. transformada Wavelet de Haar, ICA x LDA Figura 10. transformada Wavelet de Daubechies 6, ICA x LDA 9. Conclusão O reconhecimento de faces humanas é dividido em três partes: aquisição dos dados, extração de características e tomada de decisão. Para extração de características o algoritmo proposto utiliza a decomposição através da transformada Wavelet e a ICA ou LDA. Já na tomada de decisão utiliza-se a função de pertinência obtida a partir do algoritmo c-means fuzzy. Comparamos os dois algoritmos, onde a principal diferença entre eles é que um utiliza a ICA e o outro a LDA. Concluímos que, independente da transformada Wavelet utilizada no reconhecimento de faces humanas, ou seja, a transformada de Haar, db4 e db6, todos os testes realizados demonstram que o algoritmo que utiliza a LDA é sempre superior ao que utiliza a ICA, de acordo com os gráficos das figuras 8, 9 e 10. Referências [1] BAEK, K.; BARTLETT, M. S.; DRAPER, B. A. Recognizing Face with PCA and ICA. Computer Vision and Image Understanding, n.91, pp , [2] BEZDEK, J.C. Pattern Recognition with Fuzzy Objective Function Algorithms. New York: Plenum Press, [3] BEZDEK, J.C.; DUNN, J.C. Optimal Fuzzy Partitions: A heuristic for estimating the parameters in a mixture of normal distributions. IEEE Transactions on Computers, pp , [4] CHAN, A. K.; GOSWAMI, J. C. Fundamentals do Wavelets: Theory, Algorithms and Applications, 2. ed. New Jersey: John Wiley e Sons Inc, 2011.

6 [5] CHOI, H.; KIM, K.; OH, S. Facial Feature Extraction Using PCA and Wavelet Multi-Resolution Image. Proceedings of the 6th IEEE International Conference on Automatic Face and Gesture Recognition, [6] DAI, D. Q.; FENG, G. C.; YUEN, P. C. Wavelet based PCA for Human Face Recognition. Department of Computing Studies, Hong Kong Baptist University, Hong Kong, [7] KAK, A.; MARTÍNEZ, A. M. PCA versus LDA. IEEE Transactions on Pattern Analysis and Machine Intelligence, vol. 23, n. 2, pp , [8] WALTER, J. S. A Primer on Wavelets and Their Scientific Applications. Chapman e Hall/CRC, 1999.