Potências de Sigmóide(PPS)-Wavelet e suas Contribuições Efetivas nas áreas de Redes Neurais Articiais e Processamento de Imagens

Transcrição

1 Universidade Estadual Paulista "Júlio de Mesquita Filho" Faculdade de Ciências - Departamento de Computação Laboratório de Sistemas Adaptativos e Computação Inteligente Implementação Construindo uma de Algoritmos Teoria: Desenvolvimento para Polinômios e Potências de Sigmóide(PPS)-Wavelet e suas Contribuições Efetivas nas áreas de Redes Neurais Articiais e Processamento de Imagens Monograa de projeto de pesquisa Bolsista CNPq/PIBIC Rafael Alves Bonm de Queiroz bonm@fc.unesp.br Orientador Prof. Dr. João Fernando Marar fermarar@fc.unesp.br Bauru SP Setembro / 2006

2 Sumário 1 Introdução Descrição dos capítulos Polinômios Potências de Sigmóide Funções sigmóides Funções potências de sigmóide Derivada das funções PPS Família de funções PPS-Wavelet Introdução à teoria das funções wavelets Técnica para a obtenção da família de funções PPS-Wavelet Redes Neurais PPS-Wavelet Treinamento baseado no algoritmo Backpropagation(BP) Rede Neural PPS-Wavelet com saídas sigmoidais Fundamentos matemáticos do algoritmo BP com PPS-Wavelet Algoritmo 2: Treinamento baseado no algoritmo BP Treinamento baseado no método Levenberg-Marquardt (LM) Rede Neural PPS-Wavelet com saída linear Fundamentos matemáticos do algoritmo LM com PPS-Wavelet Algoritmo 3: Treinamento baseado no método LM Treinamento baseado no método Newton Algoritmo 8: Treinamento baseado no método Newton Inicialização da Rede Neural PPS-Wavelet Seleção de funções PPS-Wavelet baseado em valores residuais Seleção de funções PPS-Wavelet por ortogonalização Eliminação de funções PPS-Wavelet Processamento digital de imagens Propriedades da imagem digital Vizinhança e amostragem Conectividade Adjacência

3 5 Detecção de bordas em imagens digitais Método Zero Crossing baseado em PPS-Wavelet Algoritmo 9: Localização de bordas em imagens digitais com o método Zero Crossing baseado em PPS-Wavelet Método Canny baseado em PPS-Radial Algoritmo 10: Localização de bordas em imagens digitais com o método Canny baseado em PPS-Radial Análise de Componentes Principais (PCA) Espaço das imagens e faces Cálculo da transformada PCA Matriz da transformação linear Resultados Detecção de faces humanas através de Redes Neurais PPS-Wavelet Criação da matriz de transformação PCA Treinamentos e testes das Redes Neurais PPS-Wavelet com o algoritmo baseado no método LM Treinamentos e testes das Redes Neurais PPS-Wavelet com o algoritmo BP Treinamentos e testes das Redes Neurais PPS-Wavelet com o método Newton Aplicação da técnica seleção de funções PPS-Wavelet Aplicação da técnica seleção de funções PPS-Wavelet por ortogonalização Aplicação da técnica eliminação de funções PPS-Wavelet Detecção de bordas em imagens digitais com funções PPS Método Zero Crossing baseado em PPS-Wavelet Método Canny baseado em PPS-Radial Conclusões Trabalhos Futuros

4 Lista de Figuras 2.1 Ilustração de algumas funções sigmóides Ilustração de algumas funções potências de sigmóide Ilustração das seis primeiras funções PPS-Wavelet Amostragem e Vizinhança (COSTA; MARAR, 2003b) vizinhos (a), m-vizinhos (b) (COSTA; MARAR, 2003b) Raster e espaço de imagens (COSTA; MARAR, 2003b) Imagem original Aplicação do método Zero Crossing clássico Aplicação do método Zero Crossing baseado em PPS-Wavelet Aplicação do método Canny clássico Aplicação do método Canny baseado em PPS-Radial

5 Lista de Tabelas 2.1 Exemplos de funções sigmóides Exemplos de funções potências de sigmóide Índices de iluminância Índices de reetância Treinamento baseado no método LM com 4 amostras Treinamento baseado no método LM com 8 amostras Treinamento baseado no método LM com 12 amostras Treinamento baseado no método LM com 16 amostras Treinamento baseado no método LM com 20 amostras Treinamento baseado no algoritmo BP com 4 amostras Treinamento baseado no algoritmo BP com 8 amostras Treinamento baseado no algoritmo BP com 12 amostras Treinamento baseado no algoritmo BP com 16 amostras Treinamento baseado no algoritmo BP com 20 amostras Treinamento baseado no método Newton com 4 amostras Treinamento baseado no método Newton com 8 amostras Treinamento baseado no método Newton com 12 amostras Treinamento baseado no método Newton com 16 amostras Treinamento baseado no método Newton com 20 amostras Treinamento com 4 amostras-i Treinamento com 8 amostras-i Treinamento com 12 amostras-i Treinamento com 16 amostras-i Treinamento com 20 amostras-i Treinamento com 4 amostras-ii Treinamento com 8 amostras-ii Treinamento com 12 amostras-ii Treinamento com 16 amostras-ii Treinamento com 20 amostras-ii Treinamento com 4 amostras-iii Treinamento com 8 amostras-iii Treinamento com 12 amostras-iii Treinamento com 16 amostras-iii Treinamento com 20 amostras-iii

6 Capítulo 1 Introdução A Epistemologia teve início na interpretação das relações entre Homem, Natureza e Deus nos primeiros tratados losócos na Grécia do século quatro antes de Cristo. A especialização das ciências concentrou o estudo das leis e processos físicos da natureza na Ciência da Física. Considerando-se a natureza como a expressão mais perfeita do exato, conhecida pelo homem, a comunidade cientíca tem se convencido de suas limitações e diculdades sobre a diferença entre o exato e o aproximado. As descobertas cientícas, em grande parte, nada mais são do que maneiras de compreender e interpretar a natureza e toda sua exatidão, pela realização de modelos aproximados. Se a exatidão dos elementos da natureza os dene de maneira única, e este é o objetivo máximo do critério de investigação cientíca, então, o único meio que resta é a aproximação para modelar a natureza através de innitas maneiras. No contexto cientíco e tecnológico, novos paradigmas têm sido sugeridos de maneira a melhorar, simplicar e atualizar os já existentes. Em destaque, as Redes Neurais Articiais (HAYKIN, 2001) e as funções wavelets (CHUI, 1992) têm mostrado a revitalização de grandes descobertas do passado. Firme no propósito de inovar grandes idéias cientícas, este trabalho procura encaminhar mais uma nova discussão sobre técnicas versáteis em Redes Neurais Articiais e seus algoritmos de treinamento. Neste trabalho, apresentam-se os algoritmos desenvolvidos e implementados para as funções PPS-Wavelet (MARAR, 1997) visando contribuir efetivamente para o avanço das áreas de Redes Neurais Articiais e Processamento de Imagens no Brasil e Exterior. Os algoritmos desenvolvidos poderão ser utilizados para treinamento de Redes Neurais PPS-Wavelet e para detecção de bordas em imagens digitais. Os algoritmos propostos para detecção de bordas em imagens digitais baseados em função PPS são novas versões dos métodos Canny (CANNY, 1986) e Zero Crossing (MARR; HILDRETH, 1980) construídas durante a pesquisa. Neste trabalho, são apresentados os resultados obtidos com a aplicação das Redes Neurais PPS-Wavelet treinadas com os algoritmos propostos em detecção de faces humanas em imagens digitais, isto é, na classicação de regiões segmentadas de uma imagem como contendo face ou não (LIN; FAN, 2001; COSTA; MARAR, 2003a). Nesta aplicação, foi utilizada a técnica Análise de Componentes Principais (ROMD- 5

7 HAMI, 1996) para redução de dimensionalidade dos padrões de treinamento das Redes Neurais PPS-Wavelet. Neste trabalho, também apresentam-se os resultados obtidos com os métodos Canny e Zero Crossing baseado em funções PPS. 1.1 Descrição dos capítulos Este trabalho é organizado em 8 capítulos, sendo o restante organizado da seguinte maneira: Capítulo 2: Polinômios Potências de Sigmóide. Neste capítulo serão apresentadas as principais denições da teoria das funções PPS. Neste capítulo, merece destaque a denição da família de funções PPS- Wavelet que é muito importante para construção das arquiteturas neurais PPS- Wavelet. Capítulo 3: Redes Neurais PPS-Wavelet. Neste capítulo serão apresentados os algoritmos de treinamento das Redes Neurais PPS-Wavelet desenvolvidos durante a pesquisa. Ressalta-se que os algoritmos de treinamento propostos são baseados no método Levenberg-Marquardt e algoritmo Backpropagation e método Newton. Capítulo 4: Processamento digital de imagens. Neste capítulo serão apresentadas as propriedades e denições fundamentais estudadas sobre imagens digitais durante a pesquisa. Capítulo 5: Detecção de bordas em imagens digitais. Neste capítulo será apresentada uma nova abordagem dos métodos Canny e Zero Crossing baseados em funções PPS para detecção de bordas em imagens. Capítulo 6: Análise de Componentes Principais (PCA). Neste capítulo será apresentada a denição do espaço de imagens e faces. O destaque deste capítulo é a explicação sobre o cálculo da transformada PCA. Capítulo 7: Resultados. Neste capítulo serão apresentados os resultados obtidos neste projeto pesquisa com os algoritmos desenvolvidos e implementados para treinamento de Redes Neurais PPS-Wavelet e detecção de bordas em imagens digitais utilizando as funções PPS. Capítulo 8: Conclusões. Neste capítulo, são apresentadas as principais conclusões e os trabalhos futuros desta pesquisa. 6

8 Capítulo 2 Polinômios Potências de Sigmóide As funções PPS correspondem a uma nova técnica matemática para problemas de aproximação de funções; introduzidas por Marar em 1996 (MARAR J.F.; VASCONCE- LOS, 1996). Dentre suas aplicações, temos: Aproximação de funções (MARAR, 1997), Redes Neurais (MARAR, 2000; QUEIROZ; MARAR, 2004) e a construção de uma família de funções wavelets polinomiais (MARAR J.F.; VASCONCELOS, 1996). De maneira a investigar a viabilidade desta família de funções para construção de arquiteturas neurais PPS-Wavelet, apresentam-se os aspectos téoricos que contemplam a teoria das funções PPS. 2.1 Funções sigmóides Sigmóide corresponde a uma classe de funções, que são dotadas das seguintes propriedades: monotonicamente crescente, diferenciável, limitada e cujo o gráco lembra a forma do caracter S. A Tabela 2.1 contém algumas funções analíticas que satisfazem as condições básicas de ser uma função sigmóide. As funções sigmóides, em sua grande maioria, satisfazem a seguinte condição: Υ(x) = { 1 x + 0 x Funções Sigmóides Grácos 1 (a) 1+e x +e 2x +e 3x 1 (b) 1+2e x +e 2x tanh(x) (c) arc tan(x) (d) Tabela 2.1: Exemplos de funções sigmóides (2.1) 7

9 (a) (b) (c) Figura 2.1: Ilustração de algumas funções sigmóides 2.2 Funções potências de sigmóide Seja Υ : R [0,1] a função sigmóide denida por: 1 Υ(x) = (2.2) 1 + e x Chama-se função potência de sigmóide de expoente n (n Z + ) da Υ a função Υ n : R [0,1] denida por: Υ n (x) = ( 1 ) n 1 + e x O conjunto das funções potências de sigmóide é denido por: (d) Onde: Φ = {Υ 0 (x), Υ 1 (x), Υ 2 (x),..., Υ n (x),...} ( 1 Υ 0 (x) = 1 + e x ( ) 1 1 Υ 1 (x) = = 1 + e x Υ 2 (x) = Υ 1 (x).υ 1 (x) = Υ 3 (x) = Υ 2 (x).υ 1 (x) = Υ 4 (x) = Υ 3 (x).υ 1 (x) = ) 0 = 1 (2.3) e x (2.4) e x + e 2x (2.5) e x + 3e 2x + e 3x (2.6) e x + 6e 2x + 4e 3x + e 4x (2.7) 8

10 Como pode ser visto pelas equações (2.3)-(2.7), as funções potências de sigmóide possuem representações analíticas extensas quando o n, grau da potência, assume grandes valores inteiros. Entretanto, um fato bastante interessante é que as potências da função sigmóide ainda permanecem com a forma da sigmóide e satisfazendo a condição (2.1). Observando a forma gerada das funções potências de sigmóide, é óbvio supor que a potência n-ésima da função sigmóide seja representada da seguinte forma: Υ n 1 (x) = (2.8) a 0 + a 1 e x + a 2 e 2x a n e nx onde a 0, a 1, a 2,..., a n são certos valores inteiros. Os coecientes da Υ n (x) podem ser obtidos da linha n-ésima do triângulo de Pascal (MARAR, 1997). Desta forma, a Equação (2.8) pode ser reescrita como: Υ n (x) = ( n 0 1 ) ( + n 1) e x + ( ) n 2 e 2x ( ) n n e nx Funções Potências de Sigmóide Gráco Y 4 1 (x) = (a) 1+4e x +6e 2x +4e 3x +e 4x Y 5 (x) = 1 1+5e x +10e 2x +10e 3x +5e 4x +e 5x (b) Tabela 2.2: Exemplos de funções potências de sigmóide (a) (b) Figura 2.2: Ilustração de algumas funções potências de sigmóide 2.3 Derivada das funções PPS As funções PPS são denidas como combinações lineares das funções potências de sigmóide. Para mostrar o comportamento da derivada das funções PPS, inicialmente será calculado a derivada da função sigmóide. Segue cálculo: d[y (x)] dx = d( 1 1+e x ) dx 9 = e x (1 + e x ) 2

11 expandindo o termo quadrado, tem-se: d[y (x)] dx ( ) e x e x = (1 + e x ).(1 + e x ) = Y (x) 1 + e x somando e subtraindo 1 da Equação (2.9), tem-se: d[y (x)] dx ( ) ( ) e x e x = Y (x) = Y (x) 1 + e x 1 + e 1 x 1 + e x simplicando os termos da Equação (2.10), tem-se: (2.9) (2.10) d[y (x)] dx = Y (x)(1 Y (x)) = Y 2 (x) + Y (x) (2.11) desta forma a Equação (2.11), representa a derivada primeira da função sigmóide. Este resultado é denido como função PPS-Radial. Através do cálculo acima, arma-se que sempre a derivada da função PPS aumentará o seu grau em uma unidade. Para facilitar o entendimento desta propriedade, deriva-se a função PPS-Radial. d[ Y 2 (x) + Y (x)] dx = d[ Y 2 (x)] d[y (x)] + dx dx d[y (x)] = 2Y (x) + ( Y 2 (x) + Y (x)) dx = 2Y (x)( Y 2 (x) + Y (x)) + ( Y 2 (x) + Y (x)) = 2Y 3 (x) 3Y 2 (x) + Y (x) O resultado da derivada da função PPS-Radial é uma função PPS de grau 3, que pertence a família de funções PPS-Wavelet. 2.4 Família de funções PPS-Wavelet Antes de mostrar o processo de construção da família de wavelets polinomiais baseada em funções PPS, será feito uma breve introdução sobre funções wavelets, onde será enfatizado o Espaço de Hilbert e a idéia de Frames Introdução à teoria das funções wavelets As Wavelets são classes de funções que satisfazem um conjunto de propriedades. Funções wavelets são: limitadas, suporte compacto, suas translações e dilatações reais geram uma base de funções para a representação de qualquer elemento pertencente a família de funções quadrado integráveis. Excelentes introduções sobre o assunto podem ser encontradas em (CHUI, 1992; DAUBECHIES, 1992). 10

12 Sem perder a generalidade, trata-se neste trabalho das denições básicas das wavelets para funções pertencentes ao espaço das funções quadrado integráveis denotado por L 2 (R). Para isso, algumas propriedades do espaço de Hilbert são apresentadas. Toda função f(x) é quadrado integrável no espaço de Hilbert, se e somente se, satisfazer: R f(x) 2 dx < Se f(x) e g(x) L 2 (R), então o produto interno < f(x), g(x) > é denido por: R f(x)g(x)dx onde g(x) corresponde ao conjugado complexo da função g(x), e a norma sobre o L 2 (R) é denida por g(x) 2 =< g(x), g(x) >. Estes conceitos são importantes para a denição de Frames no espaço de Hilbert. Dado o conjunto de funções ψ : R R com a seguinte propriedade: Ψ = {d n 2 ψ(d n x t) t, d R, n Z} onde t e d são translações e dilatações, e d n 2 ψ(d n x t) 2 = 1 é uma constante para tornar O conjunto Ψ é um Frame, se satisfazer a propriedade: existem duas constantes A > 0 e B < tal que, para todas as funções g(x) L 2 (R), a seguinte relação é válida: A g(x) 2 ψ Ψ < ψ, g(x) > 2 B g(x) 2 (2.12) A conseqüência direta da relação (2.12) é o fato da família Ψ ser densa no L 2 (R). Para se ter um Frame a partir da função mãe, ψ( ), a seguinte condição de admissibilidade deve ser satisfeita: ψ(w) 2 w dw < (2.13) onde ψ(w) é a transformada de Fourier da função mãe ψ(w). Na relação (2.13), é suciente ter ψ(w)dw = 0 (DAUBECHIES, 1988) Técnica para a obtenção da família de funções PPS- Wavelet O processo de derivação sucessiva de função sigmóide (Equação 2.2) possibilita a construção da família de funções wavelets polinomiais, que podem ser utilizadas como funções de transferência (ativação) de neurônios articiais (MARAR, 1997). O primeiro elemento desta família é denido por: ϕ 2 (x) = 2Y 3 (x) 3Y 2 (x) + Y (x) (2.14) 11

13 onde ϕ 2 (x) é o resultado da derivada segunda da função sigmóide. Abaixo, os resultados correspondem as funções analíticas para os elementos ϕ 3 (x), ϕ 4 (x), ϕ 5 (x) que são representados respectivamente por: ϕ 3 (x) = 6Y 4 (x) + 12Y 3 (x) 7Y 2 (x) + Y (x) ϕ 4 (x) = 24Y 5 (x) 60Y 4 (x) + 50Y 3 (x) 15Y 2 (x) + Y (x) ϕ 5 (x) = 120Y 6 (x) 360Y 5 (x) 390Y 4 (x) + 180Y 3 (x) 31Y 2 (x) + Y (x) O conjunto das funções PPS-Wavelet é composto por funções pertencentes ao L 2 (R) que satisfazem a condição (2.13) de admissibilidade (MARAR, 1997). Por consequência de (2.13), a família de funções compostas de translações e dilatações de cada uma das funções da família ϕ i é densa no espaço das funções quadrado integráveis. A Figura 2.3 ilustra as seis primeiras funções PPS-Wavelet. ϕ 2 (x) ϕ 3 (x) ϕ 4 (x) ϕ 5 (x) ϕ 6 (x) ϕ 7 (x) Figura 2.3: Ilustração das seis primeiras funções PPS-Wavelet Como o processo de derivação sucessiva da função sigmóide é trabalhoso, é apresentado um algoritmo que determina as funções PPS-Wavelet no trabalho de Queiroz 2005 (QUEIROZ; MARAR, 2005a). 12

14 Algoritmo 1: Determinação dos coecientes da PPS-Wavelet Passo 1: Entrada e Inicializações: Informe o índice i da PPS-Wavelet ϕ i (x) (i 2). Inicialize a matriz C i i+1 com elementos nulos; aux 2; C(1, 1) 1; C(1, 2) 1; Passo 2: Cálculo dos coecientes dos termos de maior grau das funções PPS-Wavelet: n 3; enquanto (n (aux + 1)) inicio C(n 1, n) C(n 2, n 1) (n 1) ( 1) n+1 ; se (n for ímpar) e (n > 3) então C(n 1, n) C(n 1, n); n n + 1; m Passo 3: Cálculo dos demais termos: n n 1; k n; enquanto (k > 2) inicio se (n=3) ou (k ímpar) então C(n 1, k 1) C(n 2, k 1) (k 1)+C(n 2, k 2) (k 2) ( 1) k+1 ; se n = 3 então C(n 1, k 1) C(n 1, k 1); senão C(n 1, k 1) C(n 2, k 1) (k 1) + C(n 2, k 2) (k 2) ( 1) k ; k k 1; m C(n 1, 1) 1; aux aux + 1; Passo 4: Verica se chegou na solução: se (aux i) então Volta ao passo 2; senão Retorna linha i da matriz C; Código em Matlab: 13

15 Capítulo 3 Redes Neurais PPS-Wavelet Neste capítulo, são apresentados os algoritmos desenvolvidos e implementados para treinamento das arquiteturas neurais PPS-Wavelet. 3.1 Treinamento baseado no algoritmo Backpropagation(BP) Nesta seção é apresentado um algoritmo baseado no método BP (HAYKIN, 2001) para treinamento de Redes Neurais PPS-Wavelet com saídas sigmoidais (QUEIROZ; MARAR; VALSESIA, 2006a). Os fundamentos matemáticos deste algoritmo também são explicados. O algoritmo de treinamento apresentado nesta seção não adapta os pesos entre as camadas de entrada e escondida e os neurônios articiais não possuem o parâmetro bias (HAYKIN, 2001), essas particularidades diferencia o algoritmo desenvolvido do apresentado no trabalho de Zhao (ZHAO et al., 2006) Rede Neural PPS-Wavelet com saídas sigmoidais Esta arquitetura neural PPS-Wavelet possui uma camada escondida de neurônios articiais com função de ativação PPS-Wavelet, uma camada de saída com neurônios com função de ativação sigmóide denida na Equação 2.2. Tal arquitetura neural possui m entradas e n saídas, onde m, n Z + representam respectivamente o número de neurônios na camada de entrada e saída. Na camada escondida, tem-se p neurônios articiais. Os parâmetros que deverão ser adaptados no processo de treinamento desta arquitetura neural são: 1. Matriz de pesos entre as camadas escondida e saída: W (s) = (w (s) ij ) n p 2. Vetor com as dilatações da função PPS-Wavelet: d = (d 1, d 2,..., d p ) 3. Vetor com as translações da função PPS-Wavelet: t = (t 1, t 2,..., t p ) Nesta arquitetura neural PPS-Wavelet construída, os pesos entre as camadas de entrada e escondida não são adaptados durante o treinamento e possuem valores iguais 14

16 a 1 (um) Fundamentos matemáticos do algoritmo BP com PPS- Wavelet Seja uma amostra q de entrada da Rede Neural PPS-Wavelet com saídas sigmoidais dada por: X q = (x q1, x q2,..., x qm ), ϕ( ) uma função PPS-Wavelet e Υ( ) a função sigmóide denida na Equação 2.2. A saída do j th neurônio da camada escondida é denida por: m ϕ dj,t j ( x qk ) = ϕ dj,t j (net (1) qj ) = ϕ(d j.(net (1) qj t j)) (3.1) onde: k=1 net (1) qj = m x qk, k=1 j = 1, 2,..., p A saída do neurônio i th da camada de saída é denida por: onde: o qi = Υ( p j=1 w (s) net (s) qi = ij ϕ d j,t j (net (1) p j=1 qj w (s) ij ϕ d j,t j (net (1) qj ) )) = Υ(net(s) qi ) (3.2) Seja a amostra de saída q da Rede Neural PPS-Wavelet com saídas sigmoidais O q = (o q1, o q2,..., o qn ), a saída desejada Y q = (y q1, y q2,...y qn ), o erro total para Q amostras é denido por: E = 1 2 Q q=1 n i=1 (y qi o qi ) 2 (3.3) Seja ϕ ( ) a derivada da função PPS-Wavelet ϕ( ), as equações parciais da Rede Neural PPS-Wavelet com saídas sigmoidais são denidas por: E w (s) ij = E d j = E t j = d j Q (y qi o qi ).o qi.(1 o qi ).ϕ dj,t j (net (1) q=1 Q q=1 [ ] ϕ d j,t j (net (1) qj (net(1) qj t j)). qj ) (3.4) n (y qi o qi ).o qi.(1 o qi ).w (s) i=1 [ ] Q n ϕ dj,t j (net (1) qj ). (y qi o qi ).o qi.(1 o qi ).w (s) ij q=1 i=1 ij (3.5) (3.6) 15

17 Para aumentar a velocidade de convergência e evitar vibração, o algoritmo BP com função PPS-Wavelet utiliza momentum (HAYKIN, 2001). A taxa de aprendizado é η e o momentum é α, sendo η e α [0,1] As equações para atualização dos parâmetros das Redes Neurais PPS-Wavelet com saídas sigmoidais são: w s ij(k + 1) = w (s) ij η. E w (s) ij + α[w (s) ij (k) w(s) (k 1)] (3.7) d j (k + 1) = d j (k) η. E d j + α[d j (k) d j (k 1)] (3.8) t j (k + 1) = t j (k) η. E t j + α[t j (k) t j (k 1)] (3.9) onde: k indica a iteração atual do algoritmo Algoritmo 2: Treinamento baseado no algoritmo BP Seguem os passos do algoritmo baseado no BP para treinamento de Redes Neurais PPS-Wavelet com saídas sigmoidais. Passo 0: Denição da arquitetura da Rede Neural PPS-Wavelet com saídas sigmoidais: m: neurônios na camada de entrada; p : neurônios da camada escondida; n : neurônios da camada de saída; ϕ(x): função de ativação PPS-Wavelet; Passo 1: Inicialização dos parâmetros da Rede Neural PPS-Wavelet com valores aleatórios entre 0 e 1: d (d 1, d 2,..., d p ): vetor com as dilatações; t (t 1, t 2,..., t p ): vetor com as translações; W (s) (w (s) ij ) n p: matriz com pesos sinápticos; Passo 2: Fornecimento de Q amostras de treinamento: entrada: X q (x q1, x q2,..., x qm ) ; saída :Y q (y q1, y q2,..., y qn ), onde q: é uma amostra, q 1,..., Q Denição das taxas: α: momentum ; η: aprendizado. Passo 3: Cálculo das saídas da Rede Neural PPS-Wavelet: Resolução da Equação 3.2, para q 1,..., Q, e i 1,..., n Passo 4: Cálculo do erro E (função custo) da Rede Neural PPS-Wavelet: Resolução da Equação 3.3, obtém-se o valor do erro E. Se erro E < precisão ɛ então Pare o processo de treinamento. 16 ij

18 Passo 5: Cálculo das equações parciais da Rede Neural PPS-Wavelet: Resolução das Equações Passo 6: Atualização dos parâmetros da Rede Neural PPS-Wavelet: Resolução das Equações Retorne para o Passo 3. Código em Matlab: Treinamento baseado no método Levenberg-Marquardt (LM) Nesta seção é denido um algoritmo baseado no método LM (LEVENBERG, 1944; MARQUARDT, 1963) para treinamento de uma Rede Neural PPS-Wavelet com saída linear (QUEIROZ; MARAR, 2006, 2005a, 2005b, 2005c; MARAR; QUEIROZ, 2005; QUEI- ROZ; MARAR; VALSESIA, 2006a; QUEIROZ; MARAR, 2006) denida abaixo Rede Neural PPS-Wavelet com saída linear Esta arquitetura neural possui uma camada escondida de neurônios articiais com função de ativação PPS-Wavelet, uma camada de saída com um neurônio com função de ativação linear y = f(x) = x. Tal arquitetura neural possui m entradas e 1 (uma) saída, onde m Z + representa respectivamente o número de neurônios na camada de entrada. Na camada escondida tem-se p neurônios articiais. Os parâmetros desta arquitetura neural são: 1. Vetor com os pesos entre as camadas escondida e saída: w = (w j ) 1 p 2. Vetor com as dilatações da função PPS-Wavelet: d = (d 1, d 2,..., d p ) 3. Vetor com as translações da função PPS-Wavelet: t = (t 1, t 2,..., t p ) Fundamentos matemáticos do algoritmo LM com PPS- Wavelet Seja um vetor de entrada da Rede Neural PPS-Wavelet com saída linear X q = (x q1,..., x qm ) e com saída do j th neurônio da camada escondida denida pela Equação 3.1. A saída do neurônio da camada de saída é: onde o q = Υ( p j=1 net (s) q = w j ϕ dj,t j (net (1) qj )) = Υ(net(s) q ) (3.10) p j=1 w j ϕ dj,t j (net (1) qj ) 17

19 Sendo a saída da Rede Neural PPS-Wavelet O q = (o q ) e a saída desejada Y q = (y q ) para a amostra q, o erro total para Q amostras é denido por: E(a ) = 1 2 Q q=1 (y q o q ) 2 (3.11) onde a é um vetor com os parâmetros dilatação (d), translação (t) e peso sináptico (w). A derivada parcial de primeira ordem da função custo denida na Equação 3.11 em relação aos parâmetros do vetor a é denido por: g k = [E] a k = Q q=1 (y q o q ) o q a k A derivada parcial de segunda ordem é denida por: h kl = 2 [E] a k a l = Q [ oq o q q=1 a k a l (y q o q ) 2 o q a k a l k = 1, 2,..., 3 p ] l = 1, 2,..., 3 p (3.12) Na minimização da função custo denida na Equação 3.11, utiliza-se a seguinte denição para h kl : h kl = 2 [E] a k a l = Q [ ] oq o q q=1 a k a l l = 1, 2,..., 3 p (3.13) O resultado nal para os parâmetros do vetor a não é afetado pelo uso da Equação 3.13, pois g k = 0 para todo k, ou seja, a função custo tem valor mínimo independente de como h kl for denida (PRESS et al., 1992). Durante o processo de treinamento da Rede Neural PPS-Wavelet com saída linear denida nesta seção, é resolvido o conjunto de equações lineares denido em (PRESS et al., 1992) para minimização de modelos não lineares segundo o método LM: onde: M l=1 h kl δa l = g k (3.14) h jk h jk (1 + λ) (j = k) h jk h jk (j k) A resolução do conjunto de Equações (3.14) determina o incremento δa l para o vetor a. A variável λ, denominada nesta pesquisa como fator de estabilização, ajuda no processo de convergência do processo de treinamento. O conjunto de equações denido em 3.14 é também denido da seguinte forma (QUEIROZ; MARAR, 2005b, 2005a; MARAR; QUEIROZ, 2005): ( J T J + λi ) δa = J T e(x) onde: J é a matriz Jacobiana, e(x) é a diferença entre o valor desejado de saída e obtido pela Rede Neural PPS-Wavelet. 18

20 3.2.3 Algoritmo 3: Treinamento baseado no método LM Seguem os passos do algoritmo baseado no método LM para treinamento de Redes Neurais PPS-Wavelet com saída linear. Passo 0: Denição da arquitetura da Rede Neural PPS-Wavelet: m: neurônios na camada de entrada; p : neurônios na camada escondida; 1 : neurônio na camada de saída; ϕ(x): função de ativação PPS-Wavelet; Passo 1: Inicialização dos parâmetros da Rede Neural PPS-Wavelet com valores aleatórios entre 0 e 1: d (d 1, d 2,..., d p ): vetor com as dilatações; t (t 1, t 2,..., t p ): vetor com as translações; w (w 1, w 2,..., w p ): vetor com os pesos sinápticos; Passo 2: Armazenamento dos parâmetros em um vetor a e inicialização do fator de estabilização λ: a (w 1, d 1, t 1, w 2, d 2, t 2,..., w p, d p, t p ), λ Passo 3: Fornecimento de Q amostras de treinamento: entrada: X q (x q1, x q2,..., x qm ), saída : Y q (y q ), onde q é uma amostra, q 1,..., Q. Passo 4: Cálculo da saída da Rede Neural PPS-Wavelet: Resolução da Equação 3.10 para q 1,..., Q. Passo 5: Cálculo do erro E(a ) (função custo): Resolução do erro E(a ) denido pela Equação 3.11; Se erro E < precisão ɛ então Pare o processo de treinamento. Passo 6: Cálculo do incremento δa dos parâmetros da Rede Neural: Resolução do sistema de equações denido pela Equação Passo 7: Simulação da saída da Rede Neural PPS-Wavelet com o δa : Cálculo da saída da Rede Neural PPS-Wavelet para a + δa. Passo 8: Avaliação do erro E (função custo) para a + δa : Se erro E < precisão ɛ então a a + δa ; Pare o processo de treinamento. Se a função custo E(a + δa ) E(a ) então λ λ 10; retorne no Passo 4; 19

21 Senão λ λ/10; a a + δa ; retorne no Passo 4; Código em Matlab: Treinamento baseado no método Newton Nesta seção encontra-se a descrição de um algoritmo baseado no método Newton para treinamento de uma Rede Neural PPS-Wavelet, cujo neurônio de saída é denido por (ZHANG, 1997): f p = p j=1 w j ϕ dj,t j (net (1) qj ) + ct x + b (3.15) onde c R d é um vetor com conexões lineares e b R d é o bias (HAYKIN, 2001). Esta saída da Rede Neural PPS-Wavelet aproveita as propriedades lineares em regressão (ZHANG, 1997). A saída do neurônio j para a amostra q é denido na Equação 3.1. Sendo a saída da Rede Neural PPS-Wavelet F q = (f q ) e a saída desejada Y q = (y q ) para a amostra q, o erro total para Q amostras é denido por: E = 1 2 Q q=1 (y q f q ) 2 (3.16) Algoritmo 8: Treinamento baseado no método Newton Seguem os passos do algoritmo baseado no método Newton: Passo 0: Denição da arquitetura da Rede Neural PPS-Wavelet com a saída dada pela Equação 3.15; ϕ(x): função de ativação PPS-Wavelet; Passo 1: Fornecimento de Q amostras de treinamento: entrada: X q (x q1, x q2,..., x qm ) e saída : Y q (y q ), onde q é uma amostra, q 1,..., Q. Passo 2: Inicialização dos pesos da Rede Neural PPS-Wavelet. Passo 3: Método de Newton g d j 1 gradiente (E, d j 1 ); g t j 1 gradiente (E, t j 1 ); H d j 1 hessiana(e, d j 1 ); H t j 1 hessiana(e, t j 1 ); d j = d j 1 (H d j 1) 1 g d j 1 ; t j = d j 1 (H d j 1) 1 g d j 1; 20

22 Código em Matlab: A operação gradiente (E, d j 1 ) indica o gradiente da função custo E em relação ao parâmetro d j 1 e é calculado de forma semelhante a Equação A operação hessiana (E, d j 1 ) indica a matriz hessiana da função custo E em relação ao parâmetro d j 1 e é calculada de forma semelhante a Equação Inicialização da Rede Neural PPS-Wavelet Os parâmetros de uma arquitetura neural são normalmente iniciados com valores randômicos entre 0 e 1. Na investigação da Rede Neural PPS-Wavelet percebemos que a inicialização randômica inuência no seu processo de treinamento. Entendemos que o problema de inicialização da Rede Neural PPS-Wavelet consiste em selecionar funções PPS-Wavelet com as suas dilatações e translações que melhor mapeiam os dados de entrada, isto pode ser visto então como um problema de análise de regressão (CHEN; BILLINGS; LUO, 1989). Neste sentido, são apresentados nesta seção três métodos estudados e implementados para inicialização de uma Rede Neural PPS-Wavelet (QUEIROZ; MARAR; VALSESIA, 2006b). Seja a função PPS-Wavelet ϕ(x), as técnicas foram utilizadas para selecionar as funções PPS-Wavelet ϕ i (x) do conjunto: ( N ) 1 2 P = ϕ i (x) = n i.ϕ.(d i.(x t i )), n i = ϕ(d i.(x k t i )) 2 k=1, i = 1,..., L (3.17) onde: x 1,..., x N são as amostras de entrada, L é o número de funções PPS-Wavelet, n i está associado com a normalização da função PPS-Wavelet e d i,t i corresponde aos parâmetros dilatação e translação da função PPS-Wavelet ϕ. As funções PPS-Wavelet selecionadas são utilizadas na camada escondida da Rede Neural PPS-Wavelet. Selecionar um número M L de funções PPS-Wavelet de P baseado no conjunto de dados de treinamento de uma rede neural é um problema de análise de regressão denido por (ZHANG, 1997): f M (x) = M i=1 u i ϕ i (x) (3.18) onde u i R. Esta tarefa de selecionar M funções do conjunto P também consiste em minimizar: ( 2 N M y k u i ϕ i (x k )) (3.19) J = 1 N k=1 Antes de explicar os métodos para selecionar funções PPS-Wavelet do conjunto P, i=1 21

23 denem-se as seguintes notações matriciais: v i = y = ϕ i (x 1 ). ϕ i (x n ) y 1. y N (3.20) onde: v T i v i = 1 (i = 1,..., L) e y é o vetor com as amostras de saída da Rede Neural PPS-Wavelet Seleção de funções PPS-Wavelet baseado em valores residuais Este método seleciona para o primeiro estágio funções PPS-Wavelet de P que melhor aproximem os dados de treinamento, e depois iterativamente seleciona a PPS-Wavelet que melhor aproxima o resíduo da aproximação do estágio anterior (HORNIK et al., 1994; ZHANG, 1997; QUEIROZ; MARAR; VALSESIA, 2006b). Algoritmo 4: Seleção de funções PPS-Wavelet baseado em valores residuais Inicialização: vetor resíduo inicial γ 0 y, com y denido na Equação 3.20; f 0 (x) 0; Para i = 1 até M faça inicio seja I i {j : j = 1,..., L e j l 1,..., l i 1 }, encontre: l i arg max j Ii (v T j γ i 1 ) 2 ; u li v T l i γ i 1 ; f i (x) f i 1 (x) + u li ϕ l i (x); γ i γ i 1 u li v li ; m Código em Matlab: Seleção de funções PPS-Wavelet por ortogonalização Este método de seleção considera a ortogonalidade das funções PPS-Wavelet de P. Ele seleciona, para o primeiro estágio, a função PPS-Wavelet de P que melhor aproxima os dados de treinamento enquanto utiliza as funções PPS-Wavelet selecionadas anteriormente (ZHANG, 1997; QUEIROZ; MARAR; VALSESIA, 2006b). No estágio i deste método, assuma que no estágio i 1 já foi selecionada a função PPS-Wavelet correspondente para os vetores v l1,..., v li 1. Para selecionar a i-th função 22

24 PPS-Wavelet, tem-se que calcular a distância de y para o espaço = {v l1,..., v li 1, v j } para cada j = 1,..., L e j l 1,..., l i 1. Para aumentar a eciência computacional deste método, a ortogonalização dos vetores selecionados v j é feita numa etapa posterior. Assume-se que υ l1,..., υ li 1 já são ortonormalizados e são renomeados como ω l1,..., ω li 1, Antes de apresentar o algoritmo, seguem as denições presentes em (ZHANG, 1997): ũ lk = ω T l k y, k = 1,..., i 1 ũ j = q T j y α ki = v T l i ω lk, k = 1,..., i 1 α ii = ( p T l i p li ) 1 2 (3.21) Após M iterações do algoritmo, os valores de l 1,..., l m são determinados, bem como ũ l1,..., ũ lm (ZHANG, 1997). Precisa-se ainda determinar os valores u l1,..., u lm em: fm(x) = M i=1 u li ϕ l i (x) (3.22) Estes valores u li podem ser obtidos resolvendo o sistema de equações (ZHANG, 1997): onde A é a matriz triangular denida por: A = A[u l1,..., u lm ] T = [ũ l1,..., ũ lm ] T (3.23) α 11 α 12 α α 1M 0 α 22 α α 2M 0 0 α α 3M α M 1M 1 α M 1M α MM (3.24) Algoritmo 5: Seleção de funções PPS-Wavelet por ortogonalização Encontre l 1 arg max j L (v T j y) 2 ; Calcule: ũ l1 v T l 1 y ; ω l1 v l1 ; α 11 1; Para i 2 até M faça ínicio Seja Ii = {j : j = 1,..., L e j l 1,..., l i 1}, Para cada j I i, calcule: p j v j ((v T j ω l1 )ω l (v T j ω li 1 )ω li 1 ), q j (p T j p j ) 1/2 p j Encontre l i arg max j Ii (q T j y) 2 e determine: ũ li q T l i y ; ω li q li 23

25 α ki vl T i ω lk, k = 1,..., i 1 α ii ( ) p T 1 2 l i p li m Resolva a Equação 3.23 para u li, i = 1,..., M. Calcule f M (x) denido pela Equação Código em Matlab: Eliminação de funções PPS-Wavelet Este método começa a regressão com todas as funções PPS-Wavelet do conjunto P, então ele elimina uma função PPS-Wavelet por estágio, enquanto tenta aumentar o resíduo em cada estágio (ZHANG, 1997; QUEIROZ; MARAR; VALSESIA, 2006b). A regressão com todas as funções PPS-Wavelet do conjunto P é denida por: f L (x) = L i=1 u i ϕ i (x) (3.25) onde u i são determinados pelo algoritmo do mínimo quadrado (ZHANG, 1997): [ 1 (u 1,..., u l ) T = (v 1,..., v l ) T (v 1,..., v l )] (v1,..., v L ) T y (3.26) Os resíduos são denidos por: que podem ser denidos segundo a forma vetorial: γ L (k) = y k f L (x k ), k = 1,..., N (3.27) Combinando as Equações 3.26 e 3.28, tem-se: γ L = y (v 1,..., v L ) (u 1,..., u L ) T (3.28) γ T Lγ L = y T y T y T V 0 (V T 0 V 0 ) 1 V T 0 y (3.29) onde a matriz V 0 = (v 1,..., v L ). Com a remoção de uma função PPS-Wavelet, diz-se ϕ j de f L (x), o mesmo cálculo pode ser repetido para retornar um valor similar: γ T L 1γ L 1 = y T y T y T C(υ j V 0 ) ( C(υ j V 0 ) T C(υ j V 0 ) ) 1 C(υj V 0 )y (3.30) onde o operador C é o complemento da matriz, por exemplo, se a matriz U = [U 1, U 2, U 3 ], então C(U 2 U) = [U 1, U 3 ]. O incremento do resíduo causado pela remoção de ϕ j de f L (x) é: J(ϕ j) = γ T L 1γ L 1 γ T Lγ L = y T V 0 (V0 T V 0 ) 1 V0 T y T y T C(v j V 0 ) ( C(vj V 0 ) T C(v j V 0 ) ) 1 C(vj V 0 )y (3.31) 24

26 A remoção da função PPS-Wavelet ϕ j, que minimiza a Equação 3.31, de f L (x), resulta em f L 1 (x). Repita o mesmo procedimento para remover uma outra função PPS-Wavelet de f L 1 (x), e assim por diante. Algoritmo 6: Eliminação de funções PPS-Wavelet- versão 1 Estabeleça o conjunto com as funções PPS-Wavelet: V 0 (v 1,..., v L ); Para i = 1 até L M faça início Seja Ii = {j : j = 1,..., L e j l 1,..., l i 1}; Calcule l i arg max j Ii y T C(v j V i 1 )(Cv j Vi 1Cv T j V i 1 )) 1 ) T y Determine V i C(v li V i 1 ); m Seja I L M+1 {j : j = 1,..., L} e {j l 1,..., l L M }, determine: f M (x) j I L M+1 u j ϕ j(x) com u j os componentes do vetor u denidos por: u (VL M T V L M) 1 VL M T y A computação exigida pelo algoritmo acima é bastante pesada (ZHANG, 1997). Por exemplo, L i + 1 matrizes são necessárias serem invertidas no passo i. Segue abaixo um algoritmo de eliminação de funções PPS-Wavelet mais otimizado, ou seja, este não realiza muitas inversões de matrizes como o algoritmo anterior apresentado. Nesta pesquisa, foi implementado o algoritmo abaixo. Algoritmo 7: Eliminação de funções PPS-Wavelet- versão 2 Estabeleça o conjunto com as funções PPS-Wavelet: V 0 (v 1,..., v L ); Para i 1,..., L M: ínicio Seja I i {j : j = 1,..., L e j l 1,..., l i 1 }; Calcule u (Vi 1V T i 1 ) 1 Vi 1y T onde u é um vetor composto de u j, j I i. Encontre l i arg min j Ii u 2 j. Determine V i C(v j V i 1 ); m Seja I L M+1 {j : j = 1,..., L e j l 1,..., l L M }, determine: f M (x) j I L M+1 u j ϕ j(x) com u j os componentes do vetor u denido por: u ( V T L M V L M) 1 V T L M y. Código em Matlab: 25

27 Capítulo 4 Processamento digital de imagens Uma imagem monocromática pode ser denida como: f(x, y) = brilho = i(x, y) r(x, y) (4.1) onde: (x, y) é o par coordenado da posição do pixel na imagem, seu posicionamento é em termos de linhas e colunas; i(x, y) é a a quantidade de luz incidida sobre o objeto; r(x, y) é a quantidade de luz reetida sobre o objeto. Os valores da iluminância e reetância podem ser: 0 < i(x, y) < 0 < r(x, y) < 1 As Tabelas (4.1) e (4.2) exemplicam os valores da iluminância e reetância (FILHO; NETO, 1999). i(x, y) lux ou lúmen / m Dia ensolarado 100 Dia nublado 10 Iluminação de escritório 0,001 Noite com lua cheia Tabela 4.1: Índices de iluminância r(x, y) 0,93 Neve 0,80 Parede branco-fosca 0,65 Aço inoxidável 0,01 Veludo preto Tabela 4.2: Índices de reetância 26

28 Seguem duas denições importantes sobre imagens (GONZALEZ; WOODS, 1992): Aquisição: consiste no processo de conversão de uma cena tridimensional real em uma imagem analítica. O dispositivo mais utilizado atualmente para essa conversão é uma câmera CCD (Charge Couple Device) que consiste de uma matriz de células fotossensíveis atuando como capacitores que armazena carga elétrica correspondente à intensidade luminosa incidente. O sinal elétrico é conduzido por circuitos especializados, gerando um Sinal Composto de Vídeo (SCV) analítico e monocromático. Digitalização: consiste na discretização espacial e em amplitude, amostragem e quantização respectivamente, do sinal analítico. Na digitalização, a amostragem converte a imagem analítica em uma matriz de M por N pontos, chamados pixels (ou elementos de imagem). I = f(0, 0) f(0, 1)... f(0,n 1) f(1, 0) f(0, 1)... f(0,n 1) f(m 1, 0) f(m 1, 1)... f(m 1,N 1) (4.2) A resolução de uma imagem digital se refere a quantidade de elementos da matriz I. A quantização atribui a cada um destes pixels um valor inteiro de 0 a 2 n -1, quanto maior o valor de n, maior será o número de níveis de cinza presente na imagem. 4.1 Propriedades da imagem digital Sendo os pixels representados por p e q e a imagem representada pela matriz I, seguem abaixo algumas propriedades de uma imagem Vizinhança e amostragem Operações baseadas em vizinhança são de extrema importância no processamento digital de imagens. É necessário a compreensão de como um imagem pode ser amostrada e como se relacionam as várias vizinhanças que são usadas no processamento de imagens. Amostragem Retangular - Funciona como uma grade retangular, como os das Figuras (4.1)(a-c). Amostragem Hexagonal - Uma amostragem alternativa, como ilustrado na Figura (4.1)(d). Tipos de Vizinhança: Vizinhança Diagonal - Os quatro vizinhos diagonais são p(x, y): (x + 1, y 1), (x + 1, y + 1), (x 1, y 1) e (x 1, y + 1), Figura 4.1(b), designado N d (p) 27

29 4-Vizinhança - Os quatro vizinhos de um pixel p(x, y) são os de coordenadas (x + 1, y), (x 1, y), (x, y + 1) e (x, y 1), como na Figura 4.1(a), é designada N 4 (p). 6-Vizinhança - Um exemplo de vizinhança para a amostragem hexagonal, ilustrado na Figura 4.1(d). 8-Vizinhança - é o conjunto formado por N 4 (p) N d (p), representado por N 8 (p), Figura 4.1(c). Figura 4.1: Amostragem e Vizinhança (COSTA; MARAR, 2003b) Conectividade A Conectividade é um conceito importante para estabelecer limites de objetos e componentes de regiões em uma imagem. Dois pixels estão conectados se são vizinhos por algum critério de conectividade e se seus níveis de cinza estão dentro de um certo intervalo de similaridade previamente denido por um conjunto T de valores de tons de cinza. Como exemplo em uma imagem binária, T = {1} para conexão de pixels de valor 1; em uma imagem de múltiplos tons de cinza tem-se que T = {32, 33,..., 63, 64} para conexão de pixels com valores de intensidade de 32 a 64. Critérios de conectividade para 2 pixels, p e q, com valores de tons de cinza contidos em V : 1. "4-conectividade": p e q são 4-conectados se q N 4 (p) 2. "8-conectividade": p e q são 8-conectados se q N 8 (p) 3. "m-conectividade (conectividade mista)": p e q são m-conectados se (a) q N 4 (p) ou (b) q N d (p) e N 4 (p) N 4 (q) = A Figura (4.2) mostra como a m conectividade pode ser usada para evitar a redundância de caminhos entre pixels. 28

30 Figura 4.2: 8-vizinhos (a), m-vizinhos (b) (COSTA; MARAR, 2003b) Adjacência Dois pixels p e q são adjacentes se eles forem conectados. Existe tantos critérios de adjacência quanto critérios de conectividade. Dois subconjuntos de pixels R e S são considerados adjacentes se ao menos um pixel de R é adjacente a um pixel de S. 29

31 Capítulo 5 Detecção de bordas em imagens digitais A melhoria das técnicas já existentes e a criação de novos métodos para se atingir uma robusta segmentação de objetos de uma cena é um tópico de investigação de grande importância, pois esta determina o possível sucesso ou fracasso de sistemas de visão computacional (GONZALEZ; WOODS, 1992). A detecção de características dos objetos das imagens é uma importante etapa para uma eciente segmentação. Em geral, a detecção destas características aproveita a descontinuidade dos níveis de cinza da imagem, isto é, mudanças bruscas nos níveis de cinza da imagem em estudo. Neste trabalho, são apresentados os métodos Canny (CANNY, 1986) e Zero Crossing (MARR; HILDRETH, 1980) baseados em PPS desenvolvidos durante a pesquisa. 5.1 Método Zero Crossing baseado em PPS-Wavelet Neste seção, é apresentada uma nova versão para detecção de borda que utiliza o método Zero Crossing (ZC) de Marr e Hidreth (MARR; HILDRETH, 1980) baseado em funções PPS-Wavelet de Marar (MARAR, 1997) construída durante a pesquisa (QUEIROZ; MARAR; VALSESIA, 2006b). O método ZC de localização de bordas baseia-se na convolução da imagem com o laplaciano de uma função gaussiana bidimensional da forma: ) h(x, y) = exp ( x2 + y 2 2σ 2 (5.1) onde: σ é o desvio padrão e exp( ) é a função exponencial f(x) = e x. Seja r 2 = x 2 +y 2, o laplaciano de h(x, y) é denido por: ( ) ) r 2 2 σ 2 h = exp ( r2 σ 4 2σ 2 (5.2) Este método é bastante indicado em casos em que as bordas forem borradas ou quando um alto conteúdo ruídoso estiver presente na imagem (GONZALEZ; WOODS, 1992). 30

32 Pois, possibilita a localização conável das bordas, ao mesmo tempo em que as propriedades suavizantes de 2 h reduzem os efeitos do ruído. Entretanto, o custo por essas vantagens é o aumento da complexidade e do tempo computacional para o cálculo da Equação 5.2. Neste sentido, investigamos a utilização de funções PPS-Wavelet multi-dimensionais em vez de utilizar o laplaciano da função gaussiana 2 h no método Zero Crossing (QUEIROZ; MARAR, 2006a). A primeira PPS-Wavelet bidimensional de- nida nesta pesquisa é dada por: Ψ 2 (x, y) = 2Υ(x 2 + y 2 ) 3 3Υ(x 2 + y 2 ) 2 + Υ(x 2 + y 2 ) (5.3) Desta forma, denimos o operador ZC PPS-Wavelet para detecção de bordas da imagem I como: Ψ 2 (x, y) I, onde é a operação de convolução Algoritmo 9: Localização de bordas em imagens digitais com o método Zero Crossing baseado em PPS-Wavelet Passo 1: Leitura da imagem a ser processada, I(x, y); Passo 2: Criação de uma máscara S com a função PPS-Wavelet bidimensional Ψ 2 (x, y); Passo 3: Aplicação da máscara S a imagem I(x, y) e obtenção dos pixels de bordas para os quais existe um cruzamento de zero. Código em Matlab: Método Canny baseado em PPS-Radial O método de detecção de bordas Canny (CANNY, 1986) suaviza os ruídos da imagem com a função gaussiana bidimensional denida por: G(x, y) = 1 2πσ 2 exp ) ( x2 + y 2 e localiza as bordas utilizando a derivada primeira desta função dado por: 2σ 2 ) G x2 + y (x, y) = 2 exp ( x2 + y 2 2πσ 4 2σ 2 (5.4) (5.5) Investigamos durante a pesquisa o potencial da função PPS-Radial para localizar bordas baseado no método de Canny (QUEIROZ; MARAR, 2006b), segue abaixo um algoritmo desenvolvido que não utiliza a função gaussiana bidimensional G(x, y) e sim uma função PPS-Radial bidimensional denida por: Ψ(x, y) = Υ(x 2 + y 2 ) 2 + Υ(x 2 + y 2 ) (5.6) 31

33 5.2.1 Algoritmo 10: Localização de bordas em imagens digitais com o método Canny baseado em PPS-Radial Passo 1: Leitura da imagem a ser processada, I(x, y); Passo 2: Criação de uma máscara R com a função PPS-Radial bidimensional Ψ(x, y) Passo 3: Suavização dos ruídos: Cálculo da convolução de R com I, dando origem a Is. Passo 4: Criação de duas máscaras para a diferenciação da imagem suavizada, nas direções x (linha) e y (coluna), denominando-as de Rx e Ry; Rx x.(υ(x 2 + y 2 ) 2 + Υ(x 2 + y 2 )) Ry y.(υ(x 2 + y 2 ) 2 + Υ(x 2 + y 2 )) Passo 5: Convolução da imagem Is com Rx ao longo das linhas, gerando a imagem Ix e, analogamente, ao longo das colunas para gerar Iy; Passo 6: A magnitude é calculada em cada pixel (x, y) na forma que segue: Mag(x, y) I x (x, y) 2 + I y (x, y) 2 Código em Matlab: 32

34 Capítulo 6 Análise de Componentes Principais (PCA) A transformada PCA é também conhecida como transformada de Hotelling. Esta transformada é amplamente utilizada no problema de reconhecimento de faces (KIRBY; SIROVICH, 1990; ROMDHAMI, 1996; CAMPOS, 2000). De modo geral, os métodos de extração de características lineares são denidos como: Y m n = H m M.X M n (6.1) onde: X M n é a matriz de padrões, H m M é a matriz da transformação linear e Y m n é a matriz dos padrões derivados ou transformados, sendo que n é o número de padrões de treinamento e m, M são dimensionalidades de espaços de características (m < M). Foi utilizado neste projeto de pesquisa a transformada PCA para reduzir a dimensão do espaço de imagens, criando novas bases que melhor descrevam as faces neste espaço. Com estas bases, constroem-se os espaços das faces. Abaixo, segue a descrição dos espaços das imagens e faces. De um modo geral, a transformada PCA visou reduzir a dimensionalidade dos padrões de treinamento da Rede Neural PPS-Wavelet. 6.1 Espaço das imagens e faces A imagem de uma face pode ser armazenada em um vetor através da simples concatenação das linhas da imagem, colocando uma após a outra. Tal processo de construção do vetor é chamado de raster. Na Figura 6.1 pode ser visualizado o raster. A dimensão do espaço de faces é menor do que a do espaço das imagens, porque nem todos os pixels das imagens são relevantes para classicação das faces. Existe muita informação redundante no espaço das imagens. 33

35 Figura 6.1: Raster e espaço de imagens (COSTA; MARAR, 2003b) 6.2 Cálculo da transformada PCA O espaço de imagens não é ideal para representar as faces, pois há grande covariância entre as variáveis, ou características. Para se calcular a covariância entre as características, utiliza-se a matriz de covariância dos padrões (CAMPOS, 2000; MARAR, 1991). Dada a matriz de padrões X M n, a matriz C M M de covariância de X M n é obtida por: C M M = (X M n Z M n ).(X M n Z M n ) t (6.2) onde: Z M n é a matriz cujas colunas possuem o valor esperado de X M n, o qual é obtido pela média aritmética das colunas de X M n. Os elementos desta matriz podem ser obtidos da seguinte forma: z l,k = 1 n n i=1 x l,i, l = 1,..., M; k = 1,..., n (6.3) onde x l,i refere-se ao elemento da linha l e coluna i da matriz X M n. O elemento da diagonal principal de C M M, isto é c l,l, l = 1,..., M, representa a variância da característica l dos padrões (x l,i, para todo i = 1,..., n). Em outras palavras, vale dizer que os elementos da diagonal da matriz de covariância se referem 34