Filtro Digital Neural

Transcrição

1 Fltro Dgtal Neural Gulherme a Slvera Insttuto Tecnológco e Aeronáutca Bolssta PIBIC-CNPq E-mal: gulherme_aslvera@yahoo.com.br Rubens e Melo Marnho Jr Departamento e Físca Insttuto Tecnológco e Aeronáutca Brasl E-mal: marnho@ta.br Resumo. O obetvo o presente proeto fo a mplementação e um fltro gtal neural que buscasse snas mpulsvos mersos em ruíos. A ree fo mplementaa utlzano-se a técnca e retropropagação o erro e o programa fo escrto utlzano-se o software MatLab. Palavras chave: processamento e snas rees neuras retropropagação o erro 1. Introução Rees neuras têm so utlzaas nas mas versas áreas o conhecmento. Uma ree neural naa mas é o que a smulação o funconamento o cérebro humano na resolução e problemas. Recentemente progressos têm so obtos na aplcação as rees neuras em processamento e snas. Fltros baseaos em rees multcamaas têm so utlzaos com êxto. No presente proeto utlzou-se o algortmo e retropropagação o erro para mplementar um ree multcamaa genérca one a confguração a ree como número e camaas número e neurônos em caa camaa e taxa e aprzagem poa ser escolha lvremente. A ree então fo utlzaa para smular um fltro gtal que reconhecesse a presença e snas mersos em ruíos. Incalmente a éa era utlzar como snal e entraa a ree os aos o etector e onas gravtaconas ALLEGRO o Grupo e Gravtação Expermental o Departamento e Físca e Astronoma a Lousana Unversty. No entanto evo a fculaes relatvas ao processo e compactação que esses aos everam sofrer os aos e entraa foram substtuíos por um snal mas smples para o qual a compactação pôe ser realzaa. A técnca no entanto teorcamente poe ser aplcaa a qualquer tpo e snal. Tanto os concetos relatvos às rees neuras como os relatvos à aplcação as rees no processamento e snas são apresentaos como em Kovács (1996). Com relação à técnca e compactação os snas a teora apresentaa está como em Mconough (1995). 2. Rees Neuras A técnca as rees neuras está baseaa na tentatva e smulação o comportamento o neurôno bológco cua prncpal característca é a capacae e aprzagem. Bascamente o funconamento o neurôno bológco basea-se na ntegração espacal/temporal os estímulos elétrcos que chegam através os chamaos rtos. O envo e uma resposta pelo neurôno apenas se á quano a ntegração ultrapassar certo valor lmar chamao potencal e ação. Um moelamento matemátco o neurôno bológco é ao por f = g w ( t). x ( t) t (1) T one a resposta o neurôno f é função g chamaa função e atvação o neurôno a ntegração espacal/temporal os estímulos que chegam ao neurôno x austaos pelos pesos snáptcos w urante o ntervalo o tempo T. Uma ree neural multcamaa poe ser esquematzaa como na Fg. 1 que mostra como os neurônos a ree estão lgaos entre s. A fgura mostra que caa neurôno tem como entraa város estímulos (que são as respostas os neurônos a camaa anteror) e como saía apenas um estímulo (que serve como entraa para os neurônos a camaa posteror). Dessa forma um neurôno qualquer está lgao somente com os neurônos as camaas meatamente anteror e posteror. 1

2 Fgura 1. Ree e neurônos artfcas. Os neurônos que recebem retamente as nformações e entraa são chamaos camaa e entraa. A camaa que recebe as respostas a camaa e entraa consttu a seguna camaa e assm por ante. A camaa que á a resposta fnal a ree é a camaa e saía. Quanto ao trenamento e uma ree um métoo ntutvo é o métoo e exemplos. De acoro com esse métoo são apresentaos exemplos e comportamento à ree ou sea a ree recebe etermnaos estímulos e as corresponentes respostas esperaas. Então por meo e um algortmo a ree austa seus pesos snáptcos e forma que para estímulos semelhantes a resposta sea a mesma ou semelhante. Após a fase e trenamento a ree eve ser capaz e ar respostas coerentes a estímulos que não fzeram parte o trenamento Rees neuras no processamento e snas Para a construção e um fltro gtal utlzano-se a técnca as rees neuras poe-se trenar uma ree multcamaa que terá como entraa toos os pontos a sére temporal assocaos a caa um os snas e como saía as categoras em que os snas evem ser classfcaos. De forma sucnta a construção e um fltro utlzano-se técncas e rees neuras compree os seguntes passos: - Parametrza-se o snal e forma aequaa. Os parâmetros escolhos evem ser tas que possbltem a classfcação o moo mas fácl o snal pela ree. Além sso o número e parâmetros passaos à ree eve ser o menor possível sem no entanto comprometer as característcas o snal; - Escolhe-se um conunto e snas representatvos para o trenamento a ree. Essa escolha poe nterferr sgnfcatvamente no esempenho a ree; - O conunto e snas e trenamento é processao para gerar o conunto e parâmetros efnos no prmero tem. Estes serão os aos e entraa a ree; - Escolhe-se uma arqutetura e ree e acoro com os snas a serem processaos; - Trena-se a ree; - Avala-se o seu esempenho com um outro conunto nepente. 3. Algortmo e retropropagação o erro O prncípo e funconamento o algortmo e retropropagação o erro o qual fo utlzao neste proeto consste em etermnar os parâmetros w que representam os pesos snáptcos os neurônos que mnmzem o erro quarátco relatvo a um conunto e trenamento. Para tanto as atualzações os parâmetros a ree são fetas na reção oposta ao graente a função erro E(w). Conserano-se uma ree multcamaa com n neurônos na camaa e saía e ao um conunto e trenamento com L exemplos que a caa vetor e entraa x l relacona a resposta esperaa y l o erro cometo após a passagem e um exemplo l o conunto é ao por n ( ) 2 l l S l S l S = 1 Ew ( ) = y y = y y 2 (2) one y l é a resposta a ree para o exemplo e o ínce S representa o ínce os neurônos a camaa e saía. A atualzação e caa parâmetro w os neurônos a camaa e saía fca 2

3 wk ( + 1) = wk ( ) η Ewk ( ( )) (3) w one η chamao taxa e aprzagem representa o tamanho o passo que se ará na reção oposta ao graente a função erro. A éa acma poe ser generalzaa para as camaas anterores à camaa e saía. Para tanto os parâmetros e caa neurôno serão entfcaos por w m m ( m 1) one: - m é o ínce a camaa; - m = 12...Jm é o ínce o neurôno na m-ésma camaa e a sua respectva saía; - (m-1) = 12...J(m-1) é o ínce a componente o vetor e entraa o neurôno. Dessa manera poe ser provao que para uma ree cua função e atvação é g a atualzação os parâmetros w fca w ( k + 1) = w ( k) + 2ηδ x (4) m m ( m 1) m m ( m 1) m l ( m 1) l one J ( m 1) g( h m ) m l ( m 1) lwm 1 ( m 1) m = + δ δ (5) ( m+ 1) = 1 h m são os erros relatvos a caa camaa. Analsano a Eq. (5) nota-se que a atualzação os parâmetros a camaa m epe os valores os δ ( m+ 1) a camaa (m+1) ou sea as atualzações são fetas a partr os erros as camaas posterores. Daí o nome retropropagação o erro para o algortmo. 4. Compactação o snal e entraa Em função e os aos e entraa apresentarem mensões razoáves para mnur o tempo e processamento a ree fo feta a compactação esses aos entes os mesmos serem lançaos na ree. A técnca escolha para compactação os aos fo a chamaa Transformaa e Kahrunen-Loeve (KL). Essa técnca consste em representar um snal x(t) no ntervalo 0 t T com um número mínmo e coefcentes e forma que a pera as característcas o snal sea mínma. Matematcamente essa pera se trauz no erro quarátco a aproxmação em relação ao snal orgnal. A transformaa e KL consste em encontrar os coefcentes x tal que n x( t) x ( t) = x φ ( t) (6) n = 1 one φ são as funções-base a aproxmação. Matematcamente prova-se a segunte relação T R( t t ) φ ( t ) t = λ φ ( t) (7) 0 one R(tt ) é a função e correlação as caráves x(t) e x(t ) e λ é a varânca a varável x. Dessa forma as funções φ (t) são as autofunções o núcleo R(tt ) e os números λ são os corresponentes autovalores. Após o cálculo e toas as φ (t) os coefcentes x são obtos por x T = φ () txtt () (8) 0 3

4 Após a obtenção os coefcentes x o snal orgnal é substtuío apenas pelos coefcentes cuos autovalores a função e correlação são sgnfcatvos. 5. Rotna para smular o fltro A rotna utlzaa para trenar a ree escrta no software MatLab cra os snas e entraa (snal cossenoal amorteco) faz a compactação esses snas cra o conunto e exemplos e em segua oga esses exemplos na ree e acoro com a confguração escolha para a ree. Essa rotna é mostraa abaxo. % Trenamento o fltro gtal clear t = 0:0.1:10; N = 12; % Amostra temporal % Numero e coefcentes a expansao e KL % Construçao os ferentes snas nsnal = 1; nruo = 1; for lamba = 0.1:0.1:0.5 for omega = 1:10:51 f{nsnal} = exp(-lamba*t).*cos(omega*t); nsnal = nsnal + 1; % Snal % Construçao os ferentes ruos for alfa = 0.1:0.01:0.39 n{nruo} = alfa*rann(1length(t)); nruo = nruo + 1; % Ruo % Determnnaçao os coefcentes e KL for = 1:30 clear R AV D; % Calculo a matrz e covaranca R = xcov(f{}); lenr = length(r); R = R( fx(lenr/2)+1: lenr); R = toepltz( R ); [AVD]=eg(R); % Os maores autovalores fcam no canto nferor reto e D % Vamos muar a poscao os autovetores na matrz V e tal forma que % Os autovalores corresponentes fquem no lao superor esquero e D AV = flplr(av); D = rot90(d2); % % Calculo os coefcentes a expancao % cf{} = f{}*av(:1:n); cn{} = n{}*av(:1:n); % Craçao o snal + ruo for = 1:2:29 s{} = cf{} + cn{}; s{+1} = cn{+1}; 4

5 % Trenamento a ree % Numero e exemplos Nex = 80000; % Craçao os exemplos for = 0 : Nex-1 X(:+1) = s{mo(30)+1}'; f mo(+12) == 1; Y(+1) = 1; else Y(+1) = 0; % Trenamento a ree com os exemplos craos % Implementaçao e uma ree neural multcamaa utlzano % a tecnca a retropropagaçao % Funçao e atvaçao sera a tangente hperbolca eta = 0.1; % Taxa e aprzao M = 2; % Numero e camaas a ree Jm = [25 1]; % Numero e neuronos em caa camaa En = [12 25]; % Numero e entraas os neuronos em caa camaa % Incalzaçao os parametros a ree com valores aleatoros for m = 1 : M W{m} = ran ( Jm(m) En(m) ); % Trenamento a ree com um conunto com L exemplos % A atualzaçao os parametros eh feta apos a apresentaçao e caa exemplo L = length( X ); for l = 1 : L % Trena a ree com caa exemplo l X = X( : l ); % Daos e entraa o exemplo l V{1} = W{1} * X; % Resultao a combnaçao lnear os aos e entraa na prmera camaa U{1} = tanh(v{1}); % Resultao a funçao e atvaçao os neuronos a prmera camaa for m = 2 : M % Calcula toas as saas a ree a partr a seguna camaa V{m} = W{m} * U{m-1}; U{m} = tanh ( V{m} ); Y = U{M}; % Y eh a resposta fnal a ree E = (Y - Y(:l))'*(Y - Y(:l)); % Erro para uma aa realzacao a ree com pesos W elta{m} = (Y(:l)-Y).*(sech(V{M}).^2); % Calculo os eltas a camaa e saa W{M} = W{M} + 2*eta*elta{M}*U{M-1}'; % Atualzaçao os parametros a camaa e saa for m = M -1 : -1 : 1 % Calculo os eltas as camaas com exceçao a camaa e saa elta{m}=w{m+1}'*elta{m+1}.*(sech( V{m} ).^2); f m == 1 % Atualzaçao os parametros a prmera camaa W{m} = W{m} + 2*eta*elta{m}*X'; else % Atualzaçao os parametros as camaas nternas W{m} = W{m} + 2*eta*elta{m}*U{m-1}'; De acoro com a rotna acma são craos 30 snas ferentes varano a frequênca e o amortecmento o snal. São também craos 30 ruíos ferentes varano a ampltue o ruío. Desses 30 conuntos snal + ruío craos 15 foram utlzaos no trenamento a ree e os outros 15 foram utlzaos como um conunto nepente para testar o esempenho a ree. Além sso após a compactação snas com 101 coefcentes foram aproxmaos por apenas 12 coefcentes o que é uma mnução conserável na mensão os snas. Durante a etapa e trenamento a ree foram testaas versas confgurações varano-se a taxa e aprzagem o número e camaas o número e neurônos em caa camaa e o número e exemplos passaos à ree. A resposta a ree evera ser 1 no caso a presença e snal no snal e entraa e 0 no caso e apenas ruío no snal e entraa. 5

6 6. Resultaos e conclusões Prosseguno-se ao trenamento a ree verfcou-se que os resultaos varam bastante e acoro com a confguração a ree. Dessa forma essa é uma etapa crucal na aplcação a técnca as rees neuras à resolução e problemas. Utlzano-se uma ree com apenas 2 camaas a prmera com 5 neurônos e a seguna com 1 neurôno com uma taxa e aprzagem gual a 03 e trenano-se a ree com 1500 exemplos obteve-se um resultao razoável urante os testes o qual é mostrao na Tab. 1. Essa tabela mostra a resposta a ree aos snas e entraa o conunto e testes apresentao. Tabela 1. Resultaos para uma ree com 5 neurônos na camaa e entraa trenaa com 1500 exemplos. Snal + ruío Ruío Snal + ruío Ruío Fazo testes com confgurações versas a ree outro resultao razoável fo obto com uma ree com 2 camaas conto 25 neurônos na camaa e entraa e 1 na camaa e saía. Dessa vez a taxa e aprzagem fo e 01 e o número e exemplos fo As respostas a ree para o conunto e testes são mostraas na Tab. 2 abaxo. Tabela 2. Resultaos para uma ree com 25 neurônos na camaa e entraa trenaa com exemplos. Snal + ruío Ruío Snal + ruío Ruío Analsano-se as tabelas acma percebe-se que os resultaos o trenamento a ree são razoáves embora tenham ocorro algumas screpâncas. Uma essas screpâncas está relaconaa com o número e resultaos negatvos relatvamente alto. Vê-se que alguns os resultaos se aproxmam e 1 quano everam se aproxmar e 1. Esse fato é mas freqüente na ree com 26 neurônos. No entanto há a possblae e esses screpâncas mnuírem bastano para sso tornar o trenamento a ree mas efcente. Os resultaos apresentaos acma lustram a mportânca a fase e trenamento e uma ree neural. Toos os parâmetros envolvos como número e neurônos taxa e aprzagem e número e exemplos nfluencam fortemente no esempenho a ree. Além sso mostrou-se que no processamento e snas a transformaa e KL poe mnur conseravelmente a mensão os snas o que reuz também o tempo e processamento. Poe-se zer fnalmente que a técnca as rees neuras mas especfcamente a ree neural construía no presente proeto tem grane aplcablae na construção e fltros para snas ese que o processo e trenamento a ree sea aequao aos snas que serão processaos. 7. Agraecmentos Para a realzação este proeto foram essencas a aua e a colaboração o Professor Dr. Rubens e Melo Marnho Junor o Departamento e Físca o Insttuto Tecnológco e Aeronáutca Agraeço também ao aluno Euaro Vla Real Mes o Insttuto Tecnológco e Aeronáutca cuo proeto e Incação Centífca e contnuae. Fnalmente agraeço ao CNPq pelo ncentvo à proução centífca no Brasl permtno que estuantes unverstáros tenham um contato mas próxmo com as pesqusas centífcas e ano a oportunae a esses estuantes e fazerem publcações os trabalhos realzaos. 8. Referêncas Kovács Z.L. (1996) Rees Neuras Artfcas: Funamentos e Aplcações; 2ª e. ; Eção Acaêmca; São Paulo; 1996 Mconough Robert N. ; Whalen Anthony D. Detecton of Sgnals n Nose; 2ª e. ; Acaemc Press; San Dego;