UMA NOVA METODOLOGIA PARA TREINAMENTO EM REDES NEURAIS MULTI CAMADAS



Documentos relacionados
IND 1115 Inferência Estatística Aula 9

CAPÍTULO 9 - Regressão linear e correlação

Capítulo 1: Erros em cálculo numérico

Faculdade de Economia, Administração e Contabilidade de Ribeirão Preto

Análise de Regressão

Requisitos metrológicos de instrumentos de pesagem de funcionamento não automático

A REGRESSÃO LINEAR EM EVENTOS HIDROLÓGICOS EXTREMOS: enchentes

CAPÍTULO 2 - Estatística Descritiva

APLICAÇÕES DE MÉTODOS DE ENERGIA A PROBLEMAS DE INSTABILIDADE DE ESTRUTURAS

Estudo das relações entre peso e altura de estudantes de estatística através da análise de regressão simples.

Estatística Notas de Aulas ESTATÍSTICA. Notas de Aulas. Professor Inácio Andruski Guimarães, DSc. Professor Inácio Andruski Guimarães, DSc.

MA12 - Unidade 4 Somatórios e Binômio de Newton Semana de 11/04 a 17/04

INTRODUÇÃO ÀS PROBABILIDADES E ESTATÍSTICA

Algoritmos de Interseções de Curvas de Bézier com Uma Aplicação à Localização de Raízes de Equações

MAE116 Noções de Estatística

PROCEDIMENTOS DE CÁLCULO DE INCERTEZA DE MEDIÇÃO EM MEDIÇÕES DIRETAS E INDIRETAS

FINANCIAMENTOS UTILIZANDO O EXCEL

2 Estrutura a Termo de Taxa de Juros

CAPÍTULO 5 - INTRODUÇÃO À INFERÊNCIA ESTATÍSTICA

Econometria: 4 - Regressão Múltipla em Notação Matricial

2 Avaliação da segurança dinâmica de sistemas de energia elétrica: Teoria

Olá, amigos concursandos de todo o Brasil!

2. INTRODUÇÃO AOS MÉTODOS FACTORIAIS

CVT: Coeficiente de Variação de Thorndike CVQ: Coeficiente Quartílico de Variação MEDIDAS DE ASSIMETRIA

Capitulo 8 Resolução de Exercícios

Técnicas de Estimação no Âmbito da Pós-estratificação

Unidade II ESTATÍSTICA

APOSTILA DA DISCIPLINA INFERÊNCIA ESTATÍSTICA I

Capítulo 1 PORCENTAGEM

Educação e Pesquisa ISSN: revedu@usp.br Universidade de São Paulo Brasil

Matemática. Resolução das atividades complementares. M18 Noções de Estatística

Nota Técnica n o 037/2013-SRG/ANEEL. Em 17 de maio de Processo: /

É o grau de associação entre duas ou mais variáveis. Pode ser: correlacional ou experimental.

ActivALEA. ative e atualize a sua literacia

APOSTILA DE ESTATÍSTICA APLICADA A ADMINISTRAÇÃO, ECONOMIA, MATEMÁTICA INDUSTRIAL E ENGENHARIA

13 ESTIMAÇÃO DE PARÂMETROS E DISTRIBUIÇÃO AMOSTRAL

Econometria: 3 - Regressão Múltipla

Uma Calculadora Financeira usando métodos numéricos e software livre

Cálculo de média a posteriori através de métodos de integração numérica e simulação monte carlo: estudo comparativo

Estudo do intervalo de confiança da regressão inversa utilizando o software R

1 SISTEMA FRANCÊS DE AMORTIZAÇÃO

EVAPOTRANSPIRAÇÃO DE REFERÊNCIA UTILIZANDO MÉTODOS DE TANQUE CLASSE A PROPOSTOS PELA FAO, NA REGIÃO DE MOSSORÓ, RN

SUMÁRIO GOVERNO DO ESTADO DO CEARÁ. Cid Ferreira Gomes Governador. 1. Introdução Domingos Gomes de Aguiar Filho Vice Governador

Capítulo 6 - Centro de Gravidade de Superfícies Planas

Perguntas Freqüentes - Bandeiras

RESUMO DE MATEMÁTICA FINANCEIRA. Juro Bom Investimento C valor aplicado M saldo ao fim da aplicação J rendimento (= M C)

Palavras-Chave: Teoria das Restrições, Decisões a Longo Prazo, Simulação de Monte Carlo.

MODELO DE ISING BIDIMENSIONAL SEGUNDO A TÉCNICA DE MATRIZ DE TRANSFERÊNCIA

CAP. I ERROS EM CÁLCULO NUMÉRICO

BUSCA HARMÔNICA DINÂMICA AUTO-AJUSTÁVEL APLICADA À PARAMETRIZAÇÃO MULTIOBJETIVO DE CONTROLADORES

Macroeconometria Aula 3 Revisão de estatística e teste de hipótese

UERJ CTC IME Departamento de Informática e Ciência da Computação 2 Cálculo Numérico Professora Mariluci Ferreira Portes

Métodos iterativos. Capítulo O Método de Jacobi

Distribuições Amostrais. Estatística. 8 - Distribuições Amostrais UNESP FEG DPD

Exercício 1. Quantos bytes (8 bits) existem de modo que ele contenha exatamente quatro 1 s? Exercício 2. Verifique que

Cap. 5. Testes de Hipóteses

Objetivos da aula. Essa aula objetiva fornecer algumas ferramentas descritivas úteis para

Prof. Lorí Viali, Dr. PUCRS FAMAT: Departamento de Estatística Prof. Lorí Viali, Dr. PUCRS FAMAT: Departamento de Estatística

UFRGS MATEMÁTICA

Teoria da Amostragem

Professor Mauricio Lutz REGRESSÃO LINEAR SIMPLES. Vamos, então, calcular os valores dos parâmetros a e b com a ajuda das formulas: ö ; ø.

Notas de aula da disciplina Probabilidade e Estatística

Capítulo 5: Ajuste de curvas pelo método dos mínimos quadrados

Marília Brasil Xavier REITORA. Prof. Rubens Vilhena Fonseca COORDENADOR GERAL DOS CURSOS DE MATEMÁTICA

Professor Mauricio Lutz ESTATÍSTICA BÁSICA

PUCRS FAMAT DEPTº DE ESTATÍSTICA ESTATÍSTICA DESCRITIVA SÉRGIO KATO

Notas em Matemática Aplicada 9

Estatística: Aplicação ao Sensoriamento Remoto SER ANO Estimação Pontual

M = C( 1 + i.n ) J = C.i.n. J = C((1+i) n -1) MATEMÁTICA FINANCEIRA. M = C(1 + i) n BANCO DO BRASIL. Prof Pacher

Neste capítulo pretende-se introduzir o conceito de centróide, em especial quando aplicado para o caso de superfícies planas.

MEDIDAS DE POSIÇÃO: X = soma dos valores observados. Onde: i 72 X = 12

Projeto e Análise de Algoritmos Recorrências. Prof. Humberto Brandão

Em muitas situações duas ou mais variáveis estão relacionadas e surge então a necessidade de determinar a natureza deste relacionamento.

1.5 Aritmética de Ponto Flutuante

Projeto de rede na cadeia de suprimentos

Cursos de Licenciatura em Ensino de Matemática e de EGI. Teoria de Probabilidade

Em atendimento à solicitação de V.Sa., apresentamos, na seqüência, os resultados do estudo referenciado.

Monitoramento ou Inventário Florestal Contínuo

ELECTROTECNIA TEÓRICA MEEC IST

? Isso é, d i= ( x i. . Percebeu que

Revisão de Estatística X = X n

Introdução ao Estudo de Sistemas Lineares

3 Precificação de resseguro

Introdução à Teoria dos Números Notas 1 Os Princípios da Boa Ordem e de Indução Finita Prof Carlos Alberto S Soares

s: damasceno.info www. damasceno.info damasceno.

CENTRO UNIVERSITÁRIO DO LESTE DE MINAS GERAIS - UnilesteMG

Total Bom Ruim Masculino

TEORIA DE ERROS * ERRO é a diferença entre um valor obtido ao se medir uma grandeza e o valor real ou correto da mesma.

Equações Diferenciais Lineares de Ordem n

MAE0229 Introdução à Probabilidade e Estatística II

Complexidade Computacional da Determinação da Correspondência entre Imagens

Confiabilidade Estrutural

A Medição e o Erro de Medição

Interpolação. Exemplo de Interpolação Linear. Exemplo de Interpolação Polinomial de grau superior a 1.

Prof. Dr. Marco Antonio Leonel Caetano Projeção de Cenários Aplicados ao Orçamento Empresarial Com revisão das Ferramentas de Estatística

OTIMIZAÇÃO DE UMA COLUNA DE DESTILAÇÃO V-104 STABILIZER DE PRODUÇÃO DE LPG - GÁS LIQUEFEITO DE PETRÓLEO CAMPO PETROLÍFERO DO MALONGO/CABINDA/ANGOLA

CAPÍTULO III - POLINÔMIOS DE JACOBI E QUADRATURA NUMÉRICA

MEDIDAS DE TENDÊNCIA CENTRAL I

AVALIAÇÃO DOS PROGRAMAS DE PÓS-GRADUAÇÃO EM ENGENHARIA DA UFRJ EMPREGANDO UMA VARIANTE DESENVOLVIDA DO MÉTODO UTA

ESTATÍSTICA MÓDULO 2 OS RAMOS DA ESTATÍSTICA

Transcrição:

UMA OVA METODOLOGIA PARA TREIAMETO EM REDES EURAIS MULTI CAMADAS Luz Carlos C. Pedroza Pedroza@cefet-rj.br CEFET-RJ Av. Maracaã, 229 Ro de Jaero, CEP 2027-0 Carlos E. Pedrera pedrera@ele.puc-ro.br DEE PUC-RIO CP.: 38063 Ro de Jaero, CEP 22452-970 RESUMO : este artgo apreseta-se uma metodologa de apredzado supervsoado ão usual baseada em um operador, batzado de Operador de Extesão. As redes euras multcamadas são abordadas sob a ótca deste operador, produzdo algumas vatages em comparação aos algortmos de treameto tradcoas, além de uma vsão sstematzada de algumas questões de grade mportâca como geeralzação e corporação de formação a pror. o algortmo proposto o úmero de parâmetros a ser estmado é feror ao algortmo de Retropropagação, propcado assm, etre outras vatages, uma maor probabldade de geeralzação. É apresetado um cojuto de resultados umércos. A e Methodology for Trag Multlayer eural etors Abstract: I ths paper a o-covetoal methodology for supervsed learg proposed. Multlayer eural etors are approached by usg a e operator, the exteso operator, producg some advatages. Furthermore, t troduces a systematc ve of some very mportat subjects, le geeralzato ad a pror oledge corporato. I the proposed algorthm a smaller umber of estmated parameters s eeded, creasg the probablty of geeralzato. Some umercal results are preseted. ITRODUÇÃO Os esquemas de apredzado através de exemplos, que fudametam a aqusção de cohecmeto em redes euras, podem ser eteddos como uma busca sstemátca de um mapeameto que recostrua satsfatoramete o ambete Este trabalho fo parcalmete facado pela CAPES através de bolsa de doutorado, e pelo CPq, através de bolsa de produtvdade em pesqusa, coceddas aos autores. Artgo Submetdo em 5/2/998 a. Revsão em 3/05/999; 2a. Revsão em 22/0/999 Aceto sob recomedação da Eda. Cosultora Profa. Dra.Sadra Aparecda Sadr gerador. O que se procura, do poto de vsta fucoal, é um mapeameto, detro de um cojuto de mapeametos hpótese, que mmze uma medda de dstâca etre uma fução geradora descohecda e esta hpótese. A efcêca de um esquema de apredzado pode ser assocada a três questões fudametas: a uma escolha de um cojuto de hpóteses G aproprado ao problema em questão; à dspobldade de um cojuto de exemplos que coteha formação sufcete sobre o mapeameto que se deseja recostrur; e a um esquema efcete de busca da melhor hpótese g detro de um cojuto G. Em geral, a utlzação adequada de cohecmeto prévo de algumas característcas do mapeameto que se deseja recostrur, permte obter uma solução melhor. Esta possbldade de corporar cohecmeto a pror fo orgalmete desevolvda em Abu-Mostafa (994) e Abu- Mostafa (995) através da dução de Sugestões (Hts). Através desta metodologa, é possível usar o cohecmeto a pror para amplar artfcalmete o cojuto de exemplos que compõe o cojuto de treameto e também para drecoar a busca o cojuto de hpóteses G. Por exemplo, sabedo-se de atemão que uma fução que se deseja recostrur é uma fução par, pode-se adcoar uma espéce de pealdade toda vez que a fução hpótese for ímpar, ou gerar um cojuto adcoal de exemplos artfcas (Abu-Mostafa, 994; Abu- Mostafa, 995). Em ambos os casos, se está sugestoado o drecoameto o espaço de busca. A metodologa proposta este artgo basea-se em um operador orgalmete troduzdo em Pedroza (997), o Operador de Extesão. A partr deste, pretede-se, etre outros objetvos, fometar a dscussão de algus aspectos relatvos à corporação de formação a pror em redes euras. O Operador de Extesão, peça cetral deste artgo, será formalmete defdo a seção 2. A déa fudametal é defr um operador T:[B M P] P que mapee um poto (b, I, f) em uma fução f aum, ode: SBA Cotrole & Automação Vol. o. 0 / Ja., Fev., Mar, Abrl de 2000 49

() O cojuto de fuções (o Espaço Produto Itero(aylor e Sell, 982) P) b B é batzada como Base de Extesão do Cojuto de Bases B. () Qualquer combação lear das fuções de uma Base de Extesão b pertece ao espaço de produto tero P. () O tervalo I, do cojuto de tervalos(bartle, 966) M, é o cojuto de potos ode a fução f é prevamete cohecda. Como ver-se-a a seqüêca, quado o cojuto de exemplos (f,i) cotém uma quatdade sufcete de formação e o cojuto de fuções b B é adequadamete escolhdo, a fução f aum gerada pelo Operador de Extesão mostra-se uma boa recostrução da fução f orgal. O problema que se apreseta este poto, é o de como fazer uma escolha adequada da base de extesão b. Este problema é abordado a seção 3. Verfcar-se-a que a partr de um cohecmeto a pror do cojuto de hpóteses G, é possível efetuar uma escolha aproprada do cojuto de bases B. Será mostrado que se pode buscar a Base de Extesão b que faça uma recostrução otmzada da fução f. a seção 4, apreseta-se uma abordagem para redes euras multcamadas (Rumelhart et al, 986; Hay S., 999) sob a ótca do Operador de Extesão. A déa cetral parte da verfcação de que uma rede eural em camadas pode ser vsta como uma represetação em grafo de fuções o cojuto magem de um operador. Este operador, dervado do Operador de Extesão e ttulado Operador de Extesão Projeção, será defdo a próxma seção. Esta aaloga etre Operador de Extesão Projeção e redes euras permtrá que se escolha cojutos de hpóteses G aproprados. Embora redes euras teham alcaçado bastate sucesso em aplcações as mas dversas áreas do cohecmeto, relatvamete pouco se pode ecotrar a lteratura com respeto a desevolvmetos teórcos. Este artgo pretede apresetar resultados com algum grau de rgor com a teção de cotrbur este aspecto. a seção 5, apreseta-se algus resultados umércos e a seção 6 é reservada às coclusões e observações fas. 2 O OPERADOR DE EXTESÃO Seja f uma fução defda sobre o domío M, D(f) = M. Seja h uma fução defda sobre o subcojuto I M, D(h) = I. Se h(x) = f(x) para todo x I, etão h é dta uma restrção de f em I; deomada f I. Por outro lado, seja f I uma fução defda sobre o domío I. Uma fução g tal que I D(g) e g(x) = f(x) para todo x I é dta uma extesão de f I ; g = f aum (aylor e Sell, 982). ote-se que ão ecessaramete f aum = f. A partr destas defções, é possível estabelecer um operador, o Operador de Extesão, que realzará a extesão de uma restrção f I em uma fução f aum, baseado-se para sto em algumas sugestões que, se forem sufcetemete cosstetes, farão que a f aum seja uma recostrução satsfatóra da fução f orgal. Seja P um Espaço Produto Itero de fuções defdas sobre o suporte M. Seja M uma álgebra de tervalos (Bartle, 966) gerada por subtervalos de M. Seja B = { b: W} um b = e ( ; : A ode cojuto de bases de extesão { } cada base é um cojuto de fuções em P. Sejam W e A cojutos de ídces aproprados para dexar os elemetos de B e as fuções das bases de extesão. Defe-se uma matrz G e um vetor H tal que seus elemetos são dados por: e ( ; ), e ( ; respectvamete. e Defção D-: Se o sstema j I f, e ( ; Gb ( ) θ ( b) = Hb ( ), (2.) tver solução úca, o Operador de Extesão T:[B M P] P pode ser defdo o poto (b, I, f) como: f ( x) se x I T( b, I, f )( x) θ ( ) e ( ; x) se A Defção D-2: I x M I Sob as mesmas hpóteses pode-se defr, o poto em questão, o Operador de Extesão Projeção T*:[B M P] P como: T *( b, I, f ) θ ( ) e ( ;. (2.2) A Observe-se que os operadores da defção D- e D-2 operam a restrção de f defda sobre o tervalo I (deomada f I ), já que o produto tero ; I é calculado cosderado as fuções com valor ulo fora deste tervalo. ote-se também, que sugestões de como proceder à extesão são passadas para os operadores através de um cojuto de fuções, as Bases de Extesão. Caso a Base de Extesão seja bem escolhda a fução f aum será uma boa recostrução da fução f. O Operador de Extesão e o Operador de Extesão Projeção foram desevolvdos (Pedroza, 997; Pedroza e Pedrera, 998) de forma que caso as fuções que compõem a Base de Extesão b sejam ortogoas etre s sobre um tervalo M, etão, para qualquer cojuto de escalares α, Tb (, I, f) T*( b, I, f) M Tb (, I, f) α e( ; A M (2.3) A partr de 2.3, é possível verfcar que T*(b,I, f) é a projeção ortogoal de T(b,I,f) o espaço expaddo pelas fuções da Base de Extesão b. Esta propredade justfca a deomação do Operador de Extesão Projeção. o caso das fuções da Base de Extesão ão serem ortogoas etre s só é possível garatr que f θ ( ) e ( ; ode, de acordo com 2.2, f α e ( ; α C (2.4) 50 SBA Cotrole & Automação Vol. o. 0 / Ja., Fev., Mar, Abrl de 2000

A θ. ( ) e ( ; T * ( b, I, f ) = A equação 2.4 mplca que a solução do sstema 2. forece a combação lear das fuções que compõem a base de extesão b que melhor aproxma a fução f o tervalo I, ode ela é prevamete cohecda. Pode-se etão coclur que, dferete ao uso de uma Base de Extesão b ou de uma Base de Extesão composta da ormalzação das fuções da base b, a fução mapeada pelo Operador de Extesão é a mesma. De um poto de vsta formal, correspodera a afrmar que os operadores realzam uma ormalzação préva das fuções que compõem a base de extesão. Para lustrar a capacdade de recostrução do Operador de Extesão e a relevâca da escolha aproprada da Base de Extesão, supoha-se um exemplo de uma fução f = α e, que se sabe ser defda sobre o suporte M. Cohece-se apeas sua restrção sobre o tervalo I. Ao escolher-se uma Base de Extesão b que coteha todas as fuções e que compõem o somatóro descrtvo de f, se esta base garatr a ucdade de solução do sstema 2., etão, pela equação 2.3, f aum (b)=f. Por este exemplo, percebe-se que a capacdade de recostrução do Operador de Extesão está tmamete relacoada com a escolha aproprada da Base de Extesão. Para fazer-se uma escolha aproprada da base de extesão, fo ecessára uma boa sugestão sobre a fução f; o caso o cohecmeto prévo da fução. Cotudo, geralmete a sugestão que se dspõe costtu-se o cohecmeto prévo do cojuto G ao qual a fução f pertece. Baseado-se este cohecmeto, em algus casos, é possível fazer a escolha de um cojuto de Base de Extesão B que faça com que o cojuto magem de T(B,I, guale-se a G; R(T(B,I,) = G. Ao fazer-se esta escolha certamete uma das bases de extesão de B recostrurá a fução f satsfatoramete. Etretato, devdo à exstêca de um compromsso etre a cardaldade das Base de Extesão de B e o tervalo I, a fm de satsfazer ucdade de solução do sstema 2., geralmete só é permtdo escolher-se um B tal que R(T(B,I,) G. Com a faldade de lustrar este coceto, supoha que se saba de atemão que a fução f, que se deseja recostrur, é um sal com espectro de freqüêca lmtado em max. Escolhedo-se um cojuto B de todas as Bases de Extesão possíves compostas por cojutos de Z fuções seodas com freqüêca máxma max, ada ão se pode garatr que f R(T(B,I,). Etretato, pode-se perceber que algumas Base de Extesão rão realzar uma boa recostrução de f, pelo meos detro de um tervalo Q ode I está cotdo. Aumetado-se Z, aumeta-se a probabldade de f pertecer a magem do operador, cotudo, aumeta-se também a probabldade do sstema 2. ão ter solução úca. É esperado que uma Base de Extesão produza uma boa recostrução da fução f detro do tervalo I, e também para os potos exteros a este tervalo, stuados próxmos a sua frotera. As smulações apresetadas ao fal deste artgo apresetam este comportameto. O tamaho dos tervalos exteros ao tervalo I, para os quas é possível obter-se um bom resultado, está dretamete lgado a escolha de B. É mportate ressaltar que esta escolha reflete a exstêca e qualdade de corporação de cohecmeto a pror. Como era esperado, a adção adequada de cohecmeto a pror propca uma melhora a capacdade de geeralzação. 3 ALGORITMO DE ESCOLHA DA BASE DE EXTESÃO ÓTIMA O problema da escolha da Base de Extesão em B que possblta uma melhor recostrução da fução f pode ser formulado do segute modo: Problema m f T *( b, I, f ) b B. I ode B é o cojuto de Bases de Extesão pertecetes à mesma famíla e obtdas pela varação de em W. É possível solucoar este problema recursvamete, varadose em W, de forma a buscar-se uma ova Base de Extesão b (+) em B, tal que f θ ( ( )) e ( ( + ); f θ ( ( )) e ( ( ); (3.) Se as fuções que compõem as Bases de Extesão forem dferecáves o argumeto, pode-se utlzar o algortmo do gradete descedete para realzar esta busca em B. este caso, o cálculo do ovo (+) é efetuado da segute forma: ( + ) = ( ) f θ( ( )) e( ( ), η ( ) ode 0 < η <. (3.2) De posse da ova base b (+), utlza-se o sstema 2. para calcular o ovo espectro θ(b (+) ). A partr da equação 2.3 pode-se garatr (Pedroza, 997) que: f θ ( ( + )) e ( ( + ); f θ ( ( )) e ( ( + ); (3.3) Percebe-se que, em cada teração, prmeramete busca-se, varado-se apropradamete em W, um ovo cojuto de fuções o qual a combação lear, dada pelo cojuto de pesos θ(b () ), reduz a fução de custo. Em seguda calcula-se, através do sstema 2., uma ova combação lear para estas fuções que reduza ada mas a fução de custo. Este algortmo é descrto a segur de forma esquemátca. Algortmo proposto ) Faça =0 e calze o vetor de parâmetros (). b resolvedo o sstema 2.. 2) Calcule o espectro θ ( ) ( ) SBA Cotrole & Automação Vol. o. 0 / Ja., Fev., Mar, Abrl de 2000 5

3) Calcule as dervadas f θ e ( ( )) ( ( ), ) δ = ( ) cosderado o espectro θ ( b ( )) costate. 4) Calcule o ovo vetor de parâmetros (+) pela fórmula recursva η ( + ) = ( ) δ b + a partr do sstema 2.. 5) Calcule o ovo espectro θ ( ) ( ) 6) Calcule f θ ( ( + )) e( ( + ),. 7) Se f θ ( ( + )) e( ( + ), f θ ( ( )) e ( ( ), etão pare; caso cotráro faça =+, e vá para 3. A covergêca do algortmo está provada, quado η é sufcetemete pequeo, em Pola (97). Vale otar que o algortmo gradete decrescete, e cosequetemete o algortmo proposto, está sujeto a covergr para mímos locas. Também, porque o cojuto B ão é um espaço métrco completo, a fução de custo a ser mmzada pode possur mas de um mímo global. Estas stuações podem ser cotoradas escolhedo-se um tervalo I sufcetemete grade. Com o propósto de vablzar a aplcação do algortmo proposto em casos reas, ode o tervalo I costtu-se de um cojuto de potos e as Bases de Extesão tem cardaldade Z, rescreve-se o problema como : Problema 2 m f ( x) θ ( ) e( ; x) ode θ ( ) θ 2 ( ) = θ z ( ) A 2 = 2 = e (, x ) e (, x) e (, x ) e (, x) ez (, x) ez (, x) f ( x) e(, x) f ( x) e2( 2, x). f ( x) ez( z, x) 2 (3.4) (3.5) 4 REDE EURAIS E O OPERADOR DE EXTESÃO Cosdere-se a rede eural represetada a Fgura, ode o eurôo a camada de saída tem fução de atvação lear. ão há perda de geeraldade pela utlzação desta arqutetura smplfcada, a extesão para arrajos mas complexos é medata. x Os eurôos da camada escodda tem uma fução de atvação h( que ecessta apeas ser dferecável o argumeto e ão mootoamete crescete, como os casos clásscos do algortmo de Retropropagação. Com a estrutura proposta, um poto x a etrada da rede mapea um poto g(x) a sua saída, descrto como : g( x) = α h ( x) (4.) 2 z h h 2 h z Fgura y = g (x) Observado-se a equação 2.2, percebe-se que o somatóro descrtvo do Operador de Extesão Projeção, defdo a seção 2, pode ser realzado pela rede eutral represetada a Fgura desde que se escolha θ () = α e h ( x) = e ( ; x). * Coclu-se etão que, para toda fução f aum pertecete à magem Operador de Extesão Projeção, exste uma represetação em grafo dada por uma rede eural como a da Fgura. Como por hpótese a defção 2. todas as Bases de Extesão de B pertecem à mesma famíla de fuções, tem-se que a varação dos pesos aterores a camada oculta correspode, sob a ótca do Operador de Extesão, à busca uma ova Base de Extesão em B. Durate a fase de treameto vara-se os pesos da rede de forma a buscar uma ova fução g que mmze a orma f g I. Sob a ótca do Operador de Extesão, sto correspode a solucoar o problema troduzdo a seção 3. ote-se que a fução de custo (3.4) correspode à fução de eerga do algortmo de Retropropagação. Deste modo, podese afrmar que a dfereça cetral etre o algortmo de Retropropagação e o algortmo proposto resde que, o prmero, o gradete decrescete é utlzado para alterar tato os pesos das coexões aterores à camada oculta, quato os pesos lgados à saída α. o esquema proposto, o algortmo de gradete decrescete é utlzado apeas para otmzar os pesos das coexões aterores à camada oculta equato os pesos coectados à saída são calculados de forma fechada resolvedo-se o sstema 3.5. Como coseqüêca, além da dmução do esforço computacoal, obtém-se uma redução da quatdade de varáves lvres o espaço de estado da fução de eerga. Com um meor úmero de parâmetros a estmar, α α 2 α z + 52 SBA Cotrole & Automação Vol. o. 0 / Ja., Fev., Mar, Abrl de 2000

dmu-se os rscos de super treameto e, portato, melhorase a capacdade de geeralzação. Também como coseqüêca da dmução do úmero de parâmetros a estmar reduz-se o volume de dados ecessáro a um bom desempeho. 5 RESULTADOS UMÉRICOS esta seção lustra-se a metodologa proposta através da apresetação de exemplos umércos. O propósto destas lustrações ão é o de proporcoar comparações sstemátcas com téccas tradcoas. o prmero exemplo procura-se demostrar como a preseça de uma sugestão pode auxlar a escolha de um cojuto de hpóteses G aproprado para o algortmo operar. Exemplo 5. este exemplo é abordado um problema de extrapolação e apresetada uma comparação com algortmo clássco de Retropropagação. O problema de extrapolação é aquele o qual se deseja estmar valores para uma fução, fora do tervalo aode são colhdos os potos usados para treameto. O que se procura é, a partr de um treameto com potos amostrados em um tervalo [a b], obter uma estmatva para a fução f em x, f ˆ ( x ), x > b. Em um problema de terpolação, a solução sera, em geral, mas fácl, buscar-se-a uma estmatva para a fução f em x, ˆ. f ( x ), x [ a b] Supohamos que a fução f(x)=0.7+se(2πx).+ 0.5cos(πx) seja cohecda a pror os potos que vão de 0 até 3 com um passo de 0.0; I={0, 0.0, 0.02,..., 2.99,3}. Supoha-se que se saba, de atemão, que este sal é obtdo a saída de um fltro passabaxa deal com freqüêca de corte em 2,5π rad/s. A partr desta sugestão e da lmtação mposta pela cardaldade de I, escolhe-se cojuto de base de extesão B= {b W = [, se( x), cos( 2 x), se( 3 x ), cos( 4 x)] : R e 2,5π rad/s}. A partr da aaloga dscutda a seção 4, esta escolha de B correspode a escolher uma rede eural, como a da Fgura, com cco eurôos a camada escodda; um com fução de atvação lear e peso utáro, dos com fuções de atvação seodal e pesos e 3, e dos com fuções de atvação coseodas e pesos 2 e 4. Icalzado com a Base de Extesão b =[, se(2x), cos(3x), se(4x), cos(5x)] e a costate de apredzado η=0.2, em 000 terações o algortmo proposto coverge para a fução -2 g(x) = 0.7 +.00se(6.283x) - 0.6 *0 cos(0.25x) -0-0.83*0 se (6.536x) + 0.4986cos(3.45x). obtedo-se um erro médo quadrátco, o tervalo de treameto, de 0-3. Como pode-se observar, através da fgura 2, a recostrução da fução é bastate satsfatóra a vzhaça dos potos do tervalo I, e permaece com boa performace mesmo para potos bastate afastados do horzote de treameto. 2.5 O mesmo expermeto fomplemetado utlzado-se uma rede, com uma camada oculta de 0 eurôos e fuções de atvação sgmodas, treada através do algortmo tradcoal de Retropropagação. A fgura 3 mostra a recostrução operada pela rede. Pode-se observar que, apesar de uma boa recostrução detro do tervalo [0 3], a performace deterora-se rapdamete fora desta regão. 2 0-0.5 2.5 0.5 0-0.5 2.5.5 0.5 O exemplo a segur trata a smulação de um problema smples de detfcação paramétrca a partr do uso do Operador de extesão. Exemplo 5.2-0 2 3 4 5 6 7 8 9 0 Fgura 2 - Fuções verdadera e estmada pela metodologa proposta para horzote de treameto etre 0 e 3 e de geeralzação (a partr de 3) - 0 2 3 4 5 6 7 8 9 0 Fgura 3 - Fuções verdadera e estmada por Retropropagação para horzote de treameto etre 0 e 3 e de geeralzação (a partr de 3) Supoha-se que um sstema real é descrto pela equação: y( = 0.7x( + 0.5u( + 0. 2 + ε Este sstema lear está sujeto a uma perturbação ε que correspode a um ruído Gaussao com méda ula e varâca 0.. O sstema será modelado através de : y ˆ( xˆ( uˆ( t. = a + b ) + c x ˆ( = x( +, ˆ( = u( + ν ˆ( = y( + π ode µ u e y represetam as observação de x, u, y um state t adcoadas a ruídos com dstrbução ormal de méda ula e varâca 0.0. Escolhedo-se I ={0,h,2h,...,(-)h}, ode h é o tervalo de amostragem e a Base de Extesão b = [ xˆ, uˆ, ] pode-se resolver o sstema 2. com SBA Cotrole & Automação Vol. o. 0 / Ja., Fev., Mar, Abrl de 2000 53

xx!,! xu!,! x!, Gb ( ) = ux!,! uu!,! u!,, x!, u!, yx!,! I Hb ( ) = yu!,!, I y!, I I I I I I I I I I para se calcular o vetor θ(b ) cujos elemetos correspodem as estmatvas de a, b e c que mmzam a orma y yˆ. I A fgura 4, a segur mostra a evolução das estmatvas o tempo. Abu-Mostafa. Y. S., 995, Hts, eural Computato, Vol7, PP 639-67. Bartle, R.G., 966, The elemets of tegrato. e Yor, Joh Wley & Sos Ic. Hay S., 999, eural etors:, A Comprehesve Foudato, secod edto, Pretce Hall. aylor, A.W., Sell, G.R., 982, Lear Operator Theory egeerg ad scece. 2 d ed. e Yor, Sprger- Verlag. Pedroza, L.C.C. e Pedrera C.E., 998, O Operador de extesão e Redes euras, Aas do 5o Smpóso Braslero de Redes euras, PP 55-60, Belo Horzote. Pedroza, L.C.C.,997, O Operador de extesão e Redes euras, Tese de Doutorado, Potfíca Uversdade Católca, Ro de Jaero, RJ. Pola, E., 97, Computatoal Methods Optmzato: A ufed approch. e Yor ad Lodo, Academc Press. Fgura 4.a - estmatva de a Rumelhart, D.E., Mcclellad, J.L. ad PDP Resersh Group, 986, Parallel Dstrbuted Processg : Explorato the mcrostruture of cogto, The MIT Press, Volume :Foudato. Fgura 4.b - estmatva de b Fgura 4.c - estmatva de c 6 OBSERVAÇÕES FIAIS este artgo apresetou-se uma abordagem para treameto de redes euras em camadas dferecada da metodologa clássca baseada em Retropropagação do Erro. O algortmo proposto apreseta característcas teressates: permte o uso de outras fuções de atvação sem a restrção de mootocdade crescete; reduz a probabldade de atgr-se mímos locas; e acelera o processo de covergêca. Estas são algumas coseqüêcas de tratar-se as redes euras como represetações em grafo de potos a magem do Operador de Extesão. Uma lha teressate de cotuação sera a corporação da metodologa de sugestão proposta em Abu-Mostafa (994) e Abu-Mostafa (995) com a faldade de buscar-se uma Base de Extesão otmzada. 7 REFERÊCIAS BIBLIOGRÁFICAS Abu-Mostafa. Y. S., 994, Learg from Hts, Joral of Complexty, V.0, PP.65-78. 54 SBA Cotrole & Automação Vol. o. 0 / Ja., Fev., Mar, Abrl de 2000