Redes Neurais Artificiais

Transcrição

1 Rees Neurais Artificiais Prof. Carlos H. C. Ribeiro ITA Divisão e Ciência a Computação Parcialmente baseao em material fornecio pelo prof. Reinalo Bianchi (FEI), a quem o autor é grato. Objetivos Descrever as características básicas as Rees Neurais Artificiais (RNAs). Descrever o funcionamento e uma RNA. Descrever algumas as principais arquiteturas existentes para RNAs. Exemplificar o uso e RNAs em Reconhecimento e Parões e Controle. CTC5 / CT5

2 Motivação Biológica Iéia central: utilizar neurônios biológicos como moelos para neurônios artificiais. Neurônio Biológico: Elemento funamental o sistema nervoso. Diversos tipos. Cérebro humano: relativamente lento, muito paralelismo ( processaores e KHz) CTC5 / CT5 Motivação e Engenharia IA traicional (simbólica): Aequaa para problemas expressos em uma lógica apropriaa (a hoc). Pouca ênfase na comunicação entre o agente e o muno (problema e grouning). Pouca ênfase em aprenizagem ou aaptação. Ênfase em processamento sequencial. Rees Neurais Artificiais: Aequaa para tarefas simples e iretas como anar, falar, ouvir, ver ênfase em processos que envolvem interação entre agente e muno. Ênfase em aprenizagem e aaptação. Ênfase em processamento paralelo. CTC5 / CT5 4

3 Características as Rees Neurais Naturais Grane número e elementos e processamento. (cérebro ) Grane número e conexões poneraas entre os elementos. caa neurônio se conecta com outros 4. Controle altamente istribuío e paralelo: é mais robusta a falhas e neurônios iniviuais. Relação entraa-saía em caa neurônio é nãolinear. Aprenizagem automática! As RNAs são uma aproximação grosseira e um cérebro. CTC5 / CT5 5 Um pouco e História 95s & 96s: Infância 94 - Neurônio e McCulloch-Pitts Perceptrons ( Rosenblatt ) 96 - Aaline ( Wiro & Hoff ) 97s: Os anos negros Minsky an Papert ( MIT ) publicam um livro que põe em úvia a capaciae e aprenizao os perceptrons Rees auto-organizáveis ( Kohonen ) Teoria e Ressonância Aaptativa ( Grossberg & Carpenter ) 98s: Entusiasmo renovao Surgimento o algoritmo backpropagation (Werbos) Rees e Hopfiel ( Hopfiel & Tank ) Rees Neocognitron ( Fukushima ), RBF (Broomhea e Loe) 99s: Amaurecimento - Aplicações no muno real - Teoria computacional a aprenizagem: support vector machines (Vapnik), aprenizao PAC (Anthony e Biggs). CTC5 / CT5 6

4 Aplicações Ientificação e alvos militares: B-5, Boeing 747 e Space Shuttle Autentificação e usuário. Reconhecimento e Faces Exploração e petróleo: Determinação e Litologia Controle e Navegação Autônoma e Veículos: ALVINN at CMU Preição no Mercao Financeiro CTC5 / CT5 7 Referências Bibliográficas A Bíblia: Simon Haykin. Neural Netorks: A Comprehensive Founation. Livros e IA com bom capítulo e RNAs: Russel e Norvig. Artificial Intelligence: A Moern Approach. Livro em Português: Braga, Luermir e Carvalho. Rees Neurais Artificiais. LTC. Referências aicionais (CT5) Enfoque alternativo: Chris Bishop. Neural Netorks for Pattern Recognition. Ênfase no enfoque e processamento probabilístico e RNAs, muito bom para quem quer se aprofunar em reconhecimento e parões. Enfoque biológico: Michael Arbib (e.). The Hanbook of Brain Theory an Neural Netorks. Principal referência histórica (provavelmente): Rumelhart e McClellan (es.). Parallel Distribute Processing: Explorations in the Microstructure of Cognition, vols. e. Uma crítica (entre muitas): Foor e Pylyshyn. Connectionism an cognitive architecture: a critical analysis, Cognition, vol. 8, pp. -7. CTC5 / CT5 8

5 Estrutura simplificaa e neurônio biológico Um neurônio biológico é composto e 4 partes principais: Corpo. Axônio: envia impulsos elétricos. Denritos: recebem informação (impulsos elétricos) provenientes e outros neurônios). Sinapse: ponto e contato entre neurônios. Ação sináptica: Denritos Corpo Sinapses Axônio Impulso elétrico (o axônio) Sinal elétrico Processo pré-sináptico Sinal químico Processo pós-sináptico Sinal elétrico Impulso elétrico (para enritos) CTC5 / CT5 9 Funcionamento e um Neurônio Biológico Neurônios poem estar em estaos: Ativo ou excitao: envia sinais para outros neurônios por meio o axônio e sinapses. Inativo ou inibio: não envia sinais. Sinapses poem ser e tipos: Excitatórias (excitam o neurônio receptor). Inibitórias (inibem o neurônio receptor). Quano o efeito cumulativo as várias sinapses que chegam a um neurônio exceem um valor limite, o neurônio ispara (fica ativo por um períoo) e envia um sinal para outros neurônios. CTC5 / CT5

6 Moelo e Neurônio Artificial Um Neurônio Artificial é composto por: X i : o conjunto e entraas. W ji : o conjunto e pesos (um para caa sinapse). Nível e Ativação: soma poneraa o vetor e entraas. Função e Ativação: função não-linear aplicaa sobre o nível e ativação para prouzir o sinal e saía. Se a saía for iferente e zero, ela é transmitia para outros neurônios. x x x Σ f saía Vetor e pesos. x Vetor e entraas. Σ Soma poneraa as entraas f função e ativação saía f( t.x) f [(.x )+(.x )+(.x )] CTC5 / CT5 Tipos e Função e Ativação Função Limiar Função Sigmoie Out Out if net > θ if net < θ Out Out exp (-λ.net) θ net net Out Out if net > θ Função Logística θ net - if net < θ Out Out tanh(λ.net) net Função Tangente Hiperbólica CTC5 / CT5

7 Exemplos e neurônio x,x {,} f( t.x) se nível e ativ., caso contrário. x x Σ f x,x {,},5 f( t.x) se nível e ativ.,5, caso contrário. x x,5 Σ,5 f CTC5 / CT5 O que é uma RNA? É um sistema e processamento e informações esenvolvio a partir e moelos matemáticos simplificaos os neurônios biológicos. É constituia por um grane número e uniaes e processamento (chamaas neurônios artificiais) interconectaas. Reconhecem, classificam, convertem e aprenem parões. CTC5 / CT5 4

8 Processamento Neural O processo e calcular a saía e uma ree neural aa uma entraa é chamao recall. O objetivo o recall é recuperar a informação armazenaa na ree. Exemplos e processamento realizaos por uma ree neural: Associação e parões Classificação e parões. Reconhecimento e parões. Generalização. CTC5 / CT5 5 Parões, atributos e classes Um Parão é uma escrição quantitativa e um objeto. Caa parão é efinio por um conjunto e valores e atributos. Um atributo é uma característica mensurável e um parão. Uma Classe contem um conjunto e parões com proprieaes comuns. CTC5 / CT5 6

9 Tipos e Parões Parões estáticos ou espaciais: não envolvem o tempo. Parões inâmicos ou temporais: envolve o tempo. single cell 6 x 5 gri object f(t) f(t ) t t t Time-varying aveform t n f(t n ) t CTC5 / CT5 7 Autoassociação Um conjunto e parões e referência é armazenao na ree. Um parão similar é apresentao e a ree associa esta entraa com o parão armazenao mais próximo. O parão e entraa poe possuir ruío ou istorções em relaçãoaoseumoelo armazenao na ree. Correspone a um processo e reconhecimento e parões. Entraa RNA Saía CTC5 / CT5 8

10 Heteroassociação Um conjunto e pares e parões é armazenao na ree. Um parão é apresentao e a ree associa esta entraa com o seu par. Memória associativa: correspone a um processo e associação e parões. Entraa RNA Saía CTC5 / CT5 9 Classificação Um conjunto e parões é particionao em classes. Caa classe é efinia por uma série e valores e atributos. Em resposta a uma entraa, a ree retorna informação sobre a pertinência o parão apresentao a uma classe. A ree é treinaa para classificar. Entraa Entraa RNA RNA Classe % % % Classe 4% 6% % CTC5 / CT5

11 Exemplo e Memória Associativa Memória associativa: associa o conceito A ao conceito B. (ao A, lembra-se e B) Pares e associação: Bach Música Borges Literatura Picasso Pintura Entraa Saía CTC5 / CT5 Exemplo e RNA: Memória Associativa 5 neurônios e entraa e 4 e saía. Neurônio binário: ativao, inibio - Função e ativação: Σ > saía, Σ < saía, Σ saía inalteraa A A A A4 A5 F F F F4 Entraas: Bach [,,, -, -] Borges [, -,, -, ] Picasso [,, -, -, ] Saías: música [,, -, -] literatura [, -,, -] pintura [, -, -, ] CTC5 / CT5

12 Tabela e sinapses: A A A A4 A5 F - F - - F - - F4 - - Operação a RNA: Exemplo e RNA: Memória Associativa A A A A A f A A A A A f S S S S f F F F F CTC5 / CT5 4 Operação Apresentano Bach: Apresentano Bach ruioso : f S S S S f F F F F Exemplo e RNA: Memória Associativa f S S S S f F F F F CAPACIDADE DE GENERALIZAÇÃO!

13 Projeto e uma RNA O projeto e uma RNA envolve a eterminação os seguintes parâmetros: Neurônios: função e ativação. Conexões e isposição os neurônios: topologia (arquitetura a ree). Pesos sinápticos: valores ou (no caso e pesos aprenios), o algoritmo a ser utilizao e seus parâmetros particulares. Recall: proceimento a ser utilizao como a ree calcula a saía para uma aa entraa? Infelizmente, não existe uma receita única... CTC5 / CT5 5 Arquiteturas as RNAs Os neurônios e uma RNAs evem estar conectaos entre si. Os neurônios são ispostos em camaas (layers): neurônios e uma mesma camaa normalmente se comportam a mesma maneira. A isposição os neurônios nas camaas e o parão e conexão entre estas efine a arquitetura a RNA: Rees sem realimentação (feeforar) Rees com realimentação ou recorrentes (recurrent) CTC5 / CT5 6

14 Arquiteturas e RNAs Sem realimentação: Neurônios agrupaos em camaas. Sinal percorre a ree em uma única ireção, a entraa para a saía. Neurônios a mesma camaa não são conectaos. Representante típico: Perceptron. Recorrentes: Saía e alguns neurônios alimentam neurônios a mesma camaa (inclusive o próprio) ou e camaas anteriores. Sinal percorre a ree em uas ireções. Memória inâmica: capaciae e representar estaos em sistemas inâmicos. Representante típico: ree e Hopfiel CTC5 / CT5 7 Aprenizao (ou treinamento) O aprenizao consiste na moificação os pesos as conexões entre os neurônios. Os pesos iniciais (sinapses) são moificaos e forma iterativa, por um algoritmo que segue um os seguintes paraigmas e aprenizao: Aprenizao Supervisionao: é apresentao um conjunto e treino, consistino e entraas e corresponentes saías esejaas. Aprenizao por Reforço: para caa entraa apresentaa, é prouzia uma inicação (reforço) sobre a aequação as saías corresponentes prouzias pela ree. Aprenizao Não-supervisionao: A ree atualiza seus pesos sem o uso e pares entraa-saías esejaas e sem inicações sobre a aequação as saías prouzias. CTC5 / CT5 8

15 Aprenizao Supervisionao Define-se um conjunto e treinamento (in,out) e entraas e corresponentes saías esejaas. A istância entre a resposta atual e a esejaa serve como uma meia e erro que é usaa para corrigir os parâmetros a ree. Pesos a ree são ajustaos para minimizar este erro. W Entraa Ree Neural Saía Meia e Erro Geraor e Distância Professor : prouz a saía esejaa CTC5 / CT5 9 Aprenizao por Reforço Para caa entraa apresentaa, a ree calcula a saía e um professor inica a sua conveniência ou não. Não há meia explícita a istância entre resposta atual e a esejaa. Pesos a ree são ajustaos para maximizar os reforços recebios. Frequentemente, a entraa é o estao e um sistema inâmico, a saía é a ação prouzia para o estao, e o professor é o próprio sistema que se eseja controlar: reforço positivo ação boa, reforço negativo (punição) ação ruim W Entraa Ree Neural Saía Reforço Professor : prouz o reforço CTC5 / CT5

16 Aprenizao Não-Supervisionao Não existe comparação entre a saía obtia pela ree e a saía esejaa. Aprenizao baseao na observação as respostas obtias ou a saía esejaa (e não os ois simultaneamente). A Ree escobre por si mesmo proprieaes e regulariaes o sistema. W W In Ree Neural Out In Ree Neural Out ou CTC5 / CT5 Exemplo: Aprenizao em Memória Associativa Regra e Aprenizao e Hebb:. Tabela W e pesos ji inicialmente zeraa.. Se F j e A i estiverem excitaos, soma em ji.. Se F j e A i estiverem inibios, soma em ji. 4. Se F j estiver inibio e A i excitao, subtrai e ji. 5. Se F j estiver excitao e A i inibio, subtrai e ji. Pares e treinamento são apresentaos um a um, uma única vez. A A A A4 A5 F F F F4 CTC5 / CT5

17 Exemplo: Aprenizao em Memória Associativa Tabela inicial: A) Apresento par Borges [, -,, -, ] literatura [, -,, -] A, F + A, F A, F + A, F Etc A A A A4 A5 F F F F4 CTC5 / CT5 Tabela após A): B) Apresento par Bach [,,, -, -] música [,, -, -] A, F + A, F -+ A, F - - A, F Etc Tabela após B): C) Apresento par Picasso [,, -, -, ] pintura [, -, -, ] A, F + A, F A, F A, F Etc CTC5 / CT5 4

18 Exemplo: Aprenizao em Memória Associativa Pesos finais: Regra e Hebb: Realiza aprenizao não-supervisionao Equação: t + t + α OUT OUT ji ( ) ji ( ) j i O que acontece se treinar com pares ruiosos? O que acontece se alterar a orem e apresentação os pares? O que acontece se treinar mais e uma vez com um par? CTC5 / CT5 5 Principais arquiteturas e RNAs Depenem a estrutura, tipo e neurônio, regra e aprenizao,... Perceptron, Perceptron Multi-Camaa (MLP), Ree e Hopfiel, ADALINE e MADALINE, Máquinas e Boltzmann, Ree e Kohonen, ezenas e outras CTC5 / CT5 6

19 Perceptron (McCulloch e Pitts, 947) Arquitetura baseaa em um neurônio iscreto com função e ativação limiar: f( t.x) se nível e ativação >, - caso contrário. Poe prouzir saía vetorial: vários neurônios em paralelo CTC5 / CT5 7 Operação o Perceptron: Exemplo Duas entraas: x, y Dois pesos:, Uma entraa e bias [ + x y] o f + x y Σ f y + x + y + x + y > + x + y < x CTC5 / CT5 8

20 Poer e representação os Perceptrons Conseguem representar qualquer função linearmente separável A B Função linearmente separável: consigo separar as classes com retas (ou planos, ou hiperplanos). neurônio: classes + e neurônios: classes ++,+-,-+,-- N neurônios: N classes OK Não OK A B CTC5 / CT5 9 Separação em 4 classes: Exemplo Neurônio : separa em classes C e C x y Σ f x Neurônio : separa em classes C e C x Σ f y y CTC5 / CT5 4

21 Separação em 4 classes: Exemplo x Σ f x y Σ f y CTC5 / CT5 4 Limitações o Perceptron Infelizmente, várias funções e interesse não são linearmente separáveis. Por exemplo,o Perceptron não poe representar o XOR (ou exclusivo). X X Out a b c X b a c X Out Out CTC5 / CT5 4

22 Aprenizao no Perceptron: Regra Delta A regra e atualização os pesos é: i i + α δx i One δ (t - o) x i é a entraa, t é o valor esejao, o é a saía o perceptron e, α é uma constante pequena (ex:.), chamaa taxa e aprenizao. Funciona para entraas/saías iscretas ou contínuas. CTC5 / CT5 4 MLP: Multi-layer Perceptrons Conjuntos e Perceptrons arranjaos em iversas camaas. Pelo menos uma camaa esconia. Soluciona problema e classificação não-linear: consegue formar regiões e ecisão mais complexas CTC5 / CT5 44

23 MLP: Multi-layer Perceptrons X (-) A B C (---) compartimentos Camaa Esconia Classificação requer linhas iscriminantes que criam 7 compartimentos e regiões e ecisão: uma para e outra para. X Solução: Entraas x x A B C out - (---),(--),..,() Classe Classe CTC5 / CT5 45 Exemplo e Ree MLP: XOR x x entraas binárias. 4, 5 e 6 - f ( t.x) se nível e ativação,5, caso contrário. f ( t.x) se nível e ativação,5, caso contrário.,5,5 - Preciso agora e um algoritmo para treinar os pesos,5 CTC5 / CT5 46

24 MLP Sigmóie Neurônio com função e ativação limiar sigmóie: σ ( net) ou σ ( net) tanh( net) net + e σ ( x) + e x σ ( x) tanh σ ( x) σ ( x) ( σ ( x) ) ( ) ( x) σ ( x) σ ( x) Proprieae Interessante CTC5 / CT5 47 Como treinar um MLP? Descia o graiente: Aprena i s que minimizam o erro quarático: h h r E[ ] ( t o ε D ) D aos e treinamento x x CTC5 / CT5 48

25 CTC5 / CT5 49 Descia o Graiente Graiente: n E E E E,...,, ] [ r i i E η Regra: ] E[ r r η ) ( ] [ D t o E ε r CTC5 / CT5 5 Descia o Graiente (uma camaa) i i i i i i i x x x o t x o t x t o t o t o t o t o t E, )) ( )( ( ) ( )) ( )( ( )) ( ( ) ( ) ( ) ( ) ( ) ( r r r r r r r r σ σ σ σ

26 Inicialize i s (pequeno valor aleatório) Repita até conição e término: i Para caa exemplo faça o σ(σ i i x i, ) i i + η (t o ) o (-o ) x i, Aprenizao Batch (em lotes) i i + i Inicialize i s (pequeno valor aleatório) Repita até conição e término: Para caa exemplo faça i o Σ i i x i, i i + η (t o ) o (-o ) x i, i i + i Aprenizao Online (incremental) CTC5 / CT5 5 Algoritmo Backpropagation Generalização a escia o graiente: várias camaas Inic. pesos (valores aleatórios pequenos) Para caa exemplo e treinamento: σ ( Para caa neurônio esconio h: Atualize caa peso a ree ij : one CTC5 / CT5 5 ij h i o x ) Para caa neurônio e saía k: o k σ ( khxh ) k Para caa neurônio e saía k: δ k ok ( ok )( tk ok ) Para caa neurônio esconio h: δ o ( o ) δ ij ij + ij h h h η δ x j k ij hi i hk k

27 Exemplo Entraa Saía CTC5 / CT5 5 Aprenizao a representação (camaa interna) Entraa Saía CTC5 / CT5 54

28 Aprenizao: Representação Interna, Erro e Pesos CTC5 / CT5 55 Aumento a velociae e aprenizao: Momento error E E ij Descia o Graiente ij E η ij DG com Momento E ij η + µ ij ij ij ij ne eight ij CTC5 / CT5 56

29 Overfitting em RNAs CTC5 / CT5 57 Convergência e Critério e Paraa Poe ficar preso em mínimo local Pesos poem ivergir mas na prática, funciona bem! Critério e paraa (para evitar overfitting): parar assim que erro no conjunto e valiação começar a aumentar CTC5 / CT5 58

30 Faixa e operação σ ( x) + e x σ(x) Faixa linear, # e uniaes esconias não interessa x CTC5 / CT5 59 Capaciae e uma RNA MLP Qualquer função booleana poe ser representaa por uma RNA com uma camaa esconia. Qualquer função contínua limitaa poe ser aproximaa por uma RNA com uma camaa esconia. Qualquer função contínua poe ser aproximaa por uma RNA com uas camaas esconias. CTC5 / CT5 6

31 Exemplo: ALVINN Dirige um carro a Km/h. CTC5 / CT5 6 Exemplo: MLP Sigmóie Reconhecimento e fala - separar vogais entre h_ (em inglês) CTC5 / CT5 6