lnteligência Artificial Introdução a Redes Neurais Artificiais

Transcrição

1 lnteligência Artificial Introdução a Redes Neurais Artificiais

2 Objetivos Descrever as características básicas das Redes Neurais Artificiais (RNAs). Descrever o funcionamento de uma RNA. Descrever algumas das principais arquiteturas existentes para RNAs. Exemplificar o uso de RNAs em Reconhecimento de Padrões e Controle. CTC-5

3 Motivação Biológica Idéia central: utilizar neurônios biológicos como modelos para neurônios artificiais. Neurônio Biológico: Elemento fundamental do sistema nervoso. Diversos tipos. Cérebro humano: relativamente lento, muito paralelismo (0 processadores de KHz) CTC-5

4 Motivação de Engenharia IA tradicional (simbólica): Adequada para problemas expressos em uma lógica apropriada (ad hoc). Pouca ênfase na comunicação entre o agente e o mundo (problema de grounding). Pouca ênfase em aprendizagem ou adaptação. Ênfase em processamento sequencial. Redes Neurais Artificiais: Adequada para tarefas simples e diretas como andar, falar, ouvir, ver ênfase em processos que envolvem interação entre agente e mundo. Ênfase em aprendizagem e adaptação. Ênfase em processamento paralelo. CTC-5

5 Características das Redes Neurais Naturais Grande número de elementos de processamento. (No. de neurônios 0, estudos recentes falam em aprox. 86bilhões de neurônios) Grande número de conexões ponderadas entre os elementos. cada neurônio se conecta com outros 0 4. Controle altamente distribuído e paralelo: é mais robusta a falhas de neurônios individuais. Relação entrada-saída em cada neurônio é não-linear. Aprendizagem automática! As RNAs são uma aproximação grosseira de um cérebro. CTC-5

6 Um pouco de História 950s & 960s: Infância Neurônio de McCulloch-Pitts Perceptrons ( Rosenblatt ) Adaline ( Widrow & Hoff ) 970s: Os anos negros Minsky and Papert ( MIT ) publicam um livro que põe em dúvida a capacidade de aprendizado dos perceptrons Redes auto-organizáveis ( Kohonen ) Teoria de Ressonância Adaptativa ( Grossberg & Carpenter ) 980s: Entusiasmo renovado Surgimento do algoritmo backpropagation (Werbos) Redes de Hopfield ( Hopfield & Tank ) 990s-Atual: Amadurecimento - Aplicações no mundo real - Teoria computacional da aprendizagem: support vector machines (Vapnik) CTC-5

7 Aplicações Identificação de alvos militares: B-52, Boeing 747 e Space Shuttle Autentificação de usuário. Reconhecimento de Faces Exploração de petróleo: Determinação e Litologia Predição no Controle de Navegação Autônoma de Veículos: Mercado ALVINN at CMU Financeiro CTC-5

8 Referências Bibliográficas A Bíblia: Simon Haykin. Neural Networks: A Comprehensive Foundation. Livros de IA com bom capítulo de RNAs: Russel e Norvig. Artificial Intelligence: A Modern Approach. Livro em Português: Braga, Ludermir e Carvalho. Redes Neurais Artificiais. LTC. CTC-5

9 Estrutura simplificada de neurônio biológico Um neurônio biológico é composto de 4 partes principais: Corpo. Axônio: envia impulsos elétricos. Dendritos: recebem informação (impulsos elétricos) provenientes de outros neurônios). Sinapse: ponto de contato entre neurônios. Dendritos Corpo Axônio Ação sináptica: Sinapses Impulso elétrico (do axônio) Processo pré-sináptico Processo pós-sináptico Impulso elétrico (para dendritos) Sinal elétrico Sinal químico Sinal elétrico CTC-5

10 Funcionamento de um Neurônio Biológico Neurônios podem estar em 2 estados: Ativo ou excitado: envia sinais para outros neurônios por meio do axônio e sinapses. Inativo ou inibido: não envia sinais. Sinapses podem ser de 2 tipos: Excitatórias (excitam o neurônio receptor). Inibitórias (inibem o neurônio receptor). Quando o efeito cumulativo das várias sinapses que chegam a um neurônio excedem um valor limite, o neurônio dispara (fica ativo por um período) e envia um sinal para outros neurônios. CTC-5

11 Modelo de Neurônio Artificial Um Neurônio Artificial é composto por: X i : o conjunto de entradas. W ji : o conjunto de pesos (um para cada sinapse). Nível de Ativação: soma ponderada do vetor de entradas. Função de Ativação: função não-linear aplicada sobre o nível de ativação para produzir o sinal de saída. Se a saída for diferente de zero, ela é transmitida para outros neurônios. x 2 x w 2 w 3 w Σ f saída w =Vetor de pesos. x = Vetor de entradas. Σ = Soma ponderada das entradas f = função de ativação x 3 saída = f(w t.x) = f [(w.x )+(w 2.x 2 )+(w 3.x 3 )] CTC-5

12 Tipos de Função de Ativação Função Limiar Função Sigmoide Out Out = if net > θ = 0 if net < θ Out Out = exp (-λ.net) 0 θ net 0 net Out Out = if net > θ Função Logística = - if net < θ Out Out = tanh(λ.net) 0 θ net 0 net Função Tangente Hiperbólica CTC-5

13 Exemplos de neurônio x,x 2 {0,} w = w 2 = f(w t.x) = se nível de ativ. 2, 0 caso contrário. x x 2 Σ f x,x 2 {0,} w = w 2 = 0,5 f(w t.x) = se nível de ativ. 0,5, 0 caso contrário. x x 2 0,5 0,5 Σ f CTC-5

14 O que é uma RNA? É um sistema de processamento de informações desenvolvido a partir de modelos matemáticos simplificados dos neurônios biológicos. É constituida por um grande número de unidades de processamento (chamadas neurônios artificiais) interconectadas. Reconhecem, classificam, convertem e aprendem padrões. CTC-5

15 Processamento Neural O processo de calcular a saída de uma rede neural dada uma entrada é chamado recall. O objetivo do recall é recuperar a informação armazenada na rede. Exemplos de processamento realizados por uma rede neural: Associação de padrões Classificação de padrões. Reconhecimento de padrões. Generalização. CTC-5

16 Padrões, atributos e classes Um Padrão é um modelo de descrição quantitativa de um objeto. Cada padrão é definido por um conjunto de valores de atributos. Um atributo é uma característica mensurável de um padrão. Uma Classe contem um conjunto de padrões com propriedades comuns CTC-5

17 Tipos de Padrões Padrões estáticos ou espaciais: não envolvem o tempo. Padrões dinâmicos ou temporais: envolve o tempo. single cell 0 0 f(t) f(t ) Time-varying waveform object f(t n ) 6 x 5 grid t t 2 t 3 t n t CTC-5

18 Associação: Autoassociação e Heteroassociação Autoassociação Um conjunto de padrões de referência é armazenado na rede. Um padrão similar é apresentado e a rede associa esta entrada com o padrão armazenado mais próximo. O padrão de entrada pode possuir ruído ou distorções em relação ao seu modelo armazenado na rede. Corresponde a um processo de reconhecimento de padrões. Entrada RNA Saída CTC-5

19 Heteroassociação Um conjunto de pares de padrões é armazenado na rede. Um padrão é apresentado e a rede associa esta entrada com o seu par. Memória associativa: corresponde a um processo de associação de padrões. Entrada RNA Saída CTC-5

20 Classificação Um conjunto de padrões é particionado em classes. Cada classe é definida por uma série de valores de atributos. Em resposta a uma entrada, a rede retorna informação sobre a pertinência do padrão apresentado a uma classe. A rede é treinada para classificar. Entrada Entrada 2 RNA RNA 3 3 Classe 0% 00% 2 0% 3 Classe 40% 2 60% 2 0% 3 CTC-5

21 Exemplo de Memória Associativa Memória associativa: associa o conceito A ao conceito B. (dado A, lembra-se de B) Pares de associação: Bach Música Borges Literatura Picasso Pintura Entrada Saída CTC-5

22 Exemplo de RNA: Memória Associativa 5 neurônios de entrada e 4 de saída. Neurônio binário: ativado =, inibido = - Função de ativação: Σ > 0 saída =, Σ < 0 saída = -, Σ = 0 saída inalterada A A2 A3 A4 A5 F F2 F3 F4 Entradas: Bach = [,,, -, -] Borges = [, -,, -, ] Picasso = [,, -, -, ] Saídas: música = [,, -, -] literatura = [, -,, -] pintura = [, -, -, ] CTC-5

23 Tabela de sinapses: A A2 A3 A4 A5 F 3-3 F F F Exemplo de RNA: Memória Associativa CTC-5 F Operação da RNA: = = = A A A A A f A A A A A w w w w w w w w w w w w w w w w w w w w f S S S S f F F F F

24 Operação Apresentando Bach: = = = = f S S S S f F F F F Exemplo de RNA: Memória Associativa CTC-5 Apresentando Bach ruidoso : = = = = f S S S S f F F F F CAPACIDADE DE GENERALIZAÇÃO!

25 Projeto de uma RNA O projeto de uma RNA envolve a determinação dos seguintes parâmetros: Neurônios: função de ativação. Conexões e disposição dos neurônios: topologia (arquitetura da rede). Pesos sinápticos: valores ou (no caso de pesos aprendidos), o algoritmo a ser utilizado e seus parâmetros particulares. Recall: procedimento a ser utilizado como a rede calcula a saída para uma dada entrada? Infelizmente, não existe uma receita única... CTC-5

26 Arquiteturas das RNAs Os neurônios de uma RNAs devem estar conectados entre si. Os neurônios são dispostos em camadas(layers): neurônios de uma mesma camada normalmente se comportam da mesma maneira. A disposição dos neurônios nas camadas e o padrão de conexão entre estas define a arquitetura da RNA: Redes sem realimentação (feedforward) Redes com realimentação ou recorrentes (recurrent) CTC-5

27 Arquiteturas de RNAs Sem realimentação: Neurônios agrupados em camadas. Sinal percorre a rede em uma única direção, da entrada para a saída. Neurônios da mesma camada não são conectados. Representante típico: Perceptron. Recorrentes: Saída de alguns neurônios alimentam neurônios da mesma camada (inclusive o próprio) ou de camadas anteriores. Sinal percorre a rede em duas direções. Memória dinâmica: capacidade de representar estados em sistemas dinâmicos. Representante típico: rede de Hopfield CTC-5

28 Aprendizado (ou treinamento) O aprendizado consiste na modificação dos pesos das conexões entre os neurônios. Os pesos iniciais (sinapses) são modificados de forma iterativa, por um algoritmo que segue um dos seguintes paradigmas de aprendizado: Aprendizado Supervisionado:é apresentado um conjunto de treino, consistindo de entradas e correspondentes saídas desejadas. Aprendizado por Reforço:para cada entrada apresentada, é produzida uma indicação (reforço) sobre a adequação das saídas correspondentes produzidas pela rede. Aprendizado Não-supervisionado:A rede atualiza seus pesos sem o uso de pares entrada-saídas desejadas e sem indicações sobre a adequação das saídas produzidas. CTC-5

29 Aprendizado Supervisionado Define-se um conjunto de treinamento (in,out) de entradas e correspondentes saídas desejadas. A distância entre a resposta atual e a desejada serve como uma medida de erro que é usada para corrigir os parâmetros da rede. Pesos da rede são ajustados para minimizar este erro. W Entrada Rede Neural Saíd a Medida de Erro Gerador de Distância Professor : produz a saída desejada CTC-5

30 Aprendizado por Reforço Para cada entrada apresentada, a rede calcula a saída e um professor indica a sua conveniência ou não. Não há medida explícita da distância entre resposta atual e a desejada. Pesos da rede são ajustados para maximizar os reforços recebidos. Frequentemente, a entrada é o estado de um sistema dinâmico, a saída é a ação produzida para o estado, e o professor é o próprio sistema que se deseja controlar: reforço positivo = ação boa, reforço negativo (punição) = ação ruim W Entrada Rede Neural Saíd a Reforço Professor : produz o reforço CTC-5

31 Aprendizado Não-Supervisionado Não existe comparação entre a saída obtida pela rede e a saída desejada. Aprendizado baseado na observação das respostas obtidas ou da saída desejada (e não dos dois simultaneamente). A Rede descobre por si mesmo propriedades e regularidades do sistema. Uso de métodos estatísticos. Envolve complexidade muito maior. W W In Rede Neural Out ou In Rede Neural Out CTC-5

32 Exemplo: Aprendizado em Memória Associativa "The general idea is an old one, that any two cells or systems of cells that are repeatedly active at the same time will tend to become 'associated', so that activity in one facilitates activity in the other. Regra de Hebb Regra de Aprendizado de Hebb:. Tabela W de pesos w ji inicialmente zerada. 2. Se F j e A i estiverem excitados, soma em w ji. 3. Se F j e A i estiverem inibidos, soma em w ji. 4. Se F j estiver inibido e A i excitado, subtrai de w ji. 5. Se F j estiver excitado e A i inibido, subtrai de w ji. Pares de treinamento são apresentados um a um, uma única vez. A A2 A3 A4 A5 F F2 F3 F4 CTC-5

33 Exemplo: Aprendizado em Memória Associativa Tabela inicial: A) Apresento par Borges = [, -,, -, ] literatura = [, -,, -] A =, F = w = 0+= A =, F 2 = - w 2 = 0-= - A =, F 3 = w 3 = 0+= A =, F 4 = - w 4 = 0-= - Etc A A2 A3 A4 A5 F F2 F3 F4 CTC-5

34 Tabela após A): Tabela após B): B) Apresento par Bach = [,,, -, -] música = [,, -, -] A =, F = w = += 2 A =, F 2 = w 2 = -+= 0 A =, F 3 =- w 3 = -= 0 A =, F 4 = - w 4 = --= -2 Etc C) Apresento par Picasso = [,, -, -, ] pintura = [, -, -, ] A =, F = w = 2+= 3 A =, F 2 = - w 2 = 0-= - A =, F 3 =- w 3 = 0-= - A =, F 4 = w 4 = -2+= - Etc CTC-5

35 Pesos finais: Exemplo: Aprendizado em Memória Associativa Regra de Hebb: Realiza aprendizado não-supervisionado Equação: w ji ( t + ) = w ji ( t) + α OUTj OUTi O que acontece se treinar mais de uma vez com um par? CTC-5

36 Principais arquiteturas de RNAs Dependem da estrutura, tipo de neurônio, regra de aprendizado,... Perceptron, Perceptron Multi-Camada (MLP), Rede de Hopfield, Rede de Kohonen, dezenas de outras ADALINE e MADALINE, Máquinas de Boltzmann, CTC-5

37 Perceptron(McCulloch e Pitts, 947) Arquitetura baseada em um neurônio discreto com função de ativação limiar: f(w t.x) = se nível de ativação > 0, - caso contrário. Pode produzir saída vetorial: vários neurônios em paralelo CTC-5

38 Operação do Perceptron: Exemplo Duas entradas: x, y Dois pesos: w, w 2 Uma entrada de bias [ w + w x w y] o = f y x y w w 2 w 0 Σ f w 0 + w x + w2 y = 0 w 0 + w x + w2 y > 0 w 0 + w x + w2 y < 0 x CTC-5

39 Poder de representação dos Perceptrons Conseguem representar qualquer função linearmente separável Função linearmente separável: consigo separar as classes com retas (ou planos, ou hiperplanos). neurônio: classes + e 2 neurônios: classes ++,+-,-+,- - A N neurônios: 2 N classes OK A B B Não OK CTC-5

40 Separação em 4 classes: Exemplo Neurônio : separa em classes C e C2 x w w 0 x Σ f y w 2 Neurônio 2: separa em classes C e C2 x w w 0 Σ f y y w 2 CTC-5

41 Separação em 4 classes: Exemplo w 0 x w w 2 Σ f x w y w 2 Σ f y w 0 CTC-5

42 Limitações do Perceptron Infelizmente, várias funções de interesse não são linearmente separáveis. Por exemplo,o Perceptron não pode representar o XOR (ou exclusivo). X2 X X2 Out a b 0 c 0 d 0 b a 0 d c X Out = 0 Out = CTC-5

43 Aprendizado no Perceptron: Regra Delta A regra de atualização dos pesos é: w i = w i + α δ x i Onde δ = (t - o) x i é a entrada, t é o valor desejado, o é a saída do perceptron e, α é uma constante pequena (ex: 0.), chamada taxa de aprendizado. Funciona para entradas/saídas discretas ou contínuas. CTC-5

44 Treinamento de Perceptrons CTC-5

45 MLP: Multi-layer Perceptrons Conjuntos de Perceptrons arranjados em diversas camadas. Pelo menos uma camada escondida. Soluciona problema de classificação não-linear: consegue formar regiões de decisão mais complexas CTC-5

46 MLP: Multi-layer Perceptrons X 2 A (-) B C Classificação requer 3 linhas discriminantes que criam 7 compartimentos e 2 regiões de decisão: uma para e outra para. (---) compartimentos Solução: Entradas x x 2 X Camada Escondida A B C out - (---),(--),..,() Classe Classe 2 CTC-5

47 Exemplo de Rede MLP: XOR x = x 2 = entradas binárias. w = w 2 = w 3 = w 4 =, w 5 = e w 6 = -2 f (w t.x) = se nível de ativação 0,5, 0 caso contrário. f 2 (w t.x) = se nível de ativação,5, 0 caso contrário. 0,5,5-2 0,5 Efetue o recall desta rede completando a tabela acima CTC-5

48 Exemplo de Rede MLP: XOR x = x 2 = entradas binárias. w = w 2 = w 3 = w 4 =, w 5 = e w 6 = -2 f (w t.x) = se nível de ativação 0,5, 0 caso contrário. f 2 (w t.x) = se nível de ativação,5, 0 caso contrário. 0,5,5-2 0,5 Preciso agora de um algoritmo para treinar os pesos CTC-5

49 MLP Sigmóide Neurônio com função de ativação limiar sigmóide: σ ( net) = ou σ ( net) = tanh( net) net + e σ ( x) σ ( x) + e = x = tanh σ ( x) = σ ( x) ( σ ( x) ) ( ) 2 ( x) σ ( x) = σ 2 ( x) Propriedade Interessante CTC-5

50 Como treinar um MLP? Descida do gradiente: Aprenda w i s que minimizam erro quadrático instantâneo (t d, saída esperada ) (o d, saída obtida) : h o h r E[ w] = ( t o 2 d d d ε O 2 ) O = total de saídas da rede x x CTC-5

51 Descida do Gradiente CTC-5

52 Descida do Gradiente (uma camada) CTC-5

53 Redefindo o erro para várias neurônios de saída CTC-5

54 Algoritmo Backpropagation (propagação de retorno) CTC-5

55 Algoritmo Backpropagation - 2 CTC-5

56 Inicialize w i s (pequeno valor aleatório) Repita até condição de término: w i = 0 Para cada exemplo d faça w i w i + w i o d σ(σ i w i x i,d ) w i w i + η (t d o d ) o d (-o d ) x i,d Inicialize w i s (pequeno valor aleatório) Repita até condição de término: Para cada exemplo d faça w i = 0 o d σ(σ i w i x i,d ) w i w i + η (t d o d ) o d (-o d ) x i,d w i w i + w i Aprendizado Batch (em lotes) Aprendizado Online (incremental) CTC-5

57 Algoritmo Backpropagation Generalização da descida do gradiente: várias camadas Inic. pesos (valores aleatórios pequenos) Para cada exemplo de treinamento: Para cada neurônio escondido h: Para cada neurônio de saída k: Para cada neurônio de saída k: Para cada neurônio escondido h: Atualize cada peso da rede w ij : w ij w ij + w ij onde δ k = w o σ ( ) h = whi xi i = k σ ( wkh xh k k ( ok )( tk ok o ) o δ = o ( o ) h h ij h =η δ j x k ij w hk δ ) k CTC-5

58 Exemplo Entrada Saída CTC-5

59 Aprendizado da representação (camada interna) Entrada Saída CTC-5

60 Backpropagation - CTC-5

61 Backpropagation - 2 CTC-5

62 Backpropagation - 3 CTC-5

63 Backpropagation - 4 CTC-5

64 Backpropagation - 5 CTC-5

65 Backpropagation - 6 CTC-5

66 Backpropagation - 7 CTC-5

67 Backpropagation - 8 CTC-5

68 Backpropagation - 9 CTC-5

69 Backpropagation - 0 CTC-5

70 Backpropagation - CTC-5

71 Backpropagation - 2 CTC-5

72 Backpropagation - 3 CTC-5

73 Backpropagation - 4 CTC-5

74 Backpropagation - 5 CTC-5

75 Backpropagation - 6 CTC-5

76 Backpropagation - 7 CTC-5

77 Backpropagation - 8 CTC-5

78 Todos os pesos atualizados Reinicia processo! CTC-5

79 Aprendizado: Erro e Pesos CTC-5

80 Aumento da velocidade de aprendizado: Momento error E E w ij Descida do Gradiente w ij E η w ij DG com Momento E wij η + µ w w ij ij w ij w ij new weight w ij CTC-5

81 Overfitting em RNAs CTC-5

82 Convergência e Critério de Parada Pode ficar preso em mínimo local Pesos podem divergir mas na prática, funciona bem! Critério de parada (para evitar overfitting): parar assim que erro no conjunto de validação começar a aumentar CTC-5

83 Faixa de operação σ(x) σ ( x) = + e x Faixa linear, # de unidades escondidas não interessa x CTC-5

84 Capacidade de uma RNA MLP Qualquer função booleana pode ser representada por uma RNA com uma camada escondida. Qualquer função contínua limitada pode ser aproximada por uma RNA com uma camada escondida. Qualquer função contínua pode ser aproximada por uma RNA com duas camadas escondidas. CTC-5

85 Avaliação do Backpropagation em MLP O desempenho do algoritmo de aprendizagem backpropagation está condicionado à modelagem adotada na rede neural e ao conjunto de dados utilizados no treinamento. O número de unidades de processamento das camadas de entrada e saída é usualmente determinado pela aplicação. Nas camadas ocultas, a relação não é tão transparente. O ideal é utilizar o menor número possível de unidades ocultas para que a generalização não fique prejudicada [REFENES993c] Se o número de neurônios ocultos for muito grande, a rede acaba memorizando os padrões apresentados durante o treinamento. [RUMELHART986] Contudo, se a rede possuir unidades ocultas em número inferior ao necessário, o algoritmo pode não conseguir ajustar os pesos adequadamente, impedindo a convergência para uma solução. A experiência ainda é a melhor indicação para a definição da topologia de um modelo conexionista [SURKAN990]. CTC-5

86 Exemplo: ALVINN Dirige um carro a 00 Km/h. CTC-5

87 Exemplo: MLP Sigmóide Reconhecimento de fala - separar 0 vogais entre h_d (em inglês) CTC-5