Inteligência Artificial. Redes Neurais Artificiais. Aula II Introdução

Transcrição

1 Universidade Estadual do Oeste do Paraná Curso de Bacharelado em Ciência da Computação Inteligência Artificial Redes Neurais Artificiais Aula II Introdução

2 Introdução as Redes Neurais Artificiais - RNAs Redes Neurais Artificiais RNA (ver.) Características Ativação de Pitts e de Hebb Aprendizado Arquitetura Algoritmo backpropagation

3 RNAs - Conceitos Redes neurais artificiais são sistemas paralelos distribuídos compostos por unidades de processamento simples (neurônios artificiais) que calculam determinadas funções matemáticas (normalmente não lineares) que são dispostas em uma ou mais camadas interligadas por um grande número de conexões, geralmente unidirecionais. Na maioria dos modelos essas conexões estão associadas a pesos que armazenam o conhecimento adquirido pelo modelo e servem para ponderar a entrada recebida por cada neurônio da rede (Braga, Carvalho e Ludermir, 2007)

4 RNAs - Neurônio Booleano Suposições de McCulloch e Pitts (1943): 1) A atividade de um neurônio é um processo tudo ou nada (binário); 2) Um número mínimo de sinapses (>1) deve ser excitado em um período para ativar o neurônio; 3) O único atraso nos sistemas se dá nas sinapses; 4) A atividade de uma sinapse inibitória é absoluta; 5) A estrutura de interconexões não se modifica.

5 RNAs - Neurônio Booleano

6 Características gerais

7 RNAs Características gerais Uma rede neural artificial é composta por várias unidades de processamento, cujo funcionamento é bastante simples. Essas unidades, geralmente são conectadas por canais de comunicação que estão associados a determinado peso. As unidades fazem operações apenas sobre seus dados locais, que são entradas recebidas pelas suas conexões. O comportamento inteligente de uma Rede Neural Artificial decorre das interações entre as unidades de processamento da rede.

8 RNAs Características gerais A operação de uma unidade de processamento, proposta por McCullock e Pitts em 1943, pode ser resumida da seguinte maneira: Sinais são apresentados à entrada; Cada sinal é multiplicado por um número, ou peso, que indica a sua influência na saída da unidade; É feita a soma ponderada dos sinais que produz um nível de atividade; Se este nível de atividade exceder um certo limite (threshold) a unidade produz uma determinada resposta de saída.

9 RNAs Características gerais Suponha que existam : p sinais de entrada X1, X2,..., Xp pesos w1, w2,..., wp limitador (limiar ou threshold ) t; Sinais de entrada assumindo valores booleanos (0 ou 1), e pesos assumindo valores reais. Neste modelo, o nível de atividade é dado por: a = X1w1 + X2w Xpwp A saída y é dada por (função passo/degrau) y = 1, se a >= t ou y = 0, se a < t.

10 RNAs - Neurônio Artificial

11 RNAs Detalhando... Cada neurônio de uma RNA é composto pelos seguintes elementos: um conjunto de valores de entrada; um conjunto de pesos; uma função de ativação; uma saída.

12 Detalhando

13 RNAs Detalhando... ENTRADAS As RNAs utilizam neurônios artificiais interconectados, que recebem informações de entrada (x 1,..,x i,...,x n ) através de sensores ou de outros neurônios, executam operações sobre elas e as enviam, como saída (y), para outros neurônios ou estruturas responsáveis pela conclusão da operação. O conjunto de valores que passam por um neurônio pode ser de diversos tipos diferentes; Contudo, normalmente são utilizados os valores discretos do conjunto [0,1], [-1,1], ou números de ponto flutuante.

14 RNAs Detalhando... PESOS Cada conexão entre neurônios, também chamada de sinapse, possui uma intensidade associada, expressa por um valor numérico denominado peso (w 1,..,w i,...,w n ), que pode ser modificado. Ou seja, cada entrada de um neurônio terá uma influência relativa sobre a função de ativação desse neurônio. Essa influência é determinada pelo peso dessa entrada. Os pesos de cada entrada são os elementos que possuem o conhecimento da rede, pois eles é que são adaptados durante o processo de treinamento.

15 RNAs - Detalhando... Função de Ativação Cada neurônio artificial determina um valor de entrada (net) através da soma dos produtos dos valores de entrada pelos valores de peso. Uma vez calculado este valor de entrada, ele se transforma no valor de ativação do neurônio. A função de ativação é utilizada para calcular o valor de ativação de cada neurônio em função dos seus pesos e dados de entrada. O neurônio calcula o valor de ativação em função do produto escalar WX= w 1 x 1 + w 2 x w n x n.

16 RNAs - Detalhando... Função de Ativação A ação da função de ativação, seja ela contínua ou descontínua, provoca uma reação ou saída de um neurônio em termos do nível de suas atividades internas, quando um certo valor de limiar (threshold) é atingido. Algumas das funções de ativação utilizadas pelas RNAs são a linear, linear por partes, sinal, sigmoidal, logística e hiperbólica.

17 RNAs funções de ativação:

18 RNAs - Detalhando... Saída É o resultado fornecido pela RNA como resposta aos cálculos realizados entre os valores de entrada, pesos e função de ativação: y=f(xw).

19 RNAs - Um Neurônio Artificial Estas características básicas se referem a um neurônio artificial padrão. No entanto, os neurônios artificiais podem diferir uns dos outros quando, por exemplo, são utilizadas diferentes funções de ativação, valores de limiar, entrada adicional e outros elementos que podem ser incluídos no processamento de um neurônio.

20 Aprendizagem de Hebb Em 1949, Donald Hebb propôs que o aprendizado em sistemas nervosos complexos poderia ser reduzido a um processo em que a intensidade das conexões sinápticas era alterada em função de influências detectáveis localmente. A ideia principal desta suposição, é sintetizada a seguir, na chamada regra de aprendizado Hebbiano:

21 Aprendizagem de Hebb "Quando um axônio de uma célula A está suficientemente próximo para excitar uma célula B, ou seja, toma parte no disparo de B de forma repetida, ocorre algum processo de crescimento ou alguma troca metabólica em uma das células, ou nas duas, de tal modo que a eficiência de A, como uma das células que desencadeia o disparo de B, é incrementada"

22 Neurônio Booleano & Pavlov reforço

23 Aprendizagem de Hebb 1) Se dois neurônios em ambos os lados de uma sinapse (conexão) são ativados simultaneamente, então a força daquela sinapse é seletivamente aumentada; 2) Se dois neurônios em ambos os lados de uma sinapse são ativados assincronamente, então aquela sinapse é seletivamente enfraquecida ou eliminada

24 Aprendizagem de Hebb

25 Rede Neural Artificial Uma rede neural pode operar, genericamente, em duas fases: 1) Treinamento: quando os valores das sinapses estão sendo ajustados; 2) Atuação/utilização: quando os valores das sinapses não mudam.

26 RNAs - Um Neurônio Artificial Existem modelos ou paradigmas diferentes que visam categorizar as RNAs. Duas abordagens no entanto, além de diferenciá-las, contribuem para caracterizar sua habilidade funcional: 1) o aprendizado 2) a arquitetura.

27 Aprendizado

28 RNAs - Aprendizado A propriedade que é primordial para uma RN é a sua habilidade de aprender a partir de seu ambiente e de melhorar o seu desempenho através da aprendizagem (Haykin). Existem vários conceitos para aprendizado de RNs. O conceito de aprender para as RNAs está relacionado com a apresentação de um comportamento diferente em resposta a um estímulo externo devido à excitações recebidas no passado

29 RNAs - Aprendizado Haykin: Aprendizagem é o processo pelo qual os parâmetros livres de uma rede neural são adaptados através de um processo de estimulação pelo ambiente no qual a rede está inserida. O tipo de aprendizagem é determinado pela maneira pela qual a modificação dos parâmetros ocorre. Isto implica na seguinte sequência de eventos:

30 RNAs - Aprendizado Sequência de eventos: 1) a RN é estimulada por um ambiente; 2) a RN sofre modificações nos seus parâmetros livres como resultado desta estimulação; 3) a RN responde de uma maneira nova ao ambiente, devido às modificações ocorridas na sua estrutura interna.

31 RNAs - Aprendizado Ou seja... A propriedade mais importante das redes neurais é a habilidade de aprender a partir de seu ambiente e com isso generalizar seu desempenho. Isso é feito através de um processo iterativo de ajustes aplicado a seus pesos, o treinamento. O aprendizado ocorre quando a rede neural atinge uma solução generalizada para uma classe de problemas.

32 RNAs - Aprendizado O aprendizado ou treinamento de uma RNA ocorre após a apresentação dos dados e da escolha da arquitetura e do algoritmo de aprendizagem (associado à arquitetura). O treinamento de uma RNA não possui tempo determinado de execução e, na maioria dos casos, acontece com um subconjunto de exemplos;

33 RNAs - Aprendizado O teste de performance da RNA é realizado por um outro subconjunto de dados menor do que o utilizado para o treinamento. O treinamento e o teste são utilizados para medir o que a RNA aprendeu e verificar se esse aprendizado contém informações importantes para seus objetivos fins (aplicação).

34 Aprendizado Supervisionado e Não Supervisionado

35 RNAs - Aprendizado Supervisionado O aprendizado supervisionado é o paradigma de treinamento mais utilizado para treinar RNAs. Através do aprendizado supervisionado as RNAs aprendem através de exemplos propostos por um supervisor. Desta forma, um exemplo, de um conjunto de exemplos relativos a um determinado domínio, é apresentado a RNA com seu respectivo valor de saída correto.

36 RNAs - Aprendizado Supervisionado A RNA ao processar este exemplo, retorna um resultado. Este resultado é comparado com o valor de saída correto informado pelo supervisor, de onde obtémse um valor de erro. Este valor de erro é utilizado para efetuar ajustes aos pesos das conexões sinápticas, onde o conhecimento supostamente está sendo formado e armazenado.

37 RNAs - Aprendizado Supervisionado A este processo, que é executado para todo o conjunto de exemplos, chama-se época. Uma nova época é iniciada de forma que os valores de erro obtidos para cada exemplo nesta etapa, em média tendem a ser menores do que os erros obtidos na época anterior, e assim sucessivamente. Normalmente, várias épocas são necessárias para que o valor do erro obtido esteja dentro dos parâmetros considerados satisfatórios.

38 RNAs - Aprendizado Supervisionado Findo este processo, a rede é dita treinada, e está apta a atuar sobre aquele domínio para o qual foi treinada.

39 RNAs - Aprendizado Não Supervisionado O aprendizado não supervisionado é uma forma utilizada pelas RNAs para aprender em situações ou domínios em que não existem informações claras e concisas sobre os possíveis mapeamentos, tendo em vista os dados disponíveis. Portanto, não existe um "valor de saída correto" para cada exemplo, como no caso do aprendizado supervisionado, assim como não existe um supervisor do processo.

40 RNAs - Aprendizado Não Supervisionado Espera-se que a RNA possa agrupar as entradas por alguma similaridade, que pode ser analisada por um especialista visando encontrar esses mapeamentos, que indicam possíveis significados até sua identificação. Assim, as modificações dos pesos nas conexões sinápticas são feitas através de esquemas que atuam de maneira que a rede responda de forma semelhante, a exemplos semelhantes.

41 Arquiteturas

42 RNAs - Arquiteturas A arquitetura de uma RNA representa a forma com que os neurônios estão organizados e conectados entre si. Esta forma de organização está relacionada com os algoritmos de aprendizagem usados para treinar a rede. Em geral, podem ser identificadas duas classes de arquiteturas de redes neurais, as redes com duas ou mais camadas de alimentação para frente, chamadas feedforward, e as redes recorrentes.

43 RNAs - Arquiteturas Arquiteturas neurais são tipicamente organizadas em camadas, com unidades que podem estar conectadas às unidades da camada posterior. Camada de Entrada: onde os padrões são apresentados à rede; Camadas Intermediárias ou Escondidas: onde é feita a maior parte do processamento, através das conexões ponderadas; podem ser consideradas como extratoras de características; Camada de Saída: onde o resultado final é concluído e apresentado.

44 RNAs - Arquiteturas Arquiteturas Feedforward:

45 RNAs - Arquiteturas Arquiteturas Feedforward: As RNAs são ditas de alimentação para frente (feedforward), quando o fluxo dos dados necessariamente só é conduzido para frente, implicando neste tipo de estrutura, que não há realimentação. Este tipo de rede pode apresentar duas ou mais camadas de neurônios.

46 RNAs - Arquiteturas Arquiteturas Recorrente:

47 RNAs - Arquiteturas Arquiteturas Recorrentes: As redes recorrentes são aquelas em cuja estrutura de organização dos neurônios existem além de conexões de alimentação para frente, conexões de realimentação (feedback). Portanto, não existe direção privilegiada para a propagação da informação.

48 RNAs - Arquiteturas A definição da arquiteturas de uma RNA, depende de vários fatores, dentre eles: 1) Complexidade do problema 2) Dimensionalidade do espaço de entradas 3) Características dinâmicas ou estáticas 4) Conhecimento a priori sobre o problema 5) Representatividade dos dados 6) Tipo de algoritmo escolhido.

49 RNAs - Aprendizado Algoritmo de Aprendizagem: Denomina-se algoritmo de aprendizado a um conjunto de regras bem definidas para a solução de um problema de aprendizado. Existem muitos tipos de algoritmos de aprendizado específicos para determinados modelos de redes neurais, estes algoritmos diferem entre si principalmente pelo modo como os pesos são modificados.

50 RNAs - Aprendizado Algoritmo de Aprendizagem: Portanto, não há um algoritmo de aprendizagem único para as RNs. Há um conjunto de algoritmos cada qual oferecendo vantagens específicas. Diferem entre si pela forma como efetuam o ajuste do peso sináptico dos neurônios. Diferem entre si pela maneira como se relacionam com o ambiente (supervisionado ou não).

51 RNAs - Aprendizado Tipos (Haykin): Aprendizagem por correção de erro; Aprendizagem Baseada em memória; Aprendizagem Hebbiana; Aprendizagem Competitiva; Aprendizagem de Boltzmann; Aprendizagem por reforço; Aprendizagem Supervisionada Aprendizagem não Supervisionada

52 RNAs - Aprendizado Tipos (Haykin): Aprendizagem por correção de erro; Aprendizagem Baseada em memória; Aprendizagem Hebbiana; Aprendizagem Competitiva; Aprendizagem de Boltzmann; Aprendizagem por reforço; Aprendizagem Supervisionada Aprendizagem não Supervisionada

53 Aprendizado por Correção de Erro

54 RNAs - Aprendizado Aprendizagem por Correção de Erro: A aprendizagem por correção de erro é aquela cujo objetivo é minimizar o erro de resposta da rede, em relação a uma resposta desejada, em um dado momento.

55 RNAs - Aprendizado Aprendizagem por Correção de Erro: Existe uma resposta desejada para um neurônio k a um tempo n, como a resposta atual desse neurônio produzida através de estímulos advindos de um padrão de treinamento x(n). Este padrão de entrada x(n) e a resposta desejada para um neurônio k constituem um exemplo particular apresentado a rede, a um tempo n. Geralmente, a resposta do neurônio k é diferente da resposta desejada.

56 RNAs - Aprendizado Aprendizagem por Correção de Erro: Sendo assim, existe um erro, que é a diferença entre a resposta obtida em relação a resposta desejada. Portanto, a aprendizagem por correção de erro visa minimizar o erro de maneira tal que a resposta de saída mais se aproxime da resposta desejada. Há uma variedade de regras de adaptação que visam reduzir o erro com a apresentação de cada padrão de treinamento.

57 RNAs - Aprendizado Aprendizagem por Correção de Erro: O desempenho dos diferentes algoritmos para ajuste dos pesos é medido geralmente por uma função de erro médio sobre todo o arquivo de treinamento, chamado de erro médio quadrado. As abordagens mais utilizadas para redução do erro médio quadrado estão baseadas no método do gradiente descendente. Exemplos de algoritmos de aprendizagem por correção de erro são os Adalines e Madalines, os LMSs, e o Backpropagation.

58 APRENDIZAGEM POR REFORÇO

59 RNAs - Aprendizado Aprendizagem por reforço: As ideias decorrem dos experimentos de Pavlov e Minsky sobre condicionamento por reforço. Lei do Efeito: quanto maior a satisfação obtida com uma certa experiência em um animal, maiores as chances de ele aprender O aprendizado por reforço é considerado um caso particular de aprendizado supervisionado. No aprendizado por reforço o crítico externo procura maximizar o reforço das ações boas executadas pela rede.

60 RNAs - Aprendizado Aprendizagem por reforço: crítico Reforço / penalidade RNA ação

61 Aprendizagem Competitiva

62 RNAs - Aprendizado Aprendizagem Competitiva: Na aprendizagem competitiva, os neurônios de saída da RNA competem entre si para definir qual deles será ativado, em resposta a um determinado padrão de entrada apresentado. Assim, entradas que possuem alguma semelhança, tendem a ativar o mesmo neurônio. Tipo de aprendizagem adequada para descobrir características salientes que podem ser utilizadas para classificar um conjunto de padrões de entrada.

63 RNAs - Aprendizado Aprendizagem Competitiva: Os neurônios individuais da rede aprendem a se especializar em agrupamentos de padrões similares. Assim, eles se tornam detectores de características para classes diferentes de padrões de entrada. Entradas que possuem alguma semelhança tendem a excitar o mesmo neurônio na saída. Para um neurônio k ser o neurônio vencedor, seu campo local induzido vk para um padrão de entrada especificado x deve ser o maior entre os neurônios da rede.

64 RNAs - Aprendizado O sinal de saída yk do neurônio vencedor k é =1; os demais são iguais a 0. Aprendizagem Competitiva: Regra de aprendizagem competitiva padrão: w kj ( x w ) se o neuronio k vencer j kj = 0 se o neuronio k perder É a taxa de aprendizagem Esta regra tem o efeito global de mover o vetor de peso sináptico wk do neurônio vencedor k em direção ao padrão de entrada x

65 RNAs - Aprendizado Aprendizagem Competitiva: Pontos= vetores de entrada; x= vetores pesos de três neurônios de saída.

66 RNAs - Algoritmo Backpropagation Exemplo

67 RNAs - Backpropagation Problema : construir um reconhecedor de caracteres (OCR): - L; - C; - H; - O;

68 RNAs - Backpropagation

72 RNAs - Backpropagation Padrão de saídas para os caracteres: L ; C ; H ; O ;

73 RNAs - Backpropagation : L

81 RNAs - Backpropagation : L L

82 RNAs - Backpropagation : C C

83 RNAs - Backpropagation : H H +1

84 RNAs - Backpropagation : O O +1

85 RNAs - Algoritmo Backpropagation

86 RNAs - Arquitetura

87 representação Cada círculo representa um neurônio, e cada coluna de neurônios indica uma camada. Assim, os neurônios 1,..i,..N, compõem a camada de entrada, os 1,..j,..L, representam a camada escondida, e os neurônios 1,..k,..M, representam a camada de saída.

88 representação As setas que estão entrando na primeira camada representam as entradas da rede, e aquelas que estão saindo da última camada representam as saídas obtidas por ela. As demais setas que chegam à camada escondida e à camada de saída representam as ligações sinápticas, e indicam que a rede está totalmente interconectada.

89 representação - Os elementos x p1,..,x pi,..,x pn, representam o p-ésimo vetor de treinamento que servirá de entrada para a rede. - Os elementos x p0 e i p0 que recebem o valor fixo 1, alimenta o bias de cada neurônio. - Os elementos w h j0,..,w h j1,..w h ji,..,w h jn, assim como w o k0,..,w o k1,..,w o kj,..,w o kl representam os valores dos pesos sinápticos dos neurônios, e sofrem alterações durante o processo de aprendizagem da rede. - Os elementos i p1,..,i pj,..,i pl, e o p1,..,o pk,..,o pm representam as saídas (ativação) da camada escondida e da camada de saída, respectivamente.

90 Algoritmo O processo de treinamento de um único vetor de entrada, utilizando o algoritmo Backpropagation é feito da seguinte forma: a) Aplicar o vetor de entrada às entradas; x = (x, x,.., x ) p p p p 1 2 N b) Calcular os valores de "net" para as unidades da camada escondida; net N h h pj = wjixpi i= 1 T

91 Algoritmo c) Calcular as saídas da camada escondida; f h h pj j pj i = f ( net ) onde é a função de ativação aplicada as saídas da camada escondida. No exemplo, foi utilizada a tangente hiperbólica. d) Na camada de saída, calcular os valores de "net" para cada unidade de saída; net o pk L j= 1 o kj pj = w i

92 Algoritmo e) Calcular as saídas; onde é a função de ativação aplicada as saídas da camada de saída. Foi utilizada a tangente hiperbólica. f) Calcular os termos de erro para as unidades de saída; Onde: f o o o = f ( net ) pk k pk o y o f o ' net o pk pk pk k pk = ( ) ( )

93 Algoritmo y pk onde são os valores de saída desejados e é a derivada da função de ativação. Como neste caso foi utilizada a tangente hiperbólica, f o k ' = o 2 pk (1 ) g) Calcular os termos de erro para as unidades escondidas; h h h o o pj j pj pj kj k = f ' ( net ) w o' f k

94 Algoritmo h) Atualizar os pesos da camada de saída; onde o o o kj kj pk pj w ( t + 1) = w ( t) + i é o parâmetro da taxa de aprendizagem i) Atualizar os pesos da camada escondida; h h h ji ji pj pi w ( t + 1) = w ( t) + x O termo de erro médio instantâneo é definido como: M 1 2 onde E p = = ( y o ) pk pk pk pk 2 k = 1

95 Algoritmo - Exemplo

96 Definições p/a Rede Exemplo 1) Número de vetores de treinamento: 4 (somente os caracteres certinhos da matriz) 2) Número de neurônios na camada de entrada: 21 (20 matriz e 1 bias) 3) Número de neurônios na camada escondida: 5 4) Número de neurônios na camada de saída: 4 (4 padrões) 5) Parada p/erro médio quadrado satisfatório: 0,001 6) Limite máximo de padrões treinamento: ) Taxa de aprendizado: 0,001 8) Função de ativação: tangente hiperbólica

97 Implementação 1) Iniciar os pesos aleatoriamente (depois * 0,2) tanto da camada escondida quanto da camada de saída 2) Fornecer a taxa de aprendizado: ) Fornecer a quantidade de vetores de treinamento:4 4) Treinamento: rotinas de propagação e retropropagação; pára por taxa de erro ou pelo alcance do limite máximo de interações p/treinamento 5) Salvar a configuração total 6) Uso: apresenta um novo padrão p/reconhecimento; Responde com valor numérico do reconhecimento.

98 Referências Fernando Deschamps UFSC; Paulo Marins Engel UFRGS; Haykin, Simon. Redes Neurais princípios e prática. 2.ed. Porto Alegre: Bookman, Kovalsky.

99 Referências Fernando Deschamps UFSC; Paulo Marins Engel UFRGS; Haykin, Simon. Redes Neurais princípios e prática. 2.ed. Porto Alegre: Bookman, Braga, Carvalho e Ludermir. Redes Neurais Artificiais teoria e aplicações. Rio: LTC, Livro do Kovalsky; Lâminas do prof. Júlio Cesar Nievola, da PUC/PR; Lâminas de Leandro Augusto da Silva; Lâminas do Cin-UFPE;