Pós-Graduação em Engenharia de Automação Industrial SISTEMAS INTELIGENTES PARA AUTOMAÇÃO

Transcrição

1 Pós-Graduação em Engenharia de Automação Industrial SISTEMAS INTELIGENTES PARA AUTOMAÇÃO

2 AULA 8 Redes Neurais

3 Introdução As redes neurais são um tema da computação altamente inspirada na natureza que nos cerca. Durante anos e anos os homens trabalharam para fazer computadores mais rápidos e mais potentes Apesar do seu incrível poder computacional estes computadores falhavam em fazer tarefas que uma criança de 3 anos faria imediatamente Exemplo: reconhecer uma pessoa ou aprender algo novo só com a experiência.

4 Introdução Baseado nisto, resolveu-se então buscar criar um modelo computacional que emulasse o comportamento do cérebro humano. Criaram-se neurônios artifciais extremamente similares aos humanos e interligaram-nos para formar redes que mostraram poder fazer tarefas antes restritas aos cérebros Quem sabe assim, poderíamos criar computadores tão inteligentes quanto uma criança de 3 anos de idade?

5 Introdução Além disso, os pesquisadores encontraram nas redes neurais outras características semelhantes às do cérebro : robustez e tolerância a falhas flexibilidade capacidade para lidar com informações ruidosas, probabilísticas ou inconsistentes processamento paralelo arquitetura compacta e com pouca dissipação de energia

6 Introdução Encontrou-se uma arquitetura capaz não só de aprender como também generalizar. Daí podemos entender o frisson do meio científco em relação a esta área. É importante que se entenda que as redes neurais não são a solução dos problemas computacionais da humanidade. Elas nunca superarão as arquiteturas tradicionais no campo da computação numérica, por exemplo. Mas em alguns campos elas estão se tornando ferramentas valiosas.

7 Quando as redes neurais são uteis? Quando não pudermos ou não soubermos criar uma solução algoritímica Quando tivermos muitos exemplos do comportamento que desejamos. Isto é, quando quisermos aprender a partir da experiência existente! Quando quisermos aprender uma estrutura escondida nos dados.

8 Histórico das Redes Neurais McCulloch & Pitts (943) são conhecidos como os projetistas da primeira rede neural. Muitas de suas iéias ainda são usadas hoje em dia. Por exemplo, ainda combinamos muitas unidades simples para obter um grande poder computacional além de nos basearmos também em um threshold de ativação A primeira regra de aprendizado foi desenvolvida por Hebb (949)

9 Histórico das Redes Neurais Durante as décadas de 5 e 6 muitos pesquisadores trabalharam no peceptron com grande afnco e excitação. Em 969, a área sofreu grande impacto e praticamente sumiu devido às descobertas de Minsky & Papert Somente nos anos 8, com o algoritmo de aprendizado para treinamento de redes multi-camada (descoberto de forma independente por Parker e LeCun em 982 e Werbos em 974) as redes neurais voltaram à moda. Hoje em dia, muitos consideram-nas o campo mais importante da IA.

10 Algumas Aplicações Descoberta de novos remédios Entendimento de linguagem natural Carros autônomos Reconhecimento facial Cura para doenças Bolsa de valores Encontrar soluções para controle de tráfego Muitos dados e problemas complexos

11 Neurônio O neurônio é a unidade fundamental constituinte do sistema nervoso

12 Redes Neurais Imitar o sistema nervoso de humanos no processo de aprendizagem Inspirada em redes neurais biológicas Parecido com a troca de informações em uma rede biológica Com deep learning (aprendizagem profunda) as redes neurais fcaram populares novamente

13 Redes Neurais

14 Redes Neurais Neurônios: o cérebro usa para processar informações Axônio: transmite o sinal de um neurônio para outro (sinais elétricos, sinapses) conecta os neurônios. Substâncias químicas são lançadas das sinapses e entram pelos dendritos, aumentando ou baixando o potencial elétrico do corpo da célula. O neurônio dispara se a entrada é maior que um número defnido (liga ou não liga)

15 Redes Neurais Fornece um valor de entrada, a rede processa e retorna uma resposta O neurônio é ativado somente se o valor for maior que um limiar Entrada Neurônios e axônios Saída

16 Neurônio Artificial Entradas x Pesos w x2 w2 x3 w3 f... xn wn Função soma Função ativação McCulloch e Pitts 958 Frank Rosenblatt (perceptron)

17 Neurônio Artificial Entradas Pesos.8 soma = ( *.8) + (7 *.) + (5 * ) 7. f Step function (função Degrau) 5 Função soma Step function Maior do que zero = Caso contrário = Representação tudo ou nada

18 Neurônio Artificial Entradas Pesos -.8 soma = (- *.8) + (7 *.) + (5 * ) 7. f Função soma Step function 5

19 STEP Function

20 Redes Neurais Peso positivo - sinapse excitadora Peso negativo - sinapse inibidora Pesos são sinapses Pesos amplifcam ou reduzem o sinal de entrada Conhecimento da rede neural são os pesos

21 Aprendizagem de Maquina

22 Aprendizagem Supervisionada

23 Classificação (Risco de Crédito)

24 Classificação (Parafusos)

25 Classificação (Parafusos) x comprimento do parafuso x2 diâmetro do parafuso Classe A () e Classe B () = = x 4.2 f x2 3.22

26 Aprendizagem não-supervisionada Analisar automaticamente os dados (associação, Agrupamento) Necessita análise para determinar o significado dos padrões encontrados Reconhecimento de padrões

27 Aprendizagem por reforço Aprender com as interações com o ambiente (causa e efeito) Aprender com sua própria experiência Robô coletando lixo aprendendo a andar em um ambiente Controle automatizado de elevadores

28 Operador E x x2 Classe

29 Operador E x x f f x2 x2 x x2 Classe x x f f x2 x2

30 Calculo de Erro Algoritmo mais simples erro = respostacorreta respostacalculada Os pesos são atualizados até os erros serem pequenos peso(n + ) = peso(n) + (taxaaprendizagem * entrada * erro)

31 Operador E x x.. f f x2. x2. x x2 Classe x. x. f f x2. x2.

32 Operador E x x.5.5 f f x2.5 x2.5 x x2 Classe x.5 x.5 f f x2.5 x2.5

33 ATIVIDADE 7 Calcule os pesos necessários para que o neurônio artificial aprenda a resolver a porta logica OR/OU x x2 Classe

34 Algoritmo Enquanto o erro for diferente de zero Para cada registro Calcula a saída com os pesos atuais Compara a saída esperada com a saída calculada, somando o erro para cada peso da rede Atualiza o peso - peso(n + ) = peso(n) + (taxaaprendizagem * entrada * erro)

35 Conhecendo o Anaconda Criando um perceptron via python com a IDE Anaconda

36 E se aplicamos o perceptron no XOR? y OR y? AND x y XOR x x

37