IC Inteligência Computacional Redes Neurais. Redes Neurais

Transcrição

1 Universidade Federal do Rio de Janeiro PÓS-GRADUAÇÃO / IC Inteligência Computacional Redes Neurais Antonio G. Thomé thome@nce.ufrj.br Redes Neurais São modelos computacionais que, através de um conjunto de elementos de processamento muito simples (atuando como neurônios), altamente conectados e processando em paralelo, são capazes de: gerar seu próprio conhecimento (aprender); reconhecer e classificar padrões (formas); generalizar o conhecimento adquirido. Redes Neurais não são programadas para solucionar um problema elas aprendem sozinhas a solucionar um tipo de problema. 2 1

2 Capacidade de Aprendizado autônomo Inteligência São inspiradas no modelo biológico do cérebro humano 3 Redes Neurais serão autônomas? O.k., and now you ll do exactly what I m telling you! 4 2

3 O Que é Inteligência? É a faculdade de aprender, compreender e adaptarse. É agudeza de raciocínio e perspicácia Aurélio Buarque de Holanda Componentes dod processo ypercepção yreconhecimento de Padrões yaprendizagem yraciocínio yconhecimento 5 Inteligência Inteligência Artificial Sistemas Especialistas Agentes Inteligentes Lógica Nebulosa Algoritmos Genéticos Redes Neurais Inteligência Computacional 6 3

4 John MacCarthy Standford, 1956 Década 60 Tradicional Novas Abordagens Entendimento e Compreensão Percepção James Bezdek 1981 Raciocínio Simbólico Lógica Tradicional Processamento Numérico Comparação de Padrões 7 Conhecimento Explícito Aprendizado Inteligência Artificial Atua nos níveis mais elevados de inteligência. Inteligência Computacional: Atua nos níveis mais básicos de inteligência. ypercepção yreconhecimento de Padrões yaprendizagem yraciocínio yconhecimento 8 4

5 Inteligência Computacional ypercepção yreconhecimento de Padrões yaprendizagem Lógica não tradicional Conceitos de Seleção das Espécies Conceitos Imunológicos Redes Neurais (Neuronais) Sistemas Nebulosos Algoritmos e Programação Genética Sistemas Imunológicos 9 Inteligência Conhecimento adquirido formalizado armazenado + formalizado Raciocínio induzido formal intuitivo espontâneo percepção Aprendizagem voluntária formal informal involuntária adestramento generalização 10 5

6 Conhecimento Conhecimento se refere a informação armazenada ou a modelos utilizados por uma pessoa ou máquina para interpretar, prever e responder apropriadamente a estímulos do mundo exterior. 11 Como pode ser representado? Conhecimento Nos primórdios da computação? integrado ao hardware - fixo Nas primeiras máquinas programáveis? agregado ao hardware genérico integrado ao software - implícito 12 6

7 Como pode ser representado? Nos modelos de IA - Sistemas Especialista agregado ao software explícito bases de conhecimento Conhecimento Nos modelos de IC Redes Neurais agregado ao hardware e ao software aprendido pelo próprio modelo 13 Redes Neurais São modelos computacionais que, através de um conjunto de elementos de processamento muito simples (atuando como neurônios), altamente conectados e processando em paralelo, são capazes de: gerar seu próprio conhecimento - aprendizado; reconhecer e classificar padrões - percepção; generalizar o conhecimento adquirido - conhecimento. Redes Neurais não são programadas para solucionar um problema elas aprendem sozinhas a solucionar um tipo de problema. 14 7

8 Redes Neurais Breve História X Y 15 Breve Histórico McCulloch e Pits Rosemblat Bernard Widrow Minsky e Papert John Hopfield Rumelhart ????? Estudo do Neurônio O Perceptron Filtros Adaptativos Crítica aos Perceptrons Resgata Interesse em RNs Alg. Backpropagation 16 8

9 1943: trabalho pioneiro de McCulloch e Pitts McCulloch: psiquiatra e neuroanatomista Pitts: matemático descrição do modelo formal de um neurônio acreditavam que um número suficiente de neurônios atuando de forma adequada poderiam, a princípio, computar qualquer função computável 1949: Hebb publica o livro The Organization of Behavior formulação da primeira regra de aprendizagem Histórico 1958: Rosemblat propõe o Perceptron como um método inovador de aprendizagem supervisionada demonstração do teorema da convergência : Widrow e Hoff descrevem o ADALINE (ADAptative LINear Element ) formulação da regra delta Histórico 1969: Minsky e Papert demonstram as limitações do Perceptron aplicável apenas a problemas linearmente separáveis Década de 1970: adormecimento das pesquisas em redes neurais livro de Minsky e Papert 18 9

10 Histórico 1982: Hopfield publicou um estudo sobre as propriedades associativas das redes neurais relação entre redes recorrentes e sistemas físicos 1986: Rumelhart, Hinton e Williams desenvolvem o algoritmo backpropagation formulação da regra delta generalizada 1988: Broomhead e Lowe descrevem um procedimento para o projeto de redes utilizando funções de base radial 19 O PARADIGMA DAS REDES NEURAIS 20 10

11 O que são Redes Neurais? São modelos computacionais que emulam a estrutura e o funcionamento do cérebro humano. Características mais relevantes Aprendizagem Reconhecimento de Padrões Representação do Conhecimento Generalização Paralelismo 21 Características dos Modelos Neurais São construídos, não programados. Geram seu próprio conhecimento aprendem. Oferecem soluções aproximadas, não exatas. Oferecem soluções que podem ou não estar corretas. Não são aplicáveis a qualquer problema. Generalizam o conhecimento apreendido

12 Conhecimento Problema Banco de Dados Modelos Procedimentos 23 Dados Históricos Aprende Sistemas Convencionais Identificar o Problema; Entender o Problema; Formular um Procedimento Lógico de Solução; Implementar o Procedimento de Solução; Testar e Corrigir o Modelo; Coletar / Organizar / Formatar Dados; Executar o Modelo. Conhecer e ser capaz de conceber a solução 24 12

13 Como proceder quando? não se conhece um procedimento de solução, ou a solução é muito complexa, ou os critérios de decisão são imprecisos, ou os dados são incompletos, ou são afetados por perturbações aleatórias, ou não possuem uma forma (padrão) definido. 25 Mapeamento desconhecido inconsistência ambigüidade idade invariância ruído ruído Percevejo Abelha Marimbondo CLASSIFICAÇÃO 26 13

14 Tendências das Aplicações Complexas Sistemas Inteligentes com capacidade de processamento Convencional e Adaptativo 27 Classes de Problemas Para Redes Neurais 28 14

15 Classificação Busca por uma função que consiga classificar automaticamente objetos em uma dentre um conjunto finito e pré-definido de classes. A construção do modelo segundo esta estratégia, pressupõe o conhecimento prévio das possíveis classes e a correta classificação dos exemplos usados na modelagem. 29 Exemplo: em análise de risco - classificar um potencial cliente entre as categorias de excelente, bom ou mau pagador. Categorização (Clustering) Consiste na busca de similaridades entre os dados tal que permita definir um conjunto finito de classes ou categorias que os contenha e os descreva. A principal diferença entre esta abordagem e classificação é que em agregação não se tem conhecimento prévio sobre o número de classes possíveis nem a possível pertinência dos exemplos usados na modelagem. Descobrir grupos homogêneos de clientes é uma das possíveis aplicações e pode ser usada para ajudar na definição da estratégia de marketing a ser adotada

16 Reconhecimento Consiste na associação do padrão corrente ao padrão representativo de uma e somente uma entidade previamente armazenada em memória. Uma das formas mais conhecida de reconhecimento é, por exemplo, o reconhecimento de locutor. 31 Previsão Envolve uma componente temporal, isto é, representa aquela classe de problemas nos quais estamos interessados em prever o comportamento ou valor futuro de uma determinada variável com base em valores anteriores desta mesma variável (mono-variável) ou em valores anteriores da variável de interesse e de outras variáveis (multivariável)

17 Previsão e realização nem sempre saem como planejado. Come Vamos on! It lá, can t não go podemos wrong every errar time... todas Etapas de um Projeto com aplicação de Redes Neurais 34 17

18 Pre Dados Históricos Descritores análise seleção preparação Construção da rede Treinamento Teste e Validação erro professor par Fixa Arquitetura For mat Saída açã o açã o Produção Dados Correntes 35 A Escolha dos Descritores A escolha dos atributos é fundamental Qual é o meu? 36 18

19 Representação e Interpretação das Saídas da Rede Neural 37 19