Aprendizagem de máquina

Transcrição

1 Aprendizagem de máquina Introdução Objetivos Fornecer o ferramental necessário ao entendimento e ao projeto de sistemas baseados em aprendizagem. A disciplina cobre os principais tópicos da aprendizagem de máquina, apontando as principais características das técnicas estudadas, objetivando a melhor escolha dependendo da tarefa. 2

2 Programa da Disciplina 1. Introdução 1.1. Conceitos básicos e tarefas de aprendizagem 1.2. Projeto de sistemas de aprendizagem 2. Técnicas de aprendizado supervisionado 2.1. Aprendizado de conceitos por busca 2.2 Modelos preditivos e técnicas de avaliação 2.3. Árvores de Decisão 2.4. Aprendizado de regras de classificação 2.5. Classificadores probabilísticos 2.6. Aprendizado baseado em instâncias 2.7. Redes Neurais Artificiais 2.8 Máquinas de Vetores de Suporte (SVM) 3. Aprendizado associativo 3.1. Algoritmo Apriori 3.2. Algoritmo FP-Growth 4. Técnicas de aprendizado não-supervisionado 4.1. Conceitos básicos: PCA, agrupamento de dados, VQ e estimação de densidade 4.2. Agrupamento de dados por distância 4.3. Métodos probabilísticos: Algoritmo EM 4.4 Agrupamento hierárquico 4.5 Mapas Auto-organizáveis 5. Aprendizado de sequências: HMM 6. Aprendizado por reforço 6.1. Programação Dinâmica 6.2. Aprendizado por Diferença Temporal 6.3. Métodos baseados em Ator e Crítico 7. Algoritmos Genéticos 3 Livros 1. Mitchell, Tom M., Machine Learning. McGraw-Hill, Alpaydin, Ethem, "Introduction to Machine Learning". MIT Press, Bishop, Christopher M., Pattern Recognition and Machine Learning. Springer, Quinlan, John Ross, C4.5 : programs for machine learning. Morgan Kaufmann, Jensen, Finn V., " Bayesian networks and decision graphs". Springer, Sutton, Richard S.. Reinforcement Learning : an introduction. MIT Press Haykin S. Redes Neurais Princípios e prática. Bookman

3 Método de trabalho e avaliação A disciplina se desenvolverá através de aulas expositivas, complementadas com apresentações de tópicos escolhidos e apresentados pelos alunos. Além disso, os alunos deverão implementar algumas tarefas específicas de aprendizagem. A avaliação da disciplina considera uma prova final, a apresentação dos tópicos pelos alunos e os trabalhos práticos. 5 Informações Úteis Prof. Engel Usem o mail!! engel@inf.ufrgs.br Ramal: 6829 Laboratório de Inteligência Artificial Conexionista

4 Aprendizagem de Máquina Para que serve? Aprendizagem de Máquina O que é Aprendizagem de Máquina? Área da IA que desenvolve métodos indutivos para solução de problemas. Cria modelos genéricos a partir de instâncias de solução do problema. Estuda estrutura de modelos adequadas para técnicas de aprendizagem. Estuda técnicas de aprendizagem adequadas para certas estruturas de modelagem.

5 Paradigmas de Computação Computação programada: a solução do problema é determinada por um algoritmo concebido por um programador que soluciona uma tarefa específica. Necessita de um algoritmo eficaz para solucionar a tarefa. A solução é dedicada à tarefa. Solução é inflexível. Deve-se prever a variabilidade do domínio. 9 Sistemas Baseados em Aprendizagem Sistemas Baseados em Aprendizagem (SBA): a solução de um problema se dá por métodos indutivos. Não é necessário extrair conhecimento de especialistas no domínio, mas precisa de dados que representem instâncias válidas da solução do problema (conjunto de treinamento). Em geral, um modelo capaz de resolver uma tarefa específica é gerado por indução a partir de um conjunto de treinamento. A solução é bastante flexível. A variabilidade do domínio deve estar representada no conjunto de treinamento. 10

6 Solução por SBA Domínio Dados (temperatura, pressão) Modelo Resultados (fluxo) Conjunto de treinamento Dados históricos Temperatura Pressão Fluxo 750 1, , , ,0 20 : : : 11 Exemplos de tarefas solucionadas por SBA Identificar mensagens como spam: não existe um algoritmo específico, mas podemos coletar exemplos de mensagens que consideramos como spam, e gerarmos um modelo de classificação para identificar automaticamente novas mensagens como spam. Identificar potenciais consumidores para um produto: coletar dados de transações efetuadas e descobrir perfis de consumo. Análise de crédito: dados históricos de clientes tomadores de crédito permitem gerar um modelo para prever se um novo cliente potencial será um bom ou mau pagador. Agrupar documentos por assunto: criar um modelo para classificar textos por assunto, com base em palavras compartilhadas. 12

7 Aplicações bem-sucedidas de aprendizado de máquina Aprender a reconhecer palavras faladas: todos os sistemas de reconhecimento de fala empregam algum tipo de aprendizagem redes neurais e modelos ocultos de Markov (HMM) são as abordagens mais usadas. Aprender a guiar um veículo autonomamente: em 1989 o sistema ALVINN, baseado em RN, calculava o ângulo das rodas a partir de imagens de vídeo e de dados de um sensor de distância a laser e guiou um automóvel por 90 milhas, a 70 mph, numa auto-estrada. 13 Aplicações bem-sucedidas de aprendizado de máquina Aprender a classificar estruturas astronômicas: métodos de aprendizado de máquina têm sido usados pela NASA para aprender a classificar automaticamente objetos celestes, a partir de 3 Tb de dados de imagens. Aprender a jogar: vários programas de jogos bem-sucedidos têm sido desenvolvidos baseados em aprendizado: gamão (TD-Gammon), damas, etc. 14

8 Disciplinas que influenciam a área de aprendizado de máquina IA: aprendizado de representações simbólicas de conceitos. Aprendizado de máquina como um problema de busca. Uso de conhecimento e dados para guiar a aprendizagem. Métodos bayesianos: teorema de Bayes para calcular probabilidades de hipóteses. Algoritmos para estimar valores de variáveis não observadas. 15 Disciplinas que influenciam a área de aprendizado de máquina Teoria de controle: procedimentos para aprender a controlar processos, otimizando objetivos e aprendendo a prever o próximo estado. Teoria da complexidade e teoria da informação: limites teóricos da complexidade de tarefas de aprendizagem, medidas de informação e procedimentos para codificação. Estatística: caracterização de erros de estimativa, precisão, confiança. Psicologia, neurobiologia, filosofia: motivação e análise de modelos. 16

9 Tipos de Aprendizado Aprendizado supervisionado: usa informação a priori sobre as relações causa-efeito entre as ações do sistema e o estado do ambiente. existe um conjunto de treinamento contendo pares de estados do ambiente e ações correspondentes, fornecidos pelo instrutor. Aprendizado por imitação Aprendizado Associativo Descobre influência entre variáveis por coocorrências 17 Tipos de Aprendizado Aprendizado ser não-supervisionado: ocorre apenas das observações dos estados do ambiente, sem conhecimento a priori. detecta regularidades nos dados observados formula hipóteses sobre a estrutura do domínio: detecta categorias nos dados de entrada Aprendizado por reforço existe apenas um sinal correspondente ao resultado, positivo ou negativo, de uma ação realizada (no passado). aprendizado supervisionado por um crítico 18

10 Abordagens para a Construção de Modelos O modelo construído pelo processo de aprendizagem é limitado pela abordagem utilizada na sua representação (viés da representação). Nos sistemas de aprendizagem simbólicos, por exemplo, é dada ênfase na descrição do modelo, através de linguagens facilmente interpretadas por humanos. Nos sistemas de aprendizagem computacionais, na maioria das vezes, o interesse está centrado na precisão do modelo. Neste caso, do ponto de vista do usuário, o modelo é visto como uma caixa-preta. y 1,j x y j k,j Modelo y M,j 19 Tipos de Tarefas de Aprendizagem Geração de modelos descritivos Determinação de protótipos de agrupamentos Geração de modelos preditivos Classificação Regressão (aproximação de funções) 20

11 Tipos de Problemas de Aprendizagem Os problemas estudados podem ser agrupados quanto à sua dependência temporal: Problema estático: só depende dos valores instantâneos das variáveis envolvidas as variáveis tem apenas correlação espacial Problema dinâmico: além dos valores instantâneos, depende da seqüência histórica das variáveis envolvidas as variáveis têm correlação espaço-temporal 21 Sistema de aprendizagem em ambientes estáticos As saídas do ambiente/ sistema dependem apenas das suas entradas instantâneas. A funcionalidade do modelo gerado pelo sistema de aprendizagem equivale a um mapeamento de entrada saída. O modelo fornece uma previsão do sinal de saída do ambiente/ sistema. sinal de entrada x 1 Ambiente/ x 2 Sistema y 2 y 1 sinal de saída Modelo ŷ 1 ŷ 2 previsão do sinal de saída Funcionalidade: y, yˆ F( x, ) ˆ1 2 1 x2 Mapeamento 22

12 Sistema de aprendizagem em ambientes dinâmicos As saídas do ambiente/ sistema dependem do histórico das variáveis envolvidas. A funcionalidade do modelo gerado pelo sistema de aprendizagem equivale a uma máquina seqüencial ou a um sistema dinâmico (versão contínua). Em geral, pode-se usar variáveis de estado para sumarizar a dinâmica do sistema. A relação causa-efeito é atrasada no tempo. sinal de entrada x 1 (n 1) x 2 (n 1) Ambiente/ Sistema y 1 (n) y 2 (n) sinal de saída Exemplo de relação de entrada-saída de primeira ordem: Modelo y ( ˆ1 n y ( n) previsão do sinal de saída y ( n), yˆ ( n) F( y ( n 1), y ( n 1), x ( n 1), x ( n 1)) ˆ ˆ2 ) 23 Modelos Descritivos A tarefa de geração de um modelo descritivo consiste (em grande parte) em analisar os dados do domínio (entradas) e sugerir uma partição do domínio, de acordo com similaridades observadas nos dados. Entradas Modelo Determinação de uma configuração de centróides de agrupamentos dos dados Modelo de agrupamento dos dados 24

13 Dados para agrupamento de subespécies da planta Iris uma amostra do domínio Conjunto de medidas c_sepala l_sepala c_petala l_petala 5,1 3,8 1,5 0,3 5,4 3,4 1,7 0, ,0 3,2 4,7 1,4 6,4 3,2 4,5 1, ,3 2,9 6,3 1,8 6,7 2,5 5,8 1, comprimento-sepala largura-sepala comprimento-petala largura-petala Modelo Rótulo de classe natural 25 Modelos Preditivos A tarefa de geração de um modelo preditivo consiste em aprender um mapeamento de entrada para a saída. Neste caso, os dados contêm os valores de saída desejados, correspondentes para cada amostra. Entradas Mapeamento Saídas Classificação: saídas discretas representam rótulos de classe. Regressão: saídas contínuas representam valores de variáveis dependentes. 26

14 Dados para classificação de subespécies da planta Iris amostras rotuladas do domínio Conjunto de medidas rótulo c_sepala l_sepala c_petala l_petala classe 5,1 3,8 1,5 0,3 Iris-setosa 5,4 3,4 1,7 0,2 Iris-setosa ,0 3,2 4,7 1,4 Iris-versicolor 6,4 3,2 4,5 1,5 Iris-versicolor ,3 2,9 6,3 1,8 Iris-virgínica 6,7 2,5 5,8 1,8 Iris-virgínica comprimento-sepala largura-sepala comprimento-petala largura-petala Modelo Rótulo de classe de interesse 27 Aprendizado por reforço O aprendizado por reforço é uma técnica que possibilita a aprendizagem a partir da interação com o ambiente. A interação com o ambiente nos permite inferir relações de causa e efeito sobre as conseqüências de nossas ações e sobre o que fazer para atingir nossos objetivos. Aprender por reforço significa aprender o que fazer - como realizar o mapeamento de situações em ações - de modo a maximizar um sinal numérico de recompensa. Não se dispõe da informação sobre quais ações devem ser tomadas, como é o caso no aprendizado supervisionado. O sistema de aprendizagem deve descobrir quais ações têm mais chances de produzir recompensa, e realizá-las. 28

15 O problema da aprendizagem por reforço Os sistemas de aprendizagem e de tomada de decisão são denominados de agente. O objeto com o qual o agente interage é chamado de ambiente. A interação se dá com o agente selecionando ações e o ambiente respondendo a estas ações apresentando novas situações para o agente. O ambiente também fornece as recompensas - valores numéricos que o agente tenta maximizar ao longo do tempo. Agente estado s t recompensa r t rt+1 s t+1 Ambiente ação a t 29