Algarve. A2 Aprendizagem Automática ML Machine Learning 7/15/2013

Transcrição

1 Preparado para o curso de pós-graduação em Ciências da Computação da Universidade Federal do Ceará, Fortaleza, Brasil A2 Aprendizagem Automática ML Machine Learning Julho e Agosto de 2013 José Valente de Oliveira jvo@ualg.pt 1 Algarve From: 2 1

2 Algarve, Faro From: 3 Ualg, Universidade do Algarve From: 4 2

3 About UAlg Established in 1979 Student population around faculty members; 452 technical and administrative staff Three faculties: Faculty of Economics; Faculty of Human and Social Sciences; Faculty of Sciences and Technology. four schools: School of Education and Communication; School of Management, Hospitality and Tourism; Engineering Institute; Faro School of Health and one Dept. of Biomedical Sciences and Medicine 143 degree programs 7/15/ w3.ualg.pt/~jvo/ml Todos os detalhes na tutoria electrónica. 3

4 O que é a Aprendizagem Automática? SPAM 4

5 À procura de uma definição Aprendizagem é o processo em que o sistema melhora o seu desempenho com base na sua experiência (Herbert Simon). Aprender significa realizar mudanças úteis no modo de funcionar da nossa mente (Minsky) 15-Jul À procura de uma definição Aprendizagem Máquina é o campo de estudo que permite aos computadores aprenderem sem terem de ser explicitamente programados (A. Samuel, 1959). 15-Jul

6 À procura de uma definição Um programa aprende a partir da experiencia E relativamente a alguma classe de tarefas T e medida de desempenho P, se o seu desempenho na tarefa T, medido por P, melhora com a experiência E. (Mitchell, 1997) 15-Jul Exemplo 1 T: Jogar damas P: Percentagem de jogos ganhos contra adversários E: Praticar jogando consigo próprio 15-Jul

7 Exemplo 2 T: Reconhecer dígitos manuscritos P: Percentagem de dígitos corretamente classificados E: Base de dados com imagens rotuladas de dígitos manuscritos. 15-Jul Exemplo 3 T: Classificação de mensagens de como spam (ou legítimas) SPAM P: Percentagem de s classificados corretamente. E: Base de dados de s, alguns previamente classificados como spam. 15-Jul

8 Exemplo 4 T: Conduzir em autoestrada usando câmaras de video P: Distância média percorrida antes de ser assinalado um erro E: Uma sequência de imagens e comandos de direção observados de um condutor humano. 15-Jul Por que é importante a Aprendizagem? O ambiente varia no tempo. Novo conhecimento está sendo constantemente descoberto tornando difícil o redesenho de sistemas à mão. A quantidade de conhecimento disponível sobre certas tarefas é demasiado para ser explicitamente codificado (e.g., diagnóstico médico) 8

9 Por que é importante a Aprendizagem? Algumas tarefas não podem ser bem especificadas a não ser por exemplos (e.g., reconhecimento de pessoas). Os relacionamentos e correlações podem estar escondidos em grandes volumes de dados e a aprendizagem poderá ser capaz de descobrir essas relações. Variantes Entradas Pares Atributo/valor: numéricos, texto, etc Saída Numérico, simbólico, gráfico Tipo de aprendizagem Deductivo, inductivo Tarefa Classificação, regressão Tipo de feedback Supervisionado, por reforço, não supervisionado 15-Jul

10 Variantes: aprendizagem supervionsada Regressão: Previsão de valores contínuos (preço) Preço ($$) Cilindrada (cc) Variantes: aprendizagem supervionsada 1(Sim) Classificação: Saída de valores discretos (0 ou 1) Maligno? 0(Não) Tamanho do tumor 10

11 Variantes: aprendizagem não supervisionada x 2 x 1 Variantes: aprendizagem não supervisionada Segmentação do mercado Análise de redes sociais Análise de dados astronómicos 11

12 Variantes: representação Funções numéricas Regressão linear, Redes neuronais Máquinas de vectores de suporte Modelos gráficos probabilisticos Redes Bayesianas Modelos de Markvoc Funções simbólicas Regras em lógica proposicional Regras em lógica de primeira-ordem Metáforas Metaphors Computacional Conexionist Biological 15-Jul

13 Economics Computer science Machine learning Animal learning (Cognitive science, Psychology, Neuroscience) Evolution Statistics Adaptive Control Theory and Robotics Aprendizagem Automática e a Computação ML já é a abordagem preferida em: Reconhecimento de fala e processamento de linguagem natural Visão por computador Análise de dados médicos Controlo robótico ML apps. Todo o software O nicho ML tem vindo a crescer devido Algoritmos cada vez melhores Aumento da disponibilidade de dados Software demasiado complexo para ser escrito manualmente Exigência do usário por customização 26 13

14 Objetivos gerais da disciplina Em traços gerais, a Aprendizagem Automática visa dotar programas com a capacidade de melhorar o seu desempenho usando sua experiência (e.g., pilotos autónomos, reconhecedores de fala ou escrita, vídeo games, filtros de spam). Esta disciplina cobre algoritmos e alguns aspetos teóricos e práticos para implementação de Aprendizado Automático. A disciplina é claramente interdisciplinar e inclui tópicos como técnicas Bayesianas, redes neurais, máquinas de vetores de suporte, métodos de aprendizagem estatística e aprendizagem não supervisionada. No fim desta disciplina os estudantes deverão ser capazes de aplicar técnicas adequadas de Aprendizado Automático no desenvolvimento de programas que encontram soluções para instâncias de problemas reais. Tópicos programáticos Introdução Aprendizagem indutiva, regressão linear e logística Regularização Abordagem conexionista: Redes Neurais Máquinas de Vetores de Suporte (SVM) Combinação de classificadores Técnicas Bayesianas Modelos gráficos Deteção de Anomalias Sistemas de recomendação Abordagem biológica: Algoritmos genéticos e evolutivos 14

15 Bibliografia recomendada Recommended bibliography [Referência principal] Christopher Bishop, Pattern Recognition and Machine Learning, Springer, 2006 [Referência complementar] Ethem Alpaydin, Introduction to Machine Learning. MIT Press, 2010 Recursos adicionais disponíves em

16 Avaliação Nota final corresponde à média ponderada da nota de um conjunto de problemas que serão realizados ao longo da disciplina. Arredondamentos só na nota final. Os problemas incluem a realização de trabalhos práticos, opcionais. Os trabalhos práticos são realizados em grupo de, no máximo, 3 (três) estudantes Sumário Introdução à Aprendizagem Automática : aplicações, definições, variantes, breve referência ao Estado da Arte Objetivos pedagógicos da disciplina Conteúdos programáticos Bibliografia recomendada Avaliação Recursos online 16