Aprendizagem de Máquina

Transcrição

1 Aprendizagem de Máquina Alessandro L. Koerich Programa de Pós-Graduação em Informática Pontifícia Universidade Católica do Paraná (PUCPR)

2 Horários Aulas Sala 3 CCET [quinta-feira, 8:20 12:00] Atendimento Terças-feiras e quartas-feiras pela manhã. Recomenda se marcar um horário com antecedência. Contato alekoe@ppgia.pucpr.br

3 Apresentação da Disciplina Aprendizagem de Máquina Sendo uma área de Sistemas Inteligentes, aprendizagem de máquina (ou machine learning) trata do desenvolvimento de algoritmos e técnicas que permitem computadores aprender.

4 Apresentação da Disciplina Os métodos de aprendizagem de máquina tem sido empregados em problemas como: Processamento de linguagem natural Ferramentas de busca Diagnóstico médico Bioinformática Detecção de fraude em cartões de crédito Análise do mercado de ações Previsões financeiras Classificação de sequência de DNA Reconhecimento de voz e escritura Reconhecimento de objetos em visão computacional Jogos de entretenimento Mineração de dados em grandes bases de dados. Sistemas biométricos

5 Apresentação da Disciplina O objetivo desta disciplina é: estudar os principais paradigmas para a aprendizagem de máquina, incluindo uma variedade de algoritmos e técnicas

6 Programa da Disciplina 1. Introdução a Aprendizagem de Máquina 2. Extração e Seleção de Características 3. Árvores de Decisão 4. Aprendizagem Bayesiana 5. Baseada em Instâncias 6. Redes Neurais Artificiais 7. Máquinas de Vetor de Suporte 1. Extração de Características 2. C Naïve Bayes 4. Vizinhos mais Próximos 5. Máq. de Vetor de Suporte 6. Redes Neurais MLP Prática Teórica

7 Programa Introdução: Por que a Aprendizagem Computacional é Difícil? Problemas de Aprendizagem. Projetando um Sistema de Aprendizagem de Máquina. Exemplos. Tipos de Aprendizagem. Aplicações. Estudo de Casos. Extração de Características: Importância. Redução de Dimensionalidade. Características Discriminantes. Geração de Características Usando Transformadas Lineares. Características para a Análise de Imagens. Seleção de Características.

8 Programa Árvores de Decisão: Representação de Árvores de Decisão. Algoritmo de Aprendizagem ID3. Entropia e Ganho de Informação. Exemplos. Aprendizagem Baseadas em Instâncias: Espaço Euclidiano. Aprendizagem Baseada em Instâncias (ou Modelos Baseados em Distância). Regra k-nn (k vizinhos mais próximos). Exemplos. Estudo de Casos. Aprendizagem Bayesiana: Teorema de Bayes e Aprendizagem Conceitual. Classificador Ótimo de Bayes. Classificador Naïve Bayes. Exemplos.

9 Programa Redes Neurais Artificiais: Motivação Biológica. Perceptron. Superfície de Decisão. Descida do Gradiente. Redes Multicamadas (Multilayer). Retropropagação (Backpropagation). Generalização e Sobreajuste. Exemplos. Máquinas de Vetor de Suporte: Classificação com máxima margem. Kernels e otimização. Tópicos Avançados: Bagging e Boosting. Combinação de Classificadores. Rejeição.

10 Bibliografia T. M. Mitchell. Machine Learning. McGraw Hill Science/Engineering/Math, 432 pages, ISBN R. O. Duda, P E. Hart, D. G. Stork. Pattern Classification. Wiley Interscience, S. Theodoridis, K. Koutroumbas. Pattern Recognition. Academic Press. 625 páginas, ISBN

11 Bibliografia Complementar Periódicos: IEEE Transactions on Neural Networks IEEE Transactions on PAMI Pattern Recognition Pattern Recognition Letters Conferências: ICPR: International Conference on Pattern Recognition CVPR: International Conference on Computer Vision and Pattern Recognition NIPS: Neural Information Processing Systems ICML: International Conference on Machine Learning Livros: Bishop, C. Neural Networks for Pattern Recognition, Vapnik, V. The Nature of Statistical Learning Theory, 1995.

12 Avaliação Prova escrita: Parte 1: Sem consulta contendo questões de múltipla escolha e dissertativas. Parte 2: Questões práticas com consulta. Data: 3 de Maio de 2012.