Aprendizagem de Máquina

Transcrição

1 Aprendizagem de Máquina Alessandro L. Koerich Programa de Pós-Graduação em Informática Pontifícia Universidade Católica do Paraná (PUCPR)

2 Horários Aulas Sala [quinta-feira, 7:30 12:00] Atendimento Segunda a sexta pela manhã. Recomenda se marcar um horário com antecedência. Contato alekoe@ppgia.pucpr.br

3 Apresentação da Disciplina Aprendizagem de Máquina Sendo uma área de sistemas inteligentes, aprendizagem de máquina (ou machine learning) trata do desenvolvimento de algoritmos e técnicas que permitem computadores aprender.

4 Apresentação da Disciplina Os métodos de aprendizagem de máquina tem sido empregados em problemas como: Processamento de linguagem natural Ferramentas de busca Diagnóstico médico Bioinformática Detecção de fraudes em transações financeiras Análise do mercado de ações Previsões financeiras Classificação de sequências de DNA Reconhecimento de voz e escritura Reconhecimento de objetos em visão computacional Jogos de entretenimento Mineração de dados em grandes bases de dados. Sistemas biométricos

5 Apresentação da Disciplina O objetivo desta disciplina é: Estudar os principais paradigmas para a aprendizagem de máquina, incluindo os aspectos teóricos e práticos de uma variedade de algoritmos e técnicas

6 Programa da Disciplina 1. Introdução a Aprendizagem de Máquina 2. Extração de Características 3. Árvores de Decisão 4. Aprendizagem Bayesiana 5. Baseada em Instâncias 6. Redes Neurais Artificiais 7. Máquinas de Vetor de Suporte 8. Combinação de Classificadores e Rejeição 1. Extração de Características 2. J Naïve Bayes 4. k-nn 5. SVM 6. MLP 7. Combinação & Rejeição Prática Teórica

7 Programa Introdução: Por que a Aprendizagem Computacional é Difícil? Problemas de Aprendizagem. Projetando um Sistema de Aprendizagem de Máquina. Exemplos. Tipos de Aprendizagem. Aplicações. Estudo de Casos. Extração de Características: Importância. Redução de Dimensionalidade. Características Discriminantes. Geração de Características Usando Transformadas Lineares. Características para a Análise de Imagens. Seleção de Características.

8 Programa Árvores de Decisão: Representação de Árvores de Decisão. Algoritmo ID3. Entropia e Ganho de Informação. Algoritmo C4.5. Exemplos. Aprendizagem Baseadas em Instâncias: Espaço Euclidiano. Aprendizagem Baseada em Instâncias. Regra k-nn (k vizinhos mais próximos). Exemplos. Estudo de Caso. Aprendizagem Bayesiana: Teorema de Bayes. Classificador Ótimo de Bayes. Algoritmo Naïve Bayes. Exemplos.

9 Programa Redes Neurais Artificiais: Motivação Biológica. Perceptron. Superfície de Decisão. Descida do Gradiente. Redes Multicamadas (Multilayer). Retropropagação (Backpropagation). Generalização e Sobreajuste. Exemplos. Máquinas de Vetor de Suporte: Classificação com máxima margem. Kernels e otimização. Combinação e Rejeição: Regras para combinação de classificadores. Critérios para rejeição.

10 Bibliografia T. M. Mitchell. Machine Learning. McGraw Hill Science/Engineering/Math, 432 pages,1997. R. O. Duda, P E. Hart, D. G. Stork. Pattern Classification. Wiley Interscience, S. Theodoridis, K. Koutroumbas. Pattern Recognition. Academic Press. 625 páginas, ISBN

11 Bibliografia Complementar Periódicos: IEEE Transactions on Neural Networks IEEE Transactions on PAMI Pattern Recognition Pattern Recognition Letters Conferências: ICPR: International Conference on Pattern Recognition CVPR: International Conference on Computer Vision and Pattern Recognition NIPS: Neural Information Processing Systems ICML: International Conference on Machine Learning Livros: Bishop, C. Neural Networks for Pattern Recognition, Vapnik, V. The Nature of Statistical Learning Theory, 1995.

12 Avaliação Dois trabalhos práticos: Trabalho 1: Extração de Características Trabalho 2: Classificação Nota Final: (Trabalho 1 + Trabalho 2) / 2 Conceitos: A: 9,0-10 B: 8,0-8,9 C: 7,0-7,9 D: < 7,0

13 Requisitos Em todas as aulas: Notebook com Windows e Visual C++ Express Outros sistemas e IDE são aceitas, sob conta e risco dos alunos. Softwares que serão usados Microsoft Visual C++ Express 2010 Biblioteca OpenCV Simulador Weka Simulador JavaNNS ou SNNS