Aprendizagem de Máquina

Transcrição

1 Introdução Aprendizagem de Máquina Alessandro L. Koerich Introdução Desde que os computadores foram inventados temos nos perguntado: Eles são capazes de aprender? Se pudéssemos programá-los para aprender para se aperfeiçoar automaticamente com a experiência o impacto seria surpreendente Mestrado/Doutorado em Informática Pontifícia Universidade Católica do Paraná (PUCPR) Mestrado/Doutorado em Informática Aprendizagem de Máquina 2 Introdução Infelizmente ainda não sabemos como fazer computadores aprender de uma maneira similar a maneira como os humanos aprendem. Entretanto, foram desenvolvidos algoritmos que são eficientes em certos tipos de tarefas de aprendizagem e um entendimento teórico de aprendizagem está começando a surgir. Mestrado/Doutorado em Informática Aprendizagem de Máquina 3 Mestrado/Doutorado em Informática Aprendizagem de Máquina 4

2 O que é Aprendizagem de Máquina? O que é Aprendizagem de Máquina? Aprendizagem é uma propriedade essencialmente humana Aprender significa mudar para fazer melhor (de acordo com um dado critério) quando uma situação similar acontecer Aprendizagem, não é memorizar. Qualquer computador pode memorizar, a dificuldade é em generalizar um comportamento para uma nova situação. Mestrado/Doutorado em Informática Aprendizagem de Máquina 5 Mestrado/Doutorado em Informática Aprendizagem de Máquina 6 Generalizar? Generalizar? Mestrado/Doutorado em Informática Aprendizagem de Máquina 7 Mestrado/Doutorado em Informática Aprendizagem de Máquina 8

3 Duas Fases da Aprendizagem Tipos de Problemas Treinamento (supervisionado) Apresentamos exemplos ao sistema O sistema aprende a partir dos exemplos O sistema modifica gradualmente seus parâmetros ajustáveis para que a saída se aproxime da saída desejada. Utilização Novos exemplos jamais visto aparecem Desejamos que o sistema generalize! Classificação Diz se a "entrada" pertence a uma certa classe Dada a imagem de uma face: de quem é esta face (dentre um número finito) Regressão Fazer uma predição a partir de um exemplo Predizer o valor da bolsa amanhã, dados os valores de dias e meses anteriores. Estimação de Densidade Já vimos este exemplo? (ou um exemplo similar)? Quais são as K categorias principais dos dados? Mestrado/Doutorado em Informática Aprendizagem de Máquina 9 Mestrado/Doutorado em Informática Aprendizagem de Máquina 10 Formas de Aprendizagem Por que a Aprendizagem é Difícil? Supervisionada Fornecemos a boa resposta durante o treinamento É o mais eficiente porque fornece mais informações. Útil para classificação, regressão, estimação de probabilidade condicional (qual é a probabilidade que um cliente com tal perfil compre tal produto?) Por Reforço Não damos a boa resposta. O sistema faz uma hipótese lhe dizemos bom / ruim Útil para o controle de robôs Não Supervisionada Ex: Quais são as características principais dos clientes típicos? (segmentação do mercado) Dado uma quantidade finita de dados para o treinamento, temos que derivar uma relação para um domínio infinito Na realidade, existe um número infinito de tais relações Como devemos traçar a relação? Mestrado/Doutorado em Informática Aprendizagem de Máquina 11 Mestrado/Doutorado em Informática Aprendizagem de Máquina 12

4 Por que a Aprendizagem é Difícil? Por que a Aprendizagem é Difícil? Dado uma quantidade finita de dados para o treinamento, temos que derivar uma relação para um domínio infinito Na realidade, existe um número infinito de tais relações Dado uma quantidade finita de dados para o treinamento, temos que derivar uma relação para um domínio infinito Na realidade, existe um número infinito de tais relações Qual das relações seria a mais apropriada?... os pontos de teste ocultos... Mestrado/Doutorado em Informática Aprendizagem de Máquina 13 Mestrado/Doutorado em Informática Aprendizagem de Máquina 14 Generalizar é Difícil Exemplo: Selecionamos os Dados Não queremos aprender por memorização (decorar!) Boa resposta sobre os exemplos de treinamento somente Fácil para um computador (um arquivo de dados) Difícil para os humanos Aprender visando generalizar Mais interessante Fundamentalmente mais difícil: diversas maneiras de generalizar Devemos extrair a essência, a estrutura dos dados e não somente aprender a boa resposta para alguns casos. Saída = Valor à estimar Cada ponto = um exemplo a. Underlying Function Entrada = perfil do caso Pontilhado = a melhor resposta possível dados os pontos de entrada (desconhecido do aprendiz) Mestrado/Doutorado em Informática Aprendizagem de Máquina 15 Mestrado/Doutorado em Informática Aprendizagem de Máquina 16

5 Sobreajuste (Overfitting) Subajuste (Underfitting) b. Overfitting Aprendemos por memorização, mais isso não generaliza bem novos casos. Erro baixo sobre os exemplos de aprendizagem. Mais elevado para os de teste c. Underfitting Escolhemos um modelo muito simples (linear): erro elevado na aprendizagem e teste (pontilhado) Mestrado/Doutorado em Informática Aprendizagem de Máquina 17 Mestrado/Doutorado em Informática Aprendizagem de Máquina 18 Um Bom Modelo Maldição da Dimensionalidade 3 d. Good Fit O modelo é suficientemente flexível para capturar a forma curva mais não muito para obter um sobre ajuste. Aprendizagem pode se tornar cada vez mais difícil a medida em que o número de características de cada caso aumenta. Exemplo: perfil de clientes alvo Mestrado/Doutorado em Informática Aprendizagem de Máquina 19 Número de Chamadas Número de casos = # categoria duração X # categoria chamadas = 6 x Duração da Chamada 1 Cada posição contém o número de casos encontrados. Mestrado/Doutorado em Informática Aprendizagem de Máquina 20

6 Maldição da Dimensionalidade Combate a Maldição Se o número de características é 10 se cada característica puder assumir 10 valores diferentes, o número de casos casas (perfis diferentes) é x 10 x 10 x 10 = 10 Este número é astronômico. Mesmo uma grande base de dados representa uma ínfima fração deste número. Para generalizar deve-se então descobrir uma estrutura mais ampla, o que muitos casos tem em comum. Alguns algoritmos de aprendizagem modernos tentam enfrentar este desafio: Redes neurais artificiais Máquina de suporte vetorial (SVM) Adaboost Idéia Principal: utilizar um modelo flexível mas que permita resumir as informações intrínseca nos dados. Si existe regularidade nos dados, este tipo de modelo tem grande chance de capturar. Mestrado/Doutorado em Informática Aprendizagem de Máquina 21 Mestrado/Doutorado em Informática Aprendizagem de Máquina 22 Exemplo de Problema Problemas Bem Definidos Um programa de computador aprende a partir de uma experiência E com respeito a alguma classe de tarefas T e medida de performance P, SE sua performance nas tarefas em T, medida por P, MELHORA com a experiência E. Em geral, para termos problemas de aprendizagem bem definidos, devemos identificar três características: A classe das tarefas; A medida de performance a ser melhorada; A fonte de experiência (conhecimento). Mestrado/Doutorado em Informática Aprendizagem de Máquina 23 Mestrado/Doutorado em Informática Aprendizagem de Máquina 24

7 Problemas Bem Definidos Problemas Bem Definidos Exemplo: Aprender a jogar damas Exemplo: Aprender a jogar damas Tarefa T: Jogar damas Medida de performance P: Percentagem de jogos ganhos contra oponentes Experiência de treinamento E jogando contra si mesmo. Mestrado/Doutorado em Informática Aprendizagem de Máquina 25 Mestrado/Doutorado em Informática Aprendizagem de Máquina 26 Problemas Bem Definidos Problemas Bem Definidos Exemplo: Aprender a reconhecer manuscritos Exemplo: Aprender a reconhecer manuscritos Tarefa T: Reconhecer/classificar palavras manuscritas presentes em imagens Medida de performance P: Percentagem de palavras classificadas corretamente Experiência de treinamento E: Base de dados com palavras manuscritas e respectivas etiquetas (classes a que elas pertencem). Roubaix Cedex HALLUIN CEDEX Chiré em Montreuil Roubaix Cedex Mestrado/Doutorado em Informática Aprendizagem de Máquina 27 Mestrado/Doutorado em Informática Aprendizagem de Máquina 28

8 Problemas Bem Definidos Problemas Bem Definidos Exemplo: Aprender a reconhecer manuscritos Exemplo: Aprendizagem de um robô motorista Tarefa T: Dirigir em uma via pública de 3 pistas usando sensores de visão Medida de performance P: Distância média percorrida antes de cometer um erro (julgado por observador humano) Experiência de treinamento E: Seqüência de imagens e comandos de direção gravados a partir da observação de um motorista humano. Mestrado/Doutorado em Informática Aprendizagem de Máquina 29 Mestrado/Doutorado em Informática Aprendizagem de Máquina 30 Projetando um Sistema de Aprendizagem Projetando um Sistema de Aprendizagem Projetar um programa para aprender a jogar damas. Medida de performance: percentagem de jogos ganhos Etapas básicas de projeto: Escolha da experiência de treinamento Escolha da função objetiva Escolha de uma representação para a função objetiva Escolha de um algoritmo para a função de aproximação Mestrado/Doutorado em Informática Aprendizagem de Máquina 31 Mestrado/Doutorado em Informática Aprendizagem de Máquina 32

9 Experiência de Treinamento Experiência de Treinamento Escolher o tipo de experiência de treinamento a partir da qual o sistema aprenderá Experiência direta ou indireta? O grau de controle sobre a seqüência de exemplos de treinamento; com ou sem instrutor? A experiência de treinamento representa a distribuição de exemplos sobre os quais a performance final (P ) do sistema deve ser medida. Atenção: A teoria de aprendizagem de máquina recai sobre a hipótese de que a distribuição dos exemplos de treinamento é idêntica a distribuição dos exemplos de teste. Apesar da necessidade de considerarmos esta hipótese para obter resultados teóricos, é importante ter em mente que esta suposição é quase sempre violada na prática. Mestrado/Doutorado em Informática Aprendizagem de Máquina 33 Mestrado/Doutorado em Informática Aprendizagem de Máquina 34 Experiência de Treinamento Função Objetiva O problema de aprendizagem de damas: Tarefa T : jogando damas Medida de performance P : percentagem de jogos ganhos Experiência de treinamento E : partidas jogadas contra si mesmo Para completarmos o projeto do sistema de aprendizagem, devemos agora escolher: 1. O tipo exato de conhecimento a ser aprendido 2. Uma representação para este conhecimento alvo 3. Um mecanismo de aprendizagem Que tipo de conhecimento será aprendido e como ele será utilizado em um programa? O programa necessita aprender apenas como escolher o melhor movimento dentre os movimentos possíveis. Este problema é representativo de um grande número de tarefas para as quais a melhor estratégia de busca não é conhecida. Muitos problemas de otimização são desta categoria. Mestrado/Doutorado em Informática Aprendizagem de Máquina 35 Mestrado/Doutorado em Informática Aprendizagem de Máquina 36

10 Função Objetiva Função Objetiva Aprender: Escolher o melhor movimento para qualquer estado do tabuleiro. Porém, é difícil de aprender a função ChooseMove a partir da experiência de treinamento disponível. Função: ChooseMove ChooseMove : B M Função alternativa: uma função V que atribui um valor numérico para qualquer estado do tabuleiro. A função aceita como entrada qualquer estado do conjunto de estados possíveis do tabuleiro B e produz como saída algum movimento do conjunto de movimento possíveis M. Como é possível reduzir o problema de melhorar a performance P da tarefa T, para o problema de aprender uma função objetiva tal como ChooseMove. V : B R indica que V mapeia qualquer estado legal do tabuleiro do conjunto B para algum valor real. Usamos esta função V para atribuir valores maiores para os melhores estados do tabuleiro. Mestrado/Doutorado em Informática Aprendizagem de Máquina 37 Mestrado/Doutorado em Informática Aprendizagem de Máquina 38 Função Objetiva Função Objetiva Uma das possíveis definições para a função V (b), onde b é um estado arbitrário do tabuleiro em B: Se b é um estado final que é vitorioso, então V (b) = 100 Se b é um estado final que é perdedor, então V (b) = 100 Se b é um estado final que é empate, então V (b) = 0 Se b não é um estado final no jogo, então, V (b) = V (b ) onde b é o melhor estado final que pode ser atingido começando em b e jogando otimamente até o final do jogo. Esta definição especifica um valor de V (b ) para cada estado do tabuleiro (b ), entretanto, esta definição não é operacional Precisamos de uma descrição operacional de V que possa ser usada pelo programa para avaliar estados e selecionar movimentos dentro de um tempo realístico. Tarefa de Aprendizagem: descobrir uma descrição operacional da função objetiva ideal V Algoritmos de aprendizagem Aproximação da função objetiva (V ) Aproximação da função Mestrado/Doutorado em Informática Aprendizagem de Máquina 39 Mestrado/Doutorado em Informática Aprendizagem de Máquina 40

11 Representação para Função Objetiva Representação para Função Objetiva Depois de especificar V, devemos escolher a representação que o programa de aprendizagem usará para descrever a função V que ele aprenderá. Temos muitas opções... Coleção de regras? Redes neurais? Funções polinomiais? etc... Em geral temos um compromisso crucial: representação mais expressiva mais dados para treinamento Escolha: a função V será calculada como uma combinação linear das seguintes características do tabuleiro: bp (b): número de peças pretas no tabuleiro b rp (b): número de peças vermelhas sobre b bk (b): número de reis pretos sobre b rk (b): número de reis vermelhos sobre b bt (b): número de peças vermelhas ameaçadas pelas pretas (i.e., que podem ser tiradas na vez do preto) rt (b): número de peças pretas ameaçadas pelas vermelhas. Mestrado/Doutorado em Informática Aprendizagem de Máquina 41 Mestrado/Doutorado em Informática Aprendizagem de Máquina 42 Representação para Função Objetiva Projeto Parcial Então, a aprendizagem irá representar V (b ) como uma função linear da forma: V (b) = w 0 + w 1 bp (b ) + w 2 rp (b ) + w 3 bk (b ) + w 4 rk (b ) + w 5 bt (b ) + w 6 rt (b ) onde w 0 a w 6 são coeficientes numéricos, ou pesos, a serem escolhidos pelo algoritmo de aprendizagem. Os valores aprendidos para os pesos w 1 a w 6 determinarão a importância relativa das várias características do tabuleiro. Tarefa T : jogar damas Medida de Performance P : percentagem de partidas ganhas Experiência de Treinamento E : partidas jogadas contra si mesmo Função Objetivo: V : B R Representação da Função Objetiva: V (b) = w 0 + w 1 bp (b ) + w 2 rp (b ) + w 3 bk (b ) + w 4 rk (b ) + w 5 bt (b ) + w 6 rt (b ) Mestrado/Doutorado em Informática Aprendizagem de Máquina 43 Mestrado/Doutorado em Informática Aprendizagem de Máquina 44

12 Projeto Parcial Algoritmo de Aproximação O itens anteriores correspondem a especificação da tarefa de aprendizagem; Os dois itens finais são escolhas do projeto para a implementação da aprendizagem. Em resumo, o conjunto de escolhas do projeto: Problema de aprender uma estratégia Problema de aprender os valores dos coeficientes da representação da função objetiva. Para aprender a função objetiva V necessitamos de um conjunto de exemplos de treinamento, cada um descrevendo um estado b específico do tabuleiro e o valor de treinamento V train (b ) para b. Cada exemplo de treinamento é um par ordenado na forma <b, V train (b ) > Mestrado/Doutorado em Informática Aprendizagem de Máquina 45 Mestrado/Doutorado em Informática Aprendizagem de Máquina 46 Algoritmo de Aproximação Algoritmo de Aproximação A única informação disponível é se a partida foi eventualmente ganha ou perdida. Necessitamos de exemplos de treinamento que atribuam valores específicos para estados específicos do tabuleiro. É fácil atribuir valores para os estados do tabuleiro que correspondem ao final do jogo. É menos óbvio atribuir valores de treinamento para os numerosos estados intermediários que ocorrem antes do jogo acabar. Uma solução simples: atribuir o valor de treinamento de V train (b ) para qualquer estado intermediário b do tabuleiro ser V (Sucessor (b )), onde V é a aproximação atual de V e V (Sucessor (b )) indica o próximo estado seguindo b para o qual é novamente a vez do programa mover. Regra para estimar valores de treinamento: V train (b ) V (Sucessor (b )) Mestrado/Doutorado em Informática Aprendizagem de Máquina 47 Mestrado/Doutorado em Informática Aprendizagem de Máquina 48

13 Algoritmo de Aproximação Algoritmo de Aproximação Ainda falta especificar o algoritmo de aprendizagem que melhor ajusta os pesos w i ao conjunto de exemplos de treinamento {<b, V train (b )>}. O que significa melhor ajuste aos dados de treinamento? Uma solução: minimizar o erro quadrático E entre os valores de treinamento e os valores preditos pela hipótese V. E < b, V train ( Vtrain( b) V'( b) ) ( b) > amostrasde treinamento 2 Existem diversos algoritmos para encontrar pesos de uma função linear que minimiza E. Um deles é o LMS (mínimos quadrados). Regra de atualização dos pesos LMS Faça repetidamente Selecione aleatoriamente um exemplo de treinamento b 1.Calcule o erro(b) erro(b) = V train (b)-v (b) 2.Para cada característica do tabuleiro f i, atualize o peso w i como: w i w i + η f i erro(b) onde η é uma pequena constante (p.e. 0.1) que regula a taxa da atualização do peso (aprendizagem). Mestrado/Doutorado em Informática Aprendizagem de Máquina 49 Mestrado/Doutorado em Informática Aprendizagem de Máquina 50 Projeto Final Exemplo A seqüência de escolhas de projeto feitas... Um problema de classificação: predizer as notas para os estudantes matriculados neste curso (aprendizagem de máquina). Mestrado/Doutorado em Informática Aprendizagem de Máquina 51 Mestrado/Doutorado em Informática Aprendizagem de Máquina 52

14 Exemplo Exemplo Um problema de classificação: predizer as notas para os estudantes matriculados neste curso (aprendizagem de máquina). Passos principais: 1. Dados: Podemos contar com qual experiência anterior? Passos principais: 1. Dados 2. Hipóteses 3. Representação 4. Estimação 5. Avaliação 6. Escolha do Modelo Mestrado/Doutorado em Informática Aprendizagem de Máquina 53 Mestrado/Doutorado em Informática Aprendizagem de Máquina 54 Exemplo Exemplo Passos principais: Passos principais: 1. Dados: Podemos contar com qual experiência anterior? 2. Hipóteses: O que podemos assumir a respeito dos estudantes ou sobre o curso? 1. Dados: Podemos contar com qual experiência anterior? 2. Hipóteses: O que podemos assumir a respeito dos estudantes ou sobre o curso? 3. Representação: Como podemos resumir um estudante? Mestrado/Doutorado em Informática Aprendizagem de Máquina 55 Mestrado/Doutorado em Informática Aprendizagem de Máquina 56

15 Exemplo Exemplo Passos principais: Passos principais: 1. Dados: Podemos contar com qual experiência anterior? 2. Hipóteses: O que podemos assumir a respeito dos estudantes ou sobre o curso? 3. Representação: Como podemos resumir um estudante? 4. Estimação: Como construímos um mapa estudantes notas? 1. Dados: Podemos contar com qual experiência anterior? 2. Hipóteses: O que podemos assumir a respeito dos estudantes ou sobre o curso? 3. Representação: Como podemos resumir um estudante? 4. Estimação: Como construímos um mapa estudantes notas? 5. Avaliação: Quão bem estamos predizendo? Mestrado/Doutorado em Informática Aprendizagem de Máquina 57 Mestrado/Doutorado em Informática Aprendizagem de Máquina 58 Exemplo Exemplo Passos principais: 1. Dados: Podemos contar com qual experiência anterior? 2. Hipóteses: O que podemos assumir a respeito dos estudantes ou sobre o curso? 3. Representação: Como podemos resumir um estudante? 4. Estimação: Como construímos um mapa estudantes notas? 5. Avaliação: Quão bem estamos predizendo? 6. Escolha do Modelo: Podemos fazer ainda melhor? Os dados que temos disponíveis (a princípio): Nomes e notas dos estudantes no curso nos anos anteriores Boletim acadêmico dos estudantes atuais e anteriores Mestrado/Doutorado em Informática Aprendizagem de Máquina 59 Mestrado/Doutorado em Informática Aprendizagem de Máquina 60

16 Dados Hipóteses Dados para treinamento: Estudante AdeM Curso 1 João A B Maria B A Dados para teste: Curso 2 A A Existem várias hipóteses que podemos fazer para facilitar as predições: 1. O curso permaneceu aproximadamente o mesmo nos últimos anos Estudante José Ana AdeM?? Curso 1 C A Curso 2 A A 2. Cada estudante atua independentemente dos outros Alguma coisa mais que possamos utilizar? Mestrado/Doutorado em Informática Aprendizagem de Máquina 61 Mestrado/Doutorado em Informática Aprendizagem de Máquina 62 Representação Representação Boletins acadêmicos são particularmente diversos, então devemos limitar os resumos a alguns poucos cursos selecionados O dados disponíveis nesta representação Treinamento Teste Por exemplo, podemos resumir o estudante i o (João), por um vetor: x i = [A C B ] onde as notas correspondem a (digamos): 9.6, 5.8, 7.3 Estudante x 1 x 2... Nota em AdeM A B... Estudante x 1 x 2... Nota em AdeM??... Mestrado/Doutorado em Informática Aprendizagem de Máquina 63 Mestrado/Doutorado em Informática Aprendizagem de Máquina 64

17 Estimação Estimação Dado os dados de treinamento Estudante x 1 x 2... Nota em AdeM A B... Precisamos encontrar um mapeamento dos vetores de entrada x para as etiquetas (labels) y codificando as notas do curso AdeM Solução possível classificador vizinhos mais próximos (nearest neighbour): 1. Para cada estudante x, encontrar o estudante x i mais próximo no conjunto de treinamento; 2. Predizer y i, como sendo a nota do estudante mais próximo x i. Mestrado/Doutorado em Informática Aprendizagem de Máquina 65 Mestrado/Doutorado em Informática Aprendizagem de Máquina 66 Avaliação Escolha do Modelo Como podemos dizer se nossas predições são boas? Podemos esperar até o final do curso Podemos tentar avaliar a precisão baseando se nos dados que já temos (conjunto de treinamento) Solução possível: Dividir o conjunto de treinamento em novos conjuntos de treinamento e teste Avaliar o classificador construído baseando se somente no novo conjunto de treinamento sobre o novo conjunto de testes Podemos refinar: O algoritmo de estimação (por exemplo, utilizando um classificador diferente); A representação (por exemplo, basear o resumo em um conjunto diferente de cursos); As hipóteses (talvez os estudantes trabalhem em grupos, etc.) Temos que nos basear no método de avaliação da precisão de nossas predições para escolher entre os possíveis refinamentos. Mestrado/Doutorado em Informática Aprendizagem de Máquina 67 Mestrado/Doutorado em Informática Aprendizagem de Máquina 68

18 Tipos de Problemas de Aprendizagem Tipos de Problemas de Aprendizagem Uma classificação aproximada dos problemas de aprendizagem: Aprendizagem Supervisionada: temos um conjunto de entradas e saídas para fazer o treinamento. Ex: classificação, regressão. Aprendizagem com Reforço: somente obtemos um feedback na forma de quão bem estamos fazendo (e não o que deveríamos estar fazendo). Ex: planejamento Aprendizagem Não Supervisionada: estamos interessados em capturar uma organização inerente dos dados. Ex: clustering, estimação de densidade. Mestrado/Doutorado em Informática Aprendizagem de Máquina 69 Mestrado/Doutorado em Informática Aprendizagem de Máquina 70 Aprendizagem Supervisionada Aprendizagem Supervisionada Exemplo: reconhecimento de dígitos (dígitos binários 8X8) dígito binário classe alvo Desejamos aprender o mapeamento de dígitos para classes. Um mudança na representação que preserva as informações relevantes pode tornar impossível a aprendizagem. Mestrado/Doutorado em Informática Aprendizagem de Máquina 71 Mestrado/Doutorado em Informática Aprendizagem de Máquina 72

19 Aprendizagem Supervisionada Aprendizagem Não Supervisionada Os dígitos novamente... Dado um conjunto de exemplos de treinamento { (x 1,y 1 ),..., (x n,y n ) }, queremos aprender um mapeamento f : X Y tal que: y i f (x i ), i = 1,...,n Gostaríamos de entender o processo de criação dos exemplos (neste caso, dígitos) Mestrado/Doutorado em Informática Aprendizagem de Máquina 73 Mestrado/Doutorado em Informática Aprendizagem de Máquina 74 Aplicações Processamento Visual Verificação de faces Reconhecimento de manuscritos Processamento da Fala Fonemas, palavras, sentenças, reconhecimento de pessoas Outros Finanças: predição de ações, gerenciamento de risco e portofolio Telecomunicações: predição de tráfego Datamining: fazer uso de grandes conjuntos de dados mantidos por grandes corporações Jogos: xadrez, gamão, etc. Controle: robôs... e muitas outras é claro! Mestrado/Doutorado em Informática Aprendizagem de Máquina 75