Aprendizado de Máquina

Transcrição

1 Inteligência Artificial Aprendizado de Máquina Prof. Cedric Luiz de Carvalho Instituto de Informática UFG 2006

2 2/85 Tópicos O que é aprendizado Formas de aprendizado Aprendizagem indutivo Árvores de decisão Ganho de informação Entropia Obtenção de regras a partir de árvores de decisão

3 3/85 Psicólogos: O que é aprendizado? (1) O aprendizado refere-se à mudança do comportamento do paciente diante de uma situação dada, incorrida por suas experiências repetidas naquela situação, desde que essa mudança de comportamento não possa ser explicada com base em tendências de respostas nativas, maturação ou estados temporários do paciente (p. e. drogas) [Fonte: Elaine Rich. Inteligência Ariticial.]

4 4/85 O que é aprendizado? (2) Uma definição da computação: Aprendizado denota mudanças no sistema que são adaptáveis no sentido que elas permitem que o sistema realize as mesmas tarefas ou esboço das tarefas da mesma população mais eficientemente da próxima vez [Fonte: H. on, Mach. Learn. I)]

5 5/85 O que é aprendizado? (3) Para Russel e Norvig: aprender significa se comportar melhor ao adquirir experiência todo aprendizado aprende a representação de uma função

6 6/85 O que é aprendizado? (4) Aprendizado de máquina: adaptar à novas circunstâncias e detectar e extrapolar padrões Pode-se projetar mecanismos de aprendizagem que produzam conhecimento geral sobre o ambiente dada uma série de percepções pode-se obter um agente completamente autônomo

7 7/85 O que é aprendizado? (5) Porque máquinas devem aprender? simular e ajudar a entender o processo de aprendizado humano automatic programming: programação a partir de instruções incompletas entendimento de linguagem natural descoberta de novas coisas

8 8/85 O que é aprendizado? (6) Quando um projetista possui um conhecimento incompleto do ambiente no qual um agente viverá aprender é o único modo que o agente pode adquirir o que ele precisa saber para realizar suas tarefas autonomia Aprendizado também provê um bom caminho para construir sistemas de alta performance aplicando o aprendizado adquirido no domínio da aplicação

9 9/85 O que é aprendizado? (7) A idéia do aprendizado é que as percepções devem ser usadas não somente para tomar ações imediatas melhorar a habilidade do agente para ações futuras O aprendizado pode variar memorização trivial de uma experiência quando chove molha criação de uma teoria científica Einstein

10 10/85 O que é aprendizado? (8) Agentes que aprendem percepção ação aprendizagem

11 11/85 Objetivo da aprendizagem Conhecimento em extensão (exemplos percepção-ação, características-conceitos, etc.) Exemplos dia 29, a GO-010 estava congestionada dia 30, a GO-010 estava congestionada dia 01, a GO-010 estava congestionada dia 03, a GO-010 estava congestionada Hipótese indutiva Todo dia, a GO-010 está congestionada Conhecimento em Compreensão (regras / definições)

12 12/85 Formas de aprendizado (1) Modelo de agente aprendiz sensores Crítico Agente A m b i e n t e Elemento performance trocas conhecimento avaliação Elemento de aprendizagem objetivos de aprendizagem efetuadores Gerador de problemas

13 13/85 Formas de aprendizado (1) Um aprendizado de agente pode ser pensando como contendo: um elemento de performance decide que ação tomar um elemento de aprendizado modifica o elemento de performance, de modo que ele tome a melhor decisão

14 14/85 Formas de aprendizado (2) Uma máquina de aprendizado é formada por uma variedade de elementos de aprendizado O projeto de um elemento de aprendizado é formado por três questões principais: Quais componentes de elementos de performance serão aprendidos Que avaliação (feedback) está disponível para aprender estes componentes Qual representação é usada para os componentes

15 15/85 Formas de aprendizado (3) Cada componente de um agente inclui um mapeamento da condição do estado corrente para uma ação um meio para inferir propriedades relevantes do mundo de uma seqüência de percepções informações sobre o caminho que o mundo evolui e sobre os resultados de possíveis ações que o agente pode tomar

16 16/85 Formas de aprendizado (4) Cada componente de um agente inclui informações de utilidade indicando o desejo de estados do mundo informações sobre o valor da ação indicando o desejo das ações metas que descrevam classes de estados cuja execução maximizou a utilidade do agente Cada um destes componentes podem ser aprendidos de avaliações apropriadas

17 17/85 Formas de aprendizado (5) Exemplo: agente treinando para se tornar motorista de táxi Toda vez que o instrutor grita: Pare!; o agente pode aprender uma condição regra de ação para quando frear componente 1 Vendo imagens que lhe dizem ser de ônibus ele aprende a reconhecê-los componente 2

18 18/85 Formas de aprendizado (6) Realizando algumas ações e observando os resultados por exemplo, pista molhada dificulta o processo de frear pode-se aprender os efeitos de suas ações componente 3 recebe gorjetas de passageiros quando o carro sacode muito durante uma viagem componente 4

19 19/85 Formas de aprendizado (7) O tipo de avaliação disponível para o aprendizado é usualmente o fator mais importante na determinação da natureza do problema do aprendizado que o agente enfrenta: Aprendizado supervisionado Aprendizado não supervisionado Aprendizado por reforço

20 Formas de aprendizado 20/85 Aprendizado supervisionado (1) Envolve aprender uma função de exemplos de suas entradas e saídas componente 1 saída booleana: frear ou não frear componente 2 saída booleana: é a imagem de ônibus ou não componente 3 frear no molhado

21 21/85 Formas de aprendizado Aprendizado supervisionado (2) Nos componentes 1 e 2 o professor provê uma saída correta No componente 3 o valor da saída está disponível diretamente pela percepção do agente

22 Formas de aprendizado 22/85 Aprendizado supervisionado (3) Ambiente de Observação Completo pode observar os efeitos de suas ações usar o método de aprendizado supervisionado para aprender a predizê-los Ambiente de Observação não Completo mais difícil o efeito imediato é invisível

23 Formas de aprendizado 23/85 Aprendizado não supervisionado (1) Envolve aprender padrões na entrada quanto nenhum valor de saída específico é provido Por exemplo: descobrir relações (e hierarquias) entre objetos quaisquer Por exemplo: um agente pode desenvolver gradualmente um conceito dia de tráfico bom dia de tráfico ruim sem ter exemplos determinados para cada um

24 Formas de aprendizado 24/85 Aprendizado não supervisionado (2) Um agente de aprendizado puramente não supervisionado não pode aprender o que fazer ele não possui nenhma informações que constitui em uma ação correta ou estado desejável sistema de raciocínio probabilístico

25 Formas de aprendizado Aprendizado por reforço 25/85 Ao contrário de se ter um professor dizendo o que fazer o agente deve aprender por reforço Por exemplo: falta de gorjeta no fim de uma dia, dá ao agente uma indicação que seu comportamento não foi bom jogo de xadrez Tipicamente inclui aprender como o ambiente trabalha

26 Formas de aprendizado 26/85 Representação do aprendizado Determina como o algoritmo de aprendizado dever trabalhar Como um componente de agente pode ser representado função polinomial lógica proposicional lógica de predicados redes Bayesianas

27 27/85 Aprendizado Indutivo (1) Segundo o Dicionário Aurélio: Indução é a operação mental que consiste em se estabelecer uma verdade universal ou uma proposição geral com base no conhecimento de certo número de dados singulares ou de proposições de menor generalidade Em outros termos: É o processo de raciocínio que nos permite obter informações sobre um todo, a partir de resultados observados em uma parte deste todo

28 28/85 Aprendizado Indutivo (2) Aprendizado Supervisionado: ocorre nas situações em que é possível perceber tanto as entradas como as saídas freqüentemente as saídas são fornecidas por um supervisor(especialista) humano

29 29/85 Aprendizado Indutivo (3) Aprendizagem indutiva Atividade de um agente é definida por f: Percepção Ação Aprender a partir de exemplos <x,f(x)> é buscar uma função h que aproxime f O que é um exemplo? é um par (x,f(x)), onde x é a entrada e f(x) é a saída da função que se aplicou a x A função h é chamada de hipótese não é fácil encontrar um h particular que tenha uma boa aproximação de f

30 30/85 Aprendizado Indutivo (4) Os exemplos são partes de um todo que é representado pela função Como se realiza a inferência puramente indutiva (ou indução)? dado um grupo de exemplos de f, deve ser produzida uma função h que aproxime f a função h é denominada hipótese

31 31/85 Aprendizado Indutivo (5) Inferência de uma regra geral (hipótese) a partir de exemplos particulares Precisão diretamente proporcional à quantidade de exemplos

32 32/85 Hierarquia Aprendizado Indutivo (6) Aprendizagem indutiva Aprendizagem supervisionada É fornecido um conjunto de treinamento Aprendizagem não-supervisionada Formação de agrupamentos Classificação Regressão Valores discretos Valores contínuos

33 33/85 Classificação Aprendizado Indutivo (7) A tarefa de classificação consiste em se aprender a atribuir rótulos a dados que podem pertencer a uma entre várias categorias O processo de aprendizagem envolve a apresentação de um conjunto de exemplos de dados representativos das classes, já rotulados anteriormente

34 34/85 Classificação Aprendizado Indutivo (8) A tarefa consiste em descobrir o relacionamento entre os atributos de previsões e o atributo meta, usando um arquivo de dados (exemplos) cuja classe é previamente conhecida Após o aprendizado, o objetivo é utilizar o relacionamento descoberto para prever a classe de dados novos, a partir apenas dos seus atributos previsões

35 35/85 Aprendizado Indutivo (9) Abordagens da aprendizagem simbólica Árvores de decisão Lógica de ordem 0 + (atributo/valor) Fáceis de serem implementadas e utilizadas Aprendizagem não-incremental Estatística (admite exceções) Espaço de versões Lógica de primeira ordem & resolução Implementação mais complicada Aprendizagem não-incremental Indução lógica unicamente

36 36/85 Árvores de Decisão (1) A indução mediante árvores de decisão é uma das formas mais simples de algoritmos de aprendizagem maior sucesso Recebe como entrada um objeto ou situação descrito por um conjunto de propriedades ou atributos, e dá como saída uma decisão As árvores de decisão (AD) são ferramentas poderosas para classificação e previsão cuja maior vantagem é a sua expressividade, já que elas representam regras

37 37/85 Árvores de Decisão (2) Uma AD representa uma série de perguntas acerca de atributos de um objeto do domínio Um dado entra na árvore pelo nó raiz, tradicionalmente colocado no topo da representação gráfica, e a árvore se desenvolve para baixo, até chegar a um nó folha, representando uma classe A partir de um nó (pai), é feito um teste para decidir qual nó filho deve ser pesquisado a seguir

38 38/85 Árvores de Decisão (3) Existe apenas um caminho da raiz até cada folha este caminho é uma expressão da regra usada para classificar os dados A profundidade de uma AD é definida a partir da distância entre uma folha e a raiz existem árvores de profundidade uniforme árvores de profundidade não uniforme

39 39/85 Árvores de Decisão (4) Aprendizado com Árvores de Decisão aprendizado com árvores de decisão é uma das metodologias que podem extrair conhecimentos presentes em dados o conhecimento, neste caso, é representado por uma árvore de decisão é uma das metodologias de aprendizagem simbólica pois aprendem sentenças lógicas

40 40/85 Árvores de Decisão (5) Aprendizado com Árvores de Decisão realiza aprendizado indutivo ou inferência indutiva a indução é feita mediante árvores de decisão é um método para aproximar funções que assumem valores discretos que é robusto a ruídos nos dados é capaz de aprender expressões disjuntivas

41 41/85 Árvores de Decisão (6) Induções em árvores de decisão são feitas através de exemplos Um exemplo é descrito pelos valores dos atributos e o valor do predicado meta o valor do predicado meta é chamado classificação do exemplo se o predicado meta é verdadeiro para algum exemplo, nós o chamamos exemplo positivo, caso contrário exemplo negativo O conjunto completo de exemplos é chamado conjunto de treinamento

42 42/85 Árvores de Decisão (7) Árvores de decisão classificam exemplos (instâncias) separando-os a partir da raiz da árvore e seguindo ramo abaixo para algum nó folha da árvore, que fornece a classificação do exemplo. Cada nó da árvore especifica um teste de algum atributo do exemplo, e cada ramo descendente daquele nó corresponde a um dos possíveis valores para este atributo

43 43/85 Árvores de Decisão (8) Árvore de decisão para decidir se espera por uma mesa em um restaurante.

44 44/85 Árvores de Decisão (9) No exemplo dado, o objetivo é aprender uma definição para o predicado meta Esperará, onde a definição é expressa como uma árvore de decisão

45 45/85 Árvores de Decisão (10) Qual é o PROBLEMA? o problema consiste em encontrar uma árvore de decisão que concorde com o conjunto de treinamento Solução Fácil construir uma árvore de decisão que tenha um caminho que leve à folha de cada exemplo, onde: o caminho teste cada atributo por sua vez siga o valor para o exemplo, e a folha tenha a classificação do exemplo

46 46/85 Árvores de Decisão (11) Quando for dado o mesmo exemplo a árvore de decisão chega à classificação certa Mas, e para outros casos? limitação: a árvore memoriza as observações ela não extrai qualquer padrão dos exemplos e assim não podemos esperar que ela esteja apta a extrapolar para exemplos não vistos antes

47 47/85 Árvores de Decisão (12) Exemplo: Noitada no Café Cancun (A partir de um conjunto de propriedades, decide sim ou não) Predicado-objetivo: vaiaocafe Atributos considerados: Sono: Estou com sono? Transporte: Tenho como ir de carro? Carona? Etc. INF: Devo estar amanhã cedo no INF? Álcool: Estou precisando beber alguma coisa? Sair: Quero ir pra balada? Fome: Estou com fome?

48 48/85 Árvores de Decisão (13) Exemplo: Noitada no Café Cancun Conjunto de Exemplos Propriedade-objetivo: Vai pro Café (SIM ou NÃO) Atributos: ( Sono, Transporte, INF, Álcool, Sair, Fome) E 1 : ( Pouco, Carro,,,, )! E 2 : ( Pouco, Carona,,,, )! E 3 : (, Carro,,,, ). E 4 : ( Pouco, Carona,,,, )! E 5 : (, Outros,,,, ). E 6 : ( Pouco, Outros,,,, ). E 7 : ( Pouco, Carro,,,, )! E 8 : ( Pouco, Carona,,,, ). E 9 : (, Carro,,,, ). E 10 : (, Outros,,,, )! E 11 : (, Carro,,,, )! E 12 : (, Carona,,,, )!

49 49/85 Árvores de Decisão (14) Exemplo: Noitada no Café Árvore pensada Sono? Pouco Transporte? Carro Outros Carona INF? INF? Álcool? Quer sair?

50 50/85 Árvores de Decisão (15) Métodos de construção de árvore de decisão constrói árvores de decisão binárias a partir de um conjunto de treinamento com dados previamente rotulados em cada nó, os casos são separados em função de apenas um atributo o atributo a ser testado num nó é escolhido como aquele que gera grupos com a menor diversidade, ou seja, onde uma única classe predomina

51 51/85 Árvores de Decisão (16) Métodos de construção de árvore de decisão produzem árvores com número de ramos variável cada valor de um dado categórico gera um ramo a entropia ou ganho de informação tem prevalecido como fator de escolha do atributo a ser testado num nó a partição do espaço de características começa pelo nó raiz e continua para os nós filhos da mesma maneira escolhendo-se em cada nó o melhor atributo para a partição, até que um atributo assuma um único valor, rotulando-se este nó como folha

52 52/85 Árvores de Decisão (17) Algoritmo para criar árvore de decisão Criar o nó raiz que atributo deve ser testado na raiz da árvore? todos os exemplos de treino são usados e cada atributo dos exemplos é avaliado usando um teste estatístico para determinar quão bem ele, sozinho, classifica os exemplos de treino

53 53/85 Árvores de Decisão (18) Algoritmo para criar árvore de decisão Como criar um ramo: Um nó descendente do nó raiz é criado para cada valor possível deste atributo, e os exemplos de treino são separados de acordo com o valor do exemplo para este atributo

54 54/85 Árvores de Decisão (19) Algoritmo para criar árvore de decisão Como ramificar a árvore o processo inteiro é repetido usando os exemplos de treino associados com cada nó descendente afim de selecionar o melhor atributo para testar naquele ponto da árvore

55 55/85 Árvores de Decisão (20) Algoritmo para criar árvore de decisão Que atributo testar em cada nó da árvore? Que atributo é o melhor classificador?

56 56/85 Ganho de informação (1) Mede quão bem um dado atributo separa os exemplos de treino de acordo com sua classificação objetivo (meta) Alguns algoritmo usam esta medida para selecionar entre os atributos candidatos, a cada passo, enquanto a árvores vai crescendo

57 57/85 Ganho de informação (2) Suponha que dispomos de um conjunto T de casos de treinamento para construirmos uma árvore de decisão para classificar dados em uma entre k classes, {C 1, C 2,, C k } Exemplo: Ir ao Café (C 1 ) ou não (C 2 ) Normalmente, cada classe está representada em T por um número de casos que pertencem a esta classe. Exemplo: Ir ao Café SIM : {E 1, E 2, E 4, E 7, E 10, E 11, E 12 } Ir ao Café NÃO : {E 3, E 5, E 6, E 8, E 9 }

58 58/85 Ganho de informação (3) A idéia é separar T em subconjuntos de casos que são ou de uma única coleção de casos, ou que levem nesta direção Para isto, a cada passo do algoritmo escolhe-se um teste baseado num único atributo, que fornece um ou mais resultados mutuamente exclusivos {O 1, O 2,, O n } Exemplo: Pergunta: Transporte? Resposta: Carro, Carona ou Outros

59 59/85 Ganho de informação (4) T é particionado em subconjuntos T 1, T 2,, T n, onde T i contém todos os casos em T que fornecem o resultado O i do teste escolhido Exemplo: Transporte CARRO : {E 1, E 3, E 7, E 9, E 11 } Transporte CARONA : {E 2, E 4, E 8, E 12 } Transporte OUTROS : {E 5, E 6, E 10 }

60 60/85 Ganho de informação (5) Se S é um conjunto qualquer de casos, freq(c i, S) representa o número de casos em S que pertencem à classe C i Exemplo: No caso de S = T Como Transporte CARRO = {E 1 (+), E 3 ( ), E 7 (+), E 9 ( ), E 11 (+)} freq(vaiaocafé SIM,Transporte CARRO ) = 3 freq(vaiaocafé NÃO,Transporte CARRO ) = 2 S representa o número de casos no conjunto S Exemplo: No caso de S = T, S = 12

61 61/85 Ganho de informação (6) A escolha de um teste deve ser feita utilizando um critério de ganho de informação: a informação transmitida por uma mensagem depende da sua probabilidade e pode ser medida em bits como o negativo do logaritmo na base 2 desta probabilidade Exemplo: se houver oito mensagens igualmente prováveis, a informação transmitida por qualquer uma delas é log 2 (1/8) ou 3 bits

62 62/85 Ganho de informação (7) Exemplo: E 1 E 2 E 3 E 4 E 5 E 6 E 7 E 8 E 9 E 10 E 11 E 12 Sono Pouco Pouco Pouco Pouco Pouco Pouco Transporte Carro Carona Carro Carona Outros Outros Carro Carona Carro Outros Carro Carona INF Álcool Sair Fome Vai ao Café?

63 63/85 Ganho de informação (7) Exemplo: E 1 E 2 E 4 E 7 E 10 E 11 E 12 E 3 E 5 E 6 E 8 E 9 Sono Pouco Pouco Pouco Pouco Pouco Pouco Transporte Carro Carona Carona Carro Outros Carro Carona Carro Outros Outros Carona Carro INF Álcool Sair Fome Vai ao Café?

64 64/85 Ganho de informação (8) Exemplo: +: {E 1, E 2, E 4, E 7, E 10, E 11, E 12 } : {E 3, E 5, E 6, E 8, E 9 } Transporte? carro +: {E 1, E 7, E 11 } : {E 3, E 9 } carona +: {E 2, E 4, E 12 } : {E 8 } outros +: {E 10 } : {E 5, E 6 }

65 65/85 Ganho de informação (8) Exemplo: E 1 E 7 E 11 E 3 E 9 E 2 E 4 E 12 E 8 E 10 E 5 E 6 Sono Pouco Pouco Pouco Pouco Pouco Pouco Transporte Carro Carro Carro Carro Carro Carona Carona Carona Carona Outros Outros Outros INF Álcool Sair Fome Vai ao Café?

66 66/85 Ganho de informação (9) Exemplo: +: {E 1, E 2, E 4, E 7, E 10, E 11, E 12 } : {E 3, E 5, E 6, E 8, E 9 } Sono? sim +: { } : {E 3, E 5, E 9 } pouco +: {E 1, E 2, E 4, E 7 } : {E 6, E 8 } não +: {E 10, E 11, E 12 } : { }

67 67/85 Ganho de informação (9) Exemplo: E 1 E 2 E 4 E 7 E 6 E 8 E 3 E 5 E 9 E 10 E 11 E 12 Sono Pouco Pouco Pouco Pouco Pouco Pouco Transporte Carro Carona Carona Carro Outros Carona Carro Outros Carro Outros Carro Carona INF Álcool Sair Fome Vai ao Café?

68 68/85 Ganho de informação (10) Exemplo: Sono? Pouco Transporte? Carro Carona Outros Quer sair?

69 69/85 Ganho de informação (11) Medida que indica o quanto um dado atributo irá separar os exemplos de aprendizado de acordo com a sua função objetivo (classes) valor numérico - quantifica o ganho! Para determinar o ganho, precisamos calcular a entropia dos dados antes Segundo Dicionário Aurélio função termodinâmica de estado, associado à organização espacial e energética das partículas de um sistema

70 70/85 Entropia (1) Medida que indica a homogenidade dos exemplos contidos em um conjunto de dados Permite caracterizar a pureza (e impureza) de uma coleção arbitrária de exemplos Dado o conjunto S, contendo exemplo + e - que definem o conceito a ser aprendido, a entropia relativa dos dados deste conjunto S é indicada por:

71 71/85 Entropia (2) P+ = Proporção entre os exemplos positivos e o total de exemplos do conjunto: Nro. de Casos Positivos / Nro. Total de Casos P- = Proporção entre os exemplos negativos e o total de exemplos do conjunto: Nro. de Casos Negativos / Nro. Total de Casos Sendo que: 0. Log 2 0 = 0 por definição

72 72/85 Entropia (3) Baseado no conjunto de dados jogar tênis

73 73/85 Entropia (4) Exemplo: Baseado no conjunto de dados jogar tênis : P+ = 9/14 P- = 5/14 Logo, na base de 14 exemplos, onde 9 são positivos (SIM) e 5 são negativos (NÃO), teremos Entropy (jogar_tênis) =

74 74/85 Entropia (4) Jogar Tênis: Base de 14 exemplos Se 9+ e 5- Entropy (S) = - (9/14). Log2 (9/14) - (5/14). Log2 (5/14) = Se 14+ e 0- Entropy (S) = - (1). Log 2 (1) - (0). Log 2 (0) = 0 Se 0+ e 14- Entropy (S) = - (0). Log 2 (0) - (1). Log 2 (1) = 0 Se 7+ e 7- Entropy (S) = - (0.5). Log 2 (0.5) - (0.5). Log 2 (0.5) = 1

75 75/85 Entropia (4) A função de ganho agora já pode ser calculada GANHO (S, A) = Redução esperada na entropia de S, causada pelo particionamento dos exemplos em relação a um atributo escolhido (A) Ganho(S,A) = Entropia(S) - v em valores(a) Sv. Entropia(Sv) S

76 76/85 Entropia (5) Exemplo da tabela jogar tênis Céu Ganho(S, Céu) = Ganho(S, humidade) = Ganho(S, Vento) = alta NÃO sol Humidade SIM SIM normal nublado sim NÃO Vento chuva não SIM Ganho(S, Temperatura) = 0.029

77 77/85 Entropia (6) Qual o melhor ganho? Certamente a escolha do atributo céu maximiza o ganho! Melhor caso: 1 ganho máximo Pior caso: 0 ganho minímo

78 Obtenção de regras a partir de árvores de decisão (1) 78/85 O caminho do nó raiz até um nó folha pode ser expresso diretamente como uma regra mas se houver muitas folhas, o conjunto resultante de regras pode não ser compreensível Para reduzirmos o número de regras, obtendo um conjunto mais compreensível de regras, podemos combinar aqueles ramos que levam a folhas com a mesma classe. Este processo não altera o comportamento de classificação da AD

79 Obtenção de regras a partir de árvores de decisão (2) 79/85 Obtenção de regras a partir de árvores de decisão Por exemplo, é possível mostrar o resultado como regras lógicas toma-se as folhas com conclusão positiva e sobe-se até a raiz

80 Obtenção de regras a partir de árvores de decisão (3) 80/85 Exemplo: t Sono(,t) VaiAoCafé(t) t Sono(Pouco,t) Transporte(Carro,t) VaiAoCafé(t) t Sono(Pouco,t) Transporte(Carona,t) QuerSair(,t) VaiAoCafé(t) t Sono(,t) VaiAoCafé(t) t Sono(Pouco,t) Transporte(Outros,t) VaiAoCafé(t) t Sono(Pouco,t) Transporte(Carona,t) QuerSair(,t) VaiAoCafé(t)

81 81/85 Problemas do algoritmo (1) Expressividade Só pode tratar de um único objeto Exemplo: Noitada no Café t Sono(,t) VaiAoCafé(t) t Sono(Pouco,t) Transporte(Carro,t) VaiAoCafé(t)

82 82/85 Problemas do algoritmo (2) Expressividade trata mais de um objeto com eficiência Exemplo: Noitada no Café Se posso ficar mais indisposto mais tarde, eu vou logo ao Café t 1 t 2 MesmoDia(t 1,t 2 ) Disposição(t 1,d 1 ) Disposição(t 2,d 2 ) Maior (d 1,d 2 ) VaiAoCafé(t) Alternativa: atributo possoficarmaisindisposto(t)

83 83/85 Problemas do algoritmo (3) Expressividade Como tratar atributos multi-valorados? Exemplo: FiliaçãoInstitucional(Pereira,{UFG,UCG,UEG}) Como tratar atributos numéricos? Exemplo: Tem entre 45 e 52 anos

84 84/85 Problemas do algoritmo (4) Expressividade Como tratar listas ordenadas? Exemplo: Formação = {graduação,mestrado,doutorado} Hierarquias conceituais BR NE Norte PE PB AL CE

85 Algoritmo, página 658, Livro do Russell e Norving Função ARV_DEC_APREND(exemplos, atributos, default) Se todos exemplos tem a mesma class. ou exemplos é vazio Senão melhor EscolhaAtrib (atributos, exemplos) arvore melhor é a raiz da nova sub-arvore para cada valor v i de melhor fazer exemplos i {elementos de exemplos com melhor = v i } subarvore ARV_DEC_APREND(exemplos i, atributos melhor, d) adiciono um ramo para arvore com rotulo v i e a sub-árvore subarvore retorne arvore

86 SIM sim normal suave sol D11 SIM não normal baixa sol D9 NÃO não alta suave sol D8 NÃO sim alta alta sol D2 NÃO não alta alta sol D1 SIM sim alta suave nublado D12 SIM sim normal baixa nublado D7 SIM não normal alta nublado D13 SIM não alta alta nublado D3 SIM não normal suave chuva D10 SIM não normal baixa chuva D5 SIM não alta alta chuva D4 NÃO sim alta suave chuva D14 NÃO sim normal baixa chuva D6 Classificação vento umidade temperatura céu ATRIBUTO

87 Melhor árvore usando o algoritmo céu sol nublado chuva umidade S umidade alta normal alta normal N S vento vento sim não sim não N S N S

88 Melhor árvore encontrada céu sol nublado chuva umidade S vento alta normal sim não N S N S