Aprendizagem de Máquina

Transcrição

1 Aprendizagem de Máquina Aprendizagem de Conceito Alessandro L. Koerich 2008 Mestrado/Doutorado em Informática Pontifícia Universidade Católica do Paraná (PUCPR)

2 Mestrado/Doutorado em Informática Aprendizagem de Máquina 2 Plano de Aula Introdução Tarefa de Aprendizagem de Conceito Aprendizagem de Conceito como uma Busca Ordenação de Hipóteses Algoritmo Find-S Espaço Versão Eliminação de Candidato Exemplos Ilustrativos Resumo

3 Mestrado/Doutorado em Informática Aprendizagem de Máquina 3 Introdução O problema central da aprendizagem é induzir (construir) funções gerais a partir de exemplos de treinamento específicos. Exemplo: Aprendendo a jogar damas. O Que é Aprendizagem de Conceito?

4 Mestrado/Doutorado em Informática Aprendizagem de Máquina 4 Introdução Aprendizagem de Conceito: obtenção da definição de uma categoria geral a partir de exemplos de treinamento positivos e negativos da categoria. Pode ser formulado como um problema de busca em um espaço de hipóteses pré definido hipótese que melhor se ajusta aos exemplos de treinamento.

5 Mestrado/Doutorado em Informática Aprendizagem de Máquina 5 Introdução Duas situações serão consideradas: Algoritmos de Aprendizagem Situações onde eles convergem para a hipótese correta Natureza da Aprendizagem Indutiva Generalização além dos dados de treinamento observados

6 Mestrado/Doutorado em Informática Aprendizagem de Máquina 6 Introdução Aprendizagem envolve aquisição de conceitos gerais a partir de exemplos de treinamento específicos. Exemplo: pessoas aprendem conceitos gerais ou categorias, e.g. pássaro, carro, etc. Alternativamente, cada conceito pode ser visto como um função booleana. Pertence a tal categoria? Sim = 1 Não = 0

7 Mestrado/Doutorado em Informática Aprendizagem de Máquina 7 Introdução

8 Mestrado/Doutorado em Informática Aprendizagem de Máquina 8 Introdução

9 Mestrado/Doutorado em Informática Aprendizagem de Máquina 9 Introdução

10 Mestrado/Doutorado em Informática Aprendizagem de Máquina 10 Introdução Considerar o problema de inferir automaticamente a definição geral de alguns conceitos, a partir de exemplos rotulados como sendo membros ou não membros do conceito. Esta tarefa é dita aprendizagem de conceito ou aproximação de uma função de valor booleano a partir de exemplos.

11 Mestrado/Doutorado em Informática Aprendizagem de Máquina 11 Introdução Aprendizagem de Conceito: inferindo uma função de valor booleano a partir de exemplos de treinamento (entradas e saídas).

12 Mestrado/Doutorado em Informática Aprendizagem de Máquina 12 Tarefa de Aprendizagem Conceitual Vamos considerar a tarefa de aprender o conceito dias nos quais João pratica seu esporte favorito A tabela abaixo apresenta um conjunto de dias, cada um representado por um conjunto de atributos (ou características ou features)

13 Mestrado/Doutorado em Informática Aprendizagem de Máquina 13 Tarefa de Aprendizagem Conceitual Atributos (ou Características ou Features) Atributo Alvo ou Conceito Alvo Valor dos Atributos Valor do Atributo Alvo ou Valor do Conceito Alvo

14 Mestrado/Doutorado em Informática Aprendizagem de Máquina 14 Tarefa de Aprendizagem Conceitual No treinamento queremos encontrar a relação entre o valor dos atributos e o valor do atributo alvo/conceito alvo Uma vez treinado, dado um dia qualquer que é representado pelos 6 atributos, desejamos saber o valor do conceito alvo.????????????

15 Mestrado/Doutorado em Informática Aprendizagem de Máquina 15 Tarefa de Aprendizagem Conceitual O atributo EnjoySport indica se João pratica ou não seu esporte favorito naquele dia. Qual é a tarefa de aprendizagem? Aprender a predizer o valor de EnjoySport para um dia qualquer baseando se apenas nos valores dos outros atributos (Sky, Temp, Humid, Wind, Water, Forecast).

16 Mestrado/Doutorado em Informática Aprendizagem de Máquina 16 Tarefa de Aprendizagem Conceitual Que representação da hipótese devemos fornecer ao aprendiz neste caso? Consideramos uma representação simples onde cada hipótese consiste em uma conjunção de restrições sobre os atributos de entrada. Fazemos cada hipótese ser um vetor de restrições especificando os valores dos seis atributos: < Sky, AirTemp, Humidity,Wind, Water, Forecast >

17 Mestrado/Doutorado em Informática Aprendizagem de Máquina 17 Tarefa de Aprendizagem Conceitual Para cada atributo, a hipótese: Indicará através de um? que qualquer valor é aceitável para esse atributo Especificará um valor único necessário para o atributo (e.g. Warm), ou Indicará através do símbolo que nenhum valor é aceitável.

18 Mestrado/Doutorado em Informática Aprendizagem de Máquina 18 Tarefa de Aprendizagem Conceitual Se alguma instância x satisfizer todas as restrições da hipótese h, então, h classifica x como um exemplo positivo: h (x) = 1 (ou seja, Yes) Se uma instância x não satisfizer todas as restrições da hipótese h, então, h classifica x como um exemplo negativo: h (x) = o (ou seja, No)

19 Mestrado/Doutorado em Informática Aprendizagem de Máquina 19 Tarefa de Aprendizagem Conceitual Como ilustraríamos a hipótese de que João pratica seu esporte favorito somente em dias frios e com alta umidade (independente dos valores dos outros atributos)? <?, Cold, High,?,?,?>

20 Mestrado/Doutorado em Informática Aprendizagem de Máquina 20 Tarefa de Aprendizagem Conceitual A hipótese mais geral, de que todo dia é um exemplo positivo, é representado por: <?,?,?,?,?,?> A hipótese mais específica, de que nenhum dia é um exemplo positivo, é representado por: <,,,,, >

21 Mestrado/Doutorado em Informática Aprendizagem de Máquina 21 Tarefa de Aprendizagem Conceitual Em resumo, a tarefa de aprendizagem do conceito EnjoySport requer a: Aprendizagem do conjunto de dias para os quais EnjoySport = Yes, descrevendo este conjunto por uma conjunção de restrições sobre os atributos da instância (entrada).

22 Mestrado/Doutorado em Informática Aprendizagem de Máquina 22 Tarefa de Aprendizagem Conceitual Em geral, qualquer tarefa de aprendizagem de conceito pode ser descrita por: Um conjunto de instâncias sobre as quais a função objetiva é definida; Um conceito alvo (função alvo); O conjunto de hipóteses candidatas; O conjunto de exemplos de treinamento.

23 Mestrado/Doutorado em Informática Aprendizagem de Máquina 23 Definição da Tarefa de Aprendizagem Sendo fornecidos: Instâncias (X) Conceito Alvo (c) Conjunto de Hipóteses (H) Exemplos de Treinamento (D) Determinar: A hipótese h em H tal que h(x)=c(x) para todo x em X.

24 Mestrado/Doutorado em Informática Aprendizagem de Máquina 24 Definição da Tarefa de Aprendizagem Instâncias (X): dias possíveis, cada um descrito pelos atributos: Sky (Sunny/ Cloudy / Rainy) AirTemp (Warm / Cold) Humidity (Normal / High) Wind (Strong / Weak) Water (Warm / Cold) Forecast (Same / Change)

25 Mestrado/Doutorado em Informática Aprendizagem de Máquina 25 Definição da Tarefa de Aprendizagem Conjunto de Hipóteses (H): conjunções de restrições sobre os atributos, por exemplo: <?,Cold,High,?,?,?> <Cloudy,Cold,High,?,?,?> <Rainy,Cold,High,?,?,?> <?,Warm,High,Weak,?,?>... <?,Cold,High,Weak,Cool, Same> <Rainy,Cold,High,Weak,Cool,Same> <Sunny,?,?,?,?,?>

26 Mestrado/Doutorado em Informática Aprendizagem de Máquina 26 Definição da Tarefa de Aprendizagem Conceito Alvo (c): EnjoySport: X {0,1} onde 0 corresponde a No e 1 corresponde a Yes. Exemplos de Treinamento (D): exemplos positivos e negativos da função objetivo, e.g. < x 1,c(x 1 ) >,..., < x n, c(x n )> < ( Rainy, Cold, High,Weak,Cool, Same), No > < ( Sunny, Warm, Normal,Weak,Cool, Same), Yes >... <(Sunny, Warm, Normal,Weak,Warm,Same), Yes>

27 Mestrado/Doutorado em Informática Aprendizagem de Máquina 27 Aprendizagem Conceitual: Notação Conjunto de itens sobre os quais o conceito é definido conjunto de instâncias X Ex: conjunto de todos os dias possíveis, cada um representado pelos atributos Sky, AirTemp,..., Forecast. O conceito ou função a ser aprendida é chamada de: conceito alvo c (em geral c ébooleano c : X {0,1}) Ex: valor do atributo EnjoySport. c(x)=1 se EnjoySport = Yes, c(x)=0 se EnjoySport = No.

28 Mestrado/Doutorado em Informática Aprendizagem de Máquina 28 Aprendizagem Conceitual: Notação Conjunto de exemplos de treinamento D cada um consistindo de uma instância x de X com o valor do conceito alvo c(x), i.e., < x, c(x)> Conjunto de todas as hipóteses possíveis H que possam ser consideradas com respeito a identidade do conceito alvo.

29 Mestrado/Doutorado em Informática Aprendizagem de Máquina 29 Aprendizagem Conceitual: Notação Geralmente, H é determinado a partir da escolha da representação das hipóteses feita pelo projetista humano. Em geral, cada hipótese h em H representa uma função de valor booleano definida sobre X, i.e. h : X {0,1}. O objetivo do aprendiz é encontrar uma hipótese h tal que h(x) = c(x) x em X.

30 Mestrado/Doutorado em Informática Aprendizagem de Máquina 30 Tarefa de Aprendizagem Conceitual Apesar da tarefa de aprendizagem ser: determinar a hipótese h idêntica ao conceito alvo sobre o conjunto inteiro de instâncias X A única informação disponível a respeito de c é seu valor sobre os exemplos de treinamento. Assim, algoritmos de aprendizagem indutiva pode no máximo garantir que a hipótese resultante represente o conceito alvo sobre os dados de treinamento.

31 Mestrado/Doutorado em Informática Aprendizagem de Máquina 31 Tarefa de Aprendizagem Conceitual A hipótese da aprendizagem indutiva: Qualquer hipótese que aproxima bem a função objetiva sobre um conjunto suficientemente grande de exemplos de treinamento aproximará também bem a função objetiva sobre outros exemplos não observados. Esta é a suposição fundamental da aprendizagem indutiva!!

32 Mestrado/Doutorado em Informática Aprendizagem de Máquina 32 Aprendizagem como Tarefa de Busca A aprendizagem de conceito pode ser vista como uma tarefa de busca em um grande espaço de hipóteses definido pela representação das hipóteses. O objetivo desta busca é: encontrar a hipótese que melhor se ajusta aos exemplos de treinamento.

33 Mestrado/Doutorado em Informática Aprendizagem de Máquina 33 Aprendizagem como Tarefa de Busca É importante notar que: Em selecionando uma representação das hipóteses: o projetista do algoritmo de aprendizagem define implicitamente o espaço de todas as hipóteses que o programa pode sempre representar e, portanto, pode aprender.

34 Mestrado/Doutorado em Informática Aprendizagem de Máquina 34 Aprendizagem como Tarefa de Busca Voltando ao problema anterior... Temos os atributos e seus possíveis valores: Sky (Sunny/Rainy/Cloudy) [3 valores possíveis] AirTemp (Warm/Cold) [2 valores possíveis] Humidity (Normal/High) [2 valores possíveis] Wind (Strong/Weak) [2 valores possíveis] Water (Warm/Cool) [2 valores possíveis] Forecast (Same/Change) [2 valores possíveis]

35 Mestrado/Doutorado em Informática Aprendizagem de Máquina 35 Aprendizagem como Tarefa de Busca Assim, o espaço de instâncias X contém: = 96 instâncias distintas Existem = hipóteses sintaticamente distintas dentro de H Porém, toda hipótese contendo um ou mais símbolos representam hipóteses negativas 1+( ) = 973 hipóteses sintaticamente distintas

36 Mestrado/Doutorado em Informática Aprendizagem de Máquina 36 Aprendizagem como Tarefa de Busca O problema deste exemplo é relativamente simples pois tem um número finito de hipóteses. Porém, os problemas reais geralmente são muito mais complexos envolvendo, as vezes, um espaço de hipóteses infinito.

37 Mestrado/Doutorado em Informática Aprendizagem de Máquina 37 Aprendizagem como Tarefa de Busca Muitos algoritmos de aprendizagem de conceito organizam a busca no espaço de hipóteses baseando se em uma estrutura: A ordenação das hipóteses de hipóteses mais gerais à hipóteses mais específicas Exemplo: h 1 = <Sunny,?,?, Strong,?,?> h 2 = <Sunny,?,?,?,?,?> Qual destas instâncias positivas é a mais geral?

38 Mestrado/Doutorado em Informática Aprendizagem de Máquina 38 Aprendizagem como Tarefa de Busca Dadas as hipóteses h j e h k h j é mais_geral_que_ou_igual_à h k (h j h g k ), se e somente se qualquer instância que satisfaça h k também satisfaça h j. ( x X )[( h ( x) = 1) ( h ( x) = k j 1)]

39 Mestrado/Doutorado em Informática Aprendizagem de Máquina 39 Aprendizagem como Tarefa de Busca Instâncias, hipóteses e a relação: mais_geral_que

40 Mestrado/Doutorado em Informática Aprendizagem de Máquina 40 Aprendizagem como Tarefa de Busca Como as hipóteses h 1, h 2 e h 3 podem ser relacionadas através do símbolo g? h 1 = < Sunny,?,?, Strong,?,? > h 2 = < Sunny,?,?,?,?,? > h 3 = < Sunny,?,?,?, Cool,? > h 2 g h 3 g h 1 ou h 2 g h 1 g h 3

41 Mestrado/Doutorado em Informática Aprendizagem de Máquina 41 Algoritmo Find S Como usar a ordenação parcial g para organizar a busca por uma hipótese consistente com os exemplos de treinamento observados? Começar com a hipótese mais específica possível em H, e então generalizá la, cada vez que ela falhar em cobrir um exemplo positivo. Considerando o algoritmo...

42 Mestrado/Doutorado em Informática Aprendizagem de Máquina 42 Algoritmo Find S 1. Inicialize h como sendo a hipótese mais específica em H. 2. Para cada instância de treinamento positiva x Para cada restrição de atributo a i em h Se a restrição a i é satisfeita por x Então não faça nada Senão troque a i em h pela próxima restrição mais geral que é satisfeita por x 3. Forneça a hipótese h.

43 Mestrado/Doutorado em Informática Aprendizagem de Máquina 43 Aplicando o Algoritmo Find S Aplicando o algoritmo ao exemplo anterior (EnjoySport)...

44 Mestrado/Doutorado em Informática Aprendizagem de Máquina 44 Aplicando o Algoritmo Find S Aplicando o algoritmo ao exemplo anterior (EnjoySport)... Passo 1: Inicializar h com a hipótese mais específica em H: h <,,,,, > olhando o primeiro exemplo da tabela hipótese muito específica.

45 Mestrado/Doutorado em Informática Aprendizagem de Máquina 45 Aplicando o Algoritmo Find S Passo 2: Trocar as restrições pela próxima restrição mais geral que se ajusta ao exemplo (ou seja, os valores dos atributos). h < Sunny, Warm, Normal, Strong, Warm, Same> h é ainda muito específica...

46 Mestrado/Doutorado em Informática Aprendizagem de Máquina 46 Aplicando o Algoritmo Find S

47 Mestrado/Doutorado em Informática Aprendizagem de Máquina 47 Aplicando o Algoritmo Find S Passo 2: Trocar as restrições pela próxima restrição mais geral que se ajuste ao exemplo (ou seja, os valores dos atributos). h < Sunny, Warm,?, Strong, Warm, Same> O segundo exemplo de treinamento faz o algoritmo generalizar ainda mais.

48 Mestrado/Doutorado em Informática Aprendizagem de Máquina 48 Aplicando o Algoritmo Find S

49 Mestrado/Doutorado em Informática Aprendizagem de Máquina 49 Aplicando o Algoritmo Find S Passo 2: Find S ignora o exemplo negativo... pois h já é consistente com o novo exemplo negativo.

50 Mestrado/Doutorado em Informática Aprendizagem de Máquina 50 Aplicando o Algoritmo Find S

51 Mestrado/Doutorado em Informática Aprendizagem de Máquina 51 Aplicando o Algoritmo Find S Passo 2: O quarto exemplo positivo leva a h < Sunny, Warm,?, Strong,?,? > Passo 3: h = < Sunny, Warm,?, Strong,?,? > Este algoritmo ilustra como a ordenação parcial mais_geral_que pode ser usada para organizar a busca por uma hipótese aceitável.

52 Mestrado/Doutorado em Informática Aprendizagem de Máquina 52 Algoritmo Find S A busca no espaço de hipóteses.

53 Mestrado/Doutorado em Informática Aprendizagem de Máquina 53 Algoritmo Find S A propriedade chave do algoritmo Find S é: Para espaços de hipóteses descritos pela conjunção de atributos é garantido que Find S produza a hipótese mais específica dentro de H que é consistente com os exemplos de treinamento positivos.

54 Mestrado/Doutorado em Informática Aprendizagem de Máquina 54 Algoritmo Find S Porém... Não podemos dizer se o aprendiz convergiu para o conceito correto. Porque preferir a hipótese h mais específica? Não podemos dizer quando os exemplos de treinamento são inconsistentes Depende de H. Podem haver diversas outras hipóteses específicas consistentes

55 Mestrado/Doutorado em Informática Aprendizagem de Máquina 55 Algoritmo Eliminação de Candidatos O algoritmo Find S tem várias limitações, então... um outro algoritmo... A idéia chave do algoritmo Eliminação de Candidatos é fornecer uma descrição do conjunto de todas as hipóteses consistentes com os exemplos de treinamento. Também utiliza a propriedade do ordenamento parcial mais_geral_que.

56 Mestrado/Doutorado em Informática Aprendizagem de Máquina 56 Algoritmo Eliminação de Candidatos O algoritmo Eliminação de Candidatos encontra todas as hipóteses descritíveis que são consistentes com os exemplos de treinamento observados. Definição: Uma hipótese h é consistente com os exemplos de treinamento D se e somente se ela classifica corretamente estes exemplos. Consistent e( h, D) ( x, c( x) D) h( x) = c( x)

57 Mestrado/Doutorado em Informática Aprendizagem de Máquina 57 Algoritmo Eliminação de Candidatos O algoritmo Eliminação de Candidatos representa o conjunto de todas as hipóteses consistentes com os exemplos de treinamento observados. Este subespaço de todas hipóteses é chamado, Espaço Versão (version space) com respeito ao espaço de hipóteses H e os exemplos de treinamento D, porque ele contém todas as versões plausíveis do conceito alvo. VS { h H Consistente( h, )} H, D D

58 Mestrado/Doutorado em Informática Aprendizagem de Máquina 58 Algoritmo Lista e Elimina Para representar o Espaço Versão, listamos todos os seus membros algoritmo de aprendizagem Lista e Elimina. Pode ser aplicado sempre que o espaço de hipóteses for finito. É garantido que ele forneça todas as hipóteses consistentes com os dados de treinamento.

59 Mestrado/Doutorado em Informática Aprendizagem de Máquina 59 Algoritmo Lista e Elimina 1. Espaço Versão uma lista contendo cada hipótese em H. 2. Para cada exemplo de treinamento < x, c(x) > remover do Espaço Versão qualquer hipótese h para qual h(x) c(x) 3. forneça a lista de hipóteses no Espaço Versão.

60 Mestrado/Doutorado em Informática Aprendizagem de Máquina 60 Algoritmo Lista e Elimina Aplicando ao exemplo EnjoySport... Um espaço versão com seus conjuntos fronteira geral e específico.

61 Mestrado/Doutorado em Informática Aprendizagem de Máquina 61 Algoritmo Eliminação de Candidatos O algoritmo Eliminação de Candidatos representa o Espaço Versão armazenando somente seus membros mais gerais (G) e mais específicos (S) Dado somente G e S, é possível enumerar todos os membros do espaço versão.

62 Mestrado/Doutorado em Informática Aprendizagem de Máquina 62 Algoritmo Eliminação de Candidato

63 Mestrado/Doutorado em Informática Aprendizagem de Máquina 63 Algoritmo Eliminação de Candidato Inicializar G com a hipótese mais geral em H. Inicializar S com a hipótese mais geral em H. Para cada exemplo de treinamento d, faça -Se d for um exemplo positivo -Remova de G qualquer hipótese inconsistente com d - Para cada hipótese s em S que não for consistente com d -Remova s de S -Adicione a S as generalizações mínimas h de s tais que -hseja consistente com d e algum membro de G émais geral do que h -Remova de S qualquer hipótese que seja mais geral do que outra hipótese em S.

64 Mestrado/Doutorado em Informática Aprendizagem de Máquina 64 Algoritmo Eliminação de Candidato -Se d for um exemplo negativo -Remova de S qualquer hipótese inconsistente com d - Para cada hipótese g em G que não for consistente com d -Remova g de G -Adicione a G as especializações mínimas h de g tais que -hseja consistente com d e algum membro de S émais específico do que h -Remova de G qualquer hipótese que seja menos geral do que outra hipótese em G.

65 Mestrado/Doutorado em Informática Aprendizagem de Máquina 65 Algoritmo Eliminação de Candidato Passo 1 Passo 2 Estas duas fronteiras delimitam o espaço de hipóteses inteiro...

66 Mestrado/Doutorado em Informática Aprendizagem de Máquina 66 Aplicando Algo Elim. De Candidato

67 Mestrado/Doutorado em Informática Aprendizagem de Máquina 67 Algoritmo Eliminação de Candidato

68 Mestrado/Doutorado em Informática Aprendizagem de Máquina 68 Algoritmo Eliminação de Candidato

69 Mestrado/Doutorado em Informática Aprendizagem de Máquina 69 Algoritmo Eliminação de Candidato

70 Mestrado/Doutorado em Informática Aprendizagem de Máquina 70 Algoritmo Eliminação de Candidato

71 Mestrado/Doutorado em Informática Aprendizagem de Máquina 71 Algoritmo Eliminação de Candidato Este Espaço Versão aprendido é independente da seqüência na qual os exemplos de treinamento são apresentados. Se mais dados de treinamento forem usados, as fronteiras S e G se moverão monotonicamente mais perto umas das outras, delimitando um Espaço Versão de Hipóteses Candidatas cada vez menor.

72 Mestrado/Doutorado em Informática Aprendizagem de Máquina 72 Algoritmo Eliminação de Candidato O algoritmo Eliminação de Candidato convergirá para hipótese correta? Sim, se não houverem erros nas amostras de treinamento existir alguma hipótese em H que descreve corretamente o conceito alvo. E se houverem erros nos dados de treinamento? Se o segundo exemplo de treinamento for incorretamente apresentado como NO?

73 Mestrado/Doutorado em Informática Aprendizagem de Máquina 73 Algoritmo Eliminação de Candidato E se houverem erros nos dados de treinamento? Se o segundo exemplo de treinamento for incorretamente apresentado como NO? Neste caso o algoritmo removerá o conceito alvo correto do Espaço Versão!!!! Se o número de exemplos de treinamento for suficiente, as fronteiras S e G convergirão para um Espaço Versão vazio.

74 Mestrado/Doutorado em Informática Aprendizagem de Máquina 74 Algoritmo Eliminação de Candidato Como podem ser usados os conceitos parcialmente aprendidos? Exemplo:

75 Mestrado/Doutorado em Informática Aprendizagem de Máquina 75 Espaço Versão Final Aprendido

76 Mestrado/Doutorado em Informática Aprendizagem de Máquina 76 Algoritmo Eliminação de Candidato A instância A é classificada como positiva por todas as hipóteses no espaço versão final. A instância B é classificada como negativa por todas as hipóteses no espaço versão final. A instância C apresenta uma situação diferente. Metade das hipótese do espaço versão classificam como positiva e metade como negativa não pode classificar esta instância com confiança

77 Mestrado/Doutorado em Informática Aprendizagem de Máquina 77 Algoritmo Eliminação de Candidato A instância D é classificada como positiva por 2 hipótese do espaço versão e como negativa por 4 hipóteses do espaço versão A maioria vence classificada como negativa Porém esta é uma decisão de menor confiança!!!!

78 Mestrado/Doutorado em Informática Aprendizagem de Máquina 87 Resumo Aprendizagem de conceito pode ser vista como um problema de busca em um espaço amplo pré definido de hipóteses em potencial; A ordenação parcial geral à específica das hipóteses fornece uma estrutura útil para organizar a busca no espaço de hipóteses.

79 Mestrado/Doutorado em Informática Aprendizagem de Máquina 88 Resumo O algoritmo Find S utiliza este ordenamento geral a específico, realizando uma busca de específica à geral no espaço de hipóteses para encontrar a hipótese mais específica consistente com os exemplos de treinamento; O algoritmo Eliminação de Candidatos utiliza este ordenamento parcial geral a específico para calcular o Espaço Versão através da computação incremental dos conjuntos mais específicos (S) e mais gerais (G).

80 Mestrado/Doutorado em Informática Aprendizagem de Máquina 89 Resumo Como os conjuntos S e G delimitam o conjunto inteiro de hipóteses consistente com os dados, eles fornecem uma descrição da incerteza em relação à identidade exata do conceito alvo. As aplicações práticas são limitadas pelo fato de que os dois algoritmos tem um desempenho fraco na presença de dados de treinamento com ruído.