Aula 3 Representação do Conhecimento

Tamanho: px

Começar a partir da página:

Download "Aula 3 Representação do Conhecimento"

Rayssa Conceição Gil
6 Há anos
Visualizações:

1 Aula 3 Representação do Conhecimento

2 Sumário (Representação do Conhecimento) - Introdução - Tabelas - Modelos Lineares - Árvores - Regras - Baseada em Instância - Clusters (Aglomerado) - Prática: Árvore de Decisão

3 Introdução - Quando se obtém o conhecimento, representá-lo pode ser uma tarefa complicada. - Qual a diferença do cachorro e o gato? Crie um modelo! - Antes de se estudar o modelo de classificação, é necessário entender quais são as saídas possíveis do processo de classificação. - Cada problema pode ser representado de uma maneira, assim como a solução ou modelo para solucionar.

4 Tabelas

5 Tabelas - Simples e mais rudimentar representação de conhecimento; - Exibição condensada de informações; - Tem como principal obstáculo decidir quais atributos afetam a decisão final. - É um elemento importante na descrição dos dados, porém para a descrição de um modelo ou conhecimento adquirido não é tão adequado.

6 Modelos Lineares

7 Modelos Lineares - Os estatísticos usam a palavra regressão; - São fáceis de se visualizar em duas dimensões; - A reta representa o melhor ajuste para as dimensões relacionadas; - O modelo pode ser descrito por uma equação de reta: Performance = Cache Bias => Weight (peso) => 2.47

8 Modelos Lineares - Pode ser utilizados para representação de classificação binária (2 classes) de problemas. A linha é chamada de limite (boundaries) de cada classe.

9 Árvores

10 Árvores - Abordagens divisão e conquista são representadas de forma ideal por árvores de decisão; - Os nós de uma árvore de decisão são definidos pelos atributos; - As folhas definem a classificação esperada; - A classificação é obtida percorrendo todos os nós até a folha que descreve a classe; - Cada nó deve oferecer dois ou mais caminhos para seguir. Quando os valores são numéricos a divisão é feita segundo a regra de maior ou menor que, por exemplo. - Quando uma árvore é composta apenas de números em suas folhas, esta é chamada de regression trees.

11 Árvores

12 Árvores

13 Regras

14 Regras - É uma alternativa às árvores de decisão. - Semelhante às árvores, tem nas extremidades do modelo a classe. É dividada em condições, antecedentes e consequente (ou conclusão). - Diferente da árvore, as regras não são apenas simples conjecturas, são formulações ou expressões lógicas. - Geralmente as regras de classificação (Classification Rules) são derivadas de árvores e apresentam soluções sem redundância, mais complexas e otimizadas.

15 Representação baseada em instância (Instance-based)

16 Representação baseada em instância (Instance-based) - Ideia de hábito e memorização; - É o mecanismo mais lento para ser utilizado; - As instâncias são avaliadas uma a uma; - Técnicas de distância e vizinhança são utilizadas (k-nearest-neighbor) - Algumas abordagens utilizam instâncias de distância média para representar a classe esperada.

17 Representação baseada em instância (Instance-based)

18 Clusters (Aglomeração) - É uma das abordagens mais utilizadas; - A saída é um diagrama que representa uma quantidade diversificada de grupos (dendograma); - A definição desta técnica pode ser feita como: Aglomerando instâncias ajustadas por quantidade de grupos ; - A abordagem de Clustering pode ser utilizada em parceria com outras abordagens como Árvores de Decisão e Regras.

19 Clusters (Aglomeração)

20 Clusters (Aglomeração)

21 Prática: Árvore de Decisão - Algoritmos: ID3 (Iterative Dichotomiser 3), C4.5 e CART (Classification and Regression Tree) - Resumo ID3: 1) Calcular a entropia de cada atributo usando o conjunto de dados S; 2) Dividir o grupo S em subgrupos usando a menor entropia; 3) Construir os nós da árvore contendo o atributo 4) Retornar no subgrupo recursivamente usando os atributos restantes. - Entropia: Ent( C, D) - Ganho de Informação: = c i D [ C = c ] [ C= c i D log 2 D i D ] D[ a= vi ] InfoGain ( a, C, D) = Ent( C, D) Ent( C, D[ a= v ]) i D v i

22 Prática: Árvore de Decisão AD(Exemplos:D; Atributos:A; Alvo:C) Crie nó_raiz SE Critério_de_Parada ENTÃO Crie nó terminal associada à classe mais freqüente SENÃO Encontre atributo aj cujo teste de decisão maximize a separação dos exemplos que atinjem o nó - PARA CADA valor v do teste adicione nova sub-árvore - Sub_arvore = AD(D[aj = v], A {aj}, C)

23 Prática: Árvore de Decisão Exemplo: Day Outlook Temp. Humit. Wind Play D1 Sunny Hot High Weak No D2 Sunny Hot High Strong No D3 Overcast Hot High Weak Yes D4 Rain Mild High Weak Yes D5 Rain Cool Normal Weak Yes D6 Rain Cool Normal Strong No D7 Overcast Cool Normal Strong Yes D8 Sunny Mild High Weak No D9 Sunny Cool Normal Weak Yes D10 Rain Mild Normal Weak Yes D11 Sunny Mild Normal Strong Yes D12 Overcast Mild High Strong Yes D13 Overcast Hot Normal Weak Yes D14 Rain Mild High Strong No

24 Prática: Árvore de Decisão Exemplo: Raíz: [9+; 5-] Entropia = - 9/14*log2(9/14) - 5/14*log2(5/14) = Considerando teste com atributo Outlook Outlook = Sunny: [2+;3-] Entropia = - 2/5*log2(2/5) - 3/5*log2(3/5) = Outlook = Overcast: [4+;0-] Entropia = - 4/4*log2(4/4) - 0/4*log2(0/4) = 0.0 Outlook = Rain: [3+;2-] Entropia = - 3/5*log2(3/5) - 2/5*log2(2/5) = Média: 5/14* /14* /14*0.971 = Ganho de Informação: = 0.246

25 Prática: Árvore de Decisão Exemplo:

26 Referências: Silva, IN da, Danilo Hernane Spatti, and Rogério Andrade Flauzino. "Redes neurais artificiais para engenharia e ciências aplicadas." São Paulo: Artliber (2010). Konar, A. Computational Intelligence: Principles, Techniques and Applications (2005) Jensen, R. Shen, Q. Computational Intelligence and Feature Selection (2008)

Documentos relacionados

PESQUISA OPERACIONAL -PROGRAMAÇÃO LINEAR. Prof. Angelo Augusto Frozza, M.Sc.

PESQUISA OPERACIONAL -PROGRAMAÇÃO LINEAR Prof. Angelo Augusto Frozza, M.Sc. ROTEIRO Esta aula tem por base o Capítulo 2 do livro de Taha (2008): Introdução O modelo de PL de duas variáveis Propriedades