Aprendizado Bayesiano. Disciplina: Agentes Adaptativos e Cognitivos

Transcrição

1 Aprendizado Bayesiano Disciplina: Agentes Adaptativos e Cognitivos

2 Conhecimento com Incerteza Exemplo: sistema de diagnóstico odontológico Regra de diagnóstico " p sintoma (p,dor de dente) doença (p,cárie) A doença (causa do sintoma) pode ser outra. Regra causal " p doença (p,cárie) sintoma (p,dor de dente) Há circunstâncias em que a doença não provoca o sintoma. A conexão entre antecedente e conseqüente não é uma implicação lógica em nenhuma direção

3 Conhecimento com Incerteza Falha no domínio de diagnóstico médico devido a: preguiça : existem causas ou conseqüências demais a considerar ignorância teórica e prática: não existe uma teoria completa para o domínio, nem podemos fazer todos os testes necessários para o diagnóstico perfeito. Nestes casos, o conhecimento pode apenas prover um grau de crença nas sentenças relevantes. P(Cárie/Dor de Dente) = 0.6

4 Aprendizagem Bayesiana Fornece probabilidades para suas respostas Permite combinar facilmente conhecimento a priori com dados de treinamento Métodos práticos e bem sucedidos para aprendizagem Aprendizagem Bayesiana Ingênua Aprendizagem de Redes Bayesianas

5 Teoria da Probabilidade Associa às sentenças um grau de crença numérico entre 0 e 1 Contudo, cada sentença ou é verdadeira ou é falsa Grau de crença (probabilidade): a priori (incondicional): calculado antes do agente receber percepções Ex. P(cárie= true) = P(cárie) = 0.5 condicional: calculado de acordo com as evidências disponíveis (permite a inferência) evidências: percepções que o agente recebeu até agora Ex: P(cárie dor de dente)= 0.8 P(cárie ~dor de dente)= 0.3

6 Probabilidade condicional Regra do produto: P(A B) = P(A^B), quando P(B) > 0. P(B) Regra de Bayes P(A/B) = P(B/A)P(A) P(B)

7 Aplicação da Regra de Bayes: Diagnóstico Médico Sea M=doença meningite S= rigidez no pescoço Um Doutor sabe: P(S/M)=0.5 P(M)=1/50000 P(S)=1/20 P(M/S)=P(S/M)P(M) P(S) =0,5*(1/50000)=0,002 1/20 A probabilidade de uma pessoa ter meningite dado que ela está com rigidez no pescoço é 0,02% ou ainda 1 em 5000.

8 Classificador Bayesiano Ingênuo Suponha uma função de classificação f: X V, onde cada instância x é descrita pelos atributos {a 1,, a n } O valor mais provável de f(x) é ) ( ) /,, ( argmax ),, ( ) ( ) /,, ( argmax ),, / ( argmax n 1 V v n 1 n 1 V v n 1 V v MAP v P v a a P a a P v P v a a P a a v P v

9 Classificador Bayesiano Ingênuo v MAP arg max P ( a v V 1,, a n / v ) P ( v ) Calcular P(v ) a partir dos dados de treinamento é fácil, o problema é calcular a probabilidade P(a 1,..., a n v ) Suposição Bayesiana Ingênua: ou sea, as variáves a 1,..., a n são independentes P ( a 1,, a n / v ) P( ai / v ) i Classificador Bayesiano Ingênuo (NB): v NB argmax v V P( v ) i P( a i / v )

10 Classificador Bayesiano Ingênuo Estimativa das Probabilidades P(v ) e P(a i /v ) através das freqüências relativas P (v ) e P (a i /v ) Para cada v P (v ) estimativa de P(v ) Para cada valor a i de cada atributo a P (a i /v ) estimativa de P(a i /v ) Classificador de novas instancias(x) v argmax P'( v ) P'( a / v ) NB v V a x i i

11 Classificador Bayesiano Ingênuo: Exemplo Dia Tempo Temp. Humid. Vento Jogar D1 Sol Quente Alta Fraco Não D2 Sol Quente Alta Forte Não D3 Coberto Quente Alta Fraco Sim D4 Chuva Normal Alta Fraco Sim D5 Chuva Frio Normal Fraco Não D6 Chuva Frio Normal Forte Não D7 Coberto Frio Normal Forte Sim D8 Sol Normal Alta Fraco Não D9 Sol Frio Normal Fraco Sim D10 Chuva Normal Normal Fraco Sim D11 Sol Frio Alta Forte? P(Sim) = 5/10 = 0.5 P(Não) = 5/10 = 0.5 P(Sol/Sim) = 1/5 = 0.2 P(Sol/Não) = 3/5 = 0.6 P(Frio/Sim) = 2/5 = 0.4 P(Frio/Não) = 2/5 = 0.4 P(Alta/Sim) = 2/5 = 0.4 P(Alta/Não) = 3/5 = 0.6 P(Forte/Sim) = 1/5 = 0.2 P(Forte/Não) = 2/5 = 0.4 P(Sim)P(Sol/Sim) P(Frio/Sim) P(Alta/Sim) P(Forte/Sim) = = P(Não)P(Sol/Não)P(Frio/Não) P(Alta/Não) P(Forte/Não) = = Jogar_Tenis (D11) = Não

12 Algoritmo Bayesiano Ingênuo: Dificuldades Suposição de independência condicional quase sempre violada, mas funciona surpreendentemente bem P ( a 1,, a n / v ) P( ai / v ) i O que acontece se nenhuma das instancias classificadas como v tiver o valor a i? P'(a i / v ) 0 P'(v ) i P'(a i / v ) 0

13 Algoritmo Bayesiano Ingênuo: Dificuldades Solução típica P'(a i / v ) n c m p n m n é o número de exemplos para os quais v = v n c número de exemplos para os quais v = v e a = a i p é a estimativa à priori para P (a i /v ) m é o peso dado à priori (número de exemplos virtuais )

14 Exemplo: Classificação de Documentos Classificar documentos em duas classes v = { interesse, nãointeresse} Variáveis a 1,..., a n são palavras de um vocabulário e P (a i /v ) é a freqüência com que a palavra a i aparece entre os documentos da classe v P (v ) = número de documentos da classe v número total de documentos

15 Exemplo: Classificação de Documentos P (a i /v ) = n i + 1 n + Vocabulário onde n é o número total de palavras nos documentos da classe v e n i é o número de ocorrências da palavra a i nos documentos da classe v. Usa-se m = Vocabulário e p = 1/ Vocabulário (assumindo que cada palavra tem a mesmo probabilidade de ocorrência)

16 Exemplo: Classificação de Documentos Classificação Final: v argmax P'( v ) P'( a / v ) NB v V a x i i Observação: nem sempre a ocorrência de uma palavra independe das outras palavras. Exemplo: Inteligência e Artificial.

17 Redes Bayesianas Representa 3 tipos de conhecimento do domínio: Relações de independência entre atributos (ou variáveis) Probabilidades a priori de alguns atributos Probabilidades condicionais entre atributos dependentes Permite calcular eficientemente: Probabilidades a posteriori de qualquer atributo (inferência) Conhecimento representado: Na estrutura da rede e nas distribuições de probabilidade das variáveis

18 Estrutura das Redes Bayesianas Uma Rede Bayesiana é um grafo acíclico onde: Cada nó da rede representa uma variável Um conunto de ligações ou arcos dirigidos conectam pares de nós Cada nó recebe arcos dos nós que tem influência direta sobre ele (nós pais). Cada nó possui uma tabela de probabilidade condicional que quantifica os efeitos que os pais têm sobre ele

19 Redes Bayesianas Tempestade Ônibus de Turismo Raio Fogo no Acampamento Trovão Fogo na floresta Distribuição de Probabilidade: P(FA/T,O) T,O T,O T, O T, O FA FA Fogo no Acampamento

20 Redes Bayesianas Representa a distribuição de probabilidade conunta entre todas as variáveis: P(y 1^...^y n ) Exemplo: P(Tempestade,, Fogo na Floresta)? Exemplo: P(Classe=C1 ^ Atrib1=10 ^ Atrib2=Yes)? Cálculo da probabilidade conunta: n P(y1,, yn ) P(yi / Predecessores(Y i)) i1 Onde Predecessores(Y i ) significa predecessores imediatos de Y i no grafo

21 Distribuição de Probabilidade Conunta Seam Y 1, Y 2,...Y n um conunto de variáveis. Evento atômico: uma especificação completa dos estados do domínio Y 1 = y 1,Y 2 = y 2,...,Y n = y n A distribuição de probabilidade conunta, P(Y 1,Y 2,...,Y n ), atribui probabilidades a todos os possíveis eventos atômicos

22 Exemplo: Probabilidade Conunta dor de dente dor de dente cárie cárie P(cárie ^ dor de dente)=? P(cárie)=? P(dor de dente)=? P(cárie/dor de dente)=?

23 Teorema da Multiplicação de Probabilidades P(y 1^...y n ) = P(y n / y 1^...y n-1 )... P(y 1^...y n-1 ) P(y 1^...y n ) = P(y n / y 1^...y n-1 )... P(y 2 / y 1 ) P(y 1 ) Esse resultado permite calcular a probabilidade de ocorrência simultânea de vários eventos a partir das probabilidades condicionais.

24 Independência Condicional Independência: P(A B) = P(A) Exemplo: A = dor de dente e B=úlcera Úlcera não causa dor de dente Independência condicional X e Y são independentes dado Z => P(X Y,Z) = P(X Z) Se o obetivo é saber a probabilidade de X então tanto faz o valor de Y se você á sabe o valor de Z Exemplo: Trovão é condicionalmente independente de Chuva, dado Relâmpago P(Trovão/ Chuva, Relâmpago) = P(Trovão/ Relâmpago)

25 Redes Bayesianas: Cálculo da Probabilidade Conunta Redes Bayesianas levam em consideração a Independência Condicional entre subconuntos de variáveis P(y 1^...y n ) = P(y n / y 1^...y n-1 )... P(y 2 / y 1 ) P(y 1 ) P(y n / Predecessores(Y n )) P(y 2 / Predecessores(Y 2 ) n P(y1,, yn ) P(yi / Predecessores(Y i)) i1

26 Exemplo Alarme (AIMA) P(R) 0,001 Roubo Terremoto P(T) 0,002 Alarme R T P(A) T T 0,95 T F 0,94 F T 0,29 F F 0,001 A P(J) T 0,90 F 0,05 JohnCalls MaryCalls A P(M) T 0,70 F 0,01

27 Exemplo Alarme (AIMA) Calcular a probabilidade do evento que o alarme toca mas não houve assalto nem terremoto e que João e Maria telefonaram. P(J M A ~R ~T) = P(J A) P(M A) P(A ~R ~T )P(~R)P(~T) = 0.9 x 0.7 x x x = ou %

28 Construção de Redes Bayesianas 1. Escolher um conunto de variáveis relevantes que descrevam o domínio 2. Ordem de inclusão dos nós na rede (a). causas como raízes da rede (b). variáveis que elas influenciam (c). folhas, que não influenciam diretamente nenhuma outra variável. 3. Enquanto houver variáveis a representar: (a). escolher uma variável X i e adicionar um nó para ela na rede (b). estabelecer Pais(X i ) dentre os nós que á estão na rede, satisfazendo a propriedade de dependência condicional (c). definir a tabela de probabilidade condicional para X i

29 Exemplo Alarme (AIMA) Ordem: R T A J M P(R) 0,001 Roubo Terremoto P(T) 0,002 Alarme R T P(A) T T 0,95 T F 0,94 F T 0,29 F F 0,001 A P(J) T 0,90 F 0,05 JohnCalls MaryCalls A P(M) T 0,70 F 0,01

30 Exemplo de Rede Bayesiana Não Puramente Causal Vamos usar o exemplo do alarme com a seguinte ordem de inserção dos nós: MaryCalls, JohnCalls, Alarme, Roubo e Terremoto. MaryCalls JohnCalls Alarme Roubo Terremoto

31 Exemplo de Rede Bayesiana Não Puramente Causal Problemas: A figura possui duas conexões a mais ulgamento não natural e difícil das probabilidades Tendo uma rede puramente causal, teríamos um número menor de conexões

32 Exercício: Construa uma rede para o problema abaixo Eu quero prever se minha esposa está em casa antes de eu abrir a porta. Eu sei que minha esposa liga a luz quando chega em casa mas às vezes ela também liga ao sair (se ela for retornar com alguma visita). Quando não tem ninguém em casa, ela solta o cachorro no quintal mas às vezes ela solta o cachorro quando ele está molhado. Quando o cachorro está solto, consigo ouvir o seu latido da rua mas as vezes o confundo com o cachorro da vizinha.

33 Aprendizagem de Redes Bayesianas Variantes da tarefa de aprendizagem A estrutura da rede pode ser conhecida ou desconhecida O conunto de treinamento pode fornecer valores para todas as variáveis da rede ou para somente algumas Se a estrutura é conhecida e todas as variáveis observadas Então é tão fácil como treinar um classificador Bayesiano ingênuo

34 Aprendizagem de Redes Bayesianas Suponha a estrutura conhecida e variáveis parcialmente observáveis Exemplo: Observa-se fogo na Floresta, Tempestade, Ônibus de turismo, mas não Raio, Fogo no Acampamento Aprende-se a tabela de probabilidades condicionais de cada nó usando o algoritmo do gradiente ascendente O sistema converge para a rede h que maximiza localmente ln (P(D/h))

35 Exemplo Tempestade Ônibus de Turismo Raio Fogo no Acampamento Trovão Fogo na floresta Distribuição de Probabilidade: P(FA/T,O) T,O T,O T, O T, O FA???? FA???? Fogo no Acampamento

36 Gradiente Ascendente para Redes Bayesianas Sea w ik uma entrada na tabela de probabilidade condicional para a variável Y i na rede w ik = P(Y i = y i /Predecessores(Y i ) = lista u ik de valores) Exemplo, se Y i = Fogo no Acampamento, então u ik pode ser {Tempestade = T, Ônibus de Turismo = O} Aplicar o gradiente ascendente repetidamente Atualizar todos os w ik usando os dados de treinamento D w ik w dd Normalizar os w ik para assegurar ik w ik 1 e 0 w ik 1 P h ( y i, u w ik ik / d)

37 Aprendizagem da Estrutura de Redes Bayesianas Métodos baseados em Busca e Pontuação Busca no espaço de estruturas Cálculo das tabelas de probabilidade para cada estrutura Definição da medida de avaliação (Pontuação) Ex.: Minimum Descrition Length (MDL) Operadores de busca (adição, remoção ou reversão de arcos da rede) Processo de busca prossegue enquanto a pontuação de uma rede for significativamente melhor que a anterior Ex: K2(Cooper e Herskovits, 1992)

38 Aprendizagem da Estrutura de Redes Bayesianas Métodos baseados em análise de dependência Arcos são adicionados ou removidos dependendo de um teste de independência condicional entre os nós Teste de independência pode ser feito entre pares de nós ou com um conuntos maior de variáveis condicionais Ex: CDL(Chen, Bell e Liu 1997)

39 Aprendizagem da Estrutura de Redes Bayesianas Métodos baseados em Busca e Pontuação Vantagem: Menor complexidade no tempo Desvantagem: Não garante encontrar melhor solução Métodos baseados em análise de dependência Vantagem: Sob certas condições, encontra a melhor solução Desvantagem: Teste de independência com uma quantidade muito grande de variáveis pode se tornar inviável

40 Aplicações de Redes Bayesianas PATHFINDER: diagnóstico de doenças que atacam os nodos linfáticos. (Russel&Norvig 1995) PAINULIM: diagnóstico de doenças neuromusculares: esearch.html Tutores inteligentes:

41 Aplicações de Redes Bayesianas Mais aplicações: Análise de proteínas Modelagem de Agentes Inteligentes Detecção de fraudes na indústria Robótica

42 Conclusões Possibilidade de trabalhar com domínios onde não há informação suficiente Raciocínio probabilístico trata o grau de incerteza associado à maioria dos domínios. Combina conhecimento a priori com dados observados O impacto do conhecimento a priori (quando correto) é a redução da amostra de dados necessários

43 Bibliografia Russel, S, & Norvig, P. (1995). Artificial Intelligence: a Modern Approach (AIMA) Prentice-Hall. Pages , Mitchell, T. & (1997): Machine Learning, McGraw- Hill. Cap.6 Fayyad et al. (1996): Advances in knowledge discovery and data mining, AAAI Press/MIT Press. Cap.11 Pearl, J. (1988) Probabilistic Reasoning in Inteligent Systems