Redes Bayesianas. Introdução. Teoria da Probabilidade. Manipulação de Conhecimento Incerto

Transcrição

1 Introdução M. Sc. Luiz Alberto As (RBs) são modelos gráficos que codificam relacionamentos probabilísticos entre variáveis de interesse As principais motivações para o estudo e uso de RBs para extração de conhecimento são: Aprendizado sobre relacionamento causais Manipulação efetiva de dados incompletos ombinação de conhecimento de fundo e o conhecimento embutido nos dados 1 Manipulação de onhecimento Incerto Problemas na manipulação de conhecimento incerto Dificuldade de manipular várias regras Ignorância teórica Ignorância prática O conhecimento de um agente sobre determinado domínio fornece apenas um grau de crença de uma sentença A principal ferramenta para manipular graus de crença é a teoria da probabilidade, a qual associa um grau numérico de crença entre 0 e 1 para as sentenças Teoria da Probabilidade A probabilidade fornece um meio de retratar a incerteza advinda da dificuldade de manipular várias regras e das ignorâncias teóricas e práticas Uma probabilidade 0 de uma dada sentença corresponde a inequívoca crença que ela é falsa. Enquanto que probabilidade 1 corresponde a inequívoca crença que ela é verdadeira Probabilidades entre 0 e 1 corresponde a um grau de crença intermediário de verdade da sentença 2 3

2 Teoria da Probabilidade (cont.) Toda declaração probabilística deve indicar a evidência que se refere a probabilidade que está sendo avaliada Quando um agente recebe novas percepções, sua avaliação probabilística deve ser atualizada para refletir as novas evidências Antes da evidência ser obtida, tem-se a probabilidade a priori ou incondicional Depois das evidências serem obtidas, tem-se a probabilidade a posteriori ou condicional Probabilidade a Priori Notação: A probabilidade a priori (), só deverá ser usada na ausência de outra evidência Ex: cárie) = significa que, como não há outra informação, a probabilidade de um paciente ter cárie é de 10% Outro exemplo: tempo tempo = chuvoso) = 0.28 tempo = ensolarado) = 0.7 tempo = frio) = 0.02 tempo) = (0.28, 0.7, 0.02) - distribuição probabilística 4 5 Probabilidade ondicional Notação: A B) Quando se tem alguma evidência no domínio da aplicação, a probabilidade condicional (A B)) representa a probabilidade de A dado que tudo que se conhece é B Ex: cárie dor_de_dente) = indica que se a única evidência é que o paciente tem dor de dente, então a probabilidade dele ter cárie será 0.8 A B,) A probabilidade a priori é um caso especial da probabilidade condicional - A ) Probabilidade ondicional (cont.) Probabilidade condicional pode ser definida em termos da probabilidade a priori. Denotada pela equação: A B) = A,B) que pode ser escrita: B) A,B) = A B) B) - regra do produto Para que A e B sejam verdadeiros é necessário B ser verdadeiro e então A ser verdadeiro dado B A regra do produto também pode ser escrita: A,B) = B 6 7

3 Regra de Bayes Dada as duas fórmulas da regra do produto: A,B) = A B) B) A,B) = B Igualando e dividindo as equações por, obtém-se: B = A B) B) Esta equação é conhecida como Regra de Bayes (Lei de Bayes ou Teorema de Bayes) que representa a base da maioria dos sistemas de IA para inferência probabilística Teorema de Bayes D / h) h) P ( h / D) = D) h): probabilidade a priori da hipótese h D): probabilidade a priori dos dados de treinamento D h/d): probabilidade de h dado D D/h): probabilidade de D dado h 8 Regra de Bayes (cont.) Um caso simples: diagnóstico médico Suponha que a meningite cause, em 50% dos casos, torcicolo em um paciente - T M) = 0.5 Suponha que a probabilidade de um paciente ter meningite - M) = 1/ E a probabilidade de um paciente ter torcicolo - T) = 1/20 Deseja saber M T)? M T) = T M)M) = 0.5 x 1/ = T) 1/20 Modelo de Representação Para se efetuar inferências probabilísticas entre as variáveis do domínio é necessário representar de alguma forma as relações entre essas variáveis Uma forma de representação é feita através da Distribuição de Probabilidade onjunta (DP) das variáveis de interesse => X 1,X 2,...,X n ) Ex: dor_de_dente ~dor_de_dente cárie 0,04 0,06 ~cárie 0,01 0,

4 Modelo de Representação (cont.) A representação via DP se torna inviável quando há um número elevado de variáveis a serem manipuladas Ex: para um domínio com 22 variáveis seria necessário especificar (no mínimo) 2 22 entradas (parâmetros) para a DP. As provêm uma representação concisa das dependências entre as variáveis do domínio e proporcionam uma eficiente especificação da DP Uma rede bayesiana é um grafo: 1) Que possui um conjunto de variáveis aleatórias que representam os nós da rede 2) Que possui um conjunto de setas que ligam dois nós. Se uma seta parte de um nó X para Y, diz-se que X influencia diretamente Y 3) No qual cada nó possui uma Tabela de Probabilidade ondicional (TP) quantificando a dependência em relação aos nós-pais 4) acíclico (cont.) Exemplo de uma rede bayesiana para detecção de fraude em compras com cartão de crédito: p(f=sim) = 0,0001 fraude (f) p(i =<30) = 0,25 p(30<i<50) = 0,40 p(s=masculino) = 0,5 idade (i) sexo (s) Aprendizado de O processo de aprendizado de RBs considera dois fatores: Aprendizado (construção) da estrutura Aprendizado das probabilidades condicionais p(g=sim f=sim) = 0,2 p(g=sim f=não) = 0,01 gasolina (g) jóias (j) p(j=sim f=sim, i=*, s=*) = 0,05 p(j=sim f=não, i<30,s=masculino) = 0,0001 p(j=sim f=não, 30<i<50,s=masculino) = 0,0004 p(j=sim f=não, i>=50,s=masculino) = 0,0002 p(j=sim f=não, i=<30,s=feminino) = 0,0005 p(j=sim f=não, 30<i<50,s=feminino) = 0,0002 p(j=sim f=não, i>=50,s=feminino) = 0,

5 Aprendizado de (cont.) Inferência em Dados + onhecimento de Fundo Indutor B E A D B E A B,E) e b 0,90 0,10 e ~b 0,70 0,30 ~e b 0,72 0,28 ~e ~b 0,99 0,01 A tarefa básica de um sistema de inferência probabilística é computar a distribuição da probabilidade condicional para um conjunto de variáveis de consulta, dado os valores de um conjunto de variáveis de evidência. variável_consulta variável_evidência) Ex: Qual a probabilidade de haver fraude (consulta) dado sexo masculino e que houve compra de jóias (evidências) f = sim s = masculino, j = sim) Exemplo de Inferência em Exemplo de Inferência em Aplicando o Teorema de Bayes: B = B A^B) + B ~ ~ 18 19

6 Exemplo de Inferência em Para calcularmos a inferência anterior, é necessário calcularmos as probabilidades a partir da distribuição de probabilidade conjunta das variáveis que compõem esta inferência e considerando a independência condicional. Por exemplo: cálculo de R ^ T ^ ~S) Tipos de Inferência em Redes Bayesianas Exemplo simples de uma rede bayesiana: sistema de alarme contra arrombamento residencial (Los Angeles) Arrombamento Viz1-chama ARR) T) 0,001 0,002 Alarme Terremoto Viz2-chama A T F V1) 0,90 0,05 ARR T T T 0,95 T F 0,94 F T 0,29 F F 0,001 A T F V2) 0,70 0,01 Da topologia da rede Roubos e terremotos afetam diretamente a probabilidade do alarme tocar; Mas o fato de Joao e Maria telefonarem só depende do alarme; Desse modo, a rede representa nossas suposições de que eles não percebem quaisquer roubos diretamente, não notam os terremotos e não verificam antes de ligar! Tipos de Inferência em Redes Bayesianas (cont.) Inferência por Diagnóstico (de efeito para causas) Ex.: Arrombamento Viz1chama) Inferência ausal (de causas para efeitos) Ex.: Viz1chama Arrombamento) 23

7 Tipos de Inferência em Redes Bayesianas (cont.) Inferência Intercausal (entre causas de um efeito comum) Ex.: Arrombamento Alarme,Terremoto) Inferências Associadas (combina 2 ou mais inferências já citadas) Ex. 1: Uso simultâneo de inferência por diagnóstico e causal: Alarme Viz1chama,~Terremoto) Ex. 2: Uso simultâneo de inferência intercausal e por diagnóstico: Arrombamento viz1chama,terremoto) Tipos de Inferência em (cont.) é uma variável de consulta e E uma variável de evidência E E E E Diagnóstico ausal Intercausal Associados E onsiderações Finais As RBs representam eficientemente as distribuições de probabilidades via independência condicional As RBs oferecem: Mecanismo de manipulação de bases de dados incompletas Representação e aprendizado via relacionamento causal Facilitam a combinação do conhecimento do domínio (ou a priori) e o conhecimento embutido nos dados Aspectos Qualitativos Independência condicional (causalidade) onsiderações Finais (cont.) Grafo acíclico nós: variáveis randômicas (estados mutuamente exclusivos e coletivamente exaustivos) setas: influência direta (causal) B E A D B E A B,E) e b 0,90 0,10 e ~b 0,70 0,30 ~e b 0,72 0,28 ~e ~b 0,99 0,01 + Aspectos Quantitativos = Tabelas de Probabilidades ondicionais Distribuição de Probabilidade onjunta 26 27

8 onsiderações Finais (cont.) Aprendizado de Objetos não são associados para classes absolutamente Todos os atributos são potencialmente relevantes Geralmente requerem o conhecimento prévio de muitas probabilidades Inferência Bayesiana Auxilia o processo de tomada de decisões baseadas em probabilidades da rede, quantificando, em termos probabilísticos, os efeitos de determinados eventos. Realiza análises sensitivas para entender qual aspecto do modelo tem maior impacto nas probabilidades das variáveis de consulta Resumo são representações explícitas de independência condicional Topologia + TPs = representações compactas de distribuições conjuntas totais Ferramentas poderosas para construir uma representação de um domínio que envolva incerteza. 28