IA: Tratamento de Incertezas - Probabilidades

Transcrição

1 IA: - Probabilidades Professor: Paulo Gurgel Pinheiro MC906A - Inteligência Articial Instituto de Computação Universidade Estadual de Campinas - UNICAMP 14 de Setembro de / 62

2 pinheiro/ [MC906] 2 / 62

3 O que vamos aprender hoje? O que vamos aprender hoje? 1 s 2 Tratamento de incertezas 3 Probabilidade prévia 4 Probabilidade condicional 5 Axiomas da probabilidade 6 Inferência sobre probabilidades 7 3 / 62

4 Teoria da Utilidade Teoria da decisão Princípio da Utilidade Máxima Esperada Funções de utilidade 4 / 62

5 Teoria da Utilidade Teoria da decisão Princípio da Utilidade Máxima Esperada Funções de utilidade s Nem sempre temos toda a verdade sobre o ambiente Parte do mundo de um agente pode não ser observável E a outra parte supostamente observável pode sofrer interferências (sensores) Quanto mais complexo o mundo, mais incerto ele pode ser para um agente. 5 / 62

6 Teoria da Utilidade Teoria da decisão Princípio da Utilidade Máxima Esperada Funções de utilidade Agindo com incertezas "Imagine que um agente queira embarcar em um vôo e esteja considerando o plano A 90, que envolve sair de casa 90 minutos antes do vôo e dirigir a uma velocidade razoável." Embora o aeroporto que a 15 km de sua casa O agente não concluirá com certeza que chegará a tempo Ele conclui que chegará a tempo desde que o carro não quebre ou não lhe falte combustível, que não se envolva em algum acidente ou o avião saia mais cedo que o previsto. 6 / 62

7 Teoria da Utilidade Teoria da decisão Princípio da Utilidade Máxima Esperada Funções de utilidade Agindo com incertezas Supondo que A 90 seja a alternativa correta a se escolher, então signica que está maximiza a medida de desempenho do agente, dadas as informações que ele tem sobre o ambiente. Medida de desempenho: Chegar no aeroporto a tempo Evitar longa espera no aeroporto Evitar multas de trânsito por excesso de velocidade As informações que o agente tem não podem garantir esses resultados para A 90 Mas podem fornecer um grau de crença de que esses resultados serão alcançados. 7 / 62

8 Teoria da Utilidade Teoria da decisão Princípio da Utilidade Máxima Esperada Funções de utilidade Agindo com incertezas E um plano A 120? Sim, aumentaria a crença do agente de chegar a tempo no aeroporto Mas também aumentaria a probabilidade de uma longa espera. Então, qual seria a decisão racional? Supondo que A 90 tenha uma chance de sucesso de 95%, essa seria uma decisão racional? 8 / 62

9 Teoria da Utilidade Teoria da decisão Princípio da Utilidade Máxima Esperada Funções de utilidade Agindo com incertezas Se for vital não perder o vôo, vale a pena arriscar uma espera maior. Então, que tal um plano A 1440 (24 horas antes)? Garante chegar a tempo, mas gera uma espera intolerável. Nem sempre o resultado é composto somente da meta e sim, também de preferências. Preferências Teoria da utilidade 9 / 62

10 Teoria da Utilidade Teoria da decisão Princípio da Utilidade Máxima Esperada Funções de utilidade Teoria da Utilidade e Teoria da Decisão 10 / 62

11 Teoria da Utilidade Teoria da decisão Princípio da Utilidade Máxima Esperada Funções de utilidade Teoria da Utilidade Utilizaremos a teoria da utilidade para raciocinar com preferências Teoria da utilidade: Todo estado possui um grau de utilidade Agentes preferem estados com utilidade mais alta. No exemplo, o grau de utilidade é denido pelas preferências. "Não existe uma maneira mais correta que outra de medir gostos ou preferências." 11 / 62

12 Teoria da Utilidade Teoria da decisão Princípio da Utilidade Máxima Esperada Funções de utilidade Teoria da Decisão Então até agora temos: Uma probabilidade (uma crença) de se atingir uma meta. Uma utilidade para cada estado orientada as preferências. Teoria da Decisão: Preferências expressas em utilidade são combinadas com probabilidade: Teoria da decisão = teoria da probabilidade + Teoria da utilidade. 12 / 62

13 Teoria da Utilidade Teoria da decisão Princípio da Utilidade Máxima Esperada Funções de utilidade Princípio da Utilidade Máxima Esperada 13 / 62

14 Teoria da Utilidade Teoria da decisão Princípio da Utilidade Máxima Esperada Funções de utilidade Princípio da Utilidade Máxima Esperada Princípio da Utilidade Máxima Esperada Um agente é racional se e somente se escolhe a ação que resulta na mais alta utilidade esperada, calculada como a média sobre todos os resultados possíveis da ação. 14 / 62

15 Teoria da Utilidade Teoria da decisão Princípio da Utilidade Máxima Esperada Funções de utilidade Princípio da Utilidade Máxima Esperada O que está por trás da UME: Conhecimento do estado inicial do ambiente (E) Denição de um modelo causal completo do ambiente e atualização das redes de crença para calcular: P(resultado i (A) E, executa(a)) Que é a probabilidade associada a cada resultado da ação A. Buscar valor da utilidade associada a cada estado para determinar U(resultado i (A)) Utilidade esperada (EU): EU(A E) = P(resultadoi (A) E, executa(a)).u(resultado i (A)) 15 / 62

16 Teoria da Utilidade Teoria da decisão Princípio da Utilidade Máxima Esperada Funções de utilidade Um pouco de formalismo Notação para descrever preferências: A B : A é preferido em relação a B A B: O agente é indiferente em relação A e B Princípio da utilidade U(A)>U(B) A B U(A)=U(B) A B 16 / 62

17 Teoria da Utilidade Teoria da decisão Princípio da Utilidade Máxima Esperada Funções de utilidade Funções de utilidade Qualquer coisa pode ser função de utilidade: Prero ter número primos na minha conta bancária Prero ter um avião à um carro Prero comida fria à quente. Dinheiro é uma boa função de utilidade? Na verdade,não... Imagine um jogo de prêmios de um programa de televisão Você está com um prêmio de 1Mi. Pode levar ou arriscar ganhar 3Mi numa prova que você tem 50% de chance de ganhar os 3Mi e 50% de chances de perder tudo... O que você faz? 17 / 62

18 Teoria da Utilidade Teoria da decisão Princípio da Utilidade Máxima Esperada Funções de utilidade Funções de utilidade Jogo de prêmios de um programa de televisão A maioria vai embora com 1Mi Mas a utilidade de arriscar é 0.5 x $ x $3Mi = 1.5 Mi (EMV) Estamos sendo irracionais? Em geral, o ser humano é avesso a riscos Certainty Equivalent: valor certo que você aceita no lugar do risco Na verdade, uma melhor função de utilidade consideraria o dinheiro que você já tem. Pessoas ricas arriscam mais, porque não se importam em perder. Isso também vale para pessoas desesperadas. 18 / 62

19 Probabilidades Variáveis aleatórias Eventos atômicos 19 / 62

20 Probabilidades Variáveis aleatórias Eventos atômicos não pode ser tratada com lógica de primeira ordem. Não necessariamente sabemos todos os antecedentes de uma regra (ou mesmo seus valores) Não necessariamente todos os antecedentes devem ser satisfeitos Subgrupos já seriam o suciente. Consequentes diferentes podem compartilhar vários antecedentes. Exemplo: diagnóstico de doenças. 20 / 62

21 Probabilidades Variáveis aleatórias Eventos atômicos Vamos tentar utilizar lógica de primeira ordem, considerando a seguinte regra: p Sintoma(paciente, DorDeDente) Doença(paciente, Cárie) Regra errada: pois nem todos os pacientes com dores de dentes têm cáries. Podem sofrer de outros males: p Sintoma(p, DorDeDente) Doença(p, Cárie) Doença(p, Gengivite) Doença(p, Abscesso)... A m de tornar a regra verdadeira, tentamos adicionar uma lista quase ilimitada de causas possíveis. p Doença(p, Cárie) Sintoma(p, DorDeDente) Regra errada: nem todas as cáries causam dor. 21 / 62

22 Probabilidades Variáveis aleatórias Eventos atômicos Utilizar lógica de primeira ordem para este caso é uma abordagem falha por três motivos: Preguiça: Listar o conjunto completo de antecedentes ou consequentes necessários para assegurar uma regra sem exceções é muito trabalhoso. Ignorância teórica: A ciência, no caso, médica, não tem nenhuma teoria completa para o domínio. Ignorância prática: Mesmo que todas as regras fossem conhecidas, poderiamos estar inseguros quanto ao estado do paciente. 22 / 62

23 Probabilidades Variáveis aleatórias Eventos atômicos Então, como tratar? Probabildade Associe a cada sentença um grau de certeza numérico (sua probabilidade), entre 0 e 1. Ex: Podemos não saber o que aige o paciente, mas cremos ter uma chance de 80%(0.8) de ser gripe (A cada 100 pacientes com esse mesmo tipo de reclamação teriamos 80 deles com gripe). 23 / 62

24 Probabilidades Variáveis aleatórias Eventos atômicos Probabilidade Probabilidade 0 - Corresponde a uma crença inequívoca de que a sentença é FALSA. Probabilidade 1 - Corresponde a uma crença inequívoca de que a sentença é VERDADEIRA. Outras probabilidades correspondem a graus intermediários de crença na veracidade da sentença. Note que a sentença por si só, ou é verdadeira ou falsa. O que varia é a nossa crença nisso. Grau de veracidade (em oposição a de crença) é tratado pela lógica difusa, não pela probabilidade. 24 / 62

25 Probabilidades Variáveis aleatórias Eventos atômicos Elementos das Probabilidade Proposições: Os graus de crenças serão aplicados nas proposições. Variáveis aleatórias: Parte do mundo cujo status é inicialmente desconhecido. Gripe pode se referir ao fato de eu ter ou não gripe. Toda variável tem um domínio Ex: Domínio de cárie pode ser <verdadeiro, falso> Eventos Atômicos 25 / 62

26 Probabilidades Variáveis aleatórias Eventos atômicos Variáveis aleatórias Variáveis aleatórias booleanas: Domínio <verdadeiro, falso> Variáveis aleatórias discretas: Admitem valores de um domínio enumerável Ex. Questão: <corretíssima, correta, errada, erradíssima> Seus valores são mutuamente exclusivos. Valores exaustivos (todas as possibilidades) Incluem as booleanas como caso especial Variáveis aleatórias contínuas Admitem valores a partir dos números reais 26 / 62

27 Probabilidades Variáveis aleatórias Eventos atômicos Eventos atômicos Eventos atômicos Especicação completa do estado do mundo sobre o qual estamos incertos. Pode ser considerado uma atribuição de valores especícos a todas as variáveis das quais o mundo é formado. Exemplo: Se o meu mundo é formado pelas variáveis gripe e alergia, então existem 4 eventos atômicos distintos: Eventos atômicos: gripe = verdadeiro alergia = falso gripe = verdadeiro alergia = verdadeiro gripe = falso alergia = falso gripe = falso alergia = verdadeiro 27 / 62

28 Probabilidades Variáveis aleatórias Eventos atômicos Eventos atômicos - Propriedades Mutuamente exclusivos No máximo um pode valer Exemplo: Exaustivos: gripe = verdadeiro alergia = falso gripe = verdadeiro alergia = verdadeiro Ambos não podem acontecer ao mesmo tempo Pelo menos um deve valer (já que cobrem todas as possibilidades) um entre eles deve ser verdadeiro 28 / 62

29 Probabilidade prévia ou incondicional 29 / 62

30 Crença antes da evidência ser obtida Grau de crença na ausência de qualquer outra informação Deve ser usada somente quando não houver outra informação disponível Exemplo: Se de antemão creio que a probabilidade de ter gripe é de 0,1, então P(gripe) = 0,1. 30 / 62

31 Se queremos nos referir a probabilidade de todos os valores possíveis: Exemplo: Considere os 4 possíveis valores da variável aleatória clima: P(clima=ensolarado)=0.7 P(clima=chuvoso)=0.2 P(clima=nublado)=0.08 P(clima=nevando)=0.02 Podemos escrever um vetor de valores para as probabilidades de cada estado individual da variável P(clima) = <0.7, 0.2, 0.08, 0.02> Distribuição de probabilidades. 31 / 62

32 Mas de onde vem essa certeza prévia? Pode vir de nossa intuição Pode advir de experiência passada Ex. De todos os casos já vistos, 80% deles eram de gripe. 32 / 62

33 Exemplo Probabilidade posterior Axiomas da probabilidade Exemplo inferência Probabilidade posterior ou condicional 33 / 62

34 Exemplo Probabilidade posterior Axiomas da probabilidade Exemplo inferência Crença após a evidência ser obtida Reete a crença dada a nova evidência P(variável evidência) ou P(efeito causa) Probabilidade da variável dado que conhecemos a evidência P(gripe febre)=0.8 De todos os casos que observamos febre (sem levar em conta qualquer outra coisa), 80% eram de pessoas com gripe. Após coletada a evidência, a probabilidade prévia não é mais aplicada. 34 / 62

35 Exemplo Probabilidade posterior Axiomas da probabilidade Exemplo inferência Como calcular a probabilidade posterior? Suponha o seguinte universo P(febre) = casosfebre casosdoenca P(febre gripe) = casosfebre&gripe casosdoenca 35 / 62

36 Exemplo Probabilidade posterior Axiomas da probabilidade Exemplo inferência Número total de casos com febre = P(febre) x Número total de casos de Doença Número de casos com febre e gripe = P(febre gripe) x Número total de casos de Doença P(gripe febre) = = casosfebre&gripe casosfebre P(gripe febre) = P(febre gripe)xtotaldoenca P(febre)xtotalDoenca P(gripe febre) = P(febre gripe) P(febre) 36 / 62

37 Exemplo Probabilidade posterior Axiomas da probabilidade Exemplo inferência P(a b) P(a b)= P(b) Vale toda vez que P(b) 0 P(a b) = P(a b)p(b) ou P(a b) = P(b a)p(a) Regra do produto Para que a e b sejam verdade, precisamos que b seja verdade e que, a seja verdade, dado que b é verdade. 37 / 62

38 Exemplo Probabilidade posterior Axiomas da probabilidade Exemplo inferência Exemplo Baralho de 52 cartas Retiramos uma carta P(ás de espada) antes de olharmos a carta? P(ás de espada) = Qtd_Ases_Espada Qtd_Cartas = 1 52 P(ás de espada) depois de olharmos a carta? Se era ás de espada = 1 P(as as) = P(as as) P(as) Se não era ás de espada = 0 P(as as) = P(as as) P(as) = P(as) P(as) 38 / 62

39 Exemplo Probabilidade posterior Axiomas da probabilidade Exemplo inferência Axiomas da probabilidade Axiomas da probabilidade Probabilidade estão entre 0 e 1 0 P(a) 1 Proposições necessariamente verdadeiras têm P(verdadeiro)=1 e falsas P(falso)=0 A probabilidade da disjunção é dada por: P(a b) = P(a)+P(b)-P(a b) Toda distribuição de probabilidade em uma única variável deve somar 1 Eventos podem ser independentes. 39 / 62

40 Exemplo Probabilidade posterior Axiomas da probabilidade Exemplo inferência Axiomas da probabilidade Disjunção revista Primeira aproximação: P(gripe febre) = Casos_gripe+Casos_febre total_casos Problema: Contamos duas vezes a intersecção dos conjuntos (gripe febre). 40 / 62

41 Exemplo Probabilidade posterior Axiomas da probabilidade Exemplo inferência Axiomas da probabilidade Independência Eventos independentes A ocorrência de um não afeta a ocorrência de outro P(A B) = P(A), se A e B forem independentes. P(B A) = P(B) P(A B)= P(B A)P(A) = P(B)P(A) Independência condicional Ocorre quando duas variáveis possuem a mesma causa, porém não afetam uma a outra diretamente. P(X,Y Z) = P(X Z)P(Y Z) X e Y são condicionalmente dependentes, dada Z. 41 / 62

42 Exemplo Probabilidade posterior Axiomas da probabilidade Exemplo inferência Resolvendo problemas Estrutura geral de um problema Domínio de área Em que área está inserido o problema? Variáveis e domínios das variáveis Variáveis do problema com seus domínios Distribuição conjunta completa de probabilidades. Envolve o conjunto completo de variáveis Todas as variáveis do domínio Especica a probabilidade de cada evento atômico Exemplo: P(clima, gripe) P(Gripe, alergia, clima) - tabela de 2 x 2 x 4 42 / 62

43 Exemplo Probabilidade posterior Axiomas da probabilidade Exemplo inferência Exemplo de uma inferência 43 / 62

44 Exemplo Probabilidade posterior Axiomas da probabilidade Exemplo inferência Exemplo de uma inferência Domínio: Odontologia Variáveis: Cárie: sim, não Dor de dente: sim, não Broca prendendo no dente: sim, não Distribuição conjunta: 44 / 62

45 Exemplo Probabilidade posterior Axiomas da probabilidade Exemplo inferência Exemplo de uma inferência Observações: A soma das probabilidades é 1 Cálculo das probabilidades de uma proposição Identique os eventos atômicos nos quais a proposição é verdadeira Adicione suas probabilidades Exemplo: P(cárie dor) = = / 62

46 Exemplo Probabilidade posterior Axiomas da probabilidade Exemplo inferência Exemplo de uma inferência Cálculo das probabilidades de uma proposição Pode-se extrair a distribuição de uma única variável. Exemplo: P(cárie) = = / 62

47 Exemplo Probabilidade posterior Axiomas da probabilidade Exemplo inferência Exemplo de uma inferência Cálculo das probabilidades condicionais Exemplo: Vericar a probabilidade de haver cárie, dada uma dor de dente P(cárie dor) = P(cárie dor) = P(carie dor) P(dor) = / 62

48 Exemplo Probabilidade posterior Axiomas da probabilidade Exemplo inferência Exemplo de uma inferência Cálculo das probabilidades condicionais Exemplo: Vericar a probabilidade de não haver nenhuma cárie, dada uma dor de dente P( cárie dor) = P(cárie dor) = P( carie dor) P(dor) = / 62

49 Exemplo Probabilidade posterior Axiomas da probabilidade Exemplo inferência Até agora / 62

50 Exemplo Probabilidade posterior Axiomas da probabilidade Exemplo inferência Até agora vimos... O que foi visto: Nem sempre temos toda a verdade sobre o ambiente Parte do mundo de um agente pode não ser observável Então existe uma probabilidade de dar certo ou não Queremos sempre o plano que dê certo, mas que seja tolerável. Todo estado possui um grau de utilidade Agentes preferem estados com utilidade mais alta. Utilidade Máxima Esperada 50 / 62

51 Exemplo Probabilidade posterior Axiomas da probabilidade Exemplo inferência Até agora vimos... O que foi visto: não pode ser tratada somente com lógica de primeira ordem. Não necessariamente sabemos todos os antecedentes de uma regra (ou mesmo seus valores) Não necessariamente todos os antecedentes devem ser satisfeitos Então, como tratar? Probabilidade 51 / 62

52 Exemplo Probabilidade posterior Axiomas da probabilidade Exemplo inferência Até agora vimos... O que foi visto: P(a)=0.1 Distribuição de probabilidades (P(clima) = <0.7, 0.2, 0.008, 0.002>) P(a b) = P(a b) P(b) P(a b) = P(a b) P(b) P(b a) = P(b a) P(a) 52 / 62

53 53 / 62

54 Dada a regra do produto com a comutatividade da conjunção: P(a b) = P(a b) P(b) P(b a) = P(b a) P(a) Igualando os dois membros da direita e dividindo por P(a), temos: P(a b)p(b) P(b a) = P(a) 54 / 62

55 Aplicando a P(b a) = P(a b)p(b) P(a) Exige três termos: É útil? uma probabilidade condicional duas probabilidades incondicionais Na prática existem boas estimativas para os três termos mas temos que achar uma probabilidade condicional não tão trivial. 55 / 62

56 Aplicando a Exemplo 01 - Meningite: "Sabe-se que meningite faz com que o paciente tenha rigidez no pescoço em 50% dos casos. Sabem-se também alguns fatos incondicionais:" "A probabilidade a priori de um paciente ter meningite(m) é de 1/ " "E a probabilidade a priori de qualquer paciente ter uma rigidez no pescoço (s) é de 1/20." 56 / 62

57 Aplicando a Exemplo 01 - Meningite (Cont.): P(s m)=0.5 P(m) = 1/ P(s) = 1/20 P(s m)p(m) P(m s) = P(s) P(m s) = 0.5x1/ = /20 Boa para ser aplicada quando a probabilidade condicional está disponível em um sentido, mas não em outro. 57 / 62

58 Aplicando a Exemplo 02 - Câncer 1% das mulheres na idade de 40 anos que fazem exames de rotina têm câncer de mama. 80% das mulheres com câncer de mama terão mamogramas positivos para câncer. 9.6% das mulheres sem câncer de mama também terão mamogramas positivos. Uma mulher de 40 anos teve um mamograma positivo em um exame de rotina. Qual a probabilidade dela efetivamente ter câncer de mama? 58 / 62

59 Aplicando a Exemplo 02 - Câncer (Cont.) P(positivo cancer)p(cancer) P(cancer positivo) = P(positivo) O que temos: P(positivo cancer) = 0.8 P(cancer) = 0.01 P(positivo) =? 59 / 62

60 Aplicando a Lembre que a probabilidade de um efeito (positivo) é obtida somando-se as probabilidades de sua ocorrência em conjunto com suas causas. Efeito: mamograma positivo Causa: ter ou não câncer. P(positivo) = P(positivo cancer) + P(positivo cancer) P(positivo cancer) = P(positivo cancer)p(cancer) P(positivo cancer) = 0.8x0.01 = P(positivo cancer) = P(positivo cancer)(1-p(cancer)) P(positivo cancer) = 9.6% x (1-0.01) = / 62

61 Aplicando a P(positivo) = P(positivo cancer) + P(positivo cancer) P(positivo) = = P(positivo cancer)p(cancer) P(cancer positivo) = P(positivo) P(positivo cancer) = P(cancer) = 0.01 P(cancer positivo) = 0.8x = 7.76% 61 / 62

62 Paulo Pinheiro 62 / 62