Processos Estocásticos Luiz Affonso Guedes
Sumário Probabilidade Variáveis Aleatórias Funções de Uma Variável Aleatória Funções de Várias Variáveis Aleatórias Momentos e Estatística Condicional Teorema do Limite Central Processos Estocásticos Análise Espectral Filtragem e Predição Estocástica Processos Markovianos
Probabilidade Definições de probabilidade Freqüência relativa Axiomas da probabilidade Métodos de Contagem Probabilidade Condicional Teorema de bayes
Introdução Fenômenos Determinísticos Conhecidos com certeza Não sujeitos às leis do acaso Ex.: o ano atual, idade de uma pessoa jovem Fenômenos Probabilísticos Não conhecidos com certeza Sujeitos às leis do acaso Ex.: face de um dado, se vai chover amanhã, se o Remo vai ser campeão
Introdução Experimentos que ao serem repetidos nas mesmas condições não produzem o mesmo resultado são denominados de experimentos aleatórios. Mas por quê isto ocorre? Entradas/causas observadas Entradas/causas observadas Experimento Saídas/efeitos observados
Espaço Amostral Definiremos Espaço Amostral (S) associado a um experimento o conjunto de seus resultados possíveis. Conjunto de todos os resultados possíveis de ocorrer. Pode ser discreto (finito ou infinito) ou contínuo.
Exemplos de Espaço Amostral Exemplo1: Experimento de lançamento de um dado. O espaço amostral do experimento é o conjunto S = {1,2,3,4,5,6}. Exemplo2: Experimento de lançamento de dois dados simultaneamente. O espaço amostral do experimento é o conjunto S(primeira face, segunda face) = {????}
Exemplos de Espaço Amostral Exemplo3: Experimento de obtenção do tempo de vida de uma lâmpada. O espaço amostral do experimento é o conjunto S = {x: x real, x>0}. Processo estocástico é uma seqüência de experimentos, no qual cada um tem um número finito de resultados, com uma dada atribuição de probabilidade
Exemplos de Processos Estocásticos Processo estocástico do exemplo1. Processo estocástico do exemplo3. Como um fabricante deve calcular o tempo de garantia de um produto seu. Uma TV, por exemplo?
Eventos São qualquer subconjunto de um Espaço Amostral. Os eventos podem ser simples ou compostos S evento certo Ø evento vazio (impossível)
Exemplos de Eventos Exemplo1: Dar um número par Dar um número maior que 4 Dar um número entre 1 e 6 Exemplo2: A soma dos resultados seja igual a 4 Que a soma dos resultados seja par
Operações entre Eventos União: A U B Se ocorrer pelo menos um dos eventos Interseção: A B Se ocorrer ambos os eventos Complementar: A c É o evento que ocorre quando A não ocorrer. A B
Exemplos de Operações com Eventos Uma urna contém bolas de um a quinze. Uma bola é retirada da urna e seu número anotado. Sejam A e B os seguintes eventos: A: o número da bola retirada é par, B: o número da bola retirada é múltiplo de 3. Determine: S,A, B, AUB, A B e A c
Operações entre Eventos Implicação: A B, A implica em B. Igualdade: A B e A B A = B. Mutuamente exclusivo: A B = Ø Se a união de n eventos mutuamente exclusivos é o próprio S, dizemos que tais eventos são mutuamente exclusivos e exaustivos, ou formam uma partição em S. Exemplos em diagrama de Venn
Propriedades das Operações entre Eventos 1. (AUB) C = (A C) U (B C) 2. (A B) U C = (A U C) (B U C) 3. (A U B) c = A c B c 4. (A B) c = A c U B c A B A B C C
Probabilidade Vem da idéia de mensurar eventos aleatórios. Procedimento de cálculo de propriedades de eventos aleatórios Número que reflita as chances de ocorrência de um evento aleatório.
Probabilidade: definição clássica Dado um espaço amostral S com N eventos igualmente possíveis. Se A é um evento em S composto de m eventos simples, a probabilidade de ocorrência de um evento A num experimento é calculada por: P(A) = m / N É a razão entre os eventos desejáveis dentre o universo dos possíveis.
Probabilidade: definição clássica Conseqüências: 1. P(A) = 0, para todo A S; 2. Se A e B são eventos mutuamente exclusivos, então: - P(AUB) = P(A) + P(B) 3. P(S) = 1 4. P(AUB) = P(A) + P(B) P(A B)
Probabilidade: definição freqüentista Repetir um experimento sob as mesmas circunstâncias. A probabilidade de ocorrência de um evento A seria: P(A) = lim M/ N N M é o número de ocorrência do evento A N é o número total de experimentos.
Probabilidade: definição subjetiva Quando não a possibilidade de se aplicar os conceitos clássicos e freqüentista de probabilidade: Baseia-se em opinião sobre ocorrência de um evento. Probabilidade do resultado de um jogo. Probabilidade de haver aula.
Probabilidade: definição axiomática Supõe as seguintes verdades absolutas: Dado um espaço amostral S e eventos A e B, tem-se. 1. P(A) 0; 2. P(S) = 1; 3. Se A e B são mutuamente exclusivos, P(A+B) = P(A) + P(B)
Propriedades da Probabilidade 1. P(Ø) = 0 2. P(S) = 1 3. P(A U B U C) = P(A) + P(B) + P(C), se A, B e C são mutuamente exclusivos. 4. P(A c ) = 1 P(A) 5. P(AUB) = P(A) + P(B) P(A B) 6. Se A B P(A) P(B) 7. P(AUB) = P(A) + P(A C B)
Métodos de Contagem Para se calcular a probabilidade de um evento é necessário saber sua proporção dentro do universo dos eventos possíveis S A P(A) =??? Supondo eventos equiprováveis
Princípio Fundamental da Contagem Se uma tarefa é completada em N etapas seqüenciais, com n i possibilidade em cada etapa. Então, o número total de maneiras de realizar a tarefa é: Número Total = n 1 x n 2 x... n N??? Etapa 1 Etapa 2 Etapa 3
Tipos de Experimentos Com reposição ou sem reposição de amostras Elementos das amostras podem ser ordenados ou não ordenados
Tipos de Experimentos Experimento sem reposição ordenado: Dada uma turma de N alunos, escolher 01 presidente, 01 tesoureiro e 01 secretário. Arranjo Experimento sem reposição não ordenado: Dada uma turma de N alunos, escolher 03 representantes. Combinação
Tipos de Experimentos Cálculo de experimento sem reposição ordenado: Ordenar n amostras de um conjunto de N elementos, sem reposição. (N) n = N (N-1)... (N-n+1) = N! / (N-n)! Escolher 01 goleiro e 01 centroavante entre 8 jogadores. Escolher 01 presidente, 01 tesoureiro, 01secretário numa turma de 15 formandos.
Tipos de Experimentos Cálculo de experimento com reposição ordenado: Ordenar n amostras de um conjunto de N elementos, com reposição. N n= N N... N (já que há reposição) Escolher 01 goleiro e 01 capitão dentre 11 jogadores. Escolher 01 presidente e 01 tesoureiro dentre 15 alunos, sendo que há a possibilidade de se acumular os cargos.
Tipos de Experimentos A probabilidade é o razão entre os eventos desejados e os possíveis: Qual é a probabilidade de se lançar um dado 03 vezes e não ocorrer repetição de números? Na maternidade Parto Feliz nasceram 05 crianças numa determinada semana. Qual era a probabilidade de todas as crianças terem nascido em dias distintos? P(A) = (N) n / N n
Tipos de Experimentos Permutação Se N = n P n = n! (n) n = n (n-1)... (n-n+1) Quantas palavras de 03 letras não repetidas posso formar com o seguinte conjunto de letras? L = {A, I, B}
Tipos de Experimentos Experimento sem reposição não ordenado: Combinação de N elementos n a n. Dada uma turma de N alunos, escolher 03 representantes. Há menos possibilidades do que no caso ordenado, certo? C N,n = (N) n / P n = N!/(n! (N-n)!) (analisar!!!)
Tipos de Experimentos Experimento sem reposição não ordenado: C N,n = (N) n / P n = N!/(n! (N-n)!) 8 times participam de um torneio de futebol. Cada equipe enfrenta todas as demais apenas uma vez. Quantos jogos serão realizados? E se houver jogos de ida e de volta? Escolher 03 pessoas num grupo de 10.
Partição de Conjuntos C N,n Equivale dividir S em dois subconjunto: A e A c Acom n elementos e A c com n1 elementos, sendo: N = n + n1 A S - A possui n elementos - S possui N elementos
Partição de Conjuntos Generalização do problema: Dividir um conjunto S de N elementos em k subconjuntos, sendo que N = n 1 + n 2 +... +n k (n i número de elemento do i- ésimo subconjunto) Corresponde a k problemas encadeados de combinações (veja o diagrama de Venn) C N,n1 C (N-n1),n2... C nk,nk
Partição de Conjuntos Generalização do problema: Que matematicamente é equivalente a: N!/(n 1! n 2!... n k!) C C N,n1 (N-n1),n2... C nk,nk Será que isto é verdade? C N,n = N! / (n! (N-n)! ) (lembrete)
Exemplos: Partição de Conjuntos O jogo de bridge corresponde a dividir o baralho de 52 entre 04 jogadores. Quantas maneiras há de se dividir o baralho? Resp. C 52,13 C 39,13 C 26,13 C 13,13
Exemplos: Partição de Conjuntos O jogo de pôquer com 04 jogadores utiliza 32 cartas, distribuídas igualmente entre os 04 naipes. Baralho = {Naipes X Cartas} Naipes = {paus,espada,ouro,copas} Cartas = {7,8,9,10,Valete,Dama,Rei, Ás} Se um jogador receber na primeira mão 05 cartas, qual é a probabilidade dele receber só um par de ases (evento A)? Resp. P(A) = C 4,2 C 7,3 ( C 4,1 C 4,1 C 4,1 )/ C 32,5 = 0,11 (0,0667) ÁS ÁS ÁS ÁS ÁS
Partição de Conjuntos Processos de Bernoulli Qual é a probabilidade de ocorrer k vezes um eventos A dentre N tentativas, sendo p a sua probabilidade do ocorrência? P(A) = p, P(A c ) = 1 p P(A) P(A)...P(A) P(A c )...P(A c ) = p k (1-p) N-k Pode-se combinar esse conjunto de eventos de N, k a k maneiras. P{A ocorrer exatamente k vezes} = C N,k p (1- p) N-k
Partição de Conjuntos Processos de Bernoulli P{A ocorrer apenas exatamente k vezes} = C N,k p (1- p) N-k Exemplo: Qual é a probabilidade que em uma família com 04 filhos, 02 serem meninas? Resolução por Bernoulli ou de forma exaustiva. Resp. = 3/8
Partição de Conjuntos Processos de Bernoulli P{A ocorrer apenas exatamente k vezes} = C N,k p k (1- p) N- k Exemplo: Um atirador tem três chances de acertar um alvo. Para ele vencer a competição deverá acertar pelo menos duas vezes no alvo. Sabendo-se que ele tem probabilidade de 0,4 de acerta um tiro, qual é a probabilidade dele vencer a competição? Resp. = 0,352
Próxima Aula Probabilidade condicional, eventos independentes e teorema de Bayes
Probabilidade Condicional Sejam dois eventos A e B de um mesmo espaço amostral e supondo que P(A) > 0, a probabilidade condicional de B ocorrer dado que A ocorreu é dada por: P(B/A) = P(A B) / P(A) É a probabilidade de ocorrer A e B dentro do subconjunto dos eventos de A. A B P(B/A) =
Probabilidade Condicional Dado: P(B/A) = P(A B) / P(A) A probabilidade de ocorrer os eventos A e B é igual a: P(A B) = P(B/A) P(A) = P(A) P(B/A) A probabilidade de ocorrer A e ocorrer B dado que ocorreu A A B P(B/A) =
Probabilidade Condicional Exemplo: P(B/A) = P(A B) / P(A) 6 5 4 3 2 1 1 2 3 4 5 6
Probabilidade Condicional Exemplo: experimentos seqüenciais que a ocorrência de um eventos na k-ésima etapa depende das etapas anteriores Dada uma urna com 03 bolas azuis e 07 vermelhas. Se 02 bolas são retiradas sem reposição, determine: Espaço amostral: P(A 1 A 2 ) P(A 1 V 2 ) P(V 1 A 2 ) P(V 1 V 2 ) P(A/B) = P(A B) / P(B)
Probabilidade Condicional Generalização da probabilidade condicional: P(A 1 A 2... A n ) = P(A 1 ) P(A 2 /A 1 )P(A 3 /A 1 A 2 )... P(A n /A 1 A 2...A n-1 ) Interpretação: P(A) P(B/A) P(C/BA) P(ABC)
Probabilidade Condicional Exemplo: Dada uma urna com 03 bolas azuis e 07 vermelhas. Se 02 bolas são retiradas sem reposição, qual é a probabilidade de ocorrer a seguinte seqüência de eventos: P(A 1 A 2 V 3 V 4 A 5 ) = 1/120 P(A 1 A 2 A 3 V 4 V 5 ) =? P(V 1 V 2 A 3 A 4 A 5 ) =?...
Probabilidade Total P(A) = P(A/B 1 ) P(B 1 ) + P(A/B 2 ) P(B 2 )... P(A/B n ) P(B n ) P(A) = P(AB 1 ) + P(AB 2 ) +... + P(AB n ) B 2 A Conjuntos disjuntos B n B 1
Probabilidade Total Exemplo: dada 03 urnas com as seguintes composições: Urna 1: 03 bolas brancas e 05 bolas vermelhas. Urna 2: 04 bolas brancas e 02 bolas vermelhas. Urna 2: 01 bola branca e 03 bolas vermelhas. A probabilidade de escolha das urnas é, respectivamente: 2/6, 3/6 e 1/6. Qual é a probabilidade de se escolher uma bola branca? Resp. = ½ Interpretação via média ponderada.
Teorema de Bayes Dado dois eventos A e B, num mesmo espaço amostral, pela probabilidade condicional, temos: P(A B) = P(A) P(B/A) P(B A) = P(B) P(A/B) P(A) = P(B) P(A/B) / P(B/A) P(A/B) = P(A). P(B/A) / P(B) Ponderação
Teorema de Bayes Exemplo: dado um baralho com 52 cartas Qual é a probabilidade de se tirar uma Rainha, sabendo-se que a carta é uma figura? Qual é a probabilidade de se tirar uma Rainha, sabendo-se que a carta é de espada? Qual é a probabilidade de se tira uma Rainha de espada, sabendo-se que a carta é uma figura preta?
Teorema de Bayes Exemplo: Um meteorologista acerta 80% dos dias em que chove e 90% dos dias em que não chove. Costuma chover em 10% dos dias. Tendo havido previsão de chuva para amanhã, qual é a probabilidade de realmente vir a chover? Chove Sol Prev. Ch. Prev. sol Total Total 1,0
Teorema de Bayes Generalização: Dadas duas partições de S (S=A 1 UA 2 ), então: P(A 1 /B) = P(A 1 ) P(B/A 1 ) / ( P(A 1 ) P(B/A 1 ) + P(A 2 ) P(B/A 2 ) ) Uma vez que: P(B) = P(A 1 ) P(B/A 1 ) + P(A 2 ) P(B/A 2 ) Para o caso de n partições: P(A i /B) = P(A i ) P(B/A i ) / Σ ( P(A k ) P(B/A k ) ) Média ponderada
Teorema de Bayes Exemplo: Um companhia produz peças em 03 fábricas (A 1,A 2 e A 3 ), na proporção de 15%, 35% e 50%, respectivamente. Suas probabilidades de produzirem peças defeituosas são: 1%, 5% e 2%. Dado que o controle de qualidade detectou uma peça com defeito, qual é a probabilidade de ter sido produzida por cada uma das fábricas?» P(A i /D) =?
Independência entre Eventos Dois eventos são independente se a ocorrência de um dele não alterar a probabilidade de ocorrência do outro e viceversa. Sejam dois eventos A e B, sendo P(A) > 0. O evento B é dito independente de A se: P(B/A) = P(B)
Independência entre Eventos Como: P(B/A) = P(B) (eventos independentes) P(A B) = P(A) P(B) Se B é independente de A, logo o inverso também é verdadeiro?
Exemplo: Independência entre Eventos P(A), P(B), P(A B), P(A) P(B), P(A/B) e P(B/A) 6 5 4 3 2 1 Independência é uma questão de proporção 1 2 3 4 5 6
Independência entre Eventos Exemplo: Experimento: lançamento de 02 moedas Eventos: A 1 (cara no 1 0 lançamento), A 2 (cara no 2 0 lançamento) e A 3 (ocorrência da mesma face nos dois lançamentos). Verifique: P(A 1 ), P(A 2 ), P(A 3 ) P(A 1 A 2 ), P(A 1 A 3 ) e P(A 2 A 3 ) P(A 1 A 2 A 3 ) P(A 1 A 2 A 3 ) = P(A 1 ) P(A 2 ) P(A 3 )?
Independência entre Eventos Com seria a independência de 03 eventos (A,B,C) simultaneamente? P(AB) = P(A) P(B) P(AC) = P(A) P(C) P(BC) = P(B) P(C) P(ABC) = P(A) P(B) P(C) E para n eventos?
Exemplos Finais Um piloto de Fórmula 1 acaba de entrar no boxe com seu carro. Ele sabe que o carro apresenta pelo menos um entre dois problemas: de injeção e ou de bobina. A probabilidade de haver problema de injeção é de 60% e a de bobina, 70%. Por outro lado, as probabilidade de o carro retornar à corrida são: a) 80% se houver só problema de bobina. b) 40% de houver só problema de injeção. c) 20% se houver ambos os problemas. Pergunta-se: i) Qual a probabilidade de que o carro esteja com os dois problemas? ii) Qual a probabilidade de que o carro retorne à corrida? iii) Se o carro retornar à corrida, qual a probabilidade de que ele estivesse com os dois problemas? iv) Qual a probabilidade do carro retornar à corrida, sabendo-se que o piloto é Rubens Barrichelo?
Exemplos Suponha que João recebeu um diagnóstico, após um exame hormonal, de que ele é homossexual. Ele entra em pânico. Então seu amigo, que está cursando a disciplina de processos estocásticos, diz a ele para se acalmar que ele vai fazer algumas contas para ver a real possibilidade deles continuarem amigos e freqüentarem JUNTOS o mesmo vestiário na academia. A proporção de homossexuais na sociedade é de 10%. A probabilidade de falso negativo no teste é de 40%. A probabilidade de falso positivo é de 2%.