Módulo III: Processos de Poisson, Gaussiano e Wiener

Módulo III: Processos de Poisson, Gaussiano e Wiener Wamberto J. L. Queiroz Universidade Federal de Campina Grande-UFCG Departamento de Engenharia Elétrica Processos Estocásticos Campina Grande - PB Módulo III: Processos de Poisson, Gaussiano e Wiener p.1/44

Processo de Poisson Homogêneo Processo de contagem definido em tempo contínuo que toma valores inteiros Usado para modelar ocorrências aleatórias de eventos em intervalos de tempo Definição Considere um processo de contagem de ocorrências de um evento, N(t), no qual a probabilidade de ocorrências é controlada por uma função taxa de ocorrência λ(t). A probabilidade de uma ocorrência em um pequeno intervalo t é dada por P[1 ocorrência em (t, t + t) ] = λ(t) t. Módulo III: Processos de Poisson, Gaussiano e Wiener p.2/44

Processo de Poisson Homogêneo Assuma que no intervalo t não seja possível mais que uma ocorrência. Assim a probabilidade de não haver ocorrência de evento em t é dada por P[0 ocorrência em (t, t + t)] = 1 λ(t) t. Observação Quando λ(t) é constante, λ(t) = λ, o processo é denominado Processo de Poisson Homogêneo. Módulo III: Processos de Poisson, Gaussiano e Wiener p.3/44

Distribuição de Probabilidades de Processo de Poisson Homogêneo Considere a probabilidade de k ocorrências de um evento no intervalo (0,t + t), P[k, (0,t + t)]. P[k, (0, t + t)] = P[k, (0, t)]p[0, (t, t + t)] + P[k 1, (0, t)]p[1, (t, t + t)] = P[k, (0, t)](1 λ t) + P[k 1, (0, t)]λ t = P[k, (0, t)] λ tp[k, (0, t)] + P[k 1, (0, t)]λ t Denotando P[k, (0, t)] por P(k, t) e tomando limite quando t 0, tem-se lim t 0 P(k, t + t) P(k, t) t = λp(k, t) + λp(k 1, t). Módulo III: Processos de Poisson, Gaussiano e Wiener p.4/44

Distribuição de Probabilidades de Processo de Poisson Homogêneo dp(k, t) dt + λp(k, t) = λp(k 1, t). Compare essa última equação com a equação diferencial dy dt + ay = g(t). Esta equação em y(t) pode ser resolvida facilmente multiplicando-a pelo fator integrante e at at dy e dt + eat ay = e at g(t) d ( ye at ) = e at g(t) dt Módulo III: Processos de Poisson, Gaussiano e Wiener p.5/44

Distribuição de Probabilidades de Processo de Poisson Homogêneo d dt ( ye at ) dt = e at y + c = e at g(t)dt e at g(t)dt y(t) = e at e at g(t)dt + ce at Módulo III: Processos de Poisson, Gaussiano e Wiener p.6/44

Distribuição de Probabilidades de Processo de Poisson Homogêneo Aplicando esse procedimento à equação diferencial geradora do processo de Poisson, tem-se d dt ( P(k, t)e λt ) = λp(k 1, t)e λt Integrando essa última equação em (0, t), obtém-se P(k, t) = λe λt t 0 P(k 1, s)e λs ds. Módulo III: Processos de Poisson, Gaussiano e Wiener p.7/44

Distribuição de Probabilidades de Processo de Poisson Homogêneo Se P(0, t) = e λt P(1, t) = λe λt t 0 = λe λt t = λte λt 0 P(0, s)e λs ds e λs e λs ds t P(2, t) = λe λt P(1, s)e λs ds 0 t = λe λt λse λs e λs ds 0 = λ 2 e λt t 0 sds = λ2 t 2 2 1 e λt Módulo III: Processos de Poisson, Gaussiano e Wiener p.8/44

Distribuição de Probabilidades de Processo de Poisson Homogêneo P(3, t) = λe λt t 0 = λ3 t 3 3 2 1 e λt P(4, t) = λ 2 e λs λs s2 e 2 ds λ 4 t 4 4 3 2 1 e λt De um modo geral, a probabilidade de k ocorrências de um evento no intervalo (0, t) é dada por P(k, t) = (λt)k k! e λt. Módulo III: Processos de Poisson, Gaussiano e Wiener p.9/44

Cálculo do Valor Esperado do Processo de Poisson Se N(t) é tal que E[N(t)] = P(N(t) = k) = P(k, t) = (λt)k k! kp(n(t) = k) = k=0 = e λt k=1 = e λt λt k=1 k(λt) k k(k 1)! = e λt l=0 (λt) l l! = λt. E[N(t)] = λt e λt k (λt)k k! l=0 e λt (λt) l+1 l! Módulo III: Processos de Poisson, Gaussiano e Wiener p.10/44

Cálculo do Segundo Momento do Processo de Poisson E[N 2 (t)] = k 2 P(X(t) = k) = k=0 k=0 k(λt) k = (k 1)! e λt = k=1 (l + 1)(λt) l=0 = (λt) l=0 l (λt)l l! = (λt) 2 + (λt) l+1 e λt l! k 2 (λt) k k! e λt + λte λt l=0 e λt (λt) l l! Módulo III: Processos de Poisson, Gaussiano e Wiener p.11/44

Cálculo da Variância do Processo de Poisson V ar[n(t)] = E[N 2 (t)] E 2 [N(t)] = (λt) 2 + (λt) (λt) 2 = λt E[N(t)] = λt V ar[n(t)] = λt Módulo III: Processos de Poisson, Gaussiano e Wiener p.12/44

Propriedades do Processo de Poisson Prop. 1 O processo de Poisson é não decrescente Como P[N(t) = k] = (λt)k k! e λt P[N(t) 0] = (λt) k e λt = e λt (λt) k k! k! k=0 k=0 = e λt e λt = 1. 12 11 10 9 8 7 6 5 4 3 2 1 N(t) 5 10 15 20 25 30 35 40 45 50 t T 0 T 1 T 4 T 5 Módulo III: Processos de Poisson, Gaussiano e Wiener p.13/44

Propriedades do Processo de Poisson Prop. 2 Os instantes entre ocorrências são variáveis independentes e têm distribuição exponencial No processo de Poisson estamos interessados no número de ocorrências de um evento no instante (0, t). Se T denota o intervalo de tempo que transcorre entre uma ocorrência e outra, então Note, entretanto, que P[T t] = F T (t) = 1 P[T > t]. P[T > t] = P[N(t) = 0] = (λt)0 e λt 0! = e λt Assim F T (t) = 1 e λt e f T (t) = λe λt Módulo III: Processos de Poisson, Gaussiano e Wiener p.14/44

Propriedades do Processo de Poisson Na formulação do processo de Poisson, o intervalo (0, t) é subdividido em subintervalos t nos quais só pode haver no máximo uma ocorrência. Em cada subintervalo t há, portanto, um processo de Bernoulli e no intervalo (0, t) há um processo de contagem binomial. O processo de Poisson pode ser visto como um caso limite do processo binomial, no qual as ocorrências nos subintervalos de duração t são independentes. Módulo III: Processos de Poisson, Gaussiano e Wiener p.15/44

Propriedades do Processo de Poisson Prop. 3 A soma dos intervalos de tempo entre ocorrências tem distribuição de Erlang. Seja S n uma variável que representa a soma de n variáveis "Tempo entre ocorrências"de um processo de Poisson, então S n = T 1 + T 2 + + T n. A função característica de S n é dada por ϕ Sn (ω) = E [ e jωs n ] = E [ e jω(t 1+T 2 + +T n ) ] = E [ n k=1 e jωt k Como as variáveis T k são independentes e identicamente distribuídas n ϕ Sn (ω) = E [ e jωt] k=1 Módulo III: Processos de Poisson, Gaussiano e Wiener p.16/44 ]

Propriedades do Processo de Poisson Se f T (t) = λe λt E [ e jωt] = = λ = 0 0 λ λ + jω λe λt e jωt dt e (λ+jω)t dt Assim ϕ Sn (ω) = ( ) n λ. λ + jω Módulo III: Processos de Poisson, Gaussiano e Wiener p.17/44

Propriedades do Processo de Poisson Se uma variável X tem distribuição de Erlang ϕ X (ω) = 0 (λx) n 1 (n 1)! λe λx e jωx dx = λn (n 1)! 0 x n 1 e (λ+jω)x dx Se v(x) = (λ + jω)x ϕ X (ω) = = = λn (n 1)! 1 (n 1)! 1 (n 1)! v n 1 dv 0 (λ + jω) n 1e v (λ + jω) ( ) n λ v n 1 e v dv λ + jω 0 ( ) n ( ) n λ λ Γ(n) = λ + jω λ + jω ϕ X (ω) = ϕ Sn (ω) Módulo III: Processos de Poisson, Gaussiano e Wiener p.18/44

Propriedades do Processo de Poisson Prop. 4 O processo de Poisson tem incrementos independentes Sejam t 1 < t 2 < t 3 < < t n tais que os intervalos t 2 t 1, t 3 t 2, t 4 t 3,, t n t n 1 sejam disjuntos. Nesse caso as variáveis N(t 2 ) N(t 1 ), N(t 3 ) N(t 2 ),, N(t n ) N(t n 1 ) são incrementos independentes. Isso ocorre porque o processo de Poisson é um processo de contagem que fornece o número de realizações de um evento em um determinado intervalo de tempo. Módulo III: Processos de Poisson, Gaussiano e Wiener p.19/44

Cálculo da Covariância do Processo de Poisson C N (t 1, t 2 ) = E[(N(t 1 ) E[N(t 1 )])(N(t 2 ) E[N(t 2 )])] = E[(N(t 1 ) λt 1 )(N(t 2 ) λt 2 )] Considerando t 2 > t 1, N(t 2 ) > N(t 1 ) C N (t 1, t 2 ) = E[(N(t 1 ) λt 1 )(N(t 2 ) N(t 1 ) + N(t 1 ) λt 2 + λt 1 λt 1 )] = E[(N(t 1 ) λt 1 )(N(t 2 ) N(t 1 ) λ(t 2 t 1 ) + N(t 1 ) λt 1 )] = E[(N(t 1 ) λt 1 )(N(t 2 ) N(t 1 ) λ(t 2 t 1 ))] + E[(N(t 1 ) λt 1 ) 2 ]. = E[(N(t 1 ) λt 1 ) 2 ] = λt 1 Módulo III: Processos de Poisson, Gaussiano e Wiener p.20/44

Cálculo da Covariância do Processo de Poisson Considerando t 1 > t 2 C N (t 1, t 2 ) = E[(N(t 1 ) λt 1 )(N(t 2 ) λt 2 )] = E[(N(t 1 ) N(t 2 ) + N(t 2 ) λt 1 + λt 2 λt 2 )(N(t 2 ) λt 2 )] = E[(N(t 1 ) N(t 2 ) λ(t 1 t 2 ) + N(t 2 ) λt 2 )(N(t 2 ) λt 2 )] = E[(N(t 1 ) N(t 2 ) λ(t 1 t 2 ))(N(t 2 ) λt 2 )] + E[(N(t 2 ) λt 2 ) 2 ] = λt 2 Assim tem-se que a covariância do processo de Poisson é dada por C N (t 1, t 2 ) = λmin(t 1, t 2 ). Módulo III: Processos de Poisson, Gaussiano e Wiener p.21/44

Cálculo da Distribuição de Probabilidade Conjunta do Processo de Poisson O cálculo da probabilidade conjunta P[N(t 1 ) = n 1, N(t 2 ) = n 2,, N(t k ) = n k ] pode ser realizado por meio da propriedade de incrementos independentes do processo de Poisson. P[N(t 1 ) = n 1,, N(t k ) = n k ] = P[N(t 1 )] P[N(t 2 ) N(t 1 ) = n 2 n 1 ] P[N(t k ) N(t k 1 ) = n k n k 1 ] = P[N(t 1 ) = n 1 ]P[N(t 2 t 1 ) = n 2 n 1 ] P[N(t k t k 1 ) = n k n k 1 ]. Módulo III: Processos de Poisson, Gaussiano e Wiener p.22/44

Exemplos de Processos de Poisson Ex.1 Solicitações chegam a um dispositivo de armazenamento de mensagens de acordo com um processo de Poisson de taxa 15 solicitações por minuto. Encontre a probabilidade que em um período de 1 minuto 3 solicitações cheguem durante os primeiros 10 segundos e 2 solicitações cheguem durante os últimos 15 segundos. Note que as ocorrências são as chegadas de solicitações Todas as ocorrências surgem no intervalo de 0 a 60 segundos A taxa de ocorrências por segundo é λ = 15 60 = 1 4 Módulo III: Processos de Poisson, Gaussiano e Wiener p.23/44

Exemplos de Processos de Poisson Queremos a probabilidade P[N(10) = 3 e N(60 45) = 2] P[N(10) = 3, N(15) = 2] = P[N(10) = 3] P[N(15) = 2] = ( 1 4 10) 3 e 10 4 3! ( 1 4 15) 2 e 15 4 2! Módulo III: Processos de Poisson, Gaussiano e Wiener p.24/44

Exemplos de Processos de Poisson Ex.2 O processo Telegráfico Um sinal X(t) muda de polaridade à cada ocorrência de um evento em um processo de Poisson de taxa λ. Forneça sua distribuição de probabilidade e sua covariância. X(t) 1 t 1 t 1 t 2 t 3 t 4 t 5 t 6 Módulo III: Processos de Poisson, Gaussiano e Wiener p.25/44

Pontos Aleatórios de Poisson Considere um intervalo de comprimento L ao longo de uma reta l tal que L 2 l L 2 e um subintervalo l 1 l l 2 de L. Suponha que sejam lançados, aleatoriamente, n pontos no intervalo L. Qual a probabilidade que k deses pontos caiam no intervalo l 1 l l 2? Considere, por simplicidade, que sejam lançados quatro pontos e adote a seguinte notação Ponto cai no intervalo [l 1, l 2 ] Ponto cai fora do intervalo [l 1, l 2 ] p probabilidade de 1 ponto cair em [l 1, l 2 ] 1 p probabilidade de 1 ponto cair fora de [l 1, l 2 ] Módulo III: Processos de Poisson, Gaussiano e Wiener p.26/44

Pontos Aleatórios de Poisson No lançamento de 4 pontos tem-se as seguintes possibilidades para a variável aleatória N que fornece o número de pontos no subintervalo [l 1, l 2 ] Pontos lançados N 0 1 1 2 1 2 2 3 Pontos lançados N 1 2 2 3 2 3 3 4 Módulo III: Processos de Poisson, Gaussiano e Wiener p.27/44

Pontos Aleatórios de Poisson Distribuição de probabilidades da variável N P(N = 0) = 1 p 0 (1 p) 4 0 = P(N = 1) = 4 p 1 (1 p) 4 1 = P(N = 2) = 6 p 2 (1 p) 4 2 = P(N = 3) = 4 p 3 (1 p) 4 3 = P(N = 4) = 1 p 4 (1 p) 4 4 = ( ) 4 p 0 (1 p) 4 0 0 ( ) 4 p 1 (1 p) 4 1 1 ( ) 4 p 2 (1 p) 4 2 2 ( ) 4 p 3 (1 p) 4 3 3 ( ) 4 p 4 (1 p) 4 4 4 Módulo III: Processos de Poisson, Gaussiano e Wiener p.28/44

Pontos Aleatórios de Poisson Distribuição de probabilidade de N Se k é o número de pontos que caem no subintervalo [l 1, l 2 ] no lançamento de n pontos P(N = k) = ( ) n p k (1 p) n k, k k = 0, 1,, n P(N = k) = = n! k!(n k)! pk (1 p) n k n(n 1)(n 2) (n (k 1))(n k)! p k (1 p) n k k!(n k)! Módulo III: Processos de Poisson, Gaussiano e Wiener p.29/44

Pontos Aleatórios de Poisson Se n tende a infinito e p tende a zero, de modo que np a, então P(N = k) = n n tende a ( 1 1 )( 1 2 ) ( 1 k 1 ) a k n n n k! P(N = k) ak e a A probabilidade p de que 1 ponto caia no intervalo [l 1, l 2 ] é p = l 2 l 1 L = l L. Assim k! ( 1 a ) n k n P(N = k) = ( nl L ) k e nl/l k! = (λl)k e λl k! λ = n L é a densidade de pontos em [ L/2, L/2]. Módulo III: Processos de Poisson, Gaussiano e Wiener p.30/44

Distribuição de Sensores em uma Área S Considere uma região geográfica de área A e uma região de área S contida em A. Suponha que um avião sobrevoa a região A e que lança uma quantidade n de sensores. Qual a probabilidade que k sensores caiam na região de área S. Considere a seguinte notação: Um sensor cai na região S com probabilidade p Um sensor cai fora da região S com probabilidade q = 1 p Módulo III: Processos de Poisson, Gaussiano e Wiener p.31/44

Distribuição de Sensores em uma Área S Se, por simplicidade, forem considerados apenas quatro sensores e a variável aleatória N representa o número de sensores em S, então N pode tomar os valores Sensores lançados N 0 1 1 2 1 2 2 3 Sensores lançados N 1 2 2 3 2 3 3 4 Módulo III: Processos de Poisson, Gaussiano e Wiener p.32/44

Distribuição de Sensores em uma Área S Distribuição de probabilidades da variável N ( ) 4 P(N = 0) = 1 p 0 (1 p) 4 0 = p 0 (1 p) 4 0 0 ( ) 4 P(N = 1) = 4 p 1 (1 p) 4 1 = p 1 (1 p) 4 1 1 ( ) 4 P(N = 2) = 6 p 2 (1 p) 4 2 = p 2 (1 p) 4 2 2 ( ) 4 P(N = 3) = 4 p 3 (1 p) 4 3 = p 3 (1 p) 4 3 3 ( ) 4 P(N = 4) = 1 p 4 (1 p) 4 4 = p 4 (1 p) 4 4 4 ( ) n P(N = k) = p k (1 p) n k, k = 0, 1,, n k Módulo III: Processos de Poisson, Gaussiano e Wiener p.33/44

Processo Aleatório Gaussiano Um processo estocástico X(t) é gaussiano se as amostras X 1 = X(t 1 ) X 2 = X(t 2 ) X 3 = X(t 3 ) X k = X(t k ) são variáveis aleatórias conjuntamente gaussianas para todo k e todas as escolhas de t 1, t 2,, t k. A fdp conjunta gaussiana é dada por f X1,,X k (x 1,, x k ) = exp{ 1 2 (x m)t K 1 (x m) } (2π) k 2 K 1 2, m = m X (t 1 ) m X (t 2 ). m X (t k ) K = C X (t 1, t 1 ) C X (t 1, t 2 ) C X (t 1, t k ) C X (t 2, t 1 ) C X (t 2, t 2 ) C X (t 2, t k )........ C X (t k, t 1 ) C X (t k, t 2 ) C X (t k, t k ) Módulo III: Processos de Poisson, Gaussiano e Wiener p.34/44

Processo Aleatório Gaussiano Discreto i.i.d Considere um processo estocástico aleatório definido em tempo discreto formado pela sequência de variáveis gaussianas i.i.d X 1 = X(n 1 ) X 2 = X(n 2 ) X k = X(n k ) com média m e variância σ 2. Nesse caso K = C X (n 1, n 1 ) C X (n 1, n k ) C X (n 2, n 1 ) C X (n 2, n k )....... C X (n k, n 1 ) C X (n k, n k ) = σ 2 0 0 0 σ 2 0........ 0 0 σ 2 Módulo III: Processos de Poisson, Gaussiano e Wiener p.35/44

Processo Aleatório Gaussiano Discreto i.i.d K 1 = f X1,X 2,,X k (x 1, x 2,, x k ) = 1 σ 0 0 2 1 0 σ 0 2...... 1 0 0 σ 2 exp [ 1 2 k n=1 (2π) k 2 σ k (x n m) 2 σ 2 ] Ex.3 Seja X(t) um processo aleatório gaussiano de tempo contínuo com média e covariância dadas por m X (t) = 3t e C X (t 1, t 2 ) = 9e 2 t 1 t 2 Encontre P[X(3) < 6] e P[X(1) + X(2) > 2]. Módulo III: Processos de Poisson, Gaussiano e Wiener p.36/44

Processo de Wiener Considere um processo aleatório S n formado pela soma de n variáveis aleatórias X i de Bernouli em um intervalo (0, t) e seja F a frequência com que essas variáveis são somadas, de modo que n = Ft. Seja W(n) o processo definido como W(n) = S n n De acordo com o teorema central do limite W(n) tem distribuição gaussiana com média nula e variância unitária. Módulo III: Processos de Poisson, Gaussiano e Wiener p.37/44

Teorema Central do Limite Seja S n a soma de n variáveis X i iid de média finita µ e variância finita σ 2 e seja Z n a variável de média nula e variância unitária definida por Z n = S n nµ σ n. Assim lim P[Z n z] = 1 z e x2 /2 dx. n 2π Módulo III: Processos de Poisson, Gaussiano e Wiener p.38/44

Processo de Wiener Do mesmo modo que W(n) tende a um processo gaussiano de média nula e variância unitária quando n tende a infinito, podese mostrar que o processo de Wiener definido como W(t) = S Ft F tende a um processo gaussiano de média nula e variância t quando a frequência F tende a infinito. lim W(t) = lim F F = lim F S Ft Ft F Ft S Ft Ft lim F Ft F Módulo III: Processos de Poisson, Gaussiano e Wiener p.39/44

Processo de Wiener Como lim F S F t Ft tende a um processo gaussiano de mé- Ft dia nula e variância unitária e lim F F tende a t, então lim F W(t) tende a um processo gaussiano de média nula e variância t. Exemplo de amostras de um processo de Wiener Módulo III: Processos de Poisson, Gaussiano e Wiener p.40/44

Processo de Wiener A fdp do processo de Wiener pode ser escrita como f W(t) (w) = 1 ) exp ( w2 2πt 2t Exemplo de amostras de um processo de Wiener 2D Módulo III: Processos de Poisson, Gaussiano e Wiener p.41/44

Processo de Wiener Ex.4 Seja Y (t) = X(t) + µt, em que X(t) é um processo de Wiener. Encontre a fdp de Y (t) Encontre a fdp conjunta de Y (t) e Y (t + s) Ex.5 Se Y (t) = X 2 (t), em que X(t) é um processo de Wiener, encontre a fdp de Y (t). Propriedade dos Incrementos Independentes O processo de Wiener tem incrementos independentes pois essa propriedade é herdada do processo caminhada aleatória. Módulo III: Processos de Poisson, Gaussiano e Wiener p.42/44

Processo de Wiener Cálculo da covariância t 2 < t 1 C W (t 1, t 2 ) = E[(W(t 1 ) E[W(t 1 )])(W(t 2 ) E[W(t 2 )])] [ ] S Ft1 S Ft2 = E lim lim F F F F = E = E [( [ lim F lim F + E [ ( lim F = t 2 S Ft1 F lim F (S Ft1 S Ft2 ) F ) ] S 2 Ft2 F S Ft2 F lim F + lim F ] S Ft2 F ) S Ft2 F lim F ] S Ft2 F Módulo III: Processos de Poisson, Gaussiano e Wiener p.43/44

Processo de Wiener Cálculo da covariância t 1 < t 2 C W (t 1, t 2 ) = E[(W(t 1 ) E[W(t 1 )])(W(t 2 ) E[W(t 2 )])] [ ] S Ft1 S Ft2 = E lim lim F F F F [ ( S Ft1 S Ft2 S Ft1 = E lim lim lim F F F F F F [ ] (S Ft2 S Ft1 ) = E F lim F + E [ ( lim F S Ft1 lim F F ) ] S 2 Ft1 F + lim F )] S Ft1 F = t 1 Assim C W (t 1, t 2 ) = min(t 1, t 2 ) Módulo III: Processos de Poisson, Gaussiano e Wiener p.44/44