Teoremas de uma, duas e três séries de Kolmogorov

Transcrição

1 Teoremas de uma, duas e três séries de Kolmogorov 13 de Maio de Introdução Nestas notas Z 1, Z, Z 3,... é uma sequência de variáveis aleatórias independentes. Buscaremos determinar condições sob as quais a série: Z 1 + Z + Z converge com probabilidade 1 ou 0. Para facilitar, escreveremos: S n = n Z (n N) para as somas parciais desta sequência. Exemplo 1. Um dos problemas mais básicos sobre séries é estudar o problema de convergência de séries: p. Neste caso há uma fronteira em p = 1: a série converge para p > 1 e diverge se p 1. Sabemos também que esta fronteira não é robusta se trocamos os sinais dos termos. Por exemplo, se tomamos sinais alternados: ( 1) p é fácil ver que a fronteira para convergência da série passa para p = 0. Isto ocorre porque a série tem muitos cancelamentos. De fato, para qualquer par: ( 1) p + ( 1) +1 ( + 1) p é da ordem de (1+p). 1

2 Agora imagine uma série ɛ p em os sinais ɛ = ±1 são aleatórios. Mais exatamente,{ɛ } + é sequência iid de variáveis aleatórias com: P (ɛ = 1) = P (ɛ = 1) = 1/. Veremos que neste caso também temos muitos cancelamentos, mas não tantos quanto no caso alternado. Neste caso a fronteira passa para p = 1/. Isto é, e p > 1/ P p 1/ P ɛ p converge = 1 ɛ p converge = 0. Isto seguirá da aplicação dos teoremas daqui às variáveis Z = ɛ p. O exercício 7 abaixo apresenta uma versão muito mais geral disto. A desigualdade de Kolmogorov O estudo de somas aleatórias como acima requererá uma ferramente muito importante, que é uma forma mais forte da desigualdade de Chebyshev. Teorema (Desigualdade de Kolmogorov). Suponha que Var (Z i ) < + para todo i N. Então para qualquer ɛ > 0 e n N ( ) P max S k E [S k > ɛ Var (S n) 1 k n ɛ. Prova: Trocando cada Z i por Z i E [Z i, podemos supôr que E [Z i = 0 para cada i, de modo que E [S k = 0 para todo k e Var (S n ) = E [ S n. Vamos escrever uma sequência de eventos disuntos, começando por: e continuando com E 1 = { S 1 > ɛ} E k { S 1 ɛ, S ɛ,..., S k 1 ɛ, S k > ɛ} ( k n). Isto é, E k é o evento S k é a primeira das somas parciais com valor absoluto > ɛ. Vemos que estes eventos são disuntos e que: { max 1 k n S k > ɛ} n E k. k=1

3 Portanto, ( ) P max S k > ɛ = 1 k n n P (E k ) k=1 n k=1 [ S E k ɛ I E k, á que I Ek = 1 S k > ɛ e portanto I Ek I Ek S k /ɛ. Agora vem o passo mais importante da demonstração. Afirmação 3. Para todo 1 k n, E [ S k I E k E [ S n I Ek. Deduz-se da afirmação e da desigualdade anterior que: ( ) n [ [ S P max S k > ɛ E n 1 k n ɛ I S n n E k =, E ɛ I Ek. k=1 Como os eventos E k são disuntos, n k=1 I E k 1, logo: ( ) P max S k > ɛ E [ S n 1 k n ɛ, que é a igualdade deseada. Resta apenas provar a afirmação. Vamos supôr que k < n pois o caso k = n é trivial. Observe que: n S n = S k + k,n onde k,n S n S k = Z. Vea que S n = S k + k,n + S k k,n. Portanto, k=1 =k+1 E [ S ni Ek = E [ S k I Ek + E [ k,n I Ek + E [Sk I Ek k,n. Vea que o segundo termo no lado direito acima é certamente 0. Portanto, basta provarmos que o terceiro termo se anula para deduzir a afirmação. De fato, isto segue da independência da sequência dos Z. Vea que: S k I Ek = f(z 1,..., Z k ) para uma certa função determinística f : R k R. Por outro lado, k,n = Z k Z n é função dos demais termos da sequência. Segue que S k I Ek e k,n são independentes e, sendo ambas v.a. s integráveis, E [S k I Ek k,n = E [S k I Ek E [ k,n. Por fim, E [ k,n = n =k+1 E [Z = 0 porque a esperança de cada Z se anula. 3

4 Exercício 1 (Desigualdade de Kolmogorov para infinitos termos). Lembrando que Var (S n ) = n Var (Z ), mostre que: + Var (Z ) < + P ( sup S k E [S k > ɛ k 1 3 Os teoremas de uma e duas séries Nesta seção provaremos os seguintes resultados. ) + Var (Z ) ɛ. Teorema 4 (Uma série). Suponha que E [Z = 0 para cada N e + Var (Z ) < +. Então: P Z converge = 1. Teorema 5 (Duas séries). Suponha que + Var (Z ) < +. Então: P Z converge = 1 se ( ) E [Z converge, e P Z converge = 0 em caso contrário. Vea que o segundo teorema é consequência do primeiro: basta ver que, nas condiçoes do segundo teorema, (Z E [Z ) converge quase certamente, logo a convergência de Z é quase-certamente coincidente com a de E [Z. Portanto, basta provar o Teorema de Uma Série. Prova: [do Teorema 4 Nosso principal obetivo será mostrar que existe uma sequência {n k } k 1 tendendo a + tal que vale o seguinte: r ( ) k N : P sup Z > k k. r n k =n k Por que isto basta? Vea que, tomando isto como dado, o primeiro lema de Borel Cantelli implica que: r P sup Z > k para infinitos valores de k = 0. r n k =n k 4

5 Isto é, com probabilidade 1 existirá um k 0 tal que para todo k k 0, r sup Z < k. r n k =n k Não é difícil deduzir que, quando isto ocorre, as caudas das somas parciais da série vão ficando cada vez menores, o que implica a convergência da série num evento de probabilidade 1. Observação 6. Vamos reformular este ponto para que fique claro o raciocínio geral. Um argumento de Análise na Reta mostra que r B k 0 N, k N : k k 0 sup Z < k r n k =n k está contido no evento Z converge, logo basta provar P (B) = 1. Como r B c = sup Z > k para infinitos valores de k r n k, =n k basta provar que este último evento tem probabilidade 0, o que segue de ( ) e Borel Cantelli. Isto ilustra um ponto geral: quando queremos provar que um evento E tem probabilidade 1, frequentemente encontramos um outro evento B com probabilidade 1 e provamos B E por argumentos de Análise mais ou menos simples. Para provar ( ), tome primeiro um m qualquer. A desigualdade: r + P sup Z > k 4 k Var (Z ) r m =m é consequência da versão da desigualdade de Kolmogorov para infinitos termos (cf. exercício 1) aplicada a Z m, Z m+1, Z m+,... ao invés de Z 1, Z, Z 3,.... Agora observe: como + Var (Z ) < +, podemos escolher m tal que m Var (Z ) é tão pequeno quanto se queira. Em particular, podemos escolher m = n k tal que a soma é menor que 8 k. Fazendo a escolha indutiva de n 1 < n < n 3 <... com esta propriedade, temos a inequação deseada ( ). =m 5

6 Exercício. Voltando ao exemplo na introdução, prove que p > 1/ P ɛ p converge = 1. 4 Uma recíproca do teorema de uma série Veremos a seguir que o teorema de uma série admite uma recíproca parcial quando as Z são uniformemente limitadas. Observe que esta hipótese implica que E [Z e Var (Z ) estão bem definidas e são finitas para todos os N; de fato, todos os momentos estão bem definidos. Teorema 7 (Recíproca parcial do teorema de uma série). Suponha que as variáveis {Z } N tomam valores entre c e c para alguma constante c > 0 e que E [Z = 0 para todo N. Então: P + Z converge > 0 Var (Z ) converge. Para esta prova vamos precisar de um lema muito importante, uma espécie de Chebyshev ao contrário. Lema 8 (Desigualdade de Paley-Zygmung). Sea X uma variável aleatória em L com E [X > 0. Então para qualquer 0 < θ < 1, Prova: [do Lema Observe que P (X > θe [X) (1 θ) E [X E [X. E [ XI X<θE[X θ E [X porque o integrando do lado esquerdo é limitado por θ E [X. Observando que: E [X = E [ XI X θ E[X + E [ XIX<θE[X E [ XIX θ E[X + θ E [X, nós deduzimos: (1 θ) E [X E [ XI X θ E[X. Por outro lado, a desigualdade de Cauchy Schwartz implica: E [ [ XI X θ E[X E [X E I X θ E[X = E [X P (X θ E [X). 6

7 O lema segue se untamos esta desigualdade com a anterior e obtemos: (1 θ) E [X E [X P (X θ E [X). Daí, como os dois lados são 0, podemos tomar o quadrado preservando a ordem. [Este foi o único ponto em que usamos E [X > 0! Agora vamos provar a recíproca. Prova: Vamos provar isto via contrapositiva. Supondo que Var (Z ) = +, vamos provar que Z diverge quase certamente. Para isto, seguiremos o argumento da observação 6: encontraremos um evento contido dentro de Z diverge que mostraremos ter probabilidade 1. Observe que, sob a hipótese de que a soma das variâncias diverge, podemos definir k 1 = 1 < k < k 3 < k 4 <... tais que para qualquer i N: k i+1 1 =k i Var (Z ) 1. Defina agora U i k i+1 1 =k i Z. Observe que Var (U i ) = k i+1 =k i Z 1 para cada i. Além disto, estas variáveis U i são independentes, pois correspondem a pedaços disuntos da sequência Z 1, Z,.... Fazemos a seguinte afirmação: Afirmação 9. Existe um α > 0 fixo tal que P ( U i > 1/) α para todo i. Antes de provar a afimação, veamos o que ela implica. Os eventos { U i > 1/} são independentes e a afirmação implica i P ( U i > 1/) = +. Portanto, o segundo Lema de Borel Cantelli nos permite deduzir que: P ( U i > 1/ infinitas vezes) = 1. Agora observe que U i = Z ki + + Z ki+1 1 = S ki+1 S ki. Se estas somas são maiores do que 1/ infinitas vezes, vemos que sequência das somas parciais S n não é Cauchy, portanto não converge. Deduzimos que: { U i > 1/ infinitas vezes} { Z não converge} e desta forma a série deve ser quase-certamente divergente. Para terminar a prova, precisamos demonstrar a afirmação. A ideia é aplicar a desigualdade de Paley-Zygmund a U i (note que U i tem média 0). Vemos que: E [ Ui = Var (Ui ) = k i+1 1 =k i Var (Z i ) = 7 k i+1 1 =k i [ E Z i 1.

8 Para calcular E [ Ui 4, usaremos o exercício abaixo. Exercício 3. Mostre que se X 1,..., X m L 4 são intependentes e têm média 0, E [ (X X m ) 4 = = m E [ X E [ X [ i E X 1 i< m m (E [ X 4 [ E X ) m + 6 E [ X [ [ No nosso caso, as Z s são limitadas por c > 0, logo E Z 4 c E Z. Portanto, E [ Ui 4 = k i+1 1 (E =k i k i+1 1 c =k i [ [ Z 4 E Z ) m + 6 E [ Z [ [ E Z + 6 E U i = c E [ Ui [ + 6 E U i (c + 6)E [ Ui porque E [ Ui 1. Deduzimos de Paley Zygmund que: ( P U i 1 ) ( P Ui E [ U ) i (3/4) E [ U i 4 E [ Ui 4 α. 9 16(c + 6). Exercício 4. Utilize esta recíproca para completar o caso p 1/ do exemplo na primeira seção. 5 Simetrização e a recíproca do teorema de duas séries Calha de ser verdade que também temos uma recíproca parcial do teorema de duas séries. 8

9 Teorema 10 (Recíproca parcial do teorema de duas séries). Suponha que as variáveis {Z } N tomam valores entre c e c para alguma constante c > 0. Então: P + Z converge > 0 ( + ) [Em particular, P Z converge séries. E [Z e Var (Z ) convergem. = 1 neste caso, pelo teorema de A maior dificuldade de provar este teorema é um salto conceitual que chamado de simetrização. Veamos como ele funciona. Prova: Vamos primeiro fazer a prova com uma hipótese adicional: que existe uma outra sequência de variáveis aleatórias {Z i }+ i=1 definida no mesmo espaço de probabilidade com as seguintes propriedades: a sequência {Z i } i tem a mesma distribuição da sequência {Z } (em particular, seus termos são independentes e limitados). a sequência {Z i } i é independente da sequência {Z } (em particular, a união das duas sequências é uma coleção independente de variáveis aleatórias). A principal consequência disto é que a sequência dada por: W Z Z ( N) [ é independente e seus termos têm média E [Z E Z = 0 (porque Z e Z têm a mesma distribuição!). Além disso, pela independência das duas sequências, P W converge P { Z converge} { Z converge} = P ( seqs. com mesma lei) = P Z converge P Z converge > 0. Z converge 9

10 Deduzimos que as W satisfazem as hipóteses da recíproca do teorema de uma série, logo: Var (W ) < +. Como Z e Z são independentes e identicamente distribuídas, : Var (W ) = Var (Z ) + Var ( Z ) = Var (Z ) e deduzimos Var (Z ) < +. Falta provar que E [Z converge. Mas vea que, pelo teorema de uma série e a finitude da soma das variâncias, (Z E [Z ) converge quase certamente. Além disto, Z converge com probabilidade positiva (por hipótese). Quando estas duas convergências ocorrem (e isto se dá com probabilidade positiva), sua dferença, que é E [Z, também converge. Como esta última série é determinística, é necesariamente verdade que E [Z converge. Isto encerra a prova do teorema quando supomos que existem Z i s como acima. Como provamos o teorema em geral? A ideia é aumentar o espaço de probabilidade. Sea (Ω, F, P) o espaço onde estão definidas as Z i s. Definimos o produto deste espaço por ele mesmo, (Ω, F, P ) Abusando notação, definimos, para cada (ω 1, ω ) Ω, Z i (ω 1, ω ) = Z i (ω 1 ), Z i(ω 1, ω ) = Z i (ω ). Exercício 5. Prove que a distribuição das novas Z i s é a mesma das antigas e que as Z i s criadas têm as propriedades pedidas no início da prova. Isto nos permite provar o enunciado do teorema no novo espaço de probabilidade, do modo que á fizemos, e transferir o resultado de volta para o antigo. 6 O teorema de três séries Os teoremas acima resolvem completamente o problema de convergência de Z quando as Z são independentes e uniformemente limitadas. Nesta seção veremos que também podemos obter uma caracterização completamente geral. 10

11 Para este último resultado, precisamos de uma definição. constante c > 0, defina o truncamento: { Zi c 0, Zi > c Z i I Zi c = Z i, Z i c. Diremos que as variáveis {Z i } i 1 têm a propriedade P(c) se: P ( Z > c), E [ Z c e Var ( Z c ) convergem. Dada uma Teorema 11 (Três séries). Se vale a propriedade P(c) para algum c > 0, então Z converge quase certamente. Reciprocamente, se Z converge com probabilidade positiva, então P(c) vale para qualquer c > 0 [e portanto Z converge quase certamente. Prova: Vamos primeiro supôr que vale P(c). Neste caso, o primeiro lema de Borel Cantelli implica que: P ( Z i > c infinitas vezes) = P (Z i Z c i infinitas vezes) = 0. Deste modo, as duas séries quase certamente coincidem exceto em um número finito de termos. Deduzimos: P Z converge = P Z c converge = 1 porque a série Z c satisfaz as condições para convergência quase-certa do Teorema de Duas Séries. Suponha agora que Z converge quase certamente escolha um c > 0. Vea que P Z converge > 0 P (Z 0) > 0 P ( Z > c infinitas vezes) < 1. A contrapositiva do segundo lema de Borel Cantelli nos diz que devemos ter: P ( Z > c) < +. Vea ainda que, como vale com probabilidade 1 que Z = Z c exceto por um número finito de vezes, deduzimos: P Z c converge = P Z converge > 0. 11

12 Como as Z c são uniformemente limitadas, a recíproca parcial do Teorema de Duas Séries encerra a prova. 7 Mais exercícios Exercício 6. Suponha que existe µ R tal que as somas S n convergem em probabilidade a µ: ɛ > 0, P ( S n µ > ɛ) 0 quando n +. Prove que S n µ quase certamente. Exercício 7. Sea {X } N uma sequência iid de variáveis aleatórias independentes e com distribuição Caychy, isto é, com densidade: Prove que a série: f(x) 1 π (1 + x (x R). ) 1 converge quase certamente quando p > 1 e diverge quase certamente quando p 1. [Dica: você provavelmente usará a seguinte desigualdade (que deve ser provada, caso você a use): [ P ( X 1 p ) E X 1 1/p. 1 X p Mostre ainda que qualquer truncamento X c tem média 0. Exercício 8. Sea {X i } i N uma sequência de variáveis aleatórias iid e quase-certamente diferentes de 0. Podemos definir a partir desta sequência uma série de potência aleatória : F (z) 1 X z. Em princípio esta série é só um obeto formal, á que não sabemos se ela converge. Prove, no entanto, que se E [(log X 1 ) + < +, F quase-certamente define uma função analítica definida sobre o disco unitário aberto que não pode ser estendida a qualquer domínio aberto estritamente maior. [Dica: fixe c > 0. Quando é verdade que X i > c i finitas vezes? O que isto tem a ver com nosso problema? 1