Fundamentos da Análise Estocástica

Transcrição

1 Fudameos da Aálise Esocásica BREVE REVISÃO SOBRE A TEORIA DE PROBABILIDADES AXIOMAS DE KOLMOGOROV Espaço de Probabilidades Ω,,P. Adrey N. Kolmogorov

2 Ω Espaço Amosral Todos os possíveis resulados de um eperimeo. Classe de eveos Coleção apropriada de eveos, muida esruura algébrica. P Medida de Probabilidade Fução de cojuo ão egaiva, adiiva.

3 TRATAMENTO AXIOMÁTICO desafio proposo por D. Hilber: AX1. Ω,, AX. A Dado um eperimeo, Ω, e uma coleção de subcojuos eveos. PA 0. Cada eveo A é associado a um. ão-egaivo. AX3. PΩ1. Qualquer aribuição de probabilidade requer ormalização. AX4. Se A e B A B, eão PA BPA+PB. Fução de cojuo adiiva. AX5. {A i } i1, com A i com A i A j i j; eão P i1 Ai Σ i1 PAi, Fução de cojuo σ-adiiva. Toda a eoria das Probabilidades esá resumida os aiomas!

4 CONSEQÜENCIAS TRIVIAIS 1 PA c? A A c. Por AX4, PA A c PA+PA c. Logo PΩPA+PA c e via AX3 PA c 1-PA. P? Ω. Por AX4, P ΩP +PΩ.De ΩΩ, PΩP +PΩ dode P 0. 3 PA 1 PA c 1-PA. Por AX, 1-PA 0. 4 PB-APB-PA B A B B-A por AX4, PA B B-APA B+PB-A. Como A B B-AB, segue o resulado.

5 5 Moooicidade A B PA PB Usado PB-APB-PA BpB-PA, em-se PAPB-PB-A por AX PB-A 0, dode PA PB. 6 prove que PA BPA + PB - PA B. ALGEBRA σ-álgebra Cojuos muidos com duas operações sobre cojuos adição e produo: e. c i A,B A B ii A A c A classe é fechada com odas as operações sobre cojuos, e.g. A B, A-B, A B. p.e.: A, B A c, B c logo A c B c A c B c c ou seja, A B

6 PROBABILIDADE TOTAL. i1 {Ai } i1 é uma parição de Ω i1 Ai Ω e A i A j i j. B Em uma parição, Σ i1 PAi BPB. Um ouro coceio imporae a eoria de probabilidades é o coceio de probabilidade codicioal.

7 PROBABILIDADE CONDICIONAL. Qual a Probabilidade da ocorrêcia do eveo B, se sabemos que um ouro eveo A ocorreu? PA, PB, PA B. A B

8 Desde que A ocorreu, o espaço amosral foi reduzido e a disribuição precisa ser aualizada. A ova medida de probabilidade P iduzida deve obedecer aos aiomas de Kolmogorov. P X A PX/PA. Com X A B P A BPA B/PA. B só ocorre agora se em A B, defie-se eão: PB/A: PA B/PA Esa ierpreação segue a via freqüeisa. PA BPA PB/A e PA B CPA PB/APC/ A B

9 REGRA DE BAYES Rev. Thomas Bayes Fe. A CANAL Fe. B PA PB/A PA/B a priori a poseriori A probabilidade a poseriori de um eveo A pode ser calculada em ermos da probabilidade a priori dese eveo.

10 PA/BPA B/PB PB/A. PA / PB Os eveos A e B são idepedees quado: INDEPENDÊNCIA PB/APB. VARIÁVEIS ALEATÓRIAS X:Ω R Ω w X R Corpo ordeado Ω,,P R,,P

11 Os espaços de probabilidade são mapeados pela variável aleaória. álgebra de eveos álgebra de iervalos Borel X fução mesurável PX P{w Ω: Xw } FUNÇÃO DISTRIBUIÇÃO DE PROBABILIDADE FDP F X PX.

12 FUNÇÃO DENSIDADE DE PROBABILIDADE fdp f X d PX /d d F X /d. B P B B f X d e + f d P Ω 1. MOMENTOS E MOMENTOS CENTRAIS m :EX ere os quais o mais imporae é m 1 EX média µ :E{X-m 1 } ere os quais o mais imporae é µ σ variâcia

13 DESIGUALDADE DE CHEBYSHEV Pafui L. Chebyshev Supoha Y uma ariável aleaória com média ula e variâcia fiia, m y 0 e σ y <+, e fução desidade de probabilidade f Y y. σ y Ey + + y y f y dy y f y dy, ou seja, σ y Py. Para uma variável aleaória Y:X-m X, em-se

14 PX-m X σ X / Chebyshev CORRELAÇÃO E INDEPENDÊNCIA X, Y Variáveis aleaórias. Momeo Cojuo m, EX Y m 11 EXYR XY Correlação ere X e Y

15 Momeo ceral cojuo µ, E{X-m X Y-m Y } µ 11 E{X-m X Y-m Y }K XY Covariâcia ere X e Y CovX,Y K XY E{X-m X Y-m Y } EXY- m X m Y K XY R XY - m X m Y CovX,Y RX,Y - m X m Y

16 Idepedêcia EX Y EX EY, Não correlação EXY EX EY. Noe que X e Y idepedees X, Y ão correlacioadas, porém a iversa em geral ão é verdadeira.

17 REVISANDO PROCESSOS ESTOCÁSTICOS Um processo esocásico P.E. é uma coleção ideada de variáveis aleaórias {X }, T. A variável pode ser discrea ou variável coíua. A cardialidade do cojuo de ídices T idica se o processo é um processo discreo ou coíuo. Xw 1, Fução w 1 Amosral W Xw,

18 Fução amosral ou Realização de um P.E. rajeória É uma geeralização do coceio de v.a., versão diâmica, cada isae, em-se uma variável aleaória diferee! Xw 1, fio Xw,

19 REPRESENTAÇÃO DE PROCESSOS ALEATÓRIOS Kolmogorov Um Processo Esocásico fica especificado se para qualquer coleção fiia de isaes { 1,,..., } cohecemos a fução disribuição cojua das variáveis aleaórias associadas, i.e. F ,,..., P As disribuições acima são referidas com Disribuições Fiio-dimesioais.

20 As disribuições fiio-dimesioais obedecem Kolmogorov: 1. Codição de simeria permuação j 1,j,...,j dos ídices 1,,..,, F j1 j... j ; j1 j... j F 1,,...; 1,..... Codição de Compaibilidade m< F 1,,.. m,+,...,+ ; 1,... m,..., F 1,,... m ; 1,... m.

21 P.E. - P.E.E. Amplo 3- P.E.E. Esrio

22 PROCESSO ESTACIONÁRIO SENTIDO ESTRITO Defiição. Um Processo aleaório é dio ser esacioário o seido esrio se e somee se escolhidos quaisquer isaes fiios, as fuções de disribuição fiio-dimesioal são ivariaes a um deslocameo a origem dos empos. 1 3

23 τ,, F ,,..., F 1+τ +τ... +τ 1,,...,. CONSEQÜENCIA: τ F 1 1 F 1+τ 1, i.e., mesma disribuição maém-se durae odo o processo. Em 1 : EX 1 + df X 1, Em : EX + df X. Logo EX 1 EX... EX cosae.

24 O processo esocásico esacioário em média úica, cosae. De modo geral, odos os momeos são cosaes, ivariaes à origem dos empos. PROCESSO ESTACIONÁRIO SENTIDO AMPLO DEF. Um P.E. é dio ser esacioário o seido Amplo se e somee se 1. E{X} ce.. E{X }<+ T 3. 1, T R X 1, R X - 1 R X τ.

25 A Fução de auocorrelação do processo ACF idepede da origem dos empos. **Apeas a média e variâcia permaecem cosaes ao logo do empo. Esacioaridade: seido esrio seido amplo

26 PRELIMINARES SOBRE SÉRIES DE FOURIER ESTOCÁSTICAS Irodução resumida e superficial: rudimeos de séries esocásicas. São abordados processos esocásicos periódicos, séries de Fourier esocásicas para processos esacioários seido amplo séries de Kahue-Loève. A geração de fracais aleaórios

27 Michel Loève Iegrais de Processos Aleaórios Deoado um processo esocásico por w,, em que w Ω,, eão uma iegral defiida y w : w, d, a e b fiios ou ão, é uma variável aleaória b a y : Ω R wa y w.

28 b a Sob codições apropriadas, se E w, d < +, eão odas as fuções amosrais são absoluamee iegráveis eceo por um cojuo de medida ula e b a b a w, E w, d E d. Muias vezes a iegral de um processo é poderada por uma fução de peso h, i.e. y w : h. w, d ou mais resumidamee, b a y : h. d. b a Caso paricular: a média o empo de um processo esocásico é uma v.a.: T < > lim 1 d : T T T, se o limie eise.

29 Séries para Processos Esocásicos Periódicos Supoha que X X +T p.s. p.s. igualdade quase cera, com probabilidade 1. Defiição. Um processo esocásico, esacioário o seido amplo, com fuções amosrais {}, é dio ser periódico de período T se sua fução de auocorrelação é periódica de período T, R X τr X τ+t As variáveis aleaórias e +T êm a mesma disribuição para qualquer valor de. Por coveiêcia e sem perda de geeralidade, supoha que E{}0.

30 As fuções amosrais podem ser desevolvidas em série de Fourier: N l. i. m. N N e jw0 π, w0 : T, em que 1 T T 0 e jw0 d é uma variável aleaória. Propriedade. Os coeficiees da série de Fourier são ão correlacioados, i.e. E * m 0, m. Prova. E * 1 T T * jw jmw s T T jw s E s e 0 e 0 1. dsd R s e 0 dsd m T 0 0 T 0 0.

31 Como Rτ é periódica, ela pode ser desevolvida em série de Fourier, jw r e R τ τ 0. Eão T jw T s m jw T T w j s w m j m d e ds e r T dsd e e r T E * 1 1 e fialmee, em ermos do símbolo de Kroecer, m m m r r E,,, * δ δ δ. A eergia média do processo pode ser calculada um iervalo T. T m jmw m jw T r T T E d e e E d E 0 0 * 0 0.

32 A média é, porao, obida calculado-se m lim 1 T T E T 0 d r. As médias agora ão são omadas o empo, mas sim como médias esaísicas Valor esperado. Porao, eigir esacioaridade o seido amplo para um processo esocásico é garair que o processo em um especro e pode ser ivesigado usado o domíio freqüecial.

33 Norber Wieer Alesadr Y. Khichi A Série de Fourier Esocásica Uma série rigoomérica de Fourier pode ser obida para um processo esocásico um iervalo arbirário a<<b. Supoha um processo esacioário o seido amplo, sem periodicidade.

34 N l. i. m. N N e jw0 π, w : b a 0, em que 1 b a b jw e 0 a d é uma variável aleaória. Ereao, difereemee do caso de processos aleaórios periódicos, os coeficiees são correlacioados para Tb-a fiio. Pode ser demosrado que 0 l. i. m. TE * m T.

35 Numa represeação rigoomérica, com w π : b a 0, em-se que c c cos w s sew 0, em que os coeficiees b a b c Re cos w a 0 são variáveis aleaórias. Também d e b a b s Im sew a 0 d c cm, m l. i. m. TE δ T ; s sm, m l. i. m. TE δ T e 0 l. i. m. TE c sm T.

36 AS EXPANSÕES DE KAHUNEN-LOÈVE Séries geeralizadas esocásicas orogoais com coeficiees descorrelacioados foram proposas por Kahue e Loève. Dado um processo esocásico esacioário o seido amplo, o processo pode ser decomposo um iervalo arbirário a,b sob a forma: N l. i. m. N σ N φ, a b, com b a * φ φ m d δ, m série orogoal * E m δ, coeficiees descorrelacioados m

37 Aalisado. A fução de auocorrelação R,s do processo pode ser calculada via., * * * * * s s E E s R s φ φ σ φ σ φ σ, b s a,. Agora, a seguie iegral: b a ds s s R, φ pode ser avaliada. b a b a ds s s ds s s R, * φ φ φ σ φ, ds s s R b a φ σ φ. Na liguagem de operadores, σ são auovalores e s φ auoveores da rasformação iegral com úcleo R,s.

38 T φ φ b : R, s a s ds e T φ λφ. } + As fuções { φ da decomposição orogoal devem obedecer à equação iegral b R, s φ s ds λφ a, a b. Supoha que a equação iegral é obedecida. Eão os coeficiees da série esocásica são ão-correlacioados. σ b * φ a d.

39 Eão m m m b a m m b a b a b a b a m m m d dds s s R ds s s d E E, * * * * *, δ σ φ σ φ φ φ φ φ σ σ O eorema da eergia o iervalo b a é epresso por * * * T b a E E d E σ φ σ φ σ ou seja, 0 b a d E σ.

40 Teorema da Amosragem para Processos Esocásicos De forma similar à descrição apreseada para siais deermiísicos Teorema de Shao- Nyquis-Koel iov, há versões de eorema da amosragem para processos esocásicos. Defiição. Um processos esocásico, esacioário o seido amplo e com fução de τ auocorrelação R S w, é dio ser bada limiada em f m Hz se e somee se sua desidade especral de poêcia verifica S w 0, w > πf m.

41 Para um processo dese ipo, a ACF pode ser represeada sob a forma π τ w Sa f R R m m +, em que m f R são amosras da fução de auocorrelação. Mosra-se que um processo esocásico bada limiada em f m Hz pode ser descrio por amosras eqüiespaçadas, colhidas em uma aa de f m amosras por segudo. Para N suficieemee grade : π w Sa f m N N m N

42 em que f m são amosras regulares do processo e a covergêcia se dá o seido que l. i. m. N N, ou seja, l. i. m. E N { N } 0. PROCESSO ESTOCÁSTICO BRANCO RUÍDO BRANCO O processo esocásico esacioário pelo meos o seido amplo com desidade especral cosae é associado ao ruído braco, em aalogia à cor braca que coém odas as cores com igual iesidade, em diversos comprimeos de oda.

43 P.E. braco-- a desidade especral é: ℵ S w 0 w, epressa em Was/Hz, valor usualmee deoado pela lera Aleph ℵ. 0 ℵ 0 Pelo eorema de Wieer-Kichie, R τ S w de modo que τ ℵ δ. NOTA: Ese é apeas um modelo eórico porém eremamee úil: a poêcia P de um ruído braco é ifiia, pois

44 P 1 dw + π. + S w ℵ R τ 0. A fução de auocorrelação ACF do processo braco é impulsiva, δ τ Qualquer que seja τ 0, duas amosras e +τ desse processo > descorrelaas, ão imporado quão próimas esejam. Isso só é possível para τ 0 em um processo de eergia ifiia, o qual pode variar abrupamee de um isae a ouro.

45 COMENTÁRIO Um processo esocásico ruído braco só diz respeio à desidade especral de poêcia e, porao, o grau de correlação ere amosras e ão acerca das disribuições. É possível se er um ruído braco gaussiao, um ruído braco impulsivo ec. o primeiro, além de um processo braco, as disribuições são gaussiaas; o segudo, além de um processo braco, as disribuições são laplaciaas ec..

46 CASO PARTICULAR processo gaussiao braco. Como a ão-correlação equivale à idepedêcia o processo gaussiao, odas as amosras do processo são idepedees! Todas as fuções fiio-dimesioais são cojuamee gaussiaas, com mariz de correlação diagoal variáveis idepedees. Séries de Kahue-Loève de Processo Bracos A decomposição em séries esocásicas de um processo esocásico braco é deveras curiosa. Para um ruído braco, Kahue-Loève evolve R ℵ, s 0 δ s, de modo que a equação iegral de

47 b ℵ, 0 b ℵ 0 R s φ s ds δ s φ s ds φ a a. Eão, em qualquer sisema orogoal { φ }, os coeficiees da série são variáveis aleaórias ão correlacioadas e qualquer decomposição orogoal é uma decomposição de Kahue-Loève, com auovalor λ ℵ 0. Ademais, em um processo braco Gaussiao, odos os coeficiees de Fourier esocásicos da série geeralizada, idepedees. σ φ d b a *, são variáveis aleaórias gaussiaas

48 Ese modelo é largamee usado em desevolvimeos eóricos e como modelo de ruído a aálise do efeio de ruído processo aleaório em sisemas. Séries de Fourier como mecaismo de Geração de Fracais Aleaórios Méodo simples para a geração de uma aproimação de um especro 1/f β Movimeo Browiao Fracioário com 1 β 1+ H 3. para o Para a geração de um sial de comprimeo N+1, seja o sial discreo N [ ] : A πj 1 cos + B N πj 1 se j j j 1 N, 0 N,

49 o qual os coeficiees de Fourier são aleaórios, deermiados via duas variáveis aleaórias auiliares: β / r j : j. G θ j : π. U As ampliudes são coroladas por uma v.a. ormalizada gaussiaa G e a fase com uma v.a. ormalizada uiforme U. Impodo, A : r 0 j N : B : j j r j j cosθ seθ j j, eão [] correspode a um processo de movimeo Browiao fracioário amosrado.