2 Sinais Aleatórios em Tempo Contínuo. Parte I: Espaço de Probabilidade e Variáveis Aleatórias.

Transcrição

1 Sinais Aleatórios em Tempo Contínuo. arte I: Espaço de robabilidade e Variáveis Aleatórias. Na Figura. está representado um modelo simpliicado de um sistema de comunicação. No Capítulo justiicou-se a opção por um modelo aleatório para representar uma onte de inormação. Embora a discussão se tenha ocado no caso de ontes digitais, as razões apresentadas mantêm-se válidas quando a onte de inormação gera sinais analógicos em tempo contínuo. Assim sendo, utilizaremos um modelo estocástico (ou aleatório para representar a classe de sinais passíveis de serem gerados por uma onte de inormação analógica. Em geral, o sinal transmitido resulta de uma ou mais transormações realizadas sobre o sinal onte, aqui representadas de orma integrada num único bloco genericamente designado por emissor. Embora o sinal transmitido seja em geral dierente do sinal onte, as transormações envolvidas preservam a inormação original, e têm por objectivo adaptar a transmissão ao canal de comunicação e combater o eeito do ruído. sinal recebido estimativa do sinal onte Fonte Emissor Canal Receptor Destino + sinal onte sinal transmitido Ruído Figura.: Modelo simpliicado de um sistema de comunicação or natureza própria dos enómenos ísicos envolvidos o mecanismo de geração do ruído é aleatório, pelo que o modelo mais adequado para o representar é também do tipo estocástico. De acordo com o modelo da Figura., o sinal recebido à entrada do receptor é uma versão do sinal transmitido, eventualmente distorcida pelo canal de comunicação, e corrompida por uma amostra de ruído aditivo: rec tra ( t C t [ tra ( τ TC ] + n( t ( t E [ ( τ T ] t E (. onde C t e E t representam as transormações, em geral não instantâneas, realizadas pelo canal e pelo emissor sobre os respectivos sinais de entrada., tra e rec são o sinal onte, o sinal transmitido e o sinal recebido, respectivamente, e n é uma amostra do ruído. Note-se que o sinal disponível à entrada do receptor é desconhecido pois nem o sinal onte nem o ruído são conhecidos. Embora o canal, isto é, a transormação C t, possa também ser desconhecido, iremos admitir que dispomos de um modelo adequado para o representar. Tendo em conta a alta de conhecimento prévio sobre um conjunto de componentes importantes do sistema, torna-se óbvio que é impossível o receptor ornecer ao destinatário uma réplica eacta do sinal onte. O problema consiste então em desenhar o emissor e o receptor de modo a que este último possa, a partir do sinal recebido, gerar a melhor réplica possível do sinal onte. ara tal, e também para avaliar a qualidade do sistema, isto é, o grau de semelhança entre o sinal onte e a respectiva estimativa, torna-se necessário estudar o modelo de representação da onte e do ruído. -

2 . Introdução aos rocessos Estocásticos O conceito de processo estocástico constitui uma etensão da noção de variável aleatória e permite modelar uma classe de sinais cujo comportamento ao longo do tempo é não determinístico. A interpretação deste modelo pode azer-se com base na Figura. A idea básica é a de que cada sinal ou unção amostra daquela classe ocorre de acordo com os resultados de um modelo eperimental probabilístico. Com eeito, um processo estocástico t t; ξ, designados por unções amostra, onde ( não é mais do que um conjunto de sinais ( ξ i é um dos resultados elementares de um enómeno ísico completamente caracterizado pelo conjunto p de todos os resultados eperimentais directos. Antes de avançar mais na descrição deste modelo, convém recordar as noções de espaço de probabilidade e de variável aleatória. i ( t; ξ p ξ 3 ξ ξ ξ 7 ξ j ( t; ξ 3 ( t ; ξ i ( t ; ξ ξ i ( p,ω,( ( t; ξ ( t; ξ i ( t ; ξ ( t ; ξ 3 t t Figura.: Modelação de um rocesso Estocástico.. Espaço de robabilidade Consideremos o conjunto p ormado pelos elementos ξ i p, os quais simbolizam os resultados elementares de uma eperiência. or eemplo, ξ i pode representar a ocorrência de uma das aces resultante do lançamento de um dado ou o intervalo de tempo que decorre entre duas chamadas teleónicas consecutivas. p é portanto um modelo eperimental. Qualquer subconjunto de p é um acontecimento: a ocorrência de uma ace par corresponde à ocorrência das alternativas ace, ace 4 ou ace 6. Neste conteto, o conjunto vazio corresponde ao acontecimento impossível e p é o acontecimento certo. O conjunto de todos os subconjuntos de p constitui o espaço de amostras Ω. Note-se que os elementos de Ω são a união de acontecimentos elementares de p os quais, por deinição, são mutuamente eclusivos. Recorde-se que dois acontecimentos A e B são mutuamente eclusivos sse A B. ara completar este modelo probabilístico é necessário atribuir uma medida de probabilidade a todos os acontecimentos de Ω. A probabilidade é uma unção dos elementos de Ω que veriica os aiomas: (i (A (ii (p (. (iii (A B (A + (B se A B -

3 O triplete (p,ω,( é designado por espaço de probabilidade. Note-se que o espaço de amostras Ω, sendo o conjunto ormado por todos os subconjuntos de p, satisaz as seguintes propriedades: (i p Ω (ii se A Ω então A C Ω (.3 (iii i, A i Ω então i A i Ω A partir de (. e (.3 é possível derivar algumas propriedades adicionais da medida de probabilidade (, tais como :. (A C -(A (.4. ( (.5 3. (A B (A + (B (A B (.6 4. A B (A (B (.7... robabilidade Condicional e Independência Estatística De..: Dado um acontecimento M tal que (M, a probabilidade de ocorrência do acontecimento A condicionada na certeza da ocorrência de M é deinida por ( A M ( A M ( M. (.8 Suponhamos que A e M são acontecimentos pertencentes ao espaço de amostras Ω associado ao espaço de probabilidade (p,ω,(. Admitamos ainda que em N repetições da eperiência representada pelo modelado eperimental p os acontecimentos M e A M ocorrem N M e N A M vezes, respectivamente. É sabido que para um valor de N suicientemente elevado para que N M e N A M tomem também valores muito elevados se veriica isto é, N NA M, N N M ( M e ( A M ( A M NA ( M NM M. Note-se que o acontecimento A M ocorre sse A e M ocorrerem em simultâneo; N A M conta assim o número de vezes que, na série de ocorrências de M, o acontecimento A também ocorre. Este raciocínio eplica, ainda que de orma empírica, a deinição de probabilidade condicional epressa em (.8. A probabilidade condicional goza das seguintes propriedades:. (A M (.9. (p M (. 3. A B (A B M (A M + (B M (. or ser relativamente simples, deia-se como eercício a demonstração destas propriedades. -3

4 A propriedade (.9 resulta directamente do acto de A M ser um acontecimento em Ω. De acto, tendo em conta que a medida de probabilidade é não negativa, (A M, e a quantidade deinida em (.8 é não negativa. Como p M M, a igualdade (. é imediata. Usando (.8, temos ( A B M (( A B M ( M (( A M ( B M ( M. Sendo A e B mutuamente eclusivos, o mesmo acontece com A M e B M. Assim, (( A M ( B M ( M e, tendo em conta (.8, obtém-se (.. ( A M ( M + ( B M ( M De..: Dois acontecimentos A e B são estatisticamente independentes sse ( A B ( A ( B. (. Desta relação e de (.8 conclui-se ainda que se dois acontecimentos A e B são estatisticamente independentes, então ( A B ( A ( B A ( B. (.3... robabilidade Total Consideremos o conjunto p de todos os acontecimentos elementares associados a um determinado modelo eperimental. Suponhamos que, tal como se mostra na Figura.3, se A,A,, de p. deine a partição [ ] AM p A B A M A Figura.3: artição do conjunto p Seja B um acontecimento qualquer deinido em p, isto é, B Ω. Como p A A A M, então -4

5 B B ( A A AM ( B A ( B A ( B A M Como se vê na Figura.3, os acontecimentos A,...,A M são mutuamente eclusivos e portanto também com os acontecimentos (B A,..., (B A M são mutuamente eclusivos. Logo ou, atendendo a (.8, ( B ( B A + ( B A + + ( B, ( B ( B A m ( A m M m AM. (.4 Este resultado é conhecido por Teorema da robabilidade Total e permite calcular a probabilidade de um acontecimento B se as probabilidades condicionais (B A m e a priori (A m orem conhecidas....3 Teorema de Bayes Suponhamos que os acontecimentos B e A m, m,,...,m, veriicam o teorema da probabilidade total. Então, o Teorema de Bayes diz que as probabilidades a posteriori (A m B, m,,...,m, se eprimem em termos das probabilidades a priori (A m, m,,...,m, do seguinte modo ( A B m ( B Am ( Am ( B Am ( Am M. (.5 m Este resultado deriva directamente da deinição de probabilidade condicional (.8 e do teorema da probabilidade total (.4 e, como veremos mais tarde, desempenha um papel muito importante em muitos problemas de engenharia, em particular, no desenho de receptores em sistemas de comunicações digitais... Variáveis Aleatórias Uma variável aleatória é uma unção ( ξ cujo domínio é o conjunto p de resultados eperimentais elementares ξ, sendo o conjunto dos números reais o respectivo contradomínio. Formalmente, a especiicação de uma variável aleatória assenta no espaço de probabilidade (p,ω,(, isto é, no conjunto p de acontecimentos elementares, no espaço de amostras Ω, e na medida de probabilidade ( deinida para cada elemento de Ω. ara ilustrar a construção do modelo de uma variável aleatória consideremos a Figura.4. Como se pode veriicar, a cada elemento de p az-se corresponder um e um só número real. No entanto, pode acontecer que a mais de um elemento de p corresponda um único valor de. Uma variável aleatória complea deine-se por ( ξ r ( ξ + j ( ξ variáveis aleatórias reais e j é a unidade imaginária., onde ( ξ i e ( ξ r são i -5

6 p A ξ i B (ξ i Figura.4: Modelação de um Variável Aleatória Real Note-se que qualquer acontecimento em Ω é representado por um intervalo em. or eemplo, os acontecimentos A e B são representados pelos intervalos { } e B { < } A, onde, e são números reais. No eemplo da Figura.4 o contradomínio da variável aleatória é constituído por um conjunto contável de números reais. Quando assim é diz-se que a variável aleatória é discreta. Uma variável aleatória é contínua se o seu contradomínio or uma união de intervalos em. Finalmente, se o contradomínio or a união de intervalos de com um conjunto contável de números reais, a variável aleatória é do tipo misto. A especiicação de uma variável aleatória completa-se recorrendo à medida de probabilidade ( associada ao espaço de probabilidade.... Função de Distribuição Cumulativa De..3: A unção de distribuição cumulativa de uma variável aleatória é dada por 3 : F ( (. (.6 A unção de distribuição goza das seguintes propriedades 4 :. F F ( ( ( + ( (.7. F ( é monotónica crescente, isto é, se ( F ( <. (.8 então F 3 A unção de distribuição será sempre representada por F; o subíndice em letra maiúscula designa a variável aleatória a que se reere F. 4 or ser relativamente simples, deia-se como eercício a demonstração destas propriedades. -6

7 3. 4. ( F ( >. (.9 ( F ( F ( <. (. A unção de distribuição pode ser contínua ou descontínua conorme o tipo de variável aleatória a que se reere. Consideremos uma variável aleatória do tipo misto cujo contradomínio é o conjunto CD ], [ [, [, e admitamos que ( p. A Figura.5 ilustra esta situação. A dierença p ( + F ( F é o salto de descontinuidade de F no ponto. A partir da igura podemos concluir que + ( F ( + F, ou seja, ( F (. F ( p F ( + F ( - Figura.5: Distribuição de probabilidade de uma variável aleatória mista Como os acontecimentos { < } e { } são mutuamente eclusivos, temos isto é, ( ( < + (, ( F ( F ( p ( < F (. artindo desta discussão podemos inerir que, nos casos das variáveis aleatórias discretas e contínuas, as respectivas unções de distribuição são unções em escada no primeiro caso e contínuas no segundo, como se mostra na Figura.6. F F p i (a i (b Figura.6: Funções de distribuição: (a variável discreta, (b variável contínua -7

8 ... Função Densidade de robabilidade ara além da unção de distribuição, a unção densidade de probabilidade pode ser usada para caracterizar uma variável aleatória de orma equivalente. De..4: Seja uma variável aleatória contínua com unção de distribuição F (. A unção densidade de probabilidade de é deinida por 5 : (. df ( (. d A unção densidade de probabilidade goza das seguintes propriedades 6 :. Uma vez que F é não decrescente, ver (.8, então. (.. De (. resulta ( < ( µ dµ. (.3 ( ( µ - F dµ. (.4 - ( + ( µ F dµ. (.5 Graicamente, a unção densidade de probabilidade de uma variável aleatória contínua tem o aspecto genérico que se mostra na Figura.7.Como se vê, a unção densidade de probabilidade tende para zero quando vai para ±, e pode ser multimodal, isto é, apresentar diversos máimos. Figura.7: Densidade de probabilidade de uma variável aleatória contínua 5 A unção densidade de probabilidade será sempre representada por ; o subíndice em letra maiúscula designa a variável aleatória a que se reere. 6 or ser relativamente simples, deia-se como eercício a demonstração destas propriedades. -8

9 ... Densidade de robabilidade de uma Variável Aleatória Discreta No caso de variáveis aleatórias discretas, a unção de distribuição não é contínua e portanto (. em De.. não tem sentido. Uma variável aleatória discreta toma valores k com probabilidade ( k p k F ( k + -F ( k -, pelo que podemos usar a notação ( p, k,, (.6 k k que especiica a densidade de probabilidade pontual. Neste conteto, não é a derivada de F, sendo deinida pelas amplitudes dos saltos de descontinuidade da unção de distribuição. Graicamente, representa-se como se ilustra na Figura.8. p k- p k- p k+ p k a k- k- k k+ p k+ b k+ Figura.8: Densidade de probabilidade de uma variável aleatória discreta Neste conteto, as propriedades da unção densidade de probabilidade pontual equivalentes a (.3, (.4 e (.5 são 7 :. Sejam i e j os valores de imediatamente superior a a e inerior ou igual a b, respectivamente. Ver eemplo da Figura.8. Então j ( a < b p k ( k k i j. (.7 k i. Seja j o valor de imediatamente inerior ou igual a a. Então j ( a ( k F. (.8 k 3. ( + ( k F. (.9 k Alternativamente, podemos estender o espaço onde se deinem as unções densidade de probabilidade deinidas por (. de modo a incluir a distribuição δ ( de Dirac b a δ ( c d se a c b caso contrário. (.3 7 A propriedade (. mantém-se. -9

10 Deste modo, a densidade de probabilidade pontual de uma variável aleatória discreta é generalizável de modo a suportar a dedinição (., e escreve-se na orma ( p δ( k k. (.3 k Usando esta deinição em (.3, (.4 e (.5 e tendo em conta (.3, recuperam-se acilmente as epressões (.7, (.8 e (.9, respectivamente....3 Operador Valor Epectável Considere-se a variável aleatória caracterizada pela densidade de probabilidade e a transormação ( g (.3 a partir da qual se deine uma nova variável aleatória. De..5: O valor epectável da variável aleatória é deinido por E { } g( µ ( µ dµ -. (.33 Note-se que se, em particular, a transormação g ( or a identidade, isto é,, então de (.33 resulta { } µ ( µ E dµ, (.34 ou seja, o valor epectável da variável aleatória. ode também mostrar-se, como veremos mais adiante, que o operador valor epectável é linear, isto é, { } α E{ } + E{ }. α + α E α ( Momentos De..6: Fazendo em (.3 ordem n da variável aleatória : n ( n n n E{ } µ ( µ -, e usando (.33, obtém-se o momento de m dµ. (.36 O momento de primeira ordem, abreviadamente representado por m, é o valor epectável de já introduzido em (.34. O momento de segunda ordem, m E, é normalmente designado por correlação. ( { } -

11 ...3. Momentos Centrados De..7: Fazendo em (.3 ( n m e usando (.33, obtém-se o momento centrado de ordem n da variável aleatória : µ n n { } ( ν m ( ν ( n ( m - E dν. (.37 O momento centrado de primeira ordem é nulo. O momento centrado de segunda ordem é designado por variância: ( σ. µ É ácil veriicar que a variância veriica a igualdade ( σ m m, (.38 ou seja, é a dierença entre a correlação e quadrado do valor epectável. ortanto, no caso em que tem valor epectável (média nulo, a variância coincide com a correlação Desigualdade de Chebyshev Na caracterização estatística de uma variável aleatória é requente azer-se uso de um outro parâmetro, relacionado com a variância, e designado por desvio padrão: ( ( σ ( m m σ. (.39 ara se entender que tipo de estatística é medida pelo desvio padrão consideremos uma variável aleatória qualquer Z e um número real arbitrário ε > ininitésimal. Qualquer que seja a >, a { Z } µ ( µ dµ µ ( µ dµ + µ ( µ E dµ ; Z em qualquer das parcelas do termo mais à direita da relação anterior, o actor µ toma, em qualquer das duas integrandas, valores não ineriores a a. ortanto, podemos ainda escrever Z a ε a { } a ( µ dµ + ( µ dµ a ( Z a E Z Z Z, ε a ε Z ou ainda E ( { Z } Z a. (.4 a Fazendo em (.4 Z m e a kσ, k +, obtém-se a desigualdade de Chebyshev, a qual se pode escrever em qualquer das ormas alternativas seguintes: -

12 ; (.4 k ( m kσ. (.4 k ( m < kσ > A desigualdade de Chebyshev permite airmar que, independentemente da unção, a probabilidade de tomar valores ora de um intervalo centrado em torno do respectivo valor epectável e com comprimento igual a k desvios padrão é sempre não superior a K. Um valor pequeno do desvio padrão signiica um pequeno espalhamento dos valores mais prováveis de em torno do valor médio. or eemplo, para k, qualquer variável aleatória toma valores entre m -σ e m +σ com probabilidade superior a Eemplos de Variáveis Aleatórias Neste parágrao iremos dar eemplo de algumas variáveis aleatórias de grande interesse para o desenho e análise de sistemas de telecomunicações.. Bernoulli Variável aleatória discreta cujo contradomínio é o conjunto {,} de probabilidade ( ( p p com C D com distribuição p. (.43 Esta variável aleatória é usada para modelar ontes binárias e a ocorrência de erros de transmissão num sistema de comunicações digitais.. Binomial Variável aleatória discreta cujo contradomínio é o conjunto C D + dos inteiros não negativos e que representa, por eemplo, o número de 's que ocorrem numa sequência de n ocorrências de Bernoulli. A respectiva densidade de probabilidade pontual é da orma ( k n k p k ( p n k k n k > n (.44 A distribuição binomial serve, por eemplo, para modelar o número total de símbolos recebidos com erro numa sequência de n símbolos estatisticamente independentes, sendo p a probabilidade de erro por símbolo. 3. Uniorme Variável aleatória contínua cuja unção densidade de probabilidade é deinida como a b ( b a (.45 caso contrário A distribuição uniorme pode ser usada para representar a ase de uma sinusoide num intervalo de comprimento π. -

13 4. Laplace Variável aleatória contínua cuja densidade de probabilidade é deinida por α ( ep( α < < (.46 Neste caso pode ser usada para modelar a amplitude de um sinal de voz. 5. Gaussiana ou Normal A variável aleatória gaussiana é de grande importância na análise do desempenho de sistemas de comunicações pois o ruído térmico, uma das ontes de ruído mais típicas neste tipo de sistemas, tem uma distribuição de amplitude gaussiana. A respectiva densidade de probabilidade é dada por ( ( ep m < < (.47 πσ σ onde m e σ são a média e o desvio padrão de, respectivamente....5 Transormação de Uma Variável Aleatória Consideremos uma variável aleatória com densidade de probabilidade e a transormação g, (.3 ( onde g é uma unção conhecida para a qual eiste a transormação inversa ( y g. (.48 Em geral, g pode ser não monotónica pelo que a solução da equação y g( dada por (.48 não é única. O problema que iremos abordar é o de calcular a densidade de probabilidade dadas a tranormação (.3 e a densidade. ara simpliicar, começaremos por assumir que g é uma unção monotónica, isto é, a solução dada por (.48 é única. Consideremos a ilustração deste problema apresentada na Figura.9. Note-se que ao acontecimento ], + d ] deinido sobre o espaço de amostras da variável corresponde o mesmo acontecimento ]y, y + dy ], este deinido sobre o espaço de amostras de, e determinado pela transormação g. orque se trata do mesmo acontecimento, podemos concluir que ( + d ( y < y < + ; dy Admitindo que d e dy são ininitesimais, as probabilidades da igualdade anterior, dadas pelas áreas sombreadas na Figura.9, podem ser aproimadas por ou seja, ( d ( y dy, -3

14 ( y (. (.49 dy d y y g( g y y +dy y +d +d Figura.9: Transormação de uma variável aleatória Uma vez que g - (y, no limite, quando d, a aproimação (.49 converge para a solução eacta ( ( g ( y (, y : y g( ( y, (.5 g' g ( y onde ( dg g '. d Eemplo.: Consideremos a transormação m + α onde é uma variável gaussiana de média nula e variância unitária. retendemos conhecer a densidade de probabilidade de. Usando (.47 podemos escrever. (.5 ( ep π or outro lado, g'( α e g (y α - (y m. Substituindo em (.5 obtemos ( y m ( y ep π α, α -4

15 isto é, uma gaussiana de média m e variância α. Eemplo.: Suponhamos a transormação, onde é também gaussiana de média nula e variância unitária como no eemplo anterior (ver (.5. Neste eemplo, a transormação é não monotónica pelo que (.5 não pode ser aplicada directamente. No entanto, se nos socorrermos da Figura. veriicamos que um acontecimento A y deinido sobre o espaço de amostras de é o mesmo que a união de dois acontecimentos mutuamente eclusivos B -y e B y deinidos no espaço de amostras de. ortanto, a probabilidade associada a A y é a soma das probabilidades associadas a B -y e B y. Isto quer dizer que a solução (.5 tem no caso presente duas parcelas correspondentes às duas soluções da equação y. y g y y -y y Figura.: Valor absoluto de uma gaussiana Como em valor absoluto a derivada da tranormação é unitária, teremos ( y ( y ( + y ep + ep y, π + π ou seja, y ep ( y y π (.5 y < A partir deste eemplo podemos generalizar (.5 para o caso em que a transormação g é não monotónica. Facto.: Sejam,, N as soluções da equação y g(, onde g é uma transormação arbitrária. Sendo g(, onde tem densidade de probabilidade, então a densidade de probabilidade de vem dada por ( n ( N ( y. (.53 n g' n g ( y n -5

16 ..3 Distribuições Conjuntas e Condicionais Os conceitos introduzidos na secção anterior podem ser generalizados para o caso de vectores aleatórios, isto é, cujos componentes são variáveis aleatórias. or questões de simplicidade, iremos conduzir a apresentação para o caso de vectores bidimensionais...3. Função de Distribuição Conjunta Consideremos duas variáveis aleatórias e deinidas sobre o conjunto p associado a um determinado modelo eperimental. Naturalmente, as propriedades estatísticas de cada uma das variáveis aleatórias quando consideradas isoladamente são completamente determinadas pelas respectivas unções de distribuição F e F. No entanto, o mesmo não acontece quando se consideram as propriedades conjuntas de e. Em particular, o conhecimento de F e de F não é em geral suiciente para calcular a probabilidade { (, D} de que o par (, tome valores numa região D. De..8- A unção de distribuição conjunta das variáveis aleatórias e é deinida como F (, y (, y onde {, y} { } { y}, (.54. y y D y D y D 3 y y Figura.: Acontecimentos em Uma vez que F (, y representa a probabilidade de o par (, tomar valores na região D representada na Figura., é ácil veriicar a partir de (.54 que as probabilidades de, nas regiões D, D, e D 3 são, respectivamente, ocorrência ( (, y < y F (, y F (, ; (.55 y (, y F (, y F (, y < ; (.56 ( <, y < y F(, y F(, y F (, y + F (, y D. (.57-6

17 ..3. Densidade de robabilidade Conjunta De..9- A unção densidade de probabilidade conjunta das variáveis aleatórias e é deinida como (, y Desta deinição resulta que (, y F. (.58 y e, em particular, {(, D} ( µ, ν dµ dν (.59 y D (, y ( µ, ν F dµ dν. (.6 - Eemplo.3: Consideremos a região D 3 deinida na Figura.; azendo uso de (.59 e de (.58 obtém-se sucessivamente: Note-se inalmente que y {(, D } ( µ, ν 3 y F d dµ [ F ( µ, y F ( µ, y ] (, y F (, y F (, y + F (, y dµ dν dν e que (, y (.6 F (, ( µ, ν dµ dν +. ( Distribuições e Densidades Marginais Relativamente ao par de variáveis aleatórias (,, diz-se que F (ou F e (ou são, respectivamente, a distribuição e a densidade de probabilidade marginal da variável (ou. Consideremos a Figura.(a. Naturalmente, { } {, } é o conjunto de todos os pares (, à esquerda de L e, portanto, ( F (, F. (.63 or outro lado, e relativamenta à Figura.(b, podemos observar que ou seja, ( d { < + d} { D}, -7

18 e, em conclusão, ( d (, ν ddν d (, ν D dν - ( (, ν dν. (.64 y L y L y D d (a (b Figura.: Distribuições marginais De modo equivalente, podemos também escrever e F ( y F ( +, y - ( y ( µ, y dµ Variáveis Aleatórias Estatisticamente Independentes De..- As variáveis aleatórias e são estatisticamente independentes (ou simplesmente independentes se os acontecimentos { } e { y} orem independentes, isto é, se {, y} { } { y}. (.65 Deste modo, se e orem estatisticamente independentes, então a distribuição conjunta é o produto das distribuições marginais, ou seja, (, y : F (, y F ( F ( y. (.66 Atendendo a (.58 e a (., de (.66 resulta (, y : (, y ( ( y, (.67 o que signiica que se e orem independentes então a densidade de probabilidade conjunta é o produto das densidades marginais. -8

19 ..3.5 Média, Correlação e Covariância Consideremos a variável aleatória Z g(,, onde g é uma unção conhecida. Seja D z a região de onde z g(, z + dz; para cada dz corresponde uma região D z onde g(, z e { z Z z + dz} { (, }. À medida que dz cobre a recta real, as correspondentes regiões D z, disjuntas, cobrem o plano e, portanto, isto é, D z {} Z z ( z dz g(, y (, y ddy, E Z - { g( ; } g(, y (, y ddy. (.68 E Estamos agora em condições de demonstrar a linearidade do operador valor epectável. Com eeito, sendo α + α, podemos então sucessivamente escrever E { } ( αy + α y ( y, y dydy α y ( y, y dydy + α y ( y, y α y ( y, y dy dy + α y ( y, y α y y ( y dy + α y y ( y dy α E{ } + α E{ } dy dy dy dy A correlação entre as variáveis aleatórias e deine-se por R E{ }. (.69 Sendo σ e σ as variâncias de e, respectivamente, então o coeiciente de correlação entre e é C ρ, (.7 σ σ onde C {( m ( m } E (.7 é a covariância entre e, e m e m os respectivos valores epectáveis. Usando (.7 e (.69, obtém-se a seguinte relação: C R m m. (.7 De..- As variáveis aleatórias e são incorrelacionadas sse C ρ R m m. (.73-9

20 De..- As variáveis aleatórias e são ortogonais sse R. (.74 Facto.: Sejam e variáveis aleatórias estatisticamente independentes. Então e são variáveis aleatórias incorrelacionadas. Se e são estatisticamente independentes então (, y ( ( y. (.69 e (.68 vem R m y m (, y ddy ( d y ( y ortanto, de o que, de acordo com a De.., signiica que e são incorrelacionadas. Sublinha-se que, em geral, duas variáveis aleatórias incorrelacionadas não são necessariamente estatisticamente independentes. Eemplo.4: Variáveis aleatórias conjuntamente gaussianas. Sejam e duas variáveis aleatórias conjuntamente gaussianas com médias m e m e variâncias σ eσ, respectivamente. Então, sendo ρ o coeiciente de correlação entre e, dy (, y πσ σ ρ ep σ ( m ( ρ ( y m σ ( ρ ρ + ( m ( y m σ σ ( ρ (.75 Facto.3: A correlação entre duas variáveis aleatórias e veriica a desigualdade de Schwarz E { } E{ } E{ }. (.76 A igualdade é veriicada quando e são proporcionais, isto é, quando c. Consideremos a seguinte igualdade onde c é uma constante arbitrária: { } E{ } ce{ } + c E{ }. ( c E ( c I Note-se que I( c representa uma parábola. ortanto, a equação I ( c não pode ter mais do que uma solução real. or outras palavras, o binómio descriminante da órmula resolvente da equação algébrica do º grau deve veriicar 4E { } 4E{ } E{ }, de onde (.76 resulta imediatamente. or outro lado, a solução real única obtém-se quando o binómio descriminante é nulo e vale precisamente c. Facto.4: O coeiciente de correlação entre duas variáveis aleatórias e veriica a desigualdade ρ, (.77 -

21 atingindo o valor máimo quando c. Este acto resulta directamente do Facto.3 e das deinições (.7 e ( Funções de duas Variáveis Aleatórias O problema que aqui consideramos é o de, dadas as variáveis aleatórias Z g W h (, (, (.78 e as transormações g (, e h (, ZW (, em termos de (,, eprimir a unção densidade de probabilidade conjunta. Assume-se que as transormações (.78 têm inversa. O resultado constitui uma generalização natural de (.53 pelo que não será aqui demonstrado., y, n,,, as N soluções do sistema de equações (.78 e Sejam ( N, n n (, y g(, y g y J (, y det (.79 h(, y h(, y y o respectivo Jacobeano. Então, onde os pares (, y, n,,, N, n n n ( n, y n (, y N ZW ( z, w, (.8 J n n aparecem epressos em termos de z e w. Eemplo.5: retende-se determinar Z ( z, sabendo que Z + e conhecendo (, y. Começamos por deinir a variável aleatória W, ormando o par de transormações Z +. W Qualquer que seja o par ( z, w, o sistema anterior tem apenas uma solução (, y ( z w, w or outro lado, J (, y e, portanto, Note-se que ( z e (.8, ZW ( z, w ( z w, w. (.8 Z é uma das densidades marginais de ( z, w ( z ( z w, w. ZW, ou seja, atendendo a (.64 Z dw. (.8 No caso particular em que as variáveis aleatórias e são estatisticamente independentes,,, e (.8 toma a orma de um integral de convolução ( ( ( -

22 ( z ( z w ( w Z dw. (.83 Facto.5: A unção densidade de probabilidade da soma de duas variáveis aleatórias estatisticamente independentes é dada pelo integral de convolução das densidades de probabildade das parcelas Teorema do Limite Central Seja Z N a soma de N variáveis aleatórias { } N n n estatisticamente independentes e com distribuições de probabilidade arbitrárias. O teorema do limite central diz que a variável aleatória Z tem uma distribuição de probabilidade que tende para a de uma gaussiana quando N Distribuições Condicionais De..3- A unção de distribuição da variável aleatória dada a ocorrência do acontecimento A é dada por F A ( A { A} {, A} { A}. (.84 Note-se que esta deinição é coerente com as Des..3 e. de unção de distribuição de uma variável aleatória e de probabilidade condicional, respectivamente. De..4- A unção densidade de probabilidade da variável aleatória dada a ocorrência do acontecimento A é dada por ( A. df A A ( A (.85 d Do teorema da probabilidade total, ver (.4, e azendo B { } F ( F A ( A m ( A m m M m, podemos escrever, (.86 onde { A } M m m é uma partição arbitrária do conjunto p e ( A, m,,, m M, são as respectivas probabilidades de ocorrência. De (.86, (. e (.85 decorre ainda que ( A ( A m ( A m m M m. (.87 A órmula de Bayes pode também ser generalizada para o conteto das variáveis aleatórias. Se em ( ( B A A B ( A B ( -

23 izermos B { }, então e, de modo análogo, ( A ( A ( F A ( A (.88 F ( A ( A F A ( A F ( F ( F A <. (.89 ( A Usando o acto de ( A lim ( A < + em (.89, obtemos ( A ( A (, e azendo e + A ( A. (.9. Multiplicando ambos os membros de (.9 por ( e integrando em, vem pois a área limitada por ( A ( A ( A ( d, (.9 A é obviamente unitária. Note-se que (.9 constitui uma outra orma de apresentar o teorema da probabilidade total. Finalmente, de (.9 e (.9 obtém-se a correspondente órmula de Bayes A ( A ( A (. (.9 ( A ( d Facto.6: A unção de densidade de probabilidade conjunta de duas variáveis aleatórias e é, em geral, dada por (, y ( y ( y. (.93 e são estatisticamente independentes sse ( y ( (.93 obtém-se a relação (.67. Retomando (.84 e azendo A { y < y + y}, podemos escrever. Neste caso, de ou seja, F (, y < y + y F ( y < y + y ( y < y + y, A [ ]. (, y + y F (, y F ( y < y + y F ( y + y F ( y A Dividindo ambos os membros da igualdade anterior por y e tomando o limite, quando y, obtém-se F (, y df ( ( y F y, y dy resultando (.93 após derivação de ambos os membros em ordem a. -3