Princípios de Comunicação - s.7

Transcrição

1 Princípios de Comunicação - s.7 Adão Souza Jr. July 7, 207 Abstract Variável aleatória. Momentos de de primeira ordem. Processo gaussiano. Teorema do limite central. Momentos conjuntos. Geração de distribuições aleatórias diversas. Seção 5. e exemplo de sample and hold (5.2) da referência. Notas de aula. Seção 6. da referência 3 e seção 6. da referência 4. Simulações: Variável aleatória, Geração de distribuições diversas, Rayleigh e Gaussiana, Convergencia Central, Atividade de simulação s7 Exercícios: Exercícios de fixação s7 Aleatoriedade em Modelo de Comunicação Retomando nosso modelo simplificado de um enlace de comunicação, há uma série de pontos onde o modelo visto até agora de sinal determinístico não é suficiente para descrever o comportamento de alguns elementos; Espectro do trem de pulsos: A mensagem codificada é diferente a cada vez, assim sendo não é possível saber de antemão qual será o trem de pulsos resultante e consequentemente qual seu espectro. Pode-se, no entanto, a partir de algumas suposições sobre a estatística do sinal determinar seu provável comportamento e, consequentemente se calcular um espectro de potência. Isso é fundamental para determinarmos a Banda ocupada por sinais transportando mensagens reais.veremos que se faz isso considerando o sinal codificado em banda base um trem de pulsos aleatório com certas características. Ruído aditivo: É preciso alguma forma de determinar o efeito do ruido que se soma ao sinal transmitido quando o mesmo trafega sobre um meio físico. Veremos que considerar o rúído como uma variável aleatória com um dado conjunto de caracteristicas que se soma ao sinal irá permitir que analisemos o impacto dessa indeterminação nas etapas de detecção e decodificação da mensagem, onde o ruído irá gerar uma probabilidade de erro de detecção. Sistema variável no tempo: Em alguns casos a própria aproximação do canal como sistema LTI deve ser vista com reservas e a a própria banda disponível como um elemento que flutua estatísticamente. Modelos desse tipo podem ser bastante complexos e não serão abordados nesse curso introdutório.

2 Quantização: Finalmente um elemento do enlace de comunicação que muitas vezes está presente na codificação de fonte é a conversão analógico digital. Essa conversão é um processo não linear o que implica sua cota de problemas. Veremos, no entanto, que um bom modelo que pode ser usado dentro de certas condições é o chamado modelo de ruído de quantização, o qual dependerá novamente de assumirmos uma variável aleatória aditiva de ruído. Há, portanto, suficientes razões para retomarmos alguns conceitos de probabilidade a fim de aplica-los ao modelo de um enlace de comunicação. 2 Variável Aleatória Uma variável aleatória x é uma variável que pode assumir um conjunto de valores (seu conjunto verdade, que iremos representar como X) associando a cada possível valor uma probabilidade de ocorrência. Cada vez que a variável aleatória é observada denominamos o resultado desse eveto uma ocorrência ou realização. Identificamos realizações como índices da varíavel, assim x 0, x, x 2 e x 3 são realizações da variável aleatória x. 3 Função Desnsidade de Probabilidade - PDF Função densidade de probabilidade (Probability Density Function ou PDF) é a função que mapeia cada possível valor de x X a um valor de probabilidade de ocorrência. Iremos usar a convençãp f x (x) para indicar a função densidade de probabilidade da variável aleatória x. Por definição a integral da densidade de probabilidade sobre todos os possíveis valores de x deve ser unitária (00%). Ou seja X f x(x)dx =. A função que diz qual a probabilidade de que a variável x seja menor que um dado valor é chamada função probabilidade cumulativa e iremos simbolizar como F x. Ou seja, P x < X 0 } = X 0 f x(x)dx = F x (X 0 ), onde X o é uma constante que represente o resultado de alguma realização de x. Sabendo isso fica claro que x F x(x) = f x (x). Exemplo : Um dado não viciado de seis faces é uma variável aleatória discreta com distribuição uniforme e discreta tal que X=, 2, 3, 4, 5, 6 e f x = /6, x X. Exemplo 2: O erro de quantização, como será visto mais adiante, é uma variável aleatória contínua uniforme tal que X = [ LSB 2, + LSB 2 ], e f x (x) = LSB, x < LSB/2 0, x LSB/2. Onde LSB é o valor do bit menos significativo representado pelo dado quantizado. Assim, para uma resolução de oito bits (r=8) e uma faixa dinâmica de 2V (DR = 2), LSB = 2V/2 r. Exercício de fixação: Se x é uma variável aleatória, contínua uniforme no intervalo [-,2] 2

3 4 Valor Esperado ou Esperança O valor esperado de uma variável aleatória x é definifo sobre X como: Ex} = x f x (x)dx X Exemplo : Para o dado não viciado o valor esperado é calculado como somatório (variável discreta), assim. Ex} = 6 k= 6 k = 6 ( ) = 2/6 = 3, 5. Exemplo 2: Para o erro de quantização o valor esperado é calculado Ex} = LSB LSB/2 x2 x dx = LSB/2 2 KSB/2 LSB/2 = ( LSB2 8 LSB2 8 ) = 0. 5 Probabilidade e Realizações Se uma variável x é aleatória e A e B são duas condições para realizações independentes da mesma variável. Sabemos que a probabilidade de ocorrência de A é P x A = P 0 e que a probabilidade de ocorrência de B é P x B = P a probabilidade de ocorrencia de A B = P 0 + P e a probabilidade da ocorrência A B = P 0 P Note que isso é valido apenas se as realizações forem independentes. 6 Momentos de uma Variável Aleatória Definimos: Ex k } é o k-ésimo momento da variável aleatória x E(x µ x ) k } é o k-ésimo momento centrado da variável aleatória x, onde µ z = Ex} é a média de processo da variável x. Notem que o primeiro momento de x, ou seja, o momento para k= é a média de processo. Ou seja a média considerado todas as possíveis realizações de x em seu conjunto de possíveis valores X. Essa média não necessariamente coincide com a média temporal x = x t dt, onde x t são realizações independentes da variável x tomadas em instantes de tempo sucessivos. É trivial que, se a média de processo de x é igual a zero, os momentos de x serão iguais aos momentos centrados de x. Alguns momentos centrados de x tem nomes especiais, assim como a média. São eles: σ 2 x = E(x µ x ) 2 }, é a variância que, como se sabe, é o quadrado do desvio padrão, o x = E(x µ x ) 3 }, é a obliquidade (muitas vezes se usa a obliquidade normalizada pelo desvio padrão γ x = o x /σ x ), k x = E(x µ x ) 4 }, é a curtose (de mesmo modo, muitas vezes se usa a sua versão normalizada β x = k x /σ x ). 3

4 Obs: É possível definir a Função Geradora de Momentos da variável aleatória x, ou seja M x (Ω) de forma que seu k-ésimo momento seja dada pela sua k- ésima derivada avaliada em zero. Ou seja Ex k } = k M x(ω) Ω k Ω=0. Existe uma relação entre essa função e a função característica (Φ x ), que é definida como a transformada de Fourier de f x e isso é extensivamente usado na análise de quantização(por exemplo veja Widrow e Kollar nas referências). Essa é, no entanto, uma discussão que deve ser retomada em outro momento. 7 Estimadores de Momentos Eventualmente não é possivel termos acesso diretamente ao valor dos momentos de uma variável e se deve tentar aproxima-los a partir de um estimador que tome como entradas os valores de múltiplas realizações da variável. Assim, por exemplo, no caso do dado de seis faces podemos não saber que seu valor esperado é 3,5 e tentar calcular esse valor lançando o dado múltiplas vezes e estimando a média a partir dos resultados desses lançamentos. Os estimadores para média e variância com N realizações são dados por: ˆµ x,n = N N i= x i ˆσ 2 x,n = N N N i= (x i ˆµ x,n ) 2 Pode-se perceber que os estimadores, são, por si só novas variáveis aleatórias. Desse modo deve-se esperar que o valor obtido pelos mesmos oscile com uma certa distribuição. O estimador não irá dar um valor único pois cada vez que é calculado é uma realização dessa nova variável aleatória! Sabe-se, no entanto, que para N grande o bastante a distribuição do estimador deverá ser gaussiana com valor médio dado pelo momento que desejamos e um desvio (σ Mx,N ) que é função de N e da variância original de x (de fato σ Mx,N = σx N, ver Teorema do Limite Central). Se N for grande o bastante o desvio padrão desse estimador, pode, portanto, ser feito arbitráriamente pequeno. 8 Função de Variáveis Aleatórias Se aplicarmos uma função sobre uma variável aleatória x gerando uma segunda variável aleatória y = g(x), podemos calcular a as distribuições de probabilidade de y a partir das características de x. De fato, teremos : F y (y) = F x [g (y)] e f y (y) = f x [g (y)] y g (y) Exemplo : y = x 2, f x é uniforme com x [0, ]. Qual será f y? R: Sei que x = y e y x = 2 y. f x (x) =, 0 x 0, no resto 4

5 . Aplicando tenho f y (y) = 2 y, 0 y 0, no resto Exemplo 2: y = cos(x) e x é uniforme com x [ π, π] Como nesse intervalo cos(x) é inversível, tenho: x = cos (y) e f x (x) = 2π, π x π 0, no resto Assim: f y = 2π y cos (y) = 2π ) no intervalo y (, ), y 2 indefinido para y = ± (tende a infinito) e zero no resto. Notem que, como a soma total da distribuição é sabidamente unitária, pode-se aproximar a mesma com algum erro por uma distribuição uniforme de probabilidade /(2π) e dois deltas nos extremos com a maior parte da probabilidade. Ou seja f y 2π Π(y 2 ) + ( 2 ) [δ(y + ) δ(y )] 4π Na expressão Π(x) é o pulso retangular unitário. 9 Teorema do Limite Central O teorema do limite central (Central Limit Theorem) estabelece uma interessante propriedade de veriáveis aleatórias construídas a partir da soma de variáveis aleatórias independentes. Em sua forma mais clássica ele diz que, se tomarmos uma variável aleatória y definida como y = N k= x k onde x k são: realizações independentes de uma variável aleatória x ou variáveis aleatórias independes com mesma distribuição; e com média e variancia definidas. Nesse caso sabemos que para valores grandes de N, y tenderá a uma distribuição gaussiana com variância e médias conhecidas. Assim, se definirmos z como a distribuição y normalizada e centralizada em zero (ou seja, z = y µy σ y ) sabemos que f z 2π e z2 2. Ou ainda f y e (y µy ) 2 2σy 2π Onde sabemos ainda que σy 2 σ2 x N. Na realidade a condição de mesma distribuição não é necessária e há variações do CLT que garantem a convergência em casos mais amplos. Pode-se aprofundar essa discussão nas referências. 5

6 0 Múltiplas Variáveis Aleatórias Quando se lida com múltiplas variáveis aleatórias não basta mais saber a distribuição de cada uma delas, sendo necessário considerar a distribuição conjunta. É importante notar: Se x e y são nossas variáveis aleatórias, a suas densidade de probabilidade conjunta f x,y não pode ser derivada a priori de f x e f y pois as variáveis podem ser dependentes. Se x e y são independentes então F x,y = F x F y e ainda f x,y = f x f y Se x e y são independentes e se conhece a distribuição conjunta f x,y, então f x = Y f x,ydy e f y = X f x,ydx Se x e y são independentes e z=x+y, então f z = f x(u y) f y (y)dy = f y(u x) f x (x)dx = f x f y. Onde é o operador de convolução. De modo geral a probabilidade P A, B} = P x A, y B} = P B A}P A} = P A B}P B}. Onde P A B} ( P de A tal que B ) é a probabilidade condicional de x estar no intervalo A, sabendo que y está no intervalo B. Note que, assim como é possível calcular a distribuição de probabilidade da função de uma variável aleatória, e possível fazer o mesmo para funções de multiplas variáveis aleatórias. O processo é análogo e envolve o operador Jacobiano. Sugere-se as referências para maiores detalhes. 0. Momentos Conjuntos Quando se lida com duas variáveis aleatórias é possível definir os momentos conjuntos.esses momentos são importantes pois são uma métrica para inferir uma possível relação entre uma variável e a outra. A correlação entre x e y é simbolizada por R xy (x, y) e definida como R xy (x, y) = Ex y} A covariancia entre x e y é simbolizada por C xy (x, y) e definida como C xy (x, y) = E(x µ x ) (y µ y )} C xy (x, y) = Ex y} µ x µ y = R xy (x, y) µ x µ y. Isso pode ser provado diretamente da definição de covariancia: C xy (x, y) = E(x µ x ) (y µ y )} = Exy xµ y yµ x + µ x µ y } = Ex y} Exµ y } Eyµ x } + Eµ x µ y } = Ex y} µ y Ex} µ x Ey} + µ x µ y = Ex y} µ y µ x µ x µ y + µ x µ y = R xy (x, y) µ x µ y Note que, se duas variáveis x e y são independentes C xy (x, y) = 0. Isso decorre de, nesse caso,ex y} = Ex} Ey} = µ x µ y. Referencias. PAPOULIS, Athanasios; PILLAI, S. Unnikrishna. Probability, random variables, and stochastic processes. 4th ed. Boston: McGraw-Hill, c2002. x, 852 p. ISBN

7 2. WALPOLE, Ronald E. et al. Probabilidade e estatística: para engenharia e ciências. 8. ed. São Paulo, SP: Pearson Prentice Hall, ISBN WIDROW, Bernard, and KOllar, Istvan. Quantization noise. Cambridge University Press 2 (2008): 5. 7