Disciplina: Processamento Estatístico de Sinais (ENGA83) - Aula 06 / Classes Especiais de Processos Aleatórios

Disciplina: Processamento Estatístico de Sinais (ENGA83) - Aula 06 / Classes Especiais de Processos Aleatórios Prof. Eduardo Simas (eduardo.simas@ufba.br) Programa de Pós-Graduação em Engenharia Elétrica/PPGEE Universidade Federal da Bahia ENGA83 - Semestre 2012.1 Prof. Eduardo Simas (PPGEE/UFBA) Aula 06 - Classes Especiais de Proc. Aleat. ENGA83 - Semestre 2012.1 1 / 28

Conteúdo 1 Introdução 2 Modelos Lineares Discretos Processos AR Processos MA Processos ARMA 3 Processos de Markov 4 Processos Gaussianos Prof. Eduardo Simas (PPGEE/UFBA) Aula 06 - Classes Especiais de Proc. Aleat. ENGA83 - Semestre 2012.1 2 / 28

Introdução Na análise de sinais determinísticos, tipos especiais de sinais como impulsos, exponenciais complexas, degraus, são particularmente importantes. No caso dos processos aleatórios (PA), também existem classes especiais de PAs que desempenham papel fundamental no desenvolvimento da teoria e em aplicações práticas como por exemplo: - processos auto regressivos (AR); - processos de média móvel (MA); - processos Gaussianos; Prof. Eduardo Simas (PPGEE/UFBA) Aula 06 - Classes Especiais de Proc. Aleat. ENGA83 - Semestre 2012.1 3 / 28

Modelos Lineares Discretos Prof. Eduardo Simas (PPGEE/UFBA) Aula 06 - Classes Especiais de Proc. Aleat. ENGA83 - Semestre 2012.1 4 / 28

Processos Auto Regressivos Um processo auto regressivo (AR) de ordem p pode ser descrito pela equação a diferenças a seguir: X (n) = p h i X (n i) + e(n) sendo e(n) um ruído branco gaussiano. Um processo AR pode ser modelado a partir de um filtro recursivo, conforme mostrado no próximo slide. Prof. Eduardo Simas (PPGEE/UFBA) Aula 06 - Classes Especiais de Proc. Aleat. ENGA83 - Semestre 2012.1 5 / 28

Processos Auto Regressivos Diagrama em blocos do modelo AR: sendo o operador atraso unitário (z 1 ). Prof. Eduardo Simas (PPGEE/UFBA) Aula 06 - Classes Especiais de Proc. Aleat. ENGA83 - Semestre 2012.1 6 / 28

Processos Auto Regressivos Pode-se mostrar que um processo aleatório X (n) que descrito por um modelo AR de ordem p apresenta: p - µ X = 0; σx 2 = h i R XX (i) + σn 2 ; - r XX (k) = - S XX (f ) = sendo σ 2 N p h i r XX (k 1); σ 2 N 1 p h i exp( j2πfi) 2, f < 1 2. a variância de e(n). Prof. Eduardo Simas (PPGEE/UFBA) Aula 06 - Classes Especiais de Proc. Aleat. ENGA83 - Semestre 2012.1 7 / 28

Processos de Média Móvel Um processo de média móvel (MA - Moving Average) pode ser definido por: X (n) = θ 0 e(n) + θ 1 e(n 1) +... + θ q e(n q) observa-se que se θ i = 1 e θ i 0, X (n) é uma média ponderada de e(n). Relaxando-se as condições acima pode-se reescrever a equação como: X (n) = q θ i e(n i) + e(n) = q θ i z 1 e(n) i=0 sendo θ 0 = 1. Prof. Eduardo Simas (PPGEE/UFBA) Aula 06 - Classes Especiais de Proc. Aleat. ENGA83 - Semestre 2012.1 8 / 28

Processos de Média Móvel Diagrama em blocos do modelo MA (com θ i = h i ): Prof. Eduardo Simas (PPGEE/UFBA) Aula 06 - Classes Especiais de Proc. Aleat. ENGA83 - Semestre 2012.1 9 / 28

Processos de Média Móvel Para um processo aleatório X (n) de média móvel de ordem q pode-se provar que: - µ X = 0; - σ 2 X = σ2 N [ 1 + - R XX (k) = σ 2 N q θ 2 i [ θ m + ] ; q j=m+1 θ j θ j m ], m < q; - S XX (f ) = σn 2 q 1 + 2 θ i exp( j2πfi), f < 1 2. Prof. Eduardo Simas (PPGEE/UFBA) Aula 06 - Classes Especiais de Proc. Aleat. ENGA83 - Semestre 2012.1 10 / 28

Processos Auto Regressivos de Média Móvel Um processo auto regressivo de média móvel (ARMA - Auto Regressive Moving Average) de ordem (p, q) pode ser definido por: X (n) = p q h i X (n i) + θ k e(n k) + e(n) k=1 Observa-se que o modelo ARMA é composto pelo somatório de uma parte auto regressiva (AR) com outra de média móvel (MA). Prof. Eduardo Simas (PPGEE/UFBA) Aula 06 - Classes Especiais de Proc. Aleat. ENGA83 - Semestre 2012.1 11 / 28

Processos Auto Regressivos de Média Móvel Diagrama em blocos do modelo ARMA (com h i = a i e θ i = b i ): Prof. Eduardo Simas (PPGEE/UFBA) Aula 06 - Classes Especiais de Proc. Aleat. ENGA83 - Semestre 2012.1 12 / 28

Processos Auto Regressivos de Média Móvel Para um processo ARMA pode-se provar que: - R XX (m) = p h i R XX (m i), m q + 1; - S XX (f ) = σ2 N 1 + q k=1 θ k exp( j2πfk) 2 1 p h i exp( j2πfi) 2, f < 1 2. Prof. Eduardo Simas (PPGEE/UFBA) Aula 06 - Classes Especiais de Proc. Aleat. ENGA83 - Semestre 2012.1 13 / 28

Processos de Markov Prof. Eduardo Simas (PPGEE/UFBA) Aula 06 - Classes Especiais de Proc. Aleat. ENGA83 - Semestre 2012.1 14 / 28

Processos de Markov De um modo geral pode-se definir um modelo de processo aleatório no qual a ocorrência de um valor futuro X (m + 1) depende da ocorrência de K valores anteriores (X (m), X (m 1),..., X (m k + 1)). Nos processos de Markov a ocorrência de um valor futuro X (m + 1) depende apenas do valor imediatamente anterior X (m). Embora apresentem uma formulação simples, os processos de Markov podem ser utilizados para modelar diversos problemas práticos de engenharia, conforme será mostrado a seguir. Os processos de Markov podem ser classificados em: - De tempo contínuo ou de tempo discreto; - De valores X (t) contínuos ou de valores X (t) discretos. Prof. Eduardo Simas (PPGEE/UFBA) Aula 06 - Classes Especiais de Proc. Aleat. ENGA83 - Semestre 2012.1 15 / 28

Processos de Markov Os processos de Markov com valores de X (t) discretos são chamados Cadeias de Markov (Markov chain). Exemplo de diagrama de estados de uma cadeia de Markov:.1 S1.7.9 S2 S3.6.3.4 Neste caso existem 03 valores possíveis para X (t) (S1, S2 e S3) e as probabilidades P{X (m + 1) = Si X (m) = Sj) estão indicadas nos laços de conexão entre Sj e Si. Prof. Eduardo Simas (PPGEE/UFBA) Aula 06 - Classes Especiais de Proc. Aleat. ENGA83 - Semestre 2012.1 16 / 28

Processos de Markov Discretos no Tempo Em processos de Markov discretos no tempo pode-se definir a probabilidade de ocorrência de um estado j no instante m a partir das probabilidades de ocorrência dos estados i no instante m 1 e das probabilidades condicionais de ocorrência do estado j dado que ocorreu o estado i: p j (m) = todo i p i (m 1)P ij (m 1, m) A expressão acima também pode ser escrita na forma matricial: p T (m) = p T (m 1)P(m 1, m) sendo p T (m) = [p 1 (m), p 2 (m),..., p k (m)] e P(n, m) = [P ij (n, m)]. Prof. Eduardo Simas (PPGEE/UFBA) Aula 06 - Classes Especiais de Proc. Aleat. ENGA83 - Semestre 2012.1 17 / 28

Exemplo - Processos de Markov Considerando que num sistema de comunicação três mensagens podem ser transmitidas e que elas seguem as propriedades de um processo de Markov cujas probabilidades de transição entre os estados são descritas a seguir: Mensagem Atual Próxima Mensagem Msg. 1 Msg. 2 Msg. 3 Msg. 1.5.1.4 Msg. 2.1.6.3 Msg. 3.1.2.7 encontre as probabilidades de ocorrência da próxima mensagem sabendo que as probabilidades iniciais de cada mensagem são: p 1 (0) =.5, p 2 (0) =.3 e p 3 (0) =.2 Prof. Eduardo Simas (PPGEE/UFBA) Aula 06 - Classes Especiais de Proc. Aleat. ENGA83 - Semestre 2012.1 18 / 28

Exemplo - Processos de Markov Calculando individualmente temos: 3 p 1 (1) = p i (0)P i1 (0, 1) = (.5)(.5) + (.3)(.1) + (.2)(.1) =.30 p 2 (1) = 3 p i (0)P i2 (0, 1) = (.5)(.1) + (.3)(.6) + (.2)(.2) =.25 Prof. Eduardo Simas (PPGEE/UFBA) Aula 06 - Classes Especiais de Proc. Aleat. ENGA83 - Semestre 2012.1 19 / 28

Exemplo - Processos de Markov Calculando individualmente temos: 3 p 1 (1) = p i (0)P i1 (0, 1) = (.5)(.5) + (.3)(.1) + (.2)(.1) =.30 p 2 (1) = p 3 (1) = 3 p i (0)P i2 (0, 1) = (.5)(.1) + (.3)(.6) + (.2)(.2) =.25 3 p i (0)P i3 (0, 1) = (.5)(.4) + (.3)(.3) + (.2)(.7) =.45 Prof. Eduardo Simas (PPGEE/UFBA) Aula 06 - Classes Especiais de Proc. Aleat. ENGA83 - Semestre 2012.1 19 / 28

Exemplo - Processos de Markov Calculando individualmente temos: 3 p 1 (1) = p i (0)P i1 (0, 1) = (.5)(.5) + (.3)(.1) + (.2)(.1) =.30 p 2 (1) = p 3 (1) = 3 p i (0)P i2 (0, 1) = (.5)(.1) + (.3)(.6) + (.2)(.2) =.25 3 p i (0)P i3 (0, 1) = (.5)(.4) + (.3)(.3) + (.2)(.7) =.45 Usando a expressão matricial: p T (1) = [.5.3.2 ].5.1.4.1.6.3 = [.30.25.45 ].1.2.7 Prof. Eduardo Simas (PPGEE/UFBA) Aula 06 - Classes Especiais de Proc. Aleat. ENGA83 - Semestre 2012.1 19 / 28

Exemplo - Processos de Markov Calculando individualmente temos: 3 p 1 (1) = p i (0)P i1 (0, 1) = (.5)(.5) + (.3)(.1) + (.2)(.1) =.30 p 2 (1) = p 3 (1) = 3 p i (0)P i2 (0, 1) = (.5)(.1) + (.3)(.6) + (.2)(.2) =.25 3 p i (0)P i3 (0, 1) = (.5)(.4) + (.3)(.3) + (.2)(.7) =.45 Usando a expressão matricial: p T (1) = [.5.3.2 ].5.1.4.1.6.3 = [.30.25.45 ].1.2.7 Prof. Eduardo Simas (PPGEE/UFBA) Aula 06 - Classes Especiais de Proc. Aleat. ENGA83 - Semestre 2012.1 19 / 28

Processos de Markov A expressão matricial pode ser utilizada para encontrar p(n) a partir de p(0) fazendo: p T (1) = p T (0)P(0, 1) p T (2) = p T (1)P(1, 2) = p T (0)P(0, 1)P(1, 2) p T (3) = p T (2)P(2, 3) = p T (0)P(0, 1)P(1, 2)P(2, 3)... n Ou seja: p T (n) = p T (0) P(i 1, i) Prof. Eduardo Simas (PPGEE/UFBA) Aula 06 - Classes Especiais de Proc. Aleat. ENGA83 - Semestre 2012.1 20 / 28

Processos de Markov A expressão matricial pode ser utilizada para encontrar p(n) a partir de p(0) fazendo: p T (1) = p T (0)P(0, 1) p T (2) = p T (1)P(1, 2) = p T (0)P(0, 1)P(1, 2) p T (3) = p T (2)P(2, 3) = p T (0)P(0, 1)P(1, 2)P(2, 3)... n Ou seja: p T (n) = p T (0) P(i 1, i) Prof. Eduardo Simas (PPGEE/UFBA) Aula 06 - Classes Especiais de Proc. Aleat. ENGA83 - Semestre 2012.1 20 / 28

Cadeias de Markov Homogêneas Quando a matriz de transição de estados P(t 1, t) não varia com o tempo t, a cadeia de Markov é dita homogênea. Para as cadeias de Markov homogêneas é possível provar que: - p T (n) = p T (0)P(1) n ; - P(n 3 n 1 ) = P(n 2 n 1 )P(n 3 n 2 ) com n 3 > n 2 > n 1 (Equação de Chapman-Kolmogorov); - As probabilidades assintóticas em regime permanente lim n pt (n) = π T podem ser obtidas a partir de: π T = π T P(1) Prof. Eduardo Simas (PPGEE/UFBA) Aula 06 - Classes Especiais de Proc. Aleat. ENGA83 - Semestre 2012.1 21 / 28

Processos Gaussianos Prof. Eduardo Simas (PPGEE/UFBA) Aula 06 - Classes Especiais de Proc. Aleat. ENGA83 - Semestre 2012.1 22 / 28

Processos Gaussianos Na análise de sistemas de instrumentação e comunicação um dos modelos mais comuns é o processo aleatório Gaussiano. Devido ao teorema do limite central pode-se aproximar com boa precisão diversos fenômenos físicos (inclusive o ruído) a partir de um processo Gaussiano. Um processo X (t) é dito Gaussiano se todas as suas funções densidade de n-ésima ordem forem Gaussianas n-variadas: [ f X (x) = [2π n/2 Σ X 1/2 ] 1 exp 1 ] 2 (x µ x) T Σ 1 X (x µ x ) Prof. Eduardo Simas (PPGEE/UFBA) Aula 06 - Classes Especiais de Proc. Aleat. ENGA83 - Semestre 2012.1 23 / 28

Processos Gaussianos Uma propriedade interessante dos processos Gaussianos: Se X (t) é Gaussiano e WSS (wide-sense stationary), isso implica que X (t) é SSS (strict-sense stationary). Ou seja, para garantir a estacionaridade (em sentido estrito) de um processo aléatório Gaussiano X (t) basta verificarmos se: - EX (t i ) = µ X - R XX (t, t + τ) = R XX (τ) Prof. Eduardo Simas (PPGEE/UFBA) Aula 06 - Classes Especiais de Proc. Aleat. ENGA83 - Semestre 2012.1 24 / 28

Processos Gaussianos - Ruído Branco Conforme definido anteriormente (na Aula ) o ruído branco é um processo aleatório que, por definição, tem uma densidade espectral de potência constante para todas as frequências: S N (f ) = N 0 2, < f < Convém notar que o fato do processo ser branco não implica que seja Gaussiano. O ruído branco não é fisicamente realizável, senão a potência média do processo dada por S N (f )df seria infinita. Prof. Eduardo Simas (PPGEE/UFBA) Aula 06 - Classes Especiais de Proc. Aleat. ENGA83 - Semestre 2012.1 25 / 28

Processos Gaussianos - Ruído Branco O ruído branco de banda limitada no qual: S N (f ) = N 0 2 para B < f < B e zero caso contrário é uma boa representação de diversas fontes de ruído existentes como: - o ruído térmico de sistemas elétricos no qual S N (f ) = kt /2 onde k é a constante de Boltzman (1, 38 10 23 Joules/Kelvin) e T é a temperatura em Kelvin da fonte de ruído. Prof. Eduardo Simas (PPGEE/UFBA) Aula 06 - Classes Especiais de Proc. Aleat. ENGA83 - Semestre 2012.1 26 / 28

Processos Gaussianos - Ruído Branco A respeito do ruído branco N(t) de banda limitada pode-se provar que: - E{N 2 (t)} = N 0 B sin 2πBτ - R NN (τ) = N 0 B 2πBτ - N(t) e N(t + kτ 0 ) onde k é inteiro 0 e τ 0 = 1 2B são independentes. Prof. Eduardo Simas (PPGEE/UFBA) Aula 06 - Classes Especiais de Proc. Aleat. ENGA83 - Semestre 2012.1 27 / 28

Exercícios de Fixação Os exercícios listados abaixo do livro: Random Signals: Detection Estimation and Data Analysis de Shanmugan e Breipohl devem ser resolvidos e entregues no dia 22/05. Neste dia, alunos serão sorteados para resolverem alguns destes exercícios para a turma. 01 Exercícios de Fixação do Cap. 05 (a partir da página 333): 5.8, 5.11, 5.15, 5.26, 5,30, 5.32, 5.52. Prof. Eduardo Simas (PPGEE/UFBA) Aula 06 - Classes Especiais de Proc. Aleat. ENGA83 - Semestre 2012.1 28 / 28