Disciplina: Processamento Estatístico de Sinais (ENGA83) - Aula 01 / Introdução

Transcrição

1 Disciplina: Processamento Estatístico de Sinais (ENGA83) - Aula 1 / Introdução Prof. Eduardo Simas (eduardo.simas@ufba.br) Programa de Pós-Graduação em Engenharia Elétrica/PPGEE Universidade Federal da Bahia ENGA83 - Semestre Prof. Eduardo Simas (PPGEE/UFBA) Aula 1 - Introdução ENGA83 - Semestre / 5

2 Conteúdo 1 A Disciplina Conteúdo Programático Bibliografia Avaliações 2 Introdução Sinais Aleatórios Aplicações comuns Perspectiva Histórica Revisão - Probabilidade Revisão - Variáveis Aleatórias 3 Exercícios de Fixação Prof. Eduardo Simas (PPGEE/UFBA) Aula 1 - Introdução ENGA83 - Semestre / 5

3 A Disciplina Prof. Eduardo Simas (PPGEE/UFBA) Aula 1 - Introdução ENGA83 - Semestre / 5

4 A Disciplina Objetivos: Habilitar os alunos a utilizar técnicas estatísticas de processamento de sinais para solucionar problemas de detecção e estimação de sinais sob ruído, extração de características e reconhecimento de padrões. Carga Horária: 68 horas Créditos: 4 Horário: Ter/Qui 18:3 2:2 horas Prof. Eduardo Simas (PPGEE/UFBA) Aula 1 - Introdução ENGA83 - Semestre / 5

5 Conteúdo Programático 1 Introdução aos Sinais Aleatórios (Processos aleatórios; Resposta de um sistema linear a entradas aleatórias; sinais multivariados; independência estatística; decomposição em valores singulares). 2 Detecção e Estimação de Sinais (O problema da decisão binária; Regra de Bayes; Regra de Neyman-Pearson; O Problema da decisão com múltiplas hipóteses; Curva ROC; Detecção e estimação de sinais contaminados por ruído; Filtros casados - ruído branco; Filtros casados generalizados - ruído colorido; Estimadores de máxima verossimilhança; Limite de Cramer-Rao). 3 Filtros Lineares Ótimos (Filtro linear de mínimos quadrados; Filtros de Wiener; Filtros de Kalman). 4 Processamento Estatístico de Sinais Multivariados (Análise de componentes principais; Análise de componentes independentes; Discriminantes lineares; Classificadores baseados em Redes Neurais Artificiais; Componentes principais de discriminação; Agrupamento). 5 Aplicações (Áudio; Sistemas de comunicação; Caracterização de distúrbios em sistemas elétricos de potência; Instrumentação, etc). Prof. Eduardo Simas (PPGEE/UFBA) Aula 1 - Introdução ENGA83 - Semestre / 5

6 Bibliografia Recomendada Principais referências: 1 - K. Sam Shanmugan & Arthur M. Breipohl; Random Signals: Detection, Estimation and Data Analysis, Wiley, Monson Hayes; Statistical Digital Signal Processing and Modeling, Wiley, Mourad Barkat; Signal Detection and Estimation, Artech House, A. Hyvärinen, J. Karhunen, E. Oja; Independent Component Analysis, Wiley, Pierre Comon e Christianl Jutten (Editors); Handbook of Blind Source Separation, Elsevier, Steven M. Kay; Fundamentals of Statistical Signal Processing, Volumes I and II: Estimation Theory - Prentice Hall PTR, 1993/ Harry L. Van Trees; Detection, Estimation, and Modulation Theory, Part I, Wiley, Simon Haykin; Adaptive Filter Theory, 4 edition, Prentice Hall, Artigos científicos. 1 - Notas de aulas disponíveis no endereço: Prof. Eduardo Simas (PPGEE/UFBA) Aula 1 - Introdução ENGA83 - Semestre / 5

7 Avaliações Resolução de exercícios (15 %): - Listas de exercícios; - Exercícios em sala. Apresentação de resumos de artigos científicos selecionados pelo professor (25 %). Trabalho de pesquisa (6 %): - Elaboração de artigo (3 %); - Apresentação oral (3 %). Prof. Eduardo Simas (PPGEE/UFBA) Aula 1 - Introdução ENGA83 - Semestre / 5

8 Introdução Prof. Eduardo Simas (PPGEE/UFBA) Aula 1 - Introdução ENGA83 - Semestre / 5

9 Introdução - Sinais Aleatórios Sinais e sistemas sujeitos a incertezas (ou aleatoriedade) são muito importantes em diversas aplicações de engenharia. Exemplo 1 - sinais típicos em sistemas de comunicação digital: Sinal original Sinal corrompido por ruido Prof. Eduardo Simas (PPGEE/UFBA) Aula 1 - Introdução ENGA83 - Semestre / 5

10 Sinais Aleatórios Exemplo 2 - Sinal de uma inspeção por ultrassom:.4 Amplitude Ruido Tempo Sinal + Ruido Exemplo 3 - Sinal de tensão num sistema elétrico: Amplitude (V) 1 x Tempo Ruido Afundamento Prof. Eduardo Simas (PPGEE/UFBA) Aula 1 - Introdução ENGA83 - Semestre / 5

11 Algumas tarefas do processamento estatísticos de sinais Estimar parâmetros de um sinal aleatório: Propriedades espectrais, distribuição de probabilidade, parâmetros estatísticos, etc. Prof. Eduardo Simas (PPGEE/UFBA) Aula 1 - Introdução ENGA83 - Semestre / 5

12 Algumas tarefas do processamento estatísticos de sinais Estimar parâmetros de um sinal aleatório: Propriedades espectrais, distribuição de probabilidade, parâmetros estatísticos, etc. Processar sinais com ruído: Estimar as características do ruído, recuperar o sinal original. Prof. Eduardo Simas (PPGEE/UFBA) Aula 1 - Introdução ENGA83 - Semestre / 5

13 Algumas tarefas do processamento estatísticos de sinais Estimar parâmetros de um sinal aleatório: Propriedades espectrais, distribuição de probabilidade, parâmetros estatísticos, etc. Processar sinais com ruído: Estimar as características do ruído, recuperar o sinal original. Obter um modelo para o sinal aleatório: Identificar o modelo mais adequado, estimar os parâmetros do modelo. Prof. Eduardo Simas (PPGEE/UFBA) Aula 1 - Introdução ENGA83 - Semestre / 5

14 Algumas tarefas do processamento estatísticos de sinais Estimar parâmetros de um sinal aleatório: Propriedades espectrais, distribuição de probabilidade, parâmetros estatísticos, etc. Processar sinais com ruído: Estimar as características do ruído, recuperar o sinal original. Obter um modelo para o sinal aleatório: Identificar o modelo mais adequado, estimar os parâmetros do modelo. Processar sinais multivariados (Ex.: imagem, conjunto de sensores): Tratar informações de diversos sensores, eliminar redundância, minimizar a informação armazenada, revelar as informações relevantes para o problema. Prof. Eduardo Simas (PPGEE/UFBA) Aula 1 - Introdução ENGA83 - Semestre / 5

15 Algumas tarefas do processamento estatísticos de sinais Estimar parâmetros de um sinal aleatório: Propriedades espectrais, distribuição de probabilidade, parâmetros estatísticos, etc. Processar sinais com ruído: Estimar as características do ruído, recuperar o sinal original. Obter um modelo para o sinal aleatório: Identificar o modelo mais adequado, estimar os parâmetros do modelo. Processar sinais multivariados (Ex.: imagem, conjunto de sensores): Tratar informações de diversos sensores, eliminar redundância, minimizar a informação armazenada, revelar as informações relevantes para o problema. Prof. Eduardo Simas (PPGEE/UFBA) Aula 1 - Introdução ENGA83 - Semestre / 5

16 Introdução - Aplicações comuns Estimação de parâmetros / modelos: Sensor Sinal de interesse + ruído Algoritmo de Estimação Parâmetros: - valor médio; - autocorrelação; - densidade espectral. Modelos: - AR / MA / ARMA Filtragem de ruído: Sensor Filtragem Sinal de interesse + ruído Sinal de Interesse Prof. Eduardo Simas (PPGEE/UFBA) Aula 1 - Introdução ENGA83 - Semestre / 5

17 Introdução - Aplicações comuns Detecção / classificação: Sensor Sinal medido Extração/seleção de Características Padrão de características Classificador Decisão Separação de sinais: Sensor 1 Sinal de interesse 1 + Sinal de Interesse 2 + ruído Algoritmo de Estimação Sinal de interesse 1 Sensor 2 Sinal de interesse 1 + Sinal de Interesse 2 + ruído Algoritmo de Estimação Sinal de interesse 2 Prof. Eduardo Simas (PPGEE/UFBA) Aula 1 - Introdução ENGA83 - Semestre / 5

18 Perspectiva Histórica Sec. XVII- aplicações de modelos probabiĺısticos para descrição de fenômenos da física: - Observou-se que experimentos conduzidos sob as mesmas condições nem sempre produziam resultados idênticos. - É desenvolvido por Gauss e Legendre o método de estimação de mínimos quadrados para o estudo do movimento de planetas e cometas. Final do Sec. XIX - é desenvolvido o modelo de um processo aleatório (ou estocástico). Início do Sec. XX - invenção do rádio utilização do modelo de processo aleatório para analizar os efeitos do ruído em canais de comunicação. 194 a 45 - Wiener e Rice formulam a teoria dos sinais aleatórios e desenvolvem algoritmos para extrair (filtrar) sinais de rádio de baixa intensidade que estão mascarados por ruído. Prof. Eduardo Simas (PPGEE/UFBA) Aula 1 - Introdução ENGA83 - Semestre / 5

19 Perspectiva Histórica Shannon formula a teoria que serviria de base para o projeto de sistemas de telecomunicações. Segunda Guerra Mundial - São desenvolvidos diversos algoritmos para a detecção de sinais de alvos (sistemas de sonar e radar) e também para a navegação Kalman desenvolve um algoritmo de filtragem que permite navegação precisa através de longas distâncias Inteligência computacional (RNA, AG, etc) é utilizada em diversas tarefas de processamento de sinais através da exploração impĺıcita (sem modelo específico) da estatística do problema. 199 até os dias atuais - Sinais multivariados (imagem, vídeo, etc) são cada vez mais produzidos e transmitidos, requerendo desenvolvimento de técnicas de processamento adequadas. Prof. Eduardo Simas (PPGEE/UFBA) Aula 1 - Introdução ENGA83 - Semestre / 5

20 Probabilibade Prof. Eduardo Simas (PPGEE/UFBA) Aula 1 - Introdução ENGA83 - Semestre / 5

21 Revisão - Probabilidade Definições Espaço amostral (S) - conjunto de todos os possíveis resultados de um experimento. Probabilidade (P(A)) - a probabilidade de ocorrência de um evento A S pode ser definida como: n A P(A) = lim n n (1) sendo n o número de repetições do experimento e n A o número de ocorrências de A. Se S é finito (o número de possíveis resultados é igual a N) então: P(A) = N A N (2) Prof. Eduardo Simas (PPGEE/UFBA) Aula 1 - Introdução ENGA83 - Semestre / 5

22 Revisão - Probabilidade Propriedades : 1 P(S) = 1 2 P(A) 1 3 Se A A = S e A A = então A é o complemento de A e P(A) = 1 P(A) 4 Se A B P(A) P(B). 5 P(A B) = P(A) + P(B) P(A B), ou seja: P(A B) P(A) + P(B) Prof. Eduardo Simas (PPGEE/UFBA) Aula 1 - Introdução ENGA83 - Semestre / 5

23 Probabilidades Conjunta e Marginal Em muitos problemas práticos um experimento E pode ser composto de k subexperimentos E 1, E 2,...E k. Neste caso, o espaço amostral S tem dimensão k (S R k ), sendo composto pelo produto cartesiano dos espaços amostrais de cada subexperimento: S = S 1 S 2... S k. Considerando que k = 2, e que os eventos A 1,..., A n e B 1,..., B m definem respectivamente os espaços amostrais S 1 e S 2 dos subexperimentos E 1 e E 2, pode-se definir: Probabilidade Conjunta: P(A i B i ) = P(A i B i ) = P(A i B i )P(B i ) = P(B i A i )P(A i ); Probabilidade Condicional: P(B i A i ) = P(A ib i ), dado que P(A i ) P(A i ). Prof. Eduardo Simas (PPGEE/UFBA) Aula 1 - Introdução ENGA83 - Semestre / 5

24 Probabilidades Conjunta e Marginal - Exemplo Considerando a tabela abaixo, estime as probabilidades de (a) uma peça do fabricante F 2 não apresentar defeito e (b)uma peça apresentar defeito crítico dado que ela pertence à classe F 2. Tipo de defeito Fabricante Nenhum Crítico Grave Pequeno Acidental Total F F F F Total Resposta: a - Neste caso, trata-se de uma probabilidade conjunta: P(F 2 D ) = Prof. Eduardo Simas (PPGEE/UFBA) Aula 1 - Introdução ENGA83 - Semestre / 5

25 Probabilidades Conjunta e Marginal - Exemplo Considerando a tabela abaixo, estime as probabilidades de (a) uma peça do fabricante F 2 não apresentar defeito e (b)uma peça apresentar defeito crítico dado que ela pertence à classe F 2. Tipo de defeito Fabricante Nenhum Crítico Grave Pequeno Acidental Total F F F F Total Resposta: a - Neste caso, trata-se de uma probabilidade conjunta: P(F 2 D ) = b - Probabilidade condicional: P(D 1 F 2 ) = P(D 1F 2 ) P(F 2 ) = = Prof. Eduardo Simas (PPGEE/UFBA) Aula 1 - Introdução ENGA83 - Semestre / 5

26 Probabilidades Conjunta e Marginal - Exemplo Considerando a tabela abaixo, estime as probabilidades de (a) uma peça do fabricante F 2 não apresentar defeito e (b)uma peça apresentar defeito crítico dado que ela pertence à classe F 2. Tipo de defeito Fabricante Nenhum Crítico Grave Pequeno Acidental Total F F F F Total Resposta: a - Neste caso, trata-se de uma probabilidade conjunta: P(F 2 D ) = b - Probabilidade condicional: P(D 1 F 2 ) = P(D 1F 2 ) P(F 2 ) = = Prof. Eduardo Simas (PPGEE/UFBA) Aula 1 - Introdução ENGA83 - Semestre / 5

27 Regra de Bayes Thomas Bayes chegou à expressão a seguir, que ficou conhecida como Regra de Bayes: P(B j A) = P(A B j)p(b j ) P(A) = P(A B j)p(b j ) m P(A B j )P(B j ) j=1 (3) Exemplo - Num canal de comunicação binária sujeito a ruído aditivo, a probabilidade de um digito zero transmitido ser recebido como zero é de,95 e a probabilidade de um digito um transmitido ser recebido como um é de,9. Considerando que a probabilidade de um zero ser transmitido é,4, encontre: a- A probabilidade de um digito um ser recebido. b- A probabilidade de um digito um ter sido transmitido dado que um digito um foi recebido. Prof. Eduardo Simas (PPGEE/UFBA) Aula 1 - Introdução ENGA83 - Semestre / 5

28 Regra de Bayes Thomas Bayes chegou à expressão a seguir, que ficou conhecida como Regra de Bayes: P(B j A) = P(A B j)p(b j ) P(A) = P(A B j)p(b j ) m P(A B j )P(B j ) j=1 (3) Exemplo - Num canal de comunicação binária sujeito a ruído aditivo, a probabilidade de um digito zero transmitido ser recebido como zero é de,95 e a probabilidade de um digito um transmitido ser recebido como um é de,9. Considerando que a probabilidade de um zero ser transmitido é,4, encontre: a- A probabilidade de um digito um ser recebido. b- A probabilidade de um digito um ter sido transmitido dado que um digito um foi recebido. Prof. Eduardo Simas (PPGEE/UFBA) Aula 1 - Introdução ENGA83 - Semestre / 5

29 Regra de Bayes - Exemplo Resposta: considerando T = um transmitido, T = zero transmitido, R= um recebido e R= zero recebido, então: P(R T ) =.9 P( R T ) =.1 P( R T ) =.95 P(R T ) =.5 2 a- P(R) = P(R T j )P(T j ) j=1 Prof. Eduardo Simas (PPGEE/UFBA) Aula 1 - Introdução ENGA83 - Semestre / 5

30 Regra de Bayes - Exemplo Resposta: considerando T = um transmitido, T = zero transmitido, R= um recebido e R= zero recebido, então: P(R T ) =.9 P( R T ) =.1 P( R T ) =.95 P(R T ) =.5 2 a- P(R) = P(R T j )P(T j )= P(R T )P(T ) + P(R T )P( T ) j=1 Prof. Eduardo Simas (PPGEE/UFBA) Aula 1 - Introdução ENGA83 - Semestre / 5

31 Regra de Bayes - Exemplo Resposta: considerando T = um transmitido, T = zero transmitido, R= um recebido e R= zero recebido, então: P(R T ) =.9 P( R T ) =.1 P( R T ) =.95 P(R T ) =.5 2 a- P(R) = P(R T j )P(T j )= P(R T )P(T ) + P(R T )P( T )= j=1, 9, 6 +, 5, 4 =, 56. Prof. Eduardo Simas (PPGEE/UFBA) Aula 1 - Introdução ENGA83 - Semestre / 5

32 Regra de Bayes - Exemplo Resposta: considerando T = um transmitido, T = zero transmitido, R= um recebido e R= zero recebido, então: P(R T ) =.9 P( R T ) =.1 P( R T ) =.95 P(R T ) =.5 2 a- P(R) = P(R T j )P(T j )= P(R T )P(T ) + P(R T )P( T )= j=1, 9, 6 +, 5, 4 =, 56. b- P(T R) = P(R T )P(T ) P(R) Prof. Eduardo Simas (PPGEE/UFBA) Aula 1 - Introdução ENGA83 - Semestre / 5

33 Regra de Bayes - Exemplo Resposta: considerando T = um transmitido, T = zero transmitido, R= um recebido e R= zero recebido, então: P(R T ) =.9 P( R T ) =.1 P( R T ) =.95 P(R T ) =.5 2 a- P(R) = P(R T j )P(T j )= P(R T )P(T ) + P(R T )P( T )= j=1, 9, 6 +, 5, 4 =, 56. b- P(T R) = P(R T )P(T ), 9, 6 =.96 P(R), 56 Prof. Eduardo Simas (PPGEE/UFBA) Aula 1 - Introdução ENGA83 - Semestre / 5

34 Regra de Bayes - Exemplo Resposta: considerando T = um transmitido, T = zero transmitido, R= um recebido e R= zero recebido, então: P(R T ) =.9 P( R T ) =.1 P( R T ) =.95 P(R T ) =.5 2 a- P(R) = P(R T j )P(T j )= P(R T )P(T ) + P(R T )P( T )= j=1, 9, 6 +, 5, 4 =, 56. b- P(T R) = P(R T )P(T ), 9, 6 =.96 P(R), 56 Prof. Eduardo Simas (PPGEE/UFBA) Aula 1 - Introdução ENGA83 - Semestre / 5

35 Independência Estatística Supondo A i e B i eventos associados a resultados de dois experimentos distintos, quando a ocorrência de A i não influencia na probabilidade de ocorrência de B i e vice-versa, diz-se que os eventos são estatisticamente independentes. Matematicamente A i e B i são independentes se: P(A i B i ) = P(A i )P(B i ) (4) ou quando: P(A i B i ) = P(A i ) (5) A prova da independência estatística de dois eventos quando não se conhece as distribuições de probabilidade envolve os conceitos de variáveis aleatórias e momentos estatísticos. Prof. Eduardo Simas (PPGEE/UFBA) Aula 1 - Introdução ENGA83 - Semestre / 5

36 Variáveis Aleatórias Prof. Eduardo Simas (PPGEE/UFBA) Aula 1 - Introdução ENGA83 - Semestre / 5

37 Variáveis Aleatórias Em alguns casos, pode ser interessante expressar a saída de um experimento aleatório usando um número, por exemplo: o número de acessos diários à uma página da internet. O valor numérico associado à saída de um experimento aleatório pode ser chamado de variável aleatória. Uma variável aleatória X (λ) é uma função cujo domínio é o conjunto de resultados λ S e X (λ) R. Para todo A S existe um conjunto imagem T R definido por X. A variável aleatória induz a uma medida da probabilidade no eixo real 1 : - P(X = x) = P{λ : X (λ) = x}; - P(X x) = P{λ : X (λ) x}; - P(x 1 < X x 2 ) = P{λ : x 1 < X (λ) x 2 }; - Então pode-se concluir que: P(X = ) = P(X = ) =. 1 Sendo as letras maiúsculas reservadas para representar as variáveis aleatórias e as minúsculas para os valores individuais (i.e. números) da variável. Prof. Eduardo Simas (PPGEE/UFBA) Aula 1 - Introdução ENGA83 - Semestre / 5

38 Variáveis Aleatórias As variáveis aleatórias (VAs) podem ser discretas ou contínuas. A probabilidade P(X x) é também conhecida como função distribuição (F X (x)) da variável aleatória X. Uma função de distribuição tem as propriedades a seguir: - F X ( ) = ; F X ( ) = 1; F X (x) é estritamente crescente; - P{x 1 X x 2 } = F X (x 2 ) F X (x 1 ) 1 1 F x (x).5 F x (x) x x Função Distribuição Discreta Função Distribuição Contínua Prof. Eduardo Simas (PPGEE/UFBA) Aula 1 - Introdução ENGA83 - Semestre / 5

39 Variáveis Aleatórias Discretas Uma variável aleatória discreta é caracterizada por um conjunto de domínio limitado x 1, x 2,..., x n. A função massa (ou densidade) de probabilidade é definida como P(X = x i ), para i = 1, 2,..., n e tem as propriedades a seguir: n - P(X = x i ) = 1; i=1 - P(X x k ) = F X (x k ) = k P(X = x i ); i=1 Para as distribuições conjunta e condicional pode-se definir: - P(X x, Y y) = P(X = x i, Y = y i ) xi x y i y - P(X = x i Y = y i ) = P(X = x i, Y = y i ) P(Y = y i ) (regra de Bayes); Prof. Eduardo Simas (PPGEE/UFBA) Aula 1 - Introdução ENGA83 - Semestre / 5

40 Variáveis Aleatórias Discretas As variáveis aleatórias X e Y são estatisticamente independentes se: P(X = x i, Y = y i ) = P(X = x i )P(Y = y i ) (6) Uma variável aleatória discreta pode ser completamente descrita pelas funções de distribuição ou de densidade de probabilidade. Em alguns casos pode ser interessante descrever uma VA por um número limitado de características representativas chamadas valores esperados. O valor esperado da função g(x ) da variável aleatória discreta X é definido por: n E{g(X )} = g(x i )P(X = x i ) (7) i=1 Prof. Eduardo Simas (PPGEE/UFBA) Aula 1 - Introdução ENGA83 - Semestre / 5

41 Variáveis Aleatórias Discretas - Valores Esperados Dois valores esperados (também chamados de momentos) muito utilizados são: Média - E{X } = µ X = n x i P(X = x i ) i=1 Variância - E{(X µ X ) 2 } = σ 2 X = n (x i µ X ) 2 P(X = x i ) i=1 O desvio padrão é definido como: σ X = σ 2 X Prof. Eduardo Simas (PPGEE/UFBA) Aula 1 - Introdução ENGA83 - Semestre / 5

42 Variáveis Aleatórias Discretas - Valores Esperados Vale mencionar as definições de: Covariância: cov(x, Y ) = E{X µ X }E{Y µ Y } Correlação: R(X, Y ) = E{(XY )} Quando µ X = µ Y =, então cov(x, Y ) = R(X, Y ) Prof. Eduardo Simas (PPGEE/UFBA) Aula 1 - Introdução ENGA83 - Semestre / 5

43 Variáveis Aleatórias Discretas - Valores Esperados O valor esperado de uma função de duas VAs é definido por: E{g(X, Y )} = n i=1 j=1 m g(x i, y i )P(X = x i, Y = y i ) (8) O coeficiente de correlação é um valor esperado muito útil, pois fornece uma medida do grau de dependência entre duas VAs: ρ x,y = E{(X µ X )(Y µ Y )} σ X σ Y = σ XY σ X σ Y (9) O fator σ XY é a covariância de X e Y e quando as variáveis são estatísticamente independentes ρ x,y =. Prof. Eduardo Simas (PPGEE/UFBA) Aula 1 - Introdução ENGA83 - Semestre / 5

44 Variac a o do Coeficiente de Correlac a o - Exemplos 2 1 ρxy=, Y Y ρxy=, X 1 4 ρ =, Y Y XY Prof. Eduardo Simas X 2 4 X 2 4 ρxy=,1 2 2 (PPGEE/UFBA) X Aula 1 - Introduc a o 2 ENGA83 - Semestre / 5

45 Variáveis Aleatórias Contínuas Uma VA contínua pode assumir um número infinito de valores dentro do seu intervalo de domínio. A teoria envolvida é semelhante ao caso discreto, porém os somatórios são substituídos por integrais. Deste modo, as funções distribuição F X (x) e densidade f X (x) são relacionadas por: f X (x) = df X (x) (1) dx E valem as propriedades a seguir: - f X (x)dx = 1 - P(a X b) = F X (b) F X (a) = b a f X (x)dx Prof. Eduardo Simas (PPGEE/UFBA) Aula 1 - Introdução ENGA83 - Semestre / 5

46 Momentos O momento central de ordem n é definido como: µ (n) X = (x µ X ) n f X (x)dx (11) O momento de ordem n é definido como: µ (n) X = x n f X (x)dx (12) Temos então que: µ (1) X = µ X é a média e µ (2) X = σ2 X é a variância. Prof. Eduardo Simas (PPGEE/UFBA) Aula 1 - Introdução ENGA83 - Semestre / 5

47 Exemplos de Funções de Densidade de Probabilidade (pdf) Uniforme: f X (x) = { sendo: µ X = b + a 2 1/(b a) a x b caso contrário e σ 2 X = (b a)2 12 Gaussiana: f X (x) = [ 1 exp 2πσX 2 ] (x µ X ) 2 2σX 2 Exponencial: f X (x) = λ exp( λx), x, λ, sendo µ X = 1 λ e σ2 X = 1 λ 2 Prof. Eduardo Simas (PPGEE/UFBA) Aula 1 - Introdução ENGA83 - Semestre / 5

48 Histogramas Histogramas são uma representação gráfica das variáveis aleatórias em relação ao número de ocorrências da VA numa dada faixa do espaço amostral. Os histogramas podem ser utilizados como aproximações da distribuição de probabilidade. Para a geração de um histograma as amostras da VA são agrupadas em intervalos. O Eixo Vertical do Histograma representa a quantidade (contagem) de amostras que foram observadas dentro de cada intervalo indicado no Eixo Horizontal. Prof. Eduardo Simas (PPGEE/UFBA) Aula 1 - Introdução ENGA83 - Semestre / 5

49 Histogramas Exemplos de histogramas: 5 Contagem Amplitude de X Prof. Eduardo Simas 4 6 Amostras de X (PPGEE/UFBA) x 1 Aula 1 - Introduc a o 2 X 2 ENGA83 - Semestre / 5

50 Histogramas - VA Gaussiana (Dist. Normal) Contagem Diminuindo o numero de intevalos (bins) do histograma bins 2 bins Contagem Contagem bins Contagem bins 1 4 bins 2 bins Contagem Contagem x Prof. Eduardo Simas (PPGEE/UFBA) Aula 1 - Introdução ENGA83 - Semestre / 5

51 Vetores Aleatórios Prof. Eduardo Simas (PPGEE/UFBA) Aula 1 - Introdução ENGA83 - Semestre / 5

52 Vetores Aleatórios Até agora o estudo foi concentrado em uma ou duas variáveis aleatórias. Em um caso mais geral pode-se trabalhar com diversas VAs X i, i = 1,..., k, que podem ser organizadas para comporem um Vetor Aleatório: X = [X 1, X 2,..., X k ] T. (13) Os vetores aleatórios tem como domínio um subconjunto de R k e são especificadas em função da distribuição conjunta: F X1,...,X k (x 1,..., x k ) = F X (x) = P[(X 1 x 1 ),..., (X k x k )]. (14) Prof. Eduardo Simas (PPGEE/UFBA) Aula 1 - Introdução ENGA83 - Semestre / 5

53 Vetores Aleatórios Para vetores aleatórios define-se o vetor média: µ X = E(X) = E(X 1 ) E(X 2 ). E(X k ) E a matriz de covariância: E(X 1 ) E(X 2 ). E(X k ) = σ x1 x 1 σ x1 x 2... σ x1 x k σ x2 x 1 σ x2 x 2... σ x2 x k σ xk x 1 σ xk x 2... σ xk x k E(X 1 ) E(X 2 ). E(X k ) Prof. Eduardo Simas (PPGEE/UFBA) Aula 1 - Introdução ENGA83 - Semestre / 5

54 Vetores Aleatórios - Exemplos O vetor aleatório X é composto pelos valores medidos nos 49 sensores de energia: Energia (MeV) φ η Energia (MeV) φ.5 η.1.15 Amostra 1 Amostra 2 Prof. Eduardo Simas (PPGEE/UFBA) Aula 1 - Introdução ENGA83 - Semestre / 5

55 Vetores Aleatórios - Exemplos Matrix de covariância do vetor aleatório X composto pelas variáveis aleatórias utilizadas no exemplo do slide 28: 1, 1, 994, 981, 744, 1 1, 1, 1, 2 Σ X =, 994, 1 1, 984, 74, 981, 1, 984 1, 736, 744, 2, 74, Matriz de correlação de um vetor aleatório de dimensão 1: Prof. Eduardo Simas (PPGEE/UFBA) Aula 1 - Introdução ENGA83 - Semestre / 5

56 Outros Tópicos Interessantes Prof. Eduardo Simas (PPGEE/UFBA) Aula 1 - Introdução ENGA83 - Semestre / 5

57 Limites e Aproximações Em muitas aplicações práticas que requerem cálculo de probabilidades as distribuições envolvidas podem não ser completamente conhecidas. Neste caso pode-se utilizar técnicas que fornecem limites superiores e inferiores para as probabilidades, como por exemplo: Desigualdade de Tchebycheff: P( Y µ Y kσ y ) 1 k 2 Exemplo: Sendo µ X = e σ 2 X = 1, estime P( X 3). Da expressão acima temos que k = 3 e P( X 3) 1 9. Prof. Eduardo Simas (PPGEE/UFBA) Aula 1 - Introdução ENGA83 - Semestre / 5

58 Técnica de Geração de Monte Carlo As técnicas de Monte Carlo consistem em: - algoritmos computacionais para selecionar amostras x 1, x 2,..., x n ; - um método de calcular y = g(x 1, x 2,..., x n ); - organizar e exibir graficamente y. Simulações através de técnicas de Monte Carlo são utilizadas para gerar conjuntos de dados a partir de modelos estatísticos conhecidos. Os dados simulados são muito úteis para o projeto de sistemas que irão operar com entradas aleatórias quando estas são de difícil obtenção. Exemplos de aplicações: física nuclear, finanças, geometalurgia, etc. Prof. Eduardo Simas (PPGEE/UFBA) Aula 1 - Introdução ENGA83 - Semestre / 5

59 Teorema do Limite Central Definição: Sendo X 1, X 2,..., X n variáveis aleatórias (com média µ e variância σ 2 ) independentes e identicamente distribuidas (i.i.d.) 2, pode-se provar que, quando n, a variável: Z = n X i (15) i=1 tende para uma distribuição de probabilidade Gaussiana com média µ e desvio σ2 n. 2 Variáveis i.i.d. apresentam a mesma função distribuição de probabilidade e são mutuamente independentes. Prof. Eduardo Simas (PPGEE/UFBA) Aula 1 - Introdução ENGA83 - Semestre / 5

60 Teorema do Limite Central - Exemplo 1 dist unif 2 dist unif 3 dist unif Contagem Contagem 2 1 Contagem dist unif 5 dist unif 6 dist unif Contagem Contagem Contagem Prof. Eduardo Simas (PPGEE/UFBA) Aula 1 - Introdução ENGA83 - Semestre / 5

61 Exercícios de Fixação Prof. Eduardo Simas (PPGEE/UFBA) Aula 1 - Introdução ENGA83 - Semestre / 5

62 Exercícios de Fixação 1 Problemas do livro Random Signals: Detection Estimation and Data Analysis de Shanmugan e Breipohl (a partir da página 97): 2.1, 2.2, 2.5, 2.6, 2.8, 2.18, 2.23, 2.32 e Utilizar um software adequado (Matlab, Scilab, Root, etc) para: a Gerar variáveis aleatórias com distribuições uniforme, normal e exponencial com 1. pontos e traçar os respectivos histogramas; b Calcular a partir das amostras o valor médio, a variância e comparar com os valores esperados a partir dos modelos matemáticos; c Repetir os itens a e b para 1. e 1. pontos e comparar os resultados obtidos; d Gerar e plotar o histograma de uma variável aleatória com 1. pontos que seja a soma de 5 variáveis aleatórias com distribuição uniforme. Os exercícios devem ser resolvidos e entregues em data a ser especificada pelo professor. Neste dia, alunos serão sorteados para apresentar a solução de alguns destes exercícios para a turma. Prof. Eduardo Simas (PPGEE/UFBA) Aula 1 - Introdução ENGA83 - Semestre / 5