Universidade Federal da Bahia Programa de Pós Graduação em Engenharia Elétrica

Transcrição

1 Universidade Federal da Bahia Programa de Pós Graduação em Engenharia Elétrica Disciplina: Processamento Estatístico de Sinais (ENG A83) Prof.: Eduardo Simas Tema: Verificação da sensibilidade da Curtose a variações da PDF, e a outliers. Semestre:

2 Curtose A curtose de um conjunto de dados fornece uma medida do achatamento da sua distribuição de probabilidade. Geralmente o valor da curtose é comparado com o da distribuição gaussiana, gerando um novo parâmetro chamado excesso de curtose. Muitas vezes o excesso de curtose é denominado simplesmente de curtose, ou curtose normalizada. Existem algumas formas de estimar a curtose de uma distribuição. 2

3 Curtose Uma delas é a partir do coeficiente percentílico de curtose: k= Q 3 Q 1 2( P 90 P 10 ) onde Q 1 e Q 3 são o primeiro e terceiro quartis, e P 10 e P 90 o décimo e nonagésimo percentis (Spiegel 1994). Utilizando esta definição para a distribuição normal têm-se K=0,263. Para C>0,263 a PDF é mais achatada que a distribuição normal (sub-gaussiana). E para C<0,263 mais aguda (super-gaussiana). 3

4 Assimetria A assimetria de uma distribuição pode ser calculada a partir da moda da média e do desvio padrão: AS= X Mo σ A estimação da moda demanda grandes recursos computacionais à medida que o número de amostras cresce. AS = 0 distribuição simétrica; AS > 0 distribuição assimétrica positiva (desviada para a esquerda); AS < 0 distribuição assimétrica negativa (desviada para a direita). Percebe-se que a curtose, juntamente com a assimetria (skewness) pode, de alguma forma, ser utilizada como uma medida da gaussianidade de uma distribuição. 4

5 Curtose e Assimetria por Cumulantes Uma forma alternativa de estimar a curtose e a assimetria de uma distribuição é através dos momentos e dos cumulantes. Conforme visto anteriormente os momentos de uma distribuição x podem ser calculados usando: + E {x k }=m k = x k p x ( x)dx + E {( x- x) k }=μ k = ( x- x) k p x ( x)dx Momento de ordem k Momento central de ordem k Sendo x=m 1 a média da distribuição. 5

6 Curtose e Assimetria Pode-se escrever os momentos centrados na média em função dos momentos, e vice-versa. Para k < 5 as expressões ficam: m 2 = x+μ 2 m 3 =μ 3 +3 x μ 2 +( x ) 3 m 4 =μ 4 +4 x μ 3 +6 ( x) 2 μ 2 +( x ) 4 μ 2 =m 2 x μ 3 =m 3 3 x μ 2 +2( x) 3 μ 4 =m 4 4 x μ 3 +6( x) 2 μ 2 3( x) 4 Os cumulantes são definidos a partir das expressões dos momentos (ou dos momentos centrais), sendo que os três primeiros cumulantes são iguais aos respectivos momentos centrais, e o quarto é definido como: k 4 =μ 4 3μ 2 2 =m 4 3m x μ 3 +12( x)2 μ 2 6( x ) 4 6

7 Curtose e Assimetria Os momentos podem ser estimados a partir do vetor de dados de uma distribuição utilizando: K E {g( x )} 1 K j=1 g( x j ) A assimetria e a curtose podem ser estimadas a partir dos cumulantes utilizando as expressões (Kendall 1977 e Spiegel 1994): β 1 = μ 3 (μ 2 ) 3/2 β 2 = μ 4 ( μ 2 ) 2 Coeficiente do momento de assimetria Coeficiente do momento de curtose 7

8 Coeficiente de Assimetria O coeficiente de assimetria de uma distribuição fornece basicamente as informações: Simetria Negativa (β 1 <0) Simetria Positiva ((β 1 >0) Logo, para a distribuição gaussiana β 1 =0 8

9 Coeficiente de Curtose A partir do coeficiente de curtose, pode-se chegar a algumas conclusões sobre o formato das PDF: Comparando duas distribuições simétricas um maior valor da curtose indica que os dados estão concentrados em uma menor faixa (menor variância), gerando uma PDF com um pico mais acentuado. Por outro lado, quando a curtose é mais baixa a PDF tem um formato mais achatado (flat). Para a comparação de distribuições não simétricas isto nem sempre é válido. 9

10 Excesso de Curtose Para a distribuição gaussiana μ 4 = 3(μ 2 ) 2, então β 2 = 3. O excesso de curtose é utilizado para quantificar a diferença entre a curtose de uma distribuição qualquer e a da distribuição gaussiana. Define-se então o excesso de curtose ou curtose normalizada: kurt = μ 4 ( μ 2 ) 2 3= μ 4 3μ 2 2 ( μ 2 ) 2 = k 4 (k 2 ) 2 10

11 Excesso de Curtose Utilizando a desigualdade de Cauchy-Schwartz: n i=1 n (a i ) 2 i=1 ( n (b i ) 2 i=1 a i b i)2 fazendo a i =( x x) 2, b i =1 Chega-se a: ( n ( x x ) 4 i=1 n i=1 ( x x) 2)2 μ 4 μ 2 Então conclui-se que o excesso de curtose varia de -2 a infinito. 11

12 Gaussianidade O excesso de curtose (kurt) fornece uma estimativa da não gaussianidade: Se kurt(x)=0 a variável é gaussiana (ou mesocúrtica). Se kurt(x)<0 a variável é sub-gaussiana (ou platicúrtica). Se kurt(x)>0 a variável é super-gaussiana (ou leptocúrtica). 12

13 Gaussianidade Críticas às definições utilizadas no livro de Oja (Oja, Karhunen e Hyvärinen 2001): A curtose e a curtose normalizada não precisam ser definida para um processo de média zero. A faixa de variação da curtose é de -2 a infinito, independente de normalização da variância. Quando a variável é normalizada têm-se: β 1 =k 3 =μ 3 kurt =β 2 =k 4 13

14 Cálculos utilizando o MATLAB Utilizando os comandos skewness e kurtosis do MATLAB, que calculam respectivamente os coeficientes β 1 e β 2, foram montadas tabelas com os valores encontrados para os parâmetros estatísticos de algumas distribuições. Foram utilizados também os comandos do MATLAB que estimam a média, a variância e os momentos centrais de ordem 3 e 4 de um vetor de dados. Foi realizada também a normalização dos dados: x x x σ 14

15 Distribuição Uniforme Parâmetro Par. Norm. média ,87E-15 variância cumulante de ordem 3-166,04-0,0316 kurtose ,195 cumulante de ordem 4-1,10E+08-1,195 15

16 Soma de 3 distribuições uniformes Parâmetro Normali. Média 80,617 1,03E 12 Var. 1190,8 1 simetria 0,02 0,02 K 3 82,4214 0,02 kurt 0,2449 0,2449 k 4 3,49E+05 0,

17 Gaussiana 1 Par. Norm. média 9,984 3,51E 15 var. 25, simetria 0,0166 0,0166 k 3 2,0924 0,0166 kurt 0,0196 0,0196 k 4 12,418 0,

18 Gaussiana 2 Par. Norm. média 13,0764 1,31E 15 var. 49,1384 1,0000 simetria -0,0088-0,0088 k 3-3,0227-0,0088 kurt 0,0035 0,0035 k 4 8,4378 0,

19 Super-Gaussiana 1 Par. Norm. média 12,9973 2,14E 15 var. 2, simetria 0,2466 0,2466 k 3 0,0654 0,2466 kurt 2,9169 2,9169 k 4 17,1219 2,

20 Super-Gaussiana 2 Par. Norm. média 7,5-3,07E-14 var. 8, simetria -6,58E-14-6,58E-14 k 3-1,74E-12-6,58E-14 kurt 9,3802 9,3802 k 4 736,6958 9,

21 Super-Gaussiana 3 Par. Norm. média 6,999 1,99E 15 var. 8,98E 04 1 simetria 1,8335 1,8335 k 3 4,93E 05 1,8335 kurt 5,809 5,809 k 4 4,68E 06 5,809 21

22 Super-Gaussiana 4 Par. Norm. média 133,39 1,22E 15 var. 1,70E+04 1 simetria 2,1118 2,1118 k 3 4,69E+06 2,1118 kurt 7,3816 7,3816 k 4 2,13E+09 7,

23 Distribuição Multi-modal 1 Par. Norm. média 23,0043-1,17E-14 var. 148, simetria 8,80E-04 8,80E-04 k 3 1,59E+00 8,80E-04 kurt -0,9006-0,9006 k 4-1,99E+04-0,

24 Distribuição Multi-modal 2 Par. Norm. média 23,0046-1,09E-14 var. 235, simetria 0,3329 0,3329 k 3 1,20E+03 0,3329 kurt -1,348-1,348 k 4-7,45E+04-1,348 24

25 Duas uniformes bem concentradas em torno de dois pontos É dito em (Kendall 1977) que o mínimo da curtose acontece quanto a distribuição está concentrada em 2 valores possíveis, a seguir chega-se a este resultado experimentalmente. Par. Norm. média 2,5 1,34E 15 var. 6, simetria 1,08E 14 1,08E 14 k 3 1,69E 13 1,08E 14 kurt 2 2 k 4 78, Foram superpostas duas distribuições uniformes com largura igual a 10-5, cada uma com pontos. 25

26 Outliers Par. média 9,984 var. 25,1837 simetria 0,0166 k 3 2,0924 kurt 0,0196 k 4 12,418 Par. média 9,9639 var. 25,5599 simetria 0,0343 k 3 4,4364 kurt 0,1756 k 4 114,6887 Gaussiana original gaussiana (-10, 5) ptos Gaussiana com Outliers gaussiana (-10, 5) ptos + gaussiana(10, 0.4) 100ptos 26

27 Outliers Par. média 9,984 var. 25,1837 simetria 0,0166 k 3 2,0924 kurt 0,0196 k 4 12,418 Gaussiana original gaussiana (-10, 5) ptos média 9,944 var. 26,7539 simetria 0,4232 k 3 58,5402 kurt 3,2271 k ,9 Gaussiana com Outliers gaussiana (-10, 5) ptos + gaussiana(30, 0.4) 100ptos 27

28 Outliers Gaussiana com Outliers gaussiana (-10, 5) ptos + gaussiana(30, 0.4) 100ptos 28

29 Outliers Par. Norm. média 12,9973 2,14E 15 var. 2, simetria 0,2466 0,2466 k 3 0,0654 0,2466 kurt 2,9169 2,9169 k 4 17,1219 2,9169 gaussiana (-10, 5) ptos + gaussiana(30, 0.4) 100ptos Par. Norm. Pré Norm. média 9,944 2,92E 15 0,08 var. 26, ,0624 simetria 0,4232 0,4232 0,4232 k 3 58,5402 0,4232 0,4634 kurt 3,2271 3,2271 3,2271 k ,9 3,2271 3,6421 Super-gaussiana 1 Par. Norm. Pré Norm. Gaussianas com Outliers média 9,9829 3,38E 15 2,19E 04 var. 25, ,0048 gaussiana (-10, 5) ptos simetria 0,0874 0,0874 0,0874 k 3 11,1282 0,0874 0, pto em 100 kurt 2,276 2,276 2,276 k ,3 2,276 2,

30 Valor absoluto da curtose para distribuições com outliers Distribuição Curtose Uniforme (-2 a 2, 10000p) Uniforme + Gaussianas (-2,1, 100p) Uniforme + Gaussianas (-2,1, 1000p) (1) Uniforme + Gaussianas (-2,1.5, 1000p) (2) Uniforme + Gaussianas (-2,2, 1000p) (1) (2) 30

31 Valor absoluto da curtose para distribuições com outliers Distribuição Curtose Lognormal (10000p) (1) Lognormal + Gaussianas (-6 e 6,1, 1000p) (2) Lognormal + Gaussianas (-8 e 8,1, 1000p) (3) Lognormal + Gaussianas ( ,1, 1000p) Lognormal limitada em 20 / / 0.78 Lognormal limitada em 10 + gauss. em -6 e (1) (2) (3) 31

32 Conclusões Quando a curtose normalizada é utilizada para a medição da Gaussianidade de uma distribuição, alguns cuidados devem ser tomados. A curtose calculada a partir do coeficiente de momento de curtose β 2 é influenciada pela presença de pontos fora da distribuição (outliers). Uma gaussiana com um único outlier tem curtose da ordem de uma curva claramente super-gaussiana. A análise de distribuições multi-modais e curvas assimétricas também pode levar a conclusões equivocadas. Se possível deve-se utilizar outra medida auxiliar da gaussianidade nestes casos. 32

33 Bibliografia Consultada Kendall, M. & Stuart, A., The Advanced Theory of Statistics Volume 1, Distribution Theory, Fourth Edition Charles Griffing & Company Limited, London Spiegel, M. R., Estatística, 3a Edição, Makron Books, São Paulo, Larson, H. J., Introduction to Probability Theory and Statistical Inference, Second Edition, Wiley International, Hyvärinen, A., Karhunen, J., Oja, E.; INDEPENDENT COMPONENT ANALYSIS, John Wiley & Sons,