Estatísticas Inferenciais Distribuições Amostrais. Estatística

Transcrição

1 Estatística

2 Na descrição dos conjuntos de dados x 1,..., x n, não foi feita menção ao conceito de população. Estatísticas inferenciais: preocupadas com a fonte dos dados e em tentar fazer generalizações além dos próprios dados. Necessário fazer hipóteses sobre os dados para se ter um modelo que descreva a origem dos dados. Cap 1 (Amostras): os valores dos conjunto de dados são assumidos serem valores observados de variáveis aleatórias, números que tem sido observados como o resultado da realização de um experimento ou sorteio, por exemplo. Com o uso da teoria da probabilidade, os modelos construídos serão probabiĺısticos e então poderão ser usados para fazer inferências sobre o fenômeno estudado no experimento.

3 Como devemos utilizar a amostra para obter informação sobre os parâmetros da distribuição da população (por exemplo, µ)? Esta é uma questão da inferência estatística: como usar valores observados para as variáveis aleatórias afim de colher informação sobre (os parâmetros da) sua distribuição de probabilidade. Por exemplo, x é uma boa aproximação para o valor de µ, por exemplo? Sob quais critérios?

4 Relembrando: Assumiremos sempre uma amostra aleatória. A amostra aleatória X 1,..., X n tem a mesma distribuição da população. Algum aspecto (parâmetro) da distribuição da população deve ser desconhecido, pois caso contrário não haveria necessidade de se coletar uma amostra. Por exemplo: µ (média da idade da população dos alunos). Objetivo: usar a amostra para responder questões relacionadas a distribuição de probabilidade da população. As estatísticas que serão úteis em mensurar os parâmetros populacionais.

5 Theorem Se X 1,..., X n é uma amostra aleatória de uma variável aleatória X, com média µ e variância σ 2, X = n i=1 (1/n) X i também tem média µ e variância σ 2 /n, ou seja, E [ X ] = µ e Var [ X ] = σ 2 /n.

6 O resultado E [ X ] = µ não significa que a média x obtida para um conjunto de dados é igual a média populacional. O resultado E [ X ] = µ diz que se nós tomarmos amostras de tamanho n repetidamente e computarmos x para cada uma delas, a média de x - após estas inúmeras repetições de amostragem - será µ, o mesmo valor da média populacional µ. Da mesma forma, o resultado Var [ X ] = σ 2 /n descreve a variabilidade destas médias, x, calculadas para diversas amostras de mesmo tamanho.

7 Remark Note que Var [X ] = Var [X i ] = σ 2 e Var [ X ] = σ 2 /n, assim, a distribuição de X será mais concentrada em torno de µ do que a distribuição populacional. Gráfico no quadro Assim, a probabilidade de X estar próximo de µ é maior do que a probabilidade que um X i selecionado aleatoriamente da população esteja a mesma distância de µ. Esse comportamento é a essência da Lei dos Grandes Números e justifica o fato de x ser um bom medidor para µ, quando este é desconhecido.

8 Theorem Se X 1,..., X n é uma amostra aleatória de uma variável aleatória X, com média µ e variância σ 2, a variância amostral S 2 = 1 n 1 n i=1 (X i X ) 2 terá média igual a σ 2, ou seja, E [ S 2] = σ 2. A raiz quadrada de S 2, S = S 2, é denominada desvio-padrão amostral.

9 Remark O resultado E [ S 2] = σ 2 não significa que a variância s 2 = 1 n 1 n i=1 (x i x) 2 obtida para um conjunto de dados é igual a variância populacional σ 2. O resultado E [ S 2] = σ 2 diz que se nós tomarmos amostras de tamanho n repetidamente e computarmos s 2 para cada uma delas, a média de s 2 - após estas inúmeras repetições de amostragem - será σ 2, o mesmo valor da variância populacional. Por causa deste resultado, o valor observado de S 2, que é s 2, parece ser uma boa aproximação para σ 2.

10 Este resultado também mostra porque utilizamos n 1 no denominador e não n. Caso utilizássemos a seguinte estatística alternativa da variância amostral: ˆσ 2 = 1 n que pode ser reescrita como: ˆσ 2 = n 1 n Sua média seria igual a: n (X i X ) 2, i=1 n 1 n 1 (X i X ) 2 i=1 }{{} S 2 E [ ˆσ 2] = n 1 n E [ S 2] = n 1 n = n 1 n S 2 o que implica que tal estatística não seria uma boa aproximação para σ 2 σ2

11 Derivaremos a distribuição das estatísticas. Assume-se uma distribuição para a população (normal) da qual a amostra será coletada aleatoriamente. Mas antes... derivaremos e revisaremos alguns conceitos e resultados importantes antes de obter tais distribuições.

12 Definition (Função Geradora de Momentos) A função geradora de momentos (fgm) para uma v.a. X é definida como: m X (t) = E [ e tx], < t <.

13 Como esta função se relaciona com os momentos de uma v.a.: m k = E [ X k]? Relembrando a fórmula da expansão da série e tx em torno de x = 0, temos que: f (x) = f (x 0 ) + f (x 0 ) (x x 0 ) + f (x 0 ) (x x 0 ) 2 e tx = 1 + tx + (tx) ! para qualquer real t e x. Fixando um t, temos: [ ] [ m X (t) = E e tx = E 1 + tx + (tx )2 2! + 2 (tx )3 3! = 1 + te [X ] + t2 2! E [ X 2] + t3 3! E [ X 3] +... = 1 + tm 1 + t2 2 m 2 + t3 6 m ]

14 Então: dm X (t) dt = m 1 + tm 2 + t2 2 m 3... d 2 m X (t) dt 2 = m 2 + tm Avaliando as derivadas em t = 0, teremos: dm X (t) dt = m 1 t=0 d 2 m X (t) dt 2 = m 2 t=0 ou seja, a k ésima derivada da fgm avaliada em t = 0 gera o k ésimo momento da v.a. X, m k.

15 Example Suponha que uma moeda justa é jogada duas vezes. Seja X o número de caras que ocorre. Então: 1 4, x = 0 1 p X (x) = 2, x = 1 1 4, x = 2 0, c.c.

16 Example A função geradora de momentos para X é: m X (t) = E = 1 4 [ e Xt] = et e2t ( 1 + e t ) 2 A partir dela, podemos calcular, por exemplo, a média (µ X = m 1 ) e a variância (σ 2 X = m 2 m 2 1 ): m 1 = m X (t) t=0 = 1 ( 1 + e t ) e t = 2 t=0 1 2 = µ X m 2 = m X (t) t=0 = 1 ( e t e t + ( 1 + e t) e t) = 1 (1 + 2) 2 t=0 2 σ 2 X = = 1 2.

17 Example Vamos obter a fgm da distribuição qui-quadrada que será útil a seguir. Seja a v.a. contínua X, que tem uma distribuição gama com parâmetros n > 0 e λ > 0, se sua fdp for dada por: { λ n x n 1 f X (x) = Γ(n) e( λx), x > 0 0, x 0 em que Γ (n) é a função gama dada por: Γ (n) = 0 x n 1 e x dx, α > 0 onde é fácil provar que Γ (n) = (n 1) Γ (n 1).

18 Example Assim, sua fgm será: m X (t) = E = λn Γ (n) = λn Γ (n) = λn = = 0 0 Γ (n) ( λ λ t [ ] e tx = e tx λn x n 1 0 Γ (n) e λx dx x n 1 e x(λ t) dx ( ) u n 1 u du e λ t λ t ( ) 1 n u n 1 e u du 0 λ t ) n 1 u n 1 e u du Γ (n) 0 }{{} Γ(n) ( λ λ t ) n

19 Example Fgm da qui-quadrada: caso particular da gama, quando λ = 1 2 e n = v/2, onde v é o número de graus de liberdade da qui-quadrada. Assim, se Z χ 2 v, sua fgm será: m Z (t) = ( ) 1/2 v/2 ( ) 1 v/2 = 1/2 t 1 2t

20 Theorem Seja X 1,..., X n v.a. s independentes e seja Y = a i X i. Então a fgm para Y é: m Y (t) = Π n i=1m Xi (ta i ) ou seja, a fgm da soma de v.a.s independentes é o produtório das fgm marginais.

21 Agora derivaremos a distribuição de algumas estatísticas. Assuma uma amostra aleatória X 1,..., X n de uma população normal com média µ e variância σ 2. Logo, pela Definição de amostra aleatória, sabemos que X 1,..., X n são variáveis aleatórias independentes e normalmente distribuídas. Vamos definir a variável normal padrão para cada elemento da amostra como: Z i = X i µ σ 2 N (0, 1), i = 1,..., n,

22 Theorem Se X 1,..., X n são v.a. independentes e Y 1 = g 1 (X 1 ),..., Y n = g n (X n ), então Y 1,..., Y n são v.a. independentes. Ou seja, se tivermos n v.a. independentes, se aplicarmos uma função diferente a cada uma delas (por exemplo, elevando uma ao quadrado, outra adicionando apenas uma constante etc), as variáveis resultantes destas aplicações serão ainda independentes.

23 Aplicando este teorema às v.a.s Z 1,..., Z n normais padrões, elas serão também independentes. Seja Z = 1 n n i=1 Z i a média amostral. Como Z é uma combinação de normais independentes, outro resultado que devemos lembrar é que a combinação destas v.a.s. também será uma v.a. normal. Como cada Z i N (0, 1), pelo Teorema 1 teremos que: E [ Z ] = 0 Var [ Z ] = 1 n Assim, Z N ( 0, 1 n ).

24 Se padronizarmos a variável Z teremos: Logo: ( Z 0) 1/ n = n Z N (0, 1) n Z 2 χ 2 1 Tal como Z, temos que Z i Z também é uma v.a. normalmente, visto que é uma combinação de v.a.s normais independentes.

25 Proposition Cov ( Z, Z i Z ) = 0, i = 1,..., n. Assim, Z e Z i Z são não correlacionadas e podemos dizer que são independentes pois ambas são normalmente distribuídas além de serem conjuntamente normalmente distribuídas (ou seja, seguem uma normal bivariada). Exercise (Lista) Prove que Z e Z i Z seguem uma normal bivariada para o caso de n = 2 (obtenha a distribuição das variáveis transformadas utilizando o Jacobiano).

26 Corollary Seja X 1,..., X n v.a. independentes e seja Y 1 = g 1 (X 1,..., X j1 ), Y 2 = g 2 (X j1 +1,..., X j2 ),..., Y k = g (X jk +1,..., X jk ), onde os Y j s são quaisquer funções de subconjuntos mutuamente exclusivos de X 1,..., X n. Ou seja, nenhum par de Y j s é função do mesmo X i. Então Y 1,..., Y k são também independentes. Através do corolário, temos que Z e n i=1 (Z i Z ) 2 são v.a. independentes (tal como n Z 2 e n i=1 (Z i Z ) 2 ) Visto que aplicamos uma função para Z i Z (elevar ao quadrado cada termo e passar o somatório, algo do tipo g (w 1,..., w n ) = n i=1 wi 2) e outra função para Z (uma função do tipo g(x) = x).

27 Da fórmula alternativa da variância, podemos escrever: O que já sabemos: n i=1 (Z i Z ) 2 = n Zi 2 n Z 2 i=1 n (Z i Z ) 2 + n Z 2 n = Zi 2 i=1 i=1 Z i N (0, 1), logo Zi 2 χ 2 1. Como as v.a.s Z i s são independentes, então n i=1 Z i 2 χ 2 n. n Z 2 χ 2 1. n Z 2 e n i=1 (Z i Z ) 2 são independentes

28 Como n Z 2 e n i=1 (Z i Z ) 2 são independentes, utilizando o Teorema do produtório das fgm s marginais, obtemos: [ ( )] [ ( [ n n ])] E exp t Zi 2 = E exp t (Z i Z ) 2 + n Z 2 i=1 i=1 E [ exp ( t n Zi 2 i=1 )] = E [ exp ( t E [ exp ( tn Z 2)] )] n (Z i Z ) 2 i=1

29 Vimos que n Z 2 χ 2 1 e n i=1 Zi 2 qui-quadrada, temos: [ ( E exp que é a fgm de uma v.a. χ 2 n 1. t χ 2 n. Substituindo a fgm da )] n ( ) (Z i Z ) 2 1 (n 1)/2 = i=1 1 2t Assim: n i=1 (Z i Z ) 2 χ 2 n 1 e como visto acima, é independente de Z, quando Z 1,..., Z n forem v.a. normais padrões independentes.

30 Em termos das v.a. X i quem são estes termos? Vejamos: Z = 1 n n Z i = 1 n ( ) Xi µ i=1 n = X µ i=1 σ σ Z i Z = X i µ X µ = X i X σ σ σ (S 2 = n i=1(x i X ) 2 n 1 ) n (Z i Z ) 2 = i=1 n (X i X ) 2 (n 1) S 2 i=1 σ 2 = σ 2 Assim, como Z = X µ σ e n i=1 (Z i Z ) 2 = (n 1)S2 são σ 2 independentes, então X e S 2 também serão (pois são funções de X e S 2, o que, segundo o Teorema 10 implica que serão independentes).

31 Theorem Assuma que X 1,..., X n é uma amostra aleatória de uma v.a. normal X com média µ e variância σ 2. Então: (i) A média amostral, X, e a variância amostral, S 2, são v.a. independentes. (ii) (n 1)S2 σ 2 χ 2 n 1.

32 Theorem Se X 1,..., X n é uma amostra aleatória de uma v.a. normal com média µ e variância σ 2. Então: n ( X µ) S t n 1

33 Fact Este teorema afirma que quando padronizamos a estatística X usando a variância amostral (S 2 ), ou seja, quando desconhecemos a variância populacional (σ 2 ), conseguimos obter também uma distribuição conhecida. Fact n( X µ) Note que a distribuição de probabilidade para S é sempre uma t student, independentemente do valor da variância populacional σ 2. Fact Esta v.a. será muito útil para inferências sobre a média µ de uma população normal cuja variância σ 2 seja desconhecida.

34 Como vimos anteriormente, as estatísticas de ordem nos fornecem valores importantes da distribuição, como por exemplo, o mínimo e o máximo. A distribuição do mínimo e do máximo, por exemplo, pode ser derivada. A função distribuição (função densidade acumulada, fd) do máximo, X (n),pode ser escrito como: O evento ( ) F X(n) (x) = Pr X (n) x { } X (n) x ocorre se, e somente se, o evento {X 1 x,..., X n x}.

35 Assim, podemos reescrever a fd como: ( ) F X(n) (x) = Pr X (n) x Logo, a fdp de X (n) é: = Pr (X 1 x,..., X n x) = Pr (X 1 x)... Pr (X n x) (X = F (x)...f (x) }{{} n vezes = [F (x)] n i s indep.) (X i s ident.distrib.) f X(n) (x) = d dx F X (n) (x) = d [F (x)]n dx f X(n) (x) = n [F (x)] n 1 df (x) = n [F (x)] n 1 f (x) dx Assim, tanto a fd como a fda de X (n) estão relacionadas a fd e fda de X i, ou seja, da população.

36 Para obter a distribuição do mínimo, X (1) : o evento {X 1 > x} ocorre se, e somente se, {X 1 > x,..., X n > x} ocorre. Assim, suas probabilidades são iguais, ou seja: ( ) Pr X (1) > x = Pr (X 1 > x,..., X n > x) = Pr (X 1 > x)... Pr (X n > x) (X i = [1 F (x)]... [1 F (x)] }{{} (X i n vezes = [1 F (x)] n Assim, a fd de X (1) será: ( ) ( ) F X(1) (x) = Pr X (1) x = 1 Pr X (1) > x = 1 [1 F (x)] n

37 E a fdp de X (1) será: f X(1) (x) = d dx F X (1) (x) = d dx {1 [1 F (x)]n } f X(1) (x) = n [1 F (x)] n 1 df (x) dx f X(1) (x) = n [1 F (x)] n 1 f (x) Assim, da mesma forma que o máximo, a fd e fdp do mínimo dependem diretamente da fd e fdp de X i.

38 Example Seja X 1,..., X n sejam v.a.s exponenciais independentes, cuja fdp e fd são, respectivamente: f (x) = λe λx, x > 0 F (x) = 1 e λx, x > 0

39 Example Então, a fd de X (1) será: e a fdp de X (1) será: F X(1) (x) = 1 [1 F (x)] n [ = 1 1 (1 e λx)] n = 1 e nλx, x > 0 f X(1) (x) = d dx F X (1) (x) = d dx (1 e nλx) = nλe nλx, x > 0 ou seja, X (1) também é uma v.a. exponencial, com parâmetro nλ.

40 Example E o máximo de X (n) tem fd: e a fdp será: F X(n) (x) = [F (x)] n = f X(n) (x) = d dx F X (n) (x) = d dx [ 1 e λx] n, x > 0 [1 e λx] n = nλe λx [ 1 e λx] n 1, x > 0 ou seja, X (n), ao contrário do mínimo, não segue uma distribuição exponencial.