Teste da razão de verossimilhanças generalizada

Transcrição

1 SME0812 Modelos Lineares Teste da razão de verossimilhanças generalizada Prof. Cibele Russo 7 de maio de / 21

2 Suponha que em um modelo linear geral Y n 1 = X n (p+1) (p+1) 1 + n 1; com N(0; 2 I); desejamos testar a hipótese linear geral H 0 : C = m contra H 1 : C 6= m; com C uma matriz de dimensão q (p + 1), r(c) = q < p + 1 e m um vetor de dimensão q 1. Para isso, vamos construir o teste da razão de verossimilhanças generalizada. 7 de maio de / 21

3 Seja L(jx 1 ; : : : ; x n ) a função de verossimilhança de dadas as observações x 1 ; : : : ; x n das variáveis aleatórias independentes X 1 ; : : : ; X n, com 2 Θ. Suponha que desejamos testar se H 0 : 2 Θ 0 ; com Θ 0 Θ contra H 1 : 2 Θ: A estatística Λ = sup L(jx 1 ; : : : ; x n ) 2Θ 0 sup L(jx 1 ; : : : ; x n ) 2Θ é chamada de teste da razão de verossimilhanças generalizada. 7 de maio de / 21

4 O teste da razão de verossimilhanças generalizada rejeita H 0 ao nível de significância se Λ Λ 0 em que 0 Λ 0 1 é tal que P(Λ < Λ 0 jh 0 verdadeira) = : No caso da hipótese linear geral, temos que L(; 2 jy; X) = { } 1 1 (2 2 exp ) n=2 2 2 (y X)> (y X) ; Θ = f(; 2 ); 2 R p+1 e 2 > 0g e Θ 0 = f(; 2 ); 2 R p+1 ; 2 > 0 e C = mg 7 de maio de / 21

5 Assim, Λ = sup L(; 2 jy; X) (; 2 )2Θ 0 sup L(; 2 jy; X) : (; 2 )2Θ Para o denominador, Para sup L(; 2 jy; X) é atingido quando (; 2 )2Θ MV = (X > X) 1 X > y e 2 = (y X MV ) > (y X MV ) : n sup L(; 2 jy; X), precisamos maximizar L(; 2 jy; X) com (; 2 )2Θ 0 2 R p+1 ; 2 > 0 sujeito a C = m. 7 de maio de / 21

6 Para isso, podemos utilizar o método dos multiplicadores de Lagrange, que consiste em maximizar L? = L(; 2 jy; X) > (C m); com um vetor q 1 de multiplicadores de Lagrange. Devemos encontrar = ( 0 ; 2 0 ; > ) > = = 0 e 2 > = negativa definida: 7 de maio de / 21

7 Após alguns cálculos (exercício), obtemos 0 = MV (X > X) 1 C > [C(X > X) 1 C > ] 1 (C MV m) e 0 2 = (y X 0) > (y X 0) ; n em que 0 e 0 2 são os estimadores de máxima verossimilhança restritos a H 0. Temos que sup (; 2 )2Θ = sup (; 2 )2Θ L(; 2 jy; X) [ { }] 1 1 (2 2 exp ) n=2 2 2 (y X)> (y X) = (2) n=2 ( 2 MV ) n=2 e n=2 : 7 de maio de / 21

8 Além disso, sup L(; 2 jy; X) (; 2 )2Θ 0 [ 1 = sup (2 2 ) Assim, Λ = (; 2 )2Θ 0 n=2 exp = (2) n=2 ( 2 0 ) n=2 e n=2 ) ( 2 n=2 MV 2 0 { }] (y X)> (y X) e rejeitamos H 0 ao nível de significância se Λ Λ 0 com 0 < Λ 0 < 1 é tal que P(Λ < Λ 0 jh 0 verdadeira) = : 7 de maio de / 21

9 Considere a estatística W = (Λ 2=n ( n 1) ) p 1 ; q que satisfaz as seguintes propriedades: W é uma função monótona de Λ. Λ Λ 0, Λ 1 Λ 1, Λ 0 2=n 1 Λ 2=n 1, ( ) ( 0 ) n p 1 (Λ 2=n ) (Λ 2=n n p 1 ), q 0 q W w 0 (forma da região crítica). ( ) 2 (n ) ) W = 0 p 1 ( 2 (n 1 = 0 MV 2 ) p 1. q q 2 MV 2 MV 7 de maio de / 21

10 Lembrando que 0 = MV (X > X) 1 C > [C(X > X) 1 C > ] 1 (C MV m) 0 = MV H temos que 2 0 = (y X 0) > (y X 0)=n = (y X( MV H)) > (y X( MV H))=n = (y X MV + XH) > (y X MV + XH)=n = (y X MV ) > (y X MV ) n + (y X MV ) > XH + H > X > (y X MV ) + H > X > XH : n 7 de maio de / 21

11 Mas H > X > (y X MV ) = H > (X > y X > X MV ) = H > (X > y X > y) = 0: Logo 2 0 = 2 MV + H> X > XH n = 2 MV + (C MV m) > [C(X > X) 1 C > ] 1 C(X > X) 1 X > X(X > X) 1 C > [C(X > X) 1 C > ] 1 (C MV m)) n = 2 MV + (C MV m) > [C(X > X) 1 C > ] 1 (C MV m)) n 7 de maio de / 21

12 Substituindo na expressão de W : ( ) 2 (n ) W = 0 p 1 MV 2 1 q ( ) (n (C MV m) > [C(X > X) 1 C > ] 1 ) (C MV m)) p 1 = n MV 2 q (C MV m) > [C(X > X) 1 C > ] 1 (C MV m)) q = (y X MV ) > (y X MV ) ( n p 1 ) (C MV m) > [C(X > X) 1 C > ] 1 (C MV m)) = q QMRes 7 de maio de / 21

13 Distribuição de W com QMRes = MSE o quadrado médio dos resíduos no modelo irrestrito, Temos que QMRes = MSE = (y X MV ) > (y X MV ) : n p 1 MV N p+1 (; 2 (X > X) 1 ) C MV N q (C; 2 C(X > X) 1 C > ) C MV m N q (C m; 2 C(X > X) 1 C > ) 7 de maio de / 21

14 Distribuição de W Assim, (C MV m) > [C(X > X) 1 C > ] 1 (C MV m)) 2 = com A = [C(X> X) 1 C > ] 1 2. Além disso, = (C MV m) > A(C MV m) AΣ = [C(X> X) 1 C > ] 1 2 C(X > X) 1 C > = I (idempotente). 2 7 de maio de / 21

15 Distribuição de W ) (C MV m) > [C(X > X) 1 C > ] 1 (C MV m)) 2 2 r(a); com r(a) = q e = 1 2 (C m)> [C(X > X) 1 C > ] 1 (C m) 2. Como (y X MV ) > (y X MV ) 2 2 n p 1 e as duas formas quadráticas são independentes (exercício), concluímos que 7 de maio de / 21

16 Distribuição de W (C MV m) > [C(X > X) 1 C > ] 1 (C MV m)) q 2 W = (y X MV ) > (y X MV ) F q;n p 1;: (n p 1) 2 Sob H 0, temos que (C MV = m) e = 0 e portanto W F q;n p 1 central: O teste da razão de verossimilhanças generalizada rejeita H 0 ao nível de significância se w > w 0, com w 0 tal que P(F > w 0 ) e F F q;n p 1. 7 de maio de / 21

17 Observações 1. Var(C MV m) = Var(C MV ) = C(X > X) 1 C > 2 : Podemos então estimar Var(C MV m) por Var(C MV m) = C(X > X) 1 C > 2 MV = C(X> X) 1 C > QMRes: 7 de maio de / 21

18 Observações 2. W = ( MV 2 MV ) (n ) p 1 ; q com MV 2 e 2 0 os estimadores de máxima verossimilhança no modelo original e no modelo restrito a H 0, respectivamente. Assim, W pode ser escrito como W = SQRes 0 SQRes SQRes com SQRes e SQRes 0 as somas de quadrados dos resíduos nos modelos originais e restritos a H 0, respectivamente. 7 de maio de / 21

19 Observações 3. Para cada, a função poder do teste é () = 1 w 0 f q;n p 1;dw em que f q;n p 1; é a função densidade de probabilidades da distribuição F q;n p 1; e w 0 é tal que P(F w 0 ) com F F q;n p 1. 7 de maio de / 21

20 Observações 4. 0 = MV (X > X) 1 C > [C(X > X) 1 C > ] 1 (C MV m); estimador de máxima verossimilhança de sob H 0 : C = m é também o estimador de mínimos quadrados de sob H 0. 7 de maio de / 21

21 Observações 5. A estatística W para testar se H 0 : C = m contra H 1 : C 6= m; coincide com a correspondente estatística W para testar se H 0 : QC = Qm contra H 1 : QC 6= Qm; onde Q é uma matriz q q não singular. A prova fica como exercício. 7 de maio de / 21