Métodos Quantitativos

Transcrição

1 Métodos Quantitativos Introdução à Análise de Regressão Universidade Salvador SSA - Bahia Brasil Maio 2016

2 Outline Revisão de conceitos básicos Distribuição amostral dos estimadores OLS Teste de hipóteses sobre um parâmetro populacional Intervalos de Confiança Teste de hipótese sobre uma c.i dos parâmetros Modelo com restrições

3 Revisão de conceitos básicos Motivação (Objetivos-problemas-hipóteses) Background Teórico e Literatura Empírica Metodologia Dados Resultados Implicações Conclusões

4 Vantagens de regressão múltipla: Permite controlar o efeito simultâneo de muitos fatores sobre a variável dependente. Permite inferir causalidade. Permite construir modelos melhores para prever a variável dependente. É mais flexível.

5 O modelo com duas variáveis independentes Um exemplo é o seguinte modelo: Wage i = β 0 + β 1 educ i + β 2 exper i + ɛ i, i = 1,..., n (1) onde Wage i é o salário do indivíduo i, educ i é a educação do indivíduo i e exper i é o número de anos de experiência de trabalho do indivíduo i. O tamanho da amostra é n. Wage está determinado pelas duas variáveis explicativas ou independentes (educação e experiência), e por outro fator não observado que se chama erro (ɛ). Estamos interessados no efeito de educ sobre wage, quando se mantêm fixos todos os demais fatores que afetam a wage; quer dizer, estamos interessados no parâmetro β 1.

6 O modelo com duas variáveis independentes Se a comparamos com uma regressão simples na que wage se explique com educ, a Eq. (1) remove a exper do termo de erro e a coloca explicitamente na equação. Portanto, β 2 mede o efeito ceteris paribus da exper sobre Wage. Hipótese do modelo: H 1 : Existe uma relação linear de dependência dada pela equação (1); H 2 : E(ɛ i educ i, exper i ) = 0 i. Esta hipótese pode ser falsa se o modelo está mal especificado, quer dizer, p.ex., se omitirmos uma variável importante ou se há erros de medição. Portanto, se esta hipótese é certa dizemos que as variáveis independentes são exógenos, caso contrário, eles são endógenas;

7 O modelo com duas variáveis independentes H 3 : Var(ɛ i educ i, exper i ) = σ 2 i. Se isso não é verdade, diz-se que há heterocedasticidade; H 4 : Cov(ɛ i, ɛ j educ i, exper i ) = 0 i, j, i j. H 5 : As variáveis independentes são estocásticas, mas Cov(ɛ i, educ i ) = Cov(ɛ i, exper i ) = 0 1, caso contrário há endogeneidade; H 6 : Na amostra nenhuma das variáveis independentes é constante e não existe uma correlação linear perfeita entre elas.

8 O modelo com k variáveis independentes A análise de regressão múltipla permite que muitos fatores observados afetem a variável dependente. No exemplo anterior também poderíamos incluir experiência de trabalho, anos de antiguidade no emprego atual, medidas das atitudes e incluso variáveis demográficas como número de irmãos ou nível de educação da mãe como variáveis explicativas.

9 O modelo com k variáveis independentes O modelo de regressão lineal múltipla geral é: y i = β 0 + β 1 x 1i + β 2 x 2i β k x ki + ɛ i, i = 1,..., n (2) O número de parâmetros é k + 1; β 0 é a constante; β 1 mede o efeito, ceteris paribus, de uma mudança unitária de x 1 em y. Uma interpretação parecida se lhes dá aos outros parâmetros (as pendentes), mas não à constante; ɛ é o termo de erro e inclui a outros fatores que não aparecem no modelo.

10 O modelo com k variáveis independentes O modelo anterior pode ser escrita na forma matricial como: Y = Xβ + ɛ (3) onde Y é um vetor de longitude nx1, X é uma matriz de nx(k + 1), β é um vetor de longitude (k + 1)x1 e ɛ é um vetor de nx1, quer dizer: y 1 y 2 Y =... y n

11 O modelo com k variáveis independentes β 1 β 2 β =... β n ɛ 1 ɛ 2 ɛ =... ɛ n 1 x 1,1 x 2,1... x 1,k 1 x 2,1 x 2,2... x 2,k X = x n,1 x 2,n... x n,k

12 O modelo com k variáveis independentes O modelo de regressão lineal múltipla geral é: De novo, as hipóteses clássicas são: A relação entre a variável dependente Y e a(s) variáveis(s) independente(s) X i é lineal; E(ɛ X i ) = 0; Var(ɛ X i ) = σ 2 I; Os erros estão não correlacionados, de tal forma que: Cov(ɛ i, ɛ j X i ) = 0 i j; Os regressores são estocásticos e não estão correlacionados com o termo de erro; O rango de X é k + 1 < n.

13 Figure:

14 O modelo com k variáveis independentes Cálculo das estimativas OLS A equação estimada OLS é: ŷ i = ˆβ 0 + ˆβ 1 x 1i + ˆβ 2 x 2i ˆβ k x ki O método de mínimos quadrado ordinários (OLS) calcula estimadores para minimizar a soma dos resíduos ao quadrado. Isto é, dadas n observações de y e as variáveis independentes, os estimadores ˆβ 0, ˆβ 1,..., ˆβ k se calculam simultaneamente de tal forma que: n (y 1 ) i=1

15 O modelo com k variáveis independentes Cálculo das estimativas OLS A equação estimada OLS é: ŷ i = ˆβ 0 + ˆβ 1 x 1i + ˆβ 2 x 2i ˆβ k x ki O método de mínimos quadrado ordinários (OLS) calcula estimadores para minimizar a soma dos resíduos ao quadrado. Isto é, dadas n observações de y e as variáveis independentes, os estimadores ˆβ 0, ˆβ 1,..., ˆβ k se calculam simultaneamente de tal forma que: n (y 1 ) ˆβ 0 + ˆβ 1 x 1i ˆβ 2 x 2i ˆβ k x ki, i=1 Seja mínimo.

16 O modelo com k variáveis independentes Cálculo das estimativas OLS Em forma matricial é Min(Y X ˆβ) (Y X ˆβ) Do problema de minimização temos: ˆβ = (X X) 1 X Y = (X X) 1 X (Xβ + ɛ) = β + (X X) 1 )X ɛ

17 O modelo com k variáveis independentes Cálculo das estimativas OLS Considerando o caso k = 2 variáveis independentes, ŷ i = ˆβ 0 + ˆβ 1 x 1i + ˆβ 2 x 2i : n n ˆβ 1 = ( ˆr 1i y i )/( i=1 i=1 ˆr 2 1i) onde ˆr 1i são os resíduos da regressão de x 1 sobre x 2 e ˆβ 0 = ȳ β 1 x 1 β 2 x 2 Chamaremos a ˆβ 0 o estimador OLS da constante e a ˆβ 1, ˆβ 2 os estimadores OLS das pendentes (correspondentes ás variáveis independentes x 1 e x 2.

18 No seguinte exemplo: ln(wage) i = β 0 + β 1 educ i + β 2 exper i + β 3 tenure i + ɛ i, O número de observações é n = 526 (β 2 interpretação): Se o número de anos de experiência aumenta em um ano, então o salário mudará, em média, (β 2 100%). A mesma interpretação se aplica ao resto de parâmetros, mas não à pendente. Os valores e resíduos obtidos por OLS são: ln( wage) ˆ i = ˆβ 0 + ˆβ 1 educ i + ˆβ 2 exper i + ˆβ 3 tenure i e ˆɛ i = ln(wage) i ln( wage) ˆ i

19 Os valores e resíduos obtidos por OLS tem algumas propriedades importantes que são extensões diretas do caso de uma variável: A média amostral dos resíduos é zero; A covariância da amostra entre cada variável independente e seus resíduos é zero. Portanto, a covariância da amostra entre os valores obtidos por OLS e os resíduos OLS é zero; O ponto (ln wage, educ, exper, tenure) sempre está sobre a reta de regressão OLS.

20 Seja o modelo geral: y i = β 0 + β 1 x 1i + β 2 x 2i β k x ki + ɛ i Bondade de ajuste: Igual que na regressão simples, podemos definir a soma total de quadrados (SST ), a soma de quadrados explicada (SSE), e a soma de quadrados residual (SSR),como: SST = n (y i ȳ) 2, i=1 n SSE = (ŷ i ȳ) 2 e i=1 n SSR = ˆɛ i. i=1

21 SST = SSE + SSR. (4) Em outras palavras, a variação total de {y i } é a soma das variações totais de {ŷ i } e de {ˆɛ i }. Supondo que a variação total de y não é zero, como é o caso a menos que y i seja constante na amostra, podemos dividir (4) por SST e obter: SSR/SST + SSE/SST = 1. Igual que no caso de regressão simples, o R 2 se define como R 2 = SSE/SST = 1 SSR/SST, (5) e se interpreta como a proporção da variação amostral de y i que se explica pelo modelo. Por definição, R 2 é um número compreendido entre zero e um.

22 Pode-se demostrar também que R2 2 é igual ao coeficiente de correlação ao quadrado entre os y i verdadeiros e os estimados ŷ i. R 2 = ρ 2 y,ŷ = ( n i=1 (y i ȳ)(ŷ i ȳ)) 2 ( n i=1 (y i ȳ 2 )( n i=1 (ŷ i ȳ) 2 ) R 2 = ˆβ X Y nȳ 2 Y Y nȳ 2 Um fato importante sobre R 2 é que nunca diminui, e habitualmente aumenta quando outra variável independente é adicionado à regressão. Isto faz com que não seja muito útil para decidir se uma ou mais variáveis devem ou não ser incluídas no modelo. O fator que deve decidir se uma variável explicativa deve estar no modelo é o fato de que a variável explicativa tenha um efeito parcial diferente não nulo sobre y na população.

23 Condicional aos valores das variáveis independentes, a matriz de covariâncias condicional de ˆβ é igual a Var ˆβ = σ 2 (X X) 1 O estimador ˆβ é eficiente se é de variância mínima dentro da classe dos estimadores lineares insesgados.

24 Teorema de GAUS-MARKOV Dado um vetor qualquer de constantes w, o estimador lineal insesgado de variância mínima de w β no modelo de regressão clássica é w ˆβ, onde ˆβ é o estimador de mínimos quadrados. O estimador ˆβ é consistente se converge em probabilidade a β, (o qual anotamos (p lim ˆβ = β), quer dizer, se lim E( ˆβ) = β e, n. lim VaR( ˆβ) = 0 n

25 Figure: Consistência

26 Figure: Consistência

27 Figure: Consistência

28 Distribuição amostral dos estimadores OLS Temos dado um conjunto de hipóteses baixo as quais o estimador OLS é insesgado; Temos deduzido a variância dos estimadores OLS, isto é útil para conhecer sua precisão; Mas, para fazer inferência estatística, precissamos conhecer a distribuição na amostragem dos estimadores; A distribuição dos estimadores OLS depende da distribuição do erro ɛ. H 7 : O erro populacional ɛ é independente das variáveis explicativas x 1, x2,..., x k e segue uma distribuição normal com média zero e variância σ 2 : ɛ Normal(0, σ 2 ).

29 Esta hipótese é mais forte que qualquer uma das hipóteses anteriores, de tal forma que, sob ela e E(ɛ i x 1i, x 2i,..., x ki ) = E(ɛ i ) = 0 Var(ɛ i x 1i, x 2i,..., x ki ) = Var(ɛ i ) = σ 2 As hipóteses (H 1,..., H 7 ) juntas se chamam as hipóteses clássicas do modelo de regressão linear (CLM). Sob a hipótese CLM, os estimadores OLS ˆβ 1, ˆβ 2,..., ˆβ k, são os estimadores de mínima variância e insesgados dentre todos os estimadores, não somente entre os quais estão linear em y i.

30 Uma forma abreviada de resumir as hipóteses populacionais CLM é: y i x i Normal(β 0 + β 1 x 1 i β k x ki, σ 2 ), onde x i = (x 1i, x 2i,..., x ki ).

31 Teorema (1) Com base nos pressupostos CLM, subordinada aos valores de amostrais das variáveis independentes, ˆβ j Normal(β j, Var( ˆβ j )) onde Var( ˆβ j ) = σ 2 SST j (1 R 2 j ), onde SST j = n i=1 (x ji x j ) 2 e R 2 j é o R 2 da regressão de x j nas demais variáveis independentes. Então: ˆβ j β j ˆσ ˆβj Normal(0, 1)

32 Teste de hipóteses sobre um parâmetro populacional Seja o modelo para a população:, y i = β 0 + β 1 x 1i + β 2 x 2i β k x ki + ɛ i que cumpre as hipóteses clássicas. Lembre-se que β j são características desconhecidas da população, e nunca teremos a certeza de seus verdadeiros valores. No entanto, podemos fazer uma hipótese sobre o valor de β j e então usar inferência estatística para contrastar a nossa hipótese.

33 Para construir os testes de hipóteses, precisamos do seguinte resultado: Teorema (2) Sob as hipóteses CLM: ˆβ j β j ˆσ ˆβj t n k 1, onde k +1 é o número de parâmetros desconhecidos no modelo populacional y i = β 0 +β 1 x 1i +β 2 x 2i +...+β k x ki +ɛ i (k parâmetros de pendente e a constante β 0 ).

34 Diferências entre os Teorema (1) e (2) O Teorema (1) demonstra que, com base nas hipóteses CLM, ˆβ j β j ˆσ ˆβ j Normal(0, 1) ; mas agora estimamos o desvio padrão de erros σ (ˆσ = SSR/(n k 1)), o que implica que a distribuição é o quociente entre uma N(0, 1) e uma χ 2 n k 1 independentes, quer dizer, uma distribuição t de Student com n k 1 graus de liberdade. O Teorema (2) é importante porque nos permite contrastar hipóteses de que os β j. Na maioria das aplicações, o interesse fundamental está em contrastar a hipótese nula H 0 : β j = 0, onde j corresponde a qualquer das k variáveis independentes.

35 Significado da hipótese nula β j mede o efeito parcial de x j sobre (o valor esperado de) y, depois de haver controlado todas as outras variáveis independentes, quer dizer, depois de haver levado em conta (x 1, x 2,.., x k ), x j não tem efeito sobre o valor esperado de y.

36 Como exemplo, tomemos a equação do salario A hipótese nula ln(wage) i = β 0 + β 1 educ i + β 2 exper i + β 3 tenure i + ɛ i H 0 : β 1 = 0 Significa que, depois de ter em consideração a antiguidade e experiência, o número de anos de educação (educ) não tem efeito sobre o salário por hora. Esta é uma hipótese interessante na economia. Se for verdade, isso implica que a educação de uma pessoa anterior ao presente emprego não afeta o salário. Si β 1 > 0, portanto a educação anterior contribui a produtividade e, portanto, ao salário.

37 O estatístico de teste se chama quociente t (ou teste t) e vem dado por: t ˆβ j ˆβ j ˆσ ˆβ j. Necessitamos uma forma mais geral da estatística t para contrastar outras hipóteses sobre β j. Suas características são: O quociente t é simples de calcular dado ˆβ j e seu desvio padrão; Sendo que ˆσ ˆβj sempre é positivo, t ˆβj tem o mesmo sinal que ˆβ j ; Para um valor dado de ˆσ ˆβ j, um valor maior de ˆβ j leva a valores maiores de t ˆβ j ; ˆβj nunca é exatamente zero, seja ou não certa H 0.

38 A pergunta é: A que distancia está ˆβ j de zero? Um ˆβ j muito longe de zero adiciona evidência contra H 0 : β j = 0; Os valores de t ˆβj suficientemente longe de zero darão como resultado a rejeição de H 0 ; A regra de rejeição concreta depende da hipótese alternativa e do nível de significância escolhido; Obter uma regra para rejeitar com um certo nível de significância (a probabilidade de rejeitar H 0 quando é certa) requer o conhecimento da distribuição amostral de t ˆβj sob H 0. Estamos contrastando hipóteses sobre os parâmetros da população. Não estamos contrastando hipótese sobre as estimativas de uma amostra particular. H 0 : ˆβ j = 0 ou H 0 : = 0 Estas hipóteses não tem sentido

39 Testes frente a hipóteses alternativas unilaterais Para obter uma regra de rejeição de H 0, temos que especificar a hipótese alternativa que nos interessa. Seja uma alternativa unilateral da forma: H 1 : β j > 0 As alternativas a H 0 da forma H 1 : β j < 0 não se consideram. A regra de rejeição é que H 0 se rejeita em favor de H 1 ao nível de significância do 5% se: t ˆβ j > c, onde c é o percentil 95 de uma distribuição t com n k 1 graus de liberdade. Se a hipótese alternativa é H 1 : β j < 0 a regra de rejeição é t ˆβj < c.

40 Alternativas bilaterais Nas aplicações, é frequente contrastar a hipótese nula H 0 : β j = 0 frente a uma alternativa bilateral do tipo, H 1 : β j 0. Sob esta alternativa, x j tem um efeito ceteris paribus sobre y sem especificar se o efeito é positivo ou negativo. Esta é a alternativa adequada quando o sinal de β j não está bem determinado pela teoria. Mesmo que o sinal é conhecido sob a alternativa, um contraste bilateral é muitas vezes prudente. Quando a alternativa é bilateral, nos interessa o valor absoluto do estatístico t.

41 Alternativas bilaterais A regra de rejeição para H 0 : β j = 0 frente a H 1 : β j 0 é: t ˆβ j > c, onde c é um valor crítico adequado. Para encontrar c, de novo especificamos um nível de significância, p. ex. 5%. Para um contraste bilateral, c é escolhido de modo a tornar a área de cada cauda da distribuição t de 2.5%. Contraste de otras hipótese sobre β j H 0 : β j = 0 é a hipótese mais comum, mas a vezes estaremos interessados em contrastar H 0 : β j = a j onde a j é nosso valor de hipótese de β j, então a estatística t apropriado é

42 t = ˆβ j a j ˆσ ˆβj t mede a quantos desvios padrão está β j de a j. Um exemplo: Seja um modelo simples que relacione o número anual de delitos nos campus universitários (crime) com a matricula de estudantes (enroll): ln crime t = β 0 + β 1 ln enroll t + ɛ t. Este é um modelo de elasticidade constante, onde β 1 é a elasticidade dos delitos com respeito à matricula. A hipótese nula poder?a ser H 0 : β 1 = 1. Isso significa que um aumento de 1% na matricula leva, em média, a um aumento de 1% nos delitos.

43 O modelo estimado é: ln crime t = 6.63(1.03)+1.27(0.11) ln enroll t, onde : n = 97, R 2 = O quociente t é: t = = 2.45 Sendo que ˆβ 1 = 1.27, podemos pensar se ha evidencia para rejeitar a hipótese nula frente a alternativa H 1 : β > 1 e, sendo que o valor crítico da t com 95 graus de liberdade é de 1.66 (usando gl igual a 120), então, claramente rejeitamos H 0 em favor de h 1 ao nível de significância de 5%.

44 Cálculo dos valores p nos testes da t Em lugar de contrastar com distintos níveis de significância, é mais informativo calcular o nível de significância mínimo ao qual se teria rejeitado a hipótese nula. Eeste nível é chamado p-valor; O p-valor do seguinte teste H 0 : β j = 0 frente a H 1 : β j 0 é P T > t onde T indica uma variável aleatória com distribuição t e n k 1 graus de liberdade e t indica o valor numérico da estatística de teste; O p-valor também é a probabilidade de observar uma estatística t tão extrema como seria possível se a hipótese nula fosse certa. Isto significa que valores p pequenos trazem pouca evidência adicional contra a hipótese nula.

45 Com gl = 40 e t = 1.85, o p-valor se calcula assim: p-valor= P( T > 1.85) = 2P(T > 1.85) = 2(.0359) =.0718, onde P(T > 1.85) é a superfície à direita de 1.85 em uma distribuição t com 40 gl. Figure:

46 Suponhamos, por exemplo, que contrastamos H 0 : β j = 0 frente a H 1 : β j > 0. Si ˆβ j < 0, o p-valor é maior que 0.50, o qual nunca faria que rejeitássemos H 0 em favor de H 1. Se ˆβ j > 0, então t > 0 e o p-valor é, simplesmente, a probabilidade de que uma variável aleatória t com os graus de liberdade adequados seja maior que t.

47 Intervalos de Confiança Os intervalos de confiança também são chamam de estimações por intervalo, porque eles dão um intervalo de valores prováveis para o parâmetro da população, e não apenas uma estimativa pontual. O intervalo é CI = [ ˆβ j c ˆσ ˆβj + c ˆσ ˆβj ]. Se tivessemos muitas amostras aleatórias, e se calcula-se o intervalo de confiança com cada amostra, então, o parâmetro populacional (que é desconhecido) β j estaria dentro do intervalo de confiança CI no 95% das amostras. Para a única amostra que temos na prática, com a qual construímos o CI, não sabemos se β j está de verdade dentro do intervalo. Nossa esperança é que a amostra seja uma das de 95% cujo CI contém ao β j, mas não temos garantia disto.

48 Precissamos de três valores para construir o CI: ˆβj ; ˆσ ˆβ j ; c. Um exemplo: Um modelo que explique o preço de um bem em termos de suas características se chama modelo de precificação hedônica. A equação a seguir é um modelo de preços hedônicos para os preços de habitação; as características são: A metragem quadrada (sqrft); O número de dormitórios (bdrms), e O número de banheiros (bthrms).

49 Muitas vezes os preços (e algumas variáveis explicativas) aparecem em forma de logaritmos. Utilizando n = 19 observações de casas que foram vendidas em Waltham, Massachusetts, em 1990, a equação estimada (com desvios padrão entre parênteses do lado dos coeficientes estimados) é: ln price ˆ i = 7.46[1.15] [0.184] ln sqrft i 0.066[0.059]bdrms i [0.075]bthrms i. n = 19; R 2 = Sendo que price e sqrft aparecem ambas em forma logarítmica, a elasticidade do preço com respeito aos pés quadrados é 0.634, quer dizer, mantendo fixos o número de dormitórios e banheiros, um aumento de 1% em pés quadrados aumenta o preço previsto da habitação em um 0.634%.

50 Um intervalo de confiança ao 95% para a elasticidade da população (β ln sqrft ), dado que c vale (o percentil 97.5 da distribuição t com 15 gl) é: [ ; ] Desde que o zero não esteja neste intervalo de confiança, rejeitamos H 0 : β ln sqrft = 0 frente a hipótese alternativa bilateral ao nível de significância de 5%.

51 Teste de hipótese sobre uma c.i dos parâmetros Para ilustrar o caso geral, vamos ver um modelo simples para comparar o desempenho econômico da educação nas escolas universitárias de primeiro ciclo e em faculdades universitárias. A população é constituída por trabalhadores que concluíram o ensino médio, e o modelo é: ln wage i = β 0 + β 1 jc i + β 2 univ i + β 3 exper i + ɛ i, onde jc é o número de anos que frequentou a uma escola de primeiro ciclo e univ é o número de anos que frequentou uma faculdade. A hipótese de interesse é se um ano em uma escola universitária vale o mesmo que um ano em uma faculdade: isto se expressa como H 0 : β 1 = β 2

52 A alternativa de interesse é unilateral: um ano em uma escola universitária vale menos que um ano em uma faculdade. Isto se expressa como H 1 : β 1 < β 2. Podemos reescrever H 0 : β 1 β 2 = 0 e H 1 : β 1 β 2 < 0. Neste caso podemos usar t = ˆβ 1 ˆβ 2 ˆσ ˆβ 1 ˆβ 2 A regra de rejeição é da forma t < c, onde c é um valor positivo que se toma da distribuição t adequada.

53 ˆσ ˆβ 1 ˆβ 2 é igual a: exemplo: (Var( ˆβ 1 ) + Var( ˆβ 2 ) 2Cov( ˆβ 1, ˆβ 2 )) ln wage i = β 0 + β 1 jc i + β 2 univ i + β 3 exper i + ɛ i, ln wage ˆ i = [0.021] [0.0068]jc i [0.0023]univ i [0 t = ˆβ 1 ˆβ 2 ˆσ ˆβ1 ˆβ 2 = n = 6763; R 2 = Cov( ˆβ 1, ˆβ 2 )

54 Modelo com restrições Até agora só temos lidado com hipótese que consistem em uma única restrição. Muitas vezes, queremos testar várias hipóteses sobre os parâmetros. Começaremos com um caso destacado, contrastar se um conjunto de variáveis independentes não têm efeito parcial sobre uma variável dependente. modelo sem restrições ln salary i = β 0 +β 1 years i +β 2 gamsyr i +β 3 bavg i +β 4 hrunsyr i +β 5 rbisyr i +ɛ i, onde salary é o salário total em 1993, years é o número de anos na liga, gamesyr é o número médio de partidas jogadas no ano, bavg é a média de carreiras/bateio (por exemplo, bavg=250), hrunsyr é quadrangulares (home runs) por ano, e rbisyr são as carreiras batidas por ano.

55 Queremos testar, por exemplo, a hipótese nula de que, uma vez que os anos na liga e os jogos por ano tem sido controlados, as variáveis que medem o rendimento (bavg, hrunsyr, e rbisyr) não influenciam no salário, ou seja: H 0 : β 3 = 0, β 4 = 0, β 5 = 0 A hipótese nula consta de três restrições de exclusão: Se for verdade, então bavg, hrunsyr, e rbisyr não têm efeito sobre ln salary depois de que os anos e gamesyr são controlados. A hipótese alternativa é: H 1 : H 0 não é certa. H 1 é cumprido se pelo menos um dos β 3, β 4 ou β 5 é diferente de zero

56 Como contrastamos H 0 frente a H 1? Não podemos utilizar um teste t porque este não pode por restrições em mais de um parâmetro. Ademais, o uso do estatístico t diferente para contrastar uma hipótese múltipla pode induzir a erros. Necessitamos um método para contrastar conjuntamente as restrições de exclusão. Seja a seguinte estimativa: ln salary ˆ i = 11.20[0.289] [0.012]years i [0.0026]gamsyr i [0.0011]bavg i [0.016]hrunsyr i [0.0072]rbisyr i n = 353; SSR = ; R 2 = onde SSR é a soma dos resíduos ao quadrado.

57 Esta regressão nos diz: years e gamesyr são estatisticamente significativas; bavg, hrunsyr, e rbisyr são não estatisticamente significativas frente a uma hipótese alternativa bilateral ao nível de significância de 5%; Portanto, baseando-nos nas três estatísticas t, parece que não podemos rejeitar H 0,... isto é falso!. Para ver este, temos que desenvolver um contraste de restrições múltiplas. Resulta que a soma de resíduos ao quadrado e o R 2 nos dão uma base muito cômoda para contrastar hipóteses múltiplas.

58 Como as estimativas OLS minimizam a soma de residuos ao quadrado, a SSR sempre aumenta quando quitamos variáveis ao modelo. A questão é se este aumento é bastante grande, em relação à SSR do modelo que tem todas as variáveis, como para rejeitar a hipótese nula. Impondo a hipotese nula modelo restringido e o modelo ajustado é: H 0 : β 3 = 0, β 4 = 0, β 5 = 0 obtemos: ln salary i = β 0 + β 1 years i + β 2 gamsyr i + ɛ i ln salary ˆ i = 11.22[0.11] [0.0125]years i [0.0013]gamsyr i n = 353; SSR = ; R 2 =

59 A SSR do modelo restringido é maior que a SSR do modelo sem restrições e o R 2 do modelo restringido é menor que o R 2 do modelo sem restrições. A pergunta é se a SSR que passa do modelo sem restrições ao restringido (de a ) é bastante grande como para rejeitar a hipótese nula. A resposta depende do nível de significado do contraste. Portanto, necessitamos uma estatística de teste adequada.

60 Seja o modelo geral: modelo sem restrições hipótese nula y i = β 0 + β 1 x 1i + β 2 x 2i β k x ki + ɛ i, i = 1,..., n. onde q < k. modelo restringido H 0 : β 1 = β 2 =... = β q = 0, y i = β 0 + β q+1 x (q+1)i β k x ki + ɛ i, i = 1,..., n.

61 O estatístico F é: F = (SSR r SSR nr )/q SSR nr /(n k 1), onde SSR r é a soma dos quadrados dos resíduos do modelo restringido e SSR nr é a soma de quadrados de resíduos do modelo sem restrições. A estatística F sempre é não negativo; q=número de restrições; O denominador de F é simplesmente o estimador insesgado de σ 2 = Var(ɛ) no modelo sem restrições; Pode-se demostrar que, baixo H 0 (e supondo que se cumprem as hipóteses CLM), F se distribui como uma variável aleatória F com (q, n k 1) graus de liberdade. F F (q,n k 1)

62 Se F é suficientemente grande rejeitamos H 0 a favor de H 1. Seja c o percentil 95 da distribuição F (q,n k 1). Este valor critico depende de q (os gl do numerador) e de (n k 1) (os gl do denominador). Portanto, rejeitamos H 0 a favor de H 1 ao nível de significância escolhido se F > c. Se for rejeitada H 0, então dizemos que x 1,..., x q são conjuntamente estatisticamente significativas ao correspondente nível de significância. Este contraste por se só não nos permite dizer qual(is) das variáveis tem um efeito parcial sobre e; Se a hipótese nula não se rejeita, implica que, as variáveis não são conjuntamente significativas, que em muitos casos justifica removelas o modelo.

63 Agora podemos contrastar se, depois de controlar years e gamesyr, as variáveis bavg, hrunsyr, e rbisyr não têm efeito algum sobre os salários dos jogadores. O teste F é F = ( )/ / Este número supera mais o que o valor cr?tico ao 5% na distribuição F com 3 e 347 graus de liberdade, portanto, rejeitamos a hipótese de que bavg, hrunsyr, e rbisyr não têm efeito sobre o salário

64 Relação entre os estatísticos F e t Que acontece se aplicamos a estatística F ao caso de testar uma única variável independente? Se pode contrastar H 0 : β 1 = 0 com um teste F como antes. Ambos métodos são semelhantes, quer dizer, F = t 2 e quando existe apenas uma restrição de exclusão t 2 n k 1 F 1,(n k 1). Porém, a estatística t é mais flexível para contrastar hipótese simples porque se pode usar para contrastar frente a alternativas unilaterais.

65 Além disso, como e R 2 r = 1 SSR r SST R 2 ɛr = 1 SSR nr SST, podemos escrever o estatístico F em função de R 2 s como: F = Como R 2 nr > R 2 r, F sempre é positivo (R 2 nr R 2 r )/q (1 R 2 nr )/(n k 1)

66 Relação entre os estatísticos F e t Em contrastes com a F, o p-valor se define como: p valor = P(F > F), onde, F é uma variável aleatória com (q, n k 1) graus de liberdade e F é o valor concreto da estatística de teste O p-valor é, de novo, a probabilidade de observar um valor de F que seja, ao menos, tão grande como o que observamos, supondo que a hipótese nula seja verdadeira.

67 O estatístico F para a relevância geral da regressão A hipótese nula é que as pendentes são zero H 0 : β 1 = β 2 =... = β k = 0, e a alternativa é que ao menos um dos β j é diferente de zero. Há k restrições e o modelo restringido é: y i = β 0 + ɛ i O R 2 que se obtém ao estimar este modelo é zero e, portanto, o estatístic F fica: R 2 /k F = (1 R 2 )/(n k 1), onde R 2 é o R 2 não restringido.

68 Se não podemos rejeitar a hipótese nula, então não há evidencia de que nenhuma das variáveis independentes ajude a explicar y.