Modelo de Regressão Simples

Transcrição

1 Modelo de Regressão Smples

2 Hstora Hstóra Termo regressão fo troduzdo por Fracs Galto (8-9). Estudo sobre altura de pas e flhos. Karl Pearso coletou mas de ml regstros e verfcou a le de regressão uversal de Galto ( ) Atualmete é uma das téccas de estmação mas usadas. Aplcações: Idustra, Ecooma, Estudos Bológcos, etc Objetvos: descrção de dados, estmação de parâmetros, predção e cotrole. Ampla lteratura Modelo de Regressão Lear Modelo de Regressão Não-Lear Modelo Lear Geeralzado Etre outros

3 Exemplos Aplcação a ecooma: reda taxa de juros 3 poupaça cosumo Aplcação o mercado mobláro (avalação) : área costruída custo do m 3 localzação Aplcação a cêca da computação: preço do móvel memóra RAM sstema operacoal 3 3 tpo de processador tempo de resposta

4 Aálse de regressão Dados ão Teora Especfcação do modelo Estmação dos parâmetros Testado a adequacdade do modelo sm ão Valdação do modelo Uso do Modelo método estatístco que utlza a relação etre duas ou mas varáves de modo que uma varável pode ser estmada (ou predta) a partr da 4 outra ou das outras sm

5 Relação fucoal x Relação estatístca stca As varáves podem possur dos tpos de relações: ) Fucoal: a relação é expressa por uma fórmula matemátca: f() Todos os potos caem a curva da relação fucoal Nesse caso, temos um modelo determístco. Ex: relação etre o perímetro (P) e o lado de um quadrado (L) 5

6 Relação fucoal x Relação estatístca stca Estatístca: ão é uma relação perfeta como o caso da relação fucoal. As observações em geral ão caem exatamete a curva da relação. Nesse caso temos um modelo probablístco. O modelo captura a aleatoredade que é parte de um processo do mudo real. Ex: relação etre tamaho de casa (T) e preço (P). Todas as casas de mesmo tamaho são veddas pelo mesmo preço? 6

7 Relação estatístca: Peso (kg) Altura (cm) A exstêca de uma relação estatístca etre a varável depedete e a varável depedete ão mplca que depede de, ou que exste uma relação de causa-efeto etre e. 7

8 Medda de Assocação r,9 r,3 r Coefcete de Correlação (de Pearso) mede o grau de relação lear etre e r Cov(, ) Var( )* Var( ) r r -,9 8 r ( )( ) ( ) ( )

9 Coefcete de Correlação Iterpretações errôeas dos coefcetes de correlação. Um alto coefcete de correlação em sempre dca que a equação de regressão estmada está bem ajustada aos dados.?? 9

10 Coefcete de Correlação Iterpretações errôeas dos coefcetes de correlação. Um coefcete de correlação próxmo de zero em sempre dca que e ão são relacoadas. A B

11 Um modelo determístco Preço da casa Preço (tamaho) Tamaho da casa Neste modelo, o preço da casa é completamete determado pelo tamaho.

12 Um modelo estatístco Preço da Casa Varabldade Baxa vs. Alta 5$ Preço 5, + 75(Tamaho) + ξ x Tamaho da casa É o termo aleatóro (varável erro). É a dfereça etre o preço atual e o preço estmado baseado-se o tamaho da casa.

13 Aálse de Regressão. Determar como duas ou mas varáves se relacoam.. Estmar a fução que determa a relação etre as varáves. 3. Usar a equação ajustada para prever valores da varável depedete. Regressão Lear Smples β + β + ξ 3 E(ξ ) ; Var (ξ ) σ e COV (ξ,ξ j )

14 Modelo de Regressão Lear Smples ξ E() β + β β Coefcete agular β Itercepto populacoal Iclação populacoal Erro Aleatóro β + β + ξ 4 Varável Depedete Varável Idepedete

15 Estmação dos parâmetros Em geral ão se cohece os valores de β e β. Eles podem ser estmados através de dados obtdos por amostras. O método utlzado a estmação dos parâmetros é o método dos mímos quadrados, o qual cosdera os desvos dos de seu valor esperado: ξ (β + β ) Em partcular, o método dos mímos quadrados requer que cosderemos a soma dos desvos quadrados, deotado por Q: 5 Q [ β β ]

16 6 Estma Estmação dos parâmetros ão dos parâmetros De acordo com o método dos mímos quadrados, os estmadores de β e β são aqueles, deotados por b e b, que toram mímo o valor de Q. Dervado ] [ Q β β β Q ] [ β β β ) ( ) )( ( b b b e b b E ˆ ˆ ) ( + + β β (resíduo) Igualado-se essas equações a zero obtém-se os valores b e b que mmzam Q:

17 Propredades da equação ) e de regressão ) e émíma 3) ˆ 4) A reta de regressão passa sempre pelo poto (, ) 7

18 Predção Um dos objetvos da aálse de regressão Para um determado valor x de, queremos prever o valor que deverá ser assumdo por. yˆ α ˆ + ˆx β 8

19 Iferêca em Aálse de Regressão Cosdere o modelo: β + β + ξ ξ ~ N(; σ )e COV(ξ,ξ j ) IC para β e β, IC para ovo β? β? (teste de hpótese)? H H : β : β < t b β ~ t s( b ) t b ~ t s( b ) s ( b ) QMRes ( ) 9

20 Precsão do modelo Ŷ ˆ ˆ { ˆ b + b { } R ( ) ( ˆ ) + ( ˆ ) SQTo SQReg + SQRes SQReg SQTo SQTo - SQRes SQTo SQRes SQTo Coefcete de determação R Iterpretação: R mede a fração da varação total de explcada pela regressão.

21 Cosderações sobre o coefcete de determação O coefcete de determação deve ser usado com cautela. Embora o coefcete ão pode dmur quado mas regressores são adcoados o modelo, sto ão sgfca que o ovo modelo é melhor do que o ateror. O coefcete depede do rage de varabldade de x. Um alto valor do coefcete pode ser porque x teve um grade rage de varação ão realístco. Por outro lado, um valor pequeo do coefcete pode ser porque x teve um pequeo rage de varação que ão permtu que a sua relação com y seja detectada.. A méda dos quadrados dos resíduos é uma medda adequada de qualdade do ajuste.

22 Aálse de varâca: teste de sgfcâca do modelo SQT tem - graus de lberdade SQR tem - graus de lberdade SQM tem grau de lberdade H : β Regressão Resdual Total Soma de quadrado s SQM SQR SQT Graus de lberdade - - Méda ( yˆ y) ( y yˆ ) ( y y) F ( y yˆ ) If H é verdadera SQR/- tem dstrbução qu-quadrado com - graus de lberdade. SQM/ tem dstrbução qu-quadrado com grau de lberdade. SQR e SQM são depedetes. Por defção, F segue uma dstrbução F-Sedecor com e - graus de lberdade. Rejeta H F >F, ( yˆ y) / σ / σ

23 Cosderações Os modelos de regressão são costruídos baseadose o rage de valores dos regressores. A equação dos mímos quadrados é fortemete afetada por potos extremos da dstrbução de x. Os métodos de mímos quadrados são fluecados por outlers (potos aberrates). Porque a regressão dcou forte correlação etre duas varáves ão sgfca que exsta uma relação de causa e efeto. 3

24 Modelos Learzáves Modelo Padrão: β + β + ξ expoecal β e β ξ l l β + β + l ξ + β + β ξ potecal β β ξ l l β + β l + l ξ + β + β ξ ξ ~ N (, σ ) + β β + ξ 4 logartmo potêca verso

25 Aálse de Resíduos 8 ˆ,9983 +,36 R R,9496, Resíduos Resíduo e ˆ 5

26 Aálse de Resíduos ˆ,9983 +,36 R R,9496,9496 Resíduos Padrozado Resíduo Padrozado e MQRes 6

27 Aálse de Resíduos Resíduos Padrozados deal Resíduos Padrozados Resíduos Padrozados outler σ ão costate Resíduos Padrozados Resíduos Padrozados ão depedêca tempo ão leardade 4 6 8

28 Aplcação Nota fal Faltas Faltas Nota fal x y

29 Cálculo de r x y xy x y r 9 x x y x y y x y.975

30 Escreva a equação da reta de regressão com x úmero de faltas e y ota fal. x y xy x y ˆ β ( x x)( y y) ( x x) ˆ α y ˆ βx 5,667 3,94 A equação de regressão é dada por: yˆ 5,667 3, 94x

31 Prevedo Valores Com a reta de regressão, é possível prever valores de y correspodetes aos valores de x. Usado a equação de regressão podemos prever a ota esperada de um aluo com: (a) 3 faltas (b) faltas (a) (b) 3,94(3) + 5,667 93,895 3,94() + 5,667 58,579 3