Regressão. PRE-01 Probabilidade e Estatística Prof. Marcelo P. Corrêa IRN/Unifei

Transcrição

1 Regressão PRE-01 Probabilidade e Estatística Prof. Marcelo P. Corrêa IRN/Unifei

2 Regressão Introdução Analisar a relação entre duas variáveis (x,y) através da equação (equação de regressão) e do gráfico (gráfico de regressão) que representa tal relação. Equação de regressão Relação entre: x: variável independente (preditora, explanatória) í: variável dependente (resposta) Hipóteses: Estudos de relações lineares Cada valor de x: y é uma variável aleatória com distribuição normal todas as distribuições de y têm a mesma variância a média da distribuição dos valores de y se localiza sobre a reta de regressão

3 Equação de Regressão y = mx + b yˆ = b + b x o 1 inclinação intercepto de y bo = y b1x b 1 = n ( xy) ( y)( y) ( n x ) ( x) b o b 1 estatísticas amostrais β o β 1 estatísticas populacionais y = β +β o 1 x

4 Exemplo x y x y xy x² y² Σ ( ) ( )( ) ( n x ) ( x) n xy x y 4(77) (14)(19) b1 = = = 1, (58) (14) bo = y b1x bo = 4, 75 1, ,5 = 0, 667 ŷ = 0, ,167x Estimativa de y=β o + β 1 x

5 Exemplo x y ŷ = 0, ,167x y x

6 EXEMPLO DE CÁLCULO USANDO STATDISK

7 Utilizando a equação de regressão Prevendo y com base em x Se existe correlação linear: usar a equação de regressão Cuidados com a predição! Manter o valor da previsão de acordo com valores reais (no alcance da amostra). Usar a equação para a população da amostra. Verificar se a previsão é viável (datas, intervalos de valores, etc.) Se não existe correlação linear entre x e y: y (previsto) = y No 1 exemplo, podemos, portanto, prever qual seria y para x = 5. y = 0,667+1,1667(5) = 6,5

8 Exemplo y = 3,865 +,168x Avaliar a quantidade de hemoglobina para um paciente que apresente 5,5 unidades de medidas de glóbulos vermelhos y = 3,865 +,168(5,5) y = 15,789 A média dos dados amostrais de hemoglobina é de 13,906

9 Resumindo, para prever uma variável, temos: Calcular o valor de r Testar a hipótese: ρ = 0 sim Há correlação linear significante? (ρ = 0 é rejeitada?) não Predição pela média amostral da variável a ser prevista Predição pela Equação de Regressão

10 Outras ferramentas para análise Mudança marginal (b 1 ) : variação de uma variável em relação a variação, em uma unidade, da outra variável emparelhada. No exemplo em que b 1 =,168, temos que a taxa de hemoglobina vai aumentar de,168 para cada aumento de uma unidade de glóbulos vermelhos. Outliers e pontos influentes: Pontos que afetam fortemente o gráfico da reta de regressão

11 Outras ferramentas para análise Resíduo: Diferença entre o valor amostral observado (y) e o valor previsto pela equação de regressão (í). Resíduo = y í Propriedade dos mínimos quadrados: Soma dos quadrados dos rezíduos deve ser mínima y x x y y^ resíduo Σ(res ) =,5

12 Outras ferramentas para análise Desvio total: Distância entre o ponto (x,y) e a reta horizontal que passa pela média amostral. Desvio explicado: Distância entre o valor predito e a reta horizontal que passa pela média amostral. Desvio não-explicado: Resíduo. Distância entre o ponto (x,y) e a reta de regressão. Desvio total = Desvio explicado + Desvio não-explicado (y y) = (yˆ y) + (y y) ˆ Variação total = Variação explicada + Variação não-explicada (y y) = (yˆ y) + (y y) ˆ

13 Exemplo No nosso primeiro exemplo, tínhamos: Admitiremos uma correlação linear significativa Equação da reta de regressão: í = x A média dos valores de y é 4,75 Um dos pares de dados amostrais é (3, 4) Substituindo x = 3 na equação, temos o ponto 4, que é um dos pontos sobre a reta de regressão. Desvio total: (y y) = 4 4,75 = 0,750 Desvio explicado: (yˆ y) = 4,1667 4,75 = 0,583 Desvio não-explicado: (y y) ˆ = 4 4,1667 = 0,1667

14 y Desvio explicado Desvio não-explicado x

15 Exemplo No nosso primeiro exemplo, tínhamos: Admitiremos uma correlação linear significativa Equação da reta de regressão: í = x A média dos valores de y é 4,75 Um dos pares de dados amostrais é (3, 4) Substituindo x = 3 na equação, temos o ponto 4, que é um dos pontos sobre a reta de regressão. Variação total: (y y) = 14,8 Variação explicada: (y y) 1,3 Variação não-explicada: (y y),5 ˆ = ˆ =

16 Continuando nossa análise... Coeficiente de determinação (r ): Quantidade de variação em y, explicada pela reta de regressão. (ŷ (y y) r = y) = Variação explicada Variação total r indica a % da variação total em y que pode ser explicada pela relação linear (x,y). No caso do exemplo: r = 1,3/14,8 = 0, ,1% da variação total em y que pode ser explicada pela relação linear (x,y).

17 Continuando nossa análise... Erro padrão da estimativa (s e ): Medida de como os pontos amostrais se afastam da reta de regressão. s e maiores: pontos mais afastados da reta de regressão e vice-versa s e (y ŷ) y b o y b 1 xy = = n n No nosso exemplo: 105 0, 667(19) 1,1667(77) se = = 1,1180 = 1,1 4

18 E mais... Intervalo de predição n(x x) o yˆ E < y < yˆ + E com E = tα se 1+ + n n x x 1 ( ) ( ) n graus de liberdade No exemplo: Vimos que quando x = 5 a melhor predição para y é 6,50. No entanto, diz-se que ao se usar valores mais precisos de y, bo e b1, obtemos 6,47. Usando um NS de 95% determine o quão preciso é o valor 6,47. Se α = 0,05 t α/ = 4, (6,5 3,5) E = 4,303(1,1) 1+ + = 4,303.1,1.1,5 = 7, ( ) ( )

19 Continuando... yˆ E< y< yˆ + E 6, 47 7, 904 < y < 6, , 904 0,76 < y < 13,70 Para x = 5, estamos 95% certos de que o valor de y está entre 0,76 e 13,70. Vejam bem que, como o tamanho amostral é muito pequeno, o intervalo de predição é grande! Portanto, o valor de y pode variar muito em relação ao valor predito 6,47

20 Regressão múltipla Relação linear entre uma variável dependente y e duas ou mais variáveis independentes (x 1, x,..., x k ) ŷ = bo + b1x1+ bx bkxk b 1, b,..., b k estimativas amostrais de β 1, β,..., β k β 1, β,..., β k coeficientes das variáveis independentes x 1, x,..., x k β o valor de y quando todas as variáveis são nulas (parâmetro populacional) b o estatística amostral e estimativa de β o Extremamente complicado. Exige o uso de pacotes estatísticos!

21 Regressão múltipla Coeficiente de determinação múltipla (R ): Avalia o ajuste da equação de regressão múltipla aos dados amostrais. Coeficiente de determinação múltipla ajustado: R modificado para levar em conta o número de variáveis e o tamanho amostral. R ajustado = 1 (n 1) (1 R [n (k + 1)] ) k = número de variáveis independentes (x 1, x,..., x k ) n = tamanho da amostra Valor P: Medida da significância da Eq. Reg. Múltipla

22 Exemplo: Regressão Múltipla Dados Colesterol Idade Altura Peso Um estudo mostra os seguintes dados coletados no posto de saúde de um bairro da cidade. É possível predizer o nível de colesterol a partir da idade, altura e peso?

23 Exemplo: Regressão Múltipla y = 010,8 + 6,45*idade 11,67*altura + 1,5*peso Será que o uso de outras variáveis poderíamos melhorar a predição? Por exemplo, o uso de batimentos cardíacos (pulsação) ou o IMC.