Análise de Regressão Prof. MSc. Danilo Scorzoni Ré FMU Estatística Aplicada

Transcrição

1 Aula 2 Regressão Linear Simples Análise de Regressão Prof. MSc. Danilo Scorzoni Ré FMU Estatística Aplicada

2 Conceitos Gerais A análise de regressão é utilizada para explicar ou modelar a relação entre uma variável Y, chamada de resposta, saída ou dependente; e uma ou mais variáveis X s preditoras, de entrada, independentes ou explanatória. Y: X s: variável resposta, saída ou dependente variável(eis) preditoras, de entrada, independentes ou explanatória

3 Regressão Linear Simples O modelo mais simples para explicar a relação entre duas variáveis é o modelo de regressão linear simples ele explica uma variável em função de uma reta e necessita que a variável Y seja contínua. Y: X: variável resposta deve ser contínua! variável preditora pode ser contínua ou discreta.

4 Regressão Linear Simples - Histórico O termo regressão foi criado por Francis Galton em 1875 ao estudar a relação entre as alturas de pais e filhos. Galton percebeu que esta relação não é perfeita, ou seja, quando se estuda a população, pais mais altos não possuem filhos tão altos quanto, enquanto que pais mais baixos, não possuem filhos tão baixos quanto. A esse fenômeno, Galton deu o nome de regressão para a média.

5 Regressão Linear Simples - Histórico

6 Regressão Linear Simples - Histórico

7 Regressão Linear Simples - Exemplo Outro exemplo interessante é o desempenho de alunos mediante dois exames: um realizado no meio e outro no fim da disciplina. Pode-se pensar que bons alunos procuram manter suas notas sempre altas, enquanto que maus alunos tendem a manter suas notas sempre baixas. Entretanto, na média, o que acontece é que o aluno, ao tirar uma nota baixa no exame do meio da disciplina, busca estudar mais para a segunda prova. O contrário também acontece: o aluno que vai bem na primeira prova, relaxa e acaba indo um pouco pior na segunda prova.

8 Regressão Linear Simples - Exemplo

9 Regressão Conceitos Gerais A equação que representa a regressão linear simples é dado por: Y i = β 0 + β 1 X i + ε i

10 Regressão Conceitos Gerais A equação que representa a regressão linear simples é dado por: Y i = β 0 + β 1 X i + ε i variável dependente variável independente

11 Regressão Conceitos Gerais A equação que representa a regressão linear simples é dado por: Y i = β 0 + β 1 X i + ε i parâmetros que explicam a relação

12 Regressão Conceitos Gerais A equação que representa a regressão linear simples é dado por: Y i = β 0 + β 1 X i + ε i erro aleatório

13 Regressão Conceitos Gerais

14 Regressão Conceitos Gerais O objetivo do ajuste do modelo é estimar os parâmetros beta. Em termos práticos, é encontrar a reta que passa bem no meio da nuvem de pontos. A distância entre cada ponto e a reta, é chamado de erro (ε i ). ε i = Y i Y i O algoritmo que minimiza a soma do quadrado dos erros é o mais utilizado para estimar os parâmetros da reta. Este algoritmo é conhecimento como Método dos Mínimos Quadrados.

15 Regressão Conceitos Gerais O Método de Mínimos Quadrados apresenta os seguintes estimadores para os betas, derivado da correlação: β 1 = r XY S Y S x β 0 = Y β 1 X

16 Regressão Exemplo O gráfico a seguir apresenta a relação entre o rendimento de combustível (milhas por galão) e o número de cilindros do motor de diversas marcas de carro:

17 Regressão Exemplo O gráfico a seguir apresenta a relação entre o rendimento de combustível (milhas por galão) e o número de cilindros do motor de diversas marcas de carro: Como traçar a reta que melhor explica esta relação?

18 Regressão Conceitos Gerais Vamos usar o método de mínimos quadrados! β 1 = r XY S Y S x β 0 = Y β 1 X r xy = 0,8521 S y = 6,0269 S x = 1,7859 Y = 20,09 X = 6,187

19 Regressão Conceitos Gerais Vamos usar o método de mínimos quadrados! β 1 = r XY S Y S x β 0 = Y β 1 X r xy = 0,8521 S y = 6,0269 S x = 1,7859 Y = 20,09 X = 6,187 6, 0269 β 1 = 0, 8521 = 2, 876 1, 7859 β 0 = 20, 09 2, 876 6, 188 = 37, 885

20 Regressão Conceitos Gerais r xy = 0,8521 S y = 6,0269 S x = 1,7859 Y = 20,09 X = 6,187 6, 0269 β 1 = 0, 8521 = 2, 876 1, 7859 β 0 = 20, 09 2, 876 6, 188 = 37, 885 Logo, a equação que melhor explica a relação é: Y i = 37, 885 2, 876X i

21 Regressão Conceitos Gerais

22 Regressão Conceitos Gerais O quão bom será este modelo que ajustei?

23 Regressão Coeficiente de Determinação O coeficiente de determinação é uma medida que mostra o quão bom um modelo explica uma relação. Também conhecido como percentual de variância explicada. R 2 = 1 y i y i 2 y i y 2

24 Regressão Coeficiente de Determinação O coeficiente de determinação é uma medida que mostra o quão bom um modelo explica uma relação. Também conhecido como percentual de variância explicada. valor estimado R 2 = 1 y i y i 2 y i y 2 valor observado

25 Regressão Coeficiente de Determinação O coeficiente de determinação é uma medida que mostra o quão bom um modelo explica uma relação. Também conhecido como percentual de variância explicada. R 2 = 1 y i y i 2 y i y 2 0 R 2 1 Quanto mais próximo de 1, melhor!

26 Regressão Coeficiente de Determinação R 2 = 0, 9875 R 2 = 0, 7905

27 Regressão Erro padrão residual O erro padrão residual é outra métrica de variação, baseada nos resíduos, que permite obter o percentual de variação em função da variável resposta: s yx = y i y i 2 n 1 s yx (%) = s yx y 100 Erro padrão residual absoluto Erro padrão residual relativo

28 Regressão Erro padrão residual s yx % = 2, 43% s yx % = 15, 04%