Regressão Linear Simples

Transcrição

1 Origem hisórica do ermo Regressão: Regressão Linear Simples Francis Galon em 1886 verificou que, embora houvesse uma endência de pais alos erem filhos alos e pais baios erem filhos baios, a alura média de filhos de pais de uma dada alura endia a se deslocar ou regredir aé a alura média da população como um odo. Em ouras palavras, a alura dos filhos de pais eraordinariamene alos ou baios ende a se mover para a alura média da população. A lei de regressão universal de Galon foi confirmada por Karl Pearson (1903), que coleou mais de mil regisros das aluras dos membros de grupos de famílias e verificou que a alura média dos filhos de um grupo de pais alos era inferior a alura de seus pais, e que a alura média dos filhos de um grupo de pais baios era superior a alura de seus pais. Assim, ano os filhos alos como baios regrediram em direção a alura média de odos os homens. Moderna inerpreação da regressão: Esudo da dependência de uma variável () em relação a uma ou mais variáveis () com o objeivo de esimar e/ou prever valores.

2 Regressão Linear Simples Muias pesquisas na área de business raa de modelagem. Modelar é enar descrever como as variáveis esão relacionadas enre si. Eemplos: Qual a relação enre o gaso com o consumo de bens alimenares e a renda disponível das pessoas? Qual a relação enre a receia obida por uma firma e o gaso com propaganda? Qual a relação enre a quanidade de invesimeno agregado na economia e a aa de juros? O modelo gráfico mais simples relacionando uma variável com uma variável é a linha rea. Discuiremos enão os modelos lineares simples (linha rea).

3 Suponha que queremos modelar a receia da venda mensal de uma loja em função dos gasos mensais com propaganda. 1ª. Perguna: Há uma relação eaa enre essas duas variáveis, iso é, podemos prever eaamene a receia obida com as vendas se o gaso com propaganda for especificado? Não. A quanidade vendida depende de muias variáveis e não só do gaso com propaganda, como o período do ano, esado geral da economia, esruura de preços, ec. Enreano, mesmo se muias variáveis fossem incluídas no modelo, ainda não seria possível prever eaamene as vendas mensais, pois eise o fenômeno aleaório, que não pode ser modelado ou eplicado. Todas as variações nas vendas que não são eplicadas serão consideradas como erro aleaório. Se acrediarmos que a receia com vendas mensais será eaamene 10 vezes o gaso mensal com propaganda, eremos = 10 que represena uma relação deerminísica enre e.

4 Se uma linha passa pelos ponos (-1, 3) e (3, 4) e em um modelo deerminísico, podemos ober α e β resolvendo um sisema de equações a duas incógnias. 3 ( 1) 4 (3) E. - Obenha a equação da rea e desenhe a linha rea que passa pelos ponos (-, ) e (6, 3).

5 Enreano, se acrediarmos que o modelo deve ser consruído permiindo um erro aleaório, enão eremos um modelo probabilísico, que inclui uma relação deerminísica e um componene aleaório de erro. Se a receia com vendas mensais for relacionada com o gaso mensal com propaganda, al que = 10 + erro aleaório, enão eremos uma relação probabilísica enre e. Iniciaremos com o modelo mais simples, que é a linha rea: e onde é variável dependene é a variável eógena e é o componene aleaório α é o inercepo da rea ou pono no qual a linha cora o eio β é a inclinação ou o aumeno (decréscimo) em causado por um aumeno (decréscimo) em

6 β α

7 Considere os dados da abela abaio, manidos simples para eviar confusões ariméicas. Mês Gaso com Propaganda ($ 100) Receia com vendas ($ mil) Pressupõe-se que a relação enre a receia e o gaso com propaganda segue um modelo linear de primeira ordem, iso é: e A perguna é: Como uilizar da melhor forma a informação da abela para esimar os parâmeros desconhecidos α (inercepo) e β (inclinação)? Um gráfico de dispersão relacionando os ponos é imporane para ober valores aproimados dos parâmeros.

8 Receias Gaso com propaganda O gráfico sugere uma endência crescene, iso é, aumena quando aumena. Se colocarmos uma régua e raçarmos uma linha rea, ela passará por rês dos cinco ponos

9 Observando-se o gráfico, noa-se que a rea cora o eio no pono -1 e que aumena de 1 unidade a cada aumeno de uma unidade em. Porano, a inclinação é +1. A equação, enão, fica: ~ 1 onde o símbolo ~ denoa o valor previso de a parir de um modelo ajusado visualmene. Uma forma de verificar se a rea se ajusa bem ao conjuno de dados é observando o quano os dados se disanciam da rea, iso é, calculando os desvios ou a diferença enre o valor observado e o valor esimado de. ~ 1

10 ~ 1 ( ~ ) ~ ) ( (1 0) = (1 1) = ( ) = ( 3) = (4 4) = 0 0 Soma = 0 Soma = Movimenando a régua, é possível enconrar várias reas em que a soma dos desvios é igual a zero, mas pode-se demonsrar que eise somene uma rea em que a soma de quadrados dos desvios é mínima. Esa linha é denominada linha de mínimos quadrados ou regressão linear.

11 Ouro Eemplo: Suponha que esamos ineressados em esudar a relação enre renda familiar e despesas com alimenação. Selecionaremos residências aleaoriamene com renda familiar de 480 dólares por mês, e enrevisaremos os moradores, pergunando o quano foi gaso com alimeno no mês passado. Gaso com alimeno = = variável aleaória. Mesmo selecionando residências com a mesma renda, a quania gasa com alimenação varia de uma residência para oura por inúmeras razões. -algumas famílias são do gênero gourme - algumas êm adolescenes - algumas são vegearianas

12 Curva de Engel - Ernes Engel (1857 Bélgica) Gasos = f(renda) Engel esabeleceu as primeiras leis empíricas que governam a relação enre renda e despesas. Esudou uma amosra de 153 famílias na Bélgica em (1) Alimeno é o iem mais imporane no orçameno familiar () a proporção do gaso oal alocado com alimeno diminui quando a renda aumena (bem de necessidade). A lei passou a ser uma medida de pobreza: Famílias que gasam mais de 35% da sua renda com alimenos são consideradas pobres. e 1 0 e 1 bens de luo bens de necessidade e 0 bens inferiores

13 A variável aleáoria em uma função densidade de probabilidade f() que descreve as probabilidades dos diversos valores das despesas com alimenação na população, e é na realidade uma função condicional, pois esá condicionada à renda da família. = renda mensal da família f ( 480) função densidade de probabilidade condicional E( 480) despesa mensal média da população com alimenação Var ( 480) variância condicional de

14 Uma análise economérica do efeio da despesa pode dar resposa a algumas quesões imporanes, como: - se a renda mensal aumenar de $0, de quano, em média, aumenarão as despesas com alimenação? - É possível a despesa mensal com alimenação cair quando a renda aumena? - Qual a previsão de despesa mensal com alimenação de uma família com renda mensal de $800,00? Planejamenos a longo prazo em supermercados seriam auiliados endo esas resposas. Qual deve ser o amanho do supermercado em bairro pobre e rico, ec.

15 Para pesquisar a relação enre despesa e renda, devemos consruir um modelo econômico e a seguir um modelo economérico que consiuam a base de uma análise econômica quaniaiva. No nosso eemplo, a eoria econômica sugere que a despesa mensal média com alimenação de uma família, represenada por E(), depende da renda da família. A despesa média para as casas com maior renda é maior do que a despesa média para as casas com menor renda. Faremos a suposição de que a relação enre consumo e renda é linear. Enão, o modelo econômico da despesa de uma família com alimenação é: E( ) 1

16 a função de regressão simples (porque em 1 variável do lado direio da equação) êm parâmeros 1 e desconhecidos 1 = despesa mensal média com alimenação em uma família com renda zero (inercepo) = variação em E() para uma variação de $1 na renda mensal ou propensão marginal a gasar com alimenação (coeficiene angular) Para usarmos os dados, devemos especificar um modelo economérico que descreva como as variáveis renda e despesa de uma família são geradas.

17 Se omarmos uma amosra aleaória de famílias com renda mensal de $480, sabemos que os valores efeivos das despesas se disribuirão em orno do valor médio E(). Se fôssemos omar amosras de despesas domésicas para ouros níveis de renda, os valores amosrais ambém se disribuiriam em orno da média. A figura mosra que, em cada nível de renda, o valor médio da despesa domésica é dado pela função de regressão. E 1 ( )

18 Algumas suposições: - A disribuição dos valores em orno de sua média deve ser a mesma para odos os níveis de renda, iso é, Var( ) para odos os valores de. ver figura as funções densidades êm médias diferenes, porém variâncias iguais. Dados com variância consane são homoscedásicos - amosra aleaória, o que significa que, quando se coleam os dados, eles são esaisicamene independenes. O conhecimeno de uma despesa nada nos diz quano ao valor que a oura pode omar. Nos modelos economéricos, cosuma-se propor uma hipóese mais fraca do que a independência esaísica, que é a da covariância enre i e j ser zero.

19 Pressuposos do modelo de regressão linear simples 1) ( ) E 1 ) var( ) 3) cov( i, j ) 0 4) c 5) ~ N 1 X, Erro Aleaório A essência da análise de regressão é que qualquer observação sobre a variável dependene pode decompor-se em dois componenes, um sisemáico e um aleaório. O componene sisemáico de é sua média, e o componene aleaório de é a diferença enre e seu valor médio E().

20 e E( ) 1 ou 1 e as funções densidade de e e são idênicas, eceo pelo fao da E(e) = 0 Em economeria, cosuma-se formular as hipóeses do modelo de regressão em ermos do erro aleaório e. Pressuposições: 1) 1 ) ( e) 0 pois E( ) E 1 e 3) Var ( e) var( )

21 4) cov( e i e j ) 0 5) c 6) e ~ N(0, ) Uma diferença enre e e é que é observável, enquano e não é. Se 1 e fossem conhecidos, poderíamos calculá-los. e 1

22 Como 1 e nunca são conhecidos, é impossível calcular e. É ineressane encarar e de maneira ligeiramene diferene. Ele represena odos os faores não observáveis que afeam. Esses faores fazem com que observações individuais difiram do valor médio 1 +. E.: erro de aproimação devido a forma funcional Goso do indivíduo (componene comporamenal) Esimação dos parâmeros Considere os dados da abela. São valores observados da variável aleaória que saisfazem as pressuposições 1 a 6. Despesa Renda 1 5,5 58,30 58,3 343, , ,60

23 Como uilizar e amosrais para esimar os parâmeros desconhecidos 1 e? Colocando os dados em um diagrama de dispersão em-se Nosso problema é esimar a posição da rea de despesa média. Seria de esperar que essa rea esivesse no meio de odos os ponos já que represena um comporameno médio. Precisamos enão de um criério formal para raçar a rea, e de preferência, que uilizasse odas as informações.

24 O princípio dos mínimos quadrados Vamos empregar uma regra para esimar 1 e baseado no princípio dos mínimos quadrados. Ese princípio afirma que, para ajusar uma rea aos valores dos dados, devemos procurar a rea al que a soma dos quadrados das disâncias vericais de cada pono à rea seja a menor possível. Tomam-se os quadrados das disâncias para eviar que grandes disâncias posiivas sejam canceladas pelas negaivas. As esimaivas de mínimos quadrados de 1 e são b 1 e b. A rea ajusada é ˆ b1 b

25 As disâncias vericais de cada pono à rea ajusada são os resíduos de mínimos quadrados, que são dados por: ˆ ˆ e b1 b

26 Suponha agora que queiramos ajusar aos dados oura rea arbirária, digamos ˆ b b * * * 1 as esimaivas de mínimos quadrados b 1 e b propriedade: êm a seguine a soma dos quadrados dos seus resíduos é menor do que a soma dos quadrados dos resíduos de qualquer oura rea, não imporando o modo como al linha possa er sido raçada por enre os ponos represenaivos dos dados. * * ˆ eˆ ˆ eˆ

27 O problema agora é enconrar uma forma conveniene para deerminar b 1 e b. Dadas as observações amosrais sobre e, devemos achar valores dos parâmeros desconhecidos 1 e que minimizem a função soma de quadrados dos erros: 1 1 1, T i S S 0 1 T 0 1 S 0 1

28

29 b Tb 1 T Tb Tb 1 b Tb 1 b b 1 T T T b T T b b T b T b 1 (1) () Fazendo () menos (1) obém-se:

30 Observe que se = c, b não eisiria, pois o denominador seria 0. - os esimadores de MQ são fórmulas gerais e são variáveis aleaórias - as esimaivas de MQ são os valores observados de variáveis aleaórias A Rea de Regressão esimada ou ajusada é: ˆ 40,7676 0, 183 A rea ajusada de MQ passa pelo meio dos dados de forma muio precisa, pois uma das caracerísicas da rea ajusada, baseada nas esimaivas de mínimos quadrados dos parâmeros, é que ela passa pelo pono definido pelas médias amosrais.

31 b = 0,13 é o aumeno na despensa mensal com alimeno quando a renda mensal aumena de $1. Assim, se a renda aumena de $100, esima-se em $13 o aumeno da despesa mensal.

32 b 1 = 40,77 é uma esimaiva da despesa mensal com alimenação de uma família com renda zero. Elasicidades A elasicidade renda da demanda é uma forma conveniene de caracerizar o nível da resposa da despesa do consumidor a variações na renda. OU como, enão

33 no pono de média em-se 698 ˆ b 0,13 130,31 0,69 uma variação de 1% na renda mensal de uma família acarrea, em média, um aumeno de aproimadamene 0,7% na despesa com alimenação. Como < 1 é necessidade e não luo. Previsão Suponha que queiramos prever a despesa mensal com alimenação de uma família com renda mensal de $750,00, enão ˆ 40,77 0,13 (750) $137 prevemos que uma casa com renda mensal de $750 gase $137 com alimenação.

34 Volando ao eemplo da receia e gaso com propaganda. Obenha a e b Toais b T T (15) ,7 a T b T ,7 5 0,7.3 0,1

35 4 3 1 ˆ 0,1 0, ˆ 0,1 0, 7 ( ˆ ) ( ˆ) 1 1 0,6 (1 0,6) = 0,4 0,16 1 1,3 (1 1,3) = -0,3 0,09 3,0 ( ) = 0 0 4,7 (,7) = 0,7 0, ,4 (4 3,4) = 0,6 0,36 Soma = 0 Soma = 1,1 A soma de quadrado dos desvios é 1,1, que é menor do que, o valor obido aneriormene.

36 Ouros modelos econômicos O modelo de regressão linear simples é muio mais fleível do que parece a primeira visa, porque as variáveis e podem ser ransformações que envolvem logarimo, quadrados, cubos ou inversos das variáveis econômicas básicas. Na verdade, o modelo é linear nos parâmeros, não se permiindo epressões como ln() São comuns modelos econômicos como: ln 1 ln uma caracerísica ineressane desse modelo é que elasicidade de em relação a. porano 1 ln = ln 1 1 é a

37 E. - Seja a quanidade de cero produo, em milhares de unidades, e o respecivo cuso oal de produção em milhares de reais. É dada a seguine amosra de 10 pares de valores. Esime a equação da rea pelo méodo de mínimos quadrados, uilizando-se os dados da abela abaio. Arquivo de dados e-cuso.ls (1000 unidades) (R$ 1000,00) E. Obenha os valores esimados de, os resíduos e e a soma de quadrado dos desvios.

38 E. Devido ao conrole de preço feio pela OPEP, o preço do óleo cru subiu dramaicamene de 1970 a início de Como resulado, os moorisas ambém se defronaram com aumeno do preço da gasolina. Com base nos dados da abela abaio, faça o gráfico de dispersão e obenha a rea esimada do preço da gasolina em função do preço do óleo. Arquivo de dados e-gasol_oleo.ls Ano Gasolina (cenavo dolar/galão) óleo cru ($/barril)

39 E. Para esar um novo ferilizane foi feio um eperimeno. Um erreno foi dividido em 8 pares, a produção de baaa em Kg foi pesada e foram colocadas doses diferenes de ferilizanes em cada pare (Kg), obendo-se: Arquivo de dados e-baaa.ls Produção de baaas quanidade de ferilizane Qual seria a produção de baaas se uma dose de ferilizane de 3,75 Kg fosse uilizada?