Análise Exploratória de Dados

Transcrição

1 Análse Exploratóra de Dados

2 Objetvos Análse de duas varáves quanttatvas: traçar dagramas de dspersão, para avalar possíves relações entre as duas varáves; calcular o coefcente de correlação entre as duas varáves; obter uma reta que se ajuste aos dados segundo o crtéro de mínmos quadrados.

3 DIAGRAMAS DE DISPERSÃO E CORRELAÇÃO DADOS: Começaremos a aula de hoje trabalhando com dados referentes à porcentagem da população economcamente atva empregada no setor prmáro e o respectvo índce de analfabetsmo para algumas regões metropoltanas brasleras (exercíco 11 do capítulo 4).

4 DADOS: REGIÃO SET. PRIM. IND_ANALF. SÃO PAULO RIO DE JANEIRO BELÉM BELO HORIZONTE SALVADOR PORTO ALEGRE RECIFE FORTALEZA Fonte: Indcadores Socas para Áreas Urbanas - IBGE volta

5 PROBLEMA Será que exste alguma relação entre as varáves porcentagem da população economcamente atva no setor prmáro e índce de analfabetsmo? Em caso afrmatvo, como quantfcar esta relação?

6 Dagrama de dspersão Vejamos como obter o dagrama de dspersão destes dados usando o R. Prmero, vamos ler os dados: dados= read.table(" ) names(dados)=c( RM, SP, AN ) #comando que fornece nomes para as varáves

7 DIAGRAMA DE DISPERSÃO plot(dados$sp, dados$an, xlab="porc. da PEA no Setor Prmaro", ylab="indce de Analfabetsmo", man= "Dagrama de Dspersao,col= blue )

8 Análse dos dados Você dra que há dependênca lnear entre estas varáves? Calcule a correlação entre elas. cor(dados$sp,dados$an) (0.867) yy xx xy n n n n n n n n S S S n y y n x x y x n y x y y n x x n y y x x n r ) ( ) ( 1 ) ( 1 ) ( 1 ) )( ( 1

9 ID_ANALF CORRELAÇÃO Há alguma regão com comportamento dferente das demas? SET_PRIM 12 Em caso afrmatvo, retre-a da base de dados e recalcule a correlação. dados

10

11 Porto Alegre Retrando os dados da regão metropoltana de Porto Alegre temos a segunte correlação: (observe que Porto Alegre está na lnha 6 da base de dados). dad=matrx(0,7,2) dad[,1]=c(dados[1:5,2],dados[7:8,2]) dad[,2]=c(dados[1:5,3],dados[7:8,3]) cor(dad[,1],dad[,2]) (0.908) porcentagem de varação em relação à correlação ncal: 4,8% (em valor absoluto)

12 A porcentagem de varação fo calculada da segunte forma: 100 r r ( ) r r é a correlação calculada com base em todas as observações r() é a correlação calculada retrando-se a -ésma observação.

13

14 Fortaleza dad[,1]=c(dados[1:7,2]) dad[,2]=c(dados[1:7,3]) cor(dad[,1],dad[,2]) (0.858) porcentagem de varação em relação à correlação ncal: 0,96% (em valor absoluto)

15

16 Recfe dad[,2]=c(dados[1:6,3],dados[8,3]) dad[,1]=c(dados[1:6,2],dados[8,2]) cor(dad[,1],dad[,2]) (0.916) porcentagem de varação em relação à correlação ncal: 5,7% (em valor absoluto)

17

18 Salvador dad[,1]=c(dados[1:4,2],dados[6:8,2]) dad[,2]=c(dados[1:4,3],dados[6:8,3]) cor(dad[,1],dad[,2]) (0.882) porcentagem de varação em relação à correlação ncal: 1,8% (em valor absoluto)

19 Resumo RM retrada varação % Porto Alegre 4,8 Fortaleza 0,96 Salvador 1,8 Recfe 5,7

20

21 Comentáros As regões metropoltanas que mas nfluencaram no valor da correlação foram Porto Alegre e Recfe. Porto Alegre tem um comportamento dferente, pos sua taxa de analfabetsmo é pequena comparada a sua PEA e as demas regões.

22 Comentáros Recfe, ao contráro, tem uma taxa de analfabetsmo alta demas comparada a sua PEA e as demas regões. Fortaleza, apesar de ser um ponto afastado dos demas, mantém o padrão da maor parte dos pontos.

23 Gráfcos de lustração

24 Gráfcos de lustração

25 Gráfcos de lustração

26 Cudados na nterpretação Uma correlação alta (próxma de 1 ou -1) pode ndcar forte dependênca lnear entre as varáves. Nesse caso, os pontos no dagrama de dspersão espalham-se em torno de uma reta. Pode haver varáves cuja correlação é próxma de 1 (ou -1), mas, na verdade, não são dretamente relaconadas. (correlação espúra) Uma correlação zero ou próxma de zero ndca ausênca de lneardade, podendo sgnfcar ausênca de relação entre as varáves ou outro tpo de dependênca entre elas.

27 Exemplo 2 dados= read.table(" header=t) cor(dados$x,dados$y) 0 Observe que exste relação de dependênca entre x e y, porém essa. relação NÃO é lnear.

28 Correlação: Cudados na nterpretação Uma correlação amostral entre duas varáves próxma de 1 ou -1 pode só ndcar que as varáves crescem no mesmo sentdo (ou em sentdos contráros), e não que, aumentos sucessvos em uma, acarretarão aumentos sucessvos (ou dmnuções sucessvas) na outra.

29 Reta de mínmos quadrados Quando as varáves em análse são altamente correlaconadas e de fato pode haver uma relação de causa e efeto entre elas, o problema de fazer prevsão do valor de uma delas dado o valor da outra varável pode ser resolvdo através de uma regressão lnear smples (ajuste pela reta de mínmos quadrados). Em geral, uma das varáves é consderada como varável que pode ser controlada de alguma forma varável explcatva (ndependente - predtora) e a outra, sobre a qual deseja-se fazer prevsões, é chamada varável resposta (dependente).

30 EXEMPLO 3: Fonte: Trabalharemos com uma base de dados sobre o hábto de fumar e mortaldade por câncer de pulmão.

31 Exemplo 3 (cont.) Descrção: Os dados sumaram um estudo entre homens dstrbuídos em 25 grupos classfcados por tpo de ocupação na Inglaterra. Dos índces são apresentados para cada grupo.

32 Exemplo 3: varáves índce de fumo: razão do número médo de cgarros fumados por da por homem no partcular grupo de ocupação sobre a méda global de cgarros fumados por da, calculada levando-se em contas todos os homens. (méda do grupo sobre méda global) índce de mortaldade: razão da taxa de mortes causadas por câncer de pulmão entre os homens de um partcular grupo de ocupação sobre a taxa global de mortes por câncer de pulmão, calculada levando-se em conta todos os homens. (taxa no grupo sobre taxa global) Número de observações: 25

33 Fumo versus câncer Nomes das varáves: 1. Grupo de ocupação: grupo 2. Índce de fumo: fumo (100 = base) fumo=100: número médo de cgarros por da para o grupo é gual ao número médo global de cgarros fumados por da. fumo>100 ndca grupo que fuma em méda mas que o geral; fumo<100, grupo que fuma em méda menos que o geral.

34 Fumo versus câncer 3. Índce de Mortaldade: morte (100 = base) morte=100, número médo de mortes por câncer de pulmão para o grupo é gual ao número médo global de mortes por câncer de pulmão. morte>100 ndca grupo com ncdênca de mortes por câncer de pulmão maor que o geral; morte<100, ncdênca menor que o geral. arquvo: fumo.txt em

35 Fumo versus câncer Analse estes dados avalando se há relação entre estes índces. Construa o dagrama de dspersão e calcule a correlação.

36

37 ablne Para nserr as retas tracejadas em x=100 e em y=100 após ter construído o dagrama, use os comandos: ablne(h=100,lty=2) ablne(v=100,lty=2)

38 Indce de fumo versus mortaldade por câncer de pulmão A partr do dagrama de dspersão é possível perceber claramente uma correlação postva entre as duas varáves em análse. cor(dados$fumo,dados$morte) [1] No contexto deste exemplo faz sentdo prever o índce de mortaldade por câncer de pulmão num partcular grupo, dado o índce de fumo do grupo.

39 Reta de mínmos quadrados O comando no R que calcula os coefcentes da reta de mínmos quadrados é lm(...), de lnear model. No caso específco deste exemplo podemos pedr reta=lm(dados$morte~dados$fumo)

40 Reta de mínmos quadrados Obtém-se Coeffcents: (Intercept) dados$fumo É o coefcente angular da reta de mínmos quadrados É o coefcente lnear da reta de mínmos quadrados Modelo ajustado: Indce de morte= x(ndce de fumo)

41 Gráfco da reta obtda Para nserr o gráfco da reta obtda no ajuste de mínmos quadrados no dagrama de dspersão dos pontos, basta, após obter o dagrama de dspersão, pedr ablne(reta$coeffcents)

42 ponts Para nserr o ponto médo no gráfco use o comando: ponts(mean(dados$fumo),mean(dados$morte),pch= *,col= red,cex=2)

43 Comentáros Depos de proposto um modelo é fundamental realzar a etapa de valdação do modelo em que boa parte consste numa análse exploratóra detalhada dos resíduos do modelo. Apenas após a etapa de valdação e a escolha do modelo é que podemos partr para a etapa de prevsões.

44 Valores ajustados Após ajustar a reta, usando a função lm váras nformações fcam dsponíves, entre elas os valores ajustados da varável resposta pela reta obtda. reta$ftted (#usando reta=lm(dados$morte~dados$fumo fornece os valores ajustados)

45 Resíduos O resíduo do modelo é defndo pela dferença entre O valor observado da varável resposta e o valo Ajustado pelo modelo. Resíduos da reta de mínmos quadrados: reta$resduals round(reta$resduals,dgts=2)

46

47 Análse dos resíduos Ramo-e-folhas dos resíduos: > stem(round(reta$resduals,dgts=2)) Também avalamos o hstograma, e o gráfco dos resíduos versus os valores ajustados.

48 Valores ajustados Valores ajustados da reta de mínmos quadrados: reta$ftted round(reta$ftted,dgts=2)

49 Crtéro de mínmos quadrados Como são obtdos os coefcentes da reta de mínmos quadrados? Nossos dados podem ser pensados como uma coleção bvarada: ( x, y ), ( x 1 2, y 2 ),...,( x n, y 1 n ) Fo consderado adequado o modelo x para explcar y.

50 Crtéro de mínmos quadrados Crtéro de Mínmos quadrados: escolha e de tal manera que seja mnmzada a soma de quadrados dos resíduos: n 1 r 2 n 1 ( y x ) 2

51 Crtéro de mínmos quadrados Solução: xx xy n n S S x x x x y y b ) ( ) )( ( bx y a Coefcente de nclnação da reta Coefcente lnear da reta (ntercepto)

52 Resumo: lsta de novas funções cor: calcula a correlação; lm: ajusta a reta de mínmos quadrados; ablne: nsere uma reta num plot; ponts: nsere pontos(x,y) num plot; round(x,dgts=n); arredonda os valores em x para n casas decmas.