MOQ-14 PROJETO e ANÁLISE de EXPERIMENTOS. Professor: Rodrigo A. Scarpel

Transcrição

1 MOQ-14 PROJETO e ANÁLISE de EXPERIMENTOS Professor: Rodrigo A. Scarpel rodrigo@ita.br

2 Programa do curso: Semana Conteúdo 1 Apresentação da disciplina. Princípios de modelos lineares de regressão. Correlação amostral. 2 Regressão linear simples: hipóteses do modelo, estimação de parâmetros, propriedades e inferência dos estimadores. 3 Análise de variância (ANOVA) em regressão. Intervalos de confiança e de previsão. Análise dos resíduos. 4 Diagnósticos e reparação de problemas em regressão. Transformações. 5 Regressão linear forma matricial: estimação dos parâmetros, inferência dos estimadores, intervalos de confiança. 6 Prova 7 Princípios de regressão linear múltipla. Diagnósticos e reparação dos problemas em regressão linear múltipla. Multicolinearidade e seus efeitos. 8 Seleção de variáveis. Modelos polinomiais. Modelos com variáveis qualitativas. 9 Introdução ao projeto de experimentos: estratégia de experimentação, princípios básicos e aplicações típicas. Experimentos inteiramente casualizados. Análise de variância. 10 Experimentos fatoriais com dois ou mais fatores. 11 Experimentos fatoriais 2 k. Pontos centrais. 12 Experimentos em blocos casualizados. blocagem em experimentos 2 k. 13 Prova 14 Experimentos fatoriais fracionados. 15 Experimentos com fatores quantitativos. Métodos de superfície de resposta. 16 Otimização de produtos e processos. Projetos robustos.

3 REGRESSÃO LINEAR SIMPLES Professor: Rodrigo A. Scarpel

4 Diagnósticos e reparação de problemas em regressão: É importante ter uma modelo apropriado (livre de problemas) para gerar boas previsões e fazer inferências confiáveis. Possíveis problemas em análise de regressão: O modelo se ajusta apenas a um ou poucos outliers A função de regressão não é linear Os termos de erro (resíduos) não tem variância constante Os termos de erro (resíduos) não são independentes Os termos de erro (resíduos) não são normalmente distribuídos Uma ou algumas variâveis independentes foram omitidas do modelo

5 Diagnósticos e reparação de problemas em regressão: Presença de outliers: A presença de outliers pode ser detectada a partir do gráfico de dispersão i /(QMRes) ½ x X i ou a partir de um boxplot de i : A presença de outliers podem gerar distorções nos parâmetros estimados. Opções: remover os outliers ou trabalhar com métodos robustos

6 Y Resíduo Padronizado Diagnósticos e reparação de problemas em regressão: Presença de outliers: CASO A No caso em que os outliers são apenas em relação a variável dependente (Y): 60 1, R 2 = 0, , ,5-1 -1, X -2,5-3 X Este é o caso mais simples de ser detectado (resíduos não são independentes e a variância dos resíduos não é constante)

7 Y Resíduo Padronizado Diagnósticos e reparação de problemas em regressão: Presença de outliers: CASO B No caso em que os outliers são apenas em relação a variável independente (X): , R 2 = 0, X 0, ,5-1 -1,5-2 X Neste caso também é simples verificar que o modelo não é apropriado (amplitude de X e variância dos resíduos não é constante)

8 Y Resíduo Padronizado Diagnósticos e reparação de problemas em regressão: Presença de outliers: CASO C No caso em que os outliers são tanto em relação a variável independente (X) e a variável dependente (Y): R 2 = 0,9733 1,5 1 0, ,5-1 -1, X -2 X Embora a qualidade do ajuste tenha sido alta, verifica-se que o modelo é não apropriado (a presença do outlier gerou distorções nos parâmetros estimados)

9 Diagnósticos e reparação de problemas em regressão: Os resíduos não são independentes (correlação serial) : O problema da não independência dos resíduos, normalmente, está relacionada a omissão de variáveis independentes relevantes, à presença de outliers (conforme visto anteriormente) ou à especificação do formato da curva. No caso da omissão de variáveis relevantes, verifica-se a formação de padrões cíclicos sem tendência: Neste caso, a única solução é incorporar as variáveis relevantes ao modelo. Identificação das variáveis relevantes: gráfico de dispersão i x variáveis omitidas

10 Diagnósticos e reparação de problemas em regressão: Não linearidade da função de regressão: A não adequação do modelo devido ao formato da curva é um problema sério pois pode gerar parâmetros tendenciosos. Ela pode ser verificada a partir do gráfico de dispersão dos resíduos com a(s) variável(is) independente(s): Neste caso, uma abordagem direta é modificar o formato da função de regressão (transformações) buscando linearizar a relação entre as variáveis (X e Y).

11 Diagnósticos e reparação de problemas em regressão: Variância dos resíduos não é constante (heterocedasticidade): A não adequação do modelo devido a heterocedasticidade pode gerar parâmetros menos eficientes. Pode ser verificada pelos gráficos de dispersão i x X i ou i2 x X i : Neste caso, é possível aplicar transformações nas variáveis depedente e/ou independente buscando a estabilização da variância ou a utilização do método dos mínimos quadrados ponderados para estimação dos parâmetros.

12 Diagnósticos e reparação de problemas em regressão: Não normalidade da distribuição dos resíduos: Identifica-se a não normalidade utilizando o gráfico Q-Q Normal (boa aproximação por uma reta) e pela comparação das frequências esperadas (~68% dos resíduos ± (QMRes) ½, ~90% dos resíduos ± 1,645(QMRes) ½, ~95% dos resíduos ±1,96(QMRes) ½, ): Possíveis problemas: outliers, formato da curva de regressão, entre outros. Neste caso, é possível aplicar transformações nas variáveis depedente e/ou independente buscando a normalização da distribuição dos resíduos.

13 Transformações: A transformação da variável independente (X), ou da variável dependente (Y), ou de ambas, normalmente, é suficiente para tornar um modelo apropriado (adequado). As transformações podem ser aplicadas para: Ajustar para a linearização entre as variáveis independente e dependente (variância já é aproximadamente constante) Normalização da distribuição dos resíduos e estabilizar a variância (uma vez que esses problemas freqüentemente ocorrem juntos) Satisfazer algumas hipóteses teóricas Melhorar o ajuste e a qualidade das previsões geradas

14 Y Y Y Y Transformações: Algumas transformações comumente aplicadas (não-lineares linearizáveis): MODELO LOG-LINEAR: LN(Y) = b 0 + b 1 * X LOGARÍTMICO: Y = b 0 + b 1 *LN(X) b 1 < 0 b 1 > 0 EXPONENCIAL: Y = b 0 * e b 1*X X X MODELO POTÊNCIA: LN(Y) = b 0 + b 1 * LN(X) HIPERBÓLICO: 1/Y = b 0 + b 1 *(1/X) B < 0 0 < B < 1 B > 1 POTÊNCIA: Y = b 0 * X b 1 X HIPERBÓLICO: Y = X / ( b 1 + b 0 *X) X

15 Resíduos Padronizados Pax Doméstico Pax Doméstico Transformações: Exemplo: Modelo Potência Relação População x Pax Doméstico Relação População x Pax Doméstico ,00 150,00 160,00 170,00 180,00 190,00 200,00 Milhões População Pax Dom = exp(-82,37)*pop 5, R 2 = 0, ,00 110,00 120,00 130,00 140,00 150,00 160,00 170,00 180,00 190,00 200,00 Milhões População 2 1,5 1 0,5 0 Elasticidade PaxDom,Pop = 5,28 IC 95% (4,80 ; 5,77) -0,5-1 -1,5-2 -2, Anos

16 Transformações: Linearização da relação entre as variáveis independente e dependente: Em alguns casos, mesmo a relação entre as variáveis do modelo não sendo linear, já verifica-se que as hipóteses do modelo são satisfeitas (resíduos independentes e variância dos constante): Desta forma, recomenda-se, apenas a transformação da variável independente, X (pois a transformação da variável dependente, Y pode resultar em perda das propriedades desejadas).

17 Transformações: Nos casos em que os resíduos não tem distribuição aproximadamente normal e/ou a variância não é constante (é usual que esses problemas ocorram juntos), recomenda-se a transforamção da variável dependente: Em algumas situações a transformação simultânea da variável independente, X, e da variável dependente, Y, será necessária. OBS: No caso em que a variável dependente, Y, é transformada as estatísticas R 2 e s^ 2 não poderão ser utilizadas para comparar o desempenho de modelos.

18 Transformações: Exemplo: Dureza de aglomerados de madeira = f (Densidade) yˆ , ,976x R 2 0,7975

19 Transformações: Exemplo: Dureza de aglomerados de madeira = f (Densidade) ^ ln y 8,257 0,125x R 2 0,9016 OBS: O que justifica a transformação da variável não é a maior aderência e sim a análise dos resíduos.

20 Para casa: Laboratório 4 (site: Lista de exercícios 1 (site: Leitura: Walpole et al. cap.11: Regressão linear simples (11.10 a 11.11) Montgomery e Runger cap.11: Simple linear reg. (11.8 a 11.9)