APLICAÇÃO DA REGRESSÃO LINEAR MÚLTIPLA ATRAVÉS DOS DADOS CLIMÁTICOS DA PRECIPITAÇÃO E TEMPERATURA DA SUPERFÍCIE DOS OCEANOS (PACÍFICOS E ATLÂNTICO)

Transcrição

1 APLICAÇÃO DA REGRESSÃO LINEAR MÚLTIPLA ATRAVÉS DOS DADOS CLIMÁTICOS DA PRECIPITAÇÃO E TEMPERATURA DA SUPERFÍCIE DOS OCEANOS (PACÍFICOS E ATLÂNTICO) Alexandre Silva dos Santos 1, Fabiana Carnaúba Medeiros 2, Gilmar Bristot 3, José Ueliton Pinheiro 3 1 UFRN-DFTE-PPGCC-Natal-Rio Grande do Norte-Brasil puffy78@gmail.com 2 Secretaria de Estado do Meio Ambiente e dos Recursos Hídricos AL 3 Empresa de Pesquisa Agropecuária do Rio Grande do Norte - RN RESUMO: Este trabalho mostra um modelo estatístico para previsão da variável precipitação em uma localidade com dados climatológicos de temperatura da superfície do mar (TSM) e precipitação durante o período Foram utilizados dados mensais de TSM obtidos pela NOAA/NCEP-CPC em 2 regiões do Atlântico (Norte e Sul) e 4 regiões do Pacífico (Niño 1.2, Niño 2, Niño 4 e Niño 3.4). A precipitação usada foi do mês de junho para a cidade de Maceió-Alagoas-Brasil. Foi aplicada a Função de Correlação Cruzada (FCC) para identificação de lags TSM com a precipitação. Para o teste de normalidade foi aplicado o método Shapiro-Wilk nas variáveis utilizadas. Foram também utilizados os métodos da análise de variância (ANOVA) e testes de hipóteses (t e F). O valor do ajuste do modelo (R 2 ) para modelo de regressão final foi de O modelo de regressão final da precipitação em função das TSM s definidas nas análises, mostrou um ajuste relativamente satisfatório entre a faixa prevista e o valor observado explicando cerca de 45% da variabilidade da precipitação de Maceió. ABSTRACT: This work show a statistical model for prediction of variable precipitation in a locality with climatological data of the Sea Surface Temperature (SST) and precipitation during the period We use monthly data of SST obtained by NOAA/NCEP-CPC in two regions of the Atlantic (North and South) and four regions of the Pacific (Niño 1.2, Niño 2, Niño 4 e Niño 3.4). The precipitation was used of the month of June for the city of Maceió-Alagoas-Brazil. We applied the Cross-Correlation Function (CCF) for identification of lags SST with the precipitation. The Shapiro-Wilk test is used in testing for normality in variables. We also used analysis of variance (ANOVA) and tests of hypothesis (t and F). The value of the model fit (R 2 ) for regression model, part end was of The regression model of precipitation according to the SST s defined in the analysis, showed a relatively good fit between the observed and the value range provided explaining about 45% of the variability of precipitation Maceió. INTRODUÇÃO O comportamento da variabilidade interanual das chuvas no Nordeste do Brasil (NEB) é uma questão ainda complexa. MOLION et al. (2002) afirma que um dos motivos dessa complexidade do comportamento estar diretamente relacionada com a circulação geral atmosférica do globo terrestre, que surge devido as diferenças de temperaturas dos oceanos Pacífico e Atlântico. A Temperatura da Superfície do Mar (TSM) sobre o Atlântico (Sul e Norte) e Pacífico (fenômenos El Niño e La Niña) estão entre os principais fatores de grande escala que contribuem para a mudança na circulação atmosférica, responsáveis pela variabilidade interanual da precipitação sobre o NEB (MOURA e SHUKLA, 1981; KAYANO, 1988; ALVES e REPELLI, 1992 e UVO et al,1994). O método da regressão linear múltipla é um modelo estatístico que neste trabalho foi usado para fazer tanto previsão como predição das chuvas. Há uma forte relação entre as chuvas no NEB,

2 como variáveis preditantes (dependente ou resposta), com as TSM's do Atlântico e Pacífico, como conjunto de variáveis preditores, também conhecida como independentes ou explicativas (UVO et al., 1994). O objetivo deste trabalho foi avaliar esta relação, utilizando-se técnicas estatísticas, no sentido de verificar a importância das TSM's mensais para o estudo prognóstico da precipitação do mês de junho na cidade Maceió-AL, situada na região leste do NEB. Ambas as variáveis foram para o período de 1961 a MATERIAIS E MÉTODOS Foram utilizados totais mensais de precipitação no período de 1961 a 2009, para o mês de junho, do posto pluviométrico da Estação Meteorológica instalada pelo Instituto Nacional de Meteorologia (INMET) na cidade Maceió. Os dados de TSM (Atlântico e Pacífico) foram para o período de 1961 a 2009, obtidos pelo National Oceanic and Atmospheric Administartion (NOAA). Os dados de TSM são setorizados em suas coordenadas geográficas, para regiões El Niño 1+2 (NINO12) (0-10 Sul) (90 Oeste-80 Oeste), El Niño 3 (NINO3) (5 Norte-5 Sul) (150 Oeste-90 Oeste), El Niño 4 (NINO4) (5 Norte-5 Sul) e El Niño 3.4 (NINO34) (5 Norte-5 Sul)( Oeste) do Pacífico, Atlântico Norte (NATL) (5-20 Norte, Oeste) e Atlântico Sul (SATL) (0-20 Sul, 30 Oeste-10 Leste). Para a estimativa da previsão mensal total foi utilizado o modelo estatístico regressão linear múltipla. Este modelo relaciona uma variável chamada dependente (neste caso, precipitação mensal) às outras variáveis chamadas independentes (neste caso, as TSM's mensais). É equação 1 da regressão linear múltipla é dada por: Eq.1 onde Y indica o valor do índice de precipitação mensal estimada em função das TSM's (x k ) mensais selecionadas para análise. β 0 é o intercepto da função regressão, β k representam os coeficientes da regressão, e ε os erros das estimativas. Utilizou-se o mecanismo da Função de Correlação Cruzada (FCC) ao qual confronta as séries de precipitação versus TSM, com o critério de identificar as defasagens para cada uma das regiões, bem como sua influência para prever o grau de associação entre elas. O método da correlação foi adotado entre as variáveis independentes (preditoras) para verificar a multicolinearidade existentes entre elas e assim eliminar possíveis efeitos contrários ao ajuste da função regressão. A multicolinearidade é muito comum na análise. Quando ela é de baixa magnitude, ou não severa, não causa maiores distúrbios à regressão, caso contrário, não é desejável (BARETTO, 2011). Foram feitos histogramas que indicam simetria e assimetria da distribuição dos dados. Sobre a questão do teste de normalidade das variáveis dependentes e independentes aplicou o teste Shapiro-Wilk (ao nível de significância 5%). A medida corretiva utilizadas nas variáveis que não apresentaram distribuição normal foi à raiz quadrada. Então, verificando os resultados do modelo proposto em cada etapa, o próximo passo foi à análise residual. Logo, o modelo apropriado, os resíduos (e i ) devem refletir as propriedades supostas para o erro (ε i ), quais sejam: (1) distribuição normal, verificada por meio do histograma dos resíduos e com base no gráfico de probabilidade normal; (2) resíduos com média zero e variância constante (homocedasticidade). No total, foram 3 etapas, até chegar ao modelo de regressão linear múltipla final (parte 4), com suas variáveis preditoras mais importantes na explicação da variável resposta (precipitação). Em cada etapa do modelo de regressão todos os testes estatísticos descritos nesta metodologia foram feitos. O método da análise de variância (ANOVA) foi utilizado para verificar a

3 significância de cada parâmetro utilizado nas preditoras para explicar a preditante. RESULTADOS E DISCUSSÃO O resultado da FCC pode ser visto na Figura 1, que mostra lags de 2 e 3 meses para a região NATL (Fig. 1a), e na região SATL (Fig. 1b), lags de 3 e 4 meses. Para as regiões do Pacífico foram observados lags de 3 e 4 meses na região NINO1.2 (Fig. 1c), para o NINO3 e NINO4 foram identificados lags de 4 e 5 meses (Fig. 1d e Fig. 1f), e os lags 6 e 7 meses para NINO 3.4 (Fig. 1g). De acordo com os resultados dos primeiros lags TSM s, como explicativa da precipitação (Y prec ) para o mês de junho (período de 1961 a 2009) foi proposto o primeiro modelo, denominado como parte 1 (equação 2), com um resultado R 2 (ajuste do modelo) igual a Eq. 2 O resultado da correlação entre as variáveis independentes com maior grau foi NINO34 com NINO4 (valor 0.92). Pelo resultado da correlação, as variáveis NINO4 e NINO34 apresentaram multicolinearidade. Portanto, a variável NINO34 foi excluída na parte 2 do modelo para não comprometer aos resultados estimados pela função regressão. Na Figura 2 pode-se visualizar o histograma de cada variável que compõem o modelo inicial de regressão. Nota-se nesta Figura 2, que a variável precipitação apresenta em sua distribuição uma forte assimetria à direta. Utilizando-se o teste de normalidade Shapiro-Wilk, foi possível constatar uma distribuição normal nas variáveis NINO4, SATL e NATL. As outras variáveis ficaram abaixo do nível de significância (5%). Na segunda etapa do modelo (parte 2) os resultados estatísticos do valor t obtidos mostraram que as variáveis NINO12 e NINO3 não demostraram-se significativas para explicação da variável Y prec. A análise de resíduos versus os valores ajustados, para a parte 2 do modelo regressão, e dos resíduos versus todas as variáveis preditoras revelam os erros estimados. a) Precipitação-Maceió Versus Atlântico Norte (b) Precipitação-Maceió Versus Atlântico Sul (NATL) (SATL) (c) Precipitação-Maceió Versus Pacífico (NINO1.2) (d) Precipitação-Maceió Versus Pacífico (NINO3)

4 (f) Precipitação-Maceió Versus Pacífico (NINO4) (g) Precipitação-Maceió Versus Pacífico (NINO3.4) Figura 1 Graficos das funções de auto correlação cruzada. Figura 2 Histograma para cada variável do modelo de regressão linear múltipla parte 2. Foi identificada uma heterogeneidade de variância dos resíduos à medida que os valores ajustado para precipitação se elevam. Isso leva a violação da hipótese de normalidade dos erros, acarretando maiores erros nos valores estimados, onde a equação da regressão linear múltipla da parte 2 não pode ser adotada para estimar as precipitações. O resultado de normalidade de resíduos mostra flagrante não-linearidade, apresentando uma padrão de caudas pesadas (i.e., a distribuição dos resíduos apresentam maior densidade de probabilidade nas caudas do que a distribuição normal), o que indica a não sustentação da suposição de normalidade dos erros da regressão. O teste Shapiro-Wilk confirma esse resultado, com o valor p de , caracterizando uma condição de não normalidade dos erros. BARRETO (2011), diz que a partir da análise exploratória e do diagnóstico da regressão linear múltipla, as variáveis que não apresentam valores propícios às condições de normalidade dos erros passem por medidas corretivas. O modelo parte 2, por apresentar essa condição foi sujeito à adoção da seguinte medida corretiva: Transformação raiz quadrada na precipitação (Y precnormalizado ). Essa transformação tem como objetivo linearizar a variável resposta para reduzir assimetrias e também o impacto de valores discrepantes. Após todas essas análises dos modelos de regressão parte 1 e 2, as seguintes variáveis que permanecem para o modelo de regressão parte 3 é dada na equação 3. Essas variáveis apresentaram em seus testes estatísticos um grau aceitável para explicação da variável resposta (Yprecnormalizado), com valor do R 2 igual a Eq.3 Aplicando-se o método ANOVA no modelo da equação 3 e, verificando em cada parâmetro, sua

5 significância, pode-se observar que NINO12 com valor Pr(>F) (probabilidade para o teste F) de 0.80 (ao nível de significância 5%) apresentou uma condição de hipótese nula, onde explica que o parâmetro não pode ser usado para estimar a precipitação com precisão. As outras variáveis independentes analisadas para explicar a variável resposta ficaram abaixo do nível de significância (0.05), isto leva a dizer que há uma condição para rejeição da hipótese nula (DRAPER & SMITH, 1998). Então, para o modelo regressão final descartou a variável independente NINO12, e as outras variáveis permaneceram para um melhor ajuste do modelo. O modelo regressão final é dado pela equação 4. Y precnormalizado = NINO3 Lag NINO4 Lag NATL Lag SATL Lag 3 Eq.4 Os resíduos do modelo regressão final apresentaram uma distribuição aleatória em torno da média zero, indicando que a função de regressão está adequada e que há homocedasticidade dos erros. O teste Shapiro- Wilk para os resíduos do modelo final apresentou um valor de , explicando a questão da normalidade. O ajuste do modelo R 2, parte final, melhorou para 0.45 ao descartar a variável NINO12.CONCLUSÕES As análises através dos testes de hipóteses (t e F), normalidade e anova, aplicados à série de TSM realçaram que o número de variáveis para a previsão pode ser reduzido para quatro, restando as TSM s do Pacífico com lag 4 e Atlântico com lags 2 e 3. Foi possível eliminar as variáveis independentes, insignificantes para explicação da variável resposta (precipitação) visando melhorar sua qualidade. A variável resposta (precipitação) foi feita uma transformação raiz quadrada para torna-se uma distribuição normal e, assim, a questão dos pressupostos de normalidade dos resíduos foram atendidos. O Valor R 2 para o modelo parte final foi de A precipitação para o mês de junho da cidade Maceió (Leste do NEB) apresentou uma melhor correlação com as TSM s defasadas. O modelo de regressão final da precipitação em função das TSM s definidas nas análises, mostrou um ajuste relativamente satisfatório entre a faixa prevista e o valor observado explicando cerca de 45% da variabilidade da precipitação de Maceió. REFERÊNCIAS BIBLIOGRÁFICAS ALVES, J.M.B. e REPELLI C. A. A variabilidade pluviométrica no setor norte do Nordeste e os eventos El Niño-Oscilação sul (ENOS), Revista Brasileira de Meteorologia, vol. 7 (2), , BARRETO, A.S. Modelos de Regressão: teoria e aplicações com o programa estatístico R. Brasíla, Ed. do Autor, 176 p., DRAPER, N. ; SMITH, H Applied Regression Analysis. 3ª edição. KAYANO. M. T. Circulações tropicais e as associadas anomalias de precipitação em dois anos de contraste. In: Anais do V congresso Brasileiro de Meteorologia, Rio de janeiro-rj, III.11- III.16, nov MOLION, L. C. B.; BERNARDO, S. O. Uma revisão da dinâmica das chuvas no Nordeste Brasileiro. Revista Brasileira de Meteorologia, v.17, n.1, p. 1-10, MOURA, A.D. & SHUKLA J. On the dynamics of droughts in Northeast Brazil: Observations, theory and numerical experiments with a general circulation model. J. Atmosf. Sci., 38, , UVO, C.R.B., REPELLI C.A., ZEBIAK S.E. & KUSHNIR Y. The influence of tropical Pacific and Atlantic SST on Northeast Brazil monthly precipitation, Submitted to Journal of Climatology, 1994.