XLIII Congresso Braslero de Engenhara Agrícola - CONBEA 2014 Centro de Convenções Arquteto Rubens Gl de Camllo - Campo Grande -MS 27 a 31 de julho de 2014 MODELOS PROBABILÍSTICOS AJUSTADOS A DADOS DE PRECIPITAÇÃO MÁXIMA DIÁRIA ANUAL OBSERVADA E GERADA MIGUEL B. MACHADO 1, RITA C. F. DAMÉ 2, CLAUDIA F. A. TEIXEIRA- GANDRA 3, HUGO A. S. GUEDES 4, ROSIANE S. COUTO 5 ¹Acadêmco do Curso de Engenhara Agrícola, Centro de Engenharas, UFPel/Pelotas RS. ²Eng o. Agrícola, Prof a. Assocado, Centro de Engenharas, Curso de Engenhara Agrícola, UFPel/Pelotas RS. ³Eng o. Agrícola, Prof a. Adjunto, Centro de Engenharas, Curso de Engenhara Agrícola, UFPel/Pelotas RS. 4 Eng o. Cvl, Prof o. Adjunto, Centro de Engenharas, Curso de Engenhara Cvl, UFPel/Pelotas RS. 5 Mestrando do Programa de Pós-Graduação em Manejo e Conservação do Solo e da Água, UFPel/Pelotas RS. Apresentado no XLIII Congresso Braslero de Engenhara Agrícola - CONBEA 2014 27 a 31 de julho de 2014- Campo Grande- MS, Brasl RESUMO: Objetvou-se verfcar a nfluênca do tamanho da amostra na seleção da dstrbução de probabldade, em séres de precptação máxma dára anual. Utlzaram-se os dados da estação 3152004 (N = 1967-1980) e (N+M = 1967-2012), pertencentes à baca da lagoa Mrm/RS/Brasl, para N e N+M anos de dados (N = observados; M = gerados por cadea de Markov e dstrbução Gama). Ajustaram-se os parâmetros das dstrbuções Gumbel, Log-Normal 2 e 3 parâmetros, Log-Pearson III, Normal, Gama, Exponencal 2 parâmetros e Webull com 2 parâmetros. Os resultados mostraram que o tamanho da sére nfluencou a obtenção dos parâmetros, mas não nfluencou, neste caso, a seleção da dstrbução, vsto que os valores do teste de Kolmogorov-Smrnov (KS) mostraram para as duas séres, que não houve dferença sgnfcatva entre as dstrbuções. A maor dferença entre as estatístcas calculada e crítca de KS (5%), ocorreu na dstrbução Exponencal com 2 parâmetros, para a sére composta por N+M. Conclu-se que, embora o teste KS mostre a adequabldade dos ajustes, é necessáro avalar a magntude das estatístcas calculada e crítca de KS. Sugere-se que seja utlzado um índce de efcênca, como o Erro Padrão da estmatva e Nash-Sutclffe. PALAVRAS-CHAVE: cadea de Markov, dstrbução teórca de probabldade, teste de aderênca. PROBABILISTIC MODELS SET A DAILY MAXIMUM RAINFALL DATA OBSERVED ANNUAL AND GENERATED ABSTRACT: Amed to verfy the nfluence of sample sze on the selecton of the probablty dstrbuton n annual maxmum daly precptaton seres. We used data from staton 3152004 (N = 1967-1980) and (N + M = 1967-2012), belongng to the Mrm Lagoon basn/rs/brazl, for N and N + M years of data (N = observed M = generated by the Markov chan and Gama dstrbuton). Set the parameters of the Gumbel dstrbuton, Log-Normal 2, 3 parameters, Log-Pearson III, Normal, Gama, Exponental and Webull parameters 2 wth 2 parameters. The results showed that the sze of the seres to obtan the parameters nfluenced, but had no
effect n ths case, the selecton of the dstrbuton, snce the values of the Kolmogorov- Smrnov (KS) for both seres showed that there was no sgnfcant dfference between dstrbutons. The major dfference between the calculated statstcs and crtcal KS (5%) occurred n the Exponental dstrbuton wth parameter 2 for the seres consstng of N + M. We conclude that, although the KS test show the sutablty of the adjustments, t s necessary to assess the magntude of the calculated and crtcal KS statstcs. It s suggested that an effcency ndex s used as the standard error of the estmate and Nash-Sutclffe. KEYWORDS: Markov chan, theoretcal probablty dstrbuton, complance tests. INTRODUÇÃO: A baca hdrográfca da lagoa Mrm possu papel de destaque em termos de gestão de recursos hídrcos, por ser caracterzada como baca transfronterça, onde prevalece o regme de águas compartlhadas (Tratado de Lmtes de 1909 e Tratado da Lagoa Mrm de 1977), entre o Brasl e o Urugua. Na baca exstem dsponíves longas séres de dados pluvométrcos, mas que apresentam falhas em seus regstros, o que dfculta a utlzação das mesmas para a representatvdade das chuvas da regão. Uma das ferramentas que possblta conhecer o comportamento da chuva em uma dada frequênca de ocorrênca é a análse de frequênca hdrológca, que consste em analsar estatstcamente os dados coletados dos postos agroclmatológcos. Para que esta análse seja feta, é necessára a verfcação da homogenedade da sére. De acordo com WMO (1966) e Clarke (1993), os eventos hdrológcos seguem algum tpo de dstrbução teórca de probabldade, assm é possível demonstrar que, os dados observados no passado de uma dada varável hdrológca, seguem alguma dstrbução teórca de probabldade e as característcas conhecdas podem ser usadas para estmar a probabldade de ocorrênca de um evento para uma dada magntude (GOULART, 1992). Os mesmos autores afrmam que deve ser observado que a dstrbução teórca não é uma representação exata do processo natural, mas somente uma descrção aproxmada do fenômeno. As dstrbuções contínuas de probabldades mas usadas em análse de frequênca hdrológca, de acordo com Sanchez (1987), são a dstrbução Normal, Log-Normal, Gumbel e Log-Pearson tpo III. Uma forma de preencher as falhas de chuva dára e, por consequênca, aumentar o tamanho da sére, é o uso da cadea de Markov e de um modelo probablístco, que permtam a geração de séres sntétcas. O processo Markovano consdera no mínmo dos estados de transção, a ocorrênca ou não da chuva e, para a determnação da sua quantdade, a utlzação de uma dstrbução paramétrca, como por exemplo, a Gama ou a Exponencal (STERN & COE, 1982). A partr dos dados observados e aqueles obtdos pelo processo estocástco ctado, obtêm-se uma sére msta, que permte o conhecmento, ao longo do tempo, do comportamento da chuva. Sansgolo (2008), com o objetvo de ajustar os dados de precptação dára, temperaturas máxmas e mínmas absolutas e velocdade nstantânea do vento em Praccaba/SP, utlzou as dstrbuções Gumbel, Log-Normal, Pearson III, Fréchet e Webull e concluu, em função dos testes de aderênca de Kolmogorov-Smrnov (KS) e Qu-Quadrado ( que a dstrbução de Gumbel fo a que melhor ajustou os dados. Aragão et al. (2013), com o objetvo de obter as relações ntensdade-duração-frequênca de chuva a partr do valor máxmo dáro anual desagregado a durações sub-dáras, ajustaram os valores as dstrbuções de probabldade de Gumbel e Webull, conclundo que a últma apresentou melhor aderênca aos dados observados de Sergpe. No presente trabalho, o objetvo fo comparar o ajuste dos dados observados de chuva máxma dára anual da estação 3152004 (N = 14 anos - 1967-1980) às dstrbuções teórcas de probabldade Gumbel, Log-Normal 2 e 3 parâmetros, Log-Pearson III, Normal, Gama, Exponencal 2 parâmetros e Webull com 2 parâmetros, com àqueles obtdos a partr da sére composta de N+M = 46 anos 1967 2012, cujo período de M anos fo preenchdo utlzando a modelagem estocástca.
MATERIAL E MÉTODOS: Para a realzação do presente trabalho foram obtdos os dados da estação 3152004 (Cascata), localzada na lattude 31º28 00, longtude 52º31 00 e alttude de 224 m, pertencente a baca hdrográfca da lagoa Mrm/RS. Os dados foram obtdos junto a Agênca Naconal de Águas (ANA) (www.hdroweb.ana.gov.br), e após consttuídas duas séres de valores máxmos dáros anuas, uma a partr dos dados observados, perfazendo um total de N = 14 anos 1967 1980, e a outra, com N+M = 46 anos 1967 2012. A modelagem da ocorrênca de chuvas (M anos), medante a cadea de Markov de dos estados consdera que a probabldade de um da ser seco (0) ou chuvoso (1), depende apenas da condção do da anteror (STERN & COE, 1982), consderando-se da seco quando a chuva dára era nferor a 1 mm (DERECZYNSKI et al., 2009). As probabldades de transção entre os estados seco/chuvoso, P(00), P(0,1), P(1,0) e P(1,1), foram determnadas para a sére anual, ou seja, não fo consderada a estaconaredade mensal e sm anual, vsto que o objetvo consstu no preenchmento de falhas dáras e posteror consttução de séres de chuvas máxmas dáras anuas. As equações (1), (2), (3) e (4) foram utlzadas para determnar as matrzes de probabldades de transção. P00 N00 N00 N01 (1) P10 N10 N10 N11 (2) P01 = 1 P00 (3) P11 = 1 P10. (4) em que, P00 = Probabldade de um da ser seco, dado que o anteror também fo seco; P10 = Probabldade de um da ser seco, dado que o anteror fo chuvoso; P01 = Probabldade de um da ser chuvoso, dado que o anteror fo seco; P11 = Probabldade de um da ser chuvoso, dado que o anteror fo chuvoso; N10 = frequênca observada da sequênca de chuvoso segudo por da seco; N11 = frequênca observada da sequênca de dos das chuvosos; N00 = frequênca observada da sequênca de dos das secos; N01 = frequênca observada de um da seco segudo por da chuvoso, e = ano. Após estmadas as probabldades de transção, foram geradas 100 sequêncas de das secos/chuvosos para todo o período em que as falhas ocorreram. A partr das sequêncas geradas, para cada período, foram determnadas as quantdades precptadas nos das consderados chuvosos. A quantdade de chuva fo estmada medante a dstrbução Gama de 2 parâmetros (DETZEL & MINE, 2011), em que a função cumulatva de probabldade da dstrbução Gama é: X 1 x 1 F X P(X x) X e dx (5) 0 em que,
e (equações 6 e 7) - parâmetros da dstrbução, que foram estmados com base no método dos momentos, e ( ) - função gama. s 2 (6) x 2 x (7) 2 s em que, X - méda observada de precptação dos das com chuva (mm). A partr das séres de N e N+M anos de chuva máxma dára anual foram ajustadas as dstrbuções teórcas de probabldade Gumbel, Log-Normal 2 e 3 parâmetros, Log-Pearson III, Normal, Gama, Exponencal e Webull com 2 parâmetros, cujos parâmetros foram estmados pelo método da máxma verossmlhança. A seleção do melhor ajuste fo realzada pelo teste de aderênca de Kolmogorov-Smrnov, com nível de probabldade de 5% (ASSIS et al., 2013). RESULTADOS E DISCUSSÃO: O comportamento dos valores de chuva máxma dára anual ao longo do tempo para a localdade da Cascata/RS (3152004) é apresentado na Fgura 1. Acrescente-se que são apresentadas as séres compostas por N anos (1967 1980) e N+M anos (1967 2012), bem como o valor médo (62,5 mm), consderando o período de 1967 a 2012. FIGURA 1. Comportamento da chuva máxma dára anual da estação Cascata/RS (3152004), referente às séres com N e N+M anos. As estatístcas descrtvas das séres de chuva máxma dára são apresentadas na Tabela 1. Observa-se que a maor dferença percentual entre os valores ocorreu no valor mínmo (120%) e na assmetra (79%), como reflexo da dferença de 15% ocorrda no desvo padrão, cuja dferença não refletu no valor do coefcente de assmetra. Cabe ressaltar que o objetvo do trabalho está centrado nas séres de chuva máxma dára anual e que, portanto, a estatístca de maor relevânca é o valor máxmo, o qual se manteve gual (132,70 mm). Com relação às
demas estatístcas, méda e coefcente de varação, os valores das dferenças percentuas foram 28 e 44%, respectvamente. A avalação da capacdade de um modelo reproduzr os fenômenos por ele modelados pode ser feta por meo de comparação das estatístcas descrtvas das séres observadas e geradas. Para tanto, os métodos empregados se valem das nformações de regstros exstentes para estmar os parâmetros do modelo, para que as séres geradas tenham as mesmas característcas estatístcas dos dados observados, mas consttuam dferentes realzações do processo. Nesse sentdo, Gontjo (2007) avalou a relação entre as precptações e enchentes raras por meo de séres sntétcas e smulação hdrológca de duas baca hdrográfcas, Indaá e Pará, por meo da cadea de Markov de prmera ordem e dstrbução Gama. A comparação entre as estatístcas do total médo precptado e seu desvo padrão, bem como do valor máxmo dáro anual, entre as séres observada e gerada fo de 0,72; 3,60 e 143,00%, respectvamente. O autor concluu que o modelo aplcado reproduzu adequadamente as característcas estatístcas da sére de precptação e evaporação, utlzadas como base para calbração de seus parâmetros. TABELA 1. Estatístcas descrtvas das séres de chuva máxma dára anual da estação 3152004, com N e N+M anos. Descrptve statstcs of the seres of annual maxmum daly ranfall staton 3152004, N and N + M years. Sére 1967 1980 - N (anos) 1967 2012 - N+M (anos) Méda (mm) D.P. (mm) Estatístcas descrtvas C.V. Máx. Mín. (%) (mm) (mm) Assmetra (mm 3 ) Coef. Assmetra 95,50 25,63 27,00 132,70 62,70 0,21 0,00 68,52 30,21 48,00 132,70 28,52 1,01 0,00 D.P. - desvo padrão; C.V. coefcente de varação; Máx. valor máxmo; Mín valor mínmo. Os parâmetros das dstrbuções de probabldade utlzadas no ajuste das séres de chuva máxma dára anual de N e N+M anos, bem como os valores das estatístcas do teste de aderênca de Kolmogorov-Smrnov (KS) são apresentados na Tabela 2. Observa-se pelos resultados do teste de KS que todas as dstrbuções testadas são adequadas para o ajuste das séres, vsto que a estatístca do teste calculada a 5% de probabldade é nferor ao valor crítco, o que sgnfca que a dstrbução pode ser utlzada no ajuste. No entanto, há que se questonar a robustez do teste utlzado, consderando que no trabalho de Alves et al. (2013), com o objetvo de analsar os métodos de estmatva para os parâmetros das dstrbuções de Gumbel e GEV em eventos de precptações máxmas na cdade de Cuabá MT, aplcaram os testes de aderênca de KS, e Anderson-Darlng. Os autores comentam que o KS é um teste não paramétrco e tem como base a dferença máxma entre as funções de probabldades acumuladas, empírca e teórca, de varáves aleatóras contínuas; o é mas rgoroso, pos agrupa os dados da sére hstórca em classes de frequênca e acumula as dferenças entre as frequêncas observada e teórca, com partcpação de todas as classes e não apenas a máxma dferença. O teste de Anderson-Darlng tem como prncípo o mesmo procedmento do teste de KS, mas sua vantagem é de ser mas sensível que os demas, já que dá mas peso aos pontos das caudas da dstrbução, consderado mas efcente do que outros testes comumente usados. Cabe ressaltar que o objetvo do trabalho não é a seleção da melhor dstrbução e, sm, verfcar se o tamanho da amostra nfluenca na seleção do modelo probablístco. Como os resultados apresentados na Tabela 2 mostraram que todos os modelos foram adequados, tanto para a sére composta por N anos quanto para N+M anos, optou-se por determnar o valor do Erro Relatvo Quadrátco Médo (RMSE), entre os valores observados e ajustados
para a sére de N anos, bem como os valores gerados e ajustados para N+M anos (Tabela 3). Dante dos resultados, verfca-se para as dstrbuções Gumbel, Log-Normal 2 parâmetros, Exponencal 2 parâmetros e Webull, cujos valores de RMSE foram 6,22; 5,73; 5,64 e 7,11, respectvamente, para a sére N+M anos, menores do que os encontrados para a sére de N anos, evdencando a nfluênca do tamanho da mesma no ajuste dos parâmetros na seleção da dstrbução de probabldade (TAHA, 2008). TABELA 2. Parâmetros das dstrbuções de probabldade e estatístcas calculada e crítca do teste de Kolmogorov-Smrnov da estação 3152004, com N e N+M anos. Parameters of the probablty dstrbutons and statstcs calculated and crtcal of the Kolmogorov-Smrnov test staton 3152004, wth N and N + M years. Dstrbução Sére 1967 1980 N (anos) Parâmetros Kolmogorov- Smrnov* Sére 1967 2012 N+M (anos) Parâmetros Kolmogorov- Smrnov Gumbel LN-2 LN-3 LP-3 Normal Gama Exp-2 KS calc. KS crít. KS calc. KS crít. 83,47 0,048 0,714 2,780 49,27 0,048 0,565 3,906 KS calc. KS crít. KS calc. KS crít. 0,121 0,479 0,099 0,685 KS calc. KS crít. KS calc. KS crít. 16,09 4,324 0,334 0,124 0,496-30,6 4,48 0,320 0,117 0,531 KS calc. KS crít. KS calc. KS crít. 4,05 0,184 0,715 3,253 0,308 0,096 0,666 KS calc. KS crít. KS calc. KS crít. 95,50 25,62 0,133 0,528 62,52 30,21 0,173 1,191 KS calc. KS crít. KS calc. KS crít. 6,470 0,124 0,483 12,508 0,128 0,883 KS calc. KS crít. KS calc. KS crít. 0,202 0,567 0,069 0,976 Webull KS calc. KS crít. KS calc. KS crít. 4,329 0,149 0,558 2,248 0,144 0,975 LN-2 - Log-Normal 2 parâmetros; LN-3 - Log-Normal 3 parâmetros; LP-3 - Log-Pearson 3 parâmetros; Exp-2 Exponencal 2 parâmetros; *5% de probabldade de erro.
TABELA 3. Erro relatvo quadrátco médo (RMSE) entre os valores observados (N anos) e estmados e, gerados (N+M anos) e estmados pelas dstrbuções de probabldade. Mean squared relatve error between observed (N years) and estmated and generated (N + M years) and estmated by the probablty dstrbutons. Dstrbução de Probabldade Observados x ajustados N (anos) RMSE Gerados x estmados N+M (anos) Gumbel 6,67 6,22 LN-2 6,19 5,73 LN-3 5,28 6,00 LP-3 5,58 6,01 Normal 6,07 10,32 Gama 5,81 6,28 Exp-2 9,10 5,64 Webull 8,98 7,11 LN-2 - Log-Normal 2 parâmetros; LN-3 - Log-Normal 3 parâmetros; LP-3 - Log-Pearson 3 parâmetros; Exp-2 Exponencal 2 parâmetros. CONCLUSÕES: O tamanho da sére nfluenca na seleção da dstrbução teórca de probabldade. A cadea de Markov homogênea de dos estados e a dstrbução Gama podem ser utlzadas na geração da chuva dára da estação Cascata/RS (3152004). De acordo com o teste de aderênca de Kolmogorov-Smrnov todas as dstrbuções de probabldade testadas são adequadas no ajuste das séres de N e N+M anos. A dstrbução Exponencal 2 parâmetros fo a que apresentou o menor valor de Erro Relatvo Quadrátco Médo entre a sére gerada e ajustada com N+M anos, bem como maor dferença em relação a sére observada e ajustada, a partr de N anos. REFERÊNCIAS AGÊNCIA NACIONAL DE ÁGUAS (Brasl) (ANA). HdroWeb: sstemas de nformações hdrológcas. Dsponível em: <http://hdroweb.ana.gov.br/hdroweb>. Acesso em: 05 agosto 2013. ALVES, A.V.P.; SANTOS, G.B.; MENEZES FILHO, F.C.M.; SANCHES, L. Análse dos métodos de estmatva para os parâmetros das dstrbuções de Gumbel e GEV em eventos de precptações máxmas na cdade de Cuabá MT. Revsta Eletrônca de Engenhara Cvl, v.6, n.1, p.32-43, 2013. ARAGÃO, R.; SANTANA, G.R.; COSTA, C.E.F.F.; CRUZ, M.A.S.; FIGUEIREDO, E.E.; SRINIVASAN, V.S. Chuvas ntensas para o estado de Sergpe com base em dados desagregados de chuva dára. Revsta Braslera de Engenhara Agrícola e Ambental, v.17, n.3, p.243 252, 2013.
ASSIS, J;P.; SOUSA, R.P.; LINHARES, P.C.F.; PEREIRA, M.F.S. Modelagem estocástca de séres hstórcas de umdade relatva mensal, em Mossoró RN. Revsta Verde de Agroecologa e Desenvolvmento Sustentável, v.8, n.4, p.01-13, 2013. CLARKE, R.T. Hdrologa - Cênca e aplcação. Porto Alegre: Unversdade Federal do Ro Grande do Sul, 1993. v.4: Hdrologa Estatístca: p. 659-698. DERECZYNSKI, C.P.; DE OLIVEIRA, J.S.; MACHADO, C.O. Clmatologa da precptação no Muncípo do Ro de Janero. Revsta Braslera de Meteorologa, v.24, n.1, 24-38, 2009. DETZEL, D.H.M.; MINE, M.R.M. Modelagem de quantdades precptadas em escala dára: uma análse comparatva. Revsta Braslera de Recursos Hídrcos, v.16, n.2, p.101-110, 2011. GONTIJO, N.T. Avalação das relações de frequênca entre precptações e enchentes raras por meo de séres sntétcas e smulação hdrológca. Dssertação (Mestrado no Programa de Pós-graduação em Saneamento, Meo Ambente e Recursos Hídrcos) - Unversdade Federal de Mnas Geras, Belo Horzonte, 156 p. 2007. GOULART, J.P.; MAESTRINI, A.P.; NEBEL, A. L. Relação ntensdade-duração-frequênca de chuvas em Pelotas, RS. Revsta Braslera de Meteorologa, v.7, n.1, p.543-552, 1992. SANCHEZ, J. Fundamentos de hdrologa. Porto Alegre: Insttutos de Pesqusas Hdráulcas, UFRGS, 1987. 360 p. SANSIGOLO, C.A. Dstrbuções de extremos de precptação dára, temperatura máxma e mínma e velocdade do vento em Praccaba, SP (1917-2006). Revsta Braslera de Meteorologa, v.23, p.341-346, 2008. STERN, R.D.; COE, R. The use of ranfall models n agrcultural plannng. Agrcultural Meteorology, Amsterdam, v.26, p.35-50, 1982. TAHA, H.A. Pesqusa operaconal. São Paulo: Pearson Prentce Hall. 8. Ed. 359 p. 2008. WMO-Word Meteorologcal Organzaton. Some methods of clmatologcal analyss. Genebra: World Meteorologcal analyss, 1966. 53 p. (Techncal Note n 81).