Detection of spatial pattern by the randomization test

Transcrição

1 Detecção do padrão espacial através do teste de aleatorização Denise Nunes Viola 1 e Everton Coimra de Arauo 1 Doutora, UFBA Universidade Federal da Bahia/Departamento de Estatística. Av. Adhemar de Barros, s/n, Ondina, CEP: Salvador, BA - Brasil, viola@ufa.r. Doutorando em Engenharia Agrícola, UNIOESTE-Universidade Estadual do Oeste do Paraná, Brasil e professor da Universidade Tecnológica Federal do Paraná, Campus, everton@utfpr.edu.r. Resumo Em muitas situações é de interesse do pesquisador verificar a existência de padrão espacial em diferentes áreas do conhecimento. Na área agronômica, a Estatística Espacial é de grande importância econômica, pois permite a aplicação mais racional de inseticidas na lavoura e melhoria na distriuição da aduagem do solo. Uma maneira de analisar dados com dependência espacial é através da geoestatística. O método mais utilizado em Geoestatística para verificar a dependência espacial é o semivariograma, porém, este nem sempre pode ser empregado, pois exige alguns pressupostos que nem sempre são atendidos. Quando os pressupostos não são atendidos, uma alternativa é utilizar uma adaptação do Teste de Aleatorização de Mantel. Os testes de aleatorização são indicados para pequenas amostras e/ou quando estas não são aleatórias. No teste de aleatorização, é comparado o valor de uma estatística oservada para os dados originais com os valores desta estatística após a aleatorização das oservações e o p-valor é dado pela proporção de vezes que a estatística dos dados aleatorizados foi maior ou igual à estatística otida com os dados originais. Para verificar a eficiência do teste de aleatorização foram utilizados dois conuntos de dados, utilizando geoestatística e outro utilizando dados de área. No primeiro caso, foi simulado um conunto de dados em uma área 1x1km e com dependência espacial. No segundo caso, foi utilizado um conunto de dados referente à produtividade da soa na safra de 001/00 em 48 municipios da região Oeste do Estado do Paraná. A matriz das distâncias da localização de coleta dos dados foi aleatorizada vezes para oter o p-valor. Em amos os casos foram confirmados os resultados esperados, ou sea, no primeiro caso foi confirmada a existência de padrão espacial e no segundo caso foi confirmada a existência de padrão espacial aleatório. Palavras-chave: semivariograma; geoestatística; dados de área. Detection of spatial pattern y the randomization test Astract - In many situations the researcher s interest is verifying the existence of spatial pattern in different areas of knowledge. In agronomy, the Spatial Statistics have ig economic importance ecause it allows more rational application of insecticides in the cultivation and improvement at the distriution of fertilizer in the soil. One way to analyze the spatial dependence data is using geostatistic. The most common method used in geostatistic to determine the spatial pattern is the semivariogram, ut this can not always e used ecause it requires some assumptions that are not always found. When the assumptions are not found, an alternative is use an adaptation of the Mantel Randomization Test. The randomization tests are indicated for small samples or when the samples are not random. In the randomization test is compared the value of a oserved statistic for the original data with the values of this statistic after randomization the oservations and the p-value is given y the proportion of times that the randomized data statistic was greater than or equal to the statistics otained with the original data. To verify the efficiency of the randomization test it was used two data sets, one was used geostatistic and another was used area data. In the first case it was simulated the data set in an 1x1km area with spatial dependence. In the second case, it was used a data set for soyean yield in the 001/00 season in 48 counties of the western region in the State of Paraná. The matrix of distances from the location of data collection was randomized 10,000 times to get the p-value. In oth cases was confirmed the expected result, in the first case, the existence of spatial pattern was confirmed and in the second case, the existence of a random spatial pattern was confirmed. Key words: semivariogram; geostatistics; data area. Introdução II Simpósio de Geoestatística em Ciências Agrárias ISSN:

2 Os dados espaciais estão presentes em diversas áreas do conhecimento, dentre elas, nas ciências agrárias, que pode ser tomada como exemplo a distriuição espacial de insetos, a qual é importante para aplicação racional de pesticidas e na agricultura de precisão, em que a distriuição espacial pode auxiliar na melhoria da distriuição da aduagem no solo e no uso de diversos insumos. Geralmente a distriuição no espaço não tem sido considerada nos estudos amostrais, sendo escassa literatura a esse respeito. Para detectar os padrões espaciais são necessárias técnicas especiais de análise estatística. As técnicas convencionais de análise estatística, geralmente, têm como ase amostras independentes e identicamente distriuídas, o que não acontece em dados com estrutura de dependência espacial, pois as amostras são correlacionadas. Nos dados que apresentam evidência de distriuição espacial, as oservações vizinhas são mais semelhantes do que as distantes. Uma vez identificada a existência de padrão espacial, as análises convencionais não podem ser aplicadas. É comum o pesquisador utilizar o semivariograma para verificar a existência de dependência espacial, porém este nem sempre pode ser usado. Uma alternativa para identificar a existência de padrão espacial é utilizar uma adaptação do teste de alatorização de Mantel (1967). O oetivo desse traalho é estudar a eficiência do teste de aleatorização para identificar a existência de padrão espacial e, quando for possível, comparar os resultados otidos com o semivariograma e o envelope simulado. Material e Métodos Para a realização deste traalho foram utilizados dois conuntos de dados. No primeiro caso, foi simulado um conunto de dados em uma área 1x1km, com dependência espacial e alcance 0,75km. Este conunto foi gerado com o uso do pacote GeoR do software R. No segundo caso, foi utilizado um conunto de dados referente à produtividade da soa na safra de 001/00 em 48 municipios da região Oeste do Estado do Paraná. As coordenadas utilizadas foram aseadas no centróide do polígono de cada município. A matriz das distâncias da localização de coleta dos dados foi aleatorizada vezes para oter o p-valor. O método mais utilizado em Geoestatística para verificar a existência de dependência espacial é o semivariograma. A construção do semivariograma experimental é otida considerando as diferenças entre dois pontos georreferenciados no espaço e separados por uma distância h (ORTIZ, 00, OLIVEIRA, 003; PILON, 004). Depois de feito o semivariograma o pesquisador deve fazer o gráfico do envelope simulado. Os limites do envelope são otidos aleatorizando-se a ordem da posição das oservações e considerandose a variável resposta fixa. Após fazer um grande número de aleatorizações calculam-se os limites do semivariograma e, caso exista algum ponto fora desses, é uma evidência da existência de padrão espacial. A utilização do semivariograma exige alguns pressupostos, que nem sempre são atendidos. Como alternativa, pode-se utilizar uma adaptação do teste de aleatorização de Mantel (1967). Esse teste permite estudar, a partir da configuração dos pontos oservados, a existência de padrão espacial e tem como ase a comparação de duas matrizes de distâncias, verificando se existe correlação entre estas matrizes (VIOLA, 007). Com o teste de aleatorização pode-se verificar se certo padrão nos dados existe, ou sea, so a hipótese nula todas as possíveis ordens para os dados têm a mesma chance de ocorrer (MANLY, 006). As principais vantagens em se utilizar o teste de aleatorização é que este pode ser aplicado em amostras pequenas e/ou não aleatórias. A principal desvantagem é que seu resultado não pode ser generalizado para a população. Quando a hipótese nula no teste de aleatorização é verdadeira, todas as possíveis ordens para os dados têm a mesma chance de ocorrer. Para aplicar este teste, considere o valor e o de uma estatística E. A seguir, deve-se fazer um grande número de aleatorizações. Estas aleatorizações são otidas reordenando aleatoriamente os dados. Após aleatorizar os dados, deve-se calcular a estatística e Ai para cada umas das i- ésimas aleatorizações. Os valores de e Ai geram uma aproximação por simulação da distriuição amostral de E. Para a conclusão do teste, utiliza-se o p-valor que é dado pela proporção dos valores e Ai que são maiores do que ou iguais a e o. Por exemplo, se p-valor<0,05, conclui-se que existe evidência de que a hipótese nula não sea verdadeira ao nível de 5% de significância (MANLY, 006; VIOLA, 007). Neste traalho, a estatística e o utilizada foi o coeficiente de correlação otido por uma adaptação do teste de aleatorização proposto por Mantel (1967). Para utilizar a adaptação do teste de aleatorização de Mantel (1967), considere duas matrizes, A e B, em que amas são simétricas e têm dimensões nxn. Os elementos das duas matrizes são otidos considerando as distâncias da localização das oservações e das respostas, respectivamente, ou sea, II Simpósio de Geoestatística em Ciências Agrárias ISSN:

3 0 a1... an n 1 a an n A = e B = , em que an1 an... 0 n1 n... 0 = (z z ) i i, X=(x 1, x ) são as coordenadas cartesianas e Z é o vetor de respostas. a i = (x 1i x1 ) +(xi x ), A estatística teste (e o ) é otida através do coeficiente de correlação de Pearson entre os elementos correspondentes das matrizes A e B, ou sea, r = m a i m ( a i i a ai ) m i i i ( ) i, que produz o valor e o quando calculada para os valores oservados. A seguir permutam-se linhas e colunas de uma das matrizes, um número grande de vezes, e otêm-se os valores da estatística dos dados aleatorizados (e Ai ). As hipoteses testadas são: H o : Existe padrão espacial aleatório versus H a : Existe padrão espacial não aleatório. Resultados e Discussão No primeiro conunto de dados, referente a simulação dos dados a coordenada X 1 variou de 0,066 à 0,991 km e X variou de 0,017 à 0,984 km. A distância entre os pontos amostrados variou de 0,018 a 1,168km. Oserva-se ainda que a resposta variou de -0,968 a 1,47, com média de 0,07, sendo que 50% destas estava aaixo de 0,09 com um desvio padrão de 0,600. Figura 1. Gráfico de pontos (1a) e envelope simulado (1) para o conuto de dados gerado com alcance de 0,75km. Analisando a Figura 1, oserva-se que, aparentemente existe dependência espacial entre os dados, uma vez que as cores encontram-se aglomeradas (Figura 1a). Isto é confirmado pelo envelope simulado (Figura 1), no qual aparecem alguns pontos fora dos limites. Para confirmar este resultado, foi feito o teste de aleatorização. Após repetir o teste de aleatorização vezes, oteve-se p-valor=0,00, reeitando-se a hipótese nula de existência de padrão espacial não aleatório e confirmando os resultados oservados na Figura 1, ou sea, existe padrão espacial não aleatório. No segundo conunto de dados, referente a produtividade de soa na safra 001/00 a coordenada X 1 variou de -54,483 a -53,013 (UTM/SAD69) e X variou de -5,477 a -4,191 (UTM/SAD69). A distância entre II Simpósio de Geoestatística em Ciências Agrárias ISSN:

4 os pontos amostrados variou de 0,057 a 1,645 (UTM/SAD69). Oserva-se ainda que o valor da produtividade variou de.500 a kg ha -1, sendo que 50% desta variável está entre.994 e 3.78 kg ha - 1 com um desvio padrão de 59,146 t/ha -1. Figura. Gráfico de pontos para a produtividade de soa na safra 001/00 nos Municípios do Oeste do Paraná. Analisando o gráfico de pontos da produtividade da soa (Figura ), oserva-se que, aparentemente não existe dependência espacial entre os dados. Para confirmar este resultado, foi realizado o teste de aleatorização. Após repetir o teste de aleatorização vezes, oteve-se p-valor=0,5131, não reeitando a hipótese nula de padrão espacial aleatório, confirmando os resultados oservados, ou sea, existe padrão espacial aleatório. Isto pode ter sido causado pela distância entre as localizações das coletas dos dados, ou sea, pela distância entre os municípios. Conclusão No primeiro conunto de dados (conunto de dados simulados), tanto o envelope simulado quanto a adaptação do teste de aleatorização confirmaram a existência de padrão espacial não aleatório. No segundo caso (produtividade de soa) foi verificada a existência de padrão espacial aleatório. Com isto, pode-se oservar que o teste de aleatorização confirmou os resultados esperados. Estudos adicionais estão sendo feitos para verificar a eficiência deste teste em outras situações. Referências MANLY, B. F. J. Randomization, Bootstrap and Monte Carlo Methods in Biology. Florida: Chapman & Hall, 006, 460p. MANTEL, B. F. J. The detection of disease clustering and a generalised regression approach. Cancer Research, Philadelphia, v. 7, p OLIVEIRA, M.C. N. Métodos de estimação de parâmetros em modelos geoestatísticos com diferentes estruturas de covariâncias: uma aplicação ao teor de cálcio no solo f. Tese (Doutorado em Estatística e Experimentação Agronômica) Departamento de Ciências Exatas, Escola Superior de Agricultura Luiz de Queiroz da Universidade de São Paulo, Piracicaa SP. ORTIZ, G. C. Aplicação de métodos geoestatísticos para identificar a magnitude e a estrutura da variailidade espacial de variáveis físicas do solo f. Dissertação (Mestrado em Estatística e Experimentação Agronômica) Departamento de Ciências Exatas, Escola Superior de Agricultura Luiz de Queiroz da Universidade de São Paulo, Piracicaa SP. PILON, A. A. Métodos para incorporação da dependência especial na análise de dados experimentais f. Dissertação (Mestrado em Estatística e Experimentação Agronômica) Departamento de Ciências Exatas, Escola Superior de Agricultura Luiz de Queiroz da Universidade de São Paulo, Piracicaa SP. II Simpósio de Geoestatística em Ciências Agrárias ISSN:

5 RIBEIRO JUNIOR, P. J.; DIGGLE, P. J. GeoR: a package for geostatistical analysis using the R software, R- NEWS, v.1, p.14-18, 001. VIOLA, D. N. Detecção e modelagem de padrão espacial em dados inários e de contagem f. Tese (Doutorado em Estatística e Experimentação Agronômica) Departamento de Ciências Exatas, Escola Superior de Agricultura Luiz de Queiroz da Universidade de São Paulo, Piracicaa SP., II Simpósio de Geoestatística em Ciências Agrárias ISSN: