UNIVERSIDADE FEDERAL DE UBERLÂNDIA FACULDADE DE MATEMÁTICA NÚCLEO DE ESTUDOS ESTATÍSTICOS E BIOMÉTRICOS GEOESTATÍSTICA BÁSICA E APLICADA

Transcrição

1 UNIVERSIDADE FEDERAL DE UBERLÂNDIA FACULDADE DE MATEMÁTICA NÚCLEO DE ESTUDOS ESTATÍSTICOS E BIOMÉTRICOS GEOESTATÍSTICA BÁSICA E APLICADA EDNALDO CARVALHO GUIMARÃES Fevereiro - 4 Uberlândia - MG

2 SUMÁRIO. INTRODUÇÃO.... ANÁLISE EXPLORATÓRIA DE DADOS Distribuição de freqüências e histograma As estatísticas Outras análises descritivas Amostragem Exemplos de análise exploratória aplicando o programa GS PRINCÍPIOS DA ANÁLISE GEOESTATÍSTICA Um breve histórico Estacionaridade Krigagem universal ANÁLISE DA DEPENDÊNCIA ESPACIAL Autocorrelação e Autocorrelograma Semivariograma O uso do software GS+ na determinação do semivariograma Exemplos de aplicação KRIGAGEM O interpolador A krigagem no programa GS SEMIVARIOGRAMA CRUZADO E COKRIGAGEM Semivariograma cruzado Co-krigagem Variância da estimativa Número de vizinhos das estimativas O uso do programa GS+ na determinação do semivariograma cruzado, da co-krigagem e no mapeamento da variável Exemplos de aplicação no GS VALIDAÇÃO DE MODELOS DE SEMIVARIOGRAMAS BIBLIOGRAFIA RECOMENDADA... 74

3 . INTRODUÇÃO Métodos clássicos de análise estatística de dados geralmente supõem que, as realizações das variáveis aleatórias são independentes entre si, ou seja, que observações vizinhas não exercem influências umas sobre as outras. Fenômenos naturais apresentam-se freqüentemente com uma certa estruturação nas variações entre vizinhos, desta forma pode-se dizer que as variações não são aleatórias e, portanto, apresentam algum grau de dependência espacial. A análise espacial de dados apresenta-se como uma alternativa e/ou como uma complementação da análise clássica de dados, sendo que este tipo de análise considera as correlações entre as observações quando se faz estimativas. A literatura apresenta alguns procedimentos de análise espacial de dados, sendo que, nos últimos tempos, uma metodologia de análise denominada geoestatística ganhou ênfase neste tipo de estudo. Neste trabalho serão abordados aspectos básicos da metodologia geoestatística para a análise espacial de dados, com ênfase na análise do semivariograma como ferramenta de determinação da dependência espacial. Inicialmente serão abordados aspectos básicos de uma análise exploratória de dados; em seguida serão introduzidos conceitos básicos da geoestatística e da análise da dependência espacial por meio de semivariograma e também de interpolação utilizando a metodologia da krigagem e, por fim serão abordados conceitos básicos de semivariogramas cruzados e co-krigagem. Sempre que possível os tópicos serão acompanhados de exemplos de aplicação.

4 . A ANÁLISE EXPLORATÓRIA DE DADOS A análise exploratória de dados é um procedimento de grande importância na análise estatística e aplica-se para qualquer metodologia que se queira utilizar. Nesta análise preliminar dos dados tem-se o objetivo de conhecer a variável em estudo e resumila. Basicamente, este tipo de análise se baseia em construção e interpretação gráfica e cálculos e interpretação de estatísticas. No presente texto faremos uma revisão dos principais instrumentos de análise exploratória de dados, sendo que estes procedimentos podem ser encontrados em cursos de estatística básica e em livros de estatística básica como Costa Neto (979, Bussab e Morettin (987, Triola (999, Lopes (999, entre outros... A distribuição de freqüências e o histograma A distribuição de freqüências consiste em agrupar as observações de uma variável em classes ou categorias e o histograma é uma das representações gráficas dessa distribuição. A distribuição de freqüências e o histograma podem ser obtidos em programas computacionais comercias com o Excel, Statistica e em programas específicos para análise geoestatística, como, por exemplo, o GS+. A finalidade da distribuição de freqüências e do histograma é a de permitir uma visualização do comportamento da variável em estudo, com relação à tendência de concentração de dados (tendência simétrica ou assimétrica. Esta tendência, principalmente na análise não espacial de dados, pode direcionar procedimentos diferenciados de análise... As estatísticas O cálculo de estatísticas como a média, a variância, o desvio padrão, o coeficiente de variação, valor mínimo, valor máximo, coeficiente de assimetria e coeficiente de curtose, colaboram na descrição da variável. Passaremos a rever rapidamente estas estatísticas. 3

5 - A média aritmética ( X A média aritmética é uma medida de posição bastante utilizada na estatística e tem como características principais à facilidade de cálculo, a sua adaptabilidade ao tratamento algébrico e, também, geralmente, é uma medida não tendenciosa, precisa, eficiente e suficiente. Vale ressaltar que nem sempre a média aritmética é a medida de posição que melhor representa uma variável, por exemplo, em dados com assimetria à direita acentuada a moda ou a média geométrica pode representar melhor a variável em estudo. A fórmula para o cálculo da média é: X n i= = n x i em que: X é a média aritmética; x i é cada valor observado; n é o número total de observações. - Variância (s e desvio padrão (s A variância e o desvio padrão são estatísticas que nos fornece uma idéia de variabilidade das observações em torno da média aritmética. As fórmulas de cálculo são, respectivamente: s = n i= s = + n ( x X Note que em interpretações de dados, ou seja, na análise descritiva a média aritmética deve estar sempre acompanhada do desvio padrão para que possamos visualizar a dispersão média dos valores. i s - Coeficiente de variação (CV O coeficiente de variação fornece a dispersão relativa dos dados, facilitando visualizar a dimensão da dispersão dos valores observados em relação à média. O coeficiente de variação é dado por: 4

6 CV (% = s X - Valor Mínimo e Valor Máximo Estes valores permitem visualizar a menor ocorrência e a maior ocorrência e podem ser um primeiro indicativo de erros de amostragem, digitação, etc.. A obtenção desses valores se faz a partir da ordenação das observações. - Coeficiente de assimetria (C s e coeficiente de curtose (C k O coeficiente de assimetria mostra o afastamento da variável em relação a um valor central, ou seja, na distribuição simétrica tem-se 5% dos valores observados acima da observação central e 5% abaixo. Se a distribuição é assimétrica, esta relação não é observada. O coeficiente de curtose mostra a dispersão (achatamento da distribuição em relação a um padrão, geralmente a curva normal. Estes dois coeficientes são utilizados para inferências sobre a normalidade da variável em estudo. Antes de definirmos estes dois coeficientes e tecermos comentários sobre eles vamos definir os momentos estatísticos. Se x, x,...,x n são os n valores assumidos pela variável X, definimos o momento de ordem t dessa variável como: M n i= t = Note que se t= temos a média aritmética, ou seja, a média aritmética é igual ao primeiro momento em relação à origem. O momento de ordem t centrado em uma constante K, com K é definido como: n x t i M K t n ( xi K i= = n t 5

7 Observe que: se t = e K = X, temos M X = m = (propriedade da média aritmética e, se t = e K = X, temos (C k. X M = m = σ. Vamos definir agora o coeficiente de assimetria (C s e o coeficiente de curtose O coeficiente de assimetria é utilizado para caracterizar como e quanto à distribuição de freqüências se afasta da simetria, sendo que: se C s > temos a distribuição assimétrica à direita; se C s < a distribuição é assimétrica à esquerda; e se C s = a distribuição é simétrica. O momento centrado na média de ordem 3 pode ser utilizado como medida de assimetria, entretanto, é mais conveniente a utilização de uma medida admensional e que será chamada de coeficiente de assimetria: na média. C s = Em que m e m 3 são, respectivamente, o segundo e o terceiro momento centrados O coeficiente de curtose é utilizado para caracterizar a forma da distribuição de freqüências quanto ao seu achatamento. O termo médio de comparação é a distribuição normal e esta apresenta o valor de C k = 3. A classificação da distribuição quanto à curtose recebe a seguinte denominação: se C k = 3 a distribuição é mesocúrtica (distribuição normal; se C k < 3 a distribuição é platicúrtica; e se C k > 3 a distribuição é leptocúrtica. Em alguns programas computacionais como o Excel, Statistica e GS+ existe uma padronização do valor de C k e o valor de comparação é o zero, portanto, se C k = temos a mesocúrtica, se C k < temos a platicúrtica e se C k > temos a leptocúrtica. do programa. Para verificar o termo de comparação é necessário consultar o manual ou a "ajuda" A fórmula para cálculo de C k é : C k = sendo que: m 4 é o quarto momento em relação à média aritmética. m (m m (m

8 Para uma melhor interpretação do coeficiente de assimetria e do coeficiente de curtose, alguns programas, como o GS+, calcula também o erro padrão desses coeficientes e a partir dos valores dos coeficientes associados com seus respectivos erros padrão, podese concluir se os dados tem distribuição normal ou não. Por exemplo: Se o valor obtido na amostra para C s =,3 com erro padrão de,65 e se o valor de C k =,5 com erro padrão de,8, podemos dizer que a distribuição tende a normal (simétrica e mesocúrtica, pois,3±,65 e,5±,8, incluem os valores zero e três, respectivamente..3. Outras análises descritivas As análises descritas acima são as mais comuns e as que freqüentemente são usadas como análise exploratória dos dados. Entretanto outros recursos podem ser aplicados como, por exemplo: gráfico box-plot; gráficos da distribuição normal; gráfico h-dispersão, outras estatísticas (quartil, mediana, moda, etc.; testes de normalidade (Shapiro Wilk, Kolmogorov Smirnov, etc., etc.. Tais resultados também contribuem para a descrição e conhecimento da variável em estudo. Os procedimentos para este tipo de análise são encontrados em programas de estatísticas..4. Amostragem Um requisito básico na amostragem para fins de análise de dependência espacial utilizando métodos geoestatísticos é que as observações, ou seja, que as amostras sejam referenciadas. Não é necessário utilizar coordenadas geográficas, mas algum tipo de referenciação deve existir. Exemplos de referenciações são: a amostras coletadas ao longo do tempo cada observação é referenciada com relação ao tempo (Ex: Estudo da precipitação anual na região X; b amostras coletadas ao longo de uma linha reta em uma certa cultura agrícola cada observação é referênciada por um único ponto no espaço (Ex: amostras coletadas em transeções; c amostras coletadas em uma área cada observação será identificada por um par ordenado de coordenadas pertencente ao espaço (Ex: amostras coletadas em uma área X. 7

9 Um tipo de amostragem bastante utilizado em geoestatística é a amostragem sistemática. Neste tipo de amostragem os pontos avaliados (amostras são obtidos de forma equidistantes, quer seja no espaço ou no tempo, formando uma malha de pontos no caso bidimensional. No entanto esse não é um procedimento obrigatório, basta que se tenha a referenciação dos dados para se proceder a análise espacial. Um exemplo típico de amostragem não sistemática é para variáveis climáticas, onde as estações climatológicas, geralmente, não são equidistantes mas apresentam a referencia geográfica. Outro questinamento básico da geoestatística é "Quantas amostras devo utilizar para a análise geoestatística?". Alguns autores recomendam que seja utilizados pelo menos pontos amostrais, entretanto isso não é regra e sim recomenndação, existem trabalhos com bons resultados de ajuste de semivariogramas usando 45 pontos de amostragem. É sabido que quanto maior o número de pontos, maior será o número de pares para o cálculo das semivariâncias e, teoricamnte, maior será a precisão das estimativas das semivariâncias. Pode-se dizer que o número de observações dependerá dos objetivos que se tem no trabalho, da escala (ou seja da dimensão, entre os outros fatores que devem ser avaliados pelo pesquisador. Outro aspecto relacionado com o ajuste de semivariograma e indiretamente com o tamanho da amostra é a presença de tendência da variável e/ou o uso de duas populações distintas que abordaremos em tópicos seguintes, mas que, de maneira geral, dificultam o ajuste de semivariogramas com dados originais, mesmo que o volume de observações seja grande..5. Exemplos de análise exploratória aplicando programa GS+ Passaremos a descrever exemplos de análise exploratória de dados do GS+. Nestes exemplos será utilizado a Versão Beta do GS+ (5..3 que é de domínio publico, conforme mostra a Figura. 8

10 Figura. Programa GS+ Versão 5..3 Como ponto de partida vamos descrever a estrutura de arquivos de dados com vistas a posterior análise geoestatística, pois, na análise geoestatística necessita-se que os dados observados estejam referenciados, ou seja, tenham coordenadas. Trabalharemos com a análise bidimensional e, portanto, teremos as coordenadas X e Y para cada observação. Vale ressaltar que, se o objetivo do estudo não for a geoestatística ou a análise espacial, esta referenciação não se faz necessária e ainda ressaltamos que a estrutura de dados apresentada neste tópico é válida para diversos programas de análise espacial. O arquivo pode ser criado no próprio programa GS+ ou em outro programa como o Excel, necessitando, neste caso de uma importação de dados ou do famoso "copiar" e "colar". A Figura mostra o aspecto básico do arquivo de dados. 9

11 Figura. Janela inicial do GS+ com exemplo de arquivo de dados contento as coordenadas (x,y e 4 variáveis para a análise. Neste exemplo temos um arquivo de dados editado no GS+. Na primeira coluna temos a coordenada X, na segunda coluna temos a coordenada Y e da terceira a sexta colunas temos as variáveis, ou seja, neste caso estamos trabalhando com 4 variáveis. Se o arquivo for editado em outro programa, deve-se importar os dados para o GS+ utilizando o procedimento padrão do Windows de copiar e colar, ou recortar e colar, ou ainda, ativar o ícone Import file localizado no canto superior direto da Figura. Para selecionar outra variável a ser estudada basta clicar na coluna correspondente e selecioná-la como a variável principal. Por exemplo, se o objetivo é a análise da terceira variável (usatpc, procederíamos da seguinte forma (Figura 3: Figura 3. Exemplo de mudança de variável para análise

12 - clique sobre a coluna de interesse (coluna 5, neste exemplo. A coluna é selecionada e aparece a segunda janela, indicando a coluna ativa. - Clique em Z (Primary variable para selecionar esta coluna como sendo sua variável de analise. - Clique em OK para confirmar a opção Pode-se ainda trabalhar com duas variáveis simultaneamente. Neste caso selecionase uma variável Z como covariável. Voltaremos ao assunto no tópico de semivariograma cruzado. Voltando à Figura vamos descrever os procedimento da análise exploratória de dados. A barra de ferramenta apresenta os seguintes símbolos que são destinados a este tipo de análise: Planilha ativa Principais Estatística s Análise gráfica histograma Posição das observações selecionadas por quartil Os ícones não ativos são destinados a análise com duas variáveis (semivariograma cruzados, co-krigagem, etc. Para exemplificar o resultado deste tipo de análise vamos utilizar os dados da primeira variável (usatpd coluna 3. Ativando o ícone e teremos o resultado das principais estatísticas, conforme Figura 4:

13 média Desvio padrão variância mínimo máximo Número de dados e Dados perdidos histograma Figura 4. Estatísticas da variável usatpd. Coeficiente de assimetria e erro padrão Coeficiente de curtose e erro padrão Como uma análise geral desses dados verifica-se que a umidade de saturação do solo no plantio direto (usatpd apresentou média de 44,69 (cm 3 /cm 3, com uma dispersão média em torno desse valor de 4,39 (cm 3 /cm 3 e, portanto, uma variabilidade de 9,8%, deste modo nota-se que as observações se dispersam relativamente pouco em torno da média. O menor valor observado (36,7 cm 3 /cm 3 e o maior valor observado (54,8 cm 3 /cm 3 reforçam a idéia de baixa variabilidade das observações e também mostram que, provavelmente, não temos valores discrepantes que poderiam ser atribuídos a erros de determinação, digitação ou de amostragem. O histograma mostra uma tendência dos dados à simetria e este fato também pode ser verificado por meio dos coeficientes de assimetria e curtose associados aos seus respectivos erros padrão, que são respectivamente:,46±,3 e,34±,5, ou seja, assimetria e curtose próximos de zero indicando distribuição normal aproximada dos dados. Note ainda que existe a possibilidade de se fazer análises com dados transformados. Um detalhamento da distribuição da variável pode ser obtida clicando o ícone do histograma na barra de ferramentas. Em um primeiro momento tem-se a visualização do histograma e posteriormente pode-se fazer análises com distribuição de freqüências acumuladas e gráfico da distribuição normal, conforme mostra a Figura 5.

14 Histograma freqüência simples Gráfico de freqüência acumulada Gráfico da distribuição normal Figura 5. Análise gráfica dos dados Uma outra análise utilizada no GS+ é a localização espacial dos pontos amostrados com relação a intervalos de ocorrência. Este mapa é obtido por meio do ícone exemplo na Figura 6.. Veja o Figura 6. Localização espacial das observações Verifica-se, por meio da Figura 6, que a princípio não há indícios de concentração de valores altos ou baixos em setores específicos da malha, portanto parece não existir tendência nos dados e, provavelmente, se existir relação espacial, esta poderá ser representada por um semivariograma médio (isotrópico. 3

15 3. PRINCÍPIOS DA ANÁLISE GEOESTATÍSTICA 3.. Um breve histórico A preocupação com a dependência espacial ou temporal de observações realizadas para um determinado atributo é bastante antiga, sendo comprovado este fato por trabalhos científicos datados do início do século XX, conforme mostra Vieira (995. Em algumas áreas da ciência, como a agricultura, a partir da metade do século XX adotou-se a metodologia de análise de dados proposta por Fisher. Esta metodologia considera, no seu desenvolvimento e aplicação, as seguintes suposições: normalidade da variável; independência de erros e homocedasticidade de variância (homogeneidade de variância. A normalidade da variável e a homogeneidade de variâncias podem ser testadas facilmente em programas de estatísticas por meio de testes específicos como, por exemplo, Shapiro-Wilk (W teste para normalidade e F máximo de Hartley para homogeneidade de variâncias. Se for observado não normalidade de dados e/ou não homogeneidade de variâncias, procedimentos como a transformação de dados podem ser adotados para que a variável atenda estas hipóteses básicas da metodologia de análise não espacial proposta por Fisher. Já a independência não pode ser testada por métodos simples e a solução deste problema, proposta pela metodologia não espacial, é a repetição e a aleatorização das observações. Esta solução, em muitos casos, não garante a independência entre as observações, isto porque algumas variáveis apresentam forte dependência espacial (autocorrelação entre as observações que não é desfeita com este procedimento. Krige (95 citado por Vieira (995, em seus trabalhos com dados de mineração da África do Sul, concluiu que a variância dos dados possuía uma estruturação que dependia da distância de amostragem. A partir desta constatação surgiu os conceitos básicos de geoestatística. Os fundamentos teóricos da geoestatística podem ser encontrados nos trabalhos desenvolvidos por Matheron (963 e Matheron (97. A análise espacial de dados, utilizando a geoestatística, ganhou impulso em áreas distintas da mineração e da geologia a partir de 98, com grande aplicabilidade na ciência 4

16 do solo. Uma justificativa para tal fato é a facilidade computacional que viabilizou alguns cálculos relativamente trabalhosos nesta metodologia. No Brasil destaca-se trabalhos pioneiros nesta área desenvolvidos pelos pesquisadores Sidney Rosa Vieira, Paulo Libardi e Klaus Reichardt. Ainda na década de 8. Atualmente a aplicabilidade e a utilização da geoestatística como metodologia de análise de dados no espaço ou no tempo esta difundida em vários ramos da ciência, envolvendo áreas de ciências humanas, biológicas e exatas. Em linhas gerais podemos dizer que a geoestatística está interessada em determinar a dependência espacial das observações de uma variável e recebeu tal denominação devido aos trabalhos desenvolvidos por Krige na África do Sul. Este pesquisador é homenageado com o nome do método de interpolação utilizado na geoestatística, a krigagem. Outras metodologias e alternativas de análise de dependência espacial são descritas em Papadakis (937, Bartlett (978, Zimmerman e Harville (99, Cressie e Hartfield (996, Duarte (, entre outros autores. 3.. Estacionaridade Antes de iniciarmos a discussão sobre a estacionaridade da variável vamos adotar uma simbologia para a variável em estudo. Ao falarmos da variável Z(t estaremos falando de ocorrências da variável Z com uma referenciação t, que pode ser uma posição no tempo (unidimensional, por exemplo: t, t,...,t k ou no espaço (unidimensional, por exemplo: x, x,..., x n ; ou bidimensional, por exemplo; (x,y,(x,y,..., (x n, y n Diz-se que um processo (ou uma variável é estacionária se o desenvolvimento desse processo no tempo ou no espaço ocorrer de maneira mais ou menos homogênea, com oscilações aleatórias contínuas em torno de um valor médio, em que nem a amplitude média e nem as oscilações mudam bruscamente no tempo ou no espaço. Como exemplo de processo estacionário pode-se citar as oscilações da tensão em uma rede elétrica. Note que as características de um processo estacionário independe da origem adotada. 5

17 Diz-se que um processo é não estacionário quando não apresenta as características citadas anteriormente e, neste caso, as características do processo dependem da origem que é tomada como referência. Pode-se utilizar como exemplo de um processo não estacionário o relevo no estado de Minas Gerais, ou ainda, as chuvas mensais durante um ano no estado de Minas Gerais. Observação: Processos não estacionários podem apresentar trechos estacionários. Pode-se definir uma função aleatória Z(t como estacionária, se todos os momentos estatísticos são invariantes para toda mudança de origem. Estatisticamente pode-se dizer que, se o processo é estacionário de ordem k, então: E[Z(t] = m (t = constante t E[Z (t] = m (t = constante t E[Z k (t] = m k = constante t Observação: Se um processo é estacionário na ordem k ele também será estacionário para as ordens inferiores a k. Por exemplo, se o processo é estacionário de ordem 4, ele também será estacionário nas ordens, e 3. Para estudos de geoestatística necessita-se, como restrição máxima, que o primeiro e o segundo momento em relação à origem sejam constante, ou seja, exige-se no máximo a estacionaridade de segunda ordem. Se a esperança matemática de uma variável aleatória é constante, independentemente da origem que se toma no espaço ou no tempo, podemos dizer que a variável é estacionária de primeira ordem e, portanto, a média será a mesma para todo o processo. E[Z(t] = m (t = µ = constante 6

18 Se o segundo momento em relação à origem é constante, temos então que a variância é constante independente da origem no espaço ou no tempo e, portanto, o processo é estacionário de ordem. E[Z (t] = m (t = constante Var [Z(t] = E[Z (t] {E[Z(t]} = m (t [m (t] = constante Seja agora a covariância, ou seja, a esperança do produto do que ocorre em t e t, com h = t t, definida como: C(t, t = E[Z(t.Z(t ] - µ Se Z(t é estacionária esta covariância não depende de t e t, ou seja, da origem, mas somente da distância h entre os pontos e desta forma: C(t, t+h = C(h Note que a variância é um caso particular da covariância quando h =. C( = E[Z (t] - µ = Var[Z(t] Geralmente utiliza-se a função de covariância normada pela variância: C( h ρ ( h = Var[ Z( t] Neste caso chamamos ρ de função de correlação ou coeficiente de correlação, que nada mais é do que a correlação entre seções da variável separadas por um passo h. Portanto, ρ( =. Podemos definir uma variável como estritamente estacionária se seus momentos estatísticos são invariantes a translações na origem. Isto significa que o processo Z(t e Z(t+h tem a mesma estatística para qualquer h. Uma variável é chamada de estacionária de segunda ordem se: A média é constante: E[Z(t] = µ O segundo momento existe: E[Z (t] < Para cada par {Z(t, Z(t+h} a função covariância existe e depende apenas de h. C(t, t+h = C(h 7

19 A estacionaridade da covariância implica na estacionaridade da variância: Var{Z(t}= C( e do variograma que é definido como: γ(h = E{[Z(t+h Z(t] } = = E{[Z(t+h }+E{[Z(t] }-E{Z(t+h Z(t}= = E{[Z(t+h] }+E{[Z(t] }-µ = = E{[Z(t+h] }- µ + E{[Z(t] }-µ = = C( C(h O coeficiente de correlação entre Z(t+h e Z(t, chamado de correlograma ou autocorrelograma, é igual a: C( h γ ( h r( h = = C( C( Note que, se ocorre a estacionaridade de segunda ordem, o correlograma (autocorrelograma e o variograma (semivariograma serão ferramentas correspondentes na determinação da dependência espacial. Mas se a estacionaridade de segunda ordem não é atendida o autocorrelograma não pode ser usado, pois, o denominador da função autocorrelação é uma variância e, neste caso, C( constante. Observação: A existência de estacionaridade permite a repetição de um experimento, mesmo que as amostras sejam coletadas em pontos diferentes, em relação ao experimento inicial. Esta fato é justificado em função de que todas as amostras pertencem a populações com os mesmos momentos estatísticos. A dependência espacial ou temporal de uma variável Z(t é definida por uma amplitude a, sendo que para variáveis com estacionaridade de segunda ordem: C(h = se h > a Ou γ(h = C( = Var [Z(t] se h > a Quando se trabalha com o tempo a constante a é chamada de tempo de correlação de Z(t. Se o estudo for espacial, por analogia, podemos chamar a de domínio de correlação. 8

20 A hipótese de estacionaridade de segunda ordem assume a existência de uma covariância e assim de uma variância finita. Var[Z(t] = C(. A existência do variograma é uma hipótese mais fraca do que a existência da covariância, e existem muitos fenômenos que possuem uma grande capacidade de dispersão, isto é, que não possuem uma variância a priori nem uma covariância, mas um variograma pode ser definido. Uma hipótese mais fraca (mais abrangente é a hipótese intrínseca. Na hipótese intrínseca temos: a a esperança Z(t existe e não depende do ponto t. E[Z(t] = µ b para todo h, a variância da diferença [Z(t+h Z(t] existe e não depende do ponto t. Var[Z(t+h Z(t] = E{[Z(t+h Z(t] } = γ(h Observação: Se uma variável é estacionária de segunda ordem, então ela é também intrínseca, mas o inverso nem sempre ocorre. A hipótese intrínseca é a hipótese mais freqüentemente usada em geoestatística, por ser menos restritiva e, portanto, o semivariograma é a ferramenta mais difundida na geoestatística porque exige apenas a hipótese intrínseca, enquanto o autocorrelograma exige a estacionaridade de segunda ordem. As Figuras 7A, 7B e 7C ilustram, respectivamente, uma variável estacionária de segunda ordem, uma variável estacionária de primeira ordem e uma outra não estacionária. Note que no caso da Figura 7A, para qualquer trecho que selecionarmos e calcularmos a média e a variância, estas permanecerão aproximadamente constante, já no caso da Figura 7B, apenas a média permanece constante e no caso da Figura 7C nem a media e nem a variância permanecem constantes. 9

21 Y A X Y B X Y C X Figura 7. Exemplos de estacionaridade: A Processo estacionário de segunda ordem; B Processo estacionário de primeira ordem e C Processo não estacionário 3.3. Krigagem universal (tendência Na hipótese de tendência (Krigagem universal, a variável Z(t pode ser decomposta em dois componentes: Z(t = m(t + e(t

22 em que m(t é a tendência principal (drift e e(t é o resíduo. Para se trabalhar com essa hipótese é necessário que, para cada posição t se determine à tendência m(t e, assim, trabalha-se com o semivariograma dos resíduos. Note que se m(t = constante, então o semivariograma da variável Z(t, usando as observações reais, será igual ao semivariograma dos resíduos e(t, mas, se ocorre algum tipo de tendência nos dados (tendência linear, quadrática, etc., o semivariograma dos resíduos pode-se apresentar com melhor estruturação e definição dos parâmetros, produzindo estimativas mais confiáveis (com menor variância na krigagem. 4. ANÁLISE DA DEPENDÊNCIA ESPACIAL As duas funções utilizadas com maior intensidade na geoestatística para a determinação da dependência espacial ou temporal de variáveis são a função autocorrelação (que gera o autocorrelograma e a função semivariância (que gera o semivariograma. Passaremos a descrever rapidamente a função autocorrelação e em seguida, com maior detalhamento, será descrita a função semivariância e semivariograma com instrumento de análise espacial de dados. 4.. Autocorrelação e autocorrelograma Quando estamos trabalhando com variáveis bidimensionais, temos que a covariância é uma medida de associação entre as variáveis. Entretanto esta função tem a desvantagem de possuir as unidades das variáveis que a geram e, também, não ter um padrão de comparação, por exemplo, se calculamos a covariância entre X e Y e encontramos o valor de,75 não podemos dizer se as variáveis estão com forte associação positiva ou não. A covariância é dada por: cov( x,y = E{[ X µ x ].[Y µ y ]} O cálculo da covariância pode ser pensada também para a análise espacial. Se analisarmos a Variável Z nas posições t e t+h temos:

23 cov[ Z( t,z( t + h ] = E[( Z( t µ z ( t.( Z( t + h µ Z( t + h ] Se a variável Z é estacionária, esta função poderá ser estimada por: cov( Z( t,z( t + h = n( h i= [ Z( t i Z ] [ Z( t n( h i + h Z ], pois neste caso a média de Z(t será igual à média de Z(t+h. Uma propriedade da covariância diz que "se duas variáveis aleatórias são independentes então a covariância entre elas é igual a zero". Portanto, ao analisarmos a variável Z nas posições t e t+h, com h=,,...k, espera-se que o valor da covariância comece alto e depois tenda a zero, sendo que quanto maior for o valor da covariância maior será a relação espacial e para covariância zero teremos independência. A Figura 9 ilustra uma função covariância. 3 covariâncias distâncias (m Figura 8. Exemplo de uma função covariância Comentamos, anteriormente, que a autocovariância apresenta algumas dificuldades de interpretação. Vamos então definir a função autocovariância como uma alternativa de interpretação da dependência espacial de uma variável Z. Esta função tem a vantagem de ser adimensional e estar limitada ao valor - e, permitindo comparações entre variáveis e também inferências sobre o grau de associação (dependência. Vamos inicialmente fazer uma analogia com as variáveis bidimensionais. Considerando as variáveis X e Y, temos:

24 ( x,y cov[ X,Y ] ρ = que pode ser estimada por: σxσ y r( x,y = n i= [ X X ] [Y n S S x y Y ] Neste caso quanto mais próximo de ou de -, maior a relação entre as variáveis e quanto mais próximo de, menor a relação linear entre X e Y. A função autocorrelação é definida como sendo a razão entre a covariância dos valores assumidos pela variável Z, nas posições t e t+h e a variância dessa variável Z, em função da distância h, no caso de variável estacionária de segunda ordem. Desta forma temse: cov[ Z( t, Z( t + h] Cov[ Z( t, Z( t + h] ρ( h = = Var[ Z( t] σ Trabalhando-se com dados amostrais ρ(h pode ser estimado por r(h: r( h = n( h i= [ Z( t i Z ] [ Z( t n( h s i + h Z ] em que: ρ (h é a autocorrelação entre os valores da variável Z, separados pela distância h (autocorrelação populacional; Cov [Z(t, Z(t+h] é a covariância entre a variável Z(t e a variável Z(t+h; Var[Z(t] = σ é a variância populacional, ou seja, a covariância entre Z(t e Z(t+h quando h=; r(h é a autocorrelação amostral para a distância h; n(h é o número de pontos amostrais separados pela distância h; Z é o valor médio (média amostral da variável Z(t; s é a variância amostral de Z(t. 3

25 A Figura 9 mostra um exemplo de comportamento da função autocorrelação. r(h distância (m Figura 9. Exemplo de um autocorrelograma experimental O uso dessa função no estudo da dependência espacial ou temporal só é válida se a hipótese de estacionaridade de segunda ordem for atendida. Teoricamente, para h = O a autocorrelação é máxima, ou seja, r( = e este valor decresce até o zero, ou seja, até uma distância ou tempo que não exista relação entre as observações. Esta distância define a amplitude de dependência espacial ou temporal (a, sendo que acima dessa distância os dados são considerados independentes entre si. Este tipo de comportamento indica que quanto mais próximas estiverem as amostras maior o grau de semelhança entre elas e este grau de semelhança decresce com o aumento da distância entre observações. Podemos ter ainda o autocorrelograma para toda distância com valor de autocorrelação igual a zero (r(h =, exceto para h= em que r( =, assim temos independência entre as amostras para toda à distância ou tempo de estudo. Uma outra possibilidade é o autocorrelograma com autocorrelações flutuando em torno de zero (indica independência entre as observações e o autocorrelograma cíclico, que indica flutuações periódicas na variável estudada, conforme Figura A e B. 4

26 r(h A 5 5 h r(h B 5 5 h Figura. Exemplos de autocorrelogrmas: A independência entre observações; B periodicidade da variável. 4.. Semivariograma a Definição do semivariograma O semivariograma é definido como: γ ( h = { Var[ Z( t Z( t + h]} Note que Var[Z(t Z(t+h] é a variância dos dados separados por uma distância h, mas, na expressão acima, esta variância está sendo divida por dois, então se utiliza o prefixo semi para distinguir da variância e daí vem o nome semivariância para γ(h e semivariograma para o gráfico de γ(h em função de h. 5

27 matemáticas. Observação: O divisor da variância surge das deduções e simplificações Sob a suposição de tendência zero, temos: E[Z(t+h] = E[Z(t] e, portanto: γ ( h = { E[ Z( t + h Z( t] e uma estimativa de γ(h chamada de γ h é dada por: ^ γ ( h = n( h i= ^ ( [ z( t + h Z( t] n( h em que n(h é o número de pares separados pela distância h. Relembrando a condição de estacionaridade, temos que a utilização do semivariograma exige que pelo menos a hipótese intrínseca seja atendida, ou seja, exige a condição de estacionaridade mais fraca quando comparada com a autocorrelação. } b Caracterização do semivariograma Analisando a expressão da função semivariância, pode-se imaginar que quanto mais próximos estiverem os pontos amostrados, maior será a semelhança entre eles e, portanto, menor a semivariância; e quanto mais distantes estiverem os pontos amostrados menor será a semelhança e, consequentemente, maior a dispersão (variância. Na teoria temos que para a distância h= a semivariância γ( = e, a semivariância γ(h cresce com o incremento de h, até atingir um valor constante para γ(h que corresponde às variações aleatórias, ou seja, variações que não são justificada pela semelhança de um ponto com outro. A distância h a partir da qual γ(h se torna aproximadamente constante é chamada de alcance da dependência espacial (a sendo que as medições realizadas a distâncias maiores que a, tem distribuição espacial aleatória e, portanto, são independentes entre si. O valor de γ(h constante é chamado de patamar (C. A utilização de dados amostrais na estimativa da semivariância e na construção do semivariograma, revela que, freqüentemente, para h = a semivariância γ( difere de zero. A impossibilidade de se fazer reamostragem exatamente sobre um ponto já amostrado 6

28 (nestes casos pode ocorrer variações a distâncias menores do que a menor distância de amostragem e erros como erros de amostragem, erros de análise de laboratório, etc., são justificativas dessa descontinuidade na origem. Quando γ(, surge um novo termo no semivariograma chamado de efeito pepita (C e, neste caso, o patamar é dado por: C + C. Observação: Pode-se mostrar que o patamar do semivariograma (C + C é uma estimativa sem tendência da variância (σ da variável Z(t. Nas Figuras A e B apresentamos o comportamento ideal de um semivariograma e também são mostrados os parâmetros do modelo descritos acima. C C + C DEP. a INDEP (A DEP. a INDEP. (B C Figura. Semivariogramas: (A sem efeito pepita; (B com efeito pepita Os semivariogramas apresentados na Figura indicam estacionaridade de segunda ordem para a variável, porque apresenta patamar claro e bem definido. Se o semivariograma for constante e igual ao patamar para qualquer valor de h, temos o efeito pepita puro e, neste caso, temos a ausência total de dependência espacial, ou seja, a dependência espacial, se existir, será manifestada à distância ou tempo menor do que o menor espaçamento entre amostras. Um outro tipo de semivariograma é aquele que apresenta a semivariância com flutuações. Este semivariograma é chamado de semivariograma periódico ou cíclico e indica uma periodicidade nos dados que pode ser explicada por algum fator conhecido e analisada por meio da densidade espectral. 7

29 Também podemos ter um tipo de semivariograma em que as semivariâncias crescem, sem limites, para todos os valores de h, ou seja, semivariogramas sem patamar definido. Este semivariograma indica que a hipótese de estacionaridade de segunda ordem não foi atendida e, provavelmente, estamos trabalhando com a hipótese intrínseca ( fenômeno com capacidade infinita de dispersão. Ele indica também que a máxima distância h entre as amostras não foi capaz de exibir toda a variância dos dados e provavelmente existe tendência dos dados para determinada direção. Se for verificada a tendência remove-se esta tendência e verifica-se se a variável resíduo apresenta semivariograma com patamar (estacionaridade de segunda ordem. Uma outra alternativa é trabalhar com a hipótese de tendência nos dados originais. Vale ressaltar que a primeira alternativa é a mais simples e a mais utilizada. Se o semivariograma dos resíduos apresenta efeito pepita puro, pode-se dizer que a superfície de tendência é a melhor representação espacial da variável. Uma metodologia de se ajustar superfícies de tendência é a utilização de regressão múltipla. Podemos ter ainda um semivariograma com mais de uma estrutura de variância, que são chamados de semivariogramas com estruturas entrelaçadas ou semivariogramas imbricados. Neste caso uma explicação prática poderia estar associada ao fato de estarmos trabalhando com mais de uma população, ou seja, até uma distância X estamos trabalhando com uma determinada população e a partir daí outra ou outras populações. As Figuras A, B, C, D e E, mostram respectivamente, semivariogramas experimentais com patamar definido, efeito pepita puro, sem patamar, cíclico e com estruturas entrelaçadas. 8

30 gama (h 5 5 A 5 5 h gama (h 5 5 B 5 5 h gama (h 5 5 C 5 5 h gama (h D 5 5 h 9

31 4 gama(h 3 E h Figura. Semivariogramas: A Com patamar; B Efeito pepita puro; C sem patamar DCíclico e E Com estruturas entrelaçadas c Grau de dependência espacial Quanto ao grau de dependência espacial da variável em estudo, podemos classificala como: i variável com forte dependência espacial se o efeito pepita for menor ou igual a 5% C do patamar <,5 ; C + C ii variável com moderada dependência espacial se o efeito pepita representar entre C 5% e 75% do patamar,5, 75 ; C + C iii variável com fraca dependência espacial se a relação entre efeito pepita e patamar C estiver entre 75% e %,75 < <, C + C iv variável independente espacialmente se a relação entre efeito pepita e patamar for igual a %, neste caso temos o semivariograma com efeito pepita puro C C + C =,. 3

32 d Isotropia e anisotropia Note que h é um vetor e, consequentemente, o semivariograma depende da magnitude e da direção de h. Quando o semivariograma é idêntico para qualquer direção de h ele é chamado de isotrópico e quando o semivariograma apresenta os parâmetros C, C, a e/ou modelo diferenciado dependendo da direção de h, ele é chamado anisotrópico (podemos classificar a anisotropia em anisotropia geométrica ou anisotropia zonal. Se o semivariograma é anisotrópico ele deve sofrer transformações antes de ser usado. Vieira (995 alega que, em geral, a precisão da interpolação ou o tipo de hipótese satisfeita, não são afetados se, ao invés de se preocupar com a escolha de método de transformação de anisotropia, apenas limitar a faixa de distância na qual se utiliza o semivariograma. As principais direções de h que são examinadas são: o (na direção X, 9 o (na direção Y, 45 o e 35 (nas duas diagonais principais. Quando os dados forem coletados em uma transeção (linha, o semivariograma é unidimensional e nada pode ser dito sobre anisotropia. e Os principais modelos de semivariogramas Dados experimentais são influenciados por uma série de fatores. Um pesquisador, geralmente, não é capaz de controlar todos os fatores que influenciam um conjunto de dados. Desta idéia surge a distinção entre modelo matemático e modelo estatístico. No modelo matemático não temos desvios em relação à função proposta, ou seja, todos os pontos experimentais devem estar sobre a função proposta para explicar determinado fenômeno. Por exemplo, se tomarmos os pares ordenados (,; (,4; (3,9; (4,6 e (5,5 como sendo valores experimentais e propormos o modelo: Y i = X i, como o modelo que explique o comportamento desses dados experimentais, estaremos trabalhando com um modelo matemático, pois, todas as observações pertencem ao modelo proposto (Figura 3. 3

33 Y y = x X Figura 3. Modelo Matemático Para o modelo estatístico os valores experimentais apresentam desvios (erros em relação ao modelo proposto (ajustado e estes erros são atribuídos a fontes de variações não controladas pelo pesquisador. Por exemplo, podemos ter o seguinte modelo estatístico que explique o comportamento linear de uma variável Y em função de X: Y i = a +bx i +e i, (Figura 4 em que a e b são as constantes que definem a reta e e i são os erros experimentais (maiores detalhes podem ser obtidos em textos e livros sobre modelos lineares ou análise de regressão. 5 y =.86x ei Y X Figura 4. Modelo Estatístico Na aplicação da teoria geoestatística a dados experimentais, vamos ajustar modelos teóricos de semivariogramas as semivariâncias experimentais, e desta forma estaremos trabalhando com modelos estatísticos de semivariogramas. 3

34 O gráfico da semivariância (γ(h em função da distância (h, mostrará uma série de pontos discretos que é chamado semivariograma experimental. Uma função contínua deve ser ajustada as semivariâncias experimentais. A escolha do modelo de semivariograma que será utilizado é um dos aspectos mais importantes da geoestatística. Todos os cálculos da geoestatística dependem do modelo de semivariograma ajustado e, conseqüentemente, se o modelo ajustado não for apropriado, todos os cálculos seguintes conterão erros que poderão afetar as inferências, portanto o ajuste de semivariograma é uma fase crucial na análise geoestatística e deve receber uma atenção especial. Vários métodos são utilizados para verificar a qualidade do ajuste do semivariograma aos dados experimentais. Vieira et al (983 sugerem o método de ajuste por tentativa e erro (ajuste a critério do observador associado à avaliação do modelo pela técnica de validação cruzada ou autovalidação ( jack-knifing. Macbratney e Webster (986 sugerem o método do Critério de Informação de Akaike (AIC para avaliar o modelo. Já Pannatier (996 sugere a utilização do "Indicação da Qualidade do Ajuste" (IGF. A descrição de cada método de seleção pode ser encontrado nos respectivos trabalhos originais dos autores e cada programa de análise geoestatística de dados apresenta um critério de seleção. O programa GS+, com o qual estamos exemplificando este texto, aplica a metodologia dos mínimos quadrados para os ajustes dos modelos e utiliza como critérios para seleção do modelo: i o coeficiente de determinação (R, que, relembrando os conceitos de análise de regressão, é uma relação entre a soma de quadrados devido ao modelo ajustado e a soma de quadrados total (mede a variação dos dados devido ao modelo ajustado em relação à variação total dos dados e quanto mais próximo da unidade estiver o valor de R melhor será o modelo ajustado; ii Soma de quadrados de resíduos (RSS quanto menor for este valor, melhor será o modelo de semivariograma. O GS+ utiliza este resultado para a seleção do modelo e, por meio de combinações dos parâmetros do modelo, minimiza esta soma de quadrados de resíduos. O autor do programa alega que a utilização 33

35 desse critério na seleção do modelo é preferido, por ser este mais sensível e mais robusto quando comparado com o coeficiente de determinação (R. Observação: Em muitos casos (talvez na maioria dos casos a sensibilidade de quem está trabalhando com os dados e o conhecimento sobre a variável é de fundamental importância na opção do modelo de semivariograma. Às vezes é preferível selecionar um modelo com R um pouco menor ou RSS um pouco maior que o sugerido pelo programa, mas que represente melhor os dados. De maneira geral, quanto mais simples puder ser o modelo ajustado, melhor, e também não se deve dar importância excessiva a pequenas flutuações. A condição para o ajuste de modelos a dados experimentais é que ele represente a tendência de γ(h em relação à h e que o modelo tenha positividade definida condicional. De maneira geral, um modelo é positivamente condicional se γ(h> e γ(-h = γ(h, qualquer que seja h. Definindo C como efeito pepita, C + C como patamar e a como alcance, os principais modelos de semivariogramas utilizados na geoestatística são: i modelo linear com patamar γ ( h = C C C + h a + C Neste caso C/a é o coeficiente angular para < h < a h a h > a ii modelo esférico C γ ( h = C 3 h h + C a a + C 3 h a h > a iii modelo exponencial γ ( h = C + C [ 3( h/ a] [ e ] < h < d 34

36 Neste modelo e no modelo de gaussiano d é a distância máxima na qual o semivariograma é definido e nestes modelos o patamar (a é atingido apenas assintoticamente O parâmetro a é determinado visualmente como a distância após a qual o semivariograma se estabiliza. iv modelo gaussiano γ ( h = C v modelos sem patamar γ( h + C [ ] [ 3( h / a e h d = C + Ah < B < Os parâmetros A e B são constantes que definem o modelo, sendo que B tem que ser estritamente maior que zero e menor que dois para garantir a condição de positividade definida condicional. B Observação: dependendo da escala de trabalho e do espaçamento entre amostras, pode-se ter mais de um modelo de semivariograma para os dados. Nestes casos temos as estruturas entrelaçadas. As Figuras 5A e 5B mostram os aspectos gerais dos modelos de semivariogramas discutidos anteriormente. (A Linear Gaussiano Exponencial Esférico A=8,; B=,5 A=,9; B=, A=,;B=,5 (B Figura 5. Modelos de semivariograma: (A com patamar; (B sem patamar. Observação: Nos modelos exponencial e gaussiano, apresentados no programa GS+, a amplitude a que deve ser considerada como a amplitude de dependência espacial deve ser igual a três vezes e 3 vezes, respectivamente, o valor de A, ou seja, a amplitude efetiva 35

37 apresentada na coluna posterior a coluna de A. Isto ocorre porque os modelos exponencial e gaussiano utilizados no programa não consideram o fator 3 apresentados nos modelos anteriores O uso do software GS+ na determinação do semivariograma No programa GS+ o ícone realizada por meio do semivariograma. indica que a análise da dependência espacial será Observação: Existem outras opções de análises que são apresentadas em autocorrelation ou nos respectivos ícones na barra de ferramentas. (Figura 6: Ativando o ícone do semivariograma, o programa apresenta a seguinte janela Distância máxima para cálculo das semivariâncias Passos para cálculo da semivariância Análise de anisotropia Cálculo das semivariâncias e do semivariograma Exibe o semivar. Variância amostral Semivar. escalonado Semivariograma isotrópico Figura 6. Análise da semivariância Semivariogramas anisotrópicos 36

38 A distância máxima para cálculo da semivariância deve ser no máximo igual à máxima distância de coleta da amostra. O GS+ adota como critério inicial 8% da distância máxima, isto se justifica pelo fato de que a grandes distâncias o número de pares para o cálculo da semivariância reduz-se drasticamente, fazendo com que a estimativa da semivariância tenha pouca precisão. Este valor pode ser alterado pelo usuário. Os passos para cálculo das semivariâncias consiste em como as semivariâncias vão ser agrupadas. Quanto maior for este valor menos pontos teremos no semivariograma. Vale ressaltar também que, se este passo for muito pequeno, teremos classes de distância sem pares para cálculo da semivariância. Para a análise do semivariograma isotrópico o ângulo de tolerância (offset tolerance deve ser de 9 e, neste caso, os semivariogramas para as diferentes direções (anisotrópico serão iguais ao semivariograma isotrópico. Não abordaremos neste texto a discussão sobre anisotropia e procedimentos de análise de anisotropia. A janela apresentada na Figura 9 mostra também as opções de exibição do semivariograma. Se marcarmos apenas a primeira opção, teremos o semivariograma experimental e uma proposta de modelo ajustado. Marcando-se a primeira e a segunda opções, temos o semivariograma experimental, a proposta de modelo e uma linha paralela ao eixo X que representa a variância dos dados. Na terceira opção é exibido o semivariograma escalonado, ou seja, o semivariograma onde cada semivariância é dividida pela variância dos dados. A Figura 7 ilustra o resultado de um semivariograma. 37

39 Mostra o semivariograma com os respectivos parâmetros e ajuste Mostra as opções de modelos com os parâmetros e ajuste Figura 7. Exemplo de um semivariograma Note que a Figura 7 apresenta ainda a opção model e a opção expand. O resultado da execução dessas funções são apresentados nas Figuras 8 e 9. A Figura 8 exibe as opções de modelos de semivariogramas. modelos Efeito pepita patamar amplitude Amplitude efetiva (exp e gaussiano. Relação entre C e patamar Coef. Determinação e soma de quadrados de erros Refaz o semivariograma padrão do GS+ Aplica o novo modelo caso haja modificação Figura 8. Modelos e análises dos modelos 38

40 O GS+ permite, no comando model (Figura 8, visualizar os modelos com os respectivos ajuste feito pelo programa (vale relembrar que o GS+ seleciona o modelo com menor soma de quadrados de resíduos (RSS. Ao usuário é permitido a modificação do modelo selecionado pelo GS+ ou, então, dos parâmetros dos modelos e, realizadas modificações, o comando apply deve ser ativado para que o programa tome este modelo como o modelo de variabilidade espacial ou temporal daquela variável. Para retornar ao modelo padrão do GS+ utilize o comando refit. Observações: a O programa não apresenta o modelo de efeito pepita puro. Para obter este modelo utilize o modelo linear com C = C +C. b A amplitude efetiva é utilizada no GS+ para determinar a amplitude de dependência espacial dos modelos exponencial e gaussiano, devido a formula de cálculo desses modelos no programa, A A (Estes modelos no GS+ não consideram o fator multiplicativo 3. c A inclinação no modelo linear e linear com patamar (coeficiente angular e dado pela relação entre C e A, ou seja, C/A. d A relação entre C e C +C nos dá uma idéia do grau de dependência espacial da variável, sendo que quanto mais próximo de, maior a dependência espacial. Note que C C C = e o primeiro termo já foi discutido no item grau de dependência C C + C + espacial, classificando a dependência como fraca, moderada e forte. e R (coeficiente de determinação e RSS (soma de quadrados de resíduos nos informa sobre a qualidade do ajuste do modelo. f No ajuste do modelo a sensibilidade do usuário é muito mais importante do que os valores de R e RSS e, portanto, tentativas de ajustes diferentes ao proposto pelo programa devem ser utilizadas, mesmo que isso cause queda no valor de R e acréscimo no valor de RSS. g O programa não apresenta a opção de ajuste de modelo sem patamar diferente do linear. Neste caso, sugere-se que se copie as semivariâncias calculadas para outro programa e que o gráfico seja feito neste outro programa, por exemplo, O Excel. 39

41 A Figura 9 mostra o resultado da execução do comando expand. Semivariograma experimental e modelo ajustado Parâmetros do modelo ajustado Lista semivariância calculada, com distâncias e número de pares Mostra as diferenças quadráticas que geram a semivariância Edita o semivariograma Figura 9. Semivariograma e opções de edição Nesta tela temos a exibição das semivariância calculadas, do modelo de semivariograma ajustado e dos parâmetros desse modelo. A listagem dos valores de semivariâncias com as respectivas distâncias de cálculo (list values, permite que estes valores sejam transportados para outros programas e que se faça vários modelos em uma única figura. 4

42 4.4. Exemplos de aplicação Suponha que os dados abaixo representem a variável Z (por exemplo, % de areia de um certo solo. A amostragem foi feita em uma transeção e as amostras foram coletadas a cada m. Faça a análise descritiva da variável, calcule as semivariâncias, monte o semivariograma experimental e proponha um modelo de ajuste. (note que estes dados são unidimensionais. Tabela. Dados de % de areia em um solo. h (m %Areia h(m %Areia h(m %Areia h(m %Areia Observação: para ser resolvido sem o uso de programas de geoestatística Solução: a Análise descritiva Média Erro.6558 padrão Mediana 7.5 Moda 8 Desvio.535 padrão Variância.5756 Curtose.9546 Assimetria.773 Mínimo 5 Máximo A análise descritiva mostra que os dados possuem uma distribuição de probabilidade normal aproximada (média, mediana e moda aproximadamente iguais; curtose e assimetria próximos de zero; gráfico tendendo à simetria. A variabilidade do dados é relativamente baixa (desvio padrão =,53 e CV = 8,6% e os valores mínimo e máximo indicam a não existência de problemas amostrais com os dados. 4

43 b Semivariância e semivariograma Os valores das distâncias h, das semivariâncias (γ(h e números de pares(n(h utilizados no cálculo são apresentados abaixo. Distâncias de cálculo, valores de semivariância e número de pares. Distância h (m Semivariância (γ(h Número de pares (n(h,9 3 4,47 3 6,5 9 8,4 8,37 7,37 6 4, 5 6, ,65 3,545,738 4,85 6,7 9 8, , , , , ,88 3 4,375 4,38 44,4 46,56 9 A representação gráfica (semivariograma das semivariâncias em função da distância h (semivariograma experimental e uma proposta de modelo ajustado aos dados experimentais são apresentados na figura abaixo. 4. semivariância h (m Semivariograma experimental e modelo ajustado. 4

44 O modelo proposto inicialmente é um modelo exponencial, com efeito pepita (C de, (%, patamar (C +C de,3 (% e alcance (a de m. (Observação: não foi realizado nenhum teste para verificar se este é o melhor modelo de semivariograma para esta variável. Neste caso o semivariograma mostra uma dependência espacial para a % de areia até m, ou seja, amostras coletadas a distância inferiores a m possui dependência espacial e, no caso da utilização de métodos de análises estatísticas que consideram independência entre amostras, à distância de amostragem mínima deveria ser de m. OBS: Exercício resolvido com o auxílio do MS-EXCEL Utilizando os dados do exemplo anterior (exemplo refaça a análise utilizando o GS+ Solução: a Análise descritiva b Semivariograma O modelo proposto pelo GS+ foi: 43

45 O modelo proposto no exemplo apresenta o seguinte resultado: Comparando os dois modelos verifica-se ligeiro aumento de r, mantendo-se o mesmo valor de RSS, desta forma o modelo proposto no exemplo poderia ser utilizado. As descrições e discussões seguem o padrão do exemplo. Lembre-se que o modelo adotado foi o exponencial e portanto o alcance efetivo será de 4,8 m no primeiro caso e de m no segundo caso. Outros modelos poderiam ser sugeridos neste caso. 44

46 3 A seguir apresentamos as coordenadas X (m, Y (m e a variável silte (% em uma área experimental. X Y PBPD X Y PBPD X Y PBPD X Y PBPD Realizar a análise dos dados e verificar se existe dependência espacial para essa variável. SOLUÇÃO: a Análise descritiva O resultado das principais estatísticas dessa variável é apresentado a seguir: Nota-se que a área apresenta, em média,,9% de silte, com dispersão média em torno desse valor de,63%. Esta dispersão em torno da média representa uma variabilidade de 5,9% (CV=5,9%, mostrando que os dados têm uma baixa dispersão. Os coeficientes de assimetria e curtose com os respectivos erros padrão indicam tendência simétrica dos dados, mas a curva do tipo platicúrtica, diferindo da curva normal (mesocúrtica. Com base em uma análise visual do histograma, verifica-se uma distribuição de freqüências bimodal para esta variável. A distribuição das amostras na área segundo o valor de ocorrência é a seguinte: 45

47 Não se observa tendências de concentração de valores em posições específicas da área e também não ocorre sentido preferencial na distribuição dos dados, tal fato é um primeiro indicativo de que a distribuição espacial dessa variável, nesta área, é aleatória e isotrópica. b Análise do semivariograma A seguir é mostrado o semivariograma dessa variável: 46

48 O modelo apropriado para descrever o comportamento espacial dessa variável foi o modelo de efeito pepita puro. Nota-se que as semivariâncias experimentais estão em torno da linha paralela ao eixo x, ou seja, C + C =,397. Conclui-se, portanto, que a distribuição espacial do silte nesta área experimental é aleatória e as amostras, para a malha amostrada (com distância entre pontos de m, são independentes. 4 Os dados apresentados abaixo referem-se a umidade de um solo. As amostras foram coletadas em uma malha contendo 63 pontos com espaçamento de m entre amostra, perfazendo 9 colunas e 7 linhas de amostragem. X Y U X Y U X Y U X Y PBPD Realizar a análise dos dados e verificar se existe dependência espacial para essa variável. 47

49 Solução: a Análise descritiva As estatísticas e o histograma da variável umidade foram: Verifica-se que este solo apresentou, na época de coleta, umidade média de 6, 4 g de água/g de solo, com desvio padrão de, g/g, o que representa uma variabilidade de 7,7%, considerada uma baixa variabilidade dos dados em torno do valor médio. Os histogramas, associado à assimetria e à curtose dos dados, mostram que os dados se distribuem segunda a curva normal. As posições ocupadas pelos valores de umidade do solo na área experimental (figura abaixo, mostram tendência de que os valores mais altos de umidade (acima de 7,5 g/g se concentrem na metade inferior da malha, considerando o eixo Y como referência e, conseqüentemente, os valores abaixo de 7,5 g/g se concentram na parte superior da malha, mostrando uma distribuição espacial não aleatória dos dados. Não é possível visualizar tendência de distribuição dos dados nas direções preferencias da malha, ou seja, provavelmente exista uma isotropia na distribuição da umidade do solo nesta área. 48

50 b Análise do semivariograma O semivariograma desta variável é: Nota-se que a variável umidade do solo apresenta dependência espacial, que pode ser descrita pelo modelo exponencial com alcance de 8 m, ou seja, amostras de umidade do solo selecionadas a distâncias inferiores a 8 m estão correlacionadas entre si. A relação entre o efeito pepita e o patamar de 3,63%, indica que a dependência espacial é forte. 49

51 5. KRIGAGEM 5.. O interpolador O semivariograma é a ferramenta da geoestatística que permite verificar e modelar a dependência espacial de uma variável. Uma aplicação imediata do semivariograma é a utilização das informações geradas por ele na interpolação, ou seja, na estimativa de dados e posterior mapeamento da variável. O interpolador que utiliza o semivariograma em sua modelagem é chamado de krigagem. O nome krigagem é uma homenagem ao engenheiro sul-africano D. G. Krige. Para a aplicação da krigagem assume-se: que sejam conhecidas as realizações z(t, z(t,..., z(t n da variável Z(t, nos locais t, t,..., t n ; que o semivariograma da variável já tenha sido determinado; e que o interesse seja estimar um valor z* na posição t. O valor estimado z*(t é dado por: n i= z *( t = λ z( i t i em que: n é o número de amostras de Z(t envolvidas na estimativa de z*(t, e λ i são os pesos associados a cada valor medido, z(t i. Observação: Se existe a dependência espacial, os pesos λ i são variáveis de acordo com a distância entre o ponto a ser estimado z*(t e os valores z(t i envolvidos nas estimativas. Se ocorre a independência espacial, então : λ i = /n e, portanto temos a média aritmética simples. A melhor estimativa de z*(t é obtida quando: a o estimador é não tendencioso b a variância da estimativa é mínima E { z *( t z( t } = Var z *( t z( t ] = mínimo [ Para que z* seja uma estimativa não tendenciosa de z, a soma dos pesos das amostras tem que se igualar a. λ i = 5

52 5 E para obter a variância mínima sob a condição de λ i =, introduz-se o multiplicador de Lagrange para a dedução das equações e o sistema de krigagem resultante é:, (, ( t t t t i n i j i i γ µ γ λ = + = em que: µ é o multiplicador de Lagrange. A variância de estimativa é dada por:, ( t t i i E γ λ µ σ + = O sistema de equações da krigagem contém n+ equações e n+ incógnitas e uma única solução produz n pesos λ e um multiplicador de Lagrange µ. Em notação matricial, chamando de A a matriz das semivariâncias dos valores amostrados envolvidos na estimativa de z*(t ; λ a matriz coluna que contém os pesos λ i e o multiplicador de Lagrange e b a matriz coluna das semivariâncias entre os valores amostrados e o ponto a ser estimado, tem-se: Aλ=b E, portanto: λ=a - b A variância da estimativa (σ E e dada por: σ E = b t λ As matrizes A, b e λ são: A=, (..., (, ( , (..., (, (, (..., (, ( n n n n n n t t t t t t t t t t t t t t t t t t γ γ γ γ γ γ γ γ γ ; b=, (..., (, ( t t t t t t n γ γ γ ; λ= µ λ λ λ n...

53 Observações: i A matriz A é simétrica e possui diagonal principal igual a zero, ou igual ao valor do efeito pepita. ii Os valores que aparecem nas matrizes A e b são conseqüência do multiplicador de Lagrange. iii O sistema deve ser resolvido para cada estimativa z* e para cada variação do número de amostras envolvidos na estimativa. 5.. A krigagem no programa GS+ A Figura mostra a janela da krigagem no GS+. Para ativar a krigagem basta ativar o ícone com a letra k. Informações sobre a malha Validação cruzada Método de krigagem Modelo de semivariograma Arquivo e tipo de arquivo para gravar a krigagem vizinhos Figura. Krigagem no GS+ A krigagem pode ser expressa por meio de mapas, sendo necessário para isto, ativar o ícone map, tendo como resultado a Figura. 5

54 Figura. Opções de mapas no GS+ Exemplo: Utilizando os dados no exemplo de umidade do solo (exemplo 4 fazer a krigagem e o mapeamento da variável umidade. Solução: Como exemplo de saída dos resultados da krigagem temos uma pequena parte dos resultados da krigagem, os resultados apresentam com as coordenadas (x,y, os valores krigados, os desvios padrão desses valores e o número de vizinhos utilizados na estimativa. 53

55 O mapa da umidade do solo é apresentado a seguir: Neste mapa são apresentadas as regiões de ocorrência das umidades do solo. 54

56 6. SEMIVARIOGRAMA CRUZADO E COKRIGAGEM 6.. Semivariograma cruzado Os semivariogramas cruzados objetivam descrever a variação espacial e/ou temporal simultânea de duas variáveis aleatórias. Na natureza é comum encontrar variáveis que estão fortemente associadas entre si, por exemplo, a umidade relativa do ar está intimamente relacionada à precipitação pluviométrica. Em algumas situações a determinação de variáveis é cara e difícil e isto pode comprometer o estudo da variabilidade espacial daquela variável, entretanto se sabemos que existe uma outra variável de simples determinação e que apresenta boa correlação espacial com a de difícil determinação pode-se fazer a estimativa de uma delas usando-se informações de ambas expressas no semivariograma cruzado, por meio do método chamado co-krigagem. Estaremos, neste caso, trabalhando com a idéia de covariável. Consideremos duas variáveis {Z (t i, i=,...,n } e {Z (t j, j=,...,n }, com as amostragens feitas no mesmo espaço (área ou tempo, mas que o número de amostras de Z seja superior ao número de amostras de Z (n >n. Assumindo que pelo menos a hipótese intrínseca está sendo atendida para cada variável individualmente e para a distribuição conjunta das variáveis, podemos definir os semivariograma individuais e os semivariogramas cruzados como: Ai Os semivariogramas de Z (t i e Z (t j : γ γ (h= (h= E { Z E { Z ( t ( t i +h - Z +h - Z ii O semivariograma cruzado entre Z (t i e Z (t i, igual ao semivariograma cruzado entre Z (t j e Z (t i : j ( t ( t i j } } B C γ D (h = γ ( h = E {[ Z ( t i +h - Z ( t i ][ Z ( t j +h - Z ( t j ]} 55

57 Portanto, a semivariância pode ser estimada por: γ (h = n(h n(h i= [ Z ( t i +h- Z +h- Z ( t i ][ Z ( t j ( t j ] E onde n(h é o número de valores de Z e Z separados por um vetor h. Pode-se notar que o semivariograma é um caso particular do semivariograma cruzado, quando as duas variáveis são idênticas. O semivariograma cruzado só será calculado usando as informações existentes para posições geográficas coincidentes. Isto significa que Z e Z tem que ser, necessariamente, definidos para os mesmos locais, e as informações excedentes não são consideradas no cálculo. Um semivariograma cruzado com características que podem ser identificadas como ideais, teria aparência do semivariograma simples (de uma única variável, ou seja, patamar definido, semivariância crescente para pequenas distâncias, modelo esférico, porém, com significados diferentes, pelo simples fato de envolver o produto das diferenças de duas variáveis diferentes. Por exemplo, ao contrário do semivariograma, não é obvio que o valor do semivariograma cruzado para h=, deva ser nulo. Assim, além de espaços menores do que à distância de amostragem, acumulado no mesmo parâmetro, está à falta de correlação entre as duas variáveis. O alcance aqui representa apenas o final ou a distância máxima de dependência espacial entre as variáveis. Já o patamar do semivariograma cruzado, se existir, deve aproximar-se do valor da covariância entre as duas variáveis. Assim, quando as duas variáveis forem de correlação inversa, isto é, quando aumenta uma a outra diminui, a covariância será negativa e, conseqüentemente, o semivariograma cruzado será negativo. Os modelos utilizados para o semivariograma cruzado são os mesmos já discutidos para o semivariograma simples. 6.. Co-krigagem A krigagem é um caso particular do método co-krigagem. Uma vez que exista a dependência espacial para cada uma das variáveis Z e Z, e que também exista dependência espacial entre Z e Z, então é possível utilizar a co-krigagem para estimar valores. 56

58 Suponha que se queira estimar valores, Z *, para qualquer local, t, e que a estimativa deva ser uma combinação linear de ambos Z e Z, ou seja, n z * (t = λ z ( t + λ i i j j F i= i= onde n e n são os números de vizinhos de Z e Z, respectivamente, e λ i e λ j são os pesos associados a cada valor de Z e Z. Tomando z (t i e z (t i como sendo uma realização das funções aleatórias, Z (t i e Z (t i, respectivamente, e assumindo estacionaridade de ordem, o estimador pode ser reescrito em: Z * n n (t = λ Z ( t + λ o i= i i n i= j z Z ( t (t j G Para que o estimador seja ótimo, ele não pode ter tendência e tem que ter variância mínima. Em outras palavras, para que o estimador seja o melhor possível, é necessário que ele não superestime nem subestime valores, e que a confiança nas estimativas seja máxima. O raciocínio básico para dedução do sistema de equações da co-krigagem é idêntico ao da krigagem, com uma diferença que, neste caso, envolve duas variáveis, e por isto envolve equações mais longas, com subscritos, complicando um pouco mais a situação. Porém, o raciocínio e, por conseguinte, a álgebra envolvida, são o mesmo. Para que a estimativa não tenha tendência, qualquer que seja a distribuição dos pesos, a soma daqueles associados com a variável estimada deve ser igual a, e a soma daquelas associadas à outra variável, tem que ser nula. O sistema co-krigagem e a variância da estimativa podem ser escritos em termos de semivariograma, usando a hipótese de estacionaridade de ordem. Assim, o sistema da cokrigagem, em termos de semivariograma fica: 57

59 λ n i= i γ ( t i,t k + λ n j= j γ ( t k,t j - µ = = γ ( t k,t,k =,...n H λ n i= i γ ( t i,t l + λ n j= j γ ( t j,t l - µ = = γ ( t l,t N i= λ,l =,...n i= I λ N j= j = e a variância da estimativa fica: σ n n ( t = µ + µ + λ γ ( ti,t + λ ( t j,t i j γ k i= j= A solução do sistema da co-krigagem produzirá n pesos λ i e n pesos λ j e os multiplicadores Lagrangeanos, µ e µ. cuja solução é O sistema da co-krigagem pode ser escrito em notação matricial como, [ λ ] [ γ ] = [b] K J 58

60 - [ λ ] = [ γ ] [b] L onde [γ] - é o inverso da matriz de coeficientes [γ], [λ] é a matriz dos pesos procurados, λ i e λ j, e [b] é o lado direito do sistema de equações (semivariância do ponto a ser estimado (t e o ponto observado (t ou t. A variância da estimativa pode ser escrita como: σ onde [λ] t é o transposto da matriz [λ]. ( t = [ k λ ] t [b] M Suponha então que o número de vizinhos de Z usados seja n =, e de Z, n =4. A matriz [γ] será então de 8x8 e pode ser escrita como: γ( t,t γ( t,t γ( t3,t γ( t4,t γ( t,t γ(t,t γ( t,t γ( t,t γ( t3,t γ(t4,t γ( t,t γ( t,t γ( t,t3 γ( t,t3 γ( t3,t3 γ(t4,t3 γ( t3,t γ( t3,t γ( t,t4 γ( t,t4 γ( t3,t4 γ( t4,t4 γ( t4,t γ( t4,t γ( t,t γ( t,t γ( t3,t γ( t4,t γ(t,t γ( t,t γ( t,t γ(t,t γ( t3,t γ( t4,t γ( t,t γ( t,t A matriz [λ] poderá ser escrita como [ λ ] = λ λ λ λ λ λ µ 3 4 µ 59

61 N A matriz [b] do lado direito fica, [b] = γ( t,t γ( t,t γ( t3,t γ( t4,t γ( t,t γ( t,t 6.3. Variância da estimativa O simples fato de que, através da krigagem ou da co-krigagem, pode-se conhecer também a variância da estimativa, diferencia-os de qualquer outro método. Esta é uma propriedade interessantíssima, pois, além de permitir a estimativa de valores sem tendência para os locais onde estes não foram medidos, ainda se pode conhecer a confiança associada a estas estimativas, as quais podem ser chamadas de ótimas. Quanto menor for o efeito pepita do semivariograma, menor será a variância da estimativa. Mais precisamente, quanto menor for a proporção do efeito pepita para o patamar do semivariograma, maior a continuidade do fenômeno, menor a variância da estimativa ou maior a confiança que se pode ter na estimativa. Examinando-se as equações relativas aos cálculos das variâncias da estimativa de krigagem e co-krigagem, respectivamente, nota-se que são apenas indiretamente dependentes dos valores medidos. Isto porque, o semivariograma e semivariogramas cruzados, representam a maneira como a variável regionalizada varia de um local para o outro no espaço, e os pesos são conseqüências deste fato. Porém, uma vez que se conhece o semivariograma de uma propriedade, qualquer tipo de esquema de amostragem pode ser desenhado para variâncias da estimativa pré-especificadas. Obviamente, a variância da estimativa sendo uma função da distância ou distribuição espacial das amostras, será máxima 6

62 nos locais mais distantes de valores medidos. Assim, baseado em semivariogramas de variáveis medidas em caráter de reconhecimento, amostragens definitivas podem ser desenhadas para satisfazer condições pré-especificadas. A localização ideal de uma rede de pluviômetros em bacias hidrográficas constitui um exemplo prático desse procedimento. O mesmo pode também ser utilizado através da co-krigagem, ambos, com algumas complicações e vantagens. A principal complicação é que neste caso, depende-se de três correlações espaciais (de cada variável, individualmente, e entre elas, o que não é sempre fácil. Entretanto, quando as variáveis são amostradas em espaçamentos diferentes, haverão pontos onde apenas a variável auxiliar foi medida. Para estes pontos, quase sempre a variância da estimativa da co-krigagem é melhor do que a da krigagem. Com esta vantagem em mente, pode-se desenhar esquemas de amostragem que envolvam ambas as variáveis, em densidades de amostragem bem diferentes, de acordo com o grau de dependência espacial encontrado e a dificuldade de medição. Qualquer que seja o método, krigagem ou co-krigagem, a variância da estimativa é extremamente sensível à forma do semivariograma ou semivariograma cruzado. Baseado na discussão acima, o mapa de isolinhas ou tridimensional de uma variável usando valores estimados através de um dos métodos geoestatísticos deve ser sempre acompanhado pelo mapa correspondente da variância da estimativa, para que se possa visualizar os locais onde a confiança na estimativa é limitada ou é suficiente. Entretanto, uma vez que a variância da estimativa é uma função indireta da distância dos vizinhos ao redor do local da estimativa, então em amostragens tomadas em distâncias regulares no reticulado quadrado, o mapa da variância da estimativa será, simplesmente, uma coleção de círculos, com maiores valores onde o ponto estimado é mais distante. Nesses casos, o mapa da variância tem pouca utilidade e o exame de células compostas de vizinhos fechando o primeiro polígono em volta do valor estimado, mostrando a variância da estimativa, ilustra este ponto suficientemente bem. 6

63 6.4 Número de vizinhos das estimativas A vizinhança usada na estimativa torna-se um ponto de extrema importância na krigagem. Vários são os métodos que podem ser utilizados para a determinação do número de vizinhos na estimativa, cada um com vantagens e desvantagens como será discutido em seguida. Qualquer que seja o critério usado para a escolha do método, deve-se levar em conta o ganho de precisão em relação ao aumento de tempo de computação. a Vizinhança única Quando o tamanho do conjunto de dados, em termos de número de amostras disponíveis tiver tamanho razoável, relativo à quantidade de memória e tempo de processamento disponíveis no computador, pode-se usar o procedimento chamado vizinhança única. Neste procedimento todos os valores medidos são considerados vizinhos e serão utilizados na estimativa. Deve-se sempre lembrar que a decisão de se usar vizinhança única basea-se em sua praticidade relativa ao tamanho do conjunto de dados e não na precisão obtida na estimativa. A razão para tanto reside no alcance do semivariograma, pois os pesos associados a vizinhos separados por distâncias maiores do que o alcance, não devem ter contribuição significativa no valor estimado. Outro ponto importante é que, para se usar vizinhança única, é necessário que o semivariograma seja definido até a maior distância existente no espaço. A vantagem deste método reside no fato que, uma vez invertida a matriz de coeficientes, então as estimativas podem ser feitas para qualquer espaçamento com um pequeno consumo de tempo de processamento de computador. Desse modo, a matriz invertida pode ser arquivada no computador e usada quantas vezes for necessário, desde que não mude o modelo do semivariograma e distribuição dos pontos amostrados no espaço. Existem algumas variáveis que, embora mudem as magnitudes de variação, preservam entre si a maneira como variam no espaço, apresentando semivariogramas que podem ser agrupados em um único, quando divididos individualmente, pelas respectivas variâncias. Como exemplo pode-se incluir umidade do solo amostrada em pequenos espaços de tempo. Nesse caso então, 6

64 as vantagens da vizinhança única aumentam porque modelos de semivariograma escalonados podem ser usados para obter pesos comuns a todas as variáveis. b Distância constante Neste método, para cada ponto estimado é selecionada uma vizinhança constando de todos os vizinhos localizados dentro de um circulo de raio especificado. Conseqüentemente, nos cantos de um campo retangular ocorre /4 de círculo, com /4 do número de vizinhos. A grande vantagem deste método está no fato que se conhece exatamente a distância na qual os vizinhos para estimativa são procurados. Isto é particularmente importante porque se pode limitar o uso do semivariograma quanto à distância sobre qual ele será calculado. Por outro lado, o número de vizinhos pode mudar bastante ao longo do campo, fazendo com que o tamanho do sistema matricial seja variável. Em termos de programação de computador, isto pode se tornar um problema se exceder o valor usado na dimensão das matrizes. c Número constante de vizinhos Um outro método bastante usado é o que mantém constante o número de vizinhos em qualquer posição no campo. Para tanto, vizinhos são procurados, primeiramente dentro de um raio inicial. Se o número de vizinhos encontrados for menor do que o limite especificado, a distância é incrementada, e o processo é reiniciado. Se, pôr outro lado, o número encontrado for maior do que o limite, apenas o número especificado mais próximo será usado. Conseqüentemente, a distância sobre a qual se procura vizinhos varia sobre o campo. Obviamente, as vantagens deste método são as desvantagens do anterior (distância constante e vice-versa. Porém, em situações em que a amostragem foi efetuada em espaçamentos regulares, a distância de procura por vizinhos não muda muito e as desvantagens deste método são minimizadas. Devido as amostragens regulares serem as mais usadas e as facilidades inerentes deste método, fazem dele o mais comumente usado. 63

65 d Quadrantes Uma alternativa interessante e bastante fundamentada em termos geoestatísticos é usar um número especificado de vizinhos em cada quadrante ao redor do valor a ser estimado. O fundamento reside na distribuição do número de vizinhos ao redor do valor estimado, o que fará com que a estimativa receba contribuição semelhante em número, de todas as direções. Muitas vezes quando não se impõe esta restrição, pode-se despercebidamente, utilizar tendenciosamente sempre um número maior de vizinhos de um lado do que de outro. Porém, isto ainda apresentaria problemas nos cantos e extremidades da área, e também o problema de que nunca se sabe qual a distância na qual os vizinhos se localizam. Por estas razões este método apresenta mais problemas do que vantagens O uso do programa GS+ na determinação do semivariograma cruzado, da cokrigagem e no mapeamento da variável. Temos duas variáveis aleatórias Z e Z, suponha que a variável Z teve uma subamostragem em relação a Z e que elas apresentam semivariogramas definidos isoladamente e que também apresentem distribuição espacial conjunta, ou seja, correlação espacial, então podemos proceder a análise do semivariograma cruzado e da co-krigagem. O arquivo de dados terá aspecto apresentado na Figura 9. Os procedimentos gerais da análise de semivariogramas cruzados e de co-krigagem segue os mesmos procedimentos das análises simples. Deve-se ressaltar que se faz as análises individuais das variáveis e depois a análise conjunta. 64

66 Figura 9. Aspecto geral do arquivo de dados para a co-krigagem. As Figuras, e mostram os procedimentos básicos para se trabalhar com semivariogramas cruzados e co-krigagem. Ferramentas de análises descritivas das variáveis Z, Z Semivariograma da variável Krigagem e cokrigagem Semivariogram a da variável Semivariograma Cruzado Mapas Figura. Ícones ativos nas análises descritivas, semivariogramas simples, semivariogramas cruzados, krigagem/co-krigagem e mapas. 65

67 Figura. Janela para a análise do semivariograma cruzado Figura. Janela para realização da co-krigagem 66

68 6.6. Exemplo de aplicação no GS+ Suponha que os seguintes dados represente as observações de macroporosidade e de umidade de saturação em uma determinada área. x y macro usat x y macro Usat

69 Faça a análise da macroporosidade usando como covariável a umidade de saturação. Solução: A análise descritiva geral para as variáveis analisadas é apresentada na Tabela abaixo. Verifica-se que a umidade de saturação apresenta maior uniformidade (menor CV do que a macroporosidade. Os coeficientes de assimetria e de curtose mostram tendência simétrica e mesocúrtica das variáveis, portanto, pode-se considerar tais variáveis com distribuição de probabilidade aproximadamente normal. Analisando a relação linear entre a macroporosidade e a unidade de saturação, obteve-se um coeficiente de correlação linear (r de,93, indicando que existe uma forte associação positiva entre macroporosidade e umidade de saturação e, portanto, estimativas da macroporosidade podem ser feitas com base na umidade de saturação. Análise descritiva dos atributos umidade de saturação do solo (USat e macroporos (MACRO. Estatísticas Atributos Usat (% MACRO (% n Média 5,54,5 Desvio Padrão 6,4 5,98 Coef. de Variação,68 6,57 Coef. de Assimetria -, -, Coef. de Curtose -,3 -,33 As Figuras mostram os semivariogramas individuais para as variáveis umidade de saturação (USat e macroporos e o semivariograma cruzado da MACRO, usando como covariável a USat. 68

70 Semivariograma para a umidade de saturação do solo (USat. Semivariograma para a macroporosidade do solo Semivariograma cruzado da macro em função da umidade de saturação. Para a umidade de saturação ajustou-se o modelo exponencial com alcance da dependência espacial de 34, m, efeito pepita de 9,49 (%² e patamar de 38,59 (%². Para a macroporosidade (MACRO o modelo adotado foi o esférico, com alcance de 45, m, efeito pepita de 9,7 (%² e patamar de 38,7 (%². E para o semivariograma cruzados as estimativas dos parâmetros do modelo exponencial foram: alcance de 3,4 m; efeito pepita de 6,97 (%² e patamar de 34,8 (%². Verifica-se que a utilização da umidade de saturação, como uma co-variável para a estimativa da macroporosidade, provocou alteração no alcance da dependência espacial, mas ainda assim verifica-se que, a correlação espacial deve ser considerada para a realização das estimativas. A alteração do alcance pode estar relacionado aos modelos individuais diferenciados. 69

71 As Figuras a seguir mostram os mapas da macroporosidade do solo, construídos a partir da krigagem e da co-krigagem, ou seja, com base no semivariograma individual e cruzado. Mapa da macroporosidade do solo usando Mapa da macroporosidade do solo, usando semivariograma individual semivariograma cruzado Verifica-se coincidência relativamente alta entre as áreas de ocorrência da macroporosidade. Devido ao processo de estimativa por co-krigagem algumas regiões são subestimatadas e outras regiões são superestimadas. 7. VALIDAÇÃO DE MODELOS DE SEMIVARIOGRAMAS O ajuste do semivariograma, como já comentamos, é um procedimento que fica a critério do pesquisador, mas geralmente é feito "a sentimento". Para este tipo de ajuste podemos utilizar algumas técnicas chamadas de validação cruzada ou de auto validação para selecionar o semivariograma adequadamente. Recomenda-se que se ajuste vários modelos e que seja selecionado o que melhor se adeque aos seguintes critérios: a O gráfico : - Medido vs Estimado Se para cada um dos n locais onde se tem um valor medido Z(x i, estima-se um valor através da krigagem (ou da co-krigagem, Z*(t i, então poder-se-á fazer um gráfico dos valores pareados de Z(t i, Z*(t i e calcular a regressão linear entre eles. A regressão será então: 7

72 * Z ( ti = a+b Z( ti onde a é a intercessão, b é o coeficiente angular da reta e r é o coeficiente de correlação entre Z*(x i e Z(x i. Assim, se a estimativa (Z*(x i fosse idêntica ao valor medido (Z(x i, então a seria nulo, b e r seriam iguais à unidade (um, e o gráfico de Z(x i vs Z*(x i seria uma série de pontos na linha :. Na medida em que os valores de a aumentam de (zero para valores positivos, isto indica que estimador Z*(x i está superestimando valores pequenos de Z(x i e subestimando valores grandes. À medida que a decresce de (zero para valores negativos, o contrário acontece. Este último caso, porém, não é comum. Desse modo, a qualidade da estimativa pode ser medida pelo julgamento destes parâmetros. b O erro absoluto Uma vez que se tem o conjunto de n valores medidos e estimados, Z(x i e Z*(x i, então pode-se definir o erro absoluto como: * EA( x = Z ( x - Z( x i i i O Aplicando-se as condições de não tendência e de variância mínima, nos erros absolutos, pode-se então dizer que: e * EA = E {EA( x } = E {Z ( x - Z( x } = i i i P * VAR( EA = E {( Z ( x i - Z( x i } = mínima Q Se estas condições não forem satisfeitas, então alguma das condições previamente assumidas estará sendo violada. Porém, a equação é bastante difícil de ser verificada porque o conceito de ser mínimo torna-se subjetivo quando não se tem uma referência. O procedimento seguinte pode contribuir nesse sentido. 7

73 c Erro reduzido Lembrando que no cálculo dos valores estimados, Z*(x i, sempre se tem a variância da estimativa, σ k(t i, então pode-se definir o erro reduzido como: ER( =( * ti Z (ti - Z( ti / σk ( ti R A divisão pela raiz quadrada da variância da estimativa faz com que os ER(t i sejam sem dimensão e que, por isso, as condições de não tendência e de variância mínima, requeiram que: * ER = E {ER( x i } = E {( Z ( x i - Z( x i / σ k ( x i } = S e * VAR( ER = E {( Z ( x i - Z( x i / σ k ( x } = T Estas propriedades fazem deste tipo de erro uma valiosa ferramenta e de fácil uso, nas aplicações de geoestatística. O fato de terem valores ideais fixos em (zero e (um, e de serem sem dimensão, facilita seu julgamento e estudo, e também permite sua comparação com outras situações expressas em unidades diferentes. A Figura 3 mostra uma saída da opção de validação cruzada apresentada pelo programa GS+. A validação cruzada é ativada na janela da Krigagem, conforme mostram a Figuras e. 7

74 Figura 3. Validação cruzada. Note, neste caso, que a reta ajustada está praticamente igual a reta a 45º (Gráfico :, o coeficiente de regressão (coeficiente angular de,944 com erro padrão de,5 indica que este é estatisticamente igual a e o y intercept (coeficiente linear de,4 mostra que este pode ser considerado estatisticamente igual a zero, condições estas ótimas para as estimativas. O coeficiente de determinação (r de,39 é considerado relativamente baixo, mas devido ao grande número de observações e sabendo-se que este coeficiente é altamente influenciado pelo número de pares, podemos considera-lo como satisfatório. Também pode-se verificar, pelo gráfico, que os valores extremos é que estão mais afastados da reta e podemos associar isto ao fato do semivariograma geralmente apresentar melhores estimativas para distâncias curtas. A análise da validação cruzada deve ser feita com base em todos os parâmetros e não com base em parâmetros isolados. 73