EDSON ANTONIO ALVES DA SILVA APLICAÇÃO DE MÉTODOS GEOESTATÍSTICOS MULTIVARIADOS EM PROBLEMAS DE MAPEAMENTO DE VARIÁVEIS DE SOLO E PLANTAS

Transcrição

1 EDSON ANTONIO ALVES DA SILVA APLICAÇÃO DE MÉTODOS GEOESTATÍSTICOS MULTIVARIADOS EM PROBLEMAS DE MAPEAMENTO DE VARIÁVEIS DE SOLO E PLANTAS CURITIBA MARÇO DE 2007

2 EDSON ANTONIO ALVES DA SILVA APLICAÇÃO DE MÉTODOS GEOESTATÍSTICOS MULTIVARIADOS EM PROBLEMAS DE MAPEAMENTO DE VARIÁVEIS DE SOLO E PLANTAS Projeto de Tese apresetada como requisito parcial à obteção do grau de Doutor em Ciêcias, pelo Programa de Pós-Graduação em Métodos Numéricos em Egeharia, Uiversidade Federal do Paraá Orietador: Prof. PhD. Paulo Justiiao Ribeiro Jr. CURITIBA MARÇO DE 2007

3 Termo de Aprovação EDSON ANTONIO ALVES DA SILVA APLICAÇÃO DE MÉTODOS GEOESTATÍSTICOS MULTIVARIADOS EM PROBLEMAS DE MAPEAMENTO DE VARIÁVEIS DE SOLO E PLANTAS Projeto aprovado como requisito parcial para obteção do grau de Doutor em Ciêcias, pelo Programa de Pós-Graduação em Métodos Numéricos em Egeharia, Uiversidade Federal do Paraá pela seguite baca examiadora: Prof. PhD. Paulo Justiiao Ribeiro Jr Uiversidade Federal do Paraá Prof. Dr. Aselmo Chaves Neto Uiversidade Federal do Paraá Prof. Dr. Joel Maurício Corrêa da Rosa Uiversidade Federal do Paraá Prof. Dr. Miguel Agel Uribe-Opazo Uiversidade Estadual do Oeste do Paraá Curitiba, 12 de março de 2007

4 Sumário Lista de Figuras iv 1 INTRODUÇÃO PROCESSOS GEOESTATÍSTICOS MODELO GAUSSIANO UNIVARIADO Geometria do espaço geoestatístico Tedêcia devido a Estacioariedade e Isotropia Covariâcia e Variograma Trasformação da Variável Resposta FUNÇÕES DE CORRELAÇÃO Cotiuidade e Difereciabilidade da fução de correlação Fução de correlação de Matér Fução de correlação da Família Esférica Fução de correlação da Família Expoecial Poder de ordem κ ESTIMAÇÃO DE PARÂMETROS Modelagem e estimação de parâmetros de tedêcia ão-estacioária Ajuste de modelo ao semivariograma por míimos quadrados Ajuste de modelos e estimação dos parâmetros por máxima verossimilhaça PREDIÇÃO LINEAR ESPACIAL PROCESOS ESTOCÁSTICOS ESPACIAIS MULTIVARIADOS Modelos geoestatístico bivariado Semivariograma Cruzado ii

5 iii Cokrigagem Covecioal Modelos geoestatísticos multivariados Redução de variáveis por compoetes pricipais OBJETIVOS METODOLOGIA ANÁLISE GEOESTATÍSTICA Estatística descritiva Ajuste de um modelo teórico ao semivariograma experimetal Seleção de variáveis Método de predição liear CRONOGRAMA Referêcias Bibliográficas

6 Lista de Figuras Figura 2.1 Etapas da trasformação da fução de correlação (liha potilhada) para a fução semivariograma (liha tracejada) Figura 2.2 A figura de esquerda correspode ao comportameto da fução de correlação expoecial de ordem 1 (exp( u)) ode a reta tagete à fução o poto u = 0 é vertical (ão difereciável). A figura da direita correspode a mesma fução de correlação expoecial poder com potêcia igual a 2 (exp( u 2 )), com reta tagete igual a zero em u = 0 (difereciável) Figura 2.3 A figura da esquerda represeta um processo de variações abruptas ao logo de uma trasecção uidimesioal, associada a uma fução de correlação ãodifereciavel. A figura da direita mostra um processo com variações mais suaves ao logo da mesma trasecção, mas associada a uma fução de correlação duas vezes difereciável Figura 2.4 À esquerda a figura ilustra o comportameto da fução de correlação de Matér com o parâmetro φ = 0,25 fixo e diferetes valores para o parâmetro de difereciabilidade κ. Na figura da direita, para um mesmo valor de κ = 0.5, variou-se o parâmetro φ que cotrola a taxa de decaimeto da fução Figura 2.5 O gráfico da esquerda mostra uma fução de correlação esférica com o parâmetro φ = 0,6. O gráfico do cetro ilustra o comportameto de uma fução de correlação expoecial de ordem K (κ = 1) e φ = 0,2, correspodedo a uma fução deomiada Expoecial.O gráfico da direita ilustra também o comportameto de uma fução de correlação expoecial de ordem K mas com κ = 2 e φ = 0,35, correspodedo a uma fução deomiada Gaussiaa iv

7 Figura 2.6 Comportameto padrão da fução semivariâcia. O elemetos pricipais que a compõem são: o alcace prático φ associado à fução de correlação, a variâcia de pequea escala ou efeito pepita, que correspode a τ 2 e a cotribuição σ 2, ambos presetes a equação Figura 2.7 Variograma empírico de dados de cocetração de cálcio em uma área com 178 potos amostrais, coletados por pesquisadores do PESAGRO e EMBRAPA- Solos, Rio de Jaeiro-RJ (OLIVEIRA, 2003) Figura 2.8 Variograma empírico agrupado em classes ( biado ) de dados de cocetração de cálcio em uma área com 178 potos amostrais, coletados por pesquisadores do PESAGRO e EMBRAPA-Solos, Rio de Jaeiro-RJ (OLIVEIRA, 2003). 23 Figura 2.9 Represetação ilustrativa de uma área típica com processos geoestatísticos bivariados cotedo quatro localizações amostrais, ode as variáveis ão são co-localizadas e em oferecem o mesmo úmero de observações Figura 2.10 Grid regular com locação amostral de duas variáveis sedo os círculos a primeiro e as estrelas a seguda. As setas estabelecem a direção das correlações e os h, através de seus ídices idicam o grupo de correlações etre variáveis separadas por uma mesma distâcia Figura 4.1 Grid amostral com locação das parcelas e potos amostrais em sistema desalihado, sistemático estratificado (WOLLENHAUPT; WOLKOWSKI, 1994). 53 Figura 4.2 Grid amostral com locação das parcelas e potos amostrais a fazeda MO- BASA. Os 35 potos retagulares represetam as coordeadas de aálises Fisico-Hídricas e Químicas, os 18 potos triagulares represetam as coordeadas de aálises Físicas e Químicas e os 555 potos em cruz represetam as aálises Físicas v

8 vi

9 1 1 INTRODUÇÃO A grade explosão demográfica que acompaha o desevolvimeto da espécie humaa tem exigido cada vez mais um sigificativo aumeto a produção e distribuição de alimetos, pois saciar a fome é uma das suas ecessidades mais primárias. A atividade agrícola atual ão tem coseguido sucesso em oferecer mais alimetos e simultaeamete preservar o meio ambiete. Os resultados das pesquisas cietíficas ão atigem, em grade escala, a cosciêcia cultural do produtor rural, ávido pelo lucro rápido e sem riscos ecoômicos. É icorreto pesarmos que as froteiras agrícolas se estabelecem os limites de cada propriedade rural. O ecossistema é um sistema altamete correlacioado ode os recursos dispoíveis em um local decorrem das trasformações ao logo de milhares de aos de evolução e desevolvimeto do globo terrestre. Uma propriedade rural ão represeta um sistema fechado. Os isumos aplicados tedem a se distribuírem além de seus limites geográficos. Os recursos aturais ali demadados em um dado mometo, sem cotrole ou critério, podem levar posteriormete à sua falta ou mesmo um esgotameto defiitivo, ão só aquela propriedade, como também em toda uma região. Se cosiderarmos os recursos aturais compartilhados, tais como os recursos hídricos, etão um maejo isolado em uma propriedade poderá produzir coseqüêcias daosas às outras ou mesmo ao meio-ambiete local. Tomemos como exemplo o Estado do Paraá que tem sido historicamete um dos maiores produtores de grãos do país, com seu potecial ecoômico agrícola e uma localização privilegiada em relação ao Mercado Comum do Sul - MERCOSUL. Sua região Oeste é resposável por aproximadamete um terço da produção de grãos do Estado, tedo sua ecoomia baseada pricipalmete a produção de soja e trigo, através de muitas propriedades disputado

10 2 os recursos aturais da região. Outro exemplo é a região Nordeste do Estado de Sata Cataria, particularmete os pequeos muicípios de Rio Negriho e Doutor Pedriho ode jutos, dispõem de 232 idústrias ligadas ao setor madereiro, abastecidas por grades áreas de reflorestameto de pius e eucalipto, iterferido com a ecoomia e o meio-ambiete dessas duas cidades. Por outro lado, a globalização da ecoomia mudial e a grade demada por mais alimetos exigem que a agricultura brasileira desevolva tecologias que possibilitem a competição de ossos produtos o mercado mudial e o aumeto da produtividade para ateder o crescimeto populacioal. O aumeto da produtividade é ormalmete acompahado pelo aumeto do uso dos isumos agrícolas. Estes isumos compreedem os isumos biológicos, isumos mecâicos, água e isumos químicos. O uso de isumos químicos tem sido idetificado como o pricipal fator de cotamiação da água e do solo (BAKHSH et al., 1997). Deduzse, portato, que estes isumos, ao mesmo tempo em que auxiliam o aumeto da produtividade agrícola, apresetam grade perigo para o solo e maaciais de água. Visado aumetos progressivos de produtividade, os agricultores utilizam o máximo de fertilizates e corretivos, cosiderado como uiforme o solo de cada área de cultivo. Etretato, cada talhão pode ter cosiderável variação em seus atributos. Com o aumeto da área do talhão, a difereça etre as ecessidades da cultura e a taxa de aplicação empregada em fução da média tedem a ser maiores e a otimização das aplicações de isumos pode ajudar a proteger o meio ambiete. Para esse autor, a aplicação da Agricultura de precisão (AP) as propriedades agrícolas requer o uso de tecologias emergetes que possuam o potecial de discrimiar, à uma resolução refiada, a variabilidade espacial dos diversos fatores associados à produção e direcioar o sistema mecaizado a aplicar os isumos otimizados com o auxílio de aparelhos com Sistema de Posicioameto Global, popularmete cohecido por GPS (acróimo do iglês Global Positioig System) e tecologia SIG, acróimo de Sistema de Iformações Geográficas que lidam com iformação geográfica a forma de dados geográficos. Essas tecologias geram uma grade quatidade de dados, ormalmete expressos a forma de mapas temáticos, gereciados por softwares especialistas de apoio a decisão o maejo agrícola. Visado tais aumetos progressi-

11 3 vos de produtividade os agricultores utilizam o máximo de fertilizates e corretivos. Etretato, cada talhão pode ter cosiderável variação em seus atributos. Uma prática da agricultura de precisão está fudametada basicamete a existêcia da variabilidade espacial dos fatores produtivos e, portato, da própria quatidade produzida pela cultura, costituido a sua represetação gráfica uma das mais importates ferrametas destiadas a sua aálise (BALASTREIRE; ELIAS; AMARAL, 1997). Moli (1997) cosiderou que a AP será o próximo desafio a ser vecido pelo agricultor brasileiro. Muitos autores empregaram em seus trabalhos sesores para detectar a eergia electromagética proveiete do campo e registrar em filmes ou a forma digital. São istrumetos básicos do Sesoriameto Remoto, que também é uma importate ferrameta de aquisição de dados para a AP. Estes istrumetos ão ivasivos forecem dados e possibilitam a detecção de feômeos e o acompahameto de determiados alvos a logas distâcias, como por exemplo o diagóstico de déficit de itrogêio pela emissão de uma cor característica em um espectro de luz. O acompahameto do desevolvimeto de uma cultura em tempo real e a correção dos fatores deficietes o istate que é diagosticado é uma das metas mais importates e ousadas da AP (CAPELLI, 1999). A geoestatística se isere esse cotexto como um método que utiliza procedimetos estatísticos aplicados a problemas cujos dados provêm de foômeos aturais e que são espacialmete distribuídos e autocorrelacioados, ou seja, cosideram ão só o valor obtido para uma determiada variável, mas também sua posição, expressa por um sistema de coordeadas. Assim, o comportameto do eveto estatístico pode ser descrito pelas difereças etre as iformações obtidas em fução da distâcia que as separa. O valor em uma determiada posição poderá ser estimado pelas iformações de posições vizihas. Atualmete a Geoestatística é popular em muitas áreas das ciêcias e da idústria para avaliar dados correlacioados o espaço ou o tempo. Tato em experimetos baseados os coceitos de Agricultura de Precisão quato experimetos de outras áreas que evolvem a estatística espacial, particularmete a geoestatística,

12 4 usam procedimetos uivariados para a represetação do comportameto de suas variáveis em áreas de maejo. Etretato, em problemas reais, os feômeos frequetemete ocorrem sob circustâcias multivariadas e espacialmete correlacioados. Existe dispoível a literatura, muitos trabalhos evolvedo métodos geoestatísticos multivariados mas aida cabe ivestigações para se determiar as codições em que uma aálise multivariada para os problemas represetam um gaho efetivo a qualidade dos resultados, o cofiabilidade do processo, a eficiêcia, sobretudo a predição. Cabe espaço também para se avaliar as características dos diferetes modelos propostos, ou seja, tato aqueles baseados em variogramas e a estrutura da matiz de correlação como aqueles baseados em modelos de regressão. Em decorrêcia dessas avaliações, poderá surgir ovas proposições ou recomedações de estratégias de modelagem que levem a uma viabilidade computacioal, grade limitação os métodos atuais, ou aida, ampliar a iterpretabilidade dos resultados. Este trabalho pretede estudar o redimeto das cultivares soja e pius, correlacioado-as com variáveis agrícolas de solo para um eficiete maejo localizado de utrietes. Empregaremos os métodos geoestatísticos multivariados devido ao grade cojuto de variáveis preditoras dispoíveis para o resultado agrícola.

13 5 2 PROCESSOS GEOESTATÍSTICOS 2.1 MODELO GAUSSIANO UNIVARIADO Geometria do espaço geoestatístico Neste trabalho serão cosiderados dados espaciais as iformações observadas de um feômeo aleatório ocorrido em um sistema solo-plata, distribuído em uma região de um espaço bidimesioal. Não serão abordados dados que represetem polígoos de uma região (sub-área) e em dados que represetem processos potuais, como a ocorrêcia positiva ou egativa de um atributo. Estaremos aqui iteressados somete em dados viculados a um processo aleatório gaussiao de variação cotíua e mesurável. O formato básico para dados geoestatísticos uivariados que empregaremos será aquele adotado por Diggle e Ribeiro Jr (2007), ou seja: {(x i ;y i ) : x i R,y i R,i : 1,2,...,} ode: x i : idica a localização espacial da i-ésima coordeada em uma região do espaço bi-dimesioal (R 2 ). y i : idica uma medida escalar da variável aleatória cotíua Y = (y 1,y 2,...y ), tomada a x i -ésima localização. Um particular resultado y da variável Y pode ocorrer em qualquer localização x de uma

14 6 região cotíua. Assumimos aqui que as localizações x i : i = 1,2,..., formam uma malha fixa ou estocasticamete idepedete, ode serão obtidas as medidas de y i. Um processo gaussiao é defiido como um cojuto de variáveis aleatórias ode a distribuição fiito-dimesioal de qualquer subcojuto de variáveis tomadas desse cojuto, terá distribuição gaussiaa multivariada com o úmero de variáveis do subcojuto. Assim, o cojuto { S(x i ) : x i R 2 ;i : 1,2,..., }, será o processo estocástico gaussiao que descreverá, de maeira teórica o comportameto de um feômeo em uma área, ode supomos que esse processo teha uma distribuição cotíua e que o eveto Y ocorra devido a sua lei de probabilidades. O modelo geoestatístico apropriado que adotaremos será etão baseado em um processo estocástico espacial S(x), gaussiao, cotíuo, que irá represetar osso feômeo de iteresse em uma área de um espaço bidimesioal ou, evetualmete, em uma reta de um espaço uidimesioal. Etedemos aqui o processo estocástico gaussiao uivariado como sedo um modelo probabilístico defiido por um cojuto de variáveis aleatórias gaussiaas { S(x) : x R 2 } em que os S(x i ) são medidas de mesma atureza, que ocorrem em diferetes locais do espaço (WALLER; GOTWAY, 1965). Assim, Y = {y 1,y 2,...,y } será um vetor aleatório de dimesão cotedo as medidas da realização do eveto, ode cada y i terá fução desidade de probabilidade gaussiaa dada, segudo Mood, Graybill e Boes (1974), por: { 1 f Y (y k ) = exp 1 ( ) } yk µ 2 k = 1,2,..., (2.1) 2πσk 2 2 σ k Uma realização do eveto Y correspode a um cojuto de observações em localizações distitas e fixas, ode cada resultado é, em si, o resultado de uma variável aleatória Y k = Y(x k ) = y k, k = 1,2,...,. Uma realização de Y é etão a ocorrêcia de variáveis aleatórias gaussiaas y k com distribuição de probabilidades dadas por 2.1, cada uma com uma úica observação e que pode ser modelada como: y(x i ) = µ(x i )+S(x i )+δ i ; i = 1,..., (2.2) ode:

15 7 y(x i ) será uma variável aleatória cotíua com distribuição ormal de média E [y i S(x i )] = µ(x i )+S(x i ) e variâcia codicioal Var(y i S(x i )) = τ 2 ; µ(x i ) = β 0 + β 1 d 1 (x i ) + β 2 d 2 (x i ) β p d p (x i ) que pode ser represetado matricialmete como Dβ é efeito espacial extero associado a t variáveis d(x i ), diferetes de y(x i ) mas que irão depeder da localização x i. Os coeficietes β são costates a serem determiadas. Esse compoete tora o modelo ão estacioário. { S(x i ) : x i R 2} é um processo gaussiao multivariado com média zero e variâcia σ 2 e fução de correlação ρ(u i j ) = Corr{S(x i ),S(x j )} ode u i j = x i x j é a distâcia euclidiaa que separa duas coordeadas quaisquer x i e x j ; δ i são erros aleatórios mutuamete idepedetes com distribuição ormal de média zero e variâcia τ 2, ou seja, δ i N(0;τ 2 ). A distribuição de probabilidade da variável aleatória Y será etão: Y N ( Dβ,σ 2 R+τ 2 I ) (2.3) ode: σ 2 é a variâcia (costate) e R é uma matriz de tamaho cujos elemetos represeta as correlações etre variáveis observadas em diferetes localizações; τ 2 represeta a variâcia do erro δ i e I a matriz idetidade de tamaho Tedêcia devido a Estacioariedade e Isotropia Segudo Waller e Gotway (1965), dois coceitos devem ser estabelecidos ates de se modelar um processo espacial: estacioariedade e isotropia. Matematicamete um processo será estacioário quado for ivariate às traslações em um espaço multidimesioal, ou seja, a relação etre dois evetos em um processo estacioário depederá somete de suas posições relativas. Será isotrópico quado for ivariate às rotações em toro da origem de um sistema

16 8 de referêcia, ou seja, ão deverá depeder da orietação do eixo que liga suas posições o espaço. O coceito de estacioariedade ocorre quado existe uma variação atural, própria da área, que iterfere o comportameto do processo, como por exemplo: a declividade sistemática de um solo que iterfere as características de fertilidade, umidade e compactação, importates para se avaliar a variação da produtividade de uma área. Para estudar esse efeito, pesquisadores costumam modelar a média µ como uma fução das localizações x, destacado os efeitos de tedêcia por modelos de regressão poliomial e utilizado o resíduo, para etão prosseguir com a aálise. Modelos assim ão são cietificamete explicados pois as correlações com direções defiidas ão dão iformações sobre o processo causador do efeito. Esse modelo que afeta a média do processo Y(x) pode ser feita relativamete às covariáveis d(x). É o equivalete aos fatores em uma aálise estatística tradicioal. Muitas pesquisas são feitas em áreas ode existem sub-áreas de características próprias que afetam o processo S(x) em estudo. Neste caso o coceito é semelhate ao delieameto de experimetos em blocos, que retira do resíduo uma fote de variação cohecida. As iformações d(x) são ormalmete tomadas as mesmas coordeadas do processo pricipal S(x) e ão são tratadas como um segudo processo S (x), matedo assim o aspecto uivariado da aálise. De maeira um pouco mais formal, dizemos que o processo é estacioário a média se µ(x i ) = µ, x i e estacioário a variâcia se as covariâcias para cada par de coordeadas forem fução somete da distâcia euclidiaa u i j e para ρ(u i j = 0) = σ 2. Um outro aspecto importate sobre o modelo gaussiao é quado há uma certa falta de estacioariedade a sua estrutura de correlação. Um pressuposto razoável é supor que seu valor decai a medida que a distâcia etre as localizações aumeta. Se supormos que a taxa de variação idepede do âgulo do eixo formado etre essas localizações, dizemos que o processo é isotrópico, seão dizemos ser aisotrópico. Essa forma direcioal de se avaliar o comportameto das correlações é chamado de efeito direcioal que a sua forma mais simples, e talvez mais comum, é chamado aiso-

17 9 tropia geométrica. Este tipo de aisotropia ocorre quado a estrutura de covariâcia apreseta alogametos e rotações em relação aos eixos das coordeadas. Desta forma podemos caracterizar esse efeito através de dois parâmetros: o âgulo de aisotropia ψ A que dá a direção do efeito e a razão de aisotropia ψ R > 1 que dá a relação etre o eixo maior e o eixo meor da elipse formada. Na prática ψ A e ψ R são iformações descohecidas que podem ser coveietemete icorporadas ao modelo geoestatístico para serem estimadas. Uma vez cohecida a tedêcia devido à aisotropia, poderemos, para efeito de aálise, trasformar as coordeadas. Se (a, b) é a coordeada de um poto x o plao cartesiao R 2, represetado um vetor, poderemos cotrair/exteder e/ou rotacioar esse vetor aplicado trasformações lieares coforme dada a equação (KOLMAN, 1997): (a,b ) = (a,b) cos(ψ A) se(ψ A ) se(ψ A ) cos(ψ A ) ψr 1 Tato o efeito de tedêcia direcioal quato o regioal como o efeito de aisotropia têm papel fudametal a aálise do processo S(x) pois permitem melhorar o cohecimeto subjetivo do feômeo em estudo, etretato, devem ser modelados e elimiados. Segudo Mathero (1973), um tipo de modelo ão-estacioário é o modelo itríseco. Ele cosidera um camiho aleatório S(x) = S(x 1) + Z(x) com Z N(0,1), ou seja, uma fução aleatória itríseca é um processo estocástico S(x) com icremetos estacioários. Assim, o processo D u (x) = S(x) S(x u) será dito estacioário para todo u R 2. A pricipal difereça etre uma predição obtida com modelo itríseco e modelo estacioário, é que se for usado o primeiro, a predição em uma localização x será iflueciada pelo ambiete local dos dados, ou seja, por observações medidas em locais próximos de x. Cosiderar uma hipótese itríseca para os dados sigifica supor que as difereças etre os valores apresetam fraco icremeto, ou seja, as difereças serão localmete estacioárias. Já com o

18 10 emprego de modelos estacioários, as predições serão afetadas pelo ambiete global dos dados Covariâcia e Variograma Cosideremos o modelo dado pela equação 2.2 (supodo estacioariedade) como sedo aquele que descreve o cojuto Y das variáveis observadas de um determiado pelo processo S(x). Sejam assim, y i e y j observações tomadas em quaisquer duas localizações separadas por uma distâcia u i; j, etão, Var(y i y j ) registra a variação da difereça dos valores medidos separados por essa distâcia. Assim, fixado µ = 0: Var(y i y j ) = Var(y i )+Var(y j ) 2 Cov(y i ;y j ) Var(y i y j ) = Var(S(x i )+δ i )+Var(S(x j )+δ j ) 2 Cov(y i ;y j ) (2.4) Como S(x i ) e δ i são processos diferetes e idepedetes, etão: Var(y i ) = Var(S(x i )+δ i ) = Var(S(x i ))+Var(δ i ) Var(y j ) = Var(S(x j )+δ j ) = Var(S(x j ))+Var(δ j ) Var(y i ) = Var(y j ) = σ 2 + τ 2 (2.5) Em estatística o coeficiete de correlação de Pearso (ρ) mede o grau e a direção (positiva ou egativa) da correlação etre duas variáveis (MONTGOMERY; PECK, 1955). Se aplicada o cotexto da geoestatística temos: etão: ρ(u i j ) = Cov(y i ;y j ) Var(yi )Var(y j ) = Cov(y i;y j ) σ 2 σ 2 = Cov(y i;y j ) σ 2 Cov(y i ;y j ) = σ 2 ρ(u i j ) (2.6) Notar que, pela equação 2.6, caso aceita a hipótese de estacioariedade, a correlação

19 11 etre dois valores medidos de Y, irá depeder somete da distâcia que os separa. Esta fução será moótoa decrescete, restrita a ρ(0) = 1 e lim u ρ(u) = 0 para u 0 Assim, substituido os resultados das equações 2.5 e 2.6 a equação 2.4 obtemos: Var(y i y j ) = (σ 2 + τ 2 )+(σ 2 + τ 2 ) 2 σ 2 ρ(u i j ) Var(y i y j ) = 2 τ σ 2 (1 ρ(u i j )) Var(y i y j ) = 2 ( τ 2 + σ 2 (1 ρ(u i j )) ) e escrevemos: Defiimos etão 1 2 Var(Y i Y j ) como sedo a semivariâcia teórica, deotada por γ(u i j ) γ(u i j ) = τ 2 + σ 2 (1 ρ(u i j )) (2.7) γ(u) τ + σ τ ρ(u) γ(u) ρ(u) τ + σ(1 ρ(u)) 1 ρ(u) distacia (u) Figura 2.1: Etapas da trasformação da fução de correlação (liha potilhada) para a fução semivariograma (liha tracejada) A figura 2.1 mostra o comportameto gráfico da fução semivariâcia ode podemos otar o papel futametal da fução de correlação pois é ela que represeta a propriedade desejada para o modelo. Segudo Diggle e Ribeiro Jr (2007), sedo o processo, estacioário, a semivariâcia é o equivalete teórico para a fução covariâcia, com a vatagem de ser uma excelete ferrameta de aálise de dados, especialmete em codições de um experimeto coduzido em malha regular.

20 Trasformação da Variável Resposta Existem muitas razões importates amplamete discutidas a literatura para se trasformar dados estatísticos buscado obter uma forma de distribuição próxima da distribuição ormal de probabilidades. Evetos que têm evolução ão liear, represetados por forte assimetria a distribuição de frequêcias de seus dados, requerem traformações logarítmicas covertedo o problema em uma escala de evolução mais aditiva, levado a distribuição em direção a um comportameto mais simétrico, próximo de uma distribuição gaussiaa. Já trasformações do tipo raiz quadrada ou arco-seo tedem a estabilizar a variâcia para amostras de uma distribuição de Poisso e Biomial, respectivamete. Esse tipo de trasformação tora os dados mais homocedásticos. Box e Cox (1964) apresetam um método de trasformação que basicamete cosiste da adequação a uma família paramétrica uma geeralização empírica do modelo gaussiao, a qual a escolha da trasformação mais adequada correspode a estimar um parâmetro λ. Uma vez escolhido, procede-se com a seguite operação os dados observados: ( ) Y λ 1 se λ 0 Y = λ logy se λ = 0 (2.8) 2.2 FUNÇÕES DE CORRELAÇÃO Cotiuidade e Difereciabilidade da fução de correlação A estrutura de correlação pode desempehar um papel decisivo a escolha do modelo geoestatístico pois esta escolha irá afetar diretamete a suavidade da superfície gerada. É ela que estabelece o comportameto de uma característica potual em sua vizihaça. Medidas matemáticas aceitas para se avaliar essa suavidade são a cotiuidade e a difereciabilidade da fução associada ao processo. Bartlett (1955) afirma que um processo estocástico estacioário

21 13 com fução de correlação ρ(u) será k-vezes difereciável se e somete se ρ(u) for 2 k-vezes difereciável a origem. correlacao correlacao u Figura 2.2: A figura de esquerda correspode ao comportameto da fução de correlação expoecial de ordem 1 (exp( u)) ode a reta tagete à fução o poto u = 0 é vertical (ão difereciável). A figura da direita correspode a mesma fução de correlação expoecial poder com potêcia igual a 2 (exp( u 2 )), com reta tagete igual a zero em u = 0 (difereciável). u Na figura 2.2 temos o comportameto básico de fução de correlação que é difereciável e de fução que ão o é. Ambas figuras ilustram o caso de fuções cotíuas em todo o domíio das distâcias u, o que é mais frequetemete adotado, embora possa ocorrer descotiuidades a origem. A figura da esquerda apreseta um poto problema que é o poto u = 0 ode a fução ão é difereciável. Já a figura da direita mostra uma fução cotíua e derivável em todos os seus potos. O processo S(x) é descohecido e tipicamete ão diretamete observável, assim, a experiêcia do pesquisador com o feômeo estudado deve ser usada para uma boa escolha do modelo de correlação espacial. Se o eveto em questão tem variações mais abruptas, modelos com úmeros meores de derivadas deverão ser preferidos e se tem variações mais suaves, utiliza-se úmeros maiores. Ilustramos um exemplo desse efeito a figura 2.3 ode gerou-se simulações do processo S(x). Ele foi gerado simulado 200 resultados de um processo estocástico estacioário, isotrópico, com taxas de decaimeto equivaletes. Nela foram empregados duas situações:

22 14 Y(x) x Y(x) x Figura 2.3: A figura da esquerda represeta um processo de variações abruptas ao logo de uma trasecção uidimesioal, associada a uma fução de correlação ão-difereciavel. A figura da direita mostra um processo com variações mais suaves ao logo da mesma trasecção, mas associada a uma fução de correlação duas vezes difereciável. fução cotíua ão difereciável (esquerda) ode otamos variações bruscas da superfície gerada pelo processo e fução cotíua difereciável (direita) ode as variações são mais suaves. Cabe aqui salietar que o processo é o mesmo (expoecial), diferido apeas a difereciabilidade da fução de correlação. Devemos lembrar que correlações com variações muito suaves perto da origem podem produzir efeitos de quasi-multicoliearidade, levado a dificuldades computacioais a solução umérica da álgebra evolvida o processo. Uma vez que se supõe dimiuir a similaridade regioal a logas distâcias, sedo o máximo ula, etão é rezoável escolher o cojuto de fuções de correlações que sejam defiidas positiva. Esta codição impõe restrições. Assim, para um cojuto de localizações x i e uma costate real a i, a combiação liear i=1 j=1 a ia j Cov(Y i ;Y j ) 0 i; j implicado que somete algumas famílias paramétrica específicas de fução de correlação, como as dadas a seguir, terão uso prático.

23 Fução de correlação de Matér Matér (1986) apreseta uma classe de fuções de correlação que é cosiderada uma das mais completas por eglobar outras fuções de correlação, pela simples escolha de um parâmetro de difereciabilidade. Ela é dada por: ρ (u,φ,κ) = 1 2 κ 1 Γ(κ) ( u φ ) κ ( ) u K κ φ (2.9) ode K κ (δ), δ = u φ é a fução modificada de Bessel de terceiro tipo (ABRAMOWITZ; STE- GUN, 1965) dada por: K κ (δ) = ( π ) 2siπδ {I κ (δ) I κ (δ)} κ 0,1,2,... ( ) π lim {I κ (δ) I κ (δ)} κ = 0,1,2,... p κ 2siπ p sedo que: I κ (δ) = j=0 (δ/2) κ+2 j para κ = 0,1,2,... e j!γ(κ + j+ 1) Γ(κ) = 0 t κ 1 e t dt κ > 0 é a fução Gamma. O parâmetro φ > 0 dá a taxa a qual a fução de correlação cai a zero com o aumeto da distâcia u. O parâmetro κ > 0 é chamado de ordem do modelo de Matér e determia a suavidade com que o sial S(x) cai a zero. O comportameto dessa fução pode ser vista a figura Fução de correlação da Família Esférica A fução de correlação dessa família é defiida como:

24 16 ρ(h) κ = 0.5 κ = 1.0 κ = 2.0 ρ(h) φ = φ = φ = distacia distacia Figura 2.4: À esquerda a figura ilustra o comportameto da fução de correlação de Matér com o parâmetro φ = 0,25 fixo e diferetes valores para o parâmetro de difereciabilidade κ. Na figura da direita, para um mesmo valor de κ = 0.5, variou-se o parâmetro φ que cotrola a taxa de decaimeto da fução. ( ) ( ) uφ + 1 uφ 2 0 φ ρ (u;φ) = 0 u > φ (2.10) O ome desta fução se deve ao fato de que ρ(u;φ) tem uma iterpretação geométrica como sedo o volume de iterseção de duas esferas cujos cetros estejam separadas de uma distâcia u (DIGGLE; Ribeiro Jr, 2007). Essa fução de correlação tem alcace fiito e depede somete do parâmetro de escala φ. O comportameto gráfico dessa fução pode ser vista a figura 2.5 à esquerda Fução de correlação da Família Expoecial Poder de ordem κ A fução de correlação dessa família é defiida como: ρ (u;φ;κ) = e ( uφ ) κ para φ > 0 e 0 < κ 2 (2.11)

25 17 Nesta fução, se κ < 2, o processo S(x) é cotíuo mas ão é difereciável e se se κ 2 pode ser ifiitamete difereciável. Existem dois casos particulares para essa ela. No caso de κ = 1 e fução será chamada expoecial, já para κ = 2 a fução será chamada de gaussiaa (figura 2.5 à direita). ρ(h) Esferica ρ(h) Expoecial ρ(h) Gaussiaa distacia distacia distacia Figura 2.5: O gráfico da esquerda mostra uma fução de correlação esférica com o parâmetro φ = 0,6. O gráfico do cetro ilustra o comportameto de uma fução de correlação expoecial de ordem K (κ = 1) e φ = 0,2, correspodedo a uma fução deomiada Expoecial.O gráfico da direita ilustra também o comportameto de uma fução de correlação expoecial de ordem K mas com κ = 2 e φ = 0,35, correspodedo a uma fução deomiada Gaussiaa. Toda a metodologia geoestatística está baseada a correlação existete etre as medidas tomadas em duas coordeadas distitas. As formas das fuções apresetadas atedem ao pressuposto de que as observações mais próximas são, provavelmete, mais similares etre si do que aquelas muito afastadas. Isso dá o caráter regioalizado de um atributo ou uma propriedade em áreas agrícolas. Existe a literatura muitas outras propostas de fuções de correlação que atedem a feômeos específicos. Das fuções apresetadas, a mais empregada é a de Matér pois ela permite maior flexibilidade a variação dos parâmetros por descreverem a difereciabilidade do processo e a extesão da depedêcia espacial. Ela será a ossa escolha o desevolvimeto deste trabalho.

26 ESTIMAÇÃO DE PARÂMETROS Modelagem e estimação de parâmetros de tedêcia ãoestacioária O modelo geoestatístico completo idealizado para o processo mesurável Y é dado pela equação 2.2 como: y(x i ) = µ(x i )+S(x i )+δ i i = 1,2,..., Vamos aqui assumir uma estrutura de depedêcia espacial para a média µ(x i ) como: ou, a sua forma matricial como: µ(x i ) = β 0 + β 1 d 1 (x i )+...+β k d k (x i ) = β 0 + ( ) ( ode: µ = µ 1 µ 2... µ, β = k β j d ji (2.12) j=1 µ = D β (2.13) ) ( β 1 β 2... β k, ε = ε 1 ε 2 )... ε 1 d 11 d d 1k 1 d D(x) = 21 d d 2k ; d 1 d 2... d k sedo a matriz D uma matriz de posto completo, ou seja, k. Os coeficiete podem facilmete serem obtidos empregado-se o método dos míimos quadrados (MONTGOMERY; PECK, 1955). Sob a hipótese de idepedêcia etre as observações, a fução de míimos quadrados para o problema pode ser escrita como: MSQ(β 0,β 1,...,β k ) = i=1 ε 2 i = i=1 ( µ i β 0 ) 2 k β j d j (2.14) j=1 A solução que miimiza a equação 2.14 em termos de β, segudo Motgomery e Peck (1955) é aquela que satisfaz:

27 19 i = 1,2,..., MSQ(β) = 2 β 0 MSQ(β) = 2 β j i=1 i=1 ( ( µ i ˆ β 0 µ i ˆ β 0 k j=1 k j=1 ) βˆ j d i j = 0 βˆ j d i j )d i j = 0 para j = 1,2,...,k e Expadido o somatório e simplificado obtemos o seguite sistema de equações ormais de míimos quadrados: ˆ β 0 + ˆ β 1 i=1d i1 + ˆ β 2 i=1d i ˆ β k i=1d ik = βˆ 0 i1 + β i=1d ˆ 1 i1 i=1d 2 + β ˆ 2 i1 d i β i=1d ˆ k i1 d ik = i=1d ˆ β 0 i=1d i2 + ˆ β 1 i=1d i1 d i2 + ˆ β 2 i=1d 2 i ˆ β k i=1d i2 d ik =... ˆ β 0 i=1d ik + ˆ β 1 i=1d ik d i1 + ˆ β 2 i=1d ik d i ˆ β k i=1d 2 ik =..... µ i i=1 i=1 i=1 i=1 d i1 µ i d i2 µ i d ik µ i A solução dessas equações ormais dá os estimadores de míimos quadrados para β. Usado uma otação da álgebra liear, a fução de míimos quadrados para a equação 2.13 será dada por: MSQ(β) = i=1 ε 2 i = ε ε = (µ Dβ) (µ Dβ) = µ µ β D µ µ Dβ + β D Dβ β MSQ(β) = = µ µ 2β D µ + β D Dβ ( µ µ 2β D µ + β D Dβ ) = β = 2D µ + 2D D ˆβ = 0 assim, D D ˆβ = D µ e portato ˆβ pode ser estimado como: ˆβ = ( D D ) 1 D µ Cosiderado que µ i represeta a média de uma úica observação a localização x i, etão esse valor coicide com o valor observado y i e podemos assim escrever o estimador dos

28 20 coeficietes do modelo de tedêcia como sedo: ˆβ = ( D D ) 1 D Y Se os dados ão são idepedetes e cohecermos a matriz de covariâcia associada Σ do modelo (que é osso caso), etão o método será deomiado míimos quadrados geeralizados. O modelo será iflacioado a quatidade de parâmetros a serem estimados. Essa estimativa será dada por: ˆβ = ( D Σ 1 D ) 1 D Σ 1 Y (2.15) Assumido-se que Y tem distribuição ormal multivariada, etão ˆβ é o estimador de míimos quadrados para β, com suas importates propriedades, coicidido com o estimador de máxima verossimilhaça. Uma vez idetificada e modelada a tedêcia, esta deve ser elimiada do cojuto observado, subtraido-a deles de seguite forma: Y = Y D ˆβ (2.16) Ajuste de modelo ao semivariograma por míimos quadrados Defiimos a fução semivariâcia teórica γ(u) para o processo gaussiao idealizado pela equação 2.2 como sedo aquela dada pela equação 2.7, ou seja, γ(u) = τ 2 + σ 2 (1 ρ(u)). Já o semivariograma teórico trata-se do gráfico da fução semivariâcia versus a distâcia u que separa duas posições. Para Jourel e Huijbregts (1978) o semivariograma é uma ferrameta muito utilizada para represetar o mecaismo de depedêcia espacial. A sua forma padrão pode ser visualizada a figura 2.6. Nesse gráfico a fução semivariâcia, que é uma fução moótoa ão decrescete,

29 21 semivariã cia patamar efeito pepita alcace prã tico distã cia Figura 2.6: Comportameto padrão da fução semivariâcia. O elemetos pricipais que a compõem são: o alcace prático φ associado à fução de correlação, a variâcia de pequea escala ou efeito pepita, que correspode a τ 2 e a cotribuição σ 2, ambos presetes a equação 2.7. depede somete do comportameto da fução de correlação ρ(u). O efeito pepita (ugget) represeta a variâcia de pequea escala τ 2. O patamar (sill) dado por τ 2 + σ 2 represeta a variâcia total do processo Y e o alcace prático de depedêcia espacial (rage) é determiado por um parâmetro φ que cotrola o decaimeto da fução de correlação. Como a fução de correlação é assitoticamete decrescete, sua variação será muito pequea para grades valores de u, podedo ser cosiderada estável para efeitos práticos. Segudo Diggle e Ribeiro Jr (2007) uma coveção adotada por este modelo é cosiderar atigido o patamar quado, para um dado u 0, a correlação fica ρ(u 0 ) 0,05. Não há uma razão cietífica para se adotar esse valor de corte, pode ser cosiderada uma quatidade razoável para a estabilização da fução de correlação e, cosequetemete, da fução semivariâcia. Esse valor u 0 é deomiado de alcace prático. Em termos da fução semivariâcia, seu valor é obtido com o valor de u 0 tal que γ(u 0 ) = τ 2 + 0,95 σ 2. Para a modelagem de um processo gaussiao isotrópico estacioário, o problema se reduz a defiir a fução de correlação mais apropriada ao feômeo e estimar os parâmetros µ, τ 2, σ 2 e φ, a situação mais simples. A estimativa de Mathero (MATHERON, 1963) para a semivariâcia teórica evol-

30 22 vedo duas medias do processo Y será: v i j = 1 2 (y i y j ) 2, deomiado de semivariâcia experimetal ou empírica. Uma área cotedo coordeadas amostrais forecerá ( 2) pares do tipo (u i j,v i j ). Este será, depededo do úmero de coordeadas amostrais, um cojuto muito grade de pares. O seu gráfico é deomiado semivariograma experimetal e algus autores o chamam de uvem variográfica. Seu aspecto é dado pela figura 2.7. semivariace distace Figura 2.7: Variograma empírico de dados de cocetração de cálcio em uma área com 178 potos amostrais, coletados por pesquisadores do PESAGRO e EMBRAPA-Solos, Rio de Jaeiro- RJ (OLIVEIRA, 2003) Devido ao grade úmero de potos o gráfico do semivariograma empírico, bem como a forte dispersão dos potos à grades distâcias, ele se tora uma figura de difícil iterpretação, o setido de se torar difícil aderir visualmete um bom modelo variográfico por seus potos. Diggle e Ribeiro Jr (2007) dizem que esse comportameto errático se deve ao fato de que a distribuição amostral margial de cada ordeada v i j ser proporcioal a uma distribuição qui-quadrado com 1 grau de liberdade, sedo portato, fortemete assimétrica e com alto coeficiete de variação. Visado facilitar o aspecto computacioal do processo e ter uma iterpretação gráfica plausível, Paatier (1996) sugeriu dividir em poucos itervalos a variação das distâcias u e represetar, o poto médio de cada itervalo, o valor médio do grupo das semivariâcias relativas a esse itervalo. O semivariograma se reduz a us poucos potos, permitido facilmete o ajuste de um modelo variográfico teórico usado como critério de ajuste, métodos baseados em miimizar o erro médio quadrático, dado pela difereça etre o valor médio de v para uma

31 23 distâcia u 0 represetate do itervalo e o valor teórico essa mesma distâcia, ou seja, um erro do tipo (γ(u 0 ) v(u 0 )) 2. O gráfico típico resultate desse procedimeto é mostrado a figura 2.8. O estimador pelo método dos mometos mais utilizado para a semivariâcia é aquele proposto por Mathero (1962) e defiido como: 1 ˆγ(u) = 2N(u) ( y(xi ) y(x j ) ) 2 N(u) (2.17) ode N(u) = { (x i,x j ) : x i x j = u;i, j = 1,2,..., } é o cojuto das diferetes distâcias u que separam as coordeadas x. Para Braga (1990), se Y for uma fução aleatória estacioária, etão esse estimador, sob a hipótese itríseca, é ão-tedecioso e ão-viciado para para a média mas muito afetado por observações atípicas (outliers). semivariacia distacia Figura 2.8: Variograma empírico agrupado em classes ( biado ) de dados de cocetração de cálcio em uma área com 178 potos amostrais, coletados por pesquisadores do PESAGRO e EMBRAPA-Solos, Rio de Jaeiro-RJ (OLIVEIRA, 2003) Essa abordagem vem sedo atotada por diversos autores em estudos que evolvem aplicações agrícolas. Reichardt, Vieira e Libardi (1986) estudaram 50 dados de ph de solo, de amostras coletadas com espaçameto de 1 m, em trasecção de um área de Latossolo Vermelhoescuro orto localizado em Araras-SP, cultivada com cultura de caa-de-açúcar. A técica de autocorrelação que empregaram os dados mostrou que observações de ph eram correlacioadas espacialmete até uma distâcia de 5 m. Observaram aida que, para as amostras serem

32 24 cosideradas idepedetes e completamete casualizadas, deveriam ser espaçadas de, pelo meos, 10 m. Com seu trabalho, os autores cocluíram que a variabilidade espacial do solo pode ser defiida corretamete e que a geoestatística era a alterativa certa às metodologias tradicioais. Prevedello (1987) estudou a magitude da variabilidade espacial de 47 parâmetros (físicos e químicos) de um solo com Terra Roxa Estruturada, em uma área de 4810 m 2, em Piracicaba-SP, ode foi aplicado o maejo de uma cultura de arroz de sequeiro. O autor utilizou em seu experimeto uma estrutura regular de 4x13, totalizado 52 potos amostrais, separados 10 m etre si. Avaliou e discutiu a depedêcia espacial pela aálise do autocorrelograma e do semivariograma, usado o estimador clássico de Mathero. Assim, com o emprego da teoria das variáveis regioalizadas, estabeleceu subuidades de amostragem ou de maejo idividualizado, cosiderado-as idepedetes. Cocluiu aida que a área total ão se mostrou homogêea para ehum dos 47 parâmetros estudados, cotrariado o que havia iicialmete suposto. Mohamed, Evas e Shiel (1996) usaram a geoestatística para examiar a variabilidade geográfica em uma área de terra e descobrir, pela distribuição espacial a melhor desidade amostral, o setido de obterem as propriedades de colheita e distribuição das características do solo com poucas amostras. Com o emprego do semivariograma experimetal determiado pelo estimador clássico de Mathero, detectaram uma estrutura de variabilidade o solo. Com isso puderam utilizar seus parâmetros para efetuarem a iterpolação de dados para produção de mapas de cotoros. Yag et al. (1998) estudaram a ifluêcia da topografia o redimeto da colheita, pela variabilidade de cico campos em declive, da região de Palouse, em Washigto-USA. Os autores desevolveram um sistema de iformações geográficas (GIS) para o maejo e aálise do redimeto de trigo, jutamete com iformações georrefereciadas sobre a variabilidade da topografia. Idetificaram também o padrão de variabilidade do redimeto do trigo detro de cada região platada, para cada uma das cico regiões estudadas e avaliaram a relação etre

33 25 redimeto e atributos de topografia. Descreveram o padrão de variabilidade espacial pelo semivariograma, que mostraram claramete uma estrutura de depedêcia espacial justificado o emprego do maejo localizado Ajuste de modelos e estimação dos parâmetros por máxima verossimilhaça Cosiderado o caso estacioário do modelo geoestatístico uivariado dado pela equação 2.2, ode o processo S(x i ) pode ser escrito como um cojuto de observações Y com distribuição de probabilidades de acordo com a equação 2.3, os parâmetros gerais do modelo a serem estimados são: Θ = (β,σ 2,φ,τ 2 ) ode, como já foi dito, φ é um parâmetro da fução de correlação. A variável aleatória Y = {Y(x 1 ),Y(x 2 ),...,Y(x )}, que represeta um cojuto de realizações em coordeadas, forma um processo gaussiao multivariado, ou seja, Y NMV(µ;Σ) ode µ é um vetor de úmeros reais, todos iguais a µ e Σ é a matriz de variâcias e covariâcias de tamaho, com as propriedades de ser simétrica e defiida positiva. Etão, a distribuição cojuta de Y, segudo (DUDEWICZ; MISHRA, 1988) será: f Y (y) = para todo vetor y de úmeros reais. 1 (2π) /2 Σ e 1 2 (y µ) 1 (y µ) Sedo Y um processo gaussiao correlacioado, sua fução de verossimilhaça será composta pela sua distribuição cojuta de probabilidades dada por: L(θ) = f(θ;y) = { 1 (2π) /2 ( σ 2 R+τ 2 exp 1 } I ) 1/2 2 (y Dβ) (σ 2 R+τ 2 I) 1 (y Dβ), A fução de log-verossimilhaça será: l(θ) = 1 2 log(2π) 1 2 log( σ 2 R+τ 2 I ) 1 2 (y Dβ) (σ 2 R+τ 2 I) 1 (y Dβ)

34 26 l(θ) = 1 2 [ log(2π)+log( σ 2 R+τ 2 I )+ + (y Dβ) (σ 2 R+τ 2 I) 1 (y Dβ) ] (2.18) Fazedo τ2 = ν 2 etão Var(Y) = Σ = σ 2 R+τ 2 I = σ 2( ) R+ τ2 I = σ 2 V σ 2 σ 2 Substituido σ 2 R+τ 2 I por σ 2 R a equação(2.18), vem: l(θ) = 1 2 [ log(2π)+log( σ 2 V )+(y Dβ) (σ 2 V) 1 (y Dβ) ] (2.19) Agora substituido σ 2 R+τ 2 I por Σ a mesma equação (2.18), temos: l(θ) = 1 2 [ log(2π)+log( Σ )+(y Dβ) (Σ) 1 (y Dβ) ] (2.20) Desevolvedo os produtos matriciais da equação 2.20 resulta em: l(θ) = 1 2 [ log(2π)+log( Σ )+y Σ 1 y 2y Σ 1 Dβ + β D Σ 1 Dβ ] (2.21) ode y Σ 1 Dβ é um escalar pois y 1, Σ, D e β 1. Segudo (KOLMAN, 1997), se A é uma matriz quadrada simétrica defiida positiva e β = [β 1,β 2,...,β ] um vetor, etão: a) Ax β = A b) x Ax x com relação a β (trasposta) = 2Ax (forma quadrática) Desses resultados obtemos a derivada parcial da fução de log-verossimilhaça de θ l(θ) β Se l(θ) β = 1 2 ( 2(y Σ 1 D) + 2(D Σ 1 D)β) = D Σ 1 y D Σ 1 Dβ = 0 etão teremos que D Σ 1 y D Σ 1 D ˆβ = 0 e assim obtemos o estimador

35 27 para o parâmetro β dado por: ˆβ = (D Σ 1 D) 1 D Σ 1 y (2.22) Cosiderado também que Σ = σ 2 V e que Σ = (σ 2 ) V, etão a equação 2.19 fica: l(θ) = 1 2 [ log(2π)+log( σ 2 V )+y (σ 2 V) 1 y β D (σ 2 V) 1 Dβ ] l(θ) = 1 [ log(2π)+log[(σ 2 ) V ]+ y V 1 y 2 = 1 2 σ 2 2 y V 1 Dβ σ 2 [ log(2π)+log(σ 2 )+log V + (y Dβ) V 1 (y Dβ) σ 2 + β D V 1 ] Dβ ] σ 2 ode [(y Dβ) V 1 (y Dβ)]/σ 2 é uma soma de quadrados poderada pela matriz de covariâcias. Calculado a derivada de l(θ) com relação a σ 2 obtemos: [ l(θ) σ 2 = 1 2 σ 2 (y D ˆβ) V 1 (y D ˆβ) ] (σ 2 ) 2 Se l(θ) σ 2 = 0 e cosiderado o vetor de parâmetros (β,σ2,φ,ν 2 ), tem-se: ṋ σ 2 + (y D ˆβ) V 1 (y D ˆβ) (σ 2 ) 2 = 0 (y D ˆβ) V 1 (y D ˆβ) ( ˆσ 2 ) 2 = ˆσ 2 φ,ν 2 = (y D ˆβ) V 1 φ,ν 2 (y D ˆβ) (2.23) Retomado a equação (2.22) e substituido Σ por σ 2 V teremos:

36 28 ˆβ = ( D V 1 ) 1 D DV 1 y σ 2 σ 2 = (D V 1 D) 1 σ 2 DV 1 y σ 2 = (D 1 V 1 φ,ν 2 D) 1 DV 1 φ,ν 2 y (2.24) que depede somete dos parâmetros φ e ν 2. Neste caso, a matriz de correlação será dada por: V = 1+ν 2 ρ(u 12 )... ρ ( u 1 ) ρ(u 21 ) 1+ν 2... ρ(u 2 ) ρ(u 1 ) ρ(u 2 )... 1+ν 2 A fução log-verossimilhaça cocetrada será etão dada por: l(φ,ν 2 ) = 1 log(2π)+log (y D ˆβ) V 1 (y D ˆβ) φ,ν 2 +log V (y D ˆβ) V 1 (y D ( ˆβ) y D ˆβ) V 1 (y D ˆβ ) l(φ,ν 2 ) = 1 log(2π)+log (y D ˆβ) V 1 (y D ˆβ) φ,ν 2 +log V + 2 l(φ,ν 2 ) = 1 ( 2 [log(2π) + log (y D ˆβ) V 1 (y D ˆβ) ) log+ φ,ν 2 + log V +] (2.25) Para um modelo estacioário, a meos das costates, a fução l(φ,ν 2 ) fica: l(φ,ν 2 ) 2 ( ) (y µ) V 1 (y µ) log V φ,ν 2 2 (2.26) Esta fução recebe como argumetos, o vetor das observações do processo Y e a matriz

37 29 das distâcias de cada coordeada com as demais, qua permitirá obter V pela escolha coveiete de uma fução de correlação ρ(u i j ). A maximização dessa fução segudo os parâmetros evolvidos, forecerá o modelo de correlação espacial com a estimativa de seus parâmetros. Fuções côcavas são aquelas cujo gráfico está sempre acima ou sobre qualquer corda traçada uma região etre seus potos, ou, equivaletemete, seu gráfico está abaixo da reta tagete ao seu poto de máximo. Neste setido, tato a fução de verossimilhaça quato a fução log-verossimilhaça são fuções côcavas, garatido assim a existêcia de um poto de máximo local. Para obtermos a melhor estimativa para os parâmetros, devemos ecotrar simultaeamete o valor dos parâmetros que irão maximizar essa fução. Muitos programas computacioais, icluido o geor (Ribeiro Jr; DIGGLE, 2001), possuem algoritmos eficietes para estimar esses parâmetros. A questão importate a se destacar aqui é que esse método, usado para aderir um modelo teórico com a melhor estimativa de seus parâmetros, evolve todas as observações amostrais, sem a ecessidade dos agrupametos feito os ajustes através de variogramas, evitado os erros decorretes. No caso de um processo gaussiao a fução log-verossimilhaça é facilmete obtida, mas em sempre será tão simples. O efeito da trasformação de variáveis proposta por Box e Cox (1964) pela equação 2.8 cotora o problema para as distribuições assimétricas e/ou com a preseça de valores discrepates, mas para distribuições leptocúrticas, como é o caso da distribuição t-studet, poderemos ter dificuldades a sua costrução. O desejável seria desevolver o método para outras famílias de distribuições, permitido assim maior flexibilidade a defiição da distribuição de probabilidades evolvida o processo, mas ão seguiremos essa liha este trabalho. Outra restrição o uso do método da otimização da fução log-verossimilhaça está relacioada à forma suave de variação de certas fuções de correlação, ou seja, aquelas fuções que são difereciáveis um úmero grade de vezes. Nestes casos, a matriz de correlação poderá apresetar coluas muito parecidas umericamete, impossibilitado umericamete sua