Análise de variância para experimentos com dependência espacial entre parcelas: abordagem autoregressiva e Geoestatística

Transcrição

1 Análise de variância para experimentos com dependência espacial entre parcelas: abordagem autoregressiva e Geoestatística Diogo Francisco Rossoni (DES/UEM) Cristina Henriques Nogueira (DEX/UFLA) Renato Ribeiro de Lima (DEX/UFLA) Presidente Prudente- SP

2 Introdução Princípios básicos: repetição, aleatorização e controle local; O processo de aleatorização é insuficiente para a garantia da independência dos erros; É comum encontrar experimentos em que a realização da aleatorização é inviável;

3 Introdução Princípios básicos: repetição, aleatorização e controle local; O processo de aleatorização é insuficiente para a garantia da independência dos erros; É comum encontrar experimentos em que a realização da aleatorização é inviável; Implementação e execução da análise de variância com erros espacialmente correlacionados; A Geoestatística utilizada para modelar a matriz de covariâncias dos erros;

4 Geoestatística A suposição de que as observações são independentes não é feita na Geoestatística; Medidas como a autocovariância, autocorrelação e semivariância são utilizadas para modelar a associação espacial entre as variáveis; A semivariância é uma medida de dissimilaridade, ou seja, é maior à medida que as variáveis estão menos associadas. Suposição de estacionariedade de 2ª ordem.

5 Pressuposições Uma variável Y (x) pode ser considerada estacionária de 2ª ordem se: (i) A esperança de Y (x) existe e não depende da posição x: E[Y (x)] = ω = constante; (ii) A função de covariância C( ) existe e depende apenas da distância h entre os pontos: C(Y (x + h), Y (x)) = E[Y (x + h) Y (x)] ω 2 = C(h).

6 Pressuposições Uma variável Y (x) pode ser considerada estacionária de 2ª ordem se: (i) A esperança de Y (x) existe e não depende da posição x: E[Y (x)] = ω = constante; (ii) A função de covariância C( ) existe e depende apenas da distância h entre os pontos: C(Y (x + h), Y (x)) = E[Y (x + h) Y (x)] ω 2 = C(h). A variância Var( ) é um caso particular da covariância quando h = 0: Var(Y (x)) = C(Y (x + 0), Y (x)) = C(0).

7 Relações entre as funções Se a hipótese de estacionariedade de 2ª ordem for atendida: A relação entre a covariância C(h) e a semivariância γ(h) é definida como: C(h) = C(0) γ(h);

8 Relações entre as funções Se a hipótese de estacionariedade de 2ª ordem for atendida: A relação entre a covariância C(h) e a semivariância γ(h) é definida como: C(h) = C(0) γ(h); A função de correlação ρ( ) é dada por: ρ(h) = C(h) C(0) γ(h) = = 1 γ(h) C(0) C(0) C(0).

9 Semivariância Conforme afirma Cressie (1993), o estimador clássico de semivariância, proposto por Matheron, é definido como: em que: ˆγ(h) = 1 2 n(h) n(h) i=1 ˆγ(h) é o estimador de semivariância; [ y(x i ) y(x i + h) ] 2, n(h) representa o número de pares de valores medidos separados por uma distância h; y(x i ) e y(x i + h) são realizações da variável aleatória Y, nas coordenadas x i e x i +h, de tal modo que esses pontos estão separados por uma distância h.

10 Exemplo de semivariograma Figura 1: Exemplo de semivariograma experimental.

11 Modelo esférico Função de semivariância: γ(h) = τ 2 + ϕ 2 [ 3 0, se h = 0; ( ) h 1 ( ) h 3 ], se 0 < h < φ; 2 φ 2 φ τ 2 + ϕ 2, se h φ; Função de correlação: ρ(h) = [ ϕ 2 τ 2 + ϕ 2 1 1, 5 1, se h = 0; ( ) ( ) h h 3 ] + 0, 5, se 0 < h < φ; φ φ 0, se h φ.

12 Modelo exponencial Função de semivariância: { 0 ( )], se h = 0; γ(h) = 3h τ 2 + ϕ [1 2 exp, se h 0; φ Função de correlação: ρ(h) = { 1, se h = 0; [ ( )] ϕ 2 3h τ 2 + ϕ 2 exp, se h 0. φ

13 Modelo espacial Segundo Diggle & Ribeiro Jr. (2007), uma variável aleatória Y, na posição espacial x, pode ser representada por: Y (x) = ω(x) + S(x) + ξ(x), em que: ω(x) é uma tendência associada a um valor médio constante; S(x) é uma variável aleatória distribuída com media zero, variância ϕ 2 e C[ S(x i ), S(x j ) ] não necessariamente zero; ξ(x) é uma variável aleatória iid com média zero e variância τ 2.

14 Distribuição preditiva de S( ) Condidere que Y N(ω, Σ), em que Σ = V(τ 2 + ϕ 2 ) De maneira geral, dado um vetor S com média zero, a distribuição preditiva [ S y ] tem esperança dada por E [ S y ] = ϕ 2 V Σ 1 (Y ω)

15 Distribuição preditiva de S( ) Condidere que Y N(ω, Σ), em que Σ = V(τ 2 + ϕ 2 ) De maneira geral, dado um vetor S com média zero, a distribuição preditiva [ S y ] tem esperança dada por E [ S y ] = ϕ 2 V Σ 1 (Y ω) Krigagem

16 Delineamento inteiramente casualizado (DIC) O modelo estatístico de um delineamento inteiramente casualizado (DIC) é dado por: em que: y ij = µ + α i + e ij, y ij é a observação do i-ésimo tratamento na j-ésima repetição, com i = 1, 2,..., t e j = 1, 2,..., r; µ é uma constante inerente a cada observação; α i é o efeito do i-ésimo tratamento; e ij é o erro experimental associado à ij-ésima observação.

17 Delineamento inteiramente casualizado (DIC) Matricialmente, o modelo pode ser representado por: Y = Xθ + ε, em que: Y é o vetor de observações de ordem n 1; X é a matriz de incidência dos parâmetros do modelo de ordem n p; θ é o vetor de paramêtros do modelo de ordem p 1; ε é o vetor de erros aleatórios de ordem n 1.

18 Delineamento inteiramente casualizado (DIC) Assumindo que ε N(0, Iσ 2 ), a análise de variância para um DIC é dada por: em que: Tabela 1: Esquema da análise de variância de um DIC. FV GL SQ Tratamento r(p P 1 ) Y (P P 1 )Y Resíduo r(i P) Y (I P)Y Total r(i P 1 ) Y (I P 1 )Y P = X(X X) X e P 1 = X 1 (X 1X 1 ) 1 X 1;

19 Estimação dos parâmetros Assumindo que ε N(0, Σ), em que Σ = Vσ 2 : Função de verossimilhança: L(θ, Σ) = (2π) n 2 Σ 1 2 exp[ 1 2 (Y Xθ) Σ 1 (Y Xθ)] Estimadores: θ 0 = (X V 1 X) X V 1 Y ˆσ 2 = (Y Xθ0 ) V 1 (Y Xθ 0 ) n

20 O modelo linear Considere Σ = Vσ 2 e V 1 = LL, em que V é simétrica positiva definida e L é não singular; Pré-multiplicando o modelo Y = Xθ + ε por L tem-se: W = Zθ + η, em que η N(0, Iσ 2 ), de modo que W = L Y, Z = L X e η = L ε.

21 Análise de variância de um DIC Modelo descorrelacionado: SQRes = η η = W W W Z(Z Z) Z W ; SQT = W W W Z 1(Z 1Z 1) 1 Z 1W ; SQTrat = θ 0 Z W W Z 1(Z 1Z 1) 1 Z 1W. Modelo original com erros correlacionados: SQRes = ε V 1 ε = Y V 1 Y Y V 1 X(X V 1 X) X V 1 Y ; SQT = Y V 1 Y Y V 1 X 1(X 1V 1 X 1) 1 X 1V 1 Y ; SQTrat = Y V 1 X(X V 1 X) X V 1 Y Y V 1 X 1(X 1V 1 X 1) 1 X 1V 1 Y.

22 Análise de variância de um DIC Tabela 2: ANOVA de um DIC, com Σ= Vσ 2, via formas quadráticas. FV GL SQ Tratamento r(x) r(x 1 ) Y (P P 1 )Y Resíduo n r(x) Y (V 1 P)Y Total n r(x 1 ) Y (V 1 P 1 )Y P = V 1 X(X V 1 X) X V 1 e P 1 = V 1 X 1 (X 1V 1 X 1 ) 1 X 1V 1.

23 Aplicabilidade do teste F SQRes σ 2 = Y AY, em que A = Σ 1 Σ 1 X(X Σ 1 X) X Σ 1 ; SQTrat σ 2 = Y BY, em que B = Σ 1 X(X Σ 1 X) X Σ 1 Σ 1 X 1 (X 1Σ 1 X 1 ) X 1Σ 1. Com isso, pode-se concluir que: (SQTrat/σ 2 )/(r(x) 1) (SQRes/σ 2 )/(n r(x)) = QMTrat QMRes F (ν 1, ν 2; δ), com ν 1 = r(x) 1, ν 2 = n r(x) e δ = 1 2σ 2 α X 2(V 1 P 1 )X 2 α.

24 Esperança dos quadrados médios Tabela 3: Esperança dos quadrados médios de um DIC com erros correlacionados. FV E[QM] Tratamento σ r(x) 1 α X 2(V 1 P 1 )X 2 α Resíduo σ 2

25 Modelagem geoestatística do erro Obter o vetor de erros estimados ˆε = Y Xθ 0 c; Diagnosticar a existência de dependência espacial; Ajustar um modelo teórico ao semivariograma; Encontrar a matriz estimada de covariância dos erros: C[e(x 1 ), e(x 1 )] C[e(x 1 ), e(x 2 )] C[e(x 1 ), e(x n )] C[e(x 2 ), e(x 1 )] C[e(x 2 ), e(x 2 )] C[e(x 2 ), e(x n )] Σ = ; C[e(x n ), e(x 1 )] C[e(x n ), e(x 2 )] C[e(x n ), e(x n )]

26 Modelagem geoestatística do erro Σ = τ 2 + ϕ 2 C( h 12 ) C( h 1n ) C( h 12 ) τ 2 + ϕ 2 C( h 2n ) C( h 1n ) C( h 2n ) τ 2 + ϕ 2 ; Σ = Vσ 2 = 1 ρ( h 12 ) ρ( h 1n ) ρ( h 12 ) 1 ρ( h 2n ) ρ( h 1n ) ρ( h 2n ) 1 σ2 ; de modo que σ 2 = τ 2 + ϕ 2 e h ij é a distância entre os erros e i e e j, respectivamente alocados nas posições x i e x j, ou seja, h ij = x i x j.

27 Modelagem geoestatística do erro Pontes (2002) sugeriu um algoritmo no qual eram realizadas iterações até que a média dos erros padrão dos valores preditos atingisse convergência; Estimar os resíduos utilizando o modelo não espacial. Ajustar o semivariograma dos resíduos e ajustar um modelo teórico. Obter a matriz de convariância dos erros Σ. Obter o vetor de parâmetros do modelo considerando Σ e estimar o vetor de erros. Construir novamente o semivariograma e ajusta um modelo teórico. Atualizar os valores da matriz de covariância dos erros Σ.

28 Simulação de dados Foram propostos experimentos instalados em DIC, com 15 tratamentos e 8 repetições, com as seguintes configurações: (i) Efeitos de tratamento diferente de zero e presença de componente espacial; (ii) Efeitos de tratamento iguais a zero e presença de componente espacial; (iii) Efeitos de tratamento diferente de zero e ausência de componente espacial.

29 Simulação de dados Figura 2: Gride de um DIC com 15 tratamentos e 8 repetições.

30 Experimento I Detecção da variabilidade espacial: Figura 3: Grid com os quartis dos erros. Figura 4: Semivariograma com envelope simulado.

31 Experimento I Ajuste do semivariograma dos erros. Método de quadrados mínimos ordinários; Modelo esférico; Estabilização após a 3ª iteração; Parâmetros estimados do semivariograma: ϕ 2 = 1, 1313, τ 2 = 0, 6426, φ = 5, Figura 5: Ajuste do modelo esférico ao semivariograma dos erros.

32 Experimento I Tabela 4: Análise de variância considerando erros correlacionados. FV GL SQ QM F calc Valor p Tratamento 14 76,300 5,450 2,93 0,00086 Resíduo ,118 1,858 Total ,418 Tabela 5: Análise de variância considerando erros independentes. FV GL SQ QM F calc Valor p Tratamento 14 56,567 4,040 2,1764 0,01326 Resíduo ,936 1,856 Total ,503

33 Experimento II Detecção da variabilidade espacial: Figura 6: Grid com os quartis dos erros. Figura 7: Semivariograma com envelope simulado.

34 Experimento II Ajuste do semivariograma dos erros. Método de quadrados mínimos ordinários; Modelo esférico; Estabilização após a 3ª iteração; Parâmetros estimados do semivariograma: ϕ 2 = 1, 1313, τ 2 = 0, 6426, φ = 5, Figura 8: Ajuste do modelo esférico ao semivariograma dos erros.

35 Experimento II Tabela 6: Análise de variância considerando erros correlacionados. FV GL SQ QM F calc Valor p Tratamento 14 11,906 0,850 0,46 0,9501 Resíduo ,118 1,858 Total ,024 Tabela 7: Análise de variância considerando erros independentes. FV GL SQ QM F calc Valor p Tratamento 14 22,642 1,6173 0,8711 0,5916 Resíduo ,936 1,856 Total ,578

36 Experimento III Detecção da variabilidade espacial: Figura 9: Grid com os quartis dos erros. Figura 10: Semivariograma com envelope simulado.

37 Experimento III Ajuste do semivariograma dos erros. Método de quadrados mínimos ordinários; Modelo pepita puro; Estabilização após a 1ª iteração; Parâmetros estimados do semivariograma: ϕ 2 = 0, 0000, τ 2 = 0, 4492, φ = 0, Figura 11: Ajuste do modelo ao semivariograma dos erros.

38 Experimento III Tabela 8: Análise de variância considerando erros correlacionados. FV GL SQ QM F calc Valor p Tratamento 14 49,333 3,524 7,01 5,6e-10 Resíduo ,815 0,503 Total ,147 Tabela 9: Análise de variância considerando erros independentes. FV GL SQ QM F calc Valor p Tratamento 14 49,333 3,524 7,01 5,6e-10 Resíduo ,815 0,503 Total ,147

39 Análise de variância de um DBC Tabela 10: Análise de variância de um DBC, considerando Σ= Vσ 2. FV GL SQ Tratamento r(x 2 ) r(x 1 ) Y P 2 Y Bloco r(x) r(x 2 ) Y (P P 1 P 2 )Y Resíduo n r(x) Y (V 1 P)Y Total n r(x 1 ) Y (V 1 P 1 )Y em que: P = V 1 X(X V 1 X) 1 X V 1 ; P 1 = V 1 X 1 (X 1V 1 X 1 ) 1 X 1V 1 ; P 2 = R V X 2 (X 2R V X 2 ) X 2R V ; R V = V 1 V 1 X 1 (X 1V 1 X 1 ) 1 X 1V 1.

40 Exemplo de aplicação Experimento de candeia (Eremanthus erythropappus (DC.) McLeish); Variável resposta: Diâmetro médio da unidade experimental à altura do peito (DAP); Experimento instalado em 2004, no município de Baependi (MG); Delineamento de blocos casualizados (DBC), composto por 4 blocos e 13 tratamentos. Cada unidade experimental continha 50 plantas úteis medidas e 4 plantas de bordadura, espaçadas em 2,0 x 2,5 m; Os tratamentos desse experimento referem-se aos tipos de adubação aplicados em cada unidade experimental.

41 Exemplo de aplicação Detecção da variabilidade espacial: Figura 12: Grid com os quartis dos erros. Figura 13: Semivariograma com envelope simulado.

42 Exemplo de aplicação Ajuste do semivariograma dos erros. Método de quadrados mínimos ordinários; Modelo exponencial; Estabilização após a 6ª iteração; Parâmetros estimados do semivariograma: ϕ 2 = 0, 3118, τ 2 = 0, 0000, φ = 3, Figura 14: Ajuste do modelo ao semivariograma dos erros.

43 Exemplo de aplicação Tabela 11: Análise de variância considerando erros correlacionados. FV GL SQ QM F calc Valor p Tratamento 12 12,7743 1,0645 2,6286 0,0124 Blocos 3 14,7038 4, ,1027 0,0000 Resíduo 36 14,5792 0,4050 Total 51 42,0573 Tabela 12: Análise de variância considerando erros independentes. FV GL SQ QM F calc Valor p Tratamento 12 7,1648 0,5971 1,8757 0,0721 Blocos 3 43, , ,4996 0,0000 Resíduo 36 11,4592 0,3183 Total 51 62,0731

44 Exemplo de aplicação Teste Tukey aproximado. Tabela 13: Comparação entre médias dos diferentes tratamentos de fertilização para a variável DAP. Tratamento DAP medio Grupo 10 6,0025 a 2 5,5575 ab 9 5,4550 ab 6 5,4325 ab 7 5,4075 ab 13 5,3750 ab 8 5,3525 ab 11 5,2600 ab 4 5,0575 ab 3 5,0350 ab 12 4,9450 ab 5 4,8500 ab 1 4,4325 b

45 Referências Bibliográficas BANZATTO, D. A.; KRONKA, S. N. Experimentação agrícola. 4. ed. Jaboticabal: Funep, p. CRESSIE, N. Statistics for spatial data. 2. ed. New York: J. Wiley, p. DIGGLE, P. J.; RIBEIRO JÚNIOR, P. J. Model-based geostatistics. New York: Springer, GRAYBILL, F. A. Theory and application of the linear model. Boston: Duxbury Press, p. GRONDONA, M. O.; CRESSIE, N. Using spatial considerations in the analysis of experiments. Technometrics, Alexandria, v. 33, n. 4, p , Nov NOGUEIRA, C. H.; OLIVEIRA, M. S; MELLO, J. M; RAIMUNDO, M. R; SCOLFORO, H. F; REIS, A. A; GOMIDE, L. R. Spatial modeling in the analysis of a experimental planting candeia. Rev. Bras. Biom., São Paulo, v.33, n.1, p.14-29, 2015

46 Referências Bibliográficas NOGUEIRA, C. H. Análise de variância com dependência espacial sob uma abordagem geoestatística p. Dissertação (Mestrado em Estatística e Experimentação Agropecuária) - Universidade Federal de Lavras, Lavras, PONTES, J. M.; OLIVEIRA, M. S. de. Geoestatística: aplicações em experimentos de campo p. Dissertação (Mestrado em Agronomia - Estatística e Experimentação Agropecuária) Universidade Federal de lavras, Lavras, RIBEIRO JÚNIOR, P. J. Métodos geoestatísticos no estudo da variabilidade espacial de parâmetros do solo p. Dissertação (Mestrado) - Escola Superior de Agricultura Luiz de Queiroz, Piracicaba, ROSSONI, D. F. Análise de variância para experimentos com dependência espacial p. Dissertação (Mestrado em Estatística e Experimentação Agropecuária) Universidade Federal de Lavras, Lavras, SEARLE, S. R. Linear models for unbalanced data. New York: J. Wiley, p.