Modelos de Regressão Não Linear

Transcrição

1 Curso Modelos de Regressão Não Linear Walmes Marques Zeviani Laboratório de Estatística e Geoinformação (LEG) Departamento de Estatística (DEST) Universidade Federal do Paraná (UFPR) II Conest /11 - Curitiba/PR Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 1 / 114

2 Agradecimentos Agradecimentos Ao PET Estatística (programa de educação tutorial); À comissão organizadora; Ao DEST e Setor de Ciências Exatas. Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 2 / 114

3 Roteiro Roteiro 1 Modelos de Regressão e Regressão não linear 2 Inferência e verossimilhança 3 Fundamentos dos MRNL 4 Parametrizações e reparametrizações 5 Práticas computacionais no ajuste de MRNL 6 Inferência sobre funções dos parâmetros 7 Medidas de curvatura 8 Modelos em delineamentos experimentais 9 Modelos de efeitos aleatórios 10 Modelagem a variância Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 3 / 114

4 Modelos de regressão A ideia

5 Modelos de regressão A ideia A ideia Y η(x) [Y x] x Figura 1: Representação esquemática genérica de um modelo de regressão. Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 5 / 114

6 Modelos de regressão Construção 1 Distribuição Normal, Beta, Poisson, Binomial,... [Y x] (1) 2 4 Quantidade Média, quantil, parâmetro,... 3 Função Linear, não linear, semiparamétrica,... Q(Y x) = η(x,θ) (2) Parâmetros Empíricos, interpretáveis. Explicativa Métrica, categórica. Figura 2: Representação esquemática da construção de um modelo de regressão. Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 6 / 114

7 Modelos de regressão Regressão linear simples

8 Modelos de regressão Regressão linear simples Regressão linear simples Q(Y x) = η(x, θ) E(Y x) [Y x] Normal(µ,σ) θ 0 + θ 1x x Figura 3: Modelo de regressão linear gaussiano. Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 8 / 114

9 Modelos de regressão Regressão não linear

10 Modelos de regressão Regressão não linear Regressão não linear Q(Y x) = η(x, θ) E(Y x) [Y x] Normal(µ,σ) θ ax θ v + x x Figura 4: Modelo de regressão não linear gaussiano. Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 10 / 114

11 Modelos de regressão GLM, a família exponencial e outras

12 Modelos de regressão GLM, a família exponencial e outras GLM, a família exponencial e outras Também são modelos de regressão não linear; Distribuições da família exponencial (Binomial, Poisson, gama, normal,... ) Uma função não linear da esperança é ligada ao preditor linear Funções de ligação: g(e(y x)) = β 0 + β 1x β px p = η(x, β). Distribuição g(e(y x)) ) E(Y x) função de ligação Binomial log logit ( p 1 p 1 1+exp{ (β 0 +β 1 x)} Poisson log(λ) exp{β 0 + β 1x} log 1 Gama (β µ 0 + β 1x) 1 inversa Normal µ β 0 + β 1x identidade Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 12 / 114

13 Modelos de regressão Regressão binomial - GLM

14 Modelos de regressão Regressão binomial - GLM Regressão binomial - GLM E(Y x) Q(Y x) = η(x, θ) [Y x] Binomial(p,n) n 1 + exp{ (θ 0 + θ 1x)} x Figura 5: Modelo regressão binomial. Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 14 / 114

15 Modelos de regressão Regressão Poisson - GLM

16 Modelos de regressão Regressão Poisson - GLM Regressão Poisson - GLM Q(Y x) = η(x, θ) E(Y x) [Y x] Poisson(λ) exp{θ 0 + θ 1x} x Figura 6: Modelo de regressão Poisson. Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 16 / 114

17 Modelos de regressão Regressão beta

18 Modelos de regressão Regressão beta Regressão beta Q(Y x) = η(x, θ) [Y x] Beta(µ,φ) E(Y x) exp{ (θ 0 + θ 1x)} x Figura 7: Modelo de regressão beta. Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 18 / 114

19 Modelos de regressão Regressão para a média e variância

20 Modelos de regressão Regressão para a média e variância Regressão para a média e variância Q(Y x) = η(x, θ) E(Y x) [Y x] Normal(µ,σ) V(Y x) θ ax θ v + x x Figura 8: Modelo de regressão não linear gaussiano heterocedástico. Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 20 / 114

21 Modelos de regressão Fatores de efeito aleatório

22 Modelos de regressão Fatores de efeito aleatório 1 Distribuição Normal, Beta, Poisson, Binomial,... [Y x,a] (3) Quantidade Média, quantil, parâmetro, Função Linear, não linear, semiparamétrica,... 4 Q(Y x,a) = η(x, θ, a) (4) Parâmetros Latente Empíricos, interpretáveis. Explicativa Efeitos aleatórios. Métrica, categórica. Figura 9: Representação esquemática da construção de um modelo de regressão com efeitos aleatórios. Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 22 / 114

23 Modelos de regressão Regressão não linear com efeitos aleatórios Regressão não linear com efeitos aleatórios Q(Y x,a i) = η(x, θ, a i) E(Y x,a i) [Y x,a i] Normal(µ,σ) θ ax θ v + x (θ a + a i) x θ v + x [a i] Normal(0,σ a) x Figura 10: Modelo não linear de efeitos aleatórios. Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 23 / 114

24 Modelos de regressão não linear

25 Modelos de regressão não linear Definição e motivação

26 Modelos de regressão não linear Definição e motivação Definição Modelo linear nos parâmetros η(x, θ) = θ 0 + θ 1x + θ 2x 2. (5) η θ 0 = 1, η θ 1 = x, η θ 2 = x 2. Modelo não linear nos parâmetros η(x, θ) = θ a(1 exp{ θ e(x θ c)}). (6) η = 1 exp{ θ e(x θ c)} θ a η θ e = θ a(θ c x) exp{ θ b (x θ c)} η θ c = θ aθ b exp{ θ b (x θ c)}. Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 26 / 114

27 Modelos de regressão não linear Definição e motivação Motivação Benefícios Têm sustentação baseado em princípios mecanísticos ou informações prévias; Parâmetros são interpretáveis e de interesse para o pesquisador; Podem ser feitas predições fora do domínio observado de x; São parsimoniosos; Custos Requerem procedimentos iterativos de estimação; Métodos de inferência são aproximados; Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 27 / 114

28 Modelos de regressão não linear Propriedades da função e interpretação dos parâmetros

29 Modelos de regressão não linear Propriedades da função e interpretação dos parâmetros Pontos característicos e formas A C E ASS MC ASS MND-CON PC PS-PI-PF0.5 PF0.5 PI ASI PO PON POH-PZ-PD PON AAC B D F PO PD-PO PC-PS PI PF0.5 PF0.5 PO ASI MD ASI PZ MNC-CVX CON PZ Figura 11: Funções não lineares com destaque para os pontos característicos e formas. Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 29 / 114

30 Modelos de regressão não linear Propriedades da função e interpretação dos parâmetros Estudo dos pontos característicos e formas Propriedades da função Pontos caracteríticos, aspectos de forma e aparência; Intercepto, assíntota, ponto de inflexão, ponto de máximo; Monótona, segmentada, convexa; Sigmóide, parabólica, exponencial; Estudar: 1) limites, 2) derivadas, 3) integrais, 4) inversas e 5) avaliações em certos pontos; Interpretação dos parâmetros Significado e unidade de medida; Estudar: 1) limites, 2) derivadas, 3) integrais, 4) inversas e 5) avaliações em certos pontos; Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 30 / 114

31 Modelos de regressão não linear Propriedades da função e interpretação dos parâmetros Determinação das unidades de medida (dimensionalidade) Equação da reta η(x) = θ 0 + θ 1x, (7) Y Y X YX 1 Michaelis-Menten Y x η(x) = θ a θ v + x, (8) X Y X Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 31 / 114

32 Modelos de regressão não linear Propriedades da função e interpretação dos parâmetros Parametrização e dimensionalidade Modelo logístico - parametrização de GLM Y η(x) = θ a exp{θ 0 + θ 1x}, (9) Y X X 1 Modelo logístico - parametrização centro/escala Y η(x) = θ a exp{ (x θ i )/θ s}, (10) Y X X X Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 32 / 114

33 Modelos de regressão não linear Propriedades da função e interpretação dos parâmetros Parametrização e interpretação Curva de lactação - parametrização da densidade da gama Y η(x) = θ 0x θ 1 exp{ θ 2x}, (11) YX θ 1 X X 1 Curva de lactação - parametrização do ponto crítico (Zeviani, 2013, Tese) η(x) = θ y ( x θ x ) θ1 exp{θ 1(1 x/θ x)}, (12) Y Y X X Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 33 / 114

34 Modelos de regressão não linear Parametrizações interpretáveis

35 Modelos de regressão não linear Parametrizações interpretáveis Parametrizações conhecidas Modelo logístico η(x) = θ a exp{ (x θ i )/θ s} = θ a exp{θ i /θ s x/θ s}, θ 0 = θ i /θ s θ 1 = 1/θ s Modelo quadrático η(x) = θ y + θ c(x θ x) 2 = θ y + θ c(x 2 2xθ x + θx) 2 = (θ y + θx) 2 + ( 2θ x)x + θ cx 2, θ 0 θ 1 θ 2 Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 35 / 114

36 Modelos de regressão não linear Sistematização da reparametrização Sistematização da reparametrização Função de parâmetros de interesse ϑ = g(θ) Etapas para reparametrização 1 Escrever o parâmetro de interesse como função dos elementos de θ, ou seja, ϑ = g(θ); 2 Escolher um dos elementos de θ = (θ i, θ i ) para ser colocado em função de ϑ de tal forma a obter θ i = h(θ i, ϑ); 3 Substituir toda ocorrência de θ i em η(x,θ) pela expressão obtida no passo anterior, h(θ i, ϑ), fazendo as simplificações convenientes. Assim o modelo de regressão não linear η(x, θ i, ϑ) terá ϑ como elemento do vetor de parâmetros θ ϑ = (θ i, ϑ). Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 36 / 114

37 Modelos de regressão não linear Sistematização da reparametrização Fração de vida no Monomolecular (inverse prediction) η(x,θ) η(x,θ) = θ a (1 exp{ θ k x}) 1 q θ a qθ a q θ k ϑ q x Figura 12: Curva do modelo Monomolecular com destaque para os seus parâmetros e sua forma de sua função. Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 37 / 114

38 Modelos de regressão não linear Sistematização da reparametrização Aplicando a reparametrização Passo 1 - Escrever... qθ a = θ a(1 exp{ θ k ϑ q}) log(1 q) ϑ q =. θ k Passo 2 - Inverter... log(1 q) θ k =. ϑ q Passo 3 - Substituir... η(x,θ a, ϑ q) = θ a(1 exp{x log(1 q)/ϑ q}) η : R + R +, 0 < q < 1 θ a 0 (Y), é a ASS (13) ϑ q > 0 (X), é o PF q Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 38 / 114

39 Modelos de regressão não linear Algumas parametrizações interpretáveis de MRNL

40 Modelos de regressão não linear Algumas parametrizações Tabela 1: Reparametrizações desenvolvidas com ênfase na interpretação dos parâmetros de modelos de regressão não linear aplicados em Ciências Agrárias. id Modelo original ϑ = g(θ) θi = g 1 (ϑ, θ i) Modelo reparametrizado ( ) ( ) θax q 1 q θax 1 ϑq = θv θv = ( ) ϑq 1 q θv + x 1 q q ϑq + x q ϑq = θv θa ( ( ) ) 1/θc ( = ) θa 1/θc θc θv 1 q 1 q ( ) x θv ϑq q θc ϑq q q q x θa ϑq = θv = ( ) ) 1/θc ) θa 1/θc θc ( ( 3 x 1 q 1 + θv θv q ( θax 4 θc θv q θv + x θc ϑq = 1 q log(1 q) 5 θa(1 exp{ θcx}) ϑq = { θc θa(1 exp{ θ1(x θ0)}), x ϑq = θ0 6 log(1 q) 0, x < θ0 + θ0 θ1 7 θ0 θ1x θ2 ϑq = q θ1 ϑq ( 1 q q ) 1/θc 1 q θv = ϑ θc q q 1/θ2 8 θ0 + θ1(1 θc x log(1 + q/θ1) ) ϑq = log(θc) log(1 q) θc = ϑq log(1 q) θ1 = ϑq θ0 θ2 = log(q) log(θ1) log(ϑq) θ1 = q 1 θ ϑq c q q x ϑq ) θc θax θc ( ) 1 q ϑq + x q θc θa(1 exp{x log(1 q)/ϑq}) ( { ( )}) x θ0 θa 1 exp log(1 q) ϑq θ0 log(q) log(θ 1 ) θ0 θ1x log(ϑq ) ( ) 1 θ x θ0 q c 1 θ ϑq c Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 40 / 114

41 Modelos de regressão não linear Algumas parametrizações Tabela 2: (cont.) Reparametrizações desenvolvidas com ênfase na interpretação dos parâmetros de modelos de regressão não linear aplicados em Ciências Agrárias. id { Modelo original ϑ = g(θ) θi = g 1 (ϑ, θ i) { Modelo reparametrizado 9 θ0 + θ1x, x θb ϑb = θ0 + θ1θb θ0 = ϑb θ1θb ϑb + θ1(x θb), x θb θ0 + θ1θb, x > θb ϑb, x > θb 10 { ϑb θ0 + θ1x, x + θ1(x θb), x θb θb ϑb = θ0 + θ1θb θ0 = ϑb θ1θb ϑb θ0 + θ1θb + θ2(x θb), x > + θ2(x θb), x > θb θb { 11 2 θ0 + θ1x + θ2x θ1 ϑx = 2θ2 θ1 = 2θ2ϑx ϑy + θ2(x ϑx) 2 ϑy = θ0 + θ1ϑx + θ2ϑ 2 x θ0 = ϑy θ1ϑx θ2ϑ 2 x θ0 + θ1x + θ2x 2, ϑx = θ1 θ1 = 2θ2ϑx { 2θ2 12 ϑy x θ1/(2θ2) + θ2(x ϑx) 2, x ϑx ϑy = θ0 + θ1ϑx + θ2ϑ 2 x θ0 = ϑy θ1ϑx θ2ϑ 2 x ( ) ( ) 2 θ0 + θ1 θ1 + θ1 ϑy, x > ϑx θ2 2θ2 2θ2, x > θ1/(2θ2) ( ) ( ) 13 x(θ0 + θ1x) 1/θ2 ϑx = θ0 θ2 θ1 = θ0 θ2 ( ( x θ1 1 θ2 ϑx 1θ2 ϑy 1 θ2 1 x )) 1/θ2 ( ) 1/θ2 ( ) θ2 1 ϑx ϑx θ2 ϑy θ0 = (1 θ2) 14 θ0x θ1 exp{ θ2x} ϑy = ϑx θ0 ϑx = θ1/θ2 ϑy = θ0(θ1/θ2) exp{ θ1} θ0 = ϑy ϑx θ1 = θ2ϑx ( ) θ1 1 exp{θ1} ϑx ϑp = θ (θ1+1) 2 θ2 = ϑ 1/(θ1+1) ϑy ( ) θ1 x exp{ θ1(1 x/ϑx)} 1/( θ+1) p θ1 : θ1 ϑxϑp ϑx Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 41 / 114

42 Modelos de regressão não linear Algumas parametrizações Tabela 3: (cont.) Reparametrizações desenvolvidas com ênfase na interpretação dos parâmetros de modelos de regressão não linear aplicados em Ciências Agrárias. id Modelo original ϑ = g(θ) θi = g 1 (ϑ, θ i) Modelo reparametrizado ( ( ϑq = ) ) ( θ0 = ) θa 1 1 q 1 q θa 15 log θ0 log θ1ϑq ( ) 1 + exp{θ0 + θ1x} θ1 q q q exp { 4ϑt(x ϑq)} q ϑt = θ1 θ1 = 4ϑt 4 log( log(q)) θ0 log( log(q)) θ0 16 θa exp{ exp{θ0 + θ1x}} ϑq = θ1 = θa exp{log(q) exp{θ0(1 x/ϑx)}} θ1 ϑx θs θr ϑi = θa log(θm)/θn θa = ϑi log(θm)/θn 17 θr + (1 + exp{θa + x} θn ) θm θr ϑs (1 + 1/θm) θm+1 θn(θs θr ) θs θr = θn (1 + exp{θn(x ϑi)}/θm) θm ϑs = (1 1/θm) θm+1 ϑs (1 + 1/θm)θm+1 θn Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 42 / 114

43 Aspectos de inferência Especificação e estimação

44 Aspectos de inferência Especificação e estimação Especificação e estimação Especificação Y x iid Gaussiana(µ = η(x, θ), σ 2 ). (14) Estimação Minimizar a soma de quadrados SQD(θ) = n (y i η(x i, θ)) 2. (15) i=1 Maximizar a (log)-verossmilhança l(θ, σ 2 ) = n 2 log(2π) n 2 log(σ2 ) 1 2σ 2 n (y i η(x i, θ)) 2. (16) i=1 Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 44 / 114

45 Aspectos de inferência Funções de verossimilhança de modelos extendidos

46 Aspectos de inferência Funções de verossimilhança de modelos extendidos Funções de verossimilhança de modelos extendidos Modelo para a média e variância l(θ, ϕ) = n 2 log(2π) 1 2 n {log(η σ2(z, ϕ)) + (y } i η µ(x i, θ)) 2. (17) η σ 2(z, ϕ) i=1 Modelo para a média e variância η µ(x, θ) : modelo para E(Y x); η σ 2(z, ϕ) : modelo para Var(Y x). Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 46 / 114

47 Aspectos de inferência Funções de verossimilhança de modelos extendidos Funções de verossimilhança de modelos extendidos Modelo não linear de efeitos aleatórios L(θ,Ψ,σ 2 ) = I i=1 n i j=1 φ(y ij,η(x ij,θ,b i ),σ 2 ) φ(b i,0,ψ) db i (18) Michaelis-Mentem com efeito aleatório em θ a y ij x ij, b i Gaussiana(η(x ij,θ, b i ), σ 2 ); b i Gaussiana k (0, Ψ); y ij x ij, b i e b i são independentes. Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 47 / 114

48 Aspectos de inferência Funções de verossimilhança de modelos extendidos Funções de verossimilhança de modelos extendidos Michaelis-Mentem com efeito aleatório em θ a η(x ij,θ, a i ) = (θa + a i) x ij θ v + x ij y ij x ij, a i Gaussiana(η(x ij,θ, a i ), σ 2 ); a i Gaussiana 1(0, σ 2 a); y ij x ij, a i e a i são independentes. L(θ,σ 2 a,σ 2 ) = I i=1 n i j=1 { 1 exp (yij η(x ij,θ, a i )) 2 2πσ 2 2σ 2 } { } 1 a 2 exp i da 2πσ 2 a 2σa 2 i. Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 48 / 114

49 Aspectos de inferência Inferência baseada em verossimilhança sobre θ

50 Aspectos de inferência Inferência baseada em verossimilhança sobre θ Inferência baseada em verossimilhança sobre θ A l(θ) é uma função não quadrática em θ: l(θ, σ 2 ) = n 2 log(2π) n 2 log(σ2 ) 1 2σ 2 IC(θ i ) são obtidos por perfilhamento da log-verossimilhança: n (y i η(x i, θ)) 2. i=1 l p(θ i, ˆθ i ) = max θ i l(θ i, θ i ) Sob H 0: θ i = θ i0 2(l(ˆθ i, ˆθ i ) l(θ i0, ˆθ i )) χ 2 r. Um IC com cobertura nominal de 1 α é obtido por Requer maior esforço computacional. θ i : {2(l(ˆθ i, ˆθ i ) l(θ i, ˆθ i )) χ 2 α,r.} Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 50 / 114

51 Aspectos de inferência Inferência assintótica sobre θ

52 Aspectos de inferência Inferência assintótica sobre θ Inferência assintótica sobre θ Incerteza sobre θ Utiliza os resultados de modelos lineares; No caso geral em que V é a variância de Y x ˆθ Normal(θ, (F V 1 F ) 1 ). (19) No caso de V = σ 2 I ˆθ Normal(θ, σ 2 (F F ) 1 ). (20) IC(θ i ) obtém-se com IC(θ i ) = ˆθ i ± z α/2 σ2 (F F ) 1 ) ii. (21) Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 52 / 114

53 Aspectos de inferência Inferência assintótica sobre θ l(θ) l(ˆθ) deviance l(ˆθ) 1 2 χ2 α l(θ) l(θ) ˆθ IC l (θ) IC l(θ) θ Figura 13: Intervalo de confiança para θ baseado na função de log-verossimilhança e na sua aproximação quadrática. Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 53 / 114

54 Estimação e inferência

55 Estimação e inferência Método Gauss-Newton

56 Estimação e inferência Método Gauss-Newton Método Gauss-Newton Método Gauss-Newton em que θ (u+1) = θ (u) + (F (u) F (u) ) 1 F (u) (y η(x, θ (u) )), (22) F = η(x,θ) θ = η(x 1,θ)) η(x 1,θ)) θ p θ η(x n,θ)) θ 1 η(x n,θ)) θ p (23) θ (0) são valores iniciais para os parâmetros; θ (u) é a estimativa de θ após u iterações; F também é usada para obter bandas de predição (assintóticas). Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 56 / 114

57 Estimação e inferência SQs, teste da falta de ajuste e R 2

58 Estimação e inferência SQs, teste da falta de ajuste e R 2 Partição das somas de quadrados (corrigido para o modelo nulo) Fonte GL SQ QM Regressão p 1 SQM = ˆθ F y nȳ 2 SQM/(p 1) Resíduos n p SQR = y y ˆθ F y SQR/(n p) Total n 1 SQT = y y nȳ 2 Coeficiente de determinação - R 2 R 2 = 1 SQR SQT (24) Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 58 / 114

59 Estimação e inferência Teste de falta de ajuste (script03-diagnos.r) Partição da soma de quadrados dos resíduos n m i SQR = (y ij ŷ i ) 2 = i=1 j=1 = SQep + SQfa n m i (y ij ȳ i. + ȳ i. ŷ i ) 2 i=1 j=1 Teste da falta de ajuste SQfa m 2 SQep n m F m 2,n m (25) Em outras palavras... E(Y x i ) = η(x i, θ): modelo não linear vs. E(Y x i ) = µ i : modelo de médias por nível. Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 59 / 114

60 Estimação e inferência Avaliação dos pressupostos

61 Estimação e inferência Avaliação dos pressupostos Avaliação dos pressupostos Y x Normal(η(x, θ), σ 2 ) (26) Suposição Avaliação 1 Observações independentes. Garantido pelo plano experimental. 2 η(x, θ) ser adequado para E(Y x). Gráfico do modelo ajustado sobre os valores observados. Gráfico dos resíduos em função dos valores ajustados. Teste da falta de ajuste. 3 σ 2 1 ou variância constante. Gráficos dos valores absolutos dos resíduos padronizados em função dos valores ajustados. 4 Y x ter distribuição normal. Gráfico quantil-quantil dos resíduos padronizados sobre a distribuição normal. Não é a normalidade de Y (marginal) mas a de Y x (condicional). Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 61 / 114

62

63 Tópicos em ajuste de MRNL

64 Tópicos em ajuste de MRNL Informação de gradiente

65 Tópicos em ajuste de MRNL Informação de gradiente Informação de gradiente script-04infograd.r Modelo para perda de peso (wtloss) η(x,θ) = θ 0 + θ 12 x/θ k ; Derivadas parciais η = 1 θ 0 η = 2 x/θ k θ 1 η = θ 1 log(2) (x/θk) 2 2 x/θ k θ k Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 65 / 114

66 Tópicos em ajuste de MRNL Informação de gradiente Modelo linear-platô Derivadas { θ0 + θ 1x, x θ b η(x,θ) = θ 0 + θ 1θ b, x > θ b x θ b x > θ b η θ η θ 1 x θ b Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 66 / 114

67 Tópicos em ajuste de MRNL Método gráfico interativo

68 Tópicos em ajuste de MRNL Método gráfico interativo Método gráfico interativo script05-mgi.r Consiste em aproximar à mão livre a função aos dados; O ajuste parte da aproximação feita à mão; Tem a vantagem de aprender sobre a função e reduzir número de iterações. Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 68 / 114

69 Tópicos em ajuste de MRNL Método gráfico interativo Figura 14: Método gráfico interativo baseado nos recursos do pacote rpanel para ajuste de modelos não lineares. Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 69 / 114

70 Tópicos em ajuste de MRNL Modelos self-start

71 Tópicos em ajuste de MRNL Modelos self-start Modelos self-start script06-selfstart.r São funções que auto-providenciam valores iniciais; Reduz intervenção do usuário então facilita automação; Nem todo modelo possui self-start implementada. Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 71 / 114

72 Tópicos em ajuste de MRNL Modelos parcialmente lineares

73 Tópicos em ajuste de MRNL Modelos parcialmente lineares Modelos parcialmente lineares script07-plinear.r Tiram vantagem do modelo ser parcialmente linear; Estimação divida em duas fases: anaĺítica (linear) e numérica (não linear); Reduz custo computacional. Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 73 / 114

74 Tópicos em ajuste de MRNL Modelos parcialmente lineares Modelos parcialmente lineares Modelo para perda de peso (wtloss) Derivadas η(x,θ) = θ 0 + θ 12 x/θ k η = 1 θ 0 η = 2 x/θ k θ 1 η = θ 1 log(2) (x/θk) 2 2 x/θ k θ k O modelo é parcialmente linear em θ 0 e θ 1; η(x,θ) = θ 0 + θ 1f (x), f (x) = 2 x/θ k θ 0 e θ 1 usam solução de sistema linear; θ k usa Gauss-Newton; Reduz de 3 para 1 dimensão; Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 74 / 114

75 Tópicos em ajuste de MRNL Modelos parcialmente lineares Modelos parcialmente lineares Modelo para ganho de peso (turk0) Derivadas η(x,θ) = θ 0 + θ 1(1 exp{ θ k x}) η = 1 θ 0 η = 1 exp{ θ k x} θ 1 η = xθ 1(exp{ θ k x}) θ k O modelo é parcialmente linear em θ 0 e θ 1; η(x,θ) = θ 0 + θ 1f (x), f (x) = 1 exp{ θ k }; θ 0 e θ 1 usam solução de sistema linear; θ k usa Gauss-Newton; Reduz de 3 para 1 dimensão; Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 75 / 114

76 Tópicos em ajuste de MRNL Modelos parcialmente lineares Modelos parcialmente lineares Modelo linear-platô { θ0 + θ 1x, x θ b η(x,θ) = θ 0 + θ 1θ b, x > θ b Derivadas x θ b x > θ b η θ η θ 1 x θ b O modelo é parcialmente linear em θ 0 e θ 1; θ 0 e θ 1 usam solução de sistema linear; θ b usa Gauss-Newton; Reduz de 3 para 1 dimensão; Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 76 / 114

77 Tópicos em ajuste de MRNL Modelos parcialmente lineares Modelos parcialmente lineares Modelo van Genuchten Derivadas η(x,θ) = θ r + θ s θ r (1 + (θ ax) θn ) 1 1/θn η 1 = 1 θ r (1 + (θ ax) θn ) 1 1/θn η 1 = θ s (1 + (θ ax) θn ) 1 1/θn O modelo é parcialmente linear em θ r e θ s; η(x,θ) = θ r + (θ s θ r )f (x), f (x) = θ r e θ s usam solução de sistema linear; θ a e θ n usam Gauss-Newton; Reduz de 4 para 2 dimensões; 1 (1+(θ ax) θn ; )1 1/θn Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 77 / 114

78 Inferência sobre funções dos parâmetros

79 Inferência sobre funções dos parâmetros Método delta

80 Inferência sobre funções dos parâmetros Método delta Método delta Distribuição amostral de ˆθ Método para aproximar a distribuição de uma função g de variáveis aleatórias; Baseado na aproximação linear da função g, g(x) g(x 0) + g (x 0)(x x 0); Depende do quão linear é a função na região de interesse; Depende da distribuição das v.a. envolvidas; No caso de MRNL ˆθ são as variáveis aleatórias. Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 80 / 114

81 Inferência sobre funções dos parâmetros Método delta Método delta Distribuição amostral de ˆθ ˆθ Normal(θ, Σ θ ). (27) Seja ˆϑ = g(ˆθ) uma função, então pode ser mostrado que uma aproximação em série de Taylor de primeira de g em torno de θ implica em E( ˆϑ) = g(θ); Var( ˆϑ) = DΣ θ D, em que D = g(θ) θ θ= ˆθ. ˆϑ Normal(g(θ), DΣ θ D ). Um intervalo de confiança 1 α obtém-se por ˆϑ ± z α/2 Var( ˆϑ), ˆΣ θ é usada no lugar de Σ θ. Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 81 / 114

82 Inferência sobre funções dos parâmetros Inferência sobre ŷ = η(x,ˆθ)

83 Inferência sobre funções dos parâmetros Inferência sobre ŷ = η(x, ˆθ) Inferência sobre ŷ = η(x,ˆθ) Inferência sobre o valor predito ŷ (script08-bandas.r) Pelo método delta tem-se que ŷ = η(x,ˆθ) = g(ˆθ), (28) ŷ Normal(η(x,ˆθ), F Σ θ F ). F = η(x,θ) θ Um intervalo de confiança 1 α obtém-se por θ= ˆθ. ŷ ± z α/2 F Σθ F, Com isso obtém-se as bandas de confiança para os valores preditos. Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 83 / 114

84 Inferência sobre funções dos parâmetros Outras formas de infererir sobre g(θ)

85 Inferência sobre funções dos parâmetros Outras formas de infererir sobre g(θ) Outras formas de infererir sobre g(θ) script09-inffun.r Bootstrap paramétrico: soma desvios de distribuição normal aos valores ajustados, gera novas amostras do modelo η(x, ˆθ), ajusta para obter ϑ = g(ˆθ ). Repete B vezes e infere a partir da distribuição empírica de ϑ ; Bootstrap não paramétrico: soma os resíduos do próprio ajuste (amostra com reposição deles) aos valores ajustados, gera novas amostras do modelo η(x, ˆθ), ajusta para obter ϑ = g(ˆθ ). Repete B vezes e infere a partir da distribuição empírica de ϑ ; Simulação Monte Carlo: simula valores de θ de acordo com sua distribuição amostral, no caso ˆθ Normal(θ, Σ θ ). Obtém-se ϑ = g(ˆθ ). Repete B vezes e infere a partir da distribuição empírica de ϑ ; Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 85 / 114

86 Inferência sobre funções dos parâmetros Outras formas de infererir sobre g(θ) Inclinação no ponto de inflexão da CRAS η(x) η(x) = θ r + θ s θ r (1 + (θ ax) θn ) θm θ s θ i tan 1 (S) θ r I log(x) Figura 15: Gráfico do modelo van Genuchten com destaque para interpretação dos parâmetros. Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 86 / 114

87 Inferência sobre funções dos parâmetros Outras formas de infererir sobre g(θ) Modelo van Genuchten para retenção de água no solo η(x,θ) = θ r + θ s θ r (1 + (θ ax) θn ) 1 1/θn (29) Parâmetro S = g(θ) S = g(θ) = θ n(θ s θ r ) ( ) θm 1, em que θ m = 1 1/θ n. (30) θ m Modelo van Genuchten reparametrizado para S ( η(x, θ S ) = θ r S θ n ( 1 + ( θ n θ n 1 em que I representa a tensão no ponto de inflexão. ) 2 1/θn 2θ n 1 θ n 1 ) exp{θ n(x I )} ) 1 1/θn, (31) Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 87 / 114

88 Medidas de não linearidade

89 Medidas de não linearidade Medidas de curvatura

90 Medidas de não linearidade Medidas de curvatura Medidas de curvatura Curvatura de uma função f(x) Curvatura de Bates e Watts κ = f (x) (1 + (f (x)) 2 ) 3/2 (32) Generalizaram para uma função n-dimensional de p variáveis (θ), y θ = η(x, θ), e padronizaram para ser invariante a escala dos dados e permirtir comparação entre diferentes modelos; A curvatura total pode ser decomposta em duas, via projeção em espaços ortogonais; Curvatura intrínsica: corresponde ao afastamento da suposição de planicidade, ou seja, de y θ representar um hiper-plano. Não muda com parametrizações do modelo. Curvatura devido ao efeito de parâmetros: corresponde ao afastamento da suposição de coordenadas com espaçamento regular com relação a variação de θ i. Muda com a reparametrização do modelo. Em modelos lineares ambas as curvaturas são zero. Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 90 / 114

91 Medidas de não linearidade Medidas de curvatura f(x 2, θ) y = x V + x superfície esperada 0.5 y obs (0.63, 0.9) y^ (0.86, 0.75) θ^ = desloc x = (12, 25) aproximação linear f(x 2, θ) y = 1 e ln(2) x V superfície esperada y 2.5 obs 3 (0.63, 0.9) 3 y^ (0.95, 0.76) θ^ = desloc x = (12, 25) aproximação linear f(x 1, θ) f(x 1, θ) Figura 16: Figura esquemática para exemplificar as definições das medidas de curvatura. Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 91 / 114

92 Medidas de não linearidade Vício

93 Medidas de não linearidade Vício Vício Calcula o vício aproximado para as estimativas baseado em aproximação; em que Vício absoluto Vício relativo ao parâmetro Vício relativo ao erro padrão B(θ i ) = (F F ) 1 F H i = 2 η(x,θ) θ i θ = ) ( σ2 2 (F F ) 1 H i, η(x 1,θ) η(x 1,θ) θ i θ p θ i θ η(x n,θ) θ i θ 1 B(θ); B(θ) ˆθ ; B(θ) ep(ˆθ) ; η(x n,θ) θ i θ p (33) Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 93 / 114

94 Estudos de caso

95 Estudos de caso Modelos de efeito aleatório

96 Estudos de caso Modelos de efeito aleatório Modelos de efeito aleatório Tópicos Liberação de potássio no solo por resíduos orgânicos; Modelo não linear de duas fases de liberação; Medidas repetidas no tempo. Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 96 / 114

97 Estudos de caso Modelos de efeito aleatório Modelos de efeito aleatório Modelo considerado Monomolecular reparametrizado para meia vida η(x,θ) = θ a(1 exp{ θ cx}) = θ a(1 exp{ log(2)x/θ v }). (34) Extensão para duas fases de liberação η(x,θ) = θ a(1 exp{ log(2)x/θ v }) + θ d x (35) Inclusão do efeito aleatório de unidade experimental η(x,θ, a i ) = η(x,θ) = (θ a + a i )(1 exp{ log(2)x/θ v }) + θ d x (36) θ a: assíntota superior; θ c: taxa de liberação instântanea na origem; θ v : tempo de meia vida; θ d : taxa de lenta liberação; a i : termo aleatório, a i N(0,σ a); Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 97 / 114

98 Estudos de caso Modelos de efeito aleatório Modelos de efeito aleatório fixo unidade experimental Conteúdo acumulado libeardo de potássio Dias após incubação no solo Figura 17: Conteúdo de potássio acumulado libearado em função do tempo com destaque para a predição ao nivel populacional e nível de unidade experimental. Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 98 / 114

99 Estudos de caso Modelos resposta platô

100 Estudos de caso Modelos resposta platô Modelos resposta platô Tópicos Produção de soja em função do conteúdo de potássio e nível de umidade do solo; Parametrizações alternativas do modelo quadrático platô; Comparação entre modelos segmentados. Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 100 / 114

101 Estudos de caso Modelos resposta platô Modelos resposta platô Modelos considerados Parametrização original (polinômio) { θ 0 + θ 1x + θ 2x 2 η(x,θ) = θ 0 + θ 1θ b + θ 2θb 2 x θ b, em que θ b = θ1. (37) x > θ b 2θ 2 Parametrização para o ponto crítico (canônica) { θ y + θ 2(x θ b ), x θ b η(x,θ) =. (38) θ y, x > θ b Parametrização mista {θ 0 + θ 1x θ 1x 2 2θ η(x,θ) = b, x θ b. (39) θ 0 + θ 1θ b, x > θ 2 b θ 0: intercepto; θ 1: c. angular; θ 2: c. curvatura; θ y : valor de máximo/mínimo da função; θ x: valor na abcissa correspondente ao θ y ; Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 101 / 114

102 Estudos de caso Modelos resposta platô Modelos resposta platô η(x) Modelo linear-platô Modelo quadrático-platô η(x) η (0) = θ 1 θ y y x = 1 θ 2 = y θ 0 x θ 1 = y x θ 0 θ b x θ b 1 θ b x linear platô quadrático platô Figura 18: Modelo linear-platô (esq) e quadrático-platô (dir) com destaque para a interpretação cartesiana dos parâmetros. Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 102 / 114

103 Estudos de caso Modelos resposta platô Modelos resposta platô Rendimento de grãos (g vaso 1 ) Conteúdo de potássio no solo (mg dm 3 ) Figura 19: Resultados do ajuste dos modelos linear-platô e quadrático-platô aos dados de produção de soja em função do conteúdo de potássio do solo e nível de umidade. Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 103 / 114

104 Estudos de caso Produção de algodão em função da desfolha

105 Estudos de caso Produção de algodão em função da desfolha Produção de algodão em função da desfolha Tópicos Produção de algodão em função da desfolha artifical em cada estágio fenológico; Parametrização para o nível de dano econômico; Compara parametrizações por curvatura e gráficos dos contornos de confiança. Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 105 / 114

106 Estudos de caso Produção de algodão em função da desfolha Produção de algodão em função da desfolha Modelos considerados Modelo potência Parametrização para evitar problemas de borda η(x,θ) = θ 0 + θ 1x θ C, θ C > 0. (40) η(x,θ) = θ 0 + θ 1x exp{θc }, < θ c <. (41) Parametrização para o nível de dano econômico log(q) log(θ 1 ) η(x,θ) = θ 0 + θ 1x log(ϑq ). (42) θ 0: intercepto; θ 1: queda de produção com desfolha máxima; θ C e θ c: indicadores de concavidade; ϑ q: desfolha correspondente a uma queda de q unidades na produção; Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 106 / 114

107 Estudos de caso Produção de algodão em função da desfolha Produção de algodão em função da desfolha θ 0 θ 0 q θ c > 0 θ 1 θ c < ϑ q 1 Figura 20: Modelo potência com ênfase para a interpretação dos parâmetros. Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 107 / 114

108 Estudos de caso Produção de algodão em função da desfolha Produção de algodão em função da desfolha Desfolha artifical Peso de capulhos (g) Vegetativo Botão floral Florescimento Maçã Capulho Figura 21: Resultados do ajuste do modelo potência reparametrizados aos dados de produção de capulhos em função da desfolha em cada estágio fenológico do algodão. Linhas verticais destacam a estimativa intervalar para o nível de dano econômico. Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 108 / 114

109 Estudos de caso Curva de crescimento com modelagem da variância

110 Estudos de caso Curva de crescimento com modelagem da variância Curva de crescimento com modelagem da variância Tópicos Peso de frutos de goiaba em função dos dias após antese; Atribuição de um modelo para a média e quatro para a variância; Avaliação dos pressupostos e seleção do melhor modelo. Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 110 / 114

111 Estudos de caso Curva de crescimento com modelagem da variância Curva de crescimento com modelagem da variância Modelos considerados Modelo para a média, E(Y x) η(x,θ) = θ a (θ a θ b ) exp( exp(θ t (daa θ i ))). (43) Modelos para a variância, Var(Y x) g 0(σ) = σ 2 (constante) g 1(daa, δ, σ) = σ 2 exp{2δ daa} (exponencial) Var(Y x) = g 2(daa, δ, σ) = σ 2 daa 2δ (potência) g 3(daa, δ, σ) = σ 2 ln daa 2δ (potência do logaritmo). (44) Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 111 / 114

112 Estudos de caso Curva de crescimento com modelagem da variância Curva de crescimento com modelagem da variância Constante Potência Potência do logaritmo Exponencial Massa fresca dos frutos (g) Dias após a antese Figura 22: Resultados dos ajustes dos diferentes modelos para a variância para os dados de peso de frutos de goiaba em função dos dias após a antese. Bandas correspondem ao intervalo de confiança para o valor predito e as barras são o intervalo de confiança para a média em cada coleta. Zeviani (2013) (LEG/UFPR) MRNL2013 II Conest /11 - Curitiba/PR 112 / 114

113 Considerações finais

114 Obrigado!!!