4.5. Regressão linear multivariada considerando diferentes conjuntos de dados para o Estado de São Paulo

Transcrição

1 4.5. Regressão linear multivariada considerando diferentes conjuntos de dados para o Estado de São Paulo Avaliou se também as equações para estimar água disponível, a partir dos dados das diferentes bases, considerando se apenas os obtidos para o Estado de São Paulo. Quadro 4. Equações para estimativa de retenção de água nos solos do Estado de São Paulo, considerando as variáveis disponíveis para cada tensão. (1) Umidade Equação Num. r Conjunto completo de dados Û kpa = 1,6 +,363 Sil+Arg +,186 CTC +,918 MO 22,829 Û 15 kpa = 2,54 +,281 Sil+Arg +,214 CTC +,727 MO 378,911 Conjunto considerando Sil+Arg e CTC Û kpa =,2 +,355 Sil+Arg +,393 CTC 22,823 Û 15 kpa = 2, +,27 Sil+Arg +,435 CTC 39,898 Conjunto considerando Sil+Arg e MO Û kpa =,972 +,376 Sil+Arg + 1,24 MO 22,827 Û 15 kpa = 2,36 +,31 Sil+Arg +,966 MO 432,897 Conjunto considerando CTC e MO Û kpa = 5,83 + 1,69 CTC,657 MO 22,342 Û 15 kpa = 5,7 + 1,15 CTC,568 MO 378,513 Conjunto considerando Sil+Arg Û 1 kpa = 19,1 +,223 Sil+Arg 27,59 Û kpa = 1,25 +,2 Sil+Arg 3,9 Û 15 kpa = 1,36 +,322 Sil+Arg 481,819 Conjunto considerando CTC Û kpa = 5,76 + 1,56 CTC 22,8 Û 15 kpa = 6,9 +,982 CTC 39,496 Conjunto considerando MO Û kpa = 1, + 2,71 MO 22,1 Û 15 kpa = 1,5 + 1,96 MO 432,245 (1) Retenção de água no solo estimado pela tensão especifica (%). (2) Valores de Silte+Argila e MO em % e CTC em cmol/kg. Num. número de dados usados para estimar a equação. r coeficiente de determinação. Sil+Arg soma de silte mais argila. Nestas condições, as equações para definir água disponível na tensão de 1 kpa, fica representado apenas pela equação que considerou a variável Silte+Argila, já que as outras variáveis não apresentaram dados com número suficiente para efetuar as análises, e mesmo neste caso, representado por apenas 27 horizontes.

2 2 De modo geral, e principalmente para definir água disponível na tensão de 15 kpa, houve uma melhora significativa na capacidade preditiva dessas equações, já que apresentaram coeficiente de determinação (r2) superior a,, inclusive maiores que os valores de r2 apresentados para estimar água na tensão de kpa (quadro 4). O mesmo acontece com os dados apresentados para a tensão de kpa, com valores de r2 maiores que os apresentados no quadro 2 e 3. As exceções ficam novamente para as equações estimadas a partir das variáveis CTC e MO. Figura 8. Histograma e gráfico de regressão entre o valor real de água disponível versus o valor estimado pela equação, considerando todas as variáveis determinadas em solos do Estado de São Paulo. kp a= 1,6 +,363 silar +,186 ctc +,918 m o est = 2, , ( kp a) R S q = 82,9 % F requenc y P Value (approx): <,1 R :, a es t (s ilar + c tc + m o) b F req uenc y kp a= 2,54 +,281 silar +,214 ctc +,727 m o 1 P Value (approx): <,1 R :, c es t (s ilar + c tc + m o) est = 1, ,91937 ( 15 kp a) R S q = 91,1 % d Os histogramas das diferenças apresentados na Figura 8, que considerou todas as variáveis (silte+argila, CTC e MO), não apresentaram distribuição normal, apesar novamente do alto valor de r2 apresentado pelo teste de normalidade W e com valores de p inferiores a,1. No entanto, é evidente a melhora na equação de regressão entre os valores estimados e os valores reais para ambas as tensões (Figuras 8b e 8d). Os pontos encontram se distribuídos próximos da reta que representa a equação e quase todos se encontram dentro do intervalo de predição de 95%, com r2 de 82,9% e 91,1%. Figura 9. Histograma e gráfico de regressão entre o valor real de água disponível versus o valor estimado pela equação, considerando as variáveis Silte+Argila e CTC para o Estado de São Paulo.

3 3 kp a =,2 +,355 silar +,393 c tc est = 2, , ( kp a) R S q = 82,3 % W test for Norm ality P Value (approx): <,1 R :, a es t (s ilar + c tc ) b kp a = 2, +,27 silar +,435 ctc 2 1 X_ W test for Norm ality P Value (approx): <,1 R :, c es t (s ilar + c tc ) est = 1, ,89832 ( 15 kp a) R S q = 89,8 % d Combinando se a variável Silte+Argila com a CTC (Figura 9) e com a MO (Figura 1), observa se que em todos os gráficos de regressão (Figuras 9b, 9d, 1b e 1 d) os pontos estão bem agrupados em torno da reta que representa a equação. Praticamente todos se encontram dentro da faixa de predição de 95% (PI) representados pelas linhas azuis e com o coeficiente de determinação (r2) bem alto, todos acima de. Figura 1. Histograma e gráfico de regressão entre o valor real de água disponível versus o valor estimado pela equação, considerando as variáveis Silte+Argila e MO, para o Estado de São Paulo. 6 kp a=,972 +,376 silar + 1,24 m o est = 2, , ( kp a) R S q = 82,7 % 2 1 P Value (approx): <,1 R :, es t (s ilar + m o) R egression

4 kp a = 2,36 +,31 silar +,966 m o 1 W test for Normality P Value (approx): <,1 R :, es t (s ilar + m o) est = 1, , ( 15 kpa) R S q = 89,7 % Na predição das equações de água disponível a partir das variáveis CTC e MO (Figura 11), os resultados não foram satisfatórios. Por outro lado, utilizando apenas a variável Silte+Argila os resultados se mostraram satisfatórios (Figura 12), principalmente para estimar valores de água disponível na tensão de kpa e 15 kpa. Nestas condições, foi possível estimar água disponível para tensão 1 kpa, mesmo com uma quantidade de dados baixo (27, Quadro 4). A distribuição dos dados mostrou se dentro da normalidade, de acordo com os valores do teste W bem próximo a 1 (,9697, Figura 12a) e nível descritivo p >,1. O coeficiente de determinação (r2) foi de,59 (Quadro 4) o que confere uma boa representatividade desta equação; no entanto, observando se o gráfico de regressão (Figura 12b) nota se que apesar dos pontos estarem todos dentro do intervalo de predição, eles estão muito espalhados e o valor do intercept com o eixo y esta muito alto (12, 6718). Figura 11. Histograma e gráfico de regressão entre o valor real de água disponível versus o valor estimado pela equação, considerando as variáveis CTC e MO, para o Estado de São Paulo kp a = 5,83 + 1,69 ctc,657 m o P Value (approx): <,1 R :, es t (c tc + m o) est = 8,3131 +, ( kp a) R S q = 34,2 % kp a = 5,7 + 1,15 ctc,568 m o 2 1 P Value (approx): <,1 R :, es t (c tc + m o) est = 6, , ( 15 kp a) R S q = 51,3 % Figura 12. Histograma e gráfico de regressão entre o valor real de água disponível versus o valor estimado pela equação. Considerando as variáveis Silte+Argila para o Estado de São Paulo.

5 5 1 kp a = 19,1 +,223 silar est = 12,6718 +,59131 ( 1 kp a) W test for Norm ality P Value (approx): >,1 R :, est (silar) R S q = 59,1 % kp a = 1,25 +,2 silar 5 est = 3, ,9948 ( kp a) R S q =,9 % W test for Normality 5 R :, P Value (approx): <,1 2 3 est (silar) R egression 15 kp a = 1,36 +,322 s ilar est = 2,5951 +, ( 15 kp a) F req uenc y R :, P Value (approx): <,1 2 3 est (silar) R S q = 81,9 % As equações obtidas a partir das variáveis CTC (Figura 13) e MO (Figura 14), consideradas isoladamente, mostram que estas variáveis pouco contribuem para a capacidade preditiva das respectivas equações. Todos os gráficos de regressão apresentaram baixo valor de coeficiente de determinação,,8 para tensão kpa e 49,6 para 15 kpa, e também apresentaram alto valor de intercept. Observa se também um espalhamento dos pontos em torno reta que representa a regressão entre o valor real e o estimado. Também ficou evidente que em todos os casos apresentados, não houve distribuição normal nos dados da diferença entre o valor real versus o valor estimado, exceção aos dados para estimar água disponível na tensão de 1 kpa. Figura 13. Histograma e gráfico de regressão entre o valor real de água disponível versus o valor estimado pela equação, considerando a variável CTC, para o Estado de São Paulo.

6 kpa = 5,76 + 1,56 ctc P Value (approx): <,1 R :, est (ctc ) est = 8, ,7613 ( kp a) R S q =,8 % kpa = 6,9 +,982 ctc est = 6,5388 +, ( 15 kp a) R S q = 49,6 % P Value (approx): <,1 R :,9745 est (ctc ) Figura 14. Histograma e gráfico de regressão entre o valor real de água disponível versus o valor estimado pela equação, considerando a variável MO, para o Estado de São Paulo. kp a = 1, + 2,71 m o est = 11,3621 +, ( kp a) R S q = 1, % R :,95 1 P Value (approx): <,1 2 3 es t (m o) kp a = 1,5 + 1,96 m o est = 1,5964 +,2415 ( 15 kp a) R :, P Value (approx): <,1 2 es t (m o) R S q = 24,5 %