Análise de resíduos e transformação de dados em variáveis de tomateiro

Transcrição

1 Análise de resíduos e transformação de dados em variáveis de tomateiro Diogo Vanderlei Schwertner 1 Rélia Rodrigues Brunes 1 Fernando Machado Haesbaert 1 Daniel Santos 1 Denison Esequiel Schabarum 1 Alessandro Dal Col Lúcio 1 1 Introdução Devido a importância econômica e agronômica do tomateiro (Solanum lycopersicum L.), um grande número de experimentos é realizado anualmente com a cultura. Nesses experimentos a análise de resíduos deve ser utilizada para testar o atendimento as pressuposições do modelo matemático [10]. A análise dos resultados experimentais é de boa qualidade quando as pressuposições de aditividade dos efeitos do modelo, homogeneidade de variâncias, normalidade e aleatoriedade dos erros são satisfeitas. Quando tais pressuposições não são atendidas, a confiabilidade das análises paramétricas fica comprometida, pois ocorrem alterações nas probabilidades de ocorrência dos erros tipo I e tipo II, podendo levar a falsas conclusões a respeito dos efeitos de tratamento [10, 6]. A análise de resíduos deve ser aplicada anteriormente a análise de variância dos dados, utilizando o teste de não aditividade de Tukey para verificar a aditividade dos efeitos [9], o teste de Lilliefors [8], de Bartlett [9] e de Aleatoriedade [8] para verificar, respectivamente, a normalidade, a homogeneidade e a aleatoriedade dos erros. Quando ocorrem violações as pressuposições, dois caminhos são possíveis: análise não paramétrica, ou, transformação dos dados, de maneira que passem a atender as pressuposições do modelo [10]. Trabalhos realizados com abobrinha italiana [1], brócolis e pimentão [3, 4] investigaram a ocorrência de violação aos pressupostos do modelo matemático e a necessidade de transformações de dados. Os resultados demonstraram que ocorrem violações as pressuposições de normalidade e homogeneidade dos erros, bem como, dificuldades em obter transformações eficientes dos dados, sendo necessárias transformações diferentes para cada variável, cultura e época de cultivo. Não foram encontradas informações a respeito do atendimento as pressuposições de aditividade dos efeitos e aleatoriedade dos erros em 1 Departamento de Fitotecnia, Centro de Ciências Rurais (CCR), Universidade Federal de Santa Maria (UFSM), CEP , Santa Maria, RS, Brasil. vs.diogo@gmail.com

2 hortaliças, bem como, estudos com tomate visando verificar o atendimento as pressuposições e transformação de dados visando atende-las. O objetivo desse trabalho foi verificar o atendimento às pressuposições do modelo matemático e, identificar transformações de dados para variáveis produtivas de tomateiro em colheitas individuais e agrupadas. 2 Material e Métodos Foi conduzido um experimento com a cultura do tomate tipo salada, híbrido Grandeur na primavera-verão do ano de 2010 em túnel alto no Departamento de Fitotecnia da Universidade Federal de Santa Maria (UFSM), Santa Maria, RS. O túnel possui 20 m de comprimento, 4 m de largura, 3 m de pé direito, e orientação Norte-Sul, coberto com filme de polietileno de baixa densidade (PEBD) de espessura de 100 micras. As mudas foram dispostas em três linhas. Utilizou-se espaçamento de 0,8 m entre plantas e 1,2 m entre linhas, num total de 24 plantas por linha de cultivo. A adubação foi realizada conforme resultado da análise de solo [7] e os demais manejos seguiram as indicações para a cultura do tomateiro [3]. A parcela foi constituída de duas plantas na direção da linha de cultivo. Foi utilizado o delineamento blocos ao acaso, com três repetições e 12 tratamentos. Foram realizadas 10 colheitas de frutos (de 11/11/2010 a 27/01/2011). Em cada colheita avaliou-se: peso de frutos por planta em balança digital com precisão de 1 g; número de frutos por planta; comprimento e largura média de frutos, mensurados com paquímetro com precisão de 1 mm. A análise de resíduos foi utilizada para testar o atendimento às pressuposições do modelo matemático em cada data de colheita e em colheitas agrupadas. Para isso, as colheitas foram agrupadas por seus múltiplos: agrupamento duas em duas (1ª+2ª; 3ª+4ª;...; 9ª+10ª), agrupamento cinco em cinco (1ª+2ª+3ª+4ª+5ª; 6ª+7ª+8ª+9ª+10ª) e agrupamento total (1ª+2ª+3ª;...; 8ª+9ª+10ª). O erro experimental foi obtido pelo modelo matemático do delineamento blocos ao acaso: y ij = m + t i + b j + e ij, com i = 12 tratamentos e, j = 3 repetições, onde: m é uma constante associada a todas as observações; t i é o efeito do tratamento; b j é o efeito do bloco; e ij é o erro experimental associado à observação y ij [1]. A análise de resíduos foi realizada utilizando os testes de não aditividade de Tukey [9], Lilliefors [8], Bartlett [9] e de Aleatoriedade [8]. Nos casos de violação dos pressupostos do modelo matemático os dados foram transformados e novamente submetidos à análise de resíduos. Foram testadas as

3 transformações: raiz quadrada (Y ij ) 0,5 [10], raiz quarta (Y ij ) 0,25 [1] e suas inversas: (Y ij ) -0,5 e (Y ij ) -0,25 [3, 4]; inversa (Y ij ) -1 [6]. Nestas transformações, quando havia no banco de dados valores nulos adicionou-se uma constante (c=0,5) a variável [10]. Foi também testada à transformação logarítmica (log 10 (Y ij )) e sua inversa (log 10 (Y ij )) -1, adicionando-se a constante (c=1) para valores nulos [3, 10]. Todos os testes foram aplicados em nível de 5% de probabilidade de erro, utilizando planilha eletrônica em Office Excel elaborada por [6]. 3 Resultados e Discussões Houve 100% de atendimento ao pressuposto da aditividade dos efeitos do modelo para todas as variáveis analisadas em colheitas individuais e agrupadas (dados não apresentados). Alta porcentagem de atendimento dessa pressuposição (91,25%) também foi obtida por [5] em ensaios de competição de cultivares de milho no RS. Foram identificadas violações as pressuposições de normalidade, homogeneidade e aleatoriedade dos erros (Tabela 1). A normalidade foi violada em colheitas individuais nas variáveis comprimento (COM) e largura (LAR) de frutos e no agrupamento de duas colheitas, na variável LAR (Tabela 1). A partir do agrupamento da produção em duas metades iguais (5 em 5) obteve-se 100% de atendimento a essa pressuposição. Maiores porcentagens de violação a homogeneidade de variâncias foram verificadas para uma mesma variável e tipo de colheita em relação a normalidade dos erros (Tabela 1), não sendo essa a causa da falta de homogeneidade dos erros conforme sugerido por [6]. Somente com o agrupamento de todas as colheitas realizadas (total) foi possível obter 100% de homogeneidade dos erros para todas as variáveis analisadas. Praticamente não houve atendimento a pressuposição da aleatoriedade dos erros independentemente do tipo de colheita e da variável observada (Tabela 1). Esse não era um resultado esperado, pois em princípio, a aleatoriedade é assegurada pela casualização dos tratamentos na área experimental [10, 6]. Possivelmente diferenças na fertilidade do solo e na distribuição da água de irrigação entre e dentro das linhas de cultivo sejam responsáveis pela não aleatoriedade dos erros. Apenas foi possível identificar transformação de dados eficiente em contornar a falta de homogeneidade de variâncias em colheitas individuais (Figura 1). A transformação logarítmica, raiz quadrada e inversa da raiz quarta foram eficientes nessa situação, porém mesmo assim, em porcentagem igual ou inferior a 50% dos casos de violação das variáveis estudadas. Esse resultado concorda com [1, 3 e 4], que também verificaram grande

4 dificuldade em identificar transformações eficientes em superar a falta de homogeneidade dos erros. Tabela 1. Porcentagem de atendimento aos pressupostos do modelo matemático das variáveis peso (g planta -1 ), número de frutos (NF), comprimento (COM, mm) e largura de frutos (LAR, mm) de tomate. Santa Maria, UFSM, Tipo de Variáveis Colheita PESO NF COM LAR Normalidade Individuais 100% 100% 90% 90% Agrupadas 2 em 2 100% 100% 100% 80% Agrupadas 5 em 5 100% 100% 100% 100% Total 100% 100% 100% 100% Homogeneidade Individuais 80% 70% 50% 40% Agrupadas 2 em 2 80% 100% 40% 80% Agrupadas 5 em 5 100% 50% 100% 100% Total 100% 100% 100% 100% Aleatoriedade Individuais 10% 0% 10% 20% Agrupadas 2 em 2 0% 0% 0% 20% Agrupadas 5 em 5 0% 0% 0% 0% Total 0% 0% 0% 0% Log (Y+1)= transformação logarítmica; (Y+0,5) 0,5 = raiz quadrada; Y -0,25 = inversa da raiz quarta; Sem T= sem transformação eficiente. Figura 1. Eficiência percentual da transformação de dados em provocar o atendimento das variáveis peso, número (NF), comprimento (COM) e largura (LAR) de frutos em colheitas individuais a pressuposição de homogeneidade de variâncias. Santa Maria, UFSM, Não houve transformação eficiente para contornar a falta de normalidade e aleatoriedade dos erros. Esse resultado concorda com [3], que mesmo após a transformação

5 Box-Cox em dados de brócolis não obteve a normalidade dos erros. Conforme [6], não há solução aparente para a falta de aleatoriedade dos erros, uso de testes não paramétricos ou transformação de dados. 4 Conclusões Os dados das variáveis de tomateiro apresentam atendimento ao pressuposto da aditividade dos efeitos. Ocorrem violações das pressuposições de normalidade, homogeneidade e aleatoriedade dos erros nas variáveis de tomateiro. As transformações raiz quadrada, logarítmica e inversa da raiz quarta são eficientes para superar a heterogeneidade de variâncias das variáveis de tomateiro. 5 Bibliografia [1] COUTO, M. R. M. et al. Transformação de dados em experimentos com abobrinha italiana em ambiente protegido. Ciência Rural. Santa Maria. v. 39, n. 6, p , [2] FILGUEIRA, F. A. R Novo manual de Olericultura: Agrotecnologia moderna na produção e comercialização de hortaliças. Viçosa: UFV. 421p. [3] LÚCIO, A. D. et al. Excesso de zeros nas variáveis observadas: estudo de caso em experimento com brócolis. Bragantia. Campinas. v. 69, n.4, p , [4] LÚCIO, A. D. et al. Transformação box-cox em experimentos com pimentão em ambiente protegido. Horticultura Brasileira. Brasília. v. 29, p , [5] MARQUES, D. G. et al. Qualidade dos ensaios de competição de cultivares de milho no estado do rio grande do sul. Ciência Rural. Santa Maria. v. 30, n. 3, p , [6] MARTIN, T. N.; STORCK, L. Análise das pressuposições do modelo matemático em experimentos agrícolas no delineamento blocos ao acaso. In: MARTIN, T. N.; ZIECH, M. F. (Org.). Sistemas de Produção Agropecuária. Curitiba: UTFPR, cap. 11, p [7] SOCIEDADE BRASILEIRA DE CIÊNCIA DO SOLO. Comissão de química e fertilidade do solo Manual de adubação e de calagem para os estados do Rio Grande do Sul e de Santa Catarina. Porto Alegre: Núcleo Regional Sul - Sociedade Brasileira de Ciência do Solo. 394p. [8] SPRENT P; SMEETON NC Applied nonparametric statistical methods. Boca Raton: Chapman & Hall. 530p. [9] STEEL, R. G. D.; TORRIE, J. H.; DICKEY, D. A. Principles and procedures of statistics: a biometrical approach. New York: McGraw-Hill, p. [10] STORCK, L. et al. Experimentação vegetal. Santa Maria: UFSM, p.