Análise estatística de dados de medidas repetidas provenientes de um experimento para avaliar a qualidade pós-colheita de banana Prata - Anã

Transcrição

1 Análise estatística de dados de medidas repetidas provenientes de um experimento para avaliar a qualidade pós-colheita de banana Prata - Anã Simone Silmara Werner Gurgel do Amaral 1, Sara Regina Kulzer 2, Simone Aparecida Miloca 2, Silvia Renata Machado Coelho 2, César Gonçalves de Lima 1 1 Departamento de Ciências Exatas LCE-ESALQ-USP Avenida Pádua Dias, Piracicaba - SP - Brasil 2 Centro de Ciências Exatas e Tecnológicas Universidade Estadual do Oeste do Paraná Cascavel - PR - Brasil sswerner@esalq.usp.br, smiloca@gmail.com, cegdlima@usp.br Resumo. A banana é uma fruta consumida em todo o mundo, que devido ao seu padrão respiratório é altamente perecível, de forma que técnicas de armazemento deste produto são objeto de estudo de inúmeros trabalhos. O objetivo deste trabalho é apresentar uma análise estatística de dados de um experimento para verificar a qualidade de banana Prata-Anã durante o armazenamento. Os dados foram obtidos de um experimento realizado para testar o efeito de diferentes imersões nas modificações físicoquímicas do fruto em 10 diferentes ocasiões. O modelo empregado foi o de parcelas subdivididas no tempo que é o modelo mais simples para o caso de medidas repetidas. Inicialmente foram realizados os testes de normalidade, e de esferecidade da matriz de variâncias de forma a satisfazer as pressuposições do modelo. A análise realizada permitiu identificar diferenças de comportamento entre o grupo Testemunha e os demais no decorrer do tempo. Palavras Chaves. armazenamento, parcelas subdivididas no tempo, teste de esferecidade de Mauchly. 1. Introdução A banana é a fruta mais consumida no mundo, é altamente energética e uma importante fonte de vitaminas e sais minerais. A produção brasileira é a segunda em nível Este trabalho é parte da monografia (Licenciatura em Matemática) do primeiro autor Curso de Matemática - Unioeste - Cascavel Pág. 31

2 mundial, mas apresenta altos índices de perdas na pós-colheita. A sua fase de amadurecimento é marcada por um grande aumento na taxa respiratória e produção de etileno, o que caracteriza o fruto como climatérico, e o torna altamente perecível (CHITARRA e CHITARRA, 2005). No sentido de se obter uma melhor uniformização do grau de amadurecimento do fruto, alguns tratamentos podem ser aplicados às frutas logo após a colheita. O objetivo deste trabalho é apresentar uma análise estatística de dados de um experimento para verificar a qualidade de banana Prata-Anã durante o armazenamento. No sentido de se fazer uma análise estatística correta, faz-se necessário um conhecimento teórico que possibilite sua aplicação bem como o conhecimento teórico do problema a ser estudado. No estudo do armazenamento de um produto, por exemplo, deve-se considerar que ele será realizado no decorrer do tempo, caracterizando um experimento com medidas repetidas, e para isso, o planejamento além do delineamento experimental um esquema de distribuição no tempo. Nesse caso, é razoável considerar que exista uma correlação entre as diferentes observações feitas em uma mesma unidade experimental, de forma que o modelo linear clássico não é adequado neste caso, por pressupor a independência entre observações. O modelo mais simples para ensaios com medidas repetidas é o modelo de parcela subdividida, dado por: y ijk = µ + α i + γ ij + β k + (αβ) ik + ε ijk (1) na qual y ijk é o valor observado para a variável resposta; µ é uma constante comum a todas as observações; α i é o efeito do i-ésimo tratamento, γ ij é o erro associado às parcelas com γ ij N(0, σa) 2 ; β k é o efeito do k-ésimo tempo ; (αβ) ik é o efeito da interação do i-ésimo tratamento com o k-ésimo tempo e ε ijk é o erro associado às subparcelas, com ε ijk N(0, σ 2 ). Ao considerarmos tal modelo, aplicamos nas parcelas os níveis do fator primário na qual são tomadas medidas repetidas em ocasiões sucessivas (o fator secundário é o tempo), e admite-se que essas medidas tomadas em ocasiões distintas têm variâncias homogêneas e são igualmente correlacionadas, o que nem sempre ocorre na prática. De acordo com Huynh e Feldt (1979) uma condição necessária e suficiente para que possa ser empregada a análise de variância univariada no esquema de parcelas subdivididas para um experimento com medidas repetidas, é que a matriz de covariâncias entre os tempos satisfaça a condição de esfericidade ou circularidade, o que é equivalente a especificar que as variâncias entre pares de erros sejam todas iguais. Para testar tal condição, Mauchly (1940) propôs o teste de esfericidade que verifica se uma população normal multivariada apresenta variâncias iguais e correlações nulas. Caso o teste de esfericidade de Mauchly resulte em não significativo, conclui-se que a matriz de covariâncias é do tipo esférica podendo o experimento ser analisado na forma de parcela subdivida; caso contrário recomenda-se o uso da análise multivariada de perfis, ou a utilização da análise univariada adotando-se modelos mistos que permitem a incorporação de estruturas mais complexas para matriz de covariâncias, sendo o modelo de parcelas subdivididas um caso particular de modelos mistos (De KETELAERE, et al.,2003). Dentre os muitos programas disponíveis para realização da análise de medidas repetidas, o software R (R Development Core Team, 2009), que é um software livre, conta com a colaboração de inúmeros pesquisadores renomados de todo o mundo. Este é o software utilizado neste trabalho. Curso de Matemática - Unioeste - Cascavel Pág. 32

3 2. Material e Métodos Os dados utilizados neste trabalho são provenientes de um experimento realizado no Laboratório de Saneamento da UNIOESTE, Campus Cascavel, no ano de Para realização do mesmo foram utilizadas bananas do cultivar Prata Anã, provenientes do pomar não comercial localizado no município de Corbélia, aleatoriamente agrupadas em vinte parcelas, formadas por dez subparcelas, sendo a subparcela formada por um fruto, totalizando duzentos frutos. As bananas foram submetidas a cinco tratamentos, que consistiram na imersão dos frutos em diferentes soluções: T - (Testemunha) água clorada a temperatura ambiente durante três minutos. OS5% - óleo de soja na concentração de 5% durante três minutos. OSL5% - óleo de soja na concentração de 5%, acrescido de leite em pó, durante três minutos. OS10% - óleo de soja na concentração de 10% durante três minutos. OSL10% - óleo de soja na concentração de 10%, acrescido de leite em pó, durante três minutos. Para cada um dos tratamentos foram utilizadas quatro parcelas, avaliadas em 10 ocasiões, sendo a primeira delas realizada imediatamente após a aplicação dos tratamentos (Tempo 0) e as seguintes realizadas a cada dois dias (Tempo 2, Tempo 4, Tempo 6, Tempo 8, Tempo 10, Tempo 12, Tempo 14, Tempo 16, Tempo 18). Em cada uma das ocasiões os frutos foram avaliados quanto a Acidez Total Titulável (ATT) (SILVA et al., 1996), expressa em g de ácido málico g da amostra e Sólidos Solúveis Totais (SST) por leitura refratométrica direta em Brix (MEDINA, 2004), sendo a relação SST/ATT obtida pelo quociente entre essas variáveis. Para verificar a normalidade dos dados utilizou-se o teste de Normalidade de Kolmogorov-Smirnov por meio da função ks.test do pacote stats, e para verificar a necessidade de transformação utilizou-se a função boxcox disponível no pacote MASS. Para verificar a possibilidade de utilização do modelo de parcela subdividida no tempo, utilizou-se o teste de esferecidade de Mauchly, por meio da função mauchly.test também disponível no pacote stats. Sendo a condição de esferecidade satisfeita utilizouse o pacote dae para realizar o ajuste do modelo apresentado na expressão 1 em que y ijk é o valor observado para a variável SST/AT T na escala transformada; µ é uma constante comum a todas as observações; α i é o efeito da i-ésima imersão, γ ij é o erro associado às parcelas; β k é o efeito do k-ésimo tempo ; (αβ) ik é o efeito da interação do i-ésima imersão com o k-ésimo tempo e ε ij é o erro associado às subparcelas. Nesse caso temos i = 1,..5, k = 1, 2,..., 10, j = 1,..., 4. No programa R o erro associado às parcelas é especificado como Error(parcela) e o erro associado às subparcelas não precisa ser especificado pois resultará da diferença entre a variabilidade total e a variabilidade especificada no modelo. Para verificação do efeito principal de imersões, que foi aplicado às parcelas utilizou-se o erro associado a parcela, e para verificar o efeito do tempo e da interação tempo imersões utilizou-se o erro associado às subparcelas. Para o efeito significativo da interação, o que indica uma relação de dependência entre os dois fatores, deve-se utilizar o resíduo associado às subparcelas como denominador do teste F para verificar o efeito do tempo em cada uma das imersões, e para verificar o efeito das imersões em cada tempo deve-se utilizar uma composição dos erros (BARBIN, 2003) dada por: Curso de Matemática - Unioeste - Cascavel Pág. 33

4 QMErro = QMErro(A) + (b 1)QMErro(B) b (2) em que QMErro(A) representa o quadrado médio do resíduo associado às parcelas; QMErro(B) representa o quadrado médio do resíduo associado às subparcelas; b representa o número de níveis do fator aplicado às subparcela, nesse caso ocasiões. O Erro obtido por meio da expressão 2 está associado a p graus de liberdade, o qual pode ser calculado pela fórmula de Sattertwait: p = [QMErro(A) + (b 1)QMErro(B)]2 (3) + [(b 1)QMErro(B)]2 n B QMErro(A) 2 n A em que n A é o número de graus de liberdade associado ao Erro(A), e n B é o número de graus de liberdade associado ao Erro(B). 3. Resultados Ao realizar o teste de normalidade para os dados referente à relação SST/ATT, obtevese p-valor < 0, 0001, indicando a necessidade de tentar uma transformação de variável. A Figura 1 da esquerda apresenta o gráfico boxcox e o intervalo sugerido para λ, em que λ representa o parâmetro da transformação de box cox. Nesse caso optou-se pela transformação y 0.55, sendo novamente realizado o teste de Kolmogorov-Smirnov. O p- valor = 0,4171 sugere que os dados da variável transformada tem distribuição normal. O qq-plot da variável transformada (Figura 1) indica uma boa aderência à distribuição normal. Figura 1: Gráfico boxcox para a variável original e gráfico normal de probabilidades para a variável transformada A figura 2 apresenta uma visão geral dos dados na escala transformada em função dos tratamentos empregados, e dos tempos de avaliação. Ao realizar o teste de Mauchly obteve-se o valor p = 0, 6229, indicando que a matriz de covariância nesse caso é da forma esférica podendo ser empregado o modelo de parcela subdividida no tempo. Curso de Matemática - Unioeste - Cascavel Pág. 34

5 Figura 2: Perfis médios de SST/ATT (escala transformada) por imersão, ao longo do tempo. Conforme observa-se na tabela 1, houve efeito significativo da interação, bem como dos efeitos principais dos fatores Imersões e Tempo. A tabela 2 apresenta os valores obtidos para os Quadrados Médios, F calculados e valor p para o desdobramento dos tempos em cada uma das imrsões empregadas. Observa-se que o efeito do tempo apenas não foi significativo para o grupo Testemunha, com p = , para os demais grupos o efeito do tempo foi significativo, indicando que houveram diferenças entre os valores médios observados da variável SST/ATT transformada com decorrer do tempo. Tabela 1: Análise de Variância para a variável (SST/ATT) 0,55 utilizando o modelo de parcela subdividida no tempo Causas de Variação g.l. Quadrado Médio F Calculado valor p Imersões < Erro (Parcela) Tempo < Imersões:Tempo Erro (Subparcela) Tabela 2: Análise de Variância do desdobramento do tempo em cada uma das imersões para a variável (SST/ATT) 0,55 utilizando o modelo de parcela subdividida no tempo Causas de Variação g.l. Quadrado Médio F Calculado valor p Tempo(T) Tempo(OS5%) < Tempo(OSL5%) < Tempo(OS10%) < Tempo(OSL10%) < T: Testemunha, OS: Óleo de Soja e OSL: Óleo de Soja + Leite Curso de Matemática - Unioeste - Cascavel Pág. 35

6 A tabela 3 apresenta os valores resultados obtidos para o desdobramento das Imersões em cada ocasião. O QMErro utilizado como denominador da estatística F, foi o valor 1, 53 com 148 graus de liberdade. Foi observado efeito das imersões nos tempos 6, 10, 12, 14 e 18. No tempo 0 não foi observado efeito significativo das imersões o que indica que os grupos eram iguais no início do experimento. Os resultados do teste de Tukey para comparação das médias das imersões em cada tempo está apresentado na tabela 4. Tabela 3: Análise de Variância do desdobramento das imersões em cada uma das ocasiões para a variável (SST/ATT) 0,55 utilizando o modelo de parcela subdividida no tempo Causas de Variação g.l. Quadrado Médio F Calculado valor p Imersões(Tempo0) Imersões(Tempo2) Imersões(Tempo4) Imersões(Tempo6) Imersões(Tempo8) Imersões(Tempo10) Imersões(Tempo12) , Imersões(Tempo14) Imersões(Tempo16) Imersões(Tempo18) Tabela 4: Médias de (SST/ATT) 0.55 por imersão e por ocasião. Imersões Ocasiões T OS5% OSL5% OS10% OSL10% Tempo Tempo Tempo Tempo b 7.81 ab 7.91 ab 6.19 b 9.38 a Tempo Tempo b 7.35 ab 7.70 ab 8.45 a 7.93 ab Tempo b 9.23 a 9.68 a 9.62 a 8.95 a Tempo c 7.74 bc 8.41 ac a 9.37 ab Tempo Tempo b 9.02 a 8.40 a 8.46 a 7.59 ab Letras diferentes nas linhas indicam diferença significativa (Tukey: α = 5%) 4. Conclusões O modelo de parcelas subdividida no tempo ajustou-se aos adequadamente aos dados utilizados neste trabalho. O software R mostrou-se adequado, possibilitando todas as análises realizadas neste trabalho. Curso de Matemática - Unioeste - Cascavel Pág. 36

7 Referências BARBIN, D. Planejamento e Análise Estatística de Experimentos Agronômicos. 1. ed. Arapongas,PR: MIDAS, v p. CHITARRA, M. I. F. e CHITARRA, A. B. Pós-colheita de frutas e hortaliças: fisiologia e manuseio. 2 a ed. Revisada. Lavras: UFLA, De KETELAERE, B., LAMMERTYN, J., MOLENBERGHS, G., NICOLAÏ, B., De BAERDEMAEKER, J. Statistical models for analyzing repeated quality measurements of horticultural products. Model evaluations and practical example. Mathematical Biosciences, 185 (2), , HUYNH, H. & FELDT, L.S. Conditions under which mean square rations in repeated measurements designs have exact F-distributions. Journal of the American Statistical Association, Boston, v.65, n. 322, p , MAUCHLY, J. W. (June 1940). Significance Test for Sphericity of a Normal n-variate Distribution. The Annals of Mathematical Statistics, 11 (2): doi: /aoms/ MEDINA, V.M.; MORAES JUNIOR, A.T.; BARBOSA, K.C., SILVA, S,O. Climatização de bananas com ethephon. Revista Brasileira de Fruticultura. abril, v.18. n.1, p R Development Core Team. R: A Language and Environment for Statistical Computing, R Foundation for Statistical Computing,Vienna, Austria, 2009, ISBN , SILVA, A. P.; EVANGELISTA, R.M.; VIEITES, R.L. Uso de películas de amido e de sacos de polietileno na conservação pós colheita de bananas armazenadas sob refrigeração. Revista Brasileira de Fruticultura, v. 18 n.1, Cruz das Almas,1996. Curso de Matemática - Unioeste - Cascavel Pág. 37