USO DE PLANILHA ELETRÔNICA NA VERIFICAÇÃO DA ADEQUAÇÃO DE CURVA ANALÍTICA AO MODELO LINEAR

Transcrição

1 Artigo USO DE PANIHA EETRÔNICA NA VERIFICAÇÃO DA ADEUAÇÃO DE CURVA ANAÍTICA AO MODEO INEAR the use of electroic spreadsheet i the verificatio of the adequacy of aalytical curve to the liear model RESUMO A avaliação de curvas aalíticas quato à sua adequação ao modelo liear é uma etapa importate para a cofiabilidade dos resultados do laboratório O presete trabalho apreseta uma solução para a otimização do tempo gasto com os cálculos estatísticos imprescidíveis para a avaliação da curva Para a apresetação da plailha foi utilizado como exemplo o preparo de uma curva aalítica para a determiação do moômero ε-caprolactama em matriz alcoólica (etaol 95%) A plailha foi desevolvida o software Microsoft Excel e pode ser gratuitamete obtida Palavras-chave: Plailha Eletrôica iearidade Validação Fabio S Bazilio* Marcus VJ Bomfim Rodrigo J Almeida e Shirley MP Abrates Departameto de uímica Istituto Nacioal de Cotrole de ualidade em Saúde (INCS) Fudação Oswaldo Cruz (FIOCRUZ) *Correspodêcia: fabiobazilio@icqsfiocruzbr ABSTRACT The evaluatio of aalytical curves ad their suitability for the liear model is a importat step i the reliability of laboratory results This paper presets a solutio to the optimizatio of the time spet with statistical calculatios essetial for the evaluatio of the curve For the presetatio of the spreadsheet was used as a example the preparatio of a aalytical curve for the determiatio of ε-caprolactam moomer i alcoholic matrix (ethaol 95%) The spreadsheet software was developed i Microsoft Excel ad ca be obtaied free of charge Keywords: Spreadsheet iearity Validatio INTRODUÇÃO A costrução de curvas aalíticas é uma prática comum em laboratório sedo este passo de extrema importâcia para a obteção de resultados precisos e com boa exatidão Uma curva aalítica bem costruída e bem estudada garate cofiabilidade à aálise e ao resultado aalítico porém há dificuldade a avaliação mais aprofudada sobre a adequação desta ao modelo adotado Uma avaliação simplificada através do coeficiete de correlação por muitas vezes ão é a mais adequada Por outro lado testes mais completos requerem um cohecimeto estatístico míimo além de exigir uma alta carga de cálculos matemáticos O uso de plailhas eletrôicas costruídas para este fim pode ser quado utilizadas adequadamete uma poderosa ferrameta para tais avaliações Por meio da plailha eletrôica podemos avaliar uma curva aalítica através de cálculos matemáticos complexos em poucos miutos de maeira fácil e cofiável Neste trabalho é apresetada uma plailha eletrôica desevolvida com base os estudos de Souza e Juqueira (005) para avaliação da adequação de uma curva aalítica ao modelo liear Existem diversos modelos de teste dispoíveis sedo algus mais adequados a cada situação Para a costrução da plailha eletrôica apresetada foram selecioados testes já bastate utilizados e discutidos Souza e Juqueira propõe um procedimeto detalhado para o teste de liearidade de curvas de calibração a validação do esaio aalítico pelo método de míimos quadrados ordiários (OSM) icluido 60 Revista Aalytica Juho/Julho 01 Nº 59

2 Revista Aalytica Juho/Julho 01 Nº 59 61

3 Artigo delieameto experimetal a estimativa dos parâmetros e tratameto de valores extremos (outliers) (SOUZA E JUN- UEIRA 005) MATERIAIS E MÉTODOS A seguir será apresetada a metodologia utilizada o preparo da curva aalítica assim como sua avaliação por meio da plailha eletrôica Para exemplificar foi utilizada uma curva aalítica para determiação da cocetração de ε-caprolactama em matriz alcoólica (etaol 95%) Deseho experimetal da curva aalítica Para defiição da faixa de trabalho a ser utilizada é ecessária a observação do limite de restrição do aalito presete a legislação Esta cocetração deve ecotrar-se o meio da faixa de trabalho ode a curva aalítica apreseta a meor icerteza para a determiação da cocetração Os íveis de cocetração da curva aalítica devem ser igualmete espaçados e preparados com três repetições geuías ou seja cada repetição é preparada idepedetemete a partir de soluções estoque diferetes (THOMPSON et al 00) Métodos utilizados para a avaliação da curva Estimativa dos parâmetros de Regressão Os parâmetros a e b da regressão são estimados através das equações 1 e Equação 1 Sedo Equação O resíduo e i referete a cada valor x i é dado pela equação 3 Equação 3 Sedo ŷ i = variável depedete estimada pela equação de regressão O coeficiete de determiação do ajuste R é defiido pela equação 4 Equação 4 Tratameto de Valores Extremos (outliers) Valores extremos são valores ou dados que estatisticamete ão fazem parte do cojuto de dados estudado podedo levar a erros a estimativa dos parâmetros da regressão (BESEY et al 1980) Sedo assim é importate a avaliação da preseça destes e uma possível exclusão Os valores extremos são avaliados pelo método dos resíduos padroizados Jackife cuja estatística é o resíduo padroizado Jackife calculado para cada poto da curva de calibração coforme descrito pela equação 5 Equação 5 Sedo p = úmero de parâmetros do modelo (resíduo padroizado) (erro padrão do resíduo) (poto de alavaca) Valores maiores que o valor t ( 1 a / ; p 1) crítico são cosiderados valores extremos podedo ser removidos até o máximo de % do total de determiações (HORWITZ 1995) Não se deve também excluir todo um ível de cocetração devedo permaecer ao meos uma repetição em cada ível A cada dado excluído os parâmetros de regressão são ovamete estimados Teste de Normalidade O método dos míimos quadrados ordiários (MMO) pressupõe que os resíduos da regressão seguem a distribuição ormal ão havedo desvios de ormalidade A ormalidade dos resíduos da regressão é verificada pelo teste Rya-Joier (RYAN JOINER 1976) Os resíduos são primeiramete ordeados em ordem crescete Em seguida é costruído um gráfico dos valores dos resíduos ordeados e i versus os valores dos percetis estimados para uma distribuição ormal reduzida q i (quatis ormais) Os quatis ormais são obtidos pela equação 6 Equação 6 Sedo q i = valor ormal esperado 1 = iverso de uma fução de distribuição ormal padrão ϕ q i é calcula- O coeficiete de correlação etre e i e do pela equação 7 Equação 7 6 Revista Aalytica Juho/Julho 01 Nº 59

4 Sedo 6 HT 6 HH H H T T H H T H H ¹ Teste de Idepedêcia (Autocorrelação dos resíduos) H T A autocorrelação ou idepedêcia dos resíduos é verificada através do teste de Durbi-Watso (DURBIN & WATSON 1951) A estatística deste teste é a estatística d defiida pela equação 10 H T ¹ T 6 TT T T G H T T O coeficiete de correlação 5HT é etão comparado com o Rcrit() para um α de 005 como descrito a equação 8 5FUW Equação 8 O coeficiete de correlação 5HT deve ser maior que o valor de Rcrit() Valores abaixo idicam a ão ormalidade dos resíduos da regressão Teste de Homoscedasticidade A homoscedasticidade dos resíduos da regressão é verificada através do teste de evee (1960) (EVENE 1960) modificado por Brow & Forsythe (1974) Os resíduos são divididos igualmete em dois grupos mas sem que haja separação de repetições de um mesmo ível em grupos diferetes Um deve coter os íveis de meor cocetração e outro os íveis restates São calculadas as mediaas dos resíduos de cada ~ ~ ) o valor absoluto das difereças etre os resígrupo ( e1 e e ~ e duos e as mediaas dos respectivos grupos ( d1 j = e 1 1j ~ e d j = e e j ) a média das difereças d k e a soma dos quadrados dos desvios SDk dos valores G NM de cada k grupo A estatística t é obtida pela equação 9 Equação 10 H H H H São calculados dois limites críticos d (limite iferior) e du (limite superior) Se o valor de d estiver etre os dois limites o teste é icoclusivo Valores de d meores que d idicam autocorrelação equato valores de d maiores que du idicam idepedêcia dos resíduos Os limites d e du para um a =005 são dados pelas equações 11 e 1 Equação 11 Equação 1 G / G8 Teste de sigificâcia da regressão e do desvio da liearidade O teste de sigificâcia da regressão e do desvio da liearidade é realizado através da aálise de variâcia apresetada a Tabela 1 avaliada através da estimativa dos parâmetros pelo método dos míimos quadrados ordiários (MMO) (DRAPER & SMITH 1998) O valor da sigificâcia p observado para a regressão deve ser meor que 0001 equato o valor da sigificâcia p observado para o desvio da liearidade deverá ser maior que 005 Tabela 1 Aálise de variâcia para sigificâcia da regressão e do desvio da liearidade FV G S ( xi x )( yi y ) Regressão 1 ( x x ) i W/ G G V S ¹ Equação 9 Sedo GN Ha N HNM N k = úmero de dados em cada k grupo e~k = mediaa de cada k grupo Sp (variâcia combiada) ode G NM é a difereça etre cada j-ésimo resíduo e a mediaa de seu k grupo Há idicação de homoscedasticidade caso a estatística t ão exceda o valor crítico t (1 a / ; + ) 1 Revista Aalytica Juho/Julho 01 Nº 59 Resíduos - (y Desvio da iearidade u- ( yˆ yˆ i ) i k k Etre Níveis u-1 (y Erro Puro -u ( y Total -1 k u yk ) k y ) kj yk ) k k =1 j =1 ( y y) i M F p 645H JU 40 5H JU Distribuição de probabilidade F */5H JU 645H V */5H V V UHV '67) )5H JU */5H JU */5H VtGXR VUHV 64'HVYR */'HVYR 40 'HVYR 40 (UUR3XUR Distribuição de probabilidade F '67) )'HVYR */'HVYRU */(UUR3XUR 64(UUR3XUR */(UUR3XUR 647RWDO */7RWDO FV fote de variação; G graus de liberdade; S soma dos quadrados; M média dos quadrados; F estatística da aálise de variâcia; p sigificâcia 63

5 Artigo imites de detecção e quatificação Através da curva aalítica fial após sua avaliação e exclusão de possíveis valores extremos são determiados os limites de detecção OD (Equação 13) e de quatificação O (Equação 14) O método utilizado baseia-se a curva preparada e o seu itervalo de cofiaça (MIER & MIER 1993) Equação 13 Etrada de Dados Após a plailha ser carregada esta é iiciada a págia iicial apresetada a Figura 1 chamada de Etrada de Dados Nesta págia são iseridos os dados de rastreabilidade da curva aalítica assim como os resultados ecotrados e iformações importates para a mesma Através do botão Editar Plailha será aberta a jaela de Opções apresetada a Figura Equação 14 Ode Uso da Plailha Eletrôica A plailha eletrôica foi desevolvida o software Microsoft EXCE 003 e requer que este esteja habilitado para rodar macros Os cálculos referetes aos testes empregados correspodem aos apresetados ateriormete É possível a sua utilização para avaliação de curvas aalíticas lieares com um máximo de 1 dados sedo estes distribuídos etre os íveis de cocetração Os íveis de cocetrações devem ter um míimo de duas repetições idepedetes ou replicatas sedo o úmero ideal de o míimo três Figura Caixa de opções de etrada de dados Figura 1 Págia iicial da plailha (Etrada de Dados) Nova Plailha: Iicia a etrada de dados de uma ova plailha Caso haja dados previamete iseridos estes dados são apagados Editar dados de idetificação da curva: Abre a caixa de opções de edição dos dados previamete iseridos Salvar Plailha: Esta opção abre a jaela Salvar como ode é possível salvar a plailha o local desejado A idetificação dada para a curva é sugerida como ome do arquivo porém este pode ser alterado como desejado impar Resultados da Curva: impa todos os resultados da curva iseridos Sobre a Plailha: Abre a jaela de iformações da plailha cotedo a sua versão atual autor e de cotato É possível aida através desta jaela visualizar as referêcias utilizadas para o desevolvimeto da mesma Ao selecioar a opção Nova plailha ou Editar dados de idetificação da curva será aberta a jaela Dados da Curva como apresetado a Figura 3 Nesta jaela são iseridos os dados da curva ou os mesmos podem ser editados posteriormete Algumas etradas possuem opções cadastradas que podem ser selecioadas porém outras opções podem ser iseridas as caixas de texto 64 Revista Aalytica Juho/Julho 01 Nº 59

6 Figura 3 Caixa de etrada e edição de dados da curva Na plailha pricipal apresetada a Figura são iseridas as cocetrações calculadas para os padrões preparados e os resultados ecotrados para os mesmos Após a iserção destes dados pode-se através do botão Armazear Dados salvar os resultados da curva para posterior recuperação dos mesmos Este passo é importate pois a próxima etapa algus dados podem ser cosiderados extremos sedo excluídos Avaliação da Preseça de Valores Extremos O botão Avaliar Outliers abre a jaela Avaliação de Outliers (Figura 4) ode são carregados os resultados do teste de preseça de valores extremos (outliers) Valores cosiderados extremos são apresetados em vermelho e estes podem ser excluídos selecioado-se o dado desejado e clicado-se o botão Retirar Outliers Primeiramete devem ser excluídos os dados com maior valor absoluto de J para posterior ei exclusão do próximo Deve-se observar aida o máximo de % de dados excluídos Após a exclusão de possíveis valores extremos pode-se acessar a págia do relatório fial através do botão Resumo dos Resultados ou acessado a pasta Curva Aalítica No relatório fial costam todos os dados e resultados dos testes realizados assim como a avaliação fial dos mesmos No campo Resumo da Avaliação observa-se a avaliação dos testes sedo resultados egativos apresetados em vermelho O campo imites de Detecção e uatificação (D e ) apreseta os limites de quatificação e detecção determiados para a curva aalítica preparada Os resultados dos testes são apresetados o relatório fial porém as plailhas completas cotedo os cálculos rea- Figura 4 Avaliação da preseça de valores extremos Relatório Fial lizados para os testes podem ser acessadas selecioado-se a pasta referete ao teste desejado RESUTADOS E DISCUSSÃO Através da plailha eletrôica foram realizados os testes apresetados ateriormete Os resultados são apresetados abaixo Preparo da curva aalítica Iicialmete foram preparadas três soluções estoque geuías com cocetração omial de 1000 mg/ de ε-caprolactama através da pesagem de três massas do padrão o mais próximas possível A partir de cada solução estoque preparou-se uma curva aalítica com seis íveis de cocetração igualmete espaçados A Tabela apreseta as cocetrações calculadas para cada padrão preparado Tabela Cocetrações dos padrões Nível Repetição 1 Repetição Repetição Revista Aalytica Juho/Julho 01 Nº 59 65

7 Artigo Avaliação da preseça de valores extremos A preseça de valores extremos foi avaliada sedo excluídos dois potos da curva aalítica 111% do total de dados iiciais Os dados excluídos perteciam ao quarto e quito íveis de cocetração A pós a exclusão destes dados ão houve a ecessidade de excluir ovos dados A Tabela 3 apreseta a curva fial após a avaliação dos valores extremos Tabela 3 Curva aalítica fial após tratameto de valores extremos (outliers) Nível (k) Coc mg/ Resposta Área (i) (i) (i) Estes valores represetam os dados excluídos a avaliação da preseça de valores extremos Apesar de estarem presetes a plailha estes dados ão são utilizados para as avaliações realizadas Teste de ormalidade A ormalidade dos resíduos da regressão da curva aalítica foi avaliada sedo os resultados apresetados a Tabela 4 O valor de Req ecotrado maior que o valor crítico Rcrit (a=005) idica que os resíduos da regressão seguem a distribuição ormal Tabela 4 Resultados do teste de ormalidade Estatísticas do Teste Rcrit (a=005) Req coeficiete de correlação etre e i e q i ; Rcrit R crítico Teste de homoscedasticidade dos resíduos A homoscedasticidade dos resíduos da regressão foi verificada e a Tabela 5 apreseta os resultados obtidos Tabela 5 Resultados do teste de homoscedasticidade Estatística Grupo 1 Grupo 9 7 Mediaa dm Variâcia t -138 t p 019 p > 005 úmero de observações o grupo; dm média das difereças etre cada resíduo e a mediaa do seu grupo; t estatística t; t 0975 t crítico; p sigificâcia Teste de autocorrelação dos resíduos ou idepedêcia A autocorrelação dos resíduos foi verificada e a Tabela 6 apreseta os resultados obtidos para os limites d (iferior) e d U (superior) com um ível de sigificâcia de 005 O valor calculado para a estatística d do teste é maior que o limite superior idicado a idepedêcia dos resíduos Tabela 6 Resultados do Teste de Autocorrelação Teste de sigificâcia da regressão e desvio de liearidade imites d d d U d estatística d; d limite iferior; d U limite superior O teste de sigificâcia da regressão e desvio da liearidade foi realizado através da aálise de variâcia - ANOVA A Tabela 7 apreseta os resultados obtidos O valor de p calculado para regressão é iferior a 0001 idicado que a regressão é sigificativa O valor de p calculado para a falta de ajuste ou desvio de liearidade é superior a 005 idicado que a falta de ajuste ão é sigificativa Tabela 7 Resultados da Aálise de variâcia para sigificâcia da regressão e do desvio da liearidade Fote de Variação G S M F p Regressão Resíduos Desvio da iearidade Erro Puro Total G graus de liberdade; S soma dos quadrados; M média dos quadrados; F estatística da aálise de variâcia; p sigificâcia 66 Revista Aalytica Juho/Julho 01 Nº 59

8 CONCUSÕES Devido à crescete ecessidade de utilização de ferrametas mais completas para a um estudo mais aprofudado sobre a adequação de curvas aalíticas preparadas o laboratório ao modelo adotado liear temos a utilização da plailha eletrôica uma importate ferrameta para redução do tempo de trabalho O desevolvimeto da plailha eletrôica permitiu uma redução cosiderável do tempo de execução e iterpretação dos testes aumetado aida a cofiabilidade dos cálculos executados A plailha eletrôica desevolvida e apresetada este trabalho pode ser obtida através do edereço eletrôico: fabiobazilio@icqsfiocruzbr R e f e r ê c i a s SOUZA S V C; JUNUEIRA R G A procedure to assess liearity by ordiary least squares method Aal Chim Acta v p THOMPSON M; EISON S R; WOOD R Harmoized guidelies for a sigle-laboratory validatio of methods of aalysis Pure Applied Chemistry v74 p BESEY D A; KUH E; WESCH R E Regressio diagostics: idetifyig ifluetial data ad sources of coliearity New York: Wiley 9 p 1980 HORWITZ W Protocol for the desig coduct ad iterpretatio of method performace studies Pure Applied Chemistry v 67 p RYAN T A; JOINER B Normal probability plots ad tests for ormality The State College: Pesylvaia State Uiversity p EVENE H Robust tests for equality of variaces I: OKIN I; GHURYE S G; HOEFFDING W; MADOW W G; MANN H B (Ed) Cotributios to probability ad statistics Staford: Staford Uiversity Press 1960 p 78-9 BROWN M B; FORSYTHE A B Robust tests for the equality of variaces J Am Stat Assoc v p DURBIN J; WATSON G S Testig for serial correlatio i least squares regressio ii Biometrika v p DRAPER N; SMITH H Applied regressio aalysis New York: Wiley p MIER J C MIER J N; Statistics for Aalytical Chemistry Ellis Horwood imited New York 1993 SNEDECOR G W; COCHRAN W G Statistical methods Ames: Iowa State Uiversity 503 p 1989 Revista Aalytica Juho/Julho 01 Nº 59 67