Programa de Pós Graduação em Engenharia de Recursos Hídricos e Ambiental Departamento de Hidráulica e Saneamento Universidade Federal do Paraná SANEAMENTO AMBIENTAL EXPERIMENTAL - TH 758 Aula 05 Análise de dados Profª Heloise G. Knapik
Objetivos Análise de dados da última prática: DBO e Coliformes Relatórios e instruções para o seminário Parâmetros de validação Propagação de erros e critérios de rejeição Apresentação de dados Dicas para artigos...
Temas Seminários ANA CAROLINE (M) Monitoramento ETE [P + DE] ANNA CAROLINA (M) Redes de distribuição [P + LEG] BRUNA VOGT BAR (D) Análises voltadas a telhados verdes [P + DE] DANIELA (M) Monitoramento de wetlands [P + DE] JULIANA (M) Procedimento análise de metais no sedimento [P + DE] MICHEL (M) Remoção de fósforo [Frações de fósforo + DE] TAIANE (M) Esgoto em cidades pequenas [P + LEG] TÚLIO (M) Tratamento e reuso de águas cinzas [P + DE] VICTÓRIA (D) Pós-tratamento de efluentes [P + DE] P = parâmetro; DE = delineamento experimental; LEG = legislação
Estrutura do Seminário Tempo: 15 minutos de apresentação + 5 de perguntas/debate (apenas slides) Conteúdo: Parâmetro: destacar questões do método, fragilidades e potencialidades, incertezas, relação com o projeto de pesquisa. Legislação: abordar questões atuais, fragilidades, aplicações, comparações com os limites dos métodos e incertezas, relações com o projeto de pesquisa. Delineamento experimental: para o projeto de pesquisa, fazer o delineamento necessário para o parâmetro de análise + roteiro de coleta/laboratório.
Trabalhando com os dados... PARÂMETROS DE VALIDAÇÃO
Normatização Método normatizado Desenvolvido por um organismos de normalização ABNT, ASTM, APHA Método não normatizado Desenvolvido por qualquer laboratório Adaptados a partir de métodos normalizados e validados Publicados em revistas, fabricantes de equipamentos, kits de leitura
Validação A validação deve garantir, através de estudos experimentais, que o método atenda às exigências das aplicações analíticas, assegurando a confiabilidade dos resultados [Anvisa] Métodos não normalizados Métodos criados/desenvolvidos pelo próprio laboratório Métodos normalizados usados fora dos escopos para os quais foram concebidos Ampliações e modificações de métodos normalizados
Parâmetros de validação Especificidade e seletividade Faixa de trabalho e faixa linear de trabalho Linearidade Sensibilidade Limite de detecção Limite de quantificação Exatidão e tendência Precisão Robustez
Especificidade e seletividade Método Específico Método que produz resposta apenas para um analito Método Seletivo Método que produz respostas para vários analitos, mas que pode distinguir a resposta de um analito da de outros De acordo com a ANVISA (2003): Capacidade que um método possui de medir exatamente os compostos de interesse em presença de outros componentes tais como impurezas, produtos de degradação e componentes da matriz.
Faixa de trabalho e faixa linear de trabalho Faixa de concentrações do analito ou valores da propriedade (inferior e superior) no qual o método pode ser aplicado com precisão, exatidão e linearidade Limite inferior Limites de detecção (LOD) e de quantificação (LOQ) Limite superior Limites dependem do sistema de resposta do equipamento de medição Faixa linear de trabalho A resposta do sinal terá uma relação linear com o analito ou valor da propriedade
Faixa de trabalho e faixa linear de trabalho
Faixa de trabalho e faixa linear de trabalho A faixa de trabalho deve cobrir a faixa de aplicação para o qual o ensaio será usado A concentração mais esperada da amostra deve, preferencialmente, se situar no centro da faixa de trabalho Os limites inferiores devem ser iguais ou maiores do que o limite de detecção do método Geralmente, 6 ou mais pontos de calibração são usados para determinar a faixa de trabalho
Linearidade É a habilidade de um método analítico em produzir resultados que sejam diretamente proporcionais à concentração do analito em amostras, em uma dada faixa de concentração. Resolução 899 da ANVISA coeficiente de correlação (r) = 0,99 INMETRO valor de r maior que 0,90 é aceitável Fonte: Brehm (2016)
Sensibilidade A sensibilidade analítica é a razão entre a inclinação da curva de calibração e o desvio padrão do sinal analítico a uma dada concentração do analito É fortemente dependente da concentração É a capacidade do método em distinguir, com determinado nível de confiança, duas concentrações próximas Em um método sensível, uma pequena diferença na concentração do analito causa grande variação no valor do sinal analítico medido
LOD (LD) : Limite de detecção É a menor quantidade de analito (concentração) na amostra que pode ser verdadeiramente distinguida de zero. Existem muitos conceitos diferentes Sua estimativa está sujeita à grande variação É pouco apropriado para inferência estatística
LOD (LD) : Limite de detecção É a menor quantidade de analito na amostra que pode ser detectada, mas não necessariamente quantificada. Expressa a menor concentração do analito que pode ser detectada para um dado tipo de amostra, instrumento ou método. [SHRIVASTAVA, 2011] É a menor concentração que pode ser distinguida com um certo nível de confiança. [SKOOG et. Al.]
LOD (LD) : Limite de detecção Se uma análise resulta um valor menor do que o LD, a melhor opção para reportar o resultado é informar que a concentração está abaixo do LD Não pode-se afirmar que a amostra não contém o analito = sempre há uma possibilidade te que exista, mas em concentrações não detectáveis pelo método ou instrumento. É recomendável calcular sempre o LOD quando for calibrar um método ou equipamento.
LOD (LD) : Limite de detecção Sinal do instrumento: interesse em determinar o menor sinal que seja diferente do ruído do equipamento (baseline) Regra mais aceitável: o sinal deverá ser pelo menos três a cinco vezes maior que o valor do ruído/sinal Determinações químicas: mínima concentração necessária para gerar um sinal detectável Limite de detecção medido (YLOD) Limite de detecção em termos de concentração (CLOD)
LOD (LD) métodos de cálculo Definição visual Cálculo pela multiplicação de um fator do nível de ruído do equipamento (3 ou 2 para LD, 10 para LQ) Cálculo a partir do desvio padrão de repetições do branco Cálculo a partir da curva de calibração (fator e inclinação) Cálculo a partir do LOB (limite de detecção do branco)
LOD (LD) a partir de repetidas leituras do branco Cálculo da média e do desvio padrão de múltiplas leituras na ausência de qualquer analito (20 repetições) Y LOD = Y branco + 3s branco Y LOD = 0 + 3s branco
Signal Area LOD (LD) a partir da curva de calibração 500 400 LOD = 0.016 mg/l LOQ = 0.053 mg/l R² = 0.99977 LOD = F S a b 300 200 100 0 0 10 20 30 40 50 Concentration (mg/l) F : 3 para LD e 10 para LQ) Sa é o desvio padrão do branco, o desvio padrão do resíduo da curva de regressão ou o desvio padrão do intercepto com o eixo do Y de, no mínimo, 3 curvas de calibração b é a inclinação da curva de calibração
LOB Limit of Blank (limite do branco) LOB é definido como a maior concentração aparente do analito esperada em análises de amostra sem o analito (branco) LOB é medido a partir de replicatas do branco, calculado a partir da média e do desvio padrão: LOB = μ branco + 1.645sd branco LOD = LOB + 1.645sd menor amostra
LOQ (LQ) : Limite de quantificação É a menor concentração do analito que pode ser determinada com um nível aceitável de precisão e exatidão [INMETRO, 2003] E a característica de desempenho que define a habilidade de um processo de medida química quantificar um analito adequadamente [IUPAC, 1995]
LOQ (LQ) : Limite de quantificação Limites de quantificação são definidos em termos de um valor específico de desvio padrão relativo É interessante declarar uma concentração abaixo da qual o método analítico não pode operar com uma precisão aceitável
LOQ (LQ) : Limite de quantificação Métodos: Definida arbitrariamente como sendo igual a 10% do desvio padrão Definida arbitrariamente como um múltiplo fixo (em geral 2) do limite de detecção LOQ a partir da regressão linear da curva de calibração LOQ = 10 S a b Sa é o desvio padrão do branco, o desvio padrão do resíduo da curva de regressão ou o desvio padrão do intercepto com o eixo do Y de, no mínimo, 3 curvas de calibração b é a inclinação da curva de calibração
Exatidão e precisão
Exatidão Exatidão do método é definida como sendo a concordância entre o resultado de um ensaio e o valor de referência aceito como convencionalmente verdadeiro. A exatidão indica a proximidade da medida do valor verdadeiro, ou aceito, e é expressa pelo erro (erro absoluto e erro relativo) Erro absoluto: diferença entre o valor medido e o valor verdadeiro Erro relativo: razão entre o erro absoluto e o valor verdadeiro
Precisão Precisão é um termo geral para avaliar a dispersão de resultados entre ensaios independentes, repetidos de uma mesma amostra, amostras semelhantes ou padrões, em condições definidas. Repetibilidade: precisão intra-corrida Precisão Intermediária: precisão inter-corridas Reprodutibilidade: precisão inter-laboratorial
Precisão Três termos são amplamente empregados para descrever a precisão de um conjunto de réplicas: Desvio padrão Variância Coeficiente de variação INMETRO CV de até 20% ANVISA CV de até 5%
Precisão: Repetitividade e Reprodutibilidade Repetitividade: é o grau de concordância entre os resultados de medições sucessivas de um mesmo mensurando, efetuadas sob as mesmas condições de medição, chamadas de condições de repetitividade: Mesmo procedimento de medição Mesmo observador Mesmo instrumento usado sob mesmas condições Mesmo local Repetições em um curto espaço de tempo Reprodutibilidade: é o grau de concordância entre os resultados das medições de um mesmo mensurando, efetuadas sob condições variadas de medição.
Precisão: Recuperação A recuperação do analito pode ser determinada pela análise de amostras adicionadas com quantidades conhecidas do mesmo. Diferentes concentrações: próximas ao LD, próxima à concentração máxima permissível e em uma concentração próxima à média da faixa de uso Recuperação % = C 1 C 2 C 3 100 C1: concentração determinada na amostra adicionada C2: concentração determinada na amostra não adicionada C3: concentração adicionada
Robustez A robustez de um método de ensaio mede a sensibilidade que este apresenta face a pequenas variações. Um método robusto é praticamente insensível a pequenas variações que possam ocorrer quando está sendo executado. Quanto maior for a robustez de um método, maior será a confiança desse relacionamento a sua precisão.
Robustez
Tratamento e análise de dados PROPAGAÇÃO DE ERROS E CRITÉRIOS DE REJEIÇÃO
Medidas usuais Média x = N i=1 N x i Desvio padrão Variância Coeficiente de variação N é o número de medidas para o conjunto da amostra
Propagação de erros
Descartar dados sem razão Antiético!!!
Critérios de rejeição de OUTLIERS Resultados questionáveis como OUTLIERS podem ser devido a um erro grosseiro não identificado. Critérios para manter ou rejeitar o dado tem seus riscos!! Limite rigoroso: corre-se o risco de manter um valor falso Limite tolerante: pode-se introduzir um viés nos resultados Não há regra universal!!
Critérios de rejeição de OUTLIERS Teste Q O valor absoluto da diferença entre o resultado questionável xq e o seu vizinho mais próximo xp é dividido pela faixa w do conjunto inteiro para dar a grandeza Q: Q = x q x p w Compara-se com o Qcrít tabelado Se Q > Qcrit: o resultado questionável pode ser rejeitado com o grau de confiança indicado
Critérios de rejeição de OUTLIERS Teste Q
Critérios de rejeição de OUTLIERS Teste Q Exemplo: Análise da série de sólidos (Aula prática TH758/2017) [exemplo na planilha] Atenção: Para pequenas amostras (menos que 50 dados!) o uso de testes estatísticos para a rejeição do resultado deve ser feito com auxílio de bom senso! A aplicação de uma boa avaliação baseada em ampla experiência com um método analítico é geralmente a abordagem mais segura na análise de que foi cometido um erro grosseiro em um conjunto pequeno de dados (Skoog).
Recomendações para o tratamento de outliers Reexaminar cuidadosamente os dados [importante ter um caderno de laboratório!] Repita a análise se houver quantidade suficiente de amostra e tempo disponíveis [importante não deixar o cálculo para depois ] Aplique um teste estatístico [com cautela!] Se o teste Q indica manutenção, considere a possibilidade de empregar a mediana do conjunto em vez da média [a média carrega o peso do valor suspeito]
Tratamento de dados, análises, gráficos e tabelas APRESENTAÇÃO DE DADOS
Latitude (º) Exemplo de gráfico para representação espacial - Reservatórios Parâmetro: Oxigênio Dissolvido Local: Reservatório Passaúna, PR Pontos de Monitoramento: 5 Dados: 1 coleta ou médias Softwares: Origin 8.5 (ou superior) Arcview (contorno) -25,44-25,46-25,48-25,50 Reservatório Passaúna: OD (mg/l), 14/02/2017 9,000 8,000 7,000 6,000 5,000 4,000 3,000 2,000 1,000 0,000-25,52 Superfície Fundo Superfície -25,54 Fundo -49,42-49,40-49,38-49,36-49,34-49,32 Longitude (º)
Exemplo de gráfico para representação espacial - Reservatórios Parâmetro: Frações de fósforo Local: Reservatório Passaúna, PR Pontos de Monitoramento: 6 (1 coleta ou médias) Softwares: Origin 8.5 (ou superior)
Dissolved Oxygen (mgo 2 /L) Exemplo de gráfico para representação espacial - Rios Parâmetro: Oxigênio Dissolvido Local: Rio Iguaçu, PR Pontos de Monitoramento: 6 Dados: Série de coletas (agrupadas em box-plots) Softwares: Origin 8.5 (ou superior) 10 8 6 4 2 0 IG05 IG06 IG01 IG02A IG03 IG04 IG05 IG06
Gráfico estilo colunas com desvio padrão da análise Suspensos Fevereiro/2016 Fixos Voláteis Rio Passaúna (BR 277) Suspensos Fevereiro/2017 Fixos Voláteis Rio Passaúna (BR 277) Suspensos Maio/2017 Fixos Voláteis Rio Passaúna (BR 277) Dissolvidos Dissolvidos Dissolvidos Totais Totais Totais Suspensos Buffer Suspensos Buffer Suspensos Buffer Dissolvidos Dissolvidos Dissolvidos Totais Totais Totais Suspensos Captação (sup.) Suspensos Captação (sup.) Suspensos Captação (sup.) Dissolvidos Dissolvidos Dissolvidos Totais Totais Totais 0 40 80 120 160 200 Concentração (mg/l) 0 40 80 120 160 200 Concentração (mg/l) 0 40 80 120 160 200 Concentração (mg/l) Parâmetro: Frações de sólidos Local: Reservatório Passaúna, PR Pontos de Monitoramento: 3 com 3 períodos de amostragem Softwares: Origin 8.5 (ou superior)
Peaks B, T2 and T1 (r.u.) Exemplo de gráfico para representação espacial - Rios Parâmetros: Carbono orgânico dissolvido e intensidade das bandas de fluorescência Local: Rio Iguaçu, PR 1 ponto de monitoramento Dados: Sequência de dados de experimento de biodegradação Softwares: Origin 8.5 (ou superior) 3 (T2) (B) 2 1 (T1) 0 0 2 4 6 8 10 DOC (mg/l)
Exemplo de tabela para representação de dados Parâmetros: Vários (comparativo) Local: Rio Iguaçu, PR 6 pontos de monitoramento Dados: Valores mínimos, máximos, média e número de amostras para cada parâmetro Softwares: Excel (ou similar!)
Representação, fluxogramas, agradecimentos... DESENHOS E ESQUEMAS PARA APRESENTAÇÕES/ARTIGOS
Exemplo de fluxograma Série de sólidos Totais Suspensos Totais Dissolvidos Totais Suspensos Voláteis Suspensos Fixos Dissolvidos Voláteis Dissolvidos Fixos Voláteis Totais Fixos Totais Objetivo: Representação do método de sólidos, procedimento do Standar Methods (APHA, 1998) Software utilizado: PowerPoint (ou similar!) APHA (1998). Standard Methods for the Examination of Water and Wastewater. 20. ed. Washington: APHA.
Exemplo de etapas de procedimento experimental Nutrients 20 C BOD BOD (Oxitop) Exp. B Dilution water Experiment B (Closed system) Exp. A Sample Experiment A (Open system) Objetivo: Representação de experimento de biodegradação Software utilizado: ChemWin (ou similares)
Emissão (nm) Concentration (mg/l) Exemplo de técnicas utilizadas em uma análise química 40 TOC POC DOC 30 20 Carbono orgânico dissolvido 10 0 IG01 IG02A IG03 IG04 IG05 IG06 IG01 IG02A IG03 IG04 IG05 IG06 IG01 IG02A IG03 IG04 IG05 IG06 Absorbância no ultravioleta visível 600 500 400 A T 2 T 1 C Matéria orgânica refratária: A e C (substâncias húmicas) Matéria orgânica lábil: T 1, T 2 (triptofano), B (tirosina) 0,40 0,36 0,32 0,28 0,24 0,20 0,16 0,12 0,08 0,04 0,00 300 B Rio Passaúna, maio/2017 200 300 400 500 600 Excitação (nm) Espectroscopia de emissão-excitação de fluorescência
Exemplo de etapas de processos Objetivo: Representação de processos físicos, químicos e biológicos na circulação/degradação/produção de matéria orgânica na água Software utilizado: PowerPoint!
Exemplo de etapas de procedimento de pesquisa Objetivo: Representação das etapas de um projeto de pesquisa Software utilizado: PowerPoint!
Exemplo de resumo gráfico para artigo Objetivo: Representação gráfica da contribuição de um artigo científico (exigido por algumas revistas) Software utilizado: PowerPoint + gráficos Origin
Agradecimentos: Dados utilizados dos seguintes projetos de pesquisa:
Próxima semana (laboratório!!!): Métodos Colorimétricos Determinação da concentração de um analito Objetivos de aprendizado: curva de calibração, determinação da concentração de ortofosfato, diluição e concentração de amostras Prática no laboratório: Elaboração da curva de calibração Determinação da concentração de ortofosfato em amostras ambientais
Próxima semana (laboratório!!!): Métodos Colorimétricos Atividades preparatórias para a próxima semana: Leitura dos procedimentos: Método 4500 P do Standard Methods (versão digital ou cópia do Labeam) POP 12 Série de Fósforo - Ortofosfato Organização de um fluxograma para a análise: Fazer um fluxograma em uma folha A4 com os procedimentos para a análise de ortofosfato na água, a partir do método do manual do Labeam.