Tratamento estatístico de observações geodésicas Prof. Dr. Carlos Aurélio Nadal
OBJETIVO: parâmetros estatísticos são utilizados para avaliar os métodos empregados ou para o controle de qualidade dos trabalhos. OBSERVAÇÃO: é o valor obtido durante um processo de medição. DADO: é o resultado do tratamento de uma observação (por aplicação de uma técnica ou de um modelo matemático) para retirada de erros. INFORMAÇÃO: é o resultado do tratamento de dados (via modelo matemático/estatístico) e sua interpretação.
é o valor de uma grandeza. é o ato de medir. OBSERVAÇÃO = MEDIÇÃO Medida = 10,0 cm 10,0 cm
é o menor valor de uma medida que um instrumento fornece ou a menor unidade detectável em um aparelho. Graduação da régua: centímetros e milímetros Sensibilidade da régua: 1mm
ESTIMATIVA DE LEITURA DE UM INSTRUMENTO Para qualquer medida o digito final pode ser considerado com um digito estimado. Por exemplo 0,5 da sensibilidade 2,4cm±0,1cm 2,4 + 0,02=2,42 2,42cm (estimado)
amostra: Conjunto de dados representativos de uma população. amostragem: Procedimento utilizado para constituir uma amostra. tratamento de dados: Aplicação de operações que expressem, em termos relativos, as diferenças de atributos entre os dados.
Tabulando dados Analisou-se as medidas observadas, ordenando-se por intervalos, sendo a unidade metros, obteve-se: Distâncias percorridas Freqüência (f) Freqüência relativa (fr) Percentagem Até 500 17 0,207 20,7 550-600 29 0,354 35,4 600-700 14 0,171 17,1 700-750 22 0,268 26,8 % N=82 1 100
Valor mais provável de uma medida. define-se como o grau de proximidade entre um valor medido ou calculado e o seu valor exato ground-truth. indica quanto cada uma de um conjunto de observações para um mesmo evento, se aproxima da média do conjunto de observações. Maior quanto menor for sua variabilidade em torno da média Quanto uma medida se aproxima do valor real exatidão relativa
EXATIDÃO de uma medida é tanto mais elevada quanto mais o valor correspondente estiver próximo da ground-truth. EXATIDÃO é muito difícil ou mesmo impossível de obter. EXATIDÃO RELATIVA OU ACURÁCIA caracteriza-se por comparar os valores obtidos para uma determinada variável com os resultados adquiridos por outro método e/ou equipamento, o qual se assume como a grandeza verdadeira. CALIBRAÇÃO: MÉTODO OU EQUIPAMENTO DE REFERENCIA selecionado para efetuar a comparação entre a medida efetuada e o valor adotado deve estar suficientemente estudado e os seus resultados estatisticamente caracterizados, nomeadamente, a sua precisão e exatidão. Apenas nestas condições os valores determinados podem ser assumidos como uma grandeza de referência, com elevado grau de confiança.
Acurácia simboliza como uma medida em particular se aproxima do valor aceito como correto para esta medida. Precisão indica a consistência da repetição de uma medida
CONCEITOS DE PRECISÃO (i) repetibilidade, determinada através da variação dos resultados, mantendo as condições constantes e repetindo as medições com o mesmo equipamento e durante um curto período de tempo; (ii) reprodutibilidade, a variação decorrente da utilização do mesmo processo de medição, mas recorrendo a equipamentos e técnicos diferentes, e durante longos períodos de tempo (Slama, 1980; Soong, 2004)
Baixa Resolução Precisão Alta Resolução Acurácia
acurado Inacurado (erros sistemáticos preciso Impreciso com erros de repetibilidade
PRECISÃO NO POSICIONAMENTO TOPOGRÁFICO
EXEMPLO DE PRECISÃO E ACURÁCIA Medida de uma distância em metros IMPRECISO E SEM ACURÁCIA PRECISO E SEM ACURÁCIA ACURADO E PRECISO 132,50 150,069 150,256 145,59 149,949 150,255 107,25 149,258 150,259 123,69 150,032 150,255
Tipos de erros (Slama, 1980) ERROS GROSSEIROS (blunders ou outliers) são aqueles oriundos de falhas, falta de atenção do observador e do mau funcionamento de um instrumento, deve ser evitado, pois é de difícil detecção após as medidas ERROS CONSTANTES têm sempre o mesmo sinal e magnitude, sendo as suas fontes mais comuns os próprios instrumentos de medição. ERROS SISTEMÁTICOS são produzidos por causas conhecidas, podem ser evitados por técnicas especiais de observações ou podem ser modelados matematicamente e eliminados das observações. ERROS ACIDENTAIS ocorrem de maneira aleatória e devem ser tratados estatisticamente.
causas dos erros humanos ou pessoais naturais instrumentais superabundância de observações: permite obter o valor mais provável de uma grandeza: média Substitui-se um conjunto de observações por um único número a média aritmética. A precisão de uma observações é fornecida pelo desvio padrão.
Média Aritmética (valor mais provável de uma observação)
a Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia Aula 02 b a 1 a observação = 10,4 cm b a 2 a observação = 10,45 cm b 3 a observação = 10,3 cm Qual o valor da medida? Qual a confiabilidade desta medição?
numero observação (cm) desvio desvio ao quadrado 1 10,4 0,0167 0,0002789 2 10,45 0,0667 0,0044489 3 10,3-0,0833 0,0069389 soma 31,15 0,0001 0,01167 Valor mais provável da observação: x = 31,15/3 x = 10,38cm Precisão: Variância: S v. v 0,01167 2 cm 2 n 1 2 Precisão: desvio padrão: cm
Manual técnico do instrumento Medida angular precisão resolução
Manual técnico do instrumento Medida de distância precisão resolução
QUAL A PRECISÃO DO GPS
COVARIÂNCIA A covariância entre dois conjuntos de medidas, x 1 e x 2, é dada por: S 12 x x x x 1i 1 n 1 2i 2 Se S 12 = 0 Não há dependência entre G 1 e G 2 Se S 12 # 0 Há dependência entre G 1 e G 2
COEFICIENTE DE CORRELAÇÃO O coeficiente de covariância entre dois conjuntos de medidas x 1 e x 2 é dado por: r S12-1 r + 1 S S 1 2
Método dos mínimos quadrados Métodologia: evitam-se os erros grosseiros -Eliminam-se os erros sistemáticos por técnicas observacionais ou por aplicação de modelos matemáticos -Ajustam-se os erros acidentais Principio do Método A soma dos quadrados dos resíduos é mínima. Svv = min.
LEI DA PROPAGAÇÃO DAS VARIÂNCIAS Seja a função que representa um conjunto de dados F = f(m 1, m 2,..., m k ) Utilizando-se dos conceitos de Gauss: 2 F 2 2 F 2 F ( F ) ( ) ( m1 ) + ( ) ( m2 ) +... + ( ) ( mk ) m m m 1 2 2 2 2 k Os erros não se propagam linearmente!
ACURÁCIA DE MEDIÇÃO - Grau de concordância entre o resultado de uma medição e um valor verdadeiro do mensurando. CLASSIFICAÇÃO - consiste em distribuir em classes ou grupos segundo um sistema de classificação. A norma brasileira NBR13133 (Execução de levantamentos topográficos), define as classes que devem ser enquadrados os instrumentos baseando-se no desvio padrão de um conjunto de observações obtidas seguindo uma metodologia própria.
CALIBRAÇÃO - conjunto de operações que estabelece, em condições especificadas, a correlação entre valores de quantidades indicados por um instrumento de medida, ou sistema de medida, ou uma medida materializada e os verdadeiros convencionais da grandeza medida. Interferômetro HP 5528A do Laboratório de Aferição da UFPr. Carro com sensor Emissor/ receptor (1) (2) Distância calibrada: 9,965cm
Erro = Diferença entre o valor observado e o valor real Desvio = Diferença entre o valor observado e a média medida Valor mais provável erro desvio acurácia valor real
Exercício: Um ângulo foi medido dez vezes, como é mostrado abaixo: (Gemael,C. 1994 p93) observação medida (l) v= (l-x) v 2 =(l-x) 2 1 120 31 40,1-1,56 2,4336 2 41,2-0,46 0,2116 3 40,8-0,86 0,7396 4 42,1 0,44 0,1936 5 42,9 1,24 1,5376 6 42,4 0,74 0,5476 7 43,0 1,34 1,7956 8 40,7-0,96 0,9216 9 41,9 0,24 0,0576 10 41,5-0,16 0,0256 S 41,66 3,55E-14 8,464
Estimativa Pontual Valor mais provável da observação: x = 120 31 41,66 b) Desvio padrão 8,464 = = 0,9698 9 No software FreeMat v3.5 a=[40.1 41.2 40.8 42.1 42.9 42.4 43.0 40.7 41.9 41.5] [' média ='] m=mean(a) [' desvio padrão ='] s=std(a)
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia Aula 02 Estimativa por intervalo de confiança da média P[ x - t 1- /2 u x + t 1- /2 ] = 1- n n Sendo 1- denominado de nível de significância, usualmente igual a 95%. Assim: 1- = 0,95 1- /2 = 0,975 Na tabela de Student para n-1 =9 (graus de liberdade) t 0,975 = 2,262 x - t 1- /2 = 120 31 40,96 n x + t 1- /2 = 120 31 42,36 n
Extrato da tabela de Student Pode-se concluir que há 95% de chance de uma observação estar contida no intervalo de confiança: P = [120 31 40,96 u 120 31 42,36 ] = 95% Adotando-se um nível de confiança mais alto (99%) obtém-se um intervalo de confiança maior t 0,995 = 3,250 P = [120 31 40,65 u 120 31 42,67 ] = 99%
No software Excel
Um dos principais produtos do ajustamento das observações é a matriz variância covariância, que é um arranjo matricial na forma: 1 2 12 13... 1n S = 21 2 2 23...... 2n............ n1 n2... n3... n 2 Na diagonal principal tem-se as variâncias. Suas raízes quadradas representam os desvios padrões das observações correspondentes. Fora da diagonal principal aparecem as covariâncias.
Elipse de erros: é a figura que representa os desvios padrões máximos e mínimos de uma medida. Deseja-se a localização do ponto B do segmento AB. Precisão angular 10 precisão linear 3mm Precisão angular x Área de localização provável do ponto B A y Precisão linear
Exercícios: Um ângulo foi medido cinco vezes, obtendo-se os resultados constantes da coluna medida, da tabela a seguir. Calcular o valor mais provável de sua medida, sua variância e seu erro médio quadrático da média. Verificar se todas as observações se encontram dentro de um intervalo de confiança com probabilidade de 95% de certeza obs Medida V ( ) V 2 ( 2 ) 1 20 32 15" -4,6 21,16 2 20 32 20" 0,4 0,16 3 20 32 23" 3,4 11,56 4 20 32 18" -1,6 2,56 5 20 32 22" 2,4 5,76 SOMA 102 41 38" 0,0 41,20
a) Cálculo da média aritmética (valor mais provável da medida) Sob 102 41 38" X = = n 5 x = 20 32 19,6" b) Cálculo da variância Sv 2 2 = n-1 41 2 2 = 5 1 2 =10,3 " 2
c) Cálculo do desvio padrão 3 2 " d) Cálculo do intervalo de confiança das medidas com probabilidade de certeza de 95%. Da análise estatística tem-se que para probabilidade de 95% deve-se pré-multiplicar o desvio padrão por 1,96, para 99% por 2,58, assim obtém-se: P[ x 1,96 < < x + 1,96 ] 9 % P[20 32 13,33" < < 20 32 25,87"] 9 %
Uma distância de 200m foi medida com uma trena de 20m de comprimento. O desvio padrão de cada medida efetuada é conhecido e igual a 5mm. Qual o desvio padrão da distância total medida? a) Modelo matemático para a distância total medida D = d 1 + d 2 + d 3 + d 4 + d 5 + d 6 + d 7 + d 8 + d 9 + d 10 D=20,00+20,00+20,00+20,00+20,00+20,00+20,00+20,00+20,00 +20,00 D = 200,00m b) Cálculo da propagação do desvio padrão D D D 2 D=( 2 2 d1+ ( 2 2 d2+... + ( 2 2 d10 d 1 d 2 d 10
2 d1= 5 2 mm 2 = 25mm 2 2 d1= 2 d2= 2 d3= 2 d4= 2 d5= 2 d6= 2 d7= 2 d8= 2 d9= 2 d10= 25mm 2 D D D 1 d 1 d 2 d 10 2 D= 2 d1+ 2 d2+ 2 d3+ 2 d4+ 2 d5+ 2 d6+ 2 d7+ 2 d8+ 2 d9+ 2 d10 2 D= 250mm 2 D = 15,8mm