CAPÍTULO 5 TEORIA DA MEDIÇÃO E DOS ERROS

Transcrição

1 CAPÍTULO 5 TEORIA DA MEDIÇÃO E DOS ERROS 5.1 Introdução A tarefa de efetuar medições e utilizá-las nos cálculos subsequentes é fundamental na Topografia. O processo necessita de uma combinação entre habilidade humana e equipamento adequado. No entanto, não importa com quanto cuidado se fazem as medições, estas nunca são exatas e sempre terão erros. Quem trabalha com Topografia, cujos trabalhos devem realizar-se sob estritas normas de qualidade, deve conhecer os diferentes tipos de erros, suas causas, suas possíveis magnitudes sob diferentes condições de trabalho, assim como sua maneira de propagar-se. Somente, então, poderão selecionar os equipamentos e procedimentos necessários para reduzir a magnitude dos erros a um nível razoável. Esses profissionais devem também ser capazes de avaliar a magnitude dos erros em suas medições de modo que possam utilizá-los em seus cálculos ou, se necessário, efetuar novas medições. Atualmente, ferramentas computacionais e a álgebra matricial são amplamente utilizadas para elaborar projetos de medições, análises, investigações, distribuição de erros e elaboração dos cálculos necessários. 5.2 Tipos de medições em Topografia A Topografia clássica está fundamentada em cinco classes de medições a saber: lugar); 1- Ângulos horizontais medem-se em planos horizontais; 2- Distâncias horizontais também são medidas em planos horizontais; 3- Ângulos verticais (ou zenitais, ou nadirais) medem-se em planos verticais; 4- Distâncias verticais medidas segundo a direção da força da gravidade (vertical do 5- Distâncias inclinadas medidas segundo planos inclinados. Em Topografia, as posições relativas entre pontos ou feições de interesse são determinadas através da combinação das diferentes classes de medições. 5.3 Dígitos significativos e arredondamento Concluída a medição faz-se o registro da magnitude das medidas. Ao registrá-las, a indicação da exatidão (acurácia) alcançada é o número de dígitos que se registram. Por definição, o número de dígitos significativos em qualquer valor medido inclui os dígitos seguros (certos) e somente um dígito estimado ou arredondado. Portanto, este dígito estimado ou arredondado possui exatidão (acurácia) questionável. É importante ressaltar aqui que é indispensável que o registro das medidas de campo devem estar em perfeita sintonia com a Teoria dos Erros de Observação e respectiva Lei de propagação de erros. Isto é, o registro das medidas deve ter o correto número de dígitos significativos. Se

2 34 descartarmos um dígito significativo ao registrar um valor, o tempo dedicado em campo para se lograr determinada exatidão é jogado fora. Por outro lado, se registramos um valor com mais dígitos além dos significativos estamos denotando uma falsa precisão. Em geral, é comum confundir-se número de dígitos significativos com número de decimais. Existem situações em que temos que usar determinado número de casas decimais para conservar o número correto de dígitos significativos. No entanto, o número de decimais não indica, por si só, o correto número de dígitos significativos. Veja os exemplos a seguir: 1- dois dígitos significativos: 24; 2,4; 0,24; 0,0024; 0, três dígitos significativos: 364; 36,4; 0,000364; 0, quatro dígitos significativos: 7621; 76,21; 0, ; 24,00 Os zeros ao final de um valor inteiro podem causar dificuldade, porque podem ou não indicar dígitos significativos. Exemplo: seja o número 2400; não é possível decidir de antemão quantos são os dígitos significativos: podem ser dois, três ou quatro. Existe um procedimento para eliminar esta incerteza: exprimir o valor em potências de 10. Os dígitos significativos que existem na medida escrevemos como um número compreendido entre 1 e 10, incluindo o número de zeros corretos (certos) ao final, e o ponto decimal se coloca anexado a uma potência de 10. Assim: se converte em 2,400 x 10 3 se ambos os zeros são significativos; 2- em 2,40 x 10 3 se um zero é significativo; 3- em 2,4 x 10 3 se só existem dois dígitos significativos. Arredondar um número é o processo de suprimir um ou mais dígitos para que a resposta somente contenha aqueles que são significativos ou necessários aos cálculos subsequentes. A prática normal para arredondamentos de números segue os seguintes procedimentos: 1- quando o dígito a se eliminar é menor que 5, se escreve o número sem este dígito. Exemplo: 68,384 se transforma em 68,38; também o número 68,3849 arredondado para quatro dígitos significativos se transforma em 68, quando o dígito a ser eliminado é maior que 5, se escreve o número com o dígito precedente aumentado em uma unidade. Assim, 68,386 se converte em 68, quando o dígito a ser eliminado for exatamente igual a 5 se usará o próximo número par para o dígito precedente. Assim, 68,385 se transforma em 68,38 e 68,375 se transforma também em 68,38. Nota: é um procedimento errado efetuar um arredondamento em etapas; deve-se arredondar para o número de dígitos significativos necessários uma única vez, independente do número de dígitos existente. Assim, o valor 48,3749 arredondado para quatro dígitos significativos resulta 48,37 e não o valor 48,38 se arredondado por etapas. Atualmente, com o status da tecnologia de medição disponível, não nos preocupa operacionalmente a questão dos arredondamentos. Os algoritmos utilizados preveem a realização dos cálculos usando precisão dupla, isto é, utiliza todos os dígitos e decimais gerados em cada processo matemático.

3 Medições diretas e indiretas As medições de grandezas desconhecidas podem ser realizadas direta ou indiretamente. A medição de um ângulo isolado usando teodolito, de uma distância usando trena são exemplos de medições diretas. Nestes casos, a grandeza que está sendo medida é comparada diretamente com um padrão limbo graduado ou o metro e suas subdivisões. Quando não é possível aplicar um instrumento (padrão) diretamente sobre a grandeza a medir, medem-se outras grandezas que se relacionam com as incógnitas. Assim, no nivelamento geométrico medem-se alturas verticais (leituras de mira) nos pontos de interesse; essas leituras levam à determinação dos desníveis e consequentemente das altitudes. O mesmo acontece no nivelamento trigonométrico. Medições com os equipamentos eletrônicos são todas medições indiretas. Medições levadas a efeito com o GPS (Global Positioning System) para quaisquer fins, também se caracterizam como indiretas. Independente do tipo de medição sempre haverá a presença de erros. A maneira com esses erros se combinam nas medições para produzir respostas nos cálculos subsequentes denomina-se propagação de erros. Fica estabelecido desde já que não existe processo de medição sem erros; o procedimento para avaliar a magnitude dos erros em qualquer quantidade calculada a partir das medições é estudado mais adiante em propagação de erros. 5.5 Erros nas medidas Os valores medidos resultantes dos processos de medição estão eivados de erros. Os erros nada têm a ver com as discrepâncias observadas num conjunto de medidas de uma grandeza. Estas discrepâncias são ocasionadas pela presença em todas as medidas dos inevitáveis erros aleatórios (estamos aqui considerando que os erros grosseiros, também conhecidos por equívocos ou enganos e também os erros sistemáticos, cujo comportamento é conhecido, tenham sido eliminados ou minimizados, caso dos erros sistemáticos). Os erros aleatórios presentes nas medidas de campo possuem comportamento probabilístico, razão pela qual devem ser estudados adequadamente. Assim, por definição, um erro é a diferença que se observa entre o valor medido (X) e o valor verdadeiro (estimado) ( X ), onde E é o erro em uma medição. E X X (5.1) A partir das considerações feitas anteriormente é possível estabelecer as seguintes premissas: 1- nenhuma medida é exata; 2- toda medida contém erro; 3- o verdadeiro valor de uma medida não se conhece; 4- o erro exato (verdadeiro) presente na medida não será conhecido somente poderá ser estimado. A exatidão de uma medida depende do tamanho da divisão de uma escala, da confiabilidade do equipamento empregado e da limitação humana em efetuar estimativas mais precisas. Atualmente, com a tecnologia dos equipamentos de medição é certo que as medidas são mais precisas e acuradas, porém nunca serão exatas.

4 Causas de erros nas medições Devido à natureza das medições efetuadas em Topografia, existem três causas de erros nas medições: FATORES NATURAIS são fatores provenientes das variações ambientais: velocidade do vento, umidade, pressão atmosférica e refração atmosférica, além das variações da gravidade e da declinação magnética. FATORES INSTRUMENTAIS são fatores oriundos das imperfeições de fabricação dos equipamentos, dos ajustes e dos movimentos das diferentes peças componentes. A maioria dos erros de origem instrumental podem ser reduzidos, e até eliminados, ao adotar-se procedimentos de campo apropriados (adequados), verificações periódicas (ajustes e calibração) e, em certos casos, aplicando-se correções específicas. FATORES PESSOAIS estão relacionados com as limitações próprias dos sentidos humanos, principalmente da visão e do tato. O sentido da visão atua, principalmente, nas operações de pontaria sobre um alvo. Cada operador possui uma acuidade própria para realizar a colimação perfeita entre o alvo e o cruzamento dos fios do retículo. Outra situação em que aparece o fator humano nas medições é a realização de leituras sobre uma mira quando esta não está perfeitamente verticalizada no ponto. Estes efeitos provocam erros sistemáticos que deverão ser minimizados ou mesmo eliminados. 5.7 Tipos de erros presentes nas medições Os erros presentes nos processos de medição são de dois tipos: sistemáticos e aleatórios ou acidentais. Não se consideram aqui os erros grosseiros ou equívocos. ERROS SISTEMÁTICOS são erros inerentes ao sistema de medição que compreende o meio ambiente, os instrumentos de medição e o observador. Em geral possuem comportamento conhecido o que permite que sejam corrigidos adotando-se procedimentos adequados de medição ou através de correções analíticas. Sempre que as condições ambientais permanecem constantes a magnitude dos erros sistemáticos também se mantém constante. As condições que ocasionam os erros sistemáticos se devem às leis físicas que podem ser representadas matematicamente (modeladas). Portanto, se conhecemos as condições e se podemos medir a magnitude de certos parâmetros físicos é possível calcular correções e aplicá-las às medidas. ERROS ALEATÓRIOS são os erros ainda presentes na grandeza medida, mesmo após a eliminação das influências sistemáticas. São ocasionados por fatores que independem do controle do observador. Obedecem às leis da probabilidade e são chamados também de erros acidentais. Estão presentes em todas as medições topográficas. As magnitudes e os sinais dos erros aleatórios são consequência do azar; não existe um procedimento absoluto de calculá-los nem de eliminá-los, mas podem ser estimados usando um procedimento de ajuste conhecido por Método dos Mínimos Quadrados MMQ. 5.8 Precisão x Exatidão (Acurácia) A diferença entre duas medidas de uma mesma grandeza define-se como uma discrepância. Uma discrepância pequena indica que provavelmente não existe equívoco e que os erros aleatórios são

5 37 de magnitude pequena. No entanto, as discrepâncias com magnitudes pequenas não impedem a presença de erros sistemáticos. PRECISÃO A precisão refere-se ao grau de refinamento ou consistência de um grupo de medidas e se avalia com base na magnitude das discrepâncias que tais medidas apresentam entre si. Se fazemos múltiplas medições sobre uma mesma grandeza e surgem pequenas discrepâncias, isso reflete uma alta precisão. Assim, o grau de precisão de um conjunto de medidas depende do equipamento utilizado (condições plenas de uso) e da habilidade do observador (conhecedor dos métodos adequados e dos cuidados a tomar no momento de efetuar as medidas). EXATIDÃO A exatidão refere-se à aproximação das medidas de uma grandeza ao seu verdadeiro valor. Como não conhecemos o verdadeiro valor da grandeza medida não podemos determinar a magnitude desta aproximação. Assim, é claro que a exatidão de uma medida diz respeito à presença de erros aleatórios. A figura 1 mostra exemplos de exatidão e precisão num experimento que consiste em efetuar cinco disparos com um rifle sobre um alvo. Colocar aqui a Figura 1: fig. 2-3, pg. 28 Similarmente ao exemplo dos disparos com rifle, em Topografia, um levantamento pode ser preciso sem ser exato. Para ilustrar, cita-se o caso de um levantamento em que se empregam métodos depurados e as leituras (medidas) são realizadas com extremo cuidado. Descobre-se que existem erros instrumentais (que não foram corrigidos) no aparelho de medição; como resultado obtém-se medidas precisas, porém o levantamento não será exato. 5.9 Convivendo com equívocos e erros sistemáticos Nos trabalhos topográficos, tanto na etapa de campo quanto nos cálculos em escritório, as ações devem estar norteadas pela busca constante da eliminação dos equívocos e minimização da influência dos erros sistemáticos sobre as medidas. O ideal seria não existirem os equívocos, mas devido à falibilidade humana isso não é possível. Os equívocos somente poderão ser eliminados se descobertos, por isso a necessidade sempre de colhermos medidas superabundantes para possibilitar a comparação entre elas. O procedimento de se coletar múltiplas medidas de uma grandeza permite identificar possíveis equívocos, além de possibilitar o ajustamento das medições pelo MMQ. Os erros sistemáticos em sua maioria podem ser calculados e podemos aplicar correções apropriadas às medidas. Em alguns casos é possível adotar procedimentos de campo que eliminam automaticamente as influências sistemáticas. Cita-se o caso de um nivelamento geométrico realizado com um equipamento de nivelamento com movimento da luneta não ajustado. Ao efetuarmos as leituras ré e vante, estas estarão incorretas; incorreção que será propagada aos desníveis calculados. Entretanto, se todas as leituras ré e vante forem feitas à mesma distância do instrumento, os erros se cancelam ao se calcular os desníveis O valor mais provável de uma grandeza Como visto, nas medições físicas nunca se conhece o verdadeiro valor de uma grandeza. No entanto, o valor mais provável da grandeza pode ser estimado se efetuamos medições redundantes

6 38 (superabundantes). Medições redundantes são aquelas que se realizam em excesso às mínimas necessárias para a determinação de uma grandeza. Vejamos o caso de uma só incógnita, como o comprimento de um alinhamento que tenha sido medido direta e independentemente várias vezes usando o mesmo equipamento e o mesmo procedimento 1. A primeira medição já determina o comprimento do alinhamento; todas as medições adicionais são redundantes. O valor mais provável neste caso é dado pela expressão a seguir: X = X / n (5.2) que é a expressão da média aritmética entre as n medidas da incógnita X realizadas Os resíduos O resíduo nada mais é do que a diferença entre qualquer valor medido de uma grandeza e o valor mais provável desta grandeza. Assim, v = X - X (5.3) onde v é o resíduo em qualquer medição X e X é o valor mais provável da grandeza medida. Teoricamente os resíduos são idênticos aos erros, com exceção de que os resíduos podem ser calculados e os erros não, pois não se conhece o valor verdadeiro da grandeza. Portanto, são os resíduos e não os erros que são usados na análise e correção das medições. No entanto, como são similares, na prática os termos resíduo e erro são usados indistintamente Como surgem os erros aleatórios? Conforme vimos anteriormente, os erros aleatórios possuem comportamento que segue as leis da probabilidade. Para que possamos enxergar esse comportamento mais claramente vamos considerar os dados da Tabela 1 a seguir. Os dados contemplam 100 repetições da medida de um ângulo realizadas com um teodolito de precisão. Deve-se aceitar que as observações estão livres de equívocos e erros sistemáticos. Os dados estão ordenados segundo os resíduos em ordem crescente. Se uma medida foi obtida mais de uma vez, anotou-se na coluna (2) o número de vezes ou a frequência. Observa-se na Tabela 1 que a dispersão das medidas é de 11,3'' intervalo entre o maior valor (27 o 43' 30,8'') e o menor valor observado (27 o 43' 19,5''). Fora isso é difícil analisar o padrão de distribuição das medidas simplesmente recorrendo aos valores tabulados. Assim, o primeiro passo é preparar um histograma; o histograma é um gráfico de barras onde se mostram os tamanhos das medidas (ou resíduos) em relação à frequência. Na presença de uma quantidade relativamente grande de dados é comum distribuir os resíduos em intervalos de classe; os intervalos de classe devem ter número ímpar, resultando num histograma simétrico (no exemplo em pauta são 17 intervalos de classe de amplitude 0,7''). Veja a preparação das classes na Tabela 2. 1 Utilizar o mesmo equipamento e idênticos procedimentos de medição ratifica que as medições são de mesma confiabilidade ou peso. A ponderação das medições será alvo de estudo mais adiante.

7 39 Tabela 1 Medições de um ângulo com teodolito de precisão Valor medido (1) Frequência (2) Resíduo ('') (3) Valor medido (1 cont.) Frequência (2 cont.) Resíduo ('') (3 cont.) 27 o 43' 19,5'' 1-5,5 27 o 43' 25,1'' 3 0,1 20,0'' 1-5,0 25,2'' 1 0,2 20,5'' 1-4,5 25,4'' 1 0,4 20,8'' 1-4,2 25,5'' 2 0,5 21,2'' 1-3,8 25,7'' 3 0,7 21,3'' 1-3,7 25,8'' 4 0,8 21,5'' 1-3,5 25,9'' 2 0,9 22,1'' 2-2,9 26,1'' 1 1,1 22,3'' 1-2,7 26,2'' 2 1,2 22,4'' 1-2,6 26,3'' 2 1,3 22,5'' 2-2,5 26,4'' 1 1,4 22,6'' 1-2,4 26,5'' 1 1,5 22,8'' 2-2,2 26,6'' 3 1,6 23,0'' 1-2,0 26,7'' 1 1,7 23,1'' 2-1,9 26,8'' 2 1,8 23,2'' 2-1,8 26,9'' 1 1,9 23,3'' 3-1,7 27,0'' 1 2,0 23,6'' 1-1,4 27,1'' 3 2,1 23,7'' 1-1,3 27,4'' 1 2,4 23,8'' 2-1,2 27,5'' 2 2,5 23,9'' 3-1,1 27,6'' 1 2,6 24,0'' 5-1,0 27,7'' 2 2,7 24,1'' 3-0,9 28,0'' 1 3,0 24,3'' 1-0,7 28,6'' 2 3,6 24,5'' 2-0,5 28,7'' 1 3,7 24,7'' 3-0,3 29,0'' 1 4,0 24,8'' 3-0,2 29,4'' 1 4,4 24,9'' 2-0,1 29,7'' 1 4,7 25,0'' 2 0,0 30,8'' 1 5,8 = 2.499,4 = 100 Média = X = 2.499,4/100 = 25,0'' Valor mais provável: X = 27 o 43' 25,0''

8 40 Tabela 2: Intervalos de classes e número de resíduos Intervalo de classe (em '') Número de resíduos -5,95 a -5,25 1-5,25 a -4,55 1-4,55 a -3,85 2-3,85 a -3,15 3-3,15 a -2,45 6-2,45 a -1,75 8-1,75 a -1, ,05 a -0, ,35 a +0, ,35 a +1, ,05 a +1, ,95 a -5,25 8-5,25 a -4,55 6-4,55 a -3, ,85 a +4, ,55 a +5, ,25 a +5,95 1 = 100 Figura 2: Histograma, polígono de frequência e curva de distribuição normal de resíduos de medições de um ângulo Inserir aqui Figura 2-4, pg. 33 Para elaborar o histograma é necessário calcular os resíduos; estes foram calculados usando-se a expressão 03 e os valores estão relacionados nas colunas (3 e 3 cont.) da Tabela 1. A média ou o valor mais provável do ângulo foi determinado usando-se a expressão 02 e é mostrada na base da Tabela 1. A Figura 2 ilustra o histograma para o conjunto de dados apresentados na Tabela 1. De imediato o histograma já nos indica um padrão de distribuição dos resíduos. Unindo-se com linhas retas os pontos superiores médios das barras do histograma se obtém o polígono de frequências (linha tracejada em negrito desenhada na Figura 2). Basicamente o polígono de frequências exibe em forma gráfica a mesma informação que o histograma. Incrementando progressivamente o número de medições, obviamente os intervalos de classe vão se tornando cada vez menores, de modo que, ao final, o polígono de frequências tenderá a se aproximar a uma curva uniforme e contínua, simétrica em relação ao centro como aquela mostrada na Figura 2 (linha continua grossa em negrito). Na Figura 3 se mostra em separado esta curva para melhor clareza. A forma de sino desta curva é característica de um grupo de erros normalmente distribuídos, e por isso é conhecida como curva de distribuição normal. Há quem a denomine de curva de densidade normal, pois mostra a densidade de erros de diversas

9 41 magnitudes Análise da curva de distribuição normal De acordo com os dados da Tabela 1, o histograma para uma série de medições mostra graficamente a probabilidade de ocorrência de um erro de determinada magnitude, mediante as áreas das barras. Veja, por exemplo, que 14 dos 100 resíduos (Figura 1) estão entre -0,35'' e +0,35'' de magnitude. Isto representa 14% dos erros e a barra do histograma que corresponde a este intervalo equivale a 14% da área de todas as barras. Assim, a área de uma barra construída com duas ordenadas contíguas de uma distribuição normal e a abcissa entre elas, representa a porcentagem de probabilidade de que existe um erro dessa magnitude. Uma vez que a soma das áreas de todas as barras de um histograma representa todos os erros, também representa todas as probabilidades e assim a soma é igual a 1. Da mesma maneira, a área total sob a curva de distribuição normal é igual a 1. Imaginemos que as mesmas medições do exemplo tenham sido realizadas utilizando melhor equipamento e com mais cuidado; certamente teríamos um conjunto de erros (resíduos) menores e a curva de distribuição normal seria semelhante à da Figura 3-a. Em comparação com a Figura 2, esta curva é mais alta e mais estreita, demonstrando que uma maior porcentagem de valores tem erros menores, enquanto menos medições tem erros maiores. Isso indica que as medições foram mais precisas. Em medições efetuadas com menos precisão e cuidados ocorre o contrário, evidenciado pela curva da Figura 3-b que exibe uma forma mais achatada e mais larga. Mesmo assim, nos três casos analisados a curva de distribuição normal manteve o padrão característico. Desta análise fica o seguinte ensinamento: ao comparar diferentes curvas de distribuição normal oriundas das medições sobre uma determinada grandeza, temos informações imediatas quanto à precisão de cada um dos grupos de medições. Feitas as análises acima é possível enunciar algumas particularidades a respeito de probabilidade: a) os resíduos de pequena magnitude (erros) ocorrem com maior frequência que os de maior magnitude, ou seja, a probabilidade de ocorrência de erros menores é maior; b) os erros de grande magnitude ocorrem com pouca frequência e são, portanto, menos prováveis; no caso de erros com distribuição normal, aqueles excepcionalmente grandes podem ser equívocos em vez de erros aleatórios; c) os erros positivos e negativos de mesma magnitude ocorrem com igual frequência, ou seja, são igualmente prováveis. d) é possível calcular probabilidades a partir da curva normal determinando-se as áreas sob a curva de distribuição normal. Entretanto esta tarefa será mais facilitada adotando-se uma curva de distribuição normal padronizada. Veremos isso mais adiante. Figura 3: Curvas de distribuição normal. (a) mais precisa; (b) menos precisa Inserir aqui a Figura 2-6, pg. 36.

10 42 Estudamos até aqui que a precisão de um conjunto de medições pode ser avaliada visualmente pela forma da curva de distribuição dos resíduos. Porém, é imprescindível em trabalhos topográficos e geodésicos conhecer a magnitude desta precisão no intuito de saber se o trabalho realizado atende ou não certas especificações. Isso é possível estudando-se as medidas de precisão, que veremos na sequência Medidas de precisão Ainda que as curvas de distribuição normal tenham formas similares, existem diferenças significativas em se tratando da dispersão dos erros. A magnitude da dispersão é uma indicação a respeito da precisão relativa das medidas. Dois termos estatísticos são usados para expressar a precisão de uma série de medidas: o desvio padrão σ e a variância σ 2. A equação que permite o cálculo da variância se escreve: σ 2 = Σv 2 / (n -1) (5.4) Onde σ 2 é a variância de um grupo de medidas de uma mesma grandeza, v é o resíduo de uma observação isolada, Σv 2 é a soma dos quadrados dos resíduos e n é o número de observações. O desvio padrão σ é a raiz quadrada da variância. Observe que a equação 04 fornece como resultado o desvio padrão e este tem valores positivos e negativos. Nas curvas de distribuição normal, o valor numérico do desvio padrão é a abcissa nos pontos de inflexão (posição onde a curva muda a concavidade). Na Figura 03 (a e b) observam-se esses pontos de inflexão. Uma menor distância entre esse ponto de inflexão e o eixo central indica medições mais precisas (Figura 03(a)) enquanto a maior distância indica menos precisão (Figura 03(b)). A Figura 4 é um gráfico que mostra a porcentagem da área total sob a curva de distribuição normal que existe entre intervalos de resíduos (erros) com valores positivos e negativos iguais. Figura 4: Relação entre o erro e a porcentagem de área sob a curva de distribuição normal Inserir aqui a figura 2-7, pg. 37 A escala das abcissas se mostra em múltiplos do desvio padrão. Nesta curva a área entre + σ e σ é igual a 68,27% da área total sob a curva normal. Portanto, a curva indica o intervalo de resíduos que se pode esperar que ocorram 68,27% das vezes. As porcentagens mostradas na Figura 4 se aplicam a todas as distribuições normais, independentemente da forma da curva ou do valor numérico do desvio padrão Interpretação do papel do desvio padrão Mostramos que o desvio padrão fixa os limites de um intervalo dentro do qual se espera que 68,27% das medições de uma grandeza estejam nele contidas. Isto significa dizer que: a) se uma medição se repete dez vezes, pode-se esperar que sete delas estejam contidas no intervalo definido pelo desvio padrão e, consequentemente, três delas caem fora deste intervalo; b) uma medição adicional da grandeza teria 68,27% de probabilidade de cair dentro dos

11 43 limites determinados pelo desvio padrão; c) a consequência mais importante é que o valor real ou verdadeiro da grandeza tem uma probabilidade de 68,27% de cair no intervalo definido pelo desvio padrão. Quando se aplica a equação 4 aos dados da Tabela 1, se obtém um desvio padrão de ± 2,19''. Examinando os resíduos calculados e tabulados na Tabela 1 (coluna 3) observamos que 70 dos 100 valores (70%) são realmente menores que 2,19''. Isso mostra que a teoria da probabilidade reflete de forma muito próxima a realidade Os erros de 50, 90 e 95% Dos dados da Figura 4 é possível calcular a probabilidade de um erro de qualquer porcentagem de probabilidade. A equação geral é: Ep = Cp σ (5.5) Onde Ep é a porcentagem de erro de interesse e Cp é o correspondente fator numérico tomado na Figura 4. Assim temos: E 50 = 0,6745 σ (5.6) E 90 = 1,6449 σ (5.7) E 95 = 1,9599 σ (5.8) O erro E 50 é definido como erro provável. Este valor fixa os limites do intervalo dentro do qual devem permanecer as medições 50% das vezes, isto é, uma medida tem 50% de probabilidade de estar dentro ou fora do intervalo estabelecido. Os erros E 90 e E 95 são usados para estabelecer precisões necessárias em projetos topográficos. Destes, o E 95 denominado erro dois sigma (2σ) é mais usado. Por exemplo: em um determinado projeto se pode requerer que o erro de 95% seja menor ou igual a certo valor para que o trabalho seja aceito. Aplicando a equação 08 aos dados da Tabela 1 (desvio padrão = ±2,19'') resulta E 95 = ±4,29''. Em topografia se usa o erro três sigma (3σ) como critério para abandonar medições duvidosas. De acordo com a Figura 4 existe uma probabilidade de 99,7% de que um erro seja menor que esta quantidade. Assim, em um conjunto de observações, qualquer valor cujo resíduo exceda 3σ se considera como um equívoco e deverá ser efetuada uma nova medição ou rever os cálculos e análises com um dado a menos. Nota: O eixo X (abcissas) é uma assíntota da curva de distribuição normal, isto é, mesmo que os valores de X tendam ao infinito a calda da curva nunca tocará o eixo, de modo que não se poderá avaliar o erro 100% (E 100 ). Em outras palavras, qualquer que seja o erro encontrado, teoricamente sempre é possível achar um erro maior.