UNIVERSIDADE FEDERAL DE MATO GROSSO FACULDADE DE ARQUITETURA ENGENHARIA E TECNOLOGIA COORDENAÇÃO DE ENSINO DE ENGENHARIA CIVIL

Transcrição

1 UNIVERSIDADE FEDERAL DE MATO GROSSO FACULDADE DE ARQUITETURA ENGENHARIA E TECNOLOGIA COORDENAÇÃO DE ENSINO DE ENGENHARIA CIVIL JAQUELINE DE PAULA SAGA GOMES AJUSTE DE POLIGONAL FECHADA EM LOOP PELO MMQ COM VARIAÇÃO DAS PRECISÕES DAS OBSERVAÇÕES CUIABÁ MATO GROSSO 014

2 JAQUELINE DE PAULA SAGA GOMES AJUSTE DE POLIGONAL FECHADA EM LOOP PELO MMQ COM VARIAÇÃO DAS PRECISÕES DAS OBSERVAÇÕES Trabalho de Graduação submetido ao Corpo Docente da Faculdade de Arquitetura, Engenharia e Tecnologia da UFMT como requisito parcial para obtenção do título de Bacharel em Engenharia Civil Orientador: Edson Pereira Lima Cuiabá Mato Grosso 014

3 Dados Internacionais de Catalogação na Fonte. G633a Paula Saga Gomes, Jaqueline de. AJUSTE DE POLIGONAL FECHADA EM LOOP PELO MMQ COM VARIAÇÃO DAS PRECISÕES DAS OBSERVAÇÕES / Jaqueline de Paula Saga Gomes f. : il. color. ; 30 cm. Orientadora: Edson Pereira Lima. TCC (graduação em Engenharia Civil) - Universidade Federal de Mato Grosso, Faculdade de Arquitetura, Engenharia e Tecnologia, Cuiabá, 014. Inclui bibliografia. 1. MMQ.. Precisão. 3. Elipse dos Erros. I. Título. Ficha catalográfica elaborada automaticamente de acordo com os dados fornecidos pelo(a) autor(a). Permitida a reprodução parcial ou total, desde que citada a fonte.

4

5 DEDICATÓRIA Aos meus pais, pelas preocupações que passaram por minha causa, pelo amor, carinho e estímulo que me ofereceram, dedico-lhes essa conquista como gratidão.

6 AGRADECIMENTO Agradeço a Deus pela força e coragem que me proporcionou durante esta longa caminhada. Agradeço aos familiares e amigos, pelo carinho, paciência, pelas alegrias, tristezas e dores compartilhadas e pela capacidade de me trazerem paz e esperança na correria de cada semestre.

7 RESUMO Este trabalho de graduação visa analisar o ajustamento de uma poligonal fechada em loop, localizada no campus da Universidade Federal de Mato Grosso, utilizando duas técnicas distintas para estabelecer as precisões das observações coletadas em campo. Ajustar pelo método dos mínimos quadrados as observações, determinar as coordenadas ajustadas dos pontos e comparar as suas precisões. Uma vez coletados os dados de campo, e para a verificação da qualidade dos mesmos, após o ajustamento pelo método dos mínimos quadrados usam-se as estimações por ponto onde as formulações tidas como elipse dos erros, a elipse de confiança irá permitir a verificação desta qualidade. O trabalho é concluído analisando e comparando os resultados obtidos utilizando a precisão nominal da estação total e a precisão da média das observações, verificando e sugerindo através de comparativos qual das precisões fornece um resultado mais exato. Palavras-chave: MMQ, Precisão, Elipse dos Erros.

8 ABSTRACT This work aims to analyze the degree of adjustment in a closed polygonal "loop", located at the Federal University of Mato Grosso campus, using two different techniques to establish the precision of the observations collected in the field. Adjust the method of least squares the observations, determine the adjusted coordinates of points and compare their accuracy. Once collected field data, and the verification of their quality, after adjustment by the least squares method are used for the estimations point where the formulations taken as ellipse of errors, the confidence ellipse will allow verification of this quality. The work is done by analyzing and comparing the results obtained using the nominal accuracy of the total station and accuracy average of observations, checking and suggesting through comparative accuracies which provides a more accurate result. Keywords: MLS, Accuracy, Ellipse of Errors.

9 LISTA DE GRÁFICOS Gráfico 1 - Gráfico de Ângulos Ajustados pelo MMQ Gráfico Gráfico das Precisões Angulares Ajustadas pelo MMQ Gráfico 3 - Gráfico das Distâncias Horizontais Ajustadas pelo MMQ Gráfico 4 - Gráfico das Precisões das Distâncias Horizontais Ajustadas pelo MMQ Gráfico 5 - Gráfico das Coordenadas Topográficas X Ajustadas pelo MMQ Gráfico 6 - Gráfico da Precisão das Coordenadas Topográficas X Ajustadas pelo MMQ Gráfico 7 Gráfico das Coordenadas Topográficas Y Ajustadas pelo MMQ Gráfico 8 - Gráfico da Precisão das Coordenadas Topográficas Y Ajustadas pelo MMQ

10 LISTA DE ILUSTRAÇÕES Figura 1 - Definição dos elementos da elipse deo erro ou de confiança... 6 Figura - Alguns padrões das elipses de erro padrão Figura 3 - Estação total Topcon GTS Figura 4 - GPS Topcon Figura 5 - Distâncias, Ângulos e Azimutes no plano Figura 6 - Procedimento esquemático de Ajustamento pelo MMQ Figura 7 Cálculo para o nível de significância a 1% Figura 8 Cálculo para o nível de significância a 5% Figura 9 Teste Bilateral com nível de significância a 5%... 7 Figura 10 Teste Unilateral com nível de significância a 5% Figura 11 Estatística do teste Figura 1 Cálculo para o nível de significância a 1%... 8 Figura 13 Cálculo para o nível de significância a 5%... 8 Figura 14 Teste bilateral para o nível de significância a 1% Figura 15 Teste unilateral para o nível de significância a 1% Figura 16 Estatística do teste Figura 17 Poligonal com as elipses de confiança... 98

11 LISTA DE QUADROS Quadro 1 Planilha de experimentos Quadro Planilha de experimentos continuação Quadro 3 Valores observados e calculados Quadro 4 Coeficientes (Pontos a Vante)... 6 Quadro 5 Valores observados e calculados (1ª iteração) Quadro 6 Valores de Vante Quadro 7 Valores observados e calculados Quadro 8 Valores de vante Quadro 9 Valores observados e calculados Quadro 10 Valores de Vante Quadro 11 Precisão Nominal Quadro 1 Elipses dos Erros Padrão Quadro 13 Elipses de confiança pontual Quadro 14 Valores observados e calculados Quadro 15 Coeficientes (Pontos a vante) Quadro 16 Valores observados e calculados Quadro 17 Valores de vante Quadro 18 Valores observados e calculados Quadro 19- Valores de vante Quadro 0 Valores observados e calculados Quadro 1 Valores de vante Quadro Precisão da média das observações Quadro 3 Elipses dos Erros Padrão Quadro 4 Elipse de Confiança Pontual... 96

12 SUMÁRIO 1 INTRODUÇÃO OBJETIVOS OBJETIVO GERAL OBJETIVOS ESPECÍFICOS OBJETO Problema Hipóteses REVISÃO DE LITERATURA AJUSTAMENTO PELO MÉTODO DOS MÍNIMOS QUADRADOS Ajustamento paramétrico Método de ajustamento paramétrico linear Método de ajustamento paramétrico não linear Estimativa da precisão dos parâmetros e dos resíduos estimados MATRIZ DOS PESOS VETOR DAS OBSERVAÇÕES APROXIMADAS VETOR DAS DIFERENÇAS MATRIZ A TESTE BILATERAL TESTE UNILATERAL TESTE DATA SNOOPING ELIPSES DE ERRO MÉTODOS E MATERIAIS MATERIAL DE CAMPO MATERIAL DE ESCRITÓRIO METODOLOGIA APLICAÇÃO DO TESTE QUI-QUADRADO DA FORMA QUADRÁTICA DO ERRO DE FECHAMENTO Matrizes variância-covariância (MVC) MVC das Distâncias MVC dos Azimutes... 34

13 4.4.4 MVC das Distâncias e Azimutes MVC das coordenadas do ultimo ponto Aplicação final do teste AJUSTAMENTO PELO MÉTODO DOS MÍNIMOS QUADRADOS (MMQ) Modelo Matemático Equações de observações para a distância Equação de observação para o Azimute A ij Equação de observação para o Azimute A ik Equação de observação para o Ângulo a kij Equações de observações para a distância com resíduo Equações de observações para o Ângulo com resíduo Coordenadas aproximadas - parâmetros (X o ) Matriz dos Peso (P) Vetor das observações aproximadas (L o ) Vetor dos termos independentes (L) Matriz A Resolução do sistema de equações de normais Cálculo dos Parâmetros Ajustados Cálculo do Vetor dos Resíduos (V) Teste Global da Variância a Posteriori ( ) Cálculo das MVC: dos parâmetros ajustados, observações ajustadas e resíduos QUALIDADE DO AJUSTAMENTO Precisão e Elipses de Erro Detecção de Outlier e localização de erros grosseiros Teste Data Snooping... 5 ˆo 5 EXPERIMENTAÇÃO E RESULTADOS EXPERIMENTAÇÃO E ANÁLISE DE RESULTADOS COM A PRECISÃO NOMINAL DA ESTAÇÃO TOTAL Teste Qui-quadrado da forma quadrática do erro de fechamento Matriz Variância-Covariância das distâncias e ângulos Matriz Variancia-Covariância das distancias e azimutes Matriz Vriancia-Covariancia das coordenadas dos últimos pontos Aplicação do teste Ajustamento pelo Método dos Mínimos Quadrados Matriz A Comparação da variância da unidade peso a priori com a variância da unidade peso a posteriori Iterações Primeira iteração Segunda iteração Terceira iteração Localização de erros nas observações pelo teste Data Snooping de Baarda Parâmetros da Elípse dos Erros e Elípse de Confiança EXPERIMENTAÇÃO E ANÁLISE DE RESULTADOS COM A PRECISÃO DA MÉDIA DAS OBSERVAÇÕES Teste Qui-quadrado da forma quadrática do erro de fechamento... 79

14 Matriz variância-covariância das distancias e ângulos Matriz variância-covariancia das distancias e azimutes Matriz variância-covariância das Coordenadas dos últimos pontos Aplicação do teste Ajustamento pelo Método dos Mínimos Quadrados Iterações Primeira iteração Segunda iteração Terceira iteração Localização de erros nas observações pelo teste Data Snooping de Baarda Parâmetros da Elipse dos Erros e Elipse de Confiança ANÁLISE CONJUNTA DOS RESULTADOS CONCLUSÃO REFERÊNCIAS BIBLIOGRÁFICAS

15 13 1 INTRODUÇÃO O trabalho visa analisar o ajustamento de uma poligonal fechada em loop, localizada no campus da Universidade Federal de Mato Grosso, utilizando duas técnicas distintas para estabelecer as precisões das observações coletadas em campo. Ajustar pelo método dos mínimos quadrados, MMQ, as observações, determinar as coordenadas ajustadas dos pontos e comparar as suas precisões. Sem muito retroceder no tempo, até poucos anos, os controles de qualidade de levantamentos topográficos e geodésicos estavam baseados em expressões matemáticas documentadas na NBR 13133/1994 além de especificações de caráter pratico adotadas por técnicos da área. Estes profissionais de topografia até então usam da compensação dos erros de distância (erro linear) e erro nos ângulos (erro angular). Esta técnica realiza inicialmente a distribuição do erro angular de fechamento entre os vértices da poligonal e prossegue distribuindo o erro linear no plano cartesiano. No entanto, tratando estes erros separadamente, haverá sempre o problema do fechamento. No ajustamento realizado pelo MMQ, os ângulos e distâncias são trabalhados em conjunto em um processo de iteração até que ocorra uma estabilização dos valores dos parâmetros, no caso as coordenadas plano-retangulares do levantamento. Com os avanços tecnológicos, novos instrumentos cada vez mais sofisticados e precisos estão vindo suprir o mercado da geomensura percebe-se a exigência da adoção em paralelo de técnicas estatísticas apuradas para o controle de qualidade de um levantamento topográfico. Desta forma, este fato leva a uma exigência elevada da acurácia. Uma vez coletados os dados de campo, e para a verificação da qualidade dos mesmos, após o ajustamento pelo método dos mínimos quadrados usam-se as estimações por ponto onde as formulações tidas como elipse dos erros, a elipse de confiança irá permitir a verificação desta qualidade.

16 14 OBJETIVOS.1 OBJETIVO GERAL Ajustar pelo método dos mínimos quadrados as coordenadas (XY) dos vértices de uma poligonal fechada em loop, considerando as precisões, nominais da estação total e as precisões obtidas por repetições na mensuração dos ângulos e distâncias avaliando a precisão dos parâmetros ajustados.. OBJETIVOS ESPECÍFICOS São os seguintes: a) materializar com marco identificável na área de estudo as coordenadas planialtimétricas de dois pontos referenciados a uma única origem (Sistema Geodésico Brasileiro SGB) com uso de GPS, sendo que, um dos pontos será integrante da poligonal fechada e usado como ponto de controle; b) processar as observações coletadas da poligonal (Ângulos e distâncias) considerando suas precisões, referenciadas as repetições de leituras e às máximas estipuladas pelo fabricante da estação total a ser utilizada na coleta de dados; c) realizar um controle de pré-ajustamento, utilizando o teste qui-quadrado da forma quadrática do erro de fechamento para verificar a aceitação ou não das observações coletadas; d) realizar o ajustamento das observações pela técnica do Método dos Mínimos Quadrados (MMQ) na forma paramétrica; e) adotar duas matrizes distintas de Peso no ajustamento das observações. Uma considerando os elementos de peso como sendo o inverso das precisões obtidas por repetições das observações, e a outra o inverso das precisões nominais da estação total; f) verificar a qualidade do levantamento topográfico após o ajustamento através das estimações por ponto das elipses, dos erros e de confiança e g) a partir dos valores das precisões ajustadas para as coordenadas dos pontos da poligonal, proceder a uma análise de diferença entre elas e comparar os resultados obtidos.

17 15.3 OBJETO.3.1 Problema De que maneira é possível obter parâmetros ajustados, coordenadas retangulares (XY), de uma poligonal fechada percorrida em loop com precisão, aplicando as técnicas do Método dos Mínimos Quadrados na sua forma paramétrica?.3. Hipóteses São as seguintes: a) as precisões médias das observações obtidas por repetições quando vinculadas ao processo de ajustamento pelo MMQ proporciona parâmetros ajustados com maior precisão; b) se o erro de fechamento testado no pre-ajustamento passar no teste qui-quadrado da forma quadrática do erro de fechamento, não serão necessários, caso precise, mais do que três iterações para obter um bom ajuste; c) trabalhando com as precisões das observações obtidas por repetições, chegam-se aos parâmetros ajustados cujas precisões serão melhores do que às máximas estabelecidas para estação total e d) os semi-eixos das elipses de confiança apresentam maiores dimensões nos pontos mais afastados do ponto de controle.

18 16 3 REVISÃO DE LITERATURA Na sequencia desse trabalho, será apresentada de forma cronológica tópicos relativos ao tema da pesquisa que será desenvolvida. 3.1 AJUSTAMENTO PELO MÉTODO DOS MÍNIMOS QUADRADOS Utilizando as equações de observação expressas por variação de coordenadas, o ajustamento pelo método dos mínimos quadrados permite obter coordenadas finais dos vértices mediante as correções dx i e dy i que são adicionadas as coordenadas provisórias. Segundo Mikhail e Ackermann (1976), Leick (1995, 004), o modelo matemático funcional é um componente importante do ajustamento por mínimos quadrados. No modelo matemático, de acordo com Leick (004) são descritas matematicamente as relações entre observações e parâmetros. A realidade física existente é expressa de maneira simplificada. Coordenadas e alturas são consideradas como parâmetros. As distâncias e ângulos, as diferenças de coordenadas ou de alturas são consideradas como observações. De acordo com Krakiwsky (1975) e Leick (004), são três os modelos matemáticos de ajustamento: F(X a,l a ) = 0, F(L a ) = 0 e L a = F(X a ), que correspondem respectivamente ao método de ajustamento combinado, correlato e paramétrico, que serão sucintamente demonstrados, com exceção do paramétrico que será utilizado neste trabalho. No método de ajustamento combinado, uma função não explícita relaciona as observações e os parâmetros, no sistema de equações não é possível isolar os parâmetros dos valores observados: F ( X a, L a ) 0 (1) onde: a: indicação de que os parâmetros e observações são ajustados; L a: um vetor (nx1) das observações ajustadas; X a (ux1): é um vetor que contém os parâmetros ajustados; n: número de observações; u : número de parâmetros.

19 17 As observações ajustadas pelo método de ajustamento correlato são ligadas por N equações de condição, onde só aparecem valores medidos, que são os valores observados ajustados (incógnitas) e nenhum parâmetro: F ( ) 0 () L a No método das equações de observações ou método de ajustamento paramétrico, os valores observados ajustados são expressos como função dos parâmetros ajustados: L F X ) (3) a ( a Gemael (1994) descreve técnicas matemáticas desenvolvidas por Gauss e Legendre que adotam como melhor estimativa de uma grandeza X (valor verdadeiro), aquela que a soma dos quadrados dos resíduos seja mínima: V T V mínimo (4) Uma matriz quadrada de pesos é adicionada a equação, pois as observações não apresentam o mesmo grau de confiança. Dessa maneira a Equação (4) se expressa pela Equação (5): V T P V mínimo (5) onde: V: vetor dos resíduos das observações; P : matriz dos pesos; Ajustamento paramétrico Considerando a necessidade de se obter uma estimativa única para os parâmetros, coordenadas de uma poligonal fechada, bem como suas precisões, será utilizado o método dos mínimos quadrados sob a forma de um ajuste paramétrico para o ajustamento das observações. Segundo Dalmolin (004) o método paramétrico pode ser linear ou não linear, essa determinação dependerá da função F. Será paramétrico linear se F for linear, caso contrário, será não linear.

20 Método de ajustamento paramétrico linear Sendo linear o funcional F da equação L F X ), as observações ajustadas serão expressas da seguinte maneira: a a n L nau u X1 a 1 (6) ( a onde: a n L 1 : vetor (nx1) dos valores observados ajustados, onde n é o número de observações; n A u : matriz dos coeficientes das incógnitas ou matriz projeto de dimensão (n x u); a u X 1 : vetor (u x 1) dos parâmetros ajustados. A Equação (6) é inconsistente devido aos inevitáveis erros de observação que acontecem pela disposição somente de observações brutas e pela inexistência, a priori, dos valores observados ajustados. Devido a essa inconsistência, é introduzido um vetor de discrepâncias entre os valores observados e ajustados, denominado vetor dos resíduos. Acrescentando o vetor dos resíduos na Equação (6) temos: b a n L1 nv1 nau u X1 (7) ou: a b nv1 nau u X1 nl1 (8) Desenvolvendo o procedimento acima, a inconsistência será retirada, porém surge um novo problema, pois a nova Equação (7) ou (8) contém mais incógnitas (u + n > n) do que observações (n). Aplica-se a Equação (5), do critério de mínimos quadrados, na Equação (8) para contornar o problema. O resultado encontrado dessa aplicação é o sistema de equações normais, Equação (9), que tem como solução admitindo inversa ordinária a Equação (10) em que os parâmetros ajustados são fornecidos diretamente do paramétrico linear. u N u u X 1 n U1 u 01 (9) a T 1 T b u X 1 (( n Au ) n Pn n Au ) ( n Au ) n Pn n L1 (10) onde:

21 19 u N u = (( A ) n T u n P n n A ) 1 u : matriz dos coeficientes das equações normais; nu 1 ( : vetor dos termos independentes; T b nau ) n Pn n L1 a u X 1 : vetor dos parâmetros ajustados no caso do modelo funcional ser linear. A expressão da matriz simétrica dos pesos, indicando as flutuações probabilísticas das observações, é: onde: P (11) 0 1 LB 0 : fator de variância a priori, geralmente arbitrado e igualado a 1; 1 Lb : MVC das observações. A variância a priori, segundo Gemael (1994), não tem influencia no vetor solução dos parâmetros estimados na matriz dos coeficientes das equações normais N. É necessário o conhecimento da matriz das derivadas parciais das equações de observações em relação aos parâmetros para estimar o vetor dos parâmetros ajustados da Equação (10). Utilizando os valores da Equação (10) na Equação (8), é possível calcular os valores dos resíduos. Dessa forma, os valores das observações ajustadas são: n L a b 1 nl1 nv1 (1) Método de ajustamento paramétrico não linear É necessário linearizar o modelo matemático funcional F de L a = F(X a ) quando ele é não linear. Para linearizar o modelo funcional, emprega-se a fórmula de Taylor, dessa maneira as aproximações são introduzidas e as iterações são requeridas tornando o modelo linearizado da seguinte forma: n L b 0 1 nv1 nl1 nau ux 1 (13) n V 1 0 b A X L L ) (14) n u u 1 ( n 1 n 1 onde:

22 0 L 0 : é o vetor (nx1) das observações aproximadas, calculadas a partir dos parâmetros aproximados, ou seja, L 0 = F(X 0 ); L: é o vetor dos termos independentes (nx1), ou discrepâncias, calculados a partir dos valores dos parâmetros observados menos os valores observados aproximados sendo dado por n L 1 0 b L L ) ; ( n 1 n 1 uδx 1 : é o vetor das correções a serem aplicadas aos parâmetros aproximados. O vetor solução u δx 1 (correções aos parâmetros aproximados), considerando A T PA, é dado pela equação abaixo: u T 1 T X ( A P A A P L (15) 1 n u n n n u ) n u n É possível obter as coordenadas ajustadas pela equação abaixo: u X a 0 1 u X1 ux 1 n n (16) Pode-se obter o vetor observações ajustadas e dos resíduos com as Equações (13) e (14) respectivamente Estimativa da precisão dos parâmetros e dos resíduos estimados É possível obter as estimativas da qualidade dos parâmetros estimados, das observações, e dos resíduos por meio da MVC. Segundo Lugnani (1983) e Dalmolin (004) pode-se obter a representação (X, x ) dos parâmetros e sua precisão a partir da utilização do método paramétrico, onde mede-se L b e estima-se x. Pode-se gerar a MVC das correções aos parâmetros ajustados Equação (17) aplicandose a lei de propagação de covariâncias na Equação (16). De acordo com Wells (1971), Mikhail (1976), Leick (1995), Leick (004), Gemael (1994) e Dalmolin (004) essas correções são constantes, então a mesma equação pode fornecer a MVC dos parâmetros estimados. X a 0 N 1 (17) A MVC dos valores observados ajustados é dada pela Equação (18) abaixo: La 0 AN 1 A T (18)

23 1 A MVC dos resíduos das observações é dada pela Equação (19) abaixo: (19) V Lb La Pela equação expressa abaixo pode-se obter a variância a posteriori : 0 V T PV n u (0) onde: n u: Nº de graus de liberdade do sistema de equações. 3. MATRIZ DOS PESOS Para montar a matriz dos pesos dada pela Equação (11), é necessário que sejam conhecidas as precisões com que foram obtidas as observações (ângulos e distâncias). Considerando que não existem correlações entre as observações, a matriz será trabalhada de maneira diagonal. O fator de variância a posteriori, ou o sigma zero a priori 0 pode ser arbitrário, geralmente ele é considerado com o valor igual à unidade. A MVC das observações é formada de acordo com os valores da precisão de cada observação e caso haja correlação entre as observações, sendo a variância e covariância respectivamente. 3.3 VETOR DAS OBSERVAÇÕES APROXIMADAS Partindo de estações genéricas (k, i, j), cujo o ponto (i) considera-se um ponto de instalação do instrumento medidor de ângulos e distâncias, (k) um ponto situado atrás e (j) um ponto situado a frente, pode-se trabalhar as equações de observações necessárias ao MMQ. Desta forma, (S ik ) caracteriza a distância do ponto de instalação (i) ao ponto situado atrás (k) e (S ij ), a distância do ponto de instalação (i) ao ponto situado a frente (j). O ângulo horizontal horário formado entre os três pontos ( kij ) é obtido pela diferença entre o azimute a vante (A ij ) e o azimute atrás (A ik ) Assim, para determinar o vetor das observações aproximadas expresso pela Equação (3) é necessário substituir os vetores aproximados obtidos X a pelo método dos mínimos quadrados nas equações de observações expressas abaixo:

24 X j Xi X k X i kij Azij Azik a tan a tan Y j Yi Yk Yi (1) Az X ij ij a Y X ik ij Az ik a tan Yik () d ij 1 X X Y Y e d X X Y Y j i j i ik 1 (3) k i k i 3.4 VETOR DAS DIFERENÇAS L é o vetor dos termos independentes (nx1), ou discrepâncias, calculados a partir dos valores dos parâmetros observados menos os valores observados aproximados sendo dado por: n L 1 0 b L L ) (4) ( n 1 n MATRIZ A Chamamos de matriz A (n x u) a matriz das derivadas parciais da função F, ou seja, a matriz A é montada a partir das derivadas parciais das equações de observações em relação aos parâmetros ajustados no ponto aproximado. É expressa pela Equação (5): F A. (5) X a XaX TESTE BILATERAL Na aplicação do teste bilateral, primeiramente são estabelecidas a hipótese básica ou nula (H 0 ) e a hipótese alternativa (H a ): distribuição H (6) 0 0 ˆ 0 H a 0 ˆ 0 (7) A comparação entre o e ˆo se baseia no fato de que a forma quadrática V T PV tem com (gl = n u) graus de liberdade e tem por finalidade verificar se

25 3 estatisticamente o é igual a é calculada por: ˆo, esta última é obtida do ajustamento. Assim a estatística ˆ 0 c gl, como 0 V T PV V T PV ˆ 0, c (8) gl 0 Com o auxílio de uma tabela de distribuição qui-quadrado é possível determinar os valores teóricos. É necessário entrar com o número do grau de liberdade (gl) e o nível de significância () chegando na Equação (9). Se o nível de significância () estiver dentro do intervalo representado da Equação (9), a hipótese básica não é rejeitada: gl, c gl,1 (9) Se o nível de significância () estiver fora do intervalo de confiança dado pela Equação (9), a hipótese básica é rejeitada e acabamos por aceitar a hipótese alternativa. Nos casos em que a hipótese básica é rejeitada significa que o ajustamento apresenta problemas e as possíveis causas desses problemas devem ser investigadas. 3.7 TESTE UNILATERAL Na aplicação do teste unilateral, presume-se que quando o teste global é usado para detectar outliers a variância a posteriori é maior que a variância a priori. Sendo assim, as hipóteses a serem testadas são as seguintes: H (30) 0 0 ˆ 0 Ha (31) ˆ 0 0 É necessário calcular a estatística do teste pela Equação (9) que também é utilizada no cálculo do teste bilateral. Se com o nível de significância () a Equação (3) for atendida, a hipótese básica não é rejeitada: gl.1 (3) gl calc

26 4 De acordo com Kuang (1996), nos casos em que uma estimativa imprópria da matriz variância-covariância resultar na rejeição da hipótese zero H 0, deve-se analisar os resíduos, pois eles obedecem a uma função de distribuição normal, com tendência de média igual a zero, para detectar um possível erro, observa-se se alguma das observações produziu resíduos excessivos. Caso o teste global seja rejeitado e os resíduos se mostrarem compatíveis com a precisão dos equipamentos utilizados nas medições, propõe-se uma nova matriz variânciacovariância, pois o motivo da rejeição pode ser pela estimativa não correta da precisão das observações. onde: ˆ 0 Lb ˆ. Lb (33) ˆ Lb : matriz variância-covariância das observações escalonadas. Os testes data snooping de Baarda e o teste Tau de Pope são comumente aplicados para localizar, detectar e eliminar os erros grosseiros ( outliers ). Nesse trabalho será abordado somente o teste data snooping de Barda para a localização de erros grosseiros. 3.8 TESTE DATA SNOOPING Baarda (1968) propôs o teste global para a detecção de outliers e o teste data snooping para a localização de erros grosseiros. O teste data snooping de Baarda consiste de um teste unidimensional que examina apenas um resíduo de cada vez, o procedimento é repetido tantas vezes quantas fores as observações, é utilizado para localizar as observações que possam estar abrigando erros, o teste estabelece valores limite para aceitação das observações, a partir dos dados obtidos na matriz variância-covariância dos resíduos. A estatística do teste é: w i v i (34) l 1 ri onde: vi: são os valores obtidos do vetor dos resíduos (V = A X + L) da última iteração;

27 5 r i é a redundância parcial que se obtém da diagonal da matriz. A matriz R de redundâncias é expressa pela equação abaixo: R V ˆ1 P (35) onde: V : é a MVC dos resíduos; P: é a matriz dos Pesos. A MVC dos resíduos é dada pela Equação abaixo: 1 V ˆ 0. P La (36) A média matemática esperada é zero e variância igual a 1 dos resíduos normalizados que se ajustam a função de distribuição normal reduzida. Portanto, outra hipótese nula mais específica é proposta abaixo: onde: H : wi ~ (0,1) (37) 0 n n(0,1): é a distribuição de densidade normal reduzida. No teste bilateral que tem um nível de significância pré-definido a, a hipótese nula H 0 será rejeitada, ou seja, um outlier será detectado, se: w i n 0 ou w i n (38) 1 0 Nos casos em que os valores das observações que apresentarem valores excedidos aos calculados no teste, deve-se revisar os valores ou as medições devem ser repetidas. 3.9 ELIPSES DE ERRO De acordo com Shofield e Breach (197), a elipse de erro é uma expressão gráfica conveniente da incerteza posicional de um ponto, e sendo absoluta acaba por fornecer a medida de incerteza relativa do ponto analisado em relação ao ponto fixo da rede. Oferecer subsídios para realização de comparações de maneira visual da precisão relativa das estações é a maior vantagem da elipse para Ghilani e Wolf (006).

28 6 Para Ghilani e Wolf (006), pode-se comparar de maneira rápida e significativa a visualização da forma, tamanho e orientação da elipse de vários levantamentos. Segundo Leick (004), através da matriz projeto e da matriz peso a forma da elipse padrão pode variar, dependendo da geometria da rede e a interpretação geométrica pode ser avaliada se a rede e as elipses forem apresentadas em conjunto. A elipse de erro pode ser visualizada nas figuras abaixo: Figura 1 - Definição dos elementos da elipse deo erro ou de confiança Fonte: Mikhail e Gracie (1981)

29 7 Figura - Alguns padrões das elipses de erro padrão. Fonte: Mikhail e Gracie (1981) A elipse de erro em sua forma padrão possui uma região de confiança de 39,4% de probabilidade em que a posição estimada para o ponto esteja dentro da elipse, centrada na posição verdadeira e a sua construção pode ser feita calculando-se os elementos (semi-eixos maior e menor e orientação) a partir dos dados constantes na matriz variância-covariância dos parâmetros ajustados XX. Segundo Gemael (1994), para obtenção de uma região de probabilidade de 95%, basta multiplicar o semi-eixo maior (a) e menor (b) por um fator de,477. XX 1 1 x T xy ˆ 0 N ˆ 0.( A PA) (39) yx y onde: XX : matriz variância-covariância das coordenadas ajustadas;

30 8 ˆ0 : variância a posteriori ; A: matriz dos coeficientes das equações de observação; P: matriz dos pesos das observações; ( A T PA) 1 : matriz co-fatores da matriz variância-covariância das coordenadas ajustadas; : variância das coordenadas ajustadas X e Y, respectivamente; x, y xy : covariância x, y; Os parâmetros, e, que são respectivamente o desvio padrão da coordenada x y xy estimada x, desvio padrão da coordenada estimada y e covariância entre elas, determinam o tamanho, a forma e a orientação das elipses dos erros padrão (). A correlação entre x e y determina a orientação da elipse em relação ao eixo x e y, se elas não forem correlacionadas, a elipse se torna paralela ao eixo x e y e se as duas coordenadas x e y tiverem a mesma precisão, a elipse degenera-se em um círculo. É necessária a análise de quadrante para calcular a orientação da elipse. A expressão do ângulo crítico é: tg (40) X XY Y Os pontos críticos, que são as raízes da Equação (40) são e 90º. O que significa que as variâncias máxima e mínima estão em eixos ortogonais. Os semi-eixos a e b da elipse dos erros são calculados por: a max (41) X b max (4) Y

31 9 4 MÉTODOS E MATERIAIS O trabalho será conduzido no campus Cuiabá da Universidade Federal de Mato Grosso (UFMT), cidade de Cuiabá-MT, em uma área próxima ao estacionamento do Departamento de Engenharia Sanitária e Ambiental (DESA). Para isto será delimitada uma poligonal fechada de 5 pontos. Serão a principio materializados dois marcos com coordenadas geodésicas determinadas com GPS (Topcon), Base & Rover, cujos dados serão processados com a RBMC Cuiabá utilizando o software Topcon Tools, gerando coordenadas seguras de pontos na área de estudo. Destes pontos, um será usado como ponto de controle, para o qual será estabelecidas coordenadas topográficas, bem como o azimute verdadeiro do alinhamento inicial (AZv 1- ). O marco Nº 1 será materializado em cilindro de concreto a 30 cm do solo, assim como o marco Nº. Os demais vértices da poligonal serão materializados com piquetes de madeira localizados ao nível do solo. A relação de materiais a serem utilizados neste trabalho irá constar-se de equipamentos de campo e escritório. 4.1 MATERIAL DE CAMPO Os materiais são os seguintes: a) estação total marca GTS-03 (Figura 3), de fabricação Topcon, objetiva com medição eletrônica da distância de raio infravermelho, visor, teclado, dispositivo de ajuste, nível de bolha circular e tubular e prumo óptico;

32 30 Figura 3 - Estação total Topcon GTS-03. b) prisma refletor e bastão com nível de bolha; c) tripé com base nivelante; d) bipé e e) GPS Topcon (Base & Rover), Figura 4. Figura 4 - GPS Topcon. 4. MATERIAL DE ESCRITÓRIO Os materiais são os seguintes: a) Hardware: - computador de mesa;

33 31 - impressora laser; b) Software: - Topcon Tolls. Para processamento dos dados de GPS; - DMAG010. Para determinação da convergência meridiana e declinação magnética; - MAPGEO. Para transformação de coordenadas geodésica UTM coordenadas topográficas; - pacote de programas Office 010 da Microsoft; - Mathcad 15, versão Demo. Para as análises matemáticas e - Autocad 01. Para desenho da área levantada. 4.3 METODOLOGIA O levantamento topográfico planimétrico será realizado com estação total pelo método do caminhamento perimétrico ou poligonação a ser realizado no sentido anti-horário com medição de leitura digital dos ângulos internos ao polígono e distâncias eletrônicas dos lados do polígono. Para a poligonal a ser levantada, o ponto 1 da mesma será usado como ponto de controle, cujas as coordenadas (XY) e o azimute verdadeiro do ponto 1 para o ponto (AZv 1- ) serão inicialmente fixadas. Portanto, no total serão levantadas 10 observações, sendo 5 ângulos horizontais horários. Já as observações de distâncias horizontais totalizam 5. Deste modo ao ser considerado os ângulos horizontais horários (5) e as distâncias horizontais (5), terá um total de 10 observações (n). Como as coordenadas do ponto 1 serviram como ponto de controle, estas não serão ajustadas, ou seja, o número de incógnitas (parâmetros) a serem determinados, serão as coordenadas X e Y dos 4 pontos restantes da poligonal, totalizando 8 parâmetros ou seja (u = 8). Assim o número de graus de liberdade (GL) será igual a sendo obtido pela Equação (43): GL n u (43) Para minimizar os erros de índice vertical e colimação do ângulo horizontal serão realizadas três séries de medições. Com a posição direta e invertida da luneta, para análises do índice vertical, e três séries de ângulos duplos para a análise da colimação dos ângulos horizontais.

34 3 As medições das distâncias, inclinadas/horizontais, também serão realizadas através de três series, considerando a posição direta e invertida da luneta. Para todas as observações coletadas, irá trabalhar com os valores médios. E para estes valores determinaram-se também suas respectivas precisões. Com as medições efetuadas a campo, serão determinados os erros de fechamento da poligonal os quais serão comparados com os limites de tolerância ou desvio padrão máximos permitidos para ângulos e distâncias, segundo as especificações técnicas da estação total utilizada. De acordo com o fabricante tem-se: a) Desvio padrão para a medição de ângulos: 10 ; e b) Desvio padrão da medição de distância: 5mm + 5ppm. Uma vez que os erros de fechamentos estejam abaixo dos limites de tolerâncias estabelecidos, irá proceder-se com a compensação dos erros de ângulos (erro angular) e nas distâncias (erro linear). Na compensação será realizado em primeiro lugar a distribuição do erro angular de fechamento e a seguir será distribuído o erro linear expresso no plano cartesiano. Uma vez compensados os erros, chegam-se as coordenadas provisórias (X,Y). Para estabelecer o controle de aceitação do erro de fechamento da poligonal, será aplicado o teste qui-quadrado do erro de fechamento, utilizando desta etapa em diante o software Mathcad 15 (Versão Demo) para deduções matemáticas e Excel para processar os dados. 4.4 APLICAÇÃO DO TESTE QUI-QUADRADO DA FORMA QUADRÁTICA DO ERRO DE FECHAMENTO Os dados necessários para a aplicação deste teste são: a) ângulos horários internos de cada vértice da poligonal (a kij ) ; b) distâncias observadas entre os vértices da poligonal (S ij ); c) desvio padrão ( a ) máximo para erro angular de cada observação, obtido das especificações do instrumento e desvio padrão considerando a média das observações; d) desvio padrão ( s ) máximo para erro linear de cada observação, obtido das especificações do instrumento e desvio padrão considerando a média das observações;

35 33 e) azimute provisório (A ij ) com o norte verdadeiro; f) coordenadas provisórias (XY) obtidas com os dados de campo; g) erro de fechamento em coordenadas X ( x ) e em Y ( y ) e h) variância do ângulo ( ) e da distância ( ). a S Matrizes variância-covariância (MVC) O propósito deste trabalho é ajustar as coordenadas (XY), logo tem-se uma variável aleatória bidimensional, sendo que as componentes X e Y se consideradas isoladamente, são variáveis unidimensionais com variância própria. As variâncias i e as covariâncias ij, (i j), das componentes de uma variável n- dimensional podem ser dispostas de modo a formar uma matriz quadrada (n x n) designada por, onde: n 1 n n1 n nn (44) Como as componentes da matriz são independentes entre si, as covariâncias serão nulas e irá degenerar para uma matriz diagonal MVC das Distâncias quadrado. Será obtida usando a variância especifica da estação total, elevando o desvio padrão ao S S 0 3 Sij 0 0 S pp, 1 (45)

36 MVC dos Azimutes Obtida por meio da lei de propagação das covariâncias: T A Ga G (46) onde: G: matriz das derivadas parciais da função A ij = f(a i ) A A A a1 a a A A A Aij a1 a ap a1 G ; i 1,,, p ; j 1,,, p A A A a1 a a p, p1 p, p1 p, p1 p p (47) A ij : Azimute entre o vértice ocupado (i) pela estação total e o ponto visado (j), sendo: A A a ( i 1) 180 ; i 1,,, p ; j i 1 (48) ij o kij j 1 i sendo: a kij : o ângulo horizontal horário observado em cada estação e A o o azimute verdadeiro do primeiro alinhamento da poligonal (AZv 1- ). a : MVC dos ângulos horizontais, cujos componentes são as variâncias obtidas das especificações da estação total. Ao efetuar o cálculo das derivadas parciais dos azimutes em relação aos ângulos horários será obtida uma matriz quadrada, triangular inferior e adimensional (G) G (49)

37 35 Como as medidas angulares serão obtidas pelo mesmo equipamento, as componentes da matriz ( ), diagonal, terão o mesmo valor (quadrado do desvio padrão máximo para o a erro angular) de acordo com as especificações da estação total MVC das Distâncias e Azimutes Será composta pela junção das MVC das distâncias e MVC dos azimutes, resultando em uma matriz quadrada: 0 S SA, 0 A (50) MVC das coordenadas do ultimo ponto Novamente aplicando-se a lei de propagação das covariâncias para as coordenadas do último ponto, tem-se: T X, Y D S, A D (51) onde: D: Matriz das derivadas parciais das funções de (X,Y) em relação a distância (S ij ) e ângulo (a kij ), representadas abaixo. X X S sen( A ) p1 1 ij ij i 1 p Y Y S cos( A ) p1 1 ij ij i 1 p para i 1,,, p e j i 1 (5) Derivando as funções acima terá: D n sena sena sena S cos A S cos A S cos A cos A cos A cos A S sena S sena S sena 1 3 p p1 p1 1 3 p p1 p1 (53) Uma vez que se tem a necessidade de transformar os valores dados em radianos para segundos de arco, será introduzido em ( D n ) o fator de multiplicação (ρ) sendo o mesmo ρ

38 36 ( /rad) = /π. Nesta matriz, com já especificado o índice (n) é igual ao número de observações, logo: X XY XY, YX Y (54) Aplicação final do teste A poligonal será aceita caso o valor de qui-quadrado calculado (χ cal) esteja dentro do intervalo dos valores da distribuição de probabilidade qui-quadrado tabelado (valores críticos), conforme especificação abaixo. G. L.;0,5 Calc G. L.;1 0,5 (55) Os valores críticos de (χ ) serão obtidos para um nível de significância adotado (α = 1%) e para o número de graus de liberdade (GL) estabelecido. Por sua vez o (χ cal) será determinado através da expressão abaixo. Cal T 1 E E (56) XY, O termo 1 XY, da Equação acima é a inversa da MVC das coordenadas do último ( ) ponto e (E) o vetor dos erros de fechamento em abscissa x (εx) e ordenada y (εy). x E y (57) Os valores de (εx) e (εy) podem ser expressos como segue. x yˆ Y y xˆ X (58) Os valores de X e Y são as coordenadas fixas do último ponto da poligonal, enquanto ˆx e ŷ são as coordenadas provisórias do último ponto da poligonal, obtida com os valores observados.

39 AJUSTAMENTO PELO MÉTODO DOS MÍNIMOS QUADRADOS (MMQ) Será aplicado no ajuste da poligonal fechada no plano topográfico, o modelo paramétrico do MMQ com equações de observação desenvolvidas por variação de coordenadas. No modelo funcional do ajustamento paramétrico por variação de coordenadas, cada observação (medição) do levantamento corresponde uma equação de observação, com diferentes aspectos de acordo com a natureza da grandeza observada. No ajustamento a ser realizado, ocorrem equações relativas a distâncias, azimutes e ângulos. No entanto, cada equação de observação irá possuir como incógnitas as correções das coordenadas aproximadas dos pontos envolvidos e as discrepâncias entre os valores observados e calculados a partir das coordenadas aproximadas de cada grandeza observada. As equações de observações do levantamento são não lineares, o que torna necessário linearizá-las por série de Taylor. As observações diretas serão os ângulos horários e distâncias obtidas no levantamento topográfico planimétrico e os parâmetros, valores indiretos, serão as coordenadas cartesianas (XY). A Figura 3 representa as observações que serão trabalhadas em uma formulação matemática inicial (1ª Dedução). Figura 5 - Distâncias, Ângulos e Azimutes no plano Fonte: Adaptado de Moraes (1997, p.7) Estando a poligonal aceita após aplicação do pré-ajustamento, para realização do ajustamento pelo MMQ - caso Paramétrico será estabelecido um itinerário composto de 11 passos, representados na Figura 6.

40 38 Figura 6 - Procedimento esquemático de Ajustamento pelo MMQ 1º Passo Modelo Matemático La = F(Xa) º Passo Parâmetros Observados (Xo) 1ª Dedução ª Dedução 1ª Dedução Equação de: Sij Aij akij ª Dedução Forma Matricial Sij Aij akij 3º Passo Matriz dos Pesos 4º Passo 5º Passo 6º Passo 7º Passo Observações Aproximadas Lo = F(Xo) Vetor das Diferenças L = Lo -Lb Matriz A Vetor das Correções X=-N -1 U 8º Passo Parâmetros Ajustados Xa = X +Xo Se X>0,0001 Parâmetros Ajustados Xo = Xa Testes: Falharam Testes: ok! Teste Bilateral Teste Unilateral Se X<0,0001 9º Passo Vetor dos Resíduos V = AX + L 10º Passo Teste de Hipótese 11º Passo Cálculo das MVC Parâmetros Ajustados Observações Ajustadas Resíduos Precisões Precisão e Elipse dos Erros e de confiança Teste Data Snooping Detecção, localização e Eliminação de Outliers Figura 17 Processo de ajustamento pelo Método dos Mínimos Quadrados - MMQ Modelo Matemático parâmetros: No 1º passo: determinar as equações matemáticas de observações que envolvem os

41 39 L a F( X ) (59) a ajustados. Onde (L a ) representa o vetor das observações ajustadas e (X a ) são os parâmetros Equações de observações para a distância A equação de observação da distância S ij é dada por: S ( X X ) ( Y Y ) (60) ij j i j i Aplicando-se a diferencial na Equação acima, terá: f k dx L dy k dx L dy S S V (61) c o i ij i ij i ij j ij j ij ij Sij onde: k L ij ij sena ij cos A ij (6) Equação de observação para o Azimute A ij A Equação para o azimute será dada por: tan A ij X Y j j X Y i i (63) Diferenciando a equação acima, terá: f P dx P dx Q dy Q dy A A V (64) c" o" " ij ij i ij j ij i ij j ij ij Aij onde:

42 40 P ij Q ij cos A S ij sena S ij ij ij (65) Equação de observação para o Azimute A ik A Equação para o azimute será dada por: Xk Xi tan Aik Y Y k i (66) Diferenciando a equação acima, terá: f P dx P dx Q dy Q dy A A V (67) c" o" " ik ik i ik k ik i ik k ik ik Aik Onde, P Q ik ik cos A S ik sena S ik ik ik (68) Equação de observação para o Ângulo a kij Esta equação será obtida pela diferença entre as Equações (64) e (67) e será expressa na Equação (69). f P dx Q dy ( P P ) dx ( Q Q ) dy P dx Q dy kij ik k ik k ik ij i ij ik i ij j ij j a a V c" o" " jik jik ajik (69) Equações de observações para a distância com resíduo Iniciando-se com a ª Dedução pode-se observar a Figura 7 que mostra o esquema geométrico para a determinação da distância observada e resíduo vinculado a mesma, que pode ser positivo ou negativo.

43 41 Figura 7 - Distância observada Fonte: Adaptado de Moraes (1997, p.4) Considerando o comprimento observado de cada linha (S o ij) e o resíduo da observação (V Sij ), Equação (70), será elaborada uma equação para cada lado da poligonal. ( S V ) ( X X ) ( Y Y ) (70) o ij Sij j i j i Com as coordenadas provisórias dos vértices ( o, o, o, o X Y X Y ) e suas respectivas i i j j correções (dx i, dy i, dx j, dy j ), valores incógnitos, que serão adicionados às coordenadas provisórias para obter as coordenadas finais ajustadas, será obtido através da derivada parcial da função representativa da distância observada em relação às coordenadas provisórias dos vértices, a Equação de observação para a distância como representado abaixo. ( X o o ) ( o o ) ( o o ) ( o o i X j Yi Yj X j Xi Yj Yi ) dx o i dy o i dx o j dy o j S S S S ij ij ij ij S S V c o ij ij Sij (71) Considerando a representação matricial a equação acima pode ser representada como: A X L V (7) n u u 1 n 1 n 1 Onde (A) é a matriz das derivadas parciais da Função (F) em relação aos Parâmetros aproximados (Xa).

44 4 ( X X ) ( Y Y ) ( X X ) ( Y Y ) o o o o o o o o F i j i j J I J I nau a o o o o X1 o S X ij Sij Sij Sij i (73) O vetor das incógnitas será representado por: u X 1 dxi dyi dx j dy j (74) O vetor dos termos independentes das equações de observações de distância por: L S S c o n 1 ij ij (75) E o vetor dos resíduos das distâncias observadas por: n V 1 V (76) Sij Equações de observações para o Ângulo com resíduo Dando sequência com a ª Dedução, a Figura 8 mostra o esquema geométrico para a determinação do ângulo observado e o resíduo vinculado ao mesmo. Figura 8 Ângulo observado Fonte: Adaptado por Moraes (1977, pg.8)

45 43 O ângulo formado por dois alinhamentos ij e ik com vértice em i envolve 3 vértices i, j e k e pode ser expresso por: a kij Yj Yi Yk Yi arctan arctan X X X X j i k i (77) Que corresponde a equação de observação de ângulo, linearizada por Taylor: o o o o o o o o Yi Y Yi Yk Xi X k j Yi Yk dx k dy k dx i o o o o Sik S ik Sij S ik o o o o o o o o X j X i Xk X Y i j Yi Xi Yj c dy i dx j dy i a kij o o o o Sij S ik Sij Sij a o kij Va kij (78) Nesta expressão os ângulos e resíduos são medidos em radianos e para converter em segundos de arco, os coeficientes das incógnitas serão multiplicados por ρ( /rad) = /π. Matricialmente, a expressão acima pode ser expressa por: A X L V (79) n u u 1 n 1 n 1 Onde ( n A u ) é a matriz de ordem (n x u) dos coeficientes das incógnitas dados por: n A u o o o o o o o o o o o o Yi Y j X j Y Yi Yk Xk X i Yi Y k i Xk Yi o o o o o o Sik S ik Sij S ik Sij S ik X Y X X o o o o j i i j o o Sij Sij (80) O vetor das incógnitas ( u X 1 ) pode ser representado por:

46 44 u X 1 dxk dyk dx i dyi dx j dy j (81) O vetor dos termos independentes ( n L 1 ) de ordem (n x 1) das equações de observações de ângulo será dado por: n L c 0 1 kij kij a a (8) E o vetor dos resíduos ( n V 1 ) de ordem (n x 1) dos ângulos observadas será dado por: n V V 1 aki j (83) 4.5. Coordenadas aproximadas - parâmetros (X o ) No º Passo: os valores dos parâmetros aproximados do presente trabalho serão calculados utilizando-se das coordenadas do vértice inicial (ponto de controle) da poligonal, do azimute inicial do 1º alinhamento (1-), os comprimentos dos lados e os ângulos horários. u X o 1 X Y o i o i (84) Matriz dos Peso (P) No 3º Passo: será montada a matriz dos pesos. P o Lb 1 (85) Para isso é necessário que se conheça a Matriz Variância-Covariância das observações ( Lb ), composta pelos valores das variâncias determinadas para as observações (distâncias - S e ângulos - a ). Neste trabalho serão elaboradas duas MVC ( Lb ) para isto, serão feitas três séries de medidas para ângulos e distâncias, obtendo observações médias com as quais serão determinadas as respectivas precisões e variâncias cujos valores iram compor a primeira MVC ( Lb ). A segunda MVC ( Lb ) será composta com as variâncias oriundas das precisões

47 45 nominais da estação total. Essas matrizes serão diagonais, devido a não consideração das correlações entre as observações S1 0 S S Sp Lb a a a ap (86) O sigma zero a priori ( ) utilizado na multiplicação da ( Lb ) será adotado com valor igual a unidade, embora pudesse ser utilizado outro valor. o Vetor das observações aproximadas (L o ) No 4º passo: será montado o vetor das observações aproximadas. Onde: L o F( X ) (87) o Este vetor será calculado pela substituição dos coordenadas aproximadas obtidas no Passo nas equações de observações estabelecida no Passo 1. A expressão abaixo permite determinar a distância (Sij). S ( X X ) ( Y Y ) (88) ij j i j i A expressão abaixo permite determinar o ângulo horário (a kij ). a kij X X X X arctan arctan Y Y Y Y j i k i j i k i (89) Com os valores aproximados de distância e ângulo terá o vetor das observações aproximadas (L o ).

48 46 L o a a a S S S S c 1 c 3 c 34 c p1 c p1 c 13 c 34 c a( p 1) p1 (90) Vetor dos termos independentes (L) No 5º passo: será encontrado o vetor dos termos independentes (L). Este vetor será o resultado da diferença do vetor das observações aproximadas (L o ) obtido no 4º Passo, e o vetor das observações (L b ). L L L (91) o b O vetor das observações (L b ) é composto pelos valores das distâncias médias obtidas no levantamento de campo, pela estação total, assim como os ângulos horários médios obtidos pelo mesmo equipamento Matriz A No 6º passo: será feita a montagem da matriz design ou matriz A. Esta matriz será obtida por meio das derivadas parciais das equações de observações em relação aos parâmetros ajustados no ponto aproximado. n A u F X a X X a o (9)

49 47

50 Resolução do sistema de equações de normais No 7º passo: será desenvolvido o sistema de equações normais mediante linearização do modelo matemático das equações de observação através de operações algébricas e matriciais. abaixo. onde, O modelo matemático das equações de observação linearizadas é dado pela Equação A X L V (94) V: vetor dos resíduos das observações, obtido do ajustamento para corrigir as observações; X: é o vetor incógnito das correções, a serem aplicadas aos parâmetros aproximados para a obtenção dos parâmetros ajustados, ou seja, coordenadas dos pontos da poligonal ajustada. Aplicando o princípio dos mínimos quadrados na Equação (94) e após algumas operações algébricas e matriciais, obtêm-se os sistemas de equações normais dadas pelas Equações (95) e (96) e a resolução do sistema de equação normal é dado pela Equação (97). T N A P A (95) T U A P L (96) 1 X N. U (97) Cálculo dos Parâmetros Ajustados A expressão abaixo permite determinar os parâmetros ajustados. X X X (98) a o No 8º passo: será determinado o vetor incógnito das correções (X) a serem aplicadas aos parâmetros aproximados (X o ) para a obtenção dos parâmetros ajustados (X a ), ou seja, coordenadas dos pontos da poligonal ajustada. Se os valores do vetor incógnito das correções conterem valores que se afastam de zero, será necessário realizar um processo de iteração. Para isto, cria-se um novo vetor de parâmetros aproximados que será exatamente igual ao vetor incógnito das correções obtido neste passo, e volta ao 4º passo, realizando a partir daí novo ajuste até que o os valores do vetor incógnito das correções possa ser considerado como zero (neste trabalho será adotado por conveniência: X 0,0001). Caso o novo vetor incógnito das correções ainda esteja alto, deve-se repetir novamente o processo de iteração.

51 Cálculo do Vetor dos Resíduos (V) V A X L (99) No 9º passo: será determinado o vetor dos resíduos (V), que será utilizado para o cálculo das observações ajustadas e para o cálculo do sigma zero a posteriori Teste Global da Variância a Posteriori ( ) ˆo T V PV ˆ o (100) gl No 10º passo: será aplicado o teste global da variância a posteriori ( ), para detectar a existência de inconsistências do ajustamento comparando a variância a priori com a variância a posteriori (teste bilateral). Será também aplicado o teste global na forma do teste unilateral, com o propósito de detectar outlier, onde se espera que a variância a posteriori seja maior que a variância a priori. Se houver discrepância entre as variâncias, será aplicado o teste de hipótese que se baseia na distribuição qui-quadrado (χ ) para verificar a significância das discrepância em relação ao nível de confiança pré-estabelecido. Teste Bilateral: a) Enunciação das hipóteses: ˆo Ho : ˆ o o Ha : ˆ o o b) Estatística do teste: (101) calc ˆ V P V (10) T o gl o o c) Teste da hipótese Ho: (103) calc gl, gl,1 Teste Unilateral: a) Enunciação das hipóteses: Ho : ˆ o o Ha : ˆ o o (104)

52 50 b) Estatística do teste: calc ˆ V P V (105) T o gl o o c) Teste da hipótese Ho: (106) gl gl,1 calc Caso seja detectada diferença estatística a certo nível de significância α, será verificado se há problemas no ajustamento. Isto pode ocorrer devido a uma superestimação ou subestimação dos elementos da matriz dos pesos, determinada no 3º passo, ou a erros de cálculos. Caso não tenha erros de cálculos, será criada uma nova matriz de peso através de um escalonamento da MVC das observações multiplicando a mesma pelo valor encontrado da variância a posteriori, conforme expressão abaixo. Feito isto, retornar ao 4º passo e realizar novo ajustamento. ˆ ˆ (107) Lb o Lb Cálculo das MVC: dos parâmetros ajustados, observações ajustadas e resíduos No 11º passo: a matriz variância-covariância (MVC) dos parâmetros ajustados permite determinar da precisão com que os parâmetros foram estimados. Na diagonal principal encontram-se valores de variância e fora da diagonal, valores de covariância. O cálculo da (MVC) dos valores observados ajustados, será importante na obtenção da (MVC) dos resíduos, que será importante posteriormente para a aplicação do teste que aponta os erros nas observações colhidas no campo (teste data snooping de Baarda). 4.6 QUALIDADE DO AJUSTAMENTO Após o ajustamento das observações, será obtida a MVC dos parâmetros ajustados ( Xa), Equação (108): T 1 ˆ ( ) (108) Xa o A P A Na forma matricial a equação acima será representada por: x xy Xa yx y (109)

53 51 Na diagonal se encontram as variâncias das coordenadas ajustadas. As raízes dessas variâncias irão fornecer o erro médio ou precisão ( X, Y ) das coordenadas ajustadas. Na sequência, será obtida a MVC das observações ajustadas ( ), Equação (110): ˆ A( A P A) A ˆ AN A (110) T 1 T 1 T La o La o As raízes quadradas dos elementos da diagonal principal desta matriz irão fornecer a precisão das observações ajustadas. La Precisão e Elipses de Erro Contraria as precisões acima especificadas, será feita uma análise de precisão da posição fornecida pela teoria da elipse de erros bidimensional através da qual será avaliada a precisão em todas as direções do plano, e não somente na direção X, Y. A partir dos dados constantes na matriz variância-covariância dos parâmetros ajustados( Xa ) será calculado os elementos (semi-eixos maior e menor e orientação) para a construção da elipse de erro padrão, com uma região de confiança de 39,4% de probabilidade. Ou seja, a elipse estará delimitando a porção do plano que com esta probabilidade, contém a posição verdadeira do ponto. Neste trabalho será estabelecida a elipse de confiança para uma região de probabilidade de 95%, para isto, o semi-eixo maior (a) e menor (b) serão multiplicados por um fator de,447. O tamanho, a forma e a orientação das elipses dos erros padrão serão determinados pelas distribuições dos parâmetros σ x, σ y e σ xy, sendo respectivamente desvio padrão da coordenada estimada X, desvio padrão da coordenada estimada Y e covariância entre elas. Já a orientação da elipse em relação ao eixo X e Y irão depender da correlação entre X e Y. Sendo elas não correlacionadas, a elipse torna paralela ao eixo X e Y. Se as duas coordenadas X e Y tiverem a mesma precisão, a elipse irá degenerar em um círculo. Extraindo a raiz quadrada positiva das variâncias das Equações (111) e (11) serão obtidos respectivamente o semi-eixo maior (a), Equação (113) e menor (b), Equação (114) da elipse de erro padrão. ( ) (111) 4 x y x y máx xy ( ) (11) 4 x y x y min xy

54 5 a máx (113) b min (114) A orientação da elipse, ângulo entre o eixo das abscissas e semi-eixo maior será calculado pela Equação (115): tan xy x y (115) O quadrante de ψ será determinado por meio de análise do sinal do numerador σ xy e denominador ( ). O ângulo (ψ) será contado a partir do eixo das abscissas no sentido anti-horário. x y 4.6. Detecção de Outlier e localização de erros grosseiros Inicialmente foi aplicado o teste global em sua forma unilateral, com o proposito de detectar outlier. Se o teste acusar presença de outlier, torna-se necessário a verificação da confiabilidade das observações e do modelo matemático. Logo, os resíduos das observações ajustadas serão submetidos a testes estatísticos que buscam detectar, localizar e eliminar os erros grosseiros. No entanto, mesmo que no teste global (unilateral) não seja detectada outlier, estes testes estatísticos tem que ser aplicados, pois podem existir erros grosseiros de pequenas magnitudes nas observações. Para isto, será aplicado o modelo simplificado Data Snooping de Baarda (1968) para analisar a relação entre um outlier e um erro grosseiro Teste Data Snooping A aplicação desta técnica é um processo combinado para detecção de outlier, localização e eliminação dos erros grosseiros. Para realizar tal procedimento serão investigadas quais observações que podem contém os erros grosseiros que causaram os outliers e, então as elimina-la, caso necessário, voltando a campo e coletando novas observações.

55 53 Estes valores serão obtidos pela divisão dos resíduos por seus respectivos desvios padrão que irá resultar em uma estatística denominada, resíduo normalizado, conforme Equação (116). w i vi l i r i (116) onde: vi: são os valores obtidos do vetor dos resíduos (V = A X + L). Sendo a matriz (A), o vetor (X) e o vetor (L) resultados obtidos da última iteração. ri: são os valores de redundância parcial que se obtém da diagonal da matriz das redundâncias R obtida através da Equação (117): 1 R V P (117) ˆ o onde ( V ) é a MVC dos resíduos, Equação (118), e (P) a matriz dos Pesos. ˆ P (118) 1 V o La Na forma matricial, a matriz R será expressa conforme segue. r r r r r r r r R r r r r r r r r 1 1 1j 1n 1 j n i1 i i in n1 n nj n (119) Para o teste bilateral, a hipótese nula H : wi ~ (0,1) será rejeitada, ou seja, um 0 n outlier será detectado, se para um nível de significância pré-definido α os valores dos resíduos normalizados estiverem abaixo ou acima dos limites críticos especificados na Equação (10). Na expressão de H o, n(0, 1) refere-se à distribuição normal reduzida. n w n (10) i 1

56 54 5 EXPERIMENTAÇÃO E RESULTADOS Com os dados de observações levantados em campo, será calculado o erro de fechamento angular pelo MMQ tanto com a precisão nominal da estação total quanto com a precisão da média das observações, a fim de conseguir fazer um comparativo entre os resultados dos cálculos com essas duas precisões. Os valores das observações foram extraídos de uma poligonal fechada em loop com 5 vértices localizada na Universidade Federal de Mato Grosso. Esses valores foram organizados em um quadro apresentado abaixo:

57 55 Quadro 1 Planilha de experimentos Valores Iniciais: P1 (Xi - Yi): X = 10000,000; Y = 10000,000; AZM1 1 = 133,19'30,735" Ângulo Observado Compensação Ângulo Compensado (valores médios) DH Estação Ponto Visado Azimute Provisório (m) AZ i,i º,38'41,667'' 0º,00'01,033'' 54º,38'4,700'' 9,59 166º,8'10,057'' 3 43º,14'05,833'' 0º,00'01,033'' 43º,14'06,867'' 39,716 9º,4'15,890'' º,55'14,667'' 0º,00'01,033'' 60º,55'15,700'' 5,31 110º,37'30,557'' º,47'19,167'' 0º,00'01,033'' 116º,47'0,00'' 64,784 47º,4'49,74'' º,4'33,500'' 0º,00'01,033'' 64º,4'34,533'' 51,557 91º,49'3,4'' º,9'57,667'' 158º,9'56,633'' 111º,49'8,390'' 1 M1 01º,30'51,667'' 01º,30'03,367'' 313º,0'14,890'' Soma E.F.A: Correção: 539º,59'54,834'' 0º,00'05,167'' 540º,00'00,000'' 10,547-0º,00'05,167'' 0º,00'01,033''

58 56 Quadro Planilha de experimentos continuação Valores Iniciais: P1 (Xi - Yi): X = 10000,000; Y = 10000,000; AZM1 1 = 133,19'30,735" Projeções Compensação Coordenadas Provisórias Compensadas Projeções Não Compensadas x' y' Cx Cy x y X (m) Y (m) Azimute Compensado AZ i,i+1 6, , , , ,8450-8, , , º,8'10,057'' -30,94-5,6854-0, , ,93-5, , ,875 9º,4'16,94'' 3, ,8879-0, , ,6133-8, , , º,37'3,64'' 47, ,8385-0, , , , , , º,4'5,84'' -47, , , , ,863 19, , , º,49'7,357'' 111º,49'7,357'' 313º,19'30,74'' 0, ,01486 E.F.L. Abs.: 0,01533 E.F.L. Relat.: 1 : 13737

59 EXPERIMENTAÇÃO E ANÁLISE DE RESULTADOS COM A PRECISÃO NOMINAL DA ESTAÇÃO TOTAL Primeiramente serão apresentados todos os cálculos obtidos utilizando a precisão nominal da Estação Total que comumente é utilizada 1: Segundo a NBR 14166:1998 Rede de Referência Cadastral Municipal Procedimento, nas operações de cálculo e ajustamento das observações, essas observações devem passar pelo ajustamento vetorial pelo MMQ, devendo ser a precisão final na ordem de 1 ppm (1:10.000) ou superior, considerandose 95% de nível de confiança Teste Qui-quadrado da forma quadrática do erro de fechamento Utilizando os dados apresentados no Quadro 1 Planilha de experimentos, temos a fixadas as coordenadas dos pontos iniciais X=10.000,00 m e Y=10.000,00 m, esse é o ponto usado como ponto de controle. O azimute definido pelo ponto de controle e pelo ponto 1 é de , Matriz Variância-Covariância das distâncias e ângulos,6e ,7E ,6E ,8E Sa 10 = ,8E

60 Matriz Variancia-Covariância das distancias e azimutes,6e ,7E ,6E ,8E SA 10 = ,8E Matriz Vriancia-Covariancia das coordenadas dos últimos pontos D 10 = Resultando: ( X,Y ) =,34E-01-7,63E-01 9,36E-01 7,36E-01-9,8E-01-1,38E-04-1,5E-04-4,31E-05,13E-04 9,9E-05-9,7E-01-6,47E-01-3,5E-01 6,77E-01 3,7E-01-3,3E-05 1,47E-04-1,14E-04 -,31E-04,3E-04 9,84E-05,88E-06,88E-06 6,3E-05 Os desvios padrões da abscissa e da ordenada são, respectivamente:

61 59 X = 9,84E-05 = 9,917E-03 m Y = 6,3E-05 = 7,949E-03 m Aplicação do teste E 1 = figura abaixo: Foi utilizado o nível de significância tanto α =1% quanto α = 5%. Os erros de fechamento em X e em Y são: 0, ,0149 Para o nível de significância α =1% foram encontrados os valores apresentados na Figura 7 Cálculo para o nível de significância a 1% Para o nível de significância (%) = 1 Teórico com Teórico com a = 1% (; 0,005) = 0,01 (; 0,995) = 10,60 Calculado com 0,5 = 0, ,5 = 0,995 1% 3,69 O valor de χ calculado está entre os valores de χ teórico, portanto a poligonal é aceita ao nível de significância de 1%. Para o nível de significância α =5% foram encontrados os valores apresentados na figura abaixo:

62 60 Figura 8 Cálculo para o nível de significância a 5% Para o nível de significância (%) = 5 Teórico com Teórico com a = 5% (; 0,05) = 0,05 (; 0,975) = 7,38 Calculado com 0,5 = 0,05 1-0,5 = 0,975 5% 3,69 O valor de χ calculado está entre os valores de χ teórico, portanto a poligonal é aceita ao nível de significância de 5% Ajustamento pelo Método dos Mínimos Quadrados Foi desenvolvido o ajustamento da poligonal pelo Método dos Mínimos Quadrados.

63 Matriz A Foi desenvolvida a Matriz A de ordem 10x8 (número de equações por número de incógnitas): 0, , ,7671 0, , , , ,356 0, , , , ,7367 0, A 8 = ,9833-0, , , , ,98 101,73-311, , , , ,19 638, , , , , ,046 75, , ,49-344, , , ,8-1369,8 Estação Ponto Visado Ângulo Observado 1 Quadro 3 Valores observados e calculados Ângulo Observado Decimal DH Observada (m) Azimute Calculado AZ i,i+1 Coordendas Cartesianas X (m) Y (m) 1 54º,38'4,700'' 54, a1 9,59 166, , , º,14'06,867'' 43, ,716 9, , , º,55'15,700'' 60, ,31 110, , , º,47'0,00'' 116, ,784 47, , , º,4'34,533'' 64, ,557 91, , ,00000

64 6 Estação P i Quadro 4 Coeficientes (Pontos a Vante) Coeficientes (Pontos a Vante) PV P i+1 Kij i Lij i Pij i Qij i 1 0, , , , ,7671-0, , , , , , , , , , , ,9838 0, , , A matriz variância-covariancia das distancias e ângulos:,648e ,703E ,68E ,834E ,764E Lb 10 =

65 63 Matriz dos pesos: 37758, , , , , P 10 = , , , , ,01 O vetor dos termos independentes é: -0,0013 m -0,0018 m -0,00105 m 0,0048 m 10L 1 = 0,0003 m -11,9995 " 13,3046 " -5,813 " -0,86191 " 5,35419 "

66 64 Novo vetor das coordenadas ajustadas:, , , , , , , , , X 1 = -1,8397 8Xo 1 = 9945,8755 8Xa 1 = 9944, , , , , , , , , , ,76417 (m) 9980,89477 (m) 9984, (m) Comparação da variância da unidade peso a priori com a variância da unidade peso a posteriori Vetor dos resíduos: -0, ,0086-0, , v 1 = 0, ,68 0, , , ,08183 (m) Vetor dos valores observados ajustados: 9,56 m 39,7131 m 5,74 m 64,787 m 10La 1 = 51,5609 m 54,8715 " 43,46 " 56,9656 " 115,45 " 69,4914 " A variância de Peso a posteriori = 1,

67 Iterações Serão feitas iterações para que os valores dos parâmetros sejam estabilizados, induzindo os valores do vetor a se aproximarem de zero Primeira iteração Quadro 5 Valores observados e calculados (1ª iteração) Alinhamento Coordenadas Nova Est P i PV P i+1 X (m) Y (m) DH (m) X Y Rumo Azimute Ângulo Calculado Novo Ângulo Horário , ,097 9,343 9, ,790E+01 1,803E+01 SE 1,60E+0-1,54E+0 5,464E , ,033 39,836-8,71 -,806E+01 4,51E+01 SW,5E+0 6,34E+01,43E , ,003 5,305 4,3091-7,030E+00 7,387E+01 SE 1,061E+0-1,191E+0 6,09E , ,594 64,987 44,541 4,759E+01 4,9E+01 NE 4,9E+01-6,31E+01 1,168E , ,000 51,70-49,37 1,541E+01 7,67E+01 NW,873E+0,444E+0 6,441E ,67E+01 SE 1,073E+0 -,599E+01 1,540E+0 1 M1 4,667E+01 NW 3,133E+0,599E+01,060E+0

68 66 Quadro 6 Valores de Vante Valores de vante Alinhamento Radianos Arco Segundos Est P i PV P i+1 Kij i Lij i Pij i Qij i 1 0, , , , , , , , , , , , , , , , , , , ,53598 Matriz A: 0, , , , , , , , , , , , , , A 8 = , , , , , , , , , , , , , , , , , , , , , , , , , ,1803

69 67 Vetor dos termos independentes: 0, m 9,34906 m 9,59 m 0, m 39, m 39,716 m 0, m 5,30571 m 5,31 m 0, m 64, m 64,784 m 10L 1 = 0, m 10Lo 1 = 51, m 10Lb 1 = 51,557 m -4, " 54, " 54, ", " 43,35943 " 43,3541 " -5, " 60,91961 " 60,91078 " 1, " 116, " 116, " 5, " 64, " 64, " Novo vetor das coordenadas ajustadas: -0, , , , , , , , , X 1 = 0, Xo 1 = 9944, Xa 1 = 9944, , , ,106 0, , , , , ,01 0, (m) 9984, (m) 9984, (m) Vetor dos resíduos: -0, , , , v 1 = 0,003597, , ,4649-4,4615-1,0415 (m)

70 68 Vetor dos valores observados ajustados: 9,5465 m 39,71504 m 5,764 m 64,78519 m 10La 1 = 51,5606 m 57,441 " 46,4078 " 60,45611 " 11,368 " 63,36834 " A variância do peso a posteriori é igual a 1,04848.

71 Segunda iteração Alinhamento Coordenadas Nova Est P i PV P i+1 X (m) Y (m) DH (m) Quadro 7 Valores observados e calculados X Y Rumo Azimute Ângulo Calculado Novo Ângulo Horário , ,181 9,55 9, , ,0790 SE 161, , , , ,03 39,715-8, , ,13366 SW 5, , , , ,00 5,8 4, , , SE 106, , , ,0 9984,64 64,785 44, , ,90796 NE 4, , , , ,000 51,561-49, , ,6704 NW 87, , , ,6704 SE 107, , , M1 46, NW 313,3501 5, ,99563 Quadro 8 Valores de vante Valores de vante Alinhamento Radianos Arco Segundos Est P i PV P i+1 Kij i Lij i Pij i Qij i 1 0, , , , , , , , , , , , , , , , , , , ,518596

72 70 Novo vetor das coordenadas ajustadas: -0, , , , , , , , , X 1 = -0, Xo 1 = 9944, Xa 1 = 9944, , , ,108-0, , , , , , ,05503 (m) 9984, (m) 9984, (m) Variância de peso a posteriori é igual a 0, Terceira iteração Alinhamento Coordenadas Est P i PV P i+1 X (m) Y (m) Nova DH (m) Quadro 9 Valores observados e calculados X Y Rumo Azimute Ângulo Calculado Novo Ângulo Horário , ,181 9,55 9, , ,0790 SE 161, , , , ,03 39,715-8, , ,13366 SW 5, , , , ,00 5,8 4, , , SE 106, , , ,0 9984,64 64,785 44, , ,90796 NE 4, , , , ,000 51,561-49, , ,6704 NW 87, , , ,6704 SE 107, , , M1 46, NW 313,3501 5, ,99563

73 71 Quadro 10 Valores de Vante Valores de Vante Alinhamento Radianos Arco Segundos Est P i PV P i+1 Kij i Lij i Pij i Qij i 1 0, , , , , , , , , , , , , , , , , , , , Novo vetor de coordenadas ajustadas: -0, , ,041-0, , ,1734 0, , ,881 8X 1 = -0, Xo 1 = 9944,0348 8Xa 1 = 9944,1671 0, , ,108-0, , ,116-0, , , -0, (m) 9984,64176 (m) 9984,5867 (m) Variância de peso a posteriori é igual a 1,00.

74 7 Fez-se o Teste Qui-Quadrado da forma quadrática dos resíduos. Para o teste Bilateral com o nível de significância a 5%, obtiveram-se os seguintes resultados: Figura 9 Teste Bilateral com nível de significância a 5% Para o nível de significância (%) = 5 Teórico com Teórico com a = 5% (; 0,05) = 0,05 (; 0,975) = 7,38 Calculado 0,5 = 0,05 1-0,5 = 0,975,000 Hpótese Básica (H o ) H o : 0 = ^ 0 Hípótese Alternativa (H 1 ) H 1 : 0 ^ 0 O valor de χ calculado está entre os valores de χ teórico, portanto a hipótese H 0 é aceita ao nível de significância de 5%. Para o teste Unilateral, obtiveram-se os seguintes resultados:

75 73 Figura 10 Teste Unilateral com nível de significância a 5% Para o nível de significância (%) = 5 Teórico com Teórico com a = 5% (; 0,95) = 3,00 = 0, = 0,95 Calculado,000 Hpótese Básica (H o ) H o : Hípótese Alternativa (H 1 ) H 1 : ^ 0 0 = 0 ^ > 0 O valor de χ calculado está entre os valores de χ teórico, portanto a hipótese H 0 é aceita ao nível de significância de 5%.

76 74 MVC das Coordenadas Ajustadas: 7,3051E-07 1,73E-07-7,117E-07 1,614E-06-5,677E-08 4,199E-06 1,0505E-06,78759E-06 1,73E-07 1,8141E-07 -,345E-07 4,1156E-07-3,58E-08 1,0489E-06 1,9919E-07 6,9579E-07-7,117E-07 -,345E-07 8,8494E-07-1,307E-06 1,467E-07-4,54E-06-1,017E-06 -,8866E-06 1,614E-06 4,1156E-07-1,307E-06,5095E-06-7,5E-08 7,6596E-06 1,856E-06 5,1198E-06 8x 8 = -5,677E-08-3,58E-08 1,467E-07-7,5E-08 1,9148E-07-3,603E-07 3,1775E-08 -,9116E-07 4,199E-06 1,0489E-06-4,54E-06 7,6596E-06-3,603E-07,4348E-05 5,9845E-06 1,63536E-05 1,0505E-06 1,9919E-07-1,017E-06 1,856E-06 3,1775E-08 5,9845E-06 1,6633E-06 4,03768E-06,7876E-06 6,9573E-07 -,887E-06 5,1198E-06 -,91E-07 1,6354E-05 4,0377E-06 1,1038E-05 MVC dos valores observados ajustados: 1,6176E-07-1,8411E-08-6,4993E-08,9333E-08 6,96187E-08 5,4019E-05 6,1339E-05-9,03E-06-8,649E-05 -,0081E-05-1,8411E-08,46771E-07-1,441E-08 5,0503E-09 1,5545E-08 1,18364E-05 1,34389E-05-1,9769E-06-1,8898E-05-4,4001E-06-6,4993E-08-1,441E-08 1,93594E-07 1,77389E-08 5,38499E-08 4,17838E-05 4,74409E-05-6,9787E-06-6,6713E-05-1,5533E-05,933E-08 5,0503E-09 1,77389E-08,56786E-07-1,9001E-08-1,4744E-05-1,674E-05,465E-06,3540E-05 5,48088E-06 10La 10 = 6,9619E-08 1,5545E-08 5,38499E-08-1,9001E-08 1,98868E-07-4,4758E-05-5,0817E-05 7,47541E-06 7,14611E-05 1,66383E-05 5,4019E-05 1,18364E-05 4,17838E-05-1,4744E-05-4,4758E-05 0, , , , , ,1333E-05 1,34389E-05 4,74409E-05-1,674E-05-5,0817E-05-0, , , , , ,03E-06-1,9769E-06-6,9787E-06,465E-06 7,47541E-06-0, , , , , ,649E-05-1,8898E-05-6,6713E-05,3540E-05 7,14611E-05-0, , , , , ,0081E-05-4,4001E-06-1,5533E-05 5,48088E-06 1,66383E-05-0, , , , ,

77 75 MVC dos resíduos: 8,405E-08 1,84111E-08 6,49931E-08 -,933E-08-6,9619E-08-5,4019E-05-6,1333E-05 9,031E-06 8,6485E-05,00813E-05 1,8411E-08 4,03415E-09 1,441E-08-5,05E-09-1,554E-08-1,1836E-05-1,3439E-05 1,9769E-06 1,88983E-05 4,4001E-06 6,4993E-08 1,441E-08 5,071E-08-1,7739E-08-5,385E-08-4,1784E-05-4,7441E-05 6,97874E-06 6,67131E-05 1,5538E-05 -,933E-08-5,05E-09-1,7739E-08 6,593E-09 1,90014E-08 1,47437E-05 1,67399E-05 -,465E-06 -,354E-05-5,4809E-06 10v 10 = -6,9619E-08-1,554E-08-5,385E-08 1,90014E-08 5,7684E-08 4,47575E-05 5,0817E-05-7,4754E-06-7,1461E-05-1,6638E-05-5,4019E-05-1,1836E-05-4,1784E-05 1,47437E-05 4,47575E-05 0, , , , , ,1333E-05-1,3439E-05-4,7441E-05 1,67399E-05 5,0817E-05 0, , , , , ,03E-06 1,9769E-06 6,97874E-06 -,465E-06-7,4754E-06 0, , , , , ,649E-05 1,88983E-05 6,67131E-05 -,354E-05-7,1461E-05 0, , , , ,061044,0081E-05 4,4001E-06 1,5538E-05-5,4809E-06-1,6638E-05 0, , , , ,

78 76 Precisões: Quadro 11 Precisão Nominal Pontos Parâmetros Ajustados Coordenadas Observações Ajustadas Precisão Precisão Pontos Valores Nominal Nominal X m FIXO dh 1-9,5859 m ± 0,00040 m Y m FIXO dh -3 39,71591 m ± 0, m X 10009, m ± 0, m dh 3-4 5,30683 m ± 0,00044 m Y 997, m ± 0,00046 m dh ,78411 m ± 0, m X , m ± 0, m dh ,55734 m ± 0, m Y ,16713 m ± 0, m α ' 31,47" ± 0,8415" X ,10815 m ± 0, m α ' 4,093" ± 0,83563" Y ,11606 m ± 0, m α ' 37,36" ± 0,861083" X ,19953 m ± 0,0019 m α ' 5,365" ± 0,80864" Y , m ± 0,0033 m α ' 41,834" ± 0,858856"

79 Localização de erros nas observações pelo teste Data Snooping de Baarda Matriz de redundâncias: 0, , , , , ,8077E-05-6,60885E-05 9,7187E-06 9,9361E-05,16383E-05 0, , , , , ,754E-05-1,4481E-05,1301E-06,03637E-05 4,7418E-06 0, , , , , ,5036E-05-5,11194E-05 7,51985E-06 7,18859E-05 1,6737E-05-0, , , , , ,58869E-05 1,80379E-05 -,65344E-06 -,53655E-05-5,90585E-06 10R 10 = -0, , , , , ,879E-05 5,47575E-05-8,05504E-06-7,700E-05-1,7984E-05-19, , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , ,1096 0, Enunciação da Hipótese Báscia Ho: Ho: nenhum erro existe na observação li Rejeita-se Ho se wi > k k é um valor crítico conforme o nível de confiança especificado:

80 78 Figura 11 Estatística do teste Ao nível de significância de 5% as observações não contem erros grosseiros. Ao nível de significância de 1% as observações não contem erros grosseiros Parâmetros da Elípse dos Erros e Elípse de Confiança Quadro 1 Elipses dos Erros Padrão Elipses dos Erros Padrão (39,4% de probabilidade) Ponto tan() Orientação () Quad. de I Semi-Eixo Azimute Semi- No quadrante II I Maior (a) Menor (b) adequado III IV Eixo a (mm) (mm) 1 Fixo Fixo Fixo Fixo Fixo Fixo Fixo 0, ' 7,14" 1 ' 33,56" I 0, , ' 6,438" 3 1, ' 7,077" 9 4' 3,539" III 1, , ' 56,461" 4 0, ' 30,710" 0 51' 15,355" III 4, , ' 44,645" 5-0, ' 7,618" ' 46,191" II 3,5408 0, ' 13,809"

81 79 Quadro 13 Elipses de confiança pontual Elipses de confiança pontual (95,0% de probabilidade) Semi-Eixo Ponto Maior (a) Menor (b) Azimute (mm) (mm) 1 FIXO FIXO FIXO, , ' 6,438" 3 4, , ' 56,461" 4 1, , ' 44,645" 5 8, , ' 13,809" 5. EXPERIMENTAÇÃO E ANÁLISE DE RESULTADOS COM A PRECISÃO DA MÉDIA DAS OBSERVAÇÕES observações. Agora serão apresentados todos os cálculos obtidos utilizando a precisão da média das 5..1 Teste Qui-quadrado da forma quadrática do erro de fechamento Utilizando os dados apresentados no Quadro 1 Planilha de experimentos, tem-se como ponto de controle, ponto 1, cujas coordenadas são fixas, X=10.000,00 m e Y=10.000,00 m. O azimute definido pelo ponto de controle e pelo ponto 1 é de ,735.

82 Matriz variância-covariância das distancias e ângulos Sa 10 = , , , , Matriz variância-covariancia das distancias e azimutes SA 10 = , , , , , , ,47 40,47 40,47 40, , ,47 43, , , , ,47 43, , , , ,47 43, , ,86133

83 Matriz variância-covariância das Coordenadas dos últimos pontos D 10 = 0,34-0,763 0,9359 0,7363-0,98-0, , ,31E-05 0, ,9E-05-0,97-0,647-0,35 0,6767 0,3718-3,3E-05 0, , , ,0003 ( X,Y ) = 1,41E-06 1,64E-07 1,64E-07 4,5E-07 Os desvios padrões da abscissa e da ordenada são respectivamente: X = 1,41E-06 = 0,00119 Y = 4,5E-07 = 0, Aplicação do teste E 1 = 0, ,01486 Para o nível de significância α =1% foram encontrados os valores apresentados na figura abaixo:

84 8 Figura 1 Cálculo para o nível de significância a 1% Para o nível de significância (%) = 1 Teórico com Teórico com a = 1% (; 0,005) = 0,01 (; 0,995) = 10,60 Calculado com 0,5 = 0, ,5 = 0,995 1% 55,6 O valor de χ calculado não está entre os valores de χ teórico, portanto a poligonal não é aceita ao nível de significância de 1%. Para o nível de significância α =5% foram encontrados os valores apresentados na figura abaixo: Figura 13 Cálculo para o nível de significância a 5% Para o nível de significância (%) = 5 Teórico com Teórico com a = 5% (; 0,05) = 0,05 (; 0,975) = 7,38 Calculado com 0,5 = 0,05 1-0,5 = 0,975 5% 55,6 O valor de χ calculado não está entre os valores de χ teórico, portanto a poligonal não é aceita ao nível de significância de 5%. Como pode ser verificada nos cálculos acima, considerando os valores médios das Precisões de Ângulos e Distâncias, esta poligonal não deve ser aceita para realizar o ajuste pelo MMQ. No entanto, como a Precisão Linear Relativa obtida no pré-ajustamento (1:13.737) alcançou um valor acima do recomendado para observações coletadas com Estação Total (1:10.000), o ajustamento pelo MMQ será realizado.

85 Ajustamento pelo Método dos Mínimos Quadrados Estação Ponto Visado Ângulo Observado 1 Quadro 14 Valores observados e calculados Ângulo Observado Decimal 1 DH Observada (m) Azimute Calculado AZ i,i+1 Coordendas Cartesianas X (m) Y (m) 1 54º,38'4,700'' 54, ,59 166, , , º,14'06,867'' 43, ,716 9, , , º,55'15,700'' 60, ,31 110, , , º,47'0,00'' 116, ,784 47, , , º,4'34,533'' 64, ,557 91, , ,00000 Estação P i Quadro 15 Coeficientes (Pontos a vante) Coeficientes (Pontos a Vante) PV Kij P i Lij i Pij i Qij i i+1 1 0, , , , ,7671-0, , , , , , , , , , , ,9838 0, , ,976579

86 84 Novo vetor das coordenadas ajustadas: 5, , ,7371 1, , , , , , X 1 = -4, Xo 1 = 9945,8755 8Xa 1 = 9941, , , , , , , , , ,8608 9, (m) 9980,89477 (m) 9990,76 (m) A variância do peso a posteriori é 73, Iterações Serão feitas iterações para que os valores dos parâmetros sejam estabilizados, induzindo os valores do vetor a se aproximarem de zero.

87 Primeira iteração Alinhamento Coordenadas Nova Est P i PV P i+1 X (m) Y (m) DH (m) Quadro 16 Valores observados e calculados X Y Rumo Horário ,74 997,969 9,876 1, , ,06949 SE 154, , , , ,05 40,553-4, , ,07775 SW 18, , , , ,019 5,764 5, , ,05583 SE 98, , , , ,7 66,156 38, , ,73166 NE 35, , , , ,000 5,650-51, , , NW 80, , , , SE 100, , , M1 46, NW 313, , , Quadro 17 Valores de vante Valores de vante Alinhamento Radianos Arco Segundos Azimute Est P i PV P i+1 Kij i Lij i Pij i Qij i 1 0, , , , , , , , , , , , , , , , , , , ,71197 Ângulo Calculado Novo Ângulo

88 86 Novo vetor das coordenadas ajustadas: -0, , ,455 0, , , , , ,995 8X 1 = 1, Xo 1 = 9941,048 8Xa 1 = 994, , , , , , , , , ,7465 0, (m) 9990,73 (m) 9990,8919 (m) A variância de peso a posteriori é 5, Segunda iteração Alinhamento Coordenadas Nova Es PV X (m) Y (m) DH (m) P i+1 P i Quadro 18 Valores observados e calculados X Y Rumo Azimute Ângulo Calculado Novo Ângulo Horário , ,55 9,59 1,4559-6, , SE 154, , , , ,35 39,716-4, , , SW 18, , , , ,300 5,31 4, , ,07775 SE 98, , , , ,89 64,784 37, , ,7736 NE 35, , , , ,000 51,557-50, , ,84780 NW 80, , , ,84780 SE 100, , , M1 46, NW 313, , ,149981

89 87 Quadro 19- Valores de vante Valores de vante Alinhamento Radianos Arco Segundos Est P i PV P i+1 Kij i Lij i Pij i Qij i 1 0, , , , , , , , , , , , , , , , , , , ,391 Novo vetor das coordenadas ajustadas: -0, , ,4534-0, , , , , , X 1 = 0, Xo 1 = 994, Xa 1 = 994,4049-0, , ,9048-0, , , , , , , (m) 9990,8919 (m) 9990,86669 (m) A variância de peso a posteriori é 13,004.

90 Terceira iteração Quadro 0 Valores observados e calculados Alinhamento Coordenadas Nova Ângulo Novo Ângulo Est PV X Y Rumo Azimute X (m) Y (m) DH (m) Calculado Horário P i P i , ,55 9,59 1,4559-6, , SE 154, , , , ,35 39,716-4, , , SW 18, , , , ,300 5,31 4, , ,07775 SE 98, , , , ,89 64,784 37, , ,7736 NE 35, , , , ,000 51,557-50, , ,84780 NW 80, , , ,84780 SE 100, , , M1 46, NW 313, , , Quadro 1 Valores de vante Valores de vante Alinhamento Radianos Arco Segundos Est P i PV P i+1 Kij i Lij i Pij i Qij i 1 0, , , , , , , , , , , , , , , , , , , ,391

91 89 Novo vetor das coordenadas ajustadas: -0, , ,4534-0, , , , , , X 1 = 0, Xo 1 = 994,3478 8Xa 1 = 994,4049-0, , ,9048-0, , , , , , , (m) 9990,8919 (m) 9990,86669 (m) A variância de peso a posteriori é igual a 1,00. O teste global será aplicado. O Teste Bilateral e Unilateral foram feitos para o nível de significância a 1%. Segue abaixo os valores obtidos: Figura 14 Teste bilateral para o nível de significância a 1% Para o nível de significância (%) = 1 Teórico com Teórico com a = 1% (; 0,005) = 0,01 (; 0,995) = 10,60 Calculado 0,5 = 0, ,5 = 0,995,000 Hpótese Básica (H o ) H o : 0 = ^ 0 Hípótese Alternativa (H 1 ) H 1 : 0 ^ 0 O valor de χ calculado está entre os valores de χ teórico, portanto a hipótese H 0 é aceita ao nível de significância de 1%. No Teste Unilateral para o nível de significância a 1%, obteve-se os valores abaixo:

92 90 Figura 15 Teste unilateral para o nível de significância a 1% Para o nível de significância (%) = 1 Teórico com Teórico com a = 1% (; 0,99) = 4,61 = 0, = 0,99 Calculado,000 Hpótese Básica (H o ) H o : Hípótese Alternativa (H 1 ) H 1 : ^ 0 0 = 0 ^ > 0 O valor de χ calculado está entre os valores de χ teórico, portanto a hipótese H 0 é aceita ao nível de significância de 1%.

93 91 MVC das coordenadas ajustadas: 5,56508E-06,51173E-06 -,7585E-06 7,19161E-06-6,1577E-08,4745E-05 5,68831E-06 1,934E-05,51173E-06 1,8196E-06-1,3444E-06 4,03673E-06-1,47056E-07 1,473E-05,77E-06 9,77705E-06 -,759E-06-1,3444E-06 4,13581E-06-4,4638E-06,04616E-06-1,814E-05 -,79416E-06-1,41065E-05 8x 8 = 7,19161E-06 4,03673E-06-4,4638E-06 1,351E-05-8,55115E-07 3,976E-05 8,41747E-06 3,10109E-05-6,1577E-08-1,47056E-07,04616E-06-8,55115E-07 1,8198E-06-4,634E-06 1,84958E-07-3,66536E-06,4745E-05 1,479E-05-1,81351E-05 3,97615E-05-4,63438E-06 0, ,9537E-05 0, ,68831E-06,77E-06 -,79416E-06 8,41747E-06 1,84958E-07,954E-05 7,68419E-06,30184E-05 1,934E-05 9,77705E-06-1,41065E-05 3,10109E-05-3,66536E-06 0, ,30184E-05 8,6509E-05 MVC das coordenadas ajustadas: 5,56508E-06,51173E-06 -,7585E-06 7,19161E-06-6,1577E-08,4745E-05 5,68831E-06 1,934E-05,51173E-06 1,8196E-06-1,3444E-06 4,03673E-06-1,47056E-07 1,479E-05,77E-06 9,77705E-06 -,7585E-06-1,3444E-06 4,13581E-06-4,4638E-06,04616E-06-1,81351E-05 -,79416E-06-1,41065E-05 7,19161E-06 4,03673E-06-4,4638E-06 1,351E-05-8,55115E-07 3,97615E-05 8,41747E-06 3,10109E-05 8x 8 = -6,1577E-08-1,47056E-07,04616E-06-8,55115E-07 1,8198E-06-4,63438E-06 1,84958E-07-3,66536E-06,4745E-05 1,479E-05-1,81351E-05 3,97615E-05-4,63438E-06 0, ,9537E-05 0, ,68831E-06,77E-06 -,79416E-06 8,41747E-06 1,84958E-07,9537E-05 7,68419E-06,30184E-05 1,934E-05 9,77705E-06-1,41065E-05 3,10109E-05-3,66536E-06 0, ,30184E-05 8,6509E-05

94 9 MVC dos valores observados ajustados: 5,57887E-07-1,6E-08-1,56931E-08 1,74935E-08 6,40837E-08 0, , , , , ,6E-08 1,51108E-06-1,16416E-08 1,977E-08 4,75391E-08 0, , ,841E-05-0, , ,56931E-08-1,164E-08 5,6849E-07 1,5541E-08 4,5989E-08 0, , ,5E-05-0, , ,74935E-08 1,977E-08 1,5541E-08 1,43001E-06-5,165E-08-0, , , , , La 10 = 6,40837E-08 4,75391E-08 4,5989E-08-5,1653E-08,131E-06-0, , , , , , , , , , , ,0900-6, , , , , , , , , , , , , , ,8408E-05-9,51997E-05 0, , , , , , , , , , , , , , , , , , , , , , , , , , , MVC dos resíduos:,18676e-08 1,6E-08 1,56931E-08-1,74935E-08-6,4084E-08-0, , , , , ,6E-08 1,0339E-08 1,16416E-08-1,977E-08-4,7539E-08-0, , ,8408E-05 0, , ,56931E-08 1,16416E-08 1,161E-08-1,5541E-08-4,5989E-08-0, , ,51997E-05 0, , ,7494E-08-1,977E-08-1,5541E-08 1,39944E-08 5,1653E-08 0, , , , , v 10 = -6,4084E-08-4,7539E-08-4,5989E-08 5,1653E-08 1,87799E-07 0, , , , , , , , , , , , , , , , , , , , , , , , , , ,8408E-05 9,51997E-05-0, , , ,766056, , , , , , , , , , , , , , , , , , , , , , ,

95 93 Precisões: Quadro Precisão da média das observações Parâmetros Ajustados Observações Ajustadas Pontos Coordenadas Precisão da Precisão da Pontos Valores média média X m FIXO dh 1-9,5909 m ± 0, m Y m FIXO dh -3 39, m ± 0,0019 m X 1001, m ± 0,00359 m dh 3-4 5,3115 m ± 0, m Y 9973,53337 m ± 0, m dh , m ± 0, m X , m ± 0,00034 m dh , m ± 0,00146 m Y 3 994,4049 m ± 0, m α ' 58,606" ± 11,01979" X ,90475 m ± 0, m α ' 37,730" ± 10,94581" Y ,81097 m ± 0, m α ',835" ± 5,50863" X , m ± 0,0077 m α ',017" ± 4,67399" Y ,86669 m ± 0,00987 m α ' 58,81" ± 6,6053"

96 Localização de erros nas observações pelo teste Data Snooping de Baarda Matriz das redundâncias: 0, , , , , ,8981E-06 -,76703E-06 4,095E-06 1,47E-05 8,41141E-06 0, , , , , ,4081E-06 -,0566E-06,9891E-06 1,09197E-05 6,398E-06 0, , , , , ,36E-06-1,98574E-06,89176E-06 1,05637E-05 6,03639E-06-0, , , , , ,51847E-06,1355E-06-3,351E-06-1,17757E-05-6,7891E-06 10R 10 = -0, , , , , ,5659E-06 8,10886E-06-1,18086E-05-4,31376E-05 -,46499E , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , Enunciação da Hipótese Báscia Ho: Ho: nenhum erro existe na observação li Rejeita-se Ho se wi > k k é um valor crítico conforme o nível de confiança especificado:

97 95 Figura 16 Estatística do teste Ao nível de significância de 5% as observações não contem erros grosseiros. Ao nível de significância de 1% as observações não contem erros grosseiros Parâmetros da Elipse dos Erros e Elipse de Confiança Quadro 3 Elipses dos Erros Padrão Ponto tan() Elipse dos Erros Padrão (39,4% de Probabilidade) Orientação () Quad. de I Semi-Eixo Semi-Eixo Azimute No Quadrante II I Maior (a) Menor (b) adequado III IV Semi-Eixo a (mm) (mm) 1 Fixo Fixo Fixo Fixo Fixo Fixo Fixo 1, ' 35,453" 6 37' 17,77" I,6187 0, ' 4,73" 3 1, ' 46,865" 3 41' 3,43" III 3, , ' 36,568" 4 0, ' 5,884" 1 54' 1,94" III 11, , ' 47,058" 5-0, ' 6,739" ' 56,630" II 9, , ' 3,370"

98 96 Quadro 4 Elipse de Confiança Pontual Elipse de Confiança Pontual: 95% de Probabilidade Ponto Semi-Eixo Maior (a) (mm) Semi-Eixo Menor (b) (mm) Azimute 1 FIXO FIXO FIXO 6,3967 1, ' 4,73" 3 9,5651 3, ' 36,568" 4 9, , ' 47,058" 5 3,53447, ' 3,370"

99 ANÁLISE CONJUNTA DOS RESULTADOS Através dos valores dos eixos maior e menor encontrados para a elipse de confiança utilizando as observações com a precisão nominal da Estação Total e posteriormente utilizando a precisão da média das observações, com intuito comparativo, a figura abaixo apresenta a poligonal com as elipses de confiança.

100 Figura 17 Poligonal com as elipses de confiança 98

101 Ângulos Horários - Internos 99 É possível observar que quanto mais se afasta do ponto de controle, maior é a sua elipse, e quando se aproxima do ponto de controle, as elipses são menores, as observações são mais precisas. As elipses de confiança foram menores, ou seja, mais precisas utilizando as observações com a precisão nominal da Estação Total do que quando foi utilizada a precisão da média das observações. A partir de gráficos gerados com os resultados obtidos com a precisão nominal e com a precisão das observações, é possível fazer comparativos entre os dois métodos. O Gráfico 1 apresenta os ângulos ajustados pelo MMQ utilizando a precisão nominal e posteriormente a precisão das observações. Gráfico 1 - Gráfico de Ângulos Ajustados pelo MMQ 50º,00'00,000'' Ângulos Ajustados pelo MMQ 00º,00'00,000'' 150º,00'00,000'' 100º,00'00,000'' 50º,00'00,000'' 0º,00'00,000'' Com Observações obtidas com a Precisão Nominal da Estação Total Com Observações obtidas com a Precisão das Médias das Observações O Gráfico das precisões angulares ajustadas pelo MMQ mostra que utilizando a precisão nominal da Estação Total, a precisão nos cinco pontos sofrem menos variância e são menores do que utilizando a precisão das médias das observações, que sofrem oscilações maiores de um ponto para outro e os valores da precisão angular nos pontos são maiores.

102 Distâncias Horizontais Precisões dos Ângulos 100 Gráfico Gráfico das Precisões Angulares Ajustadas pelo MMQ Precisões Angulares Ajustadas pelo MMQ 1,000 '' 10,000 '' 8,000 '' 6,000 '' 4,000 '',000 '' 0,000 '' Com Observações obtidas com a Precisão Nominal da Estação Total Com Observações obtidas com a Precisão das Médias das Observações O Gráfico 3 apresenta as distancias horizontais ajustadas pelo MMQ, podendo verificar que as distancias entre os pontos utilizando a precisão das médias das observações são menores do que as distancias entre os mesmos pontos utilizando a precisão nominal da Estação Total. Gráfico 3 - Gráfico das Distâncias Horizontais Ajustadas pelo MMQ Distâncias Horizontais Ajustadas pelo MMQ 70,0000 m 60,0000 m 50,0000 m 40,0000 m 30,0000 m 0,0000 m 10,0000 m 0,0000 m Com Observações obtidas com a Precisão Nominal da Estação Total Com Observações obtidas com a Precisão das Médias das Observações O Gráfico 4 mostra as precisões das distancias horizontais ajustadas pelo MMQ, utilizando a precisão das médias das observações, as precisões são maiores em cada ponto comparando-se com a utilização da precisão da média das observações.

103 Coordenadas X Precisões das Dh 101 Gráfico 4 - Gráfico das Precisões das Distâncias Horizontais Ajustadas pelo MMQ Precisões das Distâncias Horizontais Ajustadas pelo MMQ 1,500 mm 1,000 mm 0,500 mm 0,000 mm Com Observações obtidas com a Precisão Nominal da Estação Total Com Observações obtidas com a Precisão das Médias das Observações O Gráfico 5 apresenta as coordenadas topográficas X ajustadas pelo MMQ, em todos os pontos as coordenadas são menores utilizando a precisão nominal da estação total. Gráfico 5 - Gráfico das Coordenadas Topográficas X Ajustadas pelo MMQ Coordenadas Topográficas 'X' Ajustadas pelo MMQ 10060,0000 m 10040,0000 m 1000,0000 m 10000,0000 m 9980,0000 m 9960,0000 m 9940,0000 m Com Observações obtidas com a Precisão Nominal da Estação Total Com Observações obtidas com a Precisão das Médias das Observações O Gráfico 6 apresenta a precisão das coordenadas topográficas X ajustadas pelo MMQ, pode-se verificar que as melhores precisões alcançadas foi atingida quando o ajuste foi realizado utilizando a precisão nominal da Estação Total.

104 Coordenadas Y Precisão de X 10 Gráfico 6 - Gráfico da Precisão das Coordenadas Topográficas X Ajustadas pelo MMQ Precisão das Coordenadas Topográficas 'X' Ajustadas pelo MMQ 3,000 mm,500 mm,000 mm 1,500 mm 1,000 mm 0,500 mm 0,000 mm Com Observações obtidas com a Precisão Nominal da Estação Total Com Observações obtidas com a Precisão das Médias das Observações O gráfico 7 apresenta as coordenadas topográficas Y ajustadas pelo MMQ, na maioria dos pontos as coordenadas obtidas utilizando a precisão nominal da estação total são menores do que utilizando a precisão das médias das observações. Gráfico 7 Gráfico das Coordenadas Topográficas Y Ajustadas pelo MMQ 10000,0000 m Coordenadas Topográficas 'Y' Ajustadas pelo MMQ 9980,0000 m 9960,0000 m 9940,0000 m 990,0000 m 9900,0000 m Com Observações obtidas com a Precisão Nominal da EstaçãoTotal Com Observações obtidas com a Precisão das Médias das Observações No Gráfico 8, podemos observar que a precisão das coordenadas topográficas Y ajustadas pelo MMQ, assim como para as coordenadas X, Gráfico 6, as melhores precisões novamente são obtidas através dos ajuste utilizando a precisão nominal da Estação Total.

105 Precisão de Y 103 Gráfico 8 - Gráfico da Precisão das Coordenadas Topográficas Y Ajustadas pelo MMQ Precisão das Coordenadas Topográficas 'Y' Ajustadas pelo MMQ 1,000 mm 10,000 mm 8,000 mm 6,000 mm 4,000 mm,000 mm 0,000 mm Com Observações obtidas com a Precisão Nominal da Estação Total Com Observações obtidas com a Precisão das Médias das Observações A partir desses gráficos comparativos apresentados anteriormente, podemos verificar que as melhores precisões alcançadas foram obtidas quando o ajuste foi realizado utilizando as precisões nominais da Estação Total. Fato que leva a sugerir para o ajuste de poligonal fechada a utilização destas precisões e consequentemente as variâncias que iram compor da MVC das Observações.