MARIA APARECIDA ZEHNPFENNIG ZANETTI IMPLICAÇÕES ATUAIS NO RELACIONAMENTO ENTRE SISTEMAS TERRESTRES DE REFERÊNCIA DE ORIGEM LOCAL E GEOCÊNTRICA Tese apresentada como requisito parcial à obtenção do grau de Doutor em Ciências, Curso de Pós- Graduação em Ciências Geodésicas, Setor de Ciências da Terra, Universidade Federal do Paraná. Orientador: Prof. Dr. Sílvio Rogério C. Freitas Co-orientador: Prof. Dr. Luís A. Koenig Veiga Curitiba Julho, 2006
Aos meus pais Udo e Edir Ao meu marido Norberto Aos meus filhos Gabriel e Lorenzo
AGRADECIMENTOS - De maneira especial aos meus orientadores Prof. Dr. Silvio Rogério Correia de Freitas e Prof. Dr. Luis Augusto Koenig Veiga; - Ao Curso de Pós-Graduação em Ciências Geodésicas da Universidade Federal do Paraná, aos seus professores e em particular à Profa. Dra. Claudia Pereira Krueger e Verali Mônica Kleuser; - À Pró-Reitoria de Administração na pessoa do Prof. Hamilton Costa Júnior e Vanessa do Rocio Garret Belão, bem como aos funcionários da Central de Transportes Idelir Eler, Hamilton José Taverna e João dos Santos Maciel; - À empresa Manfra & Cia. Ltda. em especial a Rubens Manfra, Evandra Aparecida Lopes, Marcio José Urakawa e Ione Terezinha Vonsorvicz; - À Concessionária Ecovia Caminho do Mar S/A na pessoa do Eng. Fabio Pereira Martins; - Aos professores e colegas Alzir Felippe Buffara Antunes, Anselmo Chaves Neto, Carlos Aurélio Nadal, Pedro Luis Faggion, Quintino Dalmolin, Romualdo Wandresen, Wilson Alcântara Soares, Juan Carlos Báez Soto e Regiane Dalazoana; A todos que colaboraram na parte de campo: - Ernesto Mitsuo Shibayama, Thiago Chaves de Oliveira, Thiago Figueiredo da Fonseca, Luisnei Martini, César Rafael Lopes, Mariana Alves Fachin, Lis Helene Skrzypiec, Niarkios Luis S. de S. Graça, Daniel Perozzo dos Santos, Silvia Correa Salustiano, Felipe Yuri Serathiuk, Emídio Fernandes Bueno ii
Netto, Ilson Pickler Júnior, Marieta Cristina Martins da Silva, Mariana de Mello Schüller, Renan Martins Pombo, Fabiani das Dores Abati Miranda, Alessandra Svonka Palmeiro, Tatiana Ayako Taura, Karoline Paes Jamur, Fabiano Stalchmidt Matanó, Guilherme Scheffer de Oliveira, Eduardo Colleti, Jefferson Mazur da Silva, Rogério da Rocha Konofal, Suelen Cristina Movio Huinca e Maurício Sejas. iii
SUMÁRIO LISTA DE FIGURAS...vii LISTA DE TABELAS...viii LISTA DE APÊNDICES...x LISTA DE SIGLAS...xi LISTA DE SÍMBOLOS......xiii RESUMO...xv ABSTRACT...xvi 1 INTRODUÇÃO... 1 1.1 O PROBLEMA... 1 1.2 HIPÓTESES E VARIÁVEIS... 2 1.3 LIMITAÇÕES... 2 1.4 JUSTIFICATIVA... 3 1.5 OBJETIVOS... 4 1.6 ESTRUTURAÇÃO DO TRABALHO DE PESQUISA... 5 2 CONCEITOS FUNDAMENTAIS...6 2.1 SISTEMAS DE COORDENADAS EM GEODÉSIA... 6 2.2 SISTEMA DE REFERÊNCIA GLOBAL... 7 2.3 SISTEMA DE COORDENADAS ESFÉRICAS ASSOCIADO AO SISTEMA GLOBAL... 8 2.4 SISTEMA DE COORDENADAS ASTRONÔMICAS... 9 2.5 SISTEMA ASTRONÔMICO LOCAL... 10 2.6 SISTEMA DE COORDENADAS CARTESIANAS GEODÉSICAS... 12 2.7 COORDENADAS GEODÉSICAS OU ELIPSÓIDICAS... 13 2.8 SISTEMAS DE REFERÊNCIA CELESTES E TERRESTRES... 14 2.8.1 IERS (International Earth Rotation Service).... 14 2.8.2 Sistema de Referência Celeste... 15 2.8.3 Sistema Equatorial... 15 2.9 DEFINIÇÃO E REALIZAÇÃO DE SISTEMAS GEODÉSICOS DE REFERÊNCIA... 17 2.10 SISTEMAS GEODÉSICOS DE REFERÊNCIA GEOCÊNTRICOS E DE ORIENTAÇÕES LOCAIS... 18 2.10.1 Datum Astro-Geodésico Horizontal(DGH)... 18 2.10.1.1 SAD 69 (South American Datum 1969)... 19 2.10.2 Sistemas de Referência Terrestres... 20 2.10.2.1 ITRS (IERS Terrestrial Reference System).. 21 2.10.2.2 ITRF (IERS Terrestrial Reference Frame)... 22 2.10.2.3 WGS 84 (World Geodetic System 1984)... 26 2.10.2.4 Atual sistema geodésico brasileiro: SIRGAS2000... 26 2.11 TRANSFORMAÇÃO DE COORDENADAS EM DIFERENTES SISTEMAS GEODÉSICOS... 28 iv
2.12 TRANSPORTE DE COORDENADAS GEODÉSICAS... 29 2.13 REDUÇÕES A SEREM APLICADAS NAS MEDIDAS GEODÉSICAS... 31 2.14 REDUÇÕES A SEREM APLICADAS NAS DISTÂNCIAS... 31 2.14.1 Redução da Distância Inclinada ao Elipsóide... 32 2.14.2 Correção da Curvatura... 33 2.15 REDUÇÕES A SEREM APLICADAS NAS MEDIDAS DE ÂNGULOS... 34 2.15.1 Correção para Passar da Seção Normal à Linha Geodésica... 34 2.15.2 Convergência Meridiana... 36 2.15.3 Desvio da Vertical... 38 2.15.3.1 Método astrogeodésico de determinação do desvio da vertical... 41 2.15.3.2 Determinação do desvio da vertical através da câmera zenital digital... 43 2.15.3.3 Determinação do desvio da vertical através de medidas GPS/LPS utilizando os fundamentos do Problema Procrustes simples... 46 2.16 CÁLCULO DO DESNÍVEL ENTRE DUAS ESTAÇÕES SEM CONSIDERAR A ALTURA DO INSTRUMENTO... 50 2.17 AJUSTAMENTO DE POLIGONAL GEODÉSICA ENQUADRADA PELO MÉTODO DAS EQUAÇÕES DE CONDIÇÃO... 51 2.18 TESTE DO QUI-QUADRADO... 58 2.19 A NBR 14166 REDE DE REFERÊNCIA CADASTRAL MUNICIPAL PROCEDIMENTO... 60 2.20 EXEMPLOS DE SISTEMAS CADASTRAIS EM OUTROS PAÍSES... 63 3 COLETA DOS DADOS E EXPERIMENTOS PROPOSTOS... 65 3.1 COLETA DE DADOS...65 3.2 EXPERIMENTOS PROPOSTOS... 68 4 PROCESSAMENTO DOS DADOS... 70 4.1 PROCESSAMENTO INICIAL DOS DADOS TOPOGRÁFICOS... 70 4.2 PROCESSAMENTO DOS DADOS GPS... 70 4.2.1 Primeira Campanha...70 4.2.2 Segunda Campanha... 73 4.3 TRANSPORTE DE COORDENADAS GEODÉSICAS... 74 4.3.1 Problema Inverso... 74 4.3.2 Problema Direto... 75 4.4 AJUSTAMENTO DA POLIGONAL GEODÉSICA ENQUADRADA PELO MÉTODO DAS EQUAÇÕES DE CONDIÇÃO...77 4.4.1 Solução para a Matriz Σ Lb Igual à Matriz Identidade... 77 4.4.2 Solução para a Matriz Σ Lb Composta Pelas Variâncias das Medidas Angulares e Lineares... 80 4.5 APLICAÇÃO DO TESTE DE ADERÊNCIA QUI-QUADRADO (χ 2 )... 83 4.6 PROCESSAMENTO DOS DADOS TOPOGRÁFICOS... 85 4.7 TRANSFORMAÇÃO DAS COORDENADAS GEODÉSICAS AJUSTADAS EM COORDENADAS CARTESIANAS TRIDIMENSIONAIS...87 4.8 CÁLCULO DO DESVIO DA VERTICAL... 88 v
4.8.1 Cálculo Preliminar das Componentes do Desvio da Vertical... 88 4.8.2 Cálculo do Desvio da Vertical utilizando os fundamentos do Problema Procrustes Simples... 90 5 CONCLUSÕES E RECOMENDAÇÕES... 93 REFERÊNCIAS BIBLIOGRÁFICAS... 95 APÊNDICES... 98 vi
LISTA DE FIGURAS FIGURA 1 - SISTEMA DE COORDENADAS ESFÉRICAS E CARTESIANAS... 6 FIGURA 2 - SISTEMA DE COORDENADAS CARTESIANAS ASSOCIADO AO SISTEMA GLOBAL... 8 FIGURA 3 - SISTEMAS DE COORDENADAS CARTESIANAS E ESFÉRICAS ASSOCIADOS AO SISTEMA GLOBAL... 9 FIGURA 4 - COORDENADAS ASTRONÔMICAS... 10 FIGURA 5 - SISTEMA ASTRONÔMICO LOCAL... 11 FIGURA 6 - COORDENADAS GEODÉSICAS... 13 FIGURA 7 - SISTEMA DE COORDENADAS GEODÉSICAS... 14 FIGURA 8 - SISTEMA EQUATORIAL ASTRONÔMICO... 16 FIGURA 9 - PLACAS TECTÔNICAS... 25 FIGURA 10 - A REDE SIRGAS2000... 28 FIGURA 11 - ELEMENTOS DO PROBLEMA DIRETO... 29 FIGURA 12 - ELEMENTOS DO PROBLEMA INVERSO... 30 FIGURA 13 - REDUÇÃO DA DISTÂNCIA INCLINADA AO ELIPSÓIDE... 33 FIGURA 14 - CORREÇÃO DA CURVATURA... 33 FIGURA 15 - SEÇÕES NORMAIS RECÍPROCAS E A LINHA GEODÉSICA... 35 FIGURA 16 - AZIMUTE E CONTRA-AZIMUTE DE UMA DIREÇÃO... 36 FIGURA 17- CÁLCULO DO AZIMUTE DE UMA DIREÇÃO A PARTIR DO CONTRA-AZIMUTE DA DIREÇÃO ANTERIOR... 38 FIGURA 18 - DESVIO DA VERTICAL... 39 FIGURA 19 - CÂMERA ZENITAL DIGITAL TZK2-D... 44 FIGURA 20 - RELACIONAMENTO ENTRE SISTEMA GLOBAL E SISTEMA ASTRONÔMICO LOCAL... 47 FIGURA 21 - ELEMENTOS DO SISTEMA TOPOGRÁFICO LOCAL... 62 FIGURA 22 LOCAL ONDE FOI REALIZADA A COLETA DE DADOS... 66 vii
LISTA DE TABELAS TABELA 1- PARÂMETROS DEFINIDORES DO SGR80, WGS 84 E SAD 69.. 21 TABELA 2 - COMPARAÇÃO ENTRE ALGUMAS COORDENADAS DO ITRF97 E ITRF2000... 26 TABELA 3 - COORDENADAS CARTESIANAS TRIDIMENSIONAIS DO POSICIONAMENTO ESTÁTICO DA PRIMEIRA CAMPANHA.. 71 TABELA 4 - COORDENADAS GEODÉSICAS TRIDIMENSIONAIS DO POSICIONAMENTO ESTÁTICO DA PRIMEIRA CAMPANHA.. 72 TABELA 5 - COORDENADAS CARTESIANAS TRIDIMENSIONAIS DO POSICIONAMENTO ESTÁTICO RÁPIDO DA PRIMEIRA CAMPANHA... 72 TABELA 6 - COORDENADAS GEODÉSICAS TRIDIMENSIONAIS DO POSICIONAMENTO ESTÁTICO RÁPIDO DA PRIMEIRA CAMPANHA... 73 TABELA 7 - COORDENADAS GEODÉSICAS TRIDIMENSIONAIS DO POSICIONAMENTO ESTÁTICO DA SEGUNDA CAMPANHA... 73 TABELA 8 - COORDENADAS CARTESIANAS TRIDIMENSIONAIS DO POSICIONAMENTO ESTÁTICO DA SEGUNDA CAMPANHA.. 74 TABELA 9 - AZIMUTES INICIAL E FINAL DA POLIGONAL ENQUADRADA OBTIDOS ATRAVÉS DO PROBLEMA INVERSO... 75 TABELA 10 - COMPARAÇÃO ENTRE COORDENADAS GEODÉSICAS OBTIDAS DO SOFTWARE BERNESE E DO TRANSPORTE DE COORDENADAS... 76 TABELA 11 - COMPARAÇÃO ENTRE O AZIMUTE DA DIREÇÃO 88-89... 76 TABELA 12 - COMPARAÇÃO ENTRE O AZIMUTE DA DIREÇÃO 32-89... 76 TABELA 13 - RESULTADOS OBTIDOS COM A MATRIZ Σ LB IGUAL À IDENTIDADE......79 TABELA 14 - RESULTADOS OBTIDOS COM A MATRIZ Σ LB COMPOSTA PELAS VARIÂNCIAS DAS MEDIDAS ANGULARES E LINEARES...81 TABELA 15 - COMPARAÇÃO ENTRE OS RESULTADOS DOS AJUSTAMENTOS... 82 TABELA 16 - COORDENADAS NO STL... 86 TABELA 17 - COMPARAÇÃO ENTRE O TRATAMENTO GEODÉSICO, UTM E TOPOGRÁFICO... 87 TABELA 18 - ALTITUDES GEOMÉTRICAS OBTIDAS DE POSICIONAMENTO GPS E DE ALTITUDES ORTOMÉTRICAS CALCULADAS A PARTIR DE ONDULAÇÃO GEOIDAL... 88 TABELA 19 - CÁLCULO PRELIMINAR DAS COMPONENTES DO DESVIO DA VERTICAL... 89 viii
TABELA 20 - ALGUNS RESULTADOS OBTIDOS COM A APLICAÇÃO DO PROBLEMA PROCRUSTES SIMPLES...91 ix
LISTA DE APÊNDICES APÊNDICE 1 - Croqui da Poligonal levantada...98 APÊNDICE 2 - Arquivo com todas as leituras efetuadas com a estação total na estação 32...99 APÊNDICE 3 - Resumo da Campanha GPS 1...101 APÊNDICE 4- Arquivos de entrada para a 1ª iteração de Ajustamento...103 APÊNDICE 5 - Fluxograma com a seqüência de cálculo para obtenção das coordenadas no STL...105 APÊNDICE 6 - Coordenadas no STL da poligonal enquadrada...106 APÊNDICE 7 - Coordenadas no STL das estações 90, 91, 91A, 92 e PE91A...106 APÊNDICE 8 - Coordenadas UTM da poligonal enquadrada...107 APÊNDICE 9 - Altitudes ortométricas, geométricas, ondulações geoidais e coordenadas cartesianas tridimensionais referidas ao SIRGAS2000...108 APÊNDICE 10 - Cálculo das coordenadas astronômicas através do problema Procrustes simples para a estação 83A...109 x
LISTA DE SIGLAS BIH Bureau International de l Heure CIS Conventional Inertial System CORS Continuosly Operating Reference System CTS Conventional Terrestrial System DGFI Deutsches Geodätisches ForschungsInstitut DGH Datum Astro-Geodésico Horizontal DORIS Doppler Orbitography and Radiopositioning Integrated by Satellite EPN European Reference Frame Permanent Network ETRS89 European Terrestrial Reference System 1989 EUREF EUropean REference Frame GAST Greenwich Apparent Sidereal Time GGL Geodesy and Geodynamics Laboratory GMST Greenwich Mean Sidereal Time GPS Global Positioning System LPS Local Positioning System GRS80 Geodetic Reference System 1980 GSC Guide Star Catalogue IAU International Astronomical Union IBGE Fundação Instituto Brasileiro de Geografia e Estatística ICRF International Celestial Reference Frame ICRS International Celestial Reference System IERS International Earth Rotation Service IFE Institut für Erdemessung IGN Institut Géographique National IPSN Institut de Protection et de Sürete Nucléaire IRM International Reference Meridian IRP International Earth Rotation Service Reference Pole ITRF International Earth Rotation Service Terrestrial Reference Frame ITRF 2000 International Earth Rotation Service Terrestrial Reference Frame 2000 ITRS International Earth Rotation Service Terrestrial Reference System IUGG International Union of Geodesy and Geophysics LAREG LAboratoire de REcherche em Géodésie LLR Lunar Laser Ranging LPS Local Positioning System MED Medidores Eletrônicos de Distâncias MVC Matriz Variância-Covariância NAVSTAR NAVigation Satellite with Time and Ranging xi
NGS National Geodetic Survey NIMA National Imagery and Mapping Agency NNR-NUVEL-1A No Net Rotation-Northwestern University VELocity model 1A ppm parte por milhão PR Presidência RBMC Rede Brasileira de Monitoramento Contínuo do Sistema GPS REGAL REseau GPS permanent dans lês ALpes RGP Reseau GPS Permanent SAD-69 South American Datum 1969 SCAR Scientific Committee on Antarctic Research SGN Service de Géodésie et de Nivellement SGR Sistema Geodésico de Referência SIRGAS SIstema de Referência Geocêntrico para as AméricaS SLR Satellite Laser Ranging STL Sistema Topográfico Local TUC Tempo Universal Coordenado TU1 Tempo Universal 1 UTM Universal Transverso de Mercator UCAC United States Naval Observatory Charge Coupled Device Astrograph Catalog VLBI Very Long Baseline Interferometry WGS 84 World Geodetic System 1984 xii
LISTA DE SÍMBOLOS a semi-eixo maior do elipsóide de revolução A a azimute astronômico A g azimute geodésico A s azimute da seção normal direta b semi-eixo menor do elipsóide de revolução B i direção vertical medida r B n matriz das derivadas parciais das equações de condição c fator de elevação D corda espacial D E distância na superfície terrestre D 0 corda ao nível do geóide e 2 segunda excentricidade do elipsóide de revolução f achatamento do elipsóide de revolução F, F, F ] conjunto de vetores fixos ao centro de massa da Terra [ 1 2 3 1 *, F2*, F3* [ ] F conjunto de vetores fixos à superfície física da Terra g r vetor gravidade GM constante gravitacional geocêntrica Gr Greenwich h altitude geométrica H altitude ortométrica H t altitude ortométrica média i desvio da vertical J2 harmônico zonal de segunda ordem do potencial gravitacional da Terra a n L 1 vetor dos valores observados ajustados L b n 1 vetor dos valores observados M massa da Terra N g ondulação geoidal O origem R raio terrestre r distância entre dois pontos, segmento r vetor de posição R m raio médio de curvatura T R I matriz de rotação transposta s distância espacial s módulo do vetor de posição T i direção horizontal medida n V 1 vetor dos resíduos W geopotencial ou potencial da gravidade r W 1 vetor erro de fechamento xiii
(X, Y, Z) coordenadas cartesianas espaciais ou tridimensionais (x i, y i ) coordenadas cartesianas plano-retangulares Z distância zenital ou ângulo zenital α ascensão reta α ângulo formado pela projeção do segmento OR sobre o plano xy com o semi-eixo OX β ângulo formado entre o segmento OR e a projeção ortogonal deste sobre o plano xy γ convergência meridiana δ declinação ΔH desnível ϑ co-latitude θ ângulo formado entre duas seções normais recíprocas η componente 1 o vertical do desvio da vertical λ longitude geodésica ou elipsóidica Λ longitude astronômica ξ componente meridiana do desvio da vertical σ desvio padrão 2 σ variância da unidade de peso a posteriori Σ ˆ 0 Σ Lb Σ La φ φ m Φ ω parâmetro de orientação horizontal matriz variância-covariância dos valores observados matriz variância-covariância dos valores ajustados latitude geodésica ou elipsóidica latitude média entre dois pontos latitude astronômica velocidade de rotação da Terra xiv
RESUMO A transformação de coordenadas no sistema astronômico local em coordenadas no sistema geodésico espacial (ITRFyy, por exemplo) é um problema importante da Geodésia contemporânea. É também chamado de problema da orientação tridimensional, que pode ser resolvido pela integração entre posicionamento GPS (Global Positioning System) e posicionamento LPS (Local Positioning System) através da ressecção tridimensional. Tal problema afigura-se como particularmente importante para o Brasil em função da transição do Sistema Geodésico de Referência ora em curso e a nova legislação para o referenciamento de imóveis rurais. Este trabalho apresenta uma revisão conceitual sobre sistemas de referência, sistema global, coordenadas astronômicas, sistema astronômico local, sistema topográfico local, sistema de coordenadas geodésicas ou elipsóidicas, coordenadas geodésicas ou elipsóidicas e desvio da vertical. Mostra-se a definição e o modelo do Problema Procrustes simples que permite o cálculo das componentes do desvio da vertical através de medidas do posicionamento relativo GPS e medidas de direções de uma estação base para estações alvo. São confrontados resultados obtidos na realização de base de referência terrestre via integração GPS/LPS com aqueles obtidos pelas técnicas da topografia com Sistemas Topográficos Locais (STL) de acordo com as Normas Brasileiras vigentes. Concluiu-se que a potencialidade de uso do denominado Problema de Procrustes Simples é questionável, na medida em que depende da geometria da rede onde se efetiva a análise. Palavras-chave: Topografia; Geodésia; desvio da vertical; Problema Procrustes simples. xv
ABSTRACT The transformation of coordinates in the local astronomic system in coordinates in the spatial geodetic system (ITRFyy, for example) is an important problem in the contemporaneous Geodesy. It s also called as a problem of the three-dimensional guidance, that can be solved by the positioning integration GPS (Global Positioning System) and positioning LPS (Local Positioning System) through the threedimensional resection. This problem appears as particularly important for Brazil due to the transition of Geodetic System of Reference now in progress and the new legislation for the spatial reference of rural properties. This work presents a conceptual review about reference systems, global system, astronomic coordinates, local astronomic system, local topographic system, geodetic or ellipsoidal coordinate system, geodetic or ellipsoidal coordinates, and vertical deflection. It is shown the definition and the model of the simple Procrustes Problem that permits the components calculation of the vertical deflection through relative positioning GPS and measures of directions from the base station to the targets stations. Results are confronted. It can be concluded that the use of simple Procrustes Problem is questionable, once it s depend on the network geometry where it s applied. Key words: Topography; Geodesy; vertical deflection; simple Procrustes Problem. xvi