AVALIAÇÃO DE DISTORÇÕES DA REDE ALTIMÉTRICA FUNDAMENTAL NO SUL/SUDESTE DO BRASIL USANDO O GEÓIDE E GPS

Transcrição

1 UNIVERSIDADE DE SÃO PAULO INSTITUTO DE ASTRONOMIA, GEOFÍSICA E CIÊNCIAS ATMOSFÉRICAS AVALIAÇÃO DE DISTORÇÕES DA REDE ALTIMÉTRICA FUNDAMENTAL NO SUL/SUDESTE DO BRASIL USANDO O GEÓIDE E GPS DEBORAH VALANDRO DE SOUZA São Paulo 006

2 DEBORAH VALANDRO DE SOUZA AVALIAÇÃO DE DISTORÇÕES DA REDE ALTIMÉTRICA FUNDAMENTAL NO SUL/SUDESTE DO BRASIL USANDO O GEÓIDE E GPS Dssertação apresentada ao Insttuto de Astronoma, Geofísca e Cêncas Atmosfércas da Unversdade de São Paulo para obtenção do título de mestre em Geofísca. Orentador: Prof. Dr. Nels Côgo de Sá São Paulo 006

3 A verdadera medda de um homem não é como ele se comporta em momentos de conforto e convenênca, mas como ele se mantém em tempos de controvérsa e desafo. Martn Luther Kng

4 AGRADECIMENTOS Ao Programa de Pós-Graduação em Geofísca do IAG/USP, pela oportundade de realzação do curso de mestrado. Ao CNPQ, pela concessão de bolsa de estudo, e à FAPESP, pelo apoo fnancero na mplantação da Rede GPS do Sul/Sudeste do Brasl. Ao Professor Nels Côgo de Sá, pela compreensão, pela oportundade de trabalhar neste projeto e pela sabedora na orentação desta dssertação. A todos os professores do Curso de Mestrado, pela competênca, pelo o alto nível de qualdade do curso, por todo conhecmento propcado e pela dedcação na tarefa de formar mestres e doutores. Ao Técnco Clarno do Dvno Vera, sem o qual não sera possível coletar os dados deste trabalho. Ao Técnco Edílson Geraldo Brto, pela atenção e constates consultoras prestadas. A todos os professores do Curso de Engenhara de Agrmensura da Unversdade Federal de Vçosa, prncpalmente aos meus prmeros orentadores Professor Antôno Smões Slva e Dalton Domngues Rodrgues por me propcarem o contato ncal com o meo centífco. A meus amgos, por toda a amzade trocada, seja em momentos de rsos, de chateações e frustrações como também nas horas de dfculdades. A mnha famíla (Mamãe, Papa, Dandnho, Junnho, Mamau, Lpe e Elane), pelo carnho e confança no meu sucesso. A Deus, por permtr a conclusão desse Curso de Mestrado, tendo sempre me guado e confortado em todas as etapas da mnha vda.

5 RESUMO A grande extensão do Brasl e o número reduzdo de marégrafos condconaram a mplantação da Rede Altmétrca Fundamental do Brasl (RAFB) por meo de lnhas, que ultrapassam alguns mlhares de qulômetros. Mesmo segundo os padrões de controle recomendados para redes altmétrcas de referênca, os erros sstemátcos, grosseros e aleatóros são nevtáves. Esses erros geram dstorções e, conseqüentemente, deteroram a precsão da rede altmétrca. Devdo ao elevado padrão atrbuído à RAFB em termos de metodologa e exatdão, é necessáro avalar eventuas dstorções para garantr alta precsão e acuráca em toda sua extensão. Atualmente, o posconamento por GPS, combnado com um modelo geodal de alta precsão em algumas regões brasleras, permte detectar eventuas dstorções exstentes na rede altmétrca fundamental. Assm, foram nvestgadas as dstorções da RAFB no Sul/Sudeste do Brasl, comparando as alttudes determnadas pelo GPS/nvelamento com alttudes de referênca. Pela metodologa usada, os dados dsponíves ncalmente foram avalados por meo da análse estatístca, para detectar e elmnar erros grosseros. Em seguda, o modelo geodal gravmétrco fo ajustado ao do sstema altmétrco pela modelagem da componente sstemátca, por meo dos modelos paramétrcos smplfcados e geras. O cálculo da alttude ortométrca no modo relatvo, a partr de estações da RGSB, depuradas de erros grosseros, e do modelo geodal gravmétrco, possbltou a dentfcação de dstorções locas e regonas. Com sso, fo realzada a análse estatístca da componente sstemátca do geóde, em um conjunto de 36 estações da RGSB, e constatou-se a exstênca de uma méda não nula, ndcando ncompatbldade entre N GPS e N g na regão de estudo, às vezes relaconada a erros grosseros e sstemátcos exstentes nas RNs, que causam dstorções na rede. Isso fo constatado em 0 RNs contendo erros grosseros. O geóde gravmétrco fo compatblzado ao sstema altmétrco local através do modelo matemátco de correção de 7 parâmetros, para aplcar a metodologa e dentfcar as RNs contendo dstorções. Com sso, mas 4 RNs foram dentfcadas com dstorções. A utlzação adequada dessa metodologa requer uma rede GPS de referênca densa, que forneça estações com coordenadas geodéscas e alttudes ortométrcas, além de um geóde gravmétrco compatível com o do sstema altmétrco de referênca. Palavras-chave: dstorções de rede altmétrca, posconamento por GPS, sstema altmétrco, geóde.

6 ABSTRACT The large Brazlan extenson and the reduced number of tde gauge have condtoned the establshment of Rede Altmétrca Fundamental do Brasl (RAFB) through lnes whch surpass some thousands of klometers. Even followng the recommended control standards to hgh accuracy levellng surveys, the outlers, systematc errors, and random errors are nevtable. These errors generate dstortons and, consequently, deterorated the accuracy of altmetrc network. Due to the hgh standard ascrbed to RAFB n terms of methodology and accuracy, t s necessary to evaluate for any dstortons n order to guaranty hgh precson and accuracy n ts whole extenson. Nowadays, GPS postonng by combnng a hgh precson geod model n some regons of Brazl, allows to detect dstortons of the RAFB n South/ Southeast of Brazl, comparng orthometrc heghts determned by GPS/levellng wth the reference ones. For the used methodology, all data avalable were evaluated by statstcal analyses, n order to detect and elmnate outlers. Afterwards, gravmetrc geod model was adjusted to geod computed GPS/levellng at RGSB statons, amng the approxmaton of the systematc component by usng a smple and a general mathematcal models. The computaton of orthometrc heghts, n relatve mode, at the RGSB statons, made possble to fnd the orthometrc heghts outlers, and the adjustment of gravmetrc geod model, allowng to dentfy local and regonal dstortons. The statstcal analyss of geod systematc component was accomplshed, from 36 statons of RGSB, and the exstence of a non zero mean was found Such a mean ndcated ncompatblty of N GPS wth N g n the study regon, almost assocated to random and systematc errors exstent n benchmarks whch generate dstorton n the altmetrc network. Ths was accomplshed by dentfyng and removng of 0 erroneous heghts benchmarks. Gravmetrc geod was adjusted to the local altmetrc system geod, startng from a 7 parameters mathematcal model n order to apply the methodology as well as to dentfy benchmarks wth dstortons. So, more 4 benchmarks were dentfed wth dstortons. The adequate use of ths methodology requres a dense GPS reference network, whch supples statons wth geodetc coordnates and orthometrc heghts, and also a gravmetrc geod compatble to that one of reference altmetrc system. Keywords: altmetrc network dstortons; postonng by GPS; altmetrc system; geod.

7 LISTA DE FIGURAS Fgura.1 Representação do campo de gravdade terrestre... 5 Fgura. Coordenadas cartesanas (x,y,z) e esfércas polares ( r,θ,λ)... 7 Fgura.3 Superfíces eqüpotencas Fgura.4 Superfíces do geóde e do elpsóde Fgura.5 Aceleração de gravdade observada ( g ), reduzda ao geóde ( g ) e teórca ( ) 0 γ 17 Fgura.6 Altura geodal representada por meo de 3 componentes Fgura.7 Número geopotencal e dferença de alttude ortométrca... Fgura.8 Alttude dnâmca (Vanícek & Krakwsky, 1986)... 4 Fgura.9 Alttude ortométrca... 5 Fgura.10 Alttude Normal... 7 Fgura.11 Coordenadas elpsodas... 8 Fgura.1 Evoluções na mplantação da RAFB (Luz et al., 00) Fgura.13 Nvelamento Geométrco Fgura.14 Esquema de rede altmétrca Fgura.15 Superfíces eqüpotencas não paralelas... 3 Fgura.16 Esquema de um Datum altmétrco convenconal Fgura.17 Dferenças entre os NMM locas e o Datum de Imbtuba (Alencar, 1990) Fgura.18 Propagação dos erros do nvelamento geométrco e as estações da Rede Maregráfca Permanente para Geodésa (IBGE, 005) Fgura.19 Prncípo básco do posconamento por GPS Fgura.0 Segmentos do sstema GPS Fgura.1 Geometra espacal dos satéltes Fgura. Multcamnho Fgura.3 Prncípo do posconamento absoluto Fgura.4 Prncípo do posconamento relatvo Fgura.5 Altmetra por GPS no modo absoluto Fgura.6 Altmetra por GPS no modo relatvo Fgura 3.1 Rede altmétrca na regão Sul/Sudeste do Brasl... 5 Fgura 3. Marco de uma Referênca de Nível do IBGE... 5 Fgura 3.3 Rede Braslera de Montoramento Contínuo RBMC (IBGE, 005) Fgura 3.4 Rede GPS no Sul/Sudeste do Brasl Fgura 3.5 Receptor, ASHTECH Z1 e antena ASHTECH ASH700718A... 56

8 Fgura 3.6 Receptor e antena utlzados nas estações da RBMC Fgura 3.7 Geóde GPS/Nvelamento da regão Fgura 3.8 Geóde gravmétrco da regão Fgura 4.1 Função densdade de probabldade normal com méda µ e varânca σ... 6 Fgura 4. Dstrbução dos dados quanto à curtose Fgura 4.3 Altmetra por GPS com superabundânca. Trângulos vermelhos: estações de referênca; círculo azul: RN posconada (Santos, 005) Fgura 5.1 Hstograma da componente sstemátca Fgura 5. Componente sstemátca do geóde usando todos os dados Fgura 5.3 Exemplo de alttude com erro grossero Fgura 5.4 Componente sstemátca do geóde com erros grosseros dentfcados Fgura 5.5 Componente sstemátca do geóde após a remoção dos erros grosseros Fgura 5.6 Hstograma da componente sstemátca após a remoção dos erros grosseros... 8 Fgura 5.7 Procedmentos no MatLab para calcular os parâmetros dos modelos usados Fgura 5.8 Correções pelo modelo blnear Fgura 5.9 Correções pelo modelo bquadrátco Fgura 5.10 Correções pela transformação de smlardade de 4 parâmetros Fgura 5.11 Correção pela transformação de smlardade de 5 parâmetros Fgura 5.1 Correção pela transformação de smlardade de 7 parâmetros Fgura 5.13 Correção pela transformação de smlardade de 8 parâmetros Fgura 5.14 Geóde gravmétrco compatblzado ao do sstema altmétrco braslero... 9 Fgura 5.15 Erro em ppm do geóde antes de ser compatblzado Fgura 5.16 Erro em ppm do geóde compatblzado ao do sstema altmétrco braslero.. 93 Fgura 5.17 Hstograma do resíduo da alttude ortométrca antes da remoção das dstorções (Undade: m) Fgura 5.18 Dstrbução geográfca das RNs com dstorções (vermelho) e sem dstorções (azul) Fgura 5.19 Exemplo de RN com dstorção Fgura 5.0 Componente resdual da alttude ortométrca Fgura 5.1 Componente resdual da alttude ortométrca sem dstorção Fgura 5. Hstograma dos resíduos da alttude ortométrca após a remoção das dstorções Fgura 5.3 Correlação do resíduo da alttude ortométrca e os dados envolvdos... 10

9 Fgura 5.4 Exemplo de dstorção regonal Fgura 5.5 Exemplo de dstorção local Fgura 5.6 Conjunto de RNs analsadas e dentfcadas com dstorções (vermelha) e lvre de erros (azul)

10 LISTA DE TABELAS Tabela.1 Constantes físcas e geométrcas para o GRS80 (IAG, 1980) Tabela. - Erros envolvdos nas observações GPS (Monco, 000) Tabela 5.1 Parâmetros estatístcos dos dados Tabela 5. Estações dentfcadas com erros grosseros Tabela 5.3 Parâmetros estatístcos dos dados Tabela 5.4 Coefcentes dos modelos usados Tabela 5.5 Parâmetros estatístcos dos modelos Tabela 5.6 Erro médo quadrátco para cada modelo paramétrco analsado Tabela 5.7 Meddas estatístcas do ajuste dos modelos paramétrcos Tabela 5.8 Número de condção dos modelos paramétrcos Tabela 5.9 Coefcentes dos modelos contendo 5, 7 e 8 parâmetros nas duas versões Tabela 5.10 Número de condção para as formas 1 e dos modelos Tabela 5.11 Erro relatvo do geóde em função da dstânca Tabelas 5.1 Estatístcas dos dados depurados de erros grosseros Tabela 5.13 Estações da RGSB que apresentam dstorções Tabela 5.14 Parâmetros estatístcos dos dados sem dstorção Tabela 5.15 Coefcente de correlação de Pearson (Spegel, 1993) Tabela 5.16 Coefcente de correlação de Pearson e da equação da reta Tabela A.1 Estações da RGSB usadas na análse estatístca dos dados e componentes sstemátcas do geóde. Undade: m Tabela A. Estações da RGSB usadas na avalação da dstorção RAFB e componente resdual da alttude ortométrca. Undade: m... 10

11 LISTA DE SIGLAS CMQ Colocação por Mínmos Quadrados DOP Dluton of Precson DVSIRGAS Datum Vertcal SIRGAS EGM96 Earth Geopontental Model 1996 GPS Global Postonng System GRS80 Geodetc Reference System 1980 IAG Assocação Internaconal de Geodésa IAG/USP Insttuto de Astronoma, Geofísca e Cêncas Atmosfércas da USP IAGS Amercan Geodetc Survey IAU Internatonal Astronomcal Unon IBGE Fundação Insttuto Braslero de Geografa e Estatístca IGGSP Insttuto Geográfco e Geológco do Estado de São Paulo IGS Internatonal GPS Geodynamcs Servce IUGG Internatonal Unon of Geodesy and Geophyscs NGS Natonal Geodetc Survey NIMA Natonal Imagery and Mappng Agency NMM Nível Médo do Mar RAFB Rede Altmétrca Fundamental do Brasl RBMC Rede Braslera de Montoramento Contínuo RGSB Rede GPS do Sul/Sudeste do Brasl RN Referênca de Nível RNE Referênca de Nível Excêntrca SIRGAS Sstema de Referênca Geocêntrco para as Amércas TNMM Topografa do NMM WGS84 World Geodetc System 1984

12 SUMÁRIO 1 INTRODUÇÃO... 1 FUNDAMENTAÇÃO TEÓRICA CAMPO DE GRAVIDADE DA TERRA Geopotencal Esferopotencal Campo de gravdade anômalo Anomalas gravmétrcas Determnação de geóde gravmétrco Fontes de erro do geóde gravmétrco ALTITUDES Número Geopotencal Alttude dnâmca Alttude ortométrca Alttude normal Alttude geométrca REDE ALTIMÉTRICA Hstórco da rede altmétrca do Brasl Nvelamento geométrco Datum altmétrco O SISTEMA GPS Segmentos do GPS Observações GPS Fontes de erros do sstema GPS Métodos de posconamentos por GPS Altmetra por GPS DESCRIÇÃO DOS DADOS REFERÊNCIAS DE NÍVEL REDES GPS DE REFERÊNCIA Rede Braslera de Montoramento Contínuo Rede GPS do Sul/Sudeste do Brasl... 53

13 3.3 GEÓIDE GRAVIMÉTRICO METODOLOGIA REMOÇÃO DE ERROS GROSSEIROS Remoção de erros grosseros dos dados MODELAGEM DA COMPONENTE SISTEMÁTICA Modelo matemátco do método paramétrco Tpos de modelos DETERMINAÇÃO DA ALTITUDE ORTOMÉTRICA POR GPS Altmetra por GPS no modo relatvo Erros padrões AVALIAÇÃO DE DISTORÇÕES RESULTADOS ESTATÍSTICA DOS DADOS Identfcação de erros grosseros COMPATIBIZAÇÃO DOS GEÓIDES Correções ajustadas Seleção do modelo paramétrco Geóde gravmétrco compatível com o do sstema altmétrco ALTITUDE ORTOMÉTRICA POR GPS NO MODO RELATIVO IDENTIFICAÇÃO E ANÁLISE DAS DISTORÇÕES NA RAFB Identfcação das dstorções Correlação dos resíduos com as componentes envolvdas Causas das dstorções CONCLUSÕES REFERÊNCIAS BIBLIOGRÁFICAS APÊNDICE

14 CAPÍTULO 1 INTRODUÇÃO 1 1 INTRODUÇÃO A Rede Altmétrca Fundamental do Brasl (RAFB), mplantada pela Fundação Insttuto Braslero de Geografa e Estatístca (IBGE), é ofcalmente adotada no país. Essa rede é consttuída de pontos, defndos fscamente por retículos gravados em chapas de bronze, ncrustadas sobre marcos ou estruturas de concreto, construídos na superfíce físca da Terra, denomnados Referêncas de Nível (RNs), cujas alttudes ortométrcas são referdas ao Nível Médo do Mar (NMM), materalzado pelo marégrafo de Imbtuba (SC). É formada por lnhas de nvelamento geométrco lgadas entre s, formando crcutos que se estendem pelo país. Seu objetvo é apoar o mapeamento básco e as grandes obras de engenhara como barragens, saneamento básco, dstrbução de água, rodovas e telecomuncações (Alencar, 1968). Apesar da alta precsão dos desníves obtdos pelo nvelamento geométrco, a mplantação de uma rede de nvelamento que se estenda por todas as regões do país, a partr de um Datum vertcal, e possblte uma dstrbução geográfca adequada é, economcamente, nvável (Souza & Sá, 003) em países com dmensões contnentas como o Brasl. Além dsso, as redes de nvelamento estão sujetas a erros grosseros, sstemátcos e aleatóros, os quas devem ser removdos por técncas adequadas. As prncpas fontes de erros observaconas são: refração atmosférca, mperfeções na colmação de nível e vertcaldade de mras, erro de graduação de mras e marés terrestres. As redes altmétrcas envolvem, também, uma grande quantdade de observações realzadas em condções heterogêneas, tas como varações na topografa, nos nstrumentos, e nos operadores. Esses erros geralmente são mnmzados pelo ajustamento pelos mínmos quadrados que podem ntroduzr dstorções nas redes (Bomford, 1983). Esses problemas tornam necessára a avalação de redes altmétrcas naconas, a fm de assegurar aos usuáros das alttudes de referênca, a precsão e a acuráca das redes. Com o advento das técncas espacas de posconamento, especalmente o GPS, combnado com um modelo geodal adequado, tal avalação tornou-se possível com benefícos de uso operaconal smples, rapdez e baxo custo. A metodologa consste na comparação de alttudes ortométrcas, fornecdas pela rede de nvelamento, com as obtdas a partr das coordenadas geodéscas fornecdas pelo GPS, combnadas com alturas geodas gravmétrcas. Essa comparação é realzada na forma absoluta, sto é, são comparadas as

15 CAPÍTULO 1 INTRODUÇÃO dferenças de alttudes ortométrcas ( H ) em um conjunto de RNs, consttundo a amostra estatístca usada para a avalação da rede altmétrca. Porém, a utlzação desta metodologa depende de dados que possbltem seu uso de manera efcente e precsa, os quas são: uma rede GPS de referênca, contendo estações com coordenadas geodéscas e alttudes ortométrcas, e um geóde gravmétrco, cuja precsão seja compatível com a do nvelamento. A mplantação da Rede GPS do Sul/Sudeste do Brasl (RGSB), nos estados de São Paulo, Santa Catarna e Paraná, além do aprmoramento do geóde gravmétrco do Estado de São Paulo, são os requstos báscos para a avalação da RAFB na regão (Sá, 004; Sá et al., 001). Assm, este trabalho teve os seguntes objetvos: a) avalar as dstorções da RAFB na regão de abrangênca da RGSB, comparando as alttudes ortométrcas fornecdas pela rede altmétrca com as obtdas pela combnação do GPS com o geóde gravmétrco, e b) aprmorar a transformação para tornar o geóde gravmétrco compatível com o geóde do sstema altmétrco braslero.

16 CAPÍTULO FUNDAMENTAÇÃO TEÓRICA 3 FUNDAMENTAÇÃO TEÓRICA Uma avalação das dstorções da RAFB, comparando as alturas geodas obtdas a partr de modelo geodal gravmétrco e com as determnadas por GPS combnado com o nvelamento ótco, não pode prescndr dos concetos do campo de gravdade da Terra. Para a compreensão da metodologa utlzada, assm como dos resultados e análses realzadas, devese também, conhecer os elementos envolvdos na avalação proposta, ou seja, a altura geodal e as alttudes ortométrca e geométrca e os respectvos erros. Assm, este capítulo apresenta, de forma sucnta, os concetos para a compreensão da pesqusa..1 CAMPO DE GRAVIDADE DA TERRA O conhecmento do campo de gravdade terrestre é fundamental como nstrumento para a determnação das dmensões e da forma da Terra, fornecendo subsídos para nvestgações acerca de seu comportamento dnâmco. O geóde, referencal altmétrco adotado em todo mundo, é a superfíce equpotencal do campo de gravdade da Terra, concdente com o nível do mar não perturbado, que se prolonga pelos contnentes..1.1 Geopotencal O campo de gravdade da Terra real ( ) denomnado geopotencal, e descrto como segue (Sá, 1988): g é dotado de potencal escalar W = W( x, y,z ), g = W (.1) onde representa o operador gradente. O geopotencal é a soma do potencal gravtaconal ( V ), gerado pela massa da Terra sobre a massa untára, colocada no ponto P, e do seu potencal centrífugo ( Φ ) resultante da

17 CAPÍTULO FUNDAMENTAÇÃO TEÓRICA 4 rotação terrestre (Heskanen & Mortz, 1967): W = V +Φ (.) com V = G v dm l = G v ρ l dv (.3) onde l representa a dstânca entre o elemento de massa dm e o ponto P, G é a constante unversal da gravtação e ρ a densdade terrestre. O potencal centrífugo é dado por ( x + y ) 1 Φ = ω (.4) sendo ω a velocdade angular e x + y o rao da trajetóra descrta pela massa untára. Então, o gradente do geopotencal W representa o vetor força de gravdade g (Fgura.1), e o gradente de suas componentes V e Φ são, respectvamente, os vetores força de atração F e força centrífuga f (Heskanen & Mortz, 1967): gradw = gradv + gradφ (.5) ou na forma: g = F + f (.6) As dervadas parcas do geopotencal em relação aos exos coordenados são as componentes do vetor gravdade em relação aos mesmos exos: ( g + g j g k) W W W gradw = + j + k = x y + z (.7) x y z

18 CAPÍTULO FUNDAMENTAÇÃO TEÓRICA 5 cujas componentes são expressas por: = = + = = + = = v z v y v x dv l z G z W g y dv l y G y W g x dv l x G x W g ρ ϖ ρ ϖ ρ (.8) Fgura.1 Representação do campo de gravdade terrestre O laplacano do geopotencal é obtdo a partr de (.1):

19 CAPÍTULO FUNDAMENTAÇÃO TEÓRICA 6 W = V + Φ (.9) com a qual se obtém a equação de Posson generalzada, para pontos nterores às massas atratvas (Sá, 1988): W = 4π Gρ + ϖ (.10) A equação de Laplace, para o exteror da massa atratva, tema forma (Vanícek & Krakwsky, 1986): V = 0 (.11) Adotando o sstema de coordenadas esfércas polares (Fgura.), no qual r é o rao vetor, θ a dstânca polar e λ a longtude, os quas se relaconam as coordenadas cartesanas pelas expressões (Heskanen & Mortz, 1967): r = x + y + z 1 x + y θ = tan (.1) z λ = tan 1 y x A equação de Laplace em termos de coordenadas esfércas polares toma a forma: V V V V V r + r + cotθ + + sen θ = 0 (.13) r r θ θ λ cuja resolução pelo método de separação de varáves proporcona a representação em séres de harmôncos esfércos (Sá, 1988):

20 CAPÍTULO FUNDAMENTAÇÃO TEÓRICA 7 V ( r, θ, λ) = ( A cos mλ + B senmλ) P ( cosθ ) n= 0 r 1 n n+ 1 m= 0 nm nm nm (.14) onde A nm e B são coefcentes determnados, a partr de elementos conhecdos do campo de nm gravdade e P nm os polnômos de Legendre assocados (Heskanen & Mortz, 1967; Sá, 1988), dados por: P nm ( cosθ ) m k ( 1) ( n k)!!( n-k)(! n-m-k) sen θ I ( n m k ) = cos θ n (.15) k= 0 k! onde I representa o maor ntero contdo em dervada em relação a θ, obtém-se: n m. Reescrevendo (.15), em termos da m n+ m sen θ d P ( ) ( ) n nm cosθ = cos θ 1 (.16) n n+ m n! d θ Fgura. Coordenadas cartesanas (x,y,z) e esfércas polares ( r,θ,λ)

21 CAPÍTULO FUNDAMENTAÇÃO TEÓRICA 8 Na prátca, é convenente utlzar coefcentes admensonas e numercamente menores do que os orgnas da expressão (.14), pela expressão: V GM r n n a 1 nm nm nm (.17) n= m= 0 r ( r, θ, λ) = ( C cos mλ + S senmλ) P ( cosθ ) com: C S nm nm A = GMa nm n B = GMa nm n (.18) onde GM é a constante gravtaconal geocêntrca e a o sem-exo maor do modelo elpsodal. Usando-se os coefcentes completamente normalzados, que são os mas utlzados, na expressão (.17), resulta (Heskanen & Mortz, 1967): V n n GM a = 1 nm nm (.19) r n= m= 0 r ( r θ, λ) ( C cos mλ + S senmλ ) P ( cosθ ), nm Geopotencal em harmôncos esfércos Para representar o geopotencal em harmôncos esfércos é necessáro envolver o laplacano dos potencas gravtaconal e centrífugo: W( r, θ, λ ) = V( r, θ, λ ) + Φ( r, θ, λ ) (.0) Portanto, utlzando (.19) e o laplacano do potencal centrífugo em coordenadas esfércas, tem a forma (Sá, 004):

22 CAPÍTULO FUNDAMENTAÇÃO TEÓRICA 9 [ 1 P (cos θ )] 1 Φ( r, θ, λ ) = ω rθ 0 (.1) 3 obtém-se a expressão do geopotencal em harmôncos esfércos: W GM n r, θ, λ ) = 1 r n= m= n a ( nm nm nm 0 r [ 1 (cos θ )] ( C cos mλ + S senmλ) P ( cosθ ) ω r θ P0 (.) 3 Superfíces eqüpotencas As superfíces com o geopotencal constante são denomnadas sup erfíces equpotencas ou smplesmente geopes. A equpotencal que mas se aproxma do nível médo dos mares recebe a denomnação de geóde. Sua equação é representada por (Heskanen & Mortz, 1967): ( x, y,z) W cons tante W = 0 = (.3) Dferencando (.3), obtém-se: dw W W W = dx + dy + dz (.4) x y z em notação vetoral, tem-se o produto escalar: dw = gradw dr = g dr (.5) sendo d r = ( dx,dy,dz ). Se o vetor d r for tomado ao longo da equpotencal W = W0 geopotencal é constante e dw = 0 ; portanto:, o

23 CAPÍTULO FUNDAMENTAÇÃO TEÓRICA 10 g dr = 0 (.6) Se o produto escalar de dos vetores é zero, como ocorre na expressão (.6), então os vetores são perpendculares entre s e, nesse caso, o vetor gravdade é normal à superfíce eqüpotencal. Como as superfíces eqüpotencas (Fgura.3) não são paralelas, e as lnhas perpendculares a elas, denomnadas lnhas de força, são reversas, o vetor gravdade em P é tangente à lnha de força que o contém e concde com a vertcal nesse ponto. A alttude ortométrca (H) do ponto P (Fgura.3) é a dstânca a partr do geóde, contada sobre sua lnha de força. Para d r, ao longo da lnha de força, na dreção crescente de H, o comprmento será: d r = dh (.7) com dreção oposta a g, e o ângulo entre d r e g é 180, aplcando o produto escalar, tem-se: dw = g dr = gdh cos180 = gdh (.8) Substtundo (.8) em (.5), resulta: dw = gdh (.9) que é a expressão fundamental para a determnação da alttude ortométrca, relaconando os concetos geométrcos ( H ), e dnâmcos (W ) (Heskanen & Mortz, 1967).

24 CAPÍTULO FUNDAMENTAÇÃO TEÓRICA 11 Fgura.3 Superfíces eqüpotencas.1. Esferopotencal A terra normal tem a forma de um elpsóde de revolução, ao qual se atrbu a mesma massa e a mesma velocdade angular da Terra real, tal que a superfíce lmtante seja a eqüpotencal normal U 0 = W 0 (Heskanen & Mortz, 1967). A eqüpotencal do campo de gravdade normal é denomnada esferope. O campo de gravdade normal consttu o campo vetoral conservatvo ( ) esferopote ncal. γ, expresso a partr do escalar U = U( x, y, z ), chamado γ = U (.30) U = V'+Φ (.31) onde V ' é o potencal gravtaconal do esferopotencal.

25 CAPÍTULO FUNDAMENTAÇÃO TEÓRICA 1 O desenvolvmento do esferopotencal U externo em harmôncos esfércos, por causa da smetra com relação ao plano equatoral, consttu um caso partcular da sére correspondente ao geopotencal (Sá, 1988). Neste caso, C nm = 0 se m 0 S nm = 0 sempre Com sso, a expressão (.14) se reduz à forma: V' = n GM a 1 = n n (.3) r n 1 r ( r, θ, λ) J P ( cosθ ) Os coefcentes J n são calculados por: n n+ 1 5nJ 3e J n = ( 1) 1 n + (.33) e ( n + 1)( n + 3) sendo e a excentrcdade do elpsóde e J = , , denomnado fator dnâmco de forma. O coefcente J aparece no Sstema de Constantes Astronômcas da Internaconal Astronomcal Unon (IAU), fazendo parte da defnção dos sstemas geodéscos de referênca, como por exemplo, o Geodetc Reference System 1980 (GRS80); IAG, Gravdade Normal A gravdade teórca (γ ) depende somente da dstânca ao centro de massa da terra normal e da lattude (ϕ ). A gravdade normal tem a expressão (IAG, 1971): ( 1 + αsen ϕ βsen ϕ) γ = γ (.34) e + onde γ e é a gravdade normal no equador, α e β são constantes dependentes das dmensões

26 CAPÍTULO FUNDAMENTAÇÃO TEÓRICA 13 do elpsóde de referênca e da velocdade angular de rotação. Em 1979, a Internatonal Unon of Geodesy and Geophyscs (IUGG), adotou ofcalmente o GRS80. A expressão para gravdade normal fcou (IAG, 1980): 1 + ksen ϕ γ = γ e (.35) 1 e sen ϕ sendo: k bγ P = aγ e 1 (.36) onde a e b são os sem-exos maor e menor do elpsóde adotado, γ e é a gravdade no equador, γ P é a gravdade no pólo. Na Tabela.1 são apresentadas as constantes físcas e geométrcas envolvdas na expressão.36. Tabela.1 Constantes físcas e geométrcas para o GRS80 (IAG, 1980) SÍMBOLO DENOMINAÇÃO CONSTANTES a Sem-exo maor ,000 m b Sem-exo menor ,314 m γ e Gravdade no equador 9, m/s γ p Gravdade no pólo 9, m/s e Prmera excentrcdade 6, x Campo de gravdade anômalo O potencal anômalo (T), assocado à heterogenedade de massa da Terra real em relação à da terra normal, é a dferença entre o geopotencal e o esferopotencal no mesmo ponto (Heskanen & Mortz, 1967):

27 CAPÍTULO FUNDAMENTAÇÃO TEÓRICA 14 T ( r, θ, λ) W ( r, θ, λ) U ( r, θ, λ) = (.37) Como os potencas centrífugos de W e U se cancelam no mesmo ponto, o potencal anômalo (.37) é uma função harmônca no espaço exteror às massas, satsfaz à equação de Laplace. A Fgura.4 mostra as superfíces do geóde e do elpsóde de referênca, com as grandezas envolvdas, na qual P 0 é a projeção do ponto P sobre o geóde; Q é a projeção de P sobre o elpsóde, e N é a dstânca, contada sobre a normal, entre o geóde o elpsóde. Consderando o vetor gravdade g 0 no ponto P 0 sobre o geóde e o vetor gravdade γ no ponto Q sobre o elpsóde, a dferença entre eles fornece o vetor anomala de gravdade: g = g γ (.38) 0 O ângulo formado pela vertcal ( v ) e a normal ( n ) no ponto consderado é o desvo da vertcal (), composto pela componente merdana ( ξ ), dreção norte-sul: ξ = Φ φ (.39) e pela componente prmero vertcal ( η ), dreção leste-oeste: ( Λ λ) cosφ η = (.40) sendo ( Φ, Λ) as coordenadas astronômcas lattude e longtude e ( λ) geográfcas. φ, as coordenadas As expressões (.37 a.40), apresentadas sobre o campo anômalo, podem ser condensadas na fórmula de Bruns (Vanícek & Krakwsky, 1986): T N = (.41) γ

28 CAPÍTULO FUNDAMENTAÇÃO TEÓRICA 15 e na equação fu ndamental da geodésa físca, a qual relacona a anomala gravmétrca g com o potencal anômalo T. T h 1 γ + g = 0 γ h (.4) onde h é a alttude contada ao longo da normal. Fgura.4 Superfíces do geóde e do elpsóde.1.4 Anomalas gravmétrcas Como as observações da aceleração de gravdade ( g ) são realzadas na superfíce físca da Terra (Fgura.5), são necessáras correções para se reduzr as meddas ao geóde ( g 0 ). Essas correções caracterzam dferentes tpos de anomalas, conforme a correção adotada; no entanto, as mas mportantes no contexto desse trabalho são as anomalas: ar-lvre, Bouguer e Helmert.

29 CAPÍTULO FUNDAMENTAÇÃO TEÓRICA 16 Anomala ar-lvre A anomala ar-lvre é obtda a partr da correção homônma, que elmna o efeto da alttude do ponto de observação, sem consderar a massa topográfca exstente entre esse ponto e o geóde (Sá, 004): C a g = H 0, 3086H ( mgal) (.43) H g sendo o gradente vertcal da aceleração da gravdade e H alttude ortométrca do ponto H de medção. Portanto, a anomala ar-lvre tem a expressão: g a = g + 0, 3086H γ (.44) onde g é a gravdade observada e γ, a gravdade teórca. Anomala Bouguer Na anomala Bouguer é consderada a massa topográfca exstente entre o geóde e a superfíce físca da Terra, por meo da correção Bouguer, dada por: C b = π GρH 01119, H ( mgal) (.45) onde G é a constante unversal da gravtação e ρ é a densdade méda da crosta. Por consegunte, a anomala Bouguer é expressa por: gb = ga 0, 1119H (.46)

30 CAPÍTULO FUNDAMENTAÇÃO TEÓRICA 17 Anomala Helmert A anomala Helmert é obtda pelo segundo método de condensação ntroduzdo por Helmert; ele consste em condensar as massas topográfcas sobre a superfíce do geóde, formando uma superfíce materal de densdade proporconal à alttude (Sá, 004). Assm, obtém-se a anomala Helmert: g g + C + C γ (.47) H = a T onde C T é a correção topográfca, mutas vezes neglgencada por ser de árdua obtenção, na qual se elmna as massas topográfcas em relação da calota de Bouguer. Fgura.5 Aceleração de gravdade observada ( g ), reduzda ao geóde ( g ) e teórca ( γ ) Determnação de geóde gravmétrco O geóde é classcamente defndo como a superfíce eqüpotencal do campo de gravdade da Terra que concde com o Nível Médo dos Mares (NMM) não perturbados. Porém, esta é uma defnção dfícl de ser realzada na prátca, pos o NMM pode varar de centímetros até alguns metros da superfíce eqüpotencal, com efetos de característcas

31 CAPÍTULO FUNDAMENTAÇÃO TEÓRICA 18 oceanográfcas como varação de temperatura, salndade, topografa da superfíce oceânca, correntes marnhas, entre outras (Vancek & Krakwsky, 1986). Há város métodos para a determnação do geóde, mas a fórmula de Stokes, modfcada para esferódes de alto grau, e a Colocação por Mínmos Quadrados (CMQ) (Vancek & Krakwsky, 1986; Mortz, 1980) são os mas usados. Neste trabalho, fo usado o geóde gravmétrco calculado por meo da CMQ (Sá, 004), combnando modelos geopotencas, anomalas gravmétrcas e dados topográfcos. Com essa metodologa, a altura geodal é representada por meo de 3 componentes (Fgura.6): N = N + N + N (.48) MG g H onde N fo determnada a partr de um modelo geopotencal, o Earth Gravtatonal Model MG 1996 (EGM96), que contém coefcentes do potencal gravtaconal expresso em harmôncos esfércos até o grau 360, o que sgnfca uma resolução espacal de 30 de arco, na qual se representa as contrbuções do longo comprmento de onda (Lemone et al., 1998). Fgura.6 Altura geodal representada por meo de 3 componentes A componente N g, que representa as contrbuções do médo comprmento de onda r da altura geodal usando a CMQ, tem a forma:

32 CAPÍTULO FUNDAMENTAÇÃO TEÓRICA 19 N g 1 = C C g (.49) N g Com: C 1 ( C + σ ) 1 = g g g (.50) onde, C g g é a matrz covarânca de dmensões n n entre as anomalas utlzadas, σ g são as varâncas dessas anomalas, C é a matrz covarânca entre alturas geodas e N g anomalas gravmétrcas (Sá, 004). A componente N H, que representa as nformações do curto comprmento de onda do geóde, é normalmente obtda pelo método de condensação de Helmert, com a redução de dados gravmétrcos na superfíce do geóde. Em geral, a formulação do efeto ndreto no geóde é realzada em termos de uma expansão das séres de Taylor, cujos três prmeros termos normalmente são consderados (Wchencharoen, 198). O cálculo do efeto ndreto envolve dados de alttudes obtdos de um modelo topográfco dgtal, o qual recobre a área de nteresse. Em áreas relatvamente planas, o efeto ndreto é mutas vezes neglgencado, ntroduzndo um erro pequeno nas alturas geodas..1.6 Fontes de erro do geóde gravmétrco A partr da expressão (.48), podem ser dentfcadas as fontes de erros das alturas geodas, assocadas às componentes N MG, N g e N H. Fontes de erros da componente N MG O modelo geopotencal contrbu com nformações do longo comprmento de onda do geóde, mas ntroduz erros orgnados de dados de satélte, nsufcênca de dados gravmétrcos e erros sstemátcos da altmetra por satélte. Os dos prncpas tpos de erros no cálculo de N MG podem ser dvddos em (Fotopoulos, 003): erros de omssão e erros de comssão. O prmero ocorre devdo ao truncamento da expansão em harmôncos esfércos

33 CAPÍTULO FUNDAMENTAÇÃO TEÓRICA 0 para o cálculo de N, que na prátca é obtda a partr de ( n < ) MG max. Já o segundo é devdo ao ruído presente nos coefcentes da N MG. As formulações detalhadas para o cálculo desses erros podem ser encontradas em Fotopoulos (003) e Tschernng (001). Fontes de erros da componente N g Os erros da componente N g decorrem da dstrbução geográfca, densdade e precsão dos dados gravmétrcos envolvdos. A maor precsão na altura geodal geralmente é obtda onde os dados gravmétrcos são precsos e adequadamente dstrbuídos; porém, exstem fontes de erros sstemátcos que nfluencam a qualdade das anomalas gravmétrcas, que são (Heck, 1990): nconsstênca de Data gravmétrcos, horzontas e vertcas, e erros de aproxmação devdo ao uso de fórmulas smplfcadas de reduções gravmétrcas. Fontes de erros da componente N H Os erros do curto comprmento de onda da altura geodal são ntroduzdos pela resolução espacal e precsão do modelo topográfco dgtal usado no cálculo de N H. A modelagem do terreno é sgnfcatva, prncpalmente em regões montanhosas, onde característcas topográfcas têm maor efeto no modelo geodal, além dos erros devdo aos valores aproxmados do gradente vertcal de gravdade (Sders & L, 199).. ALTITUDES O posconamento de pontos da superfíce físca da Terra envolve aspectos geométrcos na determnação de coordenadas cartesanas ( x, y,z) ou geodéscas ( ϕ,λ,h) aspectos físcos na determnação da alttude ortométrca, cuja superfíce de referênca é a eqüpotencal que concde com o nível médo dos mares (geóde), geralmente materalzada por marégrafos. O grande sucesso obtdo com as técncas espacas na realzação de referencas geocêntrcos, na representação do campo de gravdade e no aprmoramento de modelos geodas está motvando estudos para a realzação de referencas altmétrcos com ; e

34 CAPÍTULO FUNDAMENTAÇÃO TEÓRICA 1 característcas globas. Atualmente, as coordenadas geodéscas obtdas por GPS, usando redes de referênca adequadas, combnadas com alturas geodas determnadas a partr de modelos geodas gravmétrcos, proporconam a alttude ortométrca com precsão sufcente para mutas aplcações e, até mesmo, para a avalação de dstorções da RAFB. Nesta seção serão apresentados os concetos e procedmentos empregados na determnação dos dferentes tpos de alttudes usados em Geodésa...1 Número Geopotencal O nvelamento combnado com medção de gravdade proporcona a dferença de potencal, denomnada número geopotencal (C), o qual tem sgnfcado físco (Fgura.7). O número geopotencal é a grandeza deal para descrever o comportamento de massas no campo da gravdade, usando-se smplesmente a dferença entre os potencas de gravdade no geóde e no ponto de nteresse (Torge, 1991). Ele também pode ser nterpretado como o trabalho realzado pelo campo de gravdade para transportar a undade de massa entre as respectvas superfíces equpotencas (Vanícek & Krakwsky, 1986): C = W P P W0 = gdl = g' dh' (.51) P 0 P 0' onde a ntegral é calculada ao longo da superfíce físca ( dl ) entre o geóde e o ponto P, ou ao longo da vertcal ( dh' ) do ponto P, como pode ser vsto na Fgura.7. A undade para o número geopotencal é kgal m, por ter valor numérco aproxmadamente gual ao da respectva alttude H, sto é, C = 0, 98H (Vanícek & Krakwsky, 1986). Por ser tratar da dferença de potencal, o número geopotencal possu algumas característcas: a) é unvocamente defndo para cada ponto ou, em outras palavras, ndepende da trajetóra da lnha de nvelamento; b) é postvo acma do geóde, zero no geóde e negatvo abaxo do geóde; c) não tem dmensão de comprmento; a ntegral de C em um crcuto fechado é zero; e d) é constante para pontos stuados na mesma superfíce eqüpotencal. Na prátca não se conhecem g e l como funções contínuas de posção, logo as ntegras da expressão (.51) são efetuadas numercamente, dscretzando g e H ao longo da lnha

35 CAPÍTULO FUNDAMENTAÇÃO TEÓRICA nvelada (Vanícek & Krakwsky, 1986): C j j = & g H (.5) k = k k sendo: 1 g k = k 1 + ( g g ) k (.53) onde H k é o desnível bruto fornecdo pela operação do nvelamento, g k é o valor da gravdade observada na k-ésma RN. Fgura.7 Número geopotencal e dferença de alttude ortométrca Do ponto de vsta prátco, não é vável e nem necessáro ter o valor de g observado em todos os pontos; a únca exgênca é que g, qualquer que seja sua fonte, tenha boa precsão. O espaçamento deal correspondente à dferença de nível, H, e a precsão dos valores de g dependem das característcas topográfcas e da varação do campo de gravdade

36 CAPÍTULO FUNDAMENTAÇÃO TEÓRICA 3 (Vanícek & Krakwsky, 1986). O número geopotencal tem o nconvenente de não ser expresso em undade de comprmento. Como conseqüênca desse problema, surgram dferentes tpos de alttudes físcas. As mas mportantes, no contexto deste trabalho, são: alttude dnâmca, alttude ortométrca, e alttude normal que são expressas em undades de dstânca, vsto que resultam da dvsão do número geopotencal pela gravdade correspondente (Luz et al., 004): C H = (.54) g' onde C é o número geopotencal e g é a gravdade no ponto P... Alttude dnâmca A alttude dnâmca é obtda a partr de (.54), adotando-se a gravdade normal como referênca ( γ r ), sto é: H D C = (.55) γ r A gravdade de referênca também pode ser nterpretada como um fator de escala para converter o número geopotencal em undade de comprmento. A alttude dnâmca (Fgura.8) apresenta a convenênca de ser gual sobre uma mesma superfíce eqüpotencal, para dferentes pontos, ou seja, D D D H1 H = H 3 =. No entanto, deve-se ter o cudado para não nterpretá-la como a dstânca geométrca entre o geóde e o ponto, sto é, l1 l l3 (Vanícek & Krakwsky, 1986).

37 CAPÍTULO FUNDAMENTAÇÃO TEÓRICA 4 Fgura.8 Alttude dnâmca (Vanícek & Krakwsky, 1986)..3 Alttude ortométrca A alttude ortométrca é defnda como a dstânca, medda ao longo da vertcal, entre o geóde e o ponto de nteresse (Fgura.9). Portanto, a alttude ortométrca do ponto P, na superfíce físca da Terra, é dada por (Heskanen & Mortz, 1967): H O P P dw dc = = g g 0 0 (.56) onde a ntegral é sobre a vertcal. Mas, por (.51) obtém-se: C P P ( / H ) = g' dh = H 1 g' dh (.57) 0' 0' ou:

38 CAPÍTULO FUNDAMENTAÇÃO TEÓRICA 5 C = g' H (.58) onde g ' é o valor médo da gravdade ao longo da vertcal entre os pontos O', no geóde, e P, na superfíce físca, expresso por: g' P 1 g' dh (.59) = ( / H ) 0' seja: Portanto, a alttude ortométrca pode ser obtda a partr de (.58), usando (.59), ou O C H = (.60) g' Fgura.9 Alttude ortométrca O prncpal nconvenente da alttude ortométrca é a dfculdade em se obter ' g, pos não se conhece a dstrbução de densdade no nteror da Terra. Na prátca, essa alttude não pode ser determnada exatamente (Heskanen & Mortz, 1967). No entanto, utlzam-se

39 CAPÍTULO FUNDAMENTAÇÃO TEÓRICA 6 aproxmações de g ' envolvendo nformações complementares como, densdade, modelo crustal, modelo topográfco, entre outras. Assumndo hpóteses, surgem aproxmações de que conduz a um tpo especal de alttude ortométrca. Dentre os métodos propostos, a alttude ortométrca de Helmert é a mas usada, sendo defnda como (Jekel, 000): g ' H C H = (.61) g H com H g obtda por: H g = g + 0, 044H (.6) sendo g a gravdade em P na superfíce terrestre e o fator 0, 044 é obtdo com a redução de Poncaré-Prey, o qual fornece o valor de gravdade no nteror da crosta (Jekel,000)...4 Alttude normal Como na prátca não se pode determnar g ' (valor médo da gravdade ao longo da vertcal), Molodenskj et al. (1960) ntroduzram o conceto de alttude normal H N (Vanícek & Krakwsky, 1986) na forma (Fgura.10) H N C = (.63) γ onde γ é a gravdade normal méda entre o elpsóde e o ponto de consderado. A vantagem dessa alttude em relação à ortométrca é que, enquanto a gravdade real méda é calculada na vertcal entre os pontos de alttudes 0 (geóde) e H (terreno) e a

40 CAPÍTULO FUNDAMENTAÇÃO TEÓRICA 7 gravdade normal méda é calculada na normal entre os pontos de alttude 0 (elpsóde) e H (teluróde) (Vanícek & Krakwsky, 1986). A dstânca entre a superfíce físca e o teluróde é a anomala de alttude, usualmente denotada por ζ (Fgura.10). Para obter γ a partr de γ 0, Molodenskj propôs uma expressão precsa para o gradente vertcal de gravdade normal cuja alttude normal, defnda dessa manera, refere-se ao quase-geóde. Conseqüentemente, a alttude normal pode ser consderada como um tpo especal de alttude ortométrca referda ao quase-geóde (Vanícek & Krakwsky, 1986). Mas há um nconvenente na adoção do quase-geóde em relação ao geóde, que é a falta de sgnfcado físco do quase-geóde. É apenas um artfíco matemátco, não se trata de uma superfíce eqüpotencal do campo de gravdade da Terra (Cordn, 1998). Fgura.10 Alttude Normal..5 Alttude geométrca A alttude geométrca ou elpsodal de um ponto é defnda como a dstânca desse ponto a partr da superfíce do elpsóde, medda ao longo da normal que passa pelo ponto (Fgura.11). A alttude geométrca é obtda a partr das coordenadas cartesanas assocadas a

41 CAPÍTULO FUNDAMENTAÇÃO TEÓRICA 8 um referencal geocêntrco, como o SIRGAS000 adotado ofcalmente no Brasl, determnadas com o GPS..3 REDE ALTIMÉTRICA As redes altmétrcas são conjuntos de pontos materalzados em chapas metálcas, fxadas em marcos ou estruturas de concreto, com alttudes ortométrcas conhecdas. Essas redes são desenvolvdas por lnhas de nvelamento geométrco que, lgadas entre s, formam um sstema de crcutos que se estendem por todo o país. Sua estrutura fundamental é destnada a apoar o mapeamento, as grandes obras de Engenhara, projetos de saneamento básco, estradas e telecomuncações. Fgura.11 Coordenadas elpsodas

42 CAPÍTULO FUNDAMENTAÇÃO TEÓRICA Hstórco da rede altmétrca do Brasl Como descreve Alencar (1968), em 13 de outubro de 1945, na regão carbonífera do sul do Brasl, o IBGE deu níco à mplantação da RAFB a partr da RN 1-A, progredndo na dreção norte do Brasl, pelas regões com desenvolvmento econômco e demográfco (Fgura.1a). Em dezembro de 1946 fo realzada a conexão com a RN 4, determnada a partr do Datum de Torres, estabelecdo pela estação maregráfca de Torres (RS), possbltando o cálculo das alttudes em relação ao NMM das RNs já mplantadas (Alencar, 1990). Em 1958, quando a RAFB contava com mas de qulômetros de nvelamento, o Datum de Torres fo substtuído pelo Datum de Imbtuba, defndo pela estação maregráfca do Porto de Imbtuba (SC) e materalzado pela RN 4-X. Essa substtução trouxe uma melhora de defnção do sstema de alttudes, uma vez que a estação de Imbtuba contava na época com nove anos ( ) de observações. No fnal da década de 70, as lnhas de nvelamento geométrco chegaram aos pontos mas dstantes do terrtóro braslero, nos Estados do Acre e de Rorama (Fgura.1b). A partr da década de 80, foram ncadas a densfcação da rede nas áreas não cobertas anterormente, assm como a reconsttução naquelas com alto índce de destrução (Luz et al., 00)..3. Nvelamento geométrco O nvelamento geométrco consste em determnar desníves entre pontos, geralmente da superfíce terrestre. O desnível H entre dos pontos adjacentes, ocupados por mras vertcas, é determnado pela dferença entre as leturas de ré e de vante da respectva mra. Assm, a dferença de alttude entre os pontos A e B é dada pelo somatóro dos desníves ao longo da lnha de nvelamento que une esses pontos (Fgura.1): (.64) H AB H = n = 1 sendo n o número de desníves entre A e B. A alttude do ponto B é obtda a partr da alttude do ponto A e do respectvo desnível

43 CAPÍTULO FUNDAMENTAÇÃO TEÓRICA 30 H B = H + H (.65) A AB onde H A é alttude ortométrca do ponto A, referda ao Datum vertcal. a) Período entre 1945 a 1970 b) Período entre 1970 e 00 Fgura.1 Evoluções na mplantação da RAFB (Luz et al., 00) No Brasl, a rede altmétrca fundamental é projetada de forma que os tneráros do nvelamento formem polígonos fechados e/ou justaposto, com perímetros varando de 00 a 400 km, devdamente lgados ao Datum vertcal (Fgura.13). Um crcuto, cujo comprmento máxmo é da ordem de 100 km, é composto por lnhas de nvelamento que nterlgam os pontos nodas da rede. As lnhas, por sua vez, são formadas por seções com comprmento máxmo de 3 km e conectam as estações adjacentes (IBGE, 1998). Os elementos da rede altmétrca são lustrados na Fgura.14. Para reduzr o efeto de alguns erros nas operações de nvelamento, devem ser tomados alguns cudados operaconas, tas como (Cordn, 1998): nstalação do nível a gual dstânca de ré e vante, para evtar erros de colmação e neutralzar a nfluênca da curvatura terrestre e da refração; lmtação do comprmento da lnha de vsada para redução dos efetos ambentas sobre as meddas; nvelamento e contra-nvelamento para evtar erros grosseros.

44 CAPÍTULO FUNDAMENTAÇÃO TEÓRICA 31 Fgura.13 Nvelamento Geométrco Fgura.14 Esquema de rede altmétrca No nvelamento geométrco, os efetos sstemátcos, que requerem cudados especas, são os seguntes (Bomford, 1983): Refração atmosférca: dentre todas as nfluêncas, é a que mas exge cudado. Resulta do efeto de curvatura da lnha de vsada, causado pela varação de densdade das camadas da atmosfera, que está dretamente lgado à mudança de temperatura do ar;

45 CAPÍTULO FUNDAMENTAÇÃO TEÓRICA 3 Colmação nadequada do nível: efeto da defasagem angular entre a lnha de vsada e a horzontal, assocada ao processo de materalzação da horzontaldade da lnha de vsada, surge com o uso contínuo do aparelho, evdencando mperfeções no processo de materalzação da lnha de vsada horzontal; Vertcaldade ncorreta da mra: efeto do deslocamento da mra em relação à dreção da vertcal em cada estação. Para mnmzar esse efeto, deve-se usar níves de bolha adaptados à mra e evtar trabalhos de campo em das de vento forte; Erro de graduação: trata-se do efeto devdo às ncertezas nas graduações da mra, podendo ser elmnado pela calbração; Maré terrestre: efeto do desvo da vertcal, causado pela componente horzontal do campo de maré gerado pela nteração gravtaconal da Terra com outros corpos celestes, prncpalmente sol e lua por estarem mas próxmos. Os desníves observados nas redes de nvelamento dependem do percurso segudo no nvelamento, ou seja, para cada camnho escolhdo, será obtdo um valor dferente para a alttude do ponto P (Fgura.15). Isso ocorre por causa da forma elpsodal e outras rregulardades menores na dstrbução de massa da Terra, tornando as superfíces eqüpotencas não paralelas, sgnfcando que o requsto básco para determnação unívoca da alttude não é cumprdo. Fgura.15 Superfíces eqüpotencas não paralelas A únca forma de tornar unívoca a determnação da alttude ortométrca, obtda pelo nvelamento geométrco, é ntroduzr uma correção que elmne o efeto do não paralelsmo

46 CAPÍTULO FUNDAMENTAÇÃO TEÓRICA 33 das superfíces eqüpotencas, denomnada correção ortométrca. A ntrodução dessa correção dá um sgnfcado físco às alttudes (Cordn, 1998). Na prátca, no entanto, só há soluções aproxmadas para esse problema. Em alguns países, nclusve no Brasl, a correção ortométrca, aplcada nas redes de nvelamento, elmna o efeto da varação da dstânca entre as geópes, conforme a varação de lattude. Ela ndepende de observações gravmétrcas e é aplcada dretamente no desnível bruto meddo, sendo ela dada por (Gemael, 00): 9 ( ϕ) δh = H m δϕ' sen (.66) onde δϕ ' é a varação em lattude da lnha de nvelamento, em mnutos de arco, ϕ é a lattude méda do trecho e H m é a alttude bruta méda do trecho, cuja expressão tem a forma: n 1 ( s s ) H 0s0 + H nsn 1 + H 1 + = 1 H m = (.67) n 1 s = 0 na qual s 0 é a dstânca do ponto ncal ao ponto da lnha e s 1, a dstânca entre o anteror e o ponto..3.3 Datum altmétrco O Datum altmétrco é uma superfíce de referênca, materalzada por uma ou mas estações maregráfcas, que possblta a obtenção de alttude ortométrca de um ponto qualquer na superfíce físca terrestre (Rapp & Balasubramana, 199). A determnação do NMM (Fgura.16), por meo de regstros maregráfcos, envolve dversos efetos sstemátcos. Tas, efetos separam o NMM do geóde, cuja esta separação é denomnada Topografa do Nível Médo dos Mares (TNMM). As prncpas causas desses efetos são: marés oceâncas, varações da pressão atmosférca, correntes marnhas, mudanças dos ventos, varações da densdade assocadas à temperatura, pressão e salndade, flutuações nas descargas dos ros, alterações nas feções batmétrca e fusão glacal, entre outras

47 CAPÍTULO FUNDAMENTAÇÃO TEÓRICA 34 (Vancek & Krakwsky, 1986). As varações peródcas do nível do mar, em grande parte, são elmnadas no processo de fltragem na determnação do NMM. No entanto, nfluêncas não peródcas, como algumas componentes de maré, efetos oceanográfcos e meteorológcos, afetam o valor médo (Escobar, 1991). Fgura.16 Esquema de um Datum altmétrco convenconal Datum altmétrco da RAFB A mplantação da RAFB ncou com adoção do Datum altmétrco de Torres, cujo NMM fo obtdo a partr das observações do nível do mar coletadas no período de um ano ( ). Em 1958, o Datum de Torres fo substtuído pelo Datum de Imbtuba, que nessa época já contava com um período de nove anos de observações ( ), sob cudados do Inter Amercam Geodetc Survey (IAGS), permtndo a redefnção de forma mas precsa do Datum altmétrco do Sstema Geodésco Braslero (SGB), como descreve Alencar (1990). A

48 CAPÍTULO FUNDAMENTAÇÃO TEÓRICA 35 conexão do nvelamento exstente fo realzada pela RN 4-X, que está dretamente vnculada ao NMM fornecdo pelo marégrafo de Imbtuba. A mplantação da RAFB possbltou a nterlgação do marégrafo de Imbtuba com outros nstalados no ltoral braslero, a fm de nvestgar a varabldade do NMM ao longo da regão costera (Alencar, 1990), como lustra a Fgura.17. Fgura.17 Dferenças entre os NMM locas e o Datum de Imbtuba (Alencar, 1990) Nas regões mas dstantes, como é o caso da costa norte, os erros propagados no nvelamento geométrco atngem valores elevados, em torno de 13 cm, como pode ser vsto na Fgura.18. Essa degradação da precsão decorre da defnção do Datum vertcal baseada em um únco ponto. Além dsso, como não é possível cruzar o ro Amazonas com nvelamento geométrco, a porção de rede localzada no Estado do Amapá está referda ao Datum local de Santana (Luz & Gumarães, 001). Com sso, houve a necessdade de nstalar e manter uma rede de estações maregráfcas permanente ao longo da costa braslera. Assm, o IBGE dealzou, em 1997 a Rede Maregráfca Permanente para Geodésa (RMPG), com estações nos seguntes locas: Imbtuba, Macaé, Salvador, Fortaleza e Santana (Fgura.18). Os objetvos da RMPG são os seguntes: montorar as dferenças entre o Datum de Imbtuba e os dversos níves de referênca, defndos ao longo do ltoral braslero, e acrescentar mas um camnho para a ntegração das modernas técncas da Geodésa Espacal ao SGB, servndo

49 CAPÍTULO FUNDAMENTAÇÃO TEÓRICA 36 também como nstrumento de transção para futuro Datum Vertcal do Sstema de Referênca Geocêntrco para as Amércas (DVSIRGAS) (Luz & Gumarães, 001; Luz et al., 00). Essas estações já foram ocupadas na Campanha GPS SIRGAS 000 e, em breve, a fazer parte também da Rede Braslera de Montoramento Contínuo (RBMC) (Luz & Gumarães, 003). Datum altmétrco SIRGAS Devdo ao sucesso alcançado pelo projeto SIRGAS, seus objetvos foram redefndos, vsando ncorporar a defnção do Datum vertcal para as Amércas, o DVSIRGAS. Em 1997, na Assembléa Centífca da IAG, foram dscutdos os desdobramentos do projeto com relação à componente altmétrca do sstema de referênca. Assm, fo crado o Grupo de Trabalho sobre Datum Vertcal (GT III). As prmeras recomendações do GT III apresentadas foram (Drewes et al., 00): O DVSIRGAS será defndo por dos tpos de alttudes: as geométrcas, referdas ao Datum SIRGAS, e as físcas, baseadas em números geopotencas; Realzação do sstema de referênca vertcal por um conjunto de estações com nvelamento geométrco, medções gravmétrcas e coordenadas geodéscas, referdas ao sstema SIRGAS, nclundo os marégrafos que defnem o Datum vertcal clássco em cada país; Organzação dos levantamentos de dados necessáros para o cálculo dos números geopotencas, sendo eles os elementos prncpas para a obtenção de alttudes físcas. O GT III recomendou aos países assocados ao SIRGAS que as alttudes vnculadas a este sstema sejam do tpo normal, sto é, obtdas por meo razão entre os números geopotencas e o valor teórco da gravdade (Luz et al., 004). O DVSIRGAS deverá unfcar e aprmorar os sstemas de alttudes sul-amercanos, ntegrando observações de nvelamento, gravdade e GPS, para defnr um conjunto de alttudes fscamente sgnfcantes e elmnando as dferenças entre as alttudes de cada Datum naconal nas áreas de frontera, otmzando a realzação de projetos conjuntos de mapeamento e engenhara.

50 CAPÍTULO FUNDAMENTAÇÃO TEÓRICA 37 Fgura.18 Propagação dos erros do nvelamento geométrco e as estações da Rede Maregráfca Permanente para Geodésa (IBGE, 005).4 O SISTEMA GPS O Global Postonng System (GPS) fo concebdo pelo US Department of Defense no

51 CAPÍTULO FUNDAMENTAÇÃO TEÓRICA 38 níco da década de l960, e tem como objetvo prncpal a navegação. Assm, o sstema fo projetado de forma que em qualquer lugar do mundo e a qualquer nstante haja pelo menos quatro satéltes GPS acma do horzonte no local usuáro. Essa confguração possblta a determnação da posção, velocdade e do tempo de qualquer ponto na superfíce da Terra ou em suas proxmdades, em um sstema de referênca aproprado (Leck, 1990). A medção do vetor-posção da antena ( r A ), que recebe o snal emtdo pelos satéltes (Fgura.19), consttu a fnaldade prncpal no sstema GPS (Seeber, 1993). Os fundamentos S báscos do GPS baseam-se na determnação da dstânca entre um ponto, o receptor ( r ) outros de referênca, os satéltes. Conhecendo as coordenadas do satélte em um sstema de referênca aproprado, ( r S ), é possível calcular as coordenadas da antena do receptor no mesmo sstema de referênca do satélte. Geometrcamente, sera necessáro determnar as dstâncas do receptor a apenas 3 satéltes, mas, na verdade, são necessáros, no mínmo 4 satéltes para determnar a posção corretamente, sto se deve ao não sncronsmo dos relógos do satélte e receptor, gerando um erro denomnado erro do relógo do receptor. Então, para sncronzar os relógos do satélte e receptor, uma nova ncógnta ( dt ) é adconada ao modelo S matemátco. A dstânca ( ) r é dada por: A A, a r S A = c e ( t + dt) ( t + dt ) r r + cdt cdt = 1/ [( x x ) + ( y y ) + ( z z ) ] + c(dt dt) S A S r = A S A S A (.68) onde os subscrtos A e S representam, respectvamente, a antena satélte; e r S A é a dstânca entre a antena do receptor e o osclador do satélte; c é a velocdade da luz; t r : nstante de recepção do snal; t e é o nstante de emssão do snal; dt o erro do relógo do receptor; dt o erro do relógo do satélte; x s a coordenada cartesana do satélte na abscssa, x a a coordenada cartesana do antena na abscssa; y s a coordenada cartesana do satélte na ordenada; y a a coordenada cartesana da antena na ordenada; z s a coordenada cartesana do satélte na altura, e z a a coordenada cartesana da antena na altura. Cada satélte transmte um snal que é recebdo pelo receptor; este, por sua vez, mede o tempo do percurso do snal codfcado. Multplcando o tempo meddo pela velocdade da luz, ou pela medção da fase da onda portadora, obtém-se a dstânca receptor-satélte. A

52 CAPÍTULO FUNDAMENTAÇÃO TEÓRICA 39 determnação do vetor-posção dos satéltes rastreados no nstante t requer o conhecmento da dnâmca dos satéltes contdos nas efemérdes transmtdas, emtdas nos snas dos satéltes (Seeber, 1993). O sstema GPS permte que um usuáro, em qualquer local da superfíce terrestre, tenha no mínmo quatro satéltes vsíves para serem rastreados em tempo real. Uma das grandes vantagens oferecdas pela tecnologa GPS é o fato de não haver necessdade da ntervsbldade entre as estações sob quasquer condções clmátcas (Monco, 000). Fgura.19 Prncípo básco do posconamento por GPS.4.1 Segmentos do GPS Para atngr seus objetvos, o sstema GPS fo estruturado em 3 segmentos (Fgura.0): o segmento espacal, composto pelos satéltes que emtam os snas; o segmento de

53 CAPÍTULO FUNDAMENTAÇÃO TEÓRICA 40 controle, composto pelas estações de rastreamento terrestres, e o segmento do usuáro, que utlza o sstema GPS em dversas aplcações (Hofmann Wellenhof et al., 1994). a) Segmento espacal O segmento espacal consste em uma constelação de 4 satéltes, orbtando a uma alttude aproxmada de km, dstrbuídos em 6 planos orbtas; cada órbta com nclnação de 55 em relação ao plano equatoral terrestre e cada satélte com um período de revolução de 1 horas sderas. O objetvo do segmento espacal é gerar e transmtr os snas GPS, que são dervados da freqüênca fundamental f 0 = 10,3 Mhz, da segunte forma: Ondas portadoras: L1 154 f 0 = 1575,4 Mhz ( 19,0 cm) = λ (.69) ( 4,4 cm) L = 10 f 0 = 17,60 Mhz λ (.70) onde λ é o comprmento da onda. A portadora L1 contém dos códgos modulados, o códgo C/A (Coarse/Acquston) e o códgo P (Precse/Protected); a portadora L, apenas o códgo P. As portadoras são moduladas com uma mensagem de navegação contendo nformações sobre as condções operaconas e posção dos satéltes (efemérdes transmtdas). b) Segmento de controle O segmento de controle é consttuído por 5 estações de montoração, 3 estações de controle, e a estação prncpal (Monco, 000). Além de ser responsável pela operação do sstema GPS, esse segmento tem como fnaldade básca atualzar a mensagem de navegação transmtda pelos satéltes. Na estação prncpal são processados os dados, transmtdos pelas estações de montoração, para determnar as efemérdes e as correções com os relógos dos satéltes. Os resultados são transferdos para as estações de controle para njeção dos dados dos satéltes.

54 CAPÍTULO FUNDAMENTAÇÃO TEÓRICA 41 O posconamento de alta precsão requer efemérdes mas precsas do que as transmtdas pelos satéltes, o que tem levado dversos grupos a desenvolver pesqusas na determnação de órbtas a partr de redes globas como a Internatonal GNSS Servce (IGS). Os resultados são dvulgados pela nternet cerca de 10 das após a coleta dos dados. Fgura.0 Segmentos do sstema GPS c) Segmento do usuáro Este segmento envolve tudo o que relacona com o usuáro, vsando o posconamento e determnação de velocdade ou tempo. São os receptores, algortmos, software para processamento, metodologas e técncas de levantamentos, entre outros. Os receptores são consttuídos bascamente de uma antena, um pré-amplfcador e uma undade onde estão ntegrados todos os elementos eletrôncos necessáros ao controle, regstro e vsualzação dos

55 CAPÍTULO FUNDAMENTAÇÃO TEÓRICA 4 dados..4. Observações GPS As observações báscas transmtdas pelos satéltes do sstema GPS que permtem determnar posção, velocdade e tempo são: a pseudodstânca obtda a partr do códgo e a fase da onda portadora (Mônco, 000). A pseudodstânca corresponde à dstânca entre antena do satélte e a antena do receptor GPS, no nstante da recepção do snal. Ela é obtda a partr da velocdade da luz, multplcada pelo ntervalo do tempo decorrdo no deslocamento do snal. É denomnada pseudodstânca em razão do não sncronsmo entre os relógos do satélte e do receptor. A medção de tempo é realzada utlzando os códgos P e/ou C/A. Para determnar o ntervalo de tempo, o receptor gera uma réplca do códgo e o compara com o códgo recebdo, usando a técnca de correlação cruzada (Seeber, 1993). A medda da fase da onda portadora é realzada a partr da dferença entre a fase gerada pelo satélte, no nstante da transmssão do snal, e sua réplca gerada pelo receptor, no nstante de recepção de snal. O comprmento de onda da portadora é muto mas curto que o comprmento do códgo, daí sua medda permtr atngr um nível de precsão superor ao da pseudodstânca. No entanto, exste o problema do desconhecmento da ambgüdade de cclo, ou seja, o número total de cclos completos decorrdos desde que o snal dexou o satélte até o nstante da sntona. Há uma ambgüdade de cclo para cada par receptor-satélte desde que não haja perda momentânea de snal, nesse caso, uma nova ambgüdade é adconada (Segantne, 1995)..4.3 Fontes de erros do sstema GPS Atualmente, o GPS é um dos sstemas mas confáves para a realzação do posconamento espacal. Contudo, suas observações contêm os nvtáves erros observaconas, cujo tratamento é mportante para obtenção de resultados precsos. O posconamento por GPS está sujeto a erros relaconados com os satéltes, a propagação do snal, o receptor/antena, a estação e a geometra nadequada dos satéltes. Na Tabela., é apresentada uma subdvsão das fontes de erros e seus efetos, outras podem ser podem encontradas em Monco (000) e Seeber (1993).

56 CAPÍTULO FUNDAMENTAÇÃO TEÓRICA 43 Tabela. - Erros envolvdos nas observações GPS (Monco, 000) Fonte Satélte Propagação do Snal Receptor/Antena Estação Erro Erro da órbta Erro do relógo Relatvdade Atraso entre as duas portadoras no hardware satélte Refração troposférca Refração onosférca Perdas de cclos Multcamnho Rotação da Terra Erro do relógo Erro entre os canas Centro de fase da antena Erro nas coordenadas Multcamnho Marés terrestres Movmento do pólo Carga dos oceanos Pressão da atmosfera a) Geometra dos satéltes A dstrbução espacal dos satéltes, no nstante das observações, tem muta nfluênca na qualdade e na propagação dos erros. Dependendo do momento da observação, a geometra dos satéltes pode não ser adequada para a realzação do posconamento. Quanto mas esparsos os satéltes estverem no céu, mas adequada é a geometra dos satéltes e melhor a precsão das observações. Assm, se um receptor GPS estver recebendo snas de 4 satéltes posconados na mesma regão do céu, sua geometra é nadequada para o posconamento (Fgura.1).

57 CAPÍTULO FUNDAMENTAÇÃO TEÓRICA 44 a) geometra nadequada b) geometra adequada Fgura.1 Geometra espacal dos satéltes O sstema GPS não consegue evtar o efeto da mprecsão causada pela geometra nadequada dos satéltes; no entanto, há técncas dsponíves que conseguem reduzr esse efeto. Para sso, é necessáro fazer um planejamento para observações e realzá-las nos horáros em que o dluton of precson (DOP ) estver baxo. O fator DOP é um escalar que descreve o efeto da dstrbução geométrca dos satéltes na precsão obtda no posconamento. Os prncpas tpos de DOP são: HDOP - efeto da posção espacal dos satéltes nas coordenadas geográfcas; VDOP - efeto da posção espacal na determnação da alttude; PDOP - efeto da posção espacal no posconamento trdmensonal, e o TDOP - efeto na determnação do tempo (Seeber, 1993). O PDOP pode ser nterpretado geometrcamente como o nverso do volume V de um tetraedro formado pelas posções da antena do receptor e dos satéltes ( PDOP 1/V ) =. A melhor confguração geométrca ocorre quando o volume é maxmzado, mplcando em um PDOP mínmo, ou seja, quanto menor o PDOP, melhor a geometra dos satéltes. b) Efetos atmosfércos Os snas emtdos pelos satéltes propagam-se através da atmosfera terrestre, dvdda em troposfera e onosfera, cada uma com característcas dferentes. Assm, os snas transmtdos pelos satéltes sofrem nfluencas que produzem varações na dreção e velocdade de propagação, polarzação e potênca do snal (Seeber, 1993). A onosfera é caracterzada pela presença de elétrons lvres, e está localzada entre 50

58 CAPÍTULO FUNDAMENTAÇÃO TEÓRICA 45 a 1000 km acma da superfíce terrestre. Quando as ondas encontram elétrons lvres na atmosfera terrestre, há um atraso na modulação da portadora, conhecdo como atraso da onosfera. Esse fenômeno aparentemente aumenta o camnho percorrdo pelo snal emtdo (Segantne, 1995). A troposfera localza-se entre a superfíce terrestre e a onosfera. Nessa regão, ocorre refração dos snas emtdos pelos satéltes, ocasonando um atraso em sua propagação. Esse atraso depende da temperatura, umdade e pressão, que varam com a alttude do local (Segantne, 1995). Os efetos da refração onosférca podem ser mnmzados ou elmnados quando se dspõem das observações das portadoras L1 e L que é conhecda como on-free ( onospherc free observaton ) ou portadora L3 (Monco, 000). A utlzação de receptores de smples freqüênca em bases longas condcona o usuáro a neglgencar esses efetos, devendo recorrer ao uso de um modelo da onosfera. Entretanto, no posconamento relatvo, usando receptores de smples freqüênca e dstâncas curtas entre as estações (10 a 0 km), os erros devdos ao efeto da onosfera são pratcamente elmnados, pos são altamente correlaconados nas duas estações. c) Multcamnho O erro causado pelo multcamnho (Fgura.) ocorre quando há um desvo do snal, ao atngr um corpo qualquer e sofre reflexão antes de chegar à antena do receptor. É causado por superfíces próxmas às estações, prncpalmente vegetação e edfcações..4.4 Métodos de posconamentos por GPS O posconamento consste em determnar a posção de pontos por meo de coordenadas assocadas a um referencal adotado (Mônco, 000). Conforme o referencal e a estratéga usada, o posconamento por GPS pode ser classfcado como absoluto ou relatvo.

59 CAPÍTULO FUNDAMENTAÇÃO TEÓRICA 46 Fgura. Multcamnho O posconamento absoluto (Fgura.3) basea-se nas efemérdes transmtdas e o ponto é determnado em relação a um sstema de referênca geocêntrco, geralmente o WGS 84, utlzando apenas um receptor (Monco, 000; Leck, 1995). Para sua realzação é utlzada a pseudodstânca, dervada do códgo C/A presente na portadora L1, e apresenta acuráca de cerca de 15 m, sendo utlzado em navegação de baxa precsão e em levantamentos expedtos (Santos, 005). O posconamento relatvo (Fgura.4), caracterza-se pelas observações smultâneas dos mesmos satéltes, em ou mas estações, entre as quas pelo menos uma deve ter coordenadas conhecdas. Um receptor é nstalado na estação de referênca ( A ) e outro no ponto a ser posconado ( P ). As observações são pós-processadas com o objetvo de determnar as componentes ( x, y, z ) do vetor posção desse ponto em relação à estação de referênca (Leck, 1995). Após o processamento as componentes são somadas as coordenadas da estação de referênca e, assm, obtém-se as coordenadas do ponto desejado.

60 CAPÍTULO FUNDAMENTAÇÃO TEÓRICA 47 Fgura.3 Prncípo do posconamento absoluto O posconamento relatvo tem maor acuráca que o absoluto por reduzr os efetos de erros sstemátcos. Em levantamento geodésco de alta precsão é utlzado o posconamento relatvo com observações da fase da onda portadora, por ser mas precsa do que a pseudodstânca. Atualmente, com a mplantação das redes atvas, como a RBMC, essa técnca pode ser usada mesmo quando o usuáro possur apenas um receptor, pos os dados coletados pelas estações dessas redes podem ser usadas no processamento. O posconamento relatvo pode ser dvddo em estátco (estátco rápdo e estátco convenconal) e cnemátco (sem-cnemátco e cnemátco), os quas dferem prncpalmente quanto à duração da sessão, deslocamento da antena durante o rastreo e a forma de resolução das ambgüdades. Se envolver dos receptores é denomnado posconamento com base smples; se envolver três ou mas receptores, posconamento com mult-estações (Rodrgues, 00). Este, apresenta vantagem no ajustamento por proporconar maor número de observações. O posconamento relatvo estátco é usado em levantamentos que requeram alta precsão, como a rede GPS, cujos dados foram usados neste trabalho.

61 CAPÍTULO FUNDAMENTAÇÃO TEÓRICA 48 Fgura.4 Prncípo do posconamento relatvo.4.5 Altmetra por GPS Apesar dos avanços centífcos e tecnológcos, o nvelamento clássco atravessou o últmo século sem ser substtuído ou modfcado. No entanto, com uso do GPS combnado com modelos geodas, é possível substtur o nvelamento tradconal pelo método espacal, com os benefícos de smplcdade operaconal, de rapdez e de baxo custo oferecdos pelo GPS (Fotopoulos, 003). A determnação da alttude ortométrca por GPS, dependendo dos elementos envolvdos, pode ser no modo absoluto ou relatvo. No modo absoluto, a alttude ortométrca é determnada a partr da alttude geométrca ( h) e da altura geodal ( ) consderado (Fgura.5): N do ponto H h N (.71) cujo erro padrão é expresso com a propagação das varâncas dos dados envolvdos.

62 CAPÍTULO FUNDAMENTAÇÃO TEÓRICA 49 σ = ± σ + σ (.7) H h N onde σ h e σ N são as varâncas da alttude geométrca e da altura geodal, respectvamente. Fgura.5 Altmetra por GPS no modo absoluto A determnação da alttude ortométrca no modo relatvo envolve dferenças da alttude geométrca e da altura geodal (Fgura.6): H = (.73) H j + Hj = H j + hj Nj com o erro padrão expresso a partr das varâncas: H H j h j N σ = ± σ + σ + σ (.74) j As varâncas σ, H j σ e h j σ serão melhor descrtas na seção N j

63 CAPÍTULO FUNDAMENTAÇÃO TEÓRICA 50 Fgura.6 Altmetra por GPS no modo relatvo A altmetra por GPS, sobretudo no modo relatvo, tem sdo tópco de estudos em város centros de pesqusa (Sders et al., 199; Ollkanen, 1997; Erol & Çelk, 004; Roman, 004). A prncpal dfculdade para explorar tal metodologa é a baxa precsão dos modelos geodas em algumas regões, pos os erros da alttude geométrca e da altura geodal propagam-se na alttude ortométrca obtda. Na prátca, a relação dada por (.79), nunca é satsfeta em conseqüênca dos erros, dstorções sstemátcas e nconsstêncas nos dados de H, h e N (Jan & Duquenne, 1996; Ollkanen, 1997; Fotopoulos et al., 001). Assm, um tratamento mas rgoroso para a ntegração desses tpos de dados requer um modelo paramétrco de correção. O papel desse modelo é absorver as nconsstêncas de Data e dstorções sstemátcas exstentes nos dados (Fotopoulos, 003), como será vsto na Seção 5.3.

64 CAPÍTULO 3 DESCRIÇÃO DOS DADOS 51 3 DESCRIÇÃO DOS DADOS A determnação da alttude ortométrca é mprescndível em váras atvdades cotdanas. Porém, mesmo segundo os padrões de controle recomendados para o nvelamento de alta precsão, as dstorções são nevtáves, o que torna necessáro métodos e estratégas de avalação. Os dados envolvdos na avalação da RAFB no Sul/Sudeste do Brasl, proposta neste trabalho, são agrupados em três classes: 1) As RNs da RAFB exstentes nessa regão; ) Redes GPS de referênca, e 3) Geóde gravmétrco da regão. Os dados e sua dstrbução geográfca são descrtos a segur. 3.1 REFERÊNCIAS DE NÍVEL As RNs da RAFB, localzadas na regão Sul/Sudeste do Brasl, resultaram de levantamentos de apoo geodésco realzados pelo IBGE, desde a década de 40, e pelo Insttuto Geográfco e Geológco do Estado de São Paulo (IGGSP), entre 1945 e 1961 (IGG, 196). Essas RNs foram mplantadas ao longo das prncpas rodovas de modo a proporconar uma dstrbução geográfca adequada para mapeamento e trabalhos de Topografa, necessáros para a urbanzação das cdades e para a pavmentação de estradas. A Fgura 3.1 lustra a dstrbução geográfca das RNs mplantadas pelo IBGE e IGGSP na regão Sul/Sudeste do Brasl.. As alttudes foram calculadas a partr de desníves obtdos pelo nvelamento geométrco clássco, realzado com níves geodéscos de alta precsão e mras de ínvar, com tolerâncas de ± 4mm K, até o ano de 1983, e ± 3mm K, de 1983 até hoje. Para o ajustamento dos desníves, não foram usadas observações gravmétrcas, mas, sm, fo realzada apenas a correção do não-paralelsmo das superfíces equpotencas (Luz et al., 00). As RNs mplantadas pelo IBGE e pelo IGGSP foram materalzadas com retículo gravado em chapas metálcas ncrustadas em marcos ou estruturas de concreto, como monumentos, soleras de grejas, plataformas de estações ferrováras, pontes, etc. A Fgura 3. mostra, para exemplfcar, um marco de RN do IBGE.

65 CAPÍTULO 3 DESCRIÇÃO DOS DADOS 5 Fgura 3.1 Rede altmétrca na regão Sul/Sudeste do Brasl Fgura 3. Marco de uma Referênca de Nível do IBGE

66 CAPÍTULO 3 DESCRIÇÃO DOS DADOS REDES GPS DE REFERÊNCIA Neste trabalho, foram usados os dados de duas redes GPS de referênca: a Rede Braslera de Montoramento Contínuo (RBMC) e a Rede GPS do Sul/Sudeste do Brasl (RGSB) Rede Braslera de Montoramento Contínuo A RBMC tem por objetvo fornecer a nfra-estrutura geodésca de referênca para posconamento, utlzando modernas técncas apoadas no GPS para facltar o emprego do sstema GPS, pelo usuáro, e garantr alta qualdade dos resultados obtdos. A RBMC é consttuída atualmente de 0 estações operaconas, dstrbuídas pelo terrtóro braslero (Fgura 3.3). Dessas, duas ntegram a rede Internatonal GPS Servce (IGS): Brasíla (BRAZ) e Fortaleza (FORT), (IBGE, 004). A RBMC, além de fornecer coordenadas precsas das estações, coleta observações dos satéltes GPS contnuamente nas duas freqüêncas (L1 e L) e dsponblza-as de 4 horas até alguns das após a coleta (Perera et al., 003). Isso possblta a qualquer usuáro, com apenas um receptor, realzar o posconamento relatvo. Os arquvos das sessões de observações de cada estação da RBMC, com duração de 4 horas, estão dsponíves no formato RINEX (Recever Independent data Exchange format), va nternet, na págna do IBGE. Os arquvos RINEX possuem formato padrão, podendo ser utlzados por qualquer programa de processamento GPS. 3.. Rede GPS do Sul/Sudeste do Brasl A RGSB é uma rede GPS passva, consttuída de aproxmadamente 40 estações dstrbuídas nos Estados de São Paulo, Paraná, Santa Catarna e regões adjacentes (Fgura 3.4). As estações dessa rede GPS foram mplantadas sobre RNs pertencentes à RAFB, possundo coordenadas geodéscas (, λ,h) ϕ e alttude ortométrca ( H ). A dstânca máxma entre as estações que consttuem a RGSB é da ordem de 60 km, o que mplca em bases máxmas de 30 km para o posconamento relatvo por GPS, em qualquer ponto de abrangênca da rede (Sá et al., 001).

67 CAPÍTULO 3 DESCRIÇÃO DOS DADOS 54 Fgura 3.3 Rede Braslera de Montoramento Contínuo RBMC (IBGE, 005) Os objetvos prncpas da RGSB são o aprmoramento do geóde gravmétrco e o apoo básco local em termos de coordenadas geodéscas, alttude ortométrca e altura geodal obtda por GPS. Trabalhos recentes sobre aprmoramento do geóde do Estado de São Paulo (Sá et al., 00; Souza, 00), mostram dscrepâncas entre as alturas geodas fornecdas pelo geóde gravmétrco ( ) g N e as obtdas por GPS/Nvelamento ( N ) GPS, os quas, provavelmente, são causadas por dstorções na RAFB. A RGSB permtrá a avalação das dstorções da RAFB nos Estados de São Paulo, Paraná e Santa Catarna.

68 CAPÍTULO 3 DESCRIÇÃO DOS DADOS 55 Fgura 3.4 Rede GPS no Sul/Sudeste do Brasl a) Coleta de dados GPS sobre RNs Na mplantação da RGSP o posconamento relatvo estátco fo realzado usando-se o receptor ASHTECH Z1, modelo Z1, com antena ASH700718A (Fgura 3.5), nstalada com auxílo de trpé sobre a RN de nteresse. As estações da RBMC, equpadas com receptores TRIMBLE, modelo 4000SSI e antena DORNE MARGOLIN T (Fgura 3.6), das cdades de Brasíla, Curtba, Porto Alegre, Presdente Prudente, Ro de Janero e Vçosa foram usadas como referênca. Os dados da RGSB foram coletados com sessões de 3 a 6 horas, com ntervalo de amostragem de 15 segundos e ângulo de elevação mínma de 10. As alttudes ortométrcas das RNs excêntrcas foram determnadas por nvelamento geométrco, usando-se o nível automátco, modelo NI0, de fabrcação Wld, e mras convenconas com resolução nomnal de 0,5 cm. A dscrepânca máxma entre os desníves, obtdos no contra nvelamento, fo de 1 mm, o que corresponde ao erro máxmo para uma dstânca de 100 m, pelo crtéro das normas de especfcações de medções geodéscas (Sá et al., 00).

69 CAPÍTULO 3 DESCRIÇÃO DOS DADOS 56 Fgura 3.5 Receptor, ASHTECH Z1 e antena ASHTECH ASH700718A a) Antena DORNE MARGOLIN T b) Receptor GPS TRIMBLE 4000SSI Fgura 3.6 Receptor e antena utlzados nas estações da RBMC

70 CAPÍTULO 3 DESCRIÇÃO DOS DADOS 57 b) Processamento e ajustamento de dados GPS O processamento e ajustamento da RGSP foram realzados com o auxílo do programa GeoGenus, versão.11, desenvolvda pela Spectra Precson. No GeoGenus, o processamento correspondente ao modo estátco com as observações da fase da portadora, envolvendo três etapas: a trpla dferença de fase e fxação de perda de cclos; a dupla dferença de fase com ambgüdade flutuante, e a dupla dferença de fase com ambgüdade soluconada. O GeoGenus possu um módulo para o ajustamento smultâneo dos dados, utlzando a dupla dferença de fase. Os dados de entrada (observações) são as componentes x, y e z, obtdas no processamento das bases e as respectvas matrzes varânca-covarânca (MVC). Os parâmetros (desconhecdos) são as coordenadas cartesanas dos pontos observados (SP, 000). Os dados coletados nas campanhas GPS foram processados e ajustados, utlzando-se os parâmetros referentes ao SIRGAS000, para o estabelecmento de uma estrutura geodésca moderna. c) Determnação da altura geodal O posconamento por GPS fornece a alttude geométrca ( h ), que é uma grandeza geométrca; o nvelamento geométrco convenconal proporcona a alttude ortométrca ( H ). Portanto, a altura geodal pode ser determnada faclmente pela smples dferença entre as alttudes geométrca e ortométrca, às vezes denomnada altura geodal geométrca: ( ) H N h H (3.1) A propagação das varâncas da alttude geométrca ( ) σ fornece dretamente o erro padrão ( ) dado por: N GPS σ e da alttude ortométrca h σ da altura geodal calculada por (3.1), que é N GPS h H σ = ± σ + σ (3.)

71 CAPÍTULO 3 DESCRIÇÃO DOS DADOS 58 Para comparação com o geóde gravmétrco e dentfcação de eventuas erros grosseros, um modelo geodal fo gerado a partr dos dados de GPS/nvelamento, utlzando o programa de computador Surfer 7.0. Um modelo dgtal das alturas geodas, com ntervalo de 15 de arco em lattude e longtude, fo obtdo pelo algortmo e para a nterpolação fo usado o método de Krge. A Fgura 3.7 lustra a representação gráfca do modelo geodal obtdo. Fgura 3.7 Geóde GPS/Nvelamento da regão (Undade: m) 3.3 GEÓIDE GRAVIMÉTRICO O geóde gravmétrco exstente na regão de estudo fo determnado a partr de dados do modelo geopotencal EGM96, dados gravmétrcos terrestres e oceâncos, além dos dados topográfcos dgtas (Sá, 004), por meo da Colocação por Mínmos Quadrados (CMQ). Esse modelo geodal gravmétrco, com resolução espacal de 5 de arco de lattude e longtude, é mostrado na Fgura 3.8. Alturas geodas foram calculadas com o auxílo do programa GEOCOM, desenvolvdo para uso de modelos dgtas (Sá et al., 001). Nesse programa, as alturas geodas podem ser calculadas de manera absoluta ou relatva. Na prmera, o valor de N é

72 CAPÍTULO 3 DESCRIÇÃO DOS DADOS 59 calculado dretamente do modelo, a partr das coordenadas geodéscas do ponto de nteresse. Na segunda, o programa calcula a dferença de alturas geodas entre dos pontos de coordenadas geodéscas conhecdas. Fgura 3.8 Geóde gravmétrco da regão (Undade: m)

73 CAPÍTULO 4 METODOLOGIA 60 4 METODOLOGIA Neste capítulo, são apresentados os prncpas aspectos metodológcos envolvdos no processo de avalação das dstorções da RAFB, usando-se a RGSB e o geóde gravmétrco. A metodologa empregada envolveu as seguntes etapas: 1) remoção de erros grosseros; ) compatblzação de geódes, e 3) avalação de dstorções. 4.1 REMOÇÃO DE ERROS GROSSEIROS A combnação da alttude geométrca ( h ), determnada por GPS, com a alttude ortométrca ( ) N, H, obtda no nvelamento geométrco, e a altura geodal gravmétrca ( ) fornecda por um modelo geodal gravmétrco, tem sdo a chave de váras aplcações na Geodésa. Embora esses três tpos de nformações sejam dferentes em termos físcos, de superfíce de referênca, de métodos observaconas e acuráca, elas satsfazem a smples relação geométrca (Kotsaks & Sders, 1999): g ( h H ) N = N N 0 (4.1) g GPS g = onde N GPS é a altura geodal obtda pelo posconamento GPS em pontos com alttudes ortométrcas conhecdas e N g é a altura geodal, obtda pelo geóde gravmétrco. Porém, devdo a uma sére de nconsstêncas, tas como ruído aleatóro nos valores de h, H, N, nconsstêncas nos Data, dstorções sstemátcas, erros grosseros, efetos geodnâmcos, entre outros já descrtos no Capítulo, o fechamento da expressão (4.1) não ocorre. Esse erro de fechamento é também conhecdo como componente sstemátca do geóde, dada por: N = N GPS N g (4.) que pode caracterzar dstorções na rede altmétrca. Portanto, a componente sstemátca será a chave para a avalação de dstorções da rede altmétrca em estudo.

74 CAPÍTULO 4 METODOLOGIA 61 Antes de efetuar a avalação da rede altmétrca, deve-se realzar uma análse dos dados utlzados. Dessa forma, esta seção fo dvdda em duas partes: a prmera trata da avalação dos dados envolvdos, a segunda apresenta a estratéga utlzada na avalação da rede altmétrca Remoção de erros grosseros dos dados Para efetuar a avalação da rede altmétrca, é necessára uma avalação dos dados a serem utlzados, com o objetvo de detectar e elmnar erros grosseros, que possam afetar a análse e nterpretação dos resultados. Na análse de dados utlzam-se duas abordagens: a) as estmatvas, com as quas os dados são assocados a ntervalos de confança, b) os testes de hpóteses, com os quas os resultados são apresentados como valores de probabldade por meo de testes estatístcos. Nesta seção, será apresentada a metodologa utlzada na detecção de erros grosseros nos dados. Amostragem A comparação dos valores N GPS e N g, em um conjunto de pontos, fornece um conjunto de resíduos N, dado por: { N, N,..., } N = 1 N n (4.3) ao qual se assoca o conjunto de erros padrões correspondentes: { σ σ σ } N N, N,..., = (4.4) σ 1 N n A função densdade de probabldade que se postula para a amostra é a dstrbução normal N ( σ ) µ N, N, sendo µ N a méda e σ N a varânca da amostra. Os parâmetros amostras são calculados para testar a valdade estatístca desse postulado (Vancek & Krakwsky, 1986). A méda é dada pela expressão:

75 CAPÍTULO 4 METODOLOGIA 6 n 1 N = N (4.5) n = 1 onde n é o número de elementos da amostra. A partr da méda, calcula-se a varânca ( 1) ( N N ) n 1 σ = (4.6) N n = 1 A função normal tem representação gráfca em forma de sno (Fgura 4.1). A área sob a curva normal, na verdade abaxo de qualquer função de densdade de probabldade, é 1. Então, para quasquer valores específcos, pode-se determnar a proporção da área sob a curva entre esses dos valores (Morrson, 1976). Fgura 4.1 Função densdade de probabldade normal com méda µ e varânca σ Para a dstrbução normal, a probabldade de os valores caírem dentro de um, dos, ou três desvos padrões da méda são respectvamente 0,683, 0,954 e 0,9973, como lustra a Fgura 4.1. Essa dstrbução é a comumente utlzada em estatístca, pos nessa forma de

76 CAPÍTULO 4 METODOLOGIA 63 dstrbução de freqüêncas há um grande número de varáves aleatóras. Testes estatístcos Os testes estatístcos permtem verfcar se: a função densdade de probabldade postulada para a amostra é adequada, os parâmetros populaconas estmados são confáves, e os valores obtdos são consstentes com os conhecdos a pror. Portanto, a análse estatístca dos resíduos permte testar se a componente sstemátca é estatstcamente sgnfcatva (Sá, 1988). O aparecmento de resíduos anômalos, sto é, muto dscrepantes em relação aos demas, pode ndcar a exstênca de erros grosseros na altura geodal obtda pela combnação do GPS com o nvelamento ótco ( N GPS ) e, conseqüentemente, na alttude ortométrca nessas estações. a) Teste para rejeção de resíduos anômalos Para dentfcar e exclur eventuas erros grosseros nas RNs, fo aplcado o teste t (Student), que examna os elementos amostras para dentfcar aqueles que são estatstcamente ncompatíves com os demas. O teste supõe normaldade e ndependênca das observações, sto é, os dados devem ser normalmente dstrbuídos, sgnfcando que seguem uma dstrbução normal, e os valores são concentrados smetrcamente em torno da méda (Wetherll, 1967). Nesse caso, as hpóteses: H H 0 1 : N : N N N { µ, σ } N N { µ, σ } N N (4.7) Calcula-se a estatístca amostral, t, e verfca-se se o valor encontrado está no ntervalo de acetação da hpótese nula:

77 CAPÍTULO 4 METODOLOGIA 64 N N t = (4.8) σ / n N no nível de sgnfcânca α. O ntervalo de confança é expresso por: σ σ N t (4.9) N N t α < N < N n n α 1 onde N é a componente sstemátca do geóde na RN analsada. Se a estatístca t for satsfeta, aceta-se a hpótese nula, o que sgnfca que, no dado testado, não há erro grossero. b) Teste de curtose e assmetra A curtose é a medda do grau de achatamento da dstrbução normal em relação à dstrbução normal que reflete a dspersão dos valores em torno da méda. O coefcente é calculado a partr do quarto momento em torno da méda (Chssom, 1970): m4 α = 3 (4.10) m 4 com: m k n N = =1 n N k (4.11) Para a dstrbução normal será denomnada mesocúrtca se α 4 = 0 ; leptocúrtca, se α 4 > 0, e platcúrtca, se α 4 < 0, como lustra a Fgura 4..

78 CAPÍTULO 4 METODOLOGIA 65 Fgura 4. Dstrbução dos dados quanto à curtose Outro aspecto mportante sobre a dstrbução normal é a assmetra em relação à méda, expressa pelo coefcente (Joanes & Gll, 1998): m3 α 3 = (4.1) m 3 onde m e m3 são os momentos de ordem e 3, respectvamente, centrados para a méda. A nterpretação do coefcente de assmetra é a segunte: α 3 < 0 dstrbução assmétrca à esquerda; α 3 = 0 dstrbução smétrca; α 3 > 0dstrbução assmétrca à dreta. 4. MODELAGEM DA COMPONENTE SISTEMÁTICA Para modelar a componente sstemátca e adconá-la ao geóde gravmétrco, tornando-o compatível com aquele obtdo por GPS, são usados modelos matemátcos do tpo (Vergos & Sders, 00; Manvlle et al., 1997) T + h H N = a x v (4.13)

79 CAPÍTULO 4 METODOLOGIA 66 onde x é o vetor ( n 1) dos parâmetros a serem determnados, a é o vetor ( 1) coefcentes conhecdos e v é o vetor dos resíduos. O termo paramétrco ( x) a T n dos, descreve nconsstêncas entre os dferentes Data, erros das coordenadas RNs e outros efetos sstemátcos exstentes nos dados. Nesta Seção serão descrtos os modelos matemátcos e o Método dos Mínmos Quadrados (MMQ), usados na determnação dos parâmetros para representação da componente sstemátca Modelo matemátco do método paramétrco Quando os valores observados ajustados podem ser expressos explctamente como uma função dos parâmetros ajustados, sto é, quando o modelo matemátco tem a forma (Gemael, 00): L ( ) = F (4.14) a X a o ajustamento se processa pelo método paramétrco, sendo: L = L V (4.15) a b + onde L é o vetor ( 1) a n das observações ajustadas; a X é o vetor ( 1) m dos parâmetros ajustados; F ( X a ) são equações do modelo matemátco calculadas com parâmetros ajustados; L b é o vetor ( n 1) das observações brutas, e V é o vetor ( 1) que transformam as observações brutas ( L b ) em observações ajustadas ( a ) n dos resíduos (ou correções) No modelo matemátco do método paramétrco, os parâmetros que compõem o vetor dos parâmetros ajustados é expresso pela combnação L. = X X (4.16) X a 0 +

80 CAPÍTULO 4 METODOLOGIA 67 sendo 0 X o vetor ( 1) m dos parâmetros aproxmados. Substtundo-se as expressões (4.15) e (4.16) na expressão (4.14) e usando a aproxmação lnear da fórmula de Taylor, tem-se: L b + V = F(X 0 + X) = F(X 0 F ) + X a X a = X 0 X (4.17) Desgnando a função dos parâmetros aproxmados por: L ( ) = F (4.18) 0 X 0 e representando as dervadas parcas das equações em relação aos parâmetros, por: F A = (4.19) X a X a = X 0 resulta: + V = L AX (4.0) Lb 0 + ou: V = AX + L - (4.1) 0 L b Fazendo: L = L 0 L b (4.)

81 CAPÍTULO 4 METODOLOGIA 68 resulta o modelo matemátco do método paramétrco: = (4.3) n V 1 n Am m X1 + n L1 que representa um sstema de n equações lneares e m parâmetros. O número de ncógntas ( n + m) é maor que o número de equações ( n ). Aplcando-se o prncípo do MMQ: φ =V T PV = mínmo (4.4) sendo: 0 1 P = σ (4.5) L b onde σ 0 é um escalar conhecdo como fator de varânca a pror e 1 L b é a matrz varânca-covarânca (MVC) das observações, sto é, estmatva da precsão destas. Substtundo a expressão (4.3) na (4.4), fazendo algumas manpulações algébrcas e gualando a zero a prmera derva em relação a X, tem-se: X T 1 T ( A PA ) ( A PL ) = (4.6) ou: X 1 ( N ) ( U ) = (4.7) A MVC dos parâmetros ajustados é obtda, aplcando-se a le de propagação de varâncas na expressão (4.6), resultando em (Gemael, 00):

82 CAPÍTULO 4 METODOLOGIA 69 1 T 1 1 = σ X 0 N A PP PAN (4.8) a Para obter-se a MVC das observações ajustadas, é necessáro aplcar a le de propagação de varâncas na expressão (4.14), a qual resulta em: L a 1 T 0 AN A = σ (4.9) 4.. Tpos de modelos A escolha da forma paramétrca para modelar a correção não é trval. Em prncípo, a seleção do modelo é arbtrára, a menos que algum sgnfcado físco possa ser atrbuído às dferenças entre N GPS e N g (Fotopoulos, 003): a T x = N N (4.30) GPS g No passado, eram usados modelos lneares smples os quas, em város casos, satsfazam as exgêncas de precsão. Porém, com a precsão realzável do GPS e a determnação de alturas de geodas mas precsas, o uso de um modelo smples pode não ser sufcente. lnear: Uma aproxmação comum para a expressão (4.13) é a tendênca paramétrca na forma p = b1 f1 + b f b q f q (4.31) onde b1,b,...,bq são coefcentes a serem determnados por MMQ, f, f,..., f q 1 são funções

83 CAPÍTULO 4 METODOLOGIA 70 fases conhecdas, que podem varar. Uma possbldade é a aproxmação polnomal da forma: M N T a x = ϕ m = 0 n= 0 m n ( ) ( λ λ) xq ϕ (4.3) onde ϕ, λ são as lattudes e longtudes médas dos pontos levantados, respectvamente, e x q contém os q coefcentes desconhecdos. O parâmetro q vara de acordo com o número de termos até um máxmo de q = ( N + 1 ) ( M +1). Aplcações desse modelo podem ser encontrados em Santos (005), Souza (00), Poutanen (1999) e Zhong (1997). Outros modelos muto utlzados são baseados na transformação de smlardade, como o de 4 parâmetros, dscutdo em Heskanen e Mortz (1967) T a x = cosϕ cos λ dx + cosϕ senλ dy + senλ dz + da (4.33) onde dx,dy, dz são parâmetros de translações em relação aos exos X, Y e Z, respectvamente, e da é a dferença do sem-exo maor entre os elpsódes envolvdos. Uma versão mas geral do modelo anteror é obtda com a nclusão do qunto parâmetro: T a x = cosϕ cos λ dx + cosϕ senλ dy + senλ dz + da + a sen ϕ df (4.34) onde a é o sem-exo maor e df é a dferença entre os achatamentos dos elpsódes de referênca. A transformação de smlardade mas geral, envolvendo 8 parâmetros, fo desenvolvda e testada no Canadá e Malása (Kotsaks et al., 001):

84 CAPÍTULO 4 METODOLOGIA 71 a T x = cosϕ cos λ dx + cosϕ senλ dy + senλ dz + senϕ cosϕ sen λ senϕ cosϕ cos λ + e a dω x + e a dω y W W + 1 f sen ϕ sen ϕ + (4.35) W W ( aw h ) ds + da e df com W = 1- e sen ϕ (4.36) sendo e e f a prmera excentrcdade e o achatamento do elpsóde de referênca, respectvamente, dω x e dω, as rotações em X e Y, h a alttude geométrca do ponto y determnado e ds um fator de escala. Outras formas varantes da expressão (4.35), com alguns parâmetros excluídos, também são usadas (Kotsaks et al., 001): a T x = cosϕ cos λ dx + cosϕ senλ dy + senλ dz + senϕ + cosϕsenλ senϕ + cosϕ e a d cos λ ωx e a dω y W W + 1 f sen ϕ sen ϕ + da + 1- e df (4.37) W W Para compatblzar o geóde gravmétrco com o geóde materalzado pelo marégrafo no Datum altmétrco, as dferenças de alturas geodas, nas estações da RGSB, foram representadas com os modelos matemátcos descrtos e adconadas ao geóde gravmétrco.

85 CAPÍTULO 4 METODOLOGIA DETERMINAÇÃO DA ALTITUDE ORTOMÉTRICA POR GPS Há duas alternatvas para o uso do geóde gravmétrco na determnação da alttude ortométrca por GPS: a) determnação absoluta a partr da alttude geométrca e altura geodal, e b) determnação relatva usando dferenças de alttude geométrca e altura geodal, já dscutdos no Capítulo. Nesta Seção será mostrada, de forma mas detalhada, a determnação na forma relatva, utlzada neste trabalho Altmetra por GPS no modo relatvo Para a determnação da alttude ortométrca no modo relatvo, ncalmente determnase as coordenadas geodéscas de cada RN posconada (, λ, h ) ( σ σ σ ) ϕ λ, h ϕ e seus erros padrões,. A partr das coordenadas geodéscas, a alttude ortométrca das RNs são determnadas no modo relatvo, pela expressão (.73), com a ntegração dos dados da RGSB e do geóde gravmétrco da regão em estudo. Com o objetvo de reduzr o efeto de eventuas erros grosseros na altmetra por GPS, a alttude ortométrca das RNs posconadas = 1,,3, L, n foram obtdas a partr das estações de referênca j = 1,,3, L, m mas próxmas (Fgura 4.3). Assm, para cada RN posconada com GPS, fo obtdo um conjunto de alttudes {,H,H,, } padrões {, σ, σ, σ } H, 1 H H3 H m 1 3 H m H L e os respectvos erros σ L. As alttudes das RNs foram determnadas por meo da ponderação daquelas obtdas pelas estações de referênca (Santos, 005): H = m Pj H j j= 1 m Pj j= 1 (4.38) onde P j corresponde a: P j 1 = (4.39) σ H j

86 CAPÍTULO 4 METODOLOGIA 73 ( m 1) j = 1 1 H 1 / m 1 ( H H j ) j = 1 σ = H j σ (4.40) H m σ j Fgura 4.3 Altmetra por GPS com superabundânca. Trângulos vermelhos: estações de referênca; círculo azul: RN posconada (Santos, 005) 4.3. Erros padrões Para o cálculo do erro padrão da alttude ortométrca determnada por GPS, pela expressão.74, são necessáros: O erro padrão da alttude ortométrca da estação de referênca, no qual fo estmado a partr do Datum altmétrco de Imbtuba, consderando o lmte da propagação de erros no nvelamento geométrco dado por:

87 CAPÍTULO 4 METODOLOGIA 74 σ H = ±C k (4.41) onde C representa uma constante, dada em mlímetros e k, a dstânca (em km) do Datum à RN de nteresse. Atualmente, o valor de C é 3 mm; porém, em levantamentos mas antgos, era 4 mm. Por esse motvo, neste trabalho, fo usada a constante de 4 mm. O erro padrão da dferença de alttude geométrca entre a RN posconada e a estação de referênca. Como a dferença de alttude geométrca entre uma RN posconada por GPS ( ) e uma estação de referênca ( j ) é dada por h = h h, o erro padrão desta dferença fo calculado pela propagação de varâncas observaconas: j j h = ± σ σ (4.4) j h h σ + j onde σ fo determnado com as estratégas de processamento e σ h é dado pelas estações de j h referênca da RGSB. E o erro padrão relatvo da dferença de altura geodal dos pontos da RGSB. O erro relatvo baseou-se na comparação das dferenças de alturas geodas, obtdas por GPS ( ) N GPSj, e as respectvas dferenças, obtdas no geóde gravmétrco ( N gj ) pares de Referêncas de Nível RN e RN j :, em δ Nj = (4.43) NGPS j N g j onde: GPS ( h H ) ( h j H j ) = hj H j N j = (4.44)

88 CAPÍTULO 4 METODOLOGIA 75 sendo hj e H j, respectvamente, as dferenças entre as alttudes geométrca e ortométrca entre as RNs; N gj, a dferença entre as alturas geodas obtdas com o modelo geodal em avalação. 4.4 AVALIAÇÃO DE DISTORÇÕES A avalação de dstorções na rede altmétrca fo realzada pela comparação entre alttude ortométrca de referênca ( H RN ) e a obtda por GPS ( H Cal ) partr de:, no modo relatvo, a H = H RN H Cal (4.45) onde H é chamada de componente resdual da alttude ortométrca. Para cada componente obtda, foram calculados os erros padrões correspondentes, pela propagação de varânca observaconal, dada por: H H RN H σ = ± σ + σ (4.46) Cal onde σ e σ são, respectvamente, as varâncas das alttudes ortométrca de H RN H Cal referênca e a calculada no modo relatvo. Por representar as contrbuções das fontes de erros das grandezas envolvdas, 3 σ N ndca o lmte esperado para cada componente sstemátca. Portanto, se a componente sstemátca for maor do que três vezes o respectvo erro padrão, pode haver alguma fonte de erro grossero. Nesse caso, uma avalação mnucosa deverá ser realzada para verfcar a fonte de erro que pode estar localzada em uma das componentes h, H e N.

89 CAPÍTULO 5 RESULTADOS 76 5 RESULTADOS Neste capítulo, são apresentados os resultados obtdos no desenvolvmento do trabalho. Incalmente, fo realzada uma análse estatístca dos dados, com a qual foram dentfcados e elmnados erros grosseros. Na Seção 5., é seleconado o modelo para compatblzar o geóde gravmétrco ao do sstema altmétrco local. A Seção 5.3, apresenta os resultados sobre a determnação da alttude ortométrca com GPS e o geóde gravmétrco compatblzado. Fnalmente, na Seção 5.4 é realzada a dentfcação e análse das dstorções na RAFB. 5.1 ESTATÍSTICA DOS DADOS Para análse estatístca dos dados ( N ), as alturas geodas gravmétrcas foram comparadas com as obtdas por GPS, nas estações da RGSB usando a expressão (4.). Os dados báscos envolvdos encontram-se na Tabela A.1; os resultados obtdos na análse estatístca são apresentados na Tabela 5.1. A méda não nula ndca que o geóde gravmétrco é ncompatível com geóde do sstema altmétrco nessa regão, algumas causas prováves foram apresentadas no Capítulo. O hstograma da componente sstemátca (Fgura 5.1) mostra como os dados estão dstrbuídos em torno da méda. Esse hstograma e os parâmetros estatístcos da componente sstemátca mostram que a dstrbução é assmétrca à dreta (deformação maor que a normal) e leptocúrtca (pco mas elevado que a normal). Tabela 5.1 Parâmetros estatístcos dos dados Estatístcas de Ν Valor numérco Número de dados 36 Mínmo (m) -1,30 Máxmo (m) 0,747 Ampltude (m) Méda (m) -0,409 Desvo padrão (m) 0,343 Assmetra 0,337 Curtose 0,66 Analsando as meddas de dspersão, observa-se que há valores dscrepantes, os quas

90 CAPÍTULO 5 RESULTADOS 77 podem ter sdo ocasonados por erros grosseros envolvdos nas meddas e cálculo das alttudes ( H h) e e altura geodal ( N ) g, que nfluencam o não ajuste dos dados a uma dstrbução normal. Essa dscrepânca também pode ser constatada na Fgura 5., onde aparecem em algumas áreas da regão de estudo, feções anômalas na representação da componente sstemátca. A elmnação dos dados contamnados com erros grosseros mplca em menor valor na méda da componente sstemátca e, conseqüentemente, uma dmnução na dstorção da RAFB. Fgura 5.1 Hstograma da componente sstemátca (Undade: m)

91 CAPÍTULO 5 RESULTADOS 78 Fgura 5. Componente sstemátca do geóde usando todos os dados (Undade: m) Identfcação de erros grosseros Para dentfcar erros grosseros na RAFB, os dados foram submetdos ao teste t (Student), no qual verfcou-se a probabldade de uma amostra estar dentro do ntervalo de confança (expressão 4.9) ao nível de sgnfcânca de 5%. A Fgura 5.3 apresenta um exemplo de alttude ortométrca com erro grossero, dentfcada pelo teste t, que apresenta dscrepânca exagerada da componente sstemátca na estação Capão Bonto em relação as 5 mas próxmas. Com a realzação dessa análse, no conjunto de 36 dados, foram dentfcadas 0 delas contendo erros grosseros (Tabela 5.). A Fgura 5.4 mostra as RNs com alttudes corretas (azul) assm como que contêm erros grosseros (vermelho).

92 CAPÍTULO 5 RESULTADOS 79 Fgura 5.3 Exemplo de alttude com erro grossero (Undade: m) Tabela 5. Estações dentfcadas com erros grosseros Estação ϕ () λ ( ) N( m) Méda ( m) σ ( m) N BENEDITO_NOVO -6, , ,035-0,43 0,053 CAPAO_BONITO -4, , ,115-0,735 0,117 DION_CERQUEIRA -6, , ,111-0,548 0,196 FAXINAL -3, , ,393-0,630 0,159 FLORIANOPOLIS_A -7, , ,357-0,486 0,19 FLORIANOPOLIS_B -7, , ,46-0,16 0,113 GUARATINGUETA_B -, , ,189-0,186 0,48 IBAITI -3, ,0908-0,934 0,534 0,138 INOCENCIA -19, , ,145-0,580 0,046 ITARARE -4, , ,050-0,196 0,301 JOINVILLE -6, , ,48-0,140 0,064 MAFRA -6, , ,597-0,5 0,068 ORIENTE -, , ,95-0,733 0,33 POUSO_ALTO -, , ,747-0,03 0,100 SAO_PAULO_B -3, ,713 0,370-0,713 0,17 STA_JULIANA -19, , ,37-0,063 0,1 TIETE -3, , ,30-0,75 0,149 TORRES -9, , ,594-0,433 0,118 UBATUBA_B -3, , ,199-0,070 0,119 UBATUBA_C -3, , ,04-0,457 0,15

93 CAPÍTULO 5 RESULTADOS 80 Na Fgura 5.5, nota-se que, após a remoção das RNs contendo erros grosseros, a componente sstemátca do geóde passa a ser mas suave do que na Fgura 5.4. Mesmo segundo os padrões de controle recomendados para o nvelamento de alta precsão, essas dstorções são nevtáves. Elas ocorrem devdo ao referencal adotado, erros aleatóros e sstemátcos no nvelamento geométrco, tas como: refração atmosférca, erro de colmação, erro de vertcaldade da mra, erro de graduação da mra e nversão de letura. Na Tabela 5.3, são apresentadas as estatístcas da componente sstemátca do geóde após a remoção dos erros grosseros. Como pode ser observado, as componentes possuem méda de -0,437 m e desvo padrão de 0,89 m e, na Fgura 5.6, é apresentado o hstograma de freqüênca, no qual anda há uma rregulardade na dstrbução dos dados. Fgura 5.4 Componente sstemátca do geóde com erros grosseros dentfcados (Undade: m)

94 CAPÍTULO 5 RESULTADOS 81 Fgura 5.5 Componente sstemátca do geóde após a remoção dos erros grosseros (Undade: m) Mesmo após a remoção das alttudes com erros grosseros, anda há uma méda não nula na componente sstemátca, ndcando que o geóde gravmétrco contnua ncompatível com o geóde do sstema altmétrco braslero nessa regão. Tabela 5.3 Parâmetros estatístcos dos dados Estatístcas de Ν Valor numérco Número de dados 16 Mínmo (m) -1, Máxmo (m) 0,60 Ampltude (m) 1,48 Méda (m) -0,437 Desvo padrão (m) 0,89 Assmetra 0,008 Curtose -0,413

95 CAPÍTULO 5 RESULTADOS 8 Fgura 5.6 Hstograma da componente sstemátca após a remoção dos erros grosseros (Undade: m) 5. COMPATIBIZAÇÃO DOS GEÓIDES Como fo menconado em capítulos anterores, as alturas geodas determnadas por GPS/nvelamento são, geralmente, dferentes daquelas obtdas a partr do modelo geodal gravmétrco. Entre as causas dessas dferenças, a predomnante é a ncompatbdade de referencas adotados nos dados envolvdos. Além dsso, o datum altmétrco local, cujas alttudes ortométrcas são referdas, não corresponde ao valor de referênca do modelo geopotencal ou ao sstema de referênca do GPS (Fotopoulos, 003). A ncompatbldade de referencas é um efeto que pode ser estmado por modelos de correção, determnados a partr das dferenças. Assm, o objetvo desta seção é apresentar os resultados obtdos com os modelos descrtos na seção 4.., a fm de se escolher o mas adequado para compatblzar o geóde gravmétrco ao do Datum altmétrco braslero Correções ajustadas A rotna para ajustamento por MMQ, descrto na Seção 4..1, fo mplementada no software MatLab, cujas etapas prncpas, para a modelagem, de correções estão resumdas na Fgura 5.7; os coefcentes calculados são apresentados na Tabela 5.4. Os modelos foram usados para compatblzar o geóde gravmétrco com o materalzado por marégrafo no Datum altmétrco de Imbtuba. Os parâmetros estatístcos calculados para os modelos

96 CAPÍTULO 5 RESULTADOS 83 paramétrcos analsados (Tabela 5.5), mostram que a componente sstemátca fo adequadamente modelada com a maora dos modelos usados, como ndcam as médas dos resíduos. Entretanto, os desvos padrões varam conforme o modelo. As componentes sstemátcas, modeladas com os modelos usados, foram representadas, grafcamente, nas Fguras 5.8 a Fgura 5.7 Procedmentos no MatLab para calcular os parâmetros dos modelos usados Tabela 5.4 Coefcentes dos modelos usados Modelos polnomas e respectvas ordens dos parâmetros Blnear 0,701 0,859 0,436 0,017 Bquadrátco -10,841-46,373-8,116 53,547 5,18 65,00 Transformação de smlardade e respectvas ordens dos parâmetros 4 Parâmetros 63,19-37,03 45,354 5,353 5 Parâmetros -3,659 9,868 36,190-44,918 0, Parâmetros 777, , ,11-0,055-0, ,460-0, Parâmetros 774, ,86-390,993-0,0549-0,045-0, ,08-0,0001

97 CAPÍTULO 5 RESULTADOS 84 Tabela 5.5 Parâmetros estatístcos dos modelos Modelo Blnear Bquadrátco 4 Parâmetros 5 Parâmetros 7 Parâmetros 8 Parâmetros Número de dados Mínmo (m) -0,777-0,707-0,817-0,773-0,70-0,75 Máxmo (m) 0,811 0,616 0,599 0,604 0,67 0,66 Ampltude (m) -1,588-1,33-1,415-1,377-1,347-1,351 Méda (m) 0,009 0,008 0,007 0,004 0,001 0,001 Desvo padrão (m) 0,74 0,56 0,65 0,60 0,33 0,33 Fgura 5.8 Correções pelo modelo blnear (Undade: m)

98 CAPÍTULO 5 RESULTADOS 85 Fgura 5.9 Correções pelo modelo bquadrátco (Undade: m) Fgura 5.10 Correções pela transformação de smlardade de 4 parâmetros (Undade: m)

99 CAPÍTULO 5 RESULTADOS 86 Fgura 5.11 Correção pela transformação de smlardade de 5 parâmetros (Undade: m) Fgura 5.1 Correção pela transformação de smlardade de 7 parâmetros (Undade: m)

100 CAPÍTULO 5 RESULTADOS 87 Fgura 5.13 Correção pela transformação de smlardade de 8 parâmetros (Undade: m) 5.. Seleção do modelo paramétrco Como fo dscutdo na Seção 4.. e apresentado na Seção 5..1, há város modelos para a modelagem da componente sstemátca. O modelo paramétrco aproprado para uma regão pode ser nadequado para outra. Para seleconar o modelo matemátco mas aproprado para toda a regão Sudeste, foram adotados alguns crtéros de seleção. O prmero crtéro consste em analsar o grau de concordânca entre o valor estmado e o valor de referênca (Featherstone, 001), sto é, analsar a precsão com que o geóde gravmétrco fo ajustado aos pontos da RGSB. Para sso, fo calculada a raz do erro médo quadrátco (RMSE) para cada modelo paramétrco (Tabela 5.6), dada por: RMSE = m = 1 ( N Nˆ ) m (5.1) onde m é o número de observações, de correção, e N, a componente sstemátca observada. Nˆ é a componente sstemátca, ajustada pelos modelos

101 CAPÍTULO 5 RESULTADOS 88 Nessa análse, os modelos de transformação de smlardade de 7 e 8 parâmetros apresentaram os menores RMSE (0,33 m), comparados com o RMSE anteror ao ajuste (0,54 m). Em geral, os resultados mostram uma pequena dferença entre os modelos. Então, baseado nos resultado todos os modelos provêm um RMSE, comum e satsfatóro, em torno de 0,50 m. Tabela 5.6 Erro médo quadrátco para cada modelo paramétrco analsado Modelo RMSE (m) Antes do ajuste 0,54 Blnear 0,75 Bquadrátco 0,56 4 Parâmetros 0,65 5 Parâmetros 0,61 7 Parâmetros 0,33 8 Parâmetros 0,33 Um outro crtéro adotado é avalar o desempenho dos modelos paramétrcos, sto é, se eles foram bem ajustados aos pontos RGSB. Isto pode ser avalado pelo coefcente de determnação, r, e ndca o quanto da varação total é comum aos elementos que consttuem os pares analsados. Este é dado por (Sen e Srvastava, 1990): r m = 1 = m ( l vˆ ) ( l l ) = 1 1 (5.) onde m é o número de observações, vˆ é o resíduo da componente sstemátca em cada estação da RGSB, obtdo por (4.14) após o ajuste do modelo, l é a méda das dferenças. O coefcente de determnação pode varar entre 0 e 1 ( 0 r 1) ; quanto mas próxmos a 1, menores serão os resíduos e, conseqüentemente, melhor o ajuste. Os coefcentes de determnação, calculados para os 6 modelos estudados, são apresentados na Tabela 5.7. Essa medda é mportante, pos fornece o percentual de confabldade do ajuste das varáves testadas, ou seja, sgnfca que 87% do resultado do modelo blnear, 9% do resultado do modelo bquadrátco, 85% do resultado do modelo de 4 parâmetros, 86% do

102 CAPÍTULO 5 RESULTADOS 89 resultado do modelo de 5 parâmetros e 76% do resultado dos modelos de 7 e 8 parâmetros foram bem ajustados às componentes sstemátcas. Os resultados obtdos com esses modelos mostram alta confabldade nos ajustes, mas é necessáro anda avalar a establdade numérca na regão de nteresse. Isto pode ser feto pelo cálculo do número de condção da matrz produto A T A, apresentado na Tabela 5.8. Tabela 5.7 Meddas estatístcas do ajuste dos modelos paramétrcos Modelo Coefcente de determnação Blnear 0,87 Bquadrátco 0,9 4 parâmetros 0,85 5 parâmetros 0,86 7 parâmetros 0,76 8 parâmetros 0,76 Os modelos mas estáves são os de ordem mas baxa, sto é, com o menor número de parâmetros. Os modelos de ordem mas alta tendem a ser menos estáves e menos precsos quando aplcados a pontos de controle ndependentes, sto é, pontos não consderados no cálculo das superfíces de correção (Fotopoulos, 003). Tabela 5.8 Número de condção dos modelos paramétrcos Modelo N de Parâmetros N de Condção Blnear 4 6,90x10 Bquadrátco 6 6 4,66x10 Transf. Smlardade 4 6,63x10 Transf. Smlardade ,71x10 Transf. Smlardade 7 1 1,0x10 Transf. Smlardade 8 3,13x10 Na Tabela 5.8, observa-se que os modelos de 5, 7 e 8 parâmetros possuem os números de condção mas elevados do que os outros modelos; sso ocorre não só por possuírem um número maor de parâmetros, mas, também, devdo aos valores numercamente pequenos do fator de escala ( ds ), da dferença de achatamento entre os elpsódes ( df ) e o não paralelsmo nos exos ( ω e ω ) constantes x y. Uma forma de se tornar esses modelos mas estáves, é ncorporar as e (prmera excentrcdade) e a (sem-exo maor do elpsóde) nos parâmetros. Por exemplo, a expressão (4.35) com os parâmetros ncorporados:

103 CAPÍTULO 5 RESULTADOS 90 A T X = cosϕ cos λ dx + cosϕ senλ dy + senλ dz + senϕ cosϕsenλ senϕ cosϕ cos λ + dωx + dω y W W + 1 f sen ϕ sen ϕ + (5.3) W W ( ) aw h ds + da + df Os coefcentes determnados com as duas versões dos modelos são apresentados na Tabela 5.9, na qual se observa maor establdade numérca (menor número de condção) na versão que ncorpora as constantes. Outro fator mportante na escolha do modelo é o sgnfcado de cada coefcente, que só é possível nos modelos de transformação de smlardade. Com base nos resultados, apresentados nesta seção, fo seleconado o modelo de transformação de smlardade de 7 parâmetros, para compatblzar o geóde gravmétrco ao do sstema altmétrco. Esse modelo, além de possur resultados semelhantes aos outros, em termos de precsão nterna, ajuste dos dados e establdade numérca (exceto o modelo de 8 parâmetros), possu parâmetros sufcentes para descrever o relaconamento entre os referencas, sto é, as dstorções de ncompatbldade; e sua resolução espacal é maor do que os outros modelos, sgnfcando que seu conteúdo modelado consegue descrever feções menores (ver Fgura 5.1).

104 CAPÍTULO 5 RESULTADOS 91 Tabela 5.9 Coefcentes dos modelos contendo 5, 7 e 8 parâmetros nas duas versões 5 Parâmetros Coefcentes (forma 1) Coefcentes (forma ) dx -3, , dy 9, ,85875 dz 36, ,4570 da -44, , df 0, , parâmetros Coefcentes (forma 1) Coefcentes (forma ) dx 777, ,48881 dy -941, ,89985 dz -3944, , ω -0, , x ω -0, , y da -1344, ,46161 df -0, , parâmetros Coefcentes (forma 1) Coefcentes (forma ) dx 774, , dy -936, ,8610 dz -390, , ω -0, ,5445 x ω -0, , y ds -0, , da -148, , df -0, , Tabela 5.10 Número de condção para as formas 1 e dos modelos N de Parâmetros N de Condção (modelos na forma 1) N de Condção (modelos na forma ) 5 1,71x , ,0x10 1 4,3x ,0x10 3,13x Geóde gravmétrco compatível com o do sstema altmétrco Após a escolha do modelo paramétrco mas adequado, o geóde gravmétrco fo compatblzado ao do sstema altmétrco braslero, de acordo com a Seção 4.. Assm, fo obtdo o modelo dgtal do geóde gravmétrco compatível com o materalzado no marégrafo

105 CAPÍTULO 5 RESULTADOS 9 de Imbtuba, lustrado na Fgura Fgura 5.14 Geóde gravmétrco compatblzado ao do sstema altmétrco braslero (Undade: m) 5.3 ALTITUDE ORTOMÉTRICA POR GPS NO MODO RELATIVO Esta seção apresenta os resultados referentes à determnação da alttude ortométrca por GPS. O erro relatvo do geóde, em parte por mlhão (ppm), antes de ser compatblzado é apresentado na Fgura 5.15, e o compatblzado na Fgura O modelo matemátco utlzado para sua representação em ppm tem a forma exponencal: Y = ae bx + c (5.4) onde a, b e c são os coefcentes determnados pelo método dos mínmos quadrados, descrto na seção 4..1, e e é a base do logartmo natural.

106 CAPÍTULO 5 RESULTADOS 93 Fgura 5.15 Erro em ppm do geóde antes de ser compatblzado Fgura 5.16 Erro em ppm do geóde compatblzado ao do sstema altmétrco braslero

107 CAPÍTULO 5 RESULTADOS 94 Os resultados referentes aos ajustes do modelo matemátco foram apresentados na Tabela 5.11, a qual mostra como vara o erro relatvo do geóde. Observa-se que, para dstâncas menores, os erros padrões estmados para as dferenças de alturas geodas são bem próxmos nos dos modelos geodas. Isto é devdo à correlação dos erros sstemátcos do geóde, em pontos sufcentemente próxmos, que são elmnados na subtração das alturas geodas. Por ter maor acuráca, o geóde compatblzado, fo utlzado para determnar as dferenças de alturas geodas. Assm, o modelo matemátco do erro em ppm, apresentado na Fgura 5.16, fo utlzado para estmar os erros padrões das dferenças de alturas geodas. Tabela 5.11 Erro relatvo do geóde em função da dstânca Erro Dstânca Geóde Geóde compatblzado (km) ppm Relatvo (m) ppm Relatvo (m) 1 6,76 0,007 6,8 0, ,0 0,06 5,745 0, ,67 0,113 5,55 0, ,193 0,156 4,811 0, ,758 0,190 4,408 0, ,365 0,18 4,041 0,0 100,89 0,89,659 0, ,450 0,90 1,80 0, ,917 0,75 0,756 0, ,70 0,88 0,557 0, ,647 0,33 0,481 0, ,619 0,37 0,45 0, ,609 0,47 0,441 0, ,606 0,485 0,437 0, ,604 0,544 0,436 0, ,604 0,604 0,435 0, IDENTIFICAÇÃO E ANÁLISE DAS DISTORÇÕES NA RAFB Após a remoção de erros grosseros, que é um tpo de dstorção, da RAFB e a compatblzação do geóde gravmétrco ao do sstema altmétrco, é necessáro realzar outra análse nos dados, para verfcar se anda há dstorções na rede altmétrca. Para sso, fo comparado o resíduo da alttude ortométrca ( H ), dado pela expressão (4.45), sto é, a dferença entre a alttude ortométrca da RAFB e a calculada pelo geóde compatblzado, com três vezes o σ H (expressão 4.46).

108 CAPÍTULO 5 RESULTADOS Identfcação das dstorções Para a dentfcação das dstorções, todas as RNs depuradas de erros grosseros foram utlzadas. Assm, as que obtveram o H maor que três vezes o erro padrão (lmte) foram dentfcadas como possíves dstorções. Essas RNs são apresentadas na Tabela A., na qual constam as alttudes de referênca ( ) H, as alttudes calculadas no modo relatvo ( H ) Re f resíduos ( H ) e seus respectvos erros padrões. Na Tabela 5.1, são apresentadas as estatístcas da componente resdual da alttude ortométrca. A componente sstemátca possu méda de 0,010 m e desvo padrão de 0,191 m. A exstênca dessa méda não nula ndca que a RAFB, na regão de estudo, anda está sujeta a dstorções. Cal, os Tabelas 5.1 Estatístcas dos dados depurados de erros grosseros Estatístcas H ( ) Valor numérco Número de dados 16 Mínmo (m) -0,487 Máxmo (m) 0,781 Ampltude (m) 1,68 Méda (m) 0,010 Desvo padrão (m) 0,191 RMSE (m) 0,19 Assmetra 0,435 Curtose 1.75 O hstograma da componente resdual da alttude ortométrca (Fgura 5.17) e os parâmetros estatístcos da componente resdual mostram que a dstrbução dos dados não é exatamente normal.

109 CAPÍTULO 5 RESULTADOS 96 Fgura 5.17 Hstograma do resíduo da alttude ortométrca antes da remoção das dstorções (Undade: m) A Fgura 5.18 apresenta as RNs dentfcadas com dstorções (vermelha), sem dstorções (azul) e os círculos que representam as RNs são proporconas em relação aos resíduos da alttude ortométrca ( H ). Na Tabela 5.13, estão às estações que apresentaram dstorções, com os valores da alttude ortométrca de referênca, a alttude calculada, o resíduo e o erro padrão do resíduo. Tabela 5.13 Estações da RGSB que apresentam dstorções Estação ϕ () ( ) H f m H Cal m H ( m) σ H m ALFREDO_VAGNER -7, , ,70 46,115-0,413 0,131 ARROIO -8, , ,814 16,610 0,04 0,067 CUNHA -3, , ,54 974,473 0,781 0,186 PAULO_LOPES -7, , ,45 3,913 0,33 0,093 λ Re ( ) ( ) ( )

110 CAPÍTULO 5 RESULTADOS 97 Fgura 5.18 Dstrbução geográfca das RNs com dstorções (vermelho) e sem dstorções (azul) Analsando o erro padrão da alttude geométrca das RNs, observa-se que as dstorções das RNs não podem ser atrbuídas a erros nas alttudes geométrcas, pos eles tveram méda de 0,050 m. Esses erros também não podem estar no geóde, pos como pode ser vsto na Fgura 5.19, as RNs próxmas às dentfcadas com dstorções possuem valores resduas pequenos. Analsando o erro padrão da alttude geométrca das RNs, observa-se que as dstorções das RNs não podem ser atrbuídas a erros nas alttudes geométrcas, pos eles tveram méda de 0,050 m. Esses erros também não podem estar no geóde, pos como pode ser vsto na Fgura 5.19, as RNs próxmas às dentfcadas com dstorções possuem valores resduas pequenos.

111 CAPÍTULO 5 RESULTADOS 98 Fgura 5.19 Exemplo de RN com dstorção Na Tabela 5.14 são apresentadas as estatístcas da componente resdual após a remoção das dstorções. Como podem ser observadas, as componentes possuem méda de 0,003 m e desvo padrão de 0,181 m; na Fgura 5. é apresentado o hstograma de freqüênca, no qual observase uma regulardade na dstrbução dos dados, encontrando-se mas próxmo à dstrbução normal. Fgura 5.0 Componente resdual da alttude ortométrca (Undade: m)

112 CAPÍTULO 5 RESULTADOS 99 Fgura 5.1 Componente resdual da alttude ortométrca sem dstorção (Undade: m) Tabela 5.14 Parâmetros estatístcos dos dados sem dstorção Estatístcas H ( ) Valor numérco Número de dados 1 Mínmo (m) -0,487 Máxmo (m) 0,58 Ampltude (m) 1,069 Méda (m) 0,003 Desvo padrão (m) 0,181 RMSE (m) 0,181 Assmetra 0,48 Curtose 0.63

113 CAPÍTULO 5 RESULTADOS 100 Fgura 5. Hstograma dos resíduos da alttude ortométrca após a remoção das dstorções (Undade: m) 5.4. Correlação dos resíduos com as componentes envolvdas Os resíduos das alttudes podem estar correlaconados com alguns tpos de varações como: varação das alttudes geométrca e ortométrca, varação na lattude e longtude, e varação da dstânca em relação ao datum. Então, quando há nteresse em se analsar o grau de assocação entre duas varáves referentes a um grupo de ndvíduos, utlza-se a correlação. O coefcente de correlação de Pearson (Tabela 5.15) representa o grau de assocatvdade entre as varáves em estudo (Spegel, 1993). Tabela 5.15 Coefcente de correlação de Pearson (Spegel, 1993) Coefcente Interpretação 0,01 a 0,19 Correlação bem fraca 0,0 a 0,39 Correlação fraca 0,40 a 0,69 Correlação moderada 0,70 a 0,89 Correlação forte 0,90 a 1,00 Correlação muto forte Neste trabalho, a correlação de Pearson fo utlzada para verfcar as possíves correlações entre as varações ctadas e a dstorção exstente na RAFB. Com sso, realzou-se uma análse de regressão lnear entre as varações e o resíduo da alttude ortométrca, obtendo-se os resultados que são apresentados na Tabela 5.16 e lustrados na Fgura 5.3. Nota-se que os coefcentes de correlação obtdos ndcam correlação bem fraca, ndcando

114 CAPÍTULO 5 RESULTADOS 101 que as dstorções ndependem dos dados envolvdos. Tabela 5.16 Coefcente de correlação de Pearson e da equação da reta H ϕ H λ H h H H H d Coefcente 0,00 0,001 0,000 0,000 0,001 y = 0100, y = 01408, Equação + 0, 0038x + 0, 006x y = 0, Interpretação Bem fraca Bem fraca Sem correlação 6 x y = 0, x Sem correlação y = 0, x Bem fraca Causas das dstorções As dstorções podem ser dvdas em regonas ou locas. As dstorções regonas são aquelas dstrbuídas em um conjunto de RNs próxmas, cujo exemplo aparece na Fgura 5.4. Nota-se que os resíduos das RNs com dstorções são bem dscrepantes em relação aos outros. Este tpo de dstorção geralmente acontece em uma únca RN, por causa de algum erro ocorrdo durante o nvelamento e que se propaga pela lnha restante; as dstorções locas, que se caracterzam por estarem soladas, estão lustradas na Fgura 5.5. Os erros que podem estar ocasonando essas dstorções são: efetos térmcos da ncdênca de raos solares no nível; nfluêncas do campo magnétco em níves automátcos; erro de colmação vertcal e horzontal; erros de letura do mcrômetro do nível ou da graduação da mra, e erro durante as anotações manuas. A grande maora desses erros está propensa às falhas do operador, pos os nstrumentos utlzados na mplantação da RAFB eram analógcos, tornando o trabalho mas cansatvo e sujeto à dspersão durante o nvelamento. Desde 1997 o Departamento de Geodésa do IBGE vem conduzndo novos levantamentos altmétrcos de forma a atender a nterconexão de blocos recentes de nvelamento. Isso va permtr a recomposção de uma estrutura únca e homogênea na RAFB, resolvendo os problemas, cada vez mas freqüentes, de heterogenedade temporal causada pela destrução das RNs. Mas, ao se mplantar uma nova estação de referênca, tem de ser ter controle e extremo cudado na escolha das RNs de partda, pos essas poderão conter erros que não foram dentfcados na análse crítca dos dados, no processo de ajustamento da RAFB, causando, assm, uma propagação de erros nas novas RNs mplantadas, podendo ser

115 CAPÍTULO 5 RESULTADOS 10 caracterzado como um tpo de erro sstemátco (Luz & Gumarães, 001). a) Lattude b) Longtude H (m) Alttude ortométrca (m) c) Alttude geométrca d) Alttude ortométrca e) Dstânca em relação ao Datum Fgura 5.3 Correlação do resíduo da alttude ortométrca e os dados envolvdos As dstorções também podem ser caracterzadas como erros grosseros que não foram dentfcados pela análse estatístca para dentfcação de erros grosseros, descrta na seção Isto pode ser vsto na Fgura 5.6, a qual apresenta todas as RNs usadas neste trabalho, nota-se que nas proxmdades das RNs dentfcadas com erros grosseros há as RNs dentfcadas com dstorções, ndcando que esses erros foram propagados na lnha de nvelamento, tornando-se uma dstorção regonal.

116 CAPÍTULO 5 RESULTADOS 103 Fgura 5.4 Exemplo de dstorção regonal (Undade: m) Fgura 5.5 Exemplo de dstorção local (Undade: m)

117 CAPÍTULO 5 RESULTADOS 104 Fgura 5.6 Conjunto de RNs analsadas e dentfcadas com dstorções (vermelha) e lvre de erros (azul)