Celso Liczbinski 1,2 Vitor Haertel 2

Transcrição

1 Uma nova abordagem na estmação de probabldades a pror na classfcação de magens dgtas em sensoramento remoto Celso Lczbns,2 Vtor Haertel 2 Dretora de Servço Geográfco do Exércto DSG ª Dvsão de Levantamento -ª DL Rua Cleveland, 250, Menno Deus Porto Alegre - RS, Brasl celso.lczbns@terra.com.br 2 Unversdade Federal do Ro Grande do Sul - UFRGS Centro Estadual de Pesqusa em Sensoramento Remoto e Meteorologa - CEPSRM Caxa Postal Porto Alegre - RS, Brasl vctor.haertel@ufrgs.br Abstract. An adaptve classfer desgned for hgh-dmensonal mage data classfcaton has recently been proposed. The man feature n ths proposed classfer conssts n a novel method to acqure sem-labeled samples n an teratve ay, durng the classfcaton process tself. The sem-labeled samples are then added to the set of avalable labeled samples, thus ncreasng the total number of tranng samples and consequently the relablty of the estmated values for the parameters n a parametrc classfer. In ths study e propose the nserton of an addtonal step nto the teratve procedure mplemented n the adaptve classfer, n order to produce more realstc estmates of the classes a pror probablty. The proposed procedure to estmate the classes a pror probablty maes use of the same eghted approach used by the adaptve classfer, s computatonally effcent and can be easly mplemented. Tests usng hyperspectral mage data have shon that the proposed approach can contrbute to ncreased accuraces n the classfcaton process. Palavras-chave: a pror probablty, sem-labeled samples, hgh-dmensonal mage data.. Introdução Dados em alta dmensonaldade como em magens hperespectras, abrem novas possbldades no processo de classfcação de magens dgtas em sensoramento remoto. a medda em que a dmensonaldade dos dados aumenta, amostras extraídas de populações normalmente dstrbuídas tendem a deslocar-se para as caudas das dstrbuções, dexando a parte central na qual ocorrem os valores máxmos para a função densdade de probabldade vrtualmente vaza (Landgrebe, 2003). Este fato torna vável a separação de classes espectralmente muto semelhantes, sto é, classes que apresentam valores muto smlares ou mesmo dêntcos para os vetores de médas, desde que as respectvas matrzes de covarânca dfram sgnfcatvamente entre s (Fuunaga, 990). Dados desta natureza apresentam, entretanto alguns problemas, entre os quas a questão da estmação dos parâmetros do classfcador a partr das amostras de trenamento, geralmente dsponíves em um número apenas lmtado. Incando o processo de classfcação com um número reduzdo de bandas espectras, verfca-se que a acuráca na magem temátca produzda pelo classfcador tende a aumentar na medda em que novas bandas espectras são adconadas, sto é, na medda em que nformações adconas são acrescentadas ao classfcador. Em um determnado ponto o valor estmado para a acuráca atnge um máxmo para em seguda passar a dmnur, na medda em que bandas adconas contnuam sendo ntroduzdas, sto é, na medda em que a dmensonaldade dos dados contnua a aumentar, enquanto o número de amostras permanece constante. Este padrão de comportamento, conhecdo como o fenômeno de Hughes 7829

2 resulta das ncertezas nos valores estmados para um número crescente de parâmetros do classfcador, a partr de um número lmtado de amostras. Três abordagens geras têm sdo nvestgadas com o objetvo de mnmzar os efetos do fenômeno de Hughes: () métodos de análse dscrmnante regularzada, (2) métodos de seleção e/ou extração de varáves e (3) métodos de geração de amostras sem-rotuladas. este estudo é proposta e testada uma extensão à abordagem orgnalmente proposta por Jacson e Landgrebe (200) na geração de amostras sem-rotuladas. a presente proposta, amostras sem-rotuladas além de servrem para fns de estmação dos parâmetros do classfcador, são empregadas anda na estmação da probabldade a pror assocada a cada uma das classes em consderação. Iníco Obter amostras de trenamento (amostras rotuladas) Atrbur valores ncas para as probabldades a pror das classes P(ω ) Estmatvas ncas para os vetores de médas (M ) e matrzes de covaranca (S ) para as m classes em consderação ( =, 2,...,m) Classfcar a magem utlzando a função de decsão na equação () Estmar os pesos para os pxels na magem, que não fazem parte das amostras rotuladas Atualzar os valores estmados para o vetor de medas (M ) e para as matrzes de covarânca (S ), empregando as amostras rotuladas mas as sem-rotuladas Atualzar os valores para as probabldades a pror P(ω ) Porcentagem de pxels trocando de rótulo < lmar ão Sm Fm Fgura. Fluxograma lustrando a metodologa proposta. A caxa sombreada lustra a contrbução adconal deste estudo. 7830

3 2. Metodologa A metodologa proposta está lustrada de uma forma esquemátca na Fgura, onde o segmento atualzando os valores estmados para as probabldades a pror se consttu na contrbução orgnal deste estudo. O prmero passo consste na classfcação ncal dos dados empregando o logartmo natural da função de decsão de Bayes, na suposção de dstrbução normal multvarada (): T G ( X) = (X µ ) (X µ ) ln + 2 ln P( ω ) Σ Σ () onde µ e Σ representam os dos parâmetros (vetor de médas e matrz de covarânca) assocados à classe ω (), P(ω ) a probabldade a pror e X o padrão (pxel) a ser classfcado. Em um passo ncal, os parâmetros são estmados utlzando somente as amostras dsponíves (amostras rotuladas) e assumndo valores dêntcos para as probabldades a pror das classes. A partr desta prmera teração, os graus de pertnênca de cada pxel a cada uma das classes podem ser estmados pela correspondente probabldade a posteror p(ω /X). Desta forma podem ser geradas as chamadas amostras sem-rotuladas. Estas amostras são consttuídas por pxels extraídos da própra magem e utlzados para ncrementar o número de amostras dsponíves para fns de estmação dos parâmetros em (). A probabldade a posteror pode ser estmada pelo teorema de Bayes: p( ω / X ) = m (2) j= p( X / ω ) P( ω ) p( X / ω ) P( ω ) j j onde m representa o número de classes em consderação. Deve-se aqu observar que os pesos são estmados apenas para amostras (pxels) que não fazem parte do conjunto das amostras rotuladas, para fns de geração das chamadas amostras sem-rotuladas. Para as amostras rotuladas o peso é mantdo gual à undade para a classe correspondente e zero para as demas. A probabldade a posteror (2) pode ser estmada por meo da equação ():, exp[ G ( X ) ] = p(ω / X ) = m (3) exp[ G ( X )] j= j,j representa o peso assocado ao pxel X e à classe ω j. A partr da segunda teração, um determnado número de amostras sem-rotuladas é adconado de uma forma ponderada, ao conjunto das amostras rotuladas para estmação dos parâmetros (M e S ) e da probabldade a pror P(ω ): M = =, =, X (4) 783

4 S = =, =, ( X M )( X M )' (5) P(ω ), = = (6) onde representa o número total de pxels na magem. este estudo propõe-se, portanto, estmar a probabldade a pror de cada classe pela fração do peso assocado a esta classe, estmada sobre toda a magem. Este valor é re-estmado a cada etapa no processo teratvo lustrado na Fgura. O processo teratvo é termnado quando o número de modfcações (pxels trocando de classe) entre duas terações sucessvas é menor do que um determnado lmar, pré-fxado. 3. Resultados e Dscussão A metodologa aqu proposta fo testada empregando dados hperespectras cobrndo uma área teste denomnada de Indan Pnes, localzada no noroeste do Estado de Indana EUA, apresentada na Fgura 2. esta cena aparecem campos agrícolas com culturas de soja e mlho empregando técncas de cultvo dstntas (cultvo tradconal, cultvo dreto e cultvo mínmo). A magem fo coletada no níco da cultura, mostrando uma proporção grande de solo exposto. Este conjunto de crcunstâncas torna estas classes espectralmente muto semelhantes entre s, consttundo-se em um verdadero desafo para um classfcador. Dados tradconas em baxa ou méda dmensonaldade, como por exemplo, dados Landsat-TM, produzem magens temátcas com muto baxo grau de acuráca. Foram utlzados neste estudo dados coletados pelo sstema sensor AVIRIS, que coleta dados em 224 bandas espectras, no ntervalo ( µm) do espectro eletromagnétco (Landgrebe, 2003). Deste conjunto foram removdas bandas rudosas, restando 90 bandas. este estudo foram utlzadas 6 classes de cobertura do solo: mlho planto dreto, mlho em cultvo mínmo, soja planto dreto, soja em cultvo mínmo, soja em cultvo tradconal e floresta. Como ocorre com freqüênca em stuações reas, o número de amostras dsponíves é pequeno para uma estmatva confável dos parâmetros do classfcador. Desta forma, esta área expermental oferece as condções adequadas para testar a metodologa proposta. 7832

5 Fgura 2. Composção colorda RGB com três bandas espectras AVIRIS: 00(vermelho), 90(verde) e 30(azul), do segmento da regão expermental de testes denomnada Indan Pne, localzada a noroeste no Estado de Indana EUA, e a respectva magem temátca da verdade terrestre, relatva às classes em estudo. Para uma melhor avalação da contrbução dos valores estmados para as probabldades a pror das classes na acuráca da magem temátca produzda pela função de decsão (), os seguntes expermentos foram fetos: () trenamento do classfcador empregando apenas amostras rotuladas e adotando-se valores dêntcos para as probabldades a pror das classes (metodologa tradconal), (2) nclundo um determnado número de amostras sem-rotuladas na estmação dos parâmetros (método proposto por Jacson e Landgrebe (200)), (3) adconando ao processo, valores estmados para as probabldades a pror das classes, conforme proposto e (4) empregando apenas amostras rotuladas, mas utlzando valores estmados para as probabldades a pror das classes. estes expermentos fo estmada a acuráca na magem temátca produzda pela função de decsão () para valores crescentes na dmensonaldade dos dados. Procurou-se desta forma testar os efetos desta metodologa no sentdo de obter magens temátcas mas acuradas através da mnmzação dos efetos do fenômeno de Hughes com a ntrodução de amostras sem-rotuladas e da ntrodução de valores mas realstas para as probabldades a pror das ses classes consderadas. Os resultados destes expermentos estão apresentados nas Fguras 3 e 4. A Fgura 3 lustra os valores médos para acuráca, estmados para as ses classes, com a utlzação de 300 amostras rotuladas e 50 amostras sem-rotuladas por classe. a Fgura 4 encontra-se lustrado os valores médos para a acuráca quando 500 amostras rotuladas e 50 amostras sem-rotuladas são empregadas. Váras conclusões podem ser obtdas destes resultados. Incalmente, os resultados do fenômeno de Hughes são claramente vsíves. O valor estmado para a acuráca méda tende ncalmente a crescer, refletndo a contrbução resultante da nclusão de nformações adconas (novas bandas espectras) no processo de classfcação. A acuráca atnge um máxmo para em seguda decrescer, refletndo a dfculdade na estmatva de um número crescente de parâmetros. Coerentemente com as predções teórcas, este efeto é retardado quando o número de amostras rotuladas aumenta. As Fguras 3 e 4 servem também para lustrar a contrbução das amostras sem-rotuladas e dos valores estmados para as probabldades a pror conforme proposto neste estudo. 7833

6 Acuráca Méda(%) apenas amostras de trenamento rotuladas, valores dêntcos para as probabldades a pror (metodologa tradconal). nclundo amostras de trenamento sem-rotuladas, valores dêntcos para as probabldades a pror (método proposto por Jacson e Landgrebe (200)). adconando ao processo, valores estmados para as probabldades a pror das classes (metodologa proposta neste estudo). apenas amostras de trenamento rotuladas, valores estmados para as probabldades a pror conforme a metodologa proposta neste estudo Dmensonaldade dos Dados(número de bandas espectras) Fgura 3. Valores médos para a acuráca, estmados para as ses classes, com a utlzação de 300 amostras de trenamento rotuladas e 50 amostras sem-rotuladas por classe Acuráca Méda (%) apenas amostras de trenamento rotuladas, valores dêntcos para as probabldades a pror (metodologa tradconal). nclundo amostras de trenamento sem-rotuladas, valores dêntcos para as probabldades a pror (método proposto por Jacson e Landgrebe (200)). adconando ao processo, valores estmados para as probabldades a pror das classes (metodologa proposta neste estudo). apenas amostras de trenamento rotuladas, valores estmados para as probabldades a pror conforme a metodologa proposta neste estudo Dmensonaldade dos Dados (número de bandas espectras) Fgura 4. Valores médos para a acuráca, estmados para as ses classes, com a utlzação de 500 amostras de trenamento rotuladas e 50 amostras sem-rotuladas por classe. 7834

7 4. Conclusões este estudo é nvestgada uma nova abordagem para estmação de valores para as probabldades a pror em um classfcador Bayesano. A metodologa aqu proposta faz uso de amostras sem-rotuladas conforme proposto por Jacson e Landgrebe (200). este estudo um passo adconal é ncluído no processo teratvo que re-estma a cada etapa os parâmetros na função de decsão de Bayes, com o objetvo de obter valores mas realstas para as probabldades a pror das classes envolvdas. A metodologa proposta é de fácl mplementação e computaconalmente efcente. Os expermentos desenvolvdos mostram a valdade desta proposta, pelo ncremento resultante na acuráca da magem temátca. Referêncas Bblográfcas Chelsea, C. Whte, III. A Posteror Representatons Based on Lnear Inequalty Descrptons of A Pror and Condtonal Probabltes. IEEE Transactons on Systems, Man, and Cybernetcs, Vol. SMC-6, o. 4, pp , 986. Chttnen, C.B. Maxmum Lelhood Estmaton of Label Imperfecton Probabltes an Its Use n the Identfcaton of Mslabeled Patterns. IEEE Transactons on Geoscence and Remote Sensng, Vol. GE-20, o., pp. 99-, 982. Fuunaga, K. Introducton to Statstcal Pattern Recognton. 2 nd edton, Academc Press, 990. Ibrahm, M.A.; Arora, M. K.; Ghosh, S. K.; Chen, H. Approaches to Improve Accuracy of eural etor Classfcaton of Images Domnated by Mxed Pxels. Proceedngs of the Geoscence and Remote Sensng Symposum, IGARSS, Vol., pp , Jacson, Q.; Landgrebe, D. An Adaptve Classfer Desgn for Hgh-Dmensonal Data Analyss Wth a Lmted Tranng Data Set. IEEE Trasactons on Geoscence and Remote Sensng, Vol. 39, o. 2, pp , 200. Landgrebe. D. Sgnal Theory Methods n Multspectral Remote Sensng. Wley-Interscence, Shashahan, B.M.; Landgrebe, D. The effect of Unlabeled Samples n Reducng the Small Sample Sze Problem and Mtgatng the Hughes Phenomenon. IEEE Trasactons on Geoscence and Remote Sensng, Vol. 32, o. 5, pp , 994. Törmä, M.; Lumme, J.; Patranen,.; Luojus, K. Fuson of Lo Resoluton Optcal and Hgh Resoluton SAR Data for Land Cover Classfcaton, pp , Tran, D. Estmaton of Pror Probabltes n Speaer Recognton. Proceedngs of 2004 Internatonal Symposum on Intelgent Multmeda, Vdeo and Speech Processng, pp. 4-44,