Um classificador baseado na Discriminação Logística: vantagens e desvantagens

Transcrição

1 Um lassfador baseado na Dsrmnação Loísta: vantaens e desvantaens HÉLIO RADKE BITTENCOURT ROBIN THOMAS CLARKE 2 Centro Estadual de esqusas em Sensoramento Remoto e Meteoroloa CESRM UFRGS Caa ostal 5044 CE orto Alere RS, Brasl helorb@povo.net 2 Centro Estadual de esqusas em Sensoramento Remoto e Meteoroloa CESRM UFRGS Caa ostal 5044 CE orto Alere RS, Brasl lare@f.ufrs.br Abstrat: Lost dsrmnaton an be rearded as a partall parametr approah to pattern reonton. The tehnque s qute eneral and robust sne t assumes nothn about the probablt dstrbuton of varables, and the number of parameters to be estmated s relatvel small. Despte ts eneralt and robustness, t s stll not wdel used for lassfn dtal maes. Ths paper desrbes the lost model and dsusses ts advantaes and dsadvantaes; t also ves some results obtaned when usn t to lassf Landsat-TM and AVIRIS maes. Kewords: dtal mae proessn, lost dsrmnaton, pattern reonton, lassfer. Introdução A reressão loísta tornou-se uma téna padrão, sobretudo na área méda, para relaonar um onunto de varáves ndependentes a uma úna varável resposta bnára. A etensão do modelo loísto para varáves resposta poltômas Hosmer e Lemeshow, 989 possblta a sua utlzação na lassfação de maens dtas. Vamos onsderar w, w 2,..., w as lasses presentes em uma maem; X, X 2,..., X o onunto de varáves ndependentes formado pelos ontadores dtas dos pes nas p bandas espetras e, 2,..., p partulares valores das varáves X. Na abordaem estatísta para reonhemento de padrões ada pel da maem é vsto omo um vetor p-dmensonal e portanto, denotaremos um pel smplesmente por. De aordo om o modelo loísto, a probabldade de um dado pel pertener a uma das lasses w pode ser estmada dretamente por meo da seunte epressão: w ep / T β 0 β T β β ep 0 onde, 2 Μ p β β β2 Μ βp

2 O modelo loísto neessta de - vetores de parâmetros a serem estmados, orrespondentes a - lasses presentes na maem. A -ésma lasse é assumda omo base e, portanto, o loartmo natural das razões entre as funções de probabldade das lasses w,...,- e do nível base w são assumdas omo sendo funções lneares: w w T β β 0 / / ln MLahlan 992 onsdera essa a suposção fundamental da abordaem loísta e, por esse motvo, a hama de modelaem paralmente paramétra, porque apenas as razões entre as funções de probabldade das lasses estão sendo modeladas. A utlzação do modelo loísto para dsrmnação de lasses é dreta. Os parâmetros β serão estmados a partr de uma amostra de trenamento, araterzando um lassfador supervsonado. A rera de desão para aloar um dado pel numa das lasses w é muto smples: o pel será aloado na lasse onde a probabldade w / for mas alta. O proesso de estmação dos parâmetros em reressão loísta está baseado na mamzação da função de verossmlhança L,β. ara apresentar a função de verossmlhança do modelo, temos de rar - varáves dumm, as quas hamaremos de, 2,..., -- que assumem o valor se o pel pertene à lasse orrespondente e zero em aso ontráro. n ; ; ep ep ep ep ep,b L Κ Κ onde T β β 0 ep Tomando o loartmo natural da função de verossmlhança, heamos a uma epressão mas smples: 2 2 ln, ln n B L Κ Os - vetores de parâmetros β serão aqueles que mamzam o loartmo da função de verossmlhança. Como a função é laramente não lnear neesstamos da utlzação de métodos numéros para o proesso de mamzação. Esses proessos são teratvos e estão dsponíves em aluns softwares estatístos. No presente estudo utlzamos o proedmento CATMOD do sstema SAS que utlza o método de Newton-Raphson, bastante rápdo para onverêna.

3 2 Vantaens Város autores têm apresentado as vantaens teóras da dsrmnação loísta, prnpalmente quando omparada ao método da máma verossmlhança aussana. Efron 975 dz que, ao menos teoramente, a dsrmnação loísta é mas robusta do que a análse dsrmnante aussana, sendo válda sobre uma rande varedade de dstrbuções. O fato de não neesstarmos da suposção de normaldade multvarada, torna a dsrmnação loísta mas enéra. ress & Wlson 978 e Krzanowas 988 onsderam que há pratamente um onsenso de que a dsrmnação loísta deve ser preferda quando as dstrbuções são laramente não aussanas. Outra mportante vantaem do modelo loísto é o reduzdo número de parâmetros. Em reressão loísta neesstamos de p para dsrmnação de lasses onsderando as p bandas espetras dsponblzadas pelo sstema sensor. Esse número é muto nferor ao neessáro pelo método da Máma Verossmlhança Gaussana. A fura apresenta um omparatvo entre o número de parâmetros neessáros pela dsrmnação loísta, o método da máma verossmlhança aussana om matrz de ovarâna omum e a máma verossmlhança om dferentes matrzes ovarâna. Fura Número de parâmetros neessáro para dsrmnação de 3 lasses em função do número de bandas espetras 700 Número de parâmetros Número de bandas espetras p MaVer: Matrzes ovarâna dferentes MaVer: Matrz ovarâna omum Dsrmnação Loísta É vsível que, enquanto o resmento do número de parâmetros na dsrmnação loísta é lnear, o número de parâmetros rese quadratamente na máma verossmlhança aussana. Esse resultado transforma-se medatamente numa vantaem da reressão loísta, pos nda que é neessáro um número menor de amostras de trenamento para o proesso de estmação de parâmetros.

4 A reressão loísta também apresenta uma vantaem na nterpretação dos resultados, porque ada pel terá uma probabldade de pertener a ada uma das lasses. Sendo assm, nterpretações omo o pel tem 70% de hane de pertener a lasse de veetação são perfetamente possíves. Bttenourt e Clare 2000 apresentaram resultados obtdos om a utlzação da dsrmnação loísta na lassfação de maens dtas, mostrando que é possível obter resultados semelhantes ou até melhores do que o método da máma verossmlhança aussana. 3 Desvantaens O prmero problema em reressão loísta onsste na obratoredade da utlzação de métodos numéros para obtenção da solução de máma verossmlhança. Métodos numéros nem sempre onverem. O seundo problema é ríto pos se refere a orrelação estente entre as p bandas espetras. O modelo loísto é bastante sensível à olneardade, sendo que as onseqüênas são erros padrão etremamente elevados que não permtem a realzação de testes de snfâna para os oefentes β. Os testes realzados om maens dtas mostraram que, mesmo om a parte nferenal sarfada, é possível obter eelentes resultados om o lassfador loísto. 4 Resultados A lassfação das maens dtas fo realzada por rotnas elaboradas em MATLAB, a partr das estmatvas dos parâmetros obtdas no SAS. Supomos que não haam proramas de proessamento de maens que mplementem a dsrmnação loísta. A fura 2 apresenta uma maem Landsat-TM omposta de 436 lnhas, 535 olunas e 6 bandas espetras e a respetva maem lassfada. Fura 2 Semento de uma maem Landsat-TM, omposção olorda R-G-B e maem lassfada por dsrmnação loísta As três lasses onsderadas para lassfação foram: áua, veetação e ulturas. A amostra de trenamento fo de pouo mas de ml pes, sendo que a maem onta om mas de 230 ml

5 pes. Numa amostra de teste de 992 pes, o perentual de aerto da dsrmnação loísta fo de 99,6%. Vsualmente, podemos pereber que os prnpas problemas oorreram na lassfação de uma estrada e em alumas áreas entre olnas que foram lassfados omo áua. O modelo estmado para lassfação fo o seunte: w / e e Classes: w Áua w 2 Culturas w 3 Veetação *.984* * * * * * * * * * * Na estmação dos parâmetros houve problema de olneardade, mas apesar dos testes de snfâna não terem sdo realzados para todos oefentes β do modelo, o resultado da lassfação fo bom. A seur testamos a dsrmnação loísta para lassfação de um semento de uma maem AVIRIS onde estem lasses om um omportamento espetral médo muto semelhante e a verdade terrestre é onheda. A fura 3 apresenta a maem. Fura 3 Imaem AVIRIS omposção olorda R-G-B e verdade terrestre Apesar da maem ontar om 220 bandas espetras, optamos por uma amostra sstemáta de 0 bandas, o que nos levou a estmação de 44 parâmetros. A fura 4 apresenta o omportamento espetral médo das no lasses presentes na maem.

6 Fura 4 Comportamento espetral médo das lasses nas dez bandas espetras 5500 Comportamento espetral médo das lasses Contadores dtas B6 B26 B56 B76 B96 B26 B46 B76 B96 B26 Bandas Sobean-mn Sobean-notll Grass-asture Corn-mn Grass-Trees A fura 5 mostra a maem lassfada va máma verossmlhança aussana e dsrmnação loísta, ao lado da verdade terrestre. Fura 5 Imaens temátas e verdade terrestre: prmera maem lassfada por máma verossmlhança aussana; seunda maem lassfada por dsrmnação loísta. Os dos modelos onfundram uma das parelas da maem orrespondente a lasse Sobeanmn. Isso oorreu porque a amostra de trenamento ontemplou apenas o lado esquerdo da maem. De qualquer forma, o modelo loísto fo apaz de dferenar lasses om omportamento espetral médo muto semelhante, omo Grass-pasture e Grass-trees, o que é altamente deseável. Mesmo om um número bem menor de parâmetros no modelo, a dsrmnação loísta permtu a obtenção de resultados semelhantes ao método da máma verossmlhança aussana.

7 5 Consderações fnas O fato do modelo loísto não fazer restrções quanto a forma funonal das varáves, torna a dsrmnação loísta mas eral quando omparada a métodos onvenonas de lassfação, omo a máma verossmlhança aussana. Além dsso, o número de parâmetros do modelo é relatvamente bao, permtndo uma menor quantdade de amostras de trenamento. Mesmo om a possbldade de problemas na estmação, oasonados pela olneardade, suermos que a dsrmnação loísta sea onsderada omo uma alternatva vável para lassfação de maens dtas. Os estudos epermentas om maens Landsat e AVIRIS mostraram que, mesmo quando a parte nferenal for sarfada, o perentual de pes orretamente lassfados pode ser alto, nlusve quando as lasses apresentarem omportamento espetral semelhante. Referênas Bttenourt, H. e Clare, R.T Estudo omparatvo entre o modelo de dsrmnação loísto e o método da máma verossmlhança aussana. In: IX Smpóso Latoamerano de erepón Remota, uerto Iuazú, Anas do IX Smposo Latnoamerano de erepón Remota. Luán: UNLU. em fase de publação Efron, B. 975 The effen of lost reresson ompared to normal dsrmnant analss. Journal of the Ameran Statstal Assoaton, vol. 70, no. 352., p Hosmer, D. and Lemeshow, S Appled Lost Reresson. New Yor: John Wle & Sons. Krzanows, W. J. 988 rnples of Multvarate Analss. Oford: Clarendon ress. MLahlan, G. 992 Dsrmnant Analss and Statstal attern Reonton. New Yor: John Wle & Sons. ress, J. and Wlson, S. 978 Choosn between lost reresson and dsrmnant analss. Journal of the Ameran Statstal Assoaton, vol. 73, no. 364., p