REDUÇÃO DE DIMENSIONALIDADE ATRAVÉS DUMA ANÁLISE EM COMPONENTES PRINCIPAIS: UM CRITÉRIO PARA O NÚMERO DE COMPONENTES PRINCIPAIS A RETER

Transcrição

1 REDUÇÃO DE DIMENSIONALIDADE ATRAVÉS DUMA ANÁLISE EM COMPONENTES PRINCIPAIS: UM CRITÉRIO PARA O NÚMERO DE COMPONENTES PRINCIPAIS A RETER REDUCING DIMENSIONALITY BY MEANS OF A PRINCIPAL COMPONENT ANALYSIS: A CRITERION TO CHOOSE HOW MANY PRINCIPAL COMPONENTS SHOULD BE RETAINED Auor: Jorge F. C. L. Cadma - Professor Auxlar - Dearameno de Maemáca - Insuo Sueror de Agronoma RESUMO: A escolha do número de facores a reer, no conexo duma redução de dmensonaldade aravés duma Análse em Comonenes Prncas, em sdo objeco de numerosos créros, em que geralmene são necessáras oções de naureza subjecva or are do ulzador, e/ou hóeses dsrbuconas subjacenes. Nesa comuncação aresena-se um novo créro, que eva os referdos roblemas. O créro basea-se em roredades geomércas, assocadas à esruura do cone de marzes sem-defndas osvas, que sugerem uma dmensonaldade mínma admssível. A esruura do cone, resulane da nrodução do habual roduo nerno marcal, veda deermnadas zonas do cone à resença de marzes de caraceríscas reduzdas. PALAVRAS-CHAVE: Comonenes Prncas, análse facoral, redução de dmensonaldade, cone de marzes sem-defndas osvas. ABSTRACT: There are numerous crera o choose how many Prncal Comonens should be reaned when reducng dmensonaly va a Prncal Comonen Analyss. Subjecve decsons by he user, and/or dsrbuonal hyoheses are usually necessary when alyng hese crera. Ths communcaon rooses a new creron whch avods hese roblems. The creron s based on geomerc roeres of he cone of osve sem-defne marces, ha sugges a smalles admssble dmensonaly. The srucure of he cone, whch s assocaed wh he use of he usual marx nner roduc, recludes he resence of lowrank marces n ceran areas of he cone. KEY-WORDS: Prncal comonens, facoral analyss, dmensonaly reducon, cone of osve semdefne marces.

2 . INTRODUÇÃO Na análse de conjunos de dados mulvarados, a ossbldade de reduzr a dmensonaldade dos dados sem grande erda de nformação desemenha um ael crucal. Caso seja admssível roceder a uma aroxmação em esaços b- ou r-dmensonas, ornarse-á ossível uma vsualzação gráfca aroxmada do conjuno de dados. Mesmo quando não seja ossível uma redução de dmensonaldade ão acenuada, as smlfcações assocadas à consderação de menos dmensões êm rovado ser úes ara a comreensão, exloração e modelação de dados. A redução de dmensonaldade é geralmene efecuada or meo de écncas de análse facoral, e no caso concreo de se analsar uma marz X de observações de varáves sobre n ndvduos, aravés duma Análse em Comonenes Prncas (ACP). Numa ACP conexo que será aqu analsado em ormenor, aesar de muo do que se segue ser ambém váldo ara análses facoras em geral denfcam-se sucessvas combnações lneares das varáves orgnas que sejam de varânca máxma, sujeas às resrções de nãocorrelaconameno com anerores combnações lneares. Esas combnações lneares desgnam-se Comonenes Prncas (CPs) ou facores. Os coefcenes que defnem cada combnação lnear são dados elos elemenos de cada vecor róro da marz Σ de varâncas-covarâncas defnda elos dados (ou ela marz de correlações, caso se oe or rabalhar com dados normalzados). O valor róro assocado a cada vecor róro ndca a varânca da CP corresondene. O quocene desse valor róro sobre a soma dos valores róros (so é, sobre o raço da marz Σ ) desgna-se a roorção da nérca da nuvem de onos defnda ela marz dos dados assocada à CP em quesão. Esa nerreação é exensível a conjunos de CPs. Veja-se (Jollffe, 986) ara uma dscussão mas ormenorzada sobre a Análse em Comonenes Prncas. A quesão que se reende aqu abordar rende-se com a deermnação duma dmensonaldade mínma admssível ara a reresenação dos dados orgnas, so é, a denfcação do número k de Comonenes Prncas (facores) a reer de forma a se oder consderar aceável uma aroxmação k-dmensonal dos dados. Inúmeras regras e créros êm sdo roosos com esa fnaldade. Recenseamenos desses créros, no conexo de ACP, enconram-se em (Jollffe, 986, Caíulo 6), e mas recenemene em (Rchman, Angel & Gong, 99). A dea cenral subjacene a as créros é a de que facores assocados a valores róros róxmos de zero odem ser desrezados sem grande erda de nformação. Os créros roosos odem agruar-se em duas caegoras fundamenas: os créros descrvos, que não consderam qualquer modelo ou dsrbução subjacene, e os créros nferencas, nos quas as hóeses dsrbuconas desemenham um ael cenral. De enre a rmera caegora, refram-se, a íulo de exemlo, o créro de gnorar CPs aós se er angdo uma deermnada roorção cumulava de nérca exlcada (rovavelmene o créro mas frequenemene ulzado); o créro de Kaser, de exclur CPs assocados a valores róros nferores ao valor róro médo (ou a varane de Jollffe, que baxa esse lmar ara 70% do valor róro médo); e créros baseados na análse vsual de gráfcos de valores róros, ou logarmos de valores róros, conra as resecvas ordens (gráfcos scree ou LEV), onde é frequene enconrar um adrão de rádo decréscmo ncal segudo de uma esablzação dos valores róros em orno de valores róxmos de zero, que dá aos gráfcos o aseco duma reca quase horzonal, rocedendo-se à elmnação de CPs assocadas a essa regão do gráfco. De enre a segunda caegora, ce-se o exemlo dum ese A exressão análse facoral é aqu usada no sendo mas lao, redomnane na leraura de orgem francesa, ndcando de forma genérca écncas baseadas em análses esecras ou em valores sngulares. Não deve ser confundda com a écnca mas esecífca, correnemene desgnada or Facor Analyss na leraura anglo-saxónca. Para uma dscussão das relações enre esa úlma écnca e a Análse em Comonenes Prncas, veja-se (Jollffe, 986, Caíulo 7).

3 assnóco à gualdade dos q menores valores róros duma marz de varâncascovarâncas, admndo a mulnormaldade dos dados subjacenes (Jollffe, 986, g.44). No enano, nenhum créro recolhe consenso generalzado. Em relação aos créros nferencas, são evdenes as resrções mosas elas hóeses dsrbuconas, ou modelos exgíves. E a maor generaldade dos créros deermníscos envolve geralmene arecações de naureza subjecva (qual o lmar a arr do qual se consdera admssível uma dada roorção da nérca oal exlcada; qual o lmar ara se consderar um deermnado valor róro como sendo desrezável; qual o lmar a arr do qual um gráfco scree ou LEV se consdera aroxmadamene horzonal; ec.) que odem conduzr a oções dferenes or dferenes ulzadores. Alguns créros são anda de alcação algo rabalhosa. O créro aqu rooso em as vanagens de não exgr hóeses dsrbuconas, de ser de alcação smles e de ser um créro objecvo, no sendo de conduzr a uma dmensonaldade mínma admssível com base em consderações de naureza geomérca que não envolvem oções subjecvas or are do ulzador. Na Secção aresenam-se os resulados eórcos que susenam o créro. Ese úlmo é aresenado na Secção 3. Fnalmene, a Secção 4 dscue o créro.. ALGUMAS PROPRIEDADES DO CONE DE MATRIZES SEMI-DEFINIDAS POSITIVAS Admr a redução de dmensonaldade numa ACP dum conjuno de dados nx equvale a admr que os dados odem ser rojecados sobre um subesaço k-dmensonal sem erda subsancal de nformação. Do ono de vsa da marz de varâncas-covarâncas (ou de correlações) assocada aos dados, essa hóese equvale a consderar que a marz é aroxmadamene de caracerísca k, conceo que será formalzado segudamene. As marzes de varâncas-covarâncas (ou de correlações) são semre marzes semdefndas osvas, ou seja, marzes smércas A x cujas formas quadrácas são semre não-negavas,.e., as que x Ax 0, x R /{ 0}. Conversamene, qualquer marz semdefnda osva (s.d..) é semre uma marz de varâncas-covarâncas ara uma nfndade de marzes de dados (qualquer que seja o número n de ndvíduos observados), elo que os dos conceos se confundem. Relembremos agora o conceo de cone. Defnções. ) Um subconjuno C dum esaço lnear desgna-se um cone se fôr fechado ara + combnações lneares não-negavas: x, y C e α,β R, α x + βy C. 0 ) Num cone C, dado qualquer elemeno V do cone, desgna-se or rao assocado a V ao conjuno de odos os múllos escalares de V, com escalares não-negavos. É fácl de verfcar que o conjuno das marzes sem-defndas osvas de dmensão x forma um cone no esaço lnear das marzes quadradas x, uma vez que se V e W forem marzes s.d.. e α, β 0, enão x ( α V + βw ) x αx Vx + βx Wx 0, x 0. Desgnemos or D o cone das marzes s.d.. de dmensão, cone que é dscudo em mas ormenor or (Hll & Waers, 987). A defnção dum roduo nerno no esaço lnear de marzes x e or consegune no cone D erme defnr o conceo de ângulo enre duas marzes (ou seja, enre os raos

4 defndos or duas marzes). Como se verá segudamene, ese conceo dará uma esruura neressane ao cone, que sugere, de forma naural, uma solução ara o roblema sob consderação. Defnção. Seja M nx o esaço lnear das marzes nx, mundo do habual roduo nerno marcal, defndo or <A,B> r(a B), A, B M nx, onde r desgna o raço. Para A, B 0, defna-se o ângulo enre as marzes A e B como sendo o arco cujo coseno é dado or: cos( A, B) A, B A B onde A r( A A) é a norma nduzda elo roduo nerno. Na esruura do cone D de marzes s.d.., um ael cenral é desemenhado elo rao defndo ela marz dendade x, I. Os resulados segunes, baseados no rabalho de (Tarazaga, 990) e desenvolvdos em (Cadma, 997) snezam a esruura que nos rá neressar. Teorema. Consdere-se o cone D de marzes sem-defndas osvas x. Consdere-se a marz dendade I D, e qualquer oura marz róros sejam os elemenos do vecor ( R + 0 ) ) cos(, I ). Enão: V D, cujos valores V, onde σ ( ) + σ varânca dos valores róros relavos da marz V, so é, dos. j j é a ) cos(, I ) V se e só se V fôr uma marz de caracerísca. k ) Se V é uma marz de caracerísca k, enão cos( V, I ), verfcando-se a gualdade se e só se os k valores róros não-nulos de V forem odos guas. Demonsração. Nesa demonsração serão usadas as conhecdas desgualdades relaconando as normas l e l dum qualquer vecor & Johnson, 985, g. 79). x n R : x x n x (Horn ) Seja V PΛP a decomosção esecral de V, onde L ndca a marz dagonal cuja dagonal é consuída elos elemenos do vecor l (adma-se, sem erda de generaldade, que esão ordenados or ordem decrescene) e P é a marz orogonal cujas colunas são os vecores róros corresondenes. Pela defnção de roduo nerno enre duas marzes, e ela crculardade do raço do roduo marcal, emse:

5 ( ) V, I r V (já que odos os valores róros são não- negavos); V r( V ) r( PΛ P ) r( Λ ) ; e I r( I ). Logo, fca rovada a rmera gualdade. Ora, σ, uma vez que Logo,.. A desgualdade fnal resula + σ drecamene de x x ara qualquer vecor x. ) Tendo em cona, como fo vso, que cos( V, I ), em-se cos( V, I ), onde desgna o vecor - dmensonal dos valores róros relavos,, já que. Nesse caso, em de ser colnear com um dos exos coordenados, ou seja er - coordenadas nulas, e a resane coordenada com valor ±. Como a marz V é sem-defnda osva, e dada a ordenação admda ara os valores róros, sso sgnfcara e 0, >. Assm, V em de ser uma marz de caracerísca. ) Já vmos que cos( V, I ) ara qualquer marz s.d.. V. No caso de V ser de caracerísca k, os úlmos -k valores róros de V serão nulos, elo que k. Desgnando or o vecor k-dmensonal cujos elemenos são os k valores róros relavos não-nulos de V, { k } k, vemos que cos( V, I ), já que k e. A gualdade verfca-se se e só se k, suação que equvale a er odos os elemenos do vecor guas, so é, odos os valores róros não-nulos de V guas. (c.q.d.) O Teorema mosra que o cone de marzes x sem-defndas osvas D em uma esruura esrafcada, com sucessvos sub-cones encaxados, conforme lusrado na Fgura.

6 rao cenral cone de marzes sem-defndas osvas No cenro do cone enconra-se o rao cenral, defndo ela marz dendade I. Na regão que rodea o rao cenral, e que é consuída or marzes cujos raos assocados defnem ângulos com o rao cenral menores que arccos, aenas oderemos enconrar marzes de caracerísca lena (caracerísca ). Esse núcleo é rodeado or uma fronera consuída elas marzes x cujo ângulo com o rao cenral é recsamene arccos. Essas marzes odem ser de caracerísca lena, ou de caracerísca -, mas nese úlmo caso aenas se forem múllos escalares de marzes de rojecção orogonal sobre algum subesaço de dmensão -. Segue-se um esrao consuído or marzes cujo ângulo θ com o rao cenral se enconra no nervalo arccos < θ < arccos. Nesse esrao enconram-se aenas marzes de caracerísca ou -. Na fronera desse esrao consuída elas marzes cujo ângulo com o rao cenral é recsamene arccos enconramos, além de marzes de caracerísca ou -, ambém marzes de caracerísca -, mas aenas se forem múllos escalares de marzes de rojecção sobre subesaços de R de dmensão -. Segue-se um novo esrao, comoso or marzes cujo ângulo θ com o rao cenral sasfaz arccos < θ < arccos, onde resdem marzes de caraceríscas, 3 - e -, ermnando numa fronera defnda or θ arccos 3, onde surgem ambém múllos escalares de marzes de rojecção sobre subesaços de dmensão -3. Sucessvos esraos, defndos de forma análoga à medda que aumena o ângulo θ, rão assar a nclur marzes de caraceríscas cada vez mas baxas. A regão exeror do cone é consuída elas marzes que defnem raos que formam um ângulo arccos com o rao cenral. Essas marzes são recsamene as marzes x de caracerísca, so é, marzes da forma xx ara algum vecor x R e R +. Embora marzes de caraceríscas baxas não se ossam enconrar ero do núcleo cenral do cone, que rodea o exo cenral, odem-se enconrar marzes de caraceríscas elevadas, ou aé de caracerísca lena, em odo o cone (exceo se formam o ângulo máxmo

7 com o rao cenral, admssível exclusvamene ara marzes de caracerísca ). Tal faco não é movo de surresa, os marzes de caracerísca lena odem er valores róros arbraramene róxmos de zero, comorando-se como marzes de caracerísca reduzda do ono de vsa da varânca dos seus valores róros relavos que, como vmos no Teorema, deermna em úlma análse o osconameno angular de cada marz no cone das marzes sem-defndas osvas. E é recsamene ese faco que sugere um créro ara a escolha da redução de dmensonaldade admssível ara um qualquer conjuno de dados. 3. O CRITÉRIO Comecemos or nroduzr o conceo de seudo-caracerísca duma marz semdefnda osva. Defnção. Seja V uma marz x sem-defnda osva. A seudo-caracerísca de k* V é o menor nero k* al que cos( V, I ). Trabalhando com as exressões anerormene obdas ara cos( V, I ) é fácl de verfcar que a seudo-caracerísca duma marz s.d.. é dada or: k* r ( ) V r( V ) (onde x desgna o menor nero maor ou gual a x), já que j j. Tendo em cona a esruura do cone D arás dscuda, a seudo-caracerísca duma marz s.d.. V corresonde à menor caracerísca das marzes s.d.. que se enconram no mesmo esrao do cone que a marz V. Esse osconameno de V sugere que ode fazer sendo reduzr a dmensonaldade de V aé à sua seudo-caracerísca, mas não ulerormene. A íulo lusravo, aresenam-se na Tabela as dmensões e seudo-caraceríscas de algumas marzes de covarâncas e correlações referdas na leraura esaísca. Na Tabela ndcam-se anda as ercenagens cumulavas de nérca assocadas a uma redução ara a dmensonaldade da seudo-caracerísca. Dados To de marz No. varáves seudocaracerísca % nérca cumulava Irs vergnca covarânca 4 90,6 Irs vergnca correlação ,79 Irs seosa covarânca 4 88,4 Irs seosa correlação ,7 Irs verscolor covarânca 4 89,67 Irs verscolor correlação 4 86,8 Almenos Lebar 3 covarânca 7 96,46 Almenos Lebar correlação ,06 Pro 4 correlação ,9 3 Os dados relavos aos líros devem-se a Fsher e enconram-se em numerosas fones, e.g., (Krzanowsk, 988, g. 46). Ese conjuno de dados é dscudo em (Lebar e al, 98).

8 Adelges 5 correlação 9 85,5 Orhem 6 correlação ,75 Lagosns Somers 7 covarânca 3 90,00 Lagosns Somers correlação ,35 Exlorações agrícolas 8 correlação ,80 4. A DISCUSSÃO A escolha da dmensonaldade a reer, or meo da seudo-caracerísca da marz de varâncas-covarâncas Σ (ou de correlações) dos dados sob análse, aresena as segunes vanagens: ) é um créro objecvo, no sendo de não esar sujeo a arecações dferencadas or are de ulzadores dferenes; ) é de cálculo muo fácl, envolvendo aenas os raços de Σ e de Σ ; ) enra em lnha de cona com odos os valores róros de Σ (aravés da varânca dos valores róros a dvdr elo raço de Σ ), e não aenas com alguns, so é, ulza a oaldade da nformação dsonível; v) em uma jusfcação geomérca, ndeendenemene da naureza dos dados sob esudo; v) não exge qualquer hóese dsrbuconal ou modelo subjacene. Algumas desas vanagens (em arcular as úlmas) oderão ser encaradas como desvanagens em suações arculares, como sejam quando se deseja esudar a adequabldade dum deermnado modelo, ou quando a naureza da alcação aconselha ouros créros de escolha. Mas na generaldade das suações onde uma análse facoral se alca como écnca exloraóra, a nexsênca de hóeses révas sobre a naureza dos dados é, sem dúvda, uma vanagem. Como ara qualquer ouro créro, haverá asecos ou suações arculares onde se oderá consderar que a seudo-caracerísca ndca um número excessvamene elevado ou reduzdo de facores (CPs) a reer. Imora sublnhar que a seudo-caracerísca deve ser vsa como uma dmensonaldade mínma admssível, no sendo de ndcar que a marz Σ esá numa regão do cone D que esá vedada a marzes de caraceríscas nferores, mas que nada obsa a que se consderem aroxmações de dmensonaldade sueror. Por ouro lado, o faco de cada esrao do cone ser delmado or froneras onde se enconram marzes de caracerísca nferor (desde que enham odos os valores róros não-nulos guas) crará suações onde odera ser enador consderar dmensonaldades nferores às sugerdas ela seudo-caracerísca. Por exemlo, uma marz de varâncas-covarâncas de dmensão 3 que enha os dos rmeros valores róros guas, erá seudo-caracerísca 3 ara valores arbraramene equenos (mas não-nulos) do úlmo valor róro. No enano, rocurar-se ajusar o créro a fm de obvar a algumas suações dese o é, or um lado, um exercíco condenado anecadamene ao fracasso (haverá semre marzes arbraramene róxmas de qualquer fronera que se quera consderar) e or ouro lado, desró uma das vanagens do créro: a sua naureza objecva Dados dscudos em (Jeffers, 967). Dados dscudos em (Jeffers, 967). Dados aresenados or Orhem e dscudos em (McCabe, 984). Dados dscudos em (Cadma & Jollffe, 00). Dados referdos em (Cadma & Jollffe, 00).

9 Por udo quano fcou do, consdera-se que a seudo-caracerísca da marz de varâncas-covarâncas (ou de correlações) dum conjuno de dados é uma boa escolha ara a dmensonaldade mínma admssível na redução da dmensonaldade desses dados. REFERÊNCIAS BIBLIOGRÁFICAS CADIMA, J. Algumas alcações do Produo Inerno Marcal Usual na Análse de Comonenes Prncas, n A Esaísca a Decfrar o Mundo, Acas do IV Congresso Anual da Socedade Poruguesa de Esaísca, Edções Salamandra, gs , 997. CADIMA, J. & JOLLIFFE, I.T. Varable selecon and he nerreaon of rncal subsaces, Acee ara ublcação no Journal of Agrculural, Bologcal and Envronmenal Sascs, 00. HILL, R.D. & WATERS, S.R. On he cone of osve sem-defne marces, Lnear Algebra and s Alcaons, 90, gs. 8-88, 987. HORN, R. & JOHNSON, C. Marx Analyss, Cambrdge Unversy Press, 986. JEFFERS, J.N.R. Two case sudes n he alcaon of rncal comonen analyss, Aled Sascs, 6, gs. 5-36, 967. JOLLIFFE, I.T. Prncal Comonen Analyss, Srnger-Verlag, 986. KRZANOWSKI, W.J., Prncles of Mulvarae Analyss, Oxford Unversy Press, 988. LEBART, L.; MORINEAU, A. & FÉNELON, J.-P., Tramen des données sasques, Dunod, 98. McCABE, G.P., Prncal Varables, Technomercs, 6(), gs RICHMAN, M.B.; ANGEL, J.R. & GONG, X. Deermnaon of Dmensonaly n Egenanalyss, Proceedngs of he 5h Inernaonal Meeng on Sascal Clmaology, Torono, 99. TARAZAGA, P. Egenvalue esmaes for symmerc marces, Lnear Algebra and s Alcaons, 35, gs. 7-79, 990.