Universidade Estadual de Campinas Faculdade de Engenharia Elétrica e de Computação Departamento de Engenharia de Computação e Automação Industrial

Transcrição

1 niversiae staual e Campin Faulae e ngenharia létria e e Computação Departamento e ngenharia e Computação e utomação nustrial PLCÇÕS D MPS T-RGNZÁVS M MNRÇÃ D DDS RCPRÇÃ D NFRMÇÃ Mário Henrique Zuhini rientaor: Prof. Dr. Fernano José Von Zuben Dissertação e Mestrao apresentaa à Faulae e ngenharia létria e e Computação (FC - NCMP) omo parte os requisitos exigios para obtenção o título e Mestre em ngenharia létria Área e Conentração: ngenharia e Computação Bana xaminaora Prof. Dr. Fernano José Von Zuben (rientaor) NCMP niversiae staual e Campin Campin SP. Prof. Dr. Mário Luiz e nrae Netto (Membro nterno) NCMP niversiae staual e Campin Campin SP. Prof. Dr. Leanro Nunes e Ctro Silva (Membro xterno) NSNTS niversiae Católia e Santos Santos SP. Prof. Dr. Carlos uaro Câmara (Membro xterno) SF niversiae São Franiso tatiba SP. Campin São Paulo Bril Setembro e 3 i

2 FCH CTLGRÁFC LBRD PL BBLTC D ÁR D NGNHR - B - NCMP Z8a Zuhini, Mário Henrique pliações e map auto-organizáveis em mineração e aos e reuperação e informação / Mário Henrique Zuhini.--Campin, SP: [s.n.], 3. rientaor: Fernano José Von Zuben Dissertação (mestrao) - niversiae staual e Campin, Faulae e ngenharia létria e e Computação.. Map topográfios.. Rees neurais (Computação). 3. Variáveis latentes. 4. nexação automátia. 5. Mapeamento (Matemátio).. Von Zuben, Fernano José.. niversiae staual e Campin. Faulae e ngenharia létria e e Computação.. Título. ii

3 Resumo sta issertação está voltaa ao estuo e ois métoos para mineração e aos e alta imensionaliae e em grane volume. Mapa uto-rganizável e Kohonen (SM: Self- rganizing Maps) e o Mapeamento Topográfio Gerativo (GTM: Generative Topographi Mapping) são métoos já propostos na literatura e araterizaos pela apliação e proeimentos avançaos e visualização gráfia, reorreno a téni istint e reução e imensionaliae om requisitos e preservação topológia. Consierano a apliação os ois métoos a vários onjuntos e aos, são apresentaos resultaos promissores, inluino análise e sensibiliae à variação e parâmetros e proposição e refinamentos empírios visano inremento e esempenho. lém o emprego e onjuntos e aos já prontos para serem proessaos, são onsieraos também textos em português, os quais preisam ser eviamente preparaos para análise e requerem form alternativ e efinição o ontexto. bstrat This issertation is evote to the stuy of two methos for mining high-imensional an voluminous ata. The Kohonen Self-rganizing Map (SM) an the Generative Topographi Mapping (GTM) are methos alreay presente in the literature an haraterize by the appliation of avane graphial visualization proeures, be on istint imension reution tehniques subjet to topology preserving requisites. Consiering the appliation of both methos to several ata sets, promising results are presente, inluing sensitivity analysis of parameter variation an the proposal of empirial refinements to improve performane. Besies using ata sets alreay prepare to be proesse, texts in Portuguese are also onsiere. They k for speifi preproessing before being analyze, an require alternative proposals to set the ontext. iii

4 .. iv

5 meus pais, Siney e na, sem os quais não hegaria até aqui. minha esposa Karen, que ensinou-me a fé e o amor. meu filho, Pero Henrique, a quem tant hor e brinaeir e jogos foram aia sem que este ompreenesse o porquê e papai está trabalhano. Sou eternamente grato a toos. v

6 .. vi

7 graeimentos graeço primeiramente ao Professor Doutor Fernano José Von Zuben, meu orientaor, que areitou em mim e inentivou-me para a onlusão este trabalho, fae aos inúmeros peralços o trajeto. Professor Fernano foi quem apresentou-me ao tema entral esta issertação e seu apoio, paiênia e ireionamentos valiosos tornaram possível este trabalho. graeço também ao Professor Doutor Carlos uaro Câmara, um ompanheiro e perurso e e isussões profíu, entro e fora o ontexto este trabalho, agraiano-me inontáveis vezes om sua paiênia, onheimento e amizae. lguns experimentos e vários entenimentos não teriam sio possíveis sem a olaboração e Johan Frerik Markus Svensén, Lalinka e Campos Teixeira Gomes, lair Gallaini Prao e Peter Janl Jr. u agraeço fraternalmente a toos. ste trabalho ontou om o suporte finaneiro a CPS. vii

8 . viii

9 Sumário Resumo...iii bstrat...iii Capítulo ntroução.... bjetivos e prinipais ontribuições rganização o trabalho... 5 Capítulo Métoos para Mineração e Daos.... ntroução.... Métoos simples e visualização....3 Métoos e grupamento grupamentos Hierárquios grupamentos Partiionais Métoos e Projeção peraores Lineares nálise e Componentes Prinipais (PC) peraores Não Lineares salonamento Multiimensional (MDS) Projeção e Sammon Curv Prinipais (PC) nálise por Componentes Curvos (CC) Métoos Gerativos Mistura e ensiaes nálise e Fatores (F) Consierações finais Capítulo 3 Map uto-rganizáveis Moelo formal lgoritmos e Treinamento nterpretação o mapa prouzio pelo SM rranjos niimensionais rranjos Biimensionais rranjos N-imensionais boragens variantes Variantes na forma e esolha o neurônio BM Variantes no ritério e vizinhança aotao utr aboragens nálise e visualização e aos usano SM Sobre a esolha e map...6 ix

10 3.. Fator e ampliação (Magnifiation Fator) Consierações sobre os parâmetros...3 Capítulo 4 moelo e Mapeamento Topográfio Gerativo (GTM) Moelo formal Moelo e variáveis latentes algoritmo M (xpetation-maximization) nálise e visualização e aos usano GTM Sobre a esolha e moelos Fator e ampliação Consierações sobre os parâmetros...9 Capítulo 5 pliações em Mineração e Daos ntroução Conjuntos e aos públios Conjunto Gls Conjunto onosphere Conjunto Letter Conjunto Zoo Consierações Conjunto e aos e estilos e aprenizao... 3 Capítulo 6 pliações em Reuperação e nformação Reuperação e nformação apliaa a oumentos textuais Métoos e rmazenamento e Reuperação e Doumentos Moelo booleano Moelo e espaço vetorial nexação Semântia Latente SM Semântio SM e Doumentos Projeção ranômia utros moelos e variações so e SM e GTM em Reuperação e nformação xperimento Conjunto C xperimento Conjunto nsf...9 Capítulo Conlusão Contribuições xtensões nexo valiação e stilo e prenizagem LS Referêni Bibliográfi... Bibliografia onsultaa... Ínie e Citação e utores... 3 x

11 Lista e Sigl C SSM TW BM CC CD C DNS M (algoritmo) F FQ GCS GG GG GNG GSM GTM GG KDD KNS logl LS Matriz- MDS MST NG bstrat Coneptualization tive xperimentation aptive Subspae SM aptive Tensorial Weighting Best Mathing nit Curvilinear Component nalysis Curvilinear Distane nalysis Conrete xperiene Dynamial Noe Splitting xpetation-maximization Fator nalysis Frequently ske Questions Growing Cell Struture Growing Gri Garbage n Garbage ut Growing Neural G Growing SM Generative Topographi Mapping nremental Growing Gri Knowlege Disovery in Databes Kohonen Network norporating xpliit Statistis log likelihoo Latent Semanti nexing Matriz e istânia unifiaa (nifie Distane Matrix) Multi Dimensional Saling Minimum Spanning Tree Neural G xi

12 PC PC PSM Q R SL-SM SM SVD T WT Prinipal Curves Prinipal Component nalysis Prunning SM Quantization rror Reflexive bservation Self-Labeling SM Self-rganizing Maps Singular Value Deomposition Topographi rror Winner Takes ll xii

13 Capítulo ntroução N últim u éa, a humaniae tem se eparao om um problema que aumenta exponenialmente em omplexiae: a mineração e aos (ata mining). ste termo envolve a ativiae e apliar téni espeífi sobre onjuntos e aos, om o objetivo e revelar parões, similariaes e iferenç, e prouzir regr e resumos, a partir estes aos (Fayya et al. 996a,b). É notório que a apaiae e geração, obtenção e armazenamento e aos já ultrapsou, em muito, a apaiae humana e analisar e obter informação relevante estes mesmos aos, os quais tenem a ser aoniionaos em bes e aos através e ferrament aa vez mais sofistia e efiientes. lém isso, o avento a nternet, aliaa a seu resimento vertiginoso, tem msifiao o aesso à informação e oloao um volume imenso e aos isponível a pratiamente qualquer pessoa em qualquer ponto a Terra. Da soiação entre estes ois fatores emerge um enário esafiaor, voltao para a esoberta e novos onheimentos e para a reuperação e informações relevantes. volume resente e aos geraos e isponibilizaos por governos, empres, universiaes e pesso físi, traz uma ifiulae resente para responer a pergunt omo: - o que se poe extrair e informação a partir estes aos? - quais os agrupamentos (lusters) existentes nestes aos? - o que torna estes agrupamentos semelhantes (ou istintos) entre si? Consiere, também, os os em que informações são isponibiliza em forma textual, omo é o o e grane parte o material existente na nternet. tualmente, seria extremamente ifíil, senão impossível, atalogar esta informação por meios manuais, e

14 ferrament traiionais e reuperação e informação, que tentam reuperar textos ujos onteúos estejam soiaos a um eterminao sunto, freqüentemente prouzem resultaos insatisfatórios. É omum, num proesso e reuperação e informação, serem obti imens quantiaes e obr e valor esonheio e questionável (Lagus, ). tener a este novo problema signifia responer a mais uma questão, onsieravelmente mais ifíil: - quais são outr informações isponíveis e úteis relaiona a este sunto? resposta a esta última questão tem sio aboraa por um novo termo na literatura, a mineração e textos (text mining) (Lagus, ). mineração e textos envolve a apliação e téni e ferrament, notaamente om uso e rees neurais, nos problem e organização, lsifiação e agrupamento e aos em forma textual. Neste enário já omplexo, onsiere aina a possibiliae e haver aos inorretos, inveríios e ontraitórios nos onjuntos, o que amplia aina mais o eleno e ifiulaes e esafios a serem superaos. parentemente, a apaiae o érebro humano em simplifiar, generalizar, formular hipóteses e testá-l, sem um tutor para iniar o aminho orreto a seguir, paree ter sio a força motriz realizações human ese sua existênia. Tem sio notável omo o ser humano liou om tais ifiulaes até o momento. nfelizmente, esta apaiae paree estar aa vez mais aquém neessiaes para liar om volumes tão granes e aos. Faz-se neessário, aa vez mais, a utilização e ferrament e métoos apazes e operar sobre aos multiimensionais, apazes e omparar e lsifiar onjuntos e aos tão volumosos que inviabilizariam a simples leitura estes, apazes e simplifiar e evieniar petos relevantes e onjuntos e aos que, e outra forma, estariam oultos sob o grane volume e aos. Faz-se neessária a pesquisa e a esoberta e form mais efiientes e responer às pergunt aima, sejam el irigi pela isponibiliae e aos, sejam el orienta a um ontexto ou sunto em partiular.

15 interesse resente a omuniae ientífia em torno e métoos automátios para análise e aos ou, no mínimo, auxiliaos por omputaor, tem gerao iversos textos ujo objetivo entral é a isussão e métoos apazes e obter informações relevantes o imenso volume e aos isponíveis, omo por exemplo Fayya et al. (996) e Mihalski et al. (998), referêni importantes para uma introução à mineração e aos. utilização e estratégi bea em moelos omportamentais o érebro ou funamenta na teoria e probabiliaes paree ser um aminho btante promissor e ireionou este trabalho para o estuo e ois moelos em partiular, o Mapa uto- rganizável e Kohonen (SM: Self-rganizing Maps) e o Mapeamento Topográfio Gerativo (GTM: Generative Topographi Mapping), na tentativa e responer, pelo menos em parte, às quatro pergunt formula anteriormente. esolha ferrament SM e GTM beou-se num onjunto e araterísti apresenta por amb, entre quais estaam-se: apaiae e operar om onjuntos volumosos e aos; apaiae e operar om aos representaos por um grane número e araterísti (alta imensionaliae); utilização e aprenizao não supervisionao; apaiae e realizar projeção e aos, reuzino sim a imensionaliae o onjunto e aos; apaiae e realizar reução e aos, iminuino a quantiae e aos exibios pela ferramenta; possibiliae e avaliação gráfia os resultaos obtios; algoritmos relativamente simples e rápios; apaiae e generalização os moelos, e forma a possibilitar a representação e aos não isponíveis no momento o treinamento. st araterísti, experimenta e omprova ao longo a pesquisa que resultou nesta issertação, permitem oloar est ferrament entre aquel om grane potenial e apliação n taref e mineração e aos e reuperação e informação. 3

16 . bjetivos e prinipais ontribuições ste trabalho busa estuar, apliar e avaliar métoos atualmente onsieraos entre os mais promissores n taref e mineração e aos e reuperação e informação, apresentano e isutino su araterísti mais relevantes, onsiera taref propost. Mais espeifiamente, esta issertação busou mostrar que u ferrament analisa em maior profuniae, o SM e o GTM, são téni poeros e poem onuzir a resultaos promissores mesmo na presença e problem prátios altamente esafiaores. lguns os prinipais métoos para apliação em mineração e aos são testaos e omentaos e forma resumia, apresentano-se su prinipais araterísti, bem omo algum e su limitações. través os testes realizaos, é emonstraa a ifiulae apresentaa por tais métoos quano envolvios na análise e onjuntos volumosos e aos e multiimensionais, o que inviabiliza a apliação est téni bem ifuni na literatura junto às taref propost nessa issertação. Com relação às ferrament SM e GTM, são avalia prinipais heurísti existentes na literatura para a obtenção e bons moelos os aos, om uma isussão a valiae e e problem que eventualmente est heurísti ausam em sua apliação sem ritérios bem efinios. nluem-se aqui simulações e testes para avaliar a influênia os parâmetros e ontrole os algoritmos sobre os resultaos obtios. São propost heurísti para obtenção e bons resultaos, onsierano a tarefa e mineração e aos, para ferrament SM e GTM. mb ferrament são também aplia a uma be e aos inéita, envolveno estilos e aprenizao, ilustrano a apliação heurísti propost e verifiano vári araterísti que tornam, amb ferrament, alia poeros na tarefa e mineração e aos. Por fim, os moelos SM e GTM são apliaos ao problema e reuperação e informação textual, que onsiste, na oifiação e reuperação e oumentos onsierano-se a similariae e onteúos e suntos ontios nestes (isto é, onforme seu ontexto). Neste estuo, os oumentos e texto são representaos pel u ferrament, agrupaos seguno seu ontexto. estratégia proposta envolve um moelo hierárquio, originalmente 4

17 proposto por Honkela et al. (996a). Nesta estratégia, um mapa SM, previamente aaptao e representano o ontexto méio palavr existentes no orpo e texto, gera um onjunto e vetores representano aa oumento e texto. stes vetores, uma espéie e sinatura estatístia os oumentos, são usaos para aaptar um seguno mapa SM, que representa então a similariae ontextual os oumentos. sta issertação mostra que a ferramenta GTM é uma alternativa possível ao SM para representar os oumentos seguno seu ontexto, propono um moelo híbrio SM- GTM. É proposto e verifiao experimentalmente que o uso o o BM (Best Mathing nit) na onstrução os vetores e oumentos, aumenta a apaiae ferrament em representar a similariae ontextual os oumentos. Finalmente, é proposta uma alternativa para a equação e ontexto méio palavr o orpo e texto, onsierano o ontexto méio por oumento. sta equação é utilizaa para gerar os aos que são apliaos ao mapa SM que gerará, posteriormente, os vetores e oumentos. s testes realizaos mostram que esta nova proposta aumenta sensivelmente a apaiae ferrament em agrupar os oumentos onforme sua similariae ontextual.. rganização o trabalho Nesta issertação, a palavra métoo é usaa omo sinônimo e onjunto os meios ispostos onvenientemente para alançar um fim e espeialmente para hegar a um onheimento ientífio ou omuniá-lo aos outros (Mihaelis, 998). ntene-se por métoo um algoritmo, uma ténia, um onjunto e proeimentos e atitues, ou aina um híbrio entre toos om a finaliae e obter onheimento ientífio. lguns os prinipais métoos para apliação em mineração e aos são aboraos no Capítulo, ese os moelos histórios, relativamente pouo apliaos na atualiae fae o imenso volume e aos isponíveis, até téni mais reentes, esenvolvi para liar om granes volumes e aos. nlui-se aqui métoos e agrupamento, e projeção e moelos gerativos beaos em probabiliae. stes métoos são esritos e analisaos e forma resumia, apresentano-se su prinipais araterísti, bem omo algum e su 5

18 limitações. Foram exeutaos testes om to ferrament, om o propósito e permitir uma análise prátia vantagens e esvantagens e aa uma, onsierano os objetivos e o ontexto os experimentos trabalhaos nesta issertação. s ois métoos que serão utilizaos mais extensivamente n apliações, o SM e o GTM, são examinaos om maiores etalhes no Capítulo 3 e no Capítulo 4, respetivamente. São inluí aqui simulações e testes para avaliar a influênia os parâmetros e ontrole os algoritmos sobre os resultaos obtios. Capítulo 5 apresenta uma série e testes e simulações e algum ferrament para mineração e aos apresenta anteriormente. Foram utilizaos alguns onjuntos e aos isponíveis publiamente na nternet, os quais são omumente utilizaos para avaliar o esempenho e ferrament e mineração e aos. Mais espeifiamente, ferrament SM e GTM são aplia e seus resultaos são omentaos. Neste apítulo, são apresenta heurísti para obtenção e bons resultaos a partir ferrament SM e GTM, bem omo uma isussão e ivers araterísti úteis oferei pel ferrament. s resultaos obtios têm aráter fortemente experimental, uma proprieae omum n taref e mineração e aos. SM e o GTM são também apliaos a uma be e aos inéita, envolveno estilos e aprenizao. Capítulo 6 avalia a apliação os ois moelos itaos ao problema e reuperação e informação textual. Neste apítulo, é proposto e testao um moelo híbrio SM-GTM para a representação e similariae ontextual entre oumentos, além e outr propost que busam melhorar a sensibiliae ferrament ao onteúo os oumentos e texto. No Capítulo são apresenta onlusões este trabalho, resumino-se os prinipais oneitos aboraos e verifiaos, prinipais ontribuições e inluino possíveis extensões para futuros trabalhos. 6

19 Capítulo Métoos para Mineração e Daos ste apítulo esreve alguns os prinipais métoos existentes om apliação (não exlusiva) em Mineração e Daos, uma prinipais taref o proesso e Desoberta e Conheimento em Bano e Daos (KDD: Knowlege Disovery in Databes). São aboraos prinipalmente métoos e agrupamento, e projeção (lineares e não lineares) e moelos gerativos (Generative Moels), seno isuti su prinipais araterísti e apliações. lém esses, são itaos alguns métoos simples para visualização e aos multiimensionais, eventualmente úteis numa análise preliminar os aos. Dois métoos em partiular, o Mapa uto-rganizável, um moelo híbrio e agrupamento e projeção, e o GTM, um moelo gerativo beao em variáveis latentes, serão aboraos om maior etalhe em apítulos subseqüentes.. ntroução É sabio que a tenologia atual permite a geração e armazenamento e quantiaes imens e informação sob mais ivers form: imagens, sons, onjuntos e atributos et. atual volume e a elevaa taxa e resimento estes banos e aos ultrapsou a apaiae humana e analisar, interpretar e utilizar a informação neles ontia, riano sim a neessiae e métoos e ferrament efiientes apazes e manipular esta msa e aos (Fayya et al. 996a,b,). termo KDD foi riao para nomear o proesso ompleto e esoberta e onheimento a partir e onjuntos e aos e representa muito mais o que apen a apliação e téni apazes e revelar similariaes e iferenç, e prouzir regr e resumos os aos. este onjunto e ativiaes em partiular reserva-se o termo mineração e aos que, embora onsierao por Fayya et al. (996a,b) omo o pso entral e too o proesso, não é o únio.

20 Não há um onsenso sobre a terminologia utilizaa pelos autores nesta área reente e pesquisa. É possível enontrar o termo mineração e aos omo sinônimo e KDD, omo nota-se em Mithell (999). Holsheimer & Siebes (994) hamam mineração e aos a um tipo espeial e aprenizao e máquina one o ambiente é visto através e um bano e aos. Retornano ao onjunto e ativiaes soiao ao primeiro oneito e mineração e aos apresentao aima, ele eve ser preeio por ativiaes esseniais que vão ese o próprio entenimento o omínio a apliação e e seus objetivos até a interpretação os resultaos. s etap anteriores ao proesso e mineração, mais espeifiamente, a remoção e ruío, a esolha e variáveis relevantes, a manipulação e valores ausentes e a esolha o métoo e mineração aequao (onsierano o objetivo proposto: lsifiação, regressão, moelagem et.) evem reeber atenção espeial e jamais serem relega a papel menos importante, pois os métoos e mineração são fiéis ao raioínio GG (Garbage n Garbage ut). Sem estes uiaos orre-se o riso e obter resultaos pouo onfiáveis, pois parões e regr potenialmente inváli ou sem interpretação aequaa poem emergir. Fayya et al. (996b) referem-se a essa ativiae perigosa omo ata reging. Há iversos métoos apliaos na mineração e aos vinos e vári áre o onheimento e termos omo análise exploratória e aos (Jain & Dubes, 988; Tukey, 9), análise e agrupamentos (veritt, 993) ou lsifiação automátia (Costa, 999), reonheimento e parões (Dua et al. ; Bishop, 995), aprenizao e máquina (Mihalski et al. 998) e outros (Fayya et al. 996a) são freqüentemente usaos para referir-se a tais métoos. Nesta issertação optou-se por uma taxonomia beaa na iéia e Kki (99) e Svensén (998) e que, na mineração e aos multiimensionais, só terão utiliae métoos apazes e revelar a estrutura inerente o onjunto e aos, pois em última instânia é exatamente a relação e similariae/issimilariae o que se busa entener. Poe-se iviir os métoos em onjuntos onforme a maneira e (tentar) exibir a estrutura topológia os aos: métoos simples e visualização, apazes e gerar gráfios e resumos rápios o omportamento os aos e úteis para análise preliminar à mineração e aos; 8

21 métoos e agrupamento, om objetivo e esobrir agrupamentos e aos om araterísti semelhantes entre si; métoos e projeção, beaos na iéia e projetar os aos e seu espaço original para um espaço e menor imensão prourano revelar a estrutura topológia os aos e métoos beaos em moelos gerativos, one os pontos no espaço e aos são entenios omo seno geraos por um moelo que representa a função e istribuição e probabiliae os aos. menos que expliitamente neessário, os aos serão representaos por um onjunto V = {v,..., v N }, V R D, om vetores v n = [v n,..., v nd ] T, n =,..., N e v n R, =,..., D. Caa vetor v representa um objeto (um ponto) no espaço D-imensional através e seus D atributos. Tabela - apresenta um exemplo e um onjunto genério e aos: Tabela - Representação tabular e um onjunto e aos em termos e vetores e atributos ou araterísti, one v n é o -ésimo atributo o n-ésimo objeto. tributos bjetos... D v v... v D v v... v D : : : : N v N v N... v ND Consierano representações e aos omo efini na Tabela -, Mithell (999) afirma que a área e KDD enontra-se na primeira geração e algoritmos, tipiamente limitaos a tratar aos esritos por onjuntos e registros e D atributos (numérios ou simbólios), ou seja, aina não há téni onsistentes que utilizem imagens, sons, texto puro, onheimento simbólio prévio, entre outros petos, no proesso e KDD. Tratano espeifiamente a WB questiona-se até mesmo se esta seria organizaa o sufiiente para que métoos e mineração e aos sejam apliaos e forma razoável (tzioni, 996). Sigla reuzia e Worl Wie Web (WWW), ambos usa omo sinônimos a nternet. 9

22 . Métoos simples e visualização maioria os métoos simples para visualização e aos multiimensionais propostos na literatura beiam-se em gráfios ou álulos matemátios que, e alguma forma, representam ou resumem araterísti os onjuntos e aos. Como exemplo, Tukey (9) propõe, entre vários métoos gráfios e numérios, o álulo e um resumo e ino números para onjuntos e aos: o maior e menor valores, a méia e o o e 3 o quartis. iéia geral estes métoos simples onsiste em plotar gráfios (em geral biimensionais) om os atributos os aos iretamente relaionaos entre si, ou então algum resumo matemátio estes, omo méi, logaritmos, potêni et. stes gráfios formariam uma espéie e esrição suinta os onjuntos e aos uja análise preliminar possibilitaria um melhor entenimento os aos e evitaria a apliação negligente e téni e mineração e aos, o que muit vezes leva a resultaos sem sentio (Fayya et al. 996a,b; veritt, 993). ma ivisão simplista feita por veritt (993), e aqui resumia, lsifia estes métoos em:. histogram e gráfios, relaionano atributos ou resumos estes entre si; e. representações iôni, one normalmente soia-se um atributo o ao a um atributo e uma figura que o representará. Jain & Dubes (988) ifereniam representações iôni e métoos e projeção não lineares afirmano que enquanto estes tentam preservar a estrutura os aos num gráfio om apen u oorena (os atributos mais relevantes, normalmente), representações iôni tentam preservar esta mesma estrutura através e uma figura ontrolaa por toos os atributos. grosso moo, entretanto, poe-se onsierar representações iôni omo uma espéie e projeção não linear os aos. Veja a Seção.4. para mais etalhes sobre projeções não lineares. m métoo btante simples é a visualização e to imensões (ou aquel seleiona) omo um gráfio e barr, one aa barra representa uma imensão, onforme ilustrao na Figura --. Figura --B representa o mesmo objeto

23 v = [v,..., v D ] pela urva e nrews (nrews, 9), obtia através o álulo a função ( t) = v + v sen( t) + v os( t) + v sen(t) + v os( ) + K f v, t sobre o intervalo -π < t < π e D = no exemplo. Caa omponente v i é um atributo o objeto, onforme a notação proposta na Tabela -. ma proprieae interessante esta função é a preservação a relação e vizinhança topológia entre os objetos no sentio e que ois pontos próximos no espaço e entraa serão representaos por urv próxim para toos os valores e t (veritt, 993) Dim () x = [-π, π ] Figura - Visualização e um item e ao em R om valores aleatórios através e um gráfio e barr (esquera) e a urva e nrews (B) Vári urv e nrews iferentes poem ser onstruí om a simples permutação variáveis. Como, em geral, baix freqüêni (v, v, v 3 ) são mais evienia no gráfio, seria interessante soiá-l om os atributos mais importantes os objetos seno representaos (veritt, 993). nfelizmente, esta informação não é, em geral, previamente onheia. utr possibiliaes inluem a representação os aos através e figur poligonais e faes e Chernoff (Chernoff, 93), ujos exemplos poem ser vistos na Figura -. s íones poligonais poem ser geraos om to imensões (o em que tem seu uso limitao aa a sobreposição e figur) ou aina poe-se esolher u el ( mais importantes) para posiionar o entro a figura num plano artesiano, gerano um gráfio e ispersão ou satterplot (veritt, 993; Kki, 99).

24 4 Dim () (B) Figura - Visualização e um item e ao em R om valores aleatórios usano polígonos () e faes e Chernoff (B). Figura à ireita aaptaa e Kki (99). s faes e Chernoff são gera om aa imensão os aos ontrolano uma araterístia a fae, omo a largura e urvatura a boa, a separação entre os olhos et. autor argumenta que sua utilização presta-se a avaliar aos em R D onsierano D 8. mbora interessantes e om valor histório, a apaiae e visualizar relações entre os aos através os métoos itaos egenera rapiamente à meia que aumenta o número e imensões. À exeção o resumo e ino números, nenhum os outros métoos exeuta reução e aos, ou seja, se o onjunto e entraa for numeroso, a figura resultante a visualização e toos os aos iniviuais será provavelmente inompreensível (Kki, 99). mbora seja possível ientifiar a presença e agrupamentos em algum situações, estes métoos evem ser tomaos apen omo ferrament aiionais apazes e auxiliar na tarefa e mineração e aos (veritt, 993; Jain & Dubes, 988)..3 Métoos e grupamento tarefa e reunir objetos semelhantes em grupos é um proesso usualmente aotao pelo ser humano ao longo a história a humaniae, poeno inlusive ser soiao à própria riação a linguagem. s palavr poem ser interpreta omo rótulos soiaos a onjuntos e objetos semelhantes. Tomano apen ajetivos omo exemplo, palavr feroz, saboroso, venenoso, et., são rótulos que eterminam a própria apaiae e aaptação ao meio, ao permitir lsifiar e isriminar agentes e objetos o meio.

25 Consiera-se agrupamento uma região o D-espaço (espaço D-imensional que ongrega os D atributos) om ensiae e pontos relativamente elevaa e separaa e outr regiões ens por regiões om baixa ensiae (veritt, 993). Poe-se entener, resumiamente, que métoos e agrupamento são aqueles que busam iviir um onjunto e objetos não rotulaos em grupos (partições) e forma que os objetos e aa grupo tenham mais semelhanç entre si o que em relação aos objetos e qualquer outro grupo. Neste proesso neessariamente não supervisionao, seguno Costa (999), tanto o número ótimo e grupos omo araterísti partiulares revelano semelhanç (ou iferenç) evem ser eterminaos pelo próprio proesso (veritt, 993). sta araterístia aponta para métoos não triviais, uma vez que a quantiae e form possíveis e riar K partições para um grupo e N objetos poe ser sustaoramente grane, tornano a busa exaustiva por um partiionamento ótimo omputaionalmente proibitiva, ao menos atualmente. valor exato para este número e form possíveis quano K é onheio é ao pelo número e Stirling o seguno tipo (Jain & Dubes, 988): S K! K ( N, K ) = i= ( ) K i K i i Co K seja esonheio (o que é normalmente o o), este número e possibiliaes é aina maior, pois é ao por um somatório e números e Stirling (Costa, 999): P l= S ( N, l) one P é o número máximo e partições, previamente arbitrao. ste somatório é também onheio omo número e Bell. N Deve ser laro que o oneito e similariae entre os pontos no D-espaço está iretamente relaionao ao tipo e métria onsieraa. É omum o uso a métria euliiana, embora vári outr tenham sio propost na literatura (veja Costa, 999 e Jain et al. 999 para uma revisão). esolha a métria afeta iretamente a quantiae e a forma e grupos enontraos pelos algoritmos e agrupamento, pois petos a estrutura o espaço poem (ou não) ser levaos em onsieração urante o proesso onforme a métria. É patente, 3

26 pois, a ifiulae na esolha a métria quano não se tem informação prévia sobre o onjunto e aos a ser analisao. riso é o e que o algoritmo enontre grupos seguno sua ótia, ou seja, poe-se prourar (e enontrar) grupos om form previamente supost one estes, e fato, não existam ou, então, eixar e enontrar agrupamentos uja isriminação fia obsureia pela métria aotaa. Figura -3 ilustra um o em que algoritmos beaos em istânia (omo é o o o SM, que utiliza istânia euliiana) têm péssimo esempenho, pois é um exemplo one um intérprete humano utiliza-se e muito mais informação prévia o que aquela isponibilizaa ao algoritmo, no o, apen a istânia entre pontos. este métoo e agrupamento Mihalski & Kaufman (998) enominam métoos e agrupamento oneitual: é fáil observar retângulos no exemplo a figura porque o ser humano onhee previamente o oneito e um retângulo, seno ireta, portanto, a soiação. m oneito é efinio omo seno um onjunto e objetos que possuem um onjunto e proprieaes que os ifereniam e outros oneitos (o que vem a ser uma esrição muito semelhante, senão iêntia, ao próprio oneito e agrupamento). Figura -3 Conjunto e aos para o qual algoritmos beaos em métri e istânia apresentam esempenhos ruins. Possíveis análises revelam retângulos e 4 linh, uma figura humanóie et. aptao e Kubat et al. (998). Para que um algoritmo obtenha resultaos semelhantes ele everá bear-se num bano e oneitos previamente informao, ou então possuir algum métoo para aquirir (aprener) tais oneitos. ma boa referênia para aprenizao e máquina e mineração e aos é Mihalski et al. (998). Figura -4 apresenta uma hierarquia simplifiaa os métoos e agrupamento propostos na literatura. 4

27 Métoos e grupamento Hierárquios Partiionais glomerativos Divisivos rro Quarátio Grafos Figura -4 Clsifiação simplifiaa os métoos e agrupamento. aptao e Jain et al. (999). ntretanto, eve-se levar em onsieração algum araterísti que inepenem a taxionomia proposta, qualquer que seja ela. Por exemplo, os métoos poem fazer om que um objeto pertença exlusivamente a um agrupamento (isto é, a interseção e agrupamentos é vazia) ou então utilizar oneitos e lógia nebulosa para soiar graus e pertinênia os objetos para om os onjuntos. Métoos poem onsierar toos os atributos os objetos simultaneamente urante o proesso e agrupamento (métoos politétios) ou então onsierar aa atributo iniviual e seqüenialmente (monotétios). Também um métoo poe onsierar too o onjunto e objetos simultaneamente (métoos não inrementais) ou então tomar pequen porções ao longo o proesso (inrementais), seno esta uma araterístia importante no proesso e mineração e aos fae aos imensos onjuntos e aos omumente observaos. Sugere-se onsultar Jain & Dubes (988) e veritt (993) para uma exelente introução a métoos e agrupamento e Jain et al. (999) para uma revisão atualizaa os oneitos..3. grupamentos Hierárquios s métoos hierárquios, e moo geral, tratam o onjunto e aos omo uma estrutura e partições, aa uma orresponeno a um agrupamento, hierarquiamente organiza seguno a similariae entre seus objetos. s métoos ivisivos onsieram a prinípio a existênia e uma únia partição (o próprio onjunto e aos) e atuam subiviino esta partição em uma série e partições aninha. Já os métoos aglomerativos partem o oposto, funino agrupamentos iniviuais (iniialmente aa grupo ontém um únio objeto) em partições maiores até a obtenção e uma únia partição onteno toos os objetos o onjunto. 5

28 lgoritmos hierárquios aglomerativos (mais efiientes e representativos que os ivisivos, seguno Costa, 999) geralmente trabalham om uma matriz e istâni D representano a similariae (ou a issimilariae) entre toos os possíveis pares e N objetos o onjunto e aos. sta matriz D e elementos ij (i,j =,..., N) é, portanto, simétria e iagonal nula e orem N, seno usaa para eiir quais grupos serão funios entre si. m geral, unem-se ois ou mais grupos que apresentam a menor istânia entre si. istânia entre ois grupos é normalmente avaliaa seguno os ritérios e ligação simples (single link) ou ligação ompleta (omplete link). iéia estes ritérios é ilustraa na Figura -5 e é mais failmente entenia supono-se, iniialmente, ois agrupamentos quaisquer já existentes, e B, e uma matriz D e istâni entre toos os pares e objetos. ritério e ligação simples efine B omo a menor istânia entre toos os pares (x,y) e objetos one x e y B (Figura -5-). Já o ritério e ligação ompleta onsiera B omo a maior istânia entre toos os pares (x,y) tomaos onforme a regra já itaa (Figura -5-B). pós alula istâni entre os agrupamentos onforme os ritérios já esritos, os algoritmos promovem a união os agrupamentos om a menor istânia entre si. B B Grupo Grupo B Grupo Grupo B Critério e ligação simples Critério e ligação ompleta () (B) Figura -5 lustração o ritério e ligação simples e ligação ompleta. Supono-se ois agrupamentos pré-existentes e B, a ligação simples efine a istânia entre os ois grupos omo a menor entre to istâni entre os pares e objetos (x,y), one x e y B, respetivamente. ritério e ligação ompleta efine a istânia entre os ois grupos omo seno a maior istânia entre to istâni entre os mesmos pares e objetos (x,y). m linh pontilha, estão ilustra algum istâni entre outros pares e objetos. 6

29 saía típia estes algoritmos é um enrograma (Figura -6 C e D), uma espéie e grafo e árvore que representa junções suessiv partições e que poe gerar agrupamentos iferentes onforme o nível em que é seionaa. () D = (B) bjetos bjetos Distânia (C) Distânia (D) Figura -6 Denrogram obtios seguno os ritérios e ligação simples e ompleta. m () um onjunto hipotétio e objetos om sua matriz e istâni D esrita em (B), sem onsieração e esala. Pelo ritério e ligação simples (C), os grupos {4} e {5} são unios pela menor istânia entre si ( 45 =3, no exemplo), formano o grupo {4,5}. ste grupo é unio om o grupo {3} pela menor istânia entre eles igual a 4 (pois 34 =4 e 35 =5). No ritério e ligação ompleta (D), o grupo {3} é unio ao grupo {4,5} om istânia igual a 5. aptao e veritt (993) De aoro om Jain et al. (999), o ritério e ligação simples possui a araterístia e prouzir agrupamentos om tenênia hiperelipsoial, ao pso que o ritério e ligação ompleta forma agrupamentos mais ompatos om tenênia hiperesféria. Téni hierárqui são omuns one se neessita gerar uma taxionomia failmente obtia pelo enrograma (por exemplo n áre e biologia e iêni soiais), m são impratiáveis quano o número e objetos é elevao (Jain & Dubes, 988), o que infelizmente é omum nos proessos e mineração e aos.

30 .3. grupamentos Partiionais s métoos partiionais iviem o onjunto os N objetos em K agrupamentos sem relaioná-los hierarquiamente entre si, omo o fazem métoos hierárquios. Normalmente, partições são obti pela otimização e um ritério efinio loal (sobre um subonjunto e objetos) ou globalmente (sobre too o onjunto) na forma e uma funçãoobjetivo. Sua maior vantagem é poer atuar sobre onjuntos om elevao número e objetos, pois tais métoos em geral têm omplexiae (N), N = número e objetos o onjunto e aos. Por outro lao, possuem uma séria restrição relaionaa às funçõesobjetivo usa que, em geral, sumem que K é onheio. ssim, uma esolha erraa e K provoa a imposição este número e agrupamentos ao onjunto. m os métoos mais onheios, o k-means (MaQueen, 96), emprega omo funçãoobjetivo o erro quarátio total efinio generiamente para um erto número K e agrupamentos por e k = K N j= i= ( j) v i j quação - one ( j) v i é o i-ésimo objeto pertenente ao j-ésimo agrupamento, o qual tem j omo seu entróie. Repare que aa objeto pertene ao agrupamento ujo entróie está mais próximo e si, seno que n j é o número e objetos o j-ésimo agrupamento. entróie o j-ésimo agrupamento vai ser o vetor méio os n j objetos que pertenem ao j-ésimo agrupamento em um ao instante: n j ( j) = n j i= ( j) j = v vi quação - vetor que representa o entróie é mais onheio omo protótipo e o proesso geral exeutao pelo k-means é hamao e quantização vetorial (Kohonen, 99, pg. 48; Van Hulle,, pg. 43). k-means reebe omo entraa um número K e agrupamentos e atribui aleatoriamente um objeto omo seno o entróie iniial e aa agrupamento. Suessivamente, aa objeto é soiao ao agrupamento mais próximo e o entróie e aa agrupamento é então realulao levano-se em onta o novo onjunto e objetos a ele pertenentes. 8

31 Repare que, om isso, os entróies não mais se restringem a serem um subonjunto e objetos, pois poem estar loalizaos one não há nenhum objeto. algoritmo pára quano, tipiamente, há pou tro e objetos entre grupos ou quano um valor estipulao omo erro mínimo é atingio. pionalmente, após uma estabilização, grupos poem ser funios ou então iviios seguno ritérios estabeleios, quano então o proesso e soiação os objetos aos novos grupos reiniia. lém a esolha o número K e entróies, um os prinipais problem o k-means é justamente a esolha iniial os entróies, omo mostra a Figura -. Nesta figura representa-se um onjunto V = {, B, C, D,, F, G} e objetos num plano biimensional e aplia-se o algoritmo k-means om K = 3 agrupamentos. Se os entróies estes forem tomaos iniialmente pelos parões {, B, C}, será obtio o resultao ilustrao à esquera, btante inonveniente se omparao ao erro total obtio na ilustração à ireita, geraa tomano-se os parões {, D, F} omo entróies iniiais F G 6 F G C D 3 C D B B rro total =,5 rro total = 5,6 Figura - k-means é sensível à posição iniial os entróies: à esquera vê-se um agrupamento inevio se omparao ao obtio na figura à ireita, o que poe ser verifiao pelo erro total obtio. aptao e Jain et al. (999) utro algoritmo btante utilizao é o que efine uma árvore geraora mínima, o inglês Minimum Spanning Tree - MST (Gower & Ross, 969). essênia este algoritmo é gerar um grafo onetano os objetos e moo que: (a) não haja ilos; (b) too objeto seja onetao por pelo menos um aro; e () não haja subgrafos. Figura -8 ilustra o algoritmo e aminho mínimo apliao ao mesmo exemplo anterior. s agrupamentos são obtios seionano-se primeiro o aro e maior omprimento (o que gera grupos) e sim suessivamente. 9

32 8 8 6 F G 6 F G C D B C D B () (B) Figura -8 algoritmo o aminho mínimo (esquera) poe gerar agrupamentos seionano-se o aro mais longo (ireita). utros grupos poem ser geraos seguino o mesmo raioínio. É interessante notar que os agrupamentos obtios pelo métoo e ligação simples são também subgrafos obtios pelo métoo o aminho mínimo (Jain et al. 999)..4 Métoos e Projeção s métoos e projeção (Jain & Dubes, 988; Svensén, 999; Kki, 99) prouram mapear objetos no espaço e entraa R D para um hiperplano no espaço R P, seno que normalmente se tem P D. objetivo estes métoos apliaos à mineração e aos é exibir a estrutura o espaço original o mais fielmente possível no hiperplano e projeção, possibilitano sim uma análise e agrupamentos que poe ser realizaa visualmente o P = ou P = 3. sta análise poe servir também para valiar resultaos obtios por outros métoos e mineração e aos, ou aina forneer pist quano o uso e ferrament interativ. iéia aproximaa e um métoo e projeção é representaa na Figura -9 mapeamento em si é uma transformação, linear ou não, apaz e levar N pontos v = [v,..., v D ] T o espaço R D para o hiperplano no espaço R P, e normalmente P D.

33 R P Projeção obtia Mapeamento Conjunto e pontos R D Figura -9 onjunto e pontos no espaço R D e entraa é mapeao para um hiperplano no espaço R P, one normalmente P D..4. peraores Lineares No o e projeções lineares o mapeamento é uma transformação linear o espaço e entraa, representaa vetorialmente pela forma geral y i = v i, i =,..., N. quação -3 é uma matriz P µ D que gera os vetores y = [y,..., y P ] T R P omo uma ombinação linear e su olun a j R P, omo segue: D y j = a v j= j j quação -4 esolha olun a matriz permite que iferentes tipos e projeção sejam obtios, os quais a análise por omponentes prinipais (PC: Prinipal Component nalysis) é uma mais populares (Jain & Dubes, 988)..4.. nálise e Componentes Prinipais (PC) métoo PC (Jollife, 986; Jain & Dubes, 988; resumo em Svensén, 999) toma um onjunto V = {v,..., v N } e vetores v n = [v n,..., v nd ] T R D, n =,..., N, numa aa be ortonormal e enontra uma nova be ortonormal {u,..., u D } apaz e gerar o espaço original. sta nova be é rotaionaa, e forma que o primeiro eixo oinia om a ireção na qual os aos possuam a maior variânia; o seguno eixo, ortogonal ao primeiro,

34 orienta-se na ireção a seguna maior variânia e sim, suessivamente. Caa eixo u i representa uma variâni o onjunto om os aos projetaos sobre si e a nova be {u,..., u D }, orenaa seguno variâni (a maior variânia orrespone ao primeiro eixo), é o onjunto os omponentes prinipais (Svensén, 999). ste métoo também é hamao e projeção por autovetores ou transformação e Karhunen-Loeve (Jain & Dubes, 988) () Projeção em 3D (B) Projeção em D Figura - () Conjunto e 3 pontos em R 3 geraos aleatoriamente numa orrelação e gaussian (σ =,8,,3 e, respetivamente para os eixos X, Y e Z) rotaionaos em 3 º. s eixos vermelho, vere e azul projetaos orresponem respetivamente ao o, o e 3 o omponentes prinipais (reimensionaos pelo esvio parão o onjunto). m (B), o mesmo onjunto observao numa projeção em D, om os eixos vermelho e vere representano o o e o omponentes prinipais. o optar-se por uma projeção os aos utilizano os P primeiros omponentes prinipais, P < D, obtém-se uma representação o onjunto original em um espaço e menor imensão, o que é onheio por reução imensional. Figura - apresenta alguns exemplos e mostra, n Figur (C) e (D), que a maior restrição projeções lineares é exatamente sua lineariae.

35 3 Z - - X 3 Y X spaço 3D Z Z Y - - X - Y () (B) Projeção PC (C) (D) Projeção PC Figura - () mostra um onjunto om 3 agrupamentos istintos no espaço R 3 (aa grupo possui pontos geraos aleatoriamente por gaussian om esvio parão, (azul),, (vermelho) e,3 (vere)) projetaos em omponentes prinipais (B). m (C) o Chainlink Datet (proposto por ltsh & Vetter (994) e neste exemplo om 5 pontos por tórus) one os onjuntos não são linearmente separáveis. m (D), o PC om omponentes prinipais não é apaz e separar os agrupamentos e (C). utros métoos existentes inluem a análise isriminante (Jain & Dubes, 988) e busa e projeção, o inglês projetion pursuit (Huber, 985; Kki, 99). primeiro busa uma projeção que tenta maximizar a ispersão entre grupos ao mesmo tempo que tenta manter a oesão interna onstante. seguno busa revelar o máximo possível e não lineariae soiano a aa projeção um ínie e interesse que eve ser maximizao. Há também aboragens bea em rees neurais para a análise e omponentes prinipais que poem ser onsulta em Haykin (999). 3

36 .4. peraores Não Lineares Quano os aos resiem em hiperplanos urvos entro o espaço e aos, métoos lineares mostram-se pouo efiientes em apturar tais estrutur. Nestes os, poe-se lançar mão e métoos não lineares. maioria estes métoos tenta representar os atributos não lineares através a maximização e uma função efinia sobre um onjunto e variáveis que é epenente o onjunto e aos, isto é, não possuem uma função e mapeamento explíita (Jain & Dubes, 988). ste tipo e projeção não é, portanto, extensível a novos aos que sejam obtios após a omputação o mapeamento, pois este é epenente o onjunto omo um too, eveno ser realulao a toa e qualquer alteração o onjunto e aos. lgum heurísti poem ser usa para aelerar o álulo os mapeamentos não lineares, omputaionalmente aros (Jain & Dubes, 988), omo por exemplo usar o primeiro omponente prinipal omo onfiguração iniial para o algoritmo e projeção não linear..4.. salonamento Multiimensional (MDS) salonamento multiimensional (Jain & Dubes, 988), o inglês Multiimensional Saling (MDS), é um nome genério ao a um onjunto e téni btante utiliza prinipalmente em iêni soiais e eonômi para analisar similariae entre objetos. onjunto e N objetos é representao por um onjunto e N pontos preservano ao máximo relações e similariae entre toos os possíveis pares e objetos, ou seja: ao invés e operar iretamente no espaço original, uma onfiguração e pontos num espaço e menor imensão é geraa, e forma que relações interobjetos no espaço original sejam manti ao máximo no novo espaço gerao. Nesta issertação, onsiera-se MDS em e 3 imensões, embora matematiamente seja possível operar em qualquer número e imensões. Também não há a neessiae a relação e similariae ser neessariamente uma norma, e moo a preservar a relação triangular (x,z) (x,y) + (y,z), para três objetos x, y e z. De fato, métoos MDS poem ser apliaos a virtualmente qualquer tipo e relação que expresse a similariae/issimilariae em valores numérios, onfigurano sim ois granes onjuntos e métoos MDS, métrios e não métrios (Kki, 99; Jain & Dubes, 988). 4

37 Para melhor expliar o funionamento o MDS, onsiere-se o onjunto V = {v,..., v N }, V R D e vetores v n = [v n,..., v nd ] T R D, n =,..., N, aa vetor v n representano um objeto (um ponto) no espaço D-imensional através e seus D atributos (veja Tabela -). issimilariae entre toos os possíveis pares e objetos é aa por uma matriz e issimilariae D e elementos ij (i,j =,..., N) one aa elemento ij orrespone à norma (i,j) = v v i j, aqui onsieraa omo seno a istânia euliiana. MDS busa então uma onfiguração e pontos num espaço e imensão ou 3, e forma que a matriz e issimilariae D os pontos projetaos represente, o mais fielmente possível, relações o espaço original. função e erro que mee esta relação é hamaa e stress (Kruskal & Wish, 98; Jain & Dubes, 988) e poe ser expressa simplifiaamente por stress = N [ i, j) '( i, j) ] i< j ( quação -5 s algoritmos MDS prouram reposiionar os pontos no espaço gerao e forma a minimizar o stress e aoro om o algoritmo simplifiao abaixo: - soie a aa ponto no espaço e saía oorena arbitrári; - alule a istânia (euliiana) sobre toos os pares e pontos projetaos (matriz D ) e os pontos originais (matriz D); 3- alule o stress (isto é, ompare a matriz D om a matriz D usano, por exemplo, a quação -5): quanto menor o valor o stress, maior a similariae entre os ois onjuntos; 4- reposiione os pontos no espaço e saía e forma a minimizar o stress; 5- repita e a 4 até que (a) o stress fique abaixo e um limite mínimo; (b) não se reuza sensivelmente; ou () até alançar um número fixo e iterações. s exemplos a seguir permitem estuar o omportamento o algoritmo MDS representano 3 iaes fitíi, geraos através o programa KYST (Kruskal et al. 993). Se a matriz e istâni em Km for aa por B C 3 6 B 3 3 C 6 3 5

38 então poemos euzir que é possível representá-l em apen uma imensão, ao que B é eqüiistante e e C em 3 Km e a istânia entre e C é e 6 Km (ou seja, a istânia B + BC). ste resultao é emonstrao na Figura --. ntretanto, se onsierarmos 3 iaes eqüiistantes entre si, om uma matriz e istâni aa por B C 3 3 B 3 3 C 3 3 então já não será mais possível representar os pontos numa únia imensão, m om u obtemos uma onfiguração triangular apaz e minimizar o stress, omo emonstrao na Figura --B B B C C () (B) Figura - Resultaos e MDS para 3 iaes fitíi, B e C. Na figura esquera istâni poem ser representa om uma imensão, m no o e iaes eqüiistantes é neessário um plano para representá-l. No exemplo seguinte istâni rooviári entre prinipais apitais brileir foram manipula pelo mesmo algoritmo, resultano n projeções em e 3 imensões onforme Figura -3. 6

39 Porto legre Florianópolis Rio e Janeiro Vitória São Curitiba Paulo São Luís Belo Horizonte Palm Florianópolis Curitiba Porto legre Salvaor Maeió raaju João Reife Pessoa Natal Fortaleza Teresina Palm Belo Horizonte São Luís Belem Campo Grane Cuiabá Rio Brano Manaus Boa Vista Belem Teresina Campo Grane São Paulo Cuiabá Boa Vista Fortaleza Rio e Janeiro Natal João Reife Pessoa Maeió raaju Manaus Vitória Salvaor Rio Brano Figura -3 s prinipais apitais brileir e su istâni rooviári, em Km, projeta em e 3 imensões pelo algoritmo MDS. Deve-se notar que a orientação os eixos e su esal são arbitrári nos métoos MDS e, embora possam reeber nomes, são totalmente subjetivos e epenem, sim, a avaliação o gráfio gerao. Para mais etalhes sobre a interpretação os gráfios geraos por MDS, onsulte Jain & Dubes (988)..4.. Projeção e Sammon projeção proposta por Sammon (969) é um métoo não linear que guara vári semelhanç aos métoos MDS: sim omo este, o onjunto original e objetos é representao por um onjunto e pontos num espaço, normalmente, e menor imensão. avaliação a fieliae a representação similariaes é alulaa por uma função que poe também ser hamaa e stress (Jain & Dubes, 988; Kki, 99) aa por: stress Sammon = N [ ( i, j) '( i, j) ] i< j ( i, j) quação -6 Perebe-se que a únia iferença para a quação -5 é que o erro entre e é agora normalizao pela istânia o espaço original. Devio a isso, istâni menores serão realça em relação ao MDS original, resultano num gráfio normalmente mais uniforme.