Aprendizagem de Máquina

Transcrição

1 Informáta Aprendagem de Máquna Aprendado não-supersonado Formação de agrupamentos Aprendado ão-supersonado Cassfação supersonada: dsrmnar padrões om base num modeo pré-defndo de asses. Cassfação não-supersonada: as asses não são pré-defndas e deem ser aprenddas om base na smardade entre os padrões. este aso o probema é ooado omo uma tarefa de ategoração ou dentfação de agrupamentos usterng: Enontrar os grupos naturas em dados mutdmensonas om base nas smardades entre os padrões. Cassfação não-supersonada é um probema muto dfí porque dados mutdmensonas podem formar agrupamentos om dersas formas e tamanos demandando ferramentas poderosas de modeagem. Informáta Informáta Modeos Desrtos A tarefa de geração de um modeo desrto onsste em grande parte em anasar os dados do domíno entradas e sugerr uma partção do domíno de aordo om smardades obseradas nos dados. Entradas Modeo Determnação de uma onfguração de entródes de agrupamentos dos dados Modeo de agrupamento dos dados Dados para agrupamento de subespées da panta Irs uma amostra do domíno omprmento-sepaa argura-sepaa omprmento-petaa argura-petaa Conunto de meddas _sepaa _sepaa _petaa _petaa Modeo Rótuo de asse natura 3 4

2 Informáta Dados da panta Irs Informáta Modeo de agrupamento para os dados da panta Irs Casses de nteresse ersus asses naturas argura-sepaa argura-petaa argura-sepaa argura-petaa setosa rgna Casses de nteresse setosa ersoor rgna ersoor omprmento-sepaa omprmento-petaa 3 agrupamentos asses naturas 5 omprmento-sepaa omprmento-petaa 6 Informáta Aaação de modeos desrtos Questão fundamenta: quantos grupos representam mas adequadamente os dados? Usuamente adotam-se métras estatístas de quadade da onfguração de agrupamento: méda de dstânas ntra-grupo e de dstânas nter-grupos. A aaação da quadade de um modeo desrto normamente é probemáta se não dspusermos de nformação extra onemento de pería. A busa nformada pea meor onfguração é muto mas efente. Informáta Introdução A desoberta de agrupamentos é uma tarefa desrta que proura agrupar dados utando a smardade dos aores de seus atrbutos omo fator de desão quanto a sua pertnêna num entre áros agrupamentos possíes. Este proesso uta ténas de aprendagem não supersonada pos a smardade entre os atrbutos é uma araterísta ntrínsea dos dados não neesstando de um arquo de trenamento om asses pré-defndas. 7 8

3 Informáta Informáta Introdução Agrupamento de onetos Em gera a dentfação dos agrupamentos ntrínseos dos dados permte a desrção de ada agrupamento atraés de um padrão protótpo. O proesso normamente é terato e nterato neesstando que o usuáro modfque parâmetros e reapresente os dados até enontrar uma onfguração satsfatóra de agrupamentos. A ênfase nesta tarefa é a desrção dos dados e não a presão de omo um noo aso será assfado. O agrupamento de onetos é uma tarefa onde o sstema de aprendagem aeta um onunto de desrções de obetos eentos obserações fatos e produ um esquema de assfação sobre as obserações. O sstema não requer um professor para pré-assfar os obetos; ee usa uma função de aaação para desobrr asses om boas desrções onetuas. Agrupamento de onetos é um tpo de aprendagem por obseração se opondo ao aprendado por exempos. É uma forma mportante de sumarar os dados de uma manera nterpretáe. 9 Informáta Apações típas de agrupamentos Em negóos podem audar omerantes a desobrr grupos dstntos em suas bases de entes e araterar grupos baseados em padrões de ompras. A maora das ferramentas de agrupamento trabaa em raão de um número pré-defndo de grupos espefado por um usuáro. Cassfação de doumentos na Web para a desoberta de nformação Como uma função de MD para se ter uma são de dstrbução de dados para se obserar as araterístas de ada agrupamento e para foar em um onunto partuar de grupos para anáse posteror. Aternatamente a usteração pode serr omo uma etapa de préproessamento para outros agortmos tas omo arateração e assfação que rão então operar sobre os agrupamentos detetados. Em booga podem ser usadas para derar taxonomas de pantas e anmas ategorar genes om funonadades smares e ter uma são dentro de estruturas nerentes em popuações Informáta Tpos de representação de agrupamentos Os grupos podem ser: a exusos nstânas pertenem apenas a um grupo b sobrepostos em que uma nstâna pode pertener a dersos grupos probabístos aso em que uma nstâna pertene a ada grupo om aguma probabdade d erárquos é feta uma dsão a grosso modo de nstânas em grupos maores os quas são refnados se deompondo em grupos menores. a a d g e 3 a 4 5 b d 8 e 4 4 f 4 5 g f b b d g a d a e g e f d b b f

4 Informáta Informáta Esoa da representação de agrupamentos A esoa entre as possíes representações de agrupamento depende da naturea dos meansmos que determnam o fenômeno espeífo do agrupamento onsderado. Como raramente estes meansmos são onedos até porque é o que queremos desobrr por raões pragmátas a esoa é normamente dtada peas ferramentas omputaonas dsponíes. 3 Método -médas O método -médas dera o seu nome do fato de ee nar om um onunto de germes esodos omo suposção na para os entródes ou médas dos agrupamentos. o agortmo orgna MaQueen 967 a naação dos entródes é feta tomando-se smpesmente os prmeros etores regstros dos dados. Quando os dados possuem agum tpo de ordenação pode-se esoer regstros que esteam mas espaçados entre s. Cada um dos etores é um agrupamento embronáro om apenas um úno eemento. o segundo passo do agortmo ada etor de dado reebe o rótuo do agrupamento que ester mas próxmo. Isto é feto medndo-se a dstâna entre o etor e ada entróde dos agrupamentos. Após a rotuação de todos os dados os entródes dos agrupamentos são atuaados auando-se ada um omo a méda de todos os etores que pertenem ao agrupamento orrespondente. A atuaação dos entródes é repetda até ees não se modfarem mas. 4 Informáta Agortmo: Entrada: Saída: Método: Agortmo -médas -médas para partonamento baseado no aor médo dos obetos no agrupamento. O número de agrupamentos e um bano de dados ontendo n obetos. Um onunto de agrupamentos que mnmam o rtéro de erro-quadráto. esoer arbtraramente obetos omo os entros dos agrupamentos nas; repetr 3 redesgnar ada obeto para o agrupamento ao qua o obeto é mas smar baseado no aor médo dos obetos no agrupamento; 4 atuaar as méda dos agrupamentos.e. auar o aor médo dos obetos para ada agrupamento; 5 até que não aa mudanças; Informáta Exempo do método -médas As fguras abaxo representam a apação dos dos prmeros passos do agortmo -médas em um arquo om dados om dos atrbutos ontínuos onsderando-se um número de médas 3. Inaação das médas Atrbução dos rótuos 5 6

5 Informáta Após o passo de rotuação as médas são atuaadas onsderando-se a noa onfguração dos agrupamentos. Após as médas serem atuaadas os rótuos são atuaados pea dstâna às noas médas. Atuaação das médas oa atrbução de rótuos e atuaação das médas Informáta Meddas de smardade A pertnêna de um regstro num determnado agrupamento depende da medda de smardade adotada entre os etores. a ersão padrão deste método a dstâna eudana é utada. A representação geométra do método -médas mostra a sua adequação natura para dar om atrbutos numéros ontínuos. Entretanto exstem dersos tpos de aráes numéras em esaas dferentes e não numéras que podem ser utadas omo atrbuto e ada aráe dee ser apropradamente austada para que o método funone bem. Aém dsso no método -médas todos os atrbutos têm a mesma mportâna. Entretanto em agumas apações exste o onemento préo de que aguns atrbutos são mas mportantes que outros e gostaríamos que o rtéro de smardade easse sso em onta. A mportâna reata dos atrbutos bas é fxada atraés de pesos. Por ser baseado em dstâna eudana o modeo dos agrupamentos é sotrópo gerando uma partção equaente a um dagrama de Vorono. 7 8 Informáta Informáta o aso de atrbutos numéros em gera basta adotar-se um rtéro de esaamento das aráes para que a mportâna reata entre eas sea preserada. Um exempo aqu seram as aráes rendmento e área de morada. este aso a smardade entre dos regstros se dá pea dstâna entre os dos pontos orrespondentes no espaço normaado de araterístas. a ersão padrão deste método a dstâna eudana é utada. Quando as proporções entre os aores dos atrbutos é mas mportante que o seu aor absouto então uma medda de smardade baseada em ânguos entre etores é mas aproprada. Partção nduda método -médas Dagrama de Vorono: poedros onexos em torno dos entródes. pexe grande pexe pequeno gato pequeno gato grande Lmtações do método: Em métodos baseados em dstânas a médas as fronteras de desão não eam em onta as dferentes dstrbuções mutaradas. Aém dsso dferenças entre ardnadades das dstrbuções deeram afetar as posções das fronteras de desão. 9

6 Informáta Informáta Lmtações do -médas Tamanos dferentes O método -médas tem dfudades quando os agrupamentos têm: Tamanos dferentes ardnadade Densdades dferentes dspersão Formas não esféras K-médas tem probemas para dar om dados estranos outers Dados orgnas K-médas 3 Custers Informáta Informáta Densdades dferentes Formas não esféras Dados orgnas K-médas 3 grupos Dados orgnas K-médas grupos 3 4

7 Informáta Informáta Soução possíe Exempo de soução Dados orgnas Grupos enontrados por K-médas Dados orgnas Grupos enontrados por K-médas Uma soução é usar mutos agrupamentos Enontra partes dos grupos mas presa ooá-os untos. 5 6 Informáta Informáta Exempo de soução Agrupamentos superpostos: Fuy C Means Consdere o probema de agrupar aores esaares em agrupamentos: Y {y y... y } O probema é equaente a enontrar a matr de partção U que mnma um rtéro de desempeno a dspersão ntra-uster néra ntra-asse: J Y; V U µ m d y onde V R é a matr que tem na sua -ésma ouna onde é o aor do protótpo do uster U R é a matr de partção de eementos µ o grau de pertnêna do dado y ao uster e dy é a dstâna entre y e. Dados orgnas Grupos enontrados por K-médas A matr de partção U que mnma J para um determnado onunto de dados Y e um número de uster é obtda teratamente peo agortmo FCM. 7 8

8 Informáta Informáta Agortmo FCM Agortmo FCM ont. Dada a matr de dados Y esoer o número de usters < < o expoente m > e a toerâna de parada ε >. Inaar a matr de partção U aeatoramente sueta às restrções: Repetr para... µ.... Cauar o protótpo de ada agrupamento: médas < µ <... m µ µ y m 9. Cauar a dstâna quadráta de ada dado até o protótpo de ada agrupamento: 3. Atuaar a matr de partção: µ d d d m y se d para agum uster s faça µ s e µ s. repetr... até que U U < ε. 3 Informáta Informáta Esoa da meor onfguração de agrupamentos A esoa do número ótmo de agrupamentos pode ser feta a partr de um índe de desempeno que representa a utdade da partção: S Y; V µ m d y d y p onde y p é a méda de todos os dados: y Este índe representa a dferença entre a soma das futuações ntra-usters e a soma das futuações nter-usters. A dsão por penaa onfgurações om um número grande de agrupamentos. p y Agortmo de Gustafson Kesse A agortmo G-K dentfa agrupamentos em subespaços utando uma medda de dstâna adaptata baseada na dstâna de Maaanobs. A experêna mostra que este agortmo tem bom desempeno na maora dos probemas prátos. O agortmo enontra a matr de partção U que mnma um rtéro de desempeno a dspersão ntra-uster néra ntra-asse: µ J Y; V U d m onde V R n é a matr que tem na sua -ésma ouna onde é o etor protótpo do uster U R é a matr de partção de eementos µ o grau de pertnêna do dado ao uster e d é a dstâna entre e. A matr de partção U que mnma J para um determnado onunto de dados Y e um número de uster é obtda teratamente peo agortmo G-K. 3 3

9 Informáta Informáta Dstrbução gaussana mutarada Dstrbução gaussana barada f x π p T xµ e xµ Matr de oarânas de uma dstrbução barada: σ σ σ σ onde σ e σ são as arânas margnas e σ é a oarâna Informáta Agortmo de Gustafson Kesse A forma dos agrupamentos é determnada pea medda de dstâna esoda que neste agortmo é uma norma de produto nterno: d T M onde M é uma matr defnda posta adaptada à forma de ada agrupamento desrta aproxmadamente peas matres de oarânas: m F µ µ Pode-se mostrar que a matr ndutora de dstâna M é auada omo a nersa normaada da matr de oarâna do agrupamento: M m n det F F T 35 Informáta Agortmo G-K Dada a matr de dados Z esoer o número de usters < < o expoente m > e a toerâna de parada ε >. Inaar a matr de partção U aeatoramente sueta às restrções: Repetr para... µ.... Cauar o protótpo de ada agrupamento: médas < µ <... m µ µ m 36

10 Informáta Informáta Agortmo G-K ont. Agortmo G-K ont.. Cauar as matres de oarânas de ada agrupamento: 3. Cauar as dstânas: d F m T µ T n det F F µ m 4. Atuaar a matr de partção: µ d d m se d para agum uster s faça µ s e µ s. repetr... até que U U < ε Informáta Probema Impemente os agortmos de fuy FCM e Gustafson-Kesse e espefque om ees os entródes e a matr de partção para os dados do arquo dst.txt. Consdere um modeo om dos agrupamentos. Informáta Resutados Proesso gerador Agortmo FCM Agortmo G-K 39 4

11 Informáta 4 o aso de agrupamentos om densdades aráes e quantdade de dados desbaaneada em ada agrupamento é meor usar uma métra de dstâna exponena entre ada dado e ada protótpo baseada na estmação por máxma erossmança: d e : Agortmo FMLE: Estmação por Máxma Verossmança Esta dstâna é usada para auar a probabdade a posteror que fa o pape do grau de pertnêna µ. [ ] [ ] / exp det T e P d F F onde P é a probabdade a pror do agrupamento e F é a matr de oarânas fuy do agrupamento auada por: T F Informáta 4 Agortmo FMLE e a probabdade a pror P de ada agrupamento:. Cauar o protótpo de ada agrupamento: Inaar as probabdades a posteror de todos os etores de dados a ada agrupamento sueta à restrção: Repetr para... até que as aterações de seam pequenas:... P Informáta 43 Agortmo FMLE. Cauar a matr de oarâna fuy de ada agrupamento: d d e e / / T F 3. Cauar as dstânas quadrátas: [ ] [ ] P d T e / exp det F F 4. Atuaar as probabdades a posteror: Informáta 44 Identfação do número de agrupamentos Idéa: dada uma partção de agrupamentos ooa-se um noo entróde numa regão de baxo grau de pertnêna nos agrupamentos exstentes. Passos para seeção dos entródes:. Cauar a méda e deso padrão σ do onunto de dados.. Esoer a posção do prmero protótpo omo a méda auada. 3. Esoer um protótpo adona guamente afastado de todos os dados por aguns σ. 4. Cauar noa partção FCM. 5. Se for menor que um aor máxmo espefado parar senão r para 3. O número ótmo de agrupamentos pode ser determnado pea partção om a maor densdade méda: raão entre o número de pontos dentro de um deso padrão e o per-oume de ada agrupamento.

12 Informáta Cáuo da densdade méda de uma partção fuy O per-oume fuy da partção é auado a partr das matres de oarânas fuy de ada agrupamento: [ det ] F HV F A soma dos membros entras orrespondente ao número de membros do agrupamento que estão dentro de um per-epsóde uo rao é um deso padrão é auada por: S u T { : F < } Informáta Dados do probema Agortmo -médas Cassfação deseada Agortmo G-K mutarado A densdade da partção é auada pea raão: om: P D S S F HV S Informáta Informáta Agrupamento probabísto EM Agortmo terato que onsdera uma mstura de modeos probabístos desonedos que desree a dstrbução dos grupos. o modeo onsderado a função densdade fdp é formada por uma ombnação near de funções de base gaussanas: prob x prob x onde p são os parâmetros de mstura reaonados om a probabdade a pror de x ter sdo gerado pea omponente da mstura e a fdp erossmança da asse é dada por: p prob x θ f x; µ σ e σ π xµ σ A 5 A 43 B 6 B 64 A 45 A 4 A 46 A 45 A 45 B 6 A 47 A 5 B 64 A 5 B 65 A 48 A 49 A 46 Um modeo mstura de duas asses B 64 A 5 A 5 B 6 A 49 A 48 B 6 A 43 A 4 dados modeo A 48 B 64 A 5 B 63 A 43 B 65 B 66 B 65 A 46 A 39 B 6 B 64 A 5 B 63 B 64 A 48 B 64 A 48 A 5 A 48 B 64 A 4 A 48 A 4 Como o -médas o agortmo tem um passo de presão onde são auadas as probabdades de ada amostra pertener a ada grupo expetatas. um segundo passo de estmação ee atuaa os parâmetros dos modeos probabístos: maxmação da erossmança a probabdade das dstrbuções onsderando os dados. 47 µ A 5 σ A 5 p A.6 µ B 65 σ B p B.4 48

13 Informáta O agortmo EM O agortmo na om aores arbtráros dos parâmetros do modeo mstura µ A σ A µ B σ B p A. p B é obtdo ndretamente: p A + p B. A partr desses parâmetros aua-se as probabdades de ada amostra pertener a ada uma das dstrbuções pea regra de Bayes expetaton: aor esperado da asse: Pr [ A x] Pr [ x A] Pr[ A] f x; µ A Pr[] x Pr[] x σ p onde fx; µ A σ A é a dstrbução norma para o grupo A: f xµ σ x; µ σ e πσ A A Informáta O agortmo EM A partr das probabdades são auadas noas estmatas dos parâmetros dos grupos maxmaton: maxmação da probabdades das dstrbuções para os dados: Pr σ A Pr µ A [ A x ] x + Pr[ A x ] x + L + Pr[ A xn ] Pr[ A x ] + Pr[ A x ] + L + Pr[ A x ] [ A x ] x µ A + Pr[ A x ] x µ A + L + Pr[ A xn ] xn µ A Pr[ A x ] + Pr[ A x ] + L + Pr[ A x ] p A x prob A n n x n 49 5 Informáta Informáta Mapa Auto-organáe É uma rede neura om trenamento não-supersonado apa de aprender a agrupar dados produndo uma representação numa dmensão reduda preserando na medda do possíe a topooga do espaço de entrada. Arqutetura da rede SOM Espaço de entrada ontínuo w Espaço de saída dsreto Camada Competta w 6 w Φx;w 3 x w 5 w 4 5 Camada de Entrada w 4 w

14 Informáta Informáta Proessamento do SOM O proessamento da SOM pode ser resumdo atraés do segunte proedmento de aprendado não-supersonado: Apresentar um etor na entrada da rede Cauar as atações dos neurônos da amada ompetta Determnar o neurôno enedor neurôno mas próxmo da entrada Fase de trenamento: Modfar o etor de pesos do enedor e de todos os neurônos dentro de uma nança do enedor. Fase de reuperação reordação ou atuação: O neurôno enedor nda o agrupamento ao qua o etor de entrada pertene. Trenamento do SOM O trenamento do SOM se basea no auste de uma nança entrada no neurôno enedor de modo a orentar o etor de pesos de todos os neurônos da nança em dreção ao etor de entrada. O tamano da nança dee arar no tempo nando om uma abrangêna arga e fnaando om uma nança muto estreta. A nança pode ser mpementada atraés de uma função ontínua omo uma gaussana ou dsreta nundo os nos mas próxmos dentro de um quadrado ou exágono de argura aráe Informáta Auste dos pesos do SOM a fase de trenamento os pesos dos neurônos dentro de uma erta nança entrada no neurôno enedor são austados de modo a aproxmá-os do etor de entrada w : x: w 3 w6 w w x w 5 w 9 w w w 4 w w8 8 x x w 7 w 3 w 5 w 6 n n + w w x w 7 w 4 w 9 Informáta Atuaação dos pesos Dentro da nança os pesos são auados por: w n + w n + ηn. x w n A taxa de aprendado η n dee dereser om o tempo dsreto n: η n η exp τ 5 _ n τ τ x - w n x w n+ w n 55 56

15 Informáta Todos neurônos da rede têm seus pesos atuaados por: Atuaação dos pesos para nança ontínua Sendo π a função de nança gaussana entrada no neurôno enedor de índe : A argura da nança dee também dereser om o tempo: π σ σ 5 w n+ w n + ηn.π n.xn w n π n exp σ n σ exp d σ n _ n τ Tpamente esoe-se σ de modo que toda a rede sofra austes sgnfatos na fase na do aprendado. Informáta Smuação do SOM A smuação dsreta do SOM é omposta das seguntes etapas:. Inaar os pesos da rede aeatoramente e os parâmetros η σ e n max. Inaar a aráe de tempo dsreto n.. Apresentar aeatoramente um etor de entrada do arquo de trenamento e auar a atação de todos os neurônos da rede. 3. Determnar o neurôno enedor de índe. 4. Cauar o fator de nança π para ada neurôno da rede em função da sua dstâna em reação ao neurôno d. 5. Atuaar os pesos de todos os neurônos da rede eando em onta o seu fator de nança. 6. Inrementar n e atuaar os parâmetros η e σ. 7. Votar para enquanto n n max Informáta Informáta Mapas Semântos Contextuas Mapas Semântos Contextuas Pode-se formar mapas topográfos para dados abstratos omo paaras nos quas as reações semântas são refetdas por suas dstânas reatas no mapa. Para tanto é neessára a nusão dos ontextos nos quas ada símboo aparee. Com sso a rede é apa de detetar a smardade óga entre paaras a partr das estatístas de seus ontextos. O probema dos mapas semântos está reaonado om a formação auto-organada de uma organação de ategoras representação nterna por meo de dados que ontêm nformação mpíta reaonada om estas ategoras. O probema de apar a e de adaptação ompetta baseada em dstâna a símboos é que o sgnfado de um símboo é desassoado da sua odfação não aendo assm uma noção de smardade óga entre as representações smbóas. Entretanto a smardade óga entre os símboos pode ser detetada ndretamente se ees forem apresentados untamente om um onunto de atrbutos do tem que ees odfam ou sea o seu ontexto. O etor de entrada para o mapa x sera a onatenação do ódgo smbóo x s om o onunto de atrbutos x a : x [x s x a ] T. A entrada do mapeamento semânto é um etor de duas omponentes ortogonas x s e x a onde a norma da omponente dos atrbutos predomna sobre a norma da parte smbóa durante o proesso de auto-organação. Assm o mapeamento topográfo refete prnpamente as reações métras do onunto de atrbutos. Entretanto omo as entradas dos snas smbóos estão onomtantemente atas om a omponente smbóa durante o trenamento são formados traços de memóra entre estas entradas e as éuas do mapa que foram seeonadas pea omponente de atrbutos. Por outro ado durante a fase de reonemento de nformações de entrada os snas de atrbuto são mas fraos ou ausentes mas mesmo assm a omponente smbóa é apa de atar as mesmas undades do mapa. ormamente os atrbutos são aráes dsretas ausêna: ou presença: ua dentdade é aramente dada pea sua posção no ampo de atrbutos x a. Exempo: geração de um mapa semânto uas entradas representam a odfação do nome de um entre 6 anma x s e um onunto de 3 atrbutos dsretos x a representando araterístas omo tamano número de patas obertura e ábtos. x s é um etor 6-D om apenas um bt gua a a e os demas são ero. 59 6

16 Informáta é pequeno é médo é grande tem patas tem 4 patas tem peos tem asos tem rna tem penas aça orre oa nada Entradas: nomes de anmas e seus atrbutos pombo gana pato ganso oua faão água raposa ão obo gato tgre eão aao ebra aa 6 Informáta Vsuaação por rotuação Podemos suaar um mapa de araterístas rotuando ada neurôno peo padrão de teste que exta este neurôno de manera máxma meor estímuo. A rotuação produ uma partção da grade de neurônos x edenando uma erarqua de domínos annados. pato pato ganso ganso ganso pombo pombo pombo gana gana pato pato ganso ganso orua orua pombo pombo gana gana aao aao ganso faão faão orua orua água água água aao ebra ebra faão faão faão orua água água água ebra ebra ebra faão faão faão orua água água água ebra ebra ebra obo obo ão ão ão raposa raposa aa aa obo obo obo ão ão ão raposa raposa aa aa obo obo obo ão ão ão raposa raposa aa tgre tgre tgre eão eão ão ão gato gato aa tgre tgre tgre eão eão eão gato gato gato 6 Informáta O agortmo COBWEB é um método erárquo nrementa de agrupamento de onetos que assma ada obeto seqüenamente numa erarqua defnda por uma árore. Aém dsso COBWEB ea em onta o desempeno gera do assfador resutante para organar a sua onfguração. O agortmo exeuta uma busa baseada em subda de enosta no espaço de esquemas de assfação erárquos COBWEB faoree asses que maxmam a nformação que pode ser presta peo onemento da pertnêna de asse. Com sso ee maxma a apadade de nferêna do esquema de assfação gerado. Ambente Agrupamento de onetos: COBWEB Eemento de aprendagem Base de Conemento Eemento de desempeno 63 Informáta Agrupamento nrementa Cobweb Cada amostra é examnada ndduamente. A ada estágo o agortmo forma uma árore om asos nas foas e um nó ra que representa o onunto ompeto de dados. o nío a árore onsste apenas do nó ra. Cada amostra é aresentada uma a uma e a árore é atuaada apropradamente a ada estágo. A atuaação pode ser meramente enontrar o ugar orreto para ooar uma foa representando uma noa amostra ou pode enoer uma reestruturação rada da parte da árore afetada pea noa amostra. A ae para dedr omo e onde atuaar a árore é uma função amada de utdade da onfguração que mede a quadade goba de uma partção de amostras em agrupamentos. 64

17 Informáta Informáta Utdade de uma onfguração de ategoras A UC mede o baanço entre smardade ntra-asse e dssmardade nterasse de obetos desrtos em termos de pares atrbuto-aor nomna. A smardade ntra-asse se refete nas probabdades ondonas: Pr[a C ] que é a probabdade de preer que o atrbuto a tena o aor sabendo que a amostra é do grupo C. : asse : atrbuto : aor Quanto maor ea for maor a proporção de membros da asse que ompartam o aor e mas presíe é este aor para os membros da asse. A smardade nter-asses é uma função de Pr[C a ] : quanto maor for menor o número de obetos em asses dferentes que ompartam este aor e mas predto este aor é para a asse. Pr[a ] é usada para ponderar a mportâna de ada aor pea sua freqüêna de oorrêna; é a probabdade que uma amostra sem a nformação sobre a que grupo pertene tena o aor para o atrbuto a. Dada uma partção de asses {C... C... C n } podemos esreer o baanço: n Pr [ a ] Pr[ C a ] Pr[ a C ] 65 Utdade de uma onfguração UC é derada da equação do baanço e mede a nformação gana ao se saber que a amostra pertene a uma asse em reação à fata dessa nformação: Pr[ a C ] [ a ] UC C C... C Pr[ C ] Pr para grupos atrbutos aores de atrbutos Σ Σ Pr[a C ] é a méda do número de aores de atrbutos que podem ser estmados orretamente oneendo-se a asse C : om a partção {C...C n }. Σ Σ Pr[a ] é a méda do número de aores de atrbutos que podem ser estmados orretamente sem onemento a pror das asses. A dsão por permte omparação entre dferentes tamanos de partção. ote que pea regra de Bayes: Pr[a ] Pr[C a ] Pr[C ] Pr[a C ] Com sso: n Pr n [ a ] Pr[ C a ] Pr[ a C ] Pr[ C ] Pr[ a C ] 66 Informáta Dados do tempo om dentfadores ID Tempo Temperatura umdade entoso oga a ensoarado quente ata faso não b ensoarado quente ata erdadero não nubado quente ata faso sm d uoso amena ata faso sm e uoso fra norma faso sm f uoso fra norma erdadero não g nubado fra norma erdadero sm ensoarado amena ata faso não ensoarado fra norma faso sm uoso amena norma faso sm ensoarado amena norma erdadero sm nubado amena ata erdadero sm m nubado quente norma faso sm n uoso amena ata erdadero não Informáta Agrupamento nrementa A asse não será onsderada no proesso de agrupamento ea será mostrada apenas para ontroe da quadade do proesso. A prmera amostra forma um sub-agrupamento própro abaxo do nó ra. Para ada noa amostra aua-se o aor de UC onsderando todas as possbdades de ea ser agrupada nas foas exstentes. Eentuamente o maor aor pode resutar da ração de um noo ramo para a amostra

18 Informáta Informáta Passo Passo C C a:não C ID Tempo Temperatura umdade entoso oga a ensoarado quente ata faso não Pr[ a C ] [ a ] UC C C... C Pr[ C ] Pr C C ID Tempo Temperatura umdade entoso oga a ensoarado quente ata faso não b ensoarado quente ata erdadero não Pr[ a C ] [ a ] UC C C... C Pr[ C ] Pr a:não b:não C Meor onfguração a:não C b:não C Informáta Informáta Passos nas a:não b:não :sm d:sm a:não a:não b:não :sm d:sm e:sm e:sm f:não g:sm b:não :sm a:não b:não :sm d:sm a:não d:sm :não e:sm f:não g:sm e:sm f:não Reestruturação por mesa de nós: a e d são mesados antes de nur o nó 7 7

19 Informáta Herarqua fna g:sm f:não :sm m:sm n:não a:não d:sm :não :sm :sm e:sm :sm b:não :sm 73