4 Modelo para Extração de Regras Fuzzy a partir de Máquinas de Vetores Suporte FREx_SVM 4.1 Introdução

Transcrição

1 4 Modelo paa Extação de Regas Fuzzy a pati de Máquinas de Vetoes Supote FREx_SVM 4.1 Intodução Como já mencionado, em máquinas de vetoes supote não se pode explica a maneia como sua saída é obtida. No entanto, em inúmeas aplicações, é fundamental conhece não somente a decisão de classificação, mas também sabe de foma mais explícita como se chegou a essa decisão. Assim, é impotante extai conhecimento explícito das SVM. Paa isso, definese um modelo de extação de egas paa evela o conhecimento de uma SVM teinada. Existem váios métodos de extação de egas a pati de edes neuais teinadas [44], [45], [46], [47], [48], [49]. No entanto, paa o caso de SVM, o assunto ainda não foi suficientemente exploado [13], [14] e [15]. As egas extaídas pelos métodos existentes são simbólicas e, po isso, menos flexíveis. Este tabalho tem como poposta a constução de um modelo de extação de egas fuzzy paa a classificação em duas ou mais classes, denominado FREx_SVM, usando as pojeções dos vetoes supote de uma SVM teinada. Inicialmente é desenvolvido um modelo de extação de egas paa o caso de classificação bináia, exposto na seção 4.2 e que, em linhas geais, consiste em: Teina-se uma SVM e obtêm-se os vetoes supotes; Paa cada veto supote acham-se suas pojeções nos eixos coodenados; Define-se um númeo pé-deteminado de conjuntos fuzzy paa cada uma das coodenadas; A pati dos conjuntos fuzzy e dos vetoes supote geam-se as egas fuzzy. Em seguida, na seção 4.3, o modelo é estendido paa o caso de classificação em mais de duas classes, e que, em linhas geais, consiste em:

2 52 Escolhe-se um dos métodos de classificação em k classes; Teina-se uma SVM e obtêm-se os vetoes supotes; Paa cada veto supote, acham-se suas pojeções nos eixos coodenados; Define-se um númeo pé-deteminado de conjuntos fuzzy paa cada uma das coodenadas; A pati dos conjuntos fuzzy e dos vetoes supote, geam-se as egas fuzzy. Vale a pena menciona que a opção pelo tabalho com vetoes supote foi motivada pelo fato de que, como já foi visto, o hipeplano ótimo de sepaação obtido pela SVM é definido em função dos vetoes supote. Assim, pode-se dize que um veto supote epesenta bem a classe à qual petence.

3 Extação de Regas Caso Bináio O modelo de extação de egas de SVM bináia é dividido em tês etapas: obtenção das pojeções dos vetoes supote, definição dos conjuntos fuzzy e extação das egas fuzzy. Essas etapas estão expostas detalhadamente nas seções 4.2.1, e A Figua 12 mosta um diagama com um esumo do funcionamento do modelo, desde o teinamento da SVM até a obtenção das egas fuzzy. SVM Teinamento da SVM Obtenção dos vetoes supote Geação e Constução dos Pojeção dos avaliação conjuntos fuzzy vetoes supote das egas paa cada nos eixos coodenada coodenados FREx_SVM Figua 12 - Modelo de Extação de Conhecimento Explícito de SVM Etapa 1 Obtenção das pojeções dos vetoes supote A etapa 1 do algoitmo consiste na pojeção dos vetoes supote obtidos pela classificação com a SVM bináia nas coodenadas catesianas. O númeo de pojeções é igual à dimensão do espaço de entadas (númeo de atibutos de entada). Considee o caso bidimensional e seja s = (61, 88) um veto supote de uma ceta classe. A pojeção desse veto supote no eixo x é 61 e a no eixo y é 88. A Figua 13 mosta essas pojeções.

4 54 Veto supote s Figua 13 - Pojeção do veto supote s

5 Etapa 2 Definição dos conjuntos fuzzy A etapa 2 do algoitmo consiste na constução dos conjuntos fuzzy. Como já foi mostado em [52] e [53], é pefeível constui os conjuntos peviamente a defini-los atavés dos dados. Assim, estabelece-se um númeo deteminado de conjuntos fuzzy tiangulaes de tamanho fixo paa todas coodenadas. Suponhase que a dimensão do espaço de entada seja n e que sejam definidos t conjuntos fuzzy paa cada vaiável. O conjunto fuzzy C ij é o j-ésimo conjunto definido na i-ésima coodenada, onde i {1,...,n} e j {1,...,t}. A Figua 14 mosta a constução de 5 conjuntos fuzzy paa n = 2. C 25 C 24 C 23 C 22 C 21 C 11 C 12 C 13 C 14 C 15 Figua 14 - Definição dos conjuntos fuzzy Em seguida, paa a pojeção de cada veto supote em uma dada coodenada, são encontados os gaus de petinência a cada um dos conjuntos fuzzy e é identificado o conjunto com o maio gau de petinência. Isso é efetuado da seguinte foma: sejam x i a pojeção do veto supote x na i-ésima coodenada e µ Cij (x i ) o gau de petinência de x i ao conjunto C ij. Calcula-se, então, max j {1,...,t} {µ Cij (x i )} e detemina-se, assim, o conjunto C ij em que o gau de petinência é máximo. Confome indicado na Figua 15, µ C14 (x 1 ) = 78, µ C15 (x 1 ) = 22, µ C24 (x 2 ) = 24 e µ C25 (x 2 ) = 76, onde x 1 = 61 é a pojeção do veto supote s no eixo x e onde x 2 = 88 é a pojeção no eixo y. Os conjuntos em que os gaus de petinência são máximos, C 14 e C 25, estão destacados com um quadado ao edo. Paa uma melho visualização, os conjuntos C ij em que o gau de petinência de x i é igual a 0 não apaecem na Figua 15.

6 56 Veto supote s Figua 15 - Obtenção dos conjuntos fuzzy com maio gau de petinência

7 Etapa 3 Extação de Regas Fuzzy Nessa etapa, cada veto supote gea uma ega fuzzy da foma explicada a segui. Paa cada veto supote x, seja C ij i o conjunto fuzzy da i-ésima coodenada no qual o gau de petinência de x i é máximo, como definido na etapa anteio, onde j i {1,...,t}. Seja p = (p 1,...,p n ) um ponto de n. A ega geada pelo veto supote x seá: : Se {p 1 é C 1j 1,..., p k é C nj n}, então p é da classe do veto supote x. Na Figua anteio a ega geada é: Se {p 1 é C 14 e p 2 é C 25 }, então p é da classe do veto supote s. Como já foi dito, são geadas tantas egas quanto foem os vetoes supote. Pode ocoe que dois vetoes supote de classes difeentes geem egas conflitantes (mesmo antecedente e conseqüentes difeentes). Paa esolve esse poblema são definidas duas méticas (seções e ): abangência fuzzy e acuácia fuzzy - extensões das definições apesentadas em [16]. Assim, quando são geadas egas conflitantes, a ega que possui maio acuácia fuzzy é incluída no conjunto de egas e as outas são excluídas. Paa ilusta o funcionamento do algoitmo FREx_SVM, considea-se um exemplo simples, mostado na Tabela 2, que consiste em seis padões (P1,..., P6) de dois atibutos (peso e altua) definidos em duas classes -1 e 1. Após o teinamento da SVM, deteminam-se P1 e P3, da classe -1, e P2, da classe 1, como vetoes supotes (na Tabela 2, em negito). Tabela 2 - Exemplo paa ilusta o funcionamento do FREx_SVM Pontos Peso Altua Classe P1 60 1,75-1 P2 65 1,60-1 P3 70 1,80-1 P4 76 1,85-1 P5 80 1,65-1 P6 85 1,68-1 Paa cada coodenada, dois conjuntos fuzzy tiangulaes e complementaes são constuídos. Usando-se a notação peviamente utilizada, paa o atibuto peso

8 58 tem-se os conjuntos C 11 e C 12, e paa o atibuto altua, C 21 e C 22. A Figua 16 mosta os conjuntos fuzzy paa os atibutos 1 e 2. Os gaus de petinência esultantes paa cada atibuto de entada são mostados nas Tabelas 3 e 4. Figua 16 - Conjuntos fuzzy definidos paa os atibutos peso e altua O conjunto com gau de petinência máximo da pojeção do veto supote P1 na pimeia coodenada é C 11 e na segunda coodenada é C 22. Assim, P1 gea a seguinte ega: Rega 1: Se {x 1 é C 11 e x 2 é C 22 }, então x = (x 1, x 2 ) é da classe -1. O veto supote P2 tem maio gau de petinência paa os conjuntos C 11 e C 21. Assim, P2 gea a ega: Rega 2: Se {x 1 é C 11 e x 2 é C 21 }, então x = (x 1, x 2 ) é da classe 1. Paa P3, os conjuntos com os gaus de petinência máxima das suas pojeções são C 11 e C 22. A ega geada é Rega 3: Se {x 1 é C 11 e x 2 é C 22 }, então x = (x 1, x 2 ) é da classe -1. Tabela 3 - Gau de petinência paa o 1 0 atibuto C 11 µ C 12 µ

9 59 Como pode se visto, os vetoes supote P1 e P3 da classe -1 geam a mesma ega. Além disso, apesa de existiem seis padões de entada, que podeiam poduzi seis egas, apenas tês delas são geadas. Tabela 4 - Gau de petinência paa o 2 0 atibuto C 21 µ C 22 µ 1, , , , , , , , , , , ,68 54 A segui são apesentadas as definições de acuácia e abangência fuzzy, que são as méticas mais utilizadas paa avaliação de egas, popostas paa o modelo FREx_SVM. Como anteiomente mencionado, essas definições são adaptações da definição de Lanas [16].

10 Acuácia Fuzzy A acuácia de uma ega fuzzy mede quão bem ela desceve os dados. Paa o poblema de classificação em k classes, a acuácia fuzzy de uma ega associada à classe c, c { 1,2,...,k}, é definida po FA c m c µ ( x i = 1 = m µ ( x j = 1 i j ), (36) ) onde µ é o poduto dos gaus de petinência dos padões a cada conjunto pesente no antecedente da ega, m c é o númeo de padões na classe c e m é o númeo total de padões. Paa cada ega, a soma das acuácias FA c, c = {1,...,k}, é igual a 1. A foma como se define a acuácia fuzzy depende do númeo de padões po classe. Assim, se houve um banco de dados em que a difeença ente o númeo de padões po classe seja gande, a acuácia fuzzy pode conduzi a falsos esultados. Logo, se o banco de dados tem um númeo difeente de padões po classe, é necessáio defini um fato de coeção CF paa compensa a distibuição não unifome dos padões: CF c 1 = k FA j mc j = 1 m j. (37) A nova acuácia fuzzy é, então, definida atavés da equação (38). * ( ) FA. CF FA c = c c. (38) Paa cada ega, a soma das novas acuácias (FA c )*, c = {1,...,k}, é k k k 1 k FAi (FA = i )* = (FAi )(CFi ) = FAi = 1 = 1 = 1 k i i i FA j i = 1 mi k mi j = 1 m j j = 1 1 FA m j j = 1

11 61 fuzzy são 1 : Paa as egas geadas no exemplo apesentado na Tabela 2, as acuácias Rega 1 FA 1 1 = 8 * 58 8 * * * * * * * * 54 FA 1 1 1,23 = = 1,79 = 8 * = = 1,79 69, 7 * * * * * * * * Rega 2 FA 2 1 = 8 * 42 8 * * * * * * * * = = 1,49 44, FA 2 1 = 8 * = = 1,49 7 * * * * * * * * Os dados no exemplo são distibuídos unifomemente nas duas classes; assim o fato de coeção é 1 paa ambas as classes. 1 Como a ega 1 e a ega 3 epesentam a mesma ega, só se calcula a acuácia fuzzy das egas 1 e 2.

12 Abangência Fuzzy A abangência fuzzy mede o númeo de padões afetados pela ega. A definição da abangência fuzzy da ega é FC m µ ( x j ) j = 1 =, (39) m onde µ (x j ) e m foam definidos na seção anteio. Usando o mesmo exemplo, a abangência fuzzy paa as egas 1 e 2 é FC FC 1 2 8* * * * * * 54 = 6 179, = = 3 6 8* * * * * * 46 = 6 149, = = 25. 6

13 Extação de Regas Caso de k classes, k > 2 Com o objetivo de extai egas paa a classificação em k classes com SVM, deve-se pimeio escolhe um ente os métodos de classificação apesentados na seção 2.3 e, em seguida, teina a SVM com os dados de teinamento pé-pocessados. Deste modo, obtêm-se os vetoes supote associados a cada classe. A Figua 17 mosta um diagama do modelo de extação de egas paa a classificação em múltiplas classes. Escolha de um método de classificação em múltiplas classes SVM Teinamento da(s) SVM(s) Obtenção dos vetoes supote Geação e Constução dos Pojeção dos avaliação conjuntos fuzzy vetoes supote das egas paa cada nos eixos coodenada coodenados FREx_SVM Figua 17 - Modelo de Extação de Regas paa Classificação em Múltiplas Classes Cada método de classificação gea, a pincípio, um conjunto de egas. Esses conjuntos de egas são avaliados em elação à acuácia e à abangência fuzzy. Assim, pode-se veifica qual método de classificação em múltiplas classes gea melhoes conjuntos de egas quanto a essas medidas. Como mencionado, o método de decomposição um po classe constói k SVMs paa sepaa cada classe de todas as outas. Seja SVM i a que sepaa a classe i das outas, i = {1,...,k}. Paa essa SVM, somente os vetoes supote da classe i são consideados paa a constução das egas, já que esses vetoes supote auxiliam na definição da classe i. A infomação contida em um veto

14 64 supote da classe j, j i, não contibui paa defini a classe j; apenas seve paa exclui a classe i. No método de sepaação das classes duas a duas, é constuída uma SVM paa sepaa as classes i e j, j i. Nesse caso, todos os vetoes supote obtidos ajudam a defini as classes i e j e, po isso, são usados na geação das egas fuzzy. Também paa o método de Camme e Singe, todos os vetoes supote obtidos são usados já que eles, nesses casos, ajudam a defini as classes.