Implementação de Taxonomias para Regras de Associação em um Ambiente de Pós-processamento

Transcrição

1 Implementação de Taxonomias para Regras de Associação em um Ambiente de Pós-processamento Marcos Aurélio Domingues Solange Oliveira Rezende Marcos Ferreira de Paula Universidade de São Paulo Instituto de Ciências Matemáticas e de Computação Laboratório de Inteligência Computacional LABIC Av. Trabalhador São-Carlense, 400, Cx. Postal São Carlos, SP, Brasil {mad, solange, mfpaula}@icmc.usp.br Resumo: Um dos objetivos do processo de Mineração de Dados é que seus usuários finais possam analisar, compreender e utilizar o conhecimento extraído como apoio para a tomada de decisões. Entretanto, um problema encontrado no final do processo é que muitos dos algoritmos utilizados geram uma enorme quantidade de padrões, dificultando consideravelmente sua análise. Esse problema recebe uma maior ênfase em Regras de Associação, uma vez que essa técnica de Mineração de Dados procura identificar todos os comportamentos intrínsecos do conjunto de dados. Uma abordagem que pode auxiliar a análise de Regras de Associação é o uso de taxonomias na fase de Pós-processamento das regras. Nesse artigo é descrito como o uso de taxonomias no processo de avaliação de Regras de Associação pode eliminar regras redundantes e generalizar conhecimento. Para a utilização de taxonomias no processo de avaliação das regras foi proposto um algoritmo que está sendo implementado no Ambiente para Exploração de Regras RulEE (Rule Exploration Environment). Palavras Chaves: Mineração de Dados, Pós-processamento, Regras de Associação, Taxonomias. 1 Introdução O desenvolvimento de tecnologias para armazenamento de dados tem proporcionado às organizações a capacidade de armazenar informações detalhadas sobre cada transação que efetuam, gerando grandes Bases de Dados. O uso de técnicas de análise de dados, quando aplicadas a grandes Bases de Dados, normalmente não extrapolam a realização de consultas SQL (Structured Query Language) simples, utilização de ferramentas OLAP (Online Analytical Processing) ou mecanismos de visualização de dados. Essas técnicas não permitem que algumas questões importantes no apoio a um processo de tomada de decisão sejam expressas, como por exemplo, as que dependem de conhecimento. Diante da deficiência de análise e compreensão de grandes volumes de dados, diversos estudos têm sido direcionados ao desenvolvimento de tecnologias de extração automática de conhecimento de Bases de Dados. Esse campo de pesquisa é normalmente referenciado na literatura como Mineração de Dados (MD). O processo de MD tem o objetivo de encontrar conhecimento, a partir de grandes conjuntos de dados, para ser utilizado em um sistema inteligente ou como apoio em processos de tomada de decisão. Assim, um requisito importante é que o conhecimento descoberto seja válido, além de compreensível, útil e interessante [5, 13]. Trabalho realizado com o auxílio financeiro da CAPES e FAPESP, Brasil.

2 Embora tenha se tornado necessária a aplicação do processo de MD para extrair conhecimento de dados, sua aplicação pode gerar uma elevada quantidade de padrões, muitos dos quais podem não ser importantes, relevantes ou interessantes para o usuário. Fornecer ao usuário uma grande quantidade de padrões não é produtivo pois, geralmente, ele procura poucos padrões que sejam interessantes. Buscando resolver esse problema, pesquisas em Pós-processamento de conhecimento, principalmente relacionadas com a avaliação da qualidade, interessabilidade, compreensibilidade e visualização do conhecimento extraído, vem sendo realizadas nos últimos anos [4, 8]. Nesse sentido foi desenvolvido e implementado o Ambiente para Exploração de Regras RulEE (Rule Exploration Environment) [12]. Esse ambiente permite, por exemplo, que o usuário avalie regras de classificação, regressão e associação quanto a precisão, compreensibilidade ou interessabilidade. O problema de se gerar grandes quantidades de padrões recebe uma maior ênfase em Regras de Associação (RA), uma das técnicas de MD que recentemente tem despertado grande interesse na área acadêmica e nas organizações [3]. Embora haja um grande entusiasmo com essa técnica, a mesma possui o inconveniente de gerar grande volume de conhecimento no formato de regras, dificultando a análise do conhecimento pelo usuário final. Essa dificuldade também foi constatada utilizando o Ambiente RulEE para análise de RA. Uma abordagem para minimizar o problema da quantidade de padrões extraídos pela técnica de RA é o uso de taxonomias [14, 10, 1]. As taxonomias refletem uma caracterização coletiva ou individual de como os itens podem ser hierarquicamente classificados [1]. Diante desse contexto, nesse artigo é descrito como o uso de taxonomias no processo de avaliação de RA, pode eliminar regras redundantes e generalizar conhecimento, facilitando, dessa maneira, a análise das regras obtidas com relação à compreensibilidade e tamanho do conjunto de regras. Para a utilização de taxonomias no processo de avaliação de RA foi proposto um algoritmo que está sendo implementado no Ambiente RulEE. O artigo está organizado em 5 seções: na seção 2 é apresentada a definição de RA e alguns métodos de Pós-processamento dessa técnica. Na seção 3 é apresentado o Ambiente RulEE. Na seção 4 é descrito como as taxonomias podem ser empregadas na generalização de RA, sendo também proposto um algoritmo para generalizar as regras. Na seção 5 são apresentadas algumas considerações sobre esse artigo. 2 Pós-processamento de Regras de Associação Uma Regra de Associação caracteriza o quanto a presença de um conjunto de itens nos registros de uma Base de Dados implica na presença de algum outro conjunto distinto de itens nos mesmos registros [2]. Desse modo, o objetivo das RA é encontrar tendências que possam ser usadas para entender e explorar padrões de comportamento dos dados. Por exemplo, observando os dados de vendas de um supermercado sabe-se que 80% dos clientes que compram o produto Q também adquirem, na mesma ocasião, o produto W. Nessa regra 80% corresponde a sua confiabilidade. O formato de uma Regra de Associação pode ser representado como uma implicação LHS RHS, em que LHS e RHS são, respectivamente, o lado esquerdo (Left Hand Side) e o lado direito (Right Hand Side) da regra, definidos por conjuntos disjuntos de itens. As RA podem ser definidas como descrito a seguir [2]: Seja D uma Base de Dados composta por um conjunto de itens A = {a 1,..., a m } ordenados lexicograficamente e por um conjunto de transações T = {t 1,..., t n }, na qual cada transação t i T é composta por um conjunto de itens tal que t i A. A Regra de Associação é uma implicação na forma LHS RHS, em que LHS A, RHS A e LHS RHS =. A regra LHS RHS ocorre no conjunto de transações T com confiança conf se em conf% das transações de T em que ocorre LHS ocorre também RHS. A regra LHS RHS tem suporte sup se em sup% das transações em D ocorre LHS RHS. O valor do suporte mede a força da associação entre LHS e RHS, e não relaciona possíveis dependências de RHS com LHS. Por outro lado, a confiança mede a força da implicação lógica descrita pela regra. Usualmente, valores de suporte e confiança mínimos são definidos pelo usuário antes da mineração das RA: a definição de altos valores gera apenas regras triviais, já a definição de baixos valores gera um grande volume de conhecimento no formato de regras, dificultando a análise do usuário. Uma maneira de superar

3 as dificuldades na análise dessas regras é utilizar-se de métodos de Pós-processamento de RA que auxiliem o usuário a identificar conhecimento interessante e útil no grande conjunto de regras geradas. Em [3] são apresentadas quatro atividades que podem ser utilizadas no Pós-processamento de RA: poda, sumarização, agrupamento e visualização das regras. Na atividade de poda, as regras são removidas porque não são interessantes ou são redundantes em relação a alguma característica da própria regra ou a alguma análise estatística, por exemplo. Embora a poda possa reduzir o número de regras descobertas, esse número pode ser ainda muito grande para ser analisado pelo usuário. Na atividade de sumarização, as regras são sumarizadas em conceitos mais gerais ou abstratos, que proporcionam uma maior compreensão pelo usuário. As regras podem ser sumarizadas em vários níveis de abstração, sendo que, esses níveis podem ser definidos utilizando-se taxonomias. Já na atividade de agrupamento as regras podem ser agrupadas em conjuntos de regras, de acordo com alguma característica. Na atividade de visualização é realizada uma exploração visual das regras potencialmente interessantes. Além das atividades citadas, em [9, 1] são apresentadas diversas medidas objetivas que podem ser utilizadas na avaliação de RA com a finalidade de auxiliar o usuário no entendimento e na utilização do conhecimento adquirido. Medidas objetivas são aquelas que para o seu cálculo, dependem apenas da estrutura dos padrões extraídos (regras no formato LHS RHS) e dos dados utilizados no processo de extração. No Pós-processamento de RA há também a possibilidade de incluir subjetividade no processo de análise das regras. Em [10] são apresentadas as seguintes medidas subjetivas: Identificação de Conformidade, Conseqüente Inesperado, Antecedente Inesperado e, Antecedente e Conseqüente Inesperados. As medidas subjetivas permitem que um usuário forneça o seu conhecimento sobre o domínio para que as RA extraídas possam ser classificadas, filtradas, analisadas ou avaliadas em relação a esse conhecimento fornecido. 3 O Ambiente para Exploração de Regras RulEE O processo de MD é iniciado pela aquisição do conhecimento sobre o domínio no qual o processo é executado e pela definição dos objetivos a serem atingidos. No Pré-processamento os dados disponíveis para análise devem ser identificados, agrupados em uma única fonte de dados e processados, tornando-se adequados a aplicação dos algoritmos de extração de padrões. Na etapa de Extração de Padrões devem ser selecionados e executados os algoritmos para a extração de padrões. Em seguida, os padrões extraídos devem ser analisados na etapa de Pós-processamento [13]. O processo de MD não termina após a descoberta dos padrões existentes nos dados. Análises detalhadas do conhecimento são necessárias para efetivamente apoiar os usuários. Assim, conceitos como interessabilidade, compreensibilidade e utilidade devem ser considerados durante a análise das regras. Muita pesquisa tem sido realizada com o objetivo de especificar boas medidas para avaliação de regras, e muitos protótipos têm sido desenvolvidos. No entanto, percebeu-se que não é possível definir uma melhor medida de avaliação de conhecimento em todos os domínios [7]. Somando-se a isso o fato de que as medidas e metodologias normalmente são desenvolvidas independentemente, é muito difícil o desenvolvimento e a utilização de um único sistema para avaliação de regras no qual diversos tipos de análises possam ser realizadas. O desenvolvimento e a implementação do Ambiente RulEE veio suprir essas necessidades e fornecer uma arquitetura para facilitar o armazenamento de regras e do valor das medidas de avaliação das mesmas, além de facilitar a incorporação de novos métodos para o cálculo de novas medidas. A arquitetura geral do Ambiente pode ser visualizada na Figura 1. O ambiente RulEE suporta análises de regras de classificação, regressão e associação, auxiliando o usuário na identificação do conjunto de regras mais interessante. O ambiente per- Figura 1: Arquitetura geral do Ambiente RulEE

4 mite que durante a visualização o usuário possa interativamente escolher filtros para seleção de regras ou métricas para sua ordenação e, dessa maneira, identificar as regras mais interessantes. A existência de diversos tipos de medidas para avaliação também é um aspecto relevante do ambiente, pois diversos tipos de análises podem ser realizadas. Tanto medidas de avaliação objetiva quanto subjetiva estão disponíveis no Ambiente RulEE para seleção e/ou ordenação das regras. A interface do Ambiente RulEE (Figura 2) permite a visualização e a interação com conjuntos de regras, facilitando a compreensão e a interpretação das regras. Essa interface facilita o acesso ao conhecimento disponibilizado, uma vez que se baseia na World Wide Web (WWW), aproveitando algumas de suas vantagens como: independência de plataforma, facilidade de uso e, especialmente, a acessibilidade, permitindo a visualização do conhecimento pelos usuários do processo independentemente de sua localização física [11]. A utilização de uma interface para disponibilização de conhecimento, baseada na WWW, facilitou também a implementação de um ambiente que permite o trabalho colaborativo entre os usuários do processo Figura 2: Interface do Ambiente RulEE de MD. Dessa maneira, os diversos usuários do processo podem analisar e compreender os conjuntos de regras individualmente, além de fornecerem e compartilharem feedback, relacionado ao conhecimento consultado ao ambiente, na forma de comentários, idéias, dicas ou sugestões [6, 11]. 4 Implementação de Taxonomias no Ambiente RulEE As taxonomias permitem realizar uma classificação hierárquica dos itens por meio de uma caracterização coletiva ou individual [1]. Eventualmente, múltiplas taxonomias podem estar presentes, refletindo a existência de diversos pontos de vista ou a possibilidade de classificações distintas para o mesmo conjunto de itens. Na Figura 3 é apresentado um pequeno exemplo de uma taxonomia. Nesse exemplo pode-se verificar que: Camiseta é uma Roupa Leve, Roupa Leve é um tipo de Roupa, Sandália é um tipo de Calçado etc. Uma das razões que torna interessante a aplicação de taxonomias em RA refere-se à geração de regras que utilizem informações contidas nos diversos níveis da taxonomia e não apenas nos níveis inferiores, como ocorre em RA que não se utilizam de taxonomias [2]. Por exemplo, usando a taxonomia apresentada na Figura 3, pode-se inferir uma regra em que pessoas que compram Roupas Leves também compram Sandálias, do fato de pessoas comprarem Camisetas com Sandálias e Bermudas com Sandálias, podendo não haver a necessidade de utilizar as duas últimas regras. Em [14] são apresentados diversos algoritmos para minerar RA utilizando taxonomias. Entretanto, esses algoritmos geram um volume muito grande de regras, uma vez que são geradas todas as regras possíveis com e sem as taxonomias. Para resolver esse problema, [14] propõe o uso de uma medida de interesse durante o processo de mineração das regras utilizando taxonomias. Essa medida é utilizada como um valor limitador, removendo as regras que não são interessantes em relação a medida. Figura 3: Exemplo de uma taxonomia para vestuário Entretanto, como o valor da medida de interesse é definido pelo usuário do processo, a escolha de baixos valores pode ocasionar a geração de um grande volume de RA.

5 Uma outra maneira de generalizar RA consiste no uso de taxonomias no Pós-processamento das regras geradas. Analisando-se a estrutura das regras geradas pelos algoritmos de mineração de RA sem taxonomias é possível verificar que as regras possuem determinados comportamentos, os quais, permitem que as mesmas possam ser generalizadas utilizando-se taxonomias. Esse fato é ilustrado nas Figuras 4 e 5. Note que, para a generalização das regras, se faz necessário que o número de regras candidatas a uma generalização seja igual ao valor da multiplicação do número de itens terminais presente em cada taxonomia. Figura 4: Generalização usando uma taxonomia Figura 5: Generalização usando duas taxonomias A partir dessa constatação foi desenvolvido um algoritmo que possibilita a generalização de RA. Esse algoritmo tem como entrada: um Conjunto de RA (gerado, por exemplo, pelos algoritmos apresentados em [2]) especificadas na sintaxe padrão usada pelo Ambiente RulEE, um Conjunto de Taxonomias (definido pelo usuário) e a Base de Dados utilizada na mineração do Conjunto de RA. Os principais passos propostos para a generalização de RA são apresentados no Algoritmo 1. Algoritmo 1 Generalização de Regras de Associação Requisito: Conjunto de RA, Conjunto de Taxonomias e Base de Dados. 1: para cada Taxonomia do Conjunto de Taxonomias faça 2: para cada regra do Conjunto de RA, em que apenas um item 1 pode ser generalizado faça 3: Substituir o item da regra por um item mais geral contido na Taxonomia, se houver uma relação ancestral/descendente entre os itens ; 4: fim para 5: Remover as regras repetidas do Conjunto de RA, mantendo apenas uma representação de cada regra ; 6: fim para 7: para cada regra generalizada faça 8: Calcular o seu suporte e a sua confiança ; 9: fim para O cálculo do suporte para um item a j generalizado por uma taxonomia é definido em [1] como sup(a j ) = sup(des(a j )), em que des(a j ) é o conjunto de descendentes mais próximos de a j. Essa definição pode ser expandida e utilizada para calcular o suporte e a confiança de uma RA generalizada. 5 Considerações Finais Nesse artigo foi descrito como o uso de taxonomias no processo de avaliação de RA pode eliminar regras redundantes e generalizar conhecimento, facilitando, dessa maneira, a análise das regras obtidas com relação à compreensibilidade e tamanho do conjunto de regras. A proposta do uso de taxonomias para generalizar RA resultou no desenvolvimento de um algoritmo que está sendo implementado no Ambiente RulEE. Um aspecto 1 Em uma taxonomia os itens são relacionados por disjunções (ou) e em RA os itens são relacionados por conjunções (e). A generalização de 2 ou mais itens por taxonomia resultaria na troca de conjunções por disjunções, induzindo um conhecimento inexistente. Assim, apenas 1 item da regra deve ser generalizado para cada taxonomia.

6 relevante com relação a esse ambiente é a disponibilização de bases de regras e valores de medidas. Pode-se observar pela disponibilização de diversos tipos de medidas e pela utilização de consultas, que o ambiente RulEE se apresenta como uma importante ferramenta para auxiliar seus usuários na análise, compreensão e utilização das regras disponibilizadas em processos de tomada de decisão. Ao término da implementação do algoritmo de generalização de RA pretende-se realizar vários experimentos utilizando-se de Bases de Dados reais e artificiais, buscando comprovar a eficiência do algoritmo proposto com relação a redução de grandes volumes de RA. Referências [1] Jean-Marc Adamo. Data Mining for Association Rules and Sequential Patterns. Springer-Verlag, New York, NY, [2] Rakesh Agrawal and Ramakrishnan Srikant. Fast algorithms for mining association rules. In Jorge B. Bocca, Matthias Jarke, and Carlo Zaniolo, editors, Proc. 20th Int. Conf. Very Large Data Bases, VLDB, pages , [3] Bart Baesens, Stijn Viaene, and Jan Vanthienen. Post-processing of association rules. In Proc. of the Special Workshop on Post-Processing. The Sixth ACM SIGKDD International Conference on Knowledge Discovery and Data Mining, pages 2 8, [4] Ivan Bruha and A. Famili. Postprocessing in machine learning and data mining. ACM SIGKDD Explorations Newsletter, 2(2): , [5] U. M. Fayyad, G. Piatetsky-Shapiro, and P. Smyth. The KDD process for extracting useful knowledge from volumes of data. Communications of the ACM, 39(11):27 34, [6] M. Foster and A. G. Gee. The data visualization environment. In U. Fayyad, G. G. Grinstein, and A. Wierse, editors, Information Visualization in Data Mining and Knowledge Discovery, pages Morgan Kaufmann Publishers, [7] Alex A. Freitas. A multi-criteria approach for the evaluation of rule interestingness. In Proceedings of the International Conference on Data Mining, pages 7 20, Rio de Janeiro, RJ, [8] Alipio Jorge, João Poças, and Paulo Azevedo. A post processing environment for browsing large sets of association rules. In Proceedings of IDDM 02, workshop on integration aspects of decision support and data mining, Helsinki, [9] N. Lavrač, P. Flach, and R. Zupan. Rule evaluation measures: A unifying view. In S. Dzeroski and P. Flach, editors, Proceedings of the Ninth International Workshop on Inductive Logic Programming (ILP-99), volume 1634, pages Springer-Verlag, LNAI. [10] Bing Liu, Wynne Hsu, Shu Chen, and Yiming Ma. Analyzing the subjective interestingness of association rules. IEEE Intelligent Systems & their Applications, 15(5):47 55, [11] Y. Ma, C. K. Wong, and B. Liu. Effective browsing of the discovered association rules using the web. ACM SIGKDD-2000 workshop on Post-Processing in Machine Learning and Data Mining, [12] Marcos Ferreira Paula. Ambiente para exploração de regras, Dissertação de Mestrado, Instituto de Ciências Matemáticas e de Computação - Universidade de São Paulo, São Carlos, SP - Brasil. [13] S. O. Rezende, J. B. Pugliesi, E. A. Melanda, and M. F. Paula. Mineração de dados. In S. O. Rezende, editor, Sistemas Inteligentes: Fundamentos e Aplicações, volume 1, pages Barueri, SP: Editora Manole, [14] Ramakrishnan Srikant and Rakesh Agrawal. Mining generalized association rules. Future Generation Computer Systems, 13(2 3): , 1997.