Universidade Federal de Pernambuco Centro de Ciências Exatas e da Natureza Departamento de Informática

Transcrição

1 Universidade Federal de Pernambuco Centro de Ciências Exatas e da Natureza Departamento de Informática Graduação em Ciência da Computação Uma Investigação das Redes Neuro-Fuzzy aplicadas à Mineração de Dados por Patrícia Gouveia Ramos Trabalho de Graduação Recife 30 de julho de 1999

2 Universidade Federal de Pernambuco Centro de Ciências Exatas e da Natureza Departamento de Informática Patrícia Gouveia Ramos Uma Investigação das Redes Neuro-Fuzzy aplicadas à Mineração de Dados. Orientador : Prof. Germano Crispim Vasconcelos Recife, 30 de julho de 1999

3 Agradecimentos Não palavras que expressem meu contentamento em finalizar este trabalho de graduação. Muitas foram as dificuldades enfrentadas durante todo o processo de desenvolvimento desta pesquisa, todas elas superadas com a ajuda dos meus pais, professores e amigos. Com certeza, estou agradecida pelo apoio dos pais que sempre me incentivaram a continuar lutando. A Deus, por sempre ter mostrado novos caminhos quando as dificuldades apareciam. Especialmente agradeço ao meu orientador, Prof. Germano C. Vasconcelos, que mostrou alternativas aos problemas e sempre esteve solícito a ajudar e a incentivar meus estudos. Também estou grata aos Professores Geber Ramalho, Fernando Fonseca, Ana Carolina Salgado e Meuser Valença por terem me ajudado indicando excelentes referências e esclarecendo dúvidas.

4 Resumo Este Trabalho de Graduação apresenta uma investigação sobre as redes Neuro- Fuzzy aplicadas em problemas de mineração de dados. Serão descritos a importância do aprendizado das redes neurais nos sistemas fuzzy, como pode ser desenvolvida a combinação entre estes dois sistemas, e os paradigmas de redes Neuro-fuzzy, cooperativo e híbrido. Por outro lado, também serão mostrados os conceitos associados com o problema de mineração de dados. Desta forma, será possível analisar a aplicação dos modelos neuro-fuzzy em problemas de mineração de dados.

5 Indice Motivação Introdução Redes Neuro-Fuzzy Redes Neurais Artificiais Paradigmas de Aprendizagem Características das Redes Neurais Paradigmas das Redes Neurais As Redes Neurais e os Especialistas Aplicações de Redes Neurais no Mundo Real Sistemas Fuzzy Conjuntos Fuzzy A Teoria dos Conjuntos Fuzzy As Regras Fuzzy As Etapas do Raciocínio Fuzzy Aplicações de Sistemas Fuzzy em Problemas do Mundo Real Por que Redes Neuro-Fuzzy? Os Paradigmas das Redes Neuro-Fuzzy As Características das Redes Neuro-Fuzzy Cooperativas As Características das Redes Neuro-Fuzzy Híbridas A Classificação Neuro-Fuzzy A Aprendizagem em Redes Neuro-Fuzzy Mineração de Dados A Preparação dos Dados As Tarefas de Mineração de Dados Os Algoritmos de Mineração de Dados Redes Neurais como o Algoritmo de Mineração de Dados Aplicações de Mineração de Dados Aplicação de Redes Neuro-Fuzzy em Mineração de Dados Redes Neuro-Fuzzy Cooperativas Redes Neuro-fuzzy Híbridas... 48

6 5 Problemas do Mundo Real Conclusões Referências Bibliográficas... 53

7 Motivação A motivação para o desenvolvimento deste trabalho de graduação surgiu principalmente da originalidade do tem: a aplicação de redes neuro-fuzzy em mineração de dados. Mineração de dados é um assunto que vem fascinando pesquisadores tanto da área de Banco de Dados, quanto das áreas de Inteligência Artificial Conexionista e Simbólica. Em várias aplicações de mineração de dados, as redes neurais estão sendo empregadas com sucesso, como pode ser observado em diversos exemplos da literatura, como [3]. São consideradas bastante eficientes e robustas para problemas de classificação e previsão, em mineração de dados. Um dos grandes problemas de redes neurais e a dificuldade de explicação das decisões tomadas durante a sua utilização na solução do problemas. Por outro lado, a principal característica dos sistemas fuzzy é o fácil entendimento das regras definidas e das decisões tomadas, além da alta confiabilidade dos resultados obtidos por estes sistemas[5, 9 e 10]. A combinação destes sistemas com redes neurais permite que os sistemas fuzzy possam ser treinados por algum algoritmo de aprendizagem derivado da rede neural. Através de regras de um sistema neuro-fuzzy, pode-se saber porque o sistema tomou suas decisões. Baseada na facilidade de entendimento, inserção e remoção das regras, durante o processo de treinamento de uma rede neuro-fuzzy, surgiu a idéia de aplicar este conceito à mineração de dados. Esta idéia foi o ponto de partida para o desenvolvimento de uma investigação aprofundada destes modelos de redes e das características que envolvem a mineração de dados, com o objetivo de identificar as possíveis formas de se aplicar redes neuro-fuzzy à mineração de dados.

8 1 Introdução 2 1 Introdução A mineração de dados se caracteriza por extrair informação e descobrir os relacionamentos entre os dados de forma automática, a partir de alguma fonte de dado, que pode ser: grandes bancos de dados, textos, ou home-pages. Com a mineração dos dados, é possível descobrir conhecimento oculto nos dados, dificilmente identificado somente por consultas às tabelas de um banco de dados ou buscas por palavras em textos. A descoberta de conhecimento tornou-se um dos aspectos mais desejados pelas empresas que, num mundo globalizado, atuam cada vez mais em cenários de altamente competitivos. Quem detém a informação tem meios para adquirir certas vantagens diante da concorrência. Descobrir conhecimento é a principal vantagem de se utilizar ferramentas de mineração de dados, como forma de realizar análises e previsões mais confiáveis. Vários algoritmos são empregados para minerar os dados [4], dentre eles: árvores de decisão, regras de indução, algoritmos genéticos, k-vizinhos mais próximos, redes neurais e outras técnicas estatísticas. Estes algoritmos são responsáveis por, a partir da fonte de dados, extrair conhecimento e os relacionamentos entre dados. As redes neurais, pela sua grande capacidade de aprendizado e classificação, são usadas para minerar os dados de forma eficiente, porém não é fácil descobrir como ou porque a rede neural tomou suas decisões até alcançar a resposta. Utilizar redes neuro-fuzzy para minerar dados, pode ser uma alternativa para classificar e prever fatos de forma eficiente, associado a capacidade de aprendizado das redes neurais; com a capacidade dos sistemas fuzzy de explicar as decisões tomadas pela rede, devido a facilidade de entendimento das suas regras.

9 2 Redes Neuro-Fuzzy 3 Neste trabalho serão descritas as maneiras de se combinar os sistema fuzzy à rede neural em problemas de mineração de dados, baseadas nos paradigmas dos sistemas neuro-fuzzy. Além de analisar a aplicabilidade deste sistema em problemas do mundo real. Este documento está assim dividido: na seção 2 serão descritos os conceitos básicos das das redes neurais, dos sistemas fuzzy e das redes neuro-fuzzy, apresentando os aspectos da combinação destes dois sistemas. Na seção 3, será descrita a técnica de mineração de dados, os algoritmos mais utilizados e suas aplicações em problemas do mundo real. Na seção 4, será abordado a aplicação de paradigmas das redes neurofuzzy em mineração de dados e realmente é viável a utilização destas redes para solucionar problemas de mineração de dados. Na seção 5, serão apresentadas os problemas do mundo que podem ser solucionados através do emprego de redes neurofuzzy, como o algoritmo de mineração de dados. Na seção 6, serão descritas quais as conclusões da investigação proposta e apresenta também os trabalhos futuros. 2 Redes Neuro-Fuzzy Uma rede neuro-fuzzy pode ser definida como sendo um sistema fuzzy que é treinado por algum algoritmo derivado da teoria das redes neurais. Este tipo de rede é o resultado da união destes dois modelos. Com isto, tem-se a capacidade das redes neurais em reconhecimento e classificação, sem esquecer da robustez e habilidade de generalização. Por outro lado, têm-se os sistemas fuzzy que, através da suas regras e conjuntos fuzzy, facilita o entendimento do problema, porque modela o ambiente por meio de uma linguagem próxima da usada pelos especialistas. Por exemplo, os sistemas fuzzy têm demonstrado ser bastante consistentes e confiáveis, quando aplicados a sistemas de controle e problemas de classificação [5, 9]. Apesar de possuírem suas diferenças, redes neurais e sistemas fuzzy manipulam problemas imprecisos e não-lineares. A integração destes dois sistemas é baseada na

10 2.1 Redes Neurais Artificiais 4 combinação das virtudes de cada um deles a fim de diminuir suas deficiências, e desenvolver um sistema mais eficiente, robusto e compreensível. Nos próximos capítulos, serão apresentados os conceitos básicos das redes neurais artificiais, dos sistemas fuzzy, e das redes neuro-fuzzy. 2.1 Redes Neurais Artificiais Redes neurais artificiais foram desenvolvidas a partir de estudos do funcionamento das redes neurais cerebrais. O cérebro humano é capaz de representar e armazenar o conhecimento de forma acessível, devido a natureza paralela do seu funcionamento [1]. A computação neural aplica alguns princípios e propriedades do funcionamento do cérebro em sistemas computacionais, tais como: aprendizagem, generalização e abstração de informações irrelevantes. O conhecimento adquirido pelo processo de treinamento de uma rede neural é usado posteriormente. Redes neurais artificiais consistem de camadas de neurônios, onde cada neurônio é a unidade básica de processamento. A arquitetura da rede é estruturada de uma forma que os neurônios estão interconectados. O algoritmo de treinamento define como será realizado o processo de aprendizagem da rede, ou seja, após um conjunto de padrões de entrada ser apresentado à rede, uma nova informação é obtida e modificações são realizadas nos parâmetros da rede, a fim de que o modelo represente o conhecimento sobre o conjunto de dados apresentado, de maneira que respostas adequadas sejam fornecidas pela rede para a solução do problema. Por terem sido idealizadas com base nas características do cérebro humano, as redes neurais trazem consigo um dos aspectos mais importantes do sistema nervoso, a capacidade de aprendizado. As estruturas da rede neural são altamente paralelas, e a partir dos dados do treinamento é possível inferir a lei de relação entre os dados de

11 2.1.1 Paradigmas de Aprendizagem 5 entrada e os dados de saída estabelecendo o mapeamento entrada-saída oculto nos dados de treinamento Paradigmas de Aprendizagem Os paradigmas de aprendizagem são a supervisionada, a não-supervisionada e a competitiva[10]. Na aprendizagem supervisionada, descrita em [6 e 10], a resposta já é previamente conhecida e a saída calculada pela rede neural é comparada à resposta conhecida. Os parâmetros da rede são ajustados através da propagação do erro resultante da comparação entre as respostas desejadas e as respostas fornecidas pela rede. Na aprendizagem não-supervisionada, descrita em [6 e 10], não se conhece a saída da rede, os padrões de entrada são apresentados à rede que os organiza em categorias, de acordo com as características comuns entre eles, por exemplo, padrões de um mesma categoria possuem características semelhantes, enquanto padrões de grupos diferentes possuem aspectos que os diferenciam dos outros grupos. A aprendizagem competitiva [10] representa outra forma de aprendizagem supervisionada, a diferença está na arquitetura e no funcionamento. A camada de saída possui muitos neurônios e, a cada padrão de entrada apresentado, os neurônios da camada de saída competem entre si para produzir a saída mais próxima da saída desejada. O neurônio vencedor torna-se o dominante para esta entrada. Este tipo de aprendizagem pode ser visto também como um processo de especialização randômica.

12 2.1.2 Características das Redes Neurais Características das Redes Neurais As redes neurais se diferenciam das técnicas da inteligência artificial simbólica por não necessitarem de uma base de conhecimento na forma de regras. As redes neurais utilizam dados numéricos, podendo manipular informações incompletas e imperfeitas e, a partir delas, ser capaz de adquirir conhecimento. Uma rede neural pode reconhecer, classificar e agrupar padrões. Uma das características importantes da rede neural é a robustez, ou seja, a rede é tolerante a falhas até um certo nível, entradas ou saídas não confiáveis. Devido ao seu aspecto paralelo, a rede neural executa várias operações idênticas e independentes simultaneamente, com rapidez e eficiência. O processo de aprendizagem é automático e os ajustes dos parâmetros da rede são realizados durante esse processo. Outra característica importante é a capacidade da rede neural de generalizar, isto é, a partir do conhecimento já adquirido, a rede é capaz de responder a novas situações, nunca apresentadas a ela anteriormente. Por exemplo, um conjunto de padrões é dado como entrada, a rede é treinada, então um novo conjunto de padrões, distinto do anterior, é apresentado à rede neural que ainda é capaz de classificá-los Paradigmas das Redes Neurais Os paradigmas das redes neurais são definidos de acordo com a forma que os neurônios são organizados em camadas. Existem os modelos de uma única camada, e os de várias camadas.

13 2.1.3 Paradigmas das Redes Neurais 7 Em 1943, McCulloch and Pitts definiu o modelo de neurônio básico[1]. Figura 2.1: O neurônio básico Não existe aprendizagem ou ajuste de pesos. Porém foi o inspirador de todos os modelos subseqüentes, usados com sucesso. Cada unidade de entrada x i está associado a um peso w i, que representa a força da sinapse. A saída é expressa por: O N = f h i= 1 ( x w ) θ, i i onde O representa a saída, -θ representa o bias, limiar ou offset e f h é a função de ativação, definida da seguinte forma: f h (x)= 1, se x> 0 e f h (x)= 0, se x<=0. Não há qualquer mecanismo que compare a saída da rede, com a saída desejada. Logo, existia a necessidade de um modelo que realizasse a aprendizagem e ajuste dos pesos. O modelo que atendeu a esta necessidade foi o perceptron, proposto por Rosenblat, em 1958.

14 2.1.3 Paradigmas das Redes Neurais 8 O perceptron é um paradigma que realiza o aprendizado supervisionado [1, 4 e 9], classifica padrões e pode generalizar de forma limitada. Seu aprendizado depende do erro calculado através da diferença entre a saída desejada e a saída computada pela rede. A saída da rede é expressa da seguinte forma: O( t) N = f h i= 1 ( x ( t) w ( t) ). i i Para ajustar os pesos, realiza-se o seguinte procedimento: (1) se o erro = 0, w i (t+1) = w i (t), (2) se o erro < 0, w i (t+1) = w i (t)+ x i (t) e (3) se o erro > 0, w i (t+1) = w i (t) - x i (t). Porém, este modelo soluciona somente problemas linearmente separáveis, para problemas um pouco mais complexos, como o operador XOR, o perceptron não encontra uma solução. Devido a isto, as redes neurais caíram no ostracismo, por alguns anos. A volta das discussões em torno das redes neurais aconteceu com a apresentação de uma solução para problemas não separáveis linearmente, não resolvidos pelo perceptron. A solução acrescentava várias camadas de perceptrons, formando uma topologia feedforward com uma ou mais camadas intermediárias entre a entrada e a saída, estava definido o MultiLayer Perceptron(MLP). A rede MLP [1]é um dos paradigmas mais famosos e usados para implementar sistemas baseados em redes neurais. É capaz de solucionar problemas não-lineares e de generalizar a partir de exemplos. Seu processo de aprendizagem se desenvolve da seguinte forma: um conjunto de padrões de entrada é apresentado à rede, que propaga estes sinais a cada camada, no sentido para frente(forward).

15 2.1.4 As Redes Neurais e os Especialistas 9 Figura 2.2: MultiLayer Perceptron Porém sua maior contribuição está na utilização do algoritmo de aprendizagem backpropagation que consiste em comparar a saída desejada com a obtida pela rede, computando o erro associado com cada padrão de entrada. Este erro é propagado, no sentindo para trás(backward), da camada de saída para a camada de entrada. Neste processo, os parâmetros da rede são ajustados. O método do gradiente descendente é usado para minimizar o erro global ao longo do processo de treinamento da rede. Mais detalhes podem ser observados em [1]. Existem vários outros paradigmas de redes neurais, os mais utilizados são as redes RBFs, Kohonen, Cascade Correlation, ARTs, Hopfield e RAM-based. Estes paradigmas são descritos em [1] As Redes Neurais e os Especialistas Os especialistas adquirem experiência através da percepção do ambiente no qual trabalham. Identificam quais as características deste ambiente, sendo capaz de detectar enganos, fazer previsões e, em meio a extrema pressão, tomar decisões corretas. Seu processo de aprendizagem não é trivial, os especialistas passam por uma fase de treinamento, mas aprendem a realizar suas atividades no cotidiano, a partir dos erros e enganos cometidos.

16 2.1.5 As Aplicações de Redes Neurais no Mundo Real 10 As redes neurais funcionam de forma semelhante. Elas são treinadas durante uma fase inicial, e com os erros computados a rede aprende, tornando-se capaz de tomar as decisões corretas, assim como os especialistas[4]. A vantagem de aplicar redes neurais em sistemas de tomadas de decisão para o apoio a especialistas está na robustez e na boa velocidade da rede, na capacidade de observação de um número elevado de informações de entrada e na uniformidade das decisões tomadas comparadas ao trabalho puramente manual realizado pelo especialista. Outra vantagem é a habilidade de agrupamento de dados em clusters. Uma aplicação decorrente desta capacidade da rede neural, é a segmentação do público consumidor de acordo com o tipo de produto que eles compram, idade, sexo, endereço, entre outros[3 e 4] Aplicações de Redes Neurais no Mundo Real Redes neurais estão sendo usadas com sucesso em diversas áreas como indústria química, mercado financeiro, setor clínico-hospitalar[1,4], entre outros. Sua aplicabilidade abrange não só o reconhecimento de padrões ou aproximação de funções, mas também previsões e problemas de otimização e controle de sistemas 2.2 Sistemas Fuzzy Sistemas fuzzy são baseados na teoria da lógica fuzzy e dos conjuntos fuzzy, propostos por Zadeh em 1965 [26]. A lógica booleana define as variáveis como sendo verdadeiras ou falsas, 1 ou 0, enquanto na lógica fuzzy, as variáveis são mapeadas em

17 2.2 Sistemas Fuzzy 11 graus de pertinência que variam de 0 a 1. Variáveis com grau de pertinência 0 denotam a não-pertinência absoluta, as variáveis com grau de pertinência 1 denotam a pertinência absoluta, e as variáveis com grau de pertinência entre 0 e 1 denotam a pertinência intermediária. Zadeh percebeu que o conhecimento humano é incerto, incompleto e impreciso, além de observar que a complexidade do sistema depende da forma como as variáveis foram representadas e manipuladas. Modelar frases e estimativas humanas através de formalismos matemáticos, não é um procedimento facilmente realizado. A partir destas observações, Zadeh definiu um princípio [5]: Quando a complexidade do sistema cresce, nossa habilidade para tornar as proposições precisas diminui até um limiar que está fora do nosso alcance. Isto torna a precisão e a relevância duas características excelentes. Zadeh representa o mundo em termos de conjuntos fuzzy [5], e sobre estes conjuntos, foi definida a teoria dos conjuntos fuzzy, para tornar possível as operações de união, interseção e negação sobre variáveis com valores lógicos entre 0 e 1. A teoria dos conjuntos fuzzy é uma extensão da teoria clássica dos conjuntos e da lógica booleana[5 e 9]. Sistemas baseados em lógica fuzzy se caracterizam pela inferência de regras(if- THEN) fuzzy [5, 9 e 10], que são uma forma clara e eficiente de representar o conhecimento. Estas regras são facilmente entendidas, por serem estruturadas próximas à linguagem natural usada pelos especialistas. As regras fuzzy manipulam termos lingüísticos. Sistemas fuzzy podem modelar problemas não-lineares complexos, onde as decisões são tomadas em um ambiente incerto e impreciso. A linguagem humana

18 2.2.2 A Teoria dos Conjuntos Fuzzy 12 apresenta muita incerteza e imprecisão, facilmente percebidas em diálogos corriqueiros. Como por exemplo: - Você vai ao teatro? - Talvez. - E você? - Se não chover, eu vou. Diálogos como este seriam formalizados com muita dificuldade, e muito certamente, não seriam tratados de maneira adequada, por haver muita informação imprecisa e vaga. Representar o ambiente em termos próximos a linguagem natural, permite que a falta de precisão possa ser tratada de forma apropriada. Por causa destes aspectos, os sistemas fuzzy podem resolver problemas altamente imprecisos. São aplicados em vários sistemas de controle, de suporte à decisão e previsão. O ponto de partida para o desenvolvimento de sistemas baseados em lógica fuzzy foi nos anos 80, no Japão, que buscava novas alternativas para produzir sistemas mais eficientes e baratos que os dos norte-americanos. Os sistemas fuzzy inicialmente rejeitados pelos Estados Unidos, foram desenvolvidos no Japão com tanto sucesso em freios ABS, máquinas de lavar, ar-condicionados, entre outros, que anos depois, a indústria norte-americana, para não perder mercado conquistado pelas máquinas fuzzy japonesas, também incorporou este novo conceito aos seus produtos. Atualmente, a parte dos carros de luxo no mundo inteiro possuem freios ABS, um controlador de freio implementado com lógica fuzzy [12] Conjuntos Fuzzy Conjuntos fuzzy são funções que mapeiam um valor x em algum grau de pertinência no intervalo [0,1].

19 2.2.2 A Teoria dos Conjuntos Fuzzy 13 Graus de Pertinência Figura 2.3: Os conjuntos fuzzy triangular para temperatura O eixo vertical representa os graus de pertinência variando de 0 a 1. Os conjuntos fuzzy, apresentados na Figura 2.3, são frio, normal e quente. O eixo horizontal representa as temperaturas em graus celsius. O grau de pertinência zero para um conjunto fuzzy representa que o valor x não pertence a esse conjunto. O grau de pertinência um para um conjunto fuzzy significa que o valor é uma representação completa desse conjunto. A definição de cada conjunto fuzzy depende do contexto em que o sistema fuzzy irá manipular. Existem várias tipos de conjuntos fuzzy que podem ser usados, dentre eles destacam-se o triangular, o trapezoidal, o shouldered e o bell-shaped. O conjunto triangular é o mais simples de entender, implementar e usar, é o mais popular. Segundo Cox em [5], curvas bell-shaped, apresentada na Figura 2.4, represente melhor as regiões fuzzy,. No conjunto triangular, existe sobreposição das regiões fuzzy, podendo variar entre 10 e 50%. 1 Graus de Pertinência Muito frio Frio Normal Quente Muito quente ºC Figura 2.4: Os conjuntos fuzzy formados por curvas bell-shaped

20 2.2.2 A Teoria dos Conjuntos Fuzzy 14 Nos conjuntos shouldered, as regiões intermediárias são conjuntos triangulares, mas as regiões das extremidades são conjuntos trapezoidais truncados, como pode ser observado na Figura 2.5. O conjunto Frio decresce de grau de pertinência 1 a 0, após o shoulder que representa a região onde o grau de pertinência permanece constante até a temperatura atingir 10 º C. O conjunto Quente cresce e estabiliza no grau de pertinência 1, após a temperatura atingir os 30ºC. As regiões de estabilização são denominadas de shoulders. Graus de Pertinência Figura 2.5: Os conjuntos fuzzy shouldered As variáveis lingüisticas são o centro da modelagem fuzzy pois representam a linguagem usada no ambiente modelado. Na forma mais simples, uma variável lingüistica é o próprio nome do conjunto fuzzy. De acordo com a Figura 2.3, as variáveis lingüisticas seriam frio, normal e quente. Neste caso, os conjuntos fuzzy seriam denominados com os mesmos definidos para as variáveis lingüisticas. Os qualificadores alteram a forma dos conjuntos fuzzy e representam os adjetivos e os advérbios usados pela linguagem do especialista. Ainda observando a Figura 2.3, alguns exemplos de variáveis lingüísticas usando qualificadores poderiam ser muito frio, pouco frio, extremamente quente, entre outros. Os qualificadores deste exemplo são muito, pouco e extremamente, que combinados com os conjuntos fuzzy frio, normal e quente, definem as variáveis lingüísticas. A definição dos qualificadores e sua combinação com os conjuntos fuzzy devem ser a mais próxima possível da linguagem usada no ambiente.

21 2.2.2 A Teoria dos Conjuntos Fuzzy 15 As variáveis lingüísticas encapsulam as propriedades imprecisas numa aplicação computacional. Devido a sua simplicidade, reduzem a complexidade da modelagem de um sistema A Teoria dos Conjuntos Fuzzy A teoria dos conjuntos fuzzy é uma extensão da teoria dos conjuntos clássica. Esta teoria foi concebida porque os graus de pertinência dos conjuntos fuzzy variam no intervalo contínuo [0,1]. Portanto, uma nova formalização seria necessária para descrever as operações de união, interseção e complemento. As provas das definições apresentadas abaixo estão detalhadamente descritas em [9]. Sejam X um conjunto de pontos, A e B conjuntos contidos em X, e µ(x) o grau de pertinência de x, x X. Segue a definição das três operações básicas da teoria dos conjuntos fuzzy. Definição 2.1 A interseção de A e B é definida como sendo: µ ( A B) ( x) = min( µ A( x), µ B( x)) = µ A( x) µ B( x) µ(x) A B x Figura 2.6: Intersecção de dois conjuntos fuzzy

22 2.2.2 A Teoria dos Conjuntos Fuzzy 16 Definição 2.2 A união de A e B é definida como sendo: µ ( A B ) ( x) = max( µ A ( x), µ B ( x)) = µ A ( x) µ B ( x) µ(x) A B Figura 2.7: União de dois conjuntos fuzzy x Definição 2.3 O complemento de A é definido como sendo: µ ( x) = 1 ( x) A µ A µ(x) A x Figura 2.8: Complemento do conjunto fuzzy Em conjuntos fuzzy, µ ( A A) µ ( TRUE) e µ ( A A) µ ( FALSE), o que não satisfaz a teoria dos conjuntos clássica. Considere µ ( A) = 1/ 2, µ ( A A) = min( µ ( A), µ ( A)) = min(1 1/ = 1/2 0 2,1/ 2)

23 2.2.2 A Teoria dos Conjuntos Fuzzy 17 µ ( A A) = max( µ ( A), µ ( A)) = max(1 1/ 2,1/ 2) = 1/2 1 Entretanto, lógica fuzzy satisfaz a lei de Morgan: µ µ A B A B ( x) ( x) = = µ ( x) A µ ( x) A µ ( x), B µ ( x) B Na teoria dos conjuntos fuzzy, a normas tringulares, ou t-norms são bastante usadas para modelar o conectivo lógico and [9 e 16]. As t-norms foram introduzidas por Shweizer and Sklar em Segue a definição da t-norm. Definição 2.4 T-norm propriedades: Um mapeamento T : [0,1] x [0,1] [0,1] é uma t-norm se satisfaz as seguintes T(x,y) = T(y,x) (simetria) T(x,T(y,z)) = T(T(x,y),z) (associatividade) T(x,y) T(x,y ) se x x e y y (monotonicidade) T(x,1) = x, x [0,1] (identidade 1) Minimum MIN(a,b) = min{a,b} Lukasiewicz LAND(a,b) = max{a + b - 1,0} probabilistic PAND(a,b) = ab weak WEAK(a,b) = min{a,b} se max{a,b} = 1 0 caso contrário Hamacher HAND γ (a,b) = ab/γ + (1 - γ) (a + b ab)), γ 0 Dubois e Prade DAND α (a,b) = ab/max{a,b,α}, α (0,1) Yager YAND p (a,b) = 1 - min{1, [(1 a) p + (1 b) p ] 1/p }, p > 0 Tabela 2.1 T-norms básicas

24 2.2.2 A Teoria dos Conjuntos Fuzzy 18 Todas as t-norms podem ter n > 2 argumentos. A t-norm MIN é estendida automaticamente e PAND(a 1, a 2,..., a n ) = a 1, a 2,... a n LAND(a 1, a 2,..., a n ) = max n i= 1 a i n + 1,0 e 16]. As t-conorms são extensivamente usadas para modelar o operador lógico or [9 Definição 2.5 T-conorm Um mapeamento S : [0,1] x [0,1] [0,1] é uma t-conorm se satisfaz as seguintes propriedades: S(x,y) = S(y,x) (simetria) S(x,S(y,z)) = S(S(x,y),z) (associatividade) S(x,y) S(x,y ) se x x e y y (monotonicidade) S(x,0) = x, x [0,1] (identidade 0) Se T é uma t-norm então uma t-conorm S pode ser definida como sendo: S(a,b) := 1 T(1 a, 1 b). Então pode-se afirmar que S é derivada de T.

25 2.2.4 As Etapas do Raciocínio Fuzzy 19 Maximum Lukasiewicz Probabilistic MAX(a,b) = max{a,b} LOR(a,b) = min{a + b,1} POR(a,b) = a + b ab Strong STRONG(a,b) = max{a,b} se min{a,b} = 0 1 caso contrário Hamacher HOR γ (a,b) = (a + b - (2 - γ)ab)/(1 (1 γ) ab), γ 0 Yager p p YOR p (a,b) = min { a + b }, p > 0 p Tabela 2.2 T-conorms básicas As Regras Fuzzy Um modelo fuzzy consiste numa série de regras geradas com base no conhecimento adquirido. Os relacionamentos entre a entrada e a saída são representados pelas regras que são expressas na forma de proposições, tais como: If x is A and/or x is B Then y is C. Os operadores lógicos and e or representam as operações fuzzy de união e interseção, x é um escalar do domínio e A, B e C são as variáveis lingüísticas. O efeito da proposição fuzzy x is A corresponde ao grau de pertinência de x sobre o conjunto fuzzy A, ou seja: µ A (x A) Diferentemente dos modelos convencionais baseados em regras onde elas são executadas seqüencialmente e algoritmos são usados para reduzir o número de regras disparadas, o modelo fuzzy é baseado no paralelismo e todas as regras são disparadas.

26 2.2.4 As Etapas do Raciocínio Fuzzy 20 A velocidade da execução das regras é boa pois, um sistema baseado em lógica fuzzy necessita de poucas regras para modelar seu ambiente[5,10]. Num modelo fuzzy, a ordem de execução das regras não é importante, exceto quando uma regra depende dos resultados da execução de outras regras[10] As Etapas do Raciocínio Fuzzy As etapas do raciocínio fuzzy correspondem a fuzzificação, a inferência de regras e a defuzzificação. Na fuzzificação, são realizadas a análise do ambiente pois é de extrema importância conhecer: o problema a ser manipulado, como o especialista trabalha e como ele entende sua realidade, qual a linguagem usada pelo especialista para tratar o problemas, quais as decisões e quando elas são tomadas. A partir da aquisição deste conhecimento, pode-se saber em qual contexto o sistema baseado em lógica fuzzy será aplicado. Nesta etapa são definidos os conjuntos fuzzy, escolhendo qual o tipo de conjunto a ser adotado (triangular, shouldered ou sigmóide), as variáveis lingüísticas e as funções de pertinência. A segunda fase é a inferência das regras, ou seja, são definidas as regras, com base no conhecimento adquirido no ambiente. A proposição do tipo x is A indica qual o grau de pertinência de x no conjunto fuzzy A. O valor verdade desta proposição é usado para criar ou atualizar os espaços de solução fuzzy. O espaço de solução fuzzy final é gerado através da agregação das proposições fuzzy correlacionadas. O processo de correlação se basea na aplicação dos operadores and e or, definidos nas regras, os quais conectam as proposições. A execução das regras em paralelo produzem espaços de saída que contém informação de todas as proposições, então é necessário realizar a composição destes espaços num espaço de saída fuzzy. Os dois métodos principais de inferência em sistemas fuzzy são o método minmax e o aditivo. Estes métodos diferem na forma de representar a saída. No método

27 2.2.5 Aplicações de Sistemas Fuzzy em Problemas do Mundo Real 21 min-max, a região conseqüente é restringida ao mínimo. A região de saída é obtida por calcular o máximo das mínimas regiões. A diferença do método aditivo para o min-max está da obtenção da região de saída, pois ao invés de obter o valor máximo entre as regiões minímas, o método aditivo calcula o mínimo entre 1 e a soma das funções de pertinências. Estes métodos podem ser observados em [5]. A última etapa é a defuzzificação que consiste em obter a melhor representação para o conjunto de saída fuzzy. Existem três métodos largamente usados para encontrar a saída do sistema, são eles: o centróide, o máximo e o centro dos máximos. No método centróide, deseja-se encontrar o ponto de domínio associado ao centro de massa da região de saída. No método máximo, a saída é o ponto no domínio com o maior grau de pertinência. E o método do centro dos máximos calcula a média das saídas com alto grau de pertinência Aplicações de Sistemas Fuzzy em Problemas do Mundo Real. As aplicações de sistemas baseados em lógica fuzzy obtiveram sucesso em aproximadamente 1000 sistemas desenvolvidos no Japão, Estados Unidos e Alemanha, nos últimos anos, segundo [9]. O desenvolvimento de produtos que usam lógica fuzzy teve início no Japão, nos anos 80. Existem vários exemplos de sucesso de sistemas fuzzy[5 e 9], dentre eles destacam-se: a máquina de lavar da Sharp, sistemas de freios ABS, controle de transmissão de Honda, Mazda e GM, entre outros. Sistemas fuzzy conseguem ser executados de forma correta, robusta e a baixo custo, o que contribui para uma boa performance. Sistemas fuzzy são muitos bons para solucionar problemas complexos e não-lineares[5 e 9]. Entretanto, existem algumas

28 2.3 Por que Redes Neuro-Fuzzy? 22 limitações, sistemas fuzzy não são capazes de aprender novas regras, e a definição boas funções de pertinência e regras fuzzy não são tarefas fáceis. A combinação de sistemas fuzzy com outras técnicas, como redes neurais, pode solucionar estas limitações e reduzir as deficiências destes sistemas. Será apresentada na próxima seção uma explicação sobre a união destes dois sistemas. 2.3 Por que Redes Neuro-Fuzzy? Redes Neuro-Fuzzy se originam da combinação dos conceitos de sistemas fuzzy e das redes neurais. O objetivo desta integração é minimizar as deficiências de ambos os modelos, tentando construir um novo modelo que busca unir as qualidades dos dois sistemas[9, 10 e 15]. Redes neuro-fuzzy podem ser utilizadas em tarefas de reconhecimento de padrões, interpolação de funções, previsão e controle[9 e 10]. O primeiro aspecto que torna possível esta integração é as redes neurais e os sistemas fuzzy serem aproximadores universais. Portanto, a rede neuro-fuzzy mantém esta característica fundamental para o desenvolvimento das aplicações. Outro aspecto é que ambos os sistemas manipulam dados incompletos, imprecisos, complexos e nãolineares, além de alto grau de abstração de informação irrelevante para o sistema. As redes neuro-fuzzy herdam da rede neural sua capacidade de aprendizagem, generalização, classificação, robustez, adaptação e agrupamento de dados comuns em clusters. As redes neurais sempre foram vistas como uma caixa preta,, ou seja, não é possível obter o conhecimento sobre as decisões da rede no processo de treinamento. O advento das redes neuro-fuzzy quebra este conceito de caixa preta das redes neurais, porque o comportamento deste modelo pode ser entendimento através da observação das variáveis lingüísticas, das funções de pertinência, dos relacionamentos entradasaída e das próprias regras fuzzy, as quais podem explicar facilmente o funcionamento do sistema, devido a simplicidade e proximidade com a linguagem humana.

29 2.4. Os Paradigmas das Redes Neuro-Fuzzy 23 As redes neurais, com sua capacidade de aprendizagem e adaptação, minimizam a deficiência dos sistemas fuzzy em aprender novas regras, ou até mesmo remover as desnecessárias. Num ambiente impreciso e ambíguo, definir regras e funções de pertinência para um sistema fuzzy não é uma atividade trivial, muitos erros durante a fase de fuzzificação[5 e 10] podem ser cometidos, comprometendo o pleno funcionamento destes sistemas. As redes neurais podem oferecer a um sistema fuzzy a habilidade de obter novas regras automaticamente, sem a presença do especialista, e remover aquelas com grau de importância ou peso, muito pequeno. Um especialista pode ser requisitado para definir apenas um conjunto inicial de regras. Durante o processo de treinamento das redes neuro-fuzzy, regras podem ser descobertas e refinadas. Devido a estas características, as redes neuro-fuzzy tornam-se bastante flexíveis e inserem, nos modelos fuzzy, a capacidade de aprendizagem e adaptação. 2.4 Os Paradigmas das Redes Neuro-Fuzzy Existem dois paradigmas de redes neuro-fuzzy, o paradigma cooperativo e o híbrido[9, 13 e 18]. Estes paradigmas se diferem quanto a arquitetura e o funcionamento de seus modelos. O paradigma mais conhecido e pesquisado é híbrido, neste caso os sistemas fuzzy e neural estão completamente integrados. Na fase de concepção de um sistema baseado em redes neuro-fuzzy, deve-se escolher qual o modelo mais apropriado para o problema. A escolha da arquitetura depende de alguns fatores tais como, o estado dos dados disponíveis e se a saída da rede é conhecida, caso contrário devem ser usados métodos de agrupamento. O hardware também influencia a escolha do modelo. A seguir são apresentados o paradigma cooperativo e o híbrido. Ambos são descritos em mais detalhes em [9,18].

30 2.4.1 As Características das Redes Neuro-Fuzzy Híbridas As Características das Redes Neuro-Fuzzy Cooperativas As redes neuro-fuzzy cooperativas é um paradigma onde a rede neural e o sistema fuzzy, mesmo integrados, trabalham de forma independente. As redes neurais são usadas para aprender e otimizar muitos parâmetros do sistema fuzzy. O aprendizado e o refinamento podem ser realizados antes do sistema fuzzy ser inicializado, o que representa o processamento off-line, ou durante sua execução, o que representa o processamento on-line. Existem quatro modelos de redes neuro-fuzzy cooperativas[18], mostrados na Figura 2.9. Conjuntos fuzzy Sistema fuzzy (controlador ) determinação do erro Dados de treinamento Regras fuzzy Conjuntos fuzzy Sistema fuzzy (controlador ) (a) (b) Dados de treinamento Conjuntos fuzzy Regras fuzzy Sistema fuzzy (controlador ) Regras fuzzy Sistema fuzzy (controlador) determinação do erro (c) Figura 2.9: Os quatro modelos de redes neuro-fuzzy cooperativas (d)

31 2.4.1 As Características das Redes Neuro-Fuzzy Híbridas 25 A Figura 2.9(a) representa uma rede neural que ajusta os parâmetros dos conjuntos fuzzy on-line, enquanto o controlador fuzzy é executado. Devem ser conhecidos as regras fuzzy e alguns conjuntos fuzzy iniciais. A medida do erro deve ser definida pelo processo de aprendizagem, que também pode ser off-line. A Figura 2.9(b) representa a rede neural que deriva as regras a partir dos dados de treinamento. Isto é realizado, na maioria das vezes, usando algoritmos de agrupamento, como mapas de Kohonen[3 e 19]. O processo de aprendizagem é offline, e os conjuntos fuzzy são previamente definidos. A Figura 2.9 (c) representa a rede neural que deriva as funções de pertinência, a partir dos dados de treinamento. Isto pode ser realizado através do treinamento de certos parâmetros ou pelo uso de diversas redes neurais para aproximar as funções diretamente. Os conjuntos fuzzy são aprendidos no processamento off-line e, juntamente com as regras pré-definidas com o especialista, implementam um controlador fuzzy. A Figura 2.9(d) apresenta uma rede neural que treina os pesos aplicados às regras fuzzy, num processamento on-line ou off-line. Os pesos representam qual o grau de importância dado a regra, e este pode modificar a saída da regra. Inicialmente, devem ser conhecidos as regras fuzzy e os conjuntos fuzzy. A medida do erro deve ser definida pelo processo de aprendizagem. O processo de treinamento deste modelo também pode ser off-line. É possível aplicar o conceito de redes cooperativas de outra forma: as redes neurais poderiam ser usadas para pré ou pós processar as entradas ou as saídas para um controlador fuzzy. Nesta aplicação, a aprendizagem é usada somente na fase neural, e o controlador fuzzy permanece inalterado, sem qualquer refinamento. Esta aplicação não pode ser denominada de modelo neuro-fuzzy mas de pré ou pós processamento neural, e é observada nos produtos japoneses [19].

32 2.4.2 As Características das Redes Neuro-Fuzzy Híbridas As Características das Redes Neuro-Fuzzy Híbridas Este modelo integra redes neurais e sistemas fuzzy, criando uma arquitetura homogênea, no qual o sistema fuzzy realiza o aprendizado usando algum tipo de algoritmo de treinamento baseado nos modelos de redes neurais. A principal vantagem deste modelo é a consistência da arquitetura que evita problemas de comunicação entre os dois modelos, pois os sistemas estão completamente integrados. Desta forma, as regras, as variáveis de entrada e as de saída são representadas pelos neurônios e os pesos representam os conjuntos fuzzy. As redes neuro-fuzzy podem ser vistas como redes multilayer feedforward de três camadas[9, 10, 14 e 15](Figura 2.10). Outros tipos de redes, como mapas autoorganizáveis, também podem ser considerados. Dados de entrada Camada de Fuzzificação Camada de regras fuzzy Camada de defuzzificação Dados de saída Figura 2.10: A arquitetura de uma rede neuro-fuzzy híbrida A camada de fuzzificação representa as variáveis de entrada, ou seja, o termo antecedente da regra. A camada intermediária representa as regras fuzzy e a camada de defuzzificação representa as variáveis de saída, ou seja, o termo consequente da regra. O algoritmo de aprendizagem ajusta os pesos das conexões, podendo criar ou remover regras. As mudanças na rede, durante o processo de treinamento pode ser conhecido com base na estrutura do sistema fuzzy, o que remove a idéia de caixa preta

33 2.5 A Classificação Neuro-Fuzzy 27 associada às redes neurais. Portanto, pode-se obter o conhecimento resultante do processo de treinamento que está estruturado em forma de regras fuzzy. Redes neuro-fuzzy híbridas podem aprender no modo supervisionado[3], desde que se conheça a saída esperada. O processamento é on-line. Neste modelo a unidade de processamento básica denomina-se o neurônio fuzzy. Todas as entradas, saídas e pesos desta rede são números reais que pertencem ao intervalo contínuo [0,1]. Numa rede neural convencional, x i interage com w i onde o produto é obtido: p i = x i w i, i = 1, 2,.., n A informação p i é agregada para gerar o somatório: net = p 1 + p p n. A saída é expressa da seguinte forma, onde f(x) = (1 + e -x ) -1 : y = f(net) = f(x 1 w x n w n ). Numa rede neuro-fuzzy híbrida, são empregados as operações t-norms ou t- conorms, da aritmética fuzzy [9], ao invés das operações de multiplicação e adição. A combinação dos dados de entrada x i e dos pesos w i são realizados através do uso de t-norms, t-conorms ou qualquer função contínua. Para agregar os resultados da combinações x i w i, também se utilizam as mesmas operações descritas anteriormente. E a função f pode ser qualquer função contínua. Mais detalhes sobre redes hibrídas podem ser encontrados em [9,13 e 16].

34 2.6 A Aprendizagem de Redes Neuro-Fuzzy A Classificação Neuro-Fuzzy A classificação de dados é um dos aspectos fundamentais de redes neurais, mas também é possível usar sistemas fuzzy para realizar esta atividade [16]. O classificador fuzzy não é um método de classificação melhor que redes neurais ou métodos estatísticos, mas uma forma diferente de alcançar este objetivo. O classificador fuzzy deve ser usado quando a interpretação do conhecimento vago é requisitado. Se o classificador fuzzy é usado então algumas vantagens são obtidas, como manipular conhecimento vago e incompleto, a classificação pode ser facilmente interpretada pelas regras, e, devido a simplicidade do sistema fuzzy, a implementação e posterior manutenção não são atividades difíceis. Os classificadores são derivados a partir dos dados e não são definidos previamente. Existem dois métodos para definir o classificador fuzzy: fuzzy clustering e o aprendizado neuro-fuzzy, definidos em [15 e 17]. No fuzzy clustering, o espaço de entrada é obtido pelos clusters. A forma e o tamanho do cluster é determinado pelo algoritmo de agrupamento. Os clusters obtidos podem funcionar como classificadores fuzzy, só que eles não são baseados em regras. A interpretabilidade é perdida, as regras fuzzy são geradas pela projeção dos clusters. Como há perda de informação para gerar as regras fuzzy a partir dos clusters, a performance deste classificador pode ser reduzida[17]. Outra maneira de obter um classificador fuzzy é o usar o aprendizado neurofuzzy. Neste método o classificador é gerado a partir dos dados, através de algum processo de aprendizagem. Devido a sua simplicidade, este método é computacionalmente mais barato que o fuzzy clustering,. A interpretabilidade e a performance obtidas são satisfatórias[17]. A seguir, será descrito como é realizado este aprendizado em redes neuro-fuzzy, a fim de derivar o classificador neuro-fuzzy a partir dos dados.

35 3 Mineração de Dados A Aprendizagem em Redes Neuro-Fuzzy O processo de aprendizagem necessita de uma partição inicial para cada variável. O dado treinado é processado e os clusters, que cobrem as áreas onde o dado está localizado, são adicionados à base de regras do classificador. No próximo ciclo, apenas as melhores regras são mantidas, reduzindo a quantidade de regras. Após a criação da base de regras, as funções de pertinência são ajustadas através de alguma heurística. Para cada regra, um erro é computado e este será usado para modificar as funções de pertinência que tiveram influência na ativação da regra[16 e 17]. Para melhorar a capacidade de aprendizagem do classificador, podem ser introduzidos novos conceitos[16], tais como: retreinar a base de regras, eliminar regras e variáveis. O retreinamento da base deve acontecer quando o erro não pode ser mais reduzido, então necessita-se reinicializar a criação das regras. As regras correntes serão comparadas com as novas. A eliminação de regras serve para reduzir a base, pois as regras com baixa performance ou que cobrem dados de outra regra são removidas. A eliminação de variáveis deve ser realizada quando as variáveis nunca atingirem nem o grau de pertinência mínimo de todas as variáveis do antecedente da regra. Se isto acontecer, a variável deve ser excluída deste antecedente.

36 3 Mineração de Dados 30 3 Mineração de Dados Mineração de dados é uma técnica que busca o conhecimento oculto em grandes bancos de dados. Também é conhecido como KDD, Knowledge Discovery in DataBases, ou seja, descoberta do conhecimento em banco de dados[7]. O objetivo principal da mineração de dados é extrair informações importantes provenientes de grandes banco de dados, de forma automática. Além disso, a mineração de dados também pode descobrir o relacionamento entre dados, realizar previsões e análises de dados. Existem duas características importantes na mineração de dados, são elas: a descoberta de conhecimento e a previsão. A descoberta do conhecimento é a atividade de encontrar informação escondida na base de dados, que não estava a procura. Esta descoberta não é facilmente realizada por simples consultas às tabelas, faz-se necessários o emprego de técnicas para extrair este novo conhecimento. Na previsão, diferentemente da descoberta, já se conhece o dado ou atributo, o que se deseja é achar qual o valor deste atributo num próximo estado[3 e 4]. Há duas formas de desenvolver modelos de previsão, definidas em [3 e 6], uma é baseada na aprendizagem supervisionada, onde se conhece o atributo alvo da previsão o qual faz parte dos dados históricos do banco de dados. Os valores dos atributos podem indicar se a previsão está correta ou incorreta, pois existe a presença do supervisor. A outra forma é a aprendizagem não-supervisionada, neste tipo de aprendizagem o alvo da previsão não é definido nem conhecido, não há qualquer tipo de supervisor que indique que a resposta está certa ou errada.

37 3 Mineração de Dados 31 O desenvolvimento e a implantação de sistemas de mineração de dados ajudam a corporação a se tornar mais competitiva, a ganhar espaço no mercado, a se adaptar rapidamente às mudanças e a tomar decisões de risco, com segurança. A grande maioria das empresas ainda realizam suas análises e previsões manualmente, gastando tempo, esforço e recursos, podendo estar mais sujeitos a erros e enganos. As técnicas de mineração de dados [3 e 4] fornecem a estas empresas uma maneira automática e confiável de realizar suas análises e previsões. Mineração de dados ajuda as empresas a compreender melhor o comportamento dos seus consumidores e clientes, o desempenho das vendas, e prever dados. Devido a aquisição de conhecimento, as empresas podem modificar suas estratégias de ação para melhorar seu desempenho[3]. O processo de mineração de dados consiste em três etapas: a preparação, a mineração e a análise dos dados. A preparação dos dados é a primeira fase e mais importante deste processo, pois é o ponto inicial da mineração de dados. Quanto melhor for a preparação do dado, melhor será a mineração e consequentemente as análises realizadas sobre os dados serão mais confiáveis [3 e 4]. Fornecedores Clientes Produtos Custos Vendas Vendas Clientes Produtos Análise dos dados Dados Preparação dos dados Mineração dos dados Figura 3.1: Etapas do processo de mineração de dados Os dados usados na mineração podem estar espalhados, em diferentes banco de dados e podem ser originados em diferentes sistemas da corporação. Estes sistemas, na

38 3 Mineração de Dados 32 sua grande maioria, são independentes e incompatíveis. Portanto, é preciso organizar os dados, pois é bem mais fácil minerar dados já consolidados. Data Warehousing possibilita a organização dos dados espalhados em diversas fontes, fornecendo uma visão consistente da organização pois armazena dados atuais e históricos. Segundo W. H. Innon, em [3]: Data Warehousing é uma coleção de dados orientados à assunto, integrada, dinâmica e não-volátil, para o suporte de decisões de gerenciamento. Um Data Warehouse se caracteriza por ser um grande banco de dados projetado para resolver as inconsistências dos dados e dar suporte a análises. É usado intensivamente para leitura, e periodicamente novos dados são inseridos nele, sem haver modificações dos dados antigos. Data Warehousing pode evitar enganos devido a suposições baseadas em dados incompletos e incorretos. Melhora a produtividade dos tomadores de decisão, aumenta a produtividade e o retorno financeiro das empresas que aplicam esta tecnologia. Mais detalhes sobre a técnica de data warehousing podem ser observados em [3]. Na consolidação dos dados realizadas pelo Data Warehouse, os dados são préprocessados, ou seja, são limpos, integrados e transformados. Este processo de preparação de dados possibilita a aplicação eficiente de ferramentas de mineração de dados. Depois dos dados terem sido preparados, um algoritmo de mineração de dados é usado para processar os dados a fim de extrair informações e descobrir os relacionamentos entre os dados.