Tópicos em Mineração de Dados

Transcrição

1 Tópicos em Mineração de Dados Descoberta de agrupamentos Método k-médias 1. Introdução A descoberta de agrupamentos é uma tarefa descritiva que procura agrupar dados utilizando a similaridade dos valores de seus atributos como fator de decisão quanto a sua pertinência num entre vários agrupamentos possíveis. Este processo utiliza técnicas de aprendizagem não supervisionada, pois a similaridade entre os atributos é uma característica intrínseca dos dados, não necessitando de um arquivo de treinamento com classes pré-definidas. Em geral, a identificação dos agrupamentos intrínsecos dos dados permite a descrição de cada agrupamento através de um padrão protótipo. O processo normalmente é iterativo e interativo, necessitando que o usuário modifique parâmetros e reapresente os dados até encontrar uma configuração satisfatória de agrupamentos. A ênfase nesta tarefa é a descrição dos dados e não a previsão de como um novo caso será classificado. 2

2 Exemplos de aplicações As principais aplicações da descoberta de agrupamentos estão relacionadas com a especificação de um modelo do conhecimento subjacente aos dados, baseado em grupos de dados com características similares entre si (intragrupo) mas distintas entre os grupos (intergrupos). A figura abaixo representa um diagrama de agrupamentos de estrelas considerando a sua temperatura e luminosidade. Gigantes vemelhas Luminosidade Seqüência principal Anãs brancas Temperatura 3 2. Método k-médias O método k-médias deriva o seu nome do fato de ele iniciar com um conjunto de k germes escolhidos como suposição inicial para os centróides, ou médias, dos agrupamentos. No algoritmo inicial (MacQueen 1967), a inicialização dos centróides é feita tomando-se simplesmente os k primeiros vetores (registros) dos dados. Quando os dados possuem algum tipo de ordenação, pode-se escolher registros que estejam mais espaçados entre si. Cada um dos k vetores é um agrupamento embrionário com apenas um único elemento. No segundo passo do algoritmo, cada vetor de dado recebe o rótulo do agrupamento que estiver mais próximo. Isto é feito, medindo-se a distância entre o vetor e cada centróide dos agrupamentos. Após a rotulação de todos os dados, os centróides dos agrupamentos são atualizados, calculando-se cada um como a média de todos os vetores que pertencem ao agrupamento correspondente. A atualização dos centróides é repetida até eles não se modificarem mais. 4

3 Exemplo do método k-médias As figuras abaixo, representam a aplicação dos dois primeiros passos do algoritmo k-médias em um arquivo com 20 dados com dois atributos contínuos, considerando-se um número de médias k = 3. Inicialização das médias Atribuição dos rótulos 5 Após o passo de rotulação, as médias são atualizadas considerando-se a nova configuração dos agrupamentos. Após as médias serem atualizadas, os rótulos são atualizados pela distância às novas médias. Atualização das médias Nova atribuição de rótulos e atualização das médias 6

4 Medidas de similaridade A pertinência de um registro num determinado agrupamento depende da medida de similaridade adotada entre os vetores. A representação geométrica do método k-médias mostra a sua adequação natural para lidar com atributos numéricos contínuos. Entretanto, existem diversos tipos de variáveis (numéricas em escalas diferentes e não numéricas) que podem ser utilizadas como atributo, e cada variável deve ser apropriadamente ajustada para que o método funcione bem. Além disso, no método k-médias todos os atributos têm a mesma importância. Entretanto, em algumas aplicações existe o conhecimento prévio de que alguns atributos são mais importantes que outros, e gostaríamos que o critério de similaridade levasse isso em conta. Por ex., num arquivo de dados envolvendo quesitos sobre famílias, nós podemos considerar que o rendimento familiar seja mais importante que a área da moradia para caracterizar duas famílias com padrões similares de consumo. A importância relativa dos atributos (bias) é fixada através de pesos. 7 No caso de atributos numéricos, em geral basta adotar-se um critério de escalamento das variáveis, para que a importância relativa entre elas seja preservada. Um exemplo aqui seriam as variáveis rendimento e área de moradia. Neste caso, a similaridade entre dois registros se dá pela distância entre os dois pontos correspondentes, no espaço normalizado de características. Na versão padrão deste método, a distância euclidiana é utilizada. Quando as proporções entre os valores dos atributos é mais importante que o seu valor absoluto, então uma medida de similaridade baseada em ângulos entre vetores é mais apropriada. peixe grande peixe pequeno gato grande gato pequeno 8

5 Exercício Considere o conjunto de 6 vetores bidimensionais {x 1, x 2,, x 6 } : x 1 = [2, 3] T, x 2 = [6, 5] T, x 3 = [3, 4] T, x 4 = [5, 7] T, x 5 = [3, 2] T, x 6 = [4, 5] T Aplique o método k-médias para 2 agrupamentos com posições iniciais x 1 e x 2. Num passo n do algoritmo, rotule os vetores pela menor distância às médias, por inspeção, utilizando o gráfico abaixo x 3 x 6 x 2 x 1 x 5 x Distância de Hamming A distância entre vetores binários é determinada pela distância de Hamming, que leva em conta os descasamentos binários entre bits correspondentes em cada vetor considerado. Espaço de Hamming : H n = { x = (x 1, x 2,, x n ) T R n : x i {-1,+1} } Considerando 2 vetores x, y no espaço H n, definimos a distância de Hamming h, como o número de descasamentos entre as componentes de x e y. Ex : No espaço H 2 podemos determinar as distâncias h ij entre vetores x i e x j : x 1 = (-1,+1) x i2 x 3 = (+1,+1) h 01 = h 02 = 1 ; h 31 = h 32 = 1 ; h 03 = h 12 = 2 ; h 01 h 03 Distância Euclidiana: d ij = (x i1 - x j1 ) 2 + (x i2 - x j2 ) 2 h 23 x i1 x 0 = (-1,-1) h 02 x 2 = (+1,-1) d ij = 2 h ij 10