Aprendizado de Máquina

Transcrição

1 Aprendizado de Máquina Template Matching Luiz Eduardo S. Oliveira Universidade Federal do Paraná Departamento de Informática October 25, 2012 Luiz S. Oliveira (UFPR) Aprendizado de Máquina October 25, / 24

2 Introdução Em alguns casos, a classificação de um dado padrão desconhecido se dá através de sucessivas comparações a padrões de referência, também conhecidos como TEMPLATES. Nesse caso, o primeiro passo consiste em definir uma medida de similaridade ou distância entre os padrões de referência e o padrão desconhecido. Por que não utilizar uma distância conhecida, como por exemplo, a distância Euclidiana? Distância Euclidiana não funciona para padrões similares deslocados no tempo, por exemplo. Luiz S. Oliveira (UFPR) Aprendizado de Máquina October 25, / 24

3 Strings Um caso particular de Template Matching é a detecção de padrões em strings. O reconhecimento com strings consiste em encontrar um segmento de texto x dentro de um texto T maior. Em geral, temos T x Nesse caso, as características são nominais, ou seja, caracteres e por isso não existe a noção óbvia de distância entre strings. Um exemplo prático desse tipo de problema é encontrar sub-sequencia de DNA, em sequências bastante grandes Encontrar a sequencia AGCTTC em AGAGCTTCGAATC... Luiz S. Oliveira (UFPR) Aprendizado de Máquina October 25, / 24

4 Algoritmo Clássico O método mais simples, porém não tão eficiente, consiste em deslocar x e ao longo de T e verificar se existe um casamento (matching). Exemplo: T: abacdbdacbbacdac X: bdac bdac bdac.. bdac Informação de deslocamentos prévios não são utilizadas. Luiz S. Oliveira (UFPR) Aprendizado de Máquina October 25, / 24

5 Algoritmo de Boyer Moore Proposto em 1977 por Boyer & Moore Tempo de execução pode ser sub-linear Deslocamento do padrão buscado (x) mais de uma posição a cada vez. Quanto maior for x, mais rápida a execução do programa. Luiz S. Oliveira (UFPR) Aprendizado de Máquina October 25, / 24

6 Algoritmo de Boyer Moore Como funciona Utiliza uma abordagem backward, ou seja, a verificação se dá de traz para frente Se houver casamento (matching) então o algoritmo continua comparando os caracteres Complexidade igual ao algoritmo anterior, nesse caso. Se não houver casamento, o algoritmo realinha o padrão x com o texto T Nesse caso existe um ganho considerável de desempenho. Luiz S. Oliveira (UFPR) Aprendizado de Máquina October 25, / 24

7 Algoritmo de Boyer Moore Tabela de pré-processamento O primeiro passo do algoritmo de Boyer Moore consiste em criar uma tabela de deslocamento para o padrão x Começando da direita para a esquerda no penúltimo caractere Se o caractere não estiver na tabela Inclui o mesmo na tabela Valor do deslocamento = distância dele para o último caractere. Luiz S. Oliveira (UFPR) Aprendizado de Máquina October 25, / 24

8 Algoritmo de Boyer Moore Para qualquer outro caractere, o deslocamento é o tamanho da string. Luiz S. Oliveira (UFPR) Aprendizado de Máquina October 25, / 24

9 Algoritmo de Boyer Moore Exemplo T:This is a test of the Boyer Moore Algorithm x:algorithm O primeiro caractere a ser comparado é o m Nesse caso a comparação é (m,a) Como não existe casamento, busca-se o valor de deslocamento na tabela, nesse caso (a=8) T:This is a test of the Boyer Moore Algorithm x: Algorithm Luiz S. Oliveira (UFPR) Aprendizado de Máquina October 25, / 24

10 Algoritmo de Boyer Moore Deslocamento O deslocamento anterior é chamado de deslocamento BOM SUFIXO (GOOD SUFFIX) O próximo caractere a ser comparado é o f Não existe na tabela de pre-processamento Logo, requer outra estratégia de deslocamento Se o caractere não existe em x, o padrão x é deslocado para o próximo caractere T:This is a test of the Boyer Moore Algorithm x: Algorithm Esse deslocamento é conhecido como BAD CHARACTER. Luiz S. Oliveira (UFPR) Aprendizado de Máquina October 25, / 24

11 Algoritmo de Boyer Moore Deslocamento Como e não existe em x, o padrão é deslocado para o caractere subsequente a e. T:This is a test of the Boyer Moore Algorithm x: Algorithm T:This is a test of the Boyer Moore Algorithm x: Algorithm A existe e o valor do deslocamento é 8, logo temos: T:This is a test of the Boyer Moore Algorithm x: Algorithm Compara-se caractere a caractere como no algoritmo clássico Luiz S. Oliveira (UFPR) Aprendizado de Máquina October 25, / 24

12 Algoritmo de Boyer Moore Heurística Necessária Se faz necessária para a comparação de strings com caracteres repetidos. Usando a regra do GOOD SUFFIX no exemplo abaixo T:xxxxBooooxxxx x: Boooo Não houve casamento entre B e o. Valore de deslocamento para B, de acordo com a tabela é 4, logo T:xxxxBooooxxxx x: Boooo Luiz S. Oliveira (UFPR) Aprendizado de Máquina October 25, / 24

13 Algoritmo de Boyer Moore Heurística Necessária Duas comparações foram feitas até o não casamento Essas comparações devem ser subtraídas do valor do deslocamento, logo, novo delocamento = 4-2 = 2 T:xxxxBooooxxxx x: Boooo Luiz S. Oliveira (UFPR) Aprendizado de Máquina October 25, / 24

14 Edit Distance Diferente vetores com valores reais, não existe uma métrica obvia de distância entre strings Por exemplo, não é claro se abbccc está mais próximo de aabbcc ou de abbcccb Uma forma interessante de calcular a distância é o número de operações necessárias para transformar uma string em outra. Inserção Remoção Substituição Luiz S. Oliveira (UFPR) Aprendizado de Máquina October 25, / 24

15 Edit Distance Breve Histórico Criada pelo russo Vladimir Levenshtein em 1965 Largamente utilizados em Corretores ortográficos Pós-processamento em sistemas de reconhecimento de caracteres, como por exemplo, OCR. Análise de DNA Luiz S. Oliveira (UFPR) Aprendizado de Máquina October 25, / 24

16 Edit Distance Algoritmo 1) n = len(s) m =len (t) Construir uma matriz d de m linhas e n colunas 2) Inicializar a primeira linha de 0 a n Inicializar a primeira coluna de 0 a m 3) Examinar cada caractere de s (i de 1 até n) 4) Examinar cada caractere de t (j de 1 até m) 5) Se s[i] = t[j], custo = 0 Se s[i] <> t[j], custo = 1 6) d[i,j] = mínimo de: a) célula acima + 1: d[i-1,j] + 1 b) célula a esquerda + 1: d[i,j-1] + 1 c) célula acima e a esquerda + custo: d[i-1,j-1] + custo 7) Após as iterações dos passos 3,4,5 e 6, a distância é encontrada na célula d[n,m] Luiz S. Oliveira (UFPR) Aprendizado de Máquina October 25, / 24

17 Exemplo Luiz S. Oliveira (UFPR) Aprendizado de Máquina October 25, / 24

18 Dynamic Time Warping - DTW Introduzindo nos anos 60 e bastante explorado nos anos 70 em aplicações de reconhecimento de voz. Eficiente para medir a similaridade em sinais deslocados no tempo e também sinais distorcidos. Luiz S. Oliveira (UFPR) Aprendizado de Máquina October 25, / 24

19 Algoritmo DTW Sejam X = (x 1, x 2,..., x N ), N N e Y = (y 1, y 2,..., y N ), M N duas séries. Considerando que os valores em X e Y pertencem a um espaço de características Φ, uma medida de distância deve ser definida, por exemplo d : Φ Φ R 0 Intuitivamente d é baixo para características similares e alto, caso contrário. Um algoritmo de programação dinâmica é a base do DTW. Sendo assim, a função de distância também é conhecida como função de custo. Luiz S. Oliveira (UFPR) Aprendizado de Máquina October 25, / 24

20 Algoritmo DTW O algoritmo inicia construíndo a matriz de distância C RˆN M, a qual representa todas as distâncias entre X e Y. Essa matriz também é chamada de matriz de custo local para o alinhamento das sequências X e Y C l R N M : c i,j = x i y i, i [1 : N], j [1 : M] Luiz S. Oliveira (UFPR) Aprendizado de Máquina October 25, / 24

21 Algoritmo DTW 1a. linha: D(1, j) = j k=1 c(x 1, y k ), j [1, M] 1a. coluna: D(i, 1) ik=1 c(x k, y 1 ), i [1, N] outros elementos: D(i, j) = min{d(i 1, j 1), D(i 1, j), D(i, j 1)} + c(x i, y j ), i [1, N], j [1, M]) Depois que a matriz de custo é construída, o algoritmo encontra o caminho (warping path) com o menor custo Luiz S. Oliveira (UFPR) Aprendizado de Máquina October 25, / 24

22 Template Matching em Imagens Considerando duas imagens, o Template Matching consiste em comparar as duas pixel a pixel Diferenças estruturais são perdidas Considerando a Distãncia de Hamming, qual seria o exemplo mais similar ao template? Luiz S. Oliveira (UFPR) Aprendizado de Máquina October 25, / 24

23 Template Matching em Imagens Ruídos devido aquisição aumentam a variabilidade, diminuindo assim a eficiência do template matching Luiz S. Oliveira (UFPR) Aprendizado de Máquina October 25, / 24

24 Template Matching em Imagens Uma outra forma de usar template matching consiste em fazer a comparação usando um esquema de zoneamento. Enfatizar diferenças locais Uma variante do template matching é o feature matching Nesse caso, a comparação se dá no nível das características. Luiz S. Oliveira (UFPR) Aprendizado de Máquina October 25, / 24