Aprendizagem de Máquina

Transcrição

1 Aprendizagem de Máquina Alessandro L. Koerich Programa de Pós-Graduação em Engenharia Elétrica Universidade Federal do Paraná (UFPR) EXTRAÇÃO DE CARACTERÍSTICAS

2 Definição Característica: variável ou atributo utilizado na descrição de um padrão. Padrão: Exemplo: objeto, comportamento, situação,... Descrição: Exemplo: padrão carro (dados de uma instância): azul escuro, 2 portas, 6 cilindros, 5 passageiros,... Variáveis: assumem número particular de valores com possibilidade de assumir valores diferentes para cada instância. Exemplo: características: cor, número de portas, número de cilindros, número máximo passageiros.

3 Escala das Variáveis Nominal: valores não numéricos e não ordenados. Exemplo: cor e modelo do carro. Ordinal: valores não numéricos e ordenados. Uma instância pode apresentar valor comparativamente maior do que uma outra. Exemplo: Faixa Etária: Jovem, Adulto, Idoso. Intervalar: valores numéricos. Existe uma ordem entre os valores e também uma diferença entre esses valores. Exemplo: Temperatura em Graus Celsius (o zero é relativo).

4 Escala das Variáveis Proporcional: valores numéricos. Além da diferença, tem sentido calcular a proporção entre valores (zero é absoluto). Exemplo: Peso, Altura, etc.

5 Tipos de Variáveis Conforme Seus Variáveis qualitativas escalas nominais ou ordinais. Valores (Escala) Variáveis quantitativas: escalas intervalares e proporcionais. Variáveis dicotômicas: sexo: M,F Variáveis binárias: 0 (ausência) ou 1 (presença). Possui casa (Sim/Não). Variáveis discretas idade Variáveis contínuas distância.

6 Variáveis com Valores Ausentes ou Inaplicáveis Valores Ausentes: ausente no conjunto de dados mas existente no contexto em que a medida foi realizada. numa base de dados eles são indicados por valores negativos ou nulos em atributos numéricos. em atributos não numéricos por brancos ou traços. As vezes são indicados por uma mesma constante. Valores Inaplicáveis: ausente e inexistente no contexto em que a medida foi realizada. sexo = masculino e número de partos = null, Sexo = feminino e número de partos = 0

7 Pré-Processamento Extração de características normalmente exige um etapa de pré-processamento dos dados. Necessidade de pré-processamento: dados podem estar sujos Incompletos: Ausência de atributos de interesse Ausência de valores Ruidosos: erros aleatórios ou valores aberrantes (outliers) Inconsistentes: discrepâncias nas codificações ou nos nomes

8 Pré-Processamento Limpeza dos dados: preencher dados ausentes, alisar ruído, identificar e/ou remover valores aberrantes, resolver inconsistências. Integração e transformação de dados: integração de múltiplas bases de dados e arquivos; Normalização e agregação: redução de dados e do volume de dados com resultados similares; Discretização e Construção de Hierarquias Conceituais: importante para dados numéricos. Eliminação de características redundantes: através de técnicas de seleção de características (filter ou wrapper-based).

9 Pré-Processamento: Exemplo Tratamento de Dados Ausentes Ignorar a descrição do indivíduo ou mesmo eliminar o descritor; Preencher os valores ausentes manualmente; Usar uma constante global para representar os valores ausentes (não recomendado, pois o sistema pode identificar esse valor como um conceito); Usar a média (ou o modo); Usar a média (ou o modo) por classe Usar o valor mais provável segundo um modelo (regressão, regra de Bayes, árvores de decisão)

10 Pré-Processamento: Exemplo Mudança de Escala: muitos modelos só se aplicam à variáveis de mesma escala Intervalar Ordinal Ex: Idade O = [0, 150] 0-20: jovem; 20-60: adulto; >60: idoso O ={jovem, adulto, idoso} Problema: Perda de informação na mudança de escala distinção entre objetos de uma mesma categoria. amplitude da diferença entre objetos de categorias diferentes.

11 Pré-Processamento: Exemplo Tratamento de Ruído (erro aleatório ou variabilidade presente em descritores): Alisamento (Suavização): distribuir dados ordenados em caixas tendo como referência os seus vizinhos Ordenação: 1, 1, 2, 3, 3, 3, 4, 5, 5, 7 Particionamento em caixas (bins) Alisamento pela mediana 1,1,1 3,3,3 5,5,5,5 caixa1 caixa 2 caixa3 Outras alternativas: média, frequência,...

12 Pré-Processamento: Exemplo Regressão: os dados podem ser alisados pelo ajustamento a uma função (regressão linear, por exemplo); y Y1 Y1 y = x + 1 X1 x

13 Pré-Processamento: Exemplo Clustering: detecção e remoção de valores aberrantes. Os valores são organizados em grupos; os valores isolados podem ser considerados aberrantes (outliers).

14 Pré-Processamento: Exemplo Normalização: minimiza problemas oriundos do uso de unidades e dispersões distintas entre as variáveis. As variáveis podem ser normalizadas segundo a amplitude ou segundo a distribuição. Algumas ferramentas de modelagem são beneficiadas com a Normalização (redes neurais, KNN, clustering).

15 Métodos de Extração de Características (estudo de caso detecção de uma cena) A interpretação ou entendimento de uma cena demanda o reconhecimento de seus objetos. Para isso é preciso a definição de um método de extração de características. Conceito: um método de extração de características determina um subespaço apropriado de dimensionalidade m (conjunto contendo m características) a partir de um espaço de dimensionalidade d (a cena), sendo (m d).

16 Métodos de Extração de Características Importância: é um dos fatores mais importantes para a construção de um sistema de visão ou reconhecimento de padrões. o desempenho de um sistema de visão está diretamente relacionado ao poder de discriminação do conjunto de características escolhido. As características devem: destacar as diferenças entre objetos de classes distintas (interclasses) minimizar possíveis diferenças de objetos de mesma classe (intraclasse).

17 Métodos de Extração de Características Desafios: Quais características? Como representá-las? Como defini-las de maneira confiável? Normalmente, as características são calculadas em imagens bidimensionais, contudo estão relacionadas a objetos tridimensionais.

18 Métodos de Extração de Características Tipos de características: Jain et al (1995) classificam as características normalmente utilizadas em sistemas de visão, como: Globais Locais Relacionais

19 Métodos de Extração de Características Características Globais: descritores obtidos com base em todos os pontos de uma região, sua localização, intensidade e relações espaciais. Exemplos: área, perímetro, descritores de Fourier e momentos (ex: Hu e Zernike). Características Locais: normalmente calculadas a partir do contorno de um objeto ou a partir de pequenas regiões na imagem. Exemplos: curvatura de contorno ou superfície, segmentos de contorno, código de cadeia, detecção de cantos e concavidades.

20 Métodos de Extração de Características Características Relacionais: posições relativas de entidades diferentes como regiões, contornos fechados, transições, concavidades, ou qualquer outra característica local. Distâncias entre características e medidas de orientação relativa.

21 Métodos de Extração de Características Exemplo: um objeto e sua representação parcial usando múltiplas característica locais e globais.

22 Tipos de Características Descritores de Forma (Shape) Características relacionadas à forma normalmente são extraídas a partir da imagem binarizada do objeto. A descrição da forma deve ser invariante a: translação escala rotação pois essas transformações não mudam a forma do objeto. Em Loncaric 1998 a avaliação dos descritores de forma utilizados em um sistema de visão deve seguir os seguintes critérios: Acessibilidade: deve ser fácil de calcular; Escopo: quantas classes de formas podem ser descritas; Unicidade: mapeamento 1-1 entre forma e descritor; Estabilidade e sensibilidade: quão sensível é o descritor à pequenas mudanças no objeto.

23 Descritores de Forma (Shape) Contorno + Esqueleto a) objeto original; b) imagem distância; c) imagem esqueleto distância 3 pixels; d) imagem esqueleto distância 10 pixels.

24 Descritores de Forma (Shape) Representação das características extraídas: a) nós e ligações no esqueleto; b) representação da estrutura do esqueleto

25 Descritores de Forma (Shape) Informação extraída a partir de contorno/esqueleto

26 Descritores de Forma (Shape) Esqueletos dos dígitos 5 e 4 divididos em 9 regiões. Possibilidades de extração de características: cruzamentos(x, T,...), pontos de fim, loops, concavidades, etc... + informação espacial (zoning).

27 Curvaturas Descritores de Forma (Shape) Aproximação poligonal (polylines) e função de ajuste (acúmulo dos ângulos).

28 Curvaturas Descritores de Forma (Shape) Curvaturas obtidas a partir do contorno e após redução de mudanças (ruídos) na curvatura

29 Descritores de Forma (Shape) Código de Cadeia (Chain Code)

30 Descritores de Forma (Shape) Histograma Direcional (a) Contorno; (b) Código de cadeia; (c) Histograma direcional

31 Descritores de Forma (Shape) Perfil (Profile) Para cada valor de y, o perfil esquerdo (direito) é o x mais a esquerda (direita) no contorno do caractere

32 Descritores de Forma (Shape) Superfície (Surface) Exemplo: superfície analisada por regiões em imagem tons de cinza: (a) imagem original; (b) análise da superfície por regiões.

33 Projeções Descritores de Forma (Shape) Histograma vertical e horizontal: acúmulo de pixels pretos por coluna (linha)

34 Momentos Descritores de Forma (Shape) Linha 1-2: Imagem entrada e momentos de Zernike ordem Linha 3-4: Imagem de entrada e imagens reconstruídas a partir do momentos de Zernike ordem 1-13, respectivamente.

35 Descritores de Forma (Shape) Descritores de Fourier Reconstrução do dígito 4 a partir dos descritores de Fourier ordem 1..10, 15, 20, 30, 40, 50 e 100.

36 Descritores de Cor Cor Sistema de representação: RGB (Red, Green, Blue) componentes altamente correlacionadas.

37 Descritores de Cor Cor Sistema de representação: HSV (Hue, Saturation, Intensity) componentes descorrelacionadas

38 Redução de Cores Descritores de Cor

39 Histogramas Descritores de Cor Vetor [h 1,..., h n ] onde cada h j contém a quantidade de pixels de cor j da imagem. Para comparação de histogramas:

40 Descritores de Cor Representação Espacial Exemplo: quantidades iguais e distribuição espacial diferentes. Divisão em Regiões

41 Textura Importância: a textura tem sido utilizada em muitas aplicações: Inspeção de superfície; Classificação de cena; Orientação de superfície; Determinação da forma em imagens 3D. Definição: repetição de padrões de variação local em imagem de intensidade, as quais são muito pequenas para serem consideradas como objetos em separado na resolução em uso.

42 Textura Desta forma: um conjunto conectado de pixels satisfazendo uma dada propriedade nível de cinza (intensidade) e que ocorre repetidamente em uma região da imagem constitui uma região de textura. A textura não pode ser definida por um ponto, pois esta é caracterizada pela distribuição espacial dos níveis de cinza em uma vizinhança. A resolução na qual a imagem é observada determina a escala na qual a textura é percebida. Desafio: representar a textura de forma invariante à escala e à orientação.

43 Descritores de Textura Embora existam vários espaços de percepção de textura que capturam a forma humana de percebê-la, o mapeamento para características computacionais ainda está em estudo. Textura tem sido definida segundo 6 características visuais: Acabamento (coarseness) Contraste Direção Semelhança à linha (line-likeness) Regularidade Aspereza

44 Descritores de Textura 1. Descritores Estatísticos Co-ocorrência de níveis de cinza, contraste, entropia e homogeneidade. Matriz co-ocorrência:

45 Descritores de Textura Entropia (desordem) i j P ( i, j)log P( i, j) Energia i j 2 P ( i, j) Contraste ( i j 2 i j) P( i, j) Homogeneidade P( i, j) i j 1 i j

46 Descritores de Textura 2. Métodos Estruturais Determina-se a forma e propriedades da primitiva básica (microtextura). Então as regras que governam a disposição desta forma básica são determinadas para formar macrotexturas.

47 Descritores de Textura Descritores Baseados em Fourier a) textura estruturada b) textura direcional c) textura granular d) textura aleatória.

48 Descritores de Textura Descritores Baseados em Wavelet

49 Descritores de Textura Descritores Baseados em Filtros de Gabor

50 Métodos Extração de Características Exemplo: extração de característica a partir de caracteres manuscritos Características complementares: foreground + background, coluna + linha, globais + locais

51 Métodos Extração de Características Exemplo: reconhecimento de face

52 Métodos Extração de Características

53 Métodos Extração de Características Voz Música Energia modulada em 4 Hz

54 Métodos Extração de Características Voz Música Espectrograma de 1 segundo

55 Seleção de Características Identificar o melhor subconjunto de características para representar um padrão a partir de um conjunto maior frequentemente redundante e/ou apresentando características irrelevantes. Objetivos: minimizar o erro do classificador minimizar o número de características. Métodos de seleção devem avaliar não somente as características segundo seus méritos individuais mas considerar as interações entre elas.

56 Abordagens Seleção de Características Filter: seleção realizada independentemente do classificador Wrapper: seleção com base nos resultados do classificador Modified-wrapper: seleção com base nos resultados do classificador, porém sem a necessidade de novo treinamento (caso da análise sensitiva em redes neurais)