Reconhecimento de Padrões

Transcrição

1 Reconhecimento de Padrões André Tavares da Silva Duda e Hart Capítulo 1

2 Reconhecimento de Padrões (imagem) Objetivo: Interpretar um conjunto de dados através de um mapeamento (classificação) que relaciona objetos (conteúdo da imagem) com categorias ou classes (significado do conteúdo). A classificação assume que objetos com características (forma, cor, textura) semelhantes pertencem a uma mesma classe (i.e., estão associados a um mesmo significado ou obedecem um mesmo padrão de características). Por isso essa classificação é denominada de reconhecimento de padrões.

3 Análise de Imagens O objetivo da análise é extrair informações do conteúdo de uma imagem que possam levar a uma tomada de decisão. Por exemplo: Identificação de um indivíduo/veículo para fins de controle de acesso; Presença (identificação/reconhecimento) de faces para controle de foco em câmeras fotográficas; Diagnóstico de um tumor no tratamento de um paciente; etc.

4 Exemplo Pense em ações simples que realizamos no nosso dia a dia, e na complexidade envolvida, como por exemplo placa de trânsito:

5 Reconhecimento de Padrões (pipeline) Além das técnicas de processamento de imagens para extração de conteúdo, o processo requer uma sequência de técnicas de representação, descrição e classificação de padrões: Imagem Extração de conteúdo Representação Descrição Classificação de padrões Classe / Descrição

6 Outro Exemplo Para ilustrar a complexidade desse tipo de sistema, considere o seguinte exemplo: Uma indústria recebe dois tipos de peixe: Salmão e Robalo. Os peixes são recebidos em uma esteira, e o processo de classificação é manual. A indústria gostaria de automatizar esse processo, usando para isso uma câmera CCD.

7 Exemplo

8 Extração de Características Primeiramente devemos encontrar as características que distinguem um salmão de um robalo: altura, largura, coloração, posição da boca, etc... Características (features): Qualquer medida que se possa extrair de um determinado objeto.

9 Extração de Características Dado as diferenças entre as populações de Salmão e Robalo, podemos dizer que cada uma possui um modelo específico. Modelo: Um descritor, geralmente representado através de uma função matemática.

10 Representação/Descrição Suponha que alguém nos diga que: Robalos geralmente são maiores que salmões. Isso nos dá uma direção para modelar nosso problema, ou seja, Se o peixe ultrapassa um tamanho t, então ele é um robalo, caso contrário, é um salmão. Mas como determinar t?

11 Classificação Podemos selecionar alguns exemplares (base de treinamento) de peixe e verificar seus tamanhos. Suponha que após analisarmos nossa base de treinamento, tenhamos os seguintes histogramas

12 Exemplos (tamanho) salmão robalo Usando somente a medida de tamanho, não podemos separar de maneira confiável nossas duas classes de peixes. Portanto, devemos tentar outras características. t

13 Outra característica: Medida de Claridade salmão robalo Como podemos notar, essa característica é muito mais confiável, mas não é perfeita. Robalos que serão classificados como salmão. x Noção de CUSTO

14 Alterando o classificador Suponha que os clientes da indústria aceitem um pedaço de salmão embalado junto com robalo, mas o contrário é inaceitável. Devemos então alterar nossa fronteira para que isso não aconteça.

15 Alterando o classificador salmão robalo Custo maior, uma vez que mais salmões serão classificados como robalos x erro

16 Otimização/adaptação do classificador Isso sugere que existe um custo associado com a nossa decisão. Nossa tarefa consiste em encontrar uma regra de decisão que minimize o custo. Isso é o papel central da Teoria da Decisão. Também pode ser visto como um problema de otimização (ou aprendizado).

17 Reconhecimento de Padrões O conteúdo de uma imagem pode ser representado por pixels, regiões, segmentos de borda, ou objetos segmentados nas imagens. Estes elementos formam amostras s de um conjunto de dados Z, utilizadas para ensinar a máquina sobre um dado problema. Em geral, o problema consiste em descobrir padrões característicos, a partir das amostras, que identifiquem classes diferentes.

18 Reconhecimento de Padrões A cada amostra s Z é associado um vetor de características v(s) = (v 1 (s), v 2 (s),..., v n (s)) e espera-se que as classes sejam formadas por agrupamentos de amostras em R n (espaço de características ou atributos). Note que as classes podem ter geometrias variadas e alguma superposições entre elas.

19 Reconhecimento de Padrões salmão robalo altura claridade

20 Reconhecimento de Padrões Vários objetos podem ser segmentados na imagem, requerendo uma representação hierárquica e uma descrição para cada um deles. Um descritor de imagem é um par: função de extração de características v e função de distância d, onde a primeira define o vetor de características v(s) = (v 1 (s), v 2 (s),..., v n (s)) para cada amostra s Z e a segunda mede a dissimilaridade entre amostras pela distância entre seus vetores de características (e.g., d(s, t) = v(s) v(t) ).

21 Reconhecimento de Padrões Cada característica x j = v j (s) pode ser vista como uma variável aleatória, cujo valor varia com a escolha aleatória da amostra s. Portanto, x = v(s) é um vetor aleatório. A frequência de ocorrência (histograma 2D, por exemplo) dos valores de (x 1, x 2 ) R 2 representa a função densidade de probabilidade ρ(x) (pdf probability density function).

22 Reconhecimento de Padrões

23 Reconhecimento de Padrões salmão robalo altura claridade

24 Reconhecimento de Padrões salmão robalo altura claridade

25 Reconhecimento de Padrões salmão robalo Fronteira muito mais complexa. Separação perfeita! altura Um exemplo (salmão) de teste claridade

26 Reconhecimento de Padrões O reconhecimento de padrões é uma área fundamental em análise de imagens. Seu objetivo é projetar um classificador rápido (eficiente), preciso (robusto) e exato (eficaz). Um classificador D de padrões é uma regra de decisão que associa um rótulo L(s) = i para cada amostra s Z, para dizer que esta amostra provém da classe w i, i = 1, 2,..., c.

27 Reconhecimento de Padrões Um erro ocorre quando L(s) λ(s), sendo λ(s) a classe verdadeira de s. O projeto do classificador requer, portanto, um aprendizado sobre a distribuição das amostras de cada classe (ou simplesmente a distribuição de amostras não rotuladas) no espaço de atributos.

28 Aprendizado Para tanto, a base de dados Z deve ser dividida de forma aleatória em duas bases: uma base Z 1 para aprendizado e uma base Z 2 para teste (validação) do classificador. O aprendizado é dito supervisionado quando usa o conhecimento dos rótulos das amostras em Z 1. Se não conhecemos, ou não usamos os rótulos, o aprendizado é dito nãosupervisionado, e se este conhecimento for parcial temos um aprendizado semi-supervisionado.

29 Aprendizado (a) Amostras em um espaço 2D de características para um problema com cinco classes. (b) Função densidade de probabilidade ρ(x) (pdf). (c) Classificação por superfícies de decisão. (d) Classificação pela zona de influência dos máximos da pdf.

30 Reconhecimento de Padrões Após o aprendizado, o classificador é validado em Z 2 e pode ser usado para classificar novas amostras. Classificadores supervisionados normalmente definem superfícies de decisão (Figura 2c) ou se baseiam em medidas locais no R n.

31 Reconhecimento de Padrões No caso não-supervisionado, alguns classificadores particionam um grafo em subgrafos (clusters que supostamente representam as classes), onde os nós são as amostras, outros assumem uma dada geometria para as classes e/ou número fixo de classes, e outros exploram a pdf, definindo uma zona de influência (cluster) para cada máximo (Figura 2d).

32 Reconhecimento de Padrões Recentemente, classificadores baseados em grafos (i.e., florestas de caminhos ótimos) têm sido usados com sucesso em ambos paradigmas de aprendizado. Estes classificadores exploram a força de conexidade entre as amostras no R n e tomam decisões globais.

33 Projeto de um classificador O projeto de um classificador supervisionado é uma operação delicada, onde devemos evitar super-treinamento: por explorar os rótulos das amostras em Z 1, o classificador acerta bastante em Z 1 mas erra absurdamente em Z 2. Portanto, recomenda-se que a base Z 1 seja ainda dividida de forma aleatória em uma base de treinamento Z 11 e uma base de avaliação Z 12.

34 Projeto de um classificador Os parâmetros ou funções de decisão do classificador são aprendidos com as amostras de Z 11 e o classificador é avaliado em Z 12. A avaliação permite trocar amostras entre Z 11 e Z 12 e reestimar parâmetros, melhorando o projeto do classificador por escolher as amostras mais significativas para Z 11. Esta divisão de Z 1 também se justifica no caso de grandes bases de dados, com milhares ou milhões de amostras (e.g., pixels em uma imagem).

35 Projeto de um classificador

36 Qual é a essência do problema? A essência do problema está em quais características atribuem padrões semelhantes para objetos de uma mesma classe e padrões distintos para objetos de classes diferentes. Matematicamente, n características x j, j=1,2,...,n, podem ser organizadas em um vetor v = [v 1, v 2,..., v n ] t, que pode ser visto como um ponto em R n. Uma função de distância D entre vetores de características deve agrupar pontos de uma mesma classe e separar pontos de classes distintas. Neste caso, a classificação consiste em encontrar estes agrupamentos de pontos (clustering).

37 Próximo encontro Conceitos básicos sobre reconhecimento de padrões Visão geral sobre aprendizado no projeto de classificadores Seleção de características Obs: ler capítulo 1, seções 1.1 a 1.4 do livro da Kuncheva.