Classificador de cédulas de Real: Duas abordagens, linear e não-linear

Transcrição

1 Classificador de cédulas de Real: Duas abordagens, linear e não-linear Lais C. R. S. Lopes 1 1 Instituto de Informática Universidade Federal de Goiás (UFG) Abstract. Real notes classification problem is to assign a certain Real ballot image a class that represents its true value. For each possible value are modeled two classes, one for front and one for the back of the note. This article will address two classifiers to solve the proposed problem, a nonlinear, an Artificial Neural Network (ANN) type Multilayer Perceptron (MLP) and other linear, Support Vector Machine (SVM). Despite the real banknote classification problem not linearly separable second classifier is applied to the problem by means of a change in the feature space. As preprocessing step in order to reduce the dimensionality of the data, in both classification is applied to decorrelation technical data, known as Analysis of Principal Components (PCA). Resumo. O problema de classificação de notas de Real consiste em atribuir a uma determinada imagem de cédula de Real uma classe que represente seu verdadeiro valor. Para cada possível valor são modeladas duas classes, uma para frente e outra para o verso da cédula. Neste artigo serão abordados dois classificadores para resolver o problema proposto, um não-linear, uma Rede Neural Artificial (RNA) do tipo Multilayer Perceptron (MLP) e outro linear, Máquina de Suporte de Vetores (SVM). Apesar do problema de classificação de cédulas de Real não ser linearmente separável o segundo classificador será aplicado ao problema por meio de uma transformação no espaço de características. Como etapa de pré processamento, visando diminuir a dimensionalidade dos dados, em ambos os classificadores é aplicada a técnica de descorrelação de dados, conhecida como Análise das Componentes Principais (PCA). 1. Introdução No Brasil, a moeda corrente é o Real. O Real é composto pelas notas de R$ 1, 2, 5, 10, 20, 50 e 100, sendo que a cédula de 1 real atualmente está fora de circulação. O presente trabalho propõe classificar imagens digitais de cédulas de Real de acordo com seus valores genuínos. Para tanto um banco de dados com imagens de cédulas de Real foi confeccionado e foram criadas quatorze classes onde duas classes, uma para frente e outro para o verso, representam um valor. Uma dificuldade em se modelar um sistema classificador de cédulas de Real é a não linearidade exigida pelo problema. Na literatura esse tipo de problema é tratado como um problema de difícil aprendizado. Tais problemas são assim considerados pois formam uma classe grande de funções e restrições intrínsecas e que não podem ser desprezadas. Para resolver problemas não lineares são necessários classificadores não lineares, como é o caso de redes neurais artificiais. As redes neurais artificiais são na verdade vários classificadores lineares (neurônios artificiais) que trabalhando em conjunto conseguem resolver problemas que não são linearmente separáveis. Apesar de ser

2 um problema de classificação não-linear é possível utilizar um classificador linear para resolvê-lo, desde que o espaço de características sofra alguma transformação que possibilite a correta classificação. Uma problemática ao se trabalhar com imagens é a alta dimensionalidade dos dados. O PCA consegue realizar a extração de um conjunto de variáveis chamadas de componentes. Essas componentes são extraídas da ordem da mais explicativa para a menos explicativa. Dessa forma os dados originais são reduzidos a um conjunto significativamente menor, porém com dados relevantes. Diversos trabalhos vem sendo pesquisados para reconhecimento de notas. Em [Hasanuzzaman et al. 2011] foi pesquisado o reconhecimento de notas de dólar utilizando um modelo baseado em componentes a partir da tecnologia Speeded Up Robust Features (SURF). No trabalho de [Toytman and Thambidurai 2011] também foi utilizado o reconhecimento de notas de dólar com descritores SURF, porém, com o objetivo de utilização em dispositivos móveis baseados na plataforma Android. [Hinwood et al. 2006] desenvolveu um equipamento para reconhecimento de notas de dinheiro que internamente possui os dispositivos BlindNoteReader, NoteTeller 2 e outros.no trabalho de [Sevkli et al. 2002] foi realizado o reconhecimento de notas utilizando o algoritmo de aprendizado indutivo RULES-3. Em [Aoba et al. 2003] foram experimentadas as RNA?s para reconhecimento de notas de Euro com características extra das imagens e infravermelho. [Chae et al. 2009] utilizou informações digitalizadas de notas de dinheiro expostas a ultravioleta e comparou com mecanismos contra falsificação previstos nas notas. Neste trabalho são propostos dois métodos para reconhecimento de notas de Real. Os dois métodos receberão como entrada dados de imagens digitalizadas de cédulas de real que serão pré processadas pelo PCA. No primeiro método esses dados serão aplicados em uma rede neural artificial do tipo MLP que ficará encarregada de classificá-los, no segundo método, também para fins de classificação, os dados serão aplicados em um SVM. 2. Metodologia Para um melhor entendimento das abordagens aplicadas na resolução do problema as principais etapas para a construção do sistema proposto são detalhadas a seguir: 2.1. Digitalização das notas para treinamento e teste Para o treinamento e teste do sistema foram digitalizadas diversas notas de real. Foram digitalizadas notas de 2, 5, 10, 20, 50 e 100 reais. As notas de 100 reais foram utilizadas em suas duas versões existentes. As notas foram digitalizadas em frente e verso sob um fundo branco. A quantidade de notas digitalizadas de cada tipo foi aleatória. E de acordo com as condições de conservação e semelhança de cada nota, algumas notas não tiveram ambas as faces digitalizadas. A Tabela I apresenta a quantidade de imagens digitalizadas de cada nota. Para a captura das imagens das notas foram utilizadas as câmeras RGB primárias de celulares. Os celulares utilizados foram o Samsung modelos Galaxy Y GT S6102B e o Galaxy Pocket S5300, com 3 e 2 megapixels de resolução, respectivamente. As digitalizações foram realizadas manualmente e em diferentes condições de luminosidade, distância e posição. A Figura 1 mostra exemplos das imagens de notas de real capturadas.

3 Table 1. Quantitativo de amostras digitalizadas de cada nota. Nota (R$) Qtd. Frente Qtd. Verso Total v v Total Figure 1. Exemplos de imagens de frente e verso das notas de 2, 10 e Pré-processamento Esta fase foi dividida em três passos. Primeiramente, as imagens digitalizadas através da atividade descrita na subseção 2.1 são convertidas em imagens de 256 tons de cinza e redimensionadas para a resolução de 300 x 140 pixels de largura e altura, respectivamente. Em seguida, as imagens são separadas em 2 conjuntos: um para treinamento e outro para teste do modelo. O conjunto de treinamento é composto por 90% das imagens. E o conjunto de teste é composto dos 10% restantes. Cada conjunto contém, proporcionalmente, representantes de todas as classes. Por exemplo, para a nota de 2 Reais foram digitalizadas 38 imagens da parte da frente e 38 do verso. Deste total, 34 imagens frente e verso foram utilizadas para treinamento e 4 imagens frente e verso foram utilizadas para teste. Ressalta-se que a escolha de imagens de cada classe foram selecionadas aleatoriamente para cada conjunto. Por fim, as imagens são processadas com a técnica de descorrelação de dados, PCA. O resultado da aplicação do PCA é utilizado como entrada para a rede MLP, para a implementação do primeiro método, e posteriormente para o SVM, para a implementação do segundo método Implementação do primeiro método A classificação das imagens é feita com uma rede neural artificial Perceptron Multicamadas (MLP). A RNA foi projetada com três camadas: uma de entrada, uma oculta e uma

4 de saída. O nmero de neurônios na camada de entrada é igual ao tamanho dos vetores de entrada que representam as imagens. Essa camada não realiza nenhum processamento, tem a função de apenas distribuir os sinais para a próxima camada de neurônios. Na camada oculta o número de neurônios, no experimento realizado, variou entre 3 e 60 e para a camada de saída foram necessários 6 neurônios, um por nota. Os pesos e bias das conexões dos neurônios da rede foram inicializados de acordo com a regra de D. Nguyen e B. Widrow [Nguyen and Widrow 1990]. Em ambas as camadas, oculta e de saída, os neurônios utilizam a função de transferência tangente e hiperbólica sigmóide. Como já explicado, as imagens capturadas foram divididas em dois conjuntos, o primeiro, utilizado durante o treinamento da RNA, composto por 90% das imagens e o segundo, utilizado durante a fase de teste, composto pelos os 10% restantes. O algoritmo de treinamento utilizado foi o de Levenberg-Marquardt. Este algoritmo de treinamento foi executado repetidas vezes com diferentes números de neurônios na camada oculta. A quantidade inicial de neurônios foi de 3. Esta quantidade foi incrementada em 3 neurônios em cada execução. Para evitar sobretreino (overfitting) foi utilizada a heurística de estabelecer um erro quadrático médio (MSE) no valor de 1 x e treinar a MLP até que não houvesse mudança significativa no valor do MSE. O valor do M SE e obtido com a Eq. (1). MSE = i=1 n (y a i y e i ) n (1) onde y a and y e são os valores atuais e esperados, respectivamente, i é a amostra de treino e n é o número de amostras de treinamento. Nos testes o treinamento da MLP convergiu com 150 épocas. A quantidade de neurônios encontrada foi de 60 neurônios Implementação do segundo método No segundo método a classificação das imagens é feita utilizando a Máquina de Suporte de Vetores. Embora seja, inicialmente, um classificador linear ele pode ser utilizado em problemas não lineares contanto que se transforme o espaço de características de tal forma que os vetores de suporte sejam projetados de forma estratégica para encontrar o melhor hiperplano. Para essas transformações existem os kernels que são capazes de mapear as entradas no espaço de características. Os vetores de suporte são pontos que estão à menor distância entre os exemplos do conjunto de treinamento e o hiperplano utilizado na separação das classes. Para modelar o SVM foi utilizado o kernel Gaussiano, equação 2. Tal kernel foi eleito por conseguir modelar problemas onde os dados apresentam alta dimensionalidade. Segundo [Lorena 2003], pode-se afirmar que quase todas formas de mapeamento podem ser implementadas por esta função em particular. ( exp 1 ) 2α x 2 i x j 2 (2)

5 Table 2. Percentual de acertos do método 1 para os conjuntos de teste. Nota (R$) Qtd. Amostras % Acerto % % % % % 100 v1 9 89% 100 v2 7 86% Total 50 94% Table 3. Percentual de acertos do método 2 para os conjuntos de teste. Nota (R$) Qtd. Amostras % Acerto % % % % % 100 v % 100 v % Total 49 92% 3. Resultados Neste trabalho foram realizados experimentos com dois métodos distintos, um linear e outro não linear, para se classificar imagens de cédulas de Real. No primeiro uma rede neural MLP foi implementada para resolver o problema, além disso foram realizados testes para se de determinar a arquitetura da MLP que mais se adequava à classificação das notas de Real. No segundo método foi utilizado o SVM com um kernel gaussiano. Vale ressaltar que em ambos os classificadores o PCA foi utilizado na etapa de préprocessamento das imagens. Cada imagem redimensionada possui uma quantidade de 300 x 140 pixels de largura e altura. Assim, cada imagem possui um total de valores. Com a utilização do PCA cada imagem foi reduzida a um total de 500 coeficientes. Isto significa uma redução para? 1, 19% do total de valores. Os experimentos de teste foram realizados com 50 amostras. A Tabela 2 ilustra a quantidade de amostras por nota da moeda Real e o percentual de acertos do modelo obtidos pela utilização do método 1. Na Tabela 3 são demonstrados os resultados obtidos com a aplicação do método 2. Observa-se nesta tabela 2 que os experimentos com amostras de notas de 2, 5, 20 e 50 reais obtiveram acerto de 100%. Isto demonstra que o modelo identificou satisfatoriamente para amostras destas classes.nos experimentos realizados com as notas de 10, 100 v1 e 100 v2 reais obtiveram acertos de 80%, 89% e 86%, respectivamente. A tabela 3 demonstra os resultados obtidos com a execução do método 2. As notas de 20 e de 100 em ambas as versões obtiveram uma taxa de acerto de 100%. O SVM para

6 esse problema se demonstrou, assim como a RNA, uma técnica interessante tendo taxa final de acerto de 92% com 49 amostras classificadas corretamente. 4. Conclusão Neste trabalho apresenta-se um modelo para reconhecimento de notas da moeda Real, usando PCA na etapa de pré-processamento das imagens, e dois modelos de classificadores distintos, uma RNA do tipo MLP e o SVM. O sistema recebe imagens digitalizadas de notas de dinheiro e as classifica para identificação de seu valor correspondente com o método 1, RNA, ou com o método 2, SVM. O PCA se mostrou eficiente na redução e caracterização das imagens de notas Real compactando significativamente o tamanho das imagens. Apesar da redução de dados no processo de obtenção das componentes principais a MLP conseguiu classificar as amostras de notas de forma satisfatória. Os resultados de classificação do método 1 mostraram-se satisfatórios, com percentuais de acerto de 100% na maioria das classes. Nas classes em que houveram erros, estes percentuais foram muito baixos. O método 2 também demonstrou resultados animadores, em nenhum momento o SVM apresentou taxa de acerto menor do que 80%. Os resultados encontrados nos dois experimentos se mostraram bastante promissores, embora o SVM tenha sido levemente inferior à rede neural MLP de um modo geral, é muito precoce para afirmar alguma coisa, pois, em notas que a RNA obteve taxas de acerto menores o SVM obteve taxas maiores e vice-versa. 5. Referencias References Chae, S.-H., Kim, J., and Pan, S. (2009). A Study on the Korean Banknote Recognition Using RGB and UV Information. In Ślȩzak, D., Kim, T.-h., Chang, A.-C., Vasilakos, T., Li, M., and Sakurai, K., editors, Communication and Networking, volume 56 of Communications in Computer and Information Science, pages Springer Berlin Heidelberg. Hasanuzzaman, F. M., Xiaodong, Y., and YingLi, T. (2011). Robust and effective component-based banknote recognition by SURF features. In Wireless and Optical Communications Conference (WOCC), th Annual, pages 1 6. Hinwood, A., Preston, P., Suaning, G. J., and Lovell, N. H. (2006). Bank note recognition for the vision impaired. Australasian Physical & Engineering Sciences in Medicine, 29(2). Lorena, A. C. (2003). Introduà à o à s mã quinas de vetores de suporte. Technical report, Universidade de Sà o Paulo. Nguyen, D. and Widrow, B. (1990). Improving the learning speed of 2-layer neural networks by choosing initial values of the adaptive weights. In Neural Networks, 1990., 1990 IJCNN International Joint Conference on, volume 3, pages IEEE. Toytman, I. and Thambidurai, J. (2011). Banknote recognition on Android platform.