DIAGNÓSTICO DE PATOLOGIAS DA COLUNA VERTEBRAL VIA

Transcrição

1 DIAGNÓSTICO DE PATOLOGIAS DA COLUNA VERTEBRAL VIA PROGRAMAÇÃO GENÉTICA Kauê F. Marcelino Menezes Ajalmar R. Rocha Neto Instituto Federal do Ceará (IFCE) Departamento de Ciência da Computação Maracanaú, Ceará, Brasil Instituto Federal do Ceará (IFCE) Programa de Pós-Graduação em Engenharia de Telecomunicações (PPGET) Programa de Pós-Graduação em Ciência da Computação (PPGCC) Fortaleza, Ceará, Brasil Abstract Genetic Programming is an Evolutionary Computation subarea which aims at generating computer programs,i.e., individuals represented by trees. Each individual is a solution for a certain problem, so that these solutions are found by assessing individuals through a fitness function defined for the target problem. This work aims at applying Genetic Programming for the diagnosis of vertebral column pathologies, as well as performing a comparative study of techniques from artificial neural networks, such as Extreme Learning Machines and Radial Basis Function networks. Besides that, we compare the obtained results to the k-nearest Neighbors algorithm. Generally speaking, the classifier s performance achieved by Genetic Programming was higher than the other ones, and the evolutionary classifier has an interesting characteristic, its ability to perform feature (attributes) selection. We also highlight that, in classifiers obtained by Genetic Programming, the decision process is more explicit than those ones based on neural networks. Keywords Pattern Recognition, Genetic Programming, Vertebral Column Pathologies. Resumo Programação Genética é uma subárea da Computação Evolucionária que visa a geração automática de programas de computador, i.e., indivíduos representados por árvores. Cada indivíduo da população descreve uma solução para um dado problema, de tal maneira que estas soluções são encontradas através da avaliação dos indivíduos por uma função de aptidão definida especificamente para o problema de interesse. Este trabalho tem por objetivo aplicar Programação Genética ao diagnóstico de patologias da coluna vertebral, bem como realizar um estudo comparativo com técnicas oriundas da área de redes neurais artificiais, tais como: Máquinas de Aprendizado Extremo e Redes de Funções de Base Radial. Adicionamente, compara-se os resultados obtidos com o algoritmo KNN. De uma forma geral, os resultados obtidos mostram que o desempenho do classificador obtido via Programação Genética foi superior aos demais classificadores, bem como apresentam uma característica intrínseca bastante interessante que é a capacidade de seleção de atributos. Ressalta-se ainda que, em classificadores obtidos por Programação Genética, o processo de tomada de decisão apresenta-se mais explícito do que os demais classificadores avaliados. Palavras-chave Reconhecimento de Padrões, Programação Genética, Patologias da Coluna Vertebral. 1 Introdução Em reconhecimento de padrões, um padrão x é um vetor p-dimensional que descreve um conjunto de objetos. A tarefa de classificação de padrões visa construir uma função com a propriedade de mapear atributos de entrada em um valor discreto, a saber x R p y {0, 1,..., c}, em que c é o número de categorias. A partir de um conjunto prévio de exemplos, pode-se via um processo de indução obter um classificador de padrões. A construção do classificador, embora possa ser feita servindo-se dos mais variados algoritmos e técnicas, exige um processo de aprendizagem sobre uma coleção prévia de exemplos {x, y} N i=1, denominado conjunto de dados. O uso de Programação Genética (PG) para descobrir regras de classificação compreensíveis é uma área relativamente pouco explorada. Acredita-se que esta seja uma área promissora, devido à eficácia de Programação Genética em problemas com espaço de busca muito grande e à sua habilidade para executar uma busca flexível e abrangente, através do uso coerente de valores dos atributos previsores (Koza, 1992). Além disso, devido a pequena quantidade de aplicações de PG na área da medicina e mais especificamente em diagnósticos de patologias da coluna vertebral, mostrou-se interessante a abordagem do problema de classificação de patologias utilizando Programação Genética (PG). Ressalta-se ainda que além de escassas aplicações em ortopedia médica, a utilização de PG para esse fim é novidade e ainda não foi abordada na literatura. Este trabalho tem por objetivo realizar um estudo comparativo entre classificadores que se baseiam em Programação Genética e técnicas de classificação oriundas da área de redes neurais artificiais, a saber: Máquina de Aprendizado Extremo (Extreme Learning Machine, ELM) e as Redes de Funções de Base Radial (Radius Basis Function Networks, RBF), quando aplicadas para classificar indivíudos entre normais ou com patologias da coluna vertebral, mais especificamente hér-

2 nia de disco e espondilolistese. Adicionalmente, o classificador que se baseia nos K-Vizinhos Mais Próximos (k-nearest Neighbour, KNN) é também avaliado. No tocante à organização deste trabalho, na Seção 2 tem-se a descrição da coluna vertebral e das patologias da coluna vertebral. Na Seção 3 são descritos os conceitos relacionados à Programação Genética. Enquanto na seção seguinte são apresentados os classificadores avaliados neste trabalho. Nas Seções 5 e 6 são apresentadas, respectivamente, a metodologia aplicada e os resultados obtidos e, por fim, as conclusões são apresentadas na Seção 7. 2 Patologias da Coluna Vertebral A coluna vertebral é um sistema composto por um conjunto de vértebras, discos intervertebrais, nervos, músculos, medula e ligamentos. Segundo (Hall and Taranto, 2000), as principais funções da coluna vertebral são as seguintes: (i) eixo de suporte do corpo humano; (ii) protetor ósseo da medula espinhal e das raízes nervosas; e (iii) eixo de movimentação do corpo, possibilitando o movimento nos três planos: frontal, sagital e transversal. Esse complexo sistema está sujeito a disfunções que causam dor nas costas das mais variadas intensidades. Hérnia de disco e espondilolistese são exemplos de patologias da coluna vertebral que causam dores intensas. A hérnia de disco surge como resultado de diversos pequenos traumas na coluna que vão, com o passar do tempo, lesando as estruturas do disco intervertebral, ou pode acontecer como consequência de um trauma severo sobre a coluna. A hérnia de disco surge quando o núcleo do disco intervertebral migra de seu local, no centro do disco, para a periferia, em direção ao canal medular ou em espaços por onde saem as raízes nervosas, levando à compressão das raízes nervosas. Espondilolistese ocorre quando uma das 33 vértebras da coluna vertebral desliza adiante em relação as outras. Esse deslizamento quando verificado ocorre, geralmente, em direção à base da espinha na região lombar, ocasionando dor ou sintomatologia de irritação de raiz nervosa. O mecanismo que ocasiona esse tipo de lesão não é bem conhecido mas existem teorias que sugerem algumas possíveis causas: fratura por fadiga conjugado a um defeito hereditário ou predisposição, fratura ocorrida durante o parto, trauma, deslocamento de uma vértebra sobre a outra secundária à lordose lombar, fraqueza dos ligamentos e estruturas faceais da região envolvida ou má formação das facetas articulares. Atributos Biomecânicos Os atributos biomecânicos, utilizados nesse trabalho, foram propostos por especialistas a partir de estudos desenvolvidos no Laboratório de Biomecânica do Centre Médico-Chirurgical de Réadaptation des Massues, localizado em Lyon, França. Esses especialistas, que compõem o Grupo de Pesquisa Avançada em Ortopedia (Group of Applyed Research in Orthopaedics, GARO), montaram uma base de dados com informações de pacientes saudáveis, escolióticos, com hérnia de disco e com espondilolistese. A base de dados gerada contém dados extraídos de 310 pacientes, a partir de radiografias panorâmicas sagitais em formato de cm. Destes, 100 indivíduos são voluntários do Hospital de Massues que não possuem patologias na coluna. Os dados restantes são obtidos a partir de radiografias de pacientes operados de hérnias de disco (60 indivíduos) ou espondilolistese (150 indivíduos). Um scanner Vidar VXR 8 foi utilizado para digitalizar as radiografias, que foram então processadas por um sistema semi-automatizado de tratamento de imagem, chamado de SagittalSpine. Esse sistema calcula os ângulos da bacia e o traçado linear da coluna a partir dos centros de cabeça do fêmur, da determinação da linha do platô sacral e da determinação dos ápices das curvaturas lordóticas e cifóticas. Cada indivíduo no banco de dados é representado como um vetor de seis atributos biomecânicos, que correspondem aos seguintes parâmetros angulares sagitais do sistema espinopélvico: (1) ângulo de incidência pélvica, (2) ângulo de versão pélvica, (3) ângulo de lordose, (4) declive sacral, (5) distância ou raio pélvico e (6) grau de deslizamento. 3 Programação Genética Programacão Genética (PG) é uma técnica para evoluir programas de computador (indivíduos) a fim de alcançar soluções para problemas complexos. A ideia básica consiste na evolução de uma população de programas candidatos, com o intuito de obter uma solução mais adequada possível para um problema específico. Um programa, indivíduo ou solução é usualmente representado em forma de uma árvore de tal maneira que os nós internos são funções (operadores) e os nós folhas são símbolos terminais (Koza, 1992). Conforme os princípios da seleção natural de Darwin, os indivíduos mais bem adaptados (i.e., aqueles com maior valor de aptidão) têm maiores chances de sobrevivência e por isso se reproduzem e propagam seu material genético para as próximas gerações. Na PG, os indivíduos com maior valor de aptidão têm mais chances de serem selecionados para aplicação dos operadores genéticos básicos de cruzamento e mutação. A operação de cruzamento é realizada pela recombinação de partes de dois programas para fins de formação de outros dois indivíduos para a população subsequente. Esse operador visa criar me-

3 lhores soluções a partir das já existentes, de modo a explorar o espaço de busca de todas as soluções possíveis. O operador de mutação altera partes internas da estrutura do programa para aumentar a diversidade na população. Desse modo, evita a convergência prematura ou o estacionamento em um ponto do espaço de busca em que se encontram programas subótimos. Do ponto de vista das árvores, esse operador realiza trocas entre as subárvores dos programas-pai para gerar programasfilho. Diferentemente do operador de cruzamento, o operador de mutação quando aplicado altera ramos da árvore de um único programa de forma aleatória. 3.1 Funções e Terminais Um programa ou uma árvore é composta de diversos nós do tipo funções (F) e terminais (T), os quais são definidos a partir do domínio da aplicação. São eles que estarão à disposição do processo evolucionário para a construção e formação de estruturas mais complexas. No contexto da PG, são eles que definem a linguagem e o feitio do espaço de busca onde a evolução poderá explorar (Augusto, 2009). O conjunto de funções F é responsável pelo fornecimento de operações que requerem argumentos (operadores). Pode-se citar, como exemplo, operadores matemáticos (+,,,, sin, cos,, log, x y ), lógicos (,, ), relacionais (<, >, =), condicionais (se x então y senão z) e laços iterativos (enquanto x faça y). Por sua vez, o conjunto T contém os operandos que são as variáveis de interesse, tais como: idade, salário e sexo; ou ainda valores constantes, tal como o π; ou mesmo funções que não requerem argumentos, tal como rand(). No contexto de classificação de padrões, as variáveis são os atributos ou componentes que pertencem ao padrão x = [x 1 x 2... x p ] T, em que p representa a quantidade de atributos do padrão. 3.2 Função de Aptidão A função de aptidão (fitness function) é aquela que permite avaliar o quão boa é a solução para o problema de interesse. Em geral, em um problema de maximização, esse tipo de função é modelada para conter valores altos para boas soluções e valores pequenos para soluções ruins. No contexto de classificação de padrões, uma estratégia simples e direta para avaliação da aptidão de uma solução consiste na utilização da taxa de acerto global (acurácia) do classificador (Espejo et al., 2010). Essa taxa se faz interessante pois representa a proporção de exemplos corretamente classificados em relação ao total de padrões do conjunto de dados. 4 Classificadores de Padrões As redes neurais abordadas neste artigo são descritas sucintamente nesta seção. 4.1 Máquinas de Aprendizado Extremo Uma rede ELM é uma rede de uma única camada oculta com alimentação direta que tem seu aprendizado realizado em apenas um sentido, da entrada para a saída (Huang et al., 2004). Algumas características interessantes dessa rede são a velocidade de treinamento e a ausência de parâmetros de treinamento, sendo necessário apenas a definição do número de neurônios. Entretanto, classificadores obtidos dessa rede em geral apresentam custo computacional elevado na etapa de teste em virtude do elevado número de neurônios na camada oculta. A regra geral de aprendizagem dos neurônios de uma ELM é definida por: H β i g(w i x j + b i ) = t j ; j = 1,..., N i=1 em que H é a quantidade de neurônios da camada oculta e N é o número de vetores de treinamento. Os vetores w i = [w i1, w i2,..., w ip ] são os pesos da camada oculta e β i = [β i1, β i2,..., β im ] são os pesos da camada de saída. No treinamento, para cada entrada x j de dimensão p, apresenta-se o valor conhecido t j de dimensão m. Uma função g(.) não-linear e diferenciável é utilizada em cada neurônio da camada oculta. 4.2 RBF A estrutura básica de uma rede RBF consiste de (i) uma camada de conexão do modelo com o meio, de (ii) uma camada escondida que realiza uma transformação não-linear do espaço vetorial de entrada para um espaço vetorial interno que geralmente tem uma dimensão maior, bem como de (iii) uma camada de saída que visa estimar a saída de interesse, normalmente, via neurônios lineares. Os neurônios da camada escondida são funções de base radial (Fernandes et al., 1999). As funções radiais de base produzem uma resposta significativa, diferente de zero, somente quando o padrão de entrada está dentro de uma região pequena localizada no espaço de entrada. Cada função requer um centro e um parâmetro escalar. A função que é mais utilizada como função de base radial é a gaussiana, a saber: ( ϕ(x, w i ) = exp 1 ) 2σ 2 x w i 2, (1) em que σ é o raio da gaussiana (spread), de tal maneira que quanto maior o valor de σ maior é a região de influência do neurônio representado pelo vetor w i.

4 4.3 K-Vizinhos mais Próximos A ideia do algoritmo dos k-vizinhos mais Próximos (KNN) consiste em atribuir para um dado padrão x a classe mais representada nos k vizinhos mais próximos ou k pontos mais próximos (da Silva, 2005). Em outras palavras, para classificar x procuram-se os k padrões mais próximos pertencentes ao conjunto de treinamento. A classe mais frequente observada é atribuída a x. Este algoritmo baseia-se numa métrica ou função de distância entre dois padrões, quando k = 1, dada por min{d(x x i )} min{d(x, x j )}, i j, (2) i j de tal maneira que j {1, 2,..., N} {i} e 5.1 Base de dados d(x, x j ) = x w i (3) = x T x j, (4) 5 Metodologia A base de dados da Coluna Vertebral utilizada neste trabalho foi disponibilizada por um dos autores deste artigo no repositório UCI Machine Learning (Asuncion and Newman, 2007). Nesse repositório há duas versões dessa base. A primeira é uma versão multiclasse, com 3 possíveis saídas (hérnia de disco, espondilolistese e normal); enquanto a segunda versão é binária, com informações de pacientes normais ou patológicos. A versão binária dessa base de dados foi utilizada para obtenção dos resultados apresentados neste trabalho. 5.2 Parâmetros de execução A implementação da proposta utilizou o algoritmo PG padrão baseado em árvores disponível na toolbox para MATLAB denominada Gplab, version 3 (Silva, 2009). Uma configuração padrão da PG foi estabelecida para os experimentos, e apresenta-se na Tabela 1. Parâmetro Valor Inicialização Ramped Half-and-Half Seleção Lexictour Elitismo Keepbest População 500 Gerações 50 Prob. cruzamento e mutação 90%, 10% Conjunto de operadores + e Conjunto de terminais atributos do conjunto de dados Tabela 1: Parâmetros de execução da PG. 5.3 Função fitness Como dito, a função de aptidão utilizada no presente trabalho se baseia na taxa de acerto dada por (V P + V N) F = (5) (P + N) em que VP (verdadeiro positivo) é o número de exemplos corretamente classificados no conjunto de P exemplos positivos e VN (verdadeiro negativo) representa o número de exemplos corretamente classificados no conjunto de N exemplos negativos. 5.4 Validação cruzada (cross-validation) A base de dados da coluna vertebral foi separada em dois conjuntos disjuntos, o primeiro para fins de treinamento com 80% dos padrões e os 20% restantes para teste. Em seguida, os dados de treinamento foram divididos em 10 subconjuntos (folds), de tal maneira que o algoritmo evolutivo usa para cada grupo de 5 gerações (de um total de 50) um dos 10 subconjuntos (folds). Ou seja, todo o conjunto de treinamento é utilizado no processo evolutivo, mas apenas um fold por vez é usado para avaliação de aptidão em uma dada geração. Essa abordagem foi utilizada, uma vez que o uso direto e intuitivo do conjunto de treinamento como um todo para avaliação da função de aptidão levava a classificadores demasiadamente ajustados e com baixa capacidade de generalização. Assim, ressalta-se que o intuito da validação cruzada na programação genética não é a escolha de algum parâmetro de execução como ocorre para outros classificadores, mas para evitar o processo de sobreajuste (overfitting). Entretanto, para as redes neurais KNN, ELM e RBF, a validação cruzada é utilizada para a escolha dos parâmetros livres, sendo realizada da seguinte maneira: Cada variação dos parâmetros livres é executada com todas as disposições dos 10 folds gerados, calculando-se a taxa de acerto para cada uma. Em seguida, tira-se a média dos resultados obtidos em cada variação. De posse de todas as médias, é escolhida a variação dos parâmetros livres que obteve o melhor desempenho nos 10 folds gerados. Por fim, com a melhor variação em mãos, treina-se o classificador com todos os padrões de treinamento e, posteriormente, analisa-se seu desempenho com relação ao conjunto de teste. A descrição das variações dos parâmetros livres e as funções de ativação para cada método são apresentadas a seguir:

5 K-NN: O número de vizinhos começa em 1, e vai crescendo de 2 em 2 até 80% da quantidade de dados de treinamento. ELM: O número de neurônios da camada oculta começa em 10, e vai crescendo de 5 em 5 até 80% da quantidade de dados de treinamento. Como função de ativação, é utilizada a tangente hiperbólica. RBF: A variação dos neurônios da camada oculta com funções gaussianas se comporta da mesma maneira que o da rede ELM. Já o valor do parâmetro σ é fixado em 0, Análise de limiar Além do processo de otimização dos parâmetros descritos anteriormente, buscou-se também avaliar outros valores (além do limiar padrão 0.0) para o limiar de classificação com o intuito de aumentar o desempenho de classificação. A escolha deste se deu empiricamente através da observação do desempenho de um intervalo de valores representados na curva ROC (Receiver Operating Characteristic). O valores avaliados variaram no intervalo [ 0, 5, 0, 5] com incrementos de 0, 05. Após a execução de cada um, era calculado a e a sensibilidade = especif icidade = V P V P + F N (6) V N V N + F P, (7) em que FP significa Falso Positivo (a quantidade de valores pertencentes a classe negativa que foram classificados como sendo da classe positiva) e FN significa Falso Negativo (a quantidade os valores pertencentes a classe positiva que foram classificados como sendo da classe negativa). A sensibilidade e a especificidade são as variáveis que compõem, respectivamente, os eixos y e x 1 de uma curva ROC. Um classificador ideal é aquele que possui a especificidade = sensibilidade = 1, ou seja, o ponto que o representa na curva ROC é (0, 1). Sabendo disso, e após várias execuções, constatou-se que o limiar que, na maioria das vezes, mais se aproximava desse ponto era o de valor -0,15. Com isso, o algoritmo da programação genética foi executado utilizando esse novo limiar, e obteve uma melhora significativa na sua taxa de acerto. O mesmo não aconteceu para os outros algoritmos abordados nesse trabalho, como será visto mais à frente. 1 Mais especificamente, o valor do eixo x é: 1 - especificidade. 6 Resultados Na Tabela 2, observa-se o desempenho obtido pelos classificadores quando aplicados ao problema da coluna vertebral, usando o limiar padrão (0, 0). Para esse limiar, destacam-se os algoritmos ELM e RBF, que obtiveram mais de 87% para acurácia, contra apenas 85,65% do K-NN e 85,48% da Programação Genética. Tabela 2: Taxa média de acerto e desvio padrão para o limiar 0. Média Desvio Padrão PG 85, 48 0, 0323 ELM 87, 10 0, 0215 RBF 87, 26 0, 0257 K-NN 85, 65 0, 0215 Entretanto para o limiar 0, 15, como pode ser observado na Tabela 3, o destaque vai para a Programação Genética, que obteve uma melhora considerável em relação ao seu desempenho com o limiar padrão, conseguindo mais de 88% de taxa média de acerto. Tabela 3: Taxa média de acerto e desvio padrão para o limiar -0,15. Média Desvio Padrão PG 88, 23 0, 0241 ELM 87, 10 0, 0527 RBF 87, 26 0, 0257 K-NN 85, 65 0, 0215 Um ponto importante a ser observado é a pouca influência do novo limiar no desempenho do ELM e do RBF. Ambos obtiveram valores de acurácia similares para ambos os limiares. Pode-se então concluir que provavelmente uma estratégia para aumento do desempenho destes na tarefa de classificação de patologias da coluna não se dará pela análise de novos valores de limiares. Os resultados dos experimentos foram alternativamente apresentados via gráficos de caixa (boxplots). Veja as Figuras 1 e 2. É possível observar que dentre os algoritmos analisados, o único a possuir um valor discrepante em seus resultados após as 10 execuções foi o KNN. 6.1 Árvores de Classificação As Figuras 3 e 4 apresentam exemplos de árvores de classificadores obtidos no melhor desempenho do algoritmo evolutivo com os limiares 0 e -0,15, respectivamente. Essas árvores se destacaram perante as demais, não só pela taxa de acerto que obtiveram na fase de testes, 90,32% e 91,94%, mas também por sua simplicidade em profundidade e número de nós. A primeira possuindo 6 níveis e 13 nós, e a segunda possuindo 4 níveis e 15 nós.

6 Taxa de acerto (%) PG ELM RBF K NN Algoritmos Figura 1: Taxa média de acerto para o limiar 0. Taxa de acerto (%) PG ELM RBF K NN Algoritmos Figura 2: Taxa média de acerto para o limiar - 0,15. X1 Figura 3: Árvore de Classificação (limiar 0,0). X2 Figura 4: Árvore de Classificação (limiar -0,15). Outro ponto importante nessas árvores é a quantidade de atributos utilizados em cada uma para a tarefa de classificação: 4 atributos de um total de 6. Logo, pode-se ressaltar que além da qualidade em nível de desempenho ainda pode-se utilizar o classificador evolutivo para fazer seleção de atributos. 7 Conclusão De uma forma geral, as árvores de classificação obtidas via Programação Genética alcançaram desempenho superior aos demais classificadores quando se considera a otimização de limiar. Outro ponto de bastante interesse é a capacidade de seleção de atributos intrínseca à técnica de Programação Genética que se mostrou bastante benéfica para o problema da coluna vertebral. Pode-se ressaltar ainda a capacidade de explanar, de uma maneira mais simples, o processo de tomada de decisão nesse tipo de classificador através de operações simples de soma e subtração entre atributos. Referências Asuncion, A. and Newman, D. (2007). UCI machine learning repository. Augusto, D. A. (2009). Programação Genética Multi-populacional e Co-evolucionária para Classificação de Dados, PhD thesis, Universidade Federal do Rio de Janeiro. da Silva, L. M. O. (2005). Uma Aplicação de Árvores de Decisão, Redes Neurais e KNN para Identificação de Modelos ARMA não- Sazonais e Sazonais, PhD thesis, PUC-RIO. Espejo, P. G., Ventura, S. and Herrera, F. (2010). A survey on the application of genetic programming to classification, Systems, Man, and Cybernetics, IEEE Transactions on 40(2): Fernandes, M. A., Neto, A. D. and Bezerra, J. B. (1999). Aplicação das redes rbf na deteção inteligente de sinais digitais, Proceedings of the IV Brazilian Conference on Neural Networks, pp Hall, S. J. and Taranto, G. (2000). Biomecânica básica, Guanabara Koogan. Huang, G.-B., Zhu, Q.-Y. and Siew, C.-K. (2004). Extreme learning machine: A new learning scheme of feedforward neural networks, Neural Networks, Proceedings IEEE International Joint Conference on, Vol. 2, IEEE, pp Koza, J. R. (1992). Genetic Programming: On the Programming of Computers by Means of Natural Selection, Vol. 1, MIT press. Silva, S. (2009). Gplab a genetic programming toolbox for matlab, University of Coimbra.