USO DE DISTÂNCIAS ESTOCÁSTICAS PARA INDUÇÃO DE CLASSIFICADORES CONTEXTUAIS

Transcrição

1 Presidente Prudente - SP, de julho de 2017 p USO DE DISTÂNCIAS ESTOCÁSTICAS PARA INDUÇÃO DE CLASSIFICADORES CONTEXTUAIS ROGÉRIO GALANTE NEGRI Universidade Estadual Paulista Unesp Instituto de Ciências e Tecnologia ICT Departamento de Engenharia Ambiental, São José dos Campos SP rogerio.negri@ict.unesp.br RESUMO - Métodos de classificação tradicionais realizam a identificação dos alvos distribuídos na imagem através da classificação individual de cada pixel de acordo com seu respectivo comportamento espectral. Tais métodos tornam-se incapazes de realizar classificações adequadas em determinados casos, como por exemplo, na presença de alta heterogeneidade nos dados. Nestas circunstâncias, a adoção de métodos de classificação contextuais torna-se uma alternativa. Dentre diferentes abordagens para obtenção de classificações contextuais, verifica-se que a integração de distâncias estocásticas em métodos conhecidos é uma alternativa viável, uma vez que tais distâncias permitem comparações diretas a respeito da tendência e variabilidade dos contextos dos pixels. Este trabalho apresenta adaptações, com uso de distâncias estocásticas, sobre os métodos Classificador de Mínima Distância, k-vizinhos Mais Próximos e Máquina de Vetores Suporte, tornando-os capazes de considerar a informação contextual no processo de classificação. Um estudo de caso sobre a classificação da cobertura do solo empregando uma imagem do satélite ALOS-PALSAR foi realizada a fim de comparar as diferentes versões contextuais dos métodos considerados. Os resultados indicam que a modelagem do contexto via distância estocástica é mais robusta em comparação à aplicação de técnicas de suavização sobre classificações não contextuais. Palavras chave: Distância estocástica, Classificação de imagens, Contexto, Acurácia. ABSTRACT - Traditional image classification methods perform the identification of targets through the individual classification of each pixel according to its spectral information. These methods become insatisfactory in certain cases, for example, when the data heterogeneity is high. Under this condition, the adoption of contextual classification methods is an alternative. Among different approaches for contextual classifications, the integration of stochastic distances into known methods is a viable alternative. Such distances allow comparisons on the trend and variability between contexts of pixels. This study deals with the inclusion of stochastic distances in the Minimum Distance Classifier, k-nearest Neighbors and Support Vector Machine formulation as a way to consider the contextual information in such methods. A case study about land cover classification using ALOS-PALSAR image was carried out to compare the different contextual versions of the above mentioned methods. The results suggest that stochastic distances is more robust to model the contextual information in comparison to the use of smoothing techniques in non-contextual classification results. Key words: Stochastic distances, Image classification, Context, Accuracy. 1 INTRODUÇÃO O processo de classificação de imagens de sensoriamento remoto consiste na extração de informação dos pixels a fim de identificar automaticamente diferentes classes temáticas (KHEDAN et al., 2003). Este processo é geralmente realizado com uso de métodos de classificação baseados em pixel. Tais métodos realizam a classificação da imagem através da classificação individual de cada um dos pixels com base nos respectivos comportamentos espectrais. No entanto, com o avanço tecnológico e lançamento de novos sensores capazes de adquirir imagens com altas resoluções espaciais e espectrais, a abordagem de classificação baseada em pixel passa a ser insatisfatória em determinados casos (BESBES et al., 2009). Uma alternativa em tais casos é a adoção de procedimentos de classificação contextual. Nestes procedimentos, a informação do contexto, expressa em termos de relação espacial entre os pixels e suas respectivas vizinhanças, é incorporada no processo de classificação (GURNEY & TOWNSEND, 1983).

2 Segundo Mather (2004), uma forma simples de realizar classificações contextuais consiste na aplicação do filtro da moda sobre os rótulos gerados por um procedimento de classificação baseada em pixels. Outras formas de incluir a informação contextual no processo de classificação é feita com a incorporação de modelos baseados na teoria de Campos Markovianos Aleatórios ou mesmo pela proposição de métodos nativamente contextuais. Além da aplicação de filtros para suavização de resultados de classificação, adoção de conceitos markovianos ou desenvolvimento de métodos propriamente contextuais, existe ainda a possibilidade de adaptar métodos já existentes na literatura a fim de incorporar o contexto no processo de treinamento e classificação. O uso de distâncias estocásticas mostra-se como uma alternativa para modelagem e inclusão do contexto em métodos de classificação baseados em pixel. Tais distâncias permitem comparar simultaneamente as tendências e variabilidades estatísticas entre os contextos de cada pixel durante o processo de classificação. Este trabalho consiste em adaptar a formulação de métodos conhecidos e difundidos na literatura a fim de incluir a informação contextual e a respectiva modelagem por meio do conceito de distância estocástica. Visando a comparação entre métodos baseados em pixel e contextuais, foi realizado um estudo de caso sobre a classificação da cobertura do solo em uma região da Floresta Amazônica, fazendo uso de uma imagem proveniente do sensor PALSAR, a bordo do satélite ALOS. Versões contextuais obtidas pela adaptação de distância estocástica na formulação de métodos baseados em pixel ou pela aplicação de técnicas de suavização foram incluídas nesta comparação. 2 CLASSIFICAÇÃO, CONTEXTO E DISTÂNCIAS ESTOCÁSTICAS vizinhança e é uma distância adotada. Nestas condições, define-se por contexto de o conjunto de vetores de atributos, tal que e. Os diferentes métodos de classificação de imagem propostos na literatura podem ser entendidos como maneiras distintas de modelar a função e aplicá-la na classificação de. Para os métodos cujo aprendizado é supervisionado, são utilizadas informações disponíveis em um conjunto de treinamento com. O mapeamento entre e definido por representa o conhecimento adquirido das informações observadas em. 2.2 Distâncias estocásticas de Bathacharrya e Jeffries- Matusita As distâncias estocásticas são provenientes das medidas de Informação e Entropia, presentes na Teoria da Informação formulada por Shannon (1948). Este tipo de distância quantifica a separabilidade entre dois conjuntos de informação mediante as dissimilaridades entre as distribuições de probabilidade que modelam a informação de tais conjuntos. A distância Jeffries-Matusita é usualmente empregada nas aplicações envolvendo processamento de imagens de sensoriamento remoto. Considerando e dois conjuntos de informação distintos e que tais informações podem ser modeladas segundo a distribuição Gaussiana Multivariada, a distância é dada por (RICHARDS & XIUPING, 2005): [ ] (1) onde é a distância estocástica de Bathacharrya, cuja expressão é: 2.1 Breve formalização sobre classificação de imagens e contexto Um classificador é representado por uma função, que associa elementos do espaço de atributos a uma das classes de, com, a partir de um dado rótulo (indicador) de classe em. Nestas condições, para e, indica que pertence à classe. Admitindo a abordagem baseada em pixel, a classificação de imagens consiste na aplicação de sobre os vetores de atributos de cada pixel que compõem uma dada imagem, definida sobre um reticulado (suporte), cujo resultado de classificação pode ser denotado por. Com relação à imagem em que é conduzido o processo de classificação, denota que o pixel de possui atributos representados por. Ainda, as posições ocupadas pelos vizinhos de pertencem ao conjunto, sendo denominado por raio de influência da [ [ onde e correspondem ao vetor média e a matriz de covariância estimados a partir das informações de. Tal definição segue análoga para e. 3 ADAPTAÇÕES CONTEXTUAIS VIA DISTÂNCIAS ESTOCÁSTICAS Uma maneira direta de considerar a informação da vizinhança em um processo de classificação contextual é admitir tal vizinhança como um único padrão. Desta forma, os padrões passam a não ser mais representados por vetores, como definido na Seção 2.1, mas sim pela própria vizinhança. (2)

3 Nas subseções seguintes são apresentadas breves discussões, e respectivas adaptações contextuais, sobre os métodos Classificador de Mínima Distância de Mahalanobis (CMDM), K-Vizinhos Mais Próximos (KNN) e Máquina de Vetores Suporte (Support Vector Machine SVM). 3.1 CMDM A regra de decisão que caracteriza o método CMDM e realiza a classificação de um dado padrão segundo a classe é expressa por: (3) ( ) sendo a distância euclidiana e uma nova indexação dos padrões de em função da proximidade à. De modo semelhante à adaptação realizada na seção anterior, o método KNN é adaptado ao contexto por meio da troca de pela distância de Bathacharrya. Para isso, as Equações (5) e (6) são reescritas por: { } (6) (7) onde é a distância de Mahalanobis entre o padrão e, que representa o subconjunto de padrões de cujos respectivos identificadores de classe são iguais a. Maiores detalhes sobre a distância de Mahalanobis são encontrados em Theodoridis e Koutroumbas (2009). De modo simples, a adaptação do método CMDM em uma versão contextual é realizada com a substituição de presente em (3) pela distância de Bathacharrya definida em (2), resultando em: (4) onde, conforme definido anteriormente, é o conjunto de padrões no contexto de. Apesar deste conjunto, por definição, conter apenas as posições dos padrões sobre o suporte da imagem, será considerado, sem perda de generalidade, que tal conjunto contém os padrões que estão associados a tais posições do suporte. A fim de generalizar a denominação sobre o Classificador de Mínima Distância, seja ele com uso da distância de Mahalanobis ou uma distância estocástica qualquer, será adotado o acrônimo CMD. A distância empregada no método ficará implícita diante da abordagem de classificação, isto é, insensível ou sensível ao contexto. 3.2 KNN O método KNN consiste em realizar a classificação de um padrão cujo rótulo é desconhecido a partir das maiores similaridades entre tal padrão e os padrões existentes em um dado conjunto de treinamento. Na formulação original deste método, a similaridade é representada pelo inverso da distância euclidiana. Uma maneira formal de expressar tal método é: {( ) } onde é o conjunto dos elementos em que são mais próximos de. Tal conjunto pode ser expresso por: (5) ( ) 3.3 SVM SVM é um método de classificação que tem se tornado cada vez mais popular nas pesquisas em sensoriamento remoto. Este método consiste em realizar a separação entre amostras de treinamento a partir de um hiperplano que possui maior margem de separação. Tal hiperplano corresponde ao lugar geométrico onde a seguinte função é nula: (8) (9) sendo o vetor ortogonal ao hiperplano e a distância entre o hiperplano e a origem do espaço de atributos. denota o produto interno entre vetores. A determinação de e é realizada mediante a resolução de um problema de otimização construído em função dos elementos em. Maiores detalhes a respeito do processo de treinamento do método SVM podem ser encontrados em Webb (2002). A Equação (9) consiste em um hiperplano de separação definido no espaço de atributo original dos dados. O mapeamento dos padrões envolvidos no processo de classificação, entre o espaço de atributos original e um novo espaço de atributos é uma estratégia usualmente empregada para aumentar a acurácia do método SVM. Tal mapeamento e classificação em outro espaço de atributos podem ser realizados de forma implícita através do emprego de funções kernel, as quais substituem o produto interno presente nesta equação e no problema de otimização que caracteriza o treinamento do método. Além efetuar o mapeamento dos padrões no espaço de atributos original para outros espaços, as funções kernel permitem generalizar a aplicação do método SVM, ou quaisquer método baseado em kernel, sobre padrões não vetoriais. Em particular, a seguinte função kernel possibilita tratar o contexto como um padrão específico.

4 ( ) ( ( ) ) (10) onde é a distância Jeffries-Matusita. A constante é adicionada com finalidade de garantir estabilidade numérica. Quando adotada no SVM, esta função kernel insere indiretamente a informação contextual no processo de treinamento e classificação. 4 EXPERIMENTOS E RESULTADOS Esta seção apresenta um estudo de caso sobre a classificação da cobertura do solo em uma região localizada no entorno da Floresta Nacional do Tapajós, no estado do Pará. Tal estudo tem a finalidade de comparar o desempenho das diferentes versões contextuais dos métodos CMD, KNN e SVM, cuja sensibilidade ao contexto foi inserida por meio de distâncias estocásticas, conforme apresentado nas subseções 3.1, 3.2 e 3.3. As respectivas versões insensíveis ao contexto são inseridas neste estudo por motivo de comparação. Adicionalmente, as suavizações dos resultados obtidos pelas versões insensíveis ao contexto através da aplicação do filtro da moda foram também incluídas nas comparações. Uma imagem obtida em setembro de 2009, pelo sensor PALSAR abordo do satélite ALOS, foi empregado neste estudo. Tal imagem possui 20 m de resolução, dimensão de pixels e informação dos alvos segundo as polarizações HH e HV em amplitude. Dentre os diferentes tipos de cobertura do solo existentes na cena, foram considerados apenas áreas de Floresta Primária, Pastagem, Solo Exposto e Agricultura. Estas informações foram obtidas a partir de um levantamento de campo realizado no mesmo mês e ano da imagem adotada. A Figura 1 ilustra a imagem empregada no estudo juntamente com a distribuição espacial das amostras dos tipos de cobertura do solo considerados, distinguidas dentre amostras para treinamento (polígonos sólidos) dos classificadores e para teste/avaliação (polígonos vazios) dos resultados. As quantidades de pixels que compreendem as amostras de treinamento e teste são apresentadas no Quadro 1. Para caracterização da vizinhança, foi feito o emprego da distância do máximo (vide Subseção 2.1) e dos valores 1, 2 e 3 como raio de influência de vizinhança, os quais definem por sua vez janelas espaciais de dimensão, e, respectivamente. Tais vizinhanças foram consideradas pelas versões contextuais dos métodos CMD, KNN e SVM assim como pelo filtro da moda, aplicado com a finalidade de suavizar os resultados não contextuais dos métodos analisados. Além do raio de influência da vizinhança, os métodos KNN e SVM requerem o ajuste de determinados parâmetros. A fim de garantir a seleção adequada dos parâmetros e evitar que um ajuste inadequado prejudique os resultados e conclusões deste estudo, foi realizado um procedimento de busca sistemática pela melhor configuração de parâmetros. Figura 1 Imagem ALOS-PALSAR, em composição HHHVVV, e amostras utilizadas no treinamento (polígonos sólidos) e cálculo da acurácia (polígonos vazios) dos métodos analisados. Classe Cor Treino Teste (#pixels) (#pixels) Floresta Pastagem Solo Exposto Agricultura Tabela 1 Amostras de cobertura do solo localizadas na área de estudo, conforme ilustrado na Figura 1. Após a busca sistemática pelos melhores parâmetros, foi verificado que bons resultados são fornecidos pelo método KNN quando o número de vizinhos mais próximos, representado pelo parâmetro, é igual a. Com relação ao método SVM, quando o contexto não é considerado no processo de treinamento e classificação, foram alcançados bons ajustes ao adotar a função kernel RBF (Radial Basis function) com parâmetro de flexibilização equivalente a e penalidade igual a (i.e., e ). Por outro lado, foi verificado que o valor do parâmetro de flexibilização igual a e penalidade igual a proporcionam bons ajustes quando a função kernel dada na Equação (10) é empregada. Para lidar com a classificação de múltiplas classes (i.e., as quatro classes consideradas no estudo de caso), a estratégia Um-Contra-Todos foi empregada em ambos casos, isto é, contextual e insensível ao contexto. Com a finalidade de mensurar a acurácia dos resultados de classificação proporcionados pelos diferentes métodos, seja diante a consideração ou não do contexto, foi feito uso do Coeficiente de Concordância kappa e seu desvio padrão (Congalton & Green, 2009). Os valores de acurácia destes resultados de classificação foram computados com base nas amostras de teste ilustradas na Figura 1. A linguagem de programação IDL 7.1 foi adotada na implementação dos métodos, avaliação dos resultados e demais funções necessárias para realização deste estudo.

5 Figura 2 Desempenho dos métodos considerados no estudo de caso. Barras de erro representam desvios padrão. Diante do conjunto de dados, composto pela imagem ALOS-PALSAR e respectivas amostras de treinamento e teste, e das implementações dos diferentes métodos considerados neste estudo, foram obtidos diferentes resultados de classificação. Uma vez considerados três métodos distintos (CMD, KNN e SVM), duas formas de modelagem do contexto (suavização via filtragem pela moda e adoção de distâncias estocásticas) e três valores de raio de influência da vizinhança (i.e., e, proporcionando janelas espaciais de dimensão e ), foram obtidos ao fim resultados de classificação contextual. Classificações insensíveis ao contexto foram incluídas no estudo com finalidade de definir referenciais de comparação. O gráfico da Figura 2 permite uma comparação mútua, envolvendo os diferentes métodos, formas de modelagem de contexto e raios de influência, além dos resultados insensíveis ao contexto. As barras de erro quantificam três desvios padrão entorno do respectivo valor de coeficiente kappa calculado. De acordo com os resultados obtidos, é possível verificar que todos os resultados de classificação com abordagem contextual proporcionam maior exatidão em comparação aos resultados insensíveis ao contexto. As classificações insensíveis ao contexto são identificadas pelas linhas horizontais no gráfico da Figura 2, cujos resultados são inferiores quando comparado com qualquer resultado contextual. Dentre os três métodos observados, SVM, seguido pelo KNN, alcançaram maiores índices de exatidão. Em um segundo momento, é evidente a melhora nos índices de acurácia em função do aumento do raio de influência da vizinhança. Uma vez que a vizinhança aumenta, a classificação contextual de cada pixel converge para a tendência central desta vizinhança. Ao comparar as modelagens do contexto abordadas neste estudo, verifica-se que o uso de distâncias estocásticas proporcionam maiores índices de acurácia independente do método de classificação considerado. Com finalidade de comprovar a diferença estatística entre resultados de classificação, foram realizados testes de hipóteses bilaterais, com significância de, para comparação entre os diferentes valores de kappa obtidos. Dentre os resultados observados, não foram verificadas diferenças entre os métodos CMD e KNN nos casos em que os contextos foram modelados com distância estocástica e raio de influência da vizinhança igual a 1 comparado ao uso do filtro da moda e raio 3; ou ambos com uso de distância estocástica e raio 1, respectivamente. Foram ainda identificadas equivalências estatísticas entre os métodos KNN e SVM, neste caso, quando ambos utilizam filtro da moda de raio 1; ou raio 2 para o método KNN e 3 para SVM. Ainda, são equivalentes as classificações contextuais obtidas pelo SVM quando empregado o filtro da moda de raio 2 e distância estocástica de raio 1. Este resultado indica maior robustez quanto ao uso de distâncias estocásticas em comparação a técnica de suavização, já que menores vizinhanças são exigidas para proporcionar resultados equivalentes. Dentre todos os métodos de classificação considerados e formas de modelagem do contexto, cabe observar que o método SVM com adoção de distâncias estocásticas para modelagem do contexto proporcionou maiores índices de exatidão. No entanto, resultados com acurácias comparáveis foram alcançadas pelo método CMD, o qual não exigiu o ajuste de parâmetros. Por fim, a Figura 3 apresenta parte dos resultados de classificação obtidos neste estudo de caso. É evidente a regularização dos resultados de classificação, e logo, superioridade dos índices de acurácia atingidos por resultados contextuais em comparação às classificações insensíveis ao contexto. Resultados contextuais modelados via distância estocástica permitem melhor caracterização de determinados alvos, como por exemplo, pastagem e agricultura, justificando por sua vez os maiores índices de acurácia em comparação a contextualização pela aplicação do filtro da moda. O melhor equilíbrio quanto à identificação das classes é proporcionado pelo método SVM.

6 5 CONCLUSÕES Este trabalho consistiu em adaptar a formulação dos métodos CMD, KNN e SVM a fim de incluir a informação do contexto no processo de treinamento e classificação. A inclusão e modelagem do contexto nestes métodos foram realizadas através de distância estocástica. Foram efetuadas comparações com resultados obtidos pelas versões originais e contextualizados via suavização através de um estudo de caso sobre a classificação da cobertura do solo em uma imagem obtida pelo satélite ALOS-PALSAR sobre uma região no entorno da Floresta Nacional do Tapajós. Os resultados obtidos apontam que a modelagem do contexto via distância estocástica é mais robusta em comparação a suavização de classificações através da aplicação do filtro da moda. Dentre os três métodos analisados, os maiores índices de acurácia foram proporcionados pelo método SVM. Como perspectivas futuras, devem ser analisados: o impacto de maiores raios de influência da vizinhança, a adoção de outras distâncias estocásticas e a análise sobre a precisão de classificação sobre as bordas dos alvos. Figura 3 Classificações obtidas no estudo de caso pelos diferentes métodos analisados. Apenas vizinhanças espaciais de dimensão foram consideradas nesta representação. AGRADECIMENTOS O autor agradece à FAPESP (proc. 2014/ ) pelo auxílio financeiro. REFERÊNCIAS BESBES, O.; BOUJEMAA, N.; BELHADJ, Z. Contextual Classification of High-Resolution Satellite Images. IEEE Symposium on Computational Intelligence for Image Processing, p , CONGALTON, R. G.; GREEN, K. Assessing the accuracy of remotely sensed data. CRC Press, 2009, 183p. GURNEY, C. M.; TOWNSEND, J. R. G. The use of contextual information in the classification of remotely

7 sensed data. Photogrammetric Engineering and Remote Sensing, p , KHEDAM, R.; BELHADJ-AISSA, A.; RANCHIN, T. Study of ICM parameters influence on images satellite contextual classification. European Association of Remote Sensing Laboratories, p , MATHER, P. M. Computer Processing of Remotely- Sensed Images: An Introduction. John Wiley & Sons, RICHARDS, J. A.; XIUPING, J. Remote Sensing Digital Image Analysis: An Introduction. Springer, SHANNON, C. E. A mathematical theory of communication. Bell System Technical Journal, v. 27, THEODORIDIS, S.; KOUTROUMBAS, K. Pattern Recognition. Academic Press, 2008, 984p. WEBB, A. R. Statistical Pattern Recognition. John Wiley & Sons, 2002, 514p.