Programa para Professor Visitante Residente no País

Transcrição

1 Programa para Professor Visitante Residente no País Implementação de Redes Neurais Artificiais, Para Estimação, Previsão, Monitoramento e Classificação de Desastres Ambientais Usando Dados de Sensoriamento Remoto na Faixa Espectral do Infravermelho. 1

2 Coordenador/Proponente: Dr. Harold Ivan Ângulo Bustos. Departamento de Informática / Universidade do Estado do Rio Grande do Norte-RN. Instituição Nacional onde será Realizado o Estágio de Pós-doutorado: IMPA ( Instituto de Matemática Pura e Aplicada). 2

3 RESUMO Este projeto de pós-doutorado, será realizado no IMPA, que tem uma grande tradição em pesquisas de fronteira aplicadas nas mais variadas áreas da computação cientifica. O advento dos satélites TIROS-N em 1978 e o NOAA-6, tem possibilitado a detecção da radiação infravermelha refletida pela superfície da terra, facilitando o monitoramento da vegetação da terra. O índice de vegetação global (GVI), tem sido usado para observar e mapear os efeitos de secas, inundações, ventos adversos e o estresse térmico sobre a superfície arável global da terra. Eu proponho neste projeto o uso de técnicas de inteligência artificial baseada na rede neural MLP (Multi-Layer Perceptron), para estimação da resposta a processos de desastres ambientais, tais como inundações, queimadas, secas e desertificação. Ou objetivo da implementação da rede, é basicamente para poder estimar, usando métodos inteligentes, modelos futuros de imagens de sensoriamento remoto, usando sequencias destas imagens em tempo passado. Esta analise de series temporais, pode permitir a estimação de modelos robustos dos parâmetros usados para monitorar as sequencias, um destes parâmetros pode ser o GVI ( índice de vegetação global usado para estimar processos de desertificação, entre outras aplicações). Os dados e a temperatura da superfície do mar e terra relacionados, ambos derivados de imageamento de sensor infravermelho, podem fornecer medições realísticas do clima global, e podem assistir nos modelos de previsão climática. Também poderão ser feitos estudos sobre a variação da sazonalidade da água na bacia amazônica, o qual é um tema em aberto, de grande interesse mundial. 3

4 Sequencias de conjunto de dados de Sensor Infravermelho já foram adquiridos via CSR (Center Space Research), da University of Texas, at Austin. Ver link abaixo, Sendo que a fonte original desses dados é a NASA. 4

5 Tema de Interesse Deste Projeto: Aplicações de Métodos Inteligentes e Estatísticos Para Aplicações em Monitoramento Ambiental, Usando Dados de Sensores de Infravermelho 5

6 1. INTRODUÇÃO A desertificação é vista pelos mais diversos estudiosos da questão ambiental como um dos mais graves problemas ambientais enfrentados pela humanidade. Suas causas são as mais diversas, dentre as quais, os fatores económicos, culturais, sociais ou políticos, climáticos e geológicos. No Brasil, um caso clássico de desertificação ocorre no sul do Piauí. Nesta região, que abrange as cidades de Gilbués, Monte Alegre do Piauí e São Gonçalo do Gurguéia, há uma grande área de solo em processo de desertificação. Este processo, que se iniciou com a agricultura de subsistência e a prática de queimadas, foi intensificado depois da descoberta de diamantes na década de 1940, quando várias minas foram abertas e exploradas [Carvalho and Almeida Filho 2007]. Neste contexto, uma das aplicações deste projeto, visa desenvolver ferramentas computacionais para o monitoramento deste processo de desertificação em andamento, no nordeste do Brasil. Outra aplicação da proposta visa o desenvolvimento de modelos computacionais inteligentes para o monitoramento da sazonalidade da agua na bacia amazônica. Pesquisas sendo feitas no CSR-Center Space Research da University of Texas, Austin, indicam o comportamento sazonal do nível da agua na bacia amazônica, tal como indicam os registros de alguns satélites que monitoram a Amazônia. No artigo [Amitava Mukhopadhya et al., 2011], foi apresentado um algoritmo do tipo backpropagation para predição de imagens meteorológicas usando redes neurais artificiais. Neste método, é assumido que os dados de entradas e, os de saída da rede neural, 6

7 são pixels pertencentes ao domínio do espaço (x,y). Em meu projeto postdoc, é proposto o desenvolvimento de quatro estratégias para estimação de series temporais usando dados de sensoriamento remoto. A primeira estratégia, que é baseada em uma rede neural Multi-layer Perceptron, faz o ajuste de uma função linear ou não-linear, com base em treinamento da rede usando dados passados da série temporal. A segunda estratégia, que é semelhante á primeira, faz o mesmo ajuste de função, mas não para pixels no domínio do espaço, e sim para coeficientes no domínio da transformada DCT. A terceira estratégia faz o ajuste no domínio dos coeficientes wavelets. A quarta estratégia faz o ajuste e estimação da serie temporal usando um modelo hibrido de redes neurais com uma aproximação Estatística Bayesiana baseada em Máxima Entropia. Os métodos de estimação da serie espaço-temporal, acima propostos, visam estimar um modelo futuro de imagem de sensoriamento remoto, com o menor erro possível. 7

8 2. OBJETIVO Ou objetivo deste projeto é desenvolver software cientifico para tratamento, identificação e análise de imagens de sensoriamento remoto usando dados de sensor infravermelho a partir do CSR, ver link, Este projeto postdoc, visa possibilitar o acesso aos grandes centros nacionais de pesquisa aplicada na área espacial, de classe mundial, na área de sensoriamento remoto. Em particular este projeto terá foco em analise de dados de satélite usando dados de aquisição de sensor infravermelho. Um dos objetivos do projeto visa implementar técnicas de inteligência artificial baseadas em redes neurais, usando dados de sensoriamento remoto, para monitoramento de desastres ambientais, tais como inundações, secas, queimadas, desertificações. Uma das ênfase, será dada a aplicações de sensoriamento remoto no infravermelho, que visam o monitoramento da bacia amazônica. Em parceria com o CSR, poderão ser feitos estudos sobre a variação sazonal da água na bacia amazônica, o qual é um tema de pesquisa em aberto, e estratégico para o Brasil. Ou objetivo especifico deste projeto, será o desenvolvimento de métodos computacionais inteligentes para estimação, previsão e monitoramento de desastres ambientais (eg., secas, inundações, queimadas, desertificação). Para isto, serão usados dados de imagem de sensor infravermelho, e serão aplicados modelos de regressão inteligente, espaço-temporal, baseados em redes neurais artificiais. 8

9 3. METODOLOGIA 3.1 Métodos de Regressão e Estimação da Series Temporais Usando Dados de Sensoriamento Remoto no Infravermelho A previsão de series temporais em 1D é bastante utilizada na forma de aproximação de funções, onde os dados passados são aproximados em uma função e os dados futuros são obtidos dessa função. Já no caso de imagens (2D), o processo de previsão depende de um enorme conjunto de probabilidades, onde regiões (conjunto de pixels) podem crescer ou se deslocar para quaisquer direções. Esse problema ocorre sempre quando o conjunto de entradas da rede neural é muito grande em relação ao conjunto de saídas e ao conjunto de treino, o que é conhecido como maldição da dimensionalidade [Haykin 1999]. A seguir, propomos duas estratégias para Estimação e Regressão de imagens de sensoriamento remoto, sem que isso acarrete em problema de dimensionalidade: 9

10 Estimação de regressão não linear usando Redes Neurais no Domínio do Espaço O estudo das redes neurais artificiais é motivado pelo fato de que é possível gerar soluções a partir de aprendizado e de generalizar o conhecimento aprendido sem o uso de algoritmos ou regras. Tal abordagem pode ser mais eficiente e eficaz que métodos algorítmicos tradicionais, principalmente em casos onde é necessário ter respostas coerentes para problemas não completamente conhecidos [Braga et al. 2007]. Dentre as diversas arquiteturas de rede neural conhecidas, uma aplicável ao problema deste projeto é a rede neural Perceptron de Multiplas Camadas (MLP - Multilayer Perceptron), que é um tipo de rede feed-forward de múltiplas camadas. O algoritmo de treinamento aplicado á MLP para regressão e extrapolação da série temporal, será o de Levenberg-Marquadt [Braga et al. 2007], que é uma aproximação ao método de Newton, sendo uma técnica de otimização mais eficiente que a do gradiente descendente.a rede neural MLP, bem como o algoritmo de Levenberg-Marquadt serão implementados com o Toolbox Neural-Networks do Matlab. A Figura 1 abaixo, mostra um esquema da arquitetura da rede neural MLP. Com este método, a intensidade de um pixel, na mesma posição (x,y) de cada imagem, formara uma função do nível de cinza da serie temporal. Então, a rede neural será treinada com os primeiros pixels (x,y) restritos as imagens iniciais, extrapolando o quinto pixel, na mesma coordenada (x,y), que corresponde à saída da rede. Com esta metodologia, objetiva-se aproximar uma função da variação no nível de cinza em cada pixel. Porém, este método é restrito apenas a mudanças locais. 10

11 Figure 1. Esquema com arquitetura da rede neural MLP - Multilayer Perceptron. 11

12 3.1.2.Estimação de regressão não linear usando Redes Neurais no Domínio DCT A Transformada Discreta do Cosseno (DCT - Discrete Cosine Transform) é uma técnica que converte um sinal (1D ou 2D) em componentes de frequências elementares. Com a aplicação da DCT, grande parte da energia dos dados é armazenada em poucos coeficientes. Entre as principais aplicações da transformada discreta do cosseno pode-se mencionar: codificações o e filtragem de imagens, reconhecimento de padrões e extrações de características [Khayam 2003]. A definição da DCT bidimensional de uma imagem de entrada em uma imagem de saída é um processo bem conhecido na literatura, definido, entre outros autores por [Gonzalez and Woods 2008]. A estratégia de previsão no domínio DCT é semelhante á primeira estratégia (domínio do espaço), porém, ao invés de extrapolar um pixel na série temporal, é extrapolado um coeficiente no domínio da transformada DCT. Para isso, foi aplicada a transformada DCT sobre todas as imagens. A seguir, a rede neural é treinada com os pixels de entrada das primeiras imagens (coeficientes do domínio DCT), extrapolando o pixel da imagem de saída (coeficiente no domínio DCT). Depois é feita a transformada inversa da imagem extrapolada. Com o método de previsão no domínio DCT, espera-se obter uma previsão que não seja restrita a apenas um pixel. Ou seja, cada coeficiente no domínio DCT interfere com todos os pixels da imagem no domínio do espaço. Com isso, podem ser extrapolados outros aspectos da série temporal, como por exemplo, crescimento de regiões e deslocamentos. 12

13 3.1.3 Estimação de regressão não linear usando Redes Neurais no Domínio Wavelets A Transformada Wavelets Discreta (DWT Discrete Wavelet Transform) é uma técnica que converte um sinal (1D ou 2D) em componentes de espaço e frequências elementares. Com a aplicação da DWT, a energia dos dados é armazenada nos coeficientes Wavelets. No caso, os coeficientes wavelets restritos aos níveis mais baixos da arvore diádica, contem informação da maior parte de energia da imagem relacionada com as regiões de baixa resolução. Este fato pode ser explorado pela rede neural MPL para realizar o treinamento dos dados da sequencia temporal de imagens de satélite, dando enfase unicamente a estes coeficientes de baixa resolução, visando extrapolar caraterísticas orientadas a regiões (ie., ou objetivo da rede MLP seria então a regressão/extrapolação de clusters de coeficientes wavelets, de alta correlação espacial). A imagem no domínio espacial (x,y), seria então reconstruída através da Trans. Inversa Wavelets, aplicada sobre os coeficientes wavelets, extrapolados, de saída da rede. A definição da DWT bidimensional de uma imagem de entrada em uma imagem de saída é um processo bem conhecido na literatura, definido, entre outros autores por [Gonzalez and Woods 2008]. A estratégia de previsão no domínio DWT é semelhante á estratégia de previsão no domínio DCT. Porem a caraterística de multi-resolução das wavelets pode ter uma vantagens sobre a previsão da rede, quando comparada à previsão baseada em DCT, uma vez que a previsão usando wavelets pode ser orientada a realçar regiões suaves em vez de realçar caraterísticas locais pontoais associadas a coeficientes de alta frequência. Desta forma se prevê que a rede poderá ter um comportamento mais robusto ao ruido contido nos dados de treinamento de entrada, concentrados nas altas frequências. 13

14 3.1.4 Estimação de regressão não linear, usando uma aproximação baseada em rede neural + Máxima Entropia Neste caso, pretende-se gerar um modelo de reconstrução de imagem, a partir de todas as seqüências passadas das imagens de satélite. Será gerado um modelo sinograma tomográfico da primeira seqüência, depois será usada a segunda seqüência como modelo de imagem a priori, finalmente será computado um modelo de reconstrução de imagem usando o algoritmo Máxima Entropia. A saída deste algoritmo, será entendido como um modelo de imagem interpolado entre a primeira e segunda seqüência. Este procedimento será aplicado sobre toda a seqüência de imagens de satélite. Será então, gerado um modelo numérico de imagem de saída desta seqüência, usando o algoritmo de reconstrução de imagem Máxima Entropia. Na etapa seguinte, será gerado um sinograma tomográfico a partir deste modelo de saída final (Máxima Entropia) da seqüência. O modelo de imagem de saída, feito pela previsão e estimação numérica da rede neural, sera então considerado uma imagem A Priori da entrada do algoritmo de reconstrução Máxima Entropia. Assim, o algoritmo de reconstrução de imagem, terá duas entradas, o sinograma tomográfico, citado anteriormente e, os dados de imagem de saída, gerados pela rede neural, que serão considerados dados A Priori do algoritmo Maxima Entropia. Assim pretende-se juntar em um único modelo hibrido, ambos os algoritmos, Máxima Entropia e, Rede Neural, para determinar uma modelagem mais precisa e acurada da regressão não linear dos dados relativos às seqüências das imagens de satélite. 14

15 As quatro estratégias, citadas acima, serão aplicadas tanto com a rede neural MLP, quanto com a rede neural Narx, que tem mostrado bons resultados em aplicações de regressão de series temporais [ Hang Xie Hao Tang and Yu-He Liao, 2009 ], [Hava T. Siegelmann et al., 1997]. Marquadt Classificação e reconhecimento de padrões de imagens de sensoriamento remoto usando o algoritmo Levenberg- O algoritmo Levenberg-Marquadt [Braga et al. 2007], será usado para implementar a rede neural MLP, e computar a regressão dos dados temporais de sensoriamento remoto. Também será usado este algoritmo para classificar e reconhecer padrões contidos nas imagens da serie temporal 2D. Esta analise será feita com o intuito de quantificar e extrair às caraterísticas dinâmicas dos objetos da sequencia temporal, variando ao longo do tempo, ( eg., área, perímetro, intensidade media dos pixels, dos objetos classificados). Estas caraterísticas podem ser extraídas dos objetos contidos nas imagens classificadas, e podem ser importantes para quantificar as mudanças dinâmicas, associadas às áreas de desmatamento, inundações, desertificação, e queimadas, presentes nas imagens de 15

16 sensoriamento remoto. No caso, já foram adquiridos dados de imagens de sensoriamento remoto, fornecidos pelo CSR da University of Texas, os quais permitem o imageamento da superfície da terra, usando sensor infravermelho. Ver link abaixo, 16

17 Geração de dados da serie temporal de imagens de sensoriamento remoto infravermelho 2D. Aplicação do algoritmo de treinamento Levenberg-Marquadt para extrapolação de imagens reais da serie temporal Aplicação do algoritmo de Levenberg-Marquadt para extrapolação de imagens sintéticas da serie temporal Classificação das imagens extrapoladas pelo algoritmo Levenberg-Marquadt. Quantificação e estimação de padrões dinâmicos da serie temporal, para monitoramento da sequencia de satélite Figura 2 Fluxograma da metodologia proposta. 17

18 4. METAS E INDICADORES DE AVALIAÇÃO Meta Conclusão Indicador de Implementação de software para modelagem espaço-temporal e regressão de dados de imagens de satélite, usando sensor infravermelho FLIR. Implementação de software para Classificação de dados de imagem de satélite, usando sensor infravermelho FLIR. avaliação 6º mês Módulo do software implementado e validado. 12º mês Módulo do software implementado e validado. 18

19 5. CRONOGRAMA DE EXECUÇÃO DO PROJETO POSTDOC PARA 12 MESES Meta/Atividade/Mês do projeto Pesquisa de algoritmos inteligentes para regressão e classificação de dados de sequencias de imagens de satélite usando sensor infravermelho FLIR. X X Implementação do algoritmo de treinamento Levenberg-Marquadt, para estimação de modelos de regressão usando dados de sequencias de X X X X X sensoriamento remoto no infravermelho. Validação dos algoritmos de treinamento da proposta, com dados experimentais de satélite, obtidos com sensor infravermelho. X X X X Validação do algoritmo de treinamento da proposta, com dados sintéticos numéricos, simulados artificialmente X X X X Implementação de algoritmos para classificação e reconhecimento de imagens de sensoriamento remoto, usando sensor infravermelho. X X X Avaliação dos algoritmos de classificação com dados reais e sintéticos. X X Submissão de trabalhos técnicos em workshop, congressos, periódicos. X X X Relatório final do projeto pós-doutorado. X 19

20 6. RESULTADOS E IMPACTOS ESPERADOS O projeto visa gerar resultados que possam ter potencial para impactar a indústria de defesa nacional. Uma das aplicações que este projeto prevê, é o desenvolvimento de métodos e técnicas computacionais, para o monitoramento do cambio climático local, regional e/ou global. regionais Estas técnicas podem ser aplicadas para estimar e ate prevê, desastres ambientais, causados por mudanças locais, e /ou globais do clima, com potencial para impactar a economia e ate a segurança da população. As técnicas de monitoramento aeroespacial, da superfície da terra, também podem ser aplicadas no monitoramento de áreas criticas expostas à exploração petrolífera, uma vez que o sensor infravermelho é sensível à presença de derrame de petróleo na superfície do mar e terra, podendo impactar a indústria petrolífera. Outro impacto esperado da aplicação de técnicas de monitoramento da superfície da terra, deverá ser na agroindústria, uma vez que o NDVI- Normalized Difference Vegetation Index, pode ser usado para monitorar processos de desertificação em terras aráveis alocadas para a industria agrícola. Outro impacto importante pode ser na área de defesa, uma vez que o sensoriamento da superfície da terra, na faixa do infravermelho, pode ser usado para monitorar atividades humanas hostis, sob condições adversas do clima (escuridão, nuvens, chuvas, poluição, fumaça). 20

21 7. RISCOS E DIFICULDADES No IMPA eu deverei ter acesso a uma boa infraestrutura requerida para o bom desenvolvimento do projeto, tipo: facilidade de equipamentos de computação de ultima geração, assim como uma ampla gama de programas computacionais necessários para a implementação da proposta postdoc. Alem do mais as rotinas e algoritmos em MATLAB, necessários para a implementação da proposta, já estão em uma fase de adiantamento o suficiente para garantir o bom aproveitamento do meu estagio no IMPA. Sendo assim, eu considero como mínimos os riscos para o bom desempenho deste projeto. 21

22 8. JUSTIFICATIVA DA CAPACIDADE DE EXECUÇÃO DO PROJETO Atualmente estou orientando um aluno de mestrado e, um aluno de graduação, justamente nesta área de sensoriamento remoto. Fruto destas pesquisas em andamento, tenho adquirido experiência na implementação e desenvolvimento de algoritmos visando aplicações no tema de classificação e reconhecimento de imagens de satélite usando sensor infravermelho. Também sou co-autor de um trabalho no tema de desertificação, usando dados de sensoriamento remoto. Neste trabalho, é estimado um modelo de regressão de uma serie temporal, através do parâmetro NDVI-Normalized Difference Vegetation Index. O projeto de postdoc, em pleito, devera me permitir, então, fazer novos desdobramentos e aplicações, das pesquisas já em andamento no DI/UERN.. 22

23 9. PARCERIA Este projeto postdoc, visa o inicio de uma parceria estratégica, entre o Departamento de informática da UERN e o IMPA. O projeto tem como objetivo principal o desenvolvimento de metodologias avançadas para tratamento de imagens de satélite baseadas em sensor infravermelho, além da integração multi-institucional. Um ponto crucial para a execução das metas propostas é a supervisão de algum dos pesquisadores do IMPA ligado a um dos grupos de pesquisa ( LAMCA e/ou FLUID). Por outro lado o Rio Grande do Norte, possui uma grande vocação para a área de pesquisa espacial, sendo que ele dispõe do Centro de Lançamento da Barreira do Inferno, e também tem uma unidade do INPE na UFRN. Sendo assim, acredito que esta parceria acadêmica e cientifica multi-institucional, poderá ter implicações importantes para projetar o Departamento de Informática da Universidade do estado do Rio Grande do Norte, no cenário regional, das instituições que atuam nesta área relevante para a pesquisa espacial do País. 23

24 10. CONCLUSÕES A proposta em questão prevê o desenvolvimento de tecnologias em software para monitoramento de desastres ambientais. Eu creio que a proposta tem potencial para gerar inovações tecnológicas que podem ser transferidas para o beneficio da sociedade civil e/ou de defesa, a nível local/regional/nacional. Também esta proposta prevê o apoio e o reforço à pesquisa na pós-graduação no Departamento de Informática da Universidade do estado do Rio Grande do Norte, principalmente em se tratando de um projeto que se enquadra numa das áreas de pesquisa do DI-UERN (Otimização e Inteligência Artificial). 24

25 11. REFERÊNCIAS BIBLIOGRÁFICAS Carvalho, C. M. and Almeida Filho, R. (2007). Assessment of Desertification in the Southwestern State of Piaui, with Remote Sensing Techniques. VII Brazilian Symposium on Remote Sensing. Amitava Mukhopadhyay, Bipasha Paul Shukla, Diptiprasad Mukherjee and Bhabatosh Chanda (2011). A Novel Neural Network based Meteorological Image Prediction from a given Sequence of Images. Second International Conference on Emerging Applications of Information Technology Braga, A. P., de Carvalho, A. C. P. L., and Ludermir, T. B. (2007). Redes Neurais Artificiais: Teoria e Aplicações. 2 edition. Gonzalez, R. C. and Woods, R. E. (2008). Digital image processing. Prentice Hall, Upper Saddle River, N.J., 3 edition. Haykin, S. (1999). Neural Networks: A Comprehensive Foundation. Prentice Hall. 25

26 Khayam, S. A. (2003). The Discrete Cosine Transform (DCT): Theory and Application. Department of Electrical & Computer Engineering, Michigan State University. Hang Xie Hao Tang ; Yu-He Liao (2009). Time series prediction based on NARX neural networks: An advanced approach. International Conference on Machine Learning and Cybernetics (Volume:3 ) Hava T. Siegelmann, Bill G. Horne, and C. Lee Giles (APRIL 1997). Computational Capabilities of Recurrent NARX Neural Networks: IEEE TRANSACTIONS ON SYSTEMS, MAN, AND CYBERNETICS PART B: CYBERNETICS, VOL. 27, NO. 2 26

27 Nota Importante: A metodologia proposta neste projeto Postdoc, pode ser também aplicada, na integra, usando series temporais de dados de aquisição sismica 2D, AVO ( Amplitude Vs Offset). Neste caso, os algoritmos de previsão de serie temporal, baseados em sequencias de dados sismicos AVO, podem ser usados para estimar e predizer modelos 2D dinamicos de movimento de fluidos (hidrocarbonetos) em meios porosos. Modelos de predição de fluidos, via rede neural, podem ser estimados a partir das sequencias de dados sismicos 2D AVO, e podem ser importantes no processo de recuperação de petroleo, haja vista que esses modelos, podem ate prever o comportamento e o perfil 2D futuro do deslocamento dos fluidos, usando as informações passadas contidas nos dados das sequencias sismicas 2D AVO. Atualmente disponho de sequencias de dados sismicos 2D AVO, de dominio publico, obtidos via link abaixo, Devido a limitação em tempo, (1 ano), o projeto sera focado no processamento de dados de sensoriamento remoto, porem havendo disponibilidade em tempo, poderão serem realizados, PARALELAMENTE, experimentos com este tipo de dados sismicos 2D AVO, haja vista que os algoritmos da proposta, para ambos os dados, são exatamente os mesmos!!. 27