Implementação de um Ambiente de e-ciência para Busca de Inovação Tecnológica

Transcrição

1 Implementação de um Ambiente de e-ciência para Busca de Inovação Tecnológica Nelson F. F. Ebecken 1, Renan C. F. De Souza 1 1 Programa de Engenharia Civil, COPPE Universidade Federal do Rio de Janeiro (UFRJ) Caixa Postal Rio de Janeiro RJ Brasil nelson@ntt.ufrj.br, renanfsouza@gmail.com Abstract. The objective of this paper is to present the methodology adopted by Petrobras, the Brazilian oil company, in e-science collaborative projects to generate ideas of new opportunities obtained by technology convergence for an energy company that searches solutions for the future. The effort is based on contributions of a group of 50 senior scientists from top 5 research institutes working iteratively via the Web and text mining activities to look for new technologies. Resumo. O objetivo do presente artigo é apresentar a metodologia adotada pela Petrobras, companhia brasileira de petróleo, em projetos colaborativos de e-ciência para geração de idéias de novas oportunidades obtidas pela convergência tecnológica para uma companhia energética que pesquisa soluções para o futuro. O esforço é baseado em contribuições de um grupo de 50 cientistas de 5 dos maiores centros de pesquisa trabalhando iterativamente pela Web e atividades de mineração de textos para encontrar novas tecnologias. 1. Introdução A internet é uma ferramenta essencial para o intercâmbio de informações de todos os fins. Este intercâmbio é encorajado por diversas razões: em primeiro lugar por a web ser uma fonte de informações tão grande que praticamente qualquer tipo de conteúdo pode ser encontrado. Em segundo lugar, porque o acesso é relativamente pouco oneroso e em terceiro lugar, pela inexistência de uma triagem central, então qualquer pessoa pode dar a sua contribuição [Yang and Lee 2004]. O termo e-ciência foi introduzido por John Taylor. Taylor percebeu que diversas áreas da ciência estavam ficando cada vez mais próximas em modos de colaboração e interdisciplinariedade [Hey and Trefethen 2002]. A prática da ciência já foi afetada dramaticamente pela tecnologia da informação, em especial pela internet [Foster 2005]. Por esta razão, justifica-se a implementação e utilização de sistemas capazes de auxiliar a comunicação, troca de dados e conhecimento neste ambiente integrado. Para explorar estas grandes quantidades de dados científicos levantados por experimentos diversos, os cientistas necessitam do auxílio de máquinas de busca especializadas, ferramentas de data mining e modos de visualização de dados que possam ser usados para fazer levantar questionamentos e compreender respostas [Hey and Trefethen 2005]. Desta maneira, a fim de atender estes requisitos, existem diversas 41

2 metodologias para a prática da e-ciência baseadas em grids computacionais e fluxos de conhecimento. 2. A Rede de Tecnologias Convergentes A Rede de Tecnologias Convergentes (TECONV) é um sistema de e-ciência que nasceu com o intuito de identificar tecnologias inerentes a pesquisa de tecnologias de interesse da Petrobrás, mantenedora da Rede. Através de processos de mineração de textos (agrupamento) dos comentários gerados pelos participantes, busca-se estabelecer a convergência do conhecimento dos especialistas. Os participantes da Rede de Tecnologias Convergentes são renomados pesquisadores de diversos centros de pesquisa do Brasil. Estes participantes interagem entre si através da indicação de artigos científicos da sua área, dentro dos temas estabelecidos pela Petrobrás e também comentando os artigos submetidos, para aprofundar a discussão. Todo o processo é feito online em um sistema web de login remoto desenvolvido especialmente para este projeto. O sistema está hospedado no endereço eletrônico e requisita o uso de login e senha de acesso. De forma sucinta, busca-se a convergência tecnológica por meios da mineração dos comentários dos especialistas, que discutem de forma colaborativa sobre temas bem definidos sugeridos pela Patrobrás, o que caracteriza uma aplicação de e-ciência. Pelo sistema web também é possível ter acesso aos comentários por artigo. Existe também a possibilidade de acessar artigos de iterações passadas, visto que estas permanecem armazenadas. Deve-se ressaltar que os comentários são exportados em RSS e que todos os dados estão armazenados no SGBD Microsoft SQL Server Esta ferramenta disponibiliza procedimentos de mineração de dados e permite que o usuário acrescente novas funcionalidades através da implementação de plugins [Chickering and Iyer 2004, Iyer and Crivat 2004]. Visto que os comentários dos especialistas são feitos na língua portuguesa e os artigos submetidos ao portal estão majoritariamente na língua inglesa, no caso da presente aplicação, o plugin de mineração desenvolvido suporta textos em ambos os idiomas Metodologia da Rede A metodologia adotada para o funcionamento da rede é composta de cinco estágios, como ilustra a figura 2.1. Figura 2.1. As etapas da metodologia 42

3 Como a figura 2.1 sugere, o processo é cíclico. Cada um dos estágios é executado para que um novo ciclo tenha início. Os ítens subsequentes descrevem cada estágio da metologia: Priorização de temas: os analistas da Petrobrás indicam temas de interesse da companhia através do portal da rede. Este é o ponto de partida de uma nova iteração. Prospecção de artigos científicos: os pesquisadores participantes da rede submetem ao portal artigos científicos (preferencialmente de terceiros) inerentes ao tema estabelecido no ítem anterior, dentro da sua área específica de conhecimento. Os pesquisadores também fazem uma votação em cada artigo, indicando se, na sua opinião, ele é relevante ou não ao tema estabelecido. Se o assunto do artigo fugir da área de conhecimento do votante ao ponto deste prefirir abster-se de votar, o participante possui a opção de abstenção do voto, que por sua vez, não é interpretado pelo sistema como simplesmente não votar. Identificação de oportunidades: esta etapa consiste na identificação dos artigos mais interessantes do ponto de vista do comitê científico. Alguns dos artigos mais votados como relevantes na etapa passada serão selecionados por este comitê para as etapas posteriores. Os artigos que eventualmente não forem selecionados permanecerão no sistema e poderão ser consultados livremente. Fusão de fluxos de conhecimento: nesta etapa são submetidos comentários sobre os artigos de maior relevância. Desta forma, os participantes poderão interagir entre si dando informações e opiniões, gerando debates e oferecendo soluções inovadoras inerentes ao assunto do artigo comentado. Os comentários deverão ser escritos em português, de forma clara e objetiva, o que facilitará a etapa seguinte. Quaisquer comentários podem também, opcionalmente, serem votados como relevantes ou não relevantes por qualquer um dos participantes. Análise da convergência: o intuito da etapa de análise da convergência é encontrar clusters dentro do corpo de comentários utilizando as técnicas de mineração de textos, sendo que estes comentários não se reportam necessariamente a um mesmo artigo, mas sim a um tema comum. Estes resultados são analisados pelo comitê científico da Petrobrás que poderá requerer um novo processamento ou refino dos comentários. Uma vez o comitê satisfeito com os resultados da iteração vigente, estes serão publicados no sistema web da Rede de Tecnologias Convergentes e novos temas serão sugeridos para que tenha início um novo ciclo. A etapa de análise da convergência é o foco do presente artigo, visto que nesta fase da metodologia os comentários dos especialistas, que são os dados a serem processados, já foram feitos. Ao final desta fase, tem início um novo ciclo Arquitetura do Processo de Mineração de Textos Empregado A análise da convergência propriamente dita requer etapas de pré-processamento, processamento e pós-processamento. Estas etapas são de cunho técnico e podem funcionar como caixa-preta para a análise da convergência (análise dos clusters). Contudo, o entendimento algorítmico do processo é de grande valia para uma boa análise. As seções posteriores explicarão cada uma das etapas e suas sub-etapas. De uma maneira mais abstrata, todo o procedimento ocorre como na figura

4 Figura 2.2. Arquitetura do processo Desta maneira, o ambiente descrito no presente artigo na busca da inovação tecnológica é composto do sistema web relatado no capítulo 2, e das tarefas integradas de mineração de textos especificadas pela figura 2.2. O processo como um todo pode ser representado pelos algoritmos e tarefas mais importantes. Na etapa de pré-processamento serão utilizadas técnicas de redução da dimensionalidade, como a retirada de stopwords e stemming, além de características especiais consideradas na geração da Bag of Words (BOW). Os termos são representados como ponderações da sua relevância dentro do documento analisado ou do corpo de documentos, e a BOW é uma matriz de documentos x termos que armazena estas informações. Uma ponderação amplamente utilizada para a criação da BOW é o TFxIDF (Term Frequency x Inverse Document Frequency), que dá a noção da importância do termo no corpo de documentos. Esta ponderação é composta de duas parcelas: TF e IDF. Estas parcelas são calculadas vide (2.1) e (2.2), respectivamente. (2.1) Onde o numerador é o número de ocorrências do termo i e o denominador é o número de ocorrência de todos os termos no documento k. (2.2) Onde o numerador é o número total de documentos na massa de dados e o denominador representa o número de documentos onde o termo i aparece. Nota-se logo que caso um termo apareça em todos os documentos, este termo ficará com IDF igual a zero, o que acarretará também em um TFxIDF igual a zero, visto que a ponderação é dada pela multiplicação dos dois termos, assim como (2.3). Este comportamento pode ser interpretado como se um termo aparece em todos os documentos que estão sendo analisados, não é importante (a sua ponderação é igual a zero). Nota-se também que se um termo aparece em vários, porém não em todos os documentos, o seu IDF será reduzido, ao passo que caso o termo esteja contido em poucos documentos, o IDF será alto [Papineri 2001]. Isso favorece termos inesperados e desencoraja termos mais comuns, sempre levando também o TF em consideração: (2.3) 44

5 Na etapa de processamento o agrupamento será executado pelo algoritmo K-Means [MacQueen 1967], auxiliado pelo índice PBM [Pakhiraa, Bandyopadhyayb and Maulikc 2004]. Finalmente, na etapa de pós-processamento, os resultados poderão ser visualizados e analisados. Visto que é intuitivo que os processos responsáveis pela descoberta de conhecimento estejam integrados aos dados, toda a etapa de processamento propriamente dita foi implementada dentro do ambiente SQL Server 2005, que possui desde a sua versão anterior (SQL Server 2000) a possibilidade de integração de algoritmos de mineração de dados implementados por terceiros. Na sua versão 2005, esta tarefa ficou menos complexa, visto que a integração de novos plugins de mineração de dados ao ambiente é baseada no modelo COM da Microsoft, que dá suporte à implementação por documentações diversas e tutoriais tanto do próprio modelo COM quanto das interfaces e métodos necessários à implementação de um novo plugin específico para o SQL Server O plugin PBM_K-Means foi implementado em linguagem C++ utilizando bibliotecas ATL e STL. Assim, com os dados pré-processados à parte em um programa implementado em tecnologia J2EE, o plugin é executado e faz a estimativa do número de clusters através do índice PBM e dispara o algoritmo K-Means com o K de maior índice PBM. O índice PBM é uma métrica estatística semi-empírica amplamente utilizada na literatura, que leva em conta distâncias intra-cluster, a maior distância inter-cluster e prioriza configurações de agrupamento com o menor K possível. Os resultados são exportados para posterior análise, em outro programa específico desenvolvido em J2EE. 3. Estudo de Caso Os parâmetros de pré-processamento utilizados foram típicos para um problema de agrupamento de textos: após as etapas de integração da caixa, tokenização e remoção de termos alheios à língua portuguesa, foi utilizada a redução de stopwords por meio de uma stoplist em disco incrementada com o passar das rodadas do pré-processamento, stemming através do difundido algoritmo Portuguese Stemming [Orengo and Huyck 2001], exclusão de expressões regulares pré-definidas e ponderação TFxIDF, além dos parâmetros específicos de conectividade com o banco de dados. A figura 3.1 ilustra a interface principal do programa de pré-processamento. Figura 3.1. Interface de pré-processamento 45

6 Para a etapa de processamento propriamente dita, foi utilizado o algoritmo K-Means, auxiliado pelo índice PBM, ambos integrados no SGBD SQL Server 2005 por meio de um plugin específico, desenvolvido para esta aplicação. A métrica de similaridade entre documentos foi a similaridade do coseno, parametrização também típica em problemas de mineração de textos e que tem apresentado resultados superiores à distância euclidiana [Zhong 2005]. A figura 3.2 mostra os parâmetros utilizados na etapa de processamento. Figura 3.2. Parâmetros do plugin O plugin PBM_K-MEANS possui uma parametrização padrão, mas os valores podem ser alterados. A seguir são listados os parâmetros e os valores que os mesmos podem assumir: DIST: parâmetro inteiro que significa a métrica de distância ou medida de similaridade utilizada pelo método K-Means. Este parâmetro pode assumir os seguintes valores: 1 Distância euclidiana 2 Distância de Manhattan 3 Aproximação Minimax 4 Coseno K: Número de clusters. Este número, por padrão, é estimado pelo índice PBM. Porém se ele for informado, o índice PBM será ignorado e o agrupamento será executado com o K informado. K pode assumir os seguintes valores: -1 Desconhecido. O K será estimado pelo índice PBM. [2,INT_MAX] O K dado dentro deste intervalo será utilizado. MAX_LOOP: Número máximo de iterações do algoritmo K-Means. Caso os centróides se estabilizem antes deste valor ser atingido, o algoritmo irá interromper a sua execução automaticamente. Este parâmetro é utilizado também para cada rodada do K-Means na tentativa de estimar o índice PBM. MET_INTER_CLUSTER: O algoritmo irá gerar uma matriz de distâncias intercluster para auxiliar a análise do resultado. Esta matriz poderá ser gerada pelos métodos Single-Link, Complete-Like ou Average-Link. O método default é o Single-Link: 46

7 1 Método Single-Link 2 Método Complete-Link 3 Método Average-Link PBM_RANGE: Faixa para o cálculo do índice PBM. O algoritmo será processado de 2 até PBM_RANGE e o agrupamento em si será feito utilizando o K de maior índice PBM, a menos que o K tenha sido informado. 3.1 Análise dos Resultados O tema inicial da discussão versou sobre energia renovável com responsabilidade social. Ao longo deste período, os conteúdos expressos pelos textos foram variados e alvo de discussão entre os especialistas participantes da rede. Para exemplificar mostra-se o processamento de 256 comentários, relativos a um período de cinco meses de discussões. Com os dados pré-processados, foi utilizado o BI Development Studio para o processamento. Foram criados o data source, o data source view e a estrutura de mineração escolhida foi o plugin PBM_K-Means. A variação para o índice PBM foi de dois a dez, que é a escolha típica. Após a sua execução, o índice PBM acusou dois clusters, vide figura 3.3. Por esta razão, o K utilizado automaticamente pelo algoritmo K-Means foi dois. Figura 3.3. Evolução do índice PBM Um fator interessante examinado na etapa de pós-processamento, foi a análise dos comentários em cada cluster, que é a tarefa essencial dos programas construídos. Os comentários são rankeados pela sua similaridade ao centróide, no intuito de determinar os comentários mais relevantes dentro de cada cluster (quanto mais próximos ao centróide, mais pertinente é o comentário). Após diversas rodadas de refinamento do pré-processamento e atualização das listas utilizadas nesta etapa, analisando os comentários mais relevantes de cada cluster é possível identificar os assuntos principais que os constituem. 47

8 Desta forma, os comentários agruparam-se nos clusters majoritariamente da seguinte forma: comentários sobre biodiesel em um cluster, e comentários sobre nitrogênio no outro cluster. Comentários sobre demais assuntos ficaram em ambos os clusters, porém, com baixa relevância. Assim a discussão foi aprofundando-se nos temas que utilizam tecnologia de biodiesel e hidrogênio. Conclui-se também que o centróide de cada cluster posicionou-se mais próximo dos comentários sobre biodiesel e hidrogênio porque os textos sobre estes temas foram mais bem desenvolvidos, possuindo termos de grande significância (alto TFxIDF). Além disso, ambos os temas geraram mais discussões que os demais, o que significa mais comentários e, portanto, um posicionamento da média mais característico dos textos sobre estes assuntos do que os demais. Entretanto, analisando o alto índice PBM para K = 2 sobre os demais, também não há indícios fortes de que os outros comentários configurassem um novo cluster além dos dois já citados. Após a execução de diversos ciclos foram postados 164 artigos científicos, efetuadas 1688 avaliações e 314 comentários, o que resultou em três grupos de propostas de projetos nas áreas de biodiesel, hidrogênio e etanol. 4. Conclusão Neste trabalho foi desenvolvida uma ferramenta de mineração de textos utilizando os ambientes SQL Server 2005, C++ e Java no intuito de criar uma solução para a análise da convergência da rede TECONV. Os métodos implementados para tanto são amplamente difundidos, e a sua implementação se deu conforme bibliografia referente. Foi utilizado o algoritmo de agrupamento K-Means e para auxiliá-lo o índice PBM. Métricas determinantes da distância entre os clusters foram utilizadas para complementar o entendimento dos dados processados. Pode-se concluir que o ambiente apresentou resultados satisfatórios e as ferramentas desenvolvidas foram adequadas para uma análise consistente dos resultados. A massa de dados utilizada agrupou-se consistentemente e os assuntos mais importantes e que foram amplamente debatidos pelos especialistas da rede formaram clusters distintos. Deve-se ressaltar que este ambiente, apesar de desenvolvido para uma aplicação específica, pode ser utilizado em diversas outras áreas como reclamações armazenadas em call centers, agrupamento de textos corporativos, documentos em geral e muitas outras aplicações referentes ao agrupamento de textos. O ambiente tem sido utilizado atualmente no ciclo corrente da TECONV e foi também utilizado em duas ocasiões distintas na análise de s corporativos de uma concessionária de energia elétrica. Referências Hsin-Chang Yang, Chung-Hong Lee, A text mining approach on automatic generation of web directories and hierarchies. In Expert Systems with Applications 27 (2004) Tony Hey, Anne E. Trefethen, 2002, The UK e-science core programme and the grid. In Future Generation Computer Systems, Swindon, United Kingdom, 18 (2002) pp: Ian Foster, 2005, Service-oriented science. In Science, 6 May 2005, pp:

9 Tony Hey, Anne E. Trefethen, 2005 Cyberinfrastructure for e-science. In Science, 6 May 2005, pp: Max Chickering, Raman Iyer, 2004, A tutorial for constructing a plug-in algorithm. Microsoft Technical Articles, July Raman Iyer, Bogdan Crivat, 2004, SQL Server data mining: plugin algorithms. Microsoft Technical Articles, July Orengo, V. M., Huyck, C., 2001 A Stemming Algorithm for the Portuguese Language. In Proceedings Eighth International Symposium on String Processing and Information Retrieval (SPIRE 2001), pp: Malay K. Pakhiraa, Sanghamitra Bandyopadhyayb, Ujjwal Maulikc, 2004, Validity index for crisp and fuzzy clusters. In Pattern Recognition, Issue 37, pp: Shi Zhong, 2005, Efficient streaming text clustering. In Neural Networks, Issue 18, pp: MacQueen, J.B., Some methods for classification and analysis of multivariate observation. In: Le Cam, L.M., Neyman, J. (Eds.), Berkeley Symposium on Mathematical Statistics and Probability. Kishore Papineni, 2001, Why inverse document frequency?. IBM T. J. Watson Research Center, Yorktown Heighs, NY 10598, USA. 49