Utilizando Texto Livre

Transcrição

1 Preenchimento Automático de Formulários Web Utilizando Texto Livre Aluno: Guilherme A. Toda Orientador: Altigran S. da Silva 1 Departamento de Ciência da Computação Universidade Federal do Amazonas (UFAM) Manaus AM Brasil {gat,alti}@dcc.ufam.edu.br Mestrado em Informática Programa de Pós Graduação em Informática Universidade Federal do Amazonas Ano de Ingresso: Março/2008 Etapas Concluídas: Defesa da Proposta Previsão de Conclusão: Março/2010 Resumo. Atualmente na web a solução mais comum para usuários interagirem com aplicações que utilizam banco de dados é o uso de interfaces baseadas em formulários web compostos por vários campos de entrada, como caixas de texto, listas de seleção, caixas de marcação, etc. Apesar destes formulários serem efetivos e populares, em muitos casos, aplicações com entradas para texto livre são as preferidas pelos usuários. Neste trabalho, discutimos a proposta e a implementação de um método para preenchimento de formulários web utilizando dados contidos em textos em formato livre rico em dados. Nosso método permite utilizar documentos não estruturados, ou partes desses documentos, para preencher os campos do formulário automaticamente evitando que esta tarefa muitas vezes repetitiva e passível de erros, tenha que ser realizada manualmente pelos usuários. Nosso método recebe um texto livre como entrada, extrai os valores que estejam implicitamente presentes neste texto e seleciona no formulário campos que podem ser preenchidos com estes valores. Para isso, o método baseia se em valores utilizados para o preenchimento do campo em submissões anteriores, os quais, na maioria dos casos, são facilmente obtidos com o uso contínuo do formulário. Experimentos preliminares demonstram que o nosso método funciona corretamente, mesmo que o número de submissões ao formulário seja pequeno. Palavras Chaves: Recuperação de Informação. 37

2 1. Introdução A Web é abundante em aplicações como lojas virtuais, bibliotecas digitais e serviços de compartilhamento de dados (ex. Craiglists 1, Googlebase 2 ).Estas aplicações em geral gerenciam o armazenamento e a manutenção de grandes volumes de dados nos chamados Banco de Dados Web. Um dos desafios envolvendo o desenvolvimento deste tipo de aplicação é construir interfaces intuitivas que permitam o usuário a interagir com os banco de dados. A solução mais comum nesse contexto é modelar uma interface baseada em formulários HTML que contêm campos de entrada de dados, como caixas de texto (text boxes), listas de seleção (selection list e radio buttons), caixas de marcação (check boxes) e outros mecanismos de entrada de dados. Apesar dessas interfaces serem populares e efetivas, em muitos casos interfaces que aceitam textos livres ricos em dados, ou seja, documentos não estruturados ou partes destes documentos que contêm valores implícitos como entrada, são preferíveis em relação a utilização de formulários. Esta situação é muito comum em sites de anúncios populares de comércio eletrônico (e commerce) como ebay e amazon.com que extensivamente usam interfaces baseadas em formulários que permitem usuários registrarem ofertas. Podem existir diferentes formulários dependendo do produto oferecido. Por exemplo, nos experimentos apresentados nesse trabalho, diferentes formulários foram encontradas nas categorias veículos e celulares do site de e commerce TodaOferta.com. Curiosamente, alguns desses sites como ebay e TodaOferta também permitem que usuários entrem com informações utilizando descrições genéricas em texto livre. Isso se justifica pelo fato de que muitas vezes os usuários receiam usar interfaces baseadas em formulários. Por outro lado, quando os usuários deixam de preencher os dados de forma estruturada nos formulários, inviabilizam que estes dados sejam processados e utilizados diretamente por serviços como busca, mineração, recomendação e integração entre ofertas. Propomos neste trabalho um arcabouço chamado iform que utiliza uma abordagem probabilística apoiada por técnicas de Recuperação de Informação (RI) que opera estimando a afinidade de segmentos do texto de entrada com campos de um formulário. Isto é realizado levando em consideração a similaridade entre os segmentos do texto e os valores tipicamente utilizados para preencher o campo em submissões anteriores do formulário. De fato, nossa abordagem não se baseia nas características do texto, mas sim, nas características dos campos dos formulários e seus valores. Diferente de abordagens tradicionais para extração de informação de texto livres [Lafferty et al., 2001, Califf and Mooney, 1999], nossa abordagem não necessita de uma fase de treino para rotular os textos, pois simplesmente utiliza os valores previamente submetidos ao formulário. Para desenvolvedores utilizarem nossa abordagem, nenhum esforço extra será necessário além de modelar os formulários. Do ponto de vista dos usuários, além de economizar esforço utilizando nossa abordagem, usuários serão aptos a verificar a corretude dos resultados obtidos com o iform, e corrigir possíveis erros, através do formulário preenchido pelo método. 2. Trabalhos relacionados Várias abordagem propostas na literatura recente têm tratado o problema de prover alternativas mais intuitivas para usuários acessarem banco de dados web do que interfaces baseadas em formulário. As soluções vão desde a tradução de consultas baseadas em palavras chaves em consultas baseadas em formulário [Calado et al., 2002] ou comandos SQL [Agrawal et al., 2002,

3 Figura 1. Visão geral de uma simples interface baseada em formulário (a) e o iform (b). Mesquita et al., 2007], até interfaces de linguagem natural para banco de dados [Li et al., 2005] [Androutsopoulos et al., 1995] e requisições de serviço [Al Muhammed and Embley, 2007] (por exemplo, buscar e marcar uma consulta com um dentista). Diferente do iform, essas abordagens necessitam de um cuidadoso e longo processo de configuração para os projetistas da interface e um conhecimento avançado das especificações da linguagem aceita pela interface. Além disso, estas abordagens são adequadas somente para especificação de consultas enquanto nossa abordagem é também adequada para povoar banco de dados Web que são acessíveis apenas através do uso de uma interface baseada em formulários. 3. Visão Geral Nesta seção, apresentamos uma visão geral do iform e sua relação com as interfaces baseadas em formulário como ilustrada pela Figura 1. Antes de utilizar o iform, consideramos que os usuários utilizem uma interface similar àquela apresentada na Figura 1a, digitando valores nos campos para interagir com o banco de dados. Os valores manualmente submetidos neste processo, nos permitem construir os léxicos, que armazenam os termos utilizados para preencher cada campo. Uma interface baseada em formulários com o iform, como ilustrado na Figura 1b, permitirá que usuários forneçam documentos de texto livre ou partes desse documento como entrada, e o iform extrairá os valores para preencher o formulário através do casamento do conteúdo dos textos de entrada com o léxico de cada campo. Para facilitar a discussão, documentos de texto livre ou partes desses documentos serão chamadas de texto de entrada daqui para frente. Para extrair os valores dos campos no texto de entrada, primeiramente o texto é dividido em segmentos e então estimamos a afinidade para cada segmento com o seu respectivo campo. Intuitivamente o valor da afinidade é 1 se o segmento é encontrado como um valor no domínio do campo (conjunto de todos os valores possíveis para o campo) e 0, caso contrário. Como essa solução é intratável em muitos casos, tentamos computar a afinidade estimando o quão frequente são os termos que compõem o segmento nos valores de um campo. Para isso, contamos o conjunto de termos representativos para cada campo, isto é, a maioria dos valores no domínio do campo apresenta pelo menos um termo desse conjunto. Na prática, consideramos que o índice léxico contém termos representativos suficientes para identificar os valores. Usuários podem querer verificar o formulário preenchido pelo método e realizar correções necessárias antes de submeter os dados. Então, o iform automaticamente atualiza os léxicos melhorando a qualidade da extração. Vale ressaltar que o léxico é construído com valores submetidos por várias interações dos usuários com o formulário. Dessa forma, é esperado que os 39

4 léxicos cresçam rapidamente em relação a diversidade e ao número de termos para cada campo. 4. Experimentos Nesta seção, apresentamos uma avaliação experimental do iform utilizando um formulário com diversas características. Conduzimos dois conjuntos de experimentos. No primeiro, utilizamos anúncios de emprego para comparar o iform com CRF [Lafferty et al., 2001], o estado da arte em extração de dados. E no último experimento, avaliamos nosso método com formulários reais de diferentes estruturas para submissões de anúncio/oferta de Carros e ofertas de telefones celulares Comparação com CRF Neste experimento, comparamos o iform e o CRF [Lafferty et al., 2001] para a tarefa de extrair segmentos de um texto de entrada e preencher um formulário. Retiramos da coleção RISE Jobs [RISE, 1998] um subconjunto de 100 anúncios de emprego que foram manualmente rotulados. Esses anúncios de emprego formam um conjunto de treino adequado para o CRF, pois esse método necessita que os exemplos de valores a serem extraídos apareçam dentro do contexto que ocorram. Assim, não podemos utilizar os 350 anúncios restantes da coleção Jobs [RISE, 1998], pois os valores extraídos são encontrados separadamente do anúncio em que ocorrem. Do mesmo conjunto de 100 documentos, retiramos os segmentos rotulados para simular submissões a interface baseada em formulário de modo que crie os léxicos para o iform. Note que diferente do CRF, iform não necessita de textos de entradas detalhados para treino. Depois testamos ambas abordagens utilizando um conjunto distinto de 50 documentos, dos quais os resultados da extração estavam disponíveis na coleção Jobs [RISE, 1998], permitindo verificar automaticamente os resultados. Para todas as comparações relatadas, utilizamos o teste de Wilcoxon [Wilcoxon, 1945] e o Student s T Test [Anderson and Finn, 1996] para determinar se a performance foi estatisticamente significativa. Em todos os casos, tiramos conclusões apenas de resultados que forem significativos em pelo menos 5% para ambos os testes. Valores não significativos foram omitidos. De acordo com os resultados apresentados na tabela 1, iform teve uma medida f significativamente superior em 7 campos, enquanto CRF teve uma medida f significativamente superior em apenas 1 campo, como indicado pelos números em negrito. A baixa qualidade obtida pelo CRF é explicado pelo fato de que segmentos a serem extraídos de textos livros de entrada, como os de anúncio de empregos, podem não aparecer em um contexto regular, o que é requisito importante para o CRF. No caso do iform, esse contexto é menos importante, pois são consideradas características relacionadas aos campos ao invés de características do texto de entrada. Além disso, o iform foi concebido para aprender as características relacionadas ao campo através das submissões anteriores. Como vimos, para aplicar o CRF a esse problema, um trabalho intensivo para preparar os dados de treino de uma amostra representativa do texto de entrada é necessário Experimentos com formulários reais Para avaliar o desempenho de nossa abordagem em cenário reais, testamos o iform em diferentes formulários de distintos websites. Primeiro avaliamos nossa abordagem com um formulário de Anuncio de Carros do site um formulário real de múltiplos campos com 8 listas de seleção, 8 caixas de texto e 29 caixas de marcação (check boxes) um total de 45 campos. O segundo website, é um popular site de anúncios brasileiro. Do TodaOferta.com, realizamos experimentos com um 40

5 Campo iform CRF T Test Wilcoxon State % 1.00% Language % 1.00% Required Degree % 1.00% Country % Title % 1.00% City % 1.00% Desired Degree Platform % 1.00% Recruiter Company % 1.00% Application Salary % 3.00% Area Média % 1.00% Valores por submissão % 1.00% Tabela 1. Medida f por campo e medida f por submissão para o experimento de comparação com o CRF. formulário de veículos, que contem 5 caixas de texto e 30 caixas de marcação um total de 35 campos, e o formulário de celulares que consiste em 2 caixas de texto e 42 caixas de marcação um total de 44 campos. Para o TodaOferta.com, utilizamos ofertas reais submetidas durante Outubro de 2008 para cada interface para criar os léxicos. Os testes foram realizados utilizando outras 50 ofertas para cada interface, distintas das utilizadas para criar os léxicos. O resultados estão presentes na Tabela 2. Uma verificação detalhada sobre as ofertas submetidas por usuários nessa interface, revelou que, na maioria dos casos, usuários simplesmente copiam e colam especificações de celulares do web site dos fabricantes, ocasionando uma alta uniformidade nos anúncios de texto livre submetidos as caixas de texto. Isto explica os excelentes resultados obtidos pelo iform e corrobora nossa afirmação relativa ao frequente reuso de textos ricos em dados para preencher formulários na web. 5. Considerações finais Neste trabalho apresentamos um framework chamado de iform que utiliza valores de dados implícitos disponíveis em documentos de texto livre. Propomos um novo método baseado em RI para identificar valores implícitos em documentos de textos livres e preencher o formulário utilizando os valores. Testamos nossa abordagem com instâncias representativas do problema e alcançamos melhores resultados que o CRF, o estado da arte em modelo de extração de dados. Nossos experimentos demonstram que nossa abordagem é capaz de lidar com diferentes tipos de campos de entrada como, caixas de texto, caixas de marcação (check boxes), listas de seleção (pull down lists e radio buttons). Acreditamos que nosso framework é adequado por três razões: (1) qualquer interface baseada em formulário pode ser melhorada com o iform, basta adicionar um léxico para cada campo do formulário; (2) iform é livre de treino, pois apenas necessita de submissões anteriores para construir tais léxicos e (3) usuários podem facilmente verificar a corretude dos resultados 41

6 Tipo de Campo # Campo Precisão Revocação Medida F Caixa de Texto % 76.00% 0.82 Caixa de Marcação % 78.00% 0.78 Média 80.00% 77.90% 0.79 (a) Veículos Tipo de Campo # Campo Precisão Revocação Medida F Caixa de Texto % 68.00% 0.79 Caixa de Marcação % 99.00% 0.99 Média 99.00% 97.00% 0.98 (b) Telefone Celulares Tabela 2. Resultados por campo de ofertas do TodaOferta. obtidos pelo iform (corrigindo possíveis erros) no preenchimento do formulário. Referências Agrawal, S., Chaudhuri, S., and Das, G. (2002). DBXplorer: A system for keyword based search over relational databases. In Proceedings of the International Conference on Data Engineering, pages Al Muhammed, M. and Embley, D. (2007). Ontology Based Constraint Recognition for Free Form Service Requests. In Proceedings of the 23rd International Conference on Data Engineering (ICDE 2007), pages Anderson, T. and Finn, J. (1996). The New Statistical Analysis of Data. Springer. Androutsopoulos, I., Ritchie, G., and Thanisch, P. (1995). Natural Language Interfaces to Databases An Introduction. Natural Language Engineering, 1(1): Calado, P., da Silva, A. S., Vieira, R. C., Laender, A. H. F., and Ribeiro Neto, B. A. (2002). Searching web databases by structuring keyword based queries. In CIKM 02: Proceedings of the eleventh international conference on Information and knowledge management, pages 26 33, New York, NY, USA. ACM. Califf, M. E. and Mooney, R. J. (1999). Relational learning of pattern match rules for information extraction. pages American Association for Artificial Intelligence. Lafferty, J. D., McCallum, A., and Pereira, F. C. N. (2001). Conditional random fields: Probabilistic models for segmenting and labeling sequence data. pages Morgan Kaufmann Publishers Inc. Li, Y., Yang, H., and Jagadish, H. V. (2005). Nalix: an interactive natural language interface for querying xml. pages ACM. Mesquita, F., da Silva, A. S., de Moura, E. S., Calado, P., and Laender, A. H. F. (2007). Labrador: Efficiently publishing relational databases on the web by using keyword based query interfaces. Inf. Process. Manage., 43(4): RISE (1998). Rise: A repository of online information sources used in information extraction tasks. [ agents/rise/index.html] Information Sciences Institute / USC. Wilcoxon, F. (1945). Individual comparisons by ranking methods. Biometrics, 1(6):