MINISTÉRIO DA DEFESA EXÉRCITO BRASILEIRO SECRETARIA DE CIÊNCIA E TECNOLOGIA INSTITUTO MILITAR DE ENGENHARIA CURSO DE MESTRADO EM SISTEMAS E COMPUTAÇÃO

Transcrição

1 MINISTÉRIO DA DEFESA EXÉRCITO BRASILEIRO SECRETARIA DE CIÊNCIA E TECNOLOGIA INSTITUTO MILITAR DE ENGENHARIA CURSO DE MESTRADO EM SISTEMAS E COMPUTAÇÃO PHILLIPE DA SILVA CAVALCANTE MECANISMO DE ENCADEAMENTO DE NOTÍCIAS WEB BASEADO EM IMPLICAÇÃO TEXTUAL Rio de Janeiro 2014

2 INSTITUTO MILITAR DE ENGENHARIA PHILLIPE DA SILVA CAVALCANTE MECANISMO DE ENCADEAMENTO DE NOTÍCIAS WEB BASEADO EM IMPLICAÇÃO TEXTUAL Dissertação de Mestrado apresentada ao Curso de Mestrado em Sistemas e Computação do Instituto Militar de Engenharia, como requisito parcial para obtenção do título de Mestre em Sistemas e Computação. Orientador: Maj. Wallace Anacleto Pinheiro - DSc. Rio de Janeiro 2014

3 c2014 INSTITUTO MILITAR DE ENGENHARIA Praça General Tibúrcio, 80 - Praia Vermelha Rio de Janeiro - RJ CEP Este exemplar é de propriedade do Instituto Militar de Engenharia, que poderá incluí-lo em base de dados, armazenar em computador, microfilmar ou adotar qualquer forma de arquivamento. É permitida a menção, reprodução parcial ou integral e a transmissão entre bibliotecas deste trabalho, sem modificação de seu texto, em qualquer meio que esteja ou venha a ser fixado, para pesquisa acadêmica, comentários e citações, desde que sem finalidade comercial e que seja feita a referência bibliográfica completa. Os conceitos expressos neste trabalho são de responsabilidade do autor e do orientador. XXXXXCavalcante, P. S. Mecanismo de Encadeamento de Notícias Web Baseado em Implicação Textual/ Phillipe da Silva Cavalcante. Rio de Janeiro: Instituto Militar de Engenharia, xxx p.: il., tab. Dissertação (mestrado) Instituto Militar de Engenharia Rio de Janeiro, Recomendação de Notícias. 2. Reconhecimento de Implicação Textual. I. Mecanismo de Encadeamento de Notícias Web Baseado em Implicação Textual. II. Instituto Militar de Engenharia. CDD

4 INSTITUTO MILITAR DE ENGENHARIA PHILLIPE DA SILVA CAVALCANTE MECANISMO DE ENCADEAMENTO DE NOTÍCIAS WEB BASEADO EM IMPLICAÇÃO TEXTUAL Dissertação de Mestrado apresentada ao Curso de Mestrado em Sistemas e Computação do Instituto Militar de Engenharia, como requisito parcial para obtenção do título de Mestre em Sistemas e Computação. Orientador: Maj. Wallace Anacleto Pinheiro - DSc. Aprovada em 27 de Agosto de 2014 pela seguinte Banca Examinadora: Maj. Wallace Anacleto Pinheiro - DSc. do IME - Presidente Prof. Jano Moreira de Souza - PhD. da UFRJ Prof. Marcos Veloso Peixoto - PhD. do IME Rio de Janeiro

5 4 Aos meus pais, Manoel e Angelita. Aos meus irmãos, Thiago e Emanuelle.

6 AGRADECIMENTOS Dos fundamentos até esta técnica foram anos de estudo e pesquisa vividos com grandes pessoas. Por isso, agradeço a todos que participaram da minha vida neste período e que contribuíram, de uma maneira direta ou indireta, para este estudo e a minha formação. Agradeço a minha família, meus pais e meus irmãos, aos meus amigos e colegas de trabalho, pela presença em minha vida. Ao meu orientador, Wallace, pela paciência e contribuição do início ao fim com o projeto e desenvolvimento deste trabalho. Ao Instituto Militar de Engenharia e à Fundação Capes, por fomentarem esta pesquisa. Juntos chegamos até aqui. Obrigado por tudo. Phillipe da Silva Cavalcante 5

7 Misura ciò che è misurabile e rendi misurabile ciò che non è misurabile. Galileo Galilei 6

8 SUMÁRIO LISTA DE FIGURAS LISTA DE TABELAS LISTA DE ALGORITMOS LISTA DE CÓDIGOS INTRODUÇÃO Objetivos Organização dos Capítulos REVISÃO LITERÁRIA Trabalhos Relacionados Fundamentos Reconhecimento de Implicação Textual (RTE) Implicação Textual Modelos de Aprendizagem de RTE Funções de Ranking TF-IDF BM25F MECANISMO DE ENCADEAMENTO DE NOTÍCIAS Encadeamento de Implicação Textual Função de Ranqueamento Algoritmo de Encadeamento Mecanismo de Recomendação Arquitetura de Indexação Arquitetura de Busca e Encadeamento Camada de Apresentação Camada de Aplicação Camada de Dados Considerações Finais

9 4 EXPERIMENTO Configuração do Experimento Usuários Coleção de Notícias Notícias iniciais Avaliação do Mecanismo Mecanismo vs. Relevância e Tempo Perguntas Feitas ao Usuário Discussões CONCLUSÕES REFERÊNCIAS BIBLIOGRÁFICAS ANEXOS A APLICAÇÃO WEB DO MECANISMO A.1 Interface Gráfica do Usuário A.2 Esquemas

10 LISTA DE FIGURAS FIG.2.1 Grafo de Classificação de Notícias FIG.2.2 Grafo de influência (SHAHAF, 2012) FIG.2.3 Grafo de causalidade (RODRIGUES, 2011) FIG.2.4 Arquitetura de encadeamento de notícias (CAVALCANTE, 2013) FIG.2.5 Classificador RTE FIG.3.1 Arquitetura de Indexação de Notícias FIG.3.2 Arquitetura de busca e encadeamento de notícias FIG.3.3 Diagrama de sequência do processo de busca e encadeamento de notícias FIG.4.1 Perfil dos Usuários FIG.4.2 Número de Usuários por Encadeamento FIG.4.3 Densidade dos Coeficientes de Spearman e Kendall: Notícia FIG.4.4 Densidade dos Coeficientes de Spearman e Kendall: Notícia FIG.4.5 Densidade dos Coeficientes de Spearman e Kendall: Notícia FIG.4.6 Densidade dos Coeficientes de Spearman e Kendall: Notícia FIG.4.7 Densidade dos Coeficientes de Spearman e Kendall: Notícia FIG.4.8 Densidade dos Coeficientes de Spearman e Kendall: Notícia FIG.4.9 Densidade dos Coeficientes de Spearman e Kendall: Notícia FIG.4.10 Densidade dos Coeficientes de Spearman e Kendall: Notícia FIG.4.11 Densidade dos Coeficientes de Spearman e Kendall: Notícia FIG.4.12 Densidade dos Coeficientes de Spearman e Kendall: Notícia FIG.4.13 Respostas dos Participantes às Perguntas do Experimento FIG.A.1 Tela de Busca de Notícias FIG.A.2 Tela de Encadeamento de Notícias FIG.A.3 Tela de Perfil do Usuário FIG.A.4 Tela de Escolha de Encadeamento para Avaliação FIG.A.5 Tela de Encadeamento do Usuário FIG.A.6 Tela de Avaliação de Encadeamento Original FIG.A.7 Tela de Análise de Encadeamento e Perfil de Usuário

11 LISTA DE TABELAS TAB.2.1 Comparação de características dos trabalhos relacionados TAB.4.1 Notícias Iniciais TAB.4.2 Comparação entre o Mecanismo e as Abordagens de Relevância e Tempo usando o Coeficiente de Spearman Médio TAB.4.3 Comparação entre o Mecanismo e as Abordagens de Relevância e Tempo usando o Coeficiente Tau de Kendall Médio TAB.4.4 Perguntas sobre o Encadeamento TAB.4.5 Comparação da média geral entre as abordagens

12 LISTA DE ALGORITMOS 1 Função de Ranking Algoritmo de Encadeamento Algoritmo de Coleta

13 LISTA DE CÓDIGOS A.1 Esquema de Artigos A.2 Esquema de Documentos A.3 Esquema dos arquivos rte2_dev.xml e rte2_test.xml

14 RESUMO Uma das principais vantagens dos sites de notícias sobre os jornais tradicionais é a capacidade de complementar o conteúdo de uma notícia por meio da recomendação de notícias relacionadas. A recomendação é feita tipicamente pelos editores, geralmente, através de buscas em uma coleção de notícias. No entanto, ela é considerada custosa e estática, além de ser limitada ao conhecimento dos editores sobre as notícias. A maioria das soluções usa técnicas tradicionais de recuperação da informação, como métodos de classificação por relevância ou sistemas de recomendação personalizada. Estas técnicas proporcionam notícias muito parecidas, o que pode não atender a necessidade de informação do usuário. Este trabalho apresenta um mecanismo de encadeamento de notícias capaz de fornecer notícias organizadas segundo um critério de implicação textual, proporcionando ao usuário uma progressão do conteúdo que está sendo lido. Para isso, o mecanismo utiliza um sistema de reconhecimento de implicação textual, para o encadeamento das notícias, e técnicas tradicionais de indexação, busca e recuperação de notícias. Os resultados obtidos com este mecanismo foram comparados com as abordagens de ordenação por tempo e relevância usando os métodos TF-IDF e BM25F e mostraram que o mecanismo de encadeamento de notícias por implicação textual proporciona encadeamentos de notícias que atendem a necessidade de informação dos usuários com uma precisão maior do que as técnicas tradicionais de recuperação de informação para a recomendação de notícias. 13

15 ABSTRACT One of the main advantages of news web sites over traditional newspapers is the ability to complement the content of a news story by recommending related news. The recommendation is typically made by the editors, usually by searching on a collection of news. However, it is considered expensive, cumbersome and static, and is limited to knowledge of the editors on the news. Most solutions apply traditional techniques of information retrieval as relevance ranking methods or personalized recommender systems. These techniques provide very similar news, which can not meet the need of user information. This work presents a mechanism for news chaining able to provide news stories organized according to a criterion of textual implication, providing the user with a progression of content that is being read. For this, the mechanism uses a system for recognizing textual implication, for the sequence of news, and traditional techniques of indexing, search and retrieval of news. The results obtained with this mechanism were compared with the approaches of sorting by time and relevance, using TF-IDF and BM25F methods, and showed that the mechanism of news chaining based on textual implication provides news that meet the information needs of users with greater accuracy than traditional information retrieval techniques for recommendation of news. 14

16 1 INTRODUÇÃO A leitura de notícias web é uma das atividades mais realizadas na Internet. Segundo o relatório internacional de notícias digitais do Instituto Reuters (LEVY, 2014), as pessoas estão acessando notícias online cada vez mais, e em uma frequência jamais vista antes. Este fenômeno está sendo causado, particularmente, pela expansão de dispositivos móveis, como smartphones e tablets, e pela facilidade de acesso à Internet. Além disso, a popularidade dos dispositivos móveis tem transformado as mídias sociais em um veículo relevante de compartilhamento e descoberta de notícias online (MITCHELL, 2014). Mesmo com a importância das mídias sociais, elas não são o principal meio de acesso a notícias online. A maioria das pessoas prefere acessar notícias diretamente em sites de jornais tradicionais. O segundo meio mais popular são os mecanismos de busca. As mídias sociais aparecem em terceiro lugar, seguidas do (LEVY, 2014). Uma grande vantagem das notícias online sobre as mídias sociais é a capacidade de aprofundar o conteúdo das notícias por meio de links para notícias relacionadas. Sites de notícias fazem uso de recomendação de notícias para proporcionar uma experiência de conteúdo completa e relevante para o usuário. No entanto, a recomendação de notícias pode falhar ao prover notícias relacionadas. Quando isso acontece, a experiência do usuário pode ser prejudicada, inclusive, comprometendo o seu retorno ao site. Portanto, a efetividade da recomendação de notícias é um problema relevante para os sites de notícias (LV, 2011). Normalmente, as notícias relacionadas são selecionadas pelos próprios editores dos sites de notícias. Embora a qualidade dessa abordagem seja alta, ela não é eficaz. Porque é trabalhosa para o editor e dispendiosa para o site. Além disso, o processo de escolha de notícias fica limitado à familiaridade do editor sobre o assunto das notícias (LV, 2011; RODRIGUES, 2010, 2011). Logo, torna-se desejável o desenvolvimento de uma técnica eficaz de recomendação de notícias que seja capaz de selecionar notícias relacionadas de modo capturar a necessidade de informação do usuário e proporcionar um experiência de conteúdo completa e relevante. 15

17 Existem trabalhos que propõem notícias relacionadas com base em métodos tradicionais de recuperação da informação como similaridade ou relevância. Mas, esse métodos não são tão eficazes. O problema da recomendação de notícias não se resume a recuperação de notícias similares ou relevantes. Outros trabalhos criam métodos específicos de recomendação de notícias como (LV, 2011; SHAHAF, 2011, 2012). O sistema proposto por RODRIGUES (2010) aborda os dois problemas apresentados e utiliza o conceito de sabedoria das multidões para a sugestão de notícias em um encadeamento causal e temporal, mas tem a necessidade de solicitar feedback do usuário para realizar o encadeamento. Outra solução é apresentada por SHAHAF (2011, 2012), que propõe um método de encadeamento textual entre duas notícias previamente selecionadas pelo usuário, porém este método se torna inviável para a recomendação de notícias, já que a única informação diponível é a notícia selecionada pelo usuário. Este trabalho apresenta um mecanismo de encadeamento de notícias capaz de fornecer notícias organizadas segundo um critério de implicação textual, proporcionando ao usuário uma progressão do conteúdo que está sendo lido. Para isso, o mecanismo utiliza um sistema de reconhecimento de implicação textual, para o encadeamento das notícias, e técnicas tradicionais de indexação, busca e recuperação de notícias. Os resultados obtidos com este mecanismo foram comparados com as abordagens de ordenação por tempo e relevância usando os métodos TF-IDF e BM25F e mostraram que o mecanismo de encadeamento de notícias por implicação textual proporciona encadeamentos de notícias que atendem a necessidade de informação dos usuários com uma precisão maior do que as técnicas tradicionais de recuperação de informação para a recomendação de notícias. 16

18 1.1 OBJETIVOS O objetivo deste trabalho é desenvolver uma técnica de recomendação de notícias que seja capaz de complementar o conteúdo de uma notícia por meio de notícias relacionadas e encadeadas segundo um critério causal e temporal. Para alcançar este objetivo alguns objetivos secundários foram propostos: Traduzir para Português as bases de implicação textual RTE 1, 2 e 3; Propor uma arquitetura de encadeamento de notícias; Desenvolver um classificador de implicação textual para Português; Desenvolver uma função de ranking de encadeamento de notícias; Desenvolver um algoritmo de encadeamento de notícias; Desenvolver uma ferramenta que aplicasse a técnica proposta; e Avaliar os resultados obtidos com a ferramenta. 1.2 ORGANIZAÇÃO DOS CAPÍTULOS O capítulo 2 faz uma revisão do estado da arte de sistemas de recomendação de notícias. O capítulo 2.2 apresenta os fundamentos necessários para o entendimento do mecanismo de recomendação de notícias. O capítulo 3 propõe o mecanismo de recomendação de notícias web. O capítulo 4 mostra como o experimento foi realizado, os resultados encontrados e as discussões sobre estes resultados. O capítulo 5 apresenta as conclusões obtidas com este trabaho, apresenta as principais contribuições e discute trabalhos futuros. 17

19 2 REVISÃO LITERÁRIA Impulsionada pela expansão dos dispositivos móveis, como smartphones e tablets, e a popularidade das mídias sociais, a busca e a navegação por meio de notícias estão entre as atividades mais realizadas na Internet. Consequentemente, a presença de mecanismos de recomendação de notícias passou a ser indispensável nos sites de notícias, na tentativa de atender essa demanda (LEVY, 2014; MITCHELL, 2014). A recomendação de notícias ainda é uma tarefa realizada tipicamente pelos editores de sites de notícias. No entanto, este processo é considerado ineficiente, não somente por ser demorado e custoso, mas também por depender do conhecimento do editor sobre o tópico das notícias. Além disso, a recomendação de notícias pelo editor é considerada estática, uma vez que as notícias recomendadas não são atualizadas com a ocorrência de novas notícias relacionadas (LV, 2011; DEL CORSO, 2005). Como solução para isso, os melhores sites de notícias usam técnicas tradicionais de recuperação da informação, com base em conteúdo, no intuito de amenizar a sobrecarga de informação para o editor ou como mecanismo de recomendação (MULDER, 2006). Os trabalhos de KOREN (2011); PINHEIRO (2010, 2009); CHIANG (2004) propõem filtros de notícias que poderiam ser usados para diminuir a sobrecarga de informação para o editor. Já os trabalhos de DAI (2011); ZELENÍK (2011); CHEN (2010); ZHANG (2011); BOGERS (2007); ZHAI (2005); NALLAPATI (2004); MAKKONEN (2003) apresentam técnicas de recomendação por similaridade, ou relevância, que seriam adequadas para um mecanismo de recomendação de notícias. Apesar de diminuir o espaço de busca para a escolha de notícias relacionadas, o uso de filtros de notícias pelo editor não garante a efetividade da recomendação, ainda que aumente as chances dela ser formada por um conteúdo mais completo. No caso do mecanismo, a questão é que a aplicação de técnicas de similaridade, ou relevância, pode não atender a necessidade de informação do usuário, uma vez que elas recomendam notícias muito parecidas (LV, 2011; DEL CORSO, 2005). 18

20 Outra solução é o uso de sistemas de recomendação. Partindo da observação de que as notícias são recomendadas para o usuário, é plausível inferir que a recomendação para um usuário pode não atender a necessidade de informação de outro. Assim, outros trabalhos propõem sistemas de recomendação personalizada como mecanismo de recomendação de notícias. Apesar de sutil, há uma diferença entre sistemas de recomendação e recomendação de notícias. A primeira é uma técnica de recuperação da informação, enquanto que a segunda é o propósito da recomendação de notícias (ADOMAVICIUS, 2005). A maioria dos sistemas de recomendação de notícias personalizadas se baseiam em técnicas tradicionais de recuperação da informação como, por exemplo, os trabalhos de CAPELLE (2012); GOOSSEN (2011); LI (2010); CANTADOR (2009); BOGERS (2007); HERLOCKER (2004); alguns trabalhos fazem uso de outras plataformas, como as redes sociais, para atingir o mesmo objetivo (LIU, 2010; PHELAN, 2009). No entanto, a aplicação de ontologias tem mostrado resultados mais consistentes do que os obtidos com técnicas tradicionais (RAO, 2013; FRASINCAR, 2011; IJNTEMA, 2010). A recomendação personalizada de notícias, de acordo com os trabalhos acima, parece ser mais eficaz que as técnicas tradicionais. O conteúdo personalizado aumenta as chances de atender a necessidade de informação do usuário. Porém, a personalização pode comprometer a recomendação de novas notícias relacionadas. Como exemplo, dada uma notícia inicial, basta considerar uma nova notícia cujo conteúdo não é de conhecimento do sistema como sendo de interesse do usuário, mas está relacionado a notícia inicial. As técnicas mencionadas acima, em algum momento, ou recomendam notícias muito similares ou deixam de recomendar notícias relacionadas. Baseado nessa observação, o trabalho de DEL CORSO (2005) ressalta que essas técnicas não foram projetadas para a recomendação de notícias, e sim, para a recuperação de documentos ou páginas web. Justificando o desenvolvimento de técnicas específicas de recuperação de notícias. A seção a seguir discute o trabalho de DEL CORSO (2005) e outros trabalhos relacionados que levaram ao desenvolvimento do mecanismo proposto. 19

21 and news sources larly true for information flows, since di erent news sources nd on the natural can post independently many stream of news articles. In ews stories. Now, Section 5.2 we propose a solution to this problem. This anking algorithms solution handles the data stream of news information with presenting the als. 2.1 TRABALHOS takes inrelacionados account a particular decay function associated to no predefined time window of observation. The solution any given piece of news. The algorithms proposed turn out and News sources. to be tunable, in the sense that we can change the decay rate rank for Esta news seção discute os trabalhos relacionados ao mecanismo proposto, suas propriedades, parameters according to the categories in which the news funcionamentos posting e aplicações. is classified. Ao final da seção, uma tabela comparativa é apresentada com as principais In the características following, de wetodos introduce os trabalhos, the model servindo whichdecharacter- izes news articles and news sources. Given a news stream, are Clustered. An referência e motivação (partially) para repli-e, consider a news mecanismo a set of proposto. news sources, and fixing a time window!, the news O trabalho creation de DELprocess CORSO can (2005) be ressalta represented que existe by means uma diferença of a undirected entre a recomendação of de notícias cy. The measure by the number e graph a recuperação G! = (V,E) de páginas where web, V especialmente, = S [ N and fontes S are de notícias. E the nodes representing the news sources, while N are the replicate n or justifica exnomenon of citing issonodes com base representing na observação thede news que uma stream novaseen notícia in the publicada time window!. Analogously, das notíciasthe já existentes set of edges ou pode E is partitioned ser agrupadain atwo um conjunto de pode ser completamente independente mmon in the conws engine point notícias of relacionadas. Por esta 1 and E disjoint sets E razão, 2. E ainda 1 is the set of undirected edges não existem links para ela. Portanto, técnicas between S and N. It represents the news creation process, size of the cluster baseadas eme análise 2 thedeset links of podem undirected produzir edges benefícios with both limitados. endpoints in N importance. Esta explicação and it represents complementa thee results reforça as of restrições the clustering existentes process nas which técnicas discutidas tween Newsinicialmente Artin di erent impor- allows to connect similar pieces of news. The edges in E 2 neste capítulo. No entanto, DEL CORSO (2005) propõe um novo modelo can be annotated with weights which represent the similaritya relação betweenentre twoaspieces notícias ofe news. suas fontes, Theapresentado nodes in S na cover figura 2.1 e, a partir ording to the para imoduce. So that, daí, desenvolve a capturar those seu in algoritmo N, i.e., 8n de classificação. 2 N,9 s 2 S such that (s, n) 2 E 1. gton Post can be ticle coming from on Post is known importance of a. We are dealing a fresh news story t than an old one. require that the FIG. 2.1: Grafo de Classificação de Notícias anking algorithm Figure 3: News Ranking Graph. e time the comount of news arti- To satisfy the property (P2), we define a similarity mea- Dado um fluxo de notícias, um conjunto de fontes de notícias e uma janela de tempo, o ce the observation processo de criação sure among e relacionamento the news articles, entre aswhich notíciasdepends e suas fontes the é representado clustering figura algorithm 2.1. O grafo chosen temand como accounts objetivofor atribuir the similarity pesos entre among as notícias e por meio do grafo da suas fontes, na medida em que agrupa notícias relacionadas. Então, o algoritmo de classificação de notícias é desenvolvido sobre o grafo de modo a atender as cinco propriedades a seguir, definidas 99por DEL CORSO (2005) como existentes entre as notícias e suas fontes: 1) Os algoritmos devem atribuir classificações separadas para as notícias e suas fontes. 2) O número de notícias relacionadas é uma medida de importância de uma notícia. 3) A relevância da fonte de uma notícia é uma medida de sua importância. 20

22 4) A importância de uma notícia muda com o tempo. 5) A complexidade de tempo e espaço do algoritmo deve permitir o processamento online. O algoritmo de classificação de notícias de DEL CORSO (2005) é desenvolvido com técnicas tradicionais de recuperação da informação e tem uma complexidade linear, o que permite ter um processamento online. SHAHAF (2011) trata do encadeamento de notícias entre duas notícias fornecidas. Estas notícias são autorrelacionadas e dispostas segundo uma bom encadeamento, com ligações coerentes entre os artigos. Este trabalho também formaliza as características de uma boa cadeia e fornece um algoritmo eficiente para ligar as duas notícias. O mesmo autor, em SHAHAF (2012), apresenta este trabalho em uma forma mais natural: dada uma consulta ou uma notícia feita pelo usuário, listar as cadeias de notícias que contam uma história partindo da consulta do usuário. A figura 2.2 ilustra o grafo de influências utilizado para determinar as influências existentes entre as palavras mais relevantes e as notícias. 24:10 D. Shahaf and C. Guestrin Fig. 7. A bipartite graph used to calculate influence. FIG. 2.2: Grafo de influência (SHAHAF, 2012). Edge weights represent the strength of the connection between a document and a word. Copernic 2,thetoolweusedforwordextraction,assignsimportancetoeach word; we found that these weights worked well as document-to-word edge weights. Unfortunately, the Copernic algorithm is proprietary, so its precise details were not given. Alternatively, one can use TF-IDF weights. Note that unlike Copernic, TF-IDF requires us to carefully choose the corpus. Since we later interpret weights as random walk probabilities, we normalize the weights over all words in the document. For example, the rightmost article is mostly (.7) about Al Gore, and somewhat about Judge (.2), and Clinton (.1). The word-todocument weights are computed using the same numbers, but normalized over the documents. The word Gore can only be reached by a single document, so the edge weight is.7 =1. Wenowusethisweightedgraphtodefineinfluencebetweendocuments..7 As mentioned before, Influence(d i, d j w) shouldbehighifthetwodocumentsare strongly connected, and w plays an important role in this connection. Intuitively, if the two documents are connected, a short random walk starting from d i should reach d j frequently. We first compute the stationary distribution for random walks starting from d i. We control the expected length with a random restart probability, ϵ. The stationary distribution is the fraction ofthetimethewalkerspendsoneachnode. O trabalho de LV (2011) aborda a aplicação em sistemas de recomendação de leitura gerando uma lista de notícias que estão relacionadas a notícia atualmente apresentada para o usuário. Estas notícias também são relacionadas entre si. A listagem dessas notícias, relacionadas a uma notícia, e autorrelacionadas, tem como base o trabalho (2011). i (v) =ϵ (v = d i )+(1 ϵ) (u,v) E i (u)p(v u), where P(v u) istheprobabilityofreachingv from u. Intuitively, if d i and v are very related, i (v)ishigh,asmanywalksreachv. Wenow need to factor in the effect of word w on these walks. In particular, we are interested in knowing how many of the walks went through word w before reaching v. Todothis,we turn w into a sink node: let P w (v u) bethesameprobabilitydistributionasp(v u), except there is no way out of node w. 0 if u = w and v w P w (v u) = 1 if u = v = w. SHAHAF O trabalho de RODRIGUES (2010, 2011) foi a primeira fonte de inspiração para o desenvolvimento desta pesquisa. As notícias são encadeadas sob os critérios causal e temporal. Elas são representadas em um grafo ponderado cujos pesos indicam o nível de relação causal entre duas notícias. O valor do relacionamento causal é alterado conforme 21

23 a interação do usuário com o sistema; ao ler uma notícia o usuário é levado a clicar em um botão, chamado Why, para indicar se a notícia atualmente exibida tem relação causal com a notícia anterior. Esta abordagem tem como base a teoria da sabedoria das multidões que diz, em simples termos, que o conhecimento das multidões converge para um valor correto 5.3 News quando Connetor questionado sobre o valor, ou a medida, de algo; neste caso, a pergunta implícita adicionada ao botão Why foi: -Há relação de causa com a notícia O News Connector é o módulo responsável por relacionar a maior parte das anterior? O conhecimento da maioria levará a uma ponderação correta sobre o grafo da notícias armazenadas no banco de dados, resultando na criação/atualização do grafo figura 2.3, onde Why. Nesse os nós grafo, representam as notícias correspondem notícias, os aos textos nós e os com relacionamentos as datas representam às arestas. A as datas força dos relacionamentos entre as notícias é determinada pelos pesos (similaridade) de publicação das notícias e os valores postos nos arcos a força de relacionamento causal atribuídos as suas arestas. entre as notícias (que varia de 0 a 1). A Figura 23 ilustra um grafo Why com 5 notícias. Figura 23 Grafo Why FIG. 2.3: Grafo de causalidade (RODRIGUES, 2011). De acordo com a Figura 23, podemos dizer que existe relacionamento de peso 0,047 (similaridade) entre a notícia 3 (publicada em 08/04/2009) e a notícia 4 (publicada O trabalho de CAVALCANTE (2013) apresenta uma forma de encadeamento de notí- em 29/05/2009). Todas as informações apresentadas nessa figura são armazenadas no cias baseada banco na ideia dados RODRIGUES e servem como base (2010, para percorrer 2011). Ao grafo primeira Why, ou vantagem seja, são utilizadas do trabalho está para determinar a próxima notícia que será mostrada ao usuário. na construção de um mecanismo totalmente independente da colaboração do usuário para O News Connector é acionado sempre que o módulo Full-Text Indexer termina de criar/atualizar o índice com as novas notícias obtidas através do RSS Torrent. Seu a geração do encadeamento. O mecanismo passa a encadear notícias de acordo com o conceito de implicação textual apresentado inicialmente por DAGAN (2006), em seu desafio funcionamento consiste em relacionar diversos conjuntos de notícias. A Figura 24 de reconhecimento de implicação textual. ilustra esses conjuntos. A figura 2.4 mostra a arquitetura proposta por CAVALCANTE (2013) para a geração de um encadeamento de notícias

24 Omecanismodeencadeamentodenotíciasécapazdeordenarasnotíciasdeacordocomumcritério de implicação textual. Para isso, o mecanismo utiliza um sistema de reconhecimento de implicação textual e um sistema de identificação de similaridade textual. A figura 1 ilustra o mecanismo proposto. notícias Similaridade TF-IDF Pré-processamento Método de encadeamento notícia inicial Implicação textual RTE FIG. 2.4: Arquitetura de encadeamento de notícias (CAVALCANTE, 2013). Fig. 1. Mecanismo de Encadeamento de Notícias. Omecanismoéformadopordoismódulosprincipais: A arquitetura da figura 2.4 é dividida em quatro (i) componentes: módulodesimilaridade,responsávelpor Pré-processamento, gerar umsimilaridade, índice de similaridade; Método dee Encadeamento (ii)módulodeimplicaçãotextual,responsávelportreinaramáquina e Implicação textual. de reconhecimento de implicação textual e gerar um índice de implicação textual (ver figura 2). Pré-processamento: o componente de pré-processamento é responsável pela aplicação de filtros de análise léxico-sintática Omódulodepré-processamento éresponsávelpelalimpezatextualdasnotíciasdosistema. sobre as notícias para a remoção de palavras Algumas funções deste módulo são: remoção de stopwords e pontuações, conversão de caracteres para UTF-8 etransformaçãoparacaracteresminúsculos,eobtençãodelemadaspalavras. irrelevantes (stopwords) e pontuações; extração radicais da palavra; transformação de caracteres maiúsculos em minúsculos; e conversão de textos para o formato UTF-8. Oencadeamentotextualégeradoporumalgoritmodeestratégiagulosa,localizadonomódulo método de encadeamento. Similaridade: oeste componente algoritmodebusca similaridade no módulo gera odeíndice implicação de similaridade textual uma baseado notícia que impliqueno semanticamente método TF-IDF. na notícia inicial, escolhidapelousuário,eaadicionaàlistaencadeadade notícias. O primeiro elemento da lista encadeada é a própria notícia inicial. Implicação Textual: o componente de implicação textual tem duas funções, a Caso exista mais de uma notícia implicante, o algoritmo compara o valor de similaridade entre primeira é treinar a máquina de reconhecimento de implicação textual; e a segunda, é as notícias implicantes - esses valores são encontrados no módulo de similaridade -eescolheaquela notícia com geraro omenor índicevalor de implicação de similaridade, textual. adicionando-a à lista encadeada. Este processo se repete para a escolha Método da próxima de encadeamento: notícia implicante: o método a notícia de inicial encadeamento passa a ser é responsável a notícia implicante por gerar até que não haja notícia implicante à notícia anterior. o encadeamento de notícias com base na busca nos índices de implicação textual e de similaridade. V ou F Extrator de características Jaccard overlap E textos T-H hipóteses H-T Algoritmo de aprendizagem Entropia Máxima Modelo RTE V ou F Fig. 2. Módulo de Implicação Textual. 23

25 A seguir, na tabela 2.1, é apresentada uma comparação entre algumas características dos trabalhos relacionados mencionados acima. Trabalho Complexidade Específico Online Independente DEL CORSO (2005) O(n) - LV (2011) O(n k ) - SHAHAF (2011, 2012) O(n k ) - RODRIGUES (2010, 2011) O(k n) - CAVALCANTE (2013) O(n 2 ) - NewsChain O(k n) TAB. 2.1: Comparação de características dos trabalhos relacionados Na tabela, a coluna Específico está relacionada a ideia do trabalho ser voltado especialmente para o encadeamento de notícias. A coluna Online verifica se o trabalho suporta o processamento online dos encadeamentos. A coluna Independente é para saber se o trabalho requer a participação do usuário para compor o encadeamento. Além disso, a letra k, da ordem de complexidade dos trabalhos, significa a quantidade de notícias para o encadeamento e a letra n é a quantidade de notícias da base de notícias. O mecanismo proposto neste trabalho, chamado NewsChain, também é mostrado na tabela 2.1 para fins de comparação. Sua complexidade de tempo de busca e encadeamento é linear, enquanto que a complexidade de tempo de indexação é quadrática, mas não foi considerada para a comparação por acontecer em background. A complexidade deste mecanismo é discutida na Seção 3.3. O NewsChain é um mecanismo específico para o encadeamento de notícias e foi desenvolvido para ser online. Essas características não são abordadas completamente pelos outros trabalhos. 24

26 2.2 FUNDAMENTOS Este seção explica os fundamentos necessários para a construção do encadeamento de notícias RECONHECIMENTO DE IMPLICAÇÃO TEXTUAL (RTE) Esta seção apresenta o conceito de implicação textual 1, fundamental para o entendimento da tarefa de Reconhecimento de Implicação Textual (RTE) 2. Em seguida, discute uma técnica de RTE que usa máquina de aprendizagem para o reconhecimento de implicação textual IMPLICAÇÃO TEXTUAL A implicação textual é definida em DAGAN (2006) como um relacionamento direcional em que o significado de um texto, o texto de hipótese (H), pode ser inferido de outro texto, o texto implicante (T ). A noção de implicação textual para a tarefa de reconhecimento está relacionada à implicação textual de semântica formal, existente na literatura de linguística, que especifica que um texto T implica em outro texto H, se H é tido como verdade em todas as circunstâncias nas quais T é verdade. Contudo, o RTE permite casos em que a verdade da hipótese seja mais provável do que certa, para a maioria dos propósitos (DAGAN, 2006). Por exemplo, ANDROUTSOPOULOS (2010) explica que, segundo o conceito de implicação textual, o texto (1) implica em (2) porque uma pessoa ao ler o texto (1) provavelmente concluiria que (2) é verdade. Da mesma forma, após uma pessoa ler os textos (3) e (4), discordaria que o texto (3) implica em (4). (1) Remédios para o mal de Alzheimer surtem melhor efeito quando tomados mais cedo. (2) O mal de Alzheimer pode ser reduzido tomando-se remédios. (3) É importante enfatizar que este não é um caso de dengue confirmado. (4) Um caso de dengue foi confirmado. Com esses exemplos, é possível diferenciar a implicação textual da implicação lógica, proveniente da lógica formal de predicados. A implicação textual da linguagem natural 1 Do inglês, Textual Entailment 2 Do inglês, Recognizing Textual Entailment 25

27 releva a boa formação lógica da estrutura textual, visto que o requisito de implicação é mais voltado para o significado dos textos. A implicação textual está sujeita à variabilidade semântica, assim como a lógica formal, onde o mesmo significado pode ser expresso ou inferido de diferentes textos. ANDROUTSOPOULOS (2010) chega a relacionar superficialmente ambos os tipos de implicação apenas para usar a nomenclatura e os símbolos da lógica tradicional MODELOS DE APRENDIZAGEM DE RTE Modelos de aprendizagem de máquina têm mostrado um bom nível de acurácia para a maioria das tarefas de processamento de linguagem natural. Como por exemplo, para marcação de partes do discurso, tradução textual, reconhecimento de entidades nomeadas e reconhecimento de implicação textual (ZANZOTTO, 2009). O mecanismo proposto usa uma máquina de aprendizagem por redes bayesianas. A figura 2.5 mostra a arquitetura da máquina para a classificação de pares de textos em relação a implicação textual. V ou F Extrator de características Jaccard overlap E textos T-H hipóteses H-T Algoritmo de aprendizagem Naive Bayes Modelo RTE V ou F FIG. 2.5: Classificador RTE Este componente é usado no componente Função de Ranking da arquitetura de busca e encadeamento de notícias, figura 3.2, sendo um dos critérios para a geração de um encadeamento causal e temporal. 26

28 2.2.2 FUNÇÕES DE RANKING Dada uma consulta, uma função de ranking atribui um grau de similaridade para cada documento de uma coleção, de modo que o mecanismo de busca recupere os documentos mais relevantes primeiro. A função de ranking do mecanismo atribui um grau de implicação textual entre os documentos t e h. O BM25F faz parte da função de ranking do mecanismo e, junto com o TF-IDF, foi comparado com o mecanismo TF-IDF Dado um documento d e uma coleção de documentos N, o valor TF-IDF de um termo t no documento d é a combinação da frequência de t em d, com a frequência inversa de t em N, de acordo com a equação 2.1 (MANNING, 2008). tf-idf t,d = tf t,d log N fd t (2.1) Onde tf t,d é a frequência de ocorrências do termo t no documento d e fd t é a frequência de documentos que contém o termo t na coleção N. A relevância de uma consulta q para o documento d é definida na equação 2.2 (ZHANG, 2011; HIEMSTRA, 2000). T F -IDF (q, d) = t q tf-idf t,d (2.2) BM25F O BM25F é uma função de ranking utilizada para avaliar, com pesos diferentes, cada campo de um documento estruturado (BAEZA-YATES, 2013; PÉREZ-AGÜERA, 2010). Por exemplo, para notícias web, os campos título, descrição, texto e data de publicação seriam ponderados individualmente de acordo com a função 2.3. BM25F (q, d) = t q d tf t,d k + tf t,d idf t (2.3) Onde tf t,d é a frequência do termo t para cada campo do documento d e k é uma constante que permite controlar o crescimento não linear da função de frequência de termos. O idf é a frequência inversa do termo t na coleção de documentos. 27

29 3 MECANISMO DE ENCADEAMENTO DE NOTÍCIAS Uma das principais áreas de aplicação do encadeamento de notícias é a recomendação de notícias web. A maioria dos web sites de notícias recomendam notícias no intuito de atender a uma provável necessidade do usuário de complementar a leitura da notícia e, assim, proporcionar uma boa experiência de navegação por entre as notícias do site. Não é possível esquecer que essa experiência também pode aumentar o tempo de permanência do usuário no site. E, assim, contribuir para o aumento na demanda por publicidade no site, uma fonte de receita considerável entre os sites de notícias. Ao mesmo tempo, se essa experiência for negativa, ela pode diminuir o tempo de permanência do usuário no site ou, até mesmo, perder o usuário para uma outra fonte de notícias. Portanto, a recomendação de notícias é um problema crítico entre os sites de notícias. E que precisa de soluções eficazes, principalmente, em atender a necessidade de informação do usuário. Baseando-se na observação de que, se um usuário está interessado em ler mais sobre uma notícia é porque ele deseja complementar o conteúdo daquela notícia, este trabalho usa o conceito de encadeamento de notícias com o objetivo de proporcionar um encadeamento causal e temporal de notícias relacionadas afim de proporcionar ao usuário um entendimento melhor sobre a história de uma notícia. Para isto, usa o a noção de implicação textual para promover o encadeamento entre as notícias, juntamente com algumas técnicas de indexação, busca e recuperação de notícias. A seção a seguir apresenta a definição de encadeamento de implicação textual, a função de ranking de encadeamento e o algoritmo de encadeamento de notícias utilizado pelo mecanismo de recomendação de notícias proposto neste trabalho. 28

30 3.1 ENCADEAMENTO DE IMPLICAÇÃO TEXTUAL O encadeamento de implicação textual é baseado na busca e recuperação de notícias que, em sequência, implicam textualmente uma na outra. Por exemplo, dada uma notícia inicial, o encadeamento recupera, se existir, a notícia que implica na notícia inicial. A partir daí, repete este processo para encontrar a próxima notícia que implique na segunda, até que não existam mais notícias implicantes com a notícia anterior. A ideia é através da implicação textual relacionar as notícias por meio de um critério causal e temporal, como na implicação lógica, porém sem o rigor formal. Até porque seria bastante custoso senão impossível construir um mecanismo de verificação de implicação lógica textual. Principalmente, pela variabilidade semântica existente nos textos, onde um texto pode ter vários significados e um significado pode ser representado por vários textos. Como mencionado anteriormente, através da implicação textual, o encadeamento também é relacionado por um critério temporal. Isso ocorre, porque a ocorrência de uma notícia que implique em uma notícia inicial deve acontecer antes da notícia inicial. No entanto, o encadeamento usa o tempo de publicação de uma notícia como indicador de relação temporal. Porém, somente isso não é suficiente, como será demonstrado nos resultados. Assim, o primeiro passo para o encadeamento de notícias é a construção da função de ranking. Esta função será apresentada a seguir FUNÇÃO DE RANQUEAMENTO A função de raking do encadeamento de notícias leva em consideração os critérios de (i) implicação textual, (ii) a ordem de tempo entre duas notícias, (iii) a relevância entre as notícias, e (iv) a observação de citações entre as notícias. O algoritmo a seguir, representa a função de ranking. Algoritmo 1 Função de Ranking função Escore(n t, n h ) return a IMP (n t, n h ) + b T EMP (n t, n h ) + c REL(n t, n h ) + d REF (n t, n h ) fim função 29

31 O algoritmo recebe duas notícias, a notícia texto (n t ) e a notícia hipótese (n h ). n t é a notícia implicante e n h é a hipótese ou notícia implicada. A função IMP (n t, n h ), que representa o item (i), é responsável por identificar se uma notícia implica em outra. Se sim, retorna o valor 1. Se não, retorna o valor 0. A relação de implicação é observada apenas entre os títulos das notícias. A função T EMP (n t, n h ), relacionada ao item (ii), retorna a distância temporal normalizada entre as notícias, que é positiva se a notícia inicial ocorrer depois da notícia implicante. E negativa, caso contrário. O item(iii) é representado pela função REL(n t, n h ) que calcula a relevância que a notícia implicante tem para a notícia inicial. A relevância é observada entre o conteúdo das notícias. E a função REF (n t, n h ), item (iv), verifica se a notícia inicial cita a notícia implicante. Se isso ocorrer, retorna 1, senão retorna 0. Além disso, essas funções têm um peso atribuído aos coeficientes a, b, c e d cujos respectivos valores empíricos foram a = 0.4, b = 0.1, c = 0.3 e d = 0.2. Portanto, para o ranking, a implicação textual entre duas notícias n t e n h é relevante o suficiente para encadear n h através de n t. A seção a seguir descreve o processo de encadeamento com mais detalhes ALGORITMO DE ENCADEAMENTO A função de encadeamento tem como objetivo montar o encadeamento de notícias a partir da notícia inicial. Em relação a noção de implicação textual, a notícia inicial é a notícia hipótese. Logo, o encadeamento vai em busca de uma notícia que implique na notícia hipótese. O algoritmo 2 descreve o procedimento de encadeamento de notícias. Baseando-se no conceito de implicação textual, explicado na seção , o algoritmo 2 monta uma lista de notícias relacionadas por implicação textual a partir da notícia inicial, considerada a primeira notícia lida pelo usuário. A função implica(hipótese) na linha 6 é a função de busca e recuperação da melhor notícia que implica na notícia inicial fornecida. A melhor notícia é aquela cujo rank teve o maior valor dentre todas as notícias relacionadas recuperadas. 30

32 Algoritmo 2 Algoritmo de Encadeamento 1: função encadeamento(hipótese) 2: i 0 ; t N 3: faça 4: encadeamento hipótese 5: i i + 1 6: texto implica(hipótese) 7: hipótese texto 8: enquanto i < t ou hipótese / encadeamento 9: retorne encadeamento 10: fim função Primeiramente, a notícia inicial é passada como parâmetro para a função de encadeamento. Então, a notícia inicial passa a ser a notícia-hipótese. A variável i armazena a quantidade de notícias presentes na lista encadeamento. A variável t indica que a capacidade máxima do encadeamento é de 10 notícias, incluindo a notícia inicial. O valor do tamanho máximo de encadeamento é empírico e foi escolhido com a observação de que raramente o usuário lerá mais de 10 notícias relacionadas, com exceção daqueles interessados em fazer uma busca aprofundada sobre o assunto da notícia. 3.2 MECANISMO DE RECOMENDAÇÃO O mecanismo de encadeamento de notícias apresenta as vantagens de amenizar o esforço na formulação de consultas por parte do usuário e de ser transparente para o usuário. Com o mecanismo, o usuário que estiver interessado em ler mais sobre a notícia inicial não precisará se preocupar em formular novas consultas, uma vez que o mecanismo ficará responsável por esta tarefa. O usuário também não precisará entender como o mecanismo funciona para poder usá-lo. As notícias serão listadas seguindo o encadeamento e o usuário terá o critério de leitura sequencial ou aleatória. O anexo A permite ter uma noção visual do encadeamento. 31

33 3.2.1 ARQUITETURA DE INDEXAÇÃO A arquitetura de indexação descreve como os componentes de busca, recuperação e armazenamento de notícias são organizados e como se comunicam entre si para a geração do índice de busca que é usado para o encadeamento de notícias. O processo de indexação de notícias é dividido em duas etapas: 1) a coleta de notícias, onde o mecanismo busca, recupera e armazena notícias, provenientes da Internet, em uma base de dados; e 2) a indexação de notícias, onde o mecanismo gera o índice de busca das notícias existentes na base de dados de notícias. As duas etapas são completamente independentes entre si. A única exceção ocorre na configuração inicial do mecanismo, onde as duas etapas são consecutivas para que existam notícias na base de dados e, assim, o índice de busca seja gerado. A figura 3.1 ilustra a arquitetura de indexação e enumera o processo de indexação de notícias. Etapa 1 Etapa 2 Internet Analisador 1 Coletor Esquema Indexador 2 4 Artigos 3 Docs FIG. 3.1: Arquitetura de Indexação de Notícias. A figura 3.1 é formada pelos componentes Coletor, Indexador e Analisador. O Esquema descreve como a notícia deve ser estruturada para ser armazenada ou recuperada das bases de dados. A base de dados Artigos armazena as notícias de acordo com o Esquema. A base de dados Docs é o índice de busca de notícias que também é estruturado de acordo com o Esquema. 32