Bases de Dados 2013/2014 Recuperação de Informação

Transcrição

1 Bases de Dados 2013/2014 Recuperação de Informação Pável Calado (baseado nos slides de Mário Gaspar da Silva)

2 DMIR Mário Silva Helena Galhardas H. Sofia Pinto Pável Calado Paulo Carreira Bruno Martins Valéria Pequeno (pós-doc) Paula Carvalho (pós-doc) + phd & msc students Big Data Information Retrieval Data Profiling & Cleaning Information Extraction Semantic Web Knowledge Engineering Geographic Information Systems

3 Sumário Bases de Dados, Recuperação de Informação e XML Recuperação de Informação Sistemas de RI Motores de busca para a Web Texto em Sistemas de BD SQL

4 Referências Raghu Ramakrishnan, Database Management Systems, 3ª edição: Cap a 27.5

5 Recuperação de Informação Sistemas de RI vs. SGBD e outros modelos de seleção de INFORMAÇÃO

6 Busca é ubíqua Todas as aplicações modernas que merecem ser mencionadas têm um mecanismo de busca incorporado Mail Desktop Pesquisa específica em websites Pesquisa focada Pesquisa na Web Global

7 Bases de Dados Documentais Páginas da web, mensagens de correio electrónico, notícias, artigos científicos Característica: informação NÃO ESTRUTURADA Acesso preferencial: por conteúdo

8 Organização da Informação Centrada nos Dados (Data Centric) Modelo Relacional Satisfação de condições lógicas Resultados exatos Oracle, MySQL, SQLServer Centrada nos Documentos (Document Centric) Modelo: Recuperação de Documentos Satisfação de necessidades de informação Resultados com interesse probabilístico Google, Bing

9 Recuperação de Informação - RI (Information Retrieval - IR) Information retrieval is a field concerned with the structure, analysis, organization, storage, searching, and retrieval of information. (Gerard Salton, 1968) Information retrieval is the name of the process or method whereby a prospective user of information is able to convert his need for information into an actual list of citations to documents in storage containing information useful to him. (Calvin N. Mooers, 1950)

10 Exemplo de Tarefa de RI Number: 502 prime factor? Description: What is a prime factor? Narrative: A relevant document will define prime numbers or prime factors of mathematical expressions. Documents that use prime factors without defining them are not relevant. TREC 2001 web ad hoc topics

11 Sistema RI vs. SGBD Grandes diferenças IR Imprecise Semantics Keyword search Unstructured data format Read-Mostly. Add docs occasionally Page through top k results DBMS Precise Semantics SQL Structured data Expect reasonable number of updates Generate full answer Semelhanças: interrogações sobre grandes quantidades de dados, recurso a índices Na prática, há que escolher uma das alternativas.

12 IR: um Caldo de Culturas Estatística, Lógica, Linguística Gestão de informação Contexto sócio-psicológico, Cognição Sistemas de Informação Interacção Visualização

13 Processo de Recuperação de Informação Croft, W. B. (1993). Knowledge-based and statistical approaches to text retrieval. IEEE Expert 8 (2), 8 12.

14 Modelos de RI Um modelo permite-nos compreender o princípio de funcionamento e antecipar o comportamento de um fenómeno. Um modelo é uma descrição de um sistema a construir, a planta do sistema.

15 Modelos de RI o que têm? D Q F colecção de representações de documentos representações de necessidades de informação Framework (enquadramento): álgebra, teoria dos conjuntos, teoria das probabilidades R(q,d) função de ordenação: associa um nº real a cada par (q,d)

16 Modelo Saco de Palavras ( Bag of Words ) Modelo Típico de representação de docs em RI: Each document is just a bag (multiset) of words ( terms ) Detalhe 1: Stop Words Palavras irrelevantes não são colocadas no saco: e.g., the e.g., HTML tags como <H1> Detalhe 2: Radicalização ( Stemming ) e outras análises de conteúdo Converter palavras nos seus radicais usando regras da língua e.g., surfing, surfed --> surf

17 Modelo Booleano Política E Economia E NÃO Sociedade Política Sociedade + Intuitivo E/OU: diferenças entre lógica e linguagem natural Recuperação não ordenada

18 Pesquisa Booleana em Texto Identificar todos os documentos que satisfazem uma expressão booleana: Windows AND ( Glass OR Door ) AND NOT Microsoft Termos da interrogação filtrados também por stemming e stop words documentos encontrados significa o # do sub-conjunto que satisfaz condição

19 Vectors de documentos: uma entrada por cada palavra A B C D E F G H I nova galaxy heat h wood film role diet fur Nova ocorre 10 vezes no texto A Galaxy ocorre 5 vezes no texto A Heat ocorre 3 vezes no texto A 9 10 h'wood não ocorre no texto A

20 Vectores de Documentos Document ids A B C D E F G H I nova galaxy heat h wood film role diet fur

21 Visualização dos Vectores Star Doc about astronomy Doc about movie stars Doc about mammal behavior Diet Supõe-se que documentos próximos no espaço são similares.

22 Modelo Vectorial (Salton & Lesk, 1968) Espaço euclideano em Similaridade é o coseno do ângulo (intuitivo!) m sim( d, q) = k = 1 q m m 2 ( d k ) k = 1 k = 1 Pode ser calculada eficientemente! (produto interno dos vectores normalizados) d k k n R ( q k ) 2

23 Que pesos atribuir aos termos? Binários TF Term Frequency tf x idf Termos mais importantes são frequentes nos documentos, mas... Pouco frequentes na colecção

24 Cálculo de TF x IDF w = tf ik ik * log( N / nk ) T tf n k N ik idf k idf = k = = k = term = frequency of inverse document frequency of total the k in document number of number of = log N nk term T D k documents in the documents in i in document C D i term T in collection C C that contain T k k

25 Inverse Document Frequency IDF dá valores altos para palavras raras e baixos para as comuns Colecção de documentos log = log = log = log =

26 Computing Relevance Scores Say we have query vector Q = (0.4,0.8) Also, document What does their similarity comparison yield? sim( Q, D 2 ) = D 2 [(0.4) = (0.2,0.7) (0.4*0.2) + (0.8*0.7) (0.8) 0.64 = = ]*[(0.2) 2 + (0.7) 2 ]

27 Term B D2 Vector Space with Term Weights and Cosine Matching α 2 α 1 Q Q = (0.4,0.8) D1=(0.8,0.3) D2=(0.2,0.7) D Term A Di=(di1,wdi1;di2, wdi2; ;dit, wdit) Q =(qi1,wqi1;qi2, wqi2; ;qit, wqit) sim( Q, D ) sim ( Q, D2) = = i = 0.64 [(0.4) 0.42 t j= 1 w q d t 2 t ( w j= q ) 1 j j= 1 + (0.8) = 0.98 j w ij ( w ( ) + ( ) 2 2 ] [(0.2).56 sim( Q, D1 ) = = 0.58 d 2 ij ) 2 + (0.7) ]

28 Índices de Texto Em RI índice de texto é mais do que é entendido por índice em BD Relacionais Estrutura de dados com elementos de tabelas e índices. É na realidade, um esquema lógico (i.e., tabelas) com um esquema físico (i.e., índices) Não é gerido por um SGBD Concretiza-se por ficheiros num sistema de ficheiros

29 Ficheiro Invertido (do Google ) Each barrel contains postings for a range of wordids. Lexicon (in-memory) Postings ( Inverted barrels, on disk) wordid #docs wordid #docs wordid #docs Sorted by wordid Sorted by Docid Docid #hits Hit, hit, hit, hit, hit Docid #hits Hit Docid #hits Hit, hit Docid #hits Hit Docid #hits Hit, hit, hit Barrel i Barrel i+1

30 SGBD vs. Motor de Busca SGBD Query Optimization and Execution Relational Operators { Files and Access Methods Buffer Management Disk Space Management Motor de Busca Search String Modifier Ranking Algorithm The Query The Access Method Buffer Management OS Disk Space Management Simple }DBMS Concurrency and Recovery Needed

31 IR vs. DBMS Garantias semanticas DBMS garante a semântica das transacções Se uma Xact escreve e faz commit, uma query posterior vê o resultado Lida com updates concorrentes Sistemas de IR não fazem isto: não importa! Adia inserções até ser conveniente Não há necessidade de garantir a correcção com a concorrência

32 IR vs. DBMS (cont.) Modelo de dados e consultas DBMS suporta qualquer esquema e consulta O utilizador define o esquema Linguagem de consulta complexa IR suporta apenas um esquema e um tipo de consulta Texto não estruturado Consultas triviais

33 IR vs. DBMS (cont.) Desempenho DBMS supporta um SELECT geral Mais uma mistura de INSERT, UPDATE, DELETE Motor de execução genérico, que deve funcionar bem em todos os casos IR suporta apenas um tipo de SELECT Mais INSERT adiado, raros DELETE, e sem UPDATE. Motor de execução específico, deve ser extremamente rápido a executar a consulta Utilizadores raramente vêm toda a resposta

34 RI na Web

35 Recuperação de Informação da Web Sistema de RI da Web Sistema de RI Sistema de Informação Motores tiram partido da estrutura da web Ligações Textos das âncoras Meta-dados Motores da Web especialmente eficazes em algumas tarefas de RI O DNS da Web

36 Motores de Busca Arquitectura de motores de busca segue um modelo que se baseia da construção e procura sobre índices Motores de busca modernos aparecem rodeados de uma série de funções e vão muito para além da contagem de termos

37 Pressões... SEO Search Engine Optimization Métodos para melhorar a posição de páginas nos resultados. Adversarial IR Métodos para contornar SEO

38 Ordenação (Ranking) de páginas por análise de links Suposição: Se as páginas que apontam para esta página são boas, então esta página também é boa. Kleinberg 98, Page et al. 98 Inspirada em investigação (muito) anterior em sociologia e bibliometria.

39 PageRank A1, A2,, An: páginas que apontam para A. C(P): # links que saiem da página P. PR(A) = (1-d) + d ( PR(A1)/C(A1) + + PR(An)/C(An) ) d: damping factor

40 PR: Modelo do Utilizador PageRank é uma distribuição de probabilidades sobre as páginas Web. Modelo: Random surfer Escolhe uma página, navega escolhendo links aleatoriamente, de vez em quando escolhe uma página aleatoriamente e continua PageRank(A) = probabilidade do surfer visitar a página A d = probabilidade de escolher uma página (em vez de seguir um link)

41 Relevância(q,p) Rel(q,p) = k Sim(q,p) + (1-k) PR(p) (mas não é assim tão simples)

42 Recuperação de Informação Avaliação de sistemas de RI

43 Medidas de desempenho dos sistemas de RI Velocidade de indexação Medida em número de documentos/hora para um dado tamanho médio dos documentos Velocidade de pesquisa Em função da dimensão do índice Expressividade da linguagem de interrogação Capacidade de expressão de necessidades de informação complexas Velocidade de interrogações complexas

44 Medição de critérios subjectvos O critério principal é o nível de satisfação do utilizador. Tempo de resposta e tamanho do índice contam Respostas rápidas mas que não respondem às interrogações contam negativamente. Como medir quantitativamente?

45 Questão: quem é o utilizador? Motor de busca: Utilizador encontra o que quer e regressa ao engine Medida do rácio de regresso ecommerce: Utilizador encontra o que quer e faz uma compra Medimos a satisfação do utilizador, ou do fornecedor? Medimos o tempo para a compra, ou a fração de utulizadores que se toram compradores? Empresas: Produtividade dos utilizadores Quanto tempo se perde a fazer pesquisas? Outros critérios: abrangência do acesso à informação, segurança, provacidade, etc.

46 Satisfação é uma medida elusiva Aproximação mais vulgarmente utilizada: relevância dos resultados das consultas.

47 Elementos de uma experiência em RI 1. Colecção de teste com Documentos Tópicos Julgamentos de relevância Binários (standard) Pooling: vários sistemas cooperam para os produzir. 2. Medidas de avaliação da eficácia das pesquisas. 3. Teste estatístico para avaliar diferenças observadas.

48 Qual é a melhor ordenação? a b c d e f g h

49 Análise de Métodos de Previsão de Resultados seleccionados Observado F V FP VP FN VN Previsto F VN FN V FP VP alvo Matriz de contingência ou matriz de confusão

50 IR: Precisão e Abrangência precisão abrangência = = r n r R = = VP VP + FP VP VP + FN r: nº de docs. relevantes recuperados n: nº de docs. recuperados R: nº de docs recuperados relevantes Melhorar uma das métricas normalmente implica degradar a outra (porquê?)

51 Comparação de (configurações de) Sistemas Medidas Macro - estatísticas sobre os resultados de um conjunto de pesquisas MAP Mean Average Precision MRR Mean Reciprocal Ranking

52 Recuperaçãi de Informação Texto em SQL

53 Texto em Bases de Dados em SQL SQL/MM introduz domínio Fulltext Métodos: CONTAINS RANK IS ABOUT Limitações Extremamente vago e genérico RANK só usa o texto, não leva em linha de conta outros atributos como meta-dados Não é claro como se tratam os updades; texto é mantido à parte e índices invertidos não são sincronizados Note: SQL/MM also includes spatial data, image data,

54 Example SQL/MM Fulltext select docno from information where document.contains ('stemmed form of standard in same paragraph as sounds like sequel ') = 1

55 Example MySQL Fulltext SELECT COUNT(*) FROM articles WHERE MATCH (title,body) AGAINST ('database');

56 Problema de RI é muito mais vasto! 1. RI Cruzada entre Linguagens (CLIR). 2. Interfaces e Visualização em RI 3. RI Multimédia Documentos falados Digitalizados Esboçados 4. Filtragem de Informação

57 Recuperação vs. Filtragem de Informação Base de Documentos <interrogação> [ref. Docs] <Documento> Base de Interrogações (preferências) Recuperação Filtragem

58 Sumário Os sistemas baseados em modelos que estruturam a informação, como os SGBD Relacionais, têm limitações Sistemas de Recuperação de Informação usam modelo alternativo, centrado em documentos contendo texto (informação não estruturada) Pesquisa é subjetiva e não exacta (como em SQL) Sistemas de RI têm organização e processo de concepção semelhantes, embora a organização física dos dados seja muito diferente.

59 Sumário (2) Motores de busca para a Web: pesquisa ordenada (ranking) tem especificidades importantes. Avaliação quantitativa de sistemas de RI é realizada usando as técnicas usadas para medir sistemas de previsão. Pesquisa sobre texto em Bases de Dados SQL é possível, mas tem limitações.