Análise sintática Parsing

Transcrição

1 Análise sintática Parsing IBM1088 Linguagens Formais e Teoria da Computação Evandro Eduardo Seron Ruiz evandro@usp.br Departmento de Computação e Matemática FFCLRP Universidade de São Paulo Baseado em Jurafsky&Martin E.E.S Ruiz (DCM USP) POS 1 / 59

2 Pensamento do dia Benjamin Franklin We are all born ignorant, but one must work hard to remain stupid. BF, poĺıtico, cientista e inventor norte-americano, E.E.S Ruiz (DCM USP) POS 2 / 59

3 Conteúdo 1 Motivação 2 Introdução Recordando... 3 Parsing Top-down parsing Bottom-up parsing Combinando as duas abordagens Problemas da abordagem combinada E.E.S Ruiz (DCM USP) POS 3 / 59

4 Motivação GLC e estruturas sintáticas Estudamos as GLC GLC é uma gramática formal Tópicos de GLC podem ser adaptadas para textos livres GLC através de regras podem determinar ou analisar estruturas gramaticais E.E.S Ruiz (DCM USP) POS 4 / 59

5 Introdução 1 Motivação 2 Introdução Recordando... 3 Parsing Top-down parsing Bottom-up parsing Combinando as duas abordagens Problemas da abordagem combinada E.E.S Ruiz (DCM USP) POS 5 / 59

6 Introdução Análise sintática (AS) Parsing O processo de analisar uma seqüência de símbolos (palavras ou termos) para determinar sua estrutura gramatical de acordo com uma determinada gramática E.E.S Ruiz (DCM USP) POS 6 / 59

7 Introdução Análise sintática (AS) Parsing O processo de analisar uma seqüência de símbolos (palavras ou termos) para determinar sua estrutura gramatical de acordo com uma determinada gramática Resultado: árvore sintática F N SV João V toca N piano E.E.S Ruiz (DCM USP) POS 6 / 59

8 Introdução Recordando... 1 Motivação 2 Introdução Recordando... 3 Parsing Top-down parsing Bottom-up parsing Combinando as duas abordagens Problemas da abordagem combinada E.E.S Ruiz (DCM USP) POS 7 / 59

9 Introdução Recordando... AS: Análise componencial Trabalha sobre unidades menores internas à frase, os constituintes Constituintes Exe: sintagmas e categorias gramaticais Sintagmas Grupos de palavras em torno de um núcleo sintático dominante Exemplos Núcleo=verbo: sintagma verbal (SV=VP) Núcleo=substantivo, adjetivo, pronome: sintágma nominal (SN=NP) Categorias gramaticais: verbo, substantivo... E.E.S Ruiz (DCM USP) POS 8 / 59

10 Introdução Recordando... Estrutura arbórea de uma frase F SN SV Det o N João V comprou Q SN SN todos Det os N livros E.E.S Ruiz (DCM USP) POS 9 / 59

11 Introdução Recordando... recordando... Constituintes em todos lugar Os constituintes são modulares Podem surgir em vários pontos das frases Analisar a sentença sob o ponto de vista de constituintes é uma forma de otimizar a análise todos os livros do João foram doados Eu não entendo como todos os livros foram doados? Constituintes podem ser e expandidos Eu não entendo como todos aqueles livros maravilhosos foram doados? E.E.S Ruiz (DCM USP) POS 10 / 59

12 Introdução Recordando... GLC e Análise sintática Análise sintática (AS) é um ponto central no ensino de gramática AS é essencial em CC: análise sintática das LP AS é baseada numa gramática Gramática é um conjunto de regras para a composição de frases E.E.S Ruiz (DCM USP) POS 11 / 59

13 Introdução Recordando... Onde estão as regras? Pronominais, por Oswald de Andrade Dê-me um cigarro Diz a gramática Do professor e do aluno E do mulato sabido Mas o bom negro e o bom branco Da Nação Brasileira Dizem todos os dias Deixa disso camarada Me dá um cigarro E.E.S Ruiz (DCM USP) POS 12 / 59

14 Introdução Recordando... GLC e Análise sintática Gramáticas livres de contexto (GLC) de são gramáticas declarativas de LP Mas as GLC não especificam como fazer o parsing Existem diversos tipos de parsers e algoritmos Dois grandes grupos: Top-down parsers Bottom-up parsers E.E.S Ruiz (DCM USP) POS 13 / 59

15 Introdução Recordando... AS: utilidades Verificação gramatical em processadores de texto Estágio intermediário para Análise Semântica Importante para: Tradução automática Sistemas de Question Answering Extração de informação E.E.S Ruiz (DCM USP) POS 14 / 59

16 1 Motivação 2 Introdução Recordando... 3 Parsing Top-down parsing Bottom-up parsing Combinando as duas abordagens Problemas da abordagem combinada E.E.S Ruiz (DCM USP) POS 15 / 59

17 AS: o problema F SN SV Det o N João V comprou Q SN SN todos Det N os livros Encontrar todas as árvores sintáticas com raís em F. Problema de busca, passeio em árvore E.E.S Ruiz (DCM USP) POS 16 / 59

18 AS: distinções Aplicações diferentes, parsers distintos Parsers para linguagens naturais são distintos de parsers para compiladores de linguagens formais. Grande parte da teoria de aplicação de parsers para compiladores não é adequada para PLN E.E.S Ruiz (DCM USP) POS 17 / 59

19 AS: Objetivo S NP VP John V NP loves Mary Encontrar todas as árvores sintáticas com raís em S. Pode haver ambiguidade Condições de contorno: 1 As folhas da árvore devem ser as palavras da frase 2 Árvore deve ter uma raíz S E.E.S Ruiz (DCM USP) POS 18 / 59

20 Uma pequena gramática + léxico (corrigir) Gramática (regras de produção) S NP VP S Aux NP VP S VP NP Det NOM(inal) NOM Noum NOM Noum NOM NP ProperNoum VP Verb VP Verb NP Léxico Det that this a Noum book flight meal money Verb book include prefer Aux does Prep from to on ProperNoum Huston TWA NOM NOM PP E.E.S Ruiz (DCM USP) POS 19 / 59

21 Top-down parsing 1 Motivação 2 Introdução Recordando... 3 Parsing Top-down parsing Bottom-up parsing Combinando as duas abordagens Problemas da abordagem combinada E.E.S Ruiz (DCM USP) POS 20 / 59

22 Top-down parsing Top-down: básico Busca por uma árvore sintática a partir do nó S Explora todos os espaços de busca, os ramos da árvore Assume que a partir de S ele encontrar as folhas no léxico Busca por todas as árvores possíveis E.E.S Ruiz (DCM USP) POS 21 / 59

23 Top-down parsing Top-down: início Parte do nó S e busca todas suas constituintes (sintagmas) derivados Tenta expandir estes sintagmas Busca as derivações mais a esquerda da cadeia de entrada Do início da frase para o final Veja figura a seguir E.E.S Ruiz (DCM USP) POS 22 / 59

24 Top-down parsing Top-down: expansão de árvores Abordagem top-down buscando analisar Book that flight. Só a expansão da quinta árvore da camada mais baixa (VP Verb NP) casará com a frase Book that flight. E.E.S Ruiz (DCM USP) POS 23 / 59

25 Top-down parsing Top-down: comentários LL-parser (com ou sem recursão) é o tipo de top-down mais comum LL-parser interessantes para LP Pode ter O(exp) 1 em GLC ambíguas 1 Complexidade de tempo exponencial E.E.S Ruiz (DCM USP) POS 24 / 59

26 Top-down parsing Top-down: comentários LL-parser (com ou sem recursão) é o tipo de top-down mais comum LL-parser interessantes para LP Pode ter O(exp) 1 em GLC ambíguas Escalabilidade é muito ruim Gramáticas mais amplas: qual árvore escolher? Gramáticas mais rígidas: muitas árvores derivadas, muita memória GLC com 10 regras podem surgir 592 árvores de derivação 1 Complexidade de tempo exponencial E.E.S Ruiz (DCM USP) POS 24 / 59

27 Bottom-up parsing 1 Motivação 2 Introdução Recordando... 3 Parsing Top-down parsing Bottom-up parsing Combinando as duas abordagens Problemas da abordagem combinada E.E.S Ruiz (DCM USP) POS 25 / 59

28 Bottom-up parsing Bottom-up: básico Forma mais antiga de AS (Victor H. Yngve, U. Chicago, 1955) AS inicia pela cadeia de entrada e tenta gerar árvore sintática até S aplicando as regras de produção Sucesso se consegue chagar ao S E.E.S Ruiz (DCM USP) POS 26 / 59

29 Bottom-up parsing Bottom-up: na prática Abordagem top-down buscando analisar Book that flight. Problema: book pode ser verbo ou substantivo Gera duas possíveis árvores de derivação Bottom-up busca o casamento das regras a partir do lado direito das regras de produção Diferente do top-down que busca o lado esquerdo das regras E.E.S Ruiz (DCM USP) POS 27 / 59

30 Bottom-up parsing Bottom-up: expansão de árvores Abordagem top-down buscando analisar Book that flight. E.E.S Ruiz (DCM USP) POS 28 / 59

31 Bottom-up parsing Bottom-up: primeira expansão Abordagem top-down buscando analisar Book that flight. E.E.S Ruiz (DCM USP) POS 29 / 59

32 Bottom-up parsing Bottom-up: segunda expansão Abordagem top-down buscando analisar Book that flight. E.E.S Ruiz (DCM USP) POS 30 / 59

33 Bottom-up parsing Bottom-up: derivações finais Abordagem top-down buscando analisar Book that flight. E.E.S Ruiz (DCM USP) POS 31 / 59

34 Bottom-up parsing Bottom-up: comentários Se a gramática tem múltiplas regras que começam com o mesmo símbolo mas tem produções diferentes Então podemos usar bottom-up determinístico Top-down não é adequado sem backtracking 2 2 Correlacionar com a busca em profundidade. E.E.S Ruiz (DCM USP) POS 32 / 59

35 Bottom-up parsing Bottom-up: + comentários LR parser é um tipo de bottom-up parser que analisa GLC determinística em tempo linear LR criado por Donald Knuth LR é um acrônimo: lê cadeia pela esquerda, regras de produção pela direita LR são determinísticos. Não usam backtracking Existem variações do LR que usam diversas estratégias E.E.S Ruiz (DCM USP) POS 33 / 59

36 Combinando as duas abordagens 1 Motivação 2 Introdução Recordando... 3 Parsing Top-down parsing Bottom-up parsing Combinando as duas abordagens Problemas da abordagem combinada E.E.S Ruiz (DCM USP) POS 34 / 59

37 Combinando as duas abordagens Top-down + bottom-up: Introdução Ambos, top-down e bottom-up, têm suas vantagens e desvantagens Combinação de ambas abordagens é uma estratégia válida Segredo: escolher a melhor característica de cada uma Combinação escolhida: Estratégia de controle: Top-down Filtragem: aspectos do Bottom-up E.E.S Ruiz (DCM USP) POS 35 / 59

38 Combinando as duas abordagens Busca em profundidade Explorando o potencial do Top-down... Usar a busca em profundidade para explorar cada ramo da árvore Buscar uma sub-árvore consistente a cada ramo Se sub-árvore for inconsistente, backtrack Deixar o bottom-up fazer a filtragem (casamento) das folhas E.E.S Ruiz (DCM USP) POS 36 / 59

39 Combinando as duas abordagens Opções da busca em profundidade Árvore de derivação não são especificadas por esta combinação Duas escolhas devem ser feitas: Qual sub-árvore expandir primeiro (pré-ordem, in-ordem, pós-ordem) Qual a ordem de aplicação das regras da gramática E.E.S Ruiz (DCM USP) POS 37 / 59

40 Combinando as duas abordagens Opção: pré-ordem Fazer a busca em profundidade a partir da sub-árvore mais a esquerda Casa com a ordem de entrada das palavras na cadeia de caracteres Quanto às regras: aplicá-las na ordem textual da gramática E.E.S Ruiz (DCM USP) POS 38 / 59

41 Combinando as duas abordagens Derivação top-down depht-first (1/4) Analisar Does this flight include a meal. E.E.S Ruiz (DCM USP) POS 39 / 59

42 Combinando as duas abordagens Derivação top-down depht-first (2/4) Analisar Does this flight include a meal. E.E.S Ruiz (DCM USP) POS 40 / 59

43 Combinando as duas abordagens Derivação top-down depht-first (3/4) Analisar Does this flight include a meal. E.E.S Ruiz (DCM USP) POS 41 / 59

44 Combinando as duas abordagens Derivação top-down depht-first (4/4) Analisar Does this flight include a meal. e segue... E.E.S Ruiz (DCM USP) POS 42 / 59

45 Combinando as duas abordagens Comentários: Derivação top-down depht-first Notem que, a medida que a primeira palavra é aceita um apontador muda para a segunda palavra Se a análise for bem sucedida... A palavra corrente deve ser a primeira palavra nas regras de produção que irão derivar a próxima sub-árvore O parser não pode considerar uma palavra que não esteja na left-corner tree Recorde a figura a seguir: E.E.S Ruiz (DCM USP) POS 43 / 59

46 Combinando as duas abordagens Derivação top-down depht-first (2/4) Analisar Does this flight include a meal. E.E.S Ruiz (DCM USP) POS 44 / 59

47 Combinando as duas abordagens Left-corner rule Considernado A e B não terminais e α terminal A produção A Bα tem B no left-corner se existe uma derivação de A tal que começa com B. E.E.S Ruiz (DCM USP) POS 45 / 59

48 Combinando as duas abordagens Recordando as regras de produção Retornando para a frase: Does this flight include a meal S NP VP S Aux NP VP S VP Aqui é fácil ver que Does só se encaixa na terceira regra e não nas demais E.E.S Ruiz (DCM USP) POS 46 / 59

49 Combinando as duas abordagens Recordando as regras de produção Caso analisássemos a frase: prefer a bagel VP Verb prefer Det NP Noum a bagel A regra S VP deveria anteceder as demais E.E.S Ruiz (DCM USP) POS 47 / 59

50 Problemas da abordagem combinada 1 Motivação 2 Introdução Recordando... 3 Parsing Top-down parsing Bottom-up parsing Combinando as duas abordagens Problemas da abordagem combinada E.E.S Ruiz (DCM USP) POS 48 / 59

51 Problemas da abordagem combinada Problemas da abordagem combinada Mesmo com a abordagem top-down incrementada, o parser ainda sofre de 3 problemas 1 Recursão à esquerda 2 Ambigüidade 3 Parsing repetitivo das sub-árvores E.E.S Ruiz (DCM USP) POS 49 / 59

52 Problemas da abordagem combinada Recursão à esquerda Gramáticas recursivas à esquerda: Formalmente... A αaβ A ɛ Para A não terminal e α e β terminais. Contém um não-terminal para qual existe uma derivação mais à esquerda que inclui o próprio símbolo Regra introduz uma recursão à esquerda que pode levar a um percurso infinito e nunca fazer um backtrack E.E.S Ruiz (DCM USP) POS 50 / 59

53 Problemas da abordagem combinada Recursão à esquerda: exemplo NP NP PP VP VP PP S S and S Reparem que a primeira regra de produção habilita a recursão à esquerda S S S NP VP NP VP NP VP NP PP NP PP NP PP E.E.S Ruiz (DCM USP) POS 51 / 59

54 Problemas da abordagem combinada Recursão à esquerda: Resolvendo o problema Idéia é eliminar a recursão rescrevendo a gramática original transformado-a numa gramática fracamente não recursiva à esquerda Com recursão Sem recursão A A β α A αa A βa ɛ E.E.S Ruiz (DCM USP) POS 52 / 59

55 Problemas da abordagem combinada Recursão à esquerda: Resolvendo o problema Idéia é eliminar a recursão rescrevendo a gramática original transformado-a numa gramática fracamente não recursiva à esquerda Com recursão Sem recursão A A β α A αa A βa ɛ Problema A gramática rescrita pode não mais representar o modo natural de expressão da ĺıngua. E.E.S Ruiz (DCM USP) POS 52 / 59

56 Problemas da abordagem combinada Ambigüidade Novo tipo de ambigüidade: ambigüidade estrutural Gramática associa mais de uma árvore de derivação à uma frase Três tipos se destacam: Ambigüidade por qualificação, aposto, ligação Ambigüidade por coordenação Ambigüidade por sintagmas nominais Vejamos um exemplo de ambigüidade por qualificação: E.E.S Ruiz (DCM USP) POS 53 / 59

57 Problemas da abordagem combinada Ambigüidade estrutural: exemplo Analisando a ambigüidade em: I once shot an elephant in my pajamas. Sentido: While I was wearing my pajamas, I once shot an elephant. E.E.S Ruiz (DCM USP) POS 54 / 59

58 Problemas da abordagem combinada Ambigüidade estrutural: exemplo Analisando a ambigüidade em: I once shot an elephant in my pajamas. Sentido: I once shot an elephant that was in my pajamas. E.E.S Ruiz (DCM USP) POS 55 / 59

59 Problemas da abordagem combinada Ambigüidade: solução Sintagma preposicional é uma grande fonte de ambigüidade SP= locução prepositiva. Modificador de qualquer outro sintagma Exe: Ontem eu e Maria caminhamos pela cidade Desambiguar: problema difícil! Tarefa exige conhecimento estatístico e/ou semântico Possibilidade: usar GLC probabiĺıstica E.E.S Ruiz (DCM USP) POS 56 / 59

60 Problemas da abordagem combinada Parsing repetitivo das sub-árvores Considere S=a flight from NYC to Chicago on Delta O parse ideal é a frase inteira, mas Como usamos a abordagem top-down, depth-first, left-to-right Algumas sub-árvores falham no parse Segundo a ordem, as primeiras regras de produção fomentam árvores que eventualmente não cobrem todos os termos Vários backtrack, os mesmos sintagmas são derivados várias vezes E.E.S Ruiz (DCM USP) POS 57 / 59

61 Problemas da abordagem combinada Outros parsers Não estão no escopo desta aula Parser (algoritmo) de Earley (1970) Programação dinâmica (repartição do problema) Melhorias: recursão à esquerda, ambigüidade e parsing repetitivo Pior caso: O(N 3 ), N número de palavras Cocke Younger Kasami (CYK) parser Trabalha sobre forma normal de Chomsky (FNC) Pior caso: O(N 3 G ), N número de palavras, G tamanho da FNC Top: Parsers probabiĺısticos E.E.S Ruiz (DCM USP) POS 58 / 59

62 Finalizando... Continuem estudando Leiam as notas de aula e os livros texto! E.E.S Ruiz (DCM USP) POS 59 / 59