Distorções Dinâmicas no Tempo & Pesquisa. Distorção dinâmica no tempo Pesquisa Algoritmos gráficos de pesquisa Algoritmos de programação dinâmica

Transcrição

1 Distorções Dinâmicas no Tempo & Pesquisa Distorção dinâmica no tempo Pesquisa Algoritmos gráficos de pesquisa Algoritmos de programação dinâmica 1

2 Casamento de Template Baseado em Palavra Medida de Característica Similaridade Entre Padrões Regra de Decisão Palavra Falada Formato da palavra de Referência Palavra de Saída Representação da palavra inteira: Nenhum conceito explícito de unidades de sub-palavras (por ex., fonemas); Nenhum compartilhamento de palavras cruzadas. Usado tanto para reconhecimento de palavras conjuntas como isoladas. Popular no fim dos anos 70 até metade dos 80. 2

3 Mecanismo Para Casamento do Formato Padrão de teste, T, e padrões de referência, {R 1,..., Rv},são representados por seqüências de características medidas. A similaridade entre padrões é determinada pelo alinhamento padrão de teste, T, com o padrão de referência, R v, com distorção D(T, R v ). A regra de decisão escolhe o padrão de referência, R *,com a menor distorção de alinhamento D(T, R * ). R * = argmin D T, v ( R ) v Distorção dinâmica no tempo (DTW)é usada para calcular o melhor possível alteração no alinhamento, φ v, entre T e R v, e a distorção associada D(T, R v ). 3

4 Exemplo de Alinhamento 4

5 Exemplos de Alinhamento 5

6 Distorção Dinâmica no Tempo (DTW) Objetivo: um alinhamento ótimo entre seqüências de comprimento variável T = {t 1,..., t N } e R = {r 1,..., r M }. A distorção total D(T, R) é baseada na soma das distâncias locais entre elementos d(t i, r j ). Uma alteração particular de alinhamento particular, φ, alinha T e R via um mapeamento ponto a ponto, φ =(φ t,φ r ), de comprimento K φ. t φ ( k ) r ( k ) 1 k k t t φ O alinhamento ótimo minimiza a distorção total r D(T, R) = ( T R) min D, φ 1 D φ (T, R) = M φ φ d ( t, r ) ( k ) ( k ) φ t φ r m k 6

7 Problemas Com o DTW Restrições nos pontos extremos: φ t (1) = φ (1) = 1 φ t (K)= N φ r (K)= M Monoticidade: φ t (k +1) φ t (k) φr (k +1) φr (k) Pesos de caminhos, m k, podem influenciar o formato do caminho ótimo. Fator de normalização do caminho, M φ, permite a comparação entre diferentes alterações (por ex., com diferentes comprimentos). M φ = K φ K = 1 m k 7

8 Problemas Com o DTW: Continuidade Local Restrições locais determinam a flexibilidade do alinhamento. 8

9 Problemas Com o DTW: Restrições Globais Restrições locais excluem porções do espaço,de pesquisa. 9

10 Calculando o Alinhamento 10

11 Representação Gráfica do Espaço de Pesquisa Espaços de Pesquisa podem ser representados como gráficos dirigidos. Caminhos através um gráfico podem ser representados como uma árvore. 11

12 Árvores do Espaço de Pesquisa 12

13 Algoritmos gráficos de pesquisa Métodos iterativos usando uma fila para armazenar caminhos parciais; Em cada iteração o caminho parcial de topo é removido da fila é expandido de um nível; Novas expansões são colocadas de volta na fila; A pesquisa é completada quando o objetivo é alcançado. O comprimento da fila é potencialmente não limitado. Gráficos Pesados podem ser pesquisados para achar o melhor caminho. Algoritmos Admissíveis garantem a determinação do melhor caminho. Muitos problemas de pesquisa baseados na voz podem ser configurados para caminhar no tempo sincronamente. 13

14 Pesquisa em Profundidade Pesquisa o espaço considerando apenas um caminho por vez. A fila não é reordenada ou cortada. Não conveniente para espaços com longos caminhos sem saída. Geralmente não usados para achar o melhor caminho. 14

15 Exemplo Pesquisa em Profundidade 15

16 Pesquisa em Paralelo Pesquisa o espaço seguindo todos o caminhos em paralelo. Expansões do caminho são colocadas no final da fila. A fila não é reordenada ou esvaziada. A fila pode crescer rapidamente em espaços com muitos caminhos. Não é geralmente utilizada para achar o melhor caminho. Pode se tornar mais efetiva com cortes. 16

17 Exemplo de pesquisa em paralelo 17

18 Pesquisa primeiro o melhor Usada para pesquisar gráfico com pesos. Uses um critério agressivo (step-wise), onde cada iteração expande o melhor caminho corrente. Em cada iteração, a fila é reordenada de acordo com a pontuação acumulativa de cada caminho. Se a pontuação do caminho exibe um comportamento monotônico, (por ex, d(t i, r j ) 0), a pesquisa pode terminar quando um caminho completo tem uma pontuação melhor que todos os caminhos ativos parciais. 18

19 Representação Árvore (com pontuação nos nós) 19

20 Representação Árvore (com pontuação cumulativa) 20

21 Exemplo: Pesquisa o Melhor Primeiro 21

22 Cortando Caminhos Parciais Ambos os algoritmos o agressivo e programação dinâmica podem tomar vantagem da subestrutura ótima: Seja φ(i, j) o melhor caminho entre nós i e j, Se k é um nó em φ(i, j): φ(i, j) = {φ(i, k), φ(k, j)} Seja ϕ (i, j) o custo de φ(i, j): min ϕ(i, j) = (ϕ(i, k) + ϕ(k, j)) k Soluções para subproblemas precisam ser calculadas somente uma vez. Enlaces parciais sub-ótimos podem ser descartados enquanto mantemos admissibilidade da pesquisa. 22

23 Pesquisa Primeiro o Melhor Com Cortes 23

24 Estimando Pontuações Futuras Pontuações de caminhos parciais, ϕ(1,i), podem ser ampliadas com futuros estimadores, ϕˆ (i), do custo remanescente ϕˆ ϕ φ.= ϕ(1, i) + (i) Se (i) é o sub-estimador do custo remanescente, caminhos adicionais podem ser cortados enquanto mantemos a admissibilidade da pesquisa. A * pesquisa usa: Estratégia de pesquisa melhor-primeiro, Corte, Futuros estimadores. ϕˆ 24

25 Representação Árvore (com futuros estimadores) 25

26 Um Exemplo de Pesquisa 26

27 Pesquisa N-Melhor Usada para calcular os N-caminhos de topo, Pode ser re-pontuada por técnicas mais sofisticadas, Tipicamente utilizada em nível de sentença. Pode usar pesquisa modificada para classificar os caminhos. Não há corte de caminhos parciais, Caminhos completados são removidos da fila, Pode usar um limiar para cortar enlaces, e ainda identificar violações de admissibilidade, Pode também ser utilizado para produzir um gráfico, Métodos alternativos podem ser usados para calcular as N- melhores (por ex., assíncrono DP). 27

28 Exemplo Pesquisa N-Melhor 28

29 Programação Dinâmica (DP) Algoritmos DP não empregam uma estratégia agressiva. Algoritmos DP tipicamente tomam vantagem de estruturas sub ótimas e superposição de subproblemas arranjando a pesquisa para resolver o subproblema somente uma única vez. Pode ser implementado eficientemente: Nó j retém somente o custo do melhor caminho de todos ϕ(i, j), A id. do melhor nó anterior é necessária para recuperar o melhor caminho. Pode ser síncrono ou assíncrono no tempo. DTW e Viterbi são pesquisas síncronas no tempo e são semelhantes à paralela com corte. 29

30 Exemplo: DP Síncrono no Tempo 30

31 Pesquisa de Variações Não Admissíveis Pode usar um feixe amplo para cortar hipóteses correntes, A largura do feixe pode ser estática ou dinâmica baseada na pontuação relativa. Pode usar uma aproximação para baixar o limite nas A * computações para frente determinar o N-melhor, Pesquisa não é admissível, mas pode ser útil na prática. 31

32 Exemplo Pesquisa Feixe 32

33 Referências Cormen, Leiserson, Rivest, Introduction to Algorithms, 2 nd Edition, MIT Press, Huang, Acero, and Hon, Spoken Language Processing, Prentice- Hall, Jelinek, Statistical Methods for Speech Recognition. MIT Press, Winston, Artificial Intelligence, 3rd Edition, Addison-Wesley,