Análise e Técnicas de Algoritmos divisão. divisão. combina. combina. Análise e Técnicas de Algoritmos

Transcrição

1 genda nálise e Técnicas de lgoritmos Conceitos ásicos Template Genérico Exemplos Jorge Figueiredo Divisão e Conquista Motivação Pegar um problema de de entrada grande. Quebrar a entrada em pedaços menores (DIVISÃO). Resolver cada pedaço separadamente. (CONQUIST) Como resolver os ospedaços? Combinar os osresultados. divisão divisão combina combina MergeSort Técnica técnica de de divisão e conquista consistem de de passos básicos:.. Divisão: Dividir o problema original, em subproblemas menores... Conquista: Resolver cada subproblema recursivamente... Combinação: Combinar as as soluções encontradas, compondo uma solução para o problema original. Técnica lgoritmos baseados em divisão e conquista são, em geral, recursivos. maioria dos algoritmos de de divisão e conquista divide o problema em a subproblemas da da mesma natureza, de de tamanho n/b. T(n) = a. a. T(n/b) + g(n) Teorema Master para fazer análise. Vantagens: Requer um número menor de de acessos à memória. São altamente paralelizáveis. Se Se existem vários processadores disponíveis, a estratégia propicia eficiência.

2 Quando Utilizar DeC? Existem três condições que indicam que a estratégia de de divisão e conquista pode ser utilizada com sucesso:.. Deve ser possível decompor uma instância em subinstâncias... combinação dos resultados deve ser eficiente... s s sub-instâncias devem ser mais ou ou menos do do mesmo tamanho. Quando Utilizar DeC? É possível identificar pelo menos duas situações genéricas em que a abordagem por divisão e conquista é adequada:.. Problemas onde um grupo de de operações são correlacionadas ou ou repetidas. multiplicação de de matrizes, que veremos a seguir, é um exemplo clássico... Problemas em que uma decisão deve ser tomada e, e, uma vez tomada, quebra o problema em peças disjuntas. Em especial, a abordagem por divisão-e-conquiasta é interessante quando algumas peças passam a ser irrelevantes. lgoritmo Genérico DivisãoeConquista(x) if x é pequeno ou simples do return resolver(x) else decompor x em conjuntos menores x, x, x n for i to n do y i DivisãoeConquista(x i ) i i + combinar y i s return y Exemplo O problema consiste em em encontrar o maior elemento de de um um array [..n] Solução Ingênua Maxim([..n]) max [] for i to n do if [j] > max then max [i] return max Exemplo Exemplo O problema consiste em em encontrar o maior elemento de de um um array [..n] O problema consiste em em computa a n n,, em em que que n N. N. Solução Ingênua Maxim([..n]) maior [] for i to n do if [j] > maior then maior [i] return maior Solução DeC Maxim([x..y]) if x y then return max([x], [y]) else m x+y/ v Maxim([x..m]) v Maxim([m+..y]) return max(v, v) Solução Ingênua Pow(a, n) p a for i to n do p p a return p Solução DeC Pow(a, n) if n= then return if n é par then return Pow(a, n/) Pow(a, n/) else return Pow(a,n-/) Pow(a, n-/) a

3 Multiplicação de Inteiros Grandes Multiplicação de Inteiros Grandes O problema consiste em multiplicar dois números inteiros grandes. multiplicação clássica (a (a que aprendemos fazer na na escola) requer tempo Θ(n ). ). Isso porque fazemos multiplicação dígito a dígito. Solução lternativa por Divisão e Conquista Para evitar maiores complicações, vamos assumir que o número de de dígitos em cada número é potência de de.. multiplicação de de um número por um número pode ser efetuada dividindo-se o número original em dois super-dígitos e procedendo a multiplicação.. wy : w x : y wz xy z xz wy wz + xy xz n n/ n/ Multiplicação de Inteiros Grandes Mult(,) = Mult(w,y). m m + (Mult(w,z)+Mult(x,y)). m + Mult(x,z) multiplicação por m pode ser vista como o deslocamento de de m posições para a direita. s s adições envolvidas tomam tempo Θ(n) cada. multiplicação de de dois inteiros longos é o resultado de de produtos de de inteiros de de tamanho metade do do valor original, e um constante número de de adições e deslocamentos, com tempo Θ(n). Multiplicação de Inteiros Grandes Uma solução por divisão e conquista:.. Divisão: Dividir cada número em dois números com metade da da quantidade de de dígitos... Conquista: Proceder a multiplicação das quatro partes... Combinação: Combinar os os resultados com deslocamento e adições. análise do do algoritmo que utiliza divisão e conquista requer a solução da da seguinte relação de de recorrência: T(n) =.T(n/) + Θ(n) Θ(n )) Multiplicação de Inteiros Grandes Uma Solução por Divisão e Conquista Mais Eficiente Por que não temos a eficiência desejada? Ora, temos multiplicaçõs de de números de de tamanho n/. solução seria reduzir o número de de multiplicações? Isso é verdade pois sabemos que a adição e deslocamentos contribui com Θ(n). Se Se observarmos mais detalhadamente, podemos reduzir para três o número de de multiplicações: C= wy wy D= xz xz E= (wz + xy) Multiplicação de Inteiros Grandes C= Mult(w,y) D= Mult(x,z) E= Mult((w+x, y+z)) C D = (wy+wz+xy+xz)-wy-xz=(wz + xy) Logo, Mult(,) = C. m m + E. m + D No total, fazemos multiplicações, adições e subtrações de de números com n/ dígitos. É necessário ainda fazer deslocamentos mas, tudo isso representa Θ(n). T(n) =.T(n/) + Θ(n) T(n) é Θ(n ))

4 Multiplicação de Matrizes Objetivo é multiplicar duas matrizes n n. Por exemplo, no no caso de de n=, é necessário efetuar 8 multiplicações. ( ( x x,, em que x = log 8 8 )) lgoritmo de Strassen Strassen mostrou que um multiplicação de de matrizes x pode ser feita com 7 multiplicações e 8 8 operações de de adição e subtração.( log log 7 = = )) Redução feita usando divisão e conquista. C = a b + a b = R C = a b + a b C = a b + a b = C = a b + a b lgoritmo de Strassen lgoritmo de Strassen P = ( + )( + ) P = ( + ) * P = * ( - ) P = * ( - ) P 5 = ( + ) * P 6 = ( - ) * ( + ) P 7 = ( - ) * ( + ) C = P + P -P 5 + P 7 C = P + P 5 C = P + P C = P + P -P + P 6 C = P + P -P 5 + P 7 = ( + )( + ) + * ( - ) - ( + ) * + ( - ) * ( + ) = = + Menor Distância Entre Pontos Menor Distância Entre Pontos Distância Euclideana y ( x ), y y ( ) x, y Closest Pair Entrada: Um conjunto de pontos np = <p, p,..., pn, em duas dimensões. Saída: O par de pontos p e p que apresenta a menor distância euclideana. x x ( x, y ) ( x y ) = ( x x ) + ( y y ),

5 Menor Distância Entre Pontos Menor Distância Entre Pontos d Menor Distância Entre Pontos Solução Força ruta é O(n ). ). Vamos assumir: Não existem pontos com a mesma coordenada x. x. Não existem pontos com a mesma coordenada y. y. Como resolver este problema considerando D? É possível aplicar Divisão e Conquista? Menor Distância Entre Pontos D Como dividir em sub-problemas? Ordenar de de acordo com a coordenada x e dividir em duas partes: esquerda e direita. Menor Distância Entre Pontos D Menor Distância Entre Pontos D Resolver recursivamente cada sub-problema, obtendo d l e l d r. r. O que podemos observar? Já Játemos a menor distância em cada uma das partes. Fazer d= d= min{d l, l, d r }. r }. Falta analisar distância entre pontos de de sub-problemas distintos. Devemos analisar todos os os casos? Somente pontos que se se encontram em uma faixa de de tamanho d d em torno da da linha divisória. 5

6 Menor Distância Entre Pontos D Qual a quantidade de de pontos que se se encontram dentro da da faixa de de tamanho d? Se Se considerarmos um p P l, l, todos os os pontos de de P rr que devem ser considerados devem estar em um retângulo R de de dimensões d d. Menor Distância Entre Pontos D Como determinar os os seis pontos? Projeção de de pontos nos eixos x e y. y. Pode-se fazer isso para todo p P ll e P r r,, em O(n) (pontos ordenados). Relação de de recorrência é T(n)=.T(n/) + O(n) Sabemos que isso é O(n.log n) n) d d R d R d d d ClosestPair(P) Pré-processamento Construir P x e P y como listas ordenadas pelas coordenadas x e y Divisão Quebrar P em P l e P r Conquista d l = ClosestPair(P l ) d r = ClossetPair(P r ) Combinação d= min{d l, d r } Determinar faixa divisória e pontos Verificar se tem algum par com distância < d 6

7 genda nálise e Técnicas de lgoritmos Jorge Figueiredo Problemas de de otimização Conceitos ásicos O Problema da da Mochila Fracionária Template Genérico Exemplos: Código de de Huffman lgoritmos Gulosos (Greedy) Problemas de Otimização Muitos problemas consideram o conceito de de maximizar ou ou minimizar um determinado valor: Como uma empresa de de mudança deve alocar os osmóveis em um caminhão baú? Como uma companhia telefônica deve rotear chamadas de de modo a fazer um melhor uso de de suas linhas e conexões? Como alocar as as disciplinas para melhor utilizar as as salas do do REENGE? Características: Problemas que podem apresentar diversas soluções. Solução formada por uma seqüência de de decisões. Um valor ou oucusto é associado a cada solução. cha solução com custo ótimo. Exemplo : Cálculo do Trôco Descrição: Seja E= {e {e,, e,,...,..., e n }},, e > e >...> e n,, um conjunto de de n denominações de de moedas (ou cédula), e M um valor positivo que representa o trôco. Problema: Fornecer o montante M com o menor número de de moedas. Seqüência de de decisões: Escolher rr,, depois rr,,... Exemplo : Problema da Mochila Descrição: Temos n objetos com pesos p,, p,,...,..., p n e lucros l l,, l l,,...,..., l n l.. Temos ainda uma mochila de de capacidade M. M. Se uma fração x i i ( ( x i i ) ) do do objeto iifor for colocada na na mochila, resulta em um lucro x i i l i l. i. Problema: Maximizar o lucro que pode ser levado na na mochila. Seqüência de de decisões: Escolher primeiro objeto, escolher segundo objeto, Exemplo : Escalonamento de Tarefas Descrição: Seja E um conjunto de de n tarefas. ssociamos a cada tarefa um tempo de de execução. Fazer o escalonamento das tarefas. Problema: Minimizar o tempo médio de de finalização das tarefas. Seqüência de de decisões: Escolher primeira tarefa, escolher segunda tarefa,......

8 Exemplo : Caixeiro Viajante Descrição: Seja G=(V, E) E) um grafo dirigido ponderado. Seja n o número de de vértices e v o vértice de de origem. Problema: char uma turnê de de custo mínimo, começando em v.. Seqüência de de decisões: partir de de v qual é o primeiro vértice do do ciclo, o segundo vértice, Método Guloso Decisões tomadas de de forma isolada em cada passo. Estratégia de de pegar o melhor no no momento: Solução ótima local. Quando o algoritmo termina, espera-se que a solução ótima tenha sido encontrada: lguns problemas são resolvidos de de forma ótima. Outros apresentam soluções bem pobres. Exemplo : Cálculo do Trôco Exemplo : locação de tarefas Descrição: Seja E= {, 5,, 5, 5, } },, e M um valor positivo que representa o trôco. Estratégia Greedy: No passo i, i, escolher rr i i = j, j, tal tal que e j j M e e j- j- > M e subtrair e j j de de M para o próximo passo. É possível provar que a estratégia gulosa funciona neste caso. mesma estratégia funciona para E= {, 5,, } }? Descrição: Seja T= T= {(T, 5), (T, 8), 8), (T, ), ), (T, )}.. Considerar um único processador e alocação não preemptiva. Qual a melhor forma de de alocar essas tarefas para minimizar o tempo médio de de execução. Estratégia Greedy : : ordem de de chegada. Estratégia Greedy : : ordem crescente do do tempo de de execução. É possível provar que a estratégia sempre apresenta a solução ótima? Exemplo : Seleção de atividades O problema consiste em escolher entre atividades que competem por uso exclusivo de de um recurso em comum. Por exemplo, o uso de de uma sala de de aula. Conjunto de de atividades S={a,,.,, a n }. }. a iinecessita do do recurso durante o período [[ s i i,, ff i i )),em, que s i i = tempo inicial e ff i i = tempo final. Objetivo: selecionar o maior número possível de de atividades compatíveis (sem overlap de de períodos). Exemplo : Seleção de atividades ssumir que estão ordenadas de de forma crescente do do tempo final. () () C () E () D (5) F (6) G (7) H (8) Tempo

9 Exemplo : Seleção de atividades Exemplo : Seleção de atividades () Seleçãotividades(s, f) n length(s) {} j for i to n do if s i f j then {i} j i return C () () E () D (5) F (6) G (7) H (8) Tempo Exemplo : Seleção de atividades Exemplo : Seleção de atividades () () C () C () () () E () E () D (5) D (5) F (6) F (6) G (7) H (8) Tempo G (7) H (8) Tempo () Exemplo : Seleção de atividades Exemplo : Seleção de atividades () C () () E () D (5) F (6) () C () () E () D (5) F (6) G (7) H (8) Tempo G (7) H (8) Tempo C () ()

10 Exemplo : Seleção de atividades Exemplo : Seleção de atividades () () C () C () () () E () E () D (5) D (5) F (6) F (6) G (7) H (8) Tempo G (7) H (8) Tempo E () E Exemplo : Seleção de atividades Exemplo : Seleção de atividades () () C () C () () () E () E () D (5) D (5) F (6) F (6) G (7) H (8) Tempo G (7) H (8) Tempo D (5) E F (6) E Exemplo : Seleção de atividades Exemplo : Seleção de atividades () () C () C () () () E () E () D (5) D (5) F (6) F (6) G (7) H (8) Tempo G (7) H (8) Tempo G (7) E H (8) E

11 Exemplo : Seleção de atividades Exemplo : Seleção de atividades () C () () E () D (5) F (6) G (7) H (8) Tempo Como provar que a solução sempre produz uma solução ótima? Provar que existe uma solução ótima que começa com a atividade.. Mostrar que se se existir uma solução ótima que não utiliza a nossa estratégia gulosa, a nossa solução é tão boa quanto.. E H Elementos da Estratégia Gulosa Existem dois elementos que indicam que a estratégia gulosa pode ser utilizada com sucesso:.. Propriedade de de Escolha Gulosa: Uma solução ótima global pode ser obtida a partir de de escolhas locais ótimas... Sub-estrutura ótima: se se uma solução ótima contém dentro dela soluções ótimas para os os sub-problemas. O Problema da Mochila Fracionária S = {(item,, 8, 5), (item,, 5, ), (item,,, 5)} e W= R$5 R$ R$5 W = Kg 8 Kg 5 Kg Kg item item item Mochila O Problema da Mochila Fracionária Greedy : : maximizar o lucro a cada passo Greedy : (, /5, ) :: Lucro de R$ 8, O Problema da Mochila Fracionária Greedy : : conservar a capacidade Greedy : (, /, ) :: Lucro de R$ R$5 R$ R$5 W = Kg R$, R$5 R$ R$5 W = Kg R$6 R$5 R$5 8 Kg 5 Kg Kg 8 Kg 5 Kg Kg item item item Mochila item item item Mochila 5

12 O Problema da Mochila Fracionária lgoritmo Guloso para Mochila Fracionária Greedy : : maximiza lucro por unidade de de peso R$5 8 Kg R$ 5 Kg R$5 Kg W = Kg Greedy : (,, /) :: Lucro de R$,5 R$7,5 R$ MochilaFracionaria(L, P, W) objetos em ordem decrescente de l/p cap W i while p i cap do x i cap cap - p i i i + x i cap/p i for j i + to n do x j item item item Mochila Prova do Greedy Revendo a Estratégia Gulosa solução gulosa tem a seguinte cara: <,,,,,, c, c,,,,,, > > em que a seqüência de de s tem tamanho k-, e c <.. Observando dois itens consecutivos, se se x i i < x i + i + =.. idéia da daprova é partir de de uma solução ótima e transformála na nanossa solução gulosa: Seja <y <y,, y,,, y n > uma solução ótima. Se essa não é a solução gulosa, existe um iiem que y i i la < e y i+ i+ >.. Encontrar <y,, y y,,, y y n > mais parecido com x. x. Repetir o processo até alcançar a solução gulosa. Os algoritmos que utilizam a estratégia gulosa são simples e de de fácil implementação. bordagem top-down. spectos importantes: Custo de de uma solução. Objetivo do do problema. Escolha gulosa. lgoritmo Guloso Cálculo do Trôco lgoritmo Guloso Cálculo do Trôco CalculaTroco(M) C {, 5,, 5, } S soma while soma M do X maior valor de C soma + X M if item não existe then return sem solução S S {uma moeda de valor X} soma soma + X return S Lista de Candidatos CalculaTroco(M) C {, 5,, 5, } S soma while soma M do X maior valor de C soma + X M if item não existe then return sem solução S S {uma moeda de valor X} soma soma + X return S 6

13 lgoritmo Guloso Cálculo do Trôco lgoritmo Guloso Cálculo do Trôco Lista de elementos escolhidos CalculaTroco(M) C {, 5,, 5, } S soma while soma M do X maior valor de C soma + X M if item não existe then return sem solução S S {uma moeda de valor X} soma soma + X return S Função VIILIDDE CalculaTroco(M) C {, 5,, 5, } S soma while soma M do X maior valor de C soma + X M if item não existe then return sem solução S S {uma moeda de valor X} soma soma + X return S lgoritmo Guloso Cálculo do Trôco lgoritmo Guloso Cálculo do Trôco Função SOLUÇÃO CalculaTroco(M) C {, 5,, 5, } S soma while soma M do X maior valor de C soma + X M if item não existe then return sem solução S S {uma moeda de valor X} soma soma + X return S lgoritmoguloso(c) C conjunto de candidatos S while C e!solução(s) do X SELEÇÃO(C) C C\{X} if VIILIDDE(S {X}) then S S {X} if SOLUÇÃO(S) then return S else return não tem solução Código de Huffman O lgoritmo de Huffman Exemplo: rquivo de de. caracteres (a, (a, 5), (e, (e, 5), (i, (i, ), (s, (s, 7),(t, 5), 5), (b, (b, ), (n, (n, ) ) Usando SCII extendido (8 (8 bits): 8. bits Usando código fixo de de bits:. bits Usar código de de tamanho variável? Uma possível solução para o problema de de Compressão de de rquivos. Idéia é usar código de de tamanho variável. Uso de de código prefixo. Uso de de árvore binária Vamos assumir que o número de de caracteres é C. C. Manter uma floresta de de árvores. O peso de de uma árvore é a soma das freqüências de de suas folhas. C vezes, selecionar as as duas árvores de de menor peso e formar uma nova árvore. No início do do algoritmo, existem C árvores de de apenas um nó. No final temos apenas uma única árvore. árvore com o código de de Huffman. 7

14 a = e = i i = s s = t t = Exercício Problema dos Postos de de gasolina: Input: D = [d [d,d,d,...,d n ]]:: distâncias entre postos de de gasolina k :: autonomia (em km) do do tanque de de gasolina do do carro Output: Postos selecionados para abastecer o carro (o (o número de de paradas seja o menor possível) ssumir: i i n d i i k d i i é a distância entre postos i- i- e ii Inicia com o tanque cheio EncontraPostos(P) S Ø last for i = to n do if (d i + last > k) S S {p i- } last d i last last + d i return S Escolha da Propriedade Gulosa Subestrutura Ótima Seja S = {s {s,, s,,... s k } k } uma uma solução ótima. Suponha que que g seja seja a primeira parada determinada pelo pelo nosso algoritmo. Temos que que mostrar que que existe uma uma solução ótima com com a primeira parada sendo g. g. Se Se s = g, g, então S é essa solução. Se Se s g, g, como o nosso algoritmo escolha o posto mais distante possível, s está estáantes de de g. g. Podemos dizer que que S S = {{ g, g, s,,..., s k } k } é uma uma solução ótima: Observe que que S S = S. S. S S é válido (i.e. (i.e. não não vamos ficar ficar sem sem gasolina). Por Por definição da da escolha gulosa, podemos alcançar g. g. Como a distância entre g e s não não é maior do do que que a distância entre s e s,, temos combustível suficiente para para sair sair de de g para para s.. O resto de de S S é igual a S. S. Logo é uma uma resposta válida. Seja P o problema original com uma solução ótima S. S. pós parar no no posto g, g, a uma distância d i, i, o subproblema P P que resta de de d i+ i+ para d n é o mesmo problema, com a diferença da da cidade de de origem. Seja S S uma solução ótima para P. É fácil perceber que Custo(S) = Custo(S ) +.. Logo, uma solução ótima para P inclui uma solução ótima para P. 8

15 Motivação nálise e Técnicas de lgoritmos Jorge Figueiredo Números de Fibonacci Entrada: Um número inteiro n. Saída: O número de Fibonacci Fn, definido da seguinte forma: F =, F =, Fn = Fn- + Fn- para n. Solução clássica utiliza recursão Programação Dinâmica Fib(n) if n then return n return Fib(n ) + Fib(n - ) Sobre a Solução presentada Sobre a Solução presentada Sabemos provar a corretude do do algoritmo. nálise através da daresolução de de uma relação de de recorrência: T(n) = T(n ) ) + T(n ) ) + c O( n )) Solução ineficiente. Qual o motivo da daineficiência? F F5 F F F F F F F F F F F F F Sobre a Solução presentada Cálculo repetido, desnecessário!!! F5 inda Sobre Fibonacci Solução alternativa: Utilizar um array f[,...,..., n] n] para guardar os osvalores calculados. Inicialmente, ffcontém apenas símbolos especiais.. F F F F F F Fib(n) if f[n] then return f[n] if n then return f[n] n return f[n] Fib(n ) + Fib(n - ) F F F F F F F F

16 inda Sobre Fibonacci inda Sobre Fibonacci F5 F5 F F F F F F inda Sobre Fibonacci inda Sobre Fibonacci F5 F5 F F F F F F F F F F F F F F inda Sobre Fibonacci inda Sobre Fibonacci F5 F5 F F F F F F F F F F F F F F F F

17 inda Sobre Fibonacci inda Sobre Fibonacci F5 F5 F F F F F F F F F F F F F F F F inda Sobre Fibonacci inda Sobre Fibonacci F5 F5 F F F F F F F F F F F F F F F F inda Sobre Fibonacci inda Sobre Fibonacci F5 F5 F F F F F F F F F F F F F F F F 5

18 inda Sobre Fibonacci inda Sobre Fibonacci F F5 F Uma outra solução alternativa: Eliminar as as chamadas recursivas. Utilizar o array para armazenar dados calculados. Estratégia bottom-up. F F F F F F 5 Fib(n) f[] f[] for i to n do f[i] f[i ] + f[i - ] return f[n] nálise das Soluções lternativas É fácil identificar que Fib é O(n). Fib étambémo(n). é Tratar pilha de de recursão. bordagem utilizada: Encontrar função recursiva apropriada. dicionar memorização para armazenar resultados de de subproblemas. Determinar uma versão bottom-up, iterativa. Programação Dinâmica plicado quando recursão produz repetição dos mesmos subproblemas. Proposta: reusar computação. PD = DC + tabela. Versão bottom-up é mais compacta e fácil de de efetuar análise. Estratégia utilizada em problemas de de otimização. Fib é PROGRMÇÃO DINÂMIC!!!!! Exemplo: Número de Combinações Número de Combinações Entrada: Dois números inteiros n e r, em que n indica o número de elementos dos quais tenho que escolher r. Saída: O número possível de combinações de r itens. lgoritmo aseado em Divisão e Conquista Para escolher rritens de de n, n, podemos proceder de de duas formas: Escolher o primeiro item. Depois escolher r- r-itens dos n- n-itens restantes. Não escolher o primeiro item. Escolher, então, rritens dos n- n- itens restantes. Escolha(r, n) if r = ou n = r then return else return Escolha(r-, n-) + Escolha(r, n-)

19 nálise do lgoritmo DeC lgoritmo Utilizando Programação Dinâmica análise do do algoritmo requer a resolução da da seguinte relação de de recorrência: T(n) =.T(n-) + c. c. T(n) = O( n ). ). Da mesma forma que no no exemplo de de Fibonacci, essa solução faz cálculos repetidos. Solução: Programação Dinâmica. Escolha(r, n) for i to n-r do T[i, ] for i to r do T[i, i] for j to r do for i j+ to n-r+j do T[i, j] T[i-, j-] + T[i-, j] return T[n, r] Considerações sobre o lgoritmo PD Tabela pós o Preenchimento Inicial O(n.r) Duas partes: Primeira parte relacionada com o caso base: inicialização da da tabela. Segunda parte define como o restante da da tabela deve ser preenchida. Tabela: T[n, r]. r]. O valor armazenado na na célula T[i, j] j] indica o número possível de de combinações de de escolher jjitens dentre iiitens. n-r r n resultado Caminhamento e Padrão de Preenchimento Caracterização de PD n-r r i- j- j i + Quando a estratégia de de DeC gera um número grande de de problemas idênticos, recursão se se torna muito caro. Melhor armazenar as as soluções parciais em uma tabela. Como transformar DeC em PD: parte do do algoritmo que corresponde a conquista (recursão) deve ser substituída por olhada na na tabela. Em vez de de retornar um valor, armazená-lo na na tabela. Caso base para iniciar a tabela. Determinar padrão de de preenchimento do do restante da da tabela. n resultado 5

20 Quando plicar Programação Dinâmica plicar em problemas que, em princípio, parece requerer muito tempo para ser resolvido (em geral é de de ordem exponencial). Principais características: Princípio da daotimalidade (subproblemas ótimos): o valor ótimo global pode ser definido em termos dos valores ótimos dos subproblemas. Overlap de de Subproblemas: os ossubproblemas não são independentes. Existe um overlap entre eles (logo, devem ser construídos bottom-up). Exemplo: Mochila inária Considere n itens de de tamanhos s,, s,,...,..., s n.. Existe um subconjunto destes itens cuja soma total é exatamente S? s s s s s5 s6 s7 S Exemplo: Mochila inária Considere n itens de de tamanhos s,, s,,...,..., s n.. Existe um subconjunto destes itens cuja soma total é exatamente S? s s s s s5 s6 s7 S Exemplo: Mochila inária Podemos generalizar para situações em que temos iiitens e o tamanho da da mochila é j. j. Para saber se se retornamos verdadeiro, temos que investigar duas possibilidades: O O i-ésimo item é usado para completar o tamanho j. j. O O i-ésimo item não é utilizado para completar o tamanho j. j. jj é alcançado com i- i- itens. Solução: Utilizar uma tabela T[n, S] S] para armazenar TRUE se se é possível completar exatamente S com n primeiros elementos. T[i, j] j] = T[i, j j s i ] i ] ou ou T[i-, j] j] lgoritmo DeC: Mochila inária lgoritmo PD: Mochila inária Mochila(i, j) if i = then return (j=) else if Mochila(i-, j) then return true else if s i j then return Mochila(i-, j s i ) Mochila(n, S) T[, ] = true for j to S do T[, j] false for i to n do for j to S do T[i, j] T[i-, j] if j s i then T[i, j] T[i, j] v T[i-, j s i ] return T[n, S] 6

21 Programação Dinâmica Maior Subseqüência Comum (LCS) Mais eficiente do do que o método da daforça bruta, quando existe overlap de de subproblemas. Divisão-e-Conquista + memória. Características: Subestrutura ótima. Tabela. ottom-up. Maior Subseqüência Comum X= { C D }, Y= { D C } Maior Subseqüência comum é: X = C D Y = D C Solução para LCS solução usando PD Solução força bruta: comparar cada subseqüência de de X com os ossímbolos de de Y. Y. Se X X = m, m, Y Y = n: n: m subseqüências de de X Solução força bruta é O(n m )) LCS exibe subestrutura ótima: soluções de de subproblemas fazem parte da dasolução final. Existe melhor idéia? char LCS para prefixos de de X e Y Sejam X i, i, Y j j prefixos de de X e Y de de tamanhos iie jj respectivamente c[i,j] éo tamanhodalcs de de X i i e Y j j Logo, LCS de de X e Y vai ser guardado em c[m,n] Como definir uma solução recursiva para c[i,j]? Solução Recursiva Solução Recursiva c[ i, j ] + c[ i, j] = max( c[ i, j ], c[ i, j]) if x[ i] = y[ j], otherwise c[ i, j ] + c[ i, j] = max( c[ i, j ], c[ i, j]) if x[ i] = y[ j], otherwise Caso base: i i = j j = (substrings vazios de de X e Y) Y) Se X e/ou Y são strings vazios: para todo iie j: j: c[, j] j] = c[i,] = Primeiro Caso: x[i]=y[j]: mais um símbolo em X e Y confere. Logo, LCS para X i i e Y j j é igual ao aolcs de de X i- i- e Y i- i-,, mais.. 7

22 Solução Recursiva O lgoritmo c[ i, j ] + if x[ i] = y[ j], c[ i, j] = max( c[ i, j ], c[ i, j]) otherwise Segundo caso: x[i] y[j] Se os ossímbolos não casam, não podemos melhorar a nossa resposta: (i.e. max(lcs(x i, i, Y j- j- )) e LCS(X i- i-,y,y j )). j )). Por que não repetir LCS(X i-, Y j- )? LCS(X, Y) m length(x) n length(y) for i to m do c[i, ] for j to n do c[, j] for i to m do for j to n do if (X i == Y j ) then c[i, j] c[i-, j-] + else c[i, j] max(c[i-, j], c[i, j-]) return c[m, n] Exemplo Considere: X = C Y = DC Determine o tamanho da LCS de X e Y. i Exemplo j 5 Yj D C Xi C X = C; m = X = Y = DC; n = Y = 5 C DC Exemplo: caso base Exemplo: primeiro valor i j 5 Yj D C Xi C for i = to m c[i,] = for j = to n c[,j] = C DC i j 5 Yj D C Xi C if ( X i == Y j ) c[i,j] = c[i-,j-] + else c[i,j] = max( c[i-,j], c[i,j-] ) C DC 8

23 i j 5 Yj D C Xi C if ( X i == Y j ) c[i,j] = c[i-,j-] + else c[i,j] = max( c[i-,j], c[i,j-] ) C DC i j 5 Yj D C Xi C if ( X i == Y j ) c[i,j] = c[i-,j-] + else c[i,j] = max( c[i-,j], c[i,j-] ) C DC i j 5 Yj D C Xi i j 5 Yj D C Xi C C if ( X i == Y j ) c[i,j] = c[i-,j-] + else c[i,j] = max( c[i-,j], c[i,j-] ) C DC if ( X i == Y j ) c[i,j] = c[i-,j-] + else c[i,j] = max( c[i-,j], c[i,j-] ) C DC i j 5 Yj D C Xi i j 5 Yj D C Xi C C if ( X i == Y j ) c[i,j] = c[i-,j-] + else c[i,j] = max( c[i-,j], c[i,j-] ) C DC if ( X i == Y j ) c[i,j] = c[i-,j-] + else c[i,j] = max( c[i-,j], c[i,j-] ) C DC 9

24 i j 5 Yj D C Xi C if ( X i == Y j ) c[i,j] = c[i-,j-] + else c[i,j] = max( c[i-,j], c[i,j-] ) C DC i j 5 Yj D C Xi C if ( X i == Y j ) c[i,j] = c[i-,j-] + else c[i,j] = max( c[i-,j], c[i,j-] ) C DC i j 5 Yj D C Xi C i j 5 Yj D C Xi C if ( X i == Y j ) c[i,j] = c[i-,j-] + else c[i,j] = max( c[i-,j], c[i,j-] ) C DC if ( X i == Y j ) c[i,j] = c[i-,j-] + else c[i,j] = max( c[i-,j], c[i,j-] ) C DC i j 5 Yj D C Xi C if ( X i == Y j ) c[i,j] = c[i-,j-] + else c[i,j] = max( c[i-,j], c[i,j-] ) C DC i j 5 Yj D C Xi C if ( X i == Y j ) c[i,j] = c[i-,j-] + else c[i,j] = max( c[i-,j], c[i,j-] ) C DC

25 nálise do lgoritmo LCS Como encontrar a LCS Qual o tempo de de execução? O(m*n) cada c[i,j] é calculado em tempo constante, e existem m*n células Mesmo esquema usado no no problema da damochila Cada c[i,j] depende de de c[i-,j], c[i,j-] e c[i-, j-]. Podemos identificar como cada c[i,j] foi foiobtido: Por exemplo, c[i,j] = c[i-,j-] + = += Voltando ao nosso exemplo Sabemos que: c[ i, j ] + c[ i, j] = max( c[ i, j ], c[ i, j]) if x[ i] = y[ j], otherwise Começar de c[m,n] e retornar Sempre que c[i,j] = c[i-, j-]+, guardar x[i] (x[i] faz parte da LCS) Se i= or j= (retorno chega ao fim) saída é o conjunto de símbolos guardados em ordem inversa i j 5 Yj D C Xi C Problema: Multiplicação de Cadeia de Matrizes i j 5 Yj D C Xi C Seja a seqüência (cadeia) <,,,, n > de de n matrizes. Computar o produto n de de forma a minimizar o número de de multiplicações Duas matrizes e podem ser multiplicadas se se forem compatíveis Número de de colunas de de = Número de de linhas de de (p*q) * (q*r) C(p*r) O número de de multiplicações é p*q*r LCS (ordem inversa): C

26 Exemplo: <,,,, > (,, 5, 5, 5) (( ) ) )) **5 + *5*5 = = 75 ( ( ( )) )) *5*5 + **5 = = 75 Seja i i de de dimensão p i- i- *p *p i i Encontrar forma de de definir parênteses para minimizar o número de de multiplicações. Quantas formas diferentes? Ω( n ). ). Impraticável verificar todas as possibilidades Multiplicação de Duas Matrizes Qual a Idéia? Multiplica-Matrizes(, ) if colunas[] Linhas [] then ERRO else for i to Linhas[] do for j to Colunas[] do C[i, j] for k to Colunas[] do c[i, j] c[i, j] + [i,k].[k,j] return C Notação: i..j i..j = resultado da da avaliação de de i i i+ i+ j j (i (i j) j) Qualquer forma de de colocar parênteses em i i i+ i+ j j deve dividir a cadeia entre kk e k+ k+,, para algum inteiro k, k, i i k < jj Custo = custo de de computar i..k i..k + custo de de computar k+..j k+..j + custo de de multiplicar i..k i..k e k+..j k+..j sub-cadeia i i i+ i+ kk deve ter ter parentização ótima sub-cadeia k+ k+ i+ i+ j j deve ter ter parentização ótima Subestrutura Ótima Mínimo Custo_..6 + Custo_ p p 6 p 9 Suponha (( )( (( 5 ) 6 ))) (( 7 8 ) 9 ) Éótima então ( ) ( (( 5 ) 6 )) Deve ser ótima para 5 6 Solução Sub-problema: determinar o custo mínimo de de i i i+ i+ j j ( ( i i j j n) n) m[i..j] = número mínimo de de multiplicações para calcular a matriz i..j i..j s[i, j] j] = k, k, em que m[i, j] j] = m[i, k] k] + m[k+, j] j] + p i- i- p kk p j j senão, se ( ( )) (( 5 ) 6 ) Éótimapara 5 6 então (( ( )) (( 5 ) 6 )) (( 7 8 ) 9 ) Seria melhor do que (( )( (( 5 ) 6 ))) (( 7 8 ) 9 ), m [ i, j ] = min k < j { m [ i, k ] + m [ k +, j ] + p i se i = j p p se i < j k j

27 resposta está em m[, n]. n]. Necessidade de de Programação Dinâmica: overlap de de problemas. Caso base: m[i, i] i] =.. Calcular primeiro m[i, i+], depois m[i, i+], Caminhamento por diagonal. O(n ), Ω (n ) Θ(n ) running time Θ(n ) space 5*5*5= 65 l = l = **5= 5 Colocando os Parênteses s[i, j] j] armazena o valor de de k ótimo para i i i+ i+ j, j, dividindo a matriz em kk e k+ k+..n..n..s[..n]..s[..n] s[..n]+..n s[..n]+..n..s[..n]..s[..n]..s[,..s[, s[..n]] s[..n]] s[, s[, s[..n]]+..s[..n] s[..n]]+..s[..n] m[,5] = min m[,]+m[5,5] + 5** = = 75 m[,]+m[,5] + 5*5* = = 5

28 genda nálise e Técnicas de lgoritmos Jorge Figueiredo Conceitos ásicos O Problema das Rainhas Template Genérico Mochila inária acktracking and ranch-and-ound Jogo da Troca de olas Jogo da Troca de olas n bolas vermelhas e n bolas pretas Tabuleiro (uma linha) com n n + posições olas com a mesma cor em extremidades diferentes, e um espaço vazio separando o conjunto de de bolas diferentes. Movimentos possíveis: ola vermelha para a esquerda e preta para a direita Mover um espaço se se o espaço está vazio Pular sobre exatamente uma bola de de cor diferente, se se o espaço logo após a bola estiver vazio Problema do Labirinto Problema do Labirinto

29 Jogo do Resta Um O Que Estes Problemas Têm em Comum? Tomar uma série de de decisões entre várias opções. Cada decisão leva a um novo conjunto de de decisões. lguma(s) seqüência(s) de de decisões pode(m) conduzir a solução do do problema. Encontrar solução:.. Fazer uma lista com todos os os candidatos possíveis... Examinar todas as as respostas ou ou alguma delas... Retornar a solução. Problemas de de otimização Como Resolver? acktracking Estratégia para sistematicamente considerar a lista de de possíveis soluções, eliminando (explicitamente) a verificação de de uma boa parte dos possíveis candidatos. Pode ser considerado como uma variação de de DFS. Usa uma árvore implícita. Candidatos Restrições Força bruta: na na prática esta abordagem não é muito eficiente porque a lista de de candidatos é grande. Lixo Idéia Geral: Usando o Espaço de Solução Soluções representadas por n-tuplas ou ou vetores de de solução: <v <v,, v,,...,..., v n > Cada v i i é escolhido a partir de de um conjunto finito de de opções S i. i. Inicia com um vetor vazio. Em cada etapa o vetor é extendido com um novo valor. O novo vetor é então avaliado. Se Se não for for solução parcial, o último valor do do vetor é eliminado e outro candidato é considerado. Restrições Restrições Explícitas: correspondem às àsregras que restringem cada v i i em tomar valores de de um determinado conjunto. Está relacionado com a representação do do problema e as as escolhas possíveis. Restrições Implícitas: determinam como os osv i s i sse se relacionam entre si. si.

30 O Problema das 8 Rainhas Colocar 8 rainhas em um tabuleiro de de xadrez de de modo que nenhuma rainha ataque uma outra. Solução: uma 8-tupla <v <v,, v,,, v 8 > em que v i i indica a coluna da darainha i. i. Restrições Explícitas: S i i = {, {,,,,,, 8}, 8}, i i n. n. Restrições implícitas: Nenhum v i i pode ser igual ao aooutro. Duas rainhas não podem estar na namesma diagonal. Tamanho do do espaço solução: Força ruta: Com R.E.: Com R.I.: 8!. 8!. Soma de Subconjuntos Sejam n números positivos (W i, i, i i n) n) e um valor positivo M, M, achar todos os ossubconjuntos de de W i i cuja soma é M. M. Solução: uma k-tupla com os osíndices dos números escolhidos. Restrições Explícitas: v i i = {j {j j j é inteiro, j j n}. n}. Restrições Implícitas: v i i v j, j, i i j. j. Σ = M. M. v i i < v i+ i+,, i i < n. n. Geração da Árvore Exemplo: Problema das rainhas Para criar a árvore que representa o espaço solução fazemos:.. Começar da da raiz e gerar outros nós... Um nó nóque foi foi gerado e que não foi foi totalmente explorado édito é nó nóvivo... Um nó nócujos filhos estão sendo gerados é dito em expansão... Usar função de de poda para detonar a geração de de alguns filhos, se se for for o caso Um nó nómorto é aquele que foi foi podado ou ou todos os os filhos já já foram gerados. lgoritmo Genérico Mochila inária acktrack(v[..k]) v é um vetor promissor de tamanho k if v é solução then escreva v for cada vetor promissor w de tamanho k+ em que w[..k] = v[..k] do acktrack(w[..k+]) Considerar n tipos de de objetos (um número adequado de de cada objeto) Cada objeto iitem: valor (v (v i ) i ) e peso (w (w i ) i ) Mochila com capacidade W Para concretizar: W = 8 o ::(w=, v=) o ::(, (, 5) 5) o ::(, (, 6) 6) o ::(5, (5, )

31 Mochila inária: lgoritmo Mochila inária (Variação) ackpack(i, r) maior lucro usando objetos de tipos i até n e que não exceda r b for k i to n do if w[k] r then b max(b, v[k]+ ackpack(k, r w[k])) return b Um objeto de de cada tipo. Usar uma função extra que limita poda: Usar a estratégia gulosa para mochila fracionária para computar um limite superior de de lucro. Ordenar os os objetos por valor/peso. Duas possibilidades de de backtracking: Limite de de peso. Se Se não existe possibilidade da da melhor estimativa de de lucro ser maior do do que o melhor lucro já jáencontrado. Mochila inária (Variação) Mochila inária (Variação) Considere W= 6 6 e os os seguintes objetos: ii v ii w ii v i /w i /w ii R$5 R$5 R$ 5 R$ 6 R$5 9 R$ 5 R$ 5 R$ Valor = R$5 Peso = E.L = R$ 5 Valor = R$ Peso = E.L = R$ 5 Valor = R$ Peso = E.L = R$ 79 Mochila inária (Variação) ranch-and-ound R$75 8 R$ 5 R$5 R$ 5 R$ R$ 5 R$5 R$ 96 R$ R$ 79 X Variação de de backtracking. Necessidade de de função de de poda. Em alguns problemas, poda pode ser realizada mais cedo se se usarmos FS em vez de de DFS. n = acktracking + Função de de poda DFS + FS + PQ R$ 7 X R$85 R$ 85 R$75 8 R$ 85 R$75 8 R$ 75 max R$ 7 R$9 R$ 96 R$9 R$ 9 X X X X R$5 R$ R$ R$ 555 X

32 Mochila inária (Variação) Mochila inária (n) Considere W= 6 6 e os os seguintes objetos: R$ R$ 5 ii v ii w ii v i /w i /w ii R$5 R$5 R$ 5 R$ 6 R$5 9 R$ 5 R$ 5 R$ R$ 7 X R$75 8 R$ 5 R$75 8 R$ 85 X R$5 R$ 5 max R$ 7 R$9 R$ 96 R$5 R$ 96 R$9 R$ 9 R$5 R$ R$ R$ 555 X R$ R$ 79 X X X Problema de tribuição de Tarefas Problema de tribuição de Tarefas n nagentes para n tarefas. Cada agente deve executar exatamente uma única tarefa. Se ao ao agente iié atribuída a tarefa j, j, um custo C i,j i,j é identificado. Problema é atribuir tarefas aos agentes para minimizar o custo total de de executar as as n tarefas. 8 5 Usar n. Identificar função de de poda. Guiar FS (est-first Search) 8 5 C 7 9 D C D [58..7] Problema de tribuição de Tarefas Problema de tribuição de Tarefas C D [58..7] C D [58..7]

33 Problema de tribuição de Tarefas Problema de tribuição de Tarefas C D [58..7] C D [58..7] 6 ; 68 6 ; ; ; ; 6 65 ; Problema de tribuição de Tarefas Problema de tribuição de Tarefas C D [58..7] C D [58..6] 6 ; 68 ; ; c ; d 6 ; 68 ; ; c ; d 58 ; ; ; 6 ; ; c ; d 65 ; 6 ; ; c ; d Eficiência de acktracking e n Exercício: O Problema do Caixeiro Viajante Fatores que afetam a eficiência: tempo para gerar o próximo v k k ;; Cardinalidade de de S kk satisfazendo as as restrições; tempo de de execução da da função de de poda; Cardinalidade de de S kk satisfazendo a função de de poda. Uma boa função de de poda reduz substancialmente o número de de nodos considerados. Existe um tradeoff: uma boa função de de poda versus o tempo de de avaliá-la. Para estimar o número de de nodos gerados, podemos usar nálise Monte-Carlo (simulação estatística). 6

34 Exercício: O Problema do Caixeiro Viajante 7