Estruturas de Dados 2

Transcrição

1 Estruturas de Dados 2 Recorrências IF64C Estruturas de Dados 2 Engenharia da Computação Prof. João Alberto Fabro - Slide 1/31

2 Recorrências Análise da Eficiência de Algoritmos: Velocidade de Execução; Análise Matemática: Algoritmos não-recursivo; Algoritmos recursivos (recorrências); IF64C Estruturas de Dados 2 Engenharia da Computação Prof. João Alberto Fabro - Slide 2/31

3 Recorrências Capítulo 4 CLRS(Cormem, 2 nd Edição, 2001) Introdução Exemplo de Análise de Recorrência: MergeSort Conclusão: T(n) = Θ ( n*lg(n) ) Mas como chegar a esta conclusão? Três métodos: Método da Substituição Método da Árvore de Recursão Método Master IF64C Estruturas de Dados 2 Engenharia da Computação Prof. João Alberto Fabro - Slide 3/31

4 Recorrências - Método da Substituição Basta chutar uma resposta (limite assintótico) e em seguida, provar por indução que funciona! Por exemplo, suponha a recursão da forma: T(n) = 2 T( n/2 ) + n Supondo que a solução seja T(n) = O ( n*lg(n) ) Agora, como provamos que isto é verdade? Basta provar que T(n) c * n * lg (n) para algum c > 0. Iniciamos assumindo que a fórmula é verdade para n/2 : T( n/2 ) c * n/2 * lg ( n/2 ) Então verificamos se a recorrência pode ser provada!!! IF64C Estruturas de Dados 2 Engenharia da Computação Prof. João Alberto Fabro - Slide 4/31

5 Recorrências - Método da Substituição Método da Substituição Agora substituímos esta fórmula na recorrência: T(n) 2(c n/2 lg( n/2 )) + n c n lg(n/2) + n = c n lg n c n lg 2 + n = c n lg n c n + n c n lg n, para qualquer c 1 Agora basta provar a Base da Indução:pela definição, T(1)=1. Calculando pelo nosso chute, T(1) c *1* lg mas lg 1 = 0, então nenhuma constante c satisfaz... IF64C Estruturas de Dados 2 Engenharia da Computação Prof. João Alberto Fabro - Slide 5/31

6 Recorrências - Método da Substituição Mas se não funciona para a base, não se pode aceitar a indução......e agora, como resolver? Devemos lembrar que a análise assintótica apenas exige que T(n) = c*n*lg(n) a partir de um n n 0, onde n 0 é uma constante escolhida adequadamente! Se, ao invés de 1, selecionarmos a base da nossa indução como sendo n=2 e n=3 (pois só n=2 ainda dependeria de n=1...), temos: T(2) = 2 T(1)+ 2 = 4, e T(3) = 2 T( 3/2 ) + 3 = 2*1+3 = 5 Será que o nosso chute consegue satisfazer estes casos base? IF64C Estruturas de Dados 2 Engenharia da Computação Prof. João Alberto Fabro - Slide 6/31

7 Recorrências - Método da Substituição T(2) c * 2 * lg(2) T(3) c * 3 * lg(3) Como lg(2) = 1, e lg(3) = 1.57, fazendo a constante c 2, a base está verificada. Desta forma, conseguimos verificar (por indução) que nosso chute realmente satisfaz a recorrência, portanto provamos que T(n) = O(n*lg(n)) para esta recursão! Problema desta técnica: como acertar o chute? IF64C Estruturas de Dados 2 Engenharia da Computação Prof. João Alberto Fabro - Slide 7/31

8 Recorrências - Método da Substituição T(2) c * 2 * lg(2) T(3) c * 3 * lg(3) Como lg(2) = 1, e lg(3) = 1.57, fazendo a constante c 2, a base está verificada. Desta forma, conseguimos verificar (por indução) que nosso chute realmente satisfaz a recorrência, portanto provamos que T(n) = O(n*lg(n)) para esta recursão! Problema desta técnica: como acertar o chute? IF64C Estruturas de Dados 2 Engenharia da Computação Prof. João Alberto Fabro - Slide 8/31

9 Recorrências - Método da Substituição Problema desta técnica: como acertar o chute? Comparação com soluções anteriormente conhecidas: T(n) = 2 T( n/2 +17) + n Qual chute você daria? T(n) = O(n lg(n))???? Mas e a constante 17? Será que dá alguma diferença? Fica como Exercício!!!!! IF64C Estruturas de Dados 2 Engenharia da Computação Prof. João Alberto Fabro - Slide 9/31

10 Recorrências - Método da Substituição Mais alguns detalhes: Considere a seguinte recorrência: T(n) = T( n/2 ) + T( n/2 ) + 1 Qual chute você daria? T(n) = O(n), provar que T(n) cn Substituindo, temos: T(n) c*n/2+c*n/2+1 = cn +1 Porém isto não implica que T(n) cn para nenhum c Errei por 1?Como resolver, se achamos que isto é O(n)? IF64C Estruturas de Dados 2 Engenharia da Computação Prof. João Alberto Fabro - Slide 10/31

11 Recorrências - Método da Substituição Utilizando outra hipótese, por exemplo T(n) cn b Substituindo, temos: T(n) (c*n/2-b)+(c*n/2-b)+1 = cn -2b +1 cn -b para todo b 1. Basta escolher c de forma a satisfazer as condições da base, e conseguimos provar que T(n)=O(n)!!! Mas cuidado... Lembra de T(n) = 2 T( n/2 ) + n? Supondo que a solução seja T(n) = O (n), ou T(n) cn T(n) 2*c*n/2 + n = cn +n, Portanto está provado que T(n)=O(n)? NÃO!!!!! Porquê? IF64C Estruturas de Dados 2 Engenharia da Computação Prof. João Alberto Fabro - Slide 11/31

12 Recorrências - Método da Substituição Problema desta técnica: como acertar o chute? Técnicas alternativas: iniciar provando limites superiores(o) e inferiores(ω), e posteriormente ir apertando os limites (aproximações sucessivas). Utilizar o método da árvore de recursão Exercícios: Provar que T(n) = T( n/2 ) + 1 é O(lg n) Provar que T(n) = 2T( n/2 ) + n é Ω(n lg n). É possível concluir que T(n) é Ω (n lg n)? IF64C Estruturas de Dados 2 Engenharia da Computação Prof. João Alberto Fabro - Slide 12/31

13 Recorrências - Árvore de Recursão Método da Árvore de Recursão Boa alternativa para obter estimativas (chutes) para o método da substituição Não pode ser utilizado como forma de prova, por não ser formal... Idéia: Avaliar como funciona a recursão, somando os seus custos, para chegar a um limite assintótico... Exemplo: T(n) = T(n/4) + T(n/2) + n² Qual seria seu chute? O(n²)? O(n lg n)?o(n² lg n)?o(n lg n²) IF64C Estruturas de Dados 2 Engenharia da Computação Prof. João Alberto Fabro - Slide 13/31

14 Recorrências - Árvore de Recursão T(n) = T(n/4) + T(n/2) + n² n² T(n/4) T(n/2) IF64C Estruturas de Dados 2 Engenharia da Computação Prof. João Alberto Fabro - Slide 14/31

15 Recorrências - Árvore de Recursão T(n) = T(n/4) + T(n/2) + n² n² (n/4)² (n/2)² T(n/16) T(n/8) T(n/8) T(n/4) IF64C Estruturas de Dados 2 Engenharia da Computação Prof. João Alberto Fabro - Slide 15/31

16 Recorrências - Árvore de Recursão T(n) = T(n/4) + T(n/2) + n² (n/16)² : : Θ(1) n² (n/4)² (n/2)² (n/8)² (n/8)² (n/4)² IF64C Estruturas de Dados 2 Engenharia da Computação Prof. João Alberto Fabro - Slide 16/31

17 Recorrências - Árvore de Recursão T(n) = T(n/4) + T(n/2) + n² (Somando:) (n/16)² : : Θ(1) n²... =n² (n/4)² (n/2)² (n/8)² (n/8)² (n/4)² IF64C Estruturas de Dados 2 Engenharia da Computação Prof. João Alberto Fabro - Slide 17/31

18 Recorrências - Árvore de Recursão T(n) = T(n/4) + T(n/2) + n² (Somando:) (n/16)² : : Θ(1) n²... =n² (n/4)² (n/2)²... = 5 n² 16 (n/8)² (n/8)² (n/4)² IF64C Estruturas de Dados 2 Engenharia da Computação Prof. João Alberto Fabro - Slide 18/31

19 Recorrências - Árvore de Recursão T(n) = T(n/4) + T(n/2) + n² (Somando:) n²... =n² (n/4)² (n/2)²... = 5 n² 16 (n/16)² (n/8)² (n/8)² (n/4)²...= 25 n² : 256 : Θ(1) n²+(5/16)n²+(25/256)n² IF64C Estruturas de Dados 2 Engenharia da Computação Prof. João Alberto Fabro - Slide 19/31

20 Recorrências - Árvore de Recursão T(n) = T(n/4) + T(n/2) + n² (Somando:) n²... =n² (n/4)² (n/2)²... = 5 n² 16 (n/16)² (n/8)² (n/8)² (n/4)²...= 25 n² : 256 : Θ(1) n²(1+(5/16)+(25/256)+...) IF64C Estruturas de Dados 2 Engenharia da Computação Prof. João Alberto Fabro - Slide 20/31

21 Recorrências - Árvore de Recursão T(n) = T(n/4) + T(n/2) + n² (Somando:) n²... =n² (n/4)² (n/2)²... = 5 n² 16 (n/16)² (n/8)² (n/8)² (n/4)²...= 25 n² : 256 : Θ(1) Θ(n²) IF64C Estruturas de Dados 2 Engenharia da Computação Prof. João Alberto Fabro - Slide 21/31

22 Recorrências - Árvore de Recursão T(n) = T(n/4) + T(n/2) + n² é Θ(n²)???? Somente provando pelo Método da Substituição para ter certeza realmente... Exercício: Construa a árvore de recursão para T(n) = 4T(n/2) + n E verifique os limites assintóticos(superior e inferior) pelo método da substituição IF64C Estruturas de Dados 2 Engenharia da Computação Prof. João Alberto Fabro - Slide 22/31

23 Recorrências Método Master Fornece uma receita para resolução de recorrências da forma: T(n) = at(n/b) +f(n) onde a 1, e b>1 são constantes e f(n) é uma função assintoticamente positiva. O método Master resolve recorrências de algoritmos do tipo dividir-e-conquistar, onde: um problema de tamanho n é dividido em a subproblemas, cada um resolvido em tempo T(n/b). A função f(n) descreve o custo de dividir o problema, e combinar as soluções parciais. IF64C Estruturas de Dados 2 Engenharia da Computação Prof. João Alberto Fabro - Slide 23/31

24 Recorrências - Método Master O método Master requer a memorização de três casos base, mas isto permite a resolução de muitas recorrências com facilidade. 1. f(n) = O(n log b a ε ) para alguma constante ε> f(n) = Θ(n log b a ). 3. f(n) = Ω(n log b a+ε ) para alguma constante ε> 0, e af(n/b) cf(n) para alguma constante c < 1 e n suficientemente grande. IF64C Estruturas de Dados 2 Engenharia da Computação Prof. João Alberto Fabro - Slide 24/31

25 Caso 1: Recorrências - Método Master 1. f(n) = O(n log b a ε ) para alguma constante ε> 0. Se isto for verdade, f(n) cresce polinomialmente mais lentamente que n log b a (por um factor n ε ). Solução: T(n) = Θ(n log b a ). IF64C Estruturas de Dados 2 Engenharia da Computação Prof. João Alberto Fabro - Slide 25/31

26 Caso 2: Recorrências - Método Master 2. f(n) = Θ(n log b a ). Se isto for verdade, f(n) e n log b a crescem a taxas similares. Solução: T(n) = Θ(n log b a lg n). IF64C Estruturas de Dados 2 Engenharia da Computação Prof. João Alberto Fabro - Slide 26/31

27 Caso 3: Recorrências - Método Master 3. f(n) =Ω(n log b a+ε ) para alguma constante ε> 0, e af(n/b) cf(n) para alguma constante c < 1 e n suficientemente grande. Se isto for verdade, f(n) cresce polinomialmente mais rapidamente que n log b a a uma taxa n ε. Solução: T(n) = Θ(f(n)). IF64C Estruturas de Dados 2 Engenharia da Computação Prof. João Alberto Fabro - Slide 27/31

28 Recorrências - Método Master Exemplos: T(n) = 4T(n/2) + n a =4, b= 2 n log b a =n 2 ; f(n) = n. CASo1: f(n) = O(n 2-ε ) para ε= 1. T(n) = Θ(n 2 ). IF64C Estruturas de Dados 2 Engenharia da Computação Prof. João Alberto Fabro - Slide 28/31

29 Recorrências - Método Master Exemplos: T(n) = 4T(n/2) + n 2 a =4, b= 2 n log b a =n 2 ; f(n) = n 2. CASo2: f(n) = Θ(n 2 ). T(n) = Θ(n 2 lg n). IF64C Estruturas de Dados 2 Engenharia da Computação Prof. João Alberto Fabro - Slide 29/31

30 Recorrências - Método Master Exemplos: T(n) = 4T(n/2) + n 3 a =4, b= 2 n log b a =n 2 ; f(n) = n 3. CASo3: f(n) = Ω(n2+ε ), para ε=1 e 4(n/2) 3 cn 3 para c= 1/2. T(n) = Θ(n 3 ). IF64C Estruturas de Dados 2 Engenharia da Computação Prof. João Alberto Fabro - Slide 30/31

31 Recorrências - Método Master Exemplos: T(n) = 2T(n/2) + n lg n a =2, b= 2 n log b a =n ; f(n) = n lg n. O método Master não se aplica! Por quê? O teste: af(n/b) cf(n) para c < 1 e n grande: 2(n/2 lg(n/2)) =n lg(n/2) c n lg(n) (OK!) Mas f(n) =Ω(nlog b a+ε ) para alguma constante ε> 0? f(n)/n log a b =f(n)/n=n lg n/n = lg n. lg n < n ε para algum ε> 0??? NÃO!!!!! (não é polinomialmente menor!!!!!) IF64C Estruturas de Dados 2 Engenharia da Computação Prof. João Alberto Fabro - Slide 31/31