Jorge Figueiredo, DSC/UFCG. Análise e Técnicas de Algoritmos Jorge Figueiredo, DSC/UFCG. Análise e Técnicas de Algoritmos 2007.

Transcrição

1 Ageda Aálise e Técicas de Algoritmos Motivação para aálise de de algoritmos Aálise assitótica Algus exemplos simples Jorge Figueiredo Aálise de de Algoritmos Dois aspectos importates: Um problema pode, geralmete, ser resolvido por diferetes algoritmos. A existêcia de de um algoritmo ão implica, ecessariamete, que este problema possa ser resolvido a a prática. A aálise de de algoritmos pode ser defiida como o estudo da da estimativa de de tempo de de execução de de algoritmos. O tempo de de execução é determiado pelos seguites aspectos: Tempo para executar uma istrução ou ou passo. A atureza do do algoritmo. O tamaho do do cojuto de de dados que costitui o problema. É ecessário ter ter uma forma de de criar medidas de de comparação etre algoritmos que resolvem um mesmo problema. Desta forma, é possível determiar: A viabilidade de de um algoritmo. Qual é o melhor algoritmo para a solução de de um problema. O iteressate é ter ter uma comparação relativa etre algoritmos. Assumir que a execução de de qualquer passo de de um algoritmo leva uma um tempo fixo e igual. O tempo de de execução de de um computador particular ão é iteressate. Qual a quatidade de de recursos utilizados para resolver um problema? Tempo Espaço Expressar como uma fução do do tamaho do do problema. Como os osrequisitos crescem com o aumeto do do problema? Tamaho do do problema: Número de de elemetos a ser tratado Tamaho dos elemetos Eficiêcia de Algoritmo Cosiderar eficiêcia de de tempo: Número de de operações expresso em termos do do tamaho da da etrada. Se dobramos o tamaho da daetrada, qual o tempo de de resposta? Por que eficiêcia é importate? Velocidade de de computação aumetou (hardware) Crescimeto de de aplicações com o aumeto do do poder computacioal Maior demada por aumeto a avelocidade de de computação.

2 Eficiêcia de Algoritmo Eficiêcia de Algoritmo Quado a velocidade de de computação aumeta, podemos tratar mais dados? Supoha que: Um algoritmo toma 2 comparações para ordear úmeros. Necessitamos de de segudo para ordear 5 úmeros (25 comparações) Velocidade de de computação aumeta de de um fator de de 00 Usado segudo, podemos executar 00x25 comparações, i.e., ordear 50 50úmeros N T() = µs 0.0 µs 0.02 µs 0.05 µs 0. µs T() = lg 0.0 µs 0.03 µs 0.09 µs 0.28 µs 0.66 µs T() = µs 0. µs 0.4 µs 2.5 µs 0 µs T() = µs µs 8 µs 25 µs ms T = µs µs ms 3 dias 4 x 0 3 aos Com 00 vezes de de gaho em velocidade, ordeamos apeas 0 0 vezes mais úmeros! Como Medir Eficiêcia de Algoritmo? Medido eficiêcia: Estudo experimetal e/ou Bechmarkig. Aálise assitótica. Abordagem Experimetal Abordagem experimetal: Escrever um programa que implemeta o algoritmo Executar o programa com diferetes ceários Usar um método como System.curretTimeMillis() para obter medidas acuradas do do tempo de de execução real. t (ms) Abordagem Experimetal Limitações dos estudos experimetais: Necessidade de de se se implemetar e testar o algoritmo. Experimetos podem ser feitos apeas em um úmero limitado de de ceários. Pode, portato, ão idicar tempo de de execução em ceários que ão foram cosiderados o o experimeto. Para comparar dois algoritmos: garatir os osmesmos hardware e ambiete de de software. Aálise Assitótica Metodologia para aalisar tempo de execução de algoritmos. Ao cotrário da abordagem experimetal: Usa uma descrição de de alto ível dos algoritmos em vez de de testar uma de de suas implemetações. Leva em cosideração todas as as possíveis etradas. Permite a avaliação de de eficiêcia de de algoritmos de de uma forma que é idepedete do do hardware e ambiete de de software utilizado. 2

3 Notação Assitótica Objetivo: simplificar a aálise descartado iformações desecessárias: arredodameto,000,00,000,000 Dizer que Big-Oh Sejam duas fuções f() e g(). f() é O(g()) se se existem costates positivas c e 00 tais que f() cg() para 00 Exemplo: é O() c c (c 2) 2) 0 0 0/(c 2) 2) Escolher c = 3 e 00 = 0 0 Big-Oh Big-Oh Exemplo: 2 2 ão ãoé O() O() 2 2 c c c A desigualdade ão ãopode ser ser satisfeita pois poisc deve ser ser uma uma costate ^ Big-Omega Sejam duas fuções f() e g(). f() é Ω(g()) se se g() é O(f()) Existe uma costate real c >0 >0e 0 tal talque f() c g() para 0 Big-Theta Sejam duas fuções f() e g() f() é Θ(g()) se f() é O(g()) e f() é Ω(g()) existem costates reais a>0 e b>0, e uma costate iteira 0 tal que a g() f() b g() para 0 3

4 Taxas de Crescimeto Mais Comum Aálise Assitótica log k... 2 costate logarítmica poliomial expoecial 2 2 log c A aálise assitótica é baseada essas defiições e estabelece uma ordem relativa etre fuções. A otação Big-Oh é usada para expressar o úmero de de operações primitivas executadas como fução do do tamaho da da etrada. um um algoritmo que queexecuta em emtempo O() O() é melhor do do que queum um que que executa em emtempo O( O( 2 2 )) de de forma semelhate, O(log ) ) é melhor do do que queo() Cuidado! Preste ateção a costates muito altas. Um algoritmo que executa em tempo,000,000. é O(), mas meos eficiete do do que um que executa em tempo 2 2 2,, que é O( 2 ). ). Complexidade de Tempo Para determiar o tempo de de execução de de um determiado algoritmo descobrir a forma geral da da curva que caracteriza seu tempo de de execução em fução do do tamaho do do problema. Para simplificarmos a aálise de de complexidade de de tempo: adotamos a ão existêcia de de uidades de de tempo particulares. ão cosideramos também os os termos de de ordem iferior, isto é, é, usamos Big-Oh. A complexidade de de tempo para diferetes algoritmos pode idicar diferetes classes de de complexidade. Cada classe é caracterizada por uma família diferete de de curva. Complexidade de Tempo Iformalmete, para se se determiar a ordem de de complexidade de de uma determiada fução f():.. Separar f() em duas partes: termo domiate e termos de de ordem iferior igorar os os termos de de ordem iferior igorar as as costates de de proporcioalidade. Aálise de Algoritmos Simples Aálise de Algoritmos Simples Em osso modelo de de aálise, cosideramos que as as istruções são executadas sequecialmete e que o cojuto de de istruções simples (adição, comparação, atribuição, etc) tomam exatamete uma uidade de de tempo para serem executadas. Tipos de de aálise: Pior caso: idica o maior tempo obtido, levado em cosideração todas as as etradas possíveis. Melhor caso: idica o meor tempo obtido, levado em cosideração todas as as etradas possíveis. Média: idica o tempo médio obtido, cosiderado todas as as etradas possíveis. Como o objetivo é determiar a forma da da curva que que caracteriza o algoritmo, vamos defiir algumas regras que que podem ser ser utilizadas: Laços: O tempo de de execução de de um um laço laço é o o máximo o tempo de de execução das das istruções detro do do laço laço (icluido os os testes) vezes o úmero de de iterações. Aihameto de de Laços: Aalisar os os mais iteros. O tempo total total de de execução de de uma uma istrução detro de de um um grupo de de laços aihados é o tempo de de execução da da istrução multiplicado pelo pelo produto dos dos tamahos de de todos os os laços. Istruções Cosecutivas: Apeas efetuar a soma. If/Else: o tempo de de execução de de uma uma istrução if/else uca é maior do do que que o tempo de de execução do do teste mais o maior dos dos tempos de de execução de de S S e S2. S2. S S e S2 S2 represetam as as istruções do do the thee else, respectivamete. 4

5 Aálise de Algoritmos Simples Chamada de de Fuções: A aálise é feita como o o caso de de laços aihados. Para calcular a complexidade de de um programa com várias fuções, determia-se primeiro a complexidade de de cada uma das fuções. Desta forma, a a aálise, cada uma das fuções é vista como uma istrução com a complexidade que foi foi calculada. Recursão: É a parte mais difícil da da aálise de de complexidade. Em muitos casos, pode-se fazer a liearização através da da substituição da da chamada recursiva por algus laços aihados, por exemplo. Etretato, existem algoritmos que ão possibilitam a liearização. Nestes caso, é ecessário usar uma relação de de recorrêcia que tem que ser resolvida. Algumas Dicas Idetificar a operação fudametal usada o o algoritmo. A aálise dessa operação fudametal idetifica o tempo de de execução. Isso Isso pode evitar a aálise liha-por-liha do do algoritmo. Quado um um algoritmo, em em uma uma passada de de uma uma iteração, divide o cojuto de de dados de de etrada em em uma uma ou ou mais partes, tomado cada uma uma dessas partes e processado separada e recursivamete, e depois jutado os os resultados, este este algoritmo é possivelmete O(.log ) ) Um Um algoritmo é O(log ) ) se se ele ele leva leva tempo costate para reduzir o tamaho do do problema, geralmete pela pela metade. Por Por exemplo, a pesquisa biária. Se Se o algoritmo leva leva tempo costate para para reduzir o tamaho do do problema em em um um tamaho costate, ele ele será seráo(). Algoritmos combiatoriais são são expoeciais. Por Por exemplo, o problema do do caixeiro viajate. Exercício Qual a complexidade do do algoritmo abaixo? Aálise e Técicas de Algoritmos Potecia(x, ) p i 0 while i < do p p.x i i + retur p Jorge Figueiredo Aálise de de Algoritmos Recursivos Ageda Relação de de Recorrêcia Derivado recorrêcia Resolvedo recorrêcia Aálise de de algoritmos recursivos A aálise de de um algoritmo recursivo requer a resolução de de uma recorrêcia. Uma recorrêcia é um algoritmo recursivo que calcula o valor de de uma fução em um poto dado. Uma recorrêcia defie T() em termos de de T(-), T(-2), etc. Exemplo: T() = T() = T( ) ) ,, para 2 5

6 Exemplo 2: 2: Quatos pedaços com cortes? Exemplo 2: 2: Quatos pedaços com cortes? Cortes: Pedaços: 2 Cortes: Pedaços: 2 Cortes: 2 Pedaços: 4 Exemplo 2: 2: Quatos pedaços com cortes? É possível observar que o -ésimo corte cria ovos pedaços. Logo, o úmero total de de pedaços obtido com cortes, deotado por P(), é dado pela seguite relação de de recorrêcia: P() = 2 P() = P( ) ) +,, para 2 Cortes: Pedaços: 2 Cortes: 2 Pedaços: 4 Cortes: 3 Pedaços: 7 Cortes: 4 Pedaços: Derivado Relações de Recorrêcias Como proceder para derivar uma relação de de recorrêcia para a aálise do do tempo de de execução de de um algoritmo: Determiar qual o tamaho do do problema. Verificar que valor de de é usado como base da da recursão. Em geral é um valor úico (=, por exemplo), mas pode ser valores múltiplos. Vamos cosiderar esse valor como 0.. Determiar T( 0 ). ). Pode-se usar uma costate c, c, mas, em muitos, casos um úmero específico é ecessário. Derivado Relações de Recorrêcias T() é defiido como uma soma de de várias ocorrêcias de de T(m) (chamadas recursivas), mais a soma de de outras istruções efetuadas. Em geral, as as chamadas recursivas estão relacioadas com a subproblemas do do mesmo tamaho f(), defiido um termo a.t(f()) a a relação de de recorrêcia. A relação de de recorrêcia é defiida por: T() = c, c, se se = 0 T() = a.t(f()) + g(), caso cotrário 6

7 Derivado Relações de Recorrêcias Derivado Relações de Recorrêcias Exemplo: Torre de de Haoi Objetivo: trasferir os os discos de de A para C Regras: Mover um disco por vez. Nuca colocar um disco maior em cima de de um meor. Solução Recursiva: Trasferir - discos de de A para B Mover o maior disco de de A para C Trasferir - discos de de B para C Haoi(A, C, B, ) if > Haoi(A, B, C, -) Move(A, C) if > Haoi(B, C, A, -) Relação de Recorrêcia T() = T() = 2.T(-) + Derivado Relações de Recorrêcias Resolvedo Relações de Recorrêcia MergeSort(A, ) if retur A retur merge(mergesort(a, /2), MergeSort(A2, /2)) Relação de Recorrêcia T() = c T() = 2.T(/2) + d. Resolver uma relação de de recorrêcia em sempre é fácil. Resolvedo uma relação de de recorrêcia, determia-se o tempo de de execução do do algoritmo recursivo correspodete. Relação de de recorrêcia: T() = T( )) + T( 2 )) T( a )) + f() É mais fácil quado temos a subproblemas de de mesmo tamaho que é uma fração de de (por exemplo, /b): T() = a.t(/b) + f() Como resolver: Método do do chute Método da da árvore de de recursão Método do do desdobrameto Método master Método do Chute e Prova por Idução Método do Chute e Prova por Idução Seja a seguite relação de de recorrêcia: T() T() = T() T() = T( T( ) ) ,, para 2 2 A relação de de recorrêcia é resolvida em em duas partes:.. Chute: T() T() = /2 /2 + 7/2 7/ Prova:.. Caso base é para para = = H.I.: H.I.: assumir que que é válido para para Provar T() T() Se Se a prova for for cofirmada, T() T() é O( O( 2 2 )) Seja a seguite relação de de recorrêcia: T() T() = T() T() = 2.T(/2) +,, para para 2 2 A relação de de recorrêcia é resolvida em em duas partes:.. Chute: T() T() = +.log Prova:.. Caso base: +.log = H.I.: H.I.: assumir que que é válido para para valores até até Provar T(): =2.(/2 + /2.log /2) /2) + = = +.(log -) -) + = = +.log Logo, T() T() é O(.log) 7

8 Talvez o método mais ituitivo. Cosiste em desehar uma árvore cujos ós represetam os os tamahos dos correspodetes problemas. Cada ível iicotém todos os os subproblemas de de profudidade i. i. Dois aspectos importates: A altura da da árvore. O úmero de de passos executados de de cada ível. A solução da da recorrêcia (tempo de de execução do do algoritmo) é a soma de de todos os os passos de de todos os os íveis. Resolver T() = 2.T(/2) + T() T(/2) T(/2) /2 /2 T(/4) T(/4) T(/4) T(/4) /2 /2 /2 /2 /4 /4 /4 /4 h = log /4 /4 /4 /4 T() 8

9 /2 /2 /2 /2 2./2= h = log /4 /4 /4 /4 h = log /4 /4 /4 /4 /2 /2 2./2= /2 /2 2./2= h = log /4 /4 /4 /4 4./4= h = log /4 /4 /4 /4 4./4= folhas.= Método do Desdobrameto h = log /2 /2 /4 /4 /4 /4 folhas 2./2= 4./4=.= Esse método é o da da árvore de de recursão, represetado de de forma algébrica. Cosiste em: Usar (algumas poucas) substituições repetidamete até ecotrar um padrão. Escrever uma fórmula em termos de de e o úmero de de substituições i. i. Escolher iide de tal tal forma que todas as as referêcias a T() sejam referêcias ao ao caso base. Resolver a fórmula. (log ). 9

10 Método do Desdobrameto Exemplo Método do Desdobrameto Exemplo 2 Solução para o problema da da pizza: T() T() = 2 T() T() = T( T( ) ) +,, para para 2 2 Desdobrado a relação de de recorrêcia: T() T() = T(-) + T() T() = T(-2) + (-) + T() T() = T(-3) + (-2) + (-) T() T() = T(-i) + (-i+) (-) + Caso base alcaçado quado i=- T() T() = ( ( ) ) + T() T() = +.(-)/2 Logo, T() T() = O( O( 2 2 )) Solução para o problema da da Torre de de Haoi: T() T() = T() T() = 2.T( ) ) +,, para 2 2 Desdobrado a relação de de recorrêcia: T() T() = 2.T( ) ) + T() T() = 2.(2.T(-2) + ) ) + = 4.T(-2) T() T() = 4.(2.T(-3) + ) ) = 8.T(-3) T() T() = 2 i.t(-i) i + 2 i- i- + 2 i-2 i Caso base alcaçado quado i=- T() T() = Isso Isso é uma uma soma geométrica Logo, T() T() = 2 = O(2 O(2 )) Método Master Teorema que resolve quase todas as as recorrêcias. T() da da forma a.t(/b) + f(), a,b > Casos:.. Se f() O( loga loga b- b- ε ε ), ), para algum ε > 0, 0, temos que: T() Θ( loga loga b ). ) Se f() Θ( loga loga b ), ), temos que: T() Θ( loga loga b.log ). ) Se f() Ω( loga loga b+ b+ ε ε ), ), para algum ε > 0 e se se a.f(/b) c.f() para algum c > 0 e suficietemete grade, temos que: T() Θ(f()). Método Master Exemplo MergeSort: T() = 2.T(/2) + a = b = 2 f() = log a b =.. Cai o o caso Logo, T() = Θ(.log ) ) Método Master Exemplo 2 T() = 9.T(/3) + a = 9, 9, b = 3 f() = log a b = Se ε =,, Cai o o caso.. Logo, T() = Θ( 2 )) 0