Programa. Análise de algoritmos. Notação Big-O. Sistemas de Informação Geográfica II. Análise de algoritmos

Transcrição

1 Sistemas de Informação Geográfica II Análise de algoritmos Alexandre Gonçalves DECivil - IST alexandre.goncalves@tecnico.ulisboa.pt Programa Introdução à análise de algoritmos Classes de problemas P e NP Métodos exatos e heurísticos Um algoritmo é a descrição de um processo computacional que efetua algumas operações para resolver um problema Dado um algoritmo, interessa saber a sua eficiência. Algoritmos eficientes exigem menos recursos computacionais e/ou são mais rápidos que os não eficientes Análise de algoritmos Notação Big-O Espaço Espaço de armazenamento, número de variáveis Tempo Complexidade A análise de um algoritmo visa determinar o tempo expectável de execução de um algoritmo e o espaço de armazenamento de variáveis necessário Quando a memória era cara as máquinas não dispunham de espaço de armazenamento em abundância o ênfase era dado a métodos de ampliá-la (memória virtual, etc.) Hoje em dia é importante em equipamentos portáteis (PDA, telemóveis) e grandes volumes de dados (info. geográfica, bases de dados) Diz-se que um algoritmo é de ordem f(n), e designa-se por O(f(n)) quando existem duas constantes a e n tais que o número de operações necessárias para a execução do algoritmo (p. ex.: comparações, atribuições, operações aritméticas) com um input de dimensão n é menor ou igual que a f(n) para todos os valores de n a partir de n. Um algoritmo diz-se polinomial se f(n) é do tipo n k : n, n 2, n 3,... e também se f(n) for: n log(n), n 2 log(n), etc. ng i(n) r(n) está em O(g(n)) porque ()g(n) excede r(n) para todos os n > ng nr g(n) r(n) g(n) está em O(r(n)) porque (3)r(n) excede g(n) para todos os n > nr dimensão do problema Algoritmo A vs. Algoritmo B n A B,,,, 2,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,, O tempo de execução é: para o algoritmo A n 3 + n 2 + n para o algoritmo B n 3 + n 2 + n

2 If x > 3 Then y = x + 4 ElseIf x > -4 Then For i = To A(i) = Sqrt(i) + Else MsgBox ( erro, x tem de ser >-4! ) Endif Alternativas tempo total de execução = máximo dos tempos de execução das alternativas O tempo de execução de um ciclo é no máximo o dos comandos no seu interior, a multiplicar pelo número de iterações. For i = To n A(i) = X(i) + t * Y(i) For i = To n For j = to n Next j Ciclos A(i, j) = A(j -, i) + j * i - 2 dois acessos à memória, uma subtração, uma multiplicação, uma adição, um acesso à memória; cada iteração exige ainda uma comparação e um incremento: 8 (n + ) ciclos dentro de ciclos Comandos sequenciais Qual a complexidade? tempo total de execução = soma dos tempos de execução de cada comando x = 3 y = x + 4 z = 2 * x + A(3, x) Dim baixo As Integer, alto As Integer Dim meio As Integer While (baixo <= alto) meio = (baixo + alto) / 2 If (A(meio) < x) Then baixo = meio + ElseIf A(meio) > x Then alto = meio - Else MsgBox ( Eureka! & CStr(meio)) Wend Do mais rápido ao mais lento Constante O() Logarítmico O(log n) Linear O(n) Polinomial O(n 2 ), O(n 3 ), Exponencial O(2 m ) X X X X 3 O() Constant time Very fast O(log e n) Logarithmic time Fast O(n) Linear time Moderate O(n logn) Sub-linear time Moderate O(n k ) Polynomial time Slow O(k n ) Exponential time Intractable Common time complexity orders

3 Só para arrumar as ideias Supermáquinas O(n) O(n 2 ) n= n=2 n=4. s.2 s.4 s. s.4 s.6 s Complexidade complexidade veloc. actual x mais rápido x mais rápido x + rápido O(n) N N N N O(n 2 ) N 2 3.6N 2 N 2 3.6N 2 O(n 3 ). s.8 s.64 s O(2 n ). s.5 s 2.7 dias O(e n ).22 s 8.8 min 74.6 séc. O(n 3 ) N 3 2.5N N 3 N 3 O(2 n ) N 4 N N N O(e n ) N 5 N N N quanto poderá crescer o input em função do aumento da velocidade de processamento, mantendo o tempo de execução Classes P e NP P = {problemas que podem ser resolvidos em tempo polinomial} NP = {problemas para os quais uma solução pode ser verificada como válida em tempo polinomial} P NP, mas P NP é uma conjectura Exemplo de problema da classe NP CIRCUITO HAMILTONIANO Dados: grafo G=(V,A) Questão: Será que G contém um circuito Hamiltoniano (ciclo que passa em todos os vértices uma só vez e regressa ao vértice inicial)? Transformações Diz-se que um problema X é transformável polinomialmente num problema X (X X) se existe um algoritmo de transformação de X em X executável em tempo polinomial. Problemas NP-completos Partindo da conjectura P NP, define-se a classe dos problemas NP-completos: O problema de decisão X é NP-completo se: X NP, e existe um X NP-completo tal que X X Isto é equivalente a afirmar que se existir um algoritmo em tempo polinomial para um problema NP-completo, poder-se-á resolver todos os problemas NPcompletos em tempo polinomial.

4 Exemplo de probl. NPcompletos Exemplos de problemas NP-completos são (além do CIRCUITO HAMILTONIANO ): CAIXEIRO VIAJANTE Dados: grafo G=(V,A), estando associados às arestas custos não negativos Questão: qual o circuito de comprim. mínimo? CLIQUE Dados: grafo G=(V,A) e J V, J int.> Questão: G contém um subgrafo V com J ou mais vértices onde todos os pares de vértices estão ligados por arestas? Nem todos os problemas são NP: CAIXEIRO VIAJANTE 2 Dados: grafo G=(V,A), estando associados às arestas custos não negativos, e C, inteiro positivo Questão: existirão circuitos de compr. C? Em problemas de otimização Métodos: Exatos determinam a solução ótima Heurísticos têm como objectivo determinar uma (ou mais) solução(soluções) de boa qualidade, em tempo praticável Meta-heurísticas são métodos heurísticos que podem lidar com qualquer problema de otimização por não estarem dependentes de um problema específico. Heurísticas de construção greedy (adiciona-se sempre o melhor) stingy (retira-se sempre o pior) aleatórias de melhoramento de divisão e combinação de simplificação Não INÍCIO Determinar o candidado que cobre a maior quantidade de procura ainda não satisfeita Activar equipamento nesse local e remover a procura coberta por este Já foram localizados P elementos, ou já toda a procura é satisfeita? FIM Sim INÍCIO Seleccionar aleatoriamente um equipamento ainda não escolhido Não Activar equipamento nesse local e remover a procura coberta por este Já foram localizados P elementos, ou já toda a procura é satisfeita? Sim FIM Sim Meta-heurísticas de procura: percorrem o espaço de procura tendo em conta a vizinhança da solução, definida como o conjunto de soluções que podem ser obtidas a partir da aplicação de algum operador à solução actual. de relaxação: simplificam o problema (criando um problema relaxado) e utilizam a solução encontrada como guia para o problema original. evolutivas: lidam com uma população de soluções, que evolui, principalmente, através da combinação/interação entre os seus elementos. construtivas: definem de forma sequencial o valor de cada componente da solução.

5 Meta-heurísticas de procura GLS (Guided Local Search) Arrefecimento Simulado. A probabilidade de efectuar um movimento adverso decresce exponencialmente com o aumento na diferença de custo e com o tempo. Procura Tabu: Classifica como tabu (não revisitáveis) os componentes de soluções adicionados ou removidos recentemente. Procura Reativa: Procura Tabu com deteção de ciclos. arref. simulado v( sa) v( sn) p = exp( ) t onde v(sa) é o valor da solução em análise v(sn) é o valor da solução prospetiva t é a temperatura (ou energia), grandeza que serve como parâmetro de controlo e que decresce ao longo da execução Meta-heurísticas de relaxação Relaxação Lagrangeana: remove algumas restrições de um problema de programação linear, atribui um peso (dito multiplicador de Lagrange) a cada uma delas e altera a função-objetivo para penalizar as soluções que seriam inviáveis no problema original. Meta-heurísticas evolutivas Algoritmos genéticos população de soluções Procura dispersa e Path relinking criam caminhos entre soluções e geram a população seguinte a partir das soluções que aparecem nesses caminhos Colónia de formigas agentes independentes que percorrem um grafo de soluções SOLUÇÃO INICIAL ALEATÓRIA SOLUÇÃO SUB-ÓPTIMA FINAL Meta-heurísticas construtivas POPULAÇÃO DFA SIG 6/7 GERAR NOVA POPULAÇÃO CÁLCULO SELECÇÃO VALOR CRUZAMENTO MUTAÇÃO PROLE GRASP (Greedy Randomized Adaptive Search Procedure): cada iteração é composta por uma fase construtiva e uma fase de procura na vizinhança. Em cada passo da fase construtiva: Selecionam-se os componentes que causam melhor efeito se adicionados à solução atual. Acrescenta-se um desses elementos (selecionado aleatoriamente) à solução.