Teoria da Decisão. Introdução às Metaheurísticas. Prof. Lucas S. Batista. lusoba

Transcrição

1 Teoria da Decisão Introdução às Metaheurísticas Prof. Lucas S. Batista lusoba Universidade Federal de Minas Gerais Escola de Engenharia Graduação em Engenharia de Sistemas

2 Definições Gerais Sumário 1 Problema de Otimização Definições Gerais 2 Introdução às Metaheurísticas Visão Geral do Tema 3 Simulated Annealing 2 / 42

3 Definições Gerais Processo de Otimização Frequentemente, o benefício ou o custo (i.e., o efeito) da implantação de uma solução x pode ser expresso por meio de uma função f ( ) de variáveis de decisão, onde x = (x 1, x 2,..., x n ). Então, determinar o melhor arranjo dessas variáveis que minimiza ou maximiza essa função mérito consiste em um processo de otimização. 3 / 42

4 Definições Gerais Processo de Otimização Otimização Processo que utiliza métodos computacionais para encontrar a melhor forma de projetar e/ou operar um dado sistema, representada pela melhor combinação de valores para as variáveis do problema, considerando seus objetivos e suas restrições de projeto e de operação. O processo de otimização sempre resulta, ou busca justificação, em um impacto econômico, representado por: qualidade do produto, custo da produção, competitividade. 4 / 42

5 Definições Gerais Processo de Otimização Otimizar Significa minimizar (ou maximizar) uma dada função: Encontrar x F : f (x) f (y), y F min f (x), x F x 5 / 42

6 Definições Gerais Problema de Otimização Mono-objetivo Formulação geral: min f (x) R, x F x X = {x = (x 1, x 2,..., x n ), x i D i } g i (x) 0; i = 1,..., p F = h j (x) = 0; j = 1,..., q x X 6 / 42

7 Definições Gerais Problema de Otimização Mono-objetivo Caso particular (programação linear): min x cx R, x F a ik x k 0; k F = b jk x k = 0; k x k 0 i = 1,..., p j = 1,..., q 7 / 42

8 Visão Geral do Tema Sumário 1 Problema de Otimização Definições Gerais 2 Introdução às Metaheurísticas Visão Geral do Tema 3 Simulated Annealing 8 / 42

9 Visão Geral do Tema Motivação Todos os dias, engenheiros e tomadores de decisão são confrontados com problemas de crescente complexidade. Esses problemas emergem de diversos setores técnicos: projeto de circuitos elétricos/eletrônicos; projeto de sistemas de controle; projeto de sistemas mecânicos; processamento de imagens; pesquisa operacional. Esses desafios podem, frequentemente, ser modelados como problemas de otimização. 9 / 42

10 Visão Geral do Tema Otimização Difícil Dois tipos de problemas de otimização são claramente postos: problemas discretos e problemas com variáveis contínuas. Problemas discretos: caixeiro viajante, roteamento de veículos. Problemas contínuos: máquinas elétricas, controladores PI. Problemas mistos: envolvem simultaneamente variáveis discretas e contínuas. Essa diferenciação é útil para definir o domínio de dificuldade do problema de otimização. 10 / 42

11 Visão Geral do Tema Otimização Difícil Problemas discretos difíceis Não se conhece um algoritmo polinomial exato. Este é o caso, particularmente, dos problemas NP-difíceis. Problemas contínuos difíceis Não se conhece um algoritmo exato capaz de localizar o ótimo global em um número finito de iterações. 11 / 42

12 Visão Geral do Tema Otimização Difícil Muito esforço foi dedicado, separadamente, à solução desses problemas: No campo dos problemas contínuos difíceis... Existe um arcabouço significativo de métodos tradicionais para otimização global. Entretanto, sua efetividade depende de propriedades específicas do problema, e.g., diferenciabilidade, convexidade, modalidade. No campo dos problemas discretos difíceis... Existe um arsenal de heurísticas, as quais encontram soluções próximas do ótimo. Entretanto, a maioria delas é concebida para um problema específico. 12 / 42

13 Visão Geral do Tema Otimização Difícil A chegada das Metaheurísticas (MH) marca uma reconciliação de ambos os domínios. De fato, elas são aplicadas a todos os tipos de problemas discretos, e podem ser adaptadas a problemas contínuos. Possuem em comum as seguintes características: são estocásticas; possuem origem discreta, e mesmo em problemas contínuos não exigem diferenciabilidade, convexidade, modalidade; são inspiradas em analogias físicas (SA), biológicas (TS, EAs) ou etológicas (ACO, PSO); compartilham as mesmas desvantagens, i.e., ajuste de parâmetros e alto custo computacional. 13 / 42

14 Visão Geral do Tema Otimização Difícil Em geral, é impossível assegurar com certeza a efetividade de uma dada MH quando aplicada a um dado problema. As MHs não são mutualmente excludentes. A tendência atual é a utilização de métodos híbridos, buscando beneficiar-se de vantagens específicas combinadas. As MHs podem ser facilmente estendidas para: otimização multiobjetivo; otimização multimodal; otimização dinâmica; implementações paralelas. 14 / 42

15 Visão Geral do Tema Limitação Geral de Métodos Clássicos Métodos clássicos, ou métodos de decida, aceitam somente movimentos de melhora (possuem convergência monotônica). Esses algoritmos de aperfeiçoamento iterativo não conduzem, em geral, ao ótimo global, mas a um mínimo local específico (c n ). 15 / 42

16 Visão Geral do Tema Limitação Geral de Métodos Clássicos Para melhorar a efetividade dos métodos clássicos, eles podem ser aplicados repetidas vezes, partindo de configurações iniciais distintas. Esse processo, entretanto, aumenta o custo computacional do algoritmo, não garante a determinação do ótimo c, e torna-se inefetivo com o aumento do número de mínimos locais. 16 / 42

17 Visão Geral do Tema Fonte de Efetividade das MHs MHs são capazes de escapar de ótimos locais!!! MHs baseadas em vizinhança (SA, VNS, ILS) aceitam a degradação temporária da solução, permitindo encontrar c n, c n e c. MHs distribuídas (EAs) evoluem paralelamente uma população de soluções candidatas, e empregam estratégias específicas para exploração do espaço de busca. 17 / 42

18 Visão Geral do Tema Classificação Geral dos Métodos de Otimização Mono-objetivo 18 / 42

19 Sumário 1 Problema de Otimização Definições Gerais 2 Introdução às Metaheurísticas Visão Geral do Tema 3 Simulated Annealing 19 / 42

20 Introdução Simulated Annealing (SA) foi proposto por três pesquisadores da IBM em 1982 (S. Kirkpatrick, C.D. Gelatt and M.P. Vecchi, 1983). Na ocasião estavam tentando resolver um problema de disposição ótima de componentes eletrônicos em uma placa de circuitos. 20 / 42

21 Introdução SA é uma metaheurística de busca local usada para tratar problemas de otimização discreta e, em menor escalar, contínua. Sua principal característica é a habilidade de escapar de mínimos locais, através da aceitação de movimentos de piora da qualidade da solução. Tornou-se muito popular na década de 90 devido à fácil implementação e propriedades de convergência atrativas. 21 / 42

22 História e Motivação SA é inspirado no processo de recozimento físico de sólidos: Um sólido é aquecido e, em seguida, resfriado em estágios, lentamente, até atingir a configuração cristalina mais regular possível (i.e., estado de menor energia), a qual é livre de defeitos. SA estabelece uma conexão entre esse tipo de comportamento termodinâmico e o processo de busca por mínimos locais de problemas de otimização discreta. 22 / 42

23 Funcionamento do Algoritmo Em cada iteração do SA, duas soluções candidatas são comparadas (a atual e a modificada): soluções melhoradas são sempre aceitas; uma parcela das soluções inferiores é aceita, com o intuito de escapar de ótimos locais. A probabilidade de aceitação de soluções inferiores depende do parâmetro temperatura, o qual é usualmente não-crescente ao longo das iterações. À medida que o parâmetro temperatura tende a zero, movimentos de piora ocorrem com menor frequência e o método converge para um ótimo local, que pode ou não ser global. 23 / 42

24 Funcionamento do Algoritmo Assuma as seguintes definições 1 : Ω: espaço de soluções (conjunto de todas as soluções possíveis); f : Ω R: uma função objetivo definida em Ω; N (x): função de vizinhança da solução x Ω; x : mínimo global, i.e., x Ω tal que f (x ) f (x), x Ω. 1 A menos que seja dito o contrário, será considerado o SA para problemas de otimização discreta. 24 / 42

25 Funcionamento do Algoritmo Evolução geral do SA: Começa a busca a partir de uma solução inicial x Ω; Uma nova solução candidata x N (x) é gerada; Emprega-se o critério de aceitação de Metropolis (1953), que modela como um sistema termodinâmico move-se do estado corrente, x Ω, para um novo estado, x Ω, de menor energia. 25 / 42

26 Funcionamento do Algoritmo A probabilidade de aceitação da solução candidata, x, como a alternativa corrente é dada por: { P{x exp[ (f (x ) f (x))/t k ] se f (x ) f (x) > 0 } = 1 se f (x ) f (x) 0 em que t k é o parâmetro temperatura no estágio k, tal que: t k > 0 k e lim t k = 0. k Note que em altas temperaturas, exp[ (f (x ) f (x))/t k ] 1, e em baixas, exp[ (f (x ) f (x))/t k ] / 42

27 Funcionamento do Algoritmo A regra de redução da temperatura possui a seguinte forma: Regra geométrica (amplamente aceita, muito simples) t k+1 = αt k, α é uma constante menor que 1. Regra adaptativa (mais efetiva) t k+1 = α(t k )t k ( ) ( (t k ) t k+1 = 1 t k t σ 2 k, t k+1 = min D 0, E ) k t k, etc. (t k ) E k em que σ 2 (t k ) é o desvio padrão das soluções aceitas no estágio k, (t k ) depende da regra adaptativa definida, D 0 [0.5, 0.9], E k é o menor f ( ) aceito durante o estágio k e E k é o valor médio de todas as soluções aceitas no o estágio k. 27 / 42

28 Pseudocódigo do SA Algoritmo 1: Simulated Annealing 1 Defina um contator k = 0 e uma temperatura inicial t k=0 0; 2 Defina T k (função que controla a variação da temperatura); 3 Defina M k (no. de iterações executadas na temperatura t k ); 4 Selecione uma solução inicial x Ω; 5 while critério de parada não alcançado do 6 Defina o contator m = 0; 7 while m M k do 8 Gere uma solução x N (x); 9 Calcule E = f (x ) f (x); 10 if E 0 then 11 x x ; 12 x b update(x, x b ); 13 else 14 x x com probabilidade exp( E/t k ); 15 m m + 1; 16 t k+1 T k (t k ); 17 if t k+1 ɛ then 18 t k+1 t 0 ; 19 k k + 1; 28 / 42

29 Considerações Adicionais Algumas escolhas são fortemente dependentes do problema, e influenciam diretamente a eficiência do SA: função objetivo; mapeamento das soluções candidatas; função de vizinhança; tamanho da vizinhança 2. 2 Alguns autores sugerem a implementação do SA com busca em vizinhança variável. Resultados numéricos sugerem um aumento do desempenho do método. 29 / 42

30 Considerações Adicionais Definição da temperatura inicial t 0 : realize 100 perturbações em x 0 e obtenha o valor médio E; escolha uma taxa de aceitação inicial τ 0, e.g., τ 0 = 0.5 ou τ 0 = 0.2; deduza t 0 a partir da relação exp( E/t 0 ) = τ 0. Critério para alteração da temperatura: 12n perturbações aceitas ou 100n perturbações testadas. Regra de redução da temperatura: t k+1 = 0.9t k Critério de parada do método: 03 estágios sucessivos de temperatura sem melhora. 30 / 42

31 Considerações Adicionais Exemplos de estruturas de vizinha: Suponha um problema de sequenciamento de máquinas paralelas não relacionadas com tempos de preparação. Quais estruturas de vizinhança podem ser empregadas? 31 / 42

32 Considerações Adicionais Exemplos de estruturas de vizinha: Shift Realocação de uma tarefa para outra posição da mesma máquina. 32 / 42

33 Considerações Adicionais Exemplos de estruturas de vizinha: Switch Troca a posição de duas tarefas processadas na mesma máquina. 33 / 42

34 Considerações Adicionais Exemplos de estruturas de vizinha: Task Move Movimentação de uma tarefa de uma máquina de origem para uma outra máquina. 34 / 42

35 Considerações Adicionais Exemplos de estruturas de vizinha: Swap Realocação de duas tarefas aleatórias entre duas máquinas. 35 / 42

36 Considerações Adicionais Exemplos de estruturas de vizinha: Two-Shift Desloca a posição de duas tarefas processadas em uma mesma máquina. 36 / 42

37 Considerações Adicionais Exemplos de estruturas de vizinha: Direct Swap Troca de duas tarefas entre duas máquinas, mantendo as posições originais nessas máquinas. 37 / 42

38 Considerações Adicionais Características das funções de vizinhança: 38 / 42

39 Extensão para Problemas Contínuos A maioria das aplicações com SA são para problemas discretos, entretanto, existem algumas para tratar problemas contínuos. A principal dificuldade relaciona-se com a modelagem da discretização do espaço de busca. Inúmeros trabalhos discutem as propriedades de convergência do SA aplicado a problemas contínuos de otimização global. 39 / 42

40 Extensão para Problemas Contínuos Simulated Annealing para problemas contínuos: 1 Geração de novas soluções: x = x + δ, em que δ = σ(x ub x lb )D(0, 1), D(0, 1) = randn(n, 1) 2 As n variáveis são modificadas em grupos de p = n/3: x = x + Hδ, em que H é uma matriz diagonal com 1s nas posições a serem modificadas. 3 Regra de atualização de σ: para a i-ésima iteração do k-ésimo estágio de temperatura, assuma dk i a distância entre x e x, f (x ) f (x), então σ = mean(d d k ). 4 O desvio padrão inicial é σ = 0.25, sendo atualizado ao fim de cada estágio de temperatura. 40 / 42

41 Vantagens e Desvantagens do Método Vantagens: Geralmente encontra uma solução de boa qualidade; Sua aplicação e adaptação é muito flexível; Possui fácil implementação. Desvantagens: Alto número de parâmetros de controle; O ajuste de parâmetros é dependente do problema; O custo computacional pode ser alto em algumas aplicações. 41 / 42

42 Literatura Especializada M. Gendreau, J.-Y. Potvin (eds.), Handbook of Metaheuristics, Springer, 2nd ed., J. Dréo, P. Siarry, A. Pétrowski, E. Taillard, Metaheuristics for Hard Optimization: Methods and Case Studies, Springer, L.M. Pereira, Análise de estruturas de vizinhança para o problema de sequenciamento de máquinas paralelas não relacionadas com tempos de preparação, Dissertação de Mestrado, PPGEE/UFMG, Início 42 / 42