Annealing Simulado! Metaheurstica de otimizac~ao baseada em conceitos da Fsica Estatstica Fsica Estatstica: Lida com sistemas de muitas partculas (mui

Transcrição

1 Intelig^encia Computacional - 1 1

2 Annealing Simulado! Metaheurstica de otimizac~ao baseada em conceitos da Fsica Estatstica Fsica Estatstica: Lida com sistemas de muitas partculas (muitos graus de liberdade) Fsica Estatstica: Conceitos Basicos Ensemble Estatstico: Conjunto de copias virtuais do sistema de interesse Cada elemento do ensemble pode assumir um qualquer dos `estados acessveis' do sistema (estados microscopicos) e.g., Gas ideal a temperatura constante, T 0! Estados acessveis satisfazem PV / T 0 Ha uma innidade de estados microscopicos consistentes com esta condic~ao macroscopica Condic~ao de Equilbrio! O ensemble n~ao varia com o tempo A probabilidade de encontrar um estado qualquer no ensemble e constante

3 Condic~ao de Ergodicidade! Num tempo sucientemente longo, um elemento qualquer do ensemble passa por todos os seus estados acessveis A media temporal de uma grandeza fsica, tomada em um elemento qualquer do ensemble, e igual a media tomada sobre todo o ensemble num dado instante de tempo Tipos de Ensemble Ensemble Microcan^onico! Sistema isolado N~ao ha troca de energia ou partculas Ensemble Can^onico! Sistema em equilbrio termico Ha troca de energia com um sistema maior (banho termico) Ensemble Gran-Can^onico! Ha troca de energia e partculas

4 E 0 : Ensemble Microcan^onico Sistema isolado! A energia se conserva Distribuic~ao de probabilidade dos estados do sistema a energia P (X) = 8 >< >: K : E(X) = E 0 0 : E(X) 6= E 0 onde X e um estado acessvel, e K e uma constante Ensemble Can^onico Sistema (S) pode trocar energia com um sistema maior (S 0 ) A energia da combinac~ao dos dois sistemas se conserva: E S + E S 0 = E 0! A probabilidade de encontrar o sistema S no estado X e igual a probabilidade de encontrar o sistema S 0 na energia E S 0 = E 0 ; E(X) Assim, P c (X) = C 0 0 (E 0 ; E(X)) onde 0 (E) Numero de estados de S 0 com energia E C 0 Constante de normalizac~ao

5 Como S 0 >> S e E(X) << E 0, log 0 (E 0 ; E(X)) = log 0 (E 0 ) ; E(X) onde Assim, 2 3 6@ log 0 = (E 0 ; E(X)) = 0 (E 0 )exp(;e(x)) 0 de onde se obtem a distribuic~ao de Gibbs (ou Boltzmann) P c (X) = C exp(;e(x)) = exp (;E(X)) P X exp (;E(X)) A grandeza caracteriza o banho termico, S 0, e costuma ser expressa como onde = 1 k B T T temperatura absoluta do sistema S 0 k B constante de Boltzmann! No ensemble can^onico, a temperatura e constante

6 O Algoritmo de Metropolis (1953)! Gera amostras da distribuic~ao de Gibbs A partir de um estado inicial arbitrario, modicac~oes aleatorias s~ao iterativamente propostas no estado do sistema, e aceitas com probabilidade onde 0 P = min[1 ;E 1 A ] k B T E E fin ; E ini Variac~ao de energia acarretada pela mudanca de estado proposta Assim, Se E 0, a mudanca e aceita Se E > 0, a mudanca e aceita se exp(;e=k B T ) < R onde R 2 [0 1] e um numero aleatorio - Apos varias iterac~oes, o conjunto dos estados obtidos (ensemble) converge para uma congurac~ao de equilbrio que satisfaz a distribuic~ao de Gibbs, i.e., N X / exp(;e(x)=k B T ) onde N X e o numero de vezes que o estado X e encontrado no ensemble

7 Prova: Assumindo E(X) > E(Y ),! N X P XY e o numero de mudancas de estado X! Y! N Y P YX expf[e(y );E(X)]=k B T g e onumero de mudancas de estado Y! X = P YX, i.e., todas as mu- No algoritmo de Metropolis, P XY dancas de estado s~ao equiprovaveis! Numero lquido de transic~oes Y! X: N Y!X = P XY (N Y expf[e(y ) ; E(X)]=k B T g;n X ) No equilbrio, N Y!X = 0 Assim, N X N Y = exp[;e(x)=k BT ] exp[;e(y )=k B T ]

8 Algoritmo de Metropolis Dado o sistema a temperatura T Escolha um estado arbitrario s do Faca uma mudanca aleatoria de estado r R(s) E E(r) ; E(s) Aceite estados de energia mais baixa if E 0 then s r Aceite estados de energia mais alta com probabilidade P else P exp(;e=t) x numero rand^omico em [0 1] if x < P then s r if N~ao ha decrescimo signicativo em E por varias iterac~oes then Stop

9 Annealing Simulado! Paralelo entre a obtenc~ao das congurac~oes de mnimo custo em um problema de otimizac~ao e a obtenc~ao dos estados de mnima energia de um sistema fsico! Func~ao Custo Func~ao Energia Distribuic~ao de Gibbs: P (X) / exp[;e(x)=k B T ]! T alta: Todos os estados s~ao equiprovaveis! T baixa: Apenas os estados de mnimo custo (estados fundamentais) t^em probabilidade apreciavel Annealing Fsico: Solido aquecido alem do seu ponto de fus~ao, e resfriado lentamente! Se o resfriamento e sucientemente lento, obtem-se uma estrutura cristalina livre de imperfeic~oes (estado de baixa energia) Annealing Simulado: Algoritmo de Metropolis empregado numa sequ^encia de temperaturas decrescentes, para gerar soluc~oes de um problema de otimizac~ao

10 O processo comeca com um valor T elevado, e, a cada T, geramse soluc~oes ate que o equilbrio aquela temperatura seja alcancado A temperatura e ent~ao rebaixada, e o processo prossegue ate o `congelamento' (i.e., n~ao se obtem mais uma diminuic~ao de custo) A sequ^encia de temperaturas empregada, juntamente com o numero de iterac~oes a cada temperatura, constitui uma prescric~ao de annealing, que deve ser denida empiricamente Exemplo de Aplicac~ao: Problema do Caixeiro-Viajante! Planejar a rota de menor custo entre N cidades, dado o custo de viagem entre quaisquer duas delas (Problema NP-Completo) Func~ao Custo: E(X) = P N;1 i=1 d(x i X i+1 ), onde X = fx 1 :: X N g Permutac~ao das N cidades d(x i X i+1 ) Dist^ancia entre as cidades X i e X i+1 na rota Partindo de uma rota inicial arbitraria e de uma temperatura elevada, visitamos as cidades em sequ^encia e propomos revers~oes locais de percurso: fx i;1 X i X i+1 g! fx i+1 X i X i;1 g As modicac~oes de percurso s~ao aceitas de acordo com o algoritmo de Annealing Simulado! Efeito de escala: Para T alta, os trechos de larga escala se denem so quando T 0 a estrutura de curta escala se estabiliza

11 Algoritmo de Annealing Simulado: Escolha um estado arbitrario s Escolha uma temperatura inicial sucientemente elevada T while T > 0 do Faca uma mudanca rand^omica de estado r R(s) E E(r) ; E(s) Aceite estados de energia mais baixa if E 0 then s r Aceite estados de energia mais alta com probabilidade P else P exp(;e=t) x numero rand^omico em [0 1] if x < P then s r if N~ao ha decrescimo signicativo em E por varias iterac~oes then Baixe a temperatura T

12 Implementac~ao do Annealing! Conjunto de Decis~oes Genericas e Especcas do Problema Decis~oes Genericas: Prescric~ao de Annealing! Temperatura Inicial, Temperatura Final, Taxa de Resfriamento, Condic~oes de Parada Temperatura Inicial: Deve ser alta o bastante para permitir movimentos livres entre soluc~oes vizinhas! Pode ser escolhida a partir do conhecimento da variac~ao media de custo entre soluc~oes vizinhas! Alternativamente, pode ser obtida por simulac~ao, e.g., xandose uma taxa de aceitac~ao mnima de movimentos Taxa de Resfriamento: O equilbrio termico deve ser aproximado a cada temperatura (em teoria, o numero de iterac~oes requerido cresce exponencialmente com o tamanho do problema) Prescric~oes Comuns: a) Resfriamento Geometrico: T = at, a < 1! Resfriamento lento (0:8 < a < 0:99)! Onumero de iterac~oes a cada T pode ser variavel, e.g., ligado a uma taxa xa de aceitac~ao de movimentos: alto T! poucas iterac~oes

13 b) T = T=(1 + T), com pequeno! Resfriamento rapido: uma so iterac~ao por temperatura c) Prescric~ao de Hajek: T = c=[log(1 + k)], k iterac~ao! Resfriamento muito lento! Para c da ordem da profundidade do mnimo local mais profundo, a converg^encia do algoritmo esta garantida se k! 1 Temperatura Final: Em teoria, a temperatura nal deve ser zero. Na pratica, e suciente chegar a uma temperatura proxima a zero, devido a precis~ao limitada da implementac~ao computacional! Especica-se um numero maximo de iterac~oes do algoritmo (garantindo que ele atinja baixas temperaturas)! Alternativamente, identica-se o congelamento do processo, quando a taxa de aceitac~ao de movimentos cai abaixo de um valor predeterminado Regra Geral: Os par^ametros mais adequados para uma dada aplicac~ao do algoritmo so podem ser estabelecidos por experimentac~ao

14 Decis~oes Especcas do Problema Espaco de Soluc~oes, Estrutura de Vizinhanca, Func~ao Custo! Do resultado de Hajek: Espaco de soluc~oes com topograa acidentada deve ser evitado espaco com grandes areas planas tambem, ja que prejudica a evoluc~ao do algoritmo! Estrutura de vizinhanca deve garantir que qualquer soluc~ao seja alcancavel a partir de qualquer outra, para garantir converg^encia! Soluc~oes n~ao-plausveis devem ser preferencialmente penalizadas, ao inves de mantidas fora do espaco de soluc~oes, para garantir condic~ao acima, e tambem para facilitar o c^omputo da func~ao custo Exemplo: Problema de Colorac~ao de Grafos Grafo: Conjunto de pontos (nos), alguns deles conectados entre si por linhas (arestas) Problema de colorac~ao dos nos: Alocar uma cor para cada no, de forma que nos adjacentes n~ao recebam a mesma cor e que o numero mnimo de cores seja empregado (Em certas aplicac~oes, deseja-se obter uma colorac~ao plausvel para um dado numero de cores)

15 Espaco de Soluc~oes Natural: Conjunto de Colorac~oes Plausveis! Partic~oes dos nos em subconjuntos tais que n~ao haja arestas entre dois nos quaisquer do mesmo subconjunto Vizinhanca: Pode ser obtida trocando alguns nos entre dois subconjuntos! Problema: Isso deve ser feito mantendo-se a plausibilidade (n~ao se pode introduzir arestas nos subconjuntos)! Possvel soluc~ao: Usar cadeias de Kempe Cadeias de Kempe: O grafo denido pelos nos de quaisquer dois subconjuntos contem um numero de componentes desconectadas estas s~ao as cadeias de Kempe A plausibilidade das soluc~oes pode ser mantida trocando-se as cores dos nos numa mesma cadeia de Kempe! Problema: Calcular repetidamente as cadeias de Kempe pode ser custoso! Soluc~ao alternativa: Relaxar a denic~ao de plausibilidade, aumentando o espaco de soluc~oes e incluindo uma penalidade na func~ao custo, para tornar caras (i.e., improvaveis) as soluc~oes implausveis

16 Func~ao Custo Natural: partic~ao Numero de subconjuntos em cada! Problema: Plat^os na func~ao custo: O custo n~ao muda, a n~ao ser que algum dos subconjuntos torne-se vazio (O termo de penalidade introduz certa variac~ao na func~ao custo, mas n~ao serve para guiar o annealing na direc~ao das melhores soluc~oes: partic~oes com muitos subconjuntos grandes e alguns subconjuntos quase vazios s~ao melhores que partic~oes uniformes)! Possvel soluc~ao: Termo que encoraja subconjuntos grandes e.g., X E = ; k C 2 i + 2 X k C i E i i=1 i=1 onde C i e o numero de nos e E i e o numero de arestas no subconjunto i, e k e o numero (desconhecido) de subconjuntos

17 Propostas de Modicac~ao do Annealing Probabilidade de Aceitac~ao Calculo de exp(;e=t) e custoso (1=3 do tempo computacional, em uma aplicac~ao de partic~ao de grafo)! Alternativas: i) P (E) = 1 ; E=T ii) Tabela para calculo de P (E) em valores xos de E=T Resfriamento Fase intermediaria do annealing e a mais importante (fase de alta temperatura deve ser curta)! Possibilidades: i) Reduzir T apos um numero xo de aceitac~oes de movimentos, antes que o numero maximo de iterac~oes seja atingido ii) Iniciar o annealing numa temperatura para a qual a taxa de aceitac~ao ja seja pequena iii) Annealing a Temperatura Fixa: Executar o algoritmo inicialmente com 1 iterac~ao a cada temperatura determinar o T para o qual o menor valor de custo e obtido prosseguir com o annealing aquela temperatura xa

18 iv) Usar reaquecimento: e.g., a cada aceitac~ao: T! T=(1 + T ) a cada rejeic~ao: T! T=(1 ; T) Vizinhancas A vizinhanca pode ser ajustada ao longo da execuc~ao e.g., Quando um termo de penalidade e usado para garantir plausibilidade, os movimentos podem ser restritos as variaveis que contribuem para a sua quebra Amostragem da Vizinhanca Annealing Padr~ao: Vizinhanca e amostrada aleatoriamente! Proximo a uma soluc~ao otima, como a maioria das soluc~oes vizinhas s~ao de maior custo, pode acontecer de um movimento pior ser aceito antes de o otimo ser atingido assim, o algoritmo pode se afastar do otimo! Possvel soluc~ao: Amostragem Cclica - Todas as soluc~oes vizinhas s~ao testadas uma vez, antes que alguma possa ser reconsiderada (A ordem das visitas no ciclo deve ser randomizada, de forma a manter a aleatoriedade global do algoritmo)

19 Func~ao Custo Pode ser difcil determinar o peso de um termo de penalizac~ao (plausibilidade)! Possvel soluc~ao: Pode-se resolver o problema iterativamente, procurando-se soluc~oes plausveis para valores progressivamente menores da func~ao custo verdadeira (sem penalidade) e.g., Na colorac~ao de grafos, encontrar soluc~oes plausveis usando k cores, para valores decrescentes de k