Metaheurísticas de Otimização Bio-Inspiradas

Transcrição

1 * Aula baseada nas notas de aula dos prof.s Fernando Von Zuben, da UNICAMP e Heitor Lopes, da UTFPR Metaheurísticas de Otimização Bio-Inspiradas Aula 12 Otimização por Enxame de Partículas Parte 2* Prof. Dr. Hugo Valadares Siqueira

2 Particle Swarm Optimization PSO foi criado por J. Kennedy e R. Eberhart; Primeira publicação em 1995; Posteriormente melhorado por Y.Shi, M.Clerc e outros; Livro: Eberhart, R.C., Shi, Y., Kennedy, J. Swarm Intelligence. San Francisco: Morgan Kaufmann, 2001.

3 PSO Metaheurística populacional para a otimização de funções contínuas baseada em mecanismos de simulação do comportamento social de animais, como revoadas de pássaros; Utiliza como metáfora o modo de influência em formas de pensar e agir entre seres humanos; Conjunto de partículas navegando pelo espaço de soluções; Cada partícula estabelece sua trajetória combinando suas experiências passadas com as experiências de seus vizinhos (outras partículas com as quais elas se comunicam).

4 Exemplo de processo totalmente auto-organizado: Unidades simples de processamento, através de intensa comunicação entre si e interação com o ambiente, cooperando para a obtenção de um objetivo comum; Partículas isoladas tem limitado poder de otimização: a capacidade do enxame é uma qualidade emergente; Ausência de um controle centralizado, como a evolução natural; Pontos positivos: técnica simples, robusta, flexível, altamente distribuída, com baixas exigências de memória e poder de processamento e de rápida convergência a um ótimo; Ponto negativo: rápida perda de diversidade e convergência prematura a ótimos locais.

5 Comparação com Computação Evolutiva A Otimização por Enxame de Partículas é considerada como uma técnica de Inteligência de Enxame por trazer uma metáfora diferente da evolução das espécies; As influências pessoais e sociais guardam semelhança com operadores de recombinação e de crossover, enquanto que a conservação de movimento da partícula atua como uma espécie de mutação direcional; Há diferenças, no entanto, sendo a maior delas o papel da seleção natural: enquanto que métodos evolutivos têm como parte essencial a morte dos indivíduos menos aptos, em um processo social os indivíduos são preservados durante a execução do algoritmo, de forma que o próprio indivíduo se adapta no decorrer do tempo.

6 Características É um algoritmo populacional, no qual os agentes são denominados de partículas; As potenciais soluções sobrevoam o espaço de busca n-dimensional do problema; A busca se dá através da aceleração e desaceleração das partículas que são influenciadas por: Componente Cognitivo (experiência da própria partícula); Componente Social (influência do grupo).

7 Uma ideia inspirada em sistemas cognitivos é a de que as partículas tenderão a se mover em direção umas das outras e irão influenciá-las; A inspiração tomada nas ciências sociais e na psicologia sugere que os indivíduos sejam influenciados por suas próprias experiências prévias e pela experiência de alguns de seus vizinhos;

8 Os agentes que são candidatos à solução de um determinado problema aprendem a partir de suas próprias experiências e da experiência de outros; Eles se avaliam, comparam seus desempenhos com os de seus vizinhos e imitam somente aqueles que são melhores do que eles; Os partículas da população são representadas por pontos em um espaço R N ; As variações nos atributos destes levam a novos pontos no espaço, ou seja, correspondem a movimentações no espaço.

9 Princípio básicos da inteligência de enxames Proximidade: a população deve ser capaz de executar computações simples; Qualidade: a população deve ser capaz de responder a fatores de qualidade do ambiente; Resposta Diversificada: a população deve ser capaz de manter sua diversidade; Estabilidade: a população deve se manter estável a mudanças bruscas no ambiente; Adaptabilidade: a população deve ser capaz de responder a alterações no ambiente, sempre que valer a pena.

10 De Sistemas Sociais a Enxames de Partículas

11 No PSO, a crença de um indivíduo é representada por um vetor xi (posição da partícula no espaço); A posição de uma partícula i é dada por xi (xi R L ); A cada passo, as partículas têm suas posições atualizadas de acordo com suas velocidades vi: xi(t+1) = xi(t) + vi(t+1) Após calculada a nova posição a partícula i avalia a qualidade de seu xi, comparando com a melhor posição que a partícula já visitou, pbesti; Caso xi seja melhor que pbesti, a melhor posição é atualizada para a posição atual.

12 A velocidade de cada partícula no passo atual é calculada considerando-se a velocidade no passo anterior e a posição de seus dois atratores: pbest, vetor com a melhor posição já visitada pela partícula i; gbest, a melhor posição já visitada por algum dos vizinhos da partícula: vi(t+1) ωvi + c1r1(pbesti xi) + c2r2(gbest xi) As constantes ω, c1 e c2, são chamadas, respectivamente, de ponderação (peso) de inércia, parâmetros cognitivo e social (taxa de aprendizagem), e r1 e r2 são vetores aleatórios, gerados no intervalo [0,1] e representam o componente estocástico do algoritmo; A atualização da velocidade se assemelha ao crossover: o vetor resultante é a mistura das influências de pbest e gbest.

13 ω: é o peso de inércia (momento) que introduz uma espécie de atrito no movimento de cada partícula, reduzindo a velocidade inercial. Seu valor geralmente decai linearmente de 0.9 a 0.4; c1: nostalgia da partícula; c2: indica o quanto uma partícula será influenciada por suas vizinhas; 0 < c 1, c 2 2 são coeficientes de aceleração pessoal e global que influenciam no tamanho máximo do passo que uma partícula pode dar em uma iteração; A avaliação das posições de cada partícula é feita pela função de desempenho (fitness) a qual se deseja otimizar.

14 Resumindo: uma partícula irá se mover em uma determinada direção que é função da posição atual da partícula xi(t), de uma velocidade vi(t), da posição pbest da partícula que levou ao seu melhor desempenho até o momento, e do melhor desempenho global do sistema até o momento gbest: xi(t+1) = f(xi(t), vi(t), pbest, gbest)

15 Atualização da velocidade Três termos definem uma nova velocidade para uma partícula: 1. Termo de inércia 2. Termo cognitivo 3. Termo de aprendizado social Força a partícula a mover-se na mesma direção Tendência para seguir a própria direção com a mesma velocidade Melhora o indivíduo Força a partícula a voltar a uma posição anterior que seja melhor do que a atual Tendência conservativa Força a partícula a seguir a direção de seus melhores vizinhos Como em todo rebanho, mas seguindo os melhores

16 inércia cognitivo aprendizado social v i = ωv i + c 1 r 1.(pbest i - x i ) + c 2 r 2.(gbest i - x i ) No algoritmo, primeiro atualiza-se a velocidade e depois a posição; Para limitar a velocidade de uma partícula de forma que o sistema não se instabilize, são impostos limites para seus valores: If vi > vmax, then vi = vmax Else if vd < vmax then vi = vmax

17 Interpretação Geométrica v i = ωv i + c 1 r 1.(pbest i - x i ) + c 2 r 2.(gbest i - x i )

18 Algoritmo (versão para minimização)

19 Início Inicialize as partículas em posições aleatórias e velocidades nulas Calcule os valores fitness Achou um critério de busca local? NÃO Compare/atualize os valores dos fitness pbest e gbest SIM Busca local Critério de parada? SIM Fim NÃO Atualize velocidades e posições das partículas NÃO Critério de reinicialização? SIM Reinicialize algumas partículas

20 Movimentação das partículas O vetor velocidade de cada partícula sofre a ação do ótimo individual e do ótimo global (melhor experiência do grupo); Geralmente as partículas ultrapassam o ponto de ótimo atual a partir de várias direções explorando regiões promissoras; Todas as partículas possuem a chance de descobrir um ótimo global e compartilhar com as demais; Os termos aleatórios inserem um caráter estocástico à busca; Os coeficientes c 1 e c 2 aceleram o deslocamento das partículas; O fator de inércia controla o grau de exploração da busca: Maior inércia = mais exploração; Menor inércia = mais explotação.

21 Comportamentos possíveis de uma partícula OUSADO: segue seu próprio caminho (usando o seu vetor velocidade); CONSERVADOR: volta mais ou menos em direção à melhor posição que encontrou em sua busca; SUBMISSO: volta mais ou menos em direção à melhor posição encontrada pelos seus vizinhos; PSO formaliza a combinação destas três tendências de modo a ser globalmente eficiente (M. Clerc).

22 Variações do PSO Tipo de Vizinhança: Refere-se à topologia dos relacionamentos entre as partículas; Determina quais partículas são influenciadas por uma boa posição visitada; Mais usados são pbest e gbest; No gbest uma partícula se relaciona com os vizinhos; Cria uma vizinhança para cada indivíduo composta por ele próprio e seus k vizinhos mais próximos; Uma boa posição de uma partícula é compartilhada apenas com os vizinhos. É possível criar um algoritmo em que o gbest seja a melhor posição de um grupo de vizinhos próximos: neste caso chama-se o operador de lbest (local best); Da mesma forma, gbest pode ser definido como a melhor posição já encontrada por todo enxame.

23 Tipo de Vizinhança i i-1 i+1 Gbest Lbest

24 Entretanto, a vizinhança aqui corresponde à vizinhança topológica e não à vizinhança no espaço de atributos de cada indivíduo (partícula); Sendo assim, a vizinhança de cada indivíduo é definida a partir de um arranjo topológico.

25 No enxame a vizinhança é social, e não necessariamente geográfica:

26 Vizinhança A vizinhança normalmente é topológica, não espacial.

27 Variações do PSO PSO Binário Os vetores x i e y i são formados por 0s e 1s; O vetor velocidade continua real, mas é tratado como uma probabilidade; Para isso é utilizada a função logística sigmoidal; A expressão de atualização da velocidade é a mesma: x i, j 0 se r sig( vi, j( t 1)) ( t 1) 1 se r sig( vi, j( t 1)) r é um valor aleatório retirado de U(0,1); Para evitar a saturação da função é recomendado limitar a velocidade em [-4, 4]; Resultados mostraram que o PSO Binário chega a resultados mais rapidamente que AG e lida melhor com alta dimensionalidade; Podem ainda ser usados valores discretos além de 0 e 1.

28 Variações do PSO Peso de Inércia (w) Não era utilizado originalmente, mas se tornou padrão; Possui semelhança com a temperatura do Simulated Annealing; Controla o grau de convergência da busca; Pode ser fixo ou descrescente; Uso de Seleção Aplica o conceito de seleção natural dos AEs, porém modificado; Diminui a diversidade se concentrando em regiões mais promissoras.

29 Escopo de Aplicação As primeiras aplicações do algoritmo PSO foram na determinação de pesos e arquitetura de redes neurais artificiais; Além disso, esta técnica também tem sido aplicada a problemas de otimização de funções numéricas em geral; Aplicações em problemas de mundo real também existem na literatura, como análise de tremor humano, otimização de moinhos, otimização de misturas de ingredientes, controle de potência e tensão reativa, estimação de carregamento de baterias e composição musical.

30 Aplicações Inicialmente utilizado no treinamento de redes neurais; Cada elemento de um vetor x i corresponde a um peso da rede; Uma abordagem é encontrar uma região promissora para a inicialização de um método local; Outra é a otimização do número de unidades nas camadas escondidas.

31 O PSO Binário é geralmente utilizado para a otimização de arquiteturas de Redes Neurais e seleção de variáveis; PSO Padrão + Binário pode ser usado para otimizar variáveis contínuas e binárias ao mesmo tempo; PSO para treinar redes neuro-fuzzy (97% de precisão no Iris Dataset); Otimização de misturas de ingredientes químicos; Em geral, PSO pode ser utilizado em qualquer problema de otimização: contínua, binária ou discreta.

32 PSO - Aplicações Outros exemplos: Controle adaptativo baseado em Redes Neurais; Configuração de antenas; Aprendizado não-supervisionado de robôs; PSO em ambientes dinâmicos.

33 Aplicações Engenharia: ajuste de sistemas de recomendação, modelagem de antenas, projeto de sistemas de controle e de circuitos VLSI; Resultados muito bons no treinamento de redes neurais e de redes neuro-fuzzy; Biologia: Inferência de redes gênicas, reconstrução de árvores filogenéticas, otimização de modelos biomecânicos; Artes: improvisação musical.

34 PSO x AG PSO AG Representação Contínua/Binária/Discreta Contínua/Binária/Discreta Otimização Contínua/Binária/Combinatória* Contínua/Binária/Combinatória Populacional Sim Sim Geracional Não Sim Restrições Não, mas pode ter Sim Operadores Velocidade Seleção, Mutação e Recombinação Implementação Simples Complexidade média Convergência Relativamente Rápida* Relativamente Lenta*

35 PSO - Tendências Coevolução em PSO; Otimização multi-objetivo; Life Models (PSO com seleção, cruzamento e mutação); Partículas com tamanho variável.

36 Considerações finais PSO em geral obtém resultados semelhantes aos obtidos por Algoritmos Genéticos, porém são mais rápidos (resultados relatados); PSO é muito mais simples de implementar; Pode convergir prematuramente a um mínimo local, para evitá-lo pode-se: Utilizar peso de inércia (w) descrescente (0.9 a 0.4); Utilizar arquitetura Lbest; O enxame pode explodir (dispersão das partículas): Para evitá-lo, deve-se limitar a velocidade a [-v max, v max ];

37 Referências J. Kennedy and R. Eberhart. Swarm Intelligence. Morgan Kaufmann Publishers, Inc, San Francisco, CA, 2001 F. van den Bergh. An Analysis of Particle Swarm Optimizers. Phd dissertation, Faculty of Natural and Agricultural Sciences, Univ. Pretoria, Pretoria, South Africa, J. Kennedy and R. Eberhart. Particle Swarm Optimization, in: Proc. IEEE Int l. Conf. on Neural Networks (Perth, Australia), IEEE Service Center,Piscataway, NJ, IV: C.A. Coello Coello, G. Toscano, M.S. Lechuga. Handling Multiple Objectives with Particle Swarm Optimization. IEEE Transactions on Evol. Computation, Vol. 8, No. 3, June M. Settles, T. Soule. Breeding Swarms: A GA/PSO Hybrid. Proc. of GECCO'05, Washington DC, USA, 2005.