Problemas Multi-modais e Distribuições Espaciais em Algoritmos Genéticos.

Transcrição

1 Problemas Multi-modais e Distribuições Espaciais em Algoritmos Genéticos. Thiago da Mota Souza Coordenação de Pós-Graduação e Pesquisa de Engenharia Centro de Tecnologia Universidade Federal do Rio de Janeiro 23 de maio de 2012

2 Do que se trata o capítulo 9? Variações utilizadas em problemas com função de custo não-convexa que garantem a diversidade nas populações: Inspiradas na geografia nichos. Inspiradas na especiação espécies. Variações utilizadas para permitir paralelismos. Problemas multi-objetivo.

3 Índice 1 Problemas Multi Modais e Deriva Genética. 2 Mecanismos naturais de geração de diversidade Domínios 3 Mecanismos impĺıcitos de preservação da diversidade Inspirado no equiĺıbrio sazonal Inspirados no processo de especiação Inspirados no processo de adaptação local 4 Mecanismos expĺıcitos de preservação da diversidade Fittnes-sharing Povoamento 5 Problemas de otimização multi-objetivo Variantes de AGs para problemas multi-objetivo

4 Problemas Multi Modais e Deriva Genética. Próximo... 1 Problemas Multi Modais e Deriva Genética. 2 Mecanismos naturais de geração de diversidade 3 Mecanismos impĺıcitos de preservação da diversidade 4 Mecanismos expĺıcitos de preservação da diversidade 5 Problemas de otimização multi-objetivo

5 Problemas Multi Modais e Deriva Genética. Os Nichos e deriva genética. No jargão dos AGs, nicho se refere a uma vizinhança de um máximo local na qual a função é convexa e problemas multi-modais são aqueles nos quais a função de custo apresenta vários nichos. Nichos Na biologia é um conceito não muito bem definido que está relacionado ao habitat e a posição da espécie na cadeia alimentar. Ou seja, quase(?) todo problema resolvido por Algoritmos genéticos é multi-modal, do contrário pode ser mais interessante o uso de um método gradiente.

6 Problemas Multi Modais e Deriva Genética. Os nichos atraem os indivíduos e causam deriva genética. Ex: A população sobe o monte e desce o vale migrando, toda ela, aos poucos para o outro nicho. Figure : Nichos em problemas multimodais.

7 Problemas Multi Modais e Deriva Genética. Existe uma solução de compromisso entre privilegiar os indivíduos que se aventuram por novos nichos e àqueles que exploram melhor um nicho já conhecido que gera uma melhor busca pelo máximo global. Não é vantajoso ter uma população homogênea, sem diversidade. Nem tão pouco, pode-se deixar de considerar as vantagens que os indivíduos adaptados conseguiram. Podemos incluir variantes do algoritmo básico de maneira a preservar a diversidade. A natureza serve como fonte de inspiração para algumas dessas variantes.

8 Mecanismos naturais de geração de diversidade Próximo... 1 Problemas Multi Modais e Deriva Genética. 2 Mecanismos naturais de geração de diversidade Domínios 3 Mecanismos impĺıcitos de preservação da diversidade 4 Mecanismos expĺıcitos de preservação da diversidade 5 Problemas de otimização multi-objetivo

9 Mecanismos naturais de geração de diversidade Mecanismos naturais de geração de diversidade Na evolução natural existem alguns processos que induzem a diversidade, dentre eles têm destaque: 1 O processo de especiação 2 O isolamento geográfico 3 A adaptação local 4 O equiĺıbrio sazonal

10 Mecanismos naturais de geração de diversidade Especiação Processo pelo qual indivíduos de uma mesma espécie se adaptam de maneira tão drástica a novos nichos que formam uma nova espécie. A ideia central desse mecanismo é: indivíduos só procriam com outros indivíduos da mesma espécie. Sendo que: 1 Indivíduos da mesma espécie também competem entre si pelos recursos do novo nicho. 2 Os fenótipos de uma mesma espécie tendem a ser homogêneos. Não é Lamarquismo! Indivíduos que se diferenciaram tem mais chances de sobreviver, por isso a adaptação acontece.

11 Mecanismos naturais de geração de diversidade Equiĺıbrio Sazonal Teoria que atesta que se um grupo de uma espécie é mantido geograficamente isolado do grupo principal durante um período de tempo de forma que se adaptam ao meio de maneira diferente ao do grupo principal. A migração de alguns desses indivíduos para o grupo principal pode dar início a um período de evolução abrupta. 1 A população deve ser dividida em grupos geograficamente isoladas por períodos de tempo. 2 Os períodos são longos o suficiente para que haja a exploração do nicho. 3 Os indivíduos isolados não podem formar outra espécie.

12 Mecanismos naturais de geração de diversidade Adaptação local Populações se especializam segundo seu habitat, logo, caso sejam geograficamente separadas, tendem a apresentar diferenças fenotípicas. Ex:

13 Mecanismos naturais de geração de diversidade Domínios Domínios Enquanto na biologia a evolução acontece em um espaço geográfico, os algoritmos genéticos operam em três possíveis domínios: 1 Domínio da memória física. 2 Domínio do genótipo. 3 Domínio do fenótipo.

14 Mecanismos naturais de geração de diversidade Domínios Domínio da memoria física Em muitas arquiteturas a memória de trabalho do algoritmo pode estar fisicamente divida e estruturada. Isso implica que a divisão da população pode não ser apenas conceitual inclusive permitindo paralelismos. Analogia com o espaço geográfico

15 Mecanismos naturais de geração de diversidade Domínios Domínio do genótipo Um mapeamento que se faz das soluções para um domínio alternativo. A definição desse domínio exige uma métrica baseada em operadores de deslocamento, normalmente: hit-flip (espaços binários), permutação ou inversões. Analogia com taxonomia baseada em genética.

16 Mecanismos naturais de geração de diversidade Domínios Domínio do fenótipo Espaço das soluções do problema propriamente ditas. Analogia com os diferentes fenótipos que um indivíduo pode apresentar.

17 Mecanismos naturais de geração de diversidade Domínios Tipos de mecanismo de preservação da diversidade Os mecanismos utilizados para garantir a diversidade da população, baseados nas metáforas da biologia, podem ser de dois tipos: 1 Expĺıcitos: Alteram o individuo durante a execução do algoritmo para manter a diversidade 2 Impĺıcitos: Não alteram o individuo durante a execução do algoritmo, mas alteram o algoritmo, de forma a induzir diversidade.

18 Mecanismos impĺıcitos de preservação da diversidade Próximo... 1 Problemas Multi Modais e Deriva Genética. 2 Mecanismos naturais de geração de diversidade 3 Mecanismos impĺıcitos de preservação da diversidade Inspirado no equiĺıbrio sazonal Inspirados no processo de especiação Inspirados no processo de adaptação local 4 Mecanismos expĺıcitos de preservação da diversidade 5 Problemas de otimização multi-objetivo

19 Mecanismos impĺıcitos de preservação da diversidade Mecanismos impĺıcitos de preservação da diversidade Não alteram os indivíduos para manter a diversidade da população durante a execução do algoritmo. Inspirados no equiĺıbrio pontual. Inspirados no processo de especiação. Inspirados na adaptação. Os operadores de diversidade e/ou seleção passam a ser locais.

20 Mecanismos impĺıcitos de preservação da diversidade Tentar várias vezes Rode o algoritmo mais de uma vez! Não há garantias diferentes tentativas levarão a soluções diferentes, tudo depende de sorte.

21 Mecanismos impĺıcitos de preservação da diversidade Inspirado no equiĺıbrio sazonal Separação da população no domínio da memória Dividir a populações em subpopulações e para cada uma delas lançar um thread do AG padrão. De tempos em tempos fazer com que os processos troquem informações. A princípio obtém melhores chances de evitar mínimos uma vez que os processos compartilham informação. Época Período, possivelmente medido em gerações, em que não ocorre troca de indivíduos entre as sub-populações

22 Mecanismos impĺıcitos de preservação da diversidade Inspirado no equiĺıbrio sazonal Separação da população no domínio da memória Modelo conceitual Figure : Modelo para o paralelismo.

23 Mecanismos impĺıcitos de preservação da diversidade Inspirado no equiĺıbrio sazonal Separação da população em ilhas Dividir a população de um único processo em várias ilhas e usar critérios seleção (escolha de pais e escolha de sobreviventes) que só permitam recombinação de moradores da mesma ilha. Ocasionalmente permitindo a migração entre as ilhas Conceitualmente igual a variante anterior. A diferença está no sentido geográfico, pois introduz-se uma ideia de grid sobre o qual se distribuem as populações.

24 Mecanismos impĺıcitos de preservação da diversidade Inspirado no equiĺıbrio sazonal Separação da população em ilhas Modelo espacial Figure : Modelo de grid para a distribuição das sub-populações.

25 Mecanismos impĺıcitos de preservação da diversidade Inspirado no equiĺıbrio sazonal Variantes inspiradas no equiĺıbrio sazonal. Pontos principais: 1 Qual a arquitetura (anel, estrela, etc.)? Normalmente em anel 2 Qual o tamanho das épocas? A maioria dos autores trabalham com épocas de 25 a 150 gerações. Alternativamente pode se fazer de maneira adaptativa. 3 Como acontece a migração? Normalmente são poucos, para evitar convergências muito rápidas (2 ou 3 indivíduos). Existem vários mecanismos para a escolha do indivíduo que migrará: copy-best, pick-from-fittest-half, aleatoriamente. Pode-se ainda mover ou copiar o indivíduo. 4 Como dividir a população em sub-populações? Depende do problema.

26 Mecanismos impĺıcitos de preservação da diversidade Inspirado no equiĺıbrio sazonal Variantes inspiradas no equiĺıbrio pontual. Pontos principais: Foram bastante estudadas na década de 80 devido a possibilidade de paralelização. Os parâmetros do algoritmo (tamanho da população, taxa de mutação, taxa de crossover)e seus operadores (mutação, mecanismo de crossover, seleção de parentes e seleção de sobreviventes) podem ser diferentes para cada ilha. Pode-se adotar um modelo hierárquico em que diferentes ilhas trabalham em diferentes resoluções do problema.

27 Mecanismos impĺıcitos de preservação da diversidade Inspirados no processo de especiação Separar a população em especies distintas: domínio do genótipo Na população existem diferentes espécies que tendem a representar diferentes soluções para o problema. Pode ser implementado por: Incluir tags na codificação do genótipo. Restrições no mecanismo de seleção de pais para incluir uma noção de distânicia genotípica/fenotípica. No caso do primeiro esquema, não há garantias que as espécies serão mesmo diferentes, mas em geral as primeiras iterações do AG forçam essa diferenciação.

28 Mecanismos impĺıcitos de preservação da diversidade Inspirados no processo de adaptação local Distribuição espacial dentro de uma população: AGs por Modelo de difusão Existe um grid sobre o qual uma única população é distribuída. Cada nó do grid é um indivíduo; a vizinhança do indivíduo é chamada de deme. Os operadores agem sobre o deme. Mostra-se que os AGs por modelo de difusão equivalem a cellular automata.

29 Mecanismos impĺıcitos de preservação da diversidade Inspirados no processo de adaptação local Distribuição espacial dentro de uma população: AGs por Modelo de difusão

30 Mecanismos impĺıcitos de preservação da diversidade Inspirados no processo de adaptação local Distribuição espacial dentro de uma população: AGs por Modelo de difusão Algoritmo: 1 Distribuir a população em um grid (normalmente toroidal). 2 escolher o próximo deme. 3 aplicar os os operadores de recombinação, mutação e seleção ao deme 4 voltar ao passo 2 até esgotar todos os possíveis demes na população. 5 voltar ao passo 2 até o critério de parada.

31 Mecanismos impĺıcitos de preservação da diversidade Inspirados no processo de adaptação local Distribuição espacial dentro de uma população: AGs por Modelo de difusão Variações: Algoritmo ASPARGOS adota uma topologia ladder e implementa um passo de de sobe-montanha depois da mutação. Algoritmos implementados em sobre máquinas SIMD e SPMD massivamente paralelos. Para isso o passo 2 do algoritmo anterior é modificado de forma a se assíncrono. Adoção do critério de fittest-best para a escolha dos pais. Substituir, sempre, o nó central por seu filho.

32 Mecanismos expĺıcitos de preservação da diversidade Próximo... 1 Problemas Multi Modais e Deriva Genética. 2 Mecanismos naturais de geração de diversidade 3 Mecanismos impĺıcitos de preservação da diversidade 4 Mecanismos expĺıcitos de preservação da diversidade Fittnes-sharing Povoamento 5 Problemas de otimização multi-objetivo

33 Mecanismos expĺıcitos de preservação da diversidade Mecanismos expĺıcitos de preservação da diversidade Alteram os indivíduos para manter a diversidade da população durante a execução do algoritmo. Fittnes-sharing Povoamento. O mecanismo de escolha dos pais continua a ser global e nada impede a recombinação de soluções de nichos diferentes.

34 Mecanismos expĺıcitos de preservação da diversidade Fittnes-sharing Fittnes-sharing Redefine a função de aptidão do indivíduo F de forma que: F (i) = F (i) j sh(d(i, j)) (1) onde: d(i, j) é alguma distância entre os indivíduos, por exemplo, Hamming sh(d) = { 1 ( d σ share ) α, se d σ share 0, caso contrário (2) α é um parâmetro de afuste. α = 1 faz a função sh linear. σ share estabelece uma distância limite para o nicho.

35 Mecanismos expĺıcitos de preservação da diversidade Fittnes-sharing Fittnes-sharing Esse mecanismo favorece a formação e preservação de populações estáveis em diferentes nichos. De forma que, sendo F k o valor da função de aptidão do pico do k-ésimo nicho, existe um número de indivíduos n k que habita esse nicho, tal que: F k = F k n k = constante para todos os picos (3)

36 Mecanismos expĺıcitos de preservação da diversidade Povoamento Povoamento Os filhos ocupam o lugar dos parentes mais parecidos da população original. Algoritmo: 1 A população original forma pares aleatoriamente. 2 Cada par produz duas crias por recombinação. 3 As crias sofrem mutação e são avaliadas. 4 Todas as 4 distâncias entre pais e filhos são calculadas. 5 Cada filho compete pela sobrevivência um de seus pais. d(p 1, o 1 ) + d(p 2, o 2 ) < d(p 2, o 1 ) + d(p 1, o 2 ).

37 Problemas de otimização multi-objetivo Próximo... 1 Problemas Multi Modais e Deriva Genética. 2 Mecanismos naturais de geração de diversidade 3 Mecanismos impĺıcitos de preservação da diversidade 4 Mecanismos expĺıcitos de preservação da diversidade 5 Problemas de otimização multi-objetivo Variantes de AGs para problemas multi-objetivo

38 Problemas de otimização multi-objetivo Problemas multi-objetivo Problemas multi-objetivo são àqueles que envolvem a otimização de mais de uma função objetivo simultaneamente, possivelmente sujeitas a restrições. max x C F(x) = F 1 (x) F 2 (x). F n (x), n 2 Onde: x R N e C = {x : h(x) = 0, g(x) 0}. h : R N R ni e g : R N R nd Assim sendo, ni é o número de igualdades que restringem o domínio do problema e nd é o número de desigualdades que restringem o domínio do problema.

39 Problemas de otimização multi-objetivo Soluções dominantes e não-dominadas Esse tipo de problema leva ao conceito de conjunto de Pareto Solução dominante (F (x d ) F (x)) F (x d ) F (x) { Fi (x d ) F i (x), i k k : F k (x d ) > F k (x). i, k {1, 2,..., n} x nd é solução não dominanda F i (x nd ) F i (x) = j : F j (x nd ) F j (x), x C

40 Problemas de otimização multi-objetivo Conjunto de Pareto é o conjunto de todas as soluções não-dominadas do problema. Figure : Exemplo de um conjunto de Pareto para um problema com duas funções objetivo.

41 Problemas de otimização multi-objetivo Problemas multi-objetivo: Escalarização Através de um vetor de pesos, µ = [µ 1, µ 2,..., µ n ] t, podemos tornar o problema escalar. Formando uma função de custo da forma f(x) = µ t F (x) = n µ i F i (x) Um máximo global da função f(x) nos dará um ponto do conjunto de Pareto. Essa técnica é quase sempre possível, mas nem sempre (ver artigo Das e Dennis, 1997) i=1

42 Problemas de otimização multi-objetivo Problemas multi-objetivo: Escalarização Podemos achar o conjunto de Pareto maximizando a função f(x) = µ t F (x) para diferentes conjuntos de coeficientes µ. Para cada conjunto deve-se resolver um problema chamado problema de combinação linear trigonométrica (TLC). Cuja formulação é idêntica ao do problema multi-objetivo substituindo F (x) por f(x) Observando que neste caso interessam, apenas os máximos globais. Problemas: O conjunto de Pareto pode não ser convexo, assim, não existe um vetor de pesos µ, para o qual a solução do problemas escalar cai sobre a parte não convexa do conjunto. Mesmo que o conjunto de Pareto seja convexo, soluções para um distribuição uniforme de pesos pode gerar uma distribuição não-uniforme de soluções.

43 Problemas de otimização multi-objetivo Problemas multi-objetivo: Formulação do problema TLC (trigonometric linear combination) dada a função F (x) : R N R N e um vetor de pesos µ R n e o mesmo e o domínio x R N e C = {x : h(x) = 0, g(x) 0}. h : R N R ni e g : R N R nd. ni é o número de igualdades que restringem o domínio do problema e nd é o número de desigualdades que restringem o domínio do problema. max x C f(x) = µt F (x) = n i=1 µ if i (x)

44 Problemas de otimização multi-objetivo Conjunto de Pareto O que significa resolver um problema pra um dado µ? Figure : Exemplo de problema multi-objetivo resolvido por multiplicador resolvido para µ = [1 0, 8].

45 Problemas de otimização multi-objetivo AGs e Probelemas Multi-objetivo Os AGs podem abordar um problema multi-objetivo sem recair na formulação do problema TLC, ou seja, sem usar pesos para as funções objetivos. A primeira variante de AG - Algoritmo genético avaliado em vetores - para lidar com de problemas multi-objetivo data de 1984.

46 Problemas de otimização multi-objetivo Variantes de AGs para problemas multi-objetivo Algoritmo genético avaliado em vetores A população é subdividida em tantas subpopulações quantas são as funções objetivo. Para cada subpopulação, assume-se um função objetivo como função de aptidão e que comanda a seleção dos sobreviventes A seleção dos pais ainda é feita de maneira global.

47 Problemas de otimização multi-objetivo Variantes de AGs para problemas multi-objetivo Algoritmo genético avaliado em vetores: Variante Goldberg sugere que a avaliação da aptidão seja feita sobre a dominância e não sobre o valor absoluto da da função de aptidão. Em conjunto com um mecanismos de especiação ou de adaptação local. Isso leva a uma busca por novos algoritmos