Comparação De Algoritmos Evolucionários Para Problemas Com Muitos Objetivos

Transcrição

1 Universidade Federal de Minas Gerais Programa de Pós-Graduação em Engenharia Elétrica Comparação De Algoritmos Evolucionários Para Problemas Com Muitos Objetivos Ricardo de Souza Ribeiro Texto da dissertação de mestrado a ser submetido à banca examinadora designada pelo Colegiado do Programa de Pósgraduação em Engenharia Elétrica da Universidade Federal de Minas Gerais, como parte dos requisitos necessários à obtenção do grau de Mestre em Engenharia Elétrica.. Orientador: Prof. Dr. João Antônio de Vasconcelos Belo Horizonte, 25 de Novembro de 2016

2

3 Dedicatória À minha família, pelo apoio a todo momento. iii

4

5 Agradecimentos Agradeço ao meu orientador, Prof. Dr. João Antônio de Vasconcelos, pela orientação. Aos meus pais, Elisabete e Wagner, pela dedicação à criação dos filhos, orientação e aconselhamento. Ao restante da família, pelo apoio a todo momento. À equipe do Laboratório de Computação Evolucionária, seja a presente, seja aos companheiros que por lá passaram em tempos outros. Aos companheiros do projeto de pesquisa e desenvolvimento CEX - APQ , pelas discussões e apoio na realização deste trabalho. Aos professores do Programa de Pós-Graduação em Engenharia Elétrica da UFMG. À Cemig e às fundações Capes e FAPEMIG, cujo apoio financeiro possibilitou a realização deste trabalho. v

6

7 Epígrafe Saber como pensar torna a pessoa muito mais capaz do que aquele que apenas sabe o que deve pensar. Neil degrasse Tyson vii

8

9 Sumário Resumo Abstract Lista de Figuras Lista de Tabelas Lista de Abreviações xi xiii xv xvii xix 1 Introdução Objetivo Publicações Organização do Texto Revisão Bibliográfica Conclusões Modelagem e Algoritmos Evolucionários Modelagem Matemática Algoritmos Evolucionários Inicialização da população Loop principal Conclusão Algoritmos para Problemas com Muitos Objetivos Problemas com muitos objetivos Algoritmo NSGA-III Algoritmo MOEA/D Algoritmo MOEA/DD Conclusão Métricas de Desempenho e Problemas de Benchmark Métricas de desempenho Problemas de Benchmark ix

10 x 5.3 Conclusão Comparação entre os Algoritmos NSGA-II, NSGA-III, MOEA/D e MOEA/DD Metodologia Resultados e discussão Conclusão Problema do Projeto de Estruturas de Transmissão Compactas com Múltiplos Circuitos Introdução Algoritmos Metodologia Resultados Conclusão Conclusão 71 Referências Bibliográficas 79

11 Resumo Os problemas de otimização com mais de um objetivo podem ser classificados em problemas multiobjetivo, quando envolvem até três objetivos conflitantes, e problemas com muitos objetivos, quando envolvem quatro ou mais objetivos. Essa diferença de classificação acontece porque os algoritmos e as metodologias utilizadas para resolver problemas multiobjetivo não são eficientes para problemas com muitos objetivos. Isso acontece porque o aumento da quantidade de objetivos acarreta em dificuldades de visualização das soluções, problemas para classificar a população em fronteiras de soluções não dominadas, dificuldade de geração de indivíduos próximos aos pais, obstáculos para garantir a manutenção da diversidade das soluções, bem como o aumento impeditivo do custo computacional associado ao cálculo de algumas das métricas de desempenho. Neste contexto, o presente trabalho tem por objetivo realizar uma comparação entre os algoritmos NSGA-III, MOEA/D e MOEA/DD, contextualizando historicamente a motivação para o estudo de algoritmos evolucionários para resolução de problemas com muitos objetivos, bem como apresentando também as principais métricas de desempenho e problemas de benchmark utilizados para validação dos algoritmos e comparação dos resultados obtidos. Os algoritmos NSGA-II, NSGA-III, MOEA/D e MOEA/DD tem seus desempenhos em termos da métrica IGD confrontados para o conjunto de funções de benchmark DTLZ e para o problema do projeto ótimo de torres de transmissão compactas com múltiplos circuitos. Os resultados mostram que os algoritmos MOEA/D, MOEA/DD e NSGA-III se alternaram como melhores para diferentes problemas da família DTLZ, mas não houve diferença de desempenho significativa no problema de engenharia. xi

12

13 Abstract Optimization problems with more than one objective can be classified into multiobjective problems, when up to three conflicting objectives are involved, and many objective problems, when four or more objectives are involved. This classification difference happens because the algorithms and methodologies used to solve multiobjective problems are no longer efficient for many objective problems. This happens because the increase in the quantity of objectives brings difficulties in visualizing solutions, problems for sorting the population in non-dominated fronts, difficulties in generating offspring close to their parents, obstacles in guaranteeing the maintenance of solution diversity, and also the huge computational cost associated with calculating some of the performance metrics. In this context, the current work has the objective of making a comparison between the algorithms NSGA-III, MOEA/D and MOEA/DD, contextualizing the motivation for the study of evolutionary algorithms for solving of many objective problems as well as presenting the main performance metrics and benchmark problems utilized for validating the algorithms and comparison of obtained results. The algorithms NSGA-II, NSGA-III, MOEA/D and MOEA/DD have their performance in terms of the IGD metric confronted for the set of DTLZ benchmark functions and for the problem of optimal design of compact transmission towers with multiple circuits. The results show that MOEA/D, MOEA/DD and NSGA-III performed better for different functions of the DTLZ benchmark set, but there was no significant difference for the engineering problem. xiii

14

15 Lista de Figuras 3.1 Exemplos de diferentes relações de Pareto-dominância Fluxograma geral de um algoritmo evolucionário Pontos de referência para problema com 3 objetivos Retirada de indivíduos da população - apenas uma fronteira de soluções não dominadas Retirada de indivíduos da população - última fronteira com apenas um indivíduo Retirada de indivíduos da população - última fronteira de dominância com vários indivíduos Criação de fronteira intermediária com adição de novo indivíduo Criação de nova fronteira com adição de novo indivíduo Mudança da distribuição de fronteiras após remoção de indivíduo Cálculo da distância geracional Comportamento do GD e IGD quando ocorre concentração de pontos Cálculo do hipervolume Amostra da fronteira Pareto da função de benchmark DTLZ Gráfico coordenadas paralelas de amostra da fronteira Pareto da função DTLZ-1 com 5 objetivos Amostra da fronteira Pareto da função de benchmark DTLZ Gráfico coordenadas paralelas de amostra da fronteira Pareto da função DTLZ-2 com 5 objetivos Amostra da fronteira Pareto da função de benchmark DTLZ Amostra da fronteira Pareto da função de benchmark DTLZ Conjunto de soluções com boa diversidade e convergência Exemplos de gráficos de coordenadas paralelas Resultados para a função DTLZ-1 com 3 objetivos Resultados para a função DTLZ-2 com 5 objetivos Resultados para a função DTLZ-3 com 8 objetivos Gráficos de coordenadas paralelas Fronteira teórica para DTLZ-5 ou DTLZ-6 com 15 objetivos Gráficos de coordenadas paralelas Nota média de cada algoritmo por bloco experimental Comparação todos contra todos por teste de Tukey Verificação da premissa de normalidade dos resíduos xv

16

17 Lista de Tabelas 5.1 Principais características das funções DTLZ apresentadas. Adaptado de (Li et al., 2015b) Principais características das funções WFG Parâmetros dos operadores de recombinação Tamanho da população por quantidade de objetivos Quantidade de avaliações por quantidade de objetivos Parâmetros para geração dos pontos de referência/vetores de peso Valores máximo, mínimo e mediano do IGD para 3 objetivos Valores máximo, mínimo e mediano do IGD para 5 objetivos Valores máximo, mínimo e mediano do IGD para 8 objetivos Valores máximo, mínimo e mediano do IGD para 10 objetivos Valores máximo, mínimo e mediano do IGD para 15 objetivos Detalhamento dos blocos experimentais Relação de pesos adotados xvii

18

19 Lista de Abreviações AG DE MaOP FP AE NSGA MOEA/D MOEA/DD GD IGD HV Algoritmo Genético; Differential Evolution; Many Objective Optimization Problem; Fronteira Pareto; Algoritmo Evolucionário; Non-Dominated Sorting Genetic Algorithm; Multiobjetive Evolutionary Algorithm Based on Decomposition; Many Objective Evolutionary Algorithm Based on Dominance and Decomposition; Generational Distance; Inverse Generational Distance; Hipervolume; xix

20

21 Capítulo 1 Introdução Em diversas áreas de conhecimento, incluindo a engenharia elétrica, existem problemas que envolvem vários objetivos conflitantes. Estes problemas, muitas vezes, podem ser modelados matematicamente como problemas de otimização, em que os objetivos são tratados como funções matemáticas das quais se quer encontrar os valores de máximo ou mínimo, e o conjunto de variáveis que propiciam atingir tais valores. Problemas de otimização podem ser classificados de diversas maneiras. Quanto à modalidade, existem os problemas unimodais, em que se verifica apenas um ótimo local, coincidente com o global, ou um patamar de pontos com mesmo valor, correspondente ao ótimo global, e também os problemas multimodais, em que há mais de um ótimo local (Horn et al., 1994a). Quanto às variáveis de otimização, existem os problemas ditos discretos, em que as variáveis podem assumir apenas um conjunto discreto de valores, os problemas reais, nos quais as variáveis podem assumir valores reais, e os mistos, nos quais uma parcela das variáveis assume valores reais e a outra parcela valores discretos (Arora et al., 1994). Os problemas podem ser classificados também como diferenciáveis, quando é possível realizar a diferenciação das funções objetivo e restrição, ou não diferenciáveis, quando isso não é possível. A presença de funções de restrição, que dita as faixas de valores aos quais as funções objetivo devem se restringir, torna o problema restrito. Quando não estão presentes, diz-se que o problema é irrestrito (Fonseca e Fleming, 1998). Finalmente, os problemas são também classificados de acordo com a quantidade de objetivos modelada. Quando há apenas um objetivo, o problema é classificado como mono-objetivo. Quando trata-se de um problema com dois ou três objetivos conflitantes, diz-se que se trata um problema multiobjetivo (Marler e Arora, 2004). Quando são modelados quatro ou mais objetivos, eles são classificados como um problema com

22 2 1 Introdução muitos objetivos. Essa distinção ocorre porque os algoritmos utilizados para resolver essas duas classes de problemas são muito diferentes (Ishibuchi et al., 2008). Este trabalho tem como foco os problemas com muitos objetivos, e serão apresentadas suas características mais importantes, alguns algoritmos evolucioários utilizados para sua resolução, os problemas de benchmark utilizados para comparação entre diferentes algoritmos, bem como as métricas de desempenho utilizadas para tal comparação. Em seguida os algoritmos NSGA-II, NSGA-III, MOEA/D e MOEA/DD terão seu desempenho comparado em termos da métrica de desempenho IGD frente ao conjunto de problemas de benchmark DTLZ. Finalmente, os mesmos algoritmos serão comparados quando aplicados ao problema do projeto ótimo de torres de transmissão compactas com múltiplos circuitos. 1.1 Objetivo O objetivo geral deste trabalho é estudar algoritmos de otimização evolucionários para problemas com muitos objetivos, suas características, as metodologias utilizadas na resolução destes problemas, bem como os principais benchmarks e métricas utilizadas para medir seu desempenho. Os objetivos específicos são: Revisão bibliográfica para identificar como começou o estudo de problemas com muitos objetivos, sua relevância e como está o estado da arte nessa área do conhecimento. Apresentação do delineamento geral de problemas de otimização e do funcionamento de algoritmos evolucionários de otimização. Apresentação dos algoritmos considerados o estado da arte na resolução de problemas com muitos objetivos. Apresentação das métricas de desempenho utilizadas para comparar os resultados de diferentes algoritmos evolucionários. Apresentação dos principais problemas de benchmark usualmente encontrados na literatura para provar o funcionamento de novos algoritmos propostos.

23 1.2 Publicações 3 Comparação entre os algoritmos apresentados no texto em relação à sua capacidade de resolver problemas de benchmark. Comparação entre os algoritmos quando aplicados ao problema de projeto otimizado de torres de transmissão compactas com múltiplos circuitos. 1.2 Publicações Vasconcelos, J. A.; Ribeiro, R. S.; Teixeira; D. A.; Ribeiro, M. F. O.; Filho, E. B. G.. Comparação do Desempenho de Algoritmos Evolucionários Aplicados ao Projeto de Estruturas de Transmissão Compactas com Múltiplos Circuitos. XLVIII SBPO - Simpósio Brasileiro de Pesquisa Operacional, Vitória (ES) de 27 a 30 de Setembro de Vasconcelos, J. A.; Teixeira; D. A.; Ribeiro, M. F. O.; Ribeiro, R. S.; Filho, E. B. G.. Otimização Aplicada a LT s Compactas Suportando Múltiplos Circuitos: Posicionamento Ótimo dos Feixes de Condutores e Seleção Ótima de Cabos e da Topologia da Estrutura. XXI CBA - Congresso Brasileiro de Automática, Vitória (ES) de 3 a 7 de Outubro de Organização do Texto No primeiro capítulo foi feita uma introdução breve acerca dos problemas de otimização e as diferentes maneiras como estes são classificados. Apresentou-se os objetivos do trabalho, as publicações realizadas e a organização textual. Uma revisão bibliográfica sobre o assunto é apresentada no segundo capítulo, expondo os mais revelantes trabalhos já publicados na área. No terceiro capítulo é apresentado um delineamento geral da modelagem matemática dos problemas de otimização, e o funcionamento dos algoritmos evolucionários. O quarto capítulo apresenta os algoritmos NSGA-III, MOEA/D e MOEA/DD, com suas características principais e quais estratégias adotam para resolver problemas com muitos objetivos.

24 4 1 Introdução No quinto capítulo são apresentadas as principais métricas de avaliação de desempenho de algoritmos que se propõem a resolver problemas de otimização com muitos objetivos e os principais problemas de benchmark. No sexto capítulo é apresentada uma comparação empírica entre os desempenhos dos algoritmos evolucionários apresentados anteriormente no texto, utilizando uma das métricas de avaliação e as baterias de problemas de benchmark anteriormente discutidos. O sétimo capítulo apresenta a comparação entre estes mesmos algoritmos aplicada ao problema do projeto de estruturas de transmissão compactas com múltiplos circuitos. Finalmente, apresenta-se as conclusões deste trabalho, bem como propostas de continuidade futura para esta linha de pesquisa.

25 Capítulo 2 Revisão Bibliográfica Este capítulo apresenta uma revisão bibliográfica do assunto abordado no texto, através de um panorama histórico que mostra o estudo de algoritmos evolutivos mono-objetivo, passando pelos algoritmos multiobjetivo e pelos problemas encontrados quando algoritmos próprios para problemas multiobjetivo são utilizados em problemas com muitos objetivos, até chegar aos mais recentes algoritmos especializados em problemas com muitos objetivos. Pode-se dizer que a área da computação evolucionária foi alavancada pela criação do Algoritmo Genético (AG) (Holland, 1975), (Goldberg, 1989). Esta meta-heurística se baseia na teoria da evolução por seleção natural das espécies (Darwin, 1859) e na genética natural, e traz operações de cruzamento, mutação e seleção, que buscam simular o comportamento da teoria Darwiniana e da genética em um contexto de otimização em que se evolui uma população de soluções rumo a um ótimo. Por se mostrar promissora na resolução de diversos problemas de engenharia, muitos outros autores partiram daí para criar novos métodos de otimização. Outras meta-heurísticas baseadas em populações de indivíduos surgiram posteriormente, como o algoritmo Evolução Diferencial (Differential Evolution - DE) (Storn e Price, 1997). Este algoritmo baseia-se em operações aritméticas entre os valores no espaço de busca de diferentes indivíduos da população para gerar novos indivíduos, em um processo chamado de mutação diferencial. Também partindo de populações de indivíduos, o algoritmo de estimativas de distribuição (Larraanaga e Lozano, 2001), baseia-se em modelos estatísticos derivados a partir de medidas como a média e o desvio padrão das variáveis de busca de todos os indivíduos da população para gerar novos indivíduos. Os pesquisadores não demoraram a perceber que a abordagem por algoritmos genéticos e outros algoritmos evolucionários poderia ser também utilizada para a resolução de problemas com mais de um objetivo. Alguns dos trabalhos pioneiros, como

26 6 2 Revisão Bibliográfica o MOGA (Fonseca e Fleming, 1993), o NPGA (Horn et al., 1994b) e o NSGA (Srinivas e Deb, 1994) introduziram ideias como a classificação da população em fronteiras de dominância e a necessidade de se utilizar operadores que garantissem a manutenção da diversidade das soluções encontradas pelo algoritmo. Grandes melhorias de desempenho foram obtidas com a introdução de mecanismos de elitismo, para garantir a sobrevivência das melhores soluções entre gerações. Dentre algoritmos que alcançaram sucesso ao adotar o elitismo, destacam-se o PAES (Knowles e Corne, 1999) e o SPEA (Zitzler e Thiele, 1999). O SPEA adotou uma população externa para armazenamento de soluções não dominadas, que é combinada com a população corrente a cada geração para seleção dos melhores a partir da quantidade de indivíduos que cada um domina. Novos algoritmos multi-objetivo surgiram como continuidade de trabalhos anteriores, como o NSGA-II, (Deb et al., 2002a). Este algoritmo melhorou a complexidade computacional da versão anterior, introduziu a ideia de elitismo e diminuiu a quantidade de parâmetros a especificar, sendo um algoritmo para problemas multi-objetivo ainda muito utilizado. Para garantir a diversidade das soluções, este algoritmo aliou a medida da distância de multidão (crowding distance) à classificação em fronteiras de dominância, priorizando soluções que propiciem mais diversidade em caso de empate em termos de dominância. O SPEA2 (Zitzler et al., 2001) surgiu como continuidade do SPEA, melhorando o mecanismo de trucamento do arquivo externo, do cálculo de desempenho dos indivíduos e da estimativa da densidade de soluções no espaço de objetivos, ensejando grande melhoria dos resultados obtidos quando comparados aos da versão anterior. Também foi estudada a viabilidade de outras meta-heurísticas em problemas com dois ou mais objetivos. Em (Babu e Jehan, 2003), os autores estudaram o desempenho de uma versão alterada do DE para problemas multiobjetivo. Em (Robič e Filipič, 2005), os autores combinaram o DE com a classificação da população em fronteiras não dominadas e distância de multidão, obtendo resultados competitivos. Para comparação sistemática da grande quantidade de algoritmos propostos, foram criadas diferentes métricas, capazes de quantificar o desempenho das soluções obtidas pelos algoritmos em termos de convergência e diversidade (Veldhuizen e Lamont, 1998), (Deb et al., 2002a), (Zitzler et al., 2003). Na medida em que os problemas a serem resolvidos tornaram-se mais complexos, envolvendo maior quantidade de objetivos, percebeu-se no entanto que algoritmos

27 7 como o NSGA-II e o SPEA2, cujo desempenho era satisfatório para problemas com dois ou três objetivos, tinham seu desempenho muito deteriorado com o aumento da quantidade de objetivos (Hughes, 2005). Os autores que estudaram as mudanças de desempenho dos algoritmos frente à variação da quantidade de objetivos perceberam uma série de problemas. O principal deles a perda de pressão seletiva devido a dificuldade de gerar soluções não dominadas, mas também complexidade computacional elevada para classificar a população em fronteiras de soluções não dominadas. Verificou-se uma grande ineficiência de alguns operadores genéticos em gerar soluções localizadas próximas a seus pais, além de dificuldades de visualização das soluções e elevado custo para calcular algumas métricas de desempenho (Khare et al., 2003), (Knowles e Corne, 2007), (Ishibuchi et al., 2008). A distinção entre os métodos utilizados para resolver problemas com poucos objetivos e aqueles utilizados para resolver problemas com uma quantidade maior de objetivos fez surgir a classificação de problemas de otimização com muitos objetivos. Embora essa divisão não seja exata e nem todos os autores concordem, usualmente classificam-se os problemas como problemas com muitos objetivos quando estão envolvidos quatro ou mais objetivos conflitantes (Li et al., 2015a). Pode-se dizer que a área de pesquisa dos algoritmos evolucionários para problemas com muitos objetivos está aberta, e diferentes abordagens surgiram para tratar estes problemas (von Lücken et al., 2014), (Li et al., 2015a). Estes autores sugeriram a classificação dos algoritmos evolucionários utilizados para tratar estes problemas em diferentes famílias. Em uma das abordagens utilizam-se técnicas de relaxamento de dominância. Através de modificações na Pareto dominância, são introduzidos novos operadores para determinar a relação de dominância entre duas soluções, de modo a aumentar a probabilidade de uma solução dominar a outra. Dentre essas abordagens está a ɛ-dominância (Laumanns et al., 2002), o CDAS (Sato et al., 2007) e a dominância por grade (Knowles e Corne, 2003). Alguns autores aplicaram essas técnicas em algoritmos evolucionários para problemas com muitos objetivos, como o ɛ MOEA (Deb et al., 2005), o CDAS-D (Narukawa, 2013) e o GrEA (Yang et al., 2013). Outra família é a abordagem baseada em diversidade, na qual os autores tentam diminuir o impacto da manutenção de diversidade das soluções no desempenho dos algoritmos. Em (Adra e Fleming, 2011) os autores introduziram um mecanismo de manutenção de diversidade batizado de DM1. Ele foi combinado ao algoritmo

28 8 2 Revisão Bibliográfica NSGA-II, e foi utilizado somente quando detectada uma baixa diversidade das soluções. Em comparação ao NSGA-II tradicional, a abordagem combinada obteve melhores resultados. Em (Li et al., 2014b) os autores introduziram a estimativa de densidade de soluções baseada em deslocamento (Shift-base density estimation - SDE), para estimar a densidade de soluções em uma determinada vizinhança. A abordagem por redução de dimensionalidade, que reduzem a quantidade de objetivos conflitantes, traz métodos que estudam eventuais correlações e conflitos entre as funções objetivo de um problema (Saxena et al., 2013), (Freitas et al., 2015), com vistas a eliminar objetivos, transformá-los em restrição, ou agregar diferentes objetivos em um só, diminuindo a complexidade do problema. A família dos métodos baseados em agregação consiste nos métodos que tenta agregar os valores das funções objetivo ou dos rankings de objetivos. Dentre os métodos dessa família está o MOEA/D (Zhang e Li, 2007). Neste algoritmo um problema com dois ou mais objetivos é decomposto em vários subproblemas mono-objetivo, através de uma ponderação baseada em vetores de peso, propiciando grande economia de esforço computacional ao se eliminar a necessidade de classificação dos indivíduos em fronteiras de soluções não dominadas. Alguns autores desenvolveram métodos baseados em indicadores como o hipervolume, indicadores baseados em distância e o indicador R2. No algoritmo SMS-EMOA (Emmerich et al., 2005), as soluções são avaliadas em termos de sua contribuição para o hipervolume do conjunto de soluções. Esse método mostrou resultados promissores para problemas de baixa dimensão, porém o custo computacional do hipervolume para problemas com maior quantidade de objetivos mostrou-se excessivamente elevado. Em (Bader e Zitzler, 2011) os autores atacaram o problema do custo computacional para calcular o hipervolume desenvolvendo um método para estimar essa grandeza baseada no método de Monte Carlo, que obteve resultados competitivos para grande quantidade de objetivos. Alguns autores incorporaram o cálculo da distância geracional inversa (IGD) em seus algoritmos (Rodríguez Villalobos e Coello Coello, 2012), (Bringmann et al., 2011), com desempenho competitivo quando comparados a algoritmos como o NSGA-II, SPEA2 e o SMS-EMOA. Os algoritmos R2-MOGA e R2MODE (Díaz-Manríquez et al., 2013) incorporaram o indicador R2 e obtiveram melhores resultados que o SMS-EMOA com menos esforço computacional. A família de métodos baseados em preferências tenta incorporar as preferências do decisor para diminuir a quantidade de soluções obtidas pelo algoritmo, incorporando

29 2.1 Conclusões 9 técnicas de tomada de decisão aplicadas a priori, a posteriori ou interativamente. Nas técnicas a priori, as preferências do decisor são incorporadas antes da busca (Kim et al., 2012), (Landa et al., 2013). Para os métodos interativos, as preferências do decisor são aplicadas durante a execução dos algoritmos, guiando o processo de busca (Gong et al., 2013). Nos métodos a posteriori é realizada uma tomada de decisão sobre o conjunto de soluções não dominadas encontradas pelo algoritmo, para escolher as melhores soluções com base nas preferências do decisor (Wang et al., 2013a), (Wang et al., 2013b). Finalmente, a família de algoritmos baseados em pontos de referência incorpora um conjunto de pontos que busca direcionar a busca do algoritmo de modo a garantir a diversidade e convergência das soluções. Retomando trabalhos anteriores, em (Deb e Jain, 2014) os autores propuseram o NSGA-III. Este novo algoritmo retoma o NSGA-II, mas substitui a métrica de distância de multidão da versão anterior por um novo mecanismo baseado em pontos de referência para garantir a diversidade das soluções no espaço dos objetivos. O algoritmo MOEA/DD (Li et al., 2015b) utiliza um método alternativo para evitar o custo computacional excessivo propiciado pela classificação da população em diferentes fronteiras de dominância (Li et al., 2014a). O algoritmo combina o uso dos pontos de referência introduzida com o NSGA-III com a ideia de decomposição do problema apresentada no MOEA/D, criando um algoritmo que utiliza simultaneamente dominância e decomposição. 2.1 Conclusões Neste capítulo foi apresentada uma revisão bibliográfica do assunto abordado no texto, traçando um panorama que mostrou o curso de evolução dos algoritmos evolucionários e as diferentes famílias de abordagens adotadas para tratar problemas cada vez mais complexos em termos de quantidade de objetivos. Foram mostradas algumas das abordagens iniciais do campo de estudo dos algoritmos evolucionários para problemas com um objetivo, e como estes foram adaptados para problemas com vários objetivos conflitantes. Discutiu-se a percepção de dificuldades ensejadas com o aumento da quantidade de objetivos e como isso conduziu ao surgimento da classificação em problemas com muitos objetivos e a criação de algoritmos especializados em resolver este tipo de problema.

30 10 2 Revisão Bibliográfica Foi discutido como esse é um campo de estudo ainda em aberto, com muitos autores desenvolvendo inovações segundo diferentes abordagens. As diferentes abordagens motivaram estudos investigativos para classificar os métodos em famílias. Dentre as famílias estão as técnicas de relaxamento de dominância, as abordagens baseadas em diversidade, os métodos de redução de dimensionalidade, os algoritmos baseados em agregação, os algoritmos baseados em indicadores de desempenho, os métodos de incorporação de preferências e os algoritmos baseados em pontos de referência. Dentre algoritmos que podem ser considerados o estado da arte, estão o MOEA/D, membro da família de algoritmos baseados em agregação, o NSGA-III, da família de algoritmos baseados em pontos de referência e o MOEA/DD, um algoritmo que combina ideias das duas famílias.

31 Capítulo 3 Modelagem e Algoritmos Evolucionários Neste capítulo, apresenta-se a modelagem matemática de problemas de otimização com muitos objetivos e o delineamento geral dos algoritmos evolucionários utilizados para resolver esta classe de problemas. A seção 3.1 apresenta a modelagem matemática, caracterizando as funções objetivo e restrições, o espaço de busca e o espaço de objetivos. Na seção 3.2 é delineado o funcionamento geral de algoritmos evolucionários. Em seguida apresenta-se a conclusão acerca dos temas abordados no capítulo. 3.1 Modelagem Matemática Um problema de otimização com muitos objetivos (Many objective optimization problem - MaOP) é descrito matematicamente como (Ishibuchi et al., 2008): x = argmin f (x) = { f 1 (x), f 2 (x),..., f m (x) } S. a : g (x) = { g 1 (x),g 2 (x),...,g j (x) } h (x) = {h 1 (x),h 2 (x),...,h k (x)} x Ω (3.1) em que x = {x 1,x 2,...,x n } é o vetor de variáveis que otimiza (minimiza) os objetivos, n é a quantidade de variáveis de entrada, f (x) é o vetor de funções objetivo a serem minimizadas, m é a quantidade de objetivos (m > 3), g (x) é o vetor de restrições de desigualdade do tipo g i (x) a i { 1,...,j }, h (x) é o vetor de restrições de igualdade

32 12 3 Modelagem e Algoritmos Evolucionários do tipo h i (x) = b i {1,...,k} e Ω é o espaço de busca no qual devem estar contidos todos os valores de x. Essa modelagem matemática considera que todos os objetivos devem ser minimizados. Caso o problema a ser resolvido envolva a maximização de algum objetivo, basta transformar este em uma minimização do tipo f min (x) = f max (x). O modelo matemático garante que as variáveis não assumam valores não contidos no espaço de busca Ω e nem que as funções objetivo assumam valores diferentes daqueles descritos nas restrições de igualdade e desigualdade. Vale ressaltar, que para problemas com dois ou mais objetivos não é possível realizar uma comparação direta entre soluções como seria no caso de um problema monoobjetivo. Ou seja, considerando um problema com apenas um objetivo de minimização, é trivial dizer que um indivíduo x 1 é melhor que outro x 2, pela simples comparação dos valores dos objetivos. Quando há dois ou mais objetivos, é necessário definir uma maneira de comparar duas soluções. A definição mais imediata e usual é a Pareto-Dominância. É dito que a imagem de um indivíduo no espaço de objetivos f (x 1 ) Pareto-domina a imagem de um indivíduo f (x 2 ) se, para todos os objetivos, há pelo menos um deles cujo valor é menor para f (x 1 ) do que para f (x 2 ), e para os demais objetivos o valor é igual ou menor (Voorneveld, 2003). Formalmente, essa relação é expressa como: Definição 1: Uma solução f (x 1 ) Pareto-domina uma solução f (x 2 ) (x 1 x 2 ) se: A solução x 1 não é superada por x 2 em nenhum objetivo, f i (x 1 ) f i (x 2 ) i = 1,...,m; A solução x 1 supera x 2 em pelo menos algum objetivo, f i (x 1 ) < f i (x 2 ), para pelo menos um i {1,...,m}. Para um determinado problema, uma solução Pareto eficiente é uma solução que não pode ser melhorada. Uma melhoria em alguma das funções objetivo causaria uma piora em outra. Nenhuma outro solução do problema domina uma solução Pareto eficiente. O conjunto de todas as soluções Pareto eficientes de um problema é chamado de Fronteira Pareto Ótima.

33 3.2 Algoritmos Evolucionários 13 (a) Ponto A supera ponto B em todos os objetivos. (b) Ponto A supera ponto B em (c) Ponto A e B não se dominam. um objetivo e não é superado em nenhum outro. Figura 3.1: Exemplos de diferentes relações de Pareto-dominância. A Figura 3.1 exemplifica graficamente as possíveis relações de dominância entre dois pontos em um contexto com dois objetivos de minimização. Na Figura 3.1(a) é ilustrada a situação mais simples, na qual um ponto supera o outro em todos os objetivos. Na Figura 3.1(b) ocorre a situação em que o ponto A domina o ponto B pois supera B em ao menos um objetivo e não é superado em nenhum outro. Na Figura 3.1(c) ocorre a situação em que os dois pontos não dominam um ao outro. 3.2 Algoritmos Evolucionários De forma geral, os algoritmos evolucionários (AE) se caracterizam por trabalhar com uma população de pontos, que evolui, de forma paralela, até um conjunto de soluções que deve ser o mais próximo possível da fronteira teórica. A Figura 3.2 apresenta o delineamento geral de um algoritmo evolucionário, cujas fases são descritas a seguir. É importante notar que o algoritmo aqui apresentado é apenas um esboço geral das fases comuns à maioria dos algoritmos evolucionários. É usual que os algoritmos implementados tenham diferenças em relação ao aqui exposto. Diferentes operações, relações de ordenamento e fases podem ser definidas para a resolução de classes específicas de problemas, e deve-se ter em mente sempre o domínio da aplicação na qual será utilizado o algoritmo Inicialização da população A população é composta por uma quantidade de indivíduos N pop, definida antes da execução do algoritmo. Cada um destes indivíduos corresponde a uma solução,

34 14 3 Modelagem e Algoritmos Evolucionários Figura 3.2: Fluxograma geral de um algoritmo evolucionário. um conjunto de valores x = {x 1,x 2,...,x n }. Estes valores são geralmente inicializados de forma aleatório seguindo uma distribuição uniforme dentro do espaço de busca Ω. A depender do problema sendo resolvido, pode ser interessante inserir na população indivíduos correspondentes a soluções já conhecidas no domínio da aplicação (e.g. dimensões atuais do projeto de um alto-falante que se deseja otimizar) Loop principal Após inicializada a população inicial é feita a avaliação dos indivíduos. Então, prossegue-se até o loop principal. As iterações do loop, usualmente chamadas de gerações, são executadas até que se atinja algum critério de parada, dentre os quais estão (Rudenko e Schoenauer, 2004): Quantidade de gerações: O loop é executado um número fixo de gerações.

35 3.2 Algoritmos Evolucionários 15 Variação das soluções: Se as soluções obtidas em cada geração variarem abaixo de uma tolerância mínima, o algoritmo é encerrado. Variação das funções objetivo: Similar ao item anterior, a execução é encerrada se as funções objetivo variarem muito pouco entre as gerações. Quantidade de avaliações: É fixada a quantidade de avaliações de funções objetivo, e a execução é encerrada quando este limite for superado. Dentro do loop principal são executadas as operações genéticas, que visam criar novos indivíduos a partir da troca de informações genéticas entre os indivíduos mais aptos da população. Seleção Nesta etapa são selecionados os indivíduos que participarão do processo de reprodução para geração de novos indivíduos. Diferentes estratégias podem ser adotadas para se efetuar essa seleção, dentre os quais destacam-se (Goh et al., 2003): Torneio binário: São selecionados pares de indivíduos que competem entre si, sendo selecionado o melhor, até que se preencha a nova população. Roleta: Cada indivíduo tem uma probabilidade de seleção proporcional a sua aptidão. São selecionados indivíduos seguindo essas probabilidades até que seja preenchida a nova população. Operações genéticas A criação de novos indivíduos é realizada através de operações genéticas de cruzamento e mutação. Estes operadores partem dos indivíduos selecionados, criando novos indivíduos a partir de diferentes operações aritméticas envolvendo as variáveis de decisão. A escolha de como exatamente serão realizadas as operações de cruzamento e mutação depende do domínio da aplicação.

36 16 3 Modelagem e Algoritmos Evolucionários Cruzamento Nesta etapa são efetuados cruzamentos entre os indivíduos selecionados chamados de indivíduos pais, criando novos indivíduos, chamados de filhos. O objetivo desta etapa é, geralmente, gerar pontos que retenham características de seus pais, mas sejam diferentes destes, propiciando ao algoritmo explorar o espaço de busca partindo da exploração anteriormente efetuada pela população (Herrera et al., 2003). Mutação A mutação é caracterizada como a troca aleatória de informações de uma dada solução da população de filhos, de modo a alterar as características dela (Deep e Thakur, 2007). O objetivo deste operador é possibilitar a exploração do espaço de buscas em regiões previamente inexploradas, proporcionando diversidade à população de soluções. Elitismo O elitismo é a capacidade do algoritmo de não perder as melhores soluções encontradas durante sua execução. O mecanismo mais simples de garantir elitismo para problemas mono-objetivo é forçar a inclusão do melhor indivíduo em uma dada geração na geração seguinte (Vasconcelos et al., 2001). Para problemas com dois ou mais objetivos o elitismo pode ser garantido utilizando critérios como a dominância e espalhamento das soluções (Deb et al., 2002a): Dominância: Os indivíduos são classificados em fronteiras de indivíduos não dominados de acordo com as relações de Pareto dominância entre si. A primeira fronteira é composta apenas por indivíduos não dominados por nenhum outro, a segunda fronteira por aqueles que são dominados apenas pelos indivíduos da primeira fronteira, e assim em diante; Espalhamento: Soluções em áreas com menos soluções são priorizadas em relação àquelas em áreas em que estão presentes muitas outras soluções.

37 3.3 Conclusão Conclusão Neste capítulo, apresentou-se a formulação matemática geral de problemas de otimização com quantidade arbitrária de objetivos e restrições. Em seguida, foram apresentadas definições importantes no contexto de problemas multiobjetivo ou com muitos objetivos, como a dominância Pareto. Foi apresentado também o delineamento geral do funcionamento de algoritmos evolucionários, as fases presentes no algoritmo e os mecanismos utilizados para gerar novas soluções e selecionar aquelas soluções consideradas melhores, chamados de operadores genéticos.

38

39 Capítulo 4 Algoritmos para Problemas com Muitos Objetivos Como explicado anteriormente, problemas com quatro ou mais objetivos são usualmente classificados como problemas com muitos objetivos. Neste capítulo será explicado porque foi criada essa classificação, e serão mostrados alguns dos algoritmos evolucionários que obtiveram mais sucesso na resolução desta classe de problemas. Na seção 4.1 são apresentados os problemas com muitos objetivos e os desafios relacionados. Na seção 4.2 é apresentado o algoritmo evolucionário NSGA-III. Na seção 4.3 é apresentado o algoritmo MOEA/D, e na seção 4.4 o algoritmo MOEA/DD. Finalmente, é apresentada a conclusão do capítulo. 4.1 Problemas com muitos objetivos Quando o problema envolve quatro ou mais objetivos, surge uma série de problemas, explicados abaixo, que não eram importantes para dois ou três objetivos, o que ensejou a classificação muitos-objetivos, em contraste com os problemas multiobjetivo. Estes problemas incluem (Khare et al., 2003), (Knowles e Corne, 2007), (Ishibuchi et al., 2008): Dominância Pareto É muito comum que, durante a execução do algoritmo, quase todos os indivíduos sejam não dominados entre si, pertencendo à primeiro fronteira não dominada, causando perda de pressão seletiva e ensejando dificuldade de convergência. O cálculo da relação de Dominância Pareto entre duas soluções e a classificação de uma população em fronteiras não dominadas torna-se custosa para problemas com dimensão elevada, especialmente quando o tamanho da população é muito alto.

40 20 4 Algoritmos para Problemas com Muitos Objetivos Operadores de recombinação Existe uma dificuldade de se gerar soluções próximas aos pais quando aplicados os operadores de recombinação, devido ao grande número de objetivos envolvidos. Preservação de diversidade Mecanismos de preservação de diversidade utilizados usualmente na classe de problemas multiobjetivo acabam também tendo custo computacional elevado, que sobe conforme a quantidade de objetivos do problema aumenta. Métricas de desempenho Algumas métricas de desempenho utilizadas para avaliar a qualidade de algoritmos evolucionários multiobjetivo, como o hipervolume, também têm custo computacional demasiadamente elevado quando estão envolvidas dimensões mais elevadas. Dificuldade de visualização Quando estão envolvidos três objetivos ou menos, é fácil visualizar os objetivos graficamente, por exemplo em um espaço de coordenadas cartesianas. Porém conforme a quantidade de objetivos aumenta, a visualização se torna mais difícil e abstrata. Os problemas expostos motivaram o surgimento da área de pesquisa, separando-a da pesquisa de algoritmos multiobjetivo. Novos algoritmos buscam escapar das armadilhas expostas acima, seja através de novas relações de dominância diferente da dominância Pareto, seja buscando métodos mais eficientes de ordenação de fronteiras por dominância Pareto, seja criando novos mecanismos de preservação de diversidade cuja complexidade computacional não aumente tão rapidamente com o número de dimensões, seja criando novos meios de visualizar as soluções ou de avaliar o desempenho dos algoritmos, ou mesmo criando técnicas para reduzir a quantidade de objetivos envolvidos, diminuindo a complexidade dos problemas. A seguir são apresentados os algoritmos NSGA-III (Deb e Jain, 2014), MOEA/D (Zhang e Li, 2007) e MOEA/DD (Li et al., 2015b).

41 4.2 Algoritmo NSGA-III Algoritmo NSGA-III O algoritmo NSGA-III (Non-Dominated Sorting Genetic Algorithm III) (Deb e Jain, 2014) surgiu como uma versão aprimorada do algoritmo NSGA-II (Deb et al., 2002a). O NSGA-III não abandona a ideia de Dominância Pareto, mas apresenta um mecanismo aprimorado de preservação de diversidade, baseado na ideia de pontos de referência. Pontos de Referência Os pontos de referência utilizados por este algoritmo nada mais são do que um conjunto de pontos no espaço de objetivos que busca guiar o processo de busca, melhorando tanto a diversidade quanto a convergência do conjunto de soluções do algoritmo. Estes pontos podem ser gerados a partir de uma abordagem algorítmica ou previamente fornecidos ao algoritmo. Na abordagem estruturada, conforme (Das e Dennis, 1998), é gerado um simplex unitário na dimensão imediatamente inferior à quantidade de objetivos (e.g se a quantidade de objetivos é 3, o simplex gerado tem dimensão 2). O simplex unitário é definido como a generalização do triângulo para uma determinada quantidade de dimensões. Assim, um simplex bi-dimensional é um triângulo, um simplex tridimensional é um tetraedro, e assim sucessivamente. O simplex gerado intercepta cada um dos eixos no ponto unitário, ou seja, para um simplex de dimensão 2 em um espaço de três objetivos, os seus três vértices são v 1 = (1,0,0), v 2 = (0,1,0) e v 3 = (0,0,1). Para cada eixo, são feitas p subdivisões entre 0 e 1. Por exemplo, para 4 subdivisões, ter-se-ão os pontos 0; 0,25; 0,5; 0,75 e 1 sobre cada eixo. Estes pontos para cada dimensão são então combinados, de modo a gerar todas as combinações possíveis que restem sobre o simplex unitário, conforme a Figura 4.1. A quantidade H de pontos de referência gerados segue a Equação ( 4.1): ( ) m + p 1 H = p (4.1) em que p é a quantidade de subdivisões por eixo e m a quantidade de objetivos.

42 22 4 Algoritmos para Problemas com Muitos Objetivos Figura 4.1: Pontos de referência para problema com 3 objetivos. Para problemas com dimensões muito elevadas, uma quantidade de subdivisões alta pode acabar gerando uma quantidade excessiva de pontos de referência (Deb e Jain, 2014). Para contornar este problema, é possível gerar duas camadas de pontos de referência, que são posteriormente combinadas. Assim, com duas quantidades de subdivisões, p 1 e p 2, são gerados dois conjuntos de pontos de referência P re f e P re f, de tamanhos H 1 e H 2 respectivamente. Estes conjuntos são combinados em um conjunto P re f = P re f P re f. Antes da operação de união, é aplicado um fator de escala τ [0,1] a cada ponto de referência pertencente a um dos dois conjuntos. Assim, sendo π um ponto pertence ao conjunto P re f, e π i a i-ésima das m dimensões deste ponto, o fator de escala é aplicado segundo a Equação ( 4.2) (Das e Dennis, 1998), para cada dimensão de cada ponto de referência do conjunto: π i = 1 τ m + τ π i, π P re f (4.2) Loop principal Uma vez gerados ou fornecidos os pontos de referência e inicializada a população, o algoritmo NSGA-III segue a mesma estrutura geral anteriormente apresentada, entrando no loop principal, como mostra o Algoritmo 1. No loop principal, após a geração da população de filhos pelos operadores de cruzamento e mutação, o algoritmo entra na fase de seleção, mostrada no Algoritmo 2.

43 4.2 Algoritmo NSGA-III 23 Algoritmo 1: Algoritmo NSGA-III Dados: Pontos de referência (P re f ); Tamanho da população N pop ; Quantidade de gerações N gen Resultado: População (P t ) 1 início; 2 //Inicialização 3 t 0;//contador de gerações 4 P t inicializa_população(n pop ); 5 avalia_indivíduos(p); 6 F classificação_em_fronteiras_não_dominadas(p t ); 7 repita 8 P sel torneio(p t ); 9 P f ilhos recombinação(p sel ); 10 avalia_indivíduos(p f ilhos ); 11 P geral P f ilhos P; 12 F classificação_em_fronteiras_não_dominadas(p geral ); 13 P t+1 seleção(f,p re f,n pop ); 14 t t + 1; 15 até t = N gen ; 16 Retorna P t ; 17 fim Seleção A seleção aglutina as populações de pais e de filhos em uma população geral de tamanho 2N pop, sendo N pop a quantidade de indivíduos da população inicial. Todos os indivíduos são classificados em fronteiras não dominadas, conforme o procedimento descrito em Deb et al. (2002a). A primeira fronteira é composta pelos indivíduos que não são dominados por nenhum outro. A segunda pelos que são dominados apenas por indivíduos na primeira fronteira, e assim por diante. O Algoritmo 3 mostra como funciona a classificação em fronteiras não dominadas. A nova população tem obrigatoriamente que ter tamanho N pop. Ela é preenchida com os indivíduos das sucessivas fronteiras não dominadas até que não se possa mais incluir pontos, pois a inclusão de todos os indivíduos de uma nova fronteira faria o tamanho da nova população ultrapassar o tamanho limite. O restante dos pontos devem ser selecionados de outra maneira, e é nessa parte que se encontra uma das inovações do algoritmo NSGA-III. Primeiramente é calculado a estimativa do ponto ideal da população corrente, ou seja, o ponto z, no espaço de objetivos, composto pelo menor valor para cada um dos

44 24 4 Algoritmos para Problemas com Muitos Objetivos Algoritmo 2: Seleção do Algoritmo NSGA-III Dados: Fronteiras de soluções não dominadas (F), Pontos de referência (P re f ); Tamanho da população N pop ; Resultado: População selecionada (P t+1 ) 1 início; 2 S t ; 3 i 1; 4 repita 5 //Preenche nova população segundo dominância Pareto 6 S t S t F i ; 7 i i + 1; 8 até S t N pop ; 9 //Última fronteira a ser incluída 10 F l F i 1 ; 11 se S t = N pop então 12 P t+1 S t ; 13 senão 14 P t+1 S t F l ; 15 //Qtd. de pontos que faltam 16 K N pop P t+1 ; 17 P n re f normaliza ( S t,p re f ) ; 18 //Associa cada membro de S t ao ponto de referência π mais próximo 19 [π,d] associa ( S t,p n re f ) ; 20 //Computa contador de nicho de cada ponto de referencia 21 para cada s S t faça 22 para j 1 até P re f faça 23 se π (s) = j então 24 ρ j ρ j + 1; 25 fim 26 fim 27 fim 28 //Seleciona restante da população por contador de nicho 29 P t+1 nicho ( K,ρ,π,d,P n re f,f l,p t+1 ) ; 30 fim 31 Retorna P t+1 ; 32 fim objetivos: z i = min(f i ), i = 1,...,m (4.3)

45 4.2 Algoritmo NSGA-III 25 Algoritmo 3: Classificação em fronteiras de soluções não dominadas Dados: População (P) Resultado: Fronteiras de soluções não dominadas (F) 1 início; 2 para cada p P faça 3 S p ; //Conjunto de soluções dominadas por p 4 n p 0; //Contador de soluções que dominam p 5 para cada q P faça 6 se p q então 7 S p S p { q } ; 8 senão 9 se q p então 10 n p n p + 1; 11 fim 12 fim 13 se n p = 0 então 14 //Encontra indivíduos pertencentes à primeira fronteira não dominada 15 p rank 1; 16 F 1 F 1 { p } ; 17 fim 18 fim 19 fim 20 //Monta as demais fronteiras 21 i = 1; 22 enquanto F i faça 23 Q = ; 24 para cada p F i faça 25 para cada q S p faça 26 n q n q 1; 27 se n q = 0 então 28 q rank i + 1; 29 Q Q { q } ; 30 fim 31 fim 32 fim 33 i i + 1; 34 F i Q; 35 fim 36 Retorna F; 37 fim O vetor de objetivos de cada indivíduo é transladado de acordo com o valor z : f trans (x i ) = f (x i ) z, i = 1,...,N pop (4.4)

46 26 4 Algoritmos para Problemas com Muitos Objetivos A partir do conjunto de objetivos transladados f trans, encontram-se aqueles mais próximos de cada um dos eixos, formando um conjunto de pontos extremos f ext, composto de m pontos, onde m é a quantidade de objetivos. Com o conjunto de m pontos extremos f ext é construído um hiperplano, cujos pontos de interceptação em cada um dos i-ésimos eixos no espaço de objetivos são chamados de a i. Torna-se agora possível normalizar os valores dos objetivos: f n (x i ) = f trans (x i) a j z, i = 1,...,N pop (4.5) j Com os valores normalizados dos objetivos de cada um dos indivíduos, faz-se a associação de cada um dos indivíduos ao ponto de referência π mais próximo da reta de referência que passa pela origem e pelo ponto π. Para cada ponto de referência é definido um contador de nicho ρ j, que é a quantidade de indivíduos associados àquele ponto de referência que já foram selecionados para compor a próxima geração. Os indivíduos não selecionados não contribuem para o contador de nicho do ponto de referência ao qual estão associados. Para preencher o restante da população portanto, primeiramente é encontrado o ponto de referência com menor ρ j. Caso haja mais de um, um deles é escolhido aleatoriamente. Se o valor ρ j = 0 para o ponto escolhido, não existe nenhum membro da população da próxima geração associado ao ponto. Verifica-se então quantos indivíduos da fronteira não dominada atual estão associados a este ponto de referência. Se houver um ou mais, aquele com a menor distância perpendicular à reta de referência é selecionado e o contador ρ j é incrementado. Caso não haja nenhum indivíduo associado, o ponto de referência é descartado para análise na geração atual. Nos casos em que ρ j 1, é escolhido aleatoriamente um membro da fronteira não dominada associado ao ponto de referência j, caso exista. Este procedimento é repetido até que seja preenchida a nova população, e o algoritmo prossegue, para a próxima geração. O operador de seleção do NSGA-III tenta, na medida do possível, preservar o uso das relações de dominância para selecionar os indivíduos. Quando não é possível escolher

47 4.3 Algoritmo MOEA/D 27 Algoritmo 4: Algoritmo MOEA/D Dados: População inicial (P); Conjunto de vetores de peso (Λ); Tamanho da população N pop ; Quantidade de gerações N gen ; Resultado: Arquivo externo (A ex ) 1 início; 2 A ex ; 3 P inicializa_populacao(n pop ); 4 avalia_indivíduos(p); 5 V inicializa_estrutura_vizinhanca(λ); 6 t 0; 7 repita 8 para cada λ Λ faça 9 Selecionar dois índices aleatórios k e l pertencentes a V(λ); 10 y recombinação(x k,x l ); 11 avalia(y); 12 Atualização de z a partir do novo indivíduo y; 13 para cada j V(λ) faça 14 se f pbi (y) f pbi (x j ) então 15 x j y; 16 fim 17 fim 18 fim 19 //Atualização da população externa 20 remover do conjunto A ex as soluções dominadas por y.; 21 adicionar y ao conjunto A ex caso não seja dominado por outro.; 22 t t + 1; 23 até t = N gen ; 24 Retorna A ex ; 25 fim mais indivíduos por dominância, o algoritmo passa então a considerar o contador de nicho, tentando escolher aqueles indivíduos associados aos pontos de referência com menor quantidade de indivíduos associados a si. Esse mecanismo garante a convergência alcançada pelo uso das relações de dominância, ao mesmo tempo que propicia uma grande variedade de indivíduos no espaço de objetivos. 4.3 Algoritmo MOEA/D O algoritmo MOEA/D (Multiobjetive Evolutionary Algorithm Based on Decomposition) (Zhang e Li, 2007) baseia-se na ideia de decomposição para simplificar a

48 28 4 Algoritmos para Problemas com Muitos Objetivos complexidade computacional do problema a ser resolvido. Ao invés de resolver o problema inteiro de uma vez, como outros algoritmos, o MOEA/D decompõe o espaço de busca em diferentes subproblemas mono-objetivo, e otimiza cada um deles simultaneamente. O MOEA/D, apresentado no Algoritmo 4, utiliza vetores de peso igualmente espaçados no espaço de objetivos para decompor o problema. Cada subproblema corresponde a um vetor de peso do conjunto. Para cada vetor de peso, define-se um vizinhança composta pelos vetores mais próximos. Decomposição Chamando de λ um vetor de peso específico, de Ω o espaço de busca, de z a estimativa do ponto ideal corrente, de L a linha com direção λ que passa pelo ponto ideal z e de ψ a projeção de f (x) em L, cada problema decomposto assume a seguinte forma: minimizar f pbi (x,λ,z ) = d 1 + θd 2 S. a : x Ω ( f (x) z )T λ d 1 = λ ( d 2 = f (x) z λ + d 1 λ ) (4.6) em que d 1 é a distância entre z e ψ, d 2 a distância entre f (x) e L e θ um fator de penalidade, parâmetro do algoritmo. Inicialização Primeiramente, o algoritmo inicializa o conjunto de vetores de peso e a estrutura de vizinhança, que é definida como os T vetores de peso mais próximos a cada um dos vetores de peso, em que a quantidade T, chamada de tamanho da vizinhança, é um parâmetro do algoritmo. Em seguida é gerada a população inicial, que tem seus objetivos avaliados para inicialização da estimativa do ponto ideal z.

49 4.4 Algoritmo MOEA/DD 29 Loop principal No loop principal do algoritmo são percorridos cada um dos vetores de peso (ou sub-problemas). Para cada um deles, escolhem-se dois indivíduos pertencentes à vizinhança corrente para reprodução, gerando um novo indivíduo y. O valor do ponto ideal z é atualizado caso este novo indivíduo y tenha algum objetivo menor do que z. Calcula-se o valor da função f pbi ( y ) para o novo indivíduo e também o valor fpbi (v) para cada indivíduo da vizinhança corrente. Se o valor f pbi ( y ) for menor do que o valor f pbi (v) de algum indivíduo, este é substituído pelo novo indivíduo gerado. O loop continua, mas não sem atualizar o arquivo externo de soluções não dominadas. Todos os indivíduos dominados por y são retirados da população externa, e este é adicionado caso não seja dominado por algum outro. Note que o algoritmo utiliza a Pareto dominância, mas não faz classificação da população em fronteiras não dominadas. 4.4 Algoritmo MOEA/DD O Algoritmo MOEA/DD (Many Objective Evolutionary Algorithm based on Dominance and Decomposition) (Li et al., 2015b) por sua vez, retoma a ideia de classificação em fronteiras não dominadas, combinando-a com a ideia de decomposição, criando uma abordagem híbrida que utiliza os pontos fortes das duas abordagens. Inicialização Primeiramente, de forma similar ao algoritmo MOEA/D, são criados os vetores de peso, e é inicializada a população e a estrutura de vizinhança, conforme Algoritmo 5. Cada indivíduo da população é associado a um vetor de peso aleatório. Além disso, os indivíduos são avaliados e o procedimento de classificação em fronteiras não dominadas é executado uma vez, dando o conjunto F de fronteiras não dominadas.

50 30 4 Algoritmos para Problemas com Muitos Objetivos Algoritmo 5: Algoritmo MOEA/DD Dados: Conjunto de vetores de peso (Λ); Estrutura de vizinhança (V); Qtd. de avaliações Q eval ; Tamanho da população N pop ; Resultado: População final (P) 1 início; 2 c eval 0;//Contador de avaliações 3 P inicializa_populacao(n pop ); 4 avalia_indivíduos(p); 5 c eval c eval + N pop ; 6 V inicializa_estrutura_vizinhanca(λ); 7 z inicializa_ponto_ideal(p); 8 F classificação_em_fronteiras_não_dominadas(p t ); 9 repita 10 para i 1 até Λ faça 11 P seleção(p,v(i)); 12 S recombinação( P); 13 para cada x c S faça 14 avalia x c ; 15 c eval c eval + 1; 16 atualiza z ; 17 P atualiza_populacao(p,λ,v,x c,f); 18 fim 19 fim 20 até c eval Q eval ; 21 Retorna P; 22 fim Loop principal O loop principal do algoritmo MOEA/DD percorre cada um dos vetores de peso, executando um procedimento de geração de novos pontos e inserção destes pontos na população. São selecionados aleatoriamente dois indivíduos pertencentes à vizinhança do vetor de peso corrente para reprodução, o que restringe a busca na vizinhança. Os operadores de recombinação incluem novamente o cruzamento e a mutação e geram um conjunto S de soluções candidatas, de tamanho pequeno ( S < N pop ). Note que, ao invés de gerar uma população inteira a cada passo do loop, o algoritmo gera poucos pontos, e atualiza a população diretamente. Por isso este algoritmo é classificado como um algoritmo de estado estacionário.

51 4.4 Algoritmo MOEA/DD 31 Atualização da população Embora o loop principal pareça simples, as principais inovações do algoritmo estão na etapa de atualização da população, executada individualmente para cada nova solução candidata x c. Primeiramente, a solução candidata é associada à subregião correspondente. Para cada vetor de peso, define-se uma subregião como sendo a região do espaço na qual os pontos estarão mais próximos do vetor de peso correspondente do que de qualquer outro vetor de peso. Em seguida, a estrutura de dominância é atualizada, incluindo a nova solução candidata. Note que ao invés de recalcular toda a estrutura de dominância, o algoritmo apenas atualiza a estrutura já previamente calculada. Este procedimento, que será explicado posteriormente no texto, torna possível utilizar a classificação em fronteiras não dominadas no algoritmo sem incorrer nos custos gerados pela utilização do Algoritmo 3. Após a inserção do novo indivíduo na população, deve-se escolher um indivíduo para ser retirado, de modo que seja mantido constante o tamanho da população. Diferentes cenários podem ocorrer: 1 - Se após a atualização da estrutura de dominância tiver restado apenas uma fronteira não dominada, é escolhida a região φ h com maior contador de nicho (mais indivíduos associados). Caso haja empate, ou seja, duas ou mais regiões com o mesmo contador de nicho, é escolhida aquela cuja totalização dos valores da função f pbi (Equação (4.6)) dos indivíduos associados tenha maior valor. Essa totalização é realizada através de um somatório simples: PBI h = x φ h f pbi (x,λ(h),z ) (4.7) Encontrada a subregião de maior valor total de f pbi, é escolhido para ser retirado da população o indivíduo dessa subregião associado ao maior valor da função f pbi para ser eliminado da população. Essa situação é ilustrada na figura 4.2. Neste caso, seria eliminado um indivíduo da sub-região B, pois esta possui o maior contador de nicho.

52 32 4 Algoritmos para Problemas com Muitos Objetivos Figura 4.2: Retirada de indivíduos da população - apenas uma fronteira de soluções não dominadas. (a) Retirada de indivíduo em região já explorada. (b) Retirada de indivíduo em região com maior contador de nicho. Figura 4.3: Retirada de indivíduos da população - última fronteira com apenas um indivíduo. 2 - Pode ocorrer que após a atualização das fronteiras não dominadas, haja mais de uma fronteira. O processo de retirada de um indivíduo neste caso começa a partir da última fronteira não dominada F l. Se esta última fronteira contém apenas um indivíduo x l, investiga-se a subregião associada a este indivíduo. Se a subregião tiver mais de um indivíduo associado, conclui-se que o indivíduo x l, além de pertencer à última fronteira, está em uma região já explorada, e pode ser eliminado, como na Figura 4.3(a), em que se elimina o indivíduo na região C. Caso contrário, este indivíduo deve sobreviver e, assim, é eliminado aquele indivíduo associado à região com maior contador de nicho (ou maior valor total de f pbi em caso de empate), que esteja associado à fronteira não dominada de maior ordem possível e tenha maior valor de f pbi, situação ilustrada na Figura 4.3(b), em que se elimina um indivíduo da região B, para não deixar a região C sem indivíduos associados.

53 4.4 Algoritmo MOEA/DD 33 (a) Retirada de indivíduo em região já explorada. (b) Retirada de indivíduo em região com maior contador de nicho. Figura 4.4: Retirada de indivíduos da população - última fronteira de dominância com vários indivíduos. 3 - Finalmente, se a última fronteira não dominada contém mais do que um indivíduo, é novamente identificada a subregião φ h associada a indivíduos desta fronteira de soluções não dominadas que tenha o maior contador de nicho. Se essa subregião estiver associada a mais de um indivíduo, é eliminado o pior de acordo com a função f pbi, como na Figura 4.4(a) em que é eliminada uma solução associada à região B. Caso contrário, o indivíduo deve sobreviver, e novamente se busca o indivíduo associado à região com maior contador de nicho, associado à fronteira de maior ordem possível e com maior valor de f pbi, como na Figura 4.4(b), em que é eliminado o indivíduo dominado associado à região C. Após a retirada de um indivíduo da população, ela volta a ter tamanho N pop. É executado novamente um procedimento para atualização das fronteiras de soluções não dominadas sem necessidade de recalculá-las todas através do Algoritmo 3. Este procedimento de atualização da população, além de evitar o uso do algoritmo tradicional de classificação em fronteiras de soluções não dominadas, computacionalmente complexo, agrega ao algoritmo a metodologia de decomposição utilizada no algoritmo MOEA/D. Ao invés de se eliminar simplesmente algum indivíduo associado à pior fronteira não dominada, o procedimento proposto utiliza a decomposição do problema para decidir o ponto a ser eliminado, favorecendo a manutenção da diversidade da população ao priorizar a retirada de indivíduos em áreas já exploradas, mesmo que eles dominem indivíduos que continuem na população. O procedimento acima descrito é apresentado no Algoritmo 6.

54 34 4 Algoritmos para Problemas com Muitos Objetivos Algoritmo 6: Atualização da população no algoritmo MOEA/DD Dados: População (P); Conjunto de vetores de peso (Λ); Estrutura de vizinhança (V); Ponto ideal z ; Fronteiras de soluções não dominadas F; Solução candidata (x c ); Resultado: População atualizada (P); Fronteiras de soluções não dominadas 1 início; atualizadas F 2 Associa x c à subregião mais próxima 3 P P {x c }; 4 F atualiza_dominância(p,f); 5 l F ; 6 se l = 1 então 7 //Apenas um nível de dominância 8 x localiza_pior(p ); 9 P P \ {x}; 10 senão 11 se F l = 1 então 12 //x l é a solução na fronteira F l e φ l a subregião associada. 13 se φl > 1 então 14 P P \ {x l }; 15 senão 16 x localiza_pior(p ); 17 P P \ {x }; 18 fim 19 senão 20 Identificar subregião φ h associada aos indivíduos em F l com maior contado de nicho. 21 se φh > 1 então 22 x solução associada a φ h com maior valor de f pbi ; 23 P P \ {x }; 24 senão 25 x localiza_pior(p ); 26 P P \ {x }; 27 fim 28 fim 29 fim 30 F atualiza_dominância(p,f); 31 Retorna P,F; 32 fim

55 4.4 Algoritmo MOEA/DD 35 Figura 4.5: Criação de fronteira intermediária com adição de novo indivíduo. Atualização da estrutura de dominância A atualização das estruturas de dominância utilizada no MOEA/DD, proposta em (Li et al., 2014a), tenta se utilizar das informações já existentes para evitar a necessidade de recalcular toda a estrutura de dominância quando a população for atualizada. Assim foram identificadas as diferentes situações que podem ocorrer quando um indivíduo é adicionado ou excluído de uma população cuja estrutura de dominância já seja conhecida. Caso 1: adição de novo indivíduo No caso da adição de um novo indivíduo x c à uma população, primeiramente busca-se identificar a qual fronteira não dominada pertence aquele indivíduo. Assim são percorridas todas as fronteiras. Se o indivíduo domina todos ou parte dos indivíduos de uma fronteira, então ele pertence àquela fronteira. Se ele é dominado por todos os indivíduos da fronteira, ele pertence a alguma das fronteiras seguintes. Figura 4.6: Criação de nova fronteira com adição de novo indivíduo.

56 36 4 Algoritmos para Problemas com Muitos Objetivos Figura 4.7: Mudança da distribuição de fronteiras após remoção de indivíduo. Assim que a fronteira não dominada do indivíduo é encontrada, é necessário saber se algum dos indivíduos anteriormente pertencentes àquela fronteira deve mudar (por ser dominado por x c ). Supondo que sim, verifica-se se esse indivíduo domina toda a fronteira seguinte, caso em que é necessário criar uma nova fronteira intermediária, como mostrado na Figura 4.5. Se ele dominar a próxima fronteira apenas parcialmente, ele deve ser inserido na fronteira seguinte, e os indivíduos restantes da nova fronteira devem também ser verificados, conforme Figura 4.6, para passarem à próxima ou a uma nova fronteira. Caso 2: remoção de indivíduo No caso da remoção de um indivíduo x, a fronteira a qual ele pertence e as fronteiras anteriores permanecem inalteradas. Mas pode ocorrer que algum indivíduo pertencente à próxima fronteira, anteriormente dominado apenas por x, tenha que agora fazer parte de uma fronteira anterior. Para isso verifica-se as relações de dominância daqueles indivíduos anteriormente dominados por x com os indivíduos restantes da fronteira anterior. Aqueles que não forem mais dominados por indivíduo algum da fronteira anterior podem mudar de fronteira, conforme Figura Conclusão Neste capítulo foram apresentados três algoritmos evolucionários comumente utilizados na resolução de problemas de otimização com muitos objetivos. O primeiro algoritmo descrito foi o NSGA-III, uma versão modificada do algoritmo NSGA-II, cujo mecanismo de manutenção de diversidade foi alterado, para levar em conta a ideia de pontos de referência e contagem de nicho, ao invés da distância de multidão. Este algoritmo tem a vantagem de ser de simples implementação a

57 4.5 Conclusão 37 partir do NSGA-II. A utilização da ideia dos pontos de referência é também muito importante, para garantir a manutenção da diversidade. Este algoritmo porém utiliza o mesmo mecanismo de classificação da população em fronteira do NSGA-II, com custo computacional elevado para problemas com grande quantidade de objetivos e grande tamanho de população. Em seguida foi apresentado o algoritmo MOEA/D. Este algoritmo utiliza uma ideia similar aos pontos de referência para decompor o espaço de objetivos em diferentes regiões. Com a ideia de decomposição, em cada uma dessas regiões o problema de otimização passa a ser tratado como um problema mono-objetivo, eliminando a necessidade de se calcular relações de dominância entre diferentes indivíduos, tendo como consequência a diminuição dos custos computacionais associados, sem perda de desempenho em termos de convergência e diversidade das soluções. Finalmente, apresentou-se o algoritmo MOEA/DD, que alia a ideia de decomposição do MOEA/D com a ideia de dominância do NSGA-III. Para mitigar os elevados custos computacionais associados à execução da classificação de uma população em fronteiras não dominadas quando a quantidade de objetivos e o tamanho da população são elevados, este algoritmo utiliza uma metodologia de classificação em fronteiras que se aproveita de informações já existentes, alterando a estrutura de dominância já conhecida com a adição ou remoção de um indivíduo. Além disso, a decomposição do problema em vários subproblemas continua essencial na manutenção da diversidade das soluções.

58

59 Capítulo 5 Métricas de Desempenho e Problemas de Benchmark Neste capítulo são apresentadas algumas das métricas de desempenho mais utilizadas para avaliar algoritmos utilizados na resolução de problemas com muitos objetivos, bem como alguns dos problemas de benchmark mais populares. 5.1 Métricas de desempenho As métricas de desempenho são necessárias para avaliar os resultados dos diferentes algoritmos à luz de diferentes critérios, dentre os quais inclui-se a diversidade das soluções encontradas e a convergência das soluções em comparação com as soluções reais, quando previamente conhecidas (Bosman e Thierens, 2003). Diversidade Os algoritmos evolucionários são conhecidos por utilizarem a ideia de populações, ou seja, ao invés de fornecerem apenas um resultado, tais algoritmos fornecem um conjunto de soluções, que, do ponto de vista apenas dos valores dos objetivos, são a princípio incomparáveis entre si. Assim, é interessante que este conjunto de resultados obtidos seja o mais diverso possível, de modo a aumentar as opções disponíveis ao tomador de decisão, que deve escolher alguma das soluções obtidas pelo algoritmo para ser implementada em determinada aplicação. Convergência A convergência do resultado dos algoritmos evolucionários é a medida do quanto as soluções contidas neste resultado se aproximam do resultado teórico. Essas medidas podem ser relativas a algum conjunto de soluções encontrado por outro algoritmo, sendo neste caso possível dizer se um algoritmo superou o outro, mas não o quão próximo está este conjunto das soluções teórica, ou pode ser relativa a um conjunto de soluções teóricas, previamente conhecido.

60 40 5 Métricas de Desempenho e Problemas de Benchmark Definições Sendo F a o conjunto de pontos encontrados pelo algoritmo a ser avaliado e F r o conjunto de pontos amostrados da fronteira Pareto, algumas métricas de desempenho são a seguir apresentadas. Distância geracional A distância geracional (generational distance - GD) é uma métrica comumente utilizada, que mede a convergência, através de uma medição do grau de proximidade entre os conjuntos F a e F r, conforme a Equação (5.1) (Veldhuizen e Lamont, 2000): GD (F a,f r ) = 1 ( ) dist F a 2 f a,f r f a F a (5.1) em que dist ( f a,f r ) é definida como a menor distância Euclidiana entre o ponto f a e qualquer ponto do conjunto F r. Quanto menor o valor da métrica, melhor a qualidade do conjunto de soluções encontrado. A Figura 5.1 ilustra o cálculo da distância geracional. Figura 5.1: Cálculo da distância geracional. Distância geracional inversa A distância geracional inversa (inverse generational distance- IGD) é definida como: IGD (F a,f r ) = 1 ( ) dist f F r r,f a f r F r (5.2)