Nuno Miguel Duarte Sequeira André VARIABLE NEIGHBOURHOOD SEARCH

Transcrição

1 Nuno Miguel Duarte Sequeira André VARIABLE NEIGHBOURHOOD SEARCH Optimization and decision support techniques PDEEC 2007

2 Introdução A meta-heurística VNS (Variable Neighbourhood Search) é bastante recente Esta meta-heurística tem por base a pesquisa em vizinhanças diferentes Nesta exploração o objectivo será descer até mínimos locais e tentar escapar dos vales que os contêm

3 Pesquisa local A meta-heurística VNS faz uso da pesquisa local Uma pesquisa local consiste na movimentação de uma solução para a outra de acordo com regras pré estabelecidas Uma estratégia de pesquisa local possível começa com uma solução arbitrária e em cada passo uma nova solução é escolhida sendo testada

4 Vizinhança Isto pressupõe a escolha de uma vizinhança que pode ser considerada como todas as soluções que se obtêm ao fazer uma troca 2opt por exemplo Podemos testar todas as possibilidades de uma vizinhança, nesse caso vamos explorar totalmente a vizinhança Para descer até um mínimo local podemos tentar alterações aleatórias ou sistemáticas do caminho e testar se essa solução é menor que a actual

5 Vizinhança Temos assim a função F(x) que queremos minimizar, na vizinhança V(xn) encontramos o mínimo local xn mas temos um vale próximo

6 Vizinhança Com as alterações aleatórias podemos ou não conseguir achar melhoria, mas se não acharmos melhoria não garantimos que chegamos ao mínimo local da vizinhança, a não ser que exploremos a vizinhança toda, o que é mais complicado de fazer com números aleatórios Com uma pesquisa sistemática podemos pesquisar até não conseguirmos melhoria, assim sendo chegamos ao mínimo local

7 Introdução Para conseguir chegar a um vale temos de implementar alguma forma de pesquisa que deve ser bastante rápida No VNS podemos considerar dois tipos de evolução na pesquisa Steepest descent - descida mais inclinada First descent - primeira descida

8 Steepest Descent Escolhemos uma vizinhança (Repetir) Testamos a vizinhança completamente Achamos o mínimo da vizinhança Esse mínimo passa a ser a nova solução

9 First Descent Escolhemos uma vizinhança (Repetir) Testamos a próxima alteração Se for menor que a solução actual essa passa a ser a nova solução

10 Variable Neighbourhood Descent A combinação das duas heurísticas anteriores dá origem ao VND (Variable Neighbourhood Descent) Ao aplicar o VND vamos tentar chegar ao mínimo local o mais rápido possível em termos de descida, não em termos de tempo computacional Em cada alteração de solução queremos a maior descida possível

11 Variable Neighbourhood Descent Devemos antes de aplicar fazer as seguintes questões: Qual a complexidade das diferentes trocas Qual a melhor ordem para as aplicar São as trocas consideradas suficientes para permitir uma exploração satisfatória da solução? Quão precisa queremos que a solução seja

12 Variable Neighbourhood Descent Ao aplicar o VND devemos conseguir chegar a um mínimo local em tempo útil Quando chegamos ao mínimo local quer dizer que nas vizinhanças exploradas no VND não conseguimos melhorar, sendo assim podemos tentar o mesmo tipo de trocas que nunca conseguiremos sair do vale Isto é problemático no sentido em que geralmente usamos trocas simples para o VND

13 Variable Neighbourhood Descent Para sair do vale e tentar achar um mais profundo teremos inevitavelmente de usar trocas mais complexas 3opt, 4opt, 5opt ou outras, gerando assim vizinhanças mais distantes O grande problema que temos com estas trocas mais complexas é que para explorarmos sistematicamente a vizinhança temos muito mais combinações possíveis, logo o tempo de pesquisa vai crescer

14 Reduced VNS No entanto o VNS apresenta uma solução Fazemos uma troca mais complexa obtendo assim uma possível solução, de seguida fazemos uma pesquisa local, na expectativa de que consigamos uma melhoria de relativamente ao mínimo encontrado pelo VND Esta troca é designada por Reduced VNS O Reduced VNS seguido de uma pesquisa local designa-se por Basic VNS

15 General VNS Se usarmos o Reduced VNS seguido de uma pesquisa VND teremos assim o General VNS, foi esta a meta-heurística implementada

16 Exemplo VNS

17 Tipos de VNS Basic VNS - É considerado quando usamos uma pesquisa RVNS seguida de uma pesquisa simples das vizinhanças General VNS - É considerado quando usamos uma pesquisa RVNS seguida de uma pesquisa VND Na implementação pode-se determinar em minutos quanto tempo é que o RVNS vai correr.

18 Implementação Para o TSP criei quatro heurísticas baseadas em dois tipos de trocas simples. 2opt Troca de cidade

19 2opt O 2opt é bastante simples e é já conhecido

20 Troca de Cidade A troca da cidade é melhor explicada no vector solução Escolhe-se uma cidade e qual o ramo onde a vamos introduzir

21 Troca de Cidade (Exemplo) Por exemplo se tivermos a solução: Se escolhermos a cidade na posição 5 e a quisermos colocar no ramo na posição 0 (ramo entre a posição 0 e 1) ficará

22 Implementação Para estas duas heurísticas implementei o steepest descent e o first descent A cada método é passado o limite de iterações, como o método termina ao fim de uma iteração em que não consiga melhorar a solução poderíamos pedir infinitas iterações A solução inicial é a dada pela heurística do vizinho mais próximo com início no nó zero steepestdescent2opt(caminho, x.length); firstdescent2opt(caminho); steepestdescentmovecidade(caminho, x.length); firstdescentmovecidade(caminho, 0);

23 Implementação Para a heurística de cidade firstdescent podemos definir uma quantidade de iterações baseadas em números aleatórios, para serem tentados antes da pesquisa sistemática, esta opção nunca foi usada neste trabalho As duas heurísticas firstdescent só param quando não conseguem melhoria steepestdescent2opt(caminho, x.length); firstdescent2opt(caminho); steepestdescentmovecidade(caminho, x.length); firstdescentmovecidade(caminho, 0);

24 Implementação Optei por usar o steepest descent primeiro para nos encaminhar o mais rapidamente possível para o vale mais profundo Embora consuma mais tempo, pois é preciso uma iteração para haver um avanço, o avanço será sempre o maior e deve ser usado quando temos uma solução não aleatória De seguida uso o first descent para tentar descer ainda mais no vale Isto para o 2opt

25 Implementação Com a troca de cidade consegue-se melhorar a solução obtida por 2opt, mas geralmente executa menos iterações, porque grande parte do trabalho de descida já foi feito antes Inevitavelmente vai-se chegar a um mínimo local. Embora com o problema de 29 nós consiga chegar à solução óptima, o mesmo não acontece para os outros.

26 Implementação Para sair do vale em que nos encontramos vamos usar o RVNS (Reduced Variable Neighbourhood Search) Implementei duas técnicas para isto: Gero uma troca aleatória na solução inicial e realizo uma pesquisa VND, se melhorar passa a ser a nova solução (denominei esta técnica de RVNS) Gero uma troca aleatória na solução inicial e realizo uma pesquisa VND, gero outra troca aleatória no caminho gerado anteriormente e realizo uma pesquisa VND (denominei esta técnica de RVNS cascata)

27 Implementação Cada tentativa gera sempre uma solução pior seja no RVNS ou no RVNS cascata, mas esta é a única maneira de sair do vale Só depois de correr o VND sabemos se chegamos a um vale mais profundo

28 Implementação Quanto mais complexa for a troca mais distante é a vizinhança e mais longe ficará o vale a que vamos tentar aceder. Sendo assim começa-se com trocas simples e depois evolui-se para trocas mais complexas

29 GVNS Os dois tipos de RVNS contam com uma função que consegue realizar qualquer troca do tipo kopt, mas implementei trocas 2opt, 3opt, 4opt, 5opt e 6opt Todos serão seguidos de uma pesquisa VND Pode-se definir qual o tempo de processamento desejado, sendo que este será dividido igualmente entre cada troca

30 Tempos de execução VND Para um máximo de iterações igual ao nº de nós Instância Algoritmo Tempo Tempo Tempo Tempo Tempo por Tempo Iterações por iter. Total Iterações iter. (ms) Total (ms) Iterações por iter. Total (ms) (ms) (h) (ms) Steep 2opt 10 4, , N/A >8h N/A First 2opt N/A N/A N/A Steep Cidade 5 6, , N/A N/A N/A First Cidade N/A N/A N/A Tempo total < 1s 114m 36s N/A Mínimo N/A

31 Iterações VND Para um máximo de iterações igual ao nº de nós Instância Algoritmo Iterações Mínimo Iterações Mínimo Iterações Mínimo Steep 2opt N/A N/A First 2opt N/A N/A Steep Cidade N/A N/A First Cidade N/A N/A Tempo <1s 114m 36s N/A

32 Iterações VND Para um máximo de iterações igual a 10% do nº de nós (10% calculado com divisão inteira nº de nós/10) Instância Algoritmo Iterações Mínimo Iterações Mínimo Iterações Mínimo Steep 2opt N/A N/A First 2opt N/A N/A Steep Cidade N/A N/A First Cidade N/A N/A Tempo 1s 85m N/A

33 Iterações VND Para um máximo de iterações igual a 1% do nº de nós (10% calculado com divisão inteira nº de nós/100) Instância Algoritmo Iterações Mínimo Iterações Mínimo Iterações Mínimo Steep 2opt N/A N/A First 2opt N/A N/A Steep Cidade N/A N/A First Cidade N/A N/A Tempo ~0s 20m 27s N/A

34 Condições do teste Netbeans 6.0 Java JDK 6 AMD Sempron MB RAM

35 Conclusões Consegui melhorias com o RVNS só para 53 nós, conseguindo 426 ao fim de 1h de RVNS Para 1002 nós ao fim de 31h não consegui melhoria relativamente ao VND O uso de muitas iterações steepestdescent não garante a escolha de um bom mínimo local mas demora muito mais tempo a executar O firstdescent chega a um mínimo muito mais rápido que o steepestdescent

36 Trabalho futuro Guardar trocas geradas aleatoriamente no RVNS para que não sejam repetidas Implementar Skewed VNS Implementar Variable Neighborhood Decomposition Search Implementar um algoritmo que detecte ramos cruzados e que os troque Resolver o problema de o firstdescent fazer melhoria depois de o steepestdescent ter corrido até ao fim

37 Bibliografia José Fernando Oliveira Maria Antónia Carravilla, Técnicas aproximadas para a resolução de problemas de Optimização Combinatória, MEEC Faculdade de Engenharia da Universidade do Porto Pierre Hansen and Nenad Mladenovic, Search Methodologies - Introductory Tutorials In Optimization And Decision Support Techniques, Cap. 8, VARIABLE NEIGHBORHOOD SEARCH, Springer, 2005 Marc Pirlot, General local search methods, European Journal of Operational Research 92 (1996) , visitada em 7 de Janeiro de 2008