UMA ABORDAGEM NEURO-IMUNE PARA A SOLUÇÃO DO PROBLEMA DE MÚLTIPLOS CAIXEIROS VIAJANTES

Transcrição

1 UMA ABORDAGEM NEURO-IMUNE PARA A SOLUÇÃO DO PROBLEMA DE MÚLTIPLOS CAIXEIROS VIAANTES THIAGO A. S. MASUTTI, LEANDRO N. DE CASTRO Laboratóro de Sstemas Intelgentes, Programa de Mestrado em Informátca Unversdade Católca de Santos R. Dr. Carvalho de Mendonça, 144, Vla Mathas, E-mals: {tmasutt,lnunes}@lsn.unsantos.br Abstract Two types of neural networks are usually appled to solve combnatoral optmzaton problems: networks based on the optmzaton of energy surfaces, such as Hopfeld networks; and self-organzed networks, lke the self-organzng maps. Ths paper presents a hybrd algorthm between a self-organzng map and artfcal mmune systems to solve the multple travelng salesmen problem (MTSP). The network nvestgated, named RABNET-MTSP, has a sngle layer of neurons that subdvde nto several sub-networks, beng each one of them responsble for representng one of the m salesmen that wll solve the problem. It s also mportant to remark that ths type of network s unsupervsed and, thus, do not use nformaton about the qualty of the solutons proposed. Even wth such characterstc, these networks present good qualty (compettve) results when compared wth other technques from the lterature. Keywords Artfcal Neural Networks, Self-Organzng Maps, Artfcal Immune Systems, Multple Travelng Salesmen Problem. Resumo Dos tpos de redes neuras são comumente usadas para resolver problemas combnatóros: redes baseadas em otmzação de superfíces de energa, como as redes de Hopfeld; e redes auto-organzadas, como os mapas auto-organzáves. Este trabalho apresenta um algortmo híbrdo entre uma rede neural auto-organzada e sstemas munológcos artfcas para a solução do problema de múltplos caxeros vajantes (MTSP). A rede nvestgada, nomeada de RABNET-MTSP, possu uma únca camada de neurônos que se subdvdem em dversas sub-redes, sendo que cada uma delas é responsável por representar um dos m caxeros que resolverão o problema. Outro aspecto relevante é o fato de que a rede opera de forma totalmente nãosupervsonada, ou seja, não há nformação sobre a qualdade das soluções sendo propostas. Mesmo assm, os resultados apresentados são de boa qualdade e compettvos em relação a outras ferramentas da lteratura. Palavras-chave Redes Neuras Artfcas, Mapas Auto-Organzáves, Sstemas Imunológcos Artfcas, Problema de Múltplos Caxeros Vajantes. 1 Introdução O Problema de Múltplos Caxeros Vajantes (MTSP, do nglês Multple Travelng Salesmen Problem) é uma generalzação do já bem conhecdo TSP, no qual é possível a utlzação de mas de um caxero para se obter uma solução. O MTSP pode ser descrto da segunte manera (Bektas, 2006): dado um conjunto de cdades, m representa o número de caxeros que se encontram na cdade depósto. As cdades restantes podem ser chamadas de cdades ntermedáras. Sendo assm, o MTSP consste em determnar uma rota para todos os m caxeros, que devem partr e voltar ao depósto, de tal manera que todas as cdades ntermedáras sejam vstadas apenas uma vez e por apenas um caxero e que o custo total destas rotas seja mnmzado. O custo pode ser, por exemplo, a dstânca percorrda ou o tempo de vagem. Enquanto o objetvo geral do MTSP é mnmzar o custo total, podendo ser chamado de crtéro mnsum, o crtéro mnmax objetva mnmzar o custo da maor rota, que é mas aproprado aos problemas reas nos quas a dstrbução das tarefas deva ser eqütatva (França et al., 1995). O MTSP é um problema que pode ser faclmente relaconado a aplcações de mundo real como, por exemplo, planejar a ordem de execução de determnadas tarefas que um grupo de robôs autônomos tem que executar (Zhong et al., 2002); roteamento de veículos como, por exemplo, ônbus escolares (Angel et al., 1972); e determnação da ordem de vstação de centras telefôncas por um grupo de técncos (Svestka e Rnnooy Kan, 1975). Os Mapas Auto-Organzáves (SOM, do nglês Self-Organzng Maps) de Kohonen (de Castro, 2006; Haykn, 1999; Kohonen, 2000) foram temas de dversos trabalhos para a solução do TSP (Angenol et al., 1988; Past e de Castro, 2006; Somhom et al., 1997) e os resultados destes trabalhos são muto satsfatóros. Porém, pouca atenção fo dada à aplcação de redes neuras auto-organzáves para a solução do MTSP. Neste artgo é apresentada uma ferramenta baseada em mapas auto-organzáves e sstemas munológcos artfcas (de Castro e Tmms, 2002) para a solução do MTSP, a RABNET-MTSP, que é uma varação do algortmo proposto por Past e de Castro (2006). Este artgo está organzado da segunte manera. A Seção 2 apresenta alguns trabalhos baseados em redes compettvas para a solução do MTSP e a Seção 3 descreve a RABNET-MTSP. Na Seção 4.1 são propostos valores padrões para os parâmetros da RABNET-MTSP e na Seção 4.2 são apresentados os resultados obtdos com o algortmo proposto. O trabalho é concluído na Seção 5 com uma dscussão e propostas de trabalhos futuros.

2 2 Revsão da Lteratura Esta seção faz uma breve descrção de alguns algortmos baseados em redes auto-organzadas para a solução do MTSP presentes na lteratura. Em geral, tas algortmos são modfcações daqueles aplcados à solução do TSP. Dentre os trabalhos descrtos, Somhom et al. (1999) é o únco a utlzar nstâncas publcamente acessíves para avalar o desempenho de seu algortmo e, por sso, seus resultados serão usados como benchmark para a ferramenta proposta aqu. Baseando-se no trabalho de Angenol et al. (1988), Hsu et al. (1991) propuseram um algortmo para a solução do MTSP. Neste algortmo, m bolhas crescem a partr do depósto em dreção às cdades ntermedáras defnndo as rotas que cada um dos m caxeros deverá segur. Assm como o algortmo de Angenol, o algortmo proposto possu funções de cração e exclusão de nós. Vakhutnsky e Golden (Vakhutnsky e Golden, 1994) propuseram uma extensão da rede elástca (Durbn e Wllshaw, 1987) para a solução do MTSP. Nesse algortmo m tras elástcas de neurônos se alongam a partr do depósto em dreção às cdades ntermedáras de acordo com duas forças: a prmera nduz todos os nós da rede a se moverem na dreção da cdade mas próxma, a segunda força faz com que cada nó se mova na dreção de seus vznhos. Partndo de um trabalho posteror para o TSP (Somhom et al., 1997), Somhom et al. (1999) propuseram uma rede baseada em SOM para a solução do mnmax MTSP. No algortmo é utlzado um número fxo M de neurônos, sendo M = 2*N, onde N é o número de cdades a serem vstadas. Além dsso, há uma restrção na regra de competção deste algortmo para propcar custos eqütatvos das rotas de cada caxero. Para avalar o desempenho do algortmo, os autores realzaram testes com nstâncas para o C- VRP da TSPLIB (Renelt, 1991) e compararam os resultados com a Elastc Net e com o algortmo 2-opt (Potvn et al., 1989). De acordo com os resultados, o algortmo proposto pelos autores apresentou soluções de melhor qualdade que os outros. Em relação ao esforço computaconal, o tempo de processamento do algortmo proposto fo nferor ao da Elastc Net e superor ao do 2-opt. 3 A RABNET-MTSP A RABNET-MTSP (real-valued antbody network to the multple travelng salesmen problem) é uma rede neural que combna característcas de um SOM e sstemas munológcos artfcas (de Castro e Tmms, 2002) para a solução do MTSP. Esta rede é uma modfcação da RABNET-TSP (Past e de Castro, 2006). Dentre as prncpas característcas deste algortmo é possível destacar: Arqutetura do tpo feedforward com uma únca camada de pesos a serem ajustados. Rede compettva com aprendzado nãosupervsonado. Arqutetura construtva através de um mecansmo de clonagem de neurônos. Fase de poda de neurônos ao fnal do trenamento. Vznhança pré-defnda entre os neurônos. O objetvo da RABNET-MTSP é, durante a fase de trenamento, posconar uma célula presente nas sub-redes (cada sub-rede corresponde à rota de um caxero dstnto) em cada cdade da nstânca do MTSP a ser resolvda. Sendo assm, a vznhança pré-defnda entre os neurônos das sub-redes determnará a ordem de vstação das cdades. A RABNET-MTSP é um algortmo nãosupervsonado, ou seja, não utlza uma função de custo ou avalação, durante a fase de trenamento da rede, para determnar a qualdade da solução. A segur são descrtas as prncpas etapas da RABNET-MTSP. 3.1 Incalzação das sub-redes Para a RABNET-MTSP, cada sub-rede representará um caxero, que deverá percorrer uma rota ndependente dos outros caxeros. Sendo assm, são ncalzadas m sub-redes. Incalmente são nserdos dos neurônos em cada sub-rede. O prmero contém um vetor de coordenadas dêntco ao do depósto e o segundo é ncalzado randomcamente. Para facltar a mplementação e a dentfcação do neurôno vnculado ao depósto, o neurôno de índce um é aquele que sempre estará vnculado ao depósto. 3.2 Apresentação dos padrões de entrada Cada cdade representa um padrão de entrada, que nos sstemas munológcos é correspondente a um antígeno. Sendo assm, todos os antígenos devem ser apresentados à rede e sto é feto teratvamente, ou seja, um antígeno de cada vez. A apresentação de todos os antígenos é caracterzada como uma época. Para dmnur a dependênca do algortmo de trenamento da rede em relação à ordem ncal destes antígenos, a cada época esta ordem é alterada aleatoramente. 3.3 Competção O objetvo dessa etapa é calcular o neurôno contdo em uma das m sub-redes que apresente a maor afndade (menor dstânca) ao antígeno apresentado, sendo este neurôno caracterzado como o vencedor para a competção. A regra que determna o neurôno de maor afndade ao antígeno apresentado pode ser defnda pela equação a segur:

3 j ( ), j, j 1,..., m I, = arg mn w x =, (1) na qual w é o vetor de coordenadas do neurôno de índce pertencente à sub-rede de índce j, x é o vetor de coordenadas do antígeno apresentado e I é o índce do neurôno vencedor pertencente à sub-rede de índce. O algortmo de trenamento não apresenta restrção alguma quanto ao número de vezes que um neurôno pode vencer uma competção. Sendo assm, um neurôno pode estar relaconado a zero, um ou mas antígenos. Um vetor de concentração, ρ m, armazena, para cada um dos m caxeros, a quantdade de vezes que cada neurôno venceu uma competção. Esta nformação é rencalzada a cada época e é mportante para outras etapas como, por exemplo, o crescmento das sub-redes. Quando o antígeno apresentado se refere à cdade base, não há competção. Porém, os neurônos de índce um de cada sub-rede são utlzados nas próxmas etapas. 3.4 Cooperação A fase de cooperação da RABNET-MTSP é gual à de um SOM. Nesta fase, o estímulo causado ao neurôno vencedor é propagado aos neurônos vznhos, mas de uma forma mas branda conforme a dstânca lateral entre eles aumenta. Aqu, o estímulo a um neurôno se refere à sua adaptação, ou seja, mover o neurôno na dreção do antígeno para o qual ele venceu. Desta manera, os vznhos do neurôno vencedor também serão movdos na dreção do antígeno, mas com um passo menor do que o dado por ele. Na RABNET-MTSP os neurônos de cada sub-rede estão dspostos em uma vznhança crcular e a dstânca lateral entre dos neurônos pode ser defnda pela segunte equação: d = mn I, M I,, (2) ( ) na qual é o índce do neurôno analsado, I é o índce do neurôno vencedor pertencente à sub-rede e M é o número total de neurônos desta sub-rede. Para caracterzar essa dmnução do passo de um neurôno conforme sua dstânca lateral com o neurôno vencedor aumenta, utlza-se uma função de vznhança que, na RABNET-MTSP, é a mesma utlzada na RABNET-TSP e proposta por Haykn (1999): f h= ( σ, d) = exp( d 2 ) σ 1, caso contráro (3) na qual h representa o tamanho do passo que o neurôno dará em relação ao passo do neurôno I, σ é o parâmetro que controla a nfluênca da vznhança e d é a dstânca lateral entre os neurônos e I. Conforme a Eq. (3), o neurôno vnculado ao depósto permanece sempre fxo, pos seu valor de h será sempre zero. O parâmetro σ é responsável por determnar a nfluênca da vznhança. É comum que este parâmetro, a partr de um valor ncal, seja reduzdo ao decorrer das épocas. Na RABNET-MTSP utlza-se a função de redução proposta por Haykn (1999): σt =σ0 exp( t τ 1 ), (4) na qual σ 0 é o valor ncal para este parâmetro, t é a época atual e τ 1 = 1000/log(σ 0 ). Esta etapa da RABNET-MTSP é descartada assm que é defnda a establzação dos vencedores, que será descrta adante. 3.5 Adaptação A fase de adaptação se refere a mover os neurônos na dreção do antígeno apresentado. Na RABNET- MTSP a adaptação de um neurôno pode ser defnda pela segunte equação: ( ) ( t) +α hi x w ( t) ( t) w h > κ I w ( t+ 1) =, (5) w caso contráro na qual w é o vetor de coordenadas do neurôno de índce pertencente à sub-rede de índce, x é o vetor de coordenadas do antígeno apresentado, α é a taxa de aprendzagem, h é o parâmetro defndo na Eq. (3), t é a época atual e κ é o lmar para h. O parâmetro α representa o passo que será dado pelo neurôno. Este parâmetro, a partr de seu valor ncal, é reduzdo ao decorrer das épocas. Para sto fo adotada a função proposta por Haykn (1999): αt =α 0 exp( t τ 2 ), (6) na qual α 0 é o valor ncal para este parâmetro, t é a época atual e τ 2 = Dferentemente do algortmo proposto por Past e de Castro (2006), na RABNET-MTSP apenas neurônos que obtveram um valor mínmo para h na etapa de cooperação são adaptados. Esta restrção é mposta através da nclusão do lmar κ na Eq. (5) e faz com que apenas mudanças realmente sgnfcatvas sejam realzadas na rede. Conforme alguns resultados de testes prelmnares, esta restrção não produz efeto sgnfcatvo na qualdade da solução, porém dmnu o esforço computaconal do algortmo. 3.6 Crescmento das sub-redes A etapa de crescmento é baseada em sstemas munológcos artfcas (de Castro e Tmms, 2002), na qual os neurônos mas estmulados durante uma época são seleconados para serem clonados. Para cada sub-rede é seleconado o neurôno mas estmulado, que é aquele que reconhece a maor concentração de antígenos. A ndcação do neurôno de maor concentração de cada sub-rede pode ser defnda pela equação abaxo: j j (7) k = arg max ρ ( ) na qual k é o índce do neurôno de maor concentração relatvo à sub-rede j e ρ é o vetor de concentra-

4 ção dessa sub-rede. Caso dos ou mas neurônos a- presentem a maor concentração, um deles é escolhdo aleatoramente. O neurôno de índce k seleconado através da Eq. (7) será utlzado para clonagem somente se j ρ k > 1. Caso contráro, a sub-rede à qual pertence este neurôno não sofrerá alterações. Dentre os neurônos seleconados como canddatos à clonagem, de todos os antígenos relaconados a ele, aquele de maor dstânca Eucldana (menor afndade) é escolhdo. Se esta dstânca for maor que o parâmetro ε, então este neurôno é clonado, caso contráro, nenhuma mudança nessa sub-rede será realzada. O novo neurôno crado terá um vetor de coordenadas dêntco ao de seu neurôno pa e será ntroduzdo na rede como vznho de grau um dele. 3.7 Establzação dos vencedores Esta é uma etapa que não exste no algortmo orgnal proposto por Past e de Castro (2006) e fo ntroduzda para propcar uma dmnução no tempo de processamento do algortmo. Para que essa dmnução ocorra, a etapa de cooperação é descartada assm que é caracterzada a establzação dos vencedores, fazendo com que apenas os neurônos vencedores sejam movdos na dreção do antígeno. A establzação dos vencedores ocorre quando há apenas uma pequena varação dos neurônos vencedores para cada antígeno. Esta varação é dada pela segunte equação: N n= 1 ( t 1) I ( t) V = I, (8) n na qual V é o grau de varação dos vencedores, N é o número total de antígenos, I é o índce do neurôno vnculado ao antígeno de índce n e t é a época atual. Para se caracterzar a establzação dos vencedores, é necessáro que V assuma um valor menor ou gual a um determnado lmar β. 3.8 Crtéro de parada Para garantr que o algortmo obtenha uma solução factível, cada antígeno deve ter um neurôno a uma dstânca mínma λ. Quando esta condção é satsfeta, o processo de aprendzado da rede é fnalzado. 3.9 Poda Ao térmno do processo de trenamento da rede, todo neurôno com nível de concentração gual a zero é excluído. Isso faz com que o número fnal de neurônos seja gual a N + m 1, e a vznhança defnda pelos neurônos de cada sub-rede determnará a ordem da rota de cada caxero. n 4 Avalação da Performance do Algortmo 4.1 Defnção dos Parâmetros de Trenamento Para que a RABNET-MTSP possa ser aplcada a uma dada nstânca do MTSP, alguns parâmetros devem ser defndos. Tas parâmetros podem nfluencar a manera com que as sub-redes se desenvolvem e, conseqüentemente, o esforço computaconal e/ou a qualdade da solução. A Fgura 1 apresenta o comportamento do algortmo durante o processo de a- prendzagem, com m = 4, para uma das nstâncas analsadas. Assm como proposto em Past e de Castro (2006), neste trabalho fo utlzado ε = md*0,2 e λ = md*0,01, nas quas md representa a menor dstânca entre as cdades da nstânca analsada. Os parâmetros α 0 e σ 0 podem nfluencar a qualdade da solução que será obtda e seus valores podem varar de acordo com as característcas de cada nstânca. Portanto, os valores deas destes parâmetros só podem ser defndos a partr de testes prelmnares. Quando não for possível a realzação destes testes, propomos utlzar α 0 = 0,75 e σ 0 = 19, valores obtdos emprcamente para algumas nstâncas da lteratura. Sugermos também κ = 0,01, caracterzando como sgnfcatvo um passo maor que 1% do passo dado pelo neurôno vencedor. O valor de β depende do valor adotado para α 0, segundo a segunte equação: 0,05 N α 0 0,7 β= 1 caso contráro (9) na qual N é o número de cdades da nstânca analsada. O valor negatvo para β faz com que não seja caracterzada a establzação dos vencedores. 4.2 Resultados Computaconas Nos testes apresentados aqu foram utlzadas nstâncas do Problema de Roteamento de Veículos Capactados (CVRP, do nglês Capactated Vehcle Routng Problem) da TSPLIB (Renelt, 1991) sem consderar a restrção de capacdade do veículo. Também foram consderadas algumas nstâncas para o problema do caxero vajante da TSPLIB. As nstâncas utlzadas para este trabalho são as mesmas que foram utlzadas no trabalho de Somhom et al. (1999) e são publcamente acessíves através do ste software/tsplib95/. O algortmo fo mplementado em MATLAB e executado em um Pentum IV de 3,0GHz com 1Gb de RAM. Para cada nstânca analsada o algortmo fo executado 30 vezes para dos, três e quatro caxeros respectvamente. A Tabela 1 apresenta o esforço computaconal da RABNET-MTSP e compara os resultados, para o crtéro mnmax, com aqueles apresentados em Somhom et al (1999).

5 (a) (b) (c) (d) Fgura 1 Evolução das sub-redes que representam os 4 caxeros para uma das nstâncas analsadas. (a) 50 épocas; (b) 100 épocas; (c) 150 épocas; (d) resultado fnal com 225 épocas. Tabela 1 Esforço computaconal da RABNET-MTSP e comparação das soluções obtdas com as apresentadas por Somhom et al. (1999). Tempo é o tempo médo, em segundos, para uma execução; Menor é o custo obtdo para a melhor solução e Méda é a méda do custo das soluções obtdas. Os valores grfados destacam as melhores soluções entre os dos algortmos. Instânca N m RABNET-MTSP Somhom et al. Tempo Menor Méda Menor Méda 2 8, , ,50 el , , , , , , , , ,00 el , , , , , , , , ,67 el , , , , , , , , ,00 el , , , , , , , , ,67 el , , , , , , , , ,80 kroa , , , , , , , , ,00 kroa , , , , , , , , ,50 kroa , , , , , , , , ,75 fl , , , , , ,50

6 5 Dscussões e Perspectvas Futuras Redes neuras artfcas têm sdo amplamente estudadas, em especal para a solução de problemas de otmzação combnatóra como, por exemplo, TSP e MTSP. Este artgo apresentou uma abordagem baseada em Mapas Auto-Organzáves e sstemas munes artfcas para a solução do MTSP. A ferramenta proposta, denomnada RABNET-MTSP, fo capaz de apresentar boas soluções para o mnmax MTSP com um tempo de processamento razoável. Uma comparação entre as soluções obtdas com a RABNET-MTSP e com resultados apresentados na lteratura demonstrou um bom desempenho do algortmo proposto. Os resultados encorajadores apresentados neste artgo confrmam a efetvdade da aplcação de algortmos auto-organzados para a solução de problemas combnatóros e nos motvam a realzar adaptações no algortmo para a solução de outro problema, o CVRP. Além dsso, um estudo mas profundo com mas nstâncas para o MTSP será alvo de nvestgação futura. Agradecmentos Os autores agradecem à UNISANTOS, à FAPESP e ao CNPq pelo apoo fnancero. Referêncas Bblográfcas Angel, R.D., Caudle, W.L., Noonan, R. e Whnston, A. (1972). Computer-Asssted School Bus Schedulng, Management Scence, 18(6): B279- B288. Angenol, B., Crox Vaubos, G. e Le Texer, -Y. (1988). Self-Organzng Feature Maps and the Travelng Salesman Problem, Neural Networks, 1(4): Bektas, T. (2006). The Multple Travelng Salesman Problem: An Overvew of Formulatons and Soluton Procedures, Omega, 34(3): de Castro, L.N. e Tmms,. (2002). Artfcal Immune Systems: A New Computatonal Intellgence Approach, Sprnger-Verlag. de Castro, L.N., (2006). Fundamentals of Natural Computng: Basc Concepts, Algorthms, and Applcatons, CRC Press LLC. Durbn, R. e Wllshaw, D. (1987). An Analogue Approach to the Travelng Salesman Problem Usng an Elastc Net Method, Nature, 326: França, P.M., Gendreau M., Laporte, G. e Müller, F.M. (1995). The m-travelng Salesman Problem wth Mnmax Objectve, Transportaton Scence, 29(3): Haykn, S. (1999). Neural Networks: A Comprehensve Foundaton, 2nd Ed., Prentce Hall. Hsu, C., Tsa, M. e Chen, W. (1991). A Study of Feature-Mapped Algorthm for the Multple Travelng Salesmen Problem, IEEE Internatonal Symposum on Crcuts and Systems, vol. 3, pp Kohonen, T. (2000). Self-Organzng Maps, 3rd Ed., Sprnger-Verlag. Past, R. e de Castro, L.N. (2006). A Neuro-Immune Network for Solvng the Travelng Salesman Problem, Internatonal ont Conference on Neural Networks, pp Potvn,., Lapalme, G. e Rousseau,. (1989). A Generalzed k-opt Exchange Procedure for the MTSP, Informaton Systems and Operatons Research, 27(4): Renelt, G. (1991). TSPLIB - A Travelng Salesman Problem Lbrary, ORSA ournal on Computng, 3(4): Somhom, S., Modares, A. e Enkawa, T. (1997). A Self-Organsng Model for the Travelng Salesman Problem, ournal of the Operatonal Research Socety, 48(9): Somhom, S., Modares, A. e Enkawa, T. (1999). Competton-Based Neural Network for the Multple Travellng Salesmen Problem wth Mnmax Objectve, Computers and Operatons Research, 26(4): Svestka,.K. e Rnnooy Kan, A.H.G. (1975). Some Smple Applcatons of the Travelng Salesman Problem, Operatonal Research Quarterly, vol. 26, pp Vakhutnsky, A.I. e Golden, B.L. (1994). Solvng Vehcle Routng Problems Usng Elastc Nets, IEEE Internatonal Conference on Neural Network, pp Zhong, Y., Lang,., Guochang, G., Zhang, R. e Yang, H. (2002). An Implementaton of Evolutonary Computaton for Path Plannng of Cooperatve Moble Robots, Proceedngs of the 4th World Congress on Intellgent Control Automaton, vol. 3, pp