Comparação entre os algoritmos Luus-Jaakola e Particle Swarm Optimization (PSO) em dois problemas de otimização global.

Transcrição

1 Anais do CNMAC v.2 ISSN X Compaação ente os algoitmos Luus-Jaakola e Paticle Swam Optimization (PSO) em dois poblemas de otimização global. Calos A. Souza Lima J., Jadel S. Costa, Wagne F. Sacco Univesidade do Estado do Rio de Janeio (UERJ) IPRJ / PGMC - Instituto Politécnico Gupo de Temodinâmica e Otimização Rua Albeto Rangel s/n, Vila Nova, Nova Fibugo Rio de Janeio, Basil. {souzalima_ca, jscosta, wfsacco}@ipj.uej.b Resumo: Apesentamos uma compaação ente os algoitmos de otimização global contínua Luus-Jaakola (LJ) e Paticle Swam Optimization (PSO). Inicialmente aplicamos as técnicas a uma função teste conhecida como Eponential Fit de quato dimensões que é consideada pela liteatua e em seguida a um poblema de equilíbio químico que é caacteisticamente um poblema de 10 dimensões, mas que pode se eduzido a um poblema de 5 dimensões assim como é tatado. Então veificamos a pefomance dos algoitmos nos poblemas em questão. Os esultados são compaados com a melho solução conhecida na liteatua e o desempenho dos métodos utilizados é analisado no que diz espeito à convegência e consistência nesta aplicação. 1. Intodução Poblemas de otimização sempe são fequentes em váias áeas do conhecimento na busca de melhoes adequações de métodos e/ou pocessos empegados. Muitos destes poblemas demonstam te um alto gau de dificuldade paa a maioia das técnicas de otimização, o que po anos os deiou sem solução apaente. A pati da segunda metade do século XX técnicas de otimização baseadas em pocessos aleatóios e guiadas po alguma heuística, conhecidas como técnicas estocásticas, começaam a se desenvolvidas e a ganha destaque ao obteem algum êito na solução de poblemas que até então encontavam-se sem solução. A pati de então, divesas outas técnicas de otimização baseadas nos mesmos conceitos, poém com outas caacteísticas (guiadas po outas heuísticas) foam desenvolvidas e pudeam se implementadas cada vez com maio eficiência paa os mesmos poblemas dado também pelo avanço da capacidade de pocessamento dos computadoes. Utilizamos os algoitmos Luus-Jaakola (LJ), que é pouco conhecido, e Paticle Swam Optimization (PSO) na esolução de um poblema de ajuste de paâmetos e outo de equilíbio químico, conhecidos da liteatua e de fácil implementação, com o intuito de avalia compaativamente pela pimeia vez o desempenho desses algoitmos na esolução de tais poblemas. Tata-se de uma abodagem elevante po capacita um gupo de pesquisa em temodinâmica no uso de algoitmos sofisticados paa esolve poblemas de pogamação global, não linea e contínua. Na seção 2 é apesentado o poblema de equilíbio químico e na seguinte um poblema de ajuste de paâmetos. A seção 4 tata das técnicas de otimização empegadas e a seção 5 mosta os esultados obtidos, finalmente algumas conclusões são epostas na seção O poblema do Equilíbio Químico Como poblema de equilíbio químico consideamos a abodagem dada po [4] sobe a combustão do popano (C 3 H 8 ) no a (O 2 e N 2 ) (1). 873

2 C 3 H R (O2 + 4N 2 ) Podutos (1) Temos então o seguinte sistema não linea de equações cujas incógnitas n i epesentam os númeos de moles do poduto i fomado po mole de popano consumido. Cabono total: Equilíbio: f 1 = n 1 + n 4 3 = 0 Oigênio total: f 2 = 2n 1 + n 2 + n 4 + n 7 + n 8 + n 9 + 2n 10 - R = 0 Hidogênio total: f 3 = 2n 2 +2 n 5 + n 6 + n 7-8 = 0 itogênio total: f 4 = 2n 3 + n 9 4R = 0 f 5 = K 5 n 2 n 4 n 1 n 5 = 0 f 6 = K 6 n 1/2 2 n 1/2 4 n 1/2 1 n 6 1/2 = 0 f 7 = K 7 n 1/2 1 n 1/2 2 n 1/2 4 n 7 1/2 = 0 f 8 = K 8 n 1 n 4 n 8 = 0 f 9 = K 9 n 1 n 1/2 3 n 4 n 9 1/2 = 0 f 10 = K 10 n 2 1 n 2 4 n 10 = 0 (2) onde = atmosfeas. p 10 n i i= 1, R é um paâmeto físico, Ki é uma constante de equilíbio e p é a pessão em Atavés de substituições algébicas em (2) é possível obte-se um sistema de 5 equações (3) nas vaiáveis y 1, y 2, y 3, y 4 e y 5 que estão elacionadas com n i. F 1 = y 1 y 2 + y 1-3 y 5 = 0 F 2 =2 y 1 y 2 + y R 10 y y 2 y R 7 y 2 y 3 + R 9 y 2 y 4 + R 8 y 2 - R y 5 = 0 F 3 =2 y 2 y R 7 y 2 y 3 + 2R 5 y R 6 y 3 - R 8 y 2-8 y 5 = 0 (3) F 4 = R 9 y 2 y y R y 5 = 0 F 5 = y 1 y 2 + y 1 + R 10 y y 2 y R 7 y 2 y 3 + R 9 y 2 y 4 + R 8 y 2 +R 5 y R 6 y 3 + y = 0 onde R i é um paâmeto físico elacionado, eatamente como demonstado em [4]. Paa o poblema de otimização foi utilizada a função objetivo (4) composta a pati do sistema de equações que desceve o poblema de equilíbio químico. Ao minimizá-la, o seu valo ótimo deveá se zeo se o sistema tive solução. São consideadas as estições de domínio aceitáveis paa o númeo de moles e a solução paa o poblema obtida em [4] é mostada na Tabela 3. F(y 1, y 2, y 3, y 4, y 5 ) = F F2 2 + F F F 5 2 (4) 3. O poblema de ajuste de paâmetos Utilizamos uma função conhecida como Eponential Fit [5] como função objetivo, com a intenção de avalia o desempenho dos métodos de otimização implementados. Tal função foi geada paa simula o ajuste de infomações de um poblema da medicina que desceve a concentação de uma doga no sangue ao longo do tempo, segue-se a equação (5). 874

3 45 1. ti 2. ti ( ) = ( yi ( 3. e + 4. e ) f (5) onde t i = 0,02i e os temos i e yi são dados na tabela a segui: i i= 1 y i 1 0, , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , minf X 5,0010 em X [ 4,00; 5,00; 4,00; 4,00] T ou X 4,00 nos limites das coodenadas [ 100,00;100,00] 4. Onde ( ) 3 [ 5,00; 4,00; 4,00; ] T 4. Algoitmos de Otimização São algoitmos que buscam enconta uma configuação de vaiáveis ou infomações que sejam a melho solução de um poblema. A cada configuação analisada é designado um pêmio, mais conhecido como fitness, que quantifica a adequação daquela configuação àquele poblema, sendo a fitness nos poblemas mais simples o valo de uma função eal, chamada função objetivo. Espea-se que a solução do poblema seja a configuação com a melho fitness encontada. 0 1, n, onde os i são suas componentes, e o númeo n é o númeo de vaiáveis ou dimensões do fitness = f X f X epesenta uma avaliação que Uma solução possível é fequentemente epesentada po um veto X = (,,... ) temos poblema em questão. Sendo assim ( ), onde ( ) possa quantifica a adequação de X, e a solução ótima global do poblema é dada po X de modo que X = ag f( X ), onde f( X ) é a melho fitness encontada pelo algoitmo de otimização. O algoitmo seá de maimização se considea a melho fitness como sendo o maio númeo f( X) e seá de minimização quando a melho fitness fo o f X. meno ( ) Os algoitmos clássicos de otimização, paticulamente os deteminísticos, fequentemente necessitam dos valoes das deivadas da função objetivo paa efetuaem a busca pelo ótimo, ou seja, a função deve se difeenciável. Há uma classe de algoitmos que não usam as deivadas da função objetivo, são os métodos de busca dieta, mais vesáteis potanto já que podem enfenta poblemas que não podem se epessos po uma função difeenciável ou mesmo poblemas em que não é possivel epesenta o conteto como uma função matemática. Dente 875

4 esses eistem os métodos estocásticos em que a busca pelo ótimo é guiada po pocessos aleatóios. Dois métodos estocásticos de otimização conhecidos como método de Luus-Jaakola e Paticle Swam Optimization (PSO) (otimização po ename de patículas) implementados em linguagem de pogamação C++ são utilizados neste tabalho. Segundo o o Fee lunch theoem enunciado po Wolpet & Maceady [7], dado um algoitmo a eecutado m vezes em um poblema p, o desempenho desse algoitmo é definido y y como P( dm / p, m, a), isto é, a pobabilidade condicional de enconta um esultado dm. Assim o somatóio de tais pobabilidades paa todos os poblemas de otimização é sempe igual paa todos os algoitmos. Potanto justifica-se a aplicação de difeentes algoitmos a um mesmo poblema, pois um algoitmo altamente especializado em uma classe de poblemas podeá apesenta desempenho infeio em outa classe. 4.1 Algoitmo de Luus-Jaakola (LJ) Poposto po Luus, R. e Jaakola, T. H. I. [3] em 1973 paa otimização contínua quando foi lagamente utilizado na esolução de poblemas da Engenhaia Química. Sua idéia cental é: considea-se uma egião ampla que englobe os possíveis valoes das vaiáveis, valoes factíveis, e geam-se soluções aleatóias enquanto a egião de busca tona-se meno ao longo das iteações. A Figua 1 eibe um pseudocódigo. Escolha um espaço de busca inicial Escolha um coeficiente de contação ε. Gee aleatoiamente uma solução inicial Fo i = 1 to n out n (0), um númeo de loops etenos nout e um númeo de loops intenos n in. X Fo j = 1 to in ( i 1) X = X + R, onde R é uma matiz diagonal de númeos aleatóios ente -0.5 e 0.5. If Fitness ( X ) < Fitness ( X ) X = End if End fo ( i) X = (1 ε ) End fo ( i 1) 4.2 Paticle Swam Optimization (PSO) Figua 1: Luus-Jaakola pseudocódigo Otimização po ename de patículas (PSO) é uma técnica de otimização desenvolvida em 1995 po James Kennedy e Russel C. Ebehat em [1] como método de otimização de funções contínuas e não-lineaes e tem seus fundamentos em duas pincipais metodologias: A-life (atificial life) e Swam theoy (teoia de enames), que simulam o compotamento social dos animais. Otimização po ename de patículas (PSO) é um algoitmo de otimização inspiado no compotamento biológico de enames e aspectos de adaptação social. Os modelos tadicionais de técnicas de otimização têm sua foça de concentação na competição (Competição Dawiniana), o algoitmo de PSO escolheu a colaboação como sua estatégia de desenvolvimento. 876

5 No PSO as patículas constituem soluções candidatas do sistema a se otimizado, a cada patícula i em uma dada iteação t do algoitmo, estão associados um veto posição X i (t) e um veto velocidade V i (t), ambos com n componentes. Sendo o sistema esponsável pelas avaliações das patículas duante o pocesso de busca, deteminando topologicamente o compotamento do ename de patículas. O sistema em questão ao ealiza a taefa de gea uma avaliação (fitness) paa as patículas tem compotamento análogo ao de uma função, e po isso é comumente chamando de função objetivo ou função custo. As posições das patículas e velocidades são conduzidas po suas pópias epeiências tanto quanto a obsevação de suas vizinhanças bem-sucedidas. As patículas se movem no espaço de busca segundo as equações (6) e (7) v ( t ) = w. v ( t) + c. pbest ( t) ( t) ( ) + c ( gbest ( t) ( t) ) i, j 1 i, j 1 1 i, j i, j 2. 2 j i, j + (6) ( t+ ) = ( t) + v ( t 1) i, j 1 i, j i, j + j = 1,..., n i = 1,..., m (7) onde m é o númeo de patículas, 1 e 2 são númeos aleatóios ente 0 e 1. Os coeficientes c 1 e c 2 são as dadas constantes aceleações (feqüentemente chamadas de aceleações cognitiva e social) em dieção ao pbest e gbest espectivamente [1]. Onde pbest é um veto que contém as coodenadas da melho posição já visitada po uma deteminada patícula e gbest é um veto que contém as coodenadas da melho posição já visitada (ente as posições já visitadas) po todas as patículas. As iteações contabilizam o passo evolutivo do ename de patículas. No algoitmo PSO, o ename é inicializado aleatoiamente (posições e velocidades). Então, enquanto o citéio de paada não é alcançado, um laço contendo os seguintes passos se segue: i) Patículas são avaliadas de acodo com o poblema da função objetivo, e os valoes da fitness são assinalados paa cada patícula; ii) Valoes pbest e gbest são atualizados; iii) A posição e velocidade das patículas são atualizadas de acodo com as equações paa velocidade e posição (Eqs. 6 e 7). Inicia PSO Inicia ename de patículas Avalia patículas e atualiza gbest Inicia iteações Move patículas Avalia patículas Atualiza pbest Atualiza gbest Enquanto (iteações) Fim iteações Fim PSO 5. Resultados Obtidos Figua 2: PSO pseudocódigo Foam aplicadas as técnicas de otimização de Luus-Jaakola e Paticle Swam Optimization (PSO) paa a função Eponential Fit, num total de avaliações da função objetivo paa cada epeimento e consideou-se os paâmentos de configuação eibidos na Tabela

6 Realizou-se 30 epeimentos paa o algoitmo de Luus-Jaakola com a melho configuação encontada e 30 paa o PSO paa cada uma das tês configuações com 10, 20 e 40 patículas. Os esultados são obtidos na Tabela 2. Finalmente, aplicamos as técnicas de otimização ao poblema de equilíbio químico eduzido paa 5 dimensões [4] utilizando a técnica de otimização de Luus-Jaakola com os melhoes ε 0,001 e a técnica de paâmetos de configuação encontados ( ) out n = 30000; ( n ) = 5; ( ) otimização po ename de patículas (PSO) com as configuações eibidas na Tabela 1, poém com população de 20 patículas. Em ambos os casos foam feitos 30 epeimentos. Os esultados encontam-se na Tabela 3. Nas Tabelas 2 e 3 os valoes de epesentam a melho f é a média dos 30 melhoes valoes de função objetivo. Na última linha temos o desvio σ. solução obtida com os 30 epeimentos e f ( ) o melho valo, ( ) in Luus-Jaakola (LJ) Loop eteno ( n out) Loop inteno ( n in) 2 Coeficiente de contação ( ) ε PSO Númeo de patículas 10, 20, 40 Coef. de apendizado individual ( c 1) 2,00 c 3,00 ω 0,8 Coef. de apendizado coletivo ( ) 2 Inécia máima das patículas ( ) ma ω 0,2 V 2,0 Inécia mínima das patículas ( ) min Veloc. máima das patículas ( ) ma Tabela 1: Paâmetos utilizados nos algoitmos Luus-Jaakola e PSO. Componente Solução[5] LJ PSO , 20 e 40 patículas -4,00-4, , , , ,00-4, , , , ,00 4, , , , ,00-4, , , , f ( ) 5, , , , , f ( ) - 7, , , , σ - 1, , , , Tabela 2: Resultados obtidos com LJ e PSO paa a Eponential Fit (30 epeimentos). 878

7 Componente Solução [4] LJ PSO 0, , , , , , , , , , , , , , f ( ) 0 1, , f ( ) - 1, , σ - 1, , Tabela 3: Resultados obtidos com LJ e PSO paa o Equilíbio Quimico (30 epeimentos). 6. Conclusões Os esultados da Tabela 2 eibem a capacidade das técnicas de otimização utilizadas de "busca" os valoes ótimos paa a função teste em um poblema de otimização e indicam um melho desempenho do PSO em elação ao LJ. As tabelas 2 e 3 mostam que o algoitmo de Luus-Jaakola atingiu no pocesso de otimização pontos póimos das soluções espeadas enquanto o PSO as atingiu com uma melho apoimação dos esultados obtidos anteiomente [4] e [5], como mosta os desvio padão dos esultados obtidos. Como pode se visto em [6], o LJ pode tona-se deficiente em poblemas com gande númeo de dimensões e mesmo com a edução matemática do poblema de equilíbio químico de 10 paa 5 dimensões tal algoitmo apesentou desempenho não satisfatóio em compaação com o PSO, poém os esultados obtidos encontam-se dento de uma magem aceitável paa o poblema. Agadecimentos: Os autoes Jadel S. Costa e Calos A. Souza Lima J agadecem à Coodenação de Apefeiçoamento de Pessoal de Nivel Supeio (CAPES) pelo supote financeio. Refeências 1. KENNEDY, J.; EBERHART, R.C., Swam Intelligence, Academic Pess., LAUREANO, M. ; Pogamando em C, Ed. Baspot livos e Multimidia Ltda, LUUS, R. e JAAKOLA, T.H.I.; Optimization by Diect Seach and Systematic Reduction of the Size of Seach Region, AIChE Jounal, 19, (1973), MEINTJES, K. e MORGAN, A. P.;"Chemical Equilibium Systems as Numeical Test Poblems", ACM Tansactions on Mathematical Softwae, Vol. 16, No. 2, NIELSEN, H. B.; "UCTP Test Poblems fo unconstained optimization", Technical Repot, Depatment of Mathematical Modelling, Univesity of Denmak (2000). 6. RIOS COELHO, A. C.; OLIVEIRA, L. N. H. G.; SACCO, W. F. ; DOMINGOS, R. P., Compaison of the Luus-Jaakola Algoithm and Paticle Swam Optimization Applied to a Multimodal Test Function, X Enconto de Modelagem Computacional, Nova Fibugo RJ, WOLPERT, D. H.; MACREADY, W. G., No Fee Lunch Theoems fo Optimization, IEEE Tans. Evol. Conq., Vol 1, pp ,