Uma Família de Algoritmos Simples para Programação Linear

Transcrição

1 Uma Famíla de Algortmo Smple para Programação Lnear Jar da Slva, Centro de Cênca Exata e Tecnologa, UFMS, CCET, , Campo Grande, MS Aurelo R. L. Olvera, Marta I. Velazco, Carla T. L. S. Ghdn E-mal: aurelo@me.uncamp.br, velazco@me.uncamp.br, carla@me.uncamp.br Depto de Matemátca, Etatítca e Computação Centífca, UNICAMP, IMECC, , Campna, SP Reumo: Nee trabalho, apreentamo uma famíla de algortmo para programação lnear. Eta famíla urgu da generalzação do algortmo de autamento pelo par ótmo, que por ua vez é baeado no algortmo de Von Neumann. O algortmo de Von Neumann é muto atratvo por caua de ua mplcdade, ma ele não é prátco para reolver problema de programação lnear até a otmaldade, vto que, ua convergênca é lenta. O algortmo de autamento pelo par ótmo fo deenvolvdo com o obetvo de melhorar a convergênca prátca do algortmo de Von Neumann, mantendo ua caracterítca atraente, ao generalzarmo, mantvemo ea caracterítca. Atravé de expermento numérco em um conunto de problema de programação lnear motramo melhora gnfcatva obre o algortmo de autamento pelo par ótmo. Palavra-chave: Programação Lnear, Algortmo de Von Neumann, Algortmo Smple 1 Introdução O algortmo de Von Neumann fo publcado por Dantzg no níco de 1990 [3, 4] e ma tarde fo etudado por Epelman e Freund [5] e Beck e Teboulle [1]. A propredade atratva dee método ão eu cuto computaconal baxo por teração que é domnado por multplcação matrx-vetor, a pobldade de explorar a epardade do dado do problema orgnal e geralmente pour rao de convergênca ncal rápdo. Epelman e Freund [5] referem-e a ete algortmo como elementar, no entdo de que ele faz omente cálculo mple a cada teração e, coneqüentemente, é muto pouco oftcado, epecalmente quando comparado com o algortmo de ponto nterore moderno. Gonçalve em [8] propõe trê novo algortmo deenvolvdo para contornar alguma dfculdade de convergênca do método orgnal de Von Neumann, dentre ele, o algortmo de autamento pelo par ótmo fo o que obteve o melhor deempenho na prátca. O algortmo de autamento pelo par ótmo herda a melhore propredade do algortmo de Von Neumann. Embora Gonçalve prove que em termo de convergênca o algortmo de autamento pelo par ótmo é uperor ao algortmo de Von Neumann, anda am, ele não é uma opção prátca para reolver problema lneare até a otmaldade, vto que, ua convergênca também é lenta. No trabalho [9], generalzamo a déa apreentada por João Gonçalve, Robert Storer e Jacek Gondzo em [8], para deenvolver o algortmo de autamento pelo par ótmo. Ao generalzar a déa em [8], deenvolvemo o algortmo de autamento ótmo para p coordenada. Na realdade para cada p temo um algortmo dferente, onde p é lmtado pela ordem do problema, am deenvolvemo uma famíla de algortmo. Nete trabalho, atravé de expermento numérco em um conunto de problema de programação lnear motramo melhora gnfcatva obre o algortmo de autamento pelo par ótmo. 1351

2 2 Decrção do Problema Conderemo o problema de encontrar uma olução factível do conunto de retrçõe lneare: P x = 0, e t x = 1, x 0, (1) onde P R m n, x R n e e R n é o vetor com toda a coordenada gua a um e a coluna de P tem norma um, to é, P = 1, para = 1,..., n. Geometrcamente a coluna P podem erem vta, como ponto obre a hperefera m- dmenonal com rao untáro e centro na orgem (ver Fgura 1). O problema acma então pode er decrto como de atrbur ponderaçõe x não negatvo à coluna P de modo que depo de reecalado eu centro de gravdade ea a orgem. P 1 P P 2 0 u k1 b k P n b k1 P 3 Fgura 1: Ilutração do algortmo de Von Neumann. Note que qualquer problema de programação lnear pode er reduzdo ao problema (1), ver [9]. 3 Algortmo de Von Neumann Em 1948, Von Neumann propô para Dantzg, em comuncação prvada um algortmo para programação lnear, que fo dvulgado por Dantzg no níco do ano 1990 em [3, 4]. Decrevemo a egur ete algortmo: Algortmo de Von Neumann Dado: x 0 0, com e t x 0 = 1. Calcule b 0 = P x 0. Para k = 1, 2, 3,... faça [1] Calcule = argmn =1,...,n P t bk1, v k1 = P t b k1. [2] Se v k1 > 0, então PARE; o problema (1) é nfactível. [3] Calcule u k1 = b k1, λ = 1v k1 (u k1 ) 2 2v k1 1. [4] Atualze b k = λb k1 (1 λ)p, x k = λx k1 (1 λ)e, onde e é o vetor da bae canônca com 1 na -éma coordenada. Fm 4 Algortmo de Autamento pelo Par Ótmo O algortmo de autamento pelo par ótmo é a generalzação do algortmo de redução por peo ver [8]. De um certo modo, podemo dzer que o algortmo de autamento pelo par ótmo, prorza apena dua varáve em cada teração, porque ele encontra o valor ótmo para dua coordenada e auta o retante da coodenada em função dete valore. Ete algortmo começa 1352

3 dentfcando o vetore P e P que tem o maor e menor ângulo com o vetor b k1, em eguda ele encontra o valore x k, x k e λ onde x k = λxk1 para todo e, que mnmza a dtânca de b k a orgem atfazendo a convexdade e a retrçõe de não negatvdade. Ete problema de otmzação tem a olução faclmente calculada examnando a condçõe Karuh- Kuhn-Tucker (KKT). Decrevemo o algortmo de autamento pelo par ótmo a egur: Algortmo de Autamento pelo par Ótmo Dado: x 0 0, com e t x 0 = 1. Calcule b 0 = P x 0. Para k = 1, 2, 3,... faça [1] Calcule = argmn =1,...,n {P tbk1 }, = argmax =1,...,n {P t b k1 x > 0}, v k1 = P t b k1. [2] Se v k1 > 0, então PARE; o problema (1) é nfactível. [3] Reolva o problema mnmzar b 2.a λ 0 (1 x k1 x k1 ) λ 1 λ 2 = 1, λ 0, para = 0, 1, 2, onde, b = λ 0 (b k1 x k1 P x k1 P ) λ 1 P λ 2 P. [4] Atualze b k = λ 0 (b k1 x k1 P x k1 P ) λ 1 P λ 2 P, u k = b k, λ 0 x k1 x k =, e, λ 1, =, λ 2, =. k = k 1. (2) Fm. 5 Algortmo de Autamento Ótmo para p Coordenada O algortmo de autamento pelo par ótmo contruído por Gonçalve em ua tee prorza dua coordenada em cada teração. Vamo no referr a ete, como o algortmo para 2 varáve. Utlzando a mema déa contda nete algortmo podemo generalzá-lo e contrur o algortmo para p varáve. A déa central utlzada no algortmo para 2 varáve para dar prordade a dua coordenada é reolver o ubproblema (2). Ete ubproblema pode er generalzado, e ao nvé de utlzarmo dua coluna para formular o problema, podemo utlzar qualquer quantdade de coluna e am dar mportânca a quanta varáve deearmo. A manera como ecolhemo a varáve para dar prordade é lvre e podemo ecolhê-la, de acordo com o problema que remo reolver. Uma ecolha natural e vamo contrur um algortmo para p varáve, é tomarmo p/2 coluna que fazem o maor ângulo com o vetor b k e a outra p/2 coluna ão a que fazem o menor ângulo com o vetor b k, e p for ímpar colocamo uma coluna a ma para o conunto de vetore que formam o maor ângulo com o vetor b k por exemplo. O algortmo de autamento ótmo para p coordenada egue a mema lnha do algortmo de autamento pelo par ótmo: Algortmo de Autamento Ótmo para p Coordenada Dado: x 0 0, com e t x 0 = 1. Calcule b 0 = P x 0. Para k = 1, 2, 3,... faça [1] Calcule 1,..., 1 que fazem o maore ângulo com o vetor b k

4 ,..., P 2 que fazem o menore ângulo com o vetor b k1 e tal que x k1 > 0, = η1,..., η 2, onde 1 2 = p. v k1 = mnmo =1,...,1 P t b k1. η [2] Se v k1 > 0, então PARE; o problema (1) é nfactível. [3] Reolva o problema [4] Atualze k = k 1. Fm mnmzar b 2.a λ 0 1 x k1 2 x k1 λ η η η =1 =1 =1 =1 0, para, = 1,..., 1, onde, b = λ 0 b k1 b k = λ 0 b k1 0, para, = 1,..., 2, x k1 P η η =1 x k1 P η η =1 2 =1 x k1 η λ η =1 2 x k1 P η η λ η P η =1 =1 u k = b k, λ 0 x k1, / {η 1,..., η 1, η1,..., η 2 }, x k =, = η, = 1,..., 1,, = η, = 1,..., 2. = 1, 2 =1 2 =1., (3) 5.1 Reolução do Subproblema Uando Método de Ponto Interore Em cada teração do algortmo de autamento ótmo para p coordenada, é neceáro reolver o ubproblema (3). No cao p = 2, que é o algortmo de autamento pelo par ótmo, Gonçalve reolve ete ubproblema verfcando a condçõe KKT, ma precamente, ele verfca toda a poíve oluçõe factíve da equaçõe KKT, que nete cao ão 7 ver [8]. No cao geral que é o algortmo para p coordenada, e reolvermo o ubproblema egundo o memo racocíno, o número de cao poíve de oluçõe factíve crece exponencalmente com o valor de p e ete número de cao é exatamente 2 p1 1 ver [9]. Ete fato torna nvável a programação de um códgo do algortmo de autamente ótmo para p coodenada para valore razoavelmente alto de p. Com a fnaldade de contornar ete problema, abordamo o ubproblema (3) de outra forma e podemo reolvê-lo aplcando método de ponto nterore. A grande vantagem de uar método de ponto nterore para reolver o ubproblema (3), é que o cuto computaconal para reolver um problema de grande porte com uma matrz de ordem ou de ordem não é gnfcatvo, além do, a programação de um códgo para o algortmo de autamento ótmo para p coordenada fca bem ma fácl. A egur decreveremo como reformulamo o ubproblema (3), para uar um método de ponto nterore para reolvê-lo. Podemo reecrever b k = P k λ k, onde P k = 2 ( e λ k = λ 0, 1 x k1 P η η =1 x k1 P η η =1 Am, o ubproblema pode er reecrto como [ ] w k... P P 2, w k = b k1 ),..., 1,...,,..., λ 2. mnmzar 1 2 P kλ k 2.a a t λ k = 1, λ k 0, (4) 1354

5 onde a = (a 1, 1,..., 1) e a 1 = 1 (4) ão dada por x k1 η =1 2 =1 P t k P kλ k ar k l k = 0 l t k λ k = 0 a t λ k 1 = 0, x k1. Portanto a equaçõe KKT do problema η com 0 l k, λ k, onde r k e l k ão o multplcadore de Lagrange de gualdade e degualdade repectvamente. Eta ão a equaçõe aonde aplcamo um método de ponto nterore. (5) 6 Propredade Teórca do Novo Método Em [9], fo demontrado que o deempenho do novo método é uperor em relação ao algortmo de Von Neumann. Também motrou-e que e p 2 p 1 então o algortmo de autamento ótmo para p 2 coordenada pou um deempenho uperor em relação ao algortmo de autamento ótmo para p 1 coordenada. A egur apreentamo o teorema demontrado em [9]. Teorema 1 O decrécmo em b k obtdo por uma teração do algortmo de autamento ótmo para p coordenada, com 1 p n, onde n é dmenão da coluna de P, no por cao é gual ao obtdo por uma teração do algortmo Von Neumann. Teorema 2 O decrécmo em b k obtdo por uma teração do algortmo de autamento ótmo para p 2 coordenada, no por cao é gual ao obtdo por uma teração do algortmo de autamento ótmo para p 1 coordenada com p 1 p 2 n, onde n é a dmenão da coluna de P. 7 Reultado Numérco Em noo expermento computacona, fo utlzada uma coleção de 136 problema de programação lnear. O conunto de problema é dvddo em 94 problema da Netlb [2], 7 problema do Kennngton [10], e 35 outro problema, que não etão dponíve publcamente e foram obtdo com Gonçalve [8]. O expermento foram realzado em uma máquna com proceador Intel Core 2 Quad Q GHz e com 4GB de RAM, em Lnux uando o complador gcc. Incalmente executamo o algortmo de Von Neumann obre todo o problema tete e paramo o algortmo quando a dferença relatva entre b k1 e b k fo nferor a 0, 5%. Para cada problema, gravamo o tempo t1 (egundo de CPU) e o número de teraçõe até o tempo t1. Também gravamo o tempo t2, t3, t4 e t5 (egundo de CPU), ee tempo t2, t3, t4, t5 correpondem repectvamente ao tempo de execução do algortmo de Von Neumann 3, 5, 10, e 20 veze o número de teraçõe em t1. Em eguda, executamo o algortmo de autamento ótmo para p coordenada com p = 2, p = 4, p = 10 e p = 20 e, para cada problema, gravamo o reíduo b k, para o tempo t, = 1,..., 5. Na Tabela 1, apreentamo o total de ganho do algortmo no problema em cnco tempo dferente, ou ea, a percentagem de problema em que o algortmo obteve o menor valor do reíduo b k, no tempo t1 até t5. A medda do tempo utlzada é egundo de CPU. Tabela 1: Percentual total de ganho do algortmo no problema em cnco tempo dferente Algortmo t1 t2 t3 t4 t5 Algortmo com p=2 17,6% 8,8 % 17,6 % 5,8% 8,8 % Algortmo com p=4 30,8% 36,0% 30,1 % 21,3 % 23,5 % Algortmo com p=10 21,3% 30,1% 27,2% 26,4 % 22,7 % Algortmo com p=20 30,1% 25,0% 25,0% 46,3% 44,8% 1355

6 A Tabela 1 motra que a famíla de algortmo é uperor ao algortmo de autamento pelo par ótmo, que é o cao quando p = 2. No tempo t4 e t5 podemo notar que o aumento de p, dentro de valore moderado, melhora de forma clara o comportamento do algortmo. Na Tabela 2 apreentamo para 30 dee problema o reíduo ncal b 0 e o reíduo fnal b k para a famíla de algortmo com p = 2, p = 4, p = 10 e p = 20 no tempo t4. Ee problema ão compoto da egunte manera: o 13 prmero ão da coleção Netlb [2], o 7 problema egunte ão do Kennngton [10] e o 10 últmo foram obtdo com Gonçalve [8]. Tabela 2: O reíduo ncal b 0 e o reíduo fnal b k para a famíla de algortmo com p = 2, p = 4, p = 10 e p = 20 no tempo t4 para 30 problema Problema t4 b 0 b k p = 2 b k p = 4 b k p = 10 b k p = 20 25fv bau3b adlttle afro agg agg agg bandm beaconfd blend bnl bnl boeng cre-a cre-b cre-c cre-d oa oa oa fort fort fort fort fort fort fort fort fort fort Concluõe Nete trabalho apreentamo uma nova famíla de algortmo para programação lnear. A grande vantagem deta famíla de algortmo é a ua mplcdade e eu rao de convergênca ncal rápdo. Apreentamo reultado computacona que motram que a famíla de algortmo é uperor, quando comparado com o algortmo de autamento pelo par ótmo que é o cao 1356

7 quando p = 2. O tempo t4 e t5 dexam explícto o que dz o teorema 2 para valore de p moderado, que aumentando o valor de p aumenta a robutez do algortmo de autamento para p coordenada. Apear da melhora em relação ao algortmo de autamento pelo par ótmo, a famíla de algortmo anda é pouco prátca para a reolução de problema de programação lnear até a otmaldade. No entanto, ela pode er útl em alguma tuaçõe como por exemplo para melhorar o ponto ncal de método de ponto nterore como em [6], ou para trabalhar em conunto com método de ponto nterore utlzando eu rao de convergênca ncal rápdo como em [7], contudo, pequa futura ão neceára para medr o mpacto que a famíla de algortmo pode ter nea dreção. Referênca [1] A. Beck and M. Teboulle. A condtonal gradent method wth lnear rate of convergence for olvng convex lnear ytem. Mathematcal Method of Operaton Reearch, [2] NETLIB collecton LP tet et. Netlb lp repotory. Onlne at [3] G. B. Dantzg. Convertng a convergng algorthm nto a polynomally bounded algorthm. Techncal report, Stanford Unverty, SOL 91-5, [4] G. B. Dantzg. An ϵ-prece feable oluton to a lnear program wth a convexty contrant n 1 teraton ndependent of problem ze. Techncal report, Stanford Unverty, SOL ϵ , [5] M. Epelman and R. M. Freund. Condton number complexty of an elementary algorthm for computng a relable oluton of a conc lnear ytem. Mathematcal Programng, 88: , [6] C. T. L. S. Ghdn, A. R. L. Olvera, and J. Slva. Optmal adutment algorthm for p coordnate and the tartng pont n nteror pont method. Amercan Journal of Operaton Reearch, [7] C. T. L. S. Ghdn, A. R. L. Olvera, J. Slva, and M.I. Velazco. Combnng a hybrd precondtoner and a optmal adutment algorthm to accelerate the convergence of nteror pont method. Aceto para publcação em Lnear Algebra and t Applcaton, [8] J. P. M. Gonçalve, R. H. Storer, and J. Gondzo. A famly of lnear programmng algorthm baed on an algorthm by von neumann. Optmzaton Method and Software, [9] J. Slva. Uma Famíla de Algortmo para Programação Lnear Baeada no Algortmo de Von Neumann. PhD the, IMECC UNICAMP, Campna SP, Março, [10] J.L. Kennngton S. Nem W.J. Carolan, J.E. Hll and S.J. Wchmann. An emprcal evaluaton of the korbx algorthm for mltary arlft applcaton. Oper. Re, 38: ,