Programação Maemáca Prncípos Báscos. Consderações Geras Os objevos dese capíulo são apresenar os conceos de Programação Maemáca (PM) necessáros à compreensão do processo de omzação de dmensões e descrever os algormos de omzação ulzados. Em problemas ípcos de engenhara, podem ser obdas váras, ou possvelmene nfnas, soluções. Em um problema de omzação deseja-se ober um projeo ómo, maxmzando ou mnmzando uma função a qual denomnamos função objevo. Iso deve ser realzado aravés da deermnação dos parâmeros que defnem o ssema. Eses parâmeros são chamados de varáves de projeo. Na maora dos problemas enconraremos resrções mposas para que o projeo seja admssível ou vável, devdo às les físcas da naureza, les polícas, lmações de orçameno, ec. A Programação Maemáca é a dscplna que esuda a mnmzação de funções em problemas com ou sem resrções. Maemacamene, eses problemas são enuncados como: Mnmzar f ( x ) n x R sujeo a c ( x )= =... l c ( x) = l+... m l x x u x =... n (.) onde x é um pono do R n sobre o qual são mposos os lmes mínmos e máxmos (resrções laeras), f ( x ) é a função a ser mnmzada e as funções c ( x ) represenam as resrções de gualdade e desgualdade. Assume-se que ano a função objevo quano as resrções são funções conínuas no n R. Em geral, elas são funções não-lneares e mplícas das varáves ( x ) que defnem o problema.
Programação Maemáca - Prncípos Báscos Um pono que sasfaça odas as resrções é denomnado um pono vável e o conjuno de odos os ponos que sasfaçam odas as resrções é conhecdo como regão vável. Uma resrção de desgualdade defne uma fronera que dvde o n R em uma regão vável e oura nvável. Quando um pono esá sobre esa fronera, a resrção é da ava; quando um pono esá no neror da regão vável, a resrção esá nava e, quando um pono esá fora desa regão, à resrção esá volada.. Condções de Ómo A solução x do problema enuncado em (.) em que necessaramene aender as condções de Kuhn-Tucker enuncadas por: Lx x (, λ ) = c ( x ) = =... l ( ) c x = l+... m λ = l+... m λ c ( x ) = (.) onde Lx (, λ ) é a função Lagrangana dada pela expressão a segur: (, ) = ( l ) + λ ( ) = Lx λ f x c x (.3) onde λ são os mulplcadores de Lagrange assocados às resrções no pono solução do problema. As condções de Kuhn-Tucker são ambém conhecdas como condções de prmera ordem. Para deermnadas classes de problemas de programação maemáca as condções de Kuhn-Tucker são sufcenes para a deermnação de uma solução óma global. São ncluídos nessas classes os problemas de programação convexa, as como os de programação lnear e quadráca. O problema de programação convexa é caracerzado por função objevo e resrções convexas. x,
Programação Maemáca - Prncípos Báscos Porém, se o problema não é de programação convexa, o que é mas comum, as condções de prmera ordem não são mas sufcenes para a deermnação da solução óma global, devendo ser verfcada a condção de segunda ordem, expressa na equação (.4) a segur dwd, d da = (.4) al que onde a = c ( x ) para odas as resrções avas e W = Lx ( ) é a Hessana da função Lagrangana. O que sgnfca que ómo para qualquer dreção esaconára d. W em.3 Forma Geral dos Algormos de Omzação x é posva defnda no pono Para resolver um problema de omzação, além dos algormos dos evoluconáros, exsem dversos algormos de programação maemáca que são defndos de acordo com as caraceríscas da função-objevo e das resrções. Assm, os problemas de omzação podem se dvdr em dferenes formas, como mosra a Tabela.. TABELA. Dvsão dos problemas de Programação Maemáca Tpos de Omzação f (x) c (x) Programação Lnear lnear lnear Programação Quadráca quadráca lnear Programação Não-Lnear lnear / não-lnear não-lnear / lnear Algormos de omzação para problema de programação lnear e programação quadráca êm solução em um número fno de passos, já os algormos de programação não-lnear podem não er solução em um número fno de passos, mas espera-se que a seqüênca gerada convrja (no lme) para um mínmo local. Porano, um problema adconal no processo de omzação ocorre quando a função objevo e as resrções são funções não-lneares do veor de varáves de projeo, n x R. Os algormos de programação não-lnear, resra e rresra, são procedmenos eravos em que novos ponos x são gerados a parr do pono correne x aravés da expressão:
Programação Maemáca - Prncípos Báscos x = x + d (.5) Assm, os algormos podem ser dvddos em duas eapas prncpas: a prmera eapa é a deermnação da dreção de busca d e a segunda é a avalação do parâmero escalar, que represena o amanho do passo a ser dado ao longo da dreção de busca. A parr da expressão (.5) dversos algormos podem ser consruídos ulzando dferenes écncas para a deermnação da dreção de busca e do amanho do passo. Os algormos de PM podem ser classfcados de acordo com a ordem da dervação da função objevo e das resrções ulzadas para a deermnação da dreção de busca. Desa forma, um algormo é do de prmera ordem se ulzar apenas os gradenes da função objevo e das resrções para calcular a dreção de busca. Por ouro lado, se o algormo ulza nformações sobre as Hessanas desas funções, enão ele é do de segunda ordem..4 Méodo de Newon para Problemas de Omzação sem Resrção O méodo de Newon ulza a nformação de segunda ordem da função a omzar. Assm, a sua convergênca é quadráca. Com al propóso a função f ( x ) é expandda aé a segunda ordem, ou seja, a expansão de Taylor em orno do pono x será: se e f ( x) = f( x ) + f( x )( x- x ) + ( x- x ) f( x )( x- x ) (.6) d= x = ( x- x ) x= d + x (.7) g = f ( x ) e = f ( x ) H (.8) Subsundo-se (.7) e (.8) em (.6), em-se f( + x ) = f( x ) + + d d g dhd (.9) onde d é o ncremeno de x, g é veor gradene de f e H, uma marz smérca posva defnda, é a hessana da função f no pono x. A equação (.9) é uma
Programação Maemáca - Prncípos Báscos 3 equação quadráca cuja varável é d. Porano, o algormo de omzação procura deermnar um d al que f ( d + x) < f( x) em cada passo, ou seja, uma dreção de decréscmo em f, assm: mn f ( + x ) = mn( + H ) d d g d d (.) Escrevendo a condção de omaldade de (.) ( d f( d + x) = ), obémse: = - d H g (.) Assm, (.) fornece um mínmo global únco para a função aproxmadora de f. A únca desvanagem dese méodo é que os cálculos para a monagem da marz H solcam um grande esforço compuaconal, sobreudo em problemas com grande número de varáves. Os méodos Quase-Newon surgram para resolver esse problema sem perder as boas propredades de convergênca do méodo de Newon. Nesses méodos, uma aproxmação da Hessana (ou de sua nversa) é consruída a parr dos valores dos gradenes ao longo das erações. Esses méodos, dos quas o BFGS (Broyden - Flecher - Goldfarb - Shanno) é o mas popular, possuem convergênca superlnear e são amplamene ulzados em problemas de omzação..5 Busca Lnear A busca lnear é um procedmeno adoado ano nos algormos sem resrção como nos com resrção. Após a deermnação da dreção de busca d é necessáro calcular o amanho do passo a ser dado nessa dreção, a fm de se ober o novo veor das varáves de projeo em (.5). O amanho do passo é calculado fazendo-se uma mnmzação da função undmensonal p defnda aravés da expressão: p() = f(x + d ) (.)
Programação Maemáca - Prncípos Báscos 4 A parr desa defnção, pode-se verfcar que: e p() = f(x ) (.3) f(x) df(x) p () = (.4) x d = onde p ndca a dervada em relação à. A busca lnear pode ser exaa ou aproxmada, dependendo do méodo ulzado para a mnmzação. A busca aproxmada é uma forma mas moderna, na qual o objevo é deermnar de forma que f apresene um cero nível de decréscmo, segundo um créro preesabelecdo, como: p () = f( x)+ γ d g, γ (,) (.5) De acordo com esa equação, o parâmero γ conrola o amanho do passo. Assm, um γ pequeno perme a ulzação de passos maores e a ulzação de um γ grande força a ulzação de passos pequenos. Uma forma basane popular de busca lnear é fazer uma aproxmação quadráca de p e calcular como o mínmo desa aproxmação, verfcando se a equação (.5) é sasfea. Se so não ocorrer, enão a aproxmação é aualzada ulzando o novo pono e o processo é repedo. Uma forma anda mas smples é o méodo de Armjo, no qual é gual ao prmero número da seqüênca {,α, α, α 3,...}, α (; ), para o qual p() sasfaz a condção (.5)..6 Programação Quadráca solução A Programação Quadráca (PQ) em como objevo deermnar o veor x do problema colocado na segune forma:: mnmzar q x + x Q x sujeo a a x = b =... l a x b = l+... m (.6)
Programação Maemáca - Prncípos Báscos 5 onde a é uma marz que conem os coefcenes dos gradenes das resrções, b é o veor dos ermos ndependenes das resrções. Sendo Q uma marz posva defnda, o problema quadráco é convexo e pode-se garanr a exsênca de um únco mínmo local. A solução dese problema pode ser obda em rês eapas bem defndas (Ebol, 989 e Parene, ):. As l resrções de gualdade são elmnadas do problema dmnundo-se o número das varáves ndependenes para n - l, obendo-se um problema de programação quadráca (reduzda), chamado problema padrão de PQ, só com as resrções de desgualdade.. O problema quadráco reduzdo é ransformado em um Problema Lnear Complemenar (PLC), que pode ser resolvdo aravés de méodos de pvoeameno como o de Lemke. 3. Recupera-se a solução para o espaço orgnal com o cálculo das varáves elmnadas na prmera eapa, obendo-se os valores de x e λ..7 Algormo de Han-Powell - Programação Quadráca Seqüencal O algormo de omzação de Han-Powell proposo por Han em 976 e 977 e por Powell em 978 (Ebol, 989), fo mplemenado e aplcado a problemas de Engenhara Esruural no DEC/PUC-Ro por Ebol (989), Parene () e Farfán (). Ese algormo ulza a écnca de Programação Quadráca Seqüencal (PQS) aravés da resolução de um subproblema quadráco (PQ). O méodo de PQS pode ser consderado como o resulado da aplcação do méodo de Newon à mnmzação de uma aproxmação quadráca da função Lagrangana do problema. Ese méodo fornece a cada eração os veores d (correção de x) e λ (correção dos mulplcadores de Lagrange λ ), os quas aualzados são aproxmadores da solução x e. λ Ese fao pode ser demonsrado consderando o problema: mnmzar f ( x ) sujeo a c ( x )= (.7)
Programação Maemáca - Prncípos Báscos 6 cuja função Lagrangana é dada por: Lx (, λ ) = f( x) + λ c( x) (.8) k k Desenvolvendo Lx (, λ ) em séres de Taylor em orno de ( x, λ ) aé a prmera ordem, obém-se k + k k+ k k+ k k k k d Lx ( + d, λ + λ ) = Lx (, λ ) + Lx (, λ ) k + λ (.9) Consderando k+ k+ k d = x x e = k + k + k λ λ λ e aplcando a condção de esaconaredade a (.9) no pono k k+ k k+ ( x + d, λ + λ ), resula: k + k k d k k Lx (, λ ) = Lx (, ) k + λ λ (.) ou, expresso marcalmene, como k k k+ k k k W A d g +A λ = k k+ k A λ c (.) Subsundo k + λ por k k+ λ + λ, em-se: k k k+ k W A d g = k k+ k A λ c (.) onde, k A é a marz dos gradenes das resrções, W k é a Hessana da Lagrangana, e g k é o gradene de f(x) sendo odos avalados no pono x k. A solução de (.) equvale à solução do subproblema de PQ (Ebol,989): mnmzar k g d+ k d W d k k sujeo a c + A d = (.3)
Programação Maemáca - Prncípos Báscos 7 Ou seja, cada eração k da solução do problema orgnal é aproxmada pela solução do PQ obdo pela lnearzação das resrções e pela expansão quadráca de f em orno de x. Em problemas em que odas as resrções são de gualdade, a dreção de busca e os mulplcadores de Lagrange podem ser obdos pela solução do ssema de equações lneares gerado pelo méodo de Newon aplcado a Lagrangana do problema, como mosrado em (.). Para consderar o caso de resrções de desgualdade, pode-se resolver o problema geral de PM da segune forma (Ebol, 989): mnmzar f ( x ) sujeo a c ( x )= =... l c ( x) = l+... m (.4) defnndo uma dreção de busca d e uma nova esmava dos mulplcadores de Lagrange λ aravés da solução do PQ: k k Mnmzar g d+ d W d sujeo a k k c + a d = =... l k k c + a d = l+... m (.5) cujo méodo de solução fo vso na seção aneror..7. Eapas do Algormo Não-Lnear Han-Powell (PQS) As eapas que formam o algormo Han-Powell são (Parene, ):. Dado um pono ncal x e uma aproxmação da Hessana da função Lagrangana B, fazer k =. B é dada pela segune função: B = boi (.6) onde b o é um parâmero defndo pelo usuáro do algormo. O número de renícos da marz B é conrolado pelo parâmero n r defndo pelo
Programação Maemáca - Prncípos Báscos 8 usuáro. Segundo Parene (), o reníco de B serve para descarar a nfluênca de ponos muo dsanes do pono correne.. Para k = k+, monar e resolver o problema de programação quadráca defndo pela equação (.5) deermnando os veores d k e λ k : Mnmzar sujeo a n g d d B d d R a d =... l k k + k k c + = k k c + a d = l+... m (.7) onde k c é o veor com as resrções, a k é uma marz com o gradene das resrções e k B é uma aproxmação da Hessana no pono 3. Verfcar os créros de convergênca do algormo: k x. k k g d ol k max( c ) ol (.8) onde o prmero créro represena a varação da função objevo na dreção d k e o segundo créro verfca explcamene o valor da resrção mas volada. Verfcar ambém os créros de parada as como: número de avalações da função objevo e número de erações. 4. Se os créros de convergênca e/ou os de parada não são aenddos, fazse enão uma busca lnear undmensonal para deermnar o amanho do passo k, na dreção d k de forma que o novo esmador da solução k k k k x = x + d seja um pono que conrbua para o decréscmo da função objevo. A busca é fea sobre a função de penaldade (p), consruída no nuo de mpor um alo cuso à volação das resrções. Esa função é defnda pela expressão: l = = l+ [ ] p ( ) = px ( + d ) = f( x) + rc( x) + rmax c( x), (.9) m
Programação Maemáca - Prncípos Báscos 9 onde os r são os faores de penaldades. A busca é aproxmada, so é a solução não é o mínmo de p( ), mas aende a um cero decréscmo pré-espulado em p( ) consderado sasfaóro. O coefcene de decréscmo da função é dado pelo parâmero γ defndo pelo usuáro. 5. Aualzação da marz B k do subproblema quadráco aravés do méodo BFGS. 6. Reorno à eapa..8 Méodo dos Ponos Inerores O algormo de Ponos Inerores (PI) fo mplemenado e aplcado a problemas de Engenhara Esruural no DEC/PUC-Ro por Parene (). O algormo ulzado nese rabalho basea-se na aplcação do méodo de Newon para a solução do ssema de equações não-lneares obdas a parr da aplcação das condções de Kuhn-Tucker do problema de omzação (Herskovz, 995). Nese rabalho, apenas o algormo para resrções de desgualdade será dscudo, uma vez que os problemas de projeo ómo a serem resolvdos não possuem resrções de gualdade. No enano, as mesmas déas aqu apresenadas ambém são váldas para os problemas que possuem smulaneamene resrções de gualdade e de desgualdade e podem ser vsas em mas dealhes em (Herskovz, 995; Herskovz & Sanos, 997). O méodo de Ponos Inerores em como caracerísca gerar uma seqüênca de ponos no neror da regão vável que converge para a solução do problema. Oura propredade mporane dese algormo é que cada um dos ponos nermedáros possu valores decrescenes da função objevo, ou seja, se por algum movo a convergênca não for alcançada o pono fnal é sempre vável. Consdere o problema de omzação: mnmzar f ( x ) sujeo a c ( x) =... m (.3) cujas condções de Kuhn-Tucker são:
Programação Maemáca - Prncípos Báscos 3 m g+ λ a = = c x ( ) λ ( ) = c x λ (.3) Sendo A a marz dos gradenes das resrções e C uma marz dagonal conendo os valores das resrções, as duas prmeras equações podem ser escras como: g+ A λ = Cλ = (.3) Aplcando o méodo de Newon para resolver o problema acma, obém-se o ssema: d W A = ΛA C λ g (.33) Na equação acma, Λ é uma marz dagonal para a qual Λ = λ, d é a dreção de busca e λ é a esmava dos mulplcadores de Lagrange. Pode-se demonsrar que d é uma dreção de decréscmo de f e que d = se x for um pono esaconáro (Parene, ). A dreção de busca fornecda por (.33) nem sempre é uma dreção vável. Expandndo-se uma equação da pare nferor do ssema (.33), chega-se a: λ + cλ = ad (.34) Esa equação mplca que ad para odo al que c =. = Geomercamene, so sgnfca que d é angene às resrções avas, ndcando que a dreção apona para fora da regão vável. Uma solução para evar ese efeo é adconar uma consane negava do lado dreo da equação acma:
Programação Maemáca - Prncípos Báscos 3 λ ad + c λ = ρλ (.35) onde λ é a nova esmava de λ. Ese procedmeno faz com que a dreção orgnal seja defleda, de um valor proporconal a ρ, para o neror da regão vável. Como a deflexão é proporconal a ρ e d é uma dreção de decréscmo de f, é possível enconrar lmes em ρ para que d ambém seja uma dreção de decréscmo. Ese objevo pode ser angdo mpondo-se que: g d k a g d (.36) para k a (; ). Em geral, a axa de decréscmo de f ao longo de d é menor que ao longo de d. No enano, ese é o preço a ser pago para se ober uma dreção de decréscmo vável. Consderando o ssema auxlar: d g = ΛA C λ λ W A (.37) é fácl mosrar que: e d=d + ρd (.38) λ = λ + ρλ (.39) Subsundo (.38) em (.36) chega-se a: g d ρ ( k a -) g d (.4) Defnda a dreção de busca d, é necessáro realzar uma busca lnear resra ao longo dessa dreção, de forma a garanr que o pono gerado eseja no neror da regão vável. Além dsso, é necessáro aualzar os valores dos mulplcadores de Lagrange de manera a assegurar a convergênca para a solução correa.
Programação Maemáca - Prncípos Báscos 3.8. Eapas do Algormo de Ponos Inerores (PI) O algormo de Ponos Inerores para problemas de resrções de desgualdade necessa de um pono ncal vável x, uma esmava para os mulplcadores de Lagrange de forma que λ > e uma marz B smérca e posva defnda, que é uma aproxmação de W. O algormo pode ser dvddo nos segunes passos (Herskovs & Sanos, 997):. Ober a dreção de busca d: a) Deermnar os veores ( d, λ ) aravés da solução do ssema lnear defndo em (.33). b) Verfcar o créro de convergênca: d ol (.4) c) Deermnar os veores ( d, λ ) aravés da solução do ssema lnear defndo em (.37). d) Calcular o valor de ρ: se, enao ρ = mn k f,( ka ) / g d > d g d g d se gd, enao ρ = k f d (.4) sendo k f >. e) Calcular a dreção de busca d: e d=d + ρd (.43) λ = λ + ρλ (.44). Fazer uma busca lnear sobre d, deermnando o amanho do passo que sasfaça um créro sobre o decréscmo da função objevo e para o qual:
Programação Maemáca - Prncípos Báscos 33 c( x+ d), se λ c( x+ d) c( x), se λ < (.45) e o novo pono x: x = x + d (.46) 3. Aualzar a marz B, que é uma aproxmação da Hessana da função Lagrangana, aravés do méodo BFGS. 4. Defnr uma nova esmava para os mulplcadores de Lagrange: λ = max λ, k e d (.47) sendo k e >. 5. Fazer x gual a x e reornar ao passo. A aproxmação ncal e o reníco da Hessana da função Lagrangana são conrolados pelos mesmos parâmeros ulzados pelo algormo de Programação Quadráca Seqüencal..9 Implemenação Os algormos foram mplemenados em lnguagem FORTRAN-9 a parr dos códgos ulzados por Parene (), sendo a maora das ronas ranscras de C e ouras modfcadas de acordo com a adapação do programa aos demas módulos.