Otimização Multiobjetivo Otimização Restrita Prof. Frederico Gadelha Guimarães Lucas S. Batista Eduardo G. Carrano Universidade Federal de Minas Gerais Programa de Pós-Graduação em Engenharia Elétrica, Brasil
Método de Lagrange Sumário 1 Otimização com restrições Método de Lagrange Método do Lagrangeano Aumentado 2/37
Método de Lagrange Problemas de otimização restrita Formulação geral de problemas de otimização: min f (x) R, x F x g i (x) 0; F = h j (x) =0; x X i = 1,...,p (restrições de desigualdade) j = 1,...,q (restrições de igualdade) 3/37
Método de Lagrange Método de Lagrange Conforme vimos, a solução do problem restrito a seguir éumpontocríticodafunção Ponto crítico implica que: min f (x) sujeito a h(x) =0 L(x,λ)=f (x)+λh(x) [ x L λ L ] = 0 4/37
Método de Lagrange Método de Lagrange Função Lagrangeana OpontocríticodafunçãoLagrangeanalevaaumsistemacomn + 1 equações e n + 1incógnitas: { x L(x,λ)= f (x)+λ h(x) =0 F(x,λ)= λ L(x,λ)=h(x) =0 OMétododeLagrangeconsistenasoluçãodessesistemade equações determinando (x,λ ). 5/37
Método de Lagrange Método de Lagrange Exemplo Seja o problema min f (x) =3x 1 + 4x 2 s.a. h(x) =x 2 1 + x 2 2 1 = 0 Determine a solução usando o método de Lagrange. 6/37
Método de Lagrange Método de Lagrange No caso geral: F = { g i (x) 0; h j (x) =0; min f (x) R, x F x i = 1,...,p (restrições de desigualdade) j = 1,...,q (restrições de igualdade) temos: L(x,µ, λ) =f (x)+g µ + h λ 7/37
Método de Lagrange Método de Lagrange com: Asoluçãodoproblemarestritoéasoluçãodosistemaden+p+q equações x L(x,µ, λ) = f (x)+j h (x) λ + J g (x) µ = 0 F(x,µ, λ) = µ L(x,µ, λ) µ i g i (x) =0 λ L(x,µ, λ) =h(x) =0 J g (x) =[ g 1 (x) g p (x)] n p J h (x) =[ h 1 (x) h q (x)] n q 8/37
Método de Lagrange Método de Lagrange Infelizmente, o Método de Lagrange não é muito prático, pelas seguintes razões: Aconstruçãodosistemadeequaçõespressupõeacessoàsexpressões analíticas de f (x), g i (x), h j (x); Aresoluçãodoproblemadeotimizaçãonãolinearoriginalrequer asoluçãodeumsistemadeequaçõesnãolineares; 9/37
Sumário 1 Otimização com restrições Método de Lagrange Método do Lagrangeano Aumentado 10 / 37
Introdução AabordagemdosMétodosdePenalidadesconsistenatransformação do problema restrito original num problema irrestrito equivalente (dois problemas são ditos equivalentes se possuem a mesma solução); Métodos indiretos para otimização restrita. 11 / 37
Introdução No método de Penalidades, penalidades são adicionadas à função-objetivo: 1 Métodos de penalidade interior ou métodos Barreira: pontos gerados devem ser sempre viáveis e qualquer tentativa de sairda região factível é penalizada. 2 Métodos de penalidade exterior ou métodos de Penalidade: qualquer violação de alguma restrição é penalizada no valor da função-objetivo. 12 / 37
Em geral, em problemas restritos a solução reside na fronteira da região factível: Nos métodos de penalidade interior, a solução ótima é aproximada internamente por uma sequência de soluções do problema irrestrito transformado; Nos métodos de penalidade exterior, a solução ótima é aproximada externamente por uma sequência de soluções do problema irrestrito transformado; 13 / 37
Método de Penalidade Exterior Função de penalidade Uma função de penalidade deve atender as seguintes condições: { p(x) > 0, se x / F p(x) =0, se x F 14 / 37
Método de Penalidade Exterior Função de penalidade No caso de um problema com uma restrição de igualdade: min f (x) s.a h(x) =0 min f (x)+u[h(x)]2 }{{} p(x,u) No caso de um problema com uma restrição de desigualdade: min f (x) s.a g(x) 0 min f (x)+umax [0, g(x)]2 }{{} p(x,u) 15 / 37
Método de Penalidade Exterior Função de penalidade De forma geral temos: p p(x, u) =u max [0, g i (x)] 2 + i=1 q [h j (x)] 2 j=1 16 / 37
Método de Penalidade Exterior Exemplo Seja o problema min f (x), comf (x) =x, sujeitoag(x) = x + 3 0. 17 / 37
Método de Penalidade Exterior Exemplo Seja o problema min f (x), comf (x) =x, sujeitoag(x) = x + 3 0. Solução Usando p(x) =max[0, g(x)] 2,tem-se: { 0, x 3 p(x) = (3 x) 2, x < 3 Para x < 3, f (x)+p(x, u) =x + u(3 x) 2.Assim: df dx = 1 2u(3 x) =0 x = 3 1 2u Com u,temosx 3. 17 / 37
Método de Penalidade Exterior Exemplo Seja o problema min f (x) =(x 1 5) 2 +(x 2 6) 2 s.a h(x) =x 1 2 = 0 18 / 37
Método de Penalidade Exterior Algoritmo 1: Método de Penalidade Exterior Input: x 0 X, u 0 > 0, função-objetivo f ( ) erestriçõesg( ) e h( ) 1 k 0; 2 while critério de parada do 3 Começando de x k,encontrex k+1 arg min x f (x)+p(x, u k ); 4 u k+1 αu k,comα>1; 5 k k + 1; 6 end 19 / 37
Método de Penalidade Interior No método de barreira, deve-se construir uma função que penaliza tentativas de sair da região factível. Função de barreira Uma função de barreira deve atender as seguintes condições: { b(x), se x F b(x) 0 +, se x F 20 / 37
Método de Penalidade Interior b(x) éumafunçãobarreiranãonegativaecontínuaemf etende ainfinitoàmedidaqueaproximamosdafronteira. Formulando o problema como a minimização de f (x) +b(x, u), com u 0 +,gera-seumasequênciadesoluçõesnointeriorde F que converge para x. 21 / 37
Método de Penalidade Interior Função de barreira Uma possível função barreira é min f (x) s.a g(x) 0 min f (x)+( u) log [ g(x)] }{{} b(x,u) 22 / 37
Método de Penalidade Interior Função de barreira Uma possível função barreira é min f (x) s.a g(x) 0 Outra opção mais usada na prática é: min f (x)+( u) log [ g(x)] }{{} b(x,u) min f (x) s.a g(x) 0 min f (x)+( u) 1 g(x) }{{} b(x,u) 22 / 37
Método de Penalidade Interior Função de barreira De forma geral temos: b(x, u) = u { p i=1 } 1 g i (x) Observe que não é possível definir uma função barreira para restrições de igualdade! 23 / 37
Método de Penalidade Interior Exemplo Seja o problema min f (x), comf (x) =x, sujeitoag(x) = x + 3 0. 24 / 37
Método de Penalidade Interior Exemplo Seja o problema min f (x), comf (x) =x, sujeitoag(x) = x + 3 0. Solução Usando a função barreira, tem-se: Assim: d dx ( x + u 1 ) x 3 Com u 0 +,temosx 3 +. f (x)+b(x, u) =x + u 1 x 3 1 = 1 u (x 3) 2 = 0 x = 3 + u 24 / 37
Método de Penalidade Interior Algoritmo 2: Método de Penalidade Interior Input: x 0 F, u 0 > 0, função-objetivo f ( ) erestriçõesg( ) e h( ) 1 k 0; 2 while critério de parada do 3 Começando de x k,encontrex k+1 arg min x f (x)+b(x, u k ); 4 u k+1 αu k,com0<α<1; 5 k k + 1; 6 end 25 / 37
Considerações finais Ateoriaprevêqueasoluçãoconvergeparaasoluçãoótimaquando u k (ou u k 0 + ), porém: AHessianadafunção-objetivopenalizadadependedeu k epode apresentar mal-condicionamento numérico; Avariaçãodeu k deve ser gradual; Aprecisãofinalficabastantelimitada. 26 / 37
Considerações finais Diversas modificações podem ser feitas na abordagem por penalidades: Usar termos de penalidade distintos para cada restrição evitando problemas de escala; Penalizar apenas a restrição mais violada. 27 / 37
Método do Lagrangeano Aumentado Sumário 1 Otimização com restrições Método de Lagrange Método do Lagrangeano Aumentado 28 / 37
Método do Lagrangeano Aumentado Introdução Conforme vimos, uma das dificuldades dos métodos de penalidade é o mal-condicionamento numérico causado ao se fazer u ou u 0 + ; OmétodoLAéumaextensãodosmétodosdepenalidades,porém sem o problema de tornar a função de penalidade mal-condicionada com o aumento de u. 29 / 37
Método do Lagrangeano Aumentado Método do Lagrangeano Aumentado Seja o problema min f (x) sujeito a h(x) =0 Usando a função de penalidade, temos: z(x) =f (x)+ u 2 [h(x)]2 de tal forma que quando u,temosx x e: z(x )= f(x )+uh(x ) h(x )=0 Da função Lagrangeana, sabemos que: L(x,λ )= f(x )+λ h(x )=0 30 / 37
Método do Lagrangeano Aumentado Método do Lagrangeano Aumentado Comparando as duas expressões, observa-se que lim uh(x) λ x x O produto uh(x) traz, no limite, a dificuldade de um produto 0; No método LA, consideramos a seguinte função Lagrangeana Aumentada: L A (x,λ, u) =L(x,λ)+ u [h i (x)] 2 2 i = f (x)+ λ i h i (x)+ u [h i (x)] 2 2 i i 31 / 37
Método do Lagrangeano Aumentado Método do Lagrangeano Aumentado OótimodafunçãoLagrangeanaAumentadacoincidecomoótimo da função Lagrangeana; Em um ponto não crítico x x : x L A (x,λ, u) = f (x)+ i [λ i + uh i (x)] h i (x) Próximo ao ponto solução, espera-se: λ i + uh i (x) λ 32 / 37
Método do Lagrangeano Aumentado Método do Lagrangeano Aumentado Aequaçãoanteriorsugereumafórmuladeatualizaçãorecursiva dos multiplicadores de Lagrange: λ k+1 i = λ k i + u k h i (x k ) Não há necessidade de fazer u ; AminimizaçãodeL A émaisestávelnumericamente. 33 / 37
Método do Lagrangeano Aumentado Método do Lagrangeano Aumentado De forma geral, temos: L A (x,µ, λ, u) =f (x)+ i µ i g i (x)+ j λ j h j (x)+ ou ainda L A (x,µ, λ, u) =f (x)+ u 2 + u max [0, g i (x)] 2 + u [h j (x)] 2 2 2 i i [ ( max g i (x), µ i u )] 2 + j j [ h j (x)+ λ ] 2 j u 34 / 37
Método do Lagrangeano Aumentado Método do Lagrangeano Aumentado Algoritmo 3: Método do Lagrangeano Aumentado Input: x 0 X, µ 0, λ 0, u 0,função-objetivof( ) erestriçõesg( ) e h( ) 1 k 0; 2 while critério de parada do 3 Começando de x k,encontrex k+1 arg min x L A (x,µ k,λ k, u k ); 4 µ k+1 i µ k i + u k max 5 λ k+1 j λ k j + u k h j (x k+1 ) ; 6 u k+1 αu k ; 7 k k + 1; 8 end [ ] g i (x k+1 ), µk i u k ; 35 / 37
Método do Lagrangeano Aumentado Método do Lagrangeano Aumentado Vantagens Apenalidadeu não precisa tender a infinito, pode ser aumentada de forma suave; Asoluçãoinicialnãoprecisaserfactível; Épossívelencontrarg i (x) =0eh j (x) =0comprecisão; Os multiplicadores de Lagrange diferentes de zero identificam as restrições ativas no ponto solução. 36 / 37
Singiresu S. Rao, Engineering Optimization: Theory and Practice, Wiley, 4th ed., 2009. Mokhtar S. Bazaraa, Hanif D. Sherali, C. M. Shetty, Nonlinear Programming: Theory and Algorithms, Wiley-Interscience, 3rd ed., 2006. R. Fletcher, Practical Methods of Optimization, Wiley, 2000. Geraldo R. Mateus, Henrique P. L. Luna, Programação Não Linear, V Escola de Computação, Belo Horizonte, UFMG, 1986. J. A. Ramírez, F. Campelo, F. G. Guimarães, R. H. C. Takahashi,NotasdeAulade Otimização, 2010. Início 37 / 37