OTIMIZAÇÃO IRRESTRITA: UM ESTUDO SOBRE O MÉTODO DE CAUCHY. PALAVRAS-CHAVE: Otimização irrestrita; Método de Cauchy; Método da seção áurea.

Transcrição

1 OTIMIZAÇÃO IRRESTRITA: UM ESTUDO SOBRE O MÉTODO DE CAUCHY Eoque da Silva Sobral, (UNESPAR/FECILCAM), eoqur@hotmail.com.br Gislaie Aparecida Periçaro (OR), (UNESPAR/FECILCAM), gapericaro@fecilcam.br Solage Regia dos Satos (CO-OR), (UNESPAR/FECILCAM), solaregia@fecilcam.br RESUMO: Estudamos este trabalho o Método de Cauchy para solucioar problemas de otimização irrestrita. Matematicamete, tais problemas cosistem em miimizar uma fução ão liear sem restrições sobre as variáveis e estão relacioados a aplicações em diversas áreas como biologia, ecoomia, egeharia, etc. Problemas de otimização evolvedo várias variáveis dificilmete são resolvidos por métodos diretos, sedo ecessário o emprego de métodos iterativos que cosistem em, dado um poto iicial, gerar uma sequêcia de iterados a qual a fução decresce. Para garatir um decréscimo a fução objetivo, a cada iteração é determiada uma direção de descida para tal fução, e em seguida, determia-se o tamaho do passo a ser dado essa direção miimizado-se uma fução de uma variável. O método de otimização estudado esse trabalho escolhe a cada iteração a direção oposta ao gradiete da fução objetivo o poto correte. Para determiar o comprimeto do passo, empregamos um método de busca uidirecioal deomiado Método da Seção Áurea. Os métodos estudados foram implemetados em Matlab e testes uméricos foram realizados com problemas acadêmicos. PALAVRAS-CHAVE: Otimização irrestrita; Método de Cauchy; Método da seção áurea. INTRODUÇÃO Problemas de otimização surgem as mais diversas áreas como egeharias, ecoomia, física e biologia. Devido a essa ampla possibilidade de aplicações, os métodos de otimização, tato o aspecto teórico quato umérico, toraram-se objetos de estudo de muitos pesquisadores os últimos 50 aos. Segudo Bradão (00) os problemas de otimização estão presetes até mesmo o meio ambiete e um exemplo disto são as abelhas. Esses isetos usam cera para costruir os alvéolos das colméias que são usados como depósitos para o mel. As abelhas costroem os alvéolos procurado uma forma ecoômica que teha o maior volume para a meor porção de material gasto. Neste trabalho estudamos um método clássico empregado a resolução de problemas de otimização irrestrita, em que busca-se miimizar uma fução sem restrições sobre as variáveis. Uma questão iicial que surge ao cosiderar esse tipo de problema se refere a existêcia de solução. A fução a ser miimizada, deomiada fução objetivo, pode ser ilimitada iferiormete e isso faz com que o problema ão possua solução, ou apresete apeas miimizadores locais, ou seja, potos que possuem meor valor fucioal apeas quado comparado com potos situados em uma vizihaça destes. Existe uma codição ecessária que deve ser satisfeita para que um determiado poto seja um miimizador local da fução. Os potos que satisfazem tal codição são deomiados potos estacioários e estes são os cadidatos a miimizadores da fução, uma vez que a codição é apeas

2 ecessária e ão suficiete. Há uma dificuldade computacioal associada à determiação do miimizador global da fução, o qual muitas vezes pode ão existir, como cometado ateriormete. Sedo assim, muitos métodos de otimização se cotetam em ecotrar potos estacioários para a fução objetivo. Para tato, um processo iterativo básico de otimização cosiste em, a partir de um poto iicial, determiar uma direção a qual a fução decresça para dar o próximo passo. O processo cotiua até que um poto estacioário seja obtido. O método que estudamos este trabalho, deomiado Método de Cauchy, escolhe como direção de descida a direção oposta ao vetor gradiete da fução objetivo avaliada o poto correte. Após determiar a direção, uma outra questão que surge é o quato camihar ela. Para isso existem métodos deomiados métodos de busca, que determiam o tamaho do passo a ser dado a direção de descida. O método de busca estudado esse trabalho é cohecido como Método da Seção Áurea. Este trabalho está orgaizado da seguite forma. Na próxima seção apresetamos a formulação matemática do problema de otimização irrestrita, a defiição de miimizadores locais e direção de descida, a codição ecessária de otimalidade e o algoritmo básico de otimização. Na seção 3 discutimos algus aspectos do Método de Cauchy e a seção 4, o Método da Seção Áurea. Em seguida, a seção 5, apresetamos dois exemplos de problemas aos quais os métodos estudados foram aplicados, a partir de implemetação realizada em Matlab e discutimos algumas características destes. Fialmete, a seção 6 fazemos as cosiderações fiais sobre o trabalho. FORMULAÇÃO MATEMÁTICA Formalmete, um problema de otimização irrestrita pode ser escrito como miimizar f (x) sujeito a x R (.) em que assumimos que a fução f : R R é cotiuamete difereciável. Ao cosiderar tal problema, o objetivo é determiar miimizadores locais de f. Dizemos que x R é um miimizador local de f se f ( x) f ( x) para todo x pertecete a uma vizihaça de x. Muitas vezes o iteresse é obter o valor de máximo de uma fução, como por exemplo, o caso em que cosidera-se uma fução que represeta o lucro de uma empresa. No etato, segudo Izmailov e Solodov (005), do poto de vista matemático, ão existe difereça relevate etre miimização e maximização de uma fução, uma vez que maximizar f é equivalete a miimizar

3 f, pois máx f ( x) mí( f ( x)). Dessa forma, a teoria desevolvida para problemas de otimização leva em cosideração problemas da forma apresetada em (.). Para que um poto x R seja um miimizador local é ecessário que este satisfaça algumas codições, as quais deomiamos codições de otimalidade. Neste trabalho damos destaque à codição ecessária de otimalidade de ª ordem, estabelecida o teorema a seguir, coforme apresetado em Friedlader (994). Teorema.: Seja etão f ( x) 0. f : R R difereciável o poto x R. Se x é um miimizador local de f, O vetor de f, ou seja, f é deomiado vetor gradiete de f e suas compoetes são as derivadas parciais f x f f x. Assim, vemos que a codição estabelecida o Teorema. garate que se um poto x for o miimizador local de f, etão x será solução do sistema homogêeo, a maioria das vezes ão liear, f (x) = 0. Os potos que satisfazem tal codição são deomiados potos críticos ou estacioários da fução f. É importate observar, que esta é apeas uma codição ecessária, mas ão suficiete. Assim, se f (x) = 0 etão x pode ser maximizador, miimizador, ou ehum dos dois. Os potos que satisfazem essa codição, mas ão são maximizadores em miimizadores de f são deomiados poto de sela. O motivo deste ome pode ser compreedido observado-se a Figura, que apreseta o gráfico de uma fução que possui um poto de sela. Embora a codição f (x) = 0 seja ecessária, mas ão suficiete, a resolução deste sistema faz parte de muitos métodos de otimização. Porém, dificilmete é possível resolvê-lo por métodos diretos, sedo ecessário o emprego de métodos iterativos que cosistem em, dado um poto iicial 0 x, gerar uma sequêcia de iterados ( x ) R a qual a fução objetivo decresce. De acordo com Martíez e Satos (995), um algoritmo básico de otimização irrestrita cosiste em, a partir de cada poto obtido, determiar uma direção para dar o próximo passo. Como o

4 objetivo é miimizar f, é razoável que a fução decresça a direção escolhida. Uma direção que apreseta essa propriedade é deomiada direção de descida. Matematicamete, dizemos que d R, d 0, é uma direção de descida para f a partir do poto x, quado existe 0tal que f ( x td ) f ( x), para todo t ( 0, ). Figura : Poto de Sela. Coforme apresetado em Ribeiro e Karas (0), existe uma codição suficiete para que T uma direção seja de descida, a saber: se f ( x) d 0 etão d é uma direção de descida para f a partir de x. Assim, as direções que formam um âgulo maior que 90º com o gradiete de f avaliado em x, são direções de descida para f a partir desse poto. Após escolher a direção de descida, é ecessário defiir o quato camihar essa direção. Pode-se dar um passo completo, ou seja, cosiderar o tamaho t, o etato, esta escolha pode ão ser a melhor. Dessa forma, existem métodos deomiados métodos de busca que podem ser empregados para esse fim. O que diferecia os métodos de otimização é a escolha da direção de descida d e a forma com que é calculado o tamaho do passo a ser dado. Para determiar a direção de descida em ossa pesquisa estudamos o Método de Cauchy e para ecotrar o tamaho do passo utilizamos o Método da Seção Áurea, os quais serão discutidos a seguir. MÉTODO DE CAUCHY Segudo Ribeiro e Karas (0, p.63), o Método de Cauchy, também cohecido como o Método do Gradiete, é um processo iterativo que a cada etapa faz uma busca a direção oposta ao

5 vetor gradiete da fução objetivo o poto correte. A escolha dessa direção se justifica pelo fato de que o gradiete da fução objetivo avaliado em um poto x apota para a direção de maior crescimeto de f a partir desse poto, coforme discutido as disciplias de Cálculo Diferecial e Itegral. Sedo assim, a direção oposta ao vetor gradiete é a que forece um maior decréscimo a fução objetivo.. Por exemplo, cosidere a fução x Temos que x f : R R dada por f ( x) x x xx e o poto f e f ( x). Assim, cosiderado d f (x) podemos facilmete 0 T ver que f ( x) d 4 0, ou seja, d é uma direção de descida. Observe que a fução realmete decresce essa direção, uma vez que para todo t 0. f ( x td ) 8t 4t f ( x) 8t 4t f ( x) Apresetamos a seguir o algoritmo associado ao Método de Cauchy coforme apresetado em Ribeiro e Karas (0). Algoritmo 3. Método de Cauchy Dado 0 x 0 R Repita equato f ( x ) 0 Defia d f ( x ) Obteha t 0 tal que f ( x t d ) f ( x ) Faça x x t d O Algoritmo 3. presete deixa em aberto a determiação do comprimeto do passo t, e esta etapa pode ser usado qualquer algoritmo de busca exata, como o Método da Seção Áurea, ou de busca iexata, como a busca de Armijo, que ão será abordado este trabalho. Para maiores detalhes sobre métodos baseados em busca iexata, cosultar, por exemplo, Martíez e Satos (995). É importate observar que existem duas possibilidades para o Algoritmo 3.: ou ele para em um poto estacioário após um úmero fiito de iterações, ou etão gera uma sequêcia a qual a fução f decresce. Em Ribeiro e Karas (0) pode ser ecotrada a prova de que o Algoritmo 3. é

6 globalmete covergete, empregado a estratégia de busca exata ou a busca de Armijo para determiar o tamaho do passo. Isso sigifica que se x é um poto de acumulação de uma sequêcia ( x ) gerada pelo algoritmo, etão x é estacioário. Uma propriedade iteressate do Método de Cauchy está associada à aplicação deste à fuções quadráticas covexas, dadas por em que AR R é uma matriz defiida positiva, T T f ( x) x Ax b x c, (3.) b R e c R. Fuções desse tipo possuem um úico miimizador x, que satisfaz A x b f ( x) 0. A propriedade estabelece que duas direções de descida cosecutivas determiadas pelo Algoritmo 3. quado aplicado ao problema de miimizar a fução (3.) são sempre ortogoais. Tal propriedade será ilustrada a próxima seção, ode apresetaremos exemplos implemetados em Matlab. Outra propriedade está associada ao tamaho do passo a ser dado em cada iteração quado cosideramos a fução (3.). Esta propriedade também será apresetada a próxima seção, após discutirmos o Método da Seção Áurea. MÉTODO DA SEÇÃO ÁUREA O Método da Seção Áurea pode ser empregado para determiar o tamaho do passo ao logo de uma determiada direção de descida, em particular, ao logo da direção de Cauchy. O objetivo é determiar a solução t do seguite problema uidimesioal miimizar g( t) f ( x td ) sujeito a t 0. (4.) De acordo com Ribeiro e Karas (0), resolver (4.) ão é uma tarefa simples. Etretato, depededo do tipo de fução cosiderada, há métodos eficietes para resolvê-lo. Um exemplo é o Método da Seção Áurea que fucioa perfeitamete, detro de uma determiada tolerâcia, quado a fução g é uimodal. O Método da Seção Áurea é dividido em duas fases, a primeira fase cosiste em determiar um itervalo que coteha um miimizador de g, sedo ecessário apeas fazer ampliações de um itervalo iicial até que um crescimeto de g seja detectado. Na seguda fase o itervalo ecotrado a primeira é reduzido, descartado-se subitervalos deste que ão coteham o miimizador, até que reste um itervalo de comprimeto, sedo a tolerâcia pré-fixada.

7 De acordo com Gozaga (004), esse processo de descarte dos subitervalos a seguda fase é feito da seguite forma. Seja [ a, b] o itervalo obtido a primeira fase. Escolhem-se, este itervalo, os potos u a ( b a) e v a ( b a), tais que e. Estes são os potos que defiem a seção áurea e seus valores são: 0, 38 e 0,68. Assim, os úmeros u e v dividem o segmeto [ a, b] a razão áurea, e isso justifica o ome dado ao método. É atural pesar que seria mais fácil dividir o itervalo em três partes iguais. No etato, procededo dessa forma, a cada iteração seriam descartados 33,33% do itervalo e ao dividir o itervalo a razão áurea, são descartadas mais de 38% do itervalo. Além disso, usado essa razão, devido ao fato de e, um dos potos u ou v pode ser aproveitado a iteração seguite, e isso dimiui o úmero de avaliações de fuções o decorrer do processo iterativo. As ideias discutidas acima estão resumidas o algoritmo a seguir, coforme apresetado em Ribeiro e Karas (0, p. 54). Algoritmo 4.: Seção Áurea 3 5 Dados: 0, 0,, Fase : Obteção do itervalo [a,b] a 0, s e b Repita equato gb gs a s, s b e b Fase : Obteção de t [a, b] u a θ (b a), v a θ (b a) Repita equato b - a Se gu gv b Seão u v Defia t v, v u, u a b a a u u v, v a b - a, Ferades (00) apreseta um estudo detalhado sobre o Método da Seção Áurea,

8 icluido uma discussão sobre as propriedades de covergêcia do Algoritmo 4.. É importate ressaltar que o bom fucioameto deste método é garatido apeas quado g é uimodal. Embora isso ão exclua a possibilidade de aplicação a outros tipos de fuções, esses casos o algoritmo pode ão ser eficaz. Quado cosideramos a fução quadrática apresetada em (3.), podemos mostrar que a solução do problema (4.) é T f ( x) d t =, T ( d) Ad em que d é uma direção de descida a partir de x. Sedo assim, para esse tipo de fução, ão é ecessário empregar métodos de busca exata ou iexata para determiar o tamaho do passo a ser dado em cada iteração, em particular, do Algoritmo 3.. (4.) Na próxima seção discutiremos algus exemplos uméricos para ilustrar o fucioameto dos Algoritmos 3. e 4.. EXEMPLOS NUMÉRICOS A fim de ilustrar o desempeho umérico dos algoritmos estudados, os mesmos foram implemetados em Matlab R00a e aplicados aos problemas de miimizar as seguites fuções f : R R dadas por: x x Exemplo : f ( x) e e x x Exemplo : f ( x) x x 3x x Para miimizar a fução do Exemplo partimos do poto 0 5 x e após quatro iterações o Algoritmo 3., com o tamaho do passo calculado pelo Método da Seção Áurea (Algoritmo 4.), atigiu o miimizador do problema 0 x, com uma precisão de 0 6 0, ou seja, o Algoritmo 3. 6 parou em um poto x para o qual verificou-se f ( x) 0. Essa foi a mesma precisão usada o algoritmo da Seção Áurea. As Figuras e 3 mostram, respectivamete, os gráficos gerados pela rotia implemetada em Matlab com a variação da fução e da orma do gradiete ao logo das quatro iterações. Podemos

9 f(x ) observar o decrescimeto o valor da fução objetivo, como era de se esperar, uma vez que escolhemos a cada iteração a direção oposta ao gradiete. Note que o valor de míimo da fução é f(x ) Figura : Variação a fução objetivo Figura 3: Variação a orma do gradiete A Figura 4 apreseta algumas curvas de ível da fução objetivo e o camiho percorrido pelo algoritmo ao logo das iterações, ou seja, algus termos da sequêcia gerada pelo algoritmo x x Figura 4: Algoritmo 3. aplicado ao Exemplo No exemplo temos uma fução quadrática covexa que pode ser escrita a forma (3.) com 0 3 A, b e c 0. Nesse caso, o miimizador é facilmete calculado, sedo 0 4,5 x. Mesmo assim, aplicamos o Algoritmo 3., com o tamaho do passo sedo calculado 0,5

10 pela fórmula (4.), para ilustrar a propriedade de ortogoalidade de duas direções cosecutivas, cometadas ateriormete. A Figura 5 apreseta algumas curvas de ível da fução, que esse caso, por se tratar de uma fução quadrática covexa, são elipses cetradas o miimizador do problema. Podemos visualizar também os iterados obtidos ao logo de quatro iterações do Algoritmo 3.. Observe que as direções obtidas são ortogoais. Figura 5: Algoritmo 3. aplicado ao Exemplo Para este problema, cosiderado o poto iicial mostrado a Figura 5, a precisão estabelecida o Algoritmo 3. foi atigida após iterações, embora possa ser observado que após quatro iterações o os iterados já ficaram bem próximos do miimizador global de f. CONSIDERAÇÕES FINAIS Os métodos de otimização irrestrita buscam miimizar uma fução sem restrições sobre as variáveis. O objetivo deste trabalho foi de realizar um estudo sobre um método clássico de otimização irrestrita cohecido como o Método de Cauchy, jutamete com a abordagem do Método da Seção Áurea utilizado, especificamete, a determiação do tamaho do passo que deve ser dado iterativamete, a direção de busca. O Método de Cauchy é um método iterativo simples de ser implemetado e utiliza como direção de busca, para a determiação do miimizador, a direção oposta ao vetor gradiete. Como mecioado ateriormete, há uma dificuldade computacioal associada à determiação do miimizador global da fução, o qual muitas vezes pode ão existir. Sedo assim,

11 muitos métodos de otimização se cotetam em ecotrar potos estacioários para a fução objetivo, defiidos por f (x) = 0. No etato, x pode satisfazer tal codição, mas ão ser maximizador em miimizador de f, sedo deomiado de poto de sela. Deste modo, a codição f (x) = 0é uma codição ecessária, mas ão suficiete para a existêcia de miimizador para problemas irrestritos. A prova de covergêcia do Método de Cauchy é estabelecida a partir da utilização de uma estratégia de busca exata ou de Armijo para a determiação do tamaho do passo, coforme mostrado por Ribeiro e Karas (0). Neste trabalho apresetamos um método de busca exata, deomiado Método da Seção Áurea. Este método forece o comprimeto do passo a ser dado esta direção de busca por meio de sucessivas ampliações (etapa ) e reduções (etapa ) do itervalo iicial, até que se obteha o itervalo que cotém um miimizador da fução. Para compreesão do desempeho dos métodos estudados, apresetamos dois exemplos uméricos. Para o exemplo, vimos que o método covergiu para a solução em apeas quatro iterações, a partir do poto iicial escolhido. Para este caso ilustramos, por meio da Figura, o decréscimo do valor da fução a cada iteração, a da orma do gradiete, Figura 3, e por fim o camiho percorrido pelo algoritmo ao logo das quatro iterações até a obteção do miimizador do problema, Figura 4. Para o exemplo, cosideramos uma fução objetivo quadrática e covexa. Mostramos, por meio da Figura 5, a evolução do algoritmo durate a resolução do problema, evideciado o fato de que, para este caso, as direções de busca forecidas pelo Método de Cauchy são ortogoais. Vimos também que, o comprimeto do passo para o caso quadrático pode ser obtido diretamete a partir da relação (4.). De acordo com os coceitos pesquisados, os métodos de otimização abordados este trabalho são uma alterativa para a resolução de problemas de otimização irrestrita, uma vez que forecem boas aproximações para a solução de tais problemas, que dificilmete seriam calculados de maeira aalítica. Vale lembrar que cada método de otimização possui propriedades particulares, de modo que, seu desempeho está associado às características do problema em estudo. REFERÊNCIAS BRANDÃO, M. A. L. Estudo de algus métodos determiísticos de otimização irrestrita. 85 f. Mestrado em Matemática, Departameto de Matemática, UFU, Uberlâdia, 00. FERNANDES, F. M. Velocidade de covergêcia de métodos de otimização irrestrita f. Moografia em Matemática, UFPR, Curitiba, 00.

12 FRIEDLANDER, A. Elemetos de programação ão liear. Campias: UNICAMP, 994. GONZAGA, C. C. Um curso de programação ão liear. Floriaópolis: UFSC, 004. IZMAILOV, A.; SOLODOV, M. Otimização: codições de otimalidade - elemetos de aálise covexa e dualidade. V.. Rio de Jaeito: IMPA, 005. LEITHOLD, L. O cálculo com geometria aalítica. Volume.. 3. ed. São Paulo: Harbra, 994. MARTÍNEZ, J. M.; SANTOS, S. A. Métodos computacioais de otimização. 0º Colóquio Brasileiro de Matemática. Rio de Jaeiro: IMPA, 995. RIBEIRO, A. A.; Karas, E. W. Um curso de otimização. Curitiba: UFPR, 0. RINCÃO, Thiago. Otimização irrestrita sem derivadas baseada em iterpolação poliomial f. Dissertação Mestrado em Matemática aplicada e computacioal, Departameto de Matemática, UNICAMP, Campias, 008.