Universidade Federal de Juiz de Fora. Programa de Pós-Graduação em Modelagem Computacional

Transcrição

1 Uiversidade Federal de Juiz de Fora Programa de Pós-Graduação em Modelagem Computacioal MÉTODOS SUBGRADIENTES EM OTIMIZAÇÃO CONVEXA NÃO DIFERENCIÁVEL Por Théssera Christie Araújo de Souza Juiz de Fora, MG - BRASIL Agosto de 008

2 Souza, Théssera Christie Araújo de. Métodos subgradietes em otimização covexa ão difereciável / Théssera Christie Araújo de Souza ; orietador: Professor Wilhelm Passarella Freire f. Dissertação (Mestrado em Modelagem Computacioal) Faculdade de Egeharia, Uiversidade Federal de Juiz de Fora.. Matemática computacioal. I. Freire, Wilhelm Passarella, orietador. II. Título. CDU ii

3 MÉTODOS SUBGRADIENTES EM OTIMIZAÇÃO CONVEXA NÃO DIFERENCIÁVEL Théssera Christie Araújo de Souza DISSERTAÇÃO SUBMETIDA AO PROGRAMA DE PÓS-GRADUAÇÃO EM MODELAGEM COMPUTACIONAL DA UNIVERSIDADE FEDERAL DE JUIZ DE FORA COMO PARTE DOS REQUISITOS NECESSÁRIOS À OBTENÇÃO DO GRAU DE MESTRE EM CIÊNCIAS (M.SC.) EM MODELAGEM COMPUTACIONAL. Aprovada por: Prof: Wilhelm Passarella Freire, D.Sc. (Orietador) Prof: José Hersovits Norma, D.Ig. Prof: Sadro Rodrigues Mazorche,.Sc. JUÍZ DE FORA, MG - BRASIL AGOSTO DE 008 iii

4 AGRADECIMENTOS Agradeço a Deus por essa dádiva e por sua ifiita misericórdia que colocou em meu camiho uma ifiidade de pessoas que toraram possível essa coquista. A toda miha família pelo cariho, amor e apoio icodicioal sem o qual eu ão teria chegado até aqui. Em especial, agradeço meu pai, miha mãe e miha irmã pelo muito que fizeram por mim sem jamais medir sacrifícios. Ao Ferado, por seu icetivo e cumplicidade em todos os mometos; Às Mihas amigas Adréia, Cristiae, Fraciae, Isabel, Kelly, e Marcelle que me icetivaram, apoiaram e me ajudaram a coquistar esse soho. Um agradecimeto especial ao meu orietador Wihelm Passarella Freire pelo icetivo, apoio, paciêcia e perseveraça durate a tarefa de orietação. Aos Professores Sadro Rodrigues Mazorche e José Hersovits Normam por terem participado da Baca e pelas valiosas sugestões. Por fim, meus agradecimetos a todos aqueles que, direta ou idiretamete, cotribuíram para o desevolvimeto desse trabalho. iv

5 Resumo da Dissertação apresetada à UFJF como parte dos requisitos ecessários para a obteção do grau de Mestre em Ciêcias (M.Sc.) MÉTODOS SUBGRADIENTES EM OTIMIZAÇÃO CONVEXA NÃO DIFERENCIÁVEL Théssera Christie Araújo de Souza Agosto / 008 Orietador: Wilhelm Passarella Freire Este trabalho tem por fialidade descrever o Estado da Arte acerca de Métodos Subgradietes para otimização de fuções covexas ão difereciáveis. Apreseta-se iicialmete um histórico desses métodos, coceitos básicos sobre otimização difereciável, ecessários para o etedimeto de certas oções importates referetes à problemas ão difereciáveis, bem como esses problemas e suas características próprias. Posteriormete, apreseta-se uma breve itrodução aos métodos ão difereciáveis para, etão dedicar-se ao objetivo pricipal do trabalho que são os Métodos Subgradietes, suas extesões e trabalhos recetes. Fializa-se a Dissertação com a apresetação de algumas aplicações, seus resultados e coclusões. v

6 Abstract of Dissertatio preseted to UFJF as a partial fulfillmet of the requiremets for the degree of Master of Scieces (M.Sc.) SUBGRADIENTS METHODS FOR OTIMIZATION OF NONDIFERENTIABLE CONVEX FUNCTION. Théssera Christie Araújo de Souza August / 008 Supervisor: Wilhelm Passarella Freire The goal of this wor is describe the State of the Art about Subgradiets Methods for optimizatio of odifferetiable covex fuctios. We iitially preset a historical of these methods, basic cocepts o differetiable optimizatio, ecessary to the comprehesio of certai importat otios about odifferetiable problems, as well as these problems ad its ow characteristics. Subsequetly, a short itroductio about odifferetiable methods is preseted for, the, devote to Subgradiets Methods, its extesios ad recet wors. The Dissertatio is fiished with the presetatio of some applicatios, its results ad coclusios. vi

7 Sumário. Itrodução Otimização História dos Métodos de Otimização Não Difereciáveis Estrutura do Trabalho Noções Prelimiares Defiições Gerais Caso Difereciável Covexidade Otimização Não Liear Difereciável Otimização Irrestrita Otimização com Restrições Otimização com Restrições de Igualdade Otimização com Restrição de Desigualdade Otimização com Restrição de Igualdade e Desigualdade Algus Métodos de Otimização Não Liear Difereciável Métodos de Otimização para Problemas Irrestritos Método de Newto Algoritmo Algumas limitações Métodos Gradietes Algoritmo Iterpretação Geométrica Covergêcia do Método Gradiete Métodos de Gradietes Cojugados Métodos de Otimização para Problemas com Restrições Método de Gradiete Projetado Exemplo Métodos de Pealidades Métodos de Barreira Método de Direções Viáveis Métodos de Potos Iteriores vii

8 Métodos Afim Escala Métodos Quase Newto DFP BFGS Itrodução aos Métodos Não Difereciáveis Algus Métodos de Otimização Não Difereciável Métodos Subgradietes Métodos de Plaos de Corte Algoritmo Métodos de Cetros Aalíticos Métodos de Cetros Aalíticos e Plaos de Corte Métodos de Feixes Método de direções viáveis Métodos subgradietes e suas Extesões Métodos Subgradietes O Método Subgradiete Dificuldades Ecotradas Escolha do Tamaho do Passo Algoritmo Exemplo Uma Aplicação Importate dos Métodos Subgradietes Relaxação Lagrageaa Extesões dos Métodos Subgradietes Métodos de Dilatação do Espaço Métodos de Dilatação do Espaço a Direção do Subgradiete Algoritmo Covergêcia dos Métodos de Dilatação do Espaço a Direção do Subgradiete Método de Elipsóides Algoritmo Métodos Subgradietes com Dilatação do Espaço a Direção da Difereça de Dois viii

9 Subgradietes Sucessivos r-algoritmos Algoritmo Exemplo Métodos ε-subgradietes ou ε-máxima Descida Método Subgradiete Cojugado Algoritmo Exemplo Métodos Subgradietes Projetados Métodos Subgradietes Afim Escalas Trabalhos Recetes Algus Exemplos Numéricos Problemas Teste Resultados Obtidos Um Exemplo dos Métodos de Dilatação do Espaço a Direção do Subgradiete Coclusões ix

10 Nomeclatura Vamos listar a simbologia comum a todos os capítulos da dissertação. Outras defiições e otações serão apresetadas o capítulo. Deixaremos para cada capítulo as otações específicas utilizadas o capítulo. Usaremos letras maiúsculas para cojutos e matrizes e miúsculas para vetores. Nesta Dissertação, IN = {,, 3,...} é o cojuto dos úmeros aturais. Z represetará o cojuto dos úmeros iteiros. Z = {( x,x,...,x ) / x Z,i,,..., }. i = Z + = {( x,x,...,x ) / xi Z, xi > 0, i =,,..., } IR represetará o cojuto dos úmeros reais. IR = {( x,x,...,x ) / x IR,i,,..., } é o espaço euclideao - i = dimesioal. IR + = {( x,x,...,x ) / xi IR, xi > 0, i =,,..., } I represeta a matriz idetidade de ordem, ou seja, 0 Μ 0 0 Λ Λ Μ Ο 0 Λ 0 0 Μ G(x) Represeta a matriz diagoal abaixo: G( x ) g 0 = diag( g,g,...,gm ) = Μ 0 0 g Μ 0 Λ Λ Ο Λ 0 0. Μ g m x

11 Em todo o texto usaremos vetores colua. Assim, se x IR, etão x x x = Μ x e t x = ( x,x,...,x ). O produto itero de dois vetores x,y IR ser idicado por x.y = i = x y i i = t x y. Idicaremos a orma do vetor x por x = ( x.x ). Em particular, se = escreveremos x = x. Seja A = (aij) uma matriz de ordem m. Etão A t = (aji) idicará a matriz trasposta de A e A i ai ai = Μ am é a i-ésima colua de A. Seja X IR. Idicaremos por X 0 o iterior de X e X C = IR X o complemetar de X. O vetor gradiete da fução f : X IR IR em a X será deotado por f f f(a) = (a), x x (a), Κ f, x t (a) e a matriz hessiaa por xi

12 f (a) x f Hf(a) = (a) x x Μ f (a) x x f (a) x x f (a) x Μ f (a) x x Ο Κ f (a) x x f (a) x x Μ f (a) x idicada por A matriz jacobiaa da fução g : X m IR IR o poto a X g (a) x g (a) Jg(a) = x Μ gm (a) x g (a) x g (a) x Μ gm (a) x Ο Κ g (a) x g (a) x Μ g m (a) x Nos algoritmos que apresetaremos d idicará a direção de busca e t deotará o passo dado a direção d. O símbolo x idicará um elemeto da seqüêcia de vetores { x } IR, x idicará um elemeto da seqüêcia de úmeros reais { x } IR e A idicará um elemeto da seqüêcia de matrizes { A }. A bola aberta de cetro em a e raio r > 0 será deotada por B(a, r). Dizer que o vetor v IR e tal que v 0 sigificará v 0 para todo i i =,,...,, valedo a mesma observação para as desigualdades <, e >. A otação superiormete. v < estará idicado que o vetor v IR é limitado xii

13 Capítulo INTRODUÇÃO. Otimização A Otimização é a área da Programação Matemática que trata de problemas cujo iteresse cosiste em ecotrar potos de máximo ou de míimo de fuções. A Otimização pode ser dividida em difereciável e ão difereciável. A Otimização Difereciável trabalha com problemas cujas fuções possuem derivadas em todos os potos do seu domíio, equato que a Otimização Não Difereciável trabalha com problemas cujas fuções ão possuem derivadas em algus potos do seu domíio. Este trabalho será focado esta classe de problemas. Em geral, os métodos de otimização são métodos iterativos, os quais a partir de um poto iicial, costroem uma seqüêcia de potos que se aproximam da solução do problema. Trabalharemos com Otimização Covexa cujas fuções são covexas ão ecessariamete difereciáveis. Para resolver esta classe de problemas são ecessárias técicas que substituem o cálculo diferecial clássico. Tais técicas são derivadas de uma área da Matemática chamada Aálise Covexa. No caso de fuções ão covexas, estedem-se os coceitos da Aálise Covexa para fuções localmete lipschitziaas. Portato, estamos iteressados em problemas de otimização ão difereciáveis, com a hipótese adicioal de que f é covexa. Nas três últimas décadas, este problema tem recebido uma grade ateção e vários ovos métodos têm sido propostos. Como maximizar uma fução f equivale a miimizar f, cosideraremos este trabalho apeas problemas de miimização.

14 . História dos Métodos de Otimização Não Difereciável Os Métodos de otimização, a maioria das vezes, utilizam a seguite fórmula para atualizar o poto: x + = x + t d, cujo t é o tamaho do passo e d a direção de busca. Na otimização difereciável clássica, geralmete, os métodos de miimização usados são baseados a aproximação de primeira e seguda ordem evolvedo, respectivamete, o gradiete ( f) e a hessiaa (Hf) da fução objetivo f. Os métodos mais cohecidos em otimização difereciável são os Métodos Gradietes e o Método de Newto. Na otimização ão difereciável, existem potos do domíio ode a fução ão possui gradiete e, obviamete, em matriz hessiaa. Desta forma, aplicar métodos clássicos para resolver problemas difereciáveis em problemas ão difereciáveis fica iviável. O que se pode fazer é adaptar os métodos clássicos para fuções ão difereciáveis. Por exemplo, os Métodos Gradietes podem ser modificados para fuções ão difereciáveis utilizado a direção oposta a um subgradiete como a direção de busca. Esses métodos, deomiados Métodos Subgradietes, elaborados por Shor a Uião Soviética a década de 60, foram os primeiros métodos de otimização ão difereciável. Eles possuem uma estrutura extremamete simples, mas em geral, ão apresetam bos resultados uméricos. Nos Métodos Subgradietes a direção oposta ao subgradiete ão é ecessariamete uma direção de descida, e mesmo se for, ão se tem a garatia de covergêcia do método. Para cotorar essa dificuldade, uma opção é escolher o tamaho do passo t coveiete. Tal como acotece com a direção do gradiete para o caso difereciável, a direção oposta ao subgradiete o caso ão difereciável pode resultar em um feômeo zig-zag que possivelmete maifesta-se em alguma fase do Algoritmo Subgradiete, causado problemas as codições de otimalidade. Para superar este problema, foi elaborado um

15 3 método, deomiado Método Subgradiete Cojugado, cuja direção de busca é calculada através da combiação da direção oposta ao subgradiete atual com a direção aterior. A maioria dos algoritmos para otimização ão difereciável utilizam subgradietes com algumas modificações. Estas modificações, ormalmete, estão relacioadas à forma de ecotrar uma direção de busca e de se utilizar um tamaho do passo adequado para adotar ao logo desta direção. Vêm sedo propostos, ao logo dos últimos aos, vários métodos de otimização ão difereciáveis. Um problema ecotrado os Métodos Subgradietes é a ecessidade de se cohecer o subdiferecial f( x ) da fução f o poto correte x. Para vecer tal dificuldade, os Métodos ε -Subgradietes utilizam ão apeas um subgradiete o poto correte, mas subgradietes de potos de uma vizihaça do poto correte. Shor em [63] e [64] apreseta um Método de Dilatação do Espaço que utiliza um processo aálogo de trasformação do espaço ao logo da direção do subgradiete. De otável valor devido ao seu desempeho computacioal, Shor [64], propõem um Algoritmo de Dilatação do Espaço que dilata o espaço ao logo da difereça de dois subgradiete sucessivos, deomiado r-algoritmo. O método clássico de Plaos de Corte, apresetado por Kelley em [35], utiliza subgradietes para costruir uma aproximação em um poto de uma fução covexa ão liear por uma fução liear, ou seja, utiliza subgradietes para aproximar a fução f por modelo liear por partes. Os Métodos de Feixes, propostos por Miffli [46] e Lemarechal [39], são atualmete os que apresetam melhores resultados. A direção de busca é obtida através da combiação covexa de um cojuto de subgradietes gerados em iterações ateriores. Ao cotrário dos Métodos Subgradietes, os Métodos de Feixes a escolha do passo evolve uma busca liear iexata que produz uma solução melhor (passo sério) ou uma solução que é rejeitada (passo ulo). Em ambos os casos, um ovo subgradiete é calculado e acrescetado ao feixe atual para ecotrar uma direção de busca modificada.

16 4 Uma difereça importate etre os Métodos de Feixes e os Métodos Subgradietes é que, cotrariamete a este último, os Métodos Tipo Feixes geram uma seqüêcia de iterações para que os valores da fução objetivo sejam moótoos decrescetes. Por esta razão, esses métodos são classificados como "Métodos de Descida". No etato, uma dificuldade ecotrada os Métodos de Feixes é que eles exigem a solução de um subproblema quadrático em cada iteração para ecotrar a direção de busca, e isto pode torar-se bastate caro, em particular para problemas maiores. Um método que vem recebedo ateção os últimos aos é o Método de Cetros Aalíticos. Em geral, os métodos baseados a oção de cetro realizam um corte em uma região covexa, limitada e que coteha solução ótima. Cada corte utiliza um hiperplao, que separa está região em duas partes. Na parte ode a solução do problema está cotida são realizadas operações, de acordo com o método que está sedo utilizado, para determiar o próximo cetro..3 Estrutura do Trabalho Este trabalho está orgaizado em sete capítulos, sedo este o primeiro. No capítulo, relembramos algumas defiições e resultados que serão utilizados os capítulos subseqüetes. No capítulo 3 itroduziremos o problema de otimização ão liear difereciável, as codições de otimalidade para esses problemas e apresetaremos algus métodos para problemas difereciáveis. No capítulo 4 faremos uma rápida itrodução aos métodos para problemas ão difereciáveis. O objetivo deste trabalho é estudar os Métodos Subgradiete e suas extesões, o que faremos o capítulo 5. O que motivou o osso estudo é que mesmo ão apresetado bos resultados uméricos, os Métodos Subgradietes e suas extesões foram utilizados em trabalhos recetes, como por exemplo, em [6], [3], [5], [7], [47], [48], [49], [5], [54], [56], e [57].

17 5 No capítulo 6 são apresetados os problemas teste e os resultados obtidos utilizado os Métodos Subgradietes e um exemplo dos Métodos de Dilatação do Espaço a Direção do Subgradiete. Para fializar apresetamos as coclusões e as referêcias bibliográficas.

18 6 Capítulo NOÇÕES PRELIMINARES Neste capítulo apresetaremos algumas defiições e resultados ecessários para o desevolvimeto dos demais capítulos.. Defiições Gerais Defiição.. Seja f : IR IR. Uma direção d IR é dita direção de descida para f em a IR, se existe λ > 0 tal que f(a + td) < f(a), t (0, λ ). Observe a figura. que a direção oposta a d ão é direção de descida. Note também, que se t >λ etão f(a+td) > f(a). Figura. Defiição.. Um vetor X para todo t [ 0, λ]. d IR é uma direção viável em a X IR se existe λ > 0 tal que a+ td Obviamete, se a pertece ao iterior de X, etão toda direção d IR é viável em a.

19 7 As figuras. e.3 ilustram uma direção viável e uma direção ão viável. figura.: direção viável figura.3: direção ão viável Defiição..3 O epígrafo de uma fução epi(f ) = {( x,r ) IR IR; f( x ) r }. f : IR IR é o cojuto: Veja a figura.4 cuja parte colorida ilustra o epígrafo de f.

20 8 Figura.4 Defiição..4 Uma fução existe r > 0 tal que: f : IR IR é localmete lipschitiziaa com costate K em a IR se f( y ) f( x ) K y x, x, y B(a,r ) Defiição..5 Uma fução f : IR IR é dita. Positivamete homogêea quado f( λ x ) = λ f( x ), λ 0, x IR.. Subaditiva quado f ( x + y ) f ( x ) + f ( y ), x, y IR. Defiição..6 Uma matriz P é chamada de matriz projeção se P=P t e PP=P. Lema..: Seja P a matriz, etão:. Se P é uma matriz projeção, etão P é semidefiida positiva.. P é uma matriz projeção se, e somete se, I - P é uma matriz projeção.

21 9 Defiição..7 Sejam d IR tal que d = e α 0. Um operador R α (d ) com um vetor trasformação x da forma R α (d )x = ( α )( x.d )d + x é chamado operador de dilatação do espaço ao logo da direção d com coeficiete de dilatação α. Para a melhor visualização deste operador observe a figura.5 o seu efeito quado α < e quado α >. Note que se α < o vetor é cotraído e se α > o vetor é dilatado. Figura.5 Propriedades:. R (d ) = ( α ) d.d + I α ;. R (d ) x = R (d ) = ( )( x.d )d + x = d.d + I x α α α α ; 3. Rαβ (d ) = Rα(d ) Rβ ( β ) ; 4. Rα (d ) Rα( β ) = I; 5. x = R α (d ) y o qual y= R (d ) x, ou seja, y é obtido pela dilatação do vetor x ao logo da direção d depededo do valor de α. α

22 0 Defiição..8 Cosidere o problema de miimização: Miimizar sujeito a f(x) h(x) = 0 g(x) 0 Com f: IR IR, g: IR m IR, h: IR p IR, o qual, h(x)=(h (x), h (x),...,h p (x)) e g(x)=(g (x), g (x),...,g m (x)).. A fução f é deomiada fução objetivo.. As fuções h i : IR IR, i=,...,m, são deomiadas restrições de igualdade do problema. 3. As fuções g i : problema. IR IR, i=,...,m, são deomiadas restrições de desigualdade do 4. Uma restrição g i : IR IR será dita ativa o poto a IR se g i (a) = 0. Deotaremos por I(a) = { i; gi(a) = 0} o cojuto de restrições ativas o poto a. 5. O poto a do problema de otimização com restrição é dito poto regular, se o cojuto { gi(a); i I(a)} é liearmete idepedete. Defiição..9 Seja a um poto regular do problema Miimizar sujeito a f(x) h(x) = 0 (3.) Com f: IR IR e h: IR O espaço tagete em a é defiido como: T = { x / h(a).x = 0} p IR, o qual, h(x)=(h (x), h (x),...,h p (x)).

23 . Caso Difereciável Defiição.. A fução f : IR IR é difereciável o poto a IR quado existirem as derivadas f f parciais (a),..., (a) x x e, além disso, para todo vetor v=( v t,...,v ) IR tivermos f(a+v) = f(a) + i f r(v ) (a) vi + r(v) com lim = 0. = x v 0 i v Teorema..: Sejam d IR e f : IR IR difereciável em a. Se d. f(a) < 0 etão d é uma direção de descida para f em a. Teorema..: Seja f : IR etão f(a) = 0. IR difereciável em a IR. Se a é um poto de míimo local de f.3 Covexidade Existem muitos problemas em otimização os quais ão se dispõe da difereciabilidade das fuções evolvidas. Etretato, se essas fuções possuem certas propriedades como, por exemplo, a covexidade, pode-se cotar com resultados que facilitam a resolução de problemas de otimização. Veremos esta seção algus coceitos básicos sobre covexidade de cojutos e de fuções. Um estudo mais detalhado sobre covexidade pode ser ecotrado em [5], [44] e [53]. O texto clássico sobre esse assuto é [58].

24 Defiição.3. Seja C IR. Dizemos que C é um cojuto covexo quado λx + ( λ)y C, para todo x, y C e para todo λ [0, ]. Geometricamete, sigifica que ao uirmos dois potos quaisquer de C por um segmeto de reta, esse estará cotido em C. Caso cotrário, será ão-covexo. As figuras.6. e.7 ilustram esse coceito. figura.6: Não covexo figura.7: covexo Defiição.3.: x,..., x em j Uma combiação liear λ jx é chamada combiação covexa dos potos IR, se j 0 j = λ, j=,..., e λ j =. j =

25 3 Defiição.3.3: A evoltória covexa de C IR, deotada por cov C, é o cojuto de todas as combiações covexas de potos em C, ou seja, cov C é o meor cojuto covexo que cotém C. Tem-se que C é covexo se, e somete se, C = cov C. Defiição.3.4: Seja f : C IR uma fução defiida o cojuto covexo C IR.. f é covexa se f( λx + ( λ)y ) λf( x ) + ( λ)f( y ) para todo x, y C e para todo λ [0, ].. f é estritamete covexa se f( λx + ( λ)y ) < λf ( x ) + ( λ)f( y ) para todo x, y C e para todo λ [0, ]. No exemplo ilustrado pela figura.8, a fução ão é covexa pois existem potos para os quais f( λx + ( λ)y ) > λf( x ) + ( λ)f( y ). Por outro lado, o exemplo ilustrado a figura.9, a fução é covexa. Figura.8 (fução ão covexa)

26 4 figura.9 (fução covexa) O teorema.3. mostra a importâcia da covexidade das fuções os problemas de otimização. Teorema.3. Sejam C IR covexo e f : C IR uma fução covexa. Todo míimo local de f é também um míimo global. Se f for estritamete covexa, etão todo míimo local é o úico míimo global de f em C. Defiição.3.5 A orma míima de S, deotada por Nr S, é a meor orma de S. Isto é, para todo cojuto S IR existe um úico poto v o fecho da evoltória covexa de S tedo orma míima. Algebricamete, o poto é caracterizado pela relação: v.s v para todo s S. Defiição.3.6 O subdiferecial da fução covexa f : IR IR o poto a IR é o cojuto f(a) = { g IR ;f( x ) f(a) + g.( x a), x IR }. Os elemetos g f (a) são chamados de subgradietes.

27 5 Geometricamete, um subgradiete g defie um hiperplao suporte ão vertical ao epígrafo de f o poto (a, f(a)) como mostra a figura.0. Assim, g é um subgradiete de f o poto a se, e somete se, o hiperplao em + IR com ormal (-g,) que passa através de (a, f(a)), suporta o epígrafo de f. Figura.0. Defiição.3.7: Seja ε 0, etão o ε-subdiferecial de uma fução covexa f : IR IR em a IR é o cojuto f ε (a) = { g IR ;f( x ) f(a) + g.( x a) ε, x IR }. Os elemetos g f ε (a) são chamados de ε-subgradietes. A figura. ilustra um ε -subgradiete de uma fução covexa f. g é um ε - subgradiete em a, pois, o epígrafo de f está cotido o semi-espaço acima do plao em IR de ormal (-g,) que passa através de (a, f(a) ε ). figura.

28 6 Teorema.3. Seja f : IR IR uma fução covexa e difereciável em x IR, etão: f ( x ) = { f( x )} Teorema.3.3 Seja f : IR IR uma fução covexa. Etão, para todo x IR, f é localmete lipschitiziaa em x. cotiuidade. Uma coseqüêcia imediata do Teorema.3.4 é que covexidade implica em Teorema.3.4 Seja f : IR IR uma fução covexa com costate de Lipschitz K em x IR. Etão:. 0f( x ) = f( x ) ;. Se ε ε etão ε ( x ) ε ( x ) ; f f 3. f ε ( x ) é um cojuto ão vazio, covexo e compacto tal que g K, para todo g f ε ( x ); ε = ε ; 4. f ' ( x;d ) max { g.d ; g f( x ), d IR } 5. f ε ( x ) = { g IR ; f' ( x,d ) g.d, d IR }. Teorema.3.5 Seja f : IR IR uma fução covexa. As seguites codições são equivaletes: () f atige seu míimo global em a; () 0 f(a).

29 7 Teorema.3.6 (Teorema MiMax) Sejam A, B IR cojutos covexos e compactos. Etão mi x A max y B x.y = max mi y B x A x.y.

30 8 Capítulo 3 OTIMIZAÇÃO NÃO LINEAR DIFERENCIÁVEL Nesse capítulo itroduziremos o problema de otimização ão liear difereciável. Apresetaremos as codições de otimalidade e caracterizaremos suas soluções. Em seguida, apresetaremos algus dos métodos para resolvê-los. Um problema de otimização é ão liear quado a fução objetivo e/ou restrições são fuções ão lieares. Faremos uma breve exposição sobre otimização irrestrita, e também sobre otimização com restrições de igualdade e/ou desigualdades. 3. Otimização Irrestrita O problema de programação ão liear irrestrito é apresetado da seguite forma: (PNL ) Miimizar f(x) (3.) x IR com f : IR IR difereciável. Teorema 3.: (Codições ecessárias de primeira ordem) Seja f : IR IR, f C. Se x é um míimo local de f em IR etão f( x ) = 0. Teorema 3.: (Codições ecessárias de seguda ordem) Seja f : IR IR, f C. Se x é um míimo local de f em IR etão: f( x ) = 0 ; Hf( x ) é semidefiida positiva.

31 9 Teorema 3.3: (Codições suficietes de seguda ordem) Seja f : IR IR, f C. Se x IR, f( x ) = 0 e Hf( x ) >0 (hessiaa defiida positiva) etão x é um míimo local estrito de f em IR. As provas dos teoremas acima estão em [6]. 3.. Otimização com Restrições 3... Otimização com Restrições de Igualdade Cosideraremos o problema de otimização ão liear com restrições de igualdade represetado da seguite forma: Miimizar f(x) (PNL ) sujeito a h(x) = 0 (3.3) ode a fução objetivo f: IR e h(x)=(h (x), h (x),...,h p (x)). IR e as restrições h: IR p IR são fuções difereciáveis Determiaremos de forma ituitiva as codições de otimalidade de primeira ordem para uma fução de duas variáveis sujeita a uma restrição de igualdade: Miimizar f(x,y) sujeito a h(x,y) - c = 0 Na figura 3. estão represetadas as curva de ível f(x,y)= c, f(x,y)= c, f(x,y)= c 3 e f(x,y)= c 4 ode, supõe-se c < c < c 3 < c 4, e a curva h(x,y)=c. Note que o poto q ão pode ser extremo local de f, pois existem curvas de ível f que iterceptam h(x,y)=c em potos arbitrariamete próximos, tato ao lado direito de q cujo valor da fução é meor do que o valor o poto q, quato ao lado esquerdo de q cujo valor

32 0 da fução de f é maior do que o valor o poto q. Portato, q ão pode ser em máximo e em míimo local de f. figura 3. Vejamos agora, a curva de ível de f que passa pelo poto p e é tagete à curva h(x,y)=c. As curvas de ível iterceptam h(x,y)=c em potos arbitrariamete próximos, tato ao lado direito quato ao lado esquerdo do poto p. Podemos observar que o valor da fução esses potos é maior do que o poto p. Logo, o valor de f em qualquer poto diferete de p é sempre maior do que o valor da fução o poto p. Portato, p é um poto de míimo local de f. Se olharmos a curva h(x,y)=c como uma curva de ível da fução de duas variáveis h o ível c e se o vetor gradiete de h o poto p é diferete de zero ( h ( p) 0 ), etão ele é perpedicular à curva h(x,y)=c. Aalogamete, se vetor gradiete de f o poto p é diferete de zero ( f ( p) 0 ), etão ele é perpedicular à curva de ível f(x,y) = c. Como as curvas h(x,y)=c e f(x,y)=c são tagetes em p, tem-se que f( p) e h( p) devem ser paralelos como pode ser observado as figuras 3. e 3.3,. Logo, existe f( p) +λ. h( p) =0. λ IR tal que

33 Figura 3. Figura 3.3 Geeralizado obtemos o teorema 3.4. Teorema 3.4: (Codição ecessária de primeira ordem) vetor λ Seja x um poto regular de h(x)=0 e solução do problema (3.3). Etão existe um IR p tal que: f( x ) + λ.jh( x ) = 0 ; h(x ) = 0. Teorema 3.5: (Codição ecessária de seguda ordem) Seja x um poto regular de h(x)=0 e um míimo local do problema 3.3. Etão existe um vetor λ tal que f( x ) + λ.jh( x ) = 0 e h(x )=0 e a matriz

34 H( x, λ ) = Hf( x ) + p i = i λ Jh ( x i ) é semidefiida positiva sobre o espaço tagete, isto é, y.h( x, λ )y 0 para todo y T. t 3... Otimização com Restrição de Desigualdade Cosideraremos agora o problema de otimização ão liear com restrição de desigualdade que é represetado da seguite forma: Miimizar f(x) (PNL 3 ) sujeito a g(x) 0 (3.4) com f: IR IR e g: g (x),...,g m (x)). IR m IR o qual f e g são fuções difereciáveis e g(x)=(g (x), Obteremos, ituitivamete, as codições de otimalidade de primeira ordem para uma fução de duas variáveis sujeita a uma restrições de desigualdade: Maximizar f(x,y) sujeito a g(x,y) - b 0 Supoha que x seja uma solução do problema acima. Temos que g( x )=b ou g( x )<b. Se g( x )=b, ou seja, a restrição g está ativa o poto x, temos um caso semelhate ao caso de uma úica restrição de igualdade. Como x é um poto de míimo, etão f( x ) e ( x ) devem ser paralelos o g poto x. Podemos observar a figura 3.4 o qual c > c > c 3 > c 4, que f( x ) = µ h( x ) com µ 0. Logo, para µ 0 temos f( x ) + µ. h ( x ) =0.

35 3 Figura 3.4. Se g( x )< b, temos que x está o iterior do cojuto { x IR ; g( x ) b }. Como x é um poto de míimo local, etão deve satisfazer a regra de Fermat, ou seja, f( x ) =0. Logo temos: º caso: f ( x g( x ) = b µ 0 ) + µ g( x ) = 0 ou º caso: g( x ) < b f( x ) = 0 Podemos uificar os dois casos cosiderado o seguite sistema: µ [ g( x ) b] = 0 f( x ) + µ g( x ) = 0 µ 0 g( x ) b ( ) ( ) De fato, da codição temos que µ =0 ou ( x ) b = 0 g. Se µ =0 etão de temos que f( x ) =0, ou seja, x é um poto crítico, logo estamos o segudo caso. Se g ( x ) b = 0 etão g ( x ) = b, ou seja, estamos o primeiro caso. Logo, f( x ) + µ g( x ) = 0 para µ 0. Geeralizado obtemos o teorema 3.6.

36 4 Teorema 3.6: (Codição ecessária de primeira ordem) Seja x um poto regular de g(x) 0 e um míimo local do problema 3.4. Etão existe um vetor µ m IR tal que: f( x ) + µ.jg( x ) = 0 ; G( x ) µ =0; µ 0; g(x ) 0; com G( x ) = diag( g,g,...,g ). m Otimização com Restrição de Igualdade e Desigualdade Cosideraremos agora o problema de otimização ão liear com restrição de igualdade e de desigualdade que é represetado da seguite forma: (PNL 4 ) Miimizar f(x) h(x) = 0 g(x) 0 (3.5) com f: IR IR, g: IR m IR, h: IR p IR, o qual, f, g e h são fuções difereciáveis, h(x)=(h (x), h (x),...,h p (x)) e g(x)=(g (x), g (x),...,g m (x)). Teorema 3.7: (Codição ecessária de primeira ordem Karush-Khu-Tucer) Seja Etão existem vetores λ x um poto regular de g(x) 0 e h(x)=0 e um míimo local do problema 3.5. IR p e µ m IR tal que: f( x ) + µ.jg( x ) + λ.jh( x ) = 0 ; G( x ) µ =0; h( x )=0;

37 5 g(x ) 0; µ 0; com G( x ) = diag( g,g,...,g ). m Teorema 3.8: (Codição ecessária de seguda ordem) Seja Etão existem λ H( x, λ, µ x um poto regular de h(x)=0 e g(x) 0 e um míimo local do problema 3.5. IR p e µ ) = Hf( x ) + m IR tal que o teorema 3.6 é satisfeito e a matriz p i = i λ Jh ( x ) + i m i = µ i Jgi( xi ) t é semidefiida positiva sobre o espaço tagete, isto é, y.h( x, λ )y 0 para todo y T. Teorema 3.9 (Codições suficietes de seguda ordem) Seja x IR tal que h ( x ) = 0 e g ( x ) >0. Etão existem λ IR p e µ m IR com µ 0 tal que f( x ) +.Jg( x ) + λ.jh( x ) = 0 µ e H( x, λ, µ ) é defiida positiva sobre o espaço tagete. Etão x é um míimo estrito local do problema Algus Métodos de Otimização Não Liear Difereciável Foram desevolvidos vários métodos para resolver problemas de otimização ão liear difereciável. Faremos uma breve exposição de algus desses métodos que são importates para um melhor etedimeto dos métodos que estudaremos mais adiate Métodos de otimização para Problemas Irrestritos Os métodos mais cohecidos para resolver problemas difereciáveis irrestritos são os Métodos de Newto e o Método Gradiete. Porém, devido às dificuldades ecotradas

38 6 os Métodos Gradietes, como por exemplo, baixa velocidade de covergêcia, foram propostas algumas extesões desses Métodos Método de Newto do tipo De maeira geral, o Método de Newto é usado para resolver sistemas de equações φ ( x ) = 0 (3.6) o qual φ : IR IR, x ) = ( φ ( x ), φ ( x ),..., φ ( x )) é difereciável. φ( Dada uma estimativa x, o Método de Newto aproxima φ pelo hiperplao tagete o poto φ ( x ). As soluções do sistema formado pelo hiperplao forecem uma ova estimativa para x. Veja a figura 3.7 uma ilustração desse método. Figura 3.7 Para derivar as fórmulas utilizadas pelo método, vamos expadir φ ( x ) por uma série de Taylor (trucada) ao redor do poto x : φ ( x ) = φ ( x ) + φ ( x ) (x - x ) + ( x x )Hφ( x )( x x ) O hiperplao tagete é dado pelos dois primeiros termos da série, ou seja, y = φ ( x ) + φ ( x ) (x - x )

39 7 Fazedo y = 0, temos: φ ( x ) = - φ ( x ) (x - Cosiderado d = x - x ) x, obtemos φ ( x ) = - φ ( x ). d (3.7) Assim, a fórmula para ecotrar a direção de busca é dada por (3.7). Se substituirmos φ ( x ) por f( x ) a equação (3.6) temos f ( x ) = 0 (3.8) Podemos aplicar o Método de Newto em (3.8) para ecotrar os potos críticos de f, logo, podemos resolver problemas de miimização de fuções utilizado este método. Assim, substituido φ ( x ) por f( x ) a equação (3.7) obtemos f( x ) = Hf( x )d (3.9) Algoritmo Seja x IR o poto a -ésima iteração, t o tamaho do passo a -ésima iteração, f( x ) o gradiete de f o poto x, Hf( x ) a hessiaa de f o poto x. Cosidere tal que f ( x ) 0. Passo : Calcular d sedo que f ( x ) = Hf( x )d ; Passo (busca liear): Cosiderar t = e determiar t de modo que f( x t + t d ) < f( x ) + t α f ( x ) d, ode o parâmetro α ( 0, ). + Passo 3: fazer x = x + td e =+; Critério de parada: f( x ) ε ;

40 Algumas limitações Existem algumas dificuldades ecotradas esses métodos. Primeiramete, a covergêcia global ão é assegurada e a direção de busca pode ão ser uma direção viável. Outra dificuldade é ecotrar a hessiaa da fução, pois, a maioria das vezes é um processo computacioalmete caro. Se o úmero de variáveis for muito grade, a memória ecessária para armazear esta iformação pode ser isuficiete e este processo tora-se iviável. Para maiores detalhes dos Métodos de Newto, cosulte [5],[9], [6], [3] e [43] Métodos Gradietes Os Métodos Gradietes, também chamados de Métodos de Máxima Descida, são utilizados para resolver problemas de miimização sem restrições, cuja direção de busca em cada iteração é oposta à direção do gradiete, ou seja, d = f( x ). Essa direção é uma direção de descida Algoritmo Seja x IR, 0 ε > tal que f ( x ) 0. Passo: Calcular d = f( x ); Passo : (busca liear exata). Determiar t, que miimiza f( x + td ) sujeito a t > 0, ou seja, determiar t de modo que f( x + td ) < f ( x ) ; + Passo 3: fazer x = x + td e =+;

41 9 Critério de parada: f( x ) ε Iterpretação Geométrica 3.5. O Método Gradiete move-se em passos perpediculares, como ilustrado a figura Figura Covergêcia do Método Gradiete O algoritmo é globalmete covergete, ou seja, coverge para um míimo local de f a partir de qualquer poto iicial dado. Porém, a taxa de covergêcia é muito baixa. Com o ituito de melhorar a taxa de covergêcia, foram elaborados outros métodos baseados os Métodos Gradietes. Detre eles, destacam-se os Métodos de Gradietes Cojugados, que veremos a seguir. Em [9], [], [6], e [43] ecotra-se um estudo mais detalhado sobre os Métodos Gradietes.

42 Métodos de Gradietes Cojugados. Os Métodos de Gradiete Cojugados são baseados os Métodos Gradietes. A direção de busca é obtida pela soma da direção oposta ao gradiete com a direção aterior. Assim, a ova direção será: d = f( x ) + t d o qual, t é defiido como, por exemplo, por f( x ) t = 0 e t = para > 0. f( x ) O Método de Gradiete Cojugado é um método bastate eficiete e satisfatório especialmete para problemas de grade escala. Para um estudo mais aprofudado ver [5], [9], [] e [43] Métodos de otimização para Problemas com Restrições Apresetaremos agora, algus métodos para resolver problemas com restrições Método de Gradiete Projetado O Método de Gradiete Projetado foi elaborado para resolver problemas com restrições, o qual, projeta-se o oposto do gradiete de tal modo que melhora-se a fução objetivo e matém-se a viabilidade. Assim, para obter a direção projeta-se f( x ), ou seja, d = - P. f( x ), ode P é uma matriz projeção adequada. Em seguida é feita uma busca liear ao logo da direção ecotrada para determiar o tamaho do passo. Para melhor etedimeto, veja o exemplo

43 Exemplo Figura 3.6. ilustra o Método Gradiete Projetado para o seguite problema: mi f( x ) sa : Ax b o qual f : IR m IR é uma fução difereciável, A é uma matriz m, b IR é um vetor. Seja x o poto viável tal que A x b e Ax b ode A = ( A,A ) e b = (b,b ). Utilizamos a projeção P = I A t (A A t ) A. t t t t t t Bazaraa, em [5], prova que se a projeção é dada pela fórmula descrita ateriormete, etão d é uma direção viável. Figura 3.6 [9], [6] e [43]. Para melhores esclarecimetos sobre o Método Gradiete Projetado, cosulte [5],

44 Métodos de Pealidades Os Métodos de Pealidades, utilizados para resolver problemas com restrições, são métodos iterativos que a cada iteração trasformam o problema origial em outro problema que é irrestrito. Ou seja, iicialmete tem-se um problema com restrição, o qual, modificam-se as restrições e as icorpora a fução objetivo, obtedo-se assim, um problema sem restrições. Cosideramos, para facilitar a exemplificação, o seguite problema: (PNL ) Miimizar f(x) s.a. h(x) = 0 (3.3) Com f: IR IR, h: h (x),...,h p (x)). IR p IR e, o qual, f e h são fuções difereciáveis e h(x)=(h (x), Trasformaremos (PNL ) em um problema auxiliar irrestrito formado pela fução objetivo e um múltiplo das restrições do problema origial. Isto é, φ ( x, µ ) = f( x ) + µ m i = (h ( x )) i o qual o parâmetro µ>0. A idéia cetral desses métodos é que se µ cresce idefiidamete, a solução de φ ( x, µ ) será cada vez mais próxima da solução de (PNL ). Mas, segudo [6], a prática, quado µ é muito grade, pode-se obter resultados ão cofiáveis a resolução do problema irrestrito. Para cotorar esta dificuldade, foram itroduzidas modificações os Métodos de Pealidade. Assim, surgiu o Método Lagrageao Aumetado, o qual, a fução objetivo é dada da seguite forma: m φ ( x, λ, µ ) = f( x ) + µ λih i( x ) + µ (h i( x )) i = m i =

45 Métodos de Barreira Os Métodos de Barreira, em geral, são utilizados para resolver problemas com restrições de desigualdade. Ou seja, problemas do tipo: (PNL 3 ) Miimizar f(x) s.a. g(x) 0 (3.4) com f: IR IR, g: IR m IR, o qual, f e g são fuções difereciáveis e g(x)=(g (x), g (x),...,g m (x)). A região viável deve ter iterior ão vazio. A pricipal difereça etre o Método de Pealidade e o Método de Barreira, é que o primeiro método, as aproximações sucessivas das soluções podem ão ser viáveis, já o segudo, elas sempre serão viáveis [6]. Assim, a barreira faz com que as iterações permaeçam o iterior da região viável. Nesse método, uma barreira muito utilizada é barreira logarítmica, o qual a fução objetivo é represetada da seguite forma: f ( x ) = f( x ) µ µ i = log i x cujo f µ é estritamete covexa em IR + e o parâmetro µ>0. Em [5] e [43] ecotra-se mais detalhes sobre esses métodos Métodos de Direções Viáveis Nos Métodos de Direções Viáveis, em cada iteração, a direção de busca é uma direção viável. Dado um poto viável x, determia-se uma direção de busca d, de descida, e um tamaho de passo t >0, de modo que o próximo poto viável. Assim, obtém-se uma seqüêcia de potos viáveis. Para um estudo mais detalhado, cosulte [3] e [5] + x também seja

46 Métodos de Potos Iteriores Os Métodos de Potos Iteriores têm sido usados com sucesso para resolver Problemas de Programação Liear. Estes métodos são eficietes porque eles covergem, relativamete, em poucas iterações. Etretato, uma iteração de um Método de Potos Iteriores é mais cara do que a iteração do Método Simplex. Nos Método de Potos Iteriores, dado um poto viável iterior, gera-se ovos potos iteriores em uma vizihaça de uma trajetória cetral até atigir certa tolerâcia para uma solução ótima. Seu bom desempeho a prática e suas propriedades teóricas têm motivado a implemetação de códigos sofisticados para resolver problemas de grade porte. Hersovits [7] propôs um Método de Potos Iteriores e Direções Viáveis para solução de problemas com restrição, ode, em cada iteração uma direção de descida é calculada resolvedo-se dois sistemas de equações lieares com a mesma matriz. O algoritmo coverge globalmete, é de fácil implemetação e ão ecessita de solução de problemas quadráticos Método Afim Escala O Algoritmo Afim Escala foi desevolvido iicialmete para resolver problemas de programação liear, ou seja, Miimizar f ( x ) (PPL) sa : Ax = b x 0 m ode A IR tem posto m.

47 35 Cosidere o cojuto viável P = { x; Ax = b, x > 0}. Como miimizar f em um poliedro P pode ser um trabalho difícil, utiliza-se miimizar f em um elipsóide. Geometricamete, podemos descrevê-lo da seguite forma:. Cosidera-se o poto iicial 0 0 x P ;. Forma-se um elipsóide S cetrado em + 3. Ecotra-se x arg mi f( x ); Se x S x, com + x é a solução ótima, pare. Seão, vá para. 0 S P ; Assim, cada iteração iicia com um poto viável x, formado um elipsóide S cetrado em x com 0 S P e miimiza a fução objetivo em uma região viável, gerado uma direção de descida d, seguido de uma busca uidirecioal ao logo de t, a partir de para determiar o tamaho do passo. A figura 5.5 mostra o processo do algoritmo Afim Escala. x, Figura 5.5

48 36 O maior trabalho desse método é o do cálculo do ovo poto miimizar, em um hiperplao, uma fução liear um elipsóide. x, que cosiste em Segudo Jussiai em [34], o algoritmo resolve uma seqüêcia de problemas mais simples cujas soluções devem covergir para uma solução ótima do problema Métodos Quase-Newto Os Métodos Quase-Newto utilizam uma aproximação da matriz hessiaa de modo que o trabalho computacioal resultate é meor que o do Método de Newto. Detre eles destacam-se o Método DFP e o Método BFGS. Nesses métodos, é dada uma matriz simétrica iicial como, por exemplo, a matriz idetidade, e a cada iteração a matriz é atualizada através de uma fórmula DFP Este método de atualização da matriz hessiaa foi proposto por Davido, Fletcher e Powell [3]. Cosidere d = B f( x ), a atualização é feita da seguite forma: B + = B t γγ B δ δ B + t t δ γ δ B δ t o qual K + + δ = x x e γ = f( x ) f( x ). A fórmula para atualizar B é recursiva, e como pode ser observado, é obtida através de uma correção de B.

49 BFGS Outra fórmula bastate utilizada devido ao seu bom desempeho é a atualização de Broyde-Fletcher-Goldfarb-Shao. Para atualizar a hessiaa a partir de B é calculada a iversa, ou seja, em vez de ecotrarmos B, podemos ecotrar a iversa de B. Cosidere d = B f( x ), a atualização de B é feita de acordo com a seguite formula: B + = B t + δ B + t δγ t δ γ λ γδ B + B + t t γ δ δ γ δ γ t o qual K + + δ = x x e γ = f( x ) f ( x ). A vatagem em termos de trabalho computacioal dos métodos DFP e BFGS é que o úmero de operações para determiar d é meor do que o método de Newto. Para um estudo mais detalhado dos Métodos Quase-Newto, cosulte [3], [9], [9], [3] e [43].

50 38 Capítulo 4 Itrodução aos Métodos Não Difereciáveis No capítulo aterior vimos as codições de otimalidade para problemas de otimização ão liear difereciável e algus métodos para resolver tais problemas. A ão difereciabilidade gera uma série de dificuldades que acarretam a iviabilidade de aplicação dos algoritmos para problemas difereciáveis em problemas ão difereciáveis. A primeira dificuldade aparece a etapa que determia a direção de busca, pois a direção obtida ão é ecessariamete uma direção de descida, e cosequetemete, a busca liear ão pode ser aplicada. Outra dificuldade é estabelecer um critério de parada que, a maioria das vezes, ão fica bem defiido. Por exemplo, o critério de parada que utiliza f( x ) ε, para algum ε > 0 ão pode ser aplicado em problemas ão difereciáveis. Veja o exemplo: cosidere f : IR IR defiida por f ( x ) = x. Tem-se f( x ) =, x 0, ão importado o quato x esteja próximo da solução x = 0. Portato, ão é possível gerar uma seqüêcia de gradietes que tede para zero. 4. Métodos de Otimização Não Difereciável. Etre os métodos para resolver problemas de otimização ão difereciáveis se destacam os Métodos Subgradietes, os Métodos de Plaos de Corte e os Métodos de Feixes. Neste capítulo, faremos uma breve exposição acerca dos pricipais métodos para resolver problemas ão difereciáveis. Cosideraremos a hipótese de que para todo x IR, pode-se calcular o valor da fução f em x e um subgradiete g f( x ).

51 39 Nosso foco será o seguite problema: (P) Miimizar f(x) x IR com f : IR IR covexa e ão difereciável Métodos Subgradietes Os Métodos Subgradietes, que surgiram a década de 60 a atiga Uião Soviética, foram os primeiros métodos criados para resolver problemas de otimização ão difereciáveis. Este método, baseado o Método Gradiete para problemas difereciáveis, utiliza a direção oposta a um subgradiete como a direção de busca. Os Métodos Subgradietes possuem uma estrutura extremamete simples mas, ão apresetam bos resultados uméricos. Recetemete foram publicados vários trabalhos que utilizam os Métodos Subgradietes [6], [3], [5], [7, [4], [47], [48], [49] e [5], o que os motivou a estudar esses métodos. O objetivo pricipal deste trabalho é estudar com mais detalhes os Métodos Subgradietes, o que faremos o capítulo Métodos de Plaos de Corte Os Métodos de Plaos de Corte utilizam subgradietes em um dado poto costruir uma aproximação liear para uma fução covexa ão liear f, isto é: i x para i i i f (x) max{ f( x ) + g.( x x )}, ode i i g f ( x ) e i =,,.... Assim, o problema (P) é substituído por:

52 40 (P ) mi max{ f ( x i ) + g.( x x ), x IR i i i =,,...} que é equivalete a: (P ) sa : f ( x i Miimizar i i z ) + g.( x x ) z, i =,,... Os Métodos de Plaos de Corte são baseados em progressivos refiametos de aproximações poliedrais do epigrafo de f. Portato, o problema ( P ) é liear cuja solução (caso exista) é apeas uma aproximação da solução de (P). Etretato, quato mais plaos de corte são acrescetados, mais precisa fica a aproximação da solução Algoritmo Seja x o poto iicial, x o poto a -ésima iteração, t o tamaho do passo essa iteração, g um subgradiete da fução o poto x, e f( x ) o cojuto de todos os g. Cosidere uma dada tolerâcia tol 0, um cojuto S ão vazio compacto covexo que cotém o poto míimo de f e a fução f ~ (x) max{ f( x ) + g.( x x ), i =,,..}. º passo: Escolher x S e tomar =. Defia f. º passo: Obter: g f( x ) e f ( x ) e computar o decréscimo omial α ~ f( x ) f ( x Critério de parada: ) α tol 3º passo: Escolher t apropriado, por exemplo, t =. ~ i i i

53 4 4º passo: Ecotrar ~ + x + d S d arg mi f ( x d ). 5º passo: Defiir x + = x t.d e =+. Retorar para o º passo. Note que o algoritmo de plaos de corte utiliza além das iformações atuais, as iformações obtidas em iterações ateriores. A figura 4. ilustra o processo do algoritmo de plaos de corte em um exemplo simples. figura 4. Um problema ecotrado esses métodos é que um úmero crescete de fuções afis que defiem o modelo se acumula, dificultado a resolução do problema. Outro problema ecotrado é que o método ão garate o decréscimo da fução objetivo. Tal fato pode ser observado a figura 4., quado itroduzimos um modelo f 3 de uma fução afim quase horizotal. Note que o poto x 3 foi ecotrado um α > tol, portato, o processo cotiua obtedo f( x ) < f( x )