UM ALGORITMO PROXIMAL COM DISTÂNCIAS DE BREGMAN PARA OTIMIZAÇÃO QUASE-CONVEXA

Transcrição

1 UM ALGORITMO PROXIMAL COM DISTÂNCIAS DE BREGMAN PARA OTIMIZAÇÃO QUASE-CONVEXA Sissy da Silva Souza Istituto de Esio Superior Fucapi Coordeação de Egearia de Produção Elétrica, Bloco G, Maaus, AM. Paulo Roberto Oliveira Uiversidade Federal do Rio de Jaeiro Cidade Uiversitária, Cetro de Tecologia, Bloco H, Rio de Jaeiro, RJ João Xavier da Cruz Neto Uiversidade Federal do Piauí Campus Miistro Petrôio Portela Iigá, Cetro de Ciêcias da Natureza, SG 04, Teresia, PI Atoie Soubeyra Uiversitè d'ai-marseille II GREQAM, Fraça RESUMO Neste trabalo apresetamos um método iterior-proimal com distâcia de Bregma, cuja fução de Bregma é separável e a zoa é o iterior do ortate postitivo, para resolver problemas de otimização quase-covea sob restrições de positividade. Estabelecemos a boadefiição da seqüêcia gerada por osso algoritmo e provamos covergêcia a um poto solução quado a seqüêcia dos parâmetros tede a zero. Quado os parâmetros são limitados por cima, ós obtemos covergêcia a um poto KKT. PALAVRAS-CHAVE. Algoritmos de Potos Iteriores. Métodos Proimais. Distâcias de Bregma. Problemas de Otimização Quase-covea. Programação Matemática. ABSTRACT I tis wor we preset a iterior proimal poit metod wit Bregma distace, wose Bregma fuctio is separable ad te zoe is te iterior of te positive ortat, for solvig quasicove optimizatio problems uder oegative costraits. We establis te welldefiedess of te sequece geerated by our algoritm ad we prove covergece to a solutio poit we te sequece of parameters teds to zero. We te parameters are bouded above, we get te covergece to a KKT poit. KEYWORDS. Iterior poit algoritms. Proimal metods. Bregma Distaces. Quasicove optimizatio problem. Matematical Programmig. [2353]

2 1. Itrodução Este trabalo cocere um algoritmo de método iterior-proimais para ecotrar soluções para problemas de otimização defiidos como: (P) mi f ( ) s.a. R. Cosideramos as seguites ipóteses: (H1) f : R R { } é uma fução quase-covea, própria e cotiuamete difereciável; (H2) S (P), o cojuto solução de (P), é ão-vazio. Lembramos que o algoritmo de poto proimal clássico, APP, para o problema de ecotrar zeros de um operador T, veja Rocafellar (1976), é um método iterativo que iicia em um poto 0 1 R e gera sucessivamete uma seqüêcia de potos, tais que 0 T ( ), T ( ) = T ( ) λ ( ), e λ é uma seqüêcia de úmeros reais positivos, coveietemete escolida. Diversos trabalos posteriores propuseram geeralizações do APP, substituido o termo quadrático por fucioais tipo-distâcia, tais como distâcias de Bregma, ϕ -divergêcias e o método logarítmico-quadrático, veja por eemplo, Ausleder at al (1999), Buraci e Iusem (1998), Ecstei (1993), Quiroz e Oliveira (2006), Teboulle (1997) e suas referêcias. Problemas quase-coveos possuem um vasto campo de aplicações as áreas de ciêcias e egearias, tais como ecoomia, teoria da locação, teoria do cotrole e teoria da aproimação, veja por eemplo, Bajoa-Xadri e Martiez-Legaz (1999) e Gromico (1998). Porém, aida á poucos trabalos voltados ao estudo de (P), quado a fução objetivo é quasecovea, veja Attouc e Teboulle (2004), Cua e outros (2006), Quiroz e Oliveira (2006). Para resolver o problema (P) ós propomos um método proimal de potos iteriores com distâcia de Bregma, deotado por IPDB, para resolver o problema (P). Cosideramos fuções de Bregma separáveis, com a zoa sedo o iterior do ortate positivo. Estabelecemos a boa-defiição da seqüêcia gerada por osso método, e mostramos que o algoritmo ão cicla. Fialmete provamos covergêcia a um poto KKT de (P) quado os parâmetros de regularização são apeas limitados, e, quado a seqüêcia dos parâmetros tede a zero, obtemos covergêcia a um poto solução do problema estudado. Uma importate aplicação deste trabalo ecotra-se em ecoomia, a iterpretação do algoritmo proimal em termos de procedimetos racioais (escolas feitas por um idivíduo diate de opções diversas) com a distâcia de Bregma como custos de reação (do idivíduo) (see Souza e outros (2007)). A estrutura do trabalo é simples. Na Seção 2 apresetamos uma breve coletâea de resultados sobre quase-coveidade e distâcias de Bregma. Na Seção 3 defiimos o Algoritmo e apresetamos os resultados obtidos. A coclusão é dada a Seção 4, e as referêcias a Seção 5. Usaremos a seguite otação: R = {( 1,..., ) R : 0, i = 1,..., } R i ; = {( 1,..., ) R : > 0, i = 1,..., } i ; { } = { : R, < ou = } R ;.,. e. deotam o produto itero Euclideao e a orma Euclideaa, respectivamete; f () e ( f ( )) i deotam o gradiete de f() e a i-ésima derivada parcial de f(), respectivamete; f deota a derivada parcial de f com respeito a sua primeira compoete. [2354]

3 2. Prelimiares Apresetaremos esta seção propriedades básicas sobre fuções quase-coveas e distâcias de Bregma. Defiição 1. Uma fução f R : R é quase-covea se, para cada e y R, f(t (1 - t) ma { f(), f(}; para todo t (0,1). Muitas propriedades de fuções coveas ão valem para fuções quase-coveas. Por eemplo, a soma de fuções quase-coveas ão é em geral uma fução quase-covea. Isto 2 pode ser ilustrado através da soma das fuções f() =, e g()= para 1, caso cotrário, g()=1. O resultado abaio apreseta uma caracterização para fuções quase-coveas difereciáveis. A prova pode ser ecotrada em Bazaraa (1993). Teorema 1. Seja f : R R uma fução difereciável. Etão, f é quase-covea se, e somete se, vale o seguite: Se, y R e f() f(, etão f (, y 0. Apresetamos a seguir a defiição de fuções e distâcias de Bregma e suas propriedades usuais. Sejam S um subcojuto coveo e aberto de R e S seu feco. Cosideramos uma fução covea : S S e seja D : S S R tal que D = ( ) ( (, y. Defiição 2. A fução é camada uma fução de Bregma com zoa S se: (B1) é estritamete covea e cotíua sobre S ; (B2) é cotiuamete difereciável sobre S; (B3) Dados quaisquer S e δ R, o cojuto de ível parcial à direita, LD δ ) = { y S : D δ}, é limitado; (B4) Se y { } S coverge para y etão D ( y, y ) coverge a 0. A defiição clássica de fução de Bregma, apresetada pela primeira vez em Cesor e Let (1981) e baseada em Bregma (1967), requer duas codições adicioais. Porém, estas foram provadas ser obtidas das codições (B1)-(B4), como visto por eemplo em Bausce e Borwei (1997) e Solodov e Svaiter (2000). Estes resultados são apresetados abaio. Proposição 1. O cojuto parcial de ível L ( δ, = { S : D δ } D é limitado para todo y S. Proposição 2. Se { z } S é limitada, y { } S coverge para y, e lim D ( z, y ) = 0,, etão lim z = y. A seguir apresetamos coecidas propriedades das fuções de Bregma. Proposição 3. Seja uma fução de Bregma com zoa S. Etão, (i) D D z) D ( z, = ( ( z), z para todo S, y, z S ; (ii) D = ( ) ( para todo, y S ; (iii) D (, é estritamete covea para todo y S. [2355]

4 Cosideramos a subclasse de fuções de Bregma, camadas fuções zoa coercivas, que satisfazem: (B5) Para todo y R eiste S tal que ( ) = y. Quado uma fução de Bregma tem a forma ( ) = i= 1 i ( i ) dizemos que, e a sua distâcia de Bregma associada, D, são separáveis. Quado é uma fução de Bregma separável com zoa = R a codição (B5) sigifica que i ( 0, ) = (, ) (isto é, i é sobrejetora em (por (B1)), temos que lim ( t) =. 2. Método IPDB i t 0 S R ), e como i é crescete Para defiir o método IPDB, escolemos uma seqüêcia de úmeros reais positivos β } satisfazedo: { (R1) 0 β β, para algum β > 0, < e cosideramos D uma distâcia de Bregma associada a uma fução de Bregma, com zoa S R = e tal que (R2) é separável e zoa coerciva. Algoritmo IPDB Iicialização: Escola Passo Iterativo: Dado 0 R R Se f ( ) = 0 pare, seão,, 1 ecotre z R : z arg mi{ f ( ) } ode Faça = 1. f R, (1) ( ) = f ( ) β D ). (2) 2.1 Eistêcia e Propriedades Devido às ipóteses sobre f, os requerimetos sobre obtemos que Proposição 4. Eiste 1 R satisfazedo (1). Observação 1. Da última proposição temos que z mi{ f ( ) } D e as Proposições 1 e 3(ii), arg é tal que R z R. Portato, das codições de otimalidade resulta que f ( ) = 0, e assim, [2356]

5 1 1 f ( z) = β D ( z, ) N. Particularmete, f ( ) = β D (, ) N. Usado a observação acima provamos que todas as iteradas sucessivas são diferetes, o 1 que por outro lado, também implica que l para todo 1 e l <. Isto é, obtemos o seguite resultado. 1 Proposição 5. A seqüêcia { } gerada pelo Algoritmo IPDB ão cicla. 1 Da última proposição e pela defiição de, obtemos: 1 Proposição 6. Seja { } a seqüêcia gerada pelo Algoritmo IPDB. Etão: 1 1 (i) 0 < β D (, ) f ( ) f ( ) para todo N ; = (ii) β D (, ) < e, portato, lim β D (, ) = 0 ; (iii) { f ( )} é uma seqüêcia estritamete covergete e decrescete. 2.2 Aálise de Covergêcia Usado a Observação 1, a Proposição 3 e o Teorema 1, provamos que 1 1 Lema 1. D (, ) D (, ) D (, ) para todo N e qualquer S (P). O lema acima resulta 1 Proposição 7. A seqüêcia { } gerada pelo Algoritmo IPDB é limitada. 1 O resultado acima implica a eistêcia de um poto de acumulação de { }. A Proposição 6, a propriedade (B4) e a Proposição 1 implicam que este poto de acumulação é úico, ou seja, 1 Proposição 8. A seqüêcia { } gerada pelo Algoritmo IPDB é covergete. Em lias gerais, pelos resultados obtidos as Proposições 3 e 4 e Observação 1, e pelos Requerimetos R1 e R2, provamos covergêcia a um poto KKT, isto é, 1 Teorema 2. A seqüêcia { } gerada pelo Algoritmo IPDB coverge para um poto KKT do problema (P). Sob a ipótese adicioal (R3) lim β = 0, e usado as Proposições 6 e 8, mostramos que Teorema 3. Se { 1 β } satisfaz (R3) etão a seqüêcia { } gerada pelo Algoritmo IPDB coverge para uma solução do problema (P). Fializamos com uma estimativa de covergêcia. 1 Proposição 9. Seja { } a seqüêcia gerada pelo Algoritmo IPDB. Etão para qualquer R, vale a seguite estimativa de covergêcia: m 1 0 m j 1 j 1 f ( ) f ( ) < ( D ) D )) mi r ( ), σ j= 0,..., m 1 m [2357]

6 1 r j ( v) ode lim = 0, para todo j = 0,..., m 1. v 0 v 3. Coclusões Aalisamos o algoritmo de poto proimal associado a distâcias de Bregma para miimização de fuções quase-coveas o ortate positivo. Além de mostrarmos a eistêcia das iteradas, obtivemos que o algoritmo ão cicla. Por fim, mostramos covergêcia do algoritmo a um poto KKT, e com a ipótese adicioal que os parâmetros de regularização tedem a zero, mostramos covergêcia a um poto solução do problema estudado. 4. Referêcias Attouc, H. e Teboulle, M. (2004), Regularized Lota-Volterra dyamical system as cotiuous proimal-lie metod i optimizatio, J. Optim. Teory Appl., 121, Ausleder, A e Teboulle, M e Be-Tiba, S. (1999), A Logaritmic-Quadratic Proimal Metod for Variatioal Iequalities, Computatioal Optimizatio ad Applicatios, 12, Bajoa-Xadri, C. e Martiez-Legaz, J. E. (1999), Lower subdifferetiability i miima fractioal programmig, Optimizatio, 45, Bausce, H.H. e Borwei, J.M. (1997), Legedre fuctios ad te metod of radom Bregma projectios, Joural of Cove Aalysis, 4, Bazaraa, M.S., Serali, H.D. e Setty, C.M. (1993), Noliear programmig: teory ad algoritms, 2d Editio, Jo Wiley ad Sos Ic., New Yor. Bregma, L.M. (1967), Te relaatio metod for fidig te commo poit of cove sets ad its applicatio to te solutio of problems i cove programmig, USSR Computatioal Matematics ad Matematical Pysics, 7, Buraci, R.S. e Iusem, A.N. (1998), A geeralized proimal poit algoritm for te variatioal iequality problem i a Hilbert space, SIAM Joural o Optimizatio, 8, Cesor, Y. e Let, A. (1981), A iterative row-actio metod for iterval cove programmig, JOTA, 34, Cua, F.G.M., Cruz Neto, J.X. da e Oliveira, P.R. (2006), A proimal poit algoritm wit ϕ - divergece to quasicove programmig, Preprit. Ecstei, J. (1993), Noliear proimal poit algoritms usig Bregma fuctios, wit applicatios to cove programmig, Mat. Oper. Res., 18, 1, Gromico, J. (1998), Quasicove optimizatio ad locatio teory, Kluwer Academic Publisers, Dordrect, Te Neterlads. Quiroz, E.P. e Oliveira, P.R. (2006), Proimal Poit Metods for Quasicove ad Cove Fuctios wit Bregma Distaces o Hadamard Maifolds, to appear i J. Cove Aal. Rocafellar, R.T. (1976), Mootoe operators ad te proimal poit algoritm, SIAM J. [2358]

7 Cotrol Optim., 14, Solodov, M.V. e Svaiter, B.F. (2000), A ieact ybrid geeralized proimal poit algoritm ad some ew results o te teory of Bregma fuctios, Mat. Oper. Res., 25, 2, Souza, S.S., Oliveira, P.R., Cruz Neto, J.X. e Soubeyra, A (2007), A proimal poit algoritm wit Bregma distaces for quasicove optimizatio over te positive ortat, Preprit. Teboulle, M. (1997), Covergece of proimal-lie algoritms, SIAM J. Optim., 7, [2359]