Método do Gradiente Projetado Para Funções Convexas Generalizadas

Transcrição

1 Método do Gradiente Projetado Para Funções Convexas Generalizadas Milton Gabriel Garcia dos SANTOS 1. Instituto de Matemática e Estatística, Universidade Federal de Goiás, Campus II- Caixa Postal 131, CEP Goiânia, GO, Brasil. [email protected] Palavras chaves: Gradiente Projetado, Quase convexidade, Pseudo Convexidade, Busca de Armijo. 1 Introdução Em 2003, IUSEM (veja [1]]) estudou algumas propriedades de convergência do Método do Gradiente Projetado com a Busca de Armijo sobre as direções viáveis para problemas de otimização convexa, isto é, o problema inicial é: min s.a. x C f(x), (1) onde C R n é não vazio, fechado e convexo e f : R n R é uma função continuamente diferenciável e convexa. O Método do Gradiente Projetado conceitual e apresentado como: Método 1 (Método do Gradiente Projetado com regra de Armijo ). Inicialização. Tome 0 < β < β and x 0 C. Set k = 0. Critério de parada. Se x k é estacionário então PARE. Caso contrário. Passo iterativo. Calcule z k = P C (x k β k f(x k )), x k+1 = x k + γ k (z k x k ), onde {β k } [ β, β] tal que γ k = 2 j(k) sendo que j(k) = { min j N : f(x k+1 ) f(x k ) + σ2 j f(x k ) t z k x k }, e σ (0, 1). e VOLTE para Critério de parada. Foi provado para o caso convexo que: 1 Bolsista CAPES

2 (i) Dada {x k } uma seqüência gerada pelo algoritmo acima, temos que se ela é infinita e, se o problema inicial possui ao menos uma solução, então os pontos de acumulação da seqüência gerada, quando existem, são estacionários. (ii) Sob a hipótese de f ser convexa e supondo que o problema inicial possui solução a seqüência x k infinita gerada pelo algoritmo acima converge a alguma solução do problema. Tendo em mente os resultados expostos acima e baseado então, no artigo [2], nosso trabalho é estudar casos um pouco mais gerais, isto é, no caso que as funções objetivo são quase convexas ou pseudo convexas. Para este caso o Algoritmo continua sendo o mesmo, e a busca segue sendo a Busca de Armijo sob direções viáveis. 2 Resultados e Discussão 2.1 Definições Preliminares Definição 1. Dizemos que um ponto x R n é um ponto estacionário ou crítico para problema inicial, quando f( x), x x 0, x C. Definição 2. (Funções Quase-convexas) Uma função real f definida sobre um conjunto C R n é dita quase-convexa sobre x C (com respeito a C) se para cada x tal que f(x) f( x), a função f não assume um valor maior que f( x) sobre cada ponto da intersecção do segmento fechado [ x, x], ou equivalentemente: x C f(x) f( x) = f[(1 λ) x + λx] f( x). 0 λ 1 (1 λ) x + λx C E dizemos que f é quase-convexa em C se é quase-convexa em cada ponto x C. Quando f : C R é diferenciável e quase-convexa em x, então a definição acima é equivalente a condição: f(y) f(x) f(x), y x 0, x, y C.

3 Definição 3. Seja f uma função real definida sobre algum conjunto aberto do R n contendo o conjunto C, f é dita pseudo-convexa sobre x C (com respeito a C) se é diferenciável sobre x e dado x C temos, f( x), x x 0 f(x) f( x). Dizemos que f é pseudo-convexa sobre C, se é pseudo-convexa sobre cada x C. Teorema 1. Sejam C R n um conjunto convexo, e f uma função real definida em algum conjunto aberto que contém C. Se f é pseudo-convexa em C então f é quase-convexa em C. Demonstração. Veja página 143 de [3]. Seja w R n e C R n não vazio, fechado e convexo. O operador P C : R n C definido por P C (w) := argmin x w, x C, é chamado a Projeção de w sobre o conjunto C. 2.2 Análise de Convergência Proposição 2. Sejam {x k } e {z k } a sequências geradas pelo método (1). i. A iteração x k C para todo k; ii. Se x k não é ponto estaionário, então f(x k ), z k x k < 0; iii. Para cada k, j(k) está bem definido. Proposição 3. Se o problema inicial (1) possui solução. Então todo ponto de acumulação de {x k } é ponto estacionário, onde essa seqüência é gerada pelo método (1). Lema 4. Para todo x C e todo k, nós temos: x k+1 x 2 x k x 2 + η(f(x k ) f(x k+1 )) + 2γ k β k f(x k ), x x k, onde η = 2 β/δ. Corolário 5. Se f é quaseconvexa, x C e f(x) f(x k ) k, então ηf(x) x k+1 x 2 + ηf(x k+1 ) x k x 2 + ηf(x k ), para todo k. Em particular, { x k x 2 + ηf(x k )} e {x k } são sequências convergentes.

4 Teorema 6. [Principal] Assumindo que f é quase convexa. Então temos: i. A sequência {x k } converge para um ponto estacionário, ou ii. O problema inicial não tem solução, lim k xk =, lim f(x k ) = inf{f(x) x C}. k Demonstração. Existe então, dois casos para se analisado. Primeiro caso, quando a sequência possui ao menos um ponto de acumulação e o segundo quando a sequência não possui pontos de acumuulação. 1 o Caso) Seja x um ponto de acumulação de x k, então existe uma subsequência x k j convergindo a x e daí temos que f(x k j ) f( x) e como {f(x k )} é convergente resulta que f(x k ) f( x), o que nos dá f( x) f(x k ) e pelo corolário (5) x k é convergente e pela proposição 3 x é um ponto estacionário. 2 o Caso ) Suponhamos que a sequência x k não possui nenhum ponto de acumulação, ou seja, lim k x k = e suponha que o problema inicial possua um minimizador, isto é, existe x C tal que f( x) f(x k ) para todo k. Pelo corolário 4 x k converge, o que contradiz a hipóteses de lim k x k = e então o problema inicial não possui solução. Além disso, afirmamos que lim k f(x k ) = inf{f(x) : x C} Observamos que se lim k f(x k ) = lim k f(x k ) = inf{f(x) : x C}. Agora se lim k f(x k ) = f inf{f(x) : x C}. Assumimos que f > inf{f(x) : x C}. Pela continuidade de f existe um x tal que f( x) = f e f( x) f(x k ) para todo k, pois essa sequência é decrescente. Isto implica pelo corolário (5) que x k é convergente, contradizendo nossa hipótese inicial, ou seja, lim k f(x k ) = inf{f(x) : x C}. OBS: Provamos então que, se a seqüência possui pontos de acumulação, ela converge para algum desses pontos e o mesmo é estacionário. Se a seqüência não possui pontos de acumulação, o conjunto solução é vazio. Defina T = {x C : f(x) f(x k ) k}, podemos notar que se o conjunto solução do problema inicial não for vazio ou existir pontos de acumulação temos que T

5 Corolário 7. Assumindo que f é pseudo convexa. então o conjunto solução do problema inicial é não vazio se, e somente se, existe ao menos um ponto de acumulação da sequência. Demonstração. Pelo teorema 5 da página 143 de [3], pseudo convexidade nos garante que f é estritamente quase convexa e como f é continua pelo teorema 3 da pagina 139 de [3] f é quase convexa. ( ) Suponha que o conjunto solução é não vazio, isto é, existe um minimizador, x tal que f( x) f(x k ) k pelo corolário 5 x k converge e pelo teorema 6 converge a um ponto estacionário e esse ponto é de acumulação. ( ) Suponha que exista pelo menos um ponto de acumulação x de x k o que implica que f( x) f(x k ) para todo k. Pelo corolário 4 e 5 e o teorema 6, x k converge a um ponto estacionário, isto é, f( x), x x 0, mas pela pseudo convexidade temos que f(x) f( x) para todo x C, logo o conjunto solução é não vazio, o que conclui a demonstração. 3 Conclusões Com este trabalho podemos ver alguns resultados importantes para casos mais gerais, mesmo enfraquecendo a hipóteses de convexidade da nossa função objetivo. Provando boas propriedades de convergência, como a existência de solução somente se a sequência possuir ponto de acumulação, e que se existir esses pontos a sequência gerada pelo Algoritmo converge para algum desses pontos de acumulação, e estes são estacionários. Referências [1] A. N. IUSEM - On the convergence properties of the projected gradient method for convex optimization, Computational and Applied Mathematics, 22, (2003). [2] J.Y. Bello Cruz, L.R. Lucambio Pérez - Convergence of a projected gradient method variant for quasiconvex objectives, Nonlinear Analysis, 10, (2010). [3] Olvi L. Mangasarian - Nonlinear Programming, In Applied mathematics., (1994).