MÉTODOS PARA OTIMIZAÇÃO NÃO-LINEAR IRRESTRITA

Transcrição

1 Universidade Estadual de Campinas FACULDADE DE ENGENHARIA ELÉTRICA E COMPUTAÇÃO Otimização Não-Linear MÉTODOS PARA OTIMIZAÇÃO NÃO-LINEAR IRRESTRITA Autor: Tiao Aostinho de Almeida

2 INTRODUÇÃO Considere o seuinte problema irrestrito: minimizar ƒ(), Є R n Muitos aloritmos de otimização irrestrita assumem a seuinte estrutura eral: Escolha ε > 0, o e faça = 0 while f ( ) ε : Encontre d Є R n T tal que f ( ) d < 0 : Determine α ar minα f ( + αd ) : = > 0 3: Faça + := + α d e := + end * = Notas T. No passo determina-se uma direção de descida. A condição f ( ) d < 0 arante que f decresce na direção d a partir de para α > 0. No passo é realizada um busca linear para encontrar o tamanho do passo α que minimiza na direção d a partir de f 3. No passo 3 um novo ponto é calculado. O critério de parada é (idealmente, f ( ) = 0 ) f ( ) < ε Eemplo No método do radiente, se f ( ) ε, então d : = f ( ) é tal que ( T f ) d < 0 e a busca linear assume a forma α : α 0 = ar min > f ( α f ( )) Eistem vários métodos para encontrar o valor de α = ar min > f ( α f ( )), no entanto, neste trabalho utilizamos apenas o Método : α 0 da Falsa Posição devido a sua simplicidade e eficiência.

3 MÉTODO DO GRADIENTE O Aloritmo do Gradiente Ótimo pode ser resumido no seuinte procedimento: 0 Escolha ε > 0 e. Calcule 0 = f ( 0 ) e faça = 0 while end * = ε α = ar min f ( + = α = f ( : = ) α ) - A cada iteração minimiza-se f ao lono da direção de maior descida, f ; - O aloritmo é lobalmente converente, ou seja, convere para um mínimo 0 local de f a partir de qualquer ponto inicial ; MÉTODO DE NEWTON O Aloritmo de Newton pode ser resumido no seuinte procedimento: 0 Escolha ε > 0 e. Calcule 0 = f ( 0 ) e faça = 0 while end * = ε α = ar min f ( α + = α [ F( ) ] = f ( : = ) ) - O Método de Newton apresenta converência quadrática próima do mínimo local;

4 MÉTODO DE FLETCHER-REEVES (DIREÇÕES CONJUGADAS) O Aloritmo de Fletcher-Reeves pode ser resumido no seuinte procedimento: 0 Escolha ε > 0 e. Calcule 0 = f ( 0 ) while end * = 0 0 ε 0 0 d = for = 0 : n α = ar min f ( if + end end 0 n = 0 = f ( 0 ) = + α d + + = f ( ) < n then ( ) β = ( ) d = α T T + ) + β d - A cada n passos, uma iteração de radiente é eecutada. Passos intermediários não aumentam o valor de f ; - A converência se dá em n-passos quadrática, pois cada n passos em torno de * equivalem a uma iteração de Newton; - Este método substitui cálculos de Hessianas por buscas unidimensionais;

5 FUNÇÕES: Nesta seção, analisamos duas funções e obtemos vários resultados interessantes. Para a implementação dos aloritmos, bem como para a interpretação ráfica foi utilizada a ferramenta MatLab 6.0, em um PC com processador Atlon.0Ghz e 56Mb de memória RAM. Função :, ) f ( = + O ráfico formado pela função no intervalo [-,] é: Como vemos, a função é quadrática e convea e portanto, independente do ponto 0 que partirmos em qualquer um dos três métodos a converência será atinida em duas únicas iterações. 0 Calculando os pontos estacionários, onde: f ( *) = 0, obtemos que * = e por 0 0 meio da análise da Hessiana cheamos na conclusão de que * = é o mínimo lobal da 0 função. Isso pode ser comprovado analisando o ráfico, pois o ponto (0,0) é eatamente o

6 que resulta no menor valor da função f (, ) = + variarmos, a função sempre aumentará. = 0, e para qualquer direção d que Função :, ) = 00( ) + ( ) f ( {Função de Rosenbroc) A Função apresenta uma compleidade bem maior que a função pois deia de ser quadrática e isso faz com que a previsibilidade sobre ela seja menor. O ráfico formado pela função no intervalo [- ] é: Como vemos, a função não é quadrática e, portanto, não podemos prever a quantidade de iterações bem como o valor de α ar minα f ( + αd ), no entanto, : = > 0 analisando o ráfico, percebemos que no ponto = o valor da função é iual a zero. Fica claro, calculando os pontos estacionários onde f ( *) = 0 e analisando os determinantes parciais da Hessiana que o ponto * = é mínimo local da função, pois se caminharmos para qualquer direção d em torno de * o valor da função aumentará.

7 RESULTADOS Método do Gradiente: Função :, ) f ( = + Teste 0 ε n n f ( ) Iterações Tempo (ms) [ ] 0e- [ ] [ ] 0e-3 [ ] [ ] 0e-6 [ ] [ ] 0e-6 [ ] [ ] 0e-6 [ ] Como podemos ver nos testes, e 3, quando partimos de um ponto bem próimo do ponto ótimo o método tem uma converência lenta principalmente se o critério de converência adotado for pequeno. No entanto, para pontos inteiros como nos teste 4 e 5, o método apresentou uma boa performance. Também é válido ressaltar que mesmo em testes com muitas iterações como no número 3 o aloritmo mostrou-se bastante barato em tempo de processamento. O ráfico abaio demonstra a converência do método para o teste 3:

8 Função :, ) = 00( ) + ( ) f ( Teste 0 ε n n f ( ) Iterações Tempo (ms) [ ] 0e- [ ] [ ] 0e-3 [ ] [ ] 0e-6 [ ] [ ] 0e-6 [ ] [ ] 0e-6 [ ] Quando partimos de um ponto muito próimo do ponto ótimo o comportamento do método é semelhante ao obtido na função, a converência é lenta e dependendo do critério de converência adotado o método pode realizar muitas iterações, porém como já era esperado o custo computacional dessas iterações são muito baratas. Quando utilizamos pontos mais distantes como nos testes 4 e 5, os resultados mostraram-se satisfatórios, pois a solução obtida foi a esperada e o ponto ótimo atinido. O ráfico abaio demonstra a converência do método para o teste 4:

9 Método de Newton:: Função :, ) f ( = + Teste 0 ε n n f ( ) Iterações Tempo (ms) [ ] 0e- [ ] [ ] 0e-3 [ ] [ ] 0e-6 [ ] [ ] 0e-6 [ ] [ ] 0e-6 [ ] Nos testes, e 3 o método de Newton obteve desempenho parecido com o obtido pelo método do Gradiente somente com uma leve queda de desempenho quando o critério de converência foi reduzido. Para os testes 4 e 5 o método foi tão eficiente quanto ao do Gradiente. Podemos concluir que para funções quadráticas todos os Métodos apresentam desempenho parecido. O ráfico abaio demonstra a converência do método para o teste 3:

10 Função :, ) = 00( ) + ( ) f ( Teste 0 ε n n f ( ) Iterações Tempo (ms) [ ] 0e- [ ] [ ] 0e-3 [ ] [ ] 0e-6 [ ] [ ] 0e-6 [ ] [ ] 0e-6 [ ] É evidente que para a função o Método de Newton se mostrou mais eficiente do que o Método do Gradiente, isso se deve ao fato de que em Newton a converência é quadrática próimo do ponto ótimo. Como vemos, para pontos distantes como nos teste 4 e 5 o número de iterações foi menor que para o Método do Gradiente, bem como o tempo consumido por ele. O ráfico abaio demonstra a converência do método para o teste 4:

11 Método das Direções Conjuadas de Fletcher-Reeves:: Função :, ) f ( = + Teste 0 ε n n f ( ) Iterações Tempo (ms) [ ] 0e- [ ] [ ] 0e-3 [ ] [ ] 0e-6 [ ] [ ] 0e-6 [ ] [ ] 0e-6 [ ] Nos testes, e 3 o método de Fletcher-Reeves obteve desempenho notadamente superior aos resultados obtidos pelos outros dois métodos mesmo se o critério de converência for reduzido. Partindo de pontos distantes como nos teste 4 e 5 o número de iterações e o tempo consumido foi menor que os outros dois métodos. Fica claro que para a função o Método das Direções Conjuadas de Fletcher- Reeves possui mais eficiência que os outros Método aplicados até este ponto.

12 Função :, ) = 00( ) + ( ) f ( Teste 0 ε n n f ( ) Iterações Tempo (ms) [ ] 0e- [ ] [ ] 0e-3 [ ] [ ] 0e-6 [ ] [ ] 0e-6 [ ] [ ] 0e-6 [ ] O Método de Fletcher-Reeves também mostrou bastante competência para resolver a função de Rosenbroc, pois conseuiu resultados satisfatórios utilizando menos iterações e tempo de processamento que os outros dois métodos. O ajuste B na direção d foi bastante sinificativo, ficando claro no ráfico abaio. O ráfico demonstra a converência do método para o teste 4: