BUSCA LINEAR: MÉTODOS PARA BUSCA UNIDIMENSIONAL

Transcrição

1 Universidade Estadual de Campinas FACULDADE DE ENGENHARIA ELÉTRICA E COMPUTAÇÃO Otimização Não-Linear BUSCA LINEAR: MÉTODOS PARA BUSCA UNIDIMENSIONAL Autor: Tiago Agostinho de Almeida

2 INTRODUÇÃO Considere o seguinte problema irrestrito: minimizar ƒ(x), x Є R n Muitos algoritmos de otimização irrestrita assumem a seguinte estrutura geral: Escolha ε > 0, x o e faça = 0 while f ( x ) ε : Encontre d Є R n T tal que f ( x ) d < 0 : Determine α arg minα f ( x + αd ) : = > 0 3: Faça x + := x + α d e := + x* = x Notas T. No passo determina-se uma direção de descida. A condição f ( x ) d < 0 garante que f decresce na direção d a partir de x para α > 0. No passo é realizada um busca linear para encontrar o tamanho do passo α que minimiza na direção d a partir de x f 3. No passo 3 um novo ponto é calculado. O critério de parada é (idealmente, f ( x ) = 0 ) f ( x ) < ε Exemplo No método do gradiente, se f ( x ) ε, então d : = f ( x ) é tal que ( x T f ) d < 0 e a busca linear assume a forma α : α 0 = arg min > f ( x α f ( x )) Existem vários métodos para encontrar o valor de α = arg min > f ( x α f ( x )), dois deles foram abordados e testados neste trabalho, : α 0 eles são: o Método da Falsa Posição e o Método da Seção Áurea.

3 MÉTODO DA FALSA POSIÇÃO Dada uma função f (x), o método da falsa posição procura encontrar um tamanho de passo α tal que α : = arg minα > 0 f ( x + αd ) em uma determinada direção d. Em primeiro lugar, devemos encontrar a direção d para caminharmos de tal forma que melhore o valor da função objetivo. Então, como sabemos que o gradiente da função indica a direção de máximo crescimento, se queremos minimizar f (x) devemos caminhar na direção contrária ao gradiente, so assim d : = f ( x ) indica a direção de máximo decrescimento da função na direção d. Partindo de um ponto inicial x 0 damos um passo α na direção d : = f ( x ) de tal forma que α : = arg minα > 0 f ( x + αd ) e encontraremos um novo ponto x := x 0 + α d que melhorará o valor da função f (x). Analisando o gráfico da função f (x) formado pela variação de α obtemos: A inclinação de relação: f (x) em um determinado ponto α pode ser obtido pela seguinte 0 a( α ) : = f ( x +α. d) T d

4 A esta inclinação chamamos de derivada direcional de f (x) em relação à α. Assim so, o método de Falsa Posição pode ser resumido nas seguintes etapas: Dado x 0 e um critério de parada ε, fazer:. d = f (x) ; // direção de descida. α = 0; // passo inicial igual a zero n n T 3. dd = f ( x 0 + α d) d // derivada direcional inicial n 4. α = 0. n+ ; // dando um pequeno passo na direção d n+ 0 T 5. dd = f ( x + α n+ d) d ; // encontrando valor da derivada direcional para 6. Enquanto dd n+ > ε faça: n+ dd ( α n+ α n ) 7. α = ; // calculando valor da variação de α n n+ dd dd 8. α = α + α ; // encontrando novo valor de α n+ n n+ 0 T 9. dd = f ( x + α n+ d) d ; // derivada direcional para α n+ 0. Fim Se f (x) for uma função quadrática então existe um derivada direcional dd = 0 de tal forma que a convergência do método ocorrerá em apenas duas iterações. Alguns resultados podem ser visualizados na próxima seção. α

5 RESULTADOS Nesta seção, analisamos duas funções e obtemos vários resultados interessantes. Para a implementação dos algoritmos, bem como para a interpretação gráfica foi utilizada a ferramenta MatLab 6.0, em um PC com processador Atlon.0Ghz e 56Mb de memória RAM. Função :, x) f ( x = x + x O gráfico formado pela função no intervalo [-,] é: Como vemos, a função é quadrática e portanto, indepente do ponto x 0 que partirmos o método convergirá em duas únicas iterações. Analisando a variação de f (x) em relação à α obtemos:

6 Graficamente, percebemos que para α = - f (x) =8, e que quando aumentamos o valor de α o valor de f (x) vai decresco até α =0.5 onde f (x) =0, e que a partir daí, conforme aumentamos α, o valor de f (x) também aumenta. Portanto, baseado nesta análise, deduzimos que α : = arg minα > 0 f ( x + αd ) = 0.5. Utilizando o método de falsa posição obtemos os seguintes resultados. Teste x 0 ε α x n n f ( x ) Iterações [ ] 0e [0 0] 0 [ ] 0e [0 0] 0 3 [ ] 0e [0 0] 0 4 [- -] 0e [0 0] 0 5 [ ] 0e [0 0] 0 6 [ -0.5] 0e [0 0] 0 Como vemos, indepente do ponto de partida x 0 o método converge em duas iterações e, como prevíamos por meio da análise gráfica, o valor de α arg minα f ( x + αd ) = 0.5. : = > 0

7 Função :, x) = 00( x x ) + ( ) f ( x x {Função de Rosenbroc) A Função apresenta uma complexidade bem maior que a função pois deixa de ser quadrática e isso faz com que a previsibilidade sobre ela seja menor. O gráfico formado pela função no intervalo [- ] é: Como vemos, a função não é quadrática e, portanto, não podemos prever a quantidade de iterações bem como o valor de α : = arg minα > 0 f ( x + αd ), no entanto, analisando o gráfico, percebemos que no ponto x=(,) o valor da função é igual a zero. Fica claro, calculando os pontos estacionários onde f ( x*) = 0 que o ponto x=(,) é mínimo da função, portanto, podemos prever que partindo de qualquer ponto x o método de falsa posição nos retornará um novo ponto x n+ na direção do ponto x*=(,). Analisando a variação de f (x) em relação à α obtemos:

8 Como podemos ver, partindo de x=(0,0) para nenhum valor de α, f (x) = 0. O melhor valor de f (x) é aproximadamente igual à 0.777, quando α é aproximadamente igual à Utilizando o método de falsa posição obtemos os seguintes resultados. Teste x 0 ε α x n n f ( x ) Iterações [0 0] 0e [ ] [0 0] 0e [ ] [0 0] 0e [ ] [- -] 0e [ ] [ ] 0e [ ] [ -0.5] 0e [ ] [ ] 0e [ ] [ ] 0e [ ] [ ] 0e [ ] [ ] 0e [ ]

9 Como vemos, partindo do ponto x 0 = (0,0) o valor de α te à tornando-se mais claro conforme aumenta mos o critério de convergência, pois quando utilizamos ε =0e-, α = e f (x) = e quando ε =0e-6, α = e f (x) = melhorando o valor da função. Analisando agora a função f ( x, x) = 00( x x ) + ( x ) notamos que quanto maior o valor de x em relação à x maior será o resultado e que quanto mais próximos estiverem x e x melhor será o valor da função. Fica evidente na tabela acima que o método busca sempre que possível reduzir o valor de x mesmo que para isso seja necessário aumentar x, porém sempre minimizando o valor de f (x). Partindo de pontos próximos do mínimo da função o método melhora o valor da função lentamente pois o tamanho do passo calculado é muito pequeno e portanto f (x) reduzirá muito pouco. Isso explica a razão de que o método do gradiente quando aplicado a funções não-quadráticas com certas características quando chega próximo ao mínimo da função tem um rimento baixo e uma convergência lenta, pois os passos são muito curtos. A LGORITMO O algoritmo para Busca Linear do Método da Falsa Posição programado em MatLab 6.0 é: % Universidade Estadual de Campinas % Faculdade de Engenharia Eletrica e de Computacao % Nome: Tiago Agostinho de Almeida RA: 0565 % % % METODO -> FALSA POSIÇÃO % % LEGENDA: % % BU() = Nome do Metodo = Busca Unidimensional % x = coordenada x do ponto x % x = coordenada y do ponto x % eps = epsilon, criterio de convergencia da derivada direcional % alfa() = tamanho do passo na direcao informada % x() = vetor-coluna x formada pelas coordenadas x e x informadas % G = gradiente da funcao no ponto x() % dd() = derivada direcional da funcao no ponto x() % d = direcao que minimiza a funcao % deltaalfa = alfa(+) - alfa() % F = valor da funcao no ponto x()

10 % % Inicio function [x,y,z] = BU(); % Limpando tela e inicializando as variaveis clear; clc; % Forneco o ponto inicial e a funcao fprintf('\n'); fprintf('\n*** DADOS INICIAIS ***'); fprintf('\n'); fprintf('\nescolha uma das funcoes abaixo:'); fprintf('\n[] - f = x^ + x^...'); fprintf('\n[] - f = 00*(x-x^)^ + (-x)^...'); op = input('\nopcao numero: '); fprintf('\n'); x = input('informe a coordenada inicial para x: '); x = input('informe a coordenada inicial para x: '); eps = input('informe criterio de parada (epsilon): '); % Dados iniciais x0 = [x; x]; % Montando o vetor x com as coordenas informadas alfa0 = 0; % Tamanho do passo inicial alfa = 0.0; % Tamanho do passo seguinte % Calculando o valor do gradiente para a funcao escolhida switch op case {} G = [* x0(); *x0()]; case {} G = [-400*x0()*(x0()-(x0()^)) - *(-x0()); 00*(x0()-(x0()^))]; d = -G; %Direcao d % Derivada Direcional dd0 = G'*d; % Calculando novo x para alfa = 0.0 x = x0 + alfa*d; % Grandiente para o novo x switch op case {} G = [* x(); *x()]; case {} G = [-400*x()*(x()-(x()^)) - *(-x()); 00*(x()-(x()^))];

11 % Derivada direcional para o alfa dd = G'*d; cont = ; % Contador de iteracoes % Loop para encontrar o tamanho do passo (alfa) while abs(dd) > eps if cont >= 000 % Solucionando o problema do loop infinito brea deltaalfa = (dd*(alfa-alfa0))/(dd0-dd); % Calculando deltaalfa = alfa - alfa alfa0 = alfa; % Atribuindo alfa em alfa0 alfa = alfa + deltaalfa; % Calculando novo tamanho do passo x = x0 + alfa*d; % Calculando novo x % Calculando o Gradiente para o novo x switch op case {} G = [* x(); *x()]; case {} G = [-400*x()*(x()-(x()^)) - *(-x()); 00*(x()-(x()^))]; dd0 = dd; % Atribuindo derivada direcional nova em derivada direcional anterior dd = G'*d; % Calculando nova derivada direcional % Incrementando contador de iteracoes cont = cont + ; % Valor da Funcao switch op case {} F = x( )^ + x()^; case {} F = 00*(x()-x()^)^ + (-x())^; % Exibindo os resultados fprintf(,' \n'); fprintf(,'*** RESULTADO FINAL ***'); fprintf(,' \n'); fprintf(,'%d iteracoes \n',cont); fprintf(,'tamanho do passo (alfa) = %f \n',alfa); fprintf(,'ponto final X(x,x) = X(%f,%f) \n',x(),x()); fprintf(,'valor da Funcao f(x,x): %f \n', F); fprintf(,' \n');

12 MÉTODO DA SEÇÃO ÁUREA O Método da Seção Áurea utiliza um esquema de redução do intervalo de incerteza ± 5 baseado na razão áurea. A Razão Áurea ( r = ) era considerada na Antigüidade como a mais estética para os lados de um retângulo. Dados um intervalo de incerteza I =[a,b], um critério de convergênciaε e uma função do tipo f (α ), o método da Seção Áurea realiza a redução do intervalo I a uma taxa de redução igual a razão áurea (r) até que o critério de convergência seja satisfeito. Do b ' + a' intervalo rest ante I =[a,b ] o valor de α é obtido pela relação α =. 6 Quando utilizamos um critério de convergência pequeno, como 0 por exemplo, provavelmente o valor de α obtido pelo método de Seção Áurea será igual (ou próximo) do valor obtido pelo método de Falsa Posição. R ESULTADOS O Método da Seção Áurea foi testado para as duas funções utilizadas para o Método da Falsa Posição: Função :, x) ) f ( x = x + x Função : f ( x, x ) = 00( x x ) + ( x {Função de Rosenbroc) Os resultados obtidos para a Função utilizando o Intervalo I foram: Teste x 0 I ε α x n n f ( x ) Iterações [ ] [0 ] 0e [ ] 0 [ ] [0 ] 0e [ ] [ ] [0 ] 0e [ ] [- -] [0 ] 0e [ ] [ ] [0 ] 0e [ ] [ -0.5] [0 ] 0e [ ] 0 5

13 No teste nº, utilizamos um critério de convergência relativamente grande e por causa disso o intervalo nem chegou a ser reduzido, e, como sabemos que o método utiliza a b ' + a' metade do intervalo como α ( α = ), o resultado por mero acaso deu que α =0.5, que corresponde ao α : = arg minα > 0 f ( x + αd ) em apenas uma iteração, porém é válido ressaltar que este resultado só foi obtido por mero acaso, pois foi coincidência α estar localizado exatamente na metade do intervalo inicial. No teste nº aumentamos o valor de ε e notamos que o valor de α chegou próximo do valor obtido pelo método da falsa posição. Apertando um pouco mais o critério de convergência, como no teste nº 3 o método da Seção Áurea obteve o mesmo valor do α obtido pela Falsa Posição. Como a análise gráfica foi realizada antes da implementação, podemos perceber que o método retornou o valor esperado e teve um comportamento adequado. Os testes seguintes provam que partindo de um mesmo ponto inicial e utilizando um critério de convergência adequado, o Método de Seção Áurea encontra um α : = arg minα > 0 f ( x + αd ) igual ao encontrado pelo Método de Falsa Posição. Fica claro que para funções quadráticas o Método da Falsa Posição converge mais rápido que o Método da Seção Áurea, pois o número de iterações utilizadas por esta é bem maior que as duas iterações necessárias para a convergência pelo cálculo da derivada direcional. Os resultados obtidos pela Função utilizando o Intervalo I foram: Teste x 0 I ε α x n n f ( x ) Iterações [0 0] [0 ] 0e [ ] [0 0] [0 ] 0e [ ] [0 0] [0 ] 0e [ ] [- -] [0 ] 0e [ ] [ ] [0 ] 0e [ ] [ -0.5] [0 ] 0e [ ] [ ] [0 ] 0e [ ] [ ] [0 ] 0e [ ] [ ] [0 ] 0e [ ] [ ] [0 ] 0e [ ] Como havíamos analisado graficamente, sabemos que partindo do ponto x = [0 0] α : = arg minα > 0 f ( x + αd ) é aproximadamente igual à 0.09 e f (x) é aproximadamente igual à No teste nº o resultado obtido foi bastante insatisfatório pois o valor de ε utilizado foi muito inadequado, isso fica claro analisando-se os dois testes subseqüentes em que reduzimos ε e conseguimos obter resultados muito próximos daqueles que prevíamos e que obtivemos pelo método da falsa posição.

14 Observamos no teste nº 7 que quando partimos do ponto x* = [ ] o resultado obtido foi satisfatório, porém o número de iterações utilizadas (i = 5) foi muito além do número utilizado pelo método da Falsa Posição (i = ). Isso mostra que quando estamos próximo do ponto ótimo o método da Seção Áurea tem um desempenho menor que o método da Falsa Posição se utilizarmos o mesmo critério de convergência. Isso fica claro nos 3 últimos testes, no qual partimos de um ponto próximo do ótimo e aumentamos o valor de ε gradativamente. Como podemos ver, os dois métodos apresentaram resultados satisfatórios e muito coincidentes com os quais estamos esperando. ALGORITMO 6.0 é: O algoritmo para Busca Linear do Método da Seção Áurea programado em MatLab % Universidade Estadual de Campinas % Faculdade de Engenharia Eletrica e de Computacao % Nome: Tiago Agostinho de Almeida RA: 0565 % % % METODO -> BUSCA UNIDIMENSIONAL - SECAO AUREA % % LEGENDA: % % SAurea() = Nome do Metodo = Secao Aurea % r = razao aurea =~ 0,68 % x, x = ponto inicial x (x,x) % I = ponto inicial do intervalo I % I = ponto final do intervalo I % eps = epsilon, criterio de convergencia da derivada direcional % alfa = razao aurea dada por x + (-r)*(x-x) % beta = razao aurea dada por x + r*(x-x) % xna = valor do novo x para um deslocamento alfa % xnb = valor do novo x para um deslocamento beta % y = valor da funcao para xna % y = valor da funcao para xnb % F = valor da funcao final obtida pelo metodo %

15 % Inicio function result = SAurea(); % Limpando tela e inicializando as variaveis clear; clc; % Forneco o ponto inicial e a funcao fprintf('\n'); fprintf('\n*** DADOS INICIAIS ***'); fprintf('\n'); fprintf('\nescolha uma das funcoes abaixo:'); fprintf('\n[] - f = x^ + x^...'); fprintf('\n[] - f = 00*(x-x^)^ + (-x)^...'); op = input('\nopcao numero: '); fprintf('\n'); x = input('informe o ponto x: '); x = input('informe o ponto x: '); I = input('informe o ponto inicial do intervalo (a): '); I = input('informe o ponto final do intervalo (b): '); eps = input('informe criterio de parada (epsilon): '); % Dados iniciais x = [x;x]; r = (sqrt(5)-)/; I = [I; I]; % Montando o vetor x com as coordenas informadas alfa = I + (-r)*(i-i); beta = I + r*(i-i); % Calculando o valor da funcao y para alfa e y para beta switch op case {} G = [*x();*x()]; %Valor do gradiente no ponto x d = -G; %Direcao de descida xna = x + alfa*d; %Valor do novo x para deslocamento alfa xnb = x + beta*d; %Valor do novo x para deslocamento beta y = xna()^ + xna()^; %Valor da funcao para x com deslocamento alfa y = xnb()^ + xnb()^; %Valor da funcao para x com deslocamento beta case {} G = [-400*x()*(x()-(x()^)) - *(-x()); 00*(x()-(x()^))]; %Valor do gradiente no ponto x d = -G; %Direcao de descida xna = x + alfa*d; %Valor do novo x para deslocamento alfa xnb = x + beta*d; %Valor do novo x para deslocamento beta y = 00*(xna()-xna()^)^ + (-xna())^; y = 00*(xnb()-xnb()^)^ + (-xnb())^;

16 cont = ; % Contador de iteracoes % Loop para encontrar o tamanho do passo (alfa) while (I-I) > eps if cont >= 000 % Solucionando o problema do loop infinito brea if y>y I = alfa; alfa = beta; y = y; beta = I + r*(i-i); switch op case {} xnb = x + beta*d; y = xnb()^ + xnb()^; case {} xnb = x + beta*d; y = 00*(xnb()-xnb()^)^ + (-xnb())^; else I = beta; beta = alfa; y = y; alfa = I + (-r)*(i-i); switch op case {} xna = x + alfa*d; y = xna()^ + xna()^; case {} xna = x + alfa*d; y = 00*(xna()-xna()^)^ + (-xna())^; % Incrementando contador de iteracoes cont = cont + ; alfa = (I+I)/; % Valor da Funcao switch op case {} xna = x + alfa*d; F = xna()^ + xna()^;

17 case {} xna = x + alfa*d; F = 00*(xna()-xna()^)^ + (-xna())^; % Exibindo os resultados fprintf(,' \n'); fprintf(,'*** RESULTADO FINAL ***'); fprintf(,' \n'); fprintf(,'%d iteracoes \n',cont); fprintf(,'tamanho do passo (alfa) = %f \n',alfa); fprintf(,'ponto Final X(x,x) = X(%f,%f) \n',xna(),xna()); fprintf(,'intervalo Final I(I,I) = I(%f,%f) \n',i,i); fprintf(,'valor da Funcao f(x,x): %f \n', F); fprintf(,' \n');