Métodos Numéricos. MEI - Logística e distribuição Optimização não linear com restrições de igualdade 2004/2005

Transcrição

1 Métodos Numéricos MEI - Logística e distribuição Optimização não linear com restrições de igualdade 2004/2005

2 Métodos Numéricos - MEI 1 Apresentação - Docentes Aulas teóricas: A. Ismael F. Vaz - aivaz@dps.uminho.pt Aulas teórico-práticas: Ana Maria Rocha - arocha@dps.uminho.pt

3 Métodos Numéricos - MEI 2 Apresentação - Disciplina Métodos numéricos - optimização não linear com restrições (igualdade e desigualdade); Duas fichas TP para resolver ao longo do semestre e um exame TP a realizar na época de exames. Nota é 0.3*(fichas)+0.7*(exame).

4 Métodos Numéricos - MEI 3 Dia Horas/ Tipo Programa Sala 26 Nov 2 Comp. 2 T IVZ Apresentação da disciplina. Forma geral do problema de optimização com restrições de igualdade. Condição de regularidade. Condições de optimalidade de 1ª e 2ª ordem. Introdução ao CONUM e 3 Dez 2 Comp.2 10 Dez 3 Comp. 2 TP AMR T IVZ TP AMR MATLAB. Condições de optimalidade. Entrega aos alunos das fichas TP para avaliação. Método de programação quadrática sequencial. Globalização do algoritmo. Função mérito. Condição de Armijo. Critério de paragem. MATLAB. Método de programação quadrática sequencial. MATLAB. Solver do Excel. 17 Dez 3 EE Jan 3 EE2.40 T AIV TP AMR T IVZ TP AMR Método de penalidade sequencial. Função penalidade l 2. Algoritmo de segurança de Newton para a resolução de sub-problemas sem restrições. Critérios de paragem. Método de penalidade sequencial. Algoritmo de segurança de Newton. MATLAB. Forma geral do problema de optimização com restrições de desigualdade. Restrições activas. Condição de regularidade. Condições de optimalidade de 1ª e 2ª ordem. Condições de optimalidade. 14 Jan 3 EE2.40 T AIV Método primal-dual de pontos interiores. Função mérito. Condições iniciais. Critério de paragem. TP Método primal-dual de pontos interiores. AMR 21 Jan 2 T+TP Linguagem de modelação AMPL. Comp. 2 IVZ 28 Jan Data limite de entrega das fichas TP.

5 Métodos Numéricos - MEI 4 Classificação de óptimos - mínimo global Mínimo global forte Função ilimitada Mínimo global fraco f(x ) < f(x) x D f f(x ) f(x) x D f

6 Métodos Numéricos - MEI 5 Classificação de óptimos - óptimos locais δ : f(x ) < f(x), x D f B δ (x ), onde B δ (x ) é uma bola centrada em x de raio δ ( x x < δ) δ : f(x ) f(x), x D f B δ (x ), onde B δ (x ) é uma bola centrada em x de raio δ ( x x < δ)

7 Métodos Numéricos - MEI 6 Conceitos Máximo e maximizante; Mínimo e minimizante; Óptimo local ou global; Convergência local e global de algoritmos;

8 Métodos Numéricos - MEI 7 Maximização versus minimização f(x) = sin(x)e x 200 f(x) = sin(x)e x >> x=0:0.1:7; >> x=0:0.1:7; >> plot(x,-sin(x).*exp(x)) >> plot(x,sin(x).*exp(x)) Maximizante é o mesmo que o minimizante da função simétrica, no entanto o máximo é o simétrico do mínimo.

9 Métodos Numéricos - MEI 8 Optimização unidimensional sem restrições f(x) = (x 1.5) 2 f(x) = sin(x) f (1.5) = 2 ( ) = 0 f (1.5) = 2 > 0 f ( π 2 ) = cos(π 2 ) = 0 f ( π 2 ) = sin(π 2 ) = 1 < >> x=1:0.01:2; >> x=1:0.01:2; >> plot(x,(x-1.5).^2) >> plot(x,sin(x))

10 Métodos Numéricos - MEI 9 Optimização unidimensional sem restrições f(x) = x 4 f(x) = x 3 f (0) = 3 (0) 3 = 0 f (0) = 2 (0) 2 = 0 f (0) = 12 (0) 2 = 0 f (0) = 4 (0) = >> x=-1:0.01:1; >> x=-1:0.01:1; >> plot(x,x.^4) >> plot(x,x^3)

11 Métodos Numéricos - MEI 10 Optimização unidimensional com restrições simples f(x) = (x 1.5) 2 f(x) = sin(x) 1.6 x x 2.0 x=1.2:0.01:2.4; plot(x,(x-1.5).^2) hold on; area(1.6:0.1:2.0, zeros(length(1.6:0.1:2.0)),0.9) x=1.2:0.01:2.4; plot(x,sin(x)) hold on; area(1.6:0.1:2.0, zeros(length(1.6:0.1:2.0)),1)

12 Métodos Numéricos - MEI 11 Optimização não linear com restrições - Exemplo Considere-se o seguinte problema 1 min x R 2 2 ( ) (x 1 1) 2 + x 2 2 s.a x x2 2 = 0 x x 2 0 O minimizante da função objectivo é x = (1, 0) T (f(x ) = 0), enquanto que o minimizante do problema com restrições é x = (0, 0) T (f(x ) = 1 2 ).

13 Métodos Numéricos - MEI 12 Curvas de nível e região admissível [x1,x2]=meshgrid(-5:0.05:5,-5:0.05:5); fx=0.5*((x1-1).^2+x2.^2); contour(x1,x2,fx,50); hold on; plot(0.25*(-5:0.05:5).^2,-5:0.05:5); area(-5:0.05:5, 0.2*(-5:0.05:5).^2,5); plot(0,0, *k ); plot(1,0, *k );

14 Métodos Numéricos - MEI 13 Optimização não linear com restrições de igualdade Formulação geral: min f(x) x R n s.a c(x) = 0 (1) em que pelo menos uma função envolvida (f(x) e c(x)) é não linear em x. x 1 f(x) : R n R x x = 2. c(x) : R n R m x n

15 Métodos Numéricos - MEI 14 n é o número de variáveis do problema m é o número de restrições de igualdade c(x) = c 1 (x) c 2 (x). c m (x) Vamos supor que f(x) e c(x) são funções duas vezes diferenciáveis.

16 Métodos Numéricos - MEI 15 Exemplo 1 s.a min x R 5 ex 1x 2 x 3 x 4 x 5 x x x x x 2 5 = 10 x 2 x 3 = 5x 4 x 5 x x 3 2 = 1

17 Métodos Numéricos - MEI 16 Temos então Exemplo (cont.) f(x) = e x 1x 2 x 3 x 4 x 5 c 1 (x) = x x x x x c 2 (x) = x 2 x 3 5x 4 x 5 c 3 (x) = x x com n = 5 e m = 3.

18 Métodos Numéricos - MEI 17 Notação Gradiente de f(x) (vector de n elementos) f(x) = f x 1. f x n Hessiana de f(x) (matriz simétrica de n n) 2 f... 2 x 2 1 f(x) = 2 f x 1 x n... 2 f x n x f x 2 n

19 Métodos Numéricos - MEI 18 Notação Gradiente de c 1 (x) (vector de n elementos) c 1 (x) = c 1 x 1. c 1 x n... Gradiente de c m (x) (vector de n elementos) c m (x) = c m x 1. c n x n

20 Métodos Numéricos - MEI 19 Notação Matriz Jacobiano das restrições (matriz n m) c(x) = c 1 x 1 c 2 x c 1 c 2 x n x n... c m x 1 c m x n ou c(x) = ( c 1 (x) c 2 (x)... c m (x))

21 Métodos Numéricos - MEI 20 Notação Hessiana de c 1 (x) (matriz simétrica de n n) 2 c x 2 1 c 1 (x) = 2 c 1 x n x c 1 x 1 x n Hessiana de c m (x) (matriz simétrica de n n) 2 c m... 2 x 2 1 c m (x) = 2 c 1 x 2 n 2 c m x n x c m x 1 x n... Existem m Hessianas das restrições (n n). 2 c m x 2 n

22 Métodos Numéricos - MEI 21 Condições de optimalidade Seja λ um vector de m elementos (vector dos multiplicadores de Lagrange) λ 1 λ λ = 2. λ m A função Lagrangeana associada ao problema (1) é L(x, λ) = f(x) λ T c(x) m = f(x) λ i c i (x) i=1

23 Métodos Numéricos - MEI 22 Condição de regularidade Seja x uma solução do problema. Se os vectores c 1 (x ), c 2 (x ),..., c m (x ) (gradientes das restrições, calculados na solução) forem linearmente independentes, então x é ponto regular. Pergunta: Como se verifica se um conjunto de vectores é linearmente independente (em termos informáticos)?

24 Métodos Numéricos - MEI 23 Condições necessárias e suficientes de 1 a ordem Seja x uma solução do problema. Se x é ponto regular, então existe um λ tal que x L(x, λ ) = f(x ) c(x )λ = 0 n equações e λ L(x, λ ) = c(x ) = 0 m equações Este sistema de n + m equações é não linear em x e define as condições Kuhn-Tucker (KT). O par (x, λ ) chama-se par KT.

25 Métodos Numéricos - MEI 24 Interpretação das condições KT λ L(x, λ ) = c(x ) = 0 significa que o ponto verifica as restrições, ou seja, x é ponto admissível. x L(x, λ ) = f(x ) c(x )λ = 0 f(x ) = c(x )λ f(x ) = m λ i c i (x ) i=1 significa que o gradiente de f ( f) é uma combinação linear dos gradientes das restrições (das colunas de c(x )). Pergunta: Dado um x como determinar os valores de λ?

26 Métodos Numéricos - MEI 25 Exemplo 2 s.a min x R 2 f(x) x 1 + x 2 c(x) = x 2 1 x 2 2 = 0 Considere x = (1, 1) T e x = (2, 2) T. Tem-se que f(x) = ( 1 1 ) e c(x) = ( 2x1 2x 2 )

27 Métodos Numéricos - MEI 26 Condições KT Em x f(x ) = e c(x ) = ( 1 1 ) ( 1 1 ( 2 2 ) ) = λ ( 2 2 Em x ) ( 1 1 f( x) = c( x) = ) = λ ( 1 1 ( 4 4 ) ) ( 4 4 ) um λ (λ = 0.5) um λ

28 Métodos Numéricos - MEI 27 Condição necessária de 2 a ordem - Mínimo Seja x uma solução do problema. Se x é ponto regular então para todos os vectores s R n que verificam c(x ) T s = 0 (direcções tangentes às curvas admissíveis), tem-se s T 2 xxl(x, λ )s 0. Nota: 2 xxl(x, λ) = 2 f(x) m λ i 2 c i (x) i=1

29 Métodos Numéricos - MEI 28 Condição suficiente de 2 a ordem - Mínimo Se (x, λ ) é um par KT, isto é, verifica as condições KT e se para todo o s (s 0) tal que então x é minimizante local forte. { x L(x, λ ) = 0 λ L(x, λ ) = 0 s T 2 xxl(x, λ )s > 0 c(x ) T s = 0

30 Métodos Numéricos - MEI 29 O exemplo em x 2 xxl(x, λ ) = ( ) 0.5 ( ) = ( ) c(x ) T s = 0 s 1 = s 2 Como nada se pode concluir. s T 2 xxl(x, λ )s = 0 Problema: verificar as condições de optimalidade para o exemplo 2 com x 1 = ( 1, 1), x 2 = (0, 0) e x 3 = ( 1, 1).

31 Métodos Numéricos - MEI 30 Eliminação de Gauss com Pivotagem Parcial (EGPP) Considere o sistema linear na forma matricial 80x 1 +30x 3 +10x 4 = 40 80x 2 +10x 3 +10x 4 = 27 16x 1 +20x 2 +60x 3 +72x 4 = 31 4x 1 +8x 4 = x 1 x 2 x 3 x 4 =

32 Métodos Numéricos - MEI 31 EGPP - Conum

33 Métodos Numéricos - MEI 32 EGPP - Conum

34 Métodos Numéricos - MEI 33 EGPP - Conum

35 Métodos Numéricos - MEI 34 EGPP - Conum

36 Métodos Numéricos - MEI 35 EGPP - Conum