PROGRAMA DE PÓS-GRADUAÇÃO EM ENGENHARIA ELÉTRICA. Plano de Ensino

Transcrição

1 PROGRAMA DE PÓS-GRADUAÇÃO EM ENGENHARIA ELÉTRICA UNIVERSIDADE FEDERAL DE SÃO JOÃO DEL-REI PRÓ-REITORIA DE PESQUISA CENTRO FEDERAL DE EDUCAÇÃO TECNOLÓGICA DE MINAS GERAIS DIRETORIA DE PESQUISA E PÓS-GRADUAÇÃO DISCIPLINA: Técnicas de Otimização Plano de Ensino CÓDIGO: MEE005 Prof.: Erivelton Geraldo Nepomuceno Página: Validade: A partir do 1º semestre de Carga Horária: 45 horas-aula Créditos: 03 Área de Concentração / Módulo: Sistemas Elétricos / Disciplinas Obrigatórias; Modelagem e Controle de Sistemas / Formação Específica Ementa: Problemas lineares e não-lineares de otimização. Estudo dos problemas de otimização sem restrições. Estudo dos problemas de otimização com restrições de igualdade - Lagrange. Estudo dos problemas de otimização com restrições de igualdade e desigualdade - Karush-Kuhn-Tucker. Metaheurísticas: Algoritmos Genéticos, Busca Tabu, etc. Método Simplex. INTERDISCIPLINARIDADES Inter-relações desejáveis É desejável que os conhecimentos adquiridos na disciplina Técnicas de Otimização possam ser aplicados, principalmente, nas seguintes disciplinas e linhas de pesquisa: - Disciplinas Controle Robusto; Modelagem de Sistemas Eletromagnéticos; - Linhas de Pesquisa Análise e Modelagem de Sistemas; Sistemas de Controle (área de concentração: Modelagem e Controle de Sistemas). Objetivos - Possibilitar ao estudante os seguintes conhecimentos: - Conhecer as técnicas de otimização aplicadas nas buscas das soluções dos problemas de engenharia. - Utilizar o método Simplex para solução de problemas de programação linear. - Conhecer os diferentes algoritmos de otimização para solução de problemas de otimização não linear identificando qual é o mais adequado para cada tipo de problema. - Tratar problemas de otimização não-linear com restrições de desigualdade e de igualdade. 1/5

2 PROGRAMA DE PÓS-GRADUAÇÃO EM ENGENHARIA ELÉTRICA UNIVERSIDADE FEDERAL DE SÃO JOÃO DEL-REI PRÓ-REITORIA DE PESQUISA CENTRO FEDERAL DE EDUCAÇÃO TECNOLÓGICA DE MINAS GERAIS DIRETORIA DE PESQUISA E PÓS-GRADUAÇÃO Métodos Didáticos Utilizados Marque com um X no quadro: X Aula expositiva em quadro X Seminário X Aula com uso de transparência X Pesquisa X Aula com uso de multimídia X Trabalho individual Aula prática X Trabalho em grupo Discussão de texto Filme Visita técnica Outros: Unidades de ensino 1 Definições de Referência. Espaços e Normas Espaços Topológicos Cones Hiperplanos e Poliedros Caracterização das Funções Superfícies de Nível e Modalidade Bacias de Atração Continuidade e Diferenciabilidade Convexidade e Quasi-Convexidade Mínimos Locais e Mínimos Globais Caracterização dos Mínimos Locais 2 Propriedades básicas de programação linear. Introdução Exemplos de problemas de programação linear Soluções básicas O Teorema Fundamental da Programação Linear 3 O método Simplex. Pivôs Pontos extremos adjacentes Carga-horária Horas-aula /5

3 PROGRAMA DE PÓS-GRADUAÇÃO EM ENGENHARIA ELÉTRICA UNIVERSIDADE FEDERAL DE SÃO JOÃO DEL-REI PRÓ-REITORIA DE PESQUISA CENTRO FEDERAL DE EDUCAÇÃO TECNOLÓGICA DE MINAS GERAIS DIRETORIA DE PESQUISA E PÓS-GRADUAÇÃO Determinação da solução factível mínima Procedimento computacional Método Simplex Variáveis artificiais Forma matricial do método Simplex Método Simplex revisado 4 Propriedades básicas da otimização não-linear. Interpretação Geométrica (8h) Formulação do Problema de Otimização Otimização Sem Restrições Estratégias de Direção de Busca Estratégias de Exclusão de Regiões Estratégias de Populações Otimização com Restrições de Desigualdade Interpretação geométrica de uma restrição de desigualdade Interpretação geométrica de várias restrições de desigualdade Barreiras e Penalidades Composição pelo Máximo Otimização com Restrições de Igualdade 5 Direções de busca. Estrutura Básica Busca em Direções Aleatórias Algoritmo do Gradiente Cálculo do Gradiente Otimização Unidimensional Critérios de Parada Convergência Aproximações Quadráticas Algoritmo de Newton Método de Newton Modificado Determinação Numérica da Hessiana Construção da Hessiana Correção de Posto 1 Métodos Quasi-Newton Tratamento de Restrições Método de Barreira Método de Penalidades Características de Comportamento 6 Exclusão de semi-espaços. Formulação Geral /5

4 PROGRAMA DE PÓS-GRADUAÇÃO EM ENGENHARIA ELÉTRICA UNIVERSIDADE FEDERAL DE SÃO JOÃO DEL-REI PRÓ-REITORIA DE PESQUISA CENTRO FEDERAL DE EDUCAÇÃO TECNOLÓGICA DE MINAS GERAIS DIRETORIA DE PESQUISA E PÓS-GRADUAÇÃO Métodos de Planos de Corte Algoritmo de Planos de Corte de Kelley Algoritmo Elipsoidal Algoritmo Elipsoidal com Deep Cut" Tratamento de Restrições Características de Comportamento 7 Otimização por Populações. Algoritmo Evolucionário Simples Algoritmo de Simulated Annealing Algoritmos Genéticos Algoritmo Genético - Codificação Binária Algoritmo Genético - Codificação Real - Polarizado Sobre a Estrutura do AG-B e do AG-RP Tratamento de Restrições Características de Comportamento Métodos de Avaliação 9 Total 45 Trabalhos computacionais, avaliações individuais e apresentação de trabalho. Para cada item de avaliação será designada uma nota de 0 a 100. O cálculo da Nota será dado por: N= 2 (T 1+T 2 +T 3 +T 4 +T 5 ) 500 O aluno será aprovado se N 6,0 + 6 (P 1+P 2 +P 3 +P 4 ) + 2S Trabalhos Computacionais (seguir modelo na página do curso). T1 01/04/2016: Medição do custo computacional para inversão de matrizes de diferentes dimensões (m x m, com m=10,100,...). T2 07/05/2016: Algoritmo Simplex (Unidade 3 pág. 33 a 37). T3 03/06/2016: Comparar algoritmo de Busca em Direções Aleatórias (Unidade 5 - pág. 8) e Gradiente (Unidade 5 - pág.10) T4 17/06/2016: Implementação do algoritmo elipsoidal. (Unidade. 6 - pág. 4 e pág. 14). Ilustre com um exemplo polinomial. T5 01/07/2016: Comparar Simulated Annealing (Unidade 7 - pág. 15) e Algoritmo Genético (Unidade 7 - pág. 17) Provas P1 08/04/2016: Unidades 1 e 2 P2 13/05/2016: Unidades 3 e 4 4/5

5 PROGRAMA DE PÓS-GRADUAÇÃO EM ENGENHARIA ELÉTRICA UNIVERSIDADE FEDERAL DE SÃO JOÃO DEL-REI PRÓ-REITORIA DE PESQUISA CENTRO FEDERAL DE EDUCAÇÃO TECNOLÓGICA DE MINAS GERAIS DIRETORIA DE PESQUISA E PÓS-GRADUAÇÃO P3 10/06/2016: Unidade 5 P4 08/07/2016: Unidade 6 e 7 Seminário S1 08/07/2016: Apresentação de um trabalho sobre o conteúdo da disciplina. Deverá ser feito um relatório sob o formato de um artigo de até 8 páginas seguindo o modelo do Congresso Brasileiro de Automática. O trabalho será feito em grupo (número de alunos a ser definido). Modelo para apresentação e para o trabalho está na página do curso. Bibliografia Básica 1 - KREYSIG, E. Advanced Engineering Mathematics. New York: John Wiley and Sons, BAZARAA, M. S., SHERALI, H. D. e SHETTY C. M. Nonlinear Programming: Theory and Algorithms. New York: John Wiley e Sons, BAZARAA, M. S., JARVIS J. J. e SHERALI H. D. Linear Programing Programming and Nertwork Flows. New York: John Wiley and Sons, Bibliografia Complementar 1 Chankong, V. and Haimes, Y. Y. Multiobjective Decision-Making: Theory and Methodology, North-Holland, 1983, XVII, 406 p. ; 23 cm. - (North-Holland series in System Science and Engineering) ISBN: , xviii pages, publication date: 1983 Imprint: ELSEVIER 2 - Ehrgott, M. Multicriteria Optimization, Springer, 2nd ed., 2005, XIII, 323 p., 88 illus., Hardcover. ISBN: Luenberger, D. G. Linear and Nonlinear Programming, Addison-Wesley, (2nd edition) August 2003, Publisher: Kluwer Academic Pub, ISBN-10: , ISBN- 13: Takahashi, R. H. C. (2003) Notas de Aula: Otimização Escalar e Vetorial, PPGEE- UFMG (disponíveis na homepage : Vasconcelos, J. A. (2002) Notas de Aula do Curso Algoritmos Genéticos, PPGEE- UFMG (disponíveis na Aprovado na reunião do colegiado em / /. Coordenador do Programa de Pós-Graduação em Engenharia Elétrica 5/5

6 PROGRAMA DE PÓS-GRADUAÇÃO EM ENGENHARIA ELÉTRICA Disciplina: Técnicas de Otimização Professores: Eduardo Nunes Gonçalves (CEFET-MG) Erivelton Geraldo Nepomuceno (UFSJ)

7 Objetivos da Disciplina Possibilitar ao estudante os seguintes conhecimentos: Dominar as técnicas de otimização aplicadas nas buscas das soluções dos problemas de engenharia. Utilizar o método Simplex para solução de problemas de programação linear. Conhecer os diferentes algoritmos de otimização para solução de problemas de otimização não-linear identificando qual é o mais adequado para cada tipo de problema. Tratar problemas de otimização não-linear com restrições de desigualdade e de igualdade. Gonçalves, E.N. & Nepomuceno, E.G. pag.2 PPGEL UFSJ/CEFET-MG

8 Organização da Disciplina Unidade 1 - Definições de Referência. Unidade 2 - Propriedades básicas de programação linear. Unidade 3 - O método Simplex. Unidade 4 - Propriedades básicas da otimização não-linear. Unidade 5 - Métodos de Direções de Busca. Unidade 6 - Métodos de Exclusão de semi-espaços. Unidade 7 - Métodos de Otimização por Populações. Gonçalves, E.N. & Nepomuceno, E.G. pag.3 PPGEL UFSJ/CEFET-MG

9 Unidade 1 Definições de Referência.

10 Introdução Otimização: determinação da melhor solução, quando é possível quantificar o grau de adequação da solução à necessidade em causa, em: problemas de gerência (pesquisa operacional): algoritmos de uso geral; modelo relativamente grosseiro do processo; processos complexos com grande número de variáveis de otimização; algoritmos de execução veloz para gerar soluções em curto prazo ou em tempo real; resultados utilizados como linha de conduta (não requer soluções precisas). Gonçalves, E.N. & Nepomuceno, E.G. pag.4 PPGEL UFSJ/CEFET-MG

11 Introdução problemas específicos de projeto (teoria de otimização fundida com outra teoria: teoria de controle ótimo, teoria de identificação de sistemas etc.): mecanismo de otimização indivisível do mecanismos de modelagem do processo algoritmos especializados para cada caso; modelos do processo são bastante refinados mas sem grande complexidade estrutural; algoritmos que convergem para soluções ótimas de forma eficiente; Gonçalves, E.N. & Nepomuceno, E.G. pag.5 PPGEL UFSJ/CEFET-MG

12 Introdução sistemas de projeto assistido por computador: situação intermediária entre as duas anteriores; algoritmos de propósito geral; modelos frequentemente refinados; complexidade faz que não seja trivial saber se uma solução é a melhor possível; número de variáveis de otimização não é muito grande menor custo computacional do processo de otimização; não requer soluções em curto prazo viabiliza o uso de métodos refinados de busca de soluções. Gonçalves, E.N. & Nepomuceno, E.G. pag.6 PPGEL UFSJ/CEFET-MG

13 Sistemas de Projeto Assistido por Computador Sistemas de projeto assistido por computador: projetar um dispositivo para o qual é disponível uma descrição matemática parametrizada (modelo) de forma a se atingir determinadas metas. Para escolha dos parâmetros podem ser utilizadas técnicas para solução do problema de projeto (algoritmos) e dispositivos para executar os passos dos algoritmos (computadores e softwares). Modelo: conjunto de equações que descrevem as relações entre as variáveis do sistema físico permitindo a simulação do sistema dado um conjunto de parâmetros. Gonçalves, E.N. & Nepomuceno, E.G. pag.7 PPGEL UFSJ/CEFET-MG

14 Sistemas de Projeto Assistido por Computador especificação escolha de parâmetros Interface com projetista Sistema de PAC Modelo computacional do dispositivo parâmetros finais simulação final simulação Diagrama de blocos de um sistema de PAC genérico. Gonçalves, E.N. & Nepomuceno, E.G. pag.8 PPGEL UFSJ/CEFET-MG

15 Sistemas de Projeto Assistido por Computador Interface com projetista escolha de parâmetros simulação Modelo computacional do dispositivo Diagrama de blocos do sistema mais elementar de PAC. Problema desta abordagem: O projetista deve usar sua experiência, conhecimento, intuição ou sorte para determinar a solução adequada dentre um número grande de opções (a maioria ruins). Possíveis aperfeiçoamentos: 1. incluir uma base de dados de soluções ou regras de projeto; 2. definição quantitativa dos objetivos de projeto (comparação de soluções). Gonçalves, E.N. & Nepomuceno, E.G. pag.9 PPGEL UFSJ/CEFET-MG

16 Sistemas de Projeto Assistido por Computador Interface com projetista definição de objetivos e restrições Algoritmo de otimização parâmetros finais medição de desempenho simulação final Cálculo dos objetivos escolha de parâmetros Modelo computacional do dispositivo simulação D.B. de um sistema de PAC à base de um mecanismo de otimização. Gonçalves, E.N. & Nepomuceno, E.G. pag.10 PPGEL UFSJ/CEFET-MG

17 Otimização em PAC Blocos funcionais básicos de sistemas de PAC baseados em otimização: Modelo do sistema: possui como entradas os parâmetros de projeto do sistema, e como saída a figura de mérito associada a uma dada implementação do sistema. Mecanismo otimizador : possui como entrada a figura de mérito obtida do bloco anterior, e que produz como saída um conjunto de parâmetros de projeto (uma tentativa de solução). Esses blocos funcionais devem interagir autonomamente, sem intervenção do usuário, produzindo ao final do processo uma solução ótima. Gonçalves, E.N. & Nepomuceno, E.G. pag.11 PPGEL UFSJ/CEFET-MG

18 A Abordagem Escalar Na abordagem mono-objetivo, ou escalar, a figura de mérito que o mecanismo de otimização deve minimizar é um funcional (uma função cuja imagem é escalar). Seja x R n o vetor de parâmetros de otimização e f( ) : R n R o funcional objetivo. O problema de otimização pode ser expresso como: x = arg min x f(x) Esta é a formulação característica dos problemas de otimização irrestrita. Gonçalves, E.N. & Nepomuceno, E.G. pag.12 PPGEL UFSJ/CEFET-MG

19 A Abordagem Escalar Para expressar restrições associadas às limitações de natureza física ou tecnológica, definem-se regiões no espaço de parâmetros R n através de desigualdades ou de igualdades: g i (x) 0 i = 1,..., r h i (x) = 0 i = 1,..., p O problema de determinação de soluções que atendam às restrições é chamado problema de factibilidade. Gonçalves, E.N. & Nepomuceno, E.G. pag.13 PPGEL UFSJ/CEFET-MG

20 A Abordagem Escalar Um problema de otimização combinado com um problema de factibilidade é a situação mais freqüentemente encontrada na prática, sendo expresso por: x = arg min f(x) x g i (x) 0 i = 1,..., r sujeito a: h i (x) = 0 i = 1,..., p Esta é a formulação característica dos problemas de otimização restrita. Gonçalves, E.N. & Nepomuceno, E.G. pag.14 PPGEL UFSJ/CEFET-MG

21 Problemas de Otimização Vetorial Muitos sistemas devem ser projetados para atender a múltiplos critérios projeto, não necessariamente comparáveis entre si. No problema de otimização vetorial ou multiobjetivo, a função objetivo é f( ) : R n R m. Problemas de otimização multiobjetivo possui um conjunto infinito de soluções, denominadas soluções pareto-ótimas. Uma das possíveis formas de tratar um problema vetorial como um problema escalar é otimizar a soma ponderada dos objetivos: x = arg min x m i=1 λ i f i (x) sujeito a: { gi (x) 0 i = 1,..., r h i (x) = 0 i = 1,..., p Gonçalves, E.N. & Nepomuceno, E.G. pag.15 PPGEL UFSJ/CEFET-MG

22 Espaços e Normas Definição (Corpo) Um corpo consiste num conjunto, denotado F, de elementos denominados escalares, e duas operações chamadas adição (+ : F F F) e multiplicação ( : F F F), satisfazendo as seguintes condições α, β, γ F: (C1) α + β F e α β F (C2) α + β = β + α e α β = β α (C3) (α + β) + γ = α + (β + γ) e (α β) γ = α (β γ) (C4) α (β + γ) = (α β) + (α γ) (C5) F contém um elemento denotado por 0 e um elemento denotado por 1 tais que: α + 0 = α e α 1 = α (C6) A todo α F β F tal que α + β = 0 (C7) A todo α 0 F β F tal que α β = 1 Gonçalves, E.N. & Nepomuceno, E.G. pag.16 PPGEL UFSJ/CEFET-MG

23 Espaços e Normas Definição (Espaços Vetoriais Lineares) Um espaço vetorial linear é caracterizado por um conjunto V, um corpo F e duas operações, a adição vetorial (+ : V V V) e a multiplicação por escalar ( : F V V), tais que os seguintes axiomas sejam válidos x, y, z V e c, c 1, c 2 F: (V1) x + y = y + x (V2) (x + y) + z = x + (y + z) (V3) Existe um elemento 0 V tal que x + 0 = 0 + x = x, x V (V4) Para cada x V existe um elemento denotado por x V tal que x + ( x) = 0 (V5) c 1 (c 2 x) = (c 1 c 2 ) x (V6) c (x + y) = c x + c y (V7) (c 1 + c 2 ) x = c 1 x + c 2 x (V8) 1 x = x Gonçalves, E.N. & Nepomuceno, E.G. pag.17 PPGEL UFSJ/CEFET-MG

24 Espaços e Normas Definição (Subespaço Vetorial) Denomina-se subespaço vetorial a qualquer subconjunto M de um espaço linear V (sobre um corpo F) tal que: 1. x, y M x + y M 2. x M, c F c x M Gonçalves, E.N. & Nepomuceno, E.G. pag.18 PPGEL UFSJ/CEFET-MG

25 Espaços e Normas Definição (Norma) Seja V um espaço vetorial sobre o corpo dos reais. Uma função F : V R é denominada uma norma dos elementos de V se satisfaz as seguintes propriedade para x, y V e α R: (N1) F (x) 0, F (x) = 0 x = 0 (N2) F (αx) = α F (x) (N3) F (x + y) F (x) + F (y) A notação x é empregada para indicar F (x). Gonçalves, E.N. & Nepomuceno, E.G. pag.19 PPGEL UFSJ/CEFET-MG

26 Espaços e Normas Definição (Normas Vetoriais p) Seja x R n um vetor real de dimensão finita, e seja x i sua i-ésima componente escalar. Sua norma p é definida pela expressão: ( n x p = Para p = a definição é: i=1 x i p ) 1 p, 1 p < x = max 1 i n x i A norma euclidiana de um vetor é um exemplo de norma p, para p = 2. Gonçalves, E.N. & Nepomuceno, E.G. pag.20 PPGEL UFSJ/CEFET-MG

27 Espaços e Normas Definição (Q-norma Vetorial) Seja x R n um vetor de dimensão finita e seja Q R n n uma matriz simétrica definida positiva, ou seja, Q = Q > 0. A Q-norma de x é definida como x Qx 2. Definição (Espaços Normados) Um espaço normado E é um par ordenado (V, F ) em que V é um espaço vetorial sobre um corpo F e F : V R é uma norma aplicável aos elementos de V. O espaço normado E é definido como: x E (F (x) <, x V) A norma induz a noção de distância entre dois vetores: dist(u, v) = u v, u, v V Gonçalves, E.N. & Nepomuceno, E.G. pag.21 PPGEL UFSJ/CEFET-MG

28 Espaços e Normas Definição (Convergência de Seqüência) Seja uma seqüência ordenada de vetores {x i, i = 1,..., } pertencentes a um espaço vetorial normado (X, ). Diz-se que essa seqüência converge para x 0 X se, para todo escalar ɛ > 0, existe um inteiro N = N(ɛ) tal que: x i x 0 < ɛ, i N Definição (Seqüência de Cauchy) Seja uma série ordenada de vetores {x i, i = 1,..., } pertencentes a um espaço vetorial normado (X, ). Essa série é denominada uma seqüência de Cauchy se, para todo escalar ɛ > 0, existe um inteiro N = N(ɛ) tal que: x i x j < ɛ, i, j > N Gonçalves, E.N. & Nepomuceno, E.G. pag.22 PPGEL UFSJ/CEFET-MG

29 Espaços e Normas Definição (Espaço de Banach) Um espaço linear normado (X, ) é dito ser completo, ou um espaço de Banach, se toda seqüência de Cauchy em (X, ) converge para um elemento de X. Exemplos: 1. Os números reais e os números complexos são espaços de Banach onde a norma é o próprio valor absoluto. 2. O espaço das funções contínuas reais definidas no intervalo [0, 1] é um espaço de Banach com a norma do supremo: f = sup x [0, 1] f(x) Gonçalves, E.N. & Nepomuceno, E.G. pag.23 PPGEL UFSJ/CEFET-MG

30 Espaços Topológicos Um conjunto S é um subconjunto de um conjunto C, representado por S C ou C S, se x S x C. Definição (Espaços Topológicos) Um espaço topológico é um par (S, τ ) onde S é um conjunto e τ uma topologia em S, isto é, uma coleção de subconjuntos de S, cujos subconjuntos são denominados abertos da topologia, com as seguintes propriedades: 1. S é aberto (S está na coleção τ de subconjuntos); 2. é aberto (o conjunto vazio está na coleção τ de subconjuntos); 3. a intersecção de dois conjuntos abertos quaisquer é um conjunto aberto; 4. a união de dois conjuntos abertos quaisquer é um conjunto aberto. Gonçalves, E.N. & Nepomuceno, E.G. pag.24 PPGEL UFSJ/CEFET-MG

31 Espaços Topológicos Seja S = {1; 2; 3} Topologias: Trivial Não topologias: Gonçalves, E.N. & Nepomuceno, E.G. pag.25 PPGEL UFSJ/CEFET-MG

32 Espaços Topológicos Definição (Conjunto Aberto em Espaços Normados) Seja X um conjunto contido em um espaço normado. O conjunto X é dito ser aberto se a distância entre qualquer ponto x 0 X e a fronteira de X é maior que zero: x 0 X ɛ x X x x 0 < ɛ Para qualquer x 0 X, existe ɛ > 0 tal que dado qualquer x pertencente ao espaço cuja distância de x 0 é menor que ɛ, x também pertence a X. Intuitivamente, o conjunto X é aberto se partindo do ponto x 0 em X, você pode mover um pouco, em qualquer direção, permanecendo ainda dentro do conjunto. Gonçalves, E.N. & Nepomuceno, E.G. pag.26 PPGEL UFSJ/CEFET-MG

33 Espaços Topológicos Definição (Vizinhança) Seja um ponto x contido em um espaço topológico. Uma vizinhança de x é qualquer conjunto aberto que contenha x. Um conjunto X é aberto se cada x X possui uma vizinhança contida em X. Definição (Complemento de Conjunto) Seja X Q um conjunto contido em outro conjunto Q. O conjunto Y é o complemento de X em relação a Q se: X Y = Q X Y = Gonçalves, E.N. & Nepomuceno, E.G. pag.27 PPGEL UFSJ/CEFET-MG

34 Espaços Topológicos Definição (Conjunto Fechado) Seja X um conjunto contido em um espaço topológico. O conjunto X é dito ser fechado se seu complemento em relação ao espaço for aberto. Definição (Conjunto Compacto) Seja o conjunto Q R n. Esse conjunto é dito compacto se for fechado e se dados quaisquer dois pontos x 1, x 2 Q, eles se encontram a uma distância finita um do outro: x 1 x 2 = δ < Gonçalves, E.N. & Nepomuceno, E.G. pag.28 PPGEL UFSJ/CEFET-MG

35 Espaços Topológicos Definição (Fecho de Conjunto) Seja X um conjunto contido em um espaço topológico. O fecho de X, denotado por X, é definido como a intersecção de todos os conjuntos fechados que contêm X. Definição (Interior de Conjunto) Seja X um conjunto contido em um espaço topológico. O interior de X, denotado por X o, é definido como a união de todos os conjuntos abertos contidos em X. Definição (Fronteira de Conjunto) Seja X um conjunto contido em um espaço topológico. A fronteira de X, denotada por X, é definida como a diferença entre o fecho de X e seu interior: X X X X o = Gonçalves, E.N. & Nepomuceno, E.G. pag.29 PPGEL UFSJ/CEFET-MG

36 Espaços Topológicos Definição (Conjunto Conexo) Seja o conjunto Q R n. Esse conjunto é dito conexo se, dados quaisquer dois pontos x 1, x 2 Q, existe uma curva contínua finita q tal que x 1 q, x 2 q, e q Q. Definição (Conjunto Convexo) Seja um conjunto X, contido em um espaço vetorial, e seja a função x(x 1, x 2, α) definida por: x(x 1, x 2, α) = αx 1 + (1 α)x 2 para x 1 e x 2 elementos do espaço vetorial e α um escalar. Se se verificar: {x1, x2 X ; 0 α 1} x(x 1, x 2, α) X então o conjunto X é dito ser convexo. Gonçalves, E.N. & Nepomuceno, E.G. pag.30 PPGEL UFSJ/CEFET-MG

37 Espaços Topológicos Preposição (Propriedades de Conjuntos Convexos) Dados dois conjuntos convexos A e B, então são também conjuntos convexos: 1. αa, R 2. A B 3. A + B {x : x = a + b, a A, b B} Definição (Fecho Convexo) O fecho convexo de um conjunto X, denotado por conv X, é definido como a intersecção de todos os conjuntos convexos que contêm o conjunto X. Gonçalves, E.N. & Nepomuceno, E.G. pag.31 PPGEL UFSJ/CEFET-MG

38 Espaços Topológicos Definição (Casca Convexa) A casca convexa C(S) de um conjunto S é definida como o menor conjunto convexo que contém S, ou seja: 1. C(s) é um conjunto convexo 2. x S x C(s) 3. D convexo tal que: D S D C(s) D C(s) Gonçalves, E.N. & Nepomuceno, E.G. pag.32 PPGEL UFSJ/CEFET-MG

39 Cones Definição (Cone) Um conjunto C é um cone se: x C (αx) C α 0 Definição (Cone Gerado) O cone gerado pelos vetores x e y é o conjunto definido por: C = {z : z = αx + βy, α, β 0} Definição (Cone Polar) O cone polar associado a um conjunto C, denotado por C, é o conjunto definido por: C = {y : y x 0, x C} Gonçalves, E.N. & Nepomuceno, E.G. pag.33 PPGEL UFSJ/CEFET-MG

40 Hiperplanos e Poliedros Definição (Hiperplano) Denomina-se um hiperplano o conjunto: H = {x R n : c x = α, 0 c R n, α R} Um hiperplano é um subespaço com dimensão: dim(h) = n 1. Hiperplanos são generalizações, para X R n, do ponto para X R, da reta para X R 2 e do plano para X R 3. O hiperplanos divide o espaço em dois semi-espaços. Gonçalves, E.N. & Nepomuceno, E.G. pag.34 PPGEL UFSJ/CEFET-MG

41 Hiperplanos e Poliedros A cada hiperplano correspondem semi-espaços abertos e fechados: semi-espaços fechados { H {x : c x α} H {x : c x α} semi-espaços abertos { H> {x : c x > α} H < {x : c x < α} Para qualquer hiperplano H: R n = H H > = H H < Gonçalves, E.N. & Nepomuceno, E.G. pag.35 PPGEL UFSJ/CEFET-MG

42 Hiperplanos e Poliedros Definição (Politopo) A intersecção de um número finito de semi-espaços fechados é chamada de politopo. Um politopo pode ser representado por uma desigualdade matricial: P = { x R n : Ax b, A R m n, b R m} sendo m o número de semi-espaços. Definição (Poliedro) Um politopo não vazio e limitado é chamado poliedro, que pode ser gerado pela combinação convexa de seus vértices: { } q q P = x R n : x = α i v i, α i 0, α i = 1 i=1 sendo {v 1, v 2,..., v q } o conjunto de vértices. Gonçalves, E.N. & Nepomuceno, E.G. pag.36 PPGEL UFSJ/CEFET-MG i=1

43 Hiperplanos e Poliedros Definição (Hiperplano Suporte) Um hiperplano H que contém pelo menos um ponto da fronteira de um conjunto C e que situa esse conjunto C inteiramente no interior de um de seus semi-espaços fechados é chamado de hiperplano suporte de C. Se C admite um hiperplano suporte em um ponto x 0 de sua fronteira, então existe um vetor c 0 e um escalar α R tais que: H = { x : c x 0 = α } e {C H ou C H } Conjuntos convexos fechados podem ser caracterizados pela intersecção de todos os semi-espaços fechados que os contêm. Gonçalves, E.N. & Nepomuceno, E.G. pag.37 PPGEL UFSJ/CEFET-MG

44 Caracterização das Funções O problema de otimização, na sua formulação mono-objetivo, pode ser definido como: x = arg min x f(x) sujeito a: { gi (x) 0; i = 1,..., r h j (x) = 0; j = 1,..., p sendo que x R n, f( ) : R n R, g( ) : R n R r e h( ) : R n R p. A escolha de técnicas adequadas para tratar esse problema depende da natureza das funções f(x), g(x) e h(x). Gonçalves, E.N. & Nepomuceno, E.G. pag.38 PPGEL UFSJ/CEFET-MG

45 Caracterização das Funções Questões importantes a serem tratadas: 1. Dado o funcional f( ), o que são os pontos de mínimo desse funcional (as soluções do problema de otimização)? 2. O que são os pontos de mínimo desse funcional, se são dadas também as restrições g i (x) 0 e h i (x) = 0? 3. Dado um ponto x R n, que tipo de testes podem ser realizados para determinar se esse ponto é ou não um ponto de mínimo de f( ), nos dois casos acima? Obs: Um funcional é uma função de um espaço vetorial em seu próprio corpo, ou seja, que retorna um único valor (um número escalar) cuja natureza é a mesma dos componentes do argumento. Gonçalves, E.N. & Nepomuceno, E.G. pag.39 PPGEL UFSJ/CEFET-MG

46 Caracterização das Funções Classificações úteis de funções: 1. Lineares ou não lineares; 2. Unimodais ou multimodais; 3. Contínuas ou descontínuas; 4. Diferenciáveis ou não diferenciáveis; 5. Convexas, quasi-convexas ou não convexas. Informações a respeito da função auxiliam o processo de otimização. Gonçalves, E.N. & Nepomuceno, E.G. pag.40 PPGEL UFSJ/CEFET-MG

47 Superfícies de Nível e Modalidade A caracterização de funções se fundamenta nos conceitos de superfície de nível e de região sub-nível. Definição (Superfície de Nível) Seja f( ) : C R n R. A superfície de nível S(f, α), associada ao nível α, é definida como: S(f, α) = {x C f(x) = α} Definição (Região Sub-Nível) Seja f( ) : C R n R. A região sub-nível R(f, α), associada ao nível α, é definida como: R(f, α) = {x C f(x) α} Normalmente, S(f, α) = R(f, α). Gonçalves, E.N. & Nepomuceno, E.G. pag.41 PPGEL UFSJ/CEFET-MG

48 Superfícies de Nível e Modalidade Claramente é válida uma relação de ordenação das regiões de sub-nível de uma função: Proposição Seja f( ) : C R n R. As regiões de sub-nível dessa função obedecem a: R(f, α 1 ) R(f, α 2 ) α 1 > α 2 Os problemas de otimização pode ser pensados como sendo equivalentes a um problema de determinar pontos que estejam sucessivamente no interior de regiões de sub-nível cada vez inferiores (de menor valor de α). Solução é obtida quando a região de sub-nível se degenerar nos pontos de ótimo. Gonçalves, E.N. & Nepomuceno, E.G. pag.42 PPGEL UFSJ/CEFET-MG

49 Superfícies de Nível e Modalidade Definição (Função Unimodal) Seja f( ) : C R n R. Diz-se que f( ) é unimodal se R(f, α) é conexo para todo α R. Diz-se ainda que f( ) é estritamente unimodal se, além disso, R(f, α) é um conjunto compacto para todo α R. Por simetria, define-se ainda: Definição (Função Multimodal) Seja f( ) : C R n R. Diz-se que f( ) é multimodal se existe α R tal que R(f, α) não é conexo. Gonçalves, E.N. & Nepomuceno, E.G. pag.43 PPGEL UFSJ/CEFET-MG

50 Bacias de Atração Ao redor de mínimos locais, sempre haverá regiões nas quais a função se comportará de maneira unimodal. Tais regiões são definidas como bacias de atração associadas a tais mínimos. Definição (Região Conexa de Sub-Nível) Seja f( ) : C R n R, seja a região de sub-nível R(f, α) e seja um ponto x o R(f, α). A região conexa de sub-nível R c (f, α, x o ) é definida como o maior subconjunto conexo de R(f, α) que contém x o. Gonçalves, E.N. & Nepomuceno, E.G. pag.44 PPGEL UFSJ/CEFET-MG

51 Bacias de Atração Definição (Bacia de Atração) Seja f( ) : C R n R e seja x C um mínimo local de f( ). A bacia de atração de x é definida como a maior região conexa de sub-nível associada a x, sendo α o nível correspondente, tal que a função restrita a essa região: f( ) : R c (f, α, x ) R é unimodal. A bacia de atração é dita estrita se nessa região a função é estritamente unimodal. Gonçalves, E.N. & Nepomuceno, E.G. pag.45 PPGEL UFSJ/CEFET-MG

52 Continuidade e Diferenciabilidade Preposição Seja f( ) : C R n R. Se f( ) é contínua no domínio C, então dist(s(f, α 1 ), S(f, α 2 )) > 0 (α 1, α 2 ) tal que α 1 α 2 > 0 sendo dist(, ) a função distância. Corolário Superfícies de nível de funções contínuas não se tocam nem se cruzam. Preposição Seja f( ) : C R n R. Se f( ) é diferenciável no domínio C, então toda superfície de nível S(f, α) é suave, sendo o hiperplano tangente à superfície em cada ponto perpendicular ao gradiente da função no ponto. Gonçalves, E.N. & Nepomuceno, E.G. pag.46 PPGEL UFSJ/CEFET-MG

53 Continuidade e Diferenciabilidade Preposição Seja f( ) : C R n R uma função diferenciável no domínio C, seja x o um ponto pertencente à superfície de nível S(f, α) e seja f(x o ) o gradiente de f( ) no ponto x o. Seja ainda um vetor d R n. Então, se: então existe ɛ > 0 tal que: d f(x o ) < 0 f(x o + ɛd) < f(x o ) Obs 1: Seja x, y R n, x y = n i=1 x iy i [ f Obs 2: Seja x R n, f(x) =... f x 1 x n Gonçalves, E.N. & Nepomuceno, E.G. pag.47 PPGEL UFSJ/CEFET-MG ]

54 Convexidade e Quasi-Convexidade Definição (Função Convexa) Diz-se que uma função f( ) : C R n R definida sobre um conjunto convexo C é convexa se para quaisquer x, y C, f(αx + (1 α)y) αf(x) + (1 α)f(y) Para todo α [0, 1]. Se para quaisquer x, y C, sendo x y e 0 < α < 1, a desigualdade é estrita, então f( ) é estritamente convexa. Analogamente, f( ) é (estritamente) côncava se f( ) for (estritamente) convexa. Gonçalves, E.N. & Nepomuceno, E.G. pag.48 PPGEL UFSJ/CEFET-MG

55 Convexidade e Quasi-Convexidade Definição (Subgradiente) Seja uma função convexa f( ) : R n R. Um funcional linear f sb é um subgradiente de f no ponto x 0 se: f(x) f(x 0 ) + f sb (x x 0 ), x Proposição (Caracterizações de Funções Convexas) Seja f( ) uma função duas vezes diferenciável, sobre um conjunto convexo C R n. Então são equivalentes as alternativas abaixo: 1. f(αx + (1 α)y) αf(x) + (1 α)f(y), α [0, 1] 2. f(y) f(x) + f(x) (y x), x, y C 3. F (x) 0 x C Gonçalves, E.N. & Nepomuceno, E.G. pag.49 PPGEL UFSJ/CEFET-MG

56 Convexidade e Quasi-Convexidade A matriz hessiana de f( ) no ponto x = [x 1, x 2,..., x n ] é a matriz quadrada de derivadas parciais de segunda ordem da função: 2 f x 1 x 2... F (x) = 2 f x f x 2 x 1. 2 f x n x 1 2 f x f x n x f x 1 x n 2 f x 2 x n f x 2 n Gonçalves, E.N. & Nepomuceno, E.G. pag.50 PPGEL UFSJ/CEFET-MG

57 Convexidade e Quasi-Convexidade Como no caso de conjuntos convexos, é possível obter funções convexas a partir de combinações convexas. Proposição (Combinações Convexas) Sejam f i ( ) : C i R n R funções convexas definidas sobre conjuntos convexos C i, i = 1,..., m. Então: 1. αf i ( ) é convexa sobre C i, α 0 m m 2. α i f i ( ) é convexa sobre C i para α i 0, i = 1,..., m. i=1 i=1 Gonçalves, E.N. & Nepomuceno, E.G. pag.51 PPGEL UFSJ/CEFET-MG

58 Convexidade e Quasi-Convexidade Proposição Seja f( ) : C R n R uma função convexa sobre C convexo. Então a região de sub-nível R(f, α) é convexa para todo α R. Definição (Função Quasi-Convexa) Seja f( ) : C R n R uma função tal que suas regiões de sub-nível R(f, α) são convexas para todo α R. Nesse caso, diz-se que f( ) é quasi-convexa no domínio C. Preposição Se f( ) : C R n R é quasi-convexa no domínio C, então para quaisquer x, y C e todo λ [0, 1], f(λx + (1 λ)y) max(f(x), f(y)) Gonçalves, E.N. & Nepomuceno, E.G. pag.52 PPGEL UFSJ/CEFET-MG

59 Convexidade e Quasi-Convexidade Definição (Epígrafo) O epígrafo de uma função f( ) : C R n R é o conjunto de pontos sobre e acima de seu gráfico, podendo ser definido como: [f, C] = {(x, θ) R n R : x C, f(x) θ} R n+1 Preposição Uma função f( ) : C R n R definida sobre C convexo é convexa somente se [f, C] é um conjunto convexo. Como todo conjunto convexo, o epígrafo de uma função convexa admite hiperplanos suporte em qualquer ponto de sua fronteira. Gonçalves, E.N. & Nepomuceno, E.G. pag.53 PPGEL UFSJ/CEFET-MG

60 Convexidade e Quasi-Convexidade A convexidade de funções pode ser relacionada com as regiões de subnível, superfícies de nível e bacias de atração. Preposição Todas as regiões de sub-nível de uma função convexa num domínio convexo são conjuntos convexos. Preposição Uma função convexa em um domínio convexo possui uma única bacia de atração, a qual é um conjunto convexo. Gonçalves, E.N. & Nepomuceno, E.G. pag.54 PPGEL UFSJ/CEFET-MG

61 Convexidade e Quasi-Convexidade Preposição Seja uma função convexa f( ) : C R n R, seja um ponto qualquer x o R n e seja s(x o ) R n um vetor subgradiente da função no ponto. Então a região de sub-nível que possui o ponto x o em sua fronteira está contida no semi-espaço fechado negativo definido pelo vetor subgradiente no ponto x o, ou seja: E s = {x R n (x xo) s(x o ) 0} R(f, f(x o )) E s Gonçalves, E.N. & Nepomuceno, E.G. pag.55 PPGEL UFSJ/CEFET-MG

62 Mínimos Locais e Mínimos Globais Definição (Mínimo Local) Seja f( ) : C R n R. Um ponto x é um mínimo local de f( ) sobre C se existe ɛ > 0 tal que f(x ) f(x), x V(x, ɛ) C onde V(x, ɛ) {x : x x < ɛ}. O ponto x C é um mínimo local estrito se vale a desigualdade estrita para x x. O conjunto C é o subconjunto do espaço R n definido pelas restrições: C {x R n g i (x) 0; i = 1,..., m; h j (x) = 0; j = 1,..., p} Se for possível escolher ɛ > 0 tal que V(x, ɛ) C = C, então x é um mínimo global de f( ) sobre C. O mínimo global é estrito se a desigualdade for satisfeita de modo estrito. Gonçalves, E.N. & Nepomuceno, E.G. pag.56 PPGEL UFSJ/CEFET-MG

63 Caracterização dos Mínimos Locais Considere a notação C n para representar o conjunto das funções n vezes continuamente diferenciáveis. Definição (Otimização Irrestrita) Seja f( ) C 2 e x R n. Se forem simultaneamente satisfeitas: i. f(x ) = 0 ii. F (x ) > 0 então x é um mínimo local estrito de f( ) sobre R n. Gonçalves, E.N. & Nepomuceno, E.G. pag.57 PPGEL UFSJ/CEFET-MG

64 Caracterização dos Mínimos Locais 3 2 máximo local 1 f(x) = 1/3x 3 x f(x) f (x) = x 2 1 mínimo local f (x) = 2x x Ex. de otimização irrestrita para x R. Gonçalves, E.N. & Nepomuceno, E.G. pag.58 PPGEL UFSJ/CEFET-MG

65 Caracterização dos Mínimos Locais Definição (Otimização Restrita - Igualdade) Sejam f( ) C 2, h i ( ) C 2, i = 1,..., r e x R n tal que h i (x ) = 0, i = 1,..., r. Se existem multiplicadores λ 1, λ 2,..., λ r tais que r i. f(x ) + λ i h i (x ) = 0 ii. F (x ) + i=1 r i=1 λ i H i (x ) > 0 sobre M = {y R n : h i (x ) y = 0, i = 1,..., r} são simultaneamente satisfeitos, então x é um mínimo local estrito de f( ) sujeito a h i (x) = 0, i = 1,..., r. Gonçalves, E.N. & Nepomuceno, E.G. pag.59 PPGEL UFSJ/CEFET-MG

66 Caracterização dos Mínimos Locais Definição (Otimização Restrita - Desigualdade) Sejam f( ) C 2, g i ( ) C 2, i = 1,..., p e x R n tal que g i (x ) 0, i = 1,..., p. Se existem multiplicadores λ 1, λ 2,..., λ r tais que i. λ i 0, i = 1,..., p ii. λ i g i (x ) = 0, i = 1,..., p iii. f(x ) + p i=1 λ i g i (x ) = 0 iv. F (x ) + p i=1 λ ig i (x ) > 0 sobre M = {y R n : g i (x ) y = 0, i I(x )} I(x ) = {i : g i (x ) = 0, λ i > 0} são simultaneamente satisfeitos, então x é um mínimo local estrito de f( ) sujeito a g i (x) = 0, i = 1,..., p. Gonçalves, E.N. & Nepomuceno, E.G. pag.60 PPGEL UFSJ/CEFET-MG

67 Caracterização dos Mínimos Locais Condições necessárias adquirem caráter suficiente se o problema considerado é convexo: f( ) é uma função convexa e as restrições determinam uma região factível convexa. Nestas circunstâncias, qualquer mínimo local de f( ) é também um mínimo global. Definição (Direção Factível) Seja Ω o conjunto dos pontos factíveis em um problema de otimização com restrições. Diz-se que d é uma direção factível a partir de um ponto x 0 Ω se existe um α > 0 tal que (x 0 + αd) Ω α [0, α]. Gonçalves, E.N. & Nepomuceno, E.G. pag.61 PPGEL UFSJ/CEFET-MG

68 Caracterização dos Mínimos Locais Definição (Condições Necessárias de 1a Ordem) Seja Ω R n e f( ) uma função diferenciável sobre Ω. Se x é um mínimo local de f( ) sobre Ω, então para qualquer d R n que seja uma direção factível em x tem-se que: f(x ) d 0 Definição (Condições Necessárias de 2a Ordem) Seja Ω R n e f( ) uma função duas vezes diferenciável sobre Ω. Se x é um mínimo local de f( ) sobre Ω, então para qualquer d R n factível em x tem-se que: i. f(x ) d 0 ii. Se f(x ) d = 0, então d F (x )d 0 Gonçalves, E.N. & Nepomuceno, E.G. pag.62 PPGEL UFSJ/CEFET-MG

69 Caracterização dos Mínimos Locais Nota 3.2 Observe-se que se x é um ponto interior de Ω então as condições se reduzem a: i. f(x ) = 0 ii. d F (x )d 0, d R n Definição (Ponto Regular) Um ponto x satisfazendo um conjunto de restrições de igualdade h(x ) = 0 e um conjunto de restrições de desigualdade g(x ) 0 é chamado de ponto regular dessas restrições se os vetores gradiente h i (x ) e g j (x ) para todo j tal que g j (x ) = 0 forem linearmente independentes. Gonçalves, E.N. & Nepomuceno, E.G. pag.63 PPGEL UFSJ/CEFET-MG

70 Caracterização dos Mínimos Locais A seguinte condição de primeira ordem para otimalidade de um problema genérico de otimização, apresentada por Kuhn e Tucker em 1951, possui importância histórica, servindo de base para diversos algoritmos numéricos de otimização existentes. Proposição (Condições Necessárias de Kuhn-Tucker para Otimalidade) Seja x um ponto regular das restrições do problema de otimização: min f(x) { hi (x) = 0, i = 1,..., l sujeito a sendo que f, g, h C 1. g j (x) 0, j = 1,..., m Gonçalves, E.N. & Nepomuceno, E.G. pag.64 PPGEL UFSJ/CEFET-MG

71 Caracterização dos Mínimos Locais Para x ser um ótimo local do problema, deve existir um conjunto de multiplicadores de Kuhn-Tucker λ R l e µ R m com µ i 0 tal que: f(x ) + l i=1 λ i h i(x ) + m j=1 µ j g j(x ) = 0 µ j g j(x ) = 0, j = 1,..., m Nota: Essas condições necessárias tornam-se também suficientes em problemas convexos (com função objetivo convexa e todas as restrições convexas). Gonçalves, E.N. & Nepomuceno, E.G. pag.65 PPGEL UFSJ/CEFET-MG

72 PROGRAMA DE PÓS-GRADUAÇÃO EM ENGENHARIA ELÉTRICA Disciplina: Técnicas de Otimização Professores: Eduardo Nunes Gonçalves (CEFET-MG) Erivelton Geraldo Nepomuceno (UFSJ)

73 Unidade 2 Propriedades básicas de programação linear.

74 Introdução Forma padrão de um problema de programação linear: minimize c 1 x 1 + c 2 x c n x n sujeito a a 11 x 1 + a 12 x a 1n x n = b 1 a 21 x 1 + a 22 x a 2n x n = b 2.. a m1 x 1 + a m2 x a mn x n e x 1 0, x 2 0,..., x n 0 = b m sendo b i s, c i s e a ij s constantes reais e x i s números reais a serem determinados. Assume-se que cada equação foi multiplicada por -1, se necessário, tal que b i 0. Gonçalves, E.N. & Nepomuceno, E.G. pag.2 PPGEL UFSJ/CEFET-MG

75 Introdução Forma compacta do problema padrão: minimize c T x sujeito a Ax = b, e x 0 sendo que x R n, c R n, A R m n e b R m. A desigualdade x 0 significa que cada elemento de x deve ser não negativo. Outros formatos de programação linear podem ser convertidos para o formato padrão. Gonçalves, E.N. & Nepomuceno, E.G. pag.3 PPGEL UFSJ/CEFET-MG

76 Introdução Exemplo 1 (Variáveis de folga (slack variables)). Considere o problema minimize c 1 x 1 + c 2 x c n x n sujeito a a 11 x 1 + a 12 x a 1n x n b 1 a 21 x 1 + a 22 x a 2n x n b 2.. a m1 x 1 + a m2 x a mn x n e x 1 0, x 2 0,..., x n 0 b m O problema pode ser expresso alternativamente como a seguir. Gonçalves, E.N. & Nepomuceno, E.G. pag.4 PPGEL UFSJ/CEFET-MG

77 Introdução minimize c 1 x 1 + c 2 x c n x n sujeito a a 11 x 1 + a 12 x a 1n x n + y 1 = b 1 a 21 x 1 + a 22 x a 2n x n + y 2 = b 2. a m1 x 1 + a m2 x a mn x n + y m = b m e x 1 0, x 2 0,..., x n 0 e y 1 0, y 2 0,..., y m 0 As variáveis desconhecidas y i s são introduzidas para converter as desigualdades em igualdades. A matriz que descreve as constantes das igualdades lineares possui a forma [A, I], sendo I a matriz identidade de ordem m m. Gonçalves, E.N. & Nepomuceno, E.G. pag.5 PPGEL UFSJ/CEFET-MG.

78 Introdução Exemplo 2 (Variáveis de excesso (surplus variables)). Se as desigualdades do exemplo 1 são invertidas: a i1 x 1 + a i2 x a in x n b i, pode-se considerar a igualdade equivalente: com y i 0. a i1 x 1 + a i2 x a in x n y i = b i, Fica claro que qualquer desigualdade pode ser transformada em um igualdade no formato padrão (b i 0) através das variáveis adicionais e multiplicação por -1. Gonçalves, E.N. & Nepomuceno, E.G. pag.6 PPGEL UFSJ/CEFET-MG

79 Introdução Exemplo 3 (Variáveis livres - primeiro método). Considere um programa linear no formato padrão com exceção de uma das variáveis desconhecidas poder ser negativa, existem dois métodos para transformar o problema para o formato padrão. Por exemplo, se x j é livre, substituir: x j = u j v j com u j 0 e v j 0. O problema ficará expresso em termos de n + 1 variáveis. Representação de x j não é única desde que qualquer constante pode ser somada a u j e v j. Gonçalves, E.N. & Nepomuceno, E.G. pag.7 PPGEL UFSJ/CEFET-MG

80 Introdução Exemplo 4 (Variáveis livres - segundo método). A variável livre x j pode ser eliminada junto com uma das equações de igualdade em que a ij 0, escrevendo x j em função de b i menos a combinação linear das demais varáveis. O problema passa a ter n 1 variáveis e m 1 restrições de igualdade. Uma vez determinado x k s, k j, x j pode ser determinado a partir da i-ésima igualdade utilizada para sua eliminação. Gonçalves, E.N. & Nepomuceno, E.G. pag.8 PPGEL UFSJ/CEFET-MG

81 Soluções Básicas Considere o sistema de equações Ax = b onde x R n, b R m e A R m n. Suponha que das n colunas de A são selecionadas m colunas linearmente independentes (requer posto de A igual a m). Por simplicidade, considere que são selecionadas as m primeiras colunas de A para formar a matriz B R m m. A matriz B (não singular) resolve unicamente a equação Bx B = b para o vetor x B. Fazendo x = (x B, 0) é obtida uma solução para Ax = b. Gonçalves, E.N. & Nepomuceno, E.G. pag.9 PPGEL UFSJ/CEFET-MG

82 Soluções Básicas Definição. Dado o conjunto de m equações lineares com n variáveis desconhecidas, Ax = b, seja B R m m uma sub-matriz não singular formada das colunas de A. Então, se todos os n m componentes de x não associados com as colunas de B são igualados a zero, a solução do conjunto de equações resultante é denominada solução básica com respeito a base B. Os componentes de x associados com as colunas de B são denominados variáveis básicas. Consideração de Posto Completo. A matriz A R m n, m < n, possui m linhas linearmente independentes. Sob esta consideração, o sistema Ax = b possui solução, possuindo pelo menos uma solução básica. Gonçalves, E.N. & Nepomuceno, E.G. pag.10 PPGEL UFSJ/CEFET-MG

83 Soluções Básicas Definição. Se uma ou mais variáveis básicas na solução básica é igual a zero, a solução é denominada solução básica degenerada. Definições equivalentes podem ser aplicadas quando o problema considera as restrições que as variáveis devam ser positivas Ax = b x 0 Definição. Um vetor x satisfazendo as restrições acima é denominado factível para estas restrições. Uma solução factível que também é uma solução básica é denominada solução factível básica; se esta solução factível é degenerada ela é denominada solução factível básica degenerada. Gonçalves, E.N. & Nepomuceno, E.G. pag.11 PPGEL UFSJ/CEFET-MG

84 Teorema Fundamental da Programação Linear Para um programa linear na forma padrão minimize c T x sujeito a Ax = b, x 0 a solução factível que atinge o valor mínimo da função objetivo é chamada solução factível ótima. Se a solução for básica, esta é uma solução factível básica ótima. Teorema Fundamental da Programação Linear. Dado um problema de programação linear na forma padrão, com posto de A R m n igual a m, i) se existe uma solução factível, existe uma solução factível básica; ii) se existe uma solução factível ótima, existe uma solução factível básica ótima Gonçalves, E.N. & Nepomuceno, E.G. pag.12 PPGEL UFSJ/CEFET-MG

85 Teorema Fundamental da Programação Linear Prova de (i). Denomine as colunas de A de a 1,..., a n. Considere que x = (x 1,..., x n ) é uma solução factível: x 1 a 1 + x 2 a x n a n = b considere que somente p variáveis são maiores que zero, por conveniência a primeiras p variáveis: x 1 a 1 + x 2 a x p a p = b Existem dois casos correspondendo ao conjunto a 1,..., a p ser linearmente independente ou não. CASO 1: Considere que a 1,..., a p são linearmente independentes, p m. Se p = m, a solução é factível básica. Se p < m, é possível obter mais m p vetores para obter m vetores linearmente independentes de modo que a solução é factível básica degenerada. Gonçalves, E.N. & Nepomuceno, E.G. pag.13 PPGEL UFSJ/CEFET-MG

86 Teorema Fundamental da Programação Linear CASO 2: Considere que a 1,..., a p são linearmente dependentes, então existem constantes y 1,..., y p, com pelo menos uma positiva, tal que y 1 a 1 + y 2 a y p a p = 0 Multiplicando essa equação por uma constante ɛ e subtraindo da equação anterior: (x 1 ɛy 1 )a 1 + (x 2 ɛy 2 )a (x p ɛy p )a p = b Definindo y = (y 1,..., y p, 0,..., 0), para qualquer ɛ é uma solução das igualdades. x ɛy Gonçalves, E.N. & Nepomuceno, E.G. pag.14 PPGEL UFSJ/CEFET-MG

87 Teorema Fundamental da Programação Linear Aumento de ɛ (x i ɛy i ) pode aumentar (y i < 0), diminuir (y i > 0), ou manter (y i = 0). Desde que pelo menos um y i é positivo, aumentando ɛ até que (x i ɛy i ) fique nulo: ɛ = min{x i /y i : y i > 0} Para este valor de ɛ a solução x ɛy é factível e possui pelo menos p 1 variáveis positivas. Repetindo esse processo até obter uma solução factível envolvendo apenas colunas linearmente independentes retorna-se ao caso 1. Gonçalves, E.N. & Nepomuceno, E.G. pag.15 PPGEL UFSJ/CEFET-MG

88 Teorema Fundamental da Programação Linear Este teorema reduz a tarefa de resolver um problema de programação linear para uma busca sobre as soluções factíveis básicas. O número de soluções básicas é dado por (número de possibilidades de selecionar m de n colunas): ( ) n n! = m m!(n m)! Deste modo, este teorema mostra que o problema pode ser solucionado por uma busca finita porém ineficiente. Ex: n = 10, m = soluções básicas. Gonçalves, E.N. & Nepomuceno, E.G. pag.16 PPGEL UFSJ/CEFET-MG

89 Relações com Convexidade Definição. Um ponto x em um conjunto convexo C é chamado de um ponto extremo de C se não existir dois pontos distintos x 1 C e x 2 C tal que x = αx 1 + (1 α)x 2, para algum α R, 0 < α < 1. Teorema. (Equivalência entre pontos extremos e soluções básicas). Seja A R m n, com posto m, e b R m. Seja K um politopo convexo consistindo de todos x R n satisfazendo Ax = b x 0. Um vetor x é um ponto extremo de K se e somente se x é uma solução básica do sistema acima. Gonçalves, E.N. & Nepomuceno, E.G. pag.17 PPGEL UFSJ/CEFET-MG

90 Relações com Convexidade Prova. Considere que x = (x 1,..., x m, 0,..., 0) é uma solução básica do sistema: x 1 a 1 + x 2 a x m a m = b sendo a 1,..., a m, as m primeiras colunas de A, linearmente independentes. Suponha que x possa ser expresso como x = αy + (1 α)z, 0 < α < 1, y, z K, y z. Como todos os componentes de x, y e z são não negativos, segue que os últimos n m componentes de y e z devam ser nulos de modo que y 1 a 1 + y 2 a y m a m = b z 1 a 1 + z 2 a z m a m = b Como os vetores a 1,..., a m são linearmente independentes, conclui-se que x = y = z, ou seja, x é um ponto extremo de K. Gonçalves, E.N. & Nepomuceno, E.G. pag.18 PPGEL UFSJ/CEFET-MG

91 Relações com Convexidade Considere que x seja um ponto extremo de K. Considere que os elementos não nulos de x sejam os primeiros k componentes: x 1 a 1 + x 2 a x k a k = b sendo x i > 0, i = 1,..., k. Para provar que x é uma solução básica basta provar que os vetores a 1,..., a k são linearmente independentes. Por contradição, se os vetores são linearmente dependentes, então existe y = (y 1,..., y k, 0,..., 0) tal que: y 1 a 1 + y 2 a y k a k = 0 Como x i > 0, i = 1,..., k, então existe ɛ tal que x + ɛy 0 e x ɛy 0. Como x = 1 (x + ɛy) + 1 (x ɛy), isso contradiz 2 2 que x é um ponto extremo. Desta forma, x é uma solução básica (degenerada se k < m). Gonçalves, E.N. & Nepomuceno, E.G. pag.19 PPGEL UFSJ/CEFET-MG

92 Relações com Convexidade Corolário. Se o conjunto K é não vazio, ele possui pelo menos um ponto extremo. Corolário. Se existe uma solução ótima finita do problema de programação linear, existe uma solução ótima finita que é um ponto extremo do conjunto de restrições. Corolário. O conjunto de restrições K possui um número finito de pontos extremos. Corolário. Se o conjunto convexo K é limitado, então K é um poliedro convexo, isto é, K consiste de pontos que são combinações convexas de um número finito de pontos. Gonçalves, E.N. & Nepomuceno, E.G. pag.20 PPGEL UFSJ/CEFET-MG