Sistemas Lineares Métodos Diretos

Transcrição

1 Sistemas Lineares Métodos Diretos Andrea M. P. Valli, Lucia Catabriga March 19, 2018 Andrea M. P. Valli, Lucia Catabriga (UFES) DI-PPGI/UFES March 19, / 34

2 Métodos Diretos 1 Introdução 2 Substituição Regressiva 3 Eliminação de Gauss 4 Pivoteamento Parcial 5 Fatoração LU 6 Aplicações 7 Matrizes Esparsas x Métodos Diretos Andrea M. P. Valli, Lucia Catabriga (UFES) DI-PPGI/UFES March 19, / 34

3 Eliminação de Gauss - Introdução Encontra a solução exata a menos de erros de ponto flutuante. A idéia dos métodos é transformar o sistema em um sistema trivial (sistema triangular). A complexidade é em torno de n 3 (número de operações de ponto flutuante). Em certos casos, métodos diretos não são eficientes, por exemplo, quando a matriz dos coeficientes é uma matriz esparsa (muitos elementos iguais a zero). Andrea M. P. Valli, Lucia Catabriga (UFES) DI-PPGI/UFES March 19, / 34

4 Sistema linear n n: a 11 x 1 + a 12 x 2 + a 13 x a 1n x n = b 1 a 21 x 1 + a 22 x 2 + a 23 x a 2n x n = b a n1 x 1 + a n2 x 2 + a n3 x a nn x n = b n a ij = coeficientes, b j = constantes, x j = variáveis (i, j = 1,, n) Na forma matricial Ax = b a 11 a 12 a 13 a 1n x 1 b 1 a 21 a 22 a 23 a 2n x = b 2. a n1 a n2 a n3 a nn x n b n Andrea M. P. Valli, Lucia Catabriga (UFES) DI-PPGI/UFES March 19, / 34

5 Substituição Regressiva Sistema triangular superior n n: a 11 a 12 a 13 a 1n x 1 b 1 0 a 22 a 23 a 2n x 2 b a 33 a 3n x 3 = b a nn x n b n Assuma que o sistema tem solução única: a ii 0, i = 1,, n. Solução: a nn x n = b n x n = b n a nn a n 1,n 1 x n 1 + a n 1,n x n = b n 1 x n 1 = b n 1 a n 1,n x n linha i x i = b i n j=i+1 a ii a ij x j a n 1,n 1 Andrea M. P. Valli, Lucia Catabriga (UFES) DI-PPGI/UFES March 19, / 34

6 Algoritmo para a substituição regressiva: x i = Data: A,b,n Result: x for i=n,1,-1 do soma = b[i]; for j=i+1,n,1 do soma = soma - a[i][j] x[j]; end x[i] = soma/a[i][i]; end b i n a ij x j j=i+1 a ii Esforço computacional (de operações (+,-,x,/) ou flops): divisão: n subtração e multiplicação: 2 n 1 j = 2n(n 1)/2 total = n 2 j=1 Andrea M. P. Valli, Lucia Catabriga (UFES) DI-PPGI/UFES March 19, / 34

7 Eliminação de Gauss Idéia do método: Ax = b = Ãx = b operações de linhas elementares onde Ã é uma matriz triangular superior. Operações de linhas elementares: trocar a ordem de duas equações; multiplicar uma equação por uma constante não nula; somar uma equação à outra. Observação: A eliminação deve ser feita de forma sistemática, ou seja, usando uma sequência de operações elementares de modo a transformar um sistema linear em um outro equivalente, onde a matriz é triangular superior. Andrea M. P. Valli, Lucia Catabriga (UFES) DI-PPGI/UFES March 19, / 34

8 Exemplo: sistema solução exata: x 1 1 x 2 x 3 = 1 1 x 4 1 Primeiro Passo: Eliminar os coeficientes da primeira coluna abaixo da diagonal: pivô: a 11 = 3 multiplicadores: m 21 = 7/3 = 2.333, m 31 = 2/3 = 0.667, m 41 = 1/3 = L 2 L 2 (m 21 )L 1, L 3 L 3 (m 31 )L 1, L 4 L 4 (m 41 )L Andrea M. P. Valli, Lucia Catabriga (UFES) DI-PPGI/UFES March 19, / 34

9 Segundo Passo: Eliminar os coeficientes da segunda coluna abaixo da diagonal pivô: a 22 = multiplicadores: m 32 = 2.336/ = 0.132, m 42 = 0.664/ = L 3 L 3 (m 32 )L 2, L 4 L 4 (m 42 )L Andrea M. P. Valli, Lucia Catabriga (UFES) DI-PPGI/UFES March 19, / 34

10 Terceiro Passo: Eliminar os coeficientes da terceira coluna abaixo da diagonal pivô: a 33 = multiplicadores: m 43 = 5.434/1.982 = Operações: L 4 L 4 (m 43 )L Andrea M. P. Valli, Lucia Catabriga (UFES) DI-PPGI/UFES March 19, / 34

11 Substituição Regressiva: x x x 3 = x x 4 = x 4 = x x 4 = x 3 = x x x 4 = x 2 = x 1 + 8x 2 2x 3 + 3x 4 = 6 x 1 = Andrea M. P. Valli, Lucia Catabriga (UFES) DI-PPGI/UFES March 19, / 34

12 Cálculo do Resíduo: R = b A x R = = Observação: A solução é exata a menos dos erros de ponto flutuante. Sendo assim, o resíduo tem que ser bem pequeno, em torno do número de casas decimais utilizadas para os cálculos. Andrea M. P. Valli, Lucia Catabriga (UFES) DI-PPGI/UFES March 19, / 34

13 Algoritmo para a Eliminação de Gauss: Passo k: Eliminar os coeficientes da k-ésima coluna abaixo da diagonal (1 k n 1) Operação sobre a Linha i: L i L i m ik L k onde m ik = a ik a kk, k + 1 i n a ij a ij a ik a kk a kj, k + 1 j n b i b i a ik a kk b k Andrea M. P. Valli, Lucia Catabriga (UFES) DI-PPGI/UFES March 19, / 34

14 Data: A,b,n Result: x for k=1,n-1 do for i=k+1,n do fator = a[i][k] / a[k][k]; for j=k+1,n do a[i][j] = a[i][j] - fator a[k][j]; end b[i] = b[i] - fator b[k] end end Esforço computacional: adição e subtração: n 3 /3 + O(n) multiplicação e divisão: n 3 /3 + O(n 2 ) total = 2n 3 /3 + O(n 2 ) Obs: O(m n ) significa termos de ordem m n e menores. Andrea M. P. Valli, Lucia Catabriga (UFES) DI-PPGI/UFES March 19, / 34

15 Esporço Computacional totais Eliminação Progressiva: 2n 3 /3 + O(n 2 ) Substituição Regressiva: n 2 n Elim. Subst. Flops 2n 3 /3 % Elim % % % O tempo de computação cresce bastante à medida que o sistema fica maior. A quantidade de flops cresce quase três ordens de grandeza para cada aumento na ordem de grandeza da dimensão; A maior parte do esforço vem da parte da eliminação. Esforços para melhorar o algoritmo devem se concentrar neste passo. Andrea M. P. Valli, Lucia Catabriga (UFES) DI-PPGI/UFES March 19, / 34

16 Variantes do Método de Gauss Gauss-Jordan algoritmo: [A b] = [I x], onde I é a matriz identidade e x é a solução do sistema. Neste método o esforço computacional é O(n 3 ), ou seja, aproximadamente 50% mais operações que a eliminação de Gauss ingênua. Esforço Computacional: Regra de Cramer: O(n!) Gauss-Jordan: O(n 3 ) Eliminação de Gauss ingênua: O(2n 3 /3) Obs: a regra de Cramer é inviável computacionalmente quando n é grande. Observe que a regra de Cramer envolve o cálculo de determinantes. Andrea M. P. Valli, Lucia Catabriga (UFES) DI-PPGI/UFES March 19, / 34

17 Problemas com a Eliminação de Gauss 1 Divisão por zero Exemplo: solução exata (1, 1, 1) T 2x 2 + 3x 3 = 5 x 1 3x 2 + x 3 = 1 Solução trocar L 1 com L 2 2 Erros de arredondamento Exemplo: solução exata (1/3, 2/3) T 2x 1 + x 3 = x 1 + 3x 2 = x 1 + x 2 = 1 Andrea M. P. Valli, Lucia Catabriga (UFES) DI-PPGI/UFES March 19, / 34

18 [ ] L 2 L L 1 ] [ x 2 = = 2/3 x 1 = (x 2) Table: Resultado muito sensível à precisão. de Dígitos x 2 x 1 % Error relativo x Andrea M. P. Valli, Lucia Catabriga (UFES) DI-PPGI/UFES March 19, / 34

19 Pivoteamento Parcial Técnicas para melhorar a solução: Usar mais dígitos significativos, ou seja, aumentar a precisão. Usar a estratégia de pivoteamento parcial. Pivoteamento Parcial: 1 no início de cada etapa k, 1 k n 1, escolher para pivô o elemento de maior módulo entre os coeficientes a ik, k i n, 2 trocar as linhas k e i, se for necessário. Exemplo: solução exata (1/3, 2/3) T x 1 + 3x 2 = x 1 + x 2 = 1 Andrea M. P. Valli, Lucia Catabriga (UFES) DI-PPGI/UFES March 19, / 34

20 [ ] L 1 L 2 L L [ ] x 2 = = 2/3 x 1 = 1 x 2 L 1 Table: Resultado usando pivoteamento parcial. de Dígitos x 2 x 1 % Error relativo x Andrea M. P. Valli, Lucia Catabriga (UFES) DI-PPGI/UFES March 19, / 34

21 Exemplo com Pivoteamento: sistema solução exata: x 1 1 x 2 x 3 = 1 1 x 4 1 Primeiro Passo: Escolher o pivô (a 11 ), trocar linhas e eliminar os coeficientes da primeira coluna abaixo da diagonal L 1 L L 2 L 2 ( 3/7)L 1 L 3 L 3 ( 2/7)L 1 L 4 L 4 (1/7)L 1 Andrea M. P. Valli, Lucia Catabriga (UFES) DI-PPGI/UFES March 19, / 34

22 Segundo Passo: Escolher o pivô (a 22 ), trocar linhas e eliminar os coeficientes da segunda coluna abaixo da diagonal L 3 L 3 (2.714/7.571)L 2 L 4 L 4 ( 1.857/7.571)L 2 Andrea M. P. Valli, Lucia Catabriga (UFES) DI-PPGI/UFES March 19, / 34

23 Terceiro Passo: Escolher o pivô (a 33 ), trocar linhas e eliminar os coeficientes da terceira coluna abaixo da diagonal L 3 L L 4 L 4 (1.981/5.434)L 3 Andrea M. P. Valli, Lucia Catabriga (UFES) DI-PPGI/UFES March 19, / 34

24 Substituição Regressiva: x 4 = x 4 = x x 4 = x 3 = x x x 4 = x 2 = x 1 x 2 + 2x 3 + 3x 4 = 11 x 1 = Andrea M. P. Valli, Lucia Catabriga (UFES) DI-PPGI/UFES March 19, / 34

25 Cálculo do Resíduo: R = b Ax R = = Observação: Na eliminação de Gauss com pivoteamento todos os multiplicadores são em módulo menores ou iguais a 1. Andrea M. P. Valli, Lucia Catabriga (UFES) DI-PPGI/UFES March 19, / 34

26 Fatoração LU - Ideia Básica Seja Ax = b, supor que exista: L matriz triangular inferior com l ii = 1 U matriz triangular superior tal que: A = LU LUx = b Ly = b (1) Ux = y (2) Como encontrar os fatores L e U? Andrea M. P. Valli, Lucia Catabriga (UFES) DI-PPGI/UFES March 19, / 34

27 Voltando ao Exemplo 1 Seja L matriz triangular inferior tal que l ij = m ij para i > j e l ii = 1 e U a matriz triangular superior resultante da Eliminação de Gauss: 1.0 L = U = LU = A Andrea M. P. Valli, Lucia Catabriga (UFES) DI-PPGI/UFES March 19, / 34

28 Voltando ao Exemplo 2 Seja L matriz triangular inferior tal que l ij = m ij para i > j e l ii = 1 e U a matriz triangular superior resultante da Eliminação de Gauss: L = U = LU = = PA, sendo P = Andrea M. P. Valli, Lucia Catabriga (UFES) DI-PPGI/UFES March 19, / 34

29 Fatoração LU: Andrea M. P. Valli, Lucia Catabriga (UFES) DI-PPGI/UFES March 19, / 34

30 Processo de Substituição: A x = b PA x = Pb LU x = Pb U x = y, então L y = Pb 1 L y = P b, Substituição Progressiva e determino y; 2 U x = y, Substituição Regressiva e determino a solução x. [ ] [ ] [ ] [ ] 4 3 x1 7 1 Exemplo 2 2: =, solução exata = 8 5 x [ ] [ ] 1 0 y1 = 4/8 1 y 2 [ ] [ ] = [ ] [ ] 8 5 x1 = 0 1/2 x 2 [ ] 13 7 [ ] 13 1/2 [ y1 y 2 [ x1 x 2 ] = ] = [ ] 13 1/2 [ ] 1 1 Andrea M. P. Valli, Lucia Catabriga (UFES) DI-PPGI/UFES March 19, / 34

31 Cálculo do Determinante onde Cálculo do determinante: PA = LU det(pa) = det(lu), então, pela propriedade de determinantes, det(l) = 1 n det(u) = i=1 det(a) = det(l)det(u), det(p) u ii (produto dos pivôs) det(p) = ( 1) t onde t é o número de permutações det(a) = ( 1) t n i=1 u ii Andrea M. P. Valli, Lucia Catabriga (UFES) DI-PPGI/UFES March 19, / 34

32 Cálculo da inversa [A] [A] 1 = [A] 1 [A] = [I ] Exemplo 3 3: [A] [A] 1 = [I ] = matriz identidade a 11 a 12 a 13 x 11 x 12 x a 21 a 22 a 23 x 21 x 22 x 23 = a 31 a 32 a 33 x 31 x 32 x Fatoração LU de A: PA = LU 2 Resolve L U x j = P I j, j = 1, 2, 3, onde x 1j x j = x 2j e I j = j-ésima coluna de [I ] x 3j Andrea M. P. Valli, Lucia Catabriga (UFES) DI-PPGI/UFES March 19, / 34

33 Matrizes Esparsas Métodos Diretos : (a) Tridiagonal. (b) Banda. (c) Pentadiagonal. Andrea M. P. Valli, Lucia Catabriga (UFES) DI-PPGI/UFES March 19, / 34

34 Permite preenchimento em posições originalmente nulas! Andrea M. P. Valli, Lucia Catabriga (UFES) DI-PPGI/UFES March 19, / 34