Estudaremos métodos numéricos para resolução de sistemas lineares com n equações e n incógnitas. Estes podem ser:

Transcrição

1 1 UNIVERSIDADE FEDERAL DE VIÇOSA Departamento de Matemática - CCE Cálculo Numérico - MAT 271 Prof.: Valéria Mattos da Rosa As notas de aula que se seguem são uma compilação dos textos relacionados na bibliografia e não têm a intenção de substituir o livro-texto, nem qualquer outra bibliografia. Resolução de Sistemas Lineares Estudaremos métodos numéricos para resolução de sistemas lineares com n equações e n incógnitas. Estes podem ser: Métodos diretos. São aqueles que, a menos de erros de arredondamento, fornecem a solução exata do sistema linear, caso ela exista, após um número finito de passos. Métodos iterativos. São aqueles que geram uma seqüência de vetores x (k), a partir de uma aproximação inicial x (0). Caso a solução exista, esta seqüência converge sob certas condições. Exemplos de métodos diretos: Para um sistema Ax = b, onde A é uma matriz n n: Regra de Cramer. Idéia: achar o i-ésimo elemento de x como x i = i, onde i é o determinante da matriz obtida a partir de A trocando-se a coluna j pela matriz coluna b. Obs: Exige o cálculo de (n+1) determinantes de ordem n o que resulta em (n+1)(n!)(n 1) operações! Eliminação Gaussiana. Idéia: Transformar o sistema original em um sistema triangular superior equivalente. Fatoração LU. Idéia: Decompor a matriz A em duas matrizes triangulares L (inferior com diagonal unitária) e U (superior) de forma que A = LU. Fatoração de Cholesky. Idéia: Sendo A uma matriz simétrica (a ij = a ji, para i, j = 1,..., n), definida positiva (x t Ax > 0, x 0), decompô-la na forma A = GG t, onde G é uma matriz triangular inferior com g ii > 0, para i = 1,..., n. Exemplos de métodos iterativos: Para um sistema Ax = b, onde A é uma matriz n n. Podemos sempre escrever A = L + D + U, onde: L é uma matriz triangular inferior; D é uma matriz diagonal;

2 1 MÉTODO DA ELIMINAÇÃO DE GAUSS. 2 U é uma matriz triangular superior. Dessa forma o sistema pode ser reescrito como: Dx = b (L + U)x, e quando detd 0 podemos escrever x = D 1 (b (L + U)x). Método de Jacobi. Idéia: Calcular x (k+1) usando a fórmula acima e todo os elementos do vetor x (k) e sendo assim a iteração seguinte é calculada como x (k+1) = D 1 (b (L+U)x (k) ) Método de Gauss-Seidel. Idéia: Calcular x (k+1) usando a fórmula acima e parte do vetor x (k) e as novas aproximações x (k+1) já calculadas nos passos anteriores. Por exemplo, no caso 3x3: x k+1 1 x k+1 2 x k+1 3 = b 1 + a 12 x k 2 + a 13 x k 3 b 2 + a 21 x k a 23 x k 3 b 3 + a 31 x k a 32 x k+1 2 Observações gerais: Os métodos diretos são adequados para sistemas pequenos (menores que 300x300) e quando a matriz dos coeficientes é cheia. Os métodos iterativos são adequados para sistemas de qualquer tamanho, quando a matriz dos coeficientes é esparsa (muitos coeficientes são nulos). São mais econômicos. Reduzem problemas com erros de arredondamento, os quais acabam sendo em grande parte absorvidos pelo processo iterativo. Também podem ser aplicados em sistemas não -lineares. 1 Método da Eliminação de Gauss. Como já dissemos, o objetivo é transformar o sistema linear em um sistema triangular superior equivalente. Teorema do MEG: Seja Ax = b um sistema linear. Aplicando sobre as equações deste sistema uma seqüência de operações elementares escolhidas entre: 1. trocar duas equações ; 2. multiplicar uma equação por um escalar não -nulo; 3. adicionar uma equação a outra; obtemos um novo sistema A x = b equivalente ao sistema original, ou seja, eles possuem as mesmas soluções. Usaremos o teorema do MEG para achar a matriz triangular superior equivalente à matriz do sistema original. Suponhamos que detd 0. Na etapa k do processo eliminaremos a variável x k das equações k + 1, k + 2,..., n. O coeficiente da matriz A na linha i, coluna j e etapa k será denotado por a (k) ij, i, j = 1,..., n. O coeficiente da matriz dos termos independentes b na linha i, coluna n + 1 e etapa k será denotado por b (k) i, i = 1,..., n.

3 1 MÉTODO DA ELIMINAÇÃO DE GAUSS. 3 Como detd 0 existe a 1j não -nulo para algum j = 1,..., n, então reescrevemos A, se necessário for, de forma que a 11 seja não -nulo. A (0) b (0) ETAPA 1: Eliminação de x 1 das equações 2, 3,..., n, fazendo L (1) 1 = L (0) 1 e L (1) i = L (0) i m i1 L (0) 1, onde m i1 = a i1/a11 são chamados de multiplicadores da etapa 1 e o elemento a 11 de pivô da etapa 1, i = 2,..., n. A (1) b (1) ETAPA 2: Eliminação de x 2 das equações 3, 4,..., n, fazendo L (2) 1 = L (1) 1, L(2) 2 = L (1) 2 e L (2) i = L (1) i m i2 L (1) 2, onde m i2 = a i2 /a 22 sø chamados de multiplicadores da etapa 2 e o elemento a 22 de pivô da etapa 2, i=3,...,n. A (2) b (2) Seguindo um raciocínio análogo, prossegue-se até a etapa (n 1) e a matriz, ao final, será uma triangular superior estendida. E o sistema A (n 1) x = b (n 1) será equivalente ao sistema Ax = b. Exercício: Resolver os sistemas abaixo pelo método de eliminação de Gauss e verificar a exatidão da solução. Use mantissa com 4 dígitos e arredondamento. 7x 1 + 2x 2 5x 3 = 18 x 1 + 5x 2 3x 3 = 40 2x 1 x 2 9x 3 = 26 4x 1 + 2x 2 x 3 + x 4 = 6 8x 1 + 4x 2 + 2x 3 2x 4 = 10 x 1 + 4x 2 + 2x 3 2x 4 = 3 2x 1 + x 2 2x 3 + 6x 4 = 8 Como vimos anteriormente, a escolha do pivô pode influenciar na precisão da solução do sistema. 1.1 Estratégias de pivoteamento: No caso de precisão infinita o pivô precisa apenas ser não-nulo, mas utilizando máquinas trabalhamos com precisão finita e então o pivô deve ser o mais longe de zero possível. a)pivoteamento parcial. Consiste em: i)no início da etapa k da fase de eliminação, escolher para o pivô o elemento de maior módulo entre os coeficientes a (k 1) ik, i = k, k + 1,..., n; ii)se necessário for, permutar linhas. Exercício: Resolver os sistemas abaixo pelo método de eliminação de Gauss e verificar a exatidão da solução. Use mantissa com 4 dígitos e arredondamento.

4 2 FATORAÇÃO LU E FATORAÇÃO DE CHOLESKY 4 7x 1 + 2x 2 5x 3 = 18 x 1 + 5x 2 3x 3 = 40 2x 1 x 2 9x 3 = 26 0, 423x1 24, 72x 2 = 20, 49 0, 004x , 73x 2 = 15, 77 0, 004x1 + 15, 73x 2 = 15, 77 0, 423x 1 24, 72x 2 = 20, 49 b)pivoteamento completo. Consiste em, no início da etapa k é escolhido o elemento de maior módulo entre todos os elementos que ainda atuam no processo de eliminação. Se max a (k 1) ij = a rs (k 1) então pivô =a rs (k 1), i, j >= k. Exercícios: 1) Resolva o sistema linear abaixo usando o MEG, com pivoteamento parcial e 3 casas decimais: 4x 1 + 2x 2 x 3 + x 4 = 6 8x 1 + 4x 2 + 2x 3 2x 4 = 10 x 1 + 4x 2 + 2x 3 2x 4 = 3 2x 1 + x 2 2x 3 + 6x 4 = 8 2 Fatoração LU e Fatoração de Cholesky 2.1 Fatoração LU Seja o sistema linear Ax = b. O processo de fatoração para a resolução deste sistema consiste em decompor a matriz A dos coeficientes em um produto de dois ou mais fatores e, em seguida, resolver uma seqüência de sistemas triangulares. A vantagem dos processos de fatoração é que podemos resolver qualquer sistema linear que tenha A como matriz dos coeficientes. Se o vetor b for alterado o novo sistema linear será terá resolução quase imediata. A fatoração LU é um dos processos de fatoração mais empregados. Nesta fatoração a matriz L é triangular inferior com a diagonal unitária e a matriz U é triangular superior Cálculo dos fatores L e U Os fatores L e U podem ser calculados através de fórmulas específicas, ou então, podem ser construídos usando o método de eliminação de Gauss. Usaremos a segunda possibilidade. Exemplo teórico no caso de ordem 3 dado em sala de aula. Após a utilização do MEG obtemos uma matriz triangular superior, esta será a nossa matriz U, a matriz L será formada pelos multiplicadores m ij, sendo assim, no caso n n teremos: L = m m 31 m 32 1

5 2 FATORAÇÃO LU E FATORAÇÃO DE CHOLESKY 5 Teorema 1: (Fatoração LU) Dada uma matriz quadrada A de ordem n, seja A (k) a matriz construída a partir das primeiras k linhas e colunas de A. Suponha que det(a) 0 para k = 1, 2,..., (n 1). Então existe uma única matriz triangular inferior L = (m ij ), com m ii = 1, 1 i n e uma única matriz triangular superior U = (u ij ) tais que LU = A. Ainda mais, det(a) = u 11 u u nn. Resolução do sistema linear Ax = b usando a fatoração LU. Dados o sistema linear Ax = b e a fatoração LU da matriz A, temos: LUx = b e fazendo y = Ux, resolvemos agora dois sistemas triangulares: Ly = b que é triangular inferior, Ux = y que é triangular superior. Exercício: Resolver os sistemas lineares anteriores usando a fatoração LU. 2.3 Fatoração LU com estratégia de pivoteamento parcial Na estratégia de pivoteamento freqüentemente precisamos permutar linhas na matriz A (k), por isso trabalharemos com matrizes de permutação. Uma matriz quadrada de ordem n é uma matriz de permutação se pode ser obtida da matriz identidade de ordem n permutando-se suas linhas (ou colunas). Exemplo: P = é uma matriz de permutação que troca a 2 linha com a 3 linha. Se A = , então o produto P A nos dá P A = Seja agora o sistema linear Ax = b e os fatores L e U obtidos pelo método da eliminação de Gauss com estratégia de pivoteamento parcial. Estes fatores são da matriz A, onde A é a matriz com as linhas permutadas, isto é, A = P A = LU. Os sistemas Ax = b e P Ax = P b são equivalentes, logo resolveremos os seguintes sistemas lineares: Ly = P b que é triangular inferior, Ux = y que é triangular superior.

6 2 FATORAÇÃO LU E FATORAÇÃO DE CHOLESKY 6 e obteremos a solução do sistema linear original. Exemplo: Resolva o sistema linear abaixo usando a FLU com pivoteamento parcial, com mantissa de 4 dígitos e arredondamento. Identifique as matrizes de permutação. 3x 1 4x 2 + x 3 = 9 x 1 + 2x 2 + 2x 3 = 3 4x 1 3x 3 = 2 Exercícios: 1)Resolva os sistemas abaixo, com e sem pivoteamento, usando quatro dígitos e aritmética com arredondamento. Em qual técnica se obteve melhores resultados? 58, 09x1 + 1, 003x 2 = 68, , 8x1 + 5, 550x 2 = 377, 3 321, 8x 1 + 5, 550x 2 = 377, x , 3x 2 = , 550x , 8x 2 = 377, 3 100, 3x x 2 = ) Desenvolva um algoritmo para a fatoração LU, sem e com estratégia de pivoteamento parcial. 3) Mostre que, se A é uma matriz não singular e A = LU, então A = LDU, onde D é uma matriz diagonal e U é uma matriz triangular superior com diagonal unitária. 2.4 Fatoração de Cholesky Uma matriz quadrada A de ordem n é definida positiva se xtax > 0 para todo x, x 0. Uma matriz com a propriedade acima e simétrica pode ser fatorada na forma: A = GG t, onde G é uma matriz quadrada de ordem n, triangular inferior com elementos na diagonal estritamente positivos. Esta é a fatoração de Cholesky da matriz A. Suponhamos que a matriz A satisfaça condições do teorema da fatoração LU, usando o exercício 3, temos que A pode ser fatorada como: A = LDU com: L - matriz quadrada de ordem n, triangular inferior com diagonal unitária; D - matriz diagonal de ordem n; U - matriz quadrada de ordem n, triangular superior com diagonal unitária. Se, além disso, a matriz A for simétrica, mostra-se que U = L t e, a fatoração fica: A = LDL t. Exemplo: Considere a matriz A =

7 2 FATORAÇÃO LU E FATORAÇÃO DE CHOLESKY 7, os fatores L e U são: e, enquanto que, D e U serão : e. L = U = U = D = / / / /4 3/4 1/ Observamos que: u ij = u ij u ii ; como a matriz A é simétrica, U = L t. Se A for definida positiva, os elementos da matriz D são estritamente positivos. Temos que x R, x 0, x t Ax > 0, sendo assim: 0 < x t Ax = x t (L t DL)x = (Lx) t D(Lx) = y t Dy,fazendo y = e i, i = 1, 2,..., n, vetores da base canônica do R n, teremos 0 < e t i De i = d ii que nos leva ao fato de que d ii > 0, para todo i = 1, 2,..., n (lembramos que L tem posto completo o que garante, dado y, a existência de x tal que y = Lx, além disso, como x 0, temos y 0). Escrevemos então: A = LD D L t, onde d ii = (d ii ) 1/2, chamando G = LD teremos a fatoração de Cholesky na forma A = GG t, com G triangular inferior com diagonal estritamente positiva. Teorema 2: (Fatoração de Chloesky) Se a matriz A é quadrada de ordem n, simétrica e definida positiva, então existe uma única matriz G quadrada de ordem n, triangular inferior com diagonal estritamente positiva, tal que A = GG t. Exemplo: Para o exemplo anterior o fator de Cholesky da matriz A =

8 3 MÉTODOS ITERATIVOS 8 será. G = No exemplo anterior o fator de Cholesky foi calculado a partir da decomposição LDL t, que por sua vez foi obtida da fatoração LU, mas este fator deve ser calculado a partir de sua definição A = GG t, o que reduz a quantidade de cálculos pela metade. 2.5 Cálculo do fator de Cholesky: Dada a matriz a 11 a a 1n a 21 a a 2n A = a 31 a a 3n ] a n1 a n2... a nn é simétrica e definida positiva, o fator de Cholesky será obtido a partir da equação matricial: A = GG t. Observações :] i) Na prática, aplicamos a fatoração de Cholesky para verificar se uma determinada matriz A simétrica é definida positiva. ii) A fatoração de Cholesky requer cerca de n/3 operações de multiplicação e adição no cálculo dos fatores, aproximadamente a metade do número de operações necessárias na fase da eliminação da fatoração LU. iii)obtido o fator G, a resolução do sistema linear Ax = b prossegue com a resolução dos sistemas triangulares: Gy = b que é triangular inferior, G t x = y que é triangular superior. Exercício: Resolva o sistema abaixo usando a fatoração de Cholesky: 3 Métodos Iterativos 3.1 Introdução 1, 0000x 1 + 0, 5000x 2 + 0, 3333x 3 = 1 0, 5000x 1 + 0, 3333x 2 + 0, 2500x 3 = 0 0, 3333x 1 + 0, 2500x 2 0, 2000x 3 = 0 A idéia central dos métodos iterativos é fazer uso do teorema do ponto fixo. Seja o sistema linear Ax = b, onde :

9 3 MÉTODOS ITERATIVOS 9 A é a matriz dos coeficientes, nxn; x é o vetor das incógnitas, nx1; b é o vetor dos termos independentes, nx1. Podemos sempre escrever A = L + D + U, onde: L é uma matriz triangular inferior; D é uma matriz diagonal; U é uma matriz triangular superior. Dessa forma o sistema pode ser reescrito como: Dx = b (L + U)x, e quando detd 0 podemos escrever x = D 1 (b (L + U)x). Temos, agora, o sistema convertido na forma x = Cx + g, onde C = D 1 (L + U) e g = D 1 b. 3.2 Teorema do Ponto Fixo Seja uma função f(x) contínua em [a, b], intervalo que contém uma raiz da equação f(x) = 0. Procuramos encontrar esta raiz transformando a equação acima em uma do tipo x = Ψ(x) e a partir de uma aproximação inicial gerar uma seqüência x (k) de aproximações para a raiz pela relação x (k+1) = Ψ(x (k) ). Temos que f(x) = 0 se, e somente se x (k+1) = Ψ(x (k) ), o que nos leva a um problema de encontrar o ponto fixo da função Ψ(x). A função Ψ(x) é chamada de função de iteração para a equação f(x) = 0. Por exemplo, para a equação x 3 + x 5 = 0 temos as seguintes possível funções de iteração : a) Ψ(x) = 5 x 3 ; b) Ψ(x) = (5 x) 1/3 ; c) Ψ(x) = 5 x x 2. A forma geral das funções de iteração é Ψ(x) = x + A(x)f(x), com a condição que em α, ponto fixo de Ψ(x), tenhamos A(α) 0. Teorema do ponto fixo. Seja α uma raiz isolada de f(x) = 0 em um intervalo I centrado em α. Seja Ψ(x) uma função de iteração para a equação acima. Se: Ψ(x) e Ψ (x) são contínuas em I, Ψ (x) M < 1, para todo x I e x 0 I, então a seqüência x k gerada pelo processo iterativo x k+1 = Ψ(x k ) converge para α. Demonstração no livro texto páginas 59 e 60. Observamos, então, que Ψ(x) = Cx + g é uma função de iteração para a equação matricial Ax = b. Para obtermos uma solução para o sistema utilizamos o seguinte esquema iterativo: 1.Escolhemos uma aproximação inicial x (0). 2.Construímos consecutivamente os vetores:

10 3 MÉTODOS ITERATIVOS 10 x (1) = Cx (0) + g = Ψ(x (0) ) x (2) = Cx (1) + g = Ψ(x (1) ). x (k) = Cx (k 1) + g = Ψ(x (k 1) ) (primeira aproximação) (segunda aproximação) (k-ésima aproximação) de forma que se Ψ(α) = α, então α = Cα + g, ou seja, α é solução do sistema linear. Repetimos o processo acima até que o vetor x (k) seja próximo o suficiente do vetor x (k 1). Podemos medir essa distância de duas formas: d (k) = x (k) x (k 1) = máx x (k) i d (k) r = x(k) x (k 1) x (k) x (k 1) i ; i = 1,..., n} = máx x(k) x (k 1) ; i = 1,..., n} x (k) Dada a precisão ɛ, o vetor x (k) será escolhido como x, solução aproximada da solução exata, quando d (k) < ɛ, esse será o nosso teste de parada. Podemos também efetuar o teste com o erro relativo: d (k) r < ɛ. Computacionalmente usamos também como teste de parada um número máximo de iterações. 3.3 Método iterativo de Gauss-Jacobi Supondo os elementos da diagonal da matriz A não-nulos, podemos isolar o vetor x da seguinte forma: x i = (b i a i1 x 1 a i2 x 2... a i,i 1 x i 1 a i,i+1 x i+1... a in x n )/a ii, i = 1, 2,..., n. Desta forma, temos x = Cx + g, onde : 0 a 12 /a 11 a 13 /a a 1n /a 11 b 11 /a 11 a 21 /a 22 0 a 23 /a a 2n /a 22 b 22 /a 22 C = a 31 /a 33 a 32 /a a 3n /a 33 ] e b = b 33 /a 33 ] a n1 /a nn a n2 /a nn a n3 /a nn... 0 b nn /a nn E o método de Jacobi consiste em, dada a aproximação inicial x (0), obter sucessivas aproximações através da relação recursiva x (k+1) = Cx (k) + g. Daí, o vetor x (k+1) se escreve como: = (b i a i1 x (k) 1 a i2x (k) 2... a i,i 1x (k) i 1 a i,i+1x (k) i+1... a inx (k) n )/a ii, i = 1, 2,..., n. Exercícios: 1) Resolva o sistema linear abaixo pelo método de Gauss-Jacobi com x (0)t = x (k+1) i [0, 7 1, 60, 6] e ɛ = 0, x 1 + 2x 2 + x 3 = 7 x 1 + 5x 2 + x 3 = 8 2x 1 + 3x x 3 = 6 2) Resolva o sistema linear abaixo pelo método de Gauss-Jacobi com x (0)t = [000] e ɛ = 0, 05. 4, 00x 1 + 0, 24x 2 0, 08x 3 = 8, 00 0, 09x 1 + 3, 00x 2 0, 15x 3 = 9, 00 0, 04x 1 0, 08x 2 + 4, 00x 3 = 20, 00

11 REFERÊNCIAS Critério de convergência (um deles...) Condição suficiente para que o método de Gauss-Jacobi seja convergente: Critério das linhas: Seja o sistema linear Ax = b e seja α k =. Se α =máxα k, k = 1,..., n, então o método de Gauss-Jacobi gera uma sequência x (k) convergente para a solução do sistema dado, independente da escolha da aproximação inicial, x (0). Análisar dos exercícios (1) e (2). Lembrar que o critério é apenas suficiente e não necessário. Exemplo: Para o sistema x1 + x 2 = 3 x 1 3x 2 = 10 o método de Gauss-Jacobi gera uma seqüência convergente para a solução exata x*= (3/2 3/2)t. No entanto, o critério das linhas falha. Sempre podemos permutar as equações de forma a encontrar um sistema que satisfaça o critério das linhas. Exemplo: A matriz do sistema x 1 + 3x 2 + x 3 = 2 5x 1 + 2x 2 + 2x 3 = 3 6x 2 + 8x 3 = 6 não satisfaz o critério das linhas, mas a do sistema 5x 1 + 2x 2 + 2x 3 = 3 x 1 + 3x 2 + x 3 = 2 6x 2 + 8x 3 = 6 satisfaz. Referências [1] RUGGIERO, M.A.G. e ROCHA LOPES, V.L. Cálculo Numérico - Aspectos Teóricos e Computacionais. MAKRON Books,1996 [2] CUNHA, M.C.C. Métodos Numéricos. Campinas, Editora da Unicamp, [3] CAMPOS Filho,F.F. Algorítmos Numéricos. [4] SPERANTIO,D.,MENDES,J.T.,SILVA,L.H.M. Cálculo Numérico. São Paulo, Prentice Hall, 2003.