Métodos iterativos. Métodos Iterativos para Sistemas Lineares

Transcrição

1 Métodos iterativos Métodos Iterativos para Sistemas Lieares Muitos sistemas lieares Ax = b são demasiado grades para serem resolvidos por métodos directos (por exemplo, se A é da ordem de 10000) á que a matriz A requer grade quatidade de memória para ser armazeada Por outro lado, métodos iterativos são geralmete mais rápidos e geralmete são aplicados a sistemas lieares grades ode A é uma matriz esparsa (matriz com pequea percetagem de elemetos ão ulos, por ex 01% de elemetos ão ulos) Um método é iterativo quado forece uma sucessão de aproximações, x (k), para a solução x, cada qual obtida da aterior pela aplicação do mesmo processo (chamados métodos estacioários) Itrodução Para as equações ão lieares tratadas o capítulo aterior, obtiveram-se métodos iterativos da forma x k+1 = g(x k ), depois de se reescrever a equação dada f(x) = 0 a forma x = g(x) Para um sistema liear Ax = b, ou sea, Ax b = 0, vamos obter métodos iterativos }{{} F(x) de maeira aáloga Reescrevedo o sistema a forma x = Cx + d }{{} G(x) ode C é uma certa matriz e d um determiado vector, o método iterativo associado a G será etão: = G(x (k) ), k = 0, 1, 2, ou sea, = C(x (k) ) + d, k=0,1,2, Começado com uma aproximação iicial x (0) = x (0) 1 x (0) 2 x (0) 3 x (0) T para x = x 1 x 2 x 3 x T 1

2 ode obtêm-se sucessivas aproximações: x (0) x (0) 1 é aprox para x 1, 2 é aprox para x 2, x (0) é aprox para x x (1) = x (1) 1 x (1) 2 x (1) 3 x (1) T = T Para as equações f(x) = 0, diferetes fuções g geravam métodos do poto fixo (ou sucessões) diferetes Aqui, também diferetes escolhas de G, ou sea, da matriz C (e cosequetemete do vector d), coduzem a métodos diferetes para a equação matricial dada Pretedem-se métodos covergetes, ou sea, satisfazedo: lim k x(k) = x Neste capítulo estudaremos os métodos de Jacobi e Gauss-Seidel, que correspodem a escolhas particulares da matriz C Obteção de Métodos Iterativos Dado o sistema liear Ax = b, decompõe-se a matriz A a forma: A = M + N, ode M é uma matriz ivertivel e o sistema liear M z = f sea de fácil resolução f Logo, temos Ax = b (M + N)x = b Mx = b Nx O método iterativo é etão defiido por: ou M = b Nx (k), k = 0, 1,, = M 1 b M 1 Nx (k), k = 0, 1,, (1A) (1B) 2

3 ode x (0) é um vector dado Escolha da matriz M: A matriz M geralmete é diagoal, triagular ou tridiagoal Veamos agora algus métodos iterativos defiidos por uma escolha particular da matriz M Método de Jacobi (M = diagoal(a)) Sea o sistema liear Ax = b Etão: a 11 a 12 + a 1 a 21 a 22 a 2 a 1 a 2 a x 1 x 2 x 3 = b 1 b 2 b 3 e cosideremos as matrizes: a L = 0 0 a 1 a 2 a 1 0 ; U = 0 a 12 a a 23 a 2 0 a ; D = a a a Etão, A = L + D + U (2) e o sistema Ax = b pode ser escrito a forma (L + D + U)x = b dode obtemos: Dx = b (L + U)x = x = D 1 (L + U)x + D 1 b (3A) O método iterativo defiido por: = D 1 (L + U)x (k) + D 1 b, x (0) dado (3B) é cohecido como método de Jacobi para resolver o sistema liear Ax = b De (2) vemos que o método de Jacobi é do tipo do método iterativo defiido por (1B) com: M = D e N = L + U De (3B) temos que: D = (L + U)x (k) + b dode obtemos as equações a 11 ( 1 = a 12 x (k) 2 + a 13 x (k) 3 + a 14 x (k) a 1 x (k) ) a 22 ( 2 = a 21 x (k) 2 + a 23 x (k) 3 + a 24 x (k) a 2 x (k) ) a 33 ( 3 = a 31 x (k) 2 + a 32 x (k) 3 + a 24 x (k) a 3 x (k) ) = a 3 = + b 1 + b 2 + b 3 ( a 1 x (k) 2 + a 2 x (k) 3 + a 4 x (k) a 1 x (k) ) 1 + b 3

4 e portato, 1 = 2 = 3 = 3 = ( b 1 a 12 x (k) 2 + a 13 x (k) 3 + a 14 x (k) a 1 x (k) ) /a 11 ( b 2 a 21 x (k) 2 + a 23 x (k) 3 + a 24 x (k) a 2 x (k) ) /a 11 ( b 3 a 31 x (k) 2 + a 32 x (k) 3 + a 34 x (k) a 3 x (k) ) /a 11 b ( a 1 x (k) 2 + a 2 x (k) 3 + a 4 x (k) a 1 x (k) 1 ) /a Em geral, i pode ser obtido pela fórmula: i = b i = 1 i a i x (k) a ii, i = 1, 2,, (3C) 4

5 Exemplo: Sea o sistema liear x 1 x 2 x 3 = que tem solução exacta: x 1 = 1, x 2 = 2 e x 3 = 1 Aplicado o método de Jacobi a esse sistema temos: que forece as equações i = b i = 1 i a i x (k) /a ii, i = 1, 2,, 1 = 7 (x (k) 2 + x (k) 3 ) /10 = x (k) 2 01x (k) 3 2 = 8 (x (k) 1 + x (k) 3 ) /5 = 16 02x (k) 1 02x (k) 3 3 = 6 (2x (k) 1 3x (k) 2 ) /10 = 06 02x (k) 1 03x (k) 2 Tomado x (0) = ( T vem: k = 0 (cálculo de x (1) ) x (1) 1 = 025 ( 16) 01 (06) + 07 = x (1) 2 = 020 (07) 02 (06) 16 = x (1) 3 = 020 (07) 03 ( 16) + 06 = k = 1 (cálculo de ) 1 = 025 ( 186) 01 (094) + 07 = = 020 (096) 02 (094) 16 = = 020 (096) 03 ( 186) + 06 = k = 2 (cálculo de x (3) ) 1 = 025 ( 198) 01 (0966) + 07 = = 020 (0978) 02 (0966) 16 = = 020 (0978) 03 ( 198) + 06 =

6 Método de Gauss-Seidel Cosideremos a eq (3B) para o cálculo de pelo método de Jacobi e supohamos que o método sea covergete Etão, podemos observar o seguite: 1 Para calcularmos a compoete i utilizados { 2 Como a sucessão x (k)} é covergete, etão os valores de, os valores x (k), = 1, 2,,i 1 são, = 1, 2,,i 1 costituem uma melhor aproximação para x, = 1, 2,,i 1 do que os valores x (k), = 1, 2,,i 1 Com base essas observações, o método iterativo defiido por: 1 = 2 = 3 = = ( b 1 ( b 2 b 3 a 12 x (k) 2 + a 13 x (k) 3 + a 14 x (k) a 1 x (k) a a 23 x (k) 3 + a 24 x (k) a 2 x (k) ( a a a 34 x (k) a 3 x (k) ) /a 11 ) /a 11 ) /a 11 ( b a a a a 1 ) 1 /a (4A) costitui um método iterativo melhor que o método de Jacobi (se covergir, em geral coverge + rapido) Equação (4A) pode ser escrita a forma: i = i 1 b i =1 a i =i+1 a i x (k) /a ii, i = 1, 2,, (4B) De facto, o método iterativo defiido por (4B) é cohecido como Método de Gauss-Seidel Forma Matricial do Método de Gauss-Seidel Multiplicado (4B) por a ii temos: a ii i = i 1 =1 i 1 = b i a i a i =1 + a ii i = =i+1 =i+1 a i x (k) Seam L, D e U as matrizes tais que L triag iferior A = L + D + U D diagoal U triag superior a i x (k) + b i (5) 6

7 Etão, da eq (5) vemos que: L + D = Ux (k) + b = (L + D) = Ux (k) + b = = (L + D) 1 Ux (k) + (L + D) 1 b dode vemos que o método de Gauss-Seidel é um método iterativo do tipo com M = L + D e N = U, ou sea, M = Nx (k) + b = M 1 Nx (k) + M 1 b Covergêcia de Métodos Iterativos Defiição: Uma matriz A é uma matriz covergete se Exemplo: A = Em geral tem-se: 1/2 0 1/4 1/2 A 3 = A 2 A A = lim A = 0 (Matriz ula) ; A 2 = 1/4 0 2/8 1/4 1/2 0 1/4 1/2 1/2 0 1/4 1/2 1/2 0 /2 +1 1/2 1/2 0 1/4 1/2 = = 1/8 0 3/16 1/ /4 0 2/8 1/4 Teorema: A é uma matriz covergete se e somete se ρ(a) < 1 (isto é, max λ i < 1) Sea o sistema liear Ax = b e supohamos que o mesmo teha sido trasformado o sistema equivalete Ex: A = L + D + U (L + D + U)x = b (1) x = Cx + g Dx = b (L + U)x = x = D 1 (L + U) } {{ } C x + D 1 b }{{} g ode C é uma matriz quadrada e g é um vector, e cosideremos o método iterativo (2) = Cx (k) + g com x (0) um vector qualquer do IR Sea x a solução de (1) e portato de Ax = b e sea e (k) = x x (k) o erro a iterada x (k) 7

8 Etão, subtraido (1) de (2) vem: x = Cx Cx (k) = C(x x (k) ) Logo, De (3) tem-se: Em geral, tem-se De (4) vemos que: e (k+1) = Ce (k) (3) e (1) = Ce (0) e (2) = Ce (1) = C(Ce (0) ) = C 2 e (0) e (3) = Ce (2) = C(C 2 e (0) ) = C 3 e (0) e (k+1) = C (k+1) e (0) (4) 1 Se C for uma matriz covergete (ρ(c) < 1) etão lim k C(k+1) = 0 = e (k+1) k 0 = x k 0 = o método é covergete Portato, = Cx (k) + g x, x (0) IR 2 Por outro lado, sea uma orma de vector e cosideremos a orma de matriz associada Etão, por (4) vemos que: e (k+1) = C (k+1) e (0) C (k+1) e (0) (5) Agora, como é uma orma de matriz cosistete, temos: C 2 = CC C C = C 2 C 3 = CC 2 C C 2 = C 3 C 4 = CC 3 C C 3 = C 4 Em geral, para k 0 obtem-se: C (k+1) C (k+1) e substituido em (5) obtemos: De (6), vemos que se C < 1 etão e (k+1) C (k+1) e (0) (6) lim k C(k+1) = 0 = e (k+1) k 0 dode vemos que x k 0 = x (k+1) k x qualquer que sea x (0) Portato, o método coverge para x qquer que sea x (0) IR 8

9 Teorema 1 (Cov Met Iterativos) Se C < 1 para alguma orma atural de matrizes etão o método iterativo defiido por coverge qualquer que sea o vector x (0) dado = Cx (k) + g Teorema 2 (Cov Met Iterativos) O método iterativo defiido por coverge se e somete se ρ(c) < 1 = Cx (k) + g, x (0) qualquer vector o IR Teorema 3 (Crit Cov Mét Jacobi e Gauss-Seidel) Cosidere o sistema liear Ax = b Se A é uma matriz de diagoal estritamete domiate por lihas ou por coluas etão o método de Jacobi (e tambem o de Gauss-Seidel) coverge para a solução de Ax = b qualquer que sea o vector iicial x (0) Teorema 4 (Crit Cov Gauss-Seidel) Se A é simétrica e positiva defiida etão o método de Gauss-Seidel aplicado ao sistema liear Ax = b coverge para a solução do mesmo Estimativa de Erro a Iterada Da equação e (k+1) = Ce (k) temos: Tomado uma orma vem: x = C(x x (k) ) = x = C(x + x (k) ) x ( = C(x + ) x (k) ) C x + x (k) C x + x (k) = C x + C x (k) = x C x C x (k) = (1 C ) x C x (k) = x C 1 C x(k+1) x (k) No exemplo dado: D = 10 x 1 x 2 x = 7 8 6, (L + U) = e portato a matriz de iteração do método de Jacobi é: 1/10 C = D 1 (L + U) = 1/5 1/10 9, cua solução exacta é x = = , temos:

10 e fácilmete vemos que: C = max{03, 04, 05 Dado que x (1) = T e = T temos etão a seguite estimativa de erro: x C x (1) 1 C x = 10 (012) =