Autovalores e Autovetores

Transcrição

1 Algoritmos Numéricos II / Computação Científica Autovalores e Autovetores Lucia Catabriga 1 1 DI/UFES - Brazil Junho 2016

2 Introdução Ideia Básica Se multiplicarmos a matriz por um autovetor encontramos um multiplo do próprio autovetor, com constante de multiplicidade conhecida por autovalor. Seja A = o vetor Portanto satisfaz a = é autovetor com autovalor correspondente igual a 4.

3 Introdução Polinômio Característico Aq = λq (A I λ)q = 0 (16 λ) ( 2 λ) ( 17 λ) q 1 q 2 q 3 = λ que é um sistema homogêneo. Este sistema só tem solução não-trivial (q i 0) se a matriz for singular, ou seja se o determinante for nulo. det (16 λ) ( 2 λ) ( 17 λ) = 0 λ 3 + 3λ 2 36λ + 32 = 0 ou (λ 4)(λ 1)(λ + 8) = 0 que é denominado polinômio característico. Os autovalores da matriz A são λ = 4, λ = 1 e λ = 8.

4 Introdução Polinômio Característico Em geral a equação Aq = λq pode ser representada pelo sistema homogêneo (A λi )q = 0. Se A é uma matriz de ordem n o sistema homogêneo tem solução não-trivial se (a 11 λ) a a 1n a 21 (a 22 λ)... a 2n det = 0 a n1 a n2... (a nn λ) O polinômio característico tem a forma geral: λ n + c n 1 λ n c 1 λ + c 0 = 0

5 Introdução Propriedades O produto dos autovalores da matriz é igual ao determinante da matriz deta = ( 1) n c 0 = λ 1 λ 2... λ n. Portanto se A é singular, existe pelo menos um autovalor λ i = 0 A matriz A e sua transposta A t tem os mesmos autovalores, pois o deta = deta t. O determinante de uma matriz triangular é igual ao produto dos elementos da diagonal. Então se A é triangular: det(a λi ) = (a 11 λ)(a 22 λ)... (a nn λ). Portanto os autovalores de uma matriz triangular são iguais aos elementos da diagonal. Se as linhas e colunas correspondentes de uma matriz são trocadas os autovalores permanecem os mesmos. Por exemplo: q 1 q q 3 = λ q 1 q 2 q 3 Se trocarmos a linha 1 com a linha 2 e a coluna 1 com a coluna 2, obtemos: = λ q 2 q 1 q 3 q 2 q 1 q 3 observe que os autovalores permanecem os mesmos, mas ao autovetores tem a 1a. coordenada q 1 trocada com a segunda coordenada q 2.

6 Introdução Cálculo de Autovetores O cálculo dos autovetores associados envolvem a solução de um sistema homogêneo. Para cada autovalor definimos um sistema de n equações e n incógnitas (A λi )q = 0. Por exemplo, a matriz: A = tem por autovalores λ 1 = 4, λ 2 = 1 e λ 3 = 8. O autovetor associado a λ 2 = 1 é o vetor q tq (A λ 2 I )q = 0, ou seja q 1 q 2 q 3 = q 1 q 2 q 3 Ou seja, L 3 = 2L 2 e q 1 = q 2 = 2q 3. Portanto qualquer vetor que possui esta propriedade é autovetor associado ao autovalor λ = 1. Seja q = = 0 0 0

7 Introdução É possível combinar a equação padrão dos autovalores com todos os autovalores e correspondentes autovetores na forma: λ 1 A q 1 q 2... q n = q 1 q 2... q n λ 2... λn isto é, AQ = QΛ onde Λ é a matriz diagonal dos autovalores. Q matriz quadrada contendo todos os autovetores.

8 Métodos Iterativos Simples - Método das Potências Método da Potência O objetivo do método das potências é determinar o autovalor de maior módulo dentre todos os autovalores de uma matriz. Seja A uma matriz de ordem n e λ 1, λ 2,..., λ n os autovalores de A e q 1, q 2,..., q n os autovetores correspondentes. Suponha que λ 1 > λ 2... λ n. Seja u (0) uma combinação linear dos autovetores correspondentes: u (0) = c 1 q 1 + c 2 q c n q n Os autovetores são linearmente independentes.

9 Métodos Iterativos Simples - Método das Potências u (1) = Au (0) = c 1 Aq 1 + c 2 Aq c n Aq n = c 1 λ 1 q 1 + c 2 λ 2 q c n λ n q n ] λ = λ 1 [c 1 q 1 + c 2 λ 2 λ 1 q c n n λ 1 q n ] u (2) = A 2 u (0) λ = λ 1 [c 1 Aq 1 + c 2 λ 2 λ 1 Aq c n n λ 1 Aq n [ ( ) 2 ( ) ] 2 = λ 2 1 c 1 q 1 + c λ2 2 λ q c λn n λ qn 1

10 Métodos Iterativos Simples - Método das Potências Se pré-multiplicarmos a expressão pela matriz A k-vezes obtemos: [ ( ) k ( ) ] k u (k) = A k u (0) = λ k λ2 λn 1 c 1 q 1 + c 2 q c n q n λ 1 λ 1 Como λ 1 > λ 2... λ n, temos que λ i λ 1 < 1, para i = 2,..., n. Portanto quando k, ( λi λ 1 ) k 0 para i = 2,..., n.

11 Métodos Iterativos Simples - Método das Potências Então, o vetor [ c 1 q 1 + c 2 ( λ2 λ 1 ) k ( ) ] k λn q c n q n c 1 q 1 que é um autovetor associado a λ 1. Portanto podemos afirmar que para valores grandes de k u (k) λ k 1c 1 q 1 u (k) tende a ser proporcional ao autovetor q 1. Considerando que o autovetor pode ter tamanho arbitrário (ou seja, um autovetor multiplicado por um escalar tem o mesmo autovalor associado) é conveniente normalizar o vetor que gera o processo iterativo depois de cada multiplicação. O algoritmo iterativo para determinar q 1 pode ser representado através das equações: λ 1

12 Métodos Iterativos Simples - Método das Potências O processo iterativo para determinar q 1 pode ser representado através das equações: v (k) = Au (k) u (k+1) = 1 α v (k) onde α = ± v (k)

13 Métodos Iterativos Simples - Método das Potências Seja u (0) = (1 1 1) (t) e a norma do máximo para obter o valor de α, temos: Iteração = = }{{} α } {{ } A Iteração 2 }{{} u (0) } {{ } v (0) } {{ } u (1) A = = }{{} α }{{}}{{}}{{} u (1) v (1) u (2) Iteração 3 A = = }{{} α }{{}}{{}}{{} u (2) v (2) u (3) Iteração 4 A = = }{{} α }{{}}{{}}{{} u (3) v (3) u (4) O autovetor é u (4) q 1 com erro inferior a O autovetor é λ

14 Métodos Iterativos Simples - Método das Potências Observações: Quando a norma do máximo é usada o sinal de α pode ser o mesmo do maior elemento em módulo. Neste caso α convergirá para λ 1 até mesmo quando ele for negativo, além disso a sequência de vetores convergirá normalmente para q 1. É possivel observar que a convergência para o autovalor pode ser mais rápida que a convergência para o autovetor associado. Em geral, dependendo de cada aplicação, é possível escolher uma aproximação inicial para o autovetor associado ao autovalor de maior módulo através de algum critério. Porém, quando não existe alguma informação, é necessário um cuidado especial para não escolher u (0) tal que o coeficiente c 1 seja nulo ou muito pequeno quando comparado com os outros coeficientes. Para implementações computacionais do método das potências, a determinação do vetor inicial u (0) é feita através de procedimentos automáticos. Um procedimento bastante usado consiste em gerar os elementos dos vetor através de números randômicos no intervalo 1 u (0) i 1. Quando este processo é usado a probabilidade de ocorrer c 1 = 0 é bem pequena.

15 Métodos Iterativos Simples - Método das Potências Características da Convergência do Método das Potências O autovetor u (k) pode ser expresso: u (k) = q 1 + e (k) onde ( ) e (k) = λ2 k ( ) c2 k q λ 1 c λn cn q 1 λ 1 c n 1 Por hipótese temos que λ 1 > λ 2... λ n, portanto para valores grande de k o erro pode ser aproximado por e (k) λ 2 (k) c2 λ 1 c 1 q 2 Podemows supor que c 2 c 1, o que nos dá a possibilidade de estimar o número de iterações necessárias para atingir uma tolerância pré-fixada. Supor tolerância de 10 s. O erro na iteração k depende do quociente λ 2 k λ, então: 1 λ 2 k λ 10 s k sln10 1 ln λ 2 /λ 1 Portanto se λ 2 λ estiver próximo de 1, o método das potências converge 1 vagarosamente. É possível acelerar a convergência do método das potências usando o Coeficiente de Rayleigh para normalizar o vetor v (k) : α = (u(k) ) t Au (k) (u (k) ) t u (k) = (u(k) ) t v (k) (u (k) ) t u (k)

16 Métodos Iterativos Simples - Método das Potências Algoritmo 1: Método das Potências - versão 1 1 Entrada: A,v (0),ɛ,k max 2 Inicializar ρ (ρ = 1.0) 3 Inicializar λ k (λ k = 0.0) 4 while ρ > ɛ and k < k max do 5 u = Av (k) 6 λ k+1 = v (k)t u v (k)t v (k) 7 v (k+1) = u λ k+1 8 ρ = λ k+1 λ k λ k+1 ou ρ = v (k+1) v (k) 9 k = k end 11 Saída: λ k+1, v (k+1)

17 Métodos Iterativos Simples - Método das Potências No entanto, podemos escalonar a sequência v (k), antes de calcular o λ k. Para isso, seja y (k) = u(k) u (k), então y (k) = 1. λ k = y (k)t Ay (k) y (k)t y (k) = y (k)t u (k+1)

18 Métodos Iterativos Simples - Método das Potências Algoritmo 2: Método das Potências - versão 2 1 Entrada: A,z (0),ɛ,k max 2 Inicializar ρ (ρ = 1.0) 3 Inicializar λ k (λ k = 0.0) 4 while ρ > ɛ and k < k max do 5 y (k) = v (k) v (k) 6 z = Ay (k) 7 λ k+1 = y (k)t z (k+1) 8 ρ = λ k+1 λ k λ k+1 ou ρ = y (k) y (k 1) 9 k = k end 11 Saída: λ k+1, y (k+1)

19 Introdução Introdução Os métodos de transformação tem por objetivo modificar a matriz original em outra que contenha os mesmos autovalores, sendo sua determinação trivial. Por exemplo, transformando a matriz original em uma matriz diagonal ou triangular de forma que as matrizes tenham os mesmos autovalores os elementos da diagonal da matriz resultante serão os autovalores da matriz original.

20 Métodos de Transformação Ideia Básica As transformações mais gerais consistem em obter: Ā = N 1 AN (1) onde N é uma matriz não singular da mesma ordem que A. Seja λ e q autovalor e autovetor correspondente, então: sendo q = N 1 q temos que: Aq = λq (2) Ā q = N 1 ANN 1 q = N 1 λq = λn 1 q = λ q (3) Assim, λ e q = N q são autovalor e autovetor correspondente de A.

21 Ideia Básica Considerando um sequência de transformações, temos: Ā = A k+1 = N 1 k N 1 k 1... N 1 2 N 1 1 AN 1N 2... N k 1 N k (4) sendo Ā uma matriz diagonal ou triangular. Os autovalores de A serão os elementos da diagonal de A k+1. Sendo λ j = ā jj autovalor, o autovetor correspondente será a j-ésima coluna da matriz q = N 1 N 1 N 2... N k 1 N k

22 Ideia Básica Para matrizes simétricas, as transformações podem ser feitas por matrizes ortogonais, ou seja, N 1 = N t, portanto Ā = N t AN (5) Se λ e q são autovalor e autovetor correspondentes de A, então λ e N t q são autovalor e autovetor correspondentes de Ā. Em geral, os métodos de transformação são processos iterativos, sendo portanto dependentes de condições de convergência.

23 Diagonalização de Jacobi para Matrizes simétricas Diagonalização de Jacobi para Matrizes simétricas Método baseado em transformações orgogonais; Cada transformação tem por objetivo eliminar um par de coeficientes; Não há garantias que na próxima transformação os coeficientes anulados, permanecerão nulos. Os erros de arredondamento podem influenciar o resultado, uma vez que o número de operações de ponto flutuante necessário é grande.

24 Diagonalização de Jacobi para Matrizes simétricas suponha uma matriz de rotação N pq definida por: p q 1 N pq = c s p 1 s c q 1 onde, (6) c = cosα s = senα (7) sendo α o ângulo de rotação. A operação N t pqan pq, altera apenas as linhas e colunas p e q.

25 Diagonalização de Jacobi para Matrizes simétricas A cada iteração i o elemento a pq será eliminado seguindo os seguintes passos: 1. Calcular: φ = a qq a pp (8) 2a pq 1, se φ 0; φ+sinal(φ) φ 2 +1 t = (9) 1 se φ = 0., cosα = senα = t 2 t 1 + t 2 (10) (11) 2. A k+1 = N t pqan pq

26 Método Cíclico ce Jacobi Método Cíclico ce Jacobi A escolha de qual elemento será eliminado é um importante passo para a convergência do método de Jacobi. Uma alternativa é percorrer ciclicamente os elementos de fora da diagonal principal por linha; Definir (p, q) sequencialmente por: (1, 2), (1, 3),..., (1, n), (2, 3),..., (2, n),..., (n 1, n). Além disso, como os elementos de um ciclo a outro tendem a descrecer, podemos utilizar um critério para escolher eliminar ou não uma determinada posição de acordo com um critério de tolerância. Por exemplo a cada passo eliminar somente os coeficientes tais que a pq < ρ 0 10 (c 1). Sendo, ρ 0 uma tolerância inicial e c o ciclo corrente.

27 Método Cíclico ce Jacobi Determine os autovalores e autovetores, com tolerância ɛ = e ρ 0 = 0.5 A = o Ciclo: a 12 < 0.5 a transformação sobre o elemento (1, 2) será omitida. a 13 > 0.5 a transformação sobre o elemento (1, 3) será dada por: N 1 = A 2 = a 23 < 0.5 a transformação sobre o elemento (2, 3) será omitida.

28 Método Cíclico ce Jacobi 2 o Ciclo: a 12 > 0.05 a transformação sobre o elemento (1, 2) será dada por: N 2 = A 3 = a 13 < 0.05 a transformação sobre o elemento (1, 3) será omitida. a 23 < 0.05 a transformação sobre o elemento (2, 3) será dada por: N 3 = A 4 = , e são autovalores e autovetores correspondentes iguais as colunas de: N 1 N 2 N 3 =

29 Método LR Método LR Determina todos os autovalores de uma matriz; O método consiste em construir uma sequência de matrizes A 1, A 2,..., A k de tal forma que a matriz A k seja aproximamente triangular superior, sendo que os autovalores de A e A k são os elementos da diagonal de A k. A cada iteração k, fatoramos A k = L k R k, sendo L k e R k, respectivamente, matriz triangular inferior com 1 na diagonal e matriz triangular superior. A iteração k + 1 deve ser calculada por, A k+1 = R k L k.

30 Método LR Assim, A 1 = A = L 1 R 1 A 2 = R 1 L 1 = L 2 R 2 A 3 = R 2 L 2 = L 2 R 2. A k = R k 1 L k 1 = L k R k. (12) Observações: Pode-se provar que: Se os autovalores de A são distintos, a sequência {A k+1 } converge para uma matriz triangular superior R. A matriz R tem os mesmos autovalores de A. A k = R k 1 L k 1 = L 1 k 1... L 1 1 AL 1... L k

31 Método QR Método QR Determina todos os autovalores de uma matriz; O método consiste em construir uma sequência de matrizes A 1, A 2,..., A k de tal forma que a matriz A k seja aproximamente triangular superior, sendo que os autovalores de A e A k são os elementos da diagonal de A k. A cada iteração k, decompomos A k = Q k R k, sendo Q k uma matriz ortogonal e R k uma matriz triangular superior. A iteração k + 1 deve ser calculada por A k+1 = R k Q k.

32 Método QR Assim, A 1 = A = Q 1 R 1 A 2 = R 1 Q 1 = Q 2 R 2 A 3 = R 2 Q 2 = Q 2 R 2. A k = R k 1 Q k 1 = Q k R k. (13) Observações: Pode-se provar que: Se os autovalores de A são distintos, a sequência {A k+1 } converge para uma matriz triangular superior R. A matriz R tem os mesmos autovalores de A. A k = R k 1 Q k 1 = Q 1 k 1... Q 1 1 AQ 1... Q k

33 Método QR Em cada passo do método QR, devemos determinar matrizes Q k e R k, sendo Q k matriz ortogonal e R k matriz triangular superior. Esta decomposição pode ser obtida utilizando transformações ortogonais, como por exemplo Rotações de Givens que podem ser sumarizadas por: para zerar os elementos abaixo da diagonal na coluna j, vamos executar rotações de Givens da linha j + 1 até a linha n, considerando a matriz ortogonal N pq dada por: p q 1 N pq = c s p 1 s c q 1 c = a pp a 2 pp + a 2 qp s = a qp a 2 pp + a 2 qp A matriz Q k responsável por zerar os coeficientes abaixo da diagonal na coluna j é dada por: Q k = N t j+1,jn t j+2,jn t j+3,j... N t n,j

34 Método QR Redução a Forma de Hessemberg O processo termina quando o elemento de maior valor absoluto da matriz A k abaixo da diagonal for menor que uma tolerância ɛ pré-fixada. Para matrizes de ordem elevada, o método QR tende a ter uma convergência lenta. Para acelerar o processo é utilizado estratégias para transformar a matriz original A em uma matriz com características especiais. A forma de Hessemberg superior consiste em uma matriz triangular com a subdiagonal inferior com elementos também não nulos. A redução está baseada na utilização de operações elementares, organizadas por coluna em n 2 etapas: A n 1 = N 1 n 2... N 1 2 N 1 1 AN 1 N 2... N n 2 sendo N j matriz elementar. Os autovalores de A n 1 são os mesmos autovalores de A.

35 Cálculo de autovetores Método da Iteração Inversa Seja λ autovalor aproximado de A. Desejamos obter q tal que: Aq = λq. Considere z (0) um vetor condição inicial para o cálculo do autovetor correspondente. Define-se duas sequências {w (m) } e {z (m) } tq (A λi )w (m+1) = z (m) e z (m+1) = w (m+1) w (m+1) p/ m 0 O processo que acabamos de apresentar é essencialmente o Método das potências aplicado a matriz (A λi ) 1.

36 Algoritmo Método da Iteração Inversa Algoritmo 3: Método da Iteração Inversa 1 Entrada: A,λ,ɛ,maxiter 2 Calcula os fatores L, U e P de (A λi ) (Controlar singularidade de U) 3 Define q inicial (usar função randômica) 4 q a = Lq 5 ρ = q q a 2 6 k = 0 7 while ρ > ɛ and k < maxiter do 8 Resolva Ly = Pq a 9 Resolva Uv = y 10 q = v v 2 11 ρ = q qa 2 12 q a = q 13 k = k end 15 Saída: q, k