UNIVERSIDADE FEDERAL DE SANTA CATARINA PÓS GRADUAÇÃO EM ENSINO DE MATEMÁTICA. Jocinéia Medeiros

Transcrição

1 UNIVERSIDADE FEDERAL DE SANA CAARINA PÓS GRADUAÇÃO EM ENSINO DE MAEMÁICA Jociéia Medeiros UM BREVE ESUDO SOBRE MARIZES OROGONAIS E O PROBLEMA DE MÍNIMOS QUADRADOS Foz do Iguaçu 00

2 Jociéia Medeiros UM BREVE ESUDO SOBRE MARIZES OROGONAIS E O PROBLEMA DE MÍNIMOS QUADRADOS Moografia apresetada ao departameto de Matemática e Física da Uiersidade Federal de Sata Cataria, como requisito para obteção do ítulo de Especialista em Matemática. Orietador: Fermi S. V. Bazá Foz do Iguaçu 00

3 Jociéia Medeiros UM BREVE ESUDO SOBRE MARIZES OROGONAIS E O PROBLEMA DE MÍNIMOS QUADRADOS Moografia apresetada ao departameto de Matemática e Física da Uiersidade Federal de Sata Cataria, como requisito para obteção do ítulo de Especialista em Matemática. Orietador: Fermi S. V. Bazá Aproada em: / /. BANCA EXAMINADORA Dr. Fermí S. V. Bazá (Orietador) Dr. Daiel Norberto kozakeich (Examiador) Dr. Márcio Rodolfo Ferades (Examiador)

4 Dedico este trabalho de coclusão de curso à miha família, que sempre estieram ao meu lado em todos os mometos e em especial ao meu irmão Gilso que apesar de ão estar detre ós, permaece io em ossos pesametos.

5 AGRADECIMENOS Agradeço ao Professor Dr. Fermí Bazá pela paciêcia a orietação, além do icetio, simpatia, e presteza que toraram possíel a coclusão desta moografia. À todos os professores pela dedicação, etusiasmo demostrados durate o curso e que foram muito importates a miha ida acadêmica. À Uiersidade Federal de Sata Cataria por os proporcioar esta especialização. À UAB (PI) pelo espaço Cedido e estrutura excelete. À Deus, por me proporcioar a ida e me permitir que chegasse até ode estou. À meus colegas do pólo: João Bofim, Gilderléia, Maiko, Cristiae, Graziela, Paula, Patrick, Mariaa, Valmei, Diego, Ademir e Emauele pela ajuda durate os grupos de estudos e especialmete ao tutor Gilberto Nues, pelo icetio que sempre os proporcioou durate o curso, os aimado sempre para cocluir esta especialização. À miha família que sempre tee paciêcia comigo, dedicado cariho e apoio a todo o mometo. Não medido esforços para que eu coseguisse chegar até esta etapa do curso. E fialmete, ao meu amorado Ailso, pelo icetio e pricipalmete pela paciêcia que sempre tee comigo.

6 O pricipio criador reside a matemática; a sua certeza é absoluta, equato se trata de matemática abstrata, mas dimiui a razão direta de sua cocretização. (Albert Eistei)

7 RESUMO Neste trabalho são estudados algus coceitos da Álgebra Liear, para etão deseoler um bree estudo de matrizes ortogoais. ais matrizes apresetam propriedades de coserar âgulos e módulos, produtos escalares e além disso do poto de ista umérico, preseram a ordem de gradeza de úmeros durate operações uméricas. No decorrer do trabalho foram cotemplados além da fatoração QR, o problema de míimos quadrados calculados atraés da equação ormal e ia fatoração QR. Durate a pesquisa fez-se uma abordagem da reta de melhor ajustes, em que a tal reta é y=ax +b que miimiza a soma dos quadrados dos resíduos. Palaras-chae: Matrizes ortogoais. Fatoração QR. Método dos Míimos Quadrados.

8 LISA DE FIGURAS Figura... Figura...9 Figura... Figura 4... Figura Figura Figura Figura Figura Figura Figura...5

9 SUMÁRIO INRODUÇÃO.... CONCEIOS PRELIMINARES.... Defiição de Matrizes.... Operações com Matrizes.....-Adição de Matrizes..... Produtos Multiplicação por um escalar Multiplicação de Matrizes...4.-Algus ipos Especiais de Matrizes Defiição de Matriz Quadrada Defiição de Matriz Idetidade Defiição de Matriz riagular Superior Defiição de Matriz Simétrica Matriz rasposta Produto Itero Propriedades do produto Escalar Norma em Ortogoalidade...7. MARIZ OROGONAL...8. Matriz Reflexão...9. Matriz Rotação.... Propriedades das Matrizes Ortogoais...4. O PROCESSO DE GRAM-SCHMID E A FAORAÇÃO QR...9. Projeção Ortogoal...9. O Processo de Gram-Schmidt.... Fatoração QR... 4 MÉODO DOS MÍNIMOS QUADRADOS O eorema da Melhor Aproximação eorema dos Míimos Quadrados...8

10 4. Utilizado Fatoração QR Para o Problema de Míimos Quadrados Reta de Melhor Ajustes Erro Quadrático (resíduo) CONCLUSÕES... 5 REFERÊNCIAS...5

11 INRODUÇÃO Ao se falar em matriz ortogoal, segudo Poole (006), tal omeclatura ão é muito adequada, um termo melhor seria matriz ortoormal, o qual ão é utilizado, até porque ão tem termo algum para desigar uma matriz ão quadrada com coluas ortoormais. Para costruir uma base ortogoal (ou ortoormal) para qualquer subespaço de utilizado um método simples (O Processo de Gram-Schmidt) que os lea a uma das mais úteis fatorações de Matrizes. Se A é uma matriz mx com coluas liearmete idepedetes (exigido m> ), o processo de Gram-Schmidt produz uma fatoração da matriz A em um produto de uma matriz ortogoal Q por uma matriz triagular superior R, cohecida como a fatoração QR. A fatoração QR tem aplicações em programas de computador para ecotrar os autoalores de uma matriz, para resoler sistemas lieares e para ecotrar as aproximações por míimos quadrados, que discutiremos este trabalho. Sistemas impossíeis aparecem muitas ezes em aplicações, embora em sempre com uma matriz de coeficietes tão grade. Quado o sistema ão possui solução, o melhor que podemos fazer é ecotrar um x que faça com que Ax fique o mais próximo possíel de b. O problema geral de míimos quadrados é ecotrar um x que tore b Ax o meor possíel. R é O termo míimos quadrados em do fato de que b Ax é a raiz quadrada de uma soma de quadrados. O presete trabalho tem por objetio fazer um bree estudo à respeito de matrizes ortogoais, isado aplicações em problemas que eolem o método dos míimos quadrados. Sua elaboração costitui-se de 4 capítulos e está orgaizado da seguite maeira: No capítulo I são mecioados os coceitos prelimiares que serão utilizados os capítulos seguites. No capítulo II apresetamos os cojutos de propriedades das matrizes ortogoais e dois exemplos típicos de matrizes ortogoais: a matriz reflexão e a matriz rotação. fatoração QR. Ax No capítulo III utilizamos a propriedade do processo de Gram-Schmidt para proar a No capítulo IV mostramos o problema de míimos quadrados, ode o sistema liear b ão possui solução, porque o etor do lado direito ão pertece ao espaço colua da

12 matriz. Nesses casos, podemos recorrer de b, para isso podemos utilizar as equações ormais para x ou fatoração QR. Fialmete procuramos uma reta de melhor ajuste que se aproxime ao máximo dos potos dados, ou seja, que possui o míimo possíel de erro.

13 CAPÍULO CONCEIOS PRELIMINARES Neste capítulo apresetaremos algus coceitos de álgebra liear que serão ecessários para a compreesão dos próximos tópicos. Para maiores detalhes em relação aos coceitos idicamos os liros KOLMAN & HILL (006),LAY( 007), CALLIOLI E AL (990) e BOLDRINI E AL (980).. Defiição de Matrizes Uma matriz A mx é um arrajo retagular de m úmeros reais (ou complexos) distribuídos em m lihas horizotais e coluas erticais: Figura A i-ésima liha de A é a a a i m i i i ; e a j-ésima colua de A é a a a j j mj j. Dizemos que A é m por (represetado por mx).. Operações com Matrizes..Adição de Matrizes

14 4 Se A= a ij e B= b ij são matrizes mx, etão a soma de A e B é a matriz C= c ij, mx, defiida por C ij = a ij +b ij i m j,. Logo, C é obtida pela adição dos elemetos correspodetes de A e B. Se A e B são matrizes mx, escreemos A + (-)B como A B e chamamos isto de difereça etre A e B. Obseramos que pela maeira com que foi defiida, a adição de matrizes tem as mesmas propriedades que a adição de úmeros reais. Propriedades: Dadas as matrizes A, B e C de mesma ordem mx, temos: i) A + B = B + A (comutatiidade) ii) A + (B + C) = (A + B) + C (associatiidade) iii) A + 0 = A, ode 0 deota a matriz ula mx... Produtos... Multiplicação por um escalar Se A= a ij é uma matriz mx e r é um úmero real, etão a multiplicação por um escalar de A por r, ra, é a matriz B= b ij, mx, ode b ij = ra ij i m j,. Logo, B é obtida pela multiplicação de cada elemeto de A por r. Propriedades: Dadas as matrizes A e B de mesma ordem mx e úmeros r, r e r, temos: i) r(a + B)= ra + rb ii) (r + r )A =r A + r A iii) 0. A = 0, isto é se multiplicarmos o úmero zero por qualquer matriz A, teremos a matriz ula. i) r (r A) = (r r )A... Multiplicação de Matrizes Se A= a ij é uma matriz mxp e B= b ij é uma matriz px, etão o produto de A e B, represetado por AB, é a matriz mx C = c c a b a b a b = ij, defiida por ij i j i j ip pj p aikbkj i m j k,.

15 5 Propriedades da multiplicação de matrizes a. Se A, B e C têm os tamahos apropriados, etão A(BC) = (AB)C (propriedade associatia da multiplicação); b. Se A, B e C têm os tamahos apropriados, etão A(B+C) = AB+AC (propriedade distributia à esquerda); c. Se A, B e C têm os tamahos apropriados, etão (A+B)C = AC+BC (propriedade distributia à direita). Algus ipos Especiais de Matrizes.. Defiição de Matriz Quadrada É aquela cujo úmero de lihas é igual ao úmero de coluas ( m ). Quado os referimos a uma matriz quadrada x, podemos dizer que a sua ordem é ao iés de x... Defiição de Matriz Idetidade É aquela em que aii e a 0, para i j. Isto é, é a matriz quadrada de ordem, ij em que todos os elemetos da diagoal pricipal são iguais a e os demais elemetos são iguais a zero. Represeta-se a matriz idetidade por I... Defiição de Matriz riagular Superior É uma matriz quadrada ode todos os elemetos abaixo da diagoal são ulos, isto é, se a 0, para i > j. ij..4 Defiição de Matriz Simétrica Uma matriz quadrada A é dita simétrica, se A =A equialetemete, A é simétrica se os elemetos simétricos com relação à diagoal pricipal são iguais, ou seja, aquela ode a ij a. ji Exemplo: a b c b d e c e f

16 6 Podemos obserar que a parte superior é uma reflexão da parte iferior, em relação a diagoal...5 Matriz rasposta Defiição: Dada uma matriz mx A, a trasposta de A é a matriz xm, deotada por A, cujas coluas são formadas com as lihas correspodetes de A. Note que a trasposta de um etor colua é um etor liha e ice-ersa. A operação de matriz trasposta satisfaz às seguites propriedades: Sejam A e B matrizes cujos tipos são apropriados para as seguites somas e produtos. a. (A ) =A b. (A+B) =A +B c. Para qualquer escalar r, (ra) = ra d. (AB) =B A.4 Produto Itero Defiição: Seja V um espaço etorial de dimesão fiita sobre IR*. Etede-se por produto itero sobre V uma aplicação que trasforma cada par ordeado (u,)vxv em um úmero real, (que idicaremos por u, ) obedecedo às seguite codições: a) u, w u, w, w, u,, w V ; b) u, u, IReu, V ; c) <u,> = <,u>, para todo u, V; d) u, u é um úmero real maior que zero para todo etor u 0. Um espaço etorial V ode está defiido um produto itero é chamado espaço com produto itero (real). Como exemplo de um espaço com produto itero temos o u x y x y x y, ode u = (x, x,..., x ) e = (y, y,..., y ).,..., com.5 Propriedades do produto Escalar Se u,, e w são etores em R e c é um escalar, etão: a) u. u 0; u. u 0 se, e somete se, u 0 b) u.. u c) ( u ). w u. w. w d) (c u). u.(c ) c( u. )

17 7.6 Norma em O comprimeto (ou orma) de é o escalar ão-egatio defiido por =. = e..7 Ortogoalidade Seja V um espaço euclidiao. Dizemos que dois etores u, V são ortogoais se, e somete se, u, 0. Um cojuto S={u,...,u r } V se diz ortoormal se, e somete se, (I) ui (i=,,...,r) e (II) dois etores quaisquer de S, distitos etre si, são ortogoais.

18 8 CAPÍULO MARIZES OROGONAIS No capítulo II apresetamos o cojuto de propriedades das matrizes ortogoais e dois exemplos típicos: matrizes de reflexão e matrizes de rotação. Segudo Poole (006), a omeclatura Matriz Ortogoal ão é muito adequada, pois um termo melhor seria matriz ortoormal, o qual ão é utilizado, até porque ão tem ehum termo para desigar uma matriz ão quadrada com coluas ortoormais. Para este capítulo os baseamos os trabalhos de POOLE (006), LIPSCHUZ (994), SEINBRUCH (009). Defiição: Uma matriz real Q é ortogoal se QQ Q Q I. Obsere que uma matriz ortogoal Q é ecessariamete quadrada e iertíel, e sua iersa coicide com a trasposta isto é, Q Q. Exemplo: Seja QQ QQ QQ 8 4 Q Etão = I Defiição: Se det A =, a matriz ortogoal A é chamada matriz ortogoal própria e se deta = -, a matriz ortogoal A é chamada matriz ortogoal imprópria.

19 9 Existem matrizes ortogoais que produzem efeitos especiais quado aplicados um etor. Duas dessas são a Matriz de Reflexão e Matriz de Rotação. As matrizes de trasformação que represetam rotações do plao sobre a origem são exemplos de matrizes ortogoais próprias e as reflexões do plao com respeito a uma reta pela origem são exemplos de matrizes ortogoais impróprias. Além disso, tato os etores liha quato os etores colua de uma matriz de rotação e de uma matriz de reflexão podem ser cosiderados como um par de etores uitários ortogoais.. Matriz Reflexão u : uitário Figura S = S u (complemeto ortogoal) u V= S S V ; ; S e S ; Uma reflexão de Householder é uma matriz da forma H= I uu. emos que y x P x S y x uu x ( I uu ) x Ao multiplicar uma matriz de Householder por um etor x é equialete a refletir o etor x atraés do plao perpedicular a u.

20 0 seguir: As matrizes de Householder são simétricas e ortogoais, como eremos o teorema a eorema: A matriz de Householder é uma Matriz ortogoal. Demostração: Vamos proar que H H I e HH I Obseramos que H é simétrica, de fato, H ( I uu ) = I ( uu ) = I ( u ) u = I uu Assim, temos H H = = H HH H = ( I uu ) = ( I uu )( I uu ) = I Iuu uu I uu uu 4( )( ) = I uu uu 4uu = I Exemplo: Supoha (, 4) u calcular a reflexão de Householder. 5 Seja H I uu etão, 4 4 H I,, H H

21 H H logo, H Det (H) = -. Matriz Rotação Em duas dimesões, a rotação pode ser defiida por um úico âgulo,. Por coeção, âgulos positios represetam rotação o setido ati-horario. Rotação é uma operação básica muito usada em aplicações gráficas. Ela faz parte de um grupo maior de trasformações chamadas isométricas, que tem a característica de preserarem o comprimeto do etor. Para costruir a matriz de rotação cosidere a figura abaixo: Figura Já sabemos que o tamaho do etor ão se altera. Aqui chamado de r. cos x r cos x x r se x rse r cos( ) se( ) y r y r cos( ) y r y rse( )

22 y r cos( ) y rse( ) x x y r cos cos rse se y r cos se rse cos x x ou, y cos se x y se cos x Y= R. X Ode, R é ortogoal. Para erificar se esta matriz rotação é ortogoal basta multiplicar pela sua trasposta, obtedo assim a matriz idetidade. ou, cos se cos se se cos se cos igual a. = 0 0 se cos 0 cos se 0 e determiate cos D se se cos Sejam x y x cos e u=d.= xse yse y cos x y cos cos u x yse xse y u x cos xy cosse y se x se xyse cos y cos u x (cos se ) y ( se cos ) x y Presera a orma do etor. Exemplo: qual a rotação do etor u,0, e 0º o setido ati-horário. : Multiplicado a matriz rotação pelo etor colua obtemos: cos 0º se0º se0º cos 0º 0 u,0 de âgulo 0º. que é as coordeadas do etor que é rotação do etor

23 Exemplo : Com = 4 rad cos se D= se cos = = 0 u= 0 = O etor u é uma rotação de, com 45 graus para a direita, têm a mesma orma e as coluas de D são ortogoais. Figura 4 As rotações plaas apresetadas ateriormete podem ser geeralizadas para dimesões maiores. Para R, por exemplo, podemos defiir: 0 0 R ( ) 0 cos se 0 se cos X fixado. Neste caso a rotação é feita apeas o plao YZ, matedo o eixo

24 4 Figura 5 cos 0 se R ( ) 0 0 se 0 cos Y fixado. Neste caso a rotação é feita apeas o plao XZ, matedo o eixo cos se 0 R ( ) se cos Z fixado. Neste caso a rotação é feita apeas o plao XY, matedo o eixo. Propriedades das Matrizes Ortogoais As matrizes ortogoais,satisfazem o cojuto das propriedades euciadas os teoremas a seguir: Proposição.. Seja Q uma matriz mx. Suas coluas formam um cojuto ortoormal se, e somete se, Q Q I. Demostração: Seja q a i ésima colua de Q (cosequetemete a i ésima liha de i Q ). Como o elemeto ( i, j) de Q Q é produto escalar da i ésima liha de Q pela j ésima colua de Q, temos que, ( Q Q ) = q, q (*) i, j i j

25 5 deido a defiição de multiplicação de matrizes. De fato, as coluas de Q formam um cojuto ortoormal se e somete se q, q i j se i j 0 se i j logo, da equação (*), ale se e somete se ( Q Q), i j se i j 0 se i j Proposição.. Uma matriz quadrada Q é ortogoal se e somete se Q Q. Demostração: Segudo POOLE (006), o teorema aterior imos que Q é ortogoal se e somete se Q Q I. Isso é erdade se e somete se, Q é iertíel. Assim, se multiplicarmos ambos os lados de Q Q I por Q pela direita obtemos Q. QQ IQ Q I Q Q Q Nesse caso, as coluas de Q são ortogoais etre si e formam uma base ortoormal de Proposição.. Seja Q uma matriz x. As seguites afirmações são equialetes: a. Q é ortogoal. b. Qx x para todo x em c. Qx. Qy x. y para todo.. Demostração: Como as afirmações são equialetes temos que proar que ( a) ( c) ( b) ( a). Para proar tais equialêcias POOLE (006) utilizou o fato de que,. se x e y são etores (colua) em x y, etão. x y. ( a) ( c) Se Q é ortogoal Qx, Qy x, y isto é, o produto das images é igual ao produto do domíio. Seja Q ortogoal, etão Q Q I. De fato, Qx, Qy ( Qx) Qy etão Qx, Qy Qx, Qy x Q Qy x y logo, como Q Q I temos que Qx, Qy x Iy e portato Qx, Qy x, y. ( c) ( b) Se Qx, Qy x, y x, y Qx x Supoha que Qx, Qy x, y x, y. omado x=y, por hipótese temos que Qx, Qx x, x assim, Qx Qx, Qx = x, x = x. ( b) ( a) Cosidere álida a propriedade (b) e que qi deota a i ésima colua de Q. Etão:

26 6 a) Q( x y)) x y = x y, x y = x, x x, y y, y = x x, y y b) Q( x y) x y x y, x y = x x, y y i) (a)-(b) Q( x y) Q( x y) = - x x, y y x x, y y = 4 x, y c) Q( x y) = Qx Qy = Qx Qy, Qx Qy = Qx Qx, Qy Qy d) Q( x y) = Qx Qy, Qx Qy Qx Qx, Qy Qy ii) (c)-(d) - Qx Qx, Qy Qy Qx Qx, Qy Qy i = ii = 4 Qx, Qy 4 x, y = 4 Qx, Qy multiplicado ambos os lados por 4 logo teremos x, y = Qx, Qy x e y em percebemos que presera o âgulo dos etores.. [Isso mostra que (b) (c)]. Aalisado esta propriedade

27 7 Agora, x, y = Qx, Qy se x= q i e y= q etão, q, q Qe, Qe = j i j i j e, e i j se i j 0 se i j coluas de Q formam, portato, um cojuto ortoormal, e Q é uma matriz ortogoal. Aalisado esta propriedade percebemos que presera o âgulo dos etores. As Proposição..4 Se Q é uma matriz ortogoal, etão suas lihas formam um cojuto ortoormal. Demostração: Assuma que Q é uma matriz ortogoal, etão Q Q = Q Q, logo Q Q. Assim, Q é uma matriz ortogoal. Etão, as coluas de são exatamete as lihas de Q formam um cojuto ortoormal. Proposição..5 Seja Q uma matriz ortogoal. Q que a. Q é ortogoal. Demostração: LIPSCHUZ (994) emos Q Q, pois, Q é ortogoal. Assim, como Q é ortogoal se e somete se Q é ortogoal logo Q é ortogoal. b. det Q = Demostração: SEINBRUCH (009) Para proar esta propriedade é suficiete lembrar que Q e Q têm o mesmo determiate e que o determiate da idetidade é igual a. Sedo Q ortogoal, Q Q =I. Logo, det( ) Q Q = det I det( Q ) det( Q ) = Como det( Q) det( Q ), em: c. Se é um autoalor de Q,. (det Q) ou seja, det( Q) ou det( Q) Demostração: POOLE (006) proa esta propriedade utilizado o fato de que uma matriz ortogoal cosera o tamaho do etor. Seja um autoalor e um autoetor associado a Q, etão Q Q e como 0,. logo, d. Se Q e Q são matrizes ortogoais x, QQ também é.

28 8 Esta propriedade os mostra que o produto de duas matrizes ortogoais é ortogoal, e para demostrá-la utilizamos a idéia de LIPSCHUZ (994). Demostração : Para proar esta propriedade, lembremos que ( AB) B A. Sejam agora Q e Q ortogoais, isto é, Q Q e Q Q. Assim, ( QQ )( QQ ) Q QQ Q Utilizado o fato de Q Q e Q Q temos que Q Q Q Q Q ( Q Q ) Q logo Q IQ Q Q I Assim, ( Q Q ) ( ) QQ, e, portato, Q Q é ortogoal.

29 9 CAPÍULO O PROCESSO DE GRAM-SCHMID E A FAORAÇÃO QR No capítulo III descreemos o processo de ortogoalização de Gram-Schmid e mostramos sua relação com a fatoração QR.. Projeção Ortogoal Defiição: Seja W um subespaço de R e seja u..., uk uma base ortogoal de W. Para um etor em R, a projeção ortogoal de em W é defiida por u. u. A compoete ortogoal de em relação a W é o k projw( ) u uk u. u uk. uk etor perp ( ) proj ( ). w Como os etores w ui são ortogoais, a projeção de sobre W é a soma de suas projeções ortogoais sobre subespaços uidimesioais que são mutuamete ortogoais., s V Ex: S Spa Figura 6 P? s Seja Ps x t, algum para t Para determiar t, exigimos que

30 0 ( x P x) S s ( x P x) s x P x, 0 s x t, 0 x, t, 0 t x,, Coclusão x, Ps x, Se.,. : produto itero em P x x = x,, x x = x = x matriz projeção = P s Exemplo umérico S Spa, 0 P s = Note que e

31 ( ). 0 P s = 0 0 calculado obtemos a matriz projeção P s = 0 = 0 0 P s = P s = O PROCESSO GRAM SCHMID eorema: Seja x,..., xkuma base para um subespaço W de x, W spa( x) e defia o seguite:

32 x x, W spa x x x x x (, ), W spa x x x (,, ) x k x k k x k k xk k k, Wk spa( x,..., x ) k k Etão para cada i,..., k,,..., i é uma base ortogoal de W i. Em particular,..., k é uma base de W. Em suma, todo subespaço de tem uma base ortogoal e forece um algoritmo para costruir uma base dessas. Para ormalizarmos os etores do processo de Gram-Schmidt, basta a cada i substituir i pelo etor uitário q i i i. Demostração: eja POOLE [006], págia 4 Exemplo: Cosidere a base S=x, x x, para, ode x (,,), x (,0, ) e x (,,) utilizaremos o processo de Gram schmidt para trasformar S em uma base ortoormal para. Passo: Seja x (,,). Passo : calculado agora e : x x, 0,,,,,,,, 0,,, = (, 0, ),, = (-,0,-) -,,,, x x x

33 ,,,,,,,,,,,,,,,,,,,,,, 4,,,,,, 4 4 4,,,,,, 4 4 4,,,,,,,0, Assim, uma base ortogoal para Agora ormalizado a base ortogoal q,,,,,,. é,,,,,,,0, q q,,,0, ( ) 0 =,, =,, =,, =,0, Logo obteremos a base ortoormal para,,,,,,,0, FAORAÇÃO QR

34 4 eorema: Seja A uma matriz mx com coluas liearmete idepedetes. Etão A pode ser escrita como: A QR, ode Q é uma matriz mx com coluas ortoormais e R é uma matriz triagular superior iertíel. Demostração: Ao aplicar o processo de Gram schimdt (com ormalizações) a correspode a fatorar A. x,..., x As coluas de A formam uma base x,..., xpara colua de A. Utilizado o processo de Gram schmidt, podemos obter um base ortoormal q,..., q para o espaço colua de A. Seja Q q q q para K,...,... Agora, cada um dos etores, k x está em Spax,..., x Spaq,..., q. k xi pode ser escrito como uma combiação liear dos etores q, isto é, existem costates r k, r k,..., rkk tais que x r q r q... r q 0 q... 0 q. Podemos supor que os elemetos da diagoal k k k kk k k de R são positios. Se rkk 0, basta substituirmos qk por simplesmete multiplicar tato qk e r kk por rkk, ou etão q k como r kk por -. Assim, como foi dito ateriormete, x k é uma combiação liear das coluas de Q usado como coeficietes as coordeadas do etor r k r kk rk 0 0 ou seja, xk Qrk para k,..., A x x Qr Qr QR, ode. Seja R r r r r r 0 r r R r. Etão Mostraremos agora que R é iertíel. Seja y uma solução para o sistema liear Ry 0. Multiplicado esta equação por Q à esquerda, temos Q( Ry) Q0 ( QR) y 0 usado o fato de A QR Ay 0

35 5 Escreedo Ay 0 como yx yx yx 0, ode y, y,, y são as compoetes do etor y. Como as coluas de A são liearmete idepedetes, y y y 0, portato y tem que ser o etor ulo. Logo R é iertíel. Exemplo: Ecotre a fatoração QR de A= 0 As coluas de A são os etores x, x, x do exemplo aterior. Aplicado o processo de Gram Schmidt para essa base iiciado com x, ecotramos a seguite base ortoormal para o espaço colua de A já calculados aida o exemplo aterior: q, q 6 6 6, q 0 Utilizado estes etores ortoormais como coluas de Q temos; Q q q q Por costrução, as k primeiras coluas de Q formam uma base ortoormal para Spax,... x k. Pela demostração do teorema aterior A=QR para algum R. Para ecotrar R, ote que Q Q I, já que as coluas de Q são ortoormais. Logo, multiplicado esta equação por A QR Q A Q QR Q à esquerda, temos

36 6 Q A ( Q Q) R Q A Q A IR R calculamos R Q A e etão obtemos 0 R

37 7 CAPÍULO 4 MÉODO DOS MÍNIMOS QUADRADOS No capítulo IV estudamos o problema de míimos quadrados, ode o sistema liear ão possui solução porque o etor do lado direito ão pertece ao espaço colua da matriz, e mostramos que a solução do problema pode ser ecotrado pelas equações ormais ou pela fatoração QR. Para ilustrar a teoria e os métodos estudados, procuramos uma reta de melhor ajuste de um cojuto de potos dados, e fializamos com o problema do melhor ajuste quadrático. Figura 7 b está mais próximo de Ax do que de Ax e Ax, isto é para outro qualquer x. 4. O eorema da Melhor Aproximação Se W é um subespaço de dimesão fiita de um espaço V com produto itero e se é um etor em V, etão projw ( ) é a melhor aproximação para em W. Deotaremos proj ( ) como W Figura 8 Se = projw ( ), etão w para todo w

38 8 Demostração: seja w um etor em W diferete da projeção de o subespaço W, isto é diferete de. Como w e estão ambos em W, -w está também em W, e perp ( ) é ortogoal a w. Aplicado o teorema de Pitágoras temos que ( ) ( w) w W w w w w Como w, etão w é positio e w o que equiale a w. Assim, segue que é o etor em W que miimiza w e portato miimiza w. O teorema acima diz que a distâcia etre e w, dada por w, pode ser ista como o erro em usar w o lugar de, e que o erro é miimizado quado w, assim, o etor é chamado de projeção ortogoal de sobre w, e é chamado de melhor aproximação por elemetos de W. O problema geral de míimos quadráticos é: determiar x tal que a difereça etre b e Ax, isto é, b Ax é míima. 4. eorema dos Míimos Quadrados Seja A uma matriz mx e seja b em solução por míimos quadrados x. Além disso, m R. Etão, Ax b sempre tem pelo meos uma a) x é uma solução por míimos quadrados de Ax b se, e somete se, x é uma solução da equação ormal A Ax A b. b) A possui coluas liearmete idepedetes se, e somete se, a solução por míimos quadrados de Ax Demostração: a) r b Ax (resíduo) b é úica e é dada por A A é iertíel. Nesse caso, ( x A A) A b. Para que b Ax seja o meor possíel, o etor resíduo dee ser ortogoal ao espaço colua. Se a i é uma colua de A, etão

39 9 a r 0 a r 0 am r 0 Como cada A r 0 ai A ( b Ax) 0 A b A Ax 0 A Ax A b é uma liha de A, temos Logo, uma solução por míimos quadrados para um sistema de equações lieares Ax b é um etor x que miimiza o comprimeto do etor Ax b, isto é que satisfaz as equações A Ax A b cohecido como equações ormais para x. b) Note que as coluas de A são liearmete idepedetes se, e somete se, posto de A=. Mas isso é erdade se, e somete se, A A é iertíel. Podemos proar sua iertibilidade mostrado que o sistema liear A Ax 0 tem apeas a solução triial. Multiplicado ambos os lados de A Ax 0 por A Ax 0 x A Ax x 0 ( Ax) ( Ax) 0 ( Ax).( Ax ) = 0 x, temos De acordo com a propriedade.5 dos coceitos prelimiares temos que Ax=0. Isso implica que temos uma combiação liear de coluas de A liearmete idepedetes que é ula. Logo, x=0. Assim, ( x A A) A b. A Aé iertíel e a equação A Ax A b tem uma úica solução Neste método de resolução o procedimeto para ecotrar a aproximação por míimos quadrados é primeiramete formar a matriz ormal A Ax Exemplo de um aplicação: A A e A b e em seguida resoler o sistema A b por escaloameto, isto é, pelo método de Gauss-Jorda. Ecotre uma solução por míimos quadráticos do sistema impossíel Ax b, ode

40 A 0, b 0 Solução: Formaremos as matrizes A A = A b = A Ae A b Agora formamos o sistema ormal 7 9 x 5 A Ax A b 7 x 9 5 x Aplicado o método de Gauss-Jorda, e usado o fato de A Aé iertíel temos: A A, L 7 0 L 5 5 0, L L 7L,,, 5 L L ,,,,,,, 0 L L L ,,, 7 L L 0,,,,, 7 L L Logo A A Resoledo A Ax ( x A A) A b A b diretamete: = 7 = logo, x=

41 4 Pelo teorema dos míimos quadrados (b), o sistema ormal tem uma úica solução, deido às coluas de A serem idepedetes. Os compoetes de x são os coeficietes da combiação liear das coluas de A Ax b = que ocasioam a melhor aproximação para b. 4. Utilizado Fatoração QR Para o Problema de Míimos Quadrados Seja A uma matriz mx com coluas liearmete idepedetes, e seja b em m R. Se A QR é uma fatoração QR de A, etão a úica solução por míimos quadrados x de Ax b é x Demostração: R Q b. Seja uma fatoração QR de A, A QR. Substituido A as equações ormais temos: A Ax A b ( QR) ( QR) x ( QR) b R Q QRx R Q b R ( Q Q) Rx R Q b como as coluas de Q formam um cojuto ortoormal, R IRx R Q b Q Q I R Rx R Q b deido R ser iertíel, R também é uma matriz iertíel e logo temos Rx Q b o que é equialete a x R Q b. (Sistema alteratio para resoler o problema de míimos quadrados). Pelo fato de R ser triagular superior é muito mais rápido e fácil resoler Rx Q b do que usar substituições ou operações elemetares para calcular R e depois calcular x R Q b.

42 4 Exemplo: Ecotre uma solução por míimos quadráticos do sistema impossíel Ax b, ode 4 0 A 0, b 0 Utilizado a fatoração QR para o problema de míimos quadrados temos: x (4, 0,) (0,,).(4,0,) (0,,).(4,0,) (4,0,).(4,0,) (0,,).(4,0,) 7 4 (0,,),0, ,, Base ortogoal 4,0,,, 7 7 Normalizado a base ortogoal: (4,0,) (4, 0,) 4 q q,0, q ,,,,,, q = ,, ,, Q q q matriz ortogoal

43 4 Calculado R Q A R R A solução de míimos quadráticos x satisfaz Rx Q b, isto é, x x x 7 84 x Essa equação é resolida facilmete e obtemos x. alez o fato mais importate do uso da fatoração QR é eitar o cálculo da matriz A A. al cálculo pode produzir dificuldades o cálculo da solução do problema. Isto pode ser ilustrado com a seguite matriz: A A A Na prática, (a utilização do computador) se é muito pequeo, computador como ulo, e A A tora-se e A ; é represetado o A A que é sigular. Nesse caso, perde-se a uicidade da solução do problema. Isso pode ser eitado calculado QR de A. 4.4 Reta de Melhor Ajuste

44 44 Geralmete medimos o alor de y coforme o alor de x dado, e etão marcamos o plao cartesiao os potos (x,y), tetamos relacioar as ariáeis x e y que pode ser utilizada para preer alores de y para determiados alores de x. Quado os potos marcados o gráfico ão pertecem exatamete a uma reta, ou seja, quado dados experimetais forecem potos que ao serem colocados em um gráfico parecem estar próximo de uma reta costumamos usar o método dos míimos quadrados para obter a reta que melhor se ajuste aos dados. Calcular a solução de míimos quadráticos de Ax=b é equialete a ecotrar o etor x que determia a reta de míimos quadráticos. Iremos determiar os coeficietes a e b que toram a reta mais próxima possíel dos potos. A reta de melhor ajustes é a reta y=ax +b que miimiza a soma dos quadrados dos resíduos. 4.5 Erro Quadrático (resíduo) A difereça etre um alor de y obserado e um preisto é chamada de resíduo. Para medir o quato a reta está próxima dos dados utilizamos somar os quadrados dos resíduos, isto é, o quadrado da distâcia etre os etores Ax e b é precisamete a soma dos quadrados dos resíduos. Uma ez calculados e ecotrados a e b o objetio é miimizar o comprimeto do resíduo (e), o que é equialete a ecotrar a solução de míimos quadráticos de Ax=b. Assim, a solução de míimos quadráticos x é a solução das equações ormais. ( A A) x A b Sedo x x A x, m y y b, ym a x b e e e e e etão, A Ax A b x x x x m x A A x x xm x x x m = x x xm m xm y x x x m y A b x y x y x y y y ym ym. m m

45 45 Se poretura os potos estierem exatamete sobre a reta de míimos quadrados a equação estaria da forma y=ax+b. Porém, como algus dos potos podem ão pertecer exatamete a reta, etão a equação se apreseta da forma y=ax+b+ e,ou e =y-(ax+b) em que e é o desio ertical do poto dado até a reta de míimos quadrados (represetado os erros a direção y). Para que e seja o meor possíel o e dee estar o mais próximo possíel de zero. O etor erro é apeas b-ax, deido a forma matricial com que é represetada a equação da reta ode os potos ão são colieares, o qual o sistema é idetermiado.para calcular o resíduo utilizamos e = b Ax. Figura 9 Quado os potos de dados (x,y ),..., (x,y ), em um gráfico, ão parecem estar próximos de ehuma reta, pode ser coeiete escolher uma outra relação fucioal etre x e y, e etão podemos utilizar o método de míimos quadrados para aproximar potos dados por outras curas, além de retas. A solução de míimos quadrados x é a solução das equações ormais: ( A A) x A b Supoha que queremos aproximar os dados por uma equação da forma y ax bx c, etão as coordeadas do primeiro poto (x,y ) satisfazem uma equação da forma : y ax bx c e, ode e é o erro residual etre o alor obserado y e o alor preisto para y, dados. y ax bx c e y ax bx c. Vamos formar uma equação aáloga para cada poto dos y ax bx c e y ax bx c e

46 46 Escreedo este sistema a forma y Ax e y x x e a y x x e b c y x e x x b emos: A ( A A) x A b A A x x x x x x x x x x = x x e x x x x x x x x x x x x x x x x x x x x x x x x m A b y x x x y x. y x. y x. y A b x x x x. y x. y x. y y y y y Exemplos: ) Ecotre a reta de míimos quadrados e o erro quadrático míimo para os potos (,), (,), (,), (4,) Seja y=ax +b a reta procurada. Substituido os quatros potos essa equação, obtemos: =a+b =a+ b ou =a+b =4a+b a b Assim, queremos a solução por míimos quadrados de Ax=b, ode 4

47 47 A 4 e b Calculado a equação ormal ( A A) x A b A A = A A A b A b a b = L L 0 0 L L L 0 ' ' L L 5L '' ' ' '' ' L L L L L 0 ''' '' L ''' '' quadrados com coeficietes é: y x. 5 Como e b Ax temos logo a e 5 5 x e e portato uma equação para a reta de míimos b que miimiza a soma dos quadrados dos resíduos

48 48 Calculado a orma do resíduo temos e = Figura 0 ) Ecotre a parábola que tem a melhor aproximação por míimos quadrados para os potos (-,), (0,-), (,0) e (,). Solução: A equação de uma parábola é equação, obtemos o sistema liear: a b c c 0 a b c 4a b c ou a 0 0 b 0 c 4 y ax bx c, substituido os potos dados essa Assim, queremos a solução por míimos quadrados de Ax=b, ode

49 A 4 e b= 0 Calculado a equação ormal ( A A) x A b ( ) 0 ( ) 0 ( ) 0 A A ( ) 0 ( ) 0 ( ) 0 ( ) 0 ( ) 0 4 A A A b A b ( ). 0.( ).0. ( ) 0 ( ). 0.( ) a b 6 4 c L L ' 4 L 9 L ' 6L 8L L ' L L L " L ' L "' L " L " L ' L " 0 L "' 40 L " L " L " L ' 0 L ' L "' L "

50 50 7 L "'' L "' L '" L "'' L "' L "' L "' Logo x = assim, a parábola de míimo quadrado tem equação y x x. 5 0 Como e b Ax temos e = = Calculado a orma do resíduo temos e =

51 Figura 5

52 5 CAPÍULO 5 CONCLUSÕES A presete pesquisa foi de grade beeficio para meu cohecimeto, pois tie a oportuidade de apreder que matrizes ortogoais apresetam propriedades de coserar âgulos e módulos, além de preserar produtos escalares. Ao se calcular o problema de míimos quadrados em muitos casos, tora se mais eficiete utilizar a fatoração QR de A (se as coluas de A forem liearmete idepedetes) pois as equações ormais podem algumas ezes itroduzir pequeos erros os cálculos dos elemetos de relatiamete grades a solução. Um exemplo disso está a matriz A = Quado se calcula muito pequeo, A A = A A que podem causar erros. um programa de computador, se é é represetado como ulo, e A A tora-se A A = sedo sigular, o que ocasioa a perda da uicidade da solução do problema garatida o teorema dos míimos quadrados (item 4.). Na reta de melhor ajuste, os dados experimetais forecem muitas ezes, potos que, ao serem colocados em um gráfico, parecem estar próximos de uma reta, temos etão de determiar os parâmetros a e b que toram a reta mais próxima possíel dos potos e para medir o quão próxima está a reta dos dados a melhor escolha é somar os quadrados dos resíduos. Quado os potos colocados um gráfico ão parecem estar próximos de ehuma reta, pode ser apropriado escolher uma outra relação fucioal, torado-se ecessário ajustar os dados a uma cura diferete de uma reta. Assim, propõe-se para futuros trabalhos aprofudar o estudo de matrizes ortogoais e suas aplicações.

53 5 REFERÊNCIAS BOLDRINI, J.L. et. Al; Álgebra Liear. ª ed. São Paulo: Harbra LD, 980. CALLIOLI, Carlos A. et Al. Álgebra Liear e Aplicações. 6ª ed. São Paulo: Atual, 990. KOLMAN, Berard; HILL, Daid R; tradução: BOSQUILHA, Alessadra. Itrodução à Álgebra Liear: com aplicações. Rio de Jaeiro, RJ: LC, 006. LAY, Daid C; tradução: CAMELIER, Ricardo; IÓRIO, Valéria de Magalhães. Álgebra Liear e suas Aplicações. ª ed. - Rio de Jaeiro, RJ: LC, 007. LIPSCHUZ, Seymour; tradução: FARIAS, Alfredo A. Álgebra Liear: eoria e Problemas. ª ed. São Paulo, SP: Makro Books, 994. NADAL, Carlos A. Sistemas de coordeadas tridimesioais raslação e Rotação de Sistemas < Acesso em 9 ja. 0. POOLE, Daid; tradução: MONEIRO, Martha S. (coord.) [et al] Álgebra Liear. São Paulo, SP:homso Learig, 006. SEINBRUCH. Alfredo; WINERLE, Paulo. Álgebra Liear. ª ed. São Paulo: Pearso Makro Books,987.