ANÁLISE MULTIVARIADA

Transcrição

1 MINISTÉRIO DA EDUCAÇÃO E DO DESPORTO UNIVERSIDADE FEDERAL DE LAVRAS DEPARTAMENTO DE CIÊNCIAS EXATAS ANÁLISE MULTIVARIADA Daniel Furado Ferreira LAVRAS, MG 996

2 ii SUMÁRIO Pág.. Aspecos da análise mulivariada.. Inrodução.. Aplicação das écnicas mulivariadas 3.3. Organização de dados 5.4. Disâncias 5.5. Exercícios 4. Álgebra veorial e maricial 5.. Inrodução 5.. Elemenos de álgebra veorial 6.3. Elemenos de álgebra maricial Exercícios 8 3. Amosragem mulivariada Inrodução Geomeria amosral Amosras aleaórias e esperanças do veor de média e da mariz de covariância amosral Variância generalizada Variância generalizada de variáveis generalizadas Oura generalização da variância Exercícios 7

3 iii 4. Disribuição normal mulivariada Inrodução Pressuposições das análises mulivariadas Densidade normal mulivariada e suas propriedades 4.4. Disribuição normal bivariada Disribuição amosral de X e S Disribuições amosral derivada da disribuição normal mulivariada Verificando a normalidade Exercícios Inferências sobre o veor média Inrodução Inferências sobre média de uma população normal Região de confiança e comparações simulâneas de componenes de média Inferências sobre proporções de grandes amosras Comparações pareadas Comparações de veores de médias de duas populações Exercícios 5 6. Análise de variância mulivariada Inrodução Delineameno de classificação simples 0

4 iv 6.3. Inervalos de confiança simulâneos para o efeio de raamenos Exercícios 3 7. Componenes principais Inrodução Componenes principais populacionais Componenes principais amosrais Gráficos dos componenes principais Inferências para grandes amosras Exercícios 8 8. Análise de agrupameno Inrodução Medidas de parecença (similaridades e dissimilaridades) Agrupamenos Exercícios Análise de faores Inrodução Modelo de faores orogonais Esimação de cargas faoriais Roação faorial Tese da fala de ajuse do modelo faorial 346

5 v 9.6. Escores faoriais Exercícios Análise de correlação canônica Inrodução Variáveis canônicas e correlação canônica populacionais Variáveis e correlações canônicas amosrais Inferências para grandes amosras Exercícios 386. Referencias bibliográficas 389 Apêndices 395 Índice remissivo 397

6 [ ] Aspecos da análise mulivariada.. Inrodução Nos rabalhos cieníficos, o problema de se inferir, a parir de dados mensurados pelo pesquisador, sobre os processos ou fenômenos físicos, biológicos ou sociais, que não se pode direamene observar, é uma realidade consane. A pesquisa cienífica se consiui num processo ineraivo de aprendizado. Para explicação de um fenômeno, o pesquisador em geral colea e analisa dados de acordo com uma hipóese. Por ouro lado, a análise deses mesmos dados coleados de amosragem ou experimenação geralmene sugere modificações da explicação do fenômeno, além disso, devido à complexidade deses fenômenos, o pesquisador deve colear observações de diferenes variáveis. Nese conexo, a inferência esaísica é realizada de acordo com o paradigma hipoéico-deduivo (Bock, 975). Devido aos fenômenos serem esudados a parir de dados coleados ou mensurados em muias variáveis, os méodos esaísicos delineados para ober informações a parir deses conjunos de informações, são denominados de méodos de análises mulivariados. A necessidade de compreensão das relações

7 . Aspecos da análise mulivariada enre as diversas variáveis faz com que as análises mulivariadas sejam complexas ou aé mesmo difíceis. O objeivo do presene maerial é apresenar a uilidade das écnicas mulivariada de uma forma clara, usando exemplos ilusraivos e eviando o máximo de possível de cálculo. Sendo assim, os objeivos gerais, para os quais a análise mulivariada conduz são: a. redução de dados ou simplificação esruural: o fenômeno sob esudo é represenado da maneira mais simples possível, sem sacrificar informações valiosas e ornando as inerpreações mais simples; b. ordenação e agrupameno: agrupameno de objeos (raamenos) ou variáveis similares, baseados em dados amosrais ou experimenais; c. invesigação da dependência enre variáveis: esudos das relações esruurais enre variáveis muias vezes é de ineresse do pesquisador; d. predição: relações enre variáveis devem ser deerminadas para o propósio de predição de uma ou mais variável com base na observação de ouras variáveis; e. consrução e ese de hipóeses. Os modelos mulivariados possuem em geral, um propósio aravés do qual o pesquisador pode esar ou inferir a respeio de uma hipóese sobre um

8 Ferreira, D.F. Esaísica mulivariada 3 deerminado fenômeno. No enano a sua uilização adequada depende do bom conhecimeno das écnicas e das suas limiações. A frase uilizada por Marrio (974) descreve bem ese fao: Não há mágica com os méodos numéricos, e que apesar de serem uma imporane ferramena para análise e inerpreação de dados, não devem ser uilizados como máquinas auomáicas de encher lingüiça, ransformando massas numéricas em pacoes de faos cieníficos... Aplicação de écnicas mulivariadas As écnicas esaísicas consiuem se uma pare inegral da pesquisa cienífica e em paricular as écnicas mulivariadas em sido regularmene aplicada em várias invesigações cieníficas nas áreas de biologia, física, sociologia e ciências médicas. Parece, nese insane, ser apropriado descrever as siuações em que as écnicas mulivariadas êm um grande valor. Medicina Nos esudos onde as reações de pacienes a um deerminado raameno são mensuradas em algumas variáveis e possuem difícil diagnósico, as écnicas mulivariadas podem ser usadas para consruir uma medida de resposa simples ao raameno, na qual é preservada a maior pare da informação da amosra e das múliplas variáveis resposas. Em ouras siuações as écnicas

9 . Aspecos da análise mulivariada 4 mulivariadas podem ser usadas ambém quando a classificação de um paciene, baseada nos sinomas medidos em algumas variáveis, é difícil de ser realizada. Nese caso, uma écnica mulivariada de classificação, em que se cria uma função que pode ser usada para separar as pessoas doenes das não doenes, pode ser implemenada. Sociologia Em alguns esudos o iner-relacionameno e o agrupameno de indivíduos, cidades ou esados em grupos homogêneos em relação à mobilidade, número de esrangeiros nascidos e de segunda geração em deerminado país é necessária em alguns esudos sociológicos. As écnicas de análise mulivariada, conhecidas como análise de agrupameno (Cluser analysis), pode ser empregada com esa finalidade. Biologia No melhorameno de planas é necessário, após o final de uma geração, selecionar aquelas planas que serão os geniores da próxima geração. a seleção deve ser realizada de maneira que a próxima geração seja melhorada em relação à resposa média de uma série de caracerísicas da geração anerior. O objeivo do melhorisa consise em maximizar o ganho genéico em um espaço

10 Ferreira, D.F. Esaísica mulivariada 5 mínimo de empo. As análises mulivariadas podem ser usadas para converer uma série de caracerísicas para um índice, na qual a seleção e escolha dos pais possam ser feias. Em algumas siuações se deseja a separação de algumas espécies, e as écnicas mulivariadas êm sido uilizadas com esa finalidade. Uma função é consruída e os seus valores são usados para esa separação..3. Organização de dados Aravés dese maerial preende-se raar das análises realizadas em muias caracerísicas ou variáveis. Essas medidas, muias vezes chamadas de dados, devem ser organizadas e apresenadas em várias formas. Por exemplo, a uilização de gráficos e arranjos abulares são imporanes auxiliares nas análises de dados. Por ouro lado, números que resumem, ou seja, que descrevem quaniaivamene ceras caracerísicas, são essenciais para a inerpreação de os dados amosrais ou experimenais. Arranjos Os dados mulivariados são provenienes de uma pesquisa em deerminada área em que são selecionadas p variáveis ou caracerísicas para

11 . Aspecos da análise mulivariada 6 serem mensuradas. As medidas são omadas em cada unidade da amosra ou do experimeno. A represenação deses dados é feia com a noação x jk para indicar um valor paricular da j-ésima unidade amosral ou experimenal e da k-ésima variável mensurada. Conseqüene, esas medidas de p variáveis em n unidades amosrais ou experimenais, podem ser represenadas conforme o arranjo apresenado na Tabela.. Tabela.. Represenação de dados aravés da noação x jk para indicar um valor paricular da k-ésima variável mensurada na j-ésima unidade amosral ou experimenal. Variáveis Unidades amosrais ou experimenais... k... p X X... X k... X p X X... X k... X p j X j X j... X jk... X jp n X n X n... X nk... X np

12 Ferreira, D.F. Esaísica mulivariada 7 Eses valores, apresenados na Tabela., podem ser represenados em um arranjo reangular, denominado de X, com n linhas e p colunas, da seguine forma: X x x x k x p x x xk x p = x j xj xjk xjp x n xn xnk xnp Exemplo. Uma seleção de 4 firmas de ração de Minas Gerais foi obida para avaliar a venda de rações. Cada observação bivariada forneceu a quanidade de sacos de ração vendidos e a quanidade de reais de cada venda. Os dados obidos na forma abular são: Variável (Reais/venda) Variável (número de sacos de ração vendidos) Usando a noação proposa aneriormene, em-se: X =80 X =0 X 3 =90 X 4 =0 X =0 X = X 3 =6 X 4 =8 E a mariz X dos dados é:

13 . Aspecos da análise mulivariada 8 X = A organização dos dados em arranjos facilia a exposição e permie que os cálculos sejam efeuados de uma forma ordenada e eficiene. Os ganhos na eficiência são: () descrição dos cálculos como operações com marizes e veores; e () sua fácil implemenação em compuadores. ESTATÍSTICAS DESCRITIVAS Grandes conjunos de dados possuem um sério obsáculo para qualquer enaiva de exração de informações visuais perinenes aos mesmos. muias das informações conidas nos dados podem ser obidas por cálculo de ceros números, conhecidos como esaísicas descriivas. Por exemplo, a média ariméica ou média amosral, é uma esaísica descriiva que fornece informação de posição, iso é, represena um valor cenral para o conjuno de dados. Como um ouro exemplo, a média das disâncias ao quadrado de cada dado em relação à média, fornece uma medida de dispersão, ou variabilidade. Às esaísicas descriivas que mensuram posição, variação e associação linear são enfaizadas. As descrições formais desas medidas esão apresenadas a seguir. A média amosral, simbolizada por X, é dada por:

14 Ferreira, D.F. Esaísica mulivariada 9 X k n n j = = X k=,,..., p (.) jk Uma medida de variação é fornecida pela variância amosral, definida para as n observações de i-ésima variável por: S = S = X X ( ) k kk n jk k n j = k =,,..., p (.) A raiz quadrada da variância amosral, S kk, é conhecida como desvio padrão amosral. Esa medida de variação esá na mesma unidade de medida das observações. Uma medida de associação enre as observações de duas variáveis, variáveis k e k, é dada pela covariância amosral: S = ( X X )( X X ) k, k =,,..., p (.3) kk ' ' ' n jk k jk k n j= Se grandes valores de uma variável são observados em conjuno com grandes valores da oura variável, e os pequenos valores ambém ocorrem junos, S kk será posiiva. Se grandes valores de uma variável ocorrem com pequenos valores da oura, S kk será negaiva. Se não há associação enre os

15 . Aspecos da análise mulivariada 0 valores das duas variáveis, S kk será aproximadamene zero. Quando k=k, a covariância reduz-se a variância amosral. Além disso, S kk = S k k, para odo k e k. A úlima esaísica descriiva a ser considerada aqui é o coeficiene de correlação amosral. Esa medida de associação linear enre duas variáveis não depende da unidade de mensuração. O coeficiene de correlação amosral para k-ésima e k -ésima variável, é definido por: r S S kk kk ' kk ' = = S k ' k ' n n j= ( X jk Xk )( X jk ' Xk ') n ( X jk Xk ) ( X jk ' Xk ') j= j= (.4) Verifica-se que r kk =r k k para odo k e k. O coeficiene de correlação amosral é a versão esandardizada da covariância amosral, onde o produo das raízes das variâncias das amosras fornece a esandardização. O coeficiene de correlação amosral pode ser considerado como uma covariância amosral. Suponha que os valores X jk e X jk sejam subsiuídos pelos valores padronizados, ( X jk Xk ) ( X jk ' Xk ') S e kk S k' k'. Esses valores padronizados são expressos sem escalas de medidas (adimensionais), pois são cenrados em zero e expressos em unidades de desvio padrão. O coeficiene de correlação amosral é jusamene a covariância amosral das observações esandardizadas. A correlação amosral (r), em resumo, em as seguines propriedades:

16 Ferreira, D.F. Esaísica mulivariada. Os valores de r devem ficar compreendidos enre - e ;. Se r = 0, implica em inexisência de associação linear enre as variáveis. Por ouro lado, o sinal de r, indica a direção da associação: se r < 0 há uma endência de um dos valores do par ser maior que sua média, quando o ouro for menor do que a sua média, e r > 0 indica que quando um valor do par for grande o ouro ambém o será, além de ambos valores ender a serem pequenos junos; 3. Os valores de r kk não se aleram com a aleração da escala de uma das variáveis. As esaísicas S kk e r kk, em geral, não necessariamene refleem odo o conhecimeno de associação enre duas variáveis. Associações não lineares exisem, as quais, não podem ser reveladas por esas esaísicas descriivas. Por ouro lado, esas esaísicas são muio sensíveis a observações discrepanes (ouliers). Além desas, ouras esaísicas como a soma de quadrados de desvios em relação à média (W kk ) e a soma de produos de desvios (W kk ), são muias vezes de ineresse. Essas esão apresenadas a seguir:

17 . Aspecos da análise mulivariada W = n kk X jk X k j= ( ) ' = n kk jk k jk ' k ' j= W ( X X )( X X ) As esaísicas descriivas mulivariadas calculadas de n observações em p variáveis podem ser organizadas em arranjos. Médias da amosra X X X X p = Mariz de covariância amosral S S S S S S S = S S S p p p p pp

18 Ferreira, D.F. Esaísica mulivariada 3 Mariz de correlações amosral r r p r rp R = rp r p Exemplo. Considerando os dados inroduzidos no exemplo., enconrar as o veor de médias X e as marizes S e R. Nese exemplo, cada firma de ração, represena uma das observações mulivariadas, com p = variáveis (valor da venda em reais e número de sacos de rações vendidas). As médias amosral são: 4 j 4 j= 4 X = X = ( ) = 00 4 j 4 j= 4 X = X = ( ) = 9 X X 00 9 X = = A mariz de covariância amosral é:

19 . Aspecos da análise mulivariada 4 S =[(80-00) +(0-00) +(90-00) +(0-00) ]/3 = 333,333 S =[(0-9) +(-9) +(6-9) +(8-9) ]/3 = 6,667 S =[(80-00)(0-9)+(0-00)(-9)+(90-00) (6-9)+(0-00)(8-9)]/3 = 0,000 S =S =0,000, e S = 333, 333 0, 000 0, 000 6, 667 A correlação amosral é: 0 r = =0, , 333 6, 667 r =r =0,443 Porano,,0000 0,443 R = 0,443,0000

20 Ferreira, D.F. Esaísica mulivariada 5.4. Disâncias A maioria das écnicas mulivariadas é baseada no simples conceio de disância, por mais formidável que isso possa parecer. O conceio de disância euclidiana deve ser familiar para a maioria dos esudanes. Se for considerado um pono P=(x, x ) no plano caresiano, a disância dese pono P da origem O=(0, 0), definida por d(o,p), é dada pelo eorema de Piágoras por: dop (, )= x + x (.5) Esa siuação é ilusrada na Figura.. Em geral, se o pono P em p coordenadas, de al forma que P=(x, x,... x p ), a disância de P da origem O=(0, 0,..., 0), pode ser generalizada por: dop (, ) = x + x x p (.6)

21 . Aspecos da análise mulivariada 6 P d(o, P) X X Figura.. Disância enre um pono P=(x, x ) e a origem O=(0, 0), fornecida pelo eorema de Piágoras. Todos os ponos (x, x,.., x p ) que coném uma disância ao quadrado, denominada c, da origem, saisfaz a equação: d ( O, P) = x + x x = c (.7) p A expressão em (.7) represena a equação de uma hiperesfera (um círculo se p = ), e os ponos eqüidisanes da origem por uma disância d(o, P) perencem a essa hiperesfera. A disância de um pono P a um pono arbirário Q, com coordenadas P=(x, x,... x p ) e Q=(y, y,... y p ) é dada por: ( ) ( ) ( p p) dpq (, ) = x y + x y x y (.8)

22 Ferreira, D.F. Esaísica mulivariada 7 A disância euclidiana é insaisfaória para muias siuações esaísicas. Isso ocorre devido à conribuição de cada coordenada er o mesmo peso para o cálculo da disância. Quando esas coordenadas represenam medidas são provenienes de um processo que sofre fluuações aleaórias de diferenes magniudes é muias vezes desejável ponderar as coordenadas com grande variabilidade por menores pesos em relação àquelas com baixa variabilidade. Iso sugere o uso de uma nova medida de disância. Será apresenada a seguir uma disância que considera as diferenças de variação e a presença de correlação. Devido a escolha de a disância depender das variâncias e das covariâncias amosrais, a parir dese insane, será uilizado o ermo disância esaísica para disinguir de disância euclidiana. A princípio, será considerada a consrução de uma disância enre um pono P, com p coordenadas, da origem. O argumeno que pode ser usado refere-se ao fao de que as coordenadas de P podem variar no espaço produzindo diferenes posições para os ponos. Para ilusrar, suponha que se enha n pares de medidas em duas variáveis (x e x ) e que as medidas de x variam independenemene das mensurações em x. O significado de independene nese pono pode ser dado pelo fao de que os valores de x não podem ser predios com nenhuma acurácia a parir dos valores de x e vice-versa. Em adição, é assumido que as observações de x possuem maior variabilidade que as de x. Uma ilusração desa siuação esá apresenada na Figura..

23 . Aspecos da análise mulivariada 8 X Figura.. Diagrama de dispersão, mosrando a maior variabilidade na direção de x do que na direção de x. Observando a Figura., verifica-se que não é surpreendene enconrar desvios na direção de x que se afasem da origem consideravelmene, o que não ocorre na direção de x. Parece ser razoável, enão, ponderar x com mais peso do que x para um mesmo valor, quando as disâncias da origem forem calculadas.

24 Ferreira, D.F. Esaísica mulivariada 9 Um modo de fazer isso é dividir cada coordenada pelo desvio padrão * amosral. Após a divisão, êm-se as coordenadas esandardizadas x x s = e * =. Após eliminar as diferenças de variabilidade das variáveis x x s (coordenadas), deermina-se a disância usando a fórmula euclidiana padrão: * * x x dop (, ) = ( x ) + ( x ) = + S S (.9) Usando a equação (.9) odos os ponos endo como coordenadas (x, x ) e com disância quadrada (c ) da origem devem saisfazer: x S x + = c (.0) S A expressão (.0) é a equação de uma elipse, cujos maiores e menores eixos coincidem com os eixos das coordenadas. A Figura.3 mosra o caso geral para p = coordenadas.

25 . Aspecos da análise mulivariada 0 X 0.5 cs 0.5 -cs O 0.5 cs X 0.5 -cs Figura.3. Elipse de uma disância esaísica quadráica d (O,P)= x S x + = c. S Exemplo.3 Um conjuno de pares (x, x ) de duas variáveis forneceu X = X =, S =9 e S =. Supõe-se que as observações de x são independenes de x. A disância quadráica de um pono arbirário (P) da origem, uma vez que as variâncias da amosra não são iguais, é dada por: d x x ( O, P)= + 9

26 Ferreira, D.F. Esaísica mulivariada Todos os ponos (x, x ) que possuem disâncias quadrada da origem igual a, saisfazem a equação: x x + = (.) 9 As coordenadas de alguns ponos com disância quadráica uniária da origem foram apresenadas na Tabela.. Tabela.. Coordenadas de alguns ponos com disância quadráica uniária da origem. Coordenadas (x, x ) Disância ao quadrado ( 0, ) = ( 0,-) 0 ( ) 9 + = ( 3, 0) = (-3, 0) ( 3) = O gráfico da equação (.) é uma elipse cenrada na origem (0,0), cujo maior eixo é o da direção de x e o menor da direção de x. A meade do maior eixo (semi-eixo maior) é c S = 3 e do menor c S =. A elipse de disância quadráica uniária foi ploada na Figura.4.

27 . Aspecos da análise mulivariada 5 4 x x Figura.4. Elipse de disância uniária quadráica da origem obida a parir da equação.. A expressão (.9) pode ser generalizada para o cálculo da disância enre ponos P e Q, cujas coordenadas variam, muuamene independenemene uma da oura. O caso mais geral, em que a hipóese de independência não é saisfeia, será abordado fuuramene. dpq (, ) = ( x y ) ( x y ) ( xp yp) (.) S S S pp

28 Ferreira, D.F. Esaísica mulivariada 3 Todos os ponos (P) siuados a uma disância quadráica consane de Q, perencem a uma hiperelipsóide cenrada em Q, cujos maiores e menores eixos são paralelos aos eixos das coordenadas. O programa SAS, apresenado a seguir, coném os códigos necessários para a obenção das principais esaísicas descriivas mulivariadas apresenadas nesse capíulo. O programa coném códigos mariciais e será abordado com mais dealhe nos próximos capíulos. Os dados do exemplo. são uilizados para a ilusração. Proc IML; X={ 80 0, 0, 90 6, 0 8}; Prin X; n=nrow(x);p=ncol(x); Xbar=x`*j(n,,)/n; Prin Xbar; q=i(n)-(/n)*j(n,n,); prin q; S=(/(n-))*X`*q*X; W=(n-)*S; prin S W; V=diag(S); Vroo=half(V); IVroo=inv(Vroo); R=Ivroo*S*Ivroo; Prin V Vroo IVroo; Prin R; Qui; Foi moivado nesse capíulo o esudo das análises mulivariadas e enou-se fornecer alguns rudimenares, mas imporanes, méodos de organizar e resumir os dados. Em adição, o conceio geral de disância foi apresenado, e será abordado e generalizado nos próximos capíulos.

29 . Aspecos da análise mulivariada 4.5. Exercícios Considere as amosras com 8 observações e 3 variáveis apresenadas a seguir: x x x a) Consrua o gráfico de dispersão dos ponos das variáveis x e x, x e x 3, x e x 3. Comene sobre sua aparência. b) Calcule: X, S e R e inerpree os valores em R. c) Calcule a disância euclidiana dada em (.8) de um pono P=( x, x, x 3 )=(5,, 8) em relação a origem e em relação a X. d) Calcule as mesmas disâncias do iem c, usando (.).

30 [ ] Álgebra veorial e maricial.. Inrodução É desejável que as p resposas mulivariadas sejam represenadas por uma noação concisa. Os dados mulivariados podem ser disposos convenienemene como um arranjo de números, como foi apresenado no capíulo. Em geral, um arranjo reangular deses números, com n linhas e p colunas, por exemplo, é chamada de mariz de dimensões n x p. Se por ouro lado, o arranjo consise em n mensurações em apenas variável, ou ainda, de uma observação mulivariada em p variáveis, esses arranjos são denominados de veores. Com esse arranjo bidimensional, não só, a noação fica mais concisa, mas os muios resulados maemáicos de álgebra veorial e maricial faciliam a derivação e exposição dos méodos esaísicos mulivariados. Nese maerial, os elemenos de álgebra veorial e maricial, serão considerados como conhecidos. Nesse capíulo, no enano, para os esudanes não familiarizados com o assuno, será apresenada uma breve revisão.

31 . Álgebra veorial e maricial 6.. Elemenos de álgebra veorial De um pono de visa geomérico, as observações mulivariadas, podem ser consideradas como ponos no espaço p-dimensional, cujas coordenadas são dadas por (x, x,..., x p ). Esse pono pode ser viso como o final de um segmeno de rea da origem (0, 0,..., 0) ao pono (x, x,..., x p ). Tal segmeno de rea é denominado de veor de posição e pode ser denoado simplesmene por X. O veor de posições é apenas um exemplo de veor, para os quais pode ser elaborada a álgebra, baseada nos seguines posulados. POSTULADOS. Para qualquer veor X dado um número escalar c, a muliplicação do escalar pelo veor, resula em ouro veor Y, definido por: Y = c X c será considerado um número real;. A adição de dois veores conduz a um único veor definido como:

32 Ferreira, D.F. Esaísica mulivariada 7 Z = X + Y 3. A adição de veores é: Comuaiva: X + Y = Y + X Associaiva: X + ( Y+ Z) = ( ) X+ Y + Z 4. Se 0 é o veor nulo, enão: X + 0 = X 0. X = 0 COMPRIMENTO, ÂNGULO E DISTÂNCIA Inicialmene, é definido produo inerno enre dois veores, que represena a soma de produos de pares de coordenadas correspondenes. Para dois veores (n x ) de posição X e Y, o produo inerno será o escalar, dado por: n X.Y = x y = x y + x y + + x y i= i i n n

33 . Álgebra veorial e maricial 8 É fácil verificar que X.Y = Y.X. Por meio, do produo inerno é possível generalizar o eorema de Piágoras para o espaço euclidiano n-dimensional: n = = i = n = i= X X.X x x x x d (P,O) (.) em que P, é o pono do espaço n-dimensional, definido pelas coordenadas do veor X. A expressão (.) é o comprimeno ao quadrado do veor X. A expressão enre módulo X indica a norma de X. Dessa forma o comprimeno do veor é definido por: X = X.X (.) O ângulo θ enre dois veores ( X e Y ) pode ser expresso em função do produo inerno e do comprimeno dos veores, obido aravés da lei dos cosenos, por: Cos ( ) θ = X.Y X.X Y.Y (.3) As disâncias apresenadas no capíulo, enre os ponos coordenados dos veores X e Y, podem ser expressos agora como o

34 Ferreira, D.F. Esaísica mulivariada 9 comprimeno do veor diferença das coordenadas de X e Y. A disância enre X e Y é: d(x,y) = X Y = (X Y).(X Y) (.4) Além de ser não negaiva, essa disância enre os dois veores é independene da direção das medidas e saisfaz a desigualdade riangular: d( X, Y ) d( X, Z ) + d( Y, Z ) (.5) Derivada a parir da desigualdade de Cauchy-Schwars: a.b a.b (.6) O que implica, no fao, que o valor do co-seno do ângulo enre a e b não pode exceder a unidade. ORTOGONALIDADE Dois veores não nulos são denominados orogonais, se o co-seno do ângulo enre eles for zero. Iso indica que:

35 . Álgebra veorial e maricial 30 X.Y = 0 (.7) Muias vezes é desejável (em sisemas de equações lineares) consruir uma base oronormal de veores, iso é, cada veor da base possui comprimeno uniário ( X.X = ) ( X.X i j = 0,i j) i i e cada par de veor da base são orogonais. Para um conjuno de veores arbirários pode-se empregar a consrução de Gram-Schimid. O algorimo esá apresenado a seguir, considerando o conjuno X, X,..., Xn de veores: Passo : normalize X: X X = ; X.X 0 X.X Passo : Oronormalize X calculando o produo inerno enre X * e X, e subraindo de X os componenes de * X : Orogonalizando X e X : ( ) X X X.X X * * = Enão, normalizando-se X :

36 Ferreira, D.F. Esaísica mulivariada 3 * X X ; X.X 0 = X.X Passo 3: Calcule o produo inerno de X 3 com X * e X *, e subraia de X 3 os componenes de * X e * X, ( ) ( ) X = X X.X X X.X X * * * * X Enão, normalizando-se 3 : * X3 X 3; X 3.X3 0 = X 3.X 3 E assim por diane, aé o n-ésimo eságio, quando odos os veores enrarem na consrução. Se o i-ésimo veor for linearmene dependene dos veores aneriores, enão X i será igual ao veor nulo, X i = 0, devendo ser eliminado do conjuno e o processo deve coninuar com o veor X i +. O número de veores não nulos remanescenes no conjuno, consiuem a dimensão do espaço veorial original.

37 . Álgebra veorial e maricial 3 Exemplo. Dado o conjuno de veores, a seguir, uilizar como ilusração a consrução de Gram-Schimid. 0 0 X = 0 0 Os veores de X são dados por: X = [ X X X3 ] Passo. Normalize X: X * = Passo : Oronormalize X : Produo inerno: X. X = *

38 Ferreira, D.F. Esaísica mulivariada 33 orogonalização: X =. = 0 0 Normalização: * X =. = Passo 3: Oronormalização de X3 Produo inerno: * X.X 3 = e * X.X 3 = orogonalização: X3 =. ( ). = = 0 0 Verifica-se nese passo que X 3 é linearmene dependene dos veores X e X, e deve ser eliminado da base veorial. É fácil verificar que X = X X 3. Agrupando os veores linearmene independenes oronormalizados obém-se a base veorial de Gram-Schimid.

39 . Álgebra veorial e maricial 34 X = Pode ser observar facilmene que o produo inerno dos veores em X, é igual a zero. Um imporane ipo de mariz inversa, denominado de inversa de Moore- Penrose, é obido de uma base oronormal das colunas de uma mariz para a qual se deseja ober a inversa generalizada de Moore-Penrose. Seja A uma mariz de dimensão qualquer nxp e seja U a base oronormal de veores obida da oronormalização das colunas de A, enão, defini-se T por: T=U A Logo, a inversa generalizada de Moore-Penrose (A + ) é definida por: A + = T (TT ) - U..3. Elemenos de álgebra maricial Na álgebra maricial as relações e operações são definidas aravés de operações em arranjos reangulares dos elemenos, denominados de marizes. Um exemplo de mariz é:

40 Ferreira, D.F. Esaísica mulivariada 35 A a a a a a a p p = n x p a a a n n np O número de linhas de uma mariz é denominado de ordem de linha e o número de colunas, ordem de colunas. Se o número de linhas é n e o número de colunas é p, diz-se que a mariz possui ordem n x p. Pode-se represenar a mariz por: A=[a ij ] i=,,..., n j=,,..., p (.8) Nas análises mulivariadas, muias vezes, será feio referências a mariz de dados, a qual consise de p resposas de n observações ou unidades experimenais, e erá ordem nxp. POSTULADOS. Igualdade: Duas marizes necessariamene com o mesmo número de linhas e colunas são iguais, se e somene se os elemenos correspondenes, forem iguais: A=B a ij =b ij i=,,..., n e j=,,..., p

41 . Álgebra veorial e maricial 36. Adição: A soma de duas marizes de mesma ordem é obida pela soma dos elemenos correspondenes: A+B = [ a ij ] + [b ij ] = [a ij + b ij ] A adição com mariz nula 0, conendo elemenos iguais a zero é: na p + n 0 p = n A p 3. Muliplicação por escalar: o produo de um escalar e uma mariz é obido pela muliplicação de cada elemeno da mariz pelo número escalar: ca = c[ a ij ] = [ ca ij ] 4. Muliplicação de mariz: a muliplicação de marizes é definida para aquelas em que a ordem coluna do faor que pré muliplica é igual a ordem linha do faor que pós muliplica. Tais marizes são denominadas conformáveis para muliplicação. O elemeno (i, k) da mariz resulane do produo é a soma dos produos dos elemenos correspondenes, da i-ésima linha do faor que pré muliplica com os da k-ésima coluna do faor que pós muliplica. na q q B p = AB = q ab ij jk = [a i b k + a i b k a iq b qk ] = [c ik ] = C j=

42 Ferreira, D.F. Esaísica mulivariada 37 Em geral AB BA. A mariz quadrada com unidades na diagonal e zero nas demais pares é denominada de mariz uniária ou idenidade: Ι= 0 0 Verifica-se que: na p p Ι p = n A p nι n n A p = n A p A mariz quadrada cujos elemenos fora da diagonal principal são iguais a zero é denominada mariz diagonal: D = diag[d, d,..., d n ] = d d dn

43 . Álgebra veorial e maricial 38 A pré-muliplicação por uma mariz diagonal, simplesmene re-escala as linhas do faor que pós muliplica, e a pós-muliplicação re-escala as colunas do pré-faor. 5. Inversão de mariz: a inversa de uma mariz quadrada A, nxn, é chamada de A - e é definida de al forma que A A - = A - A = Ι. A inversa de um produo de marizes é o produo do inverso dos faores em ordem inversa a ordem de muliplicação original: (AB) - = B - A - Pois, B - A - AB = B - B = Ι e AB B - A - = AA - = Ι 6. Mariz ransposa: uma mariz obida pela roca de linhas por colunas a parir de uma mariz específica é denominada de mariz ransposa. É denoada por A. na P = [a ij ], enão, p A n = [a ij ] = [a ji ] (A + B) = A + B (AB) = B A

44 Ferreira, D.F. Esaísica mulivariada 39 (A - ) = (A ) - 7. Marizes paricionadas: deixe as r linhas de uma mariz A (mxn) ser paricionada das resanes s=m-r linhas, e as p colunas paricionadas das remanescenes q = n - p colunas. Enão, A pode ser represenada por submarizes, como a seguir: A A A r A A s p q = Seja B uma mariz paricionada de forma similar e sejam A e B ais que suas parições sejam conformáveis para adição, logo, A B A + B A + B r A B A B s p q + = + + Suponha agora que B seja paricionada em p e q linhas e em e u colunas. Enão, é possível verificar que:

45 . Álgebra veorial e maricial 40 AB r A A B B p q p q u = s A A B B A B + A B A B + A B r A B A B A B A B s u = + + Ainda é possível verificar que: ( ) ( ) p A B p A + A B D CA B CA A B D CA B q C D = q ( D CA B) CA ( D CA B) p q p q Méodo práico para cálculo de marizes inversas As roinas para compuadores usualmene fazem uso da versão compaca do méodo de Gauss, denominado de méodo de Gauss-Jordan (Householder, 953, 964). Os cálculos do méodo de Gauss-Jordan são recursivos, sendo que os elemenos da mariz no eságio i+ são rocados pelos resulados da chamada operação pivoane dos elemenos do eságio i, por: () i () i a ( ) ( ) kj a i+ i j k k () i a jj a = a k e j

46 Ferreira, D.F. Esaísica mulivariada 4 a + a = () i ( i ) j j () i a jj j a ( i+ ) akj = k j a () i kj () i jj a ( i+ ) jj = a () i jj O elemeno a é chamado de pivô, e sua linha e coluna são () i jj chamados de linha e coluna pivoais. Após n operações pivoanes, a mariz original é subsiuída pela sua inversa, garanindo-se que cada linha e coluna seja pivoada somene uma vez. Exemplo. Use o algorimo de Gauss-jordan para inverer a mariz A (x) a seguir: ( ) 4 A 0 = Passo. Um bom compromisso com a precisão é pivoar a linha e coluna cujo elemeno da diagonal seja o maior de odos os não pivoados. Assim o

47 . Álgebra veorial e maricial 4 elemeno escolhido para pivô é o elemeno a =4. A mariz após a primeira ação pivoane é: A () = = 4 4 Passo. Nese passo, a única coluna ou linha não pivoada é a. Porano o pivô é a =, e a mariz resulane da operação pivoane é: A ( ) ( ) 4 = = = Ao final da operação pivoane, a mariz resulane, A (), é a mariz inversa de A. Marizes orogonais Classes especiais de marizes, que serão uilizadas roineiramene nas écnicas mulivariadas, são denominadas de marizes orogonais, sendo simbolizadas em geral por Q e caracerizada por:

48 Ferreira, D.F. Esaísica mulivariada 43 Q Q = QQ = Ι ou Q = Q - O nome deriva da propriedade de que se Q em i-ésima linha q i, enão, se QQ = Ι implica que qq i i = e qq i j = 0 para i j, sendo que as linhas possuem amanho uniário e são muuamene orogonais (perpendiculares). De acordo com a condição de que Q Q = Ι, as colunas êm a mesma propriedade. Exemplo.3 Dado a mariz Q, a seguir, verifique sua orogonalidade: Q = A ransposa de Q é dada por: Q = enão, QQ 0 0 = = 0 = 0

49 . Álgebra veorial e maricial 44 e, QQ 0 0 = = 0 = 0 sendo, Q Q = QQ = Ι ou Q = Q -, verificou-se que Q é orogonal. Deerminanes Uma função escalar imporane de uma mariz A quadrada nxn, é o deerminane da mesma. O deerminane da mariz A é simbolizado por A e é definido por: A = a se n = n j= ij ij ( ) i + j A = a A se n > (.9) em que A ij é a mariz quadrada (n-)x(n-) obida deleando-se a i-ésima linha e a j-ésima coluna de A, para qualquer escolha arbirária de i=,,..., n. Exemplo.4 Para ilusrar a definição (.9), serão consideradas as seguines marizes:

50 Ferreira, D.F. Esaísica mulivariada 45 A = 4; 4 4 A = [4] B= C 0 = 0 3 B = 4 ( ) + ( ) = 4.. = 7 ; 0 0 C = 4 ( ) + ( ) + ( ) = [ ( ) 0 0 ( ) ] ( ) [ ( ) 0 ( ) ] ( ) + + = = 3 4 [ 0 ( ) ( ) ] ( ) C = 0 Propriedades dos deerminanes. A = A ;. Se uma linha ou coluna de A for muliplicada por uma consane k, o deerminane ficará muliplicado pela consane; 3. Se A é muliplicada por uma consane k, o deerminane resulane ficará muliplicado por k n ;

51 . Álgebra veorial e maricial 46 n ka = k A 4. Se duas linhas ou duas colunas são rocadas de posição, enão o deerminane muda de sinal; 5. Se duas linhas ou duas colunas são proporcionais, enão o deerminane de A será igual a zero; 6. O deerminane obido deleando a i-ésima linha e j-ésima coluna de A é denominado menor de A, e denoado por A ij. A relação enre A e A ij foi apresenada na definição de deerminane (.9); 7. A = = A ; A 8. AB = A B. Deerminane e poso (rank) Se A 0, enão, A é denominada de poso compleo, ou como é mais comum dizer, A é não-singular e A - exise. Uma condição necessária e suficiene para a exisência da inversa de A é que A 0.

52 Ferreira, D.F. Esaísica mulivariada 47 Teorema da muliplicação n x n dadas por: Seja a mariz A de ordem n x n, paricionada em sub-marizes B C n A = D E n n n Supõe-se que o deerminane de A é não nulo, e se necessário for, linhas e colunas correspondenes de A devem ser rocadas para assegurar que B seja não-singular. Como o número de rocas de linhas e colunas é necessariamene par, o valor de A não se alera. Considere marizes elemenares, com deerminane, dadas por: Ι DB 0 Ι e Ι 0 B C Ι o resulado é: Se A for pré e pós-muliplicada, respecivamene, por essas marizes

53 . Álgebra veorial e maricial 48 Ι 0 B C Ι B C DB D E Ι 0 Ι B C B 0 Ι B C = = 0 DB C+ E 0 0 E DB C Ι Enão, A foi reduzida para sua forma quase-diagonal ou bloco diagonal. Seja uma mariz V (n x n) paricionada da seguine forma: V V 0 n 0 V n n n = enão, o deerminane de v é dado por: V = V V Aplicando essa regra a A ransformada pela pré e pós-muliplicação por marizes elemenares, cujo deerminane é igual a, o que não alera o valor de A, em-se: B 0 = = 0 E DB C A B E DB C Observe que se A for quasi-riangular, ou seja, riangular por blocos, o deerminane é o produo dos deerminanes de suas sub-marizes principais:

54 Ferreira, D.F. Esaísica mulivariada 49 B C BE 0 E = Agora é possível apresenar e provar o eorema da muliplicação. Se A e B são marizes quadradas n x n, enão, AB = A. B. Considere para isso a idenidade: I A A 0 0 AB 0 I = I B I B O produo do lado esquerdo da igualdade envolve operações elemenares que não afea o deerminane. Assim, o deerminane de ambos os lados é igualado e o resulado obido é: A 0 0 AB = I B I B Colocando o lado direio na forma quasi-riangular por meio de rocas nas úlimas n colunas o resulado obido é dado por: A 0 AB 0 = ( ) n I B B I

55 . Álgebra veorial e maricial 50 blocos, êm-se: Usando o resulado do deerminane de uma mariz riangular por n AB= ( ) AB I n n AB= ( ) ( ) AB n AB= ( ) AB AB = A B Infelizmene, não há eorema simples para a soma de marizes. Decorre desse eorema que: A A = I A A A = = = A A Derivadas de veores e marizes As derivadas de funções envolvendo veores e marizes são necessárias em inúmeras aplicações na mulivariada e em ouras áreas. Apesar de ser possível escrever essas mesmas funções em uma forma expandida e omar as derivadas elemeno a elemeno pelas regras de diferenciação escalar, é vanajoso definir regras que reenham veores e marizes na noação (Bock, 975).

56 Ferreira, D.F. Esaísica mulivariada 5 A seguir são apresenadas as principais regras de diferenciação veorial e maricial. Derivadas de marizes de funções em relação a variáveis escalares Seja A uma mariz m x n cujos elemenos são funções diferenciáveis com relação a uma variável escalar x. A derivada de A em relação a x é uma mariz m x n: A x a an x x = am a mn x x (.0) Seja A uma mariz m x n de funções diferenciáveis em x e B oura mariz p x q cujos elemenos, ambém, são diferenciáveis em x. Para cada caso abaixo, são adoadas dimensões ais que as operações mariciais sejam conformáveis. ( A+ B) A B = + ; m= p, n = q x x x (.) ( AB) B A = A + B; n = p x x x (.)

57 . Álgebra veorial e maricial 5 ( A ) A = A A ; m= n, A 0 x x (.3) j-ésima coluna, enão, Seja X uma mariz m x n com o elemeno x ij na i-ésima linha e X = x ij ij (.4) em que ij é uma mariz m x n com na i-ésima linha e j-ésima coluna e 0 nas demais posições. Se X for uma mariz diagonal n x n, logo, X = x ii ii (.5) Derivadas de uma função escalar de marizes em relação a um veor ou mariz variável Seja g uma função escalar qualquer de uma mariz X, que pode ser por exemplo o deerminane, o raço, enre ouras, enão, a diferenciação de g em relação a X é:

58 Ferreira, D.F. Esaísica mulivariada 53 g g x x n g = X g g xm x mn (.6) a) o raço O raço de uma mariz n x n é uma função que aparece com muia freqüência na esaísica mulivariada, o qual é a soma dos elemenos da diagonal principal dessa mariz: n r ( A) = a (.7) i= ii Para as marizes A, B e C de ordem m x n, p x q e r x s, respecivamene, o raço em as seguines propriedades: r ( A+ B) = r ( A) + r ( B), m = n = p = q (.8) r ( δ A) =δ r ( A), m = n (.9) r ( A ) = r ( A), m = n (.0) r ( AB) = r ( BA), m = q, n = p (.)

59 . Álgebra veorial e maricial 54 ( ) [ ] ( ) r ABC = r (AB)C = r CAB, m = s, n = p, q = r (.) Seja C uma mariz r x s de consanes e X uma mariz u x v de variáveis. As seguines direivas de derivação do raço de funções de C e X com relação aos elemenos de X, resulam em marizes de dimensão u x v: r ( C) = 0, r = s X (.3) r ( X) = I, r = s X (.4) r ( XC) = C, r= v, s= u X (.5) ( ) r XCX X ( ) = C+ C X, r = v = s = u (.6) Essas direivas de derivação são invarianes as permuações cíclicas sofridas por ransposição ou permuação dos faores de muliplicação de marizes. no enano, as derivadas com relação a ransposa de X resulam em ransposas das marizes aneriores de ordem v x u. Em paricular:

60 Ferreira, D.F. Esaísica mulivariada 55 r ( XC) = C, r= v, s= u X (.7) ( ) r XCX X ( ) X, r v s u = C + C = = = (.8) Para ober derivadas de funções elemenares das marizes algumas direivas ambém são definidas. Sejam os elemenos de A e B funções de X, e seja C uma mariz de consanes. Enão, r ( A+ B) r ( A) r ( B ) = +, m = n = p = q X X X (.9) r ( AB) r ( AB) r ( AB ) = +, m = q,n = p X X X (.30) r ( A ) r ( A A ) =, m = n, A 0 X X (.3) ( ) r ( ) r A C = A CA A, m = n = r = s, A 0 X X (.3) A barra acima das marizes aneriores em (.9) a (.3) indica que essas são consideradas consanes para fins de diferenciação.

61 . Álgebra veorial e maricial 56 b) deerminane X = adj ( ) ( X = X X ), u = v, X 0 X (.33) ln X X adj( ) = X = ( X ), u = v, X 0 X (.34) Resrições da variável de diferenciação Alguns problemas esão sujeios a maximização ou minimização com relação a uma variável que por sua vez esá sujeia a resrições. Os casos especiais são àqueles em que X é simérica. Logo X=X e os elemenos fora da diagonal são sujeios a: x ij = x ji i<j (.35) Uma abordagem apropriada para o problema é impor resrições por meio de muliplicadores de Lagrange. Para aplicar esse méodo, deve-se diferenciar com relação a x não resria a expressão da forma: g+ r[ U( X X )]

62 Ferreira, D.F. Esaísica mulivariada 57 em que g é uma função escalar de X, U a n x n mariz de muliplicadores de Lagrange. Logo, X deve saisfazer: g + ( U U ) = 0 X (.36) Como ambém g g + ( U U) = ( U U) = 0 X X (.37) Somando essas expressões obém-se a condição para o exremo resrio: g g + = 0 X X (.38) Ouro caso imporane de mariz X resria é: se X é uma mariz diagonal n x n e Y uma mariz função de X, enão, r(y) r(y) r(y) r(y) = Diag X x x x (.39) nn E se X = x Ι, enão,

63 . Álgebra veorial e maricial 58 r(y) r(y) = X x (.40) Regra da cadeia para funções escalares de marizes Seja g uma função escalar de A diferenciável com relação aos elemenos de A, e deixe os elemenos de A ser função diferenciável de x. Enão, g g A r = x A x (.4) Por exemplo, para A 0, g=ln A de (.34) em-se: g ln A ln A A A = = r = r ( A ) x x A x x (.4) derivada de uma função de um veor com relação a um veor Seja um veor z m x, cujos elemenos são diferenciáveis pelos elemenos x n do veor x = [ x x x ] n. A derivada de Z em relação a x é a mariz m x n:

64 Ferreira, D.F. Esaísica mulivariada 59 z z i =,,..., m = x x j j =,,..., n ij (.43) simérica, Por exemplo, de (.6) em-se a primeira derivada de xax, sendo A ( ) xax r xax = = Ax x x (.44) De (.43), a segunda derivada é represenada em forma maricial por: ( xax x) xax Ax A = = = x x x x (.45) Formas quadráicas Definindo A como uma mariz simérica não nula (nxn), e o veor x = [X X X n] a expressão: n n n ii i ij i j i= i= j= i+ Q= x A x = a X + a XX

65 . Álgebra veorial e maricial 60 é dia forma quadráica, pois só coném ermos quadrados ( ) ( i j) xx. x e de produos i Exemplo.5 Obenha a expansão da forma quadráica, dado o veor x e a mariz A, a seguir: [ ] x x x A 4 = = 4 x x Q = [ x x] [ 4x x x x] = + + x x Q = 4x + x x + x Assumindo, para o momeno, que p elemenos x, x,..., x p, de um veor x são realizações de p variáveis aleaórias X, X,..., X p pode-se considerá-los como coordenadas de um pono no espaço p-dimensional. A disância desse pono [x x x p] da origem pode e deve, nesse caso, ser inerpreada em ermos de unidades de desvio padrão. Desse modo, pode-se considerar a incereza inerene (variabilidade) às observações. Ponos com a mesma incereza associada são considerados de mesma disância da origem. Inroduzindo agora uma fórmula geral de disância mais apropriada êm-se:

66 Ferreira, D.F. Esaísica mulivariada 6 n n n ( 0,P) = ii i + ij i j i= i= j= i+ (.46) d a x a x x e garanindo que d > 0 para odo pono P 0, e fazendo a ij =a ji, êm-se: a a a p x a a ap 0< d = x Ax = x x p p x ap a p app (.47) Verifica-se que (.47) é uma forma quadráica, o que permie que a inerpree como uma disância. A deerminação, dos coeficienes da mariz A de (.47) será apresenada oporunamene. Classificação de formas quadráicas As formas quadráicas podem ser classificadas, quano aos resulados que produzem. Nesa seção, o ineresse residirá nas formas quadráicas não negaivas e nas marizes associadas (denominadas posiivas definidas). Uma condição necessária e suficiene para que A seja posiiva definida (pd) é que esa possa ser faorada por:

67 . Álgebra veorial e maricial 6 A = S S n n n n n n e que o poso de S seja n, em que S é uma mariz riangular, denominada faor de Cholesky de A (Bock, 975). Porano, se uma mariz admie o faor de Cholesky, ela é posiiva definida. Q = x Ax = x (SS )x = (S x) (S x) = z z = Z + Z + + Z n Devido a S er poso coluna compleo, não exise x não nulo, al que z= S x = 0. Porano, a forma quadráica Q é sempre posiiva, como foi afirmado. Se por ouro lado, o poso de S for r n, enão o poso de A será r, e a forma quadráica Q = x'ax 0, é denominada posiiva semidefinida (psd). Isso se deve ao fao de que para algum veor x 0, a igualdade Q = 0, aconece. O algorimo para obenção do faor de Cholesky de uma mariz pd, esá apresenado a seguir. Algorimo para obenção do faor de Cholesky de uma mariz posiiva definida. Dada uma mariz A (nxn), com elemenos a ij.

68 Ferreira, D.F. Esaísica mulivariada 63. Obenção da ransposa do faor de Cholesky S, é dada pelo algorimo abaixo, sendo que os elemenos desa mariz não conemplados pelo méodo devem ser considerados iguais a zero: a linha: j S = a Sj = j> S a i-ésima linha: S = a i S ii ii ri r= S = a i SS ij ij ri rj Sii r= i j> i 3. A obenção de S -, inversa de S, com elemenos S ij, é dada por: S = S = S S i > j i ii ij rj ri Sii Sii r= = ij para i < j S 0 4. A obenção da A -, inversa de A, com elemenos a ij, em que a ij =a ji, é dada por:

69 . Álgebra veorial e maricial 64 n n ( ) ii ri ij ri rj a = S a = S S i> j r= i r= i Exemplo.6 Obenha o faor de Cholesky (S), sua inversa (S - ) e a mariz inversa (A - ), a parir da mariz A, apresenada a seguir: 4 0 A = 0 Obenção de S : Primeira linha: 0 S = 4 = ; S = = ; S3 = = 0 Segunda linha: S = = S3 = [ 0] = Terceira linha:

70 Ferreira, D.F. Esaísica mulivariada 65 ( ) S33 = 0 + = Logo, S = 0 e S= 0 A mariz S - é obida por: Linha : Linha : 3 S = ; S = S = 0 i< j S = = ; S = = ; S = 0 pois i < j linha 3: = = = + = = = S ; S 0 S ( )

71 . Álgebra veorial e maricial 66 logo, 0 0 = S 0 A mariz A - é obida por: Diagonal principal: a 3 = + + = 4 ( ) a = + = 33 a = = Demais elemenos: = + = = = = = = = = = = = a ( ) ; 3 3 a ; a ( ) ; a a ; a a ; a a

72 Ferreira, D.F. Esaísica mulivariada 67 Logo, 3 4 A = O faor de Cholesky S e sua inversa êm as seguines propriedades:. SS = A. S - S = S (S - ) = Ι 3. S - A = S 4. A(S - ) = S 5. (S - )A(S - ) = Ι 6. (S - ) (S - ) = A -

73 . Álgebra veorial e maricial 68 Maximização de formas quadráicas Na esaísica mulivariada e em ouras áreas aplicadas, é muias vezes necessária a maximização de uma forma quadráica. Devido à forma quadráica Q = x Ax poder ser feia arbirariamene grande omando-se os valores dos elemenos de x grandes, é necessário maximizar Q condicionada a alguma resrição no comprimeno de x. Uma conveniene alernaiva é omar uma solução normalizada de x, ou seja, uma solução al que x enha comprimeno uniário. Enão a maximização da forma quadráica Q pode ser ransformada na maximização da razão: xax xx λ= para oda mariz A simérica real. Para a maximização deve-se omar a derivada em relação a x e igualar a zero, resolvendo o sisema obido, como demonsrado a seguir. usando a regra do quociene: Q x Ax x x = = Ax e = x x x x

74 Ferreira, D.F. Esaísica mulivariada 69 λ Ax(x x) (x Ax)x x Ax = A x = Ι x (x x) x x x x igualando a zero essa derivada e dividindo-a por ( x x), é obido o sisema homogêneo de equações: xax A Ι x = 0 xx Desde que xax xx = λ, enão para um pono esacionário qualquer i, ( ) A λι i xi = 0 (.48) Para que o sisema de equações em (.48) não possua apenas a solução rivial, A-λ i Ι não pode er poso compleo. Iso significa que seu deerminane deve ser zero: A-λ i Ι = 0 (.49) A equação polinomial em λ, resulado da expansão dos ermos a esquerda na equação (.49) aravés do uso da definição (.9), é chamada de equação caracerísica de A. A i-ésima raiz da equação (λ i ) é denominada de valor

75 . Álgebra veorial e maricial 70 caracerísico de A; xi é denominado veor caracerísico de A associado a λ i. Ouras erminologias podem ser empregadas, ais como, auovalores e auoveores, ou, valores e veores próprios, ou ainda, raiz e veor laene. Pares de formas quadráicas É de fundamenal imporância na análise mulivariada o problema de maximizar razão enre duas formas quadráicas: xax xbx λ= B 0 em que B é uma mariz pd. O máximo é dado da mesma forma que apresenado aneriormene, a parir da derivada em relação a x, igualando-a a zero, como apresenado a seguir: xbx xax x x Bx λ = Ax Bx = (A λ B)x = 0 (.50) ( x 0 ), se e somene se, O sisema homogêneo de equações (.50) erá solução não rivial A λ B = 0 (.5)

76 Ferreira, D.F. Esaísica mulivariada 7 Os auovalores (λ) de A em relação a B são denominados de valores próprios, raízes caracerísicas, e os auoveores de veores caracerísicos ou próprios. Desde que B seja pd, é possível faorá-la aravés do faor de Cholesky, por: B= S S B B Enão definindo-se z= SBx e usando as propriedades do faor de Cholesky em-se que = ( ) x SB z. Agora, se (.50) for pré muliplicada por S B e ( ) B x = S z for subsiuído na expressão, êm-se: ( B ) ( ) SBA λ SBB SB z= 0 SBA S λι z= 0 (.5) desde que S B( S ) B B =Ι A solução de (.5) é a mesma da obida pela maximização de uma forma quadráica, apresenada em (.48), exceo que = ( ) x SB Z deve ser recuperado, uma vez que Z é obido. Os auovalores, no enano, são invarianes à ransformação não-singular realizada.

77 . Álgebra veorial e maricial 7 Cálculo práico dos auovalores e auoveores Será apresenado aqui o méodo denominado Power mehod derivado por Hoelling (936). Esse méodo é apropriado para problemas em que somene r auovalores de maior magniude e os seus respecivos auoveores são necessários (r n). O méodo é ieraivo, dado um veor inicial arbirário v (0). O veor do eságio i será represenado por v (i) e o da próxima ieração será obido por: v = Av (i+ ) (i) Usualmene um veor de elemenos iguais a ± é usado como veor inicial. Os veores caracerísicos devem ser normalizados em cada eságio, para que o criério de convergência seja verificado. Quando uma aproximação desejada para λ e x sejam alcançados, o segundo auovalor e auoveor devem ser enconrados na mariz A, definida por: A = A λ x x (.53) E assim o processo é repeido aé que um número r n de pares de auovalores e auoveores sejam obidos.

78 Ferreira, D.F. Esaísica mulivariada 73 Exemplo.7 aplicar o power mehod e deerminar os auovalores e auoveores da mariz apresenada a seguir: 4 A =. Deerminação de λ e x O veor (0) v será considerado como: (0) v = Na avaliação da convergência, o auoveor em cada eságio será padronizado aravés da divisão pelo elemeno de maior valor do mesmo. (i) v () (0) 4 6 = Av = = 3 Normalizando () v : v () 6 6 = 3 = 6

79 . Álgebra veorial e maricial 74 Para avaliar a convergência, os veores v (0) e v () devem ser comparados. Será considerado, convergene se odos os elemenos de v () forem semelhanes aos (0) elemenos correspondenes de v, para uma precisão pré esipulada, ou seja, de x0-8. Nese caso, os veores diferem consideravelmene. (ii) v 4 5 = Av = =.5, normalizando () () v () = Comparando-se () v com () v, padronizados, verifica-se que são idênicos, indicando que o criério de convergência foi alcançado. O auoveor x é obido pela normalização de () v e o primeiro auovalor λ, por λ = x A x. () V 0,8944 x = = () () V V 0,447 0,8944 λ = x A x = [ 4,47,36] = 5 0,447. deerminação de λ e x A A x x = λ = 5 [ 0,8944 0,447] 4 0, = 0,

80 Ferreira, D.F. Esaísica mulivariada 75 Porano os demais auovalores e auoveores de A são nulos (λ =0 e x = 0 ). Os auovalores da mariz da forma quadráica podem servir para classificação das mesmas. Demonsra-se que se odos os auovalores da mariz A, dado Q = x Ax, forem posiivos e maiores que zero a mariz A é posiiva definida e a forma quadráica é posiiva. Se A possui auovalores posiivos e nulos a mariz será psd, e a forma quadráica poderá ser nula para um veor x 0. Os resulados apresenados aé agora, a respeio de formas quadráicas, são conseqüências da expansão de marizes siméricas em um processo denominado de decomposição especral. A decomposição especral de uma mariz A (nxn), simérica, é dada por: A=λ ee +λ e e + +λ e e n n n (.54) em que λ i (i=,,..., n) são os auovalores de A e e i são os auoveores normalizados associados. Exemplo.8 Considere a mariz simérica: 4 A = com os auovalores e auoveores normalizados, apresenados a seguir:

81 . Álgebra veorial e maricial 76 0,8507 0,557 λ = 5,36 e = λ = 0,7639 e = 0,557 0,8507 Obenha a decomposição especral de A. 3,7893,347,347,447 λ ee = 0, 0,346 0,346 0,558 λ ee = 4 3,7893,347 0, 0,346 = +,347, 447 0,346 0,558 A expressão da disância como raiz quadrada de uma forma quadráica posiiva definida permie que se obenha a inerpreação geomérica baseada nos auovalores e auoveores de uma mariz. Dada uma mariz A, pxp, e suponha que p=, os ponos x =[x, x ] de disância consane c da origem saisfazem a: xax= a X + a X + a XX = c pela decomposição especral de A, como no exemplo.8, em-se:

82 Ferreira, D.F. Esaísica mulivariada 77 A =λ ee +λee xax=λ Xe +λ Xe ( ) ( ) Fazendo y i =, obém-se: c =λ y +λ y que é uma elipse, pois λ i >0. Verifica- x ei se que x = cλ e xax= λ cλ ee = c saisfaz ( ) e x = cλ e fornece a apropriada disância na direção de e. Porano, os ponos de disância c perencem a uma elipse cujos eixos são dados pelos auoveores de A com amanhos proporcionais ao recíproco da raiz quadrada dos auovalores. A consane de proporcionalidade é c. A siuação é ilusrada na Figura.. Se p> os ponos perencem a uma hiperelipsóide de disância c consane da origem, cujos eixos são dados pelos auoveores de A. O semi eixo na direção i em comprimeno de c λ. i x e -0,5 cλ e -0,5 cλ x Figura.. Ponos de disância c consane da origem (λ < λ ).

83 . Álgebra veorial e maricial 78 Mariz raiz quadrada A parir da decomposição especral, é possível definir uma caegoria de mariz, em função dos auovalores e auoveores, denominada de mariz raiz quadrada. Sendo A (nxn), uma mariz com decomposição especral dada por n ieiei, pode-se consruir uma mariz P, cujas colunas são os auoveores i= A= λ normalizados de A, al que, P= [ e e e ] n auovalores de A, al que, Λ=diag[λ i ]. É fácil verificar que:, e uma mariz Λ diagonal, como os A= PΛP n A = PΛ P = ee (.55) i i i= λ i Definindo, Λ / como uma mariz diagonal com λ i como elemeno da i-ésima diagonal, enão, a mariz a seguir é definida como mariz raiz quadrada de A e é simbolizada por A /. n = λ i i i = Λ i= A ee P P (.56)

84 Ferreira, D.F. Esaísica mulivariada 79 As suas propriedades são:. (A / ) = A / (A / é simérica). A / A / =A 3. ( ) n = i i = Λ λi i= A ee P P 4. A / A -/ =A -/ A / =Ι e A -/ A -/ =A - em que A -/ = (A / ) - Exemplo.9 Obenha a mariz raiz quadrada e a inversa da mariz uilizada no exemplo (.8), usando as equações (.55) e (.56): 4 A = com auovalores e auoveores normalizados, apresenados a seguir:

85 . Álgebra veorial e maricial 80 0,8507 0,557 λ = 5,36 e = λ = 0,7639 e = 0,557 0,8507 As marizes P e Λ foram obidas pelos auovalores e auoveores, e esão apresenadas a seguir: 0,8507 0,557 5,36 0 P = 0,557 0,8507 Λ = 0 0,7639 5,36 0 0,8507 0,557 0,8507 0,557 A = PΛ P = 0,557 0, = 0,7639 0,557 0,8507 A = PΛ P = 0,8507 0,557 5,36 0 0,8507 0,557,8975 0,634 = 0,557 0,8507 = 0 0,7639 0,557 0,8507 0,634,649 A seguir, um programa SAS é apresenado conendo os principais comandos para a realização das várias operações mariciais e veoriais descrias nesse capíulo.

86 Ferreira, D.F. Esaísica mulivariada 8 /* Capiulo de mulivariada - principais operações mariciais descrias */ /* por meio do proc iml. Roinas de inversão, muliplicação, ransposição */ opions nodae nonumber ps=000 ls=76; proc iml; /* elemenos de algebra veorial*/ x={,,,}; x={,,0,0}; x3={0,0,,}; prin x x x3; y=4*x; z=x+x; prin y z; yz=y` * z; yy=y`*y; /*disancia quadraica*/ dy=sqr(yy); /* disancia da origem*/ zz=z`*z; dz=sqr(zz); cosea=yz/(dy*dz); prin yz yy zz dy dz cosea; /* elemenos de algebra maricial*/ x=x x x3;/* concaenando veores para ober uma mariz*/ xpx=x`*x; xx=xpx#xpx; /* produo de xpx elemeno a elemeno por xpx*/ prin x xpx xx; /*calculo da base oronormal de Gramshimid - a mariz p coném as colunas oronormalizadas de X*/ Call Gsorh(p,, lindep, X); prin lindep p ; /* calculo de auovalores e auoveores */ pu=eigvec(xpx); /* pu mariz de auoveores */ au=eigval(xpx); /* au veor de auovalores */ prin pu; prin au; a={4, }; /* mariz A*/ ainv=inv(a); /* inversa de A*/ dea=de(a); /* deerminane de A*/ prin a ainv dea; c={4, 0, 0 }; dec=de(c); prin c dec; /* faor de Cholesky A=S`S em que S e uma mariz riangular superior */ /* S e a ransposa do faor de Cholesky */ Sc=roo(c); /* mariz c e singular, porem o SAS calcula assim mesmo o faor de Cholesky */ /* pode-se observar que a ulima linha, da mariz Sc e nula devido a isso*/ Sa=roo(a); b={4 0,,0 }; prin b; sb=roo(b); prin Sc Sa sb; /*maximização de pares de formas quadráicas */ /* resolver (D - lg)e=0 */ D={4, }; G={7, 4}; prin D G; Sg=roo(G); /* ransposa do faor de Cholesky de G */ Sginv=inv(Sg); /* inversa da ransposa do faor de Cholesky de G */

87 . Álgebra veorial e maricial 8 prin Sg Sginv; II=Sginv`*G*Sginv; /* mosrar que é igual a idenidade */ prin ii; H=Sginv`*D*Sginv; /* operar D, e em seguida exrair auo valores e veores */ prin H; /* D ransformada */ zh=eigvec(h); /* zh mariz de auoveores */ auh=eigval(h); /* auh veor de auovalores */ xh=sginv*zh; /* mariz de auoveores recuperados */ ese=xh`*g*xh; prin ese;/*mosrar que resula na idenidade*/ prin xh; prin auh; /* obencao de mariz raiz quadrada - exemplificar com a mariz D */ aud=eigval(d); /* auovalores de D*/ lamb=diag(aud); /* diagonalizando aud e resulado em lamb */ prin lamb; lambs=roo(lamb); /* achando a raiz quadrada de lamb */ avd=eigvec(d); /* auoveores de D em avd */ Droo=avd*lambS*avd`; /* usando a definição para enconrar a mariz raiz quadrada de D */ prin Droo; DD=avd*lamb*avd`; /* checando propriedades */ prin DD; /* deve ser igual a D */ qui;.4. Exercícios.. Sejam os veores x =[3,, 4] e y' =[-,, ] (a) ploe os dois veores (b) enconre (i) o comprimeno de x, (ii) o ângulo enre x e y, e (iii) a disância enre x e y. (c) ploe os veores x x. e y y. ( x = 3 e y = ).

88 Ferreira, D.F. Esaísica mulivariada 83.. Dada a mariz X = (a) Oronormalize as colunas de X, usando a consrução de Gram-Schimid. (b) Deermine o veor (coluna de x) linearmene dependene. (c) Deermine o poso coluna de X, a parir da consrução de Gram-Schimid realizada em (a)..3. Dadas as marizes A = 0 B = (a) Obenha a inversa de A e de B, usando o algorimo de Gauss-Jordan. (b) Verifique usando o processo de Gauss-Jordan que (AB) - =B - A Verifique se a mariz

89 . Álgebra veorial e maricial 84 0,8507 0,557 P = 0,557 0,8507 é uma mariz orogonal..5. Seja 8 A = (a) Calcule o deerminane de A. (b) Com base em (a) a mariz A pode ser considerada posiiva definida? Porque? (c) Obenha o faor de Cholesky, e confirme a resposa dada em (b). (d) Deermine os auovalores e auoveores de A. (e) Obenha a decomposição especral de A. (f) Enconre A -.

90 Ferreira, D.F. Esaísica mulivariada 85 (g) Enconre os auovalores e auoveores de A -. Verifique que relação em como os valores enconrados em (d)..6. Considere as marizes 4 4,00 4 4,00 A = B 4,00 4,00 = 4,00 4,0000 As marizes são idênicas, exceo por pequenas diferenças no elemeno, a e b devida a arredondamenos. Mosre que A - = -3B - (pequenas mudanças, alvez devido a arredondamenos, podem causar subsanciais diferenças na inversa)..7. Verifique se a forma quadráica Q = x x x + 4x é posiiva definida. Sugesão: Verificar se Q = x Ax é posiiva, pode ser feia verificando se A é pd..8. Dada as marizes

91 . Álgebra veorial e maricial 86 4 A = B = (a) deermine os auovalores e auoveores que maximizam a razão xax xbx λ= B 0 Obs. O que é equivalene a resolver o sisema deerminanal dado por (.5) A λ B = 0. (b) Deermine a mariz raiz quadrada de A e de B..9. Dada a mariz de covariância amosral (S) 5 S = 4 (a) Deermine R, dada D /, definida por:

92 Ferreira, D.F. Esaísica mulivariada 87 D S S 0 = 0 0 S pp Sendo R = ( D ) ( ) S D (b) Verifique a relação S= ( D ) R ( D )

93 . Álgebra veorial e maricial 88

94 [ 3 ] Amosragem mulivariada 3.. Inrodução Com os conceios de álgebra veorial inroduzidos no capíulo, pode-se aprofundar na inerpreação geomérica das esaísicas descriivas X, S e R. A maioria das explicações usam a represenação das colunas de X, como p ponos no espaço n dimensional. Será inroduzida nese insane a pressuposição de que as observações consiuem uma amosra aleaória. De uma forma simplificada, amosra aleaória significa (i) que as medidas omadas em diferenes iens (unidades amosrais ou experimenais) são não relacionadas uma com as ouras, e (ii) que a disribuição conjuna das p variáveis permanece a mesma para odos os iens. Essa esruura de amosra aleaória é que jusifica uma escolha paricular de disância e dia a geomeria para a represenação n dimensional dos dados. Finalmene, quando os dados podem ser raados como uma amosra aleaória à inferência esaísica erá por base um sólido fundameno.

95 3. Amosragem mulivariada Geomeria amosral Uma observação mulivariada é uma coleção de medidas em p variáveis omadas na mesma unidade amosral ou experimenal. No capíulo, iem.3, as n observações obidas foram disposas em um arranjo (Mariz) X por, X x x x k x p x x xk x p = x j xj xjk xjp x n xn xnk xnp em que cada linha de X represena uma observação mulivariada. Desde que o conjuno odo de mensurações é muias vezes uma paricular realização de variáveis aleaórias, diz-se que os dados represenam uma amosra de amanho n de uma população p variada. Os dados podem ser ploados por um gráfico com p coordenadas. As colunas de X represenam n ponos no espaço p dimensional. Esse ipo de gráfico fornece informações de locação dos ponos e de variabilidade. Se os ponos perencem a uma esfera, o veor de médias amosrais, X, é o cenro de balanço ou de massa. Se a variabilidade ocorre em mais de uma direção, pode-se deecar pela mariz de covariância, S. Uma medida numérica única de variabilidade é fornecida pelo deerminane da mariz de covariância.

96 Ferreira, D.F. Esaísica mulivariada 9 Exemplo 3. Calcule o veor média X para a mariz X apresenada a seguir. Ploe os n = 3 ponos no espaço p= (bidimensional) e localize X no diagrama resulane. X = 3 0 A média amosral é dada por: ( ) ( ) ( ) X = = o erceiro por X = [ ] O primeiro pono é dado por X = [ ], o segundo por X = [ 3 0] 3. A Figura 3. mosra os ponos junamene com X, cenro de massa ou de balanço, obidos a parir da mariz X., e

97 3. Amosragem mulivariada 9 3 x 3 _ x x x Figura 3.. Diagrama com n=3 ponos no espaço bidimensional (p=) mosrando o cenro de massa, X. Uma represenação alernaiva é obida aravés da consideração de p ponos no espaço n dimensional. Os elemenos das linhas de X são uilizados como coordenadas.

98 Ferreira, D.F. Esaísica mulivariada 93 X x x x k x p x x xk x p = x j xj xjk xjp x n xn xnk xnp y y y y = k p As coordenadas do k-ésimo pono y = [ x x x ] k k k nk deerminada pela n-upla de odas as medidas da k-ésima variável. É conveniene é represenar k y como veor ao invés de ponos. Exemplo 3. Ploe os dados da mariz X, com p= veores no espaço ridimensional (n=3) X = [ ] y = 3 e y = [ 0 ]

99 3. Amosragem mulivariada 94 3 Y 0 Y Figura 3.. Diagrama da mariz de dados X como p= veores no espaço ridimensional. Muia das expressões algébricas que serão enconradas na análise mulivariada, podem ser relacionadas às noções geoméricas de ângulos, comprimeno (norma) e volumes. Iso é imporane, pois represenações geoméricas faciliam a compreensão e conduz a novas visões. Infelizmene, o ser humano esá limiado a visualizar objeos no espaço ridimensional, e as represenações da mariz X não serão úeis se n>3. No enano, os relacionamenos geoméricos e os conceios esaísicos associados, descrios para o espaço ridimensional ou bidimensional, permanecem válidos para dimensões maiores.

100 Ferreira, D.F. Esaísica mulivariada 95 É possível, em função do exposo, prover uma inerpreação geomérica ao processo de enconrar a média amosral. O veor (nx) será definido por =[ ]. O veor forma um ângulo igual com cada um dos eixos coordenados, de al forma que ( n) enha comprimeno uniário e mesmo ângulo de direção. Considerando o veor y = [ x x x ] projeção em ( n) é: k k k nk, cuja n X ( ) jk j= k = = k = k y y X n n n n Pois, a projeção geral de X em Y é dada por: ( ) XY Proj X em Y = Y Y Dessa forma Xk = ( yk) n corresponde a um múliplo de, obido a parir da projeção de k y em um veor, de acordo com o esquema a seguir.

101 3. Amosragem mulivariada 96 y k e k = y k X k X k em que, y k X k é perpendicular a X k. Observe, ambém, que e k = y k X k é definido como desvio da k-ésima variável em relação a sua média amosral, e consise nos elemenos apresenados a seguir: e y X x x k k k k = k k = x nk Xk X Xk A decomposição de yi, nos veores média e desvio da média esá apresenada esquemaicamene na Figura 3.3 para p= e n=3.

102 Ferreira, D.F. Esaísica mulivariada 97 x 3 _ x _ x e e Y Y x x Figura 3.3. Decomposição de yk em componenes de média X k e componenes de desvio ek = yk Xk. Exemplo 3.3 Faça a decomposição de y k em componenes de média X k e componenes de desvio ek = yk Xk, k=,, para os dados do exemplo 3..

103 3. Amosragem mulivariada 98 X = [ ] [ ] y = 3 y = 0 + ( 3) + ( ) + 0+ X = = X = = 3 3 X = = X = = 3 e = y X= 3 = 0 e = y X= 0 = Observa-se que: X e e, X e e, são perpendiculares. 3 X y X = = 3+ + = 0 ( ) ( ) [ ] A decomposição é:

104 Ferreira, D.F. Esaísica mulivariada 99 y 3 = 3 = + ; e 0 y = 0 = +. Os veores de resíduos podem ser ploados a parir da origem, como apresenado na Figura 3.4, para os resíduos do exemplo 3.3. X 3 e e X X Figura 3.4. Veores de desvios ei do exemplo 3.3. obidos por (.): Considere o comprimeno ao quadrado dos veores de desvios, ek = e k. ek = n ( xjk X k ) (3.) j= Observa-se por (3.) que o comprimeno ao quadrado dos veores de desvios é proporcional à variância da i-ésima variável. Equivalenemene, o

105 3. Amosragem mulivariada 00 comprimeno é proporcional ao desvio padrão. Veores longos represenam maiores variabilidades que os veores mais curos. Para dois veores desvios ek e e : n ( )( ) ee = x X x X (3.) k jk k j j= veores ek e e, em-se: De (.3) e denoando o ângulo θ ik como o ângulo formado pelos Cos ( ) θ = k ee k ee k k ee (3.3) Usando (3.) e (3.) é fácil verificar que (3.3) é: r k Sk = Cos( θ k) = S S kk (3.4) O coseno do ângulo formado enre dois veores desvios é igual ao coeficiene de correlação amosral. Porano, se os dois veores de desvios possuem a mesma orienação, o coeficiene de correlação será próximo de. Se os dois veores esão próximos de serem perpendiculares, a correlação amosral será próxima de zero. Se os dois veores forem orienados em direções oposas, o coeficiene de correlação amosral será próximo de -. Os conceios de

106 Ferreira, D.F. Esaísica mulivariada 0 comprimeno e ângulos permiem que se façam inerpreações das esaísicas amosrais geomericamene, e auxiliam na compreensão dos seus significados Amosras aleaórias e esperanças do veor de média e da mariz de covariância amosral. Com a finalidade de esudar a variabilidade amosral de esaísicas como X e S com a finalidade de se fazer inferências, é necessário fazer pressuposições a respeio das variáveis cujos valores observados consiuem um conjuno de dados X. Supondo que os dados não foram ainda observados, mas preende-se ober n mensurações em p variáveis. Anes de serem mensurados, os valores não podem em geral ser predios exaamene. Conseqüenemene, eses são raados como variáveis aleaórias. Nese conexo, os elemenos (j, k) da mariz de dados represenam realizações de uma variável aleaória, X jk. Cada conjuno de medidas X j em p variáveis é um veor aleaório. X x x x k x p X x x xk x p X = = xj xj xjk xjp X j xn xn xnk xnp X n (3.5)

107 3. Amosragem mulivariada 0 Uma amosra aleaória pode ser definida por: Se o veor coluna X, X,..., X n em (3.5), represena independenes observações com disribuição conjuna com densidade f( x )=f(x, x,..., x p ), enão X, X,..., X n é uma amosra aleaória. Se a função conjuna de densidade é igual ao produo das marginais f( x ). f( x )....,. f( x n), sendo f( x j)=f(x j, x j,..., x jp ), enão, X, X,..., X n é uma amosra aleaória. Algumas conclusões podem ser obidas da disribuição de X e S sem pressuposições sobre a forma da disribuição conjuna das variáveis. Dessa forma, considere X, X,..., X n como sendo uma amosra aleaória de uma disribuição conjuna com veor média µ e mariz de covariância Σ. Enão, X é um esimador não viciado de µ e sua mariz de covariância é n Σ. Iso é, E( X ) = µ (veor média populacional) Cov( X ) = n Σ (Mariz de covariância populacional dividida pelo amanho da amosra). PROVA: X =( X + X X n)/n

108 Ferreira, D.F. Esaísica mulivariada 03 ( ) E(X) = E X + X + + X n n n n ( ) ( ) ( ) = E X + E X + + E X n n n n = ne ( X j ) n n = µ n E(X) =µ Para provar o valor da covariância, pode-se observar que: n j= n = n j= = ( X -µ ) ( X -µ ) n n n n = ( Xj µ ) ( X µ ) = ( Xj µ )( X µ ) Enão, n n Cov( X ) = E( X µ )( X µ ) = E( Xj µ )( X µ ) n j= = Sendo j e considerando que E( X µ )( X µ ) j é igual a zero, devido a covariância enre os elemenos independenes X j e X ser nula, enão, n Cov( X ) = E( X j µ )( Xj µ ) n j=

109 3. Amosragem mulivariada 04 Desde que Σ= E( X µ )( X µ ) j j é a covariância populacional comum dos componenes X j, êm-se: n ( ) ( j )( j ) ( ) Cov X = E X µ X µ = Σ+Σ+ +Σ = n j= n = (n Σ ) = Σ n n 3.4. Variância Generalizada Com uma única variável, a variância da amosra é usada para descrever a variação nas mensurações desa variável. Quando p variáveis são observadas em cada unidade da amosra ou do experimeno, a variação é descria pela mariz de variância e covariância amosral. S S S p S S S p S = Sp Sp S pp A mariz de covariância amosral coném p variâncias e ½p(p-) covariâncias, poencialmene diferenes. Algumas vezes, no enano, deseja-se expressar a variação por um único valor numérico. Uma escolha dese valor é o deerminane de S, o qual reduz à variância amosral usual para o caso de uma

110 Ferreira, D.F. Esaísica mulivariada 05 única variável (p=). Ese deerminane é denominado de variância amosral generalizada. Variância amosral Generalizada= S (3.6) Exemplo 3.4 O peso de espiga PE (X ), e o número de espigas NE (X ), foi avaliado em 8 variedades de milho em See Lagoas, MG. A mariz de covariância amosral S, obida dos dados é: S=, 905 9, 096 9, , 87 A variância generalizada nese caso é: Variância amosral Generalizada = S =,905x90,87-9,096 = 8,086 A variância amosral generalizada se consiui numa forma de escrever oda a informação de odas as variâncias e covariâncias como um único valor numérico. Obviamene, quando p> é possível que algumas informações amosrais sejam perdidas no processo. A inerpreação geomérica, no enano, poderá mosrar a força e as fraquezas desa esaísica descriiva.

111 3. Amosragem mulivariada 06 Considerando-se o volume (área) gerado no plano definido por dois veores de desvios e = Y X e = Y X. Seja L e e L e os comprimenos e dos veores e e e, respecivamene. Da geomeria êm-se: e h= L e Sen(θ) θ L e e A área do rapezóide é L e x Sen(θ) x L e, podendo ser expressa por: Área= L L cos ( θ ) e e Mas, n e = j = j= L (X X ) (n )S n e = j = j= L (X X ) (n )S Cos(θ)=r Porano,

112 Ferreira, D.F. Esaísica mulivariada 07 Área = (n ) SS ( r ) (3.7) Por ouro lado, S S S = = S S S S S r S S r S = S S S S r = S S ( r ) (3.8) Se (3.7) e (3.8) forem comparados, pode-se observar que: S =(Área) /(n-) Esa expressão pode ser generalizada para p veores desvios por indução: Variância amosral Generalizada = S = (Volume).(n-) -p (3.9) A equação (3.9) mosra que a variância amosral é proporcional ao quadrado do volume gerado pelos p veores desvios. Na Figura 3.5 (a) e (b) mosra-se regiões rapezoidais geradas com p=3 veores resíduos correspondenes a grandes e pequenas variâncias amosrais generalizadas, respecivamene.

113 3. Amosragem mulivariada 08 (a) (b) e 3 e e e e 3 e Figura 3.5. (a) grande variância amosral generalizada, e (b) pequena variância amosral generalizada, para p=3. Para um amanho amosral fixo, é óbvio que S cresce com o aumeno do comprimeno dos veores de desvios e i (ou ( n ) Sii ). Em adição, o volume aumenará para um comprimeno fixado, se os veores residuais forem movidos aé possuírem ângulos reos. Por ouro lado se um ou mais dos veores residuais aproximar do hiperplano formado por ouros veores residuais, o volume diminuirá endendo a zero. Apesar de a variância amosral generalizada possuir algumas inerpreações geoméricas formidáveis como as ilusradas na Figura 3.5, ela sofre

114 Ferreira, D.F. Esaísica mulivariada 09 alguns problemas como esaísica amosral capaz de sumariar a informação conida na mariz S. Para ilusrar esas deficiências, considere as marizes de covariâncias e os coeficienes de correlações apresenados a seguir S= S S 8 0 = = r = = 0,8 r = = 0,8 r = = 0, S = 36 S = 36 S = 36 Apesar das rês marizes possuírem a mesma variância amosral generalizada ( S =36), elas possuem esruuras de correlações disinas. Porano, diferenes esruuras de correlações não são deecadas pela variância amosral generalizada. As siuações em que p> podem ser ainda mais obscuras. Muias vezes é desejável mais informações do que um simples valor como S pode oferecer como resumo de S. Pode-se mosrar que S pode ser expresso como produo dos auovalores de S ( S =λ.λ...λ p ). A elipsóide cenrada na média é baseada em S -, possui eixos de comprimeno proporcionais a raiz quadrada de λ i s de S, que reflee a variabilidade no senido do i-ésimo auovalor. Esa elipsóide é apresenada a seguir. ( ) ( ) X X 'S X X = c (3.0)

115 3. Amosragem mulivariada 0 Demonsra-se que o volume desa hiperelipsóide é proporcional à raiz quadrada de S. Desa forma, os auovalores, fornecem informações da variabilidade em odas as direções da represenação no espaço p-dimensional dos dados. Porano, é mais úil apresenar seus valores individuais do que seu produo. Ese ópico será abordado com mais dealhe quando se discuir sobre os componenes principais. A variância amosral generalizada será zero se um ou mais veores residuais perencerem a um (hiper) plano formado por uma combinação linear dos ouros, ou seja, quando as linhas da mariz de desvios, forem linearmene dependenes. Exemplo 3.5 Mosre que S =0 para X = O veor média é: = [ ] X 4 Os veores dos desvios são:

116 Ferreira, D.F. Esaísica mulivariada X X = [ e e e 3] = 0 0 Verifica-se que e3 = e+ e, ou seja: [ 0 -] = [ - 0] +[ -] = [ 0 -] c.q.d. Iso significa que um dos veores resíduos, perence ao plano gerado pelos ouros dois. Desa forma o volume ridimensional é zero (degenerescência). Ese caso é ilusrado na Figura 3.6 e demonsrado numericamene aravés da obenção de S. 0 S = Pela definição (.9), êm-se: S = ( ) + 0 ( ) + ( ) = = ( 3). = 3 3= 0

117 3. Amosragem mulivariada 3 e e3 e Figura 3.6 Caso em que S =0 (degenerescência) para o volume ridimensional. Em qualquer análise esaísica o resulado S =0 indica que exisem variáveis redundanes, ou seja, que possuem a mesma informação, e que esas podem ser removidas do esudo. A mariz de covariância reduzida, será de poso compleo e a variância generalizada diferene de zero. A quesão de quais variáveis devem ser removidas no caso de degenerescência não é fácil de responder e será abordado nos esudos de componenes principais. No enano, quando há possibilidade de escolha, o pesquisador deve reer as medidas de uma variável (presumidamene) causal ao invés de uma caracerísica secundária.

118 Ferreira, D.F. Esaísica mulivariada Variância generalizada de variáveis padronizadas A variância amosral generalizada é influenciada pela diferença de variabilidade das mensurações das variáveis individuais, ou seja, caso a variância amosral de uma deerminada variável (S ii ) seja grande ou pequena em relação às demais. O veor residual correspondene e i = Y i x i será muio longo ou muio curo, do pono de visa geomérico e erá um papel imporane na deerminação do volume. É muias vezes necessário, em função do exposo, padronizar os veores residuais, de al forma que eles enham o mesmo comprimeno. A padronização deses veores residuais é equivalene a ransformar as variáveis originais x jk pelos seus valores ( ) x x S. A mariz de jk k kk covariância amosral das variáveis padronizadas será enão igual a R, ou seja, igual a mariz de correlação das variáveis originais. Dessa forma pode-se definir: Variância generalizada amosral das variáveis padronizadas= R (3.) e jk =( ) jk k kk Os veores resíduos resulanes, cujos valores são dados por x x S, possuem odos os comprimenos iguais a n. A variância generalizada amosral das variáveis padronizadas será grande se eses veores forem perpendiculares e será pequena se dois ou mais deles iverem próximas da mesma direção. Em (3.4) foi viso que o co-seno do ângulo θ ik enre os veores residuais ei e e k, com i k, é igual ao coeficiene de correlação amosral r ik. Dessa

119 3. Amosragem mulivariada 4 forma, o R será grande quando odos os r ik forem próximos de zero e será pequeno quando um ou mais dos r ik for próximo de - ou de +. Uilizando os mesmos argumenos que conduziram a (3.9) pode-se verificar que: R =(n-) -p (volume) (3.) O volume gerado pelos veores desvios de p=3 variáveis padronizadas esá ilusrado na Figura 3.7. Eses veores desvios padronizados são correspondenes aos veores desvios da Figura 3.5, cuja comparação revela que a influência do veor e (com grande variabilidade na direção de x ) no volume quadrado de S é maior do que sua influência no volume quadrado de R. (a) (b) e e3 e e e3 e Figura 3.7. Volume gerado por rês variáveis padronizadas: (a) grande variância e (b) pequena variância generalizada. As quanidades S e R são relacionadas por:

120 Ferreira, D.F. Esaísica mulivariada 5 S = (S S... S pp ) R (3.3) Exemplo 3.6 É ilusrada aravés dese exemplo a relação (3.3) enre S e R para p=3 caraceres de milho (x : diâmero do colmo; x : número de folhas; e x 3 : comprimeno de folhas). A mariz R e S obidas são: 4, 935 0, 55, 9 S= 0, 55 0, ,, 9 93, 7, , 030, 03, e R= 030, 00, 055, 03, 055, 00, Usando-se a definição de deerminane (.9), em-se: S =37,3878 R =0,637 Usando (3.3) e os resulados obidos: S = (S S... S pp ) R 37,3878 = (4,935 x 0,686 x 7,993) x 0,637

121 3. Amosragem mulivariada 6 37, ,388 (verificado, apesar da pequena diferença devido às aproximações nos cálculos) 3.6. Oura generalização da variância Uma oura medida capaz de sineizar a informação conida na mariz de covariância que é uilizada em componenes principais é definida pela soma dos elemenos da diagonal da mariz de covariância S e é denominada de variância amosral oal. Porano, Variância amosral oal = Traço de S= Tr(S) =S +S +...+S pp (3.4) Exemplo 3.7 Calcular a variância amosral oal da mariz S do exemplo (3.6) Tr(S)= S +S +S 33 =4,935+0,686+7,993=3,64 Geomericamene a variância amosral oal represena a soma dos comprimenos ao quadrado dos veores residuais e i (i=,,...,p) dividido por n-. Ela não considera as orienações dos veores residuais, sendo porano limiada

122 Ferreira, D.F. Esaísica mulivariada 7 para ser uilizada com variáveis padronizadas, pois seu valor será sempre o mesmo para disinos conjunos de dados desde que o número de variáveis deses seja igual Exercícios Ploe os n=4 ponos no diagrama bidimensional e localize X no diagrama resulane. X = Enconre o ângulo enre os veores y e y do exemplo 3.. Calcule o co-seno do mesmo e discua sobre o significado dese resulado Obenha a decomposição dos veores y e y do exemplo 3. em componene de média e componene de desvio. Comprove a orogonalidade dos componenes de média com os veores de desvios ou residuais.

123 3. Amosragem mulivariada Calcule usando (3.3) o coseno do ângulo enre os veores residuais e e e obidos em 3.3. Calcule o coeficiene de correlação usando (.4) enre as variáveis e, e compare os resulados obidos Obenha as marizes de covariância amosral para o conjuno de dados do exercício 3.7., e calcule as variâncias amosrais generalizadas das variáveis originais e padronizadas. Calcule ambém a variância amosral oal Qual é a área do rapezóide gerado pelos p= veores desvios, do exercício 3.7..

124 4 Disribuição normal mulivariada 4.. Inrodução A generalização da densidade normal univariada para duas ou mais dimensões desempenha um papel fundamenal na análise mulivariada. De fao, a maioria das écnicas mulivariadas pare do pressuposo de que os dados foram gerados de uma disribuição normal mulivariada. Apesar dos dados originais não serem quase nunca exaamene normal mulivariados, a densidade normal se consiui muias vezes numa aproximação adequada e úil da verdadeira disribuição populacional. A disribuição normal, além da sua araividade pela sua facilidade de raameno maemáico, possui duas razões práicas que jusificam a sua uilidade. A primeira, diz que a disribuição normal é a mais adequada para modelos populacionais em várias siuações; e a segunda refere-se ao fao da disribuição amosral de muias esaísicas mulivariadas ser aproximadamene normal, independenemene da forma da disribuição da população original, devido ao efeio do limie cenral.

125 4. Disribuição normal mulivariada Pressuposições das análises mulivariada É imporane compreender que as análises esaísicas de modelos com erros adiivos baseiam-se na pressuposição de normalidade. A disribuição normal requerida refere-se, não a variação dos dados, mas a variação residual, dos erros exisenes enre as observações e o modelo ajusado. A variação sisemáica dos dados deve-se presumidamene aos efeios fixos dos modelos e o resane da variação aleaória é devida a pequenas influências independenes, as quais produzem resíduos com disribuição normal (Bock, 975). Um segundo pono, muias vezes negligenciado nas discussões das pressuposições sobre a disribuição, refere-se ao fao de que as afirmações probabilísicas dos eses de significância e dos inervalos de confiança, dizem respeio a esaísicas ais como médias amosrais ou diferenças enre médias, e não a disribuição das observações individuais. É conhecido que a disribuição desas esaísicas orna-se ipicamene normal quando a amosra aumena de amanho. Ese resulado se deve ao eorema do limie cenral. Do pono de visa práico exisem consideráveis vanagens de se rabalhar com grandes amosras. Neses casos, a violação da pressuposição de que a população seja normal é menos críica para os eses esaísicos e inervalos de confiança e a precisão da esimação de parâmeros desconhecidos é melhor.

126 Ferreira, D.F. Esaísica mulivariada 4.3. Densidade normal mulivariada e suas propriedades A densidade normal mulivariada é uma generalização da densidade normal univariada. Para a disribuição normal univariada com média µ e variância σ, a função de densidade de probabilidade é bem conhecida e é dada por: ( x µ ) σ f(x) e x ; ] [ = + πσ (4.) O gráfico da função (4.) em forma de sino e esá apresenado na Figura 4.. As probabilidades são áreas sob a curva enre dois valores da variável X, limiada pela abscissa. É bem conhecido o fao de que as áreas enre ± desvio padrão da média e ± desvios padrões da média são respecivamene 68,3% e 95,4%, como ilusrado na Figura 4..

127 4. Disribuição normal mulivariada µ σ µ σ 0,683 0,954 µ µ+σ µ+σ Figura 4.. Densidade normal univariada com média desacando-se as áreas enre µ ±σ e µ ± σ. µ e variância σ, O expoene da função de densidade normal univariada: ( x ) µ = µ σ µ σ ( x )( ) ( x ) (4.) mede a disância quadrada de x em relação à µ em unidade de desvio padrão. Esa disância pode ser generalizada para o caso mulivariado, com um veor X de observações (p x ), dada por,

128 Ferreira, D.F. Esaísica mulivariada 3 ( X µ ) ( Σ) ( X µ ) (4.3) Nesa expressão (4.3) o veor µ (px) represena o valor esperado do veor X e a mariz Σ (pxp) represena a sua covariância. Enão, (4.3) represena a disância generalizada de X para µ. Subsiuindo a expressão (4.3) na função de densidade (4.), a consane univariada de normalização πσ deve ser rocada de modo a fazer com que o volume sob a superfície da função de densidade mulivariada obida, seja igual a unidade para qualquer p. Pode-se demonsrar (Anderson, 984) que esa consane é ( ) p π Σ, sendo a densidade dada por: ( π) ( ) ( ) f ( X ) = exp X X p µ Σ µ Σ (4.4) Propriedades da disribuição normal mulivariada Seja um veor X endo disribuição normal mulivariada, enão:. Combinações lineares dos componenes de X serão normalmene disribuídos: seja a combinação linear a X =a X +a X a p X p, enão, a X erá disribuição N( a µ, a Σ a );

129 4. Disribuição normal mulivariada 4. Todos os subconjunos de X em disribuição normal (mulivariada). Pelos resulados da propriedade, fazendo alguns a i s iguais a zero, iso se orna evidene; i) Fazendo X X 0 0 X X p a X =[ ] = a propriedade se orna evidene. Assim, X N( a µ = µ, a Σ a = σ ). De uma forma mais geral pode-se afirmar que odo componene X i em disribuição N( µ i, σ ii ). ii) A disribuição de várias combinações lineares é: ax +... apx p A X = ~ N A µ ;AΣA' aqx +... aqpx p q p p q ( ) iii) Todos os subconjunos de X em disribuição normal (mulivariada) Tomando-se uma parição: X p qx X = = (p q) X X e suas correspondenes parições no veor de média e de covariância, dadas por: qµ µ µ = = (p q) µ µ p e Σ= Σ Σ q q q (p q) Σ Σ (p q) q (p q) (p q)

130 Ferreira, D.F. Esaísica mulivariada 5 Logo, ( µ Σ ) X ~ N ; q Prova: Basa fazer q A p =[ q I q q 0 (p-q) ] e aplicar (ii). 3. Se os componenes de covariância forem zero enre dois subconjunos de X, implica em dizer que eles são independenemene disribuídos. Esa propriedade só é valida se X iver disribuição normal mulivariada; e 4. A disribuição condicional de componenes de X é normal (mulivariada). Dada a parição X p qx X = =, logo a disribuição condicional de (p q) X X X/X = x é normal e êm média e covariância dados por: ( x ) µ =µ +Σ Σ µ c e Σ =Σ Σ Σ Σ c 4.4. Disribuição normal bivariada Sejam X e X duas variáveis com parâmeros E(X )=µ, E(X )=µ, σ Var(X )=σ, Var(X )=σ e ρ = = Corr( X, X). A mariz de covariância é σ σ

131 4. Disribuição normal mulivariada 6 σ σ Σ= σ σ Cuja inversa é, σ σ Σ = σσ σ σ σ Fazendo σ = ρ σ σ, obém-se ( ) Σ= σ σ σ = σ σ ρ, e a disância generalizada de (4.3) será: σ σ ( ρ ) [ µ µ ] X X ρ σ σ σ ρ σ σ σ X X µ µ = (4.5) = ρ X µ σ X µ + σ ρ X µ X µ σ σ Desde que, Σ =σ σ - (σ ) = σ σ (- ρ ), podem ser subsiuídos Σ - e Σ em (4.4) para se er a expressão da densidade normal bivariada, apresenada a seguir.

132 Ferreira, D.F. Esaísica mulivariada 7 f(x,x ) = π σ σ ( ρ ) (4.6) X X X X µ µ µ µ exp + ρ ( ) ρ σ σ σ σ Se X e X não são correlacionadas, ρ =0, a densidade conjuna pode ser escria como produo das densidades normais univariadas, ambas com a forma de (4.), ou seja, f(x,x )= f(x ) f(x ), além do que X e X são dias independenes, como comenado na propriedade número 3 da seção 4.3. Duas disribuições normais bivariadas com variâncias iguais são mosradas nas Figuras 4.. e 4.3. A Figura 4. mosra o caso em que X e X são independenes ( ρ =0) e a Figura 4.3 o caso de ρ =0.8. Observa-se que a presença de correlação faz com que as probabilidades se concenrem ao longo de uma linha.

133 4. Disribuição normal mulivariada 8 Figura 4.. Disribuição normal bivariada com σ = σ e ρ =0. Figura 4.3. Disribuição normal bivariada com σ = σ e ρ =0.8.