CE-704 ANÁLISE MULTIVARIADA APLICADA À PESQUISA

Transcrição

1 CE-74 ANÁLISE MULTIVARIADA APLICADA À PESQUISA NOTAS DE AULA Estas notas de aula seguem de muto erto os lvros referencados na BIBLIOGRAFIA e que na verdade corresondem aos lvros tetos deste Curso. Sugere-se a sua aqusção. A únca fnaldade destas notas é facltar o trabalho do aluno em sala de aula, de modo que não há necessdade de anotar todo o conteúdo aresentado elo rofessor. A letura, consulta e resolução de eercícos do lvro é dever do aluno. Prof. Anselmo Chaves Neto BIBLIOGRAFIA Johnson, R. A. & Wchern, D.W. Aled Multvarate Statstcal Analyss; 4ed. Prentce Hall Inc., Englewood NJ (998). Marda, K. V. Kent, J. T. & Bbby, J.M. Multvarate Analyss; Academc Press, New York (978). Morrson, D.F. Multvarate Statstcal Methods - McGraw Hll, N.Y., 97. Har, Joseh F. Jr. et al Multvarate Data Analyss, 5ed., Prentce Hall Inc. Uer Saddle Rver, N.J. (998). Har, Joseh F. Jr. et al Análse de Dados Multvarados, Prentce Hall Inc., Bookman Edt./Artméda Edt., Porto Alegre, 5.

2 ÍNDICE. INTRODUÇÃO 5. - Concetos Báscos 5. - Estatístcas Descrtvas Dstânca Relação entre coefcente de smlardade e dstânca. ÁLGEBRA MATRICIAL E VETORES ALEATÓRIOS 4. - Álgebra Matrcal 4. - Matrz e Vetor Aleatóro MATRIZ DE DADOS, VETOR DE MÉDIAS E MATRIZ DE COVARIÂNCIA 3.- Matrz de Dados 3.- Vetor de Médas 3.3- Matrz de Covarâncas Amostral e Matrz de Correlação Amostral Vetores Aleatóros 4 4- ANÁLISE DA ESTRUTURA DE COVARIÂNCIA Comonentes Prncas Introdução Comonentes Prncas da Poulação Comonentes rncas obtdas de v.a s adronzadas Comonentes rncas a artr da amostra Análse Fatoral Introdução Objetvos da Análse Fatoral Suosções da Análse Fatoral O Modelo Fatoral Ortogonal Estmação Rotação dos Fatores Escores Fatoras Método dos Mínmos Quadrados Análse de Correlação Canônca Análse de Correlação Canônca Introdução Varáves Canôncas e Correlações Canôncas Escores e Predção 5 6- DISCRIMINAÇÃO, CLASSIFICAÇÃO E RECONHECIMENTO DE PADRÕES 5

3 3 6..Introdução 5 6. Problema geral de reconhecmento e classfcação 55 6 Introdução 55 6 Regões de classfcação ara duas oulações Matrz do Custo de Reconhecmento (classf.) Errado e ECM Crtéro TPM Classfcação com duas oulações Normas Multvaradas Classfcação Quadrátca, Dscrmnação e Classfcação entre Poulações: Método de Fsher Função Dscrmnante Lnear de Fsher Para duas Poulações Dscrmnação entre Dversas Poulações Avalação de funções de reconhecmento e classfcação Crtéro TPM Abordagem de Lachenbruch Reconhecmento de adrões envolvendo váras oulações (gruos) Introdução Método do Mínmo Custo Eserado de Mstura Regra do mínmo ECM em custos guas de reconhecmento errado RECONHECIMENTO DE PADRÕES COM POPS. GAUSSIANAS REGRA DE RECONHECIMENTO PARA VÁRIAS POPS. COM IGUAL VARIÂNCIA BASEADA NA DIST. DE MAHALANOBIS 8 7. REGRESSÃO LOGÍSTICA: MODELO PARA VARIÁVEIS DICOTÔMICAS Introdução Modelo Lnear Geral Modelo Logístco Lnear Smles Modelo Logístco Lnear Múltlo ANÁLISE DE AGRUPAMENTOS (CLUSTER ANALYSIS) Introdução Meddas de Smlardades Dstâncas e Coefcentes de Smlardades ara Pares de Itens 85 8 Relação entre coefcente de smlardade e dstânca Agruamento Herárquco Lgações Lgação Smles (ou vznho mas rómo) Lgação Comleta (vznho mas longe) Lgação Méda Método de Agruamento Não-herárquco 9 9. DISTRIBUIÇÃO NORMAL MULTIVARIADA Introdução 9 3

4 A função densdade de robabldade da Normal -varada Contornos (contours) em densdades de robabldade constante Estatístcas sufcentes Dstrbução amostral de X e S Testes sobre os arâmetros de locação e de dsersão de dstrbuções normas multvaradas e regões de confança Testes da Razão de Verossmlhança Seja testar a hótese H : = quando é conhecda e X N (, ) Seja testar a hótese H : = quando é desconhecdo e X N (, ) Seja testar a hótese H : = quando é desconhecdo e X N (, ) Regão de Confança do vetor de médas Seja testar a hótese de matrzes de covarâncas guas, ou seja: Verfcação da Gaussandade ara dstrbuções bvaradas. COMPARAÇÃO ENTRE VETORES MÉDIOS.- Comaração entre dos vetores médos: teste T de Hotellng.- Comaração entre város vetores médos: Manova 3 BIBLIOGRAFIA 5 4

5 5 ANÁLISE MULTIVARIADA. INTRODUÇÃO. - Concetos Báscos ANÁLISE MULTIVARIADA: é um conjunto de técncas estatístcas que tratam dos dados corresondentes às meddas de mutas varáves smultaneamente. Bascamente, a Análse Multvarada consste no estudo estatístco dos roblemas relaconados com: Inferêncas sobre médas multvaradas; Análse da estrutura de covarânca de uma matrz de dados; Técncas de reconhecmento de adrão, classfcação e agruamento. No estudo de varáves, geralmente, toma-se n observações de cada varável ara obter nformações sobre arâmetros, relaconamentos entre varáves, comarações, etc. Assm, as meddas regstradas são j com =,,,n (observações) e j =,,, (varáves) que odem ser agruadas na matrz de dados n X, com n lnhas e colunas nx = n n n A matrz de dados n X contém n observações do vetor aleatóro -dmensonal X = [X, X,.., X P ]. EXEMPLO : Uma amostra aleatóra comosta or quatro (4) notas de vendas de lvros de uma lvrara fo obtda a fm de nvestgar-se a natureza dos lvros venddos. Cada nota fscal esecfca, entre outras cosas, o número de lvros venddos e o valor de cada venda. Seja a ª varável o total venddo em reas e a ª varável o número de lvros venddos. Assm, seja o vetor aleatóro X = [X X ] cujas comonentes são as v.a s: X (valor da venda) e X (número de lvros). A matrz de dados é n X =

6 6. - Estatístcas Descrtvas Muto da nformação contda na matrz de dados ode ser dada elo cálculo de números sumáros conhecdos como estatístcas descrtvas. Vetor médo amostral : = [.. ] com j = Matrz de covarânca amostral: S = s jj = s j = s jk = n n ( j ( j n n j)( ) k k ) s s s s s s s s s n onde n é a varânca da v.a. X j j j =,,,. j, k =,,.., é a covarânca entre X j e X k. Matrz de correlação amostral: R = EXERCÍCIOS r r r r r r onde r jk = s s jj jk s kk ) Consdere os dados do eemlo. Então, calcule: a) O vetor médo amostral. Solução: Calcule a méda de cada varável usando a calculadora ou, então, usando o STATGRAPHICS sga o camnho: DESCRIBE, NUMERIC DATA, MULTIPLE VARIABLES ANALYSIS; entre com as duas varáves e OK; agora vá no botão amarelo de TABULAR OPTIONS e escolha SUMMARY STATISTICS e o resultado estará na tabela abao com váras estatístcas. O ' vetor médo será X = [5,5 4]. valor$ qlivros Count 4 4 Average Medan Varance Standard devaton Standard error Mnmum Mamum Range 44.. Lower quartle Uer quartle Coeff. of varaton %.44%

7 7 b) a matrz de covarânca amostral S. Solução: Calcule a varânca de cada varável, deos calcule a covarânca entre elas usando as fórmulas e a calculadora, ou então, use os resultados da tabela anteror ara montar a matrz. Lembre que a covarânca s = s s. A matrz de covarânca é: S = Veja que s = 385 é a varânca amostral e estma a verdadera varânca oulaconal ; s = 4,6667 é a covarânca amostral e s =,6667 é a estmatva amostral de. Fnalmente, a matrz S é a estatístca que estma o verdadero arâmetro (matrz de covarânca oulaconal). c) a matrz de correlação amostral R. Solução: Calcule o coefcente de correlação ˆ = r entre as duas varáves usando as fórmulas e a calculadora, ou então, egue a matrz dretamente no STATGRAPHICS. A matrz de correlação é: R = ˆ = Fnalmente, a matrz R é a estatístca que estma o verdadero arâmetro de correlação oulaconal). (matrz ) Você saba que a correlação entre as v.a s X e Y é gual a covarânca entre as v.a s X e Y adronzadas? Prove este fato. Prova: Por defnção a covarânca entre duas v.a s é dada or: cov(x, Y) = E[(X - X)(Y - Y)] e dvdndo elo roduto dos desvos adrões X Y tem-se o quocente: cov(x, Y) E[(X = X Y X )(Y Y )] X Y = E[ (X X X ) (Y Y ) duas v.a s adronzadas. Então o coefcente de correlação = E[ é a covarânca entre duas v.a s adronzadas. Y ] que é a covarânca entre (X X X ) (Y Y ) Y ].3 - Dstânca Váras técncas estatístcas são baseadas no conceto smles de dstânca. A dstânca Eucldana entre os ontos P e O R, ou seja, do onto P(,,.., ) até a 7

8 8 orgem O(,,., ) é a dstânca na lnha reta d(po) dada de acordo com o Teorema de Ptágoras: d(po) = e a dstânca de P(,,.., ) ao onto Q(y, y,.., y ) é dada or: d(pq) = ( y ). ( y ) Contudo, a dstânca Eucldana não é satsfatóra em váras roostas estatístcas orque cada coordenada contrbu gualmente ara o cálculo da dstânca. Quando as coordenadas são meddas de v.a s de dferentes magntudes (escalas), (.e. é da ordem de ;,5; ;,; etc e é da ordem de ; 565; 534; etc.), varabldades fortemente dferencadas, é referível onderar as coordenadas de acordo com as varâncas. Isto roduz a chamada dstânca estatístca. Na fgura a segur observa-se que a varânca da v.a no sentdo horzontal é maor que a varânca da v.a no sentdo vertcal V(X ) > V(X ) X X X Assm, ondera-se as v.a s dvdndo-as elo seu desvo adrão, ou seja: * = / e * = / E a dstânca Eucldana entre o onto P*(X, X ) e a orgem O(,) é: d(p * O) = d j = s s que é conhecda como DISTÂNCIA ESTATÍSTICA. Consderando ' e y ' j R 3, com, e 3 sendo os desvos adrões das v.a s corresondentes às comonentes (dreções), e 3, a dstânca Estatístca entre os ontos ' e y ' j é dada or: ( y j ) ( y j ) ( 3 y d j = j3) 3 8

9 9 É fácl erceber que a dferença entre a dstânca Eucldana e a dstânca Estatístca está nos esos (nversos das varâncas) e que quando as varâncas são guas usa-se a dstânca Eucldana. MÉTRICA DE MAHALANOBIS É bastante geral, os leva em conta os adrões de covarânca que ode estr nos dados. Sua eressão ara a dstânca entre os ontos e j R, consderando que é a matrz de covarânca corresondente a matrz de dados X é: D j = ( j ) - ( j ) A chamada dstânca de Mahalanobs é a raz quadrada de D. DISTÂNCIA DE MINKOWSKI ou MÉTRICA DE MINKOWSKI Este uma classe geral de dstâncas conhecda como Mnkowsk -metrcs (ou L metrcs) que é defnda ela equação: d j () = [ k / k jk ] Dessa forma a dstânca Eucldana é aenas um caso esecal da métrca de / Mnkowsk com =, d j () = [ k k jk ] A métrca de Mnkowsk tem anda dos casos esecas, que são: com = que corresonde a dstânca de cty-block d j () = k k jk com = que corresonde a dstânca su-metrc d j ( ) = ma( j j ), j,., j ) Observe a fgura adante, o quadrado eeterno corresonde a d j ( ) su-metrc; o círculo corresonde a d j () dstânca Eucldana e o quadrado nterno ao círculo corresonde a d j () cty-block. = = = 9

10 .4- Meddas de Smlardade.4.- Introdução Mutas vezes as varáves estudadas só odem ser meddas na escala nomnal e, conseqüentemente, não é adequado calcular uma medda de dstânca. O rocedmento adotado, então, é baseado no areamento de atrbuto. Assm, tem-se as meddas de smlardade que consderam atrbutos comuns. EXEMPLO : Consdere quatro refrgerantes e quatro atrbutos relaconados na tabela a segur: REFRIGERANTE Sabor cola ATRIBUTO Cafeína Det Fabrcado ela Coca-cola Coca-cola Pes-cola Det Coca Lvre de Cafeína e Det Coca Uma medda de smlardade entre Coca-cola e Pes-cola corresonde ao número de emates no total de atrbutos, ou seja, ¾. Pode-se construr a matrz de smlardade entre os quatro rodutos com base nessa medda de smlardade. A segur tem-se essa matrz de smlardade. Coke Pes DPes CFDCoke S = Coke Pes DCoca CFDCoke Coefcentes de Smlardade O entendmento do conceto de coefcente de smlardade fca mas claro a artr do rómo eemlo.

11 EXEMPLO Seja = 5 varáves bnáras que ndcam a resença () ou a ausênca () de certas característcas nos objetos A e B, na tabela adante: CARACTERÍSTICAS OBJETO C C C3 C4 C5 a B A dstânca Eucldana entre A e B ao quadrado d ( A, B) a b é dada or: d (A,B) ( ) E, d (A,B) fornece uma medda do número de não emarelhamentos no ar de objetos e é claro que um número grande de não emarelhamentos ndca uma menor semelhança. Fca claro que uma onderação nos emates (emarelhamentos) em (-) e (- ) é necessára, os ode ocorrer da resença de uma característca ser mas forte do que a ausênca. Por eemlo: se sgnfca lê grego antgo é óbvo que o emate em - é maor ndcador de semelhança que o emate - (não lê grego antgo). Assm é razoável dmnur o número de gualdades - ou até desconsderá-las comletamente. Portanto, desse tratamento dferencado ara emates - e - surgram dversos esquemas ara defnr os coefcentes de smlardades. Seja a tabela de contngênca ara os tens e k: tem k TOTAL tem a b a + b c d c + d TOTAL a + c b + d = a + b + c + d onde: a é a freqüênca de gualdades - b é a desgualdades - c é a - d é a gualdades - Assm, os coefcentes usuas de smlardade são dados na tabela adante:

12 COEFICIENTE s (, k ) a ) (a d) ) (a d) b 3) a a 4) d a 5) a b c a 6) a b c a 7) a (b c) a 8) b a d d (b c c c) PONDERAÇÃO ) Pesos guas ara - e -. ) Pesos em dobro ara - e -. 3) Pesos em dobro ara as desgualdades - e -. 4) Desconsderando - no numerador. 5) Desconsderando - no numerador e denomnador. 6) Desconsderando - no numerador e denomnador e com eso em dobro ara - 7) Peso em dobro ara as desgualdades 8) Razão entre as gualdades e desgualdades, eclundo -. EXERCÍCIO Suonha que cnco ndvíduos ossuem as característcas lstadas na tabela adante: ndvíduo altura Peso cor dos cor dos habldade Seo olhos cabelos manual 68 ol 4 lb verde louro destro femnno castanho castanho masculno azul louro masculno 4 64 castanho castanho femnno 5 76 castanho castanho canhoto masculno a) Defna varáves bnáras ara as característcas. b) Monte o quadro consderando as varáves bnáras defndas. c) Usando o coefcente de smlardade a d construa a matrz dos coefcentes de smlardades de ordem (55) ara os n = 5 ndvíduos. d) Faça alguma conclusão com base nos coefcentes de smlardade. e) Você tera alguma crítca a fazer ao coefcente de smlardade s (, k ) = a.4.3- Relação entre coefcente de smlardade e dstânca O coefcente de smlardade entre os objetos e k ode ser escrto em função da dstânca entre e k, ou seja: s (, k)= d(, k), onde < s (,k) Observa-se que dmnundo a dstânca aumenta a smlardade e vce-versa. É semre ossível construr coefcentes de smlardades a artr das dstâncas, contudo não é ossível construr as dstâncas a artr das smlardades, a não ser que a matrz S seja d?

13 não-negatva defnda e s (, ) =. Desta forma d(, k) = ( s(,k)) tem as roredades de uma dstânca Smlardade e medda de assocação ara ares de varáves Quando as varáves são bnáras, os dados odem ser colocados na forma de uma tabela de contngênca. As varáves, melhor do que os objetos delneam as categoras. Para cada ar de varáves estem n objetos categorzados na tabela. Assm tem-se: Varável k Total varável a b a+b c d c+d Total a + c b + d n e o coefcente de correlação amostral, calculado com base na tabela de contngênca, ad bc é r que ode ser tomado como uma medda de ( a b)( c d)( a c)( b d) smlardade entre e k. 3 EXERCÍCIOS ) Um conjunto de ares de meddas de duas v.a s tem o vetor médo = [, ] e varâncas = 4 e =. Seja o onto R com coordenadas (, ). Suonha que as v.a s X e X não sejam correlaconadas. a) Calcule a dstânca estatístca do onto de coordenadas (, ) à orgem. R.: d(p,o) = 4 b) Construa o gráfco do lugar geométrco dos ontos cuja dstânca estatístca à orgem é. R.: O lugar geométrco esecfcado é a else com equação =. 4 c) Escreva também a equação deste lugar geométrco ara uma dstânca c e anda o gráfco nesta stuação genérca. R.: = c. d) Faça o gráfco dos ontos cuja dstânca à orgem é. 3

14 4 Consderando = e = y. e) Faça o gráfco dos ontos cuja dstânca à orgem é c. R.: O gráfco é uma else e os ontos onde o eo das abscssas corta a else são: (-c, ) e (c, ); e os ontos onde o eo das ordenadas corta a curva são: (, -c ) e (, c ), ou melhor, (-c, ) e (c, ) na horzontal e (, -c) e (, c). ) Escreva a eressão da dstânca estatístca do onto P de coordenadas s ao onto Q de coordenadas y s, ambos stuados no R. Sabe-se que cada coordenada dstnta tem varânca =,,.,. ( y) ( y ) ( y R.: d(p,q) = ) OBS.: O lugar geométrco dos ontos P que têm a mesma dstânca ao quadrado do onto Q jazem sobre um herelsóde de centro em Q cujos eos maor e menor são aralelos aos eos das coordenadas.. ÁLGEBRA MATRICIAL E VETORES ALEATÓRIOS. - Álgebra Matrcal Um arranjo de números reas,,, é chamado vetor e é escrto como = ou = [ ] (vetor transosto). Um vetor ode ter o seu módulo contraído ou aumentado quando é multlcado or uma constante c, c = [c c. c ] e a adção de vetores é feta somando-se os elementos comonentes dos vetores (ordenadamente), ou seja: 4

15 5 z = + y = y y y y y y O roduto nterno dos vetores e y de dmensão é defndo or.y = y. = y = y (escalar). Comrmento ou norma de um vetor -dmensonal é defndo como a raz quadrada do roduto nterno do vetor or ele mesmo, ou seja, = '. = EXERCÍCIO ) Dados os vetores = [ 3 ] e y = [- ], ede-se: a) o vetor 3; b) o vetor soma + y; c) o comrmento ou norma de cada um dos vetores; d) a norma quadrátca de cada um dos vetores; e) o ângulo entre os dos vetores. Matrz: uma matrz A de ordem n é um arranjo retangular de números reas formado or n lnhas e colunas. Quando n = a matrz é dta quadrada, A = a a a a a a a a a n n n Matrz Transosta: a matrz transosta, A, de A é formada quando se troca as lnhas elas colunas, obtendo-se A de ordem n. Matrz Smétrca: quando a matrz A é formada de modo que A = A, então ela é chamada de smétrca. Matrz Inversa: a matrz quadrada A de ordem admte nversa reresentada or A - de ordem se este uma matrz A - tal que AA - = I, onde I é a matrz dentdade de ordem com s na dagonal rncal e zeros fora dela. Assm, AA - = A - A = I e A - = adj(a) det(a) com adj(a) sendo a matrz dos co-fatores transosta. A condção técnca ara que a nversa esta é que as colunas da matrz sejam lnearmente ndeendentes. 5

16 6 EXERCÍCIOS ) Verfque se os vetores = [ ], y = [ -] e z = [ - ] são lnearmente ndeendentes. ) Verfque se os vetores = [ 3] e y = [4 4 ] são ndeendentes. 3 3) Mostre que a matrz A = admte nversa. 4 Matrz Ortogonal: uma matrz quadrada A é chamada de ortogonal quando suas lnhas consderadas como vetores são mutuamente erendculares e têm comrmentos untáros, sto é: A A = I e consequentemente A = A -. Autovalores e autovetores: uma matrz quadrada A é dta ter um autovalor (egenvalue) com corresondente autovetor e (egenvector) se Ae = e. RESULTADO. Uma matrz quadrada smétrca A de ordem k k tem k ares de autovalor e autovetor, ou seja: (,e ), (,e ),.,( k,e k ) OBS. Os autovetores odem ser escolhdos de modo a terem o comrmento gual a, ou seja, e.e =. Isto chama-se adronzar os autovetores. RESULTADO. Seja A uma matrz quadrada de ordem k k e I a matrz dentdade de ordem kk, então os escalares,,.., k satsfazendo a equação A - I = são os autovalores de A. EXERCÍCIOS: ) Determne os autovalores e autovetores da matrz R.: Resolva a equação A - I = ara achar os autovalores e, com eles, use a defnção ara achar os autovetores. Como a matrz não é smétrca não é ossível usar o STATGRAPHICS ara achar os autovalores e autovetores. Contudo sto ode ser feto com o MATLAB ou MAPLE, etc. ) Determne os autovalores e autovetores da matrz. 3 R.: Resolva a A - I = ara achar os autovalores e, com eles, use a defnção ara achar os autovetores. Na rátca use o STATGRAPHICS segundo o segunte camnho: SPECIAL, MULTIVARIATE METHODS, PRINCIPAL COMPNENTS. 3. 6

17 7 Os autovalores são: = 3.44 e = , obtdos em Analyss Summary. Já os autovetores são: e ' = [ ] e e ' = [ ] obtdos em Comonent Weghts. 3) Dada a matrz A = 5 5 verfque se 6 e [/ -/ ] formam um dos ares de autovalor/autovetor de A. R.: Alque a defnção de autovalor e autovetor, ou seja, Ae = e. Formas Quadrátcas: uma forma quadrátca Q() nas varáves,,.., é defnda or Q( ) = A, onde = [,,., ] e A é uma matrz quadrada de ordem smétrca. Note que a forma quadrátca ode ser escrta como Q() = j a j j EXERCÍCIO: Escreva a forma quadrátca Q() = [ ] R.: Q() = + +. como um olnômo. Matrz ostva defnda: a matrz A é ostva defnda se A >. Matrz ostva sem-defnda: a matrz A é ostva sem-defnda ou não negatva se A. RESULTADO.3: Teorema da Decomosção Esectral (Decomosção de Jordan) Qualquer matrz smétrca A de ordem ode ser escrta como A = P P = e e onde é uma matrz dagonal formada com os autovalores de A e P é uma matrz ortogonal (P P=I) cujas colunas são os autovetores adronzados (normalzados e e = e e e j = j) de A. EXERCÍCIOS: ) Escrever a forma quadrátca Q() = [ ] como olnômo. 7

18 8 ) Consdere a matrz smétrca A = Calcule os autovalores e autovetores de A. R.: Os autovalores e autovetores oderam ser calculados usando-se as equações: A - I = e Ae = e. Mas, dado a ordem 33 da matrz sto dá muto trabalho. Então, o que se ode fazer é usar o STATGRAPHICS, usando o camnho: SPECIAL, MULTIVARIATE METHODS, PRINCIPAL COMPNENTS. Os autovalores são: = 8, = 9 e 3 = 9, obtdos em Analyss Summary. Já os autovetores são: e ' = [ ], e ' = [ ] e e ' 3 = [ ] obtdos em Comonent Weghts. 3) Mostre que a forma quadrátca Q( ) = ode ser escrta na forma A. 4) Mostre que a matrz A = R.: Pelo TDE A = ' ' 3 é defnda não-negatva. e e e ré e ós-multlcando antes or e tem-se: A = e e e os autovalores de A são = 4 e =. Substtundo os valores 4 e no somatóro obtém-se como resultado 4y +y >. Portanto, A é defnda não negatva. 5) Verfque se a matrz A = 5 5 é defnda não negatva. 6) Determne a nversa da matrz A = 5 5. Matrz raz quadrada: a decomosção esectral ermte eressar a nversa de uma matrz quadrada em termos dos seus autovalores e autovetores e sto leva a uma matrz muto útl, que é a matrz raz quadrada (eercíco adante). Matrz demotente: a matrz quadrada A de ordem é chamada de demotente se A A = A = A EXERCÍCIOS: ) Seja uma matrz quadrada A, smétrca de ordem k k, determne A - dada a matrz dos autovalores e a matrz dos autovetores P (ortogonal). R.: Pelo TDE a matrz A = P P e dado que P é ortogonal tem-se que (P P ) (P - P ) = I e or dentdade, já que A - A = I, A - = P - P. 8

19 9 ) Elque or que é ossível escrever A - = P - P = k R.: Porque a matrz é dagonal e a nversa de uma matrz dagonal tem na sua dagonal rncal os nversos dos elementos de e P ode ser consderada como formada or uma lnha com os autovetores nessa lnha e P formada or uma coluna tendo os autovetores nessa coluna. ee '. 3) Seja uma matrz quadrada A, smétrca de ordem k k. Determne a matrz raz quadrada de A, A /, dada a matrz dos autovalores e a matrz dos autovetores P (ortogonal). R.: Pelo TDE a matrz A = P P e dado que P é ortogonal tem-se que (P / P ) (P / P ) = P P = A e or dentdade, já que A / A / = A, tem-se que a matrz raz quadrada é A / = P / P.. - Matrz e Vetor Aleatóro Um vetor aleatóro é o vetor cujos elementos são v.a s e de modo semelhante uma matrz aleatóra é a matrz cujas entradas são v.a s. Seja X uma matrz aleatóra de ordem n, então: E(X) = E( X E( X. E( X n ) ) ) E( X E( X. E( X n ) ) ).... E( X E( X. E( X n ) ) ) onde E(X j ) = j f j ( j ) d j Proredades: sejam X e Y matrzes aleatóras de mesmas dmensões e sejam A e B matrzes de constantes (não-aleatóras) de dmensões comatíves com X e Y. Então: a) E(X+Y) = E(X) + E(Y) b) E(AXB) = AE(X)B e se é E(X) = [ ] então é E(X )= Matrz de Covarânca: de um vetor aleatóro X é defnda or, = V(X) = E(X - )(X - ) EXERCÍCIOS: ) Construr a matrz de covarâncas do vetor aleatóro X R a artr da defnção anteror. 9

20 R.: V(X) = =. ) Construr a matrz de correlação do vetor aleatóro X a artr da matrz de covarânca R.: =., com j = j j 3) Mostre o resultado V / V / =. R.: Monte a matrz desvo adrão V / que é uma matrz dagonal com os desvos adrões na dagonal rncal; monte a matrz de correlação consderando que em cada entrada tem-se j = j j. Agora, multlque as matrzes. 4) Dada a matrz de covarânca a segur, determne a matrz raz quadrada V / e a matrz de correlação. = R.: Monte a matrz desvo adrão V / que é uma matrz dagonal com os desvos adrões na dagonal rncal. Já a matrz de correlação é formada consderando que em cada entrada j = j j. 5) Faça um quadro que contenha defnção, notação e eemlos trvas de: matrz escalar, vetor coluna, vetor de undades, matrz retangular, matrz quadrada, matrz dagonal, matrz dentdade, matrz smétrca, matrz de undades, matrz trangular sueror, matrz trangular nferor, matrz assmétrca, matrz nula, matrz defnda ostva, matrz defnda não-negatva e matrz demotente. 6) Faça um quadro que contenha as defnções das seguntes oerações com matrzes: Adção, subtração, multlcação or escalar, roduto nterno, multlcação, traço de uma matrz e determnante. 7) Dadas as matrzes abao determne as oerações ndcadas em seqüênca:

21 A = 3 4 B = e C = 3 a) A + B b) A - B c) A - B d) A + B e) (A+B) f) (3A -B) g) tr(a) h) tr(b) ) AB j) BC 8) Calcule a matrz nversa de A = MATRIZ DE DADOS, VETOR DE MÉDIAS E MATRIZ DE COVARIÂNCIA 3.- Matrz de Dados Uma matrz de dados com n undades observaconas e varáves ode ser escrta na segunte forma: j j undades observaconas X = =,,, n j =,,, n onde () = j j n n nj n (vetor lnha) e (j) = j j j nj (vetor coluna)

22 EXEMPLO Matrz de dados com 5 estudantes como undades observaconas e, dade em anos na entrada ara a unversdade, nota até no eame de fm do º ano e seo como as varáves, resectvamente, X, X e X 3. Veja adante. Varáves X X X 3 Observações dade nota seo 8,45 7 8, , , ,34 94 EXERCÍCIO: Para os dados do eemlo anteror escreva o vetor lnha da 3ª undade observaconal e o vetor coluna da ª varável: 3.- Vetor de Médas Dada a matrz n X = ( j ), =,, n tens e j =,, varáves, a méda amostral da j-ésma varável é dada or: j = n n j nx = j j n n nj n X n = n n n O vetor de médas amostral é dado or = [ ] e reresenta o centro de gravdade dos ontos amostras sendo que amostra da varável X. reresenta o centro de gravdade da EXEMPLO : Para a matrz de dados do eemlo, o vetor de médas ode ser obtdo calculando-se a méda de cada varável e montando o vetor médo. Comutaconalmente, ode-se usar o STATGRAPHICS segundo o camnho: DESCRIBE, NUMERIC DATA, MULTIPLE VARIABLE ANALYSIS. = [ 8,458 ; 74,4 ;,4 ]

23 3 O vetor de médas ode ser escrto em notação matrcal: = n n X ' n n 3.3- Matrz de Covarâncas Amostral e Matrz de Correlação Amostral A varânca amostral da j-ésma varável é: n s jj = ( j j) s j j =,,, varáves n A covarânca amostral entre a j-ésma e a k-ésma varável é: n s jk = ( j j)( k k ) jk n n j k =,,,n k,j =,,, n A matrz de ordem, S = (s jk ), com os elementos dados elas eressões acma é chamada MATRIZ DE COVARIÂNCIA AMOSTRAL. EXERCÍCIOS: ) Verfque a afrmação anteror. ) Calcule o vetor de médas amostral ara a matrz de dados do eemlo, usando a notação matrcal. 3) Calcule o vetor de médas, a matrz de covarânca e a matrz de correlação das varáves aleatóras observadas segundo a matrz de dados segunte. Os dados mostram os esos de deóstos de cascas de 8 árvores (árvore da cortça) em 4 dreções (N,S,L,O). N L S O N L S O

24 4 R.: Comutaconalmente, ode-se usar o STATGRAPHICS segundo o camnho: DESCRIBE, NUMERIC DATA, MULTIPLE VARIABLE ANALYSIS. Vetor médo amostral: X = [ ] A matrz de covarânca amostral é: S = A matrz de correlação amostral é: R = EXERCÍCIO ) Para os dados do eemlo 3.: a) Estme as varâncas das varáves X, X, X 3. b) Reta o tem a matrcalmente. c) Estme o coefcente de correlação entre as varáves X e X, X e X Vetores Aleatóros DEF : Um esaço de robabldade é um tro (,A, P) onde : a) é um conjunto não vazo (esaço amostral) ; b) A é uma -álgebra de subconjuntos de ; c) P é uma medda de robabldade em A. DEF. : Um vetor X = (X, X,,X ) cujas comonentes são varáves aleatóras defndas no mesmo esaço de robabldade (,A,P), é chamado vetor aleatóro - dmensonal. DEF. 3: Função de Dstrbução de Vetor Aleatóro A função de dstrbução F = F = F de um vetor aleatóro,,, P X = (X, X,, X P ) é defnda como : F() = F(,,, P ) = P(X, X,,X N P ) (,,, P ) R P F é também chamada função de dstrbução conjunta das varáves aleatóras X,X,,X P. 4

25 5 EXEMPLO: Uma urna contém 3 bolas numeradas,,3. Duas bolas são retradas sucessvamente da urna, ao acaso e sem reosção. Seja X o número da ª bola retrada e Y o número da ª. a) Escreva o esaço amostral. b) Escreva a dstrbução conjunta de (X,Y). c) Calcule a P(X Y). d) Calcule a F(,). 4- ANÁLISE DA ESTRUTURA DE COVARIÂNCIA 4.- Comonentes Prncas 4..- Introdução A Análse de Comonentes Prncas rocura elcar a estrutura de varânca-covarânca da matrz de dados através de combnações lneares não correlaconadas das varáves orgnas. Embora comonentes sejam necessáras ara reroduzr a varabldade total do sstema, freqüentemente muto dessa varabldade ode ser elcada or um número equeno, k, de comonentes rncas. Neste caso, este quase a mesma quantdade de nformação nas k comonentes que nas varáves orgnas. As k comonentes rncas odem, então, substtur as varáves ncas e, o conjunto de dados orgnal que consste de n meddas das varáves, é reduzdo ara um formado or n meddas das k comonentes rncas. A.C.P. freqüentemente revela relaconamentos que não são revamente susetos e ermte nterretações que oderam não ocorrer ordnaramente. OBJETIVOS DA A.C.P. º) Redução de dados; ) Obtenção de v.a s não correlaconadas; 3º) Interretação Comonentes Prncas da Poulação Algebrcamente comonentes rncas são C.L. s artculares das varáves aleatóras X, X,, X. Geometrcamente estas C.L. s reresentam a seleção de um novo sstema de coordenadas obtdo or rotação do sstema orgnal com X, X,, X como eos. Os novos eos Y, Y,,Y reresentam as dreções com varabldade máma e fornecem uma descrção mas smles e mas arcmonosa da estrutura de covarânca. As comonentes rncas deendem da matrz de covarâncas (ou da matrz de correlação ) das v.a s X, X,, X. O seu desenvolvmento não necessta da suosção de Gaussandade. Por outro lado a Análse de Comonentes Prncas 5

26 6 dervada de oulações normas multvaradas tem sua nterretação usual em termos de elsódes de densdade constante, X Y X Y Seja o vetor aleatóro X = [X, X,,X ] que tem vetor de médas = E(X) e matrz de covarânca = V(X) com autovalores. Consdere as C.L s Y = c X = c X + c X + +c X Y = c X = c X + c X + +c X C = Y = c X = c X + c X + +c X c c c c c c c c c Então, tem-se Y = Y Y Y = c c c c c c c c c X X X = C X e V(Y ) = V(c X) = c V(X)c = c c cov(y,y k ) = c c k cov(y ) = V( C X) = C C As comonentes rncas são as C.L s não-correlaconadas Y, Y,, Y cujas varâncas são tão grande quanto ossível. Assm: a a comonente rncal é a C.L com varânca máma, sto é, é a C.L. que mamza V(c X) sujeto a restrção c c = (vetor de comrmento untáro); a a comonente rncal é a C.L. que mamza V(c X) sujeto a restrção c c = e assm sucessvamente. 6

27 7 RESULTADO 4. Seja a matrz de covarâncas assocada ao vetor aleatóro X = [X, X,, X ] e que tem os ares de autovalor-autovetor (, e ),(, e ),,(, e ) onde. A -ésma comonente rncal é dada or Y = e X, que tem V(Y ) = e e = e cov(y,y k ) = k. Se algum é gual a outro, na escolha do corresondente vetor de coefcentes e, Y então não é únco. EXERCÍCIOS ) Enuncar e demonstrar o resultado sobre mamzação de formas quadrátcas ara ontos na esfera untára. R.: Seja a matrz B de ordem ostva defnda com auto valores > >. > > e com os resectvos autovetores adronzados e, e,., e. Então, o B ma ' ' B = que é alcançado em = e e o mn = ' que é alcançado em = e, além dsso consderando os vetores e, e,., e k o k+ alcançado em = e k+, com k =,,..,. ' B ma = ' Prova: Seja P a matrz ortogonal cujas colunas são os autovetores e, e,., e de B e a matrz dagonal dos autovalores de B. Seja, anda, B / = P / P e y = P com dmensões comatíves. Então, com tem-se / / ' B B = ' PP' ' P / P' P ' PP' / P' = y' y' y y = y y < y y =. ' B ' ' Agora, fazendo = e tem-se y = P e = [. ] e substtundo este valor, y' y e e em obtém-se =,. y' y e e De modo semelhante rova-se ara o menor autovalor. Fnalmente, com = Py = y e +. + y e e e,.., e k tem-se: = e, = y e, e +. + y e, e = y < k. Conseqüentemente, ara erendcular aos rmeros k autovetores e tem-se ' B ' em. = y y e fazendo y k+ = e y k+ =. = y = alcança-se o mámo = 7

28 8 ) Prove o resultado 4., enuncado anterormente. Prova: Do resultado mamzação de formas quadrátcas ara ontos na esfera ', B e e untára tem-se que ma = ' e com B = resulta ma =, = e e e V(Y ), os Y = e, X e V(Y ) = V(e, Xe ) = e, e. De modo semelhante rova-se ara o menor autovalor. E, do resultado ctado tem-se que ara erendcular aos rmeros k autovetores e tem-se o mámo de e, k e k = V(Y k+ ) ' ' em k+ k =,, - e com = e k+ tem-se: Fnalmente, cov(y, Y k ) = cov(e, ; e, k ) = E[(e, - e, )(e, k - e, k ) ] = e, e k E, ré-multlcando a eressão da defnção e k = ke k or e, resulta e, e k = e, ke k =, os os autovetores são erendculares. 3) Determne a varânca da comonente rncal Y e a covarânca entre Y j e Y k. R.: V(Y ) = V(e ' ) = e ' V()e B = e ' e e já fo rovado que ma = ' alcançado em = e. Portanto, substtundo = e na eressão do mámo resulta em ' e ' e = = V(Y ), os e ' e =, no denomnador. 4) Prove que a soma das varâncas das v.a s X é gual a soma das varâncas das comonentes rncas Y e que é gual a soma dos autovalores de matrz de covarânca das v.a s. R.: Da matrz de covarânca tem-se = +. + = tr( ) e do TDE tem-se que = P P = tr( P P) = tr( ) = + + = V(Y ) = = ) Determne o coefcente de correlação entre a comonente rncal Y j e a v.a. X k. R.: Seja c ' k = [ ] com na osção k, de modo que X k = c ' k X e ré-multlcando a defnção e = e or c ' k resulta: c ' k e = c ' k e. Então, como cov(x k, Y ) = c ' k e = c ' k e = e k tem-se que: (Y, X k ) = cov(y,x V(Y ) k ) V(X k = ) e e k k = k O resultado enuncado e demonstrado no eercíco 4 garante que a varânca total oulaconal é gual a soma das varâncas das comonentes rncas. E, k 8

29 9 consequentemente, a roorção da varânca total elcada (devdo a) ela k-ésma comonente rncal é: k k =,,., Por outro lado, se a maor arte da varânca oulaconal ode ser atrbuída a uma, duas ou k comonentes, então estas k comonentes odem substtur as varáves orgnas sem muta erda de nformação. EXERCÍCIO: Dada a matrz de covarânca = 5 do vetor aleatóro X = (X,X,X 3 ): a) determne os ares de autovalor-autovetor da matrz de covarânca; R.: Dgte a matrz na lanlha do STATGRAPHICS e sga o segunte camnho: SPECIAL, MULTIVARIATE METHODS, PRINCIPAL COMPONENTS (não adronze). O resultado é: Prncal Comonents Analyss Comonent Percent of Cumulatve Number Egenvalue Varance Percentage Comonent Comonent Comonent X X X b) escreva as comonentes rncas; R.: A ª. comonente rncal é Y = e ' X = -.38X +.93X c) determne a V(Y ); R.: V(Y ) = 5,8843 d) escreva a matrz C das combnações lneares referente às comonentes rncas; R: c c c C = c c c c c c e) calcule a matrz de covarâncas do vetor de comonentes rncas Y; 9

30 3 R.: V(Y) = V(Y ) V(Y ) V(Y ) 3 = 5,8843,7573 OBS. Fora da dagonal rncal são zeros, os as comonentes são não correlaconadas. f) determne a roorção da varânca total que cabe a cada uma das comonentes rncas; R.: Comonent Percent of Cumulatve Number Varance Percentage Y Y Y g) qual a roorção da varânca total elcada elas duas rmeras comonentes rncas; R.: 97,855% h) calcule os coefcentes de correlação entre a comonente Y e as v.a s X e X ; R.: (Y, X k ) = (Y, X ) = (Y, X ) = e k k e e, então = =,3868 5,8843 = -,93,9388 5,8843 =,997 5 ) calcule os coefcentes de correlação entre a comonente Y e as v.a s X, X e X 3 ; R.:,,. j) faça alguma conclusão quanto as comonentes rncas e as v.a s orgnas. R.: As comonentes Y e Y odem substtur as três varáves orgnas com ouca erda de nformação. A comonente Y é dêntca à varável X 3. 3

31 Comonentes rncas obtdas de v.a s adronzadas As comonentes rncas odem ser obtdas, também, de v.a s adronzadas, ou seja, de Z = X onde V / é a matrz desvo-adrão da forma V / = =,,, que em notação matrcal é Z = (V / ) - [X - ] É claro que E(Z) = e é também fácl verfcar que V / V / =. As comonentes rncas de Z odem ser obtdas dos autovalores e autovetores da matrz de correlação de X.. RESULTADO 4. A -ésma comonente rncal das v.a s adronzadas Z =,,, com matrz de covarânca V(Z) = é dada or Y = e Z e com a soma das varâncas de Y gual a e a correlação entre Y e Z k, (Y,Z k ) = e k,k =,,.,, sendo neste caso que os autovalores e autovetores são obtdos da matrz de correlação. Assm, elo resultado anteror vemos que a roorção da varânca oulaconal (adronzada) devdo a k-ésma comonente rncal é dada or: k/ k =,,,. EXERCÍCIOS: ) Prove o resultado 4.. R.: Semelhante ao 4.. ) Seja a matrz de covarânca = 4 4 do vetor aleatóro X = [X X ]. a) Determne a matrz de correlação do vetor; 4 R.: =...4 = b) determne os ares de autovalor-autovetor de ; 3

32 3 R.: Prncal Comonents Analyss Comonent Percent of Cumulatve Number Egenvalue Varance Percentage e e c) determne os ares de autovalor-autovetor de ; R.: Prncal Comonents Analyss Comonent Percent of Cumulatve Number Egenvalue Varance Percentage e e X X d) determne as comonentes rncas, or ; R.: e) determne as comonentes rncas, or ; R.: f) determne as varâncas das comonentes rncas, or e or ; g) determne a roorção da varação total que cabe /c/ uma das comonentes rncas; h) calcule os coefcentes de correlação entre Y e X e X ; ) calcule os coefcentes de correlação entre Y e Z e Z ; 5..4 Comonentes rncas a artr da amostra Suonha que,,.., n são n observações do vetor aleatóro X -dmensonal com vetor de médas e matrz de covarânca. Estes dados roduzem o vetor de médas amostral, a matrz de covarânca amostral S e, a matrz de correlação amostral R. Então, as comonentes rncas da amostra são determnadas a artr dessas matrzes e são defndas como as combnações lneares que mamzam a varânca amostral. Sendo assm, com S como a matrz de covarânca amostral de ordem 3

33 33 com os ares de autovalor-autovetor ( ˆ, ê ), ( ˆ, ê ),, ( ˆ, a -ésma comonente rncal amostral é dada or ˆ, ê ) onde ˆ ˆ Yˆ = ê = ê + ê + + ê =,,, A varânca amostral de Ŷ k é dada or ˆ k k =,,., e valem os resultados rovados ara a stuação oulaconal consderando o conteto amostral. EXERCÍCIOS: ) O censo de 97 forneceu nformações sobre 5 varáves sóco-econômcas de determnada regão. Os dados roduzram os seguntes resultados: 4, 3 = 4,, 95, 7, 45 ª lnha - oulação (ml) ª lnha - dade escolar méda (anos) 3ª lnha - total de emregados (ml) 4ª lnha - total de emregados em servços lgados a saúde () 5ª lnha - valor médo de resdêncas S = 4,38,683,83,55,53,683,768,588,77,76,83,588,8,65,58,55,77,65,97,357,53,76,58,357,54 Pergunta-se: Pode a varação total amostral ser sumarada or ou comonentes rncas? ) Em um estudo sobre o relaconamento entre comrmento e forma de tartarugas ntadas, dos centstas medram o comrmento da caraaça, largura e altura. Seus dados, sugerem uma análse em termos de logartmos. O objetvo do trabalho era dar um sgnfcado ara os concetos de tamanho e forma. Foram fetas as meddas de X (comrmento), X (largura) e X 3 (altura) em 4 tartarugas machos e os valores estão no arquvo to STATGRAPHICS denomnado aostla. Pedese: a) Transforme as meddas em logartmos neeranos; 33

34 34 R.: Para transformar a varável comturtle em logartmo base e marque uma coluna vaza, aerte o botão da dreta do mouse, escolha GENERATE DATA, vá na janela OPERATORS, escolha log(?), reencha o? com a coluna comturtle. Reta o rocedmento ara as outras duas varáves. As três varáves logartmadas aarecerão na lanlha de dados do STATGRAPHCS. b) Calcule a matrz de covarânca dos dados transformados; R.: Alcando o STATGRAPHICS no camnho DESCRIBE, NUMERIC DATA, MULTIPLE VARIABLE ANALYSIS. O resultado aarecerá na tela covarances. Você ode salvar a matrz aertando o botão do dsquete e marcando ara salvar covarances. S = = - c) Calcule a matrz de correlação dos dados transformados; R.: Sga o mesmo camnho do tem (b), resultado aarece na tela correlatons. Você ode salvar a matrz aertando o botão do dsquete e marcando ara salvar correlaton. R = d) Calcule os autovalores e autovetores de S; R.: Você ode obtê-los das varáves transformadas ou da róra matrz S que você salvou, dá no mesmo. Usando a matrz S sga o camnho: SPECIAL, MULTIVARIATE METHODS, PRINCIPAL COMPONENTS. Agora, vá na tela SUMMARY ANALYSIS, tecle o botão da dreta do mouse, ANALYSIS OPTIONS e desmarque STANDARTIZED. Prncal Comonents Analyss Comonent Percent of Cumulatve Number Egenvalue Varance Percentage Autovetores (veram da tela comonent weghts) Comonent Comonent Comonent VMAT_ VMAT_ VMAT_

35 35 e) Determne as comonentes rncas Y, Y e Y 3; R.: Y =,683lnCOMP +,5lnLARG +,5lnALT Y = -,59lnCOMP -,594lnLARG +,6lnALT Y 3 = -,73lnCOMP +,6lnLARG +,34lnALT f) Qual a orcentagem da varânca total elcada or cada uma das comonentes rncas? R.: Prncal Comonents Analyss Comonent Percent of Cumulatve Number Egenvalue Varance Percentage g) Calcule os coefcentes de correlação entre as comonentes e as v.a s orgnas; R.: Basta alcar a fórmula (Y, X k ) = e e k k, então.683,33 (Y, X ) = =,7 As outras correlações são achadas de modo semelhante. h) Tente nterretar a ª. comonente rncal. 3) Berce e Wlbau (935) coletaram meddas de 5 varáves meteorológcas durante um eríodo de anos. As varáves são: ANO X X X 3 X 4 X a) Estme com base na amostra de tamanho n = observações do vetor X o vetor médo oulaconal, a matrz de covarânca e a matrz de correlação oulaconal; b) Calcule os autovetores e os autovalores da matrz de correlação R; c) Escreva as comonentes rncas com base na matrz de correlação R; 35

36 36 d) Determne a arcela da varação total elcada or cada uma das comonentes rncas; e) Calcule os coefcentes de correlação entre as comonentes rncas Y j e as varáves orgnas X j j=,, 5; f) Usando a matrz de covarâncas S que você obteve no tem a determne as comonentes rncas e determne a roorção da varânca total elcada or elas. Comare com o que você obteve anterormente com base em R. Qual a nterretação é mas sgnfcatva. 5.- Análse Fatoral 5..- Introdução A Análse Fatoral teve níco modernamente no rncío do século XX com K. Pearson e C. Searman, que estudaram as meddas de ntelgênca. A dfculdade nos cálculos medu um desenvolvmento maor da técnca. O advento dos comutadores altamente velozes troue de novo o nteresse nos asectos teórcos e comutaconas da Análse Fatoral. O objetvo da A.F. é descrever, se ossível, a estrutura de covarânca dos relaconamentos entre mutas varáves em termos de oucas varáves fundamentas, mas não observáves (latentes), aleatóras chamadas FATORES. Suonha que varáves ossam ser agruadas or suas correlações, sto é, todas as varáves dentro de um gruo artcular são altamente correlaconadas entre s, mas têm correlações relatvamente baas com varáves de um gruo dferente. É admssível que cada gruo de varáves reresente um FATOR, que é resonsável elas correlações observadas. Por eemlo: ) As correlações no gruo das notas dos testes de Inglês, Francês, Matemátca e Músca sugerem um FATOR FUNDAMENTAL (não observável dretamente), a ntelgênca. ) A correlação alta entre as varáves sabor e aroma na avalação de um roduto almentíco sugere um FATOR FUNDAMENTAL (não observável dretamente), o aladar Objetvos da Análse Fatoral O objetvo da análse fatoral é agruar as nformações contdas em um grande número de varáves orgnas, em um conjunto menor de fatores com o mínmo de erda de nformação. Em GONTIJO & AGUIRRE (988) encontram-se descrtos os objetvos da análse fatoral. São eles: 36

37 37. Harmonzar ou condensar um grande número de observações em gruos;. Obter o menor número de varáves a artr do materal orgnal e reroduzr toda a nformação de forma resumda; 3. Obter os fatores que reroduzam um adrão searado de relações entre as varáves; 4. Interretar de forma lógca o adrão de relações entre as varáves; 5. Identfcar as varáves aroradas ara uma osteror análse de regressão e correlação ou análse dscrmnante. Segundo os mesmos autores, estem certos fatores causas geras na análse fatoral que orgnam as correlações observadas entre as varáves, sendo assm odese consderar que mutas relações entre as varáves são dervadas dos mesmos fatores causas geras, e o número de fatores deverá ser menor que o número de varáves. Assm a análse fatoral, or meos de técncas estatístcas, ode encontra uma forma resumda das nformações contda na matrz de dados, transformando as mutas varáves orgnas em um conjunto menor de novas varáves estatístcas (fatores) com erda mínma de nformações. Mas esecfcamente, as técncas de análse fatoral atendem um entre dos objetvos: Identfcar uma estrutura or meo do resumo dos dados: ao analsar as correlações entre as varáves, torna-se ossível dentfcar as relações estruturas estente entre essas varáves. A análse fatoral, alcada a um conjunto de varáves é utlzada ara dentfcar as dmensões latentes (fatores), enquanto a análse fatoral alcada a uma matrz de correlação de resondentes ndvduas consste em um método de agruamento; Redução de Dados: or meo da análse fatoral, é ossível dentfcar as varáves reresentatvas de um conjunto maor crando um novo conjunto de varáves, muto menor que o orgnal, que oderá substtur sem muto rejuízo, o conjunto orgnal de varáves. Nos dos casos, o roósto é manter a natureza e o caráter das varáves orgnas, reduzndo seu número ara smlfcar a análse multvarada a ser alcada osterormente sem comrometer o resultado da análse. PASCHOAL e TAMAYO (4) sugerem o uso da técnca de análse fatoral como forma de valdação de nstrumentos de esqusa, questonáros ou coletas de dados, ossbltando o agruamento dos tens da escala, bem como a dentfcação das varáves reresentatvas do conjunto orgnal Suosções da Análse Fatoral A verfcação da suosção de Gaussandade ara os dados é necessára somente quando um teste estatístco for alcado ara verfcar a sgnfcânca dos fatores. Devdo ao fato de que a análse fatoral dentfca e agrua conjuntos de varáves nter-relaconadas, há necessdade de que esta um certo grau de multcolneardade (uma varável ode ser elcada or outra varável) entre as varáves, e a matrz de dados deve aresentar correlações não-nulas. 37

38 38 TESTE DE ESFERICIDADE DE BARTLETT O teste de esfercdade de Bartlett é um dos meos de se verfcar a adequação alcação da análse fatoral aos dados. O teste dentfca a resença de correlações não-nulas entre varáves. Esse teste serve ara testar a hótese nula de que a matrz de correlação é uma matrz dentdade. Se essa hótese for rejetada, então a análse fatoral ode ser alcada (FERREIRA JÚNIOR, 4). O teste eamna a matrz de correlação nterna, e fornece a robabldade estatístca de que a matrz de correlações ossu correlações estatstcamente sgnfcatvas entre elo menos um ar de varáves, sendo que o teste é mas efcente em detectar as correlações na medda em que se aumenta o tamanho da amostra. A hótese de nteresse é dada or: H : Σ = Σ = σ I O teste dessa hótese é alcado com base em uma a.a. de uma dstrbução normal - varada com vetor de médas μ e natrz de covarânca. Então, a estatístca do teste é: CRITÉRIO DE KAISER-MEYER-OLKIN KMO O crtéro de Kaser-Meyer-Olkn KMO é outra forma ara dentfcar se o modelo de análse fatoral que está sendo utlzado está adequadamente ajustado aos dados, sto se dá testando a consstênca geral dos dados. O método verfca se a matrz de correlação nversa é róma da matrz dagonal, consste em comarar os valores dos coefcentes de correlação lnear observados com os valores dos coefcentes de correlação arcal. A medda de adequacdade que fundamenta esse rncío é dada ela segunte eressão: KMO rj j rj j j a j em que rj é o coefcente de correlação smles entre as varáves X e coefcente de correlação arcal entre X e X j, dados os outros X j, e a j é o Para nterretação do crtéro de KMO, os valores vão varar de a, os, equenos valores de KMO ndcam que o uso da análse fatoral não é adequada, e quanto mas rómo de, mas adequada é a alcação da análse fatoral nos dados. Assm este a segunte referênca conforme TABELA adante. X s. 38

39 39 TABELA TABELA DE CRITÉRIO DE KAISER-MEYER-OLKIN KMO Tabela de Crtéro de Kaser-Meyer-Olkn KMO Valor Grau da Adequação da Amostra >,9 Ótma de,8 a,9 Boa de,7 a,8 Razoável de,6 a,7 Baa <,6 Inadequada FONTE: Adatado de MINGOTI,S. A. Análse de dados através de métodos de estatístca multvarada. NOTA: Tabela ara nterretação do Crtéro de Kaser-Meyer-Olkn KMO O Modelo Fatoral Ortogonal Seja o v.a. observável X, com comonentes, X (, ). O modelo fatoral ostula que X é lnearmente deendente sobre algumas varáves aleatóras não observáves (latentes) F, F,, F m (m < ) chamadas fatores comuns (m fatores etraídos dos estentes) e fontes de varação adtvas,,..,, chamadas erros ou, algumas vezes, fatores esecífcos, X - = F + F + + m F m + X - = F + F + + m F m + X - = F + F + + m F m + X - = F + F + + m F m + ou, em notação matrcal : X L F m m Os coefcentes j (entradas da matrz L) são chamados de esos ou carregamentos e, esecfcamente, j é o carregamento na -ésma varável do j-ésmo fator, tal que a matrz L é a matrz de carregamentos (esos) dos fatores. Note que o fator m esecífco ou erro é assocado somente com a -ésma varável orgnal X. Os desvos X -, X -,, X - são eressos em termos de +m varáves aleatóras: F, F,, F m,,,, que não são observáves. Isto dstngue o modelo fatoral do modelo de regressão multvarada, cujas varáves ndeendentes (cujas osções são ocuadas or F) odem ser observadas. Agora vamos assumr que: E(F) = m, cov(f) = E(FF ) = I m 39

40 4 E( ) =, cov( ) = E( ) = 3 e que F e são ndeendentes, assm cov (,F) = E(,F ) = com m = Com estas suosções o relaconamento construído em X modelo fatoral ortogonal e ode ser escrto X L F m m L F m m é chamado MATRIZ DE COVARIÂNCIA DO VETOR X: Consderando a matrz: (X - ) (X - ) = (LF + ) (LF + ) = (LF + ) ((LF) + ) = LF(LF) + (LF) + LF + a matrz de covarânca de X é : = cov (X) = E(X - ) (X - ) = E[LF(LF) + (LF) + LF + ] = LE(FF )L + E( F ) L + LE(F ) + E( ) = LL = LL + Conseqüentemente tem-se V(X ) = =,,..,. m Assm, a matrz de covarânca ode ser decomosta em duas artes (matrzes) LL e. A matrz é chamada de matrz de varâncas esecífcas; é uma matrz dagonal ossundo na dagonal rncal as varâncas esecífcas das varáves orgnas. Já a matrz roduto LL tem na dagonal rncal as comunaldades =,,.., ( j =,,, m). m A covarânca entre o vetor das varáves orgnas X e o vetor dos fatores F é: cov (X, F) = E[(X - )(F - ) ] = E[(X - )F ] = E[( + LF + - )F ] = E[(LF + )F ] = LE(FF ) + E( F ) = LI m + = L h = cov(x, X k ) = k + k + + m km 4

41 4 cov(x, F j ) = j COMUNALIDADES E VARIÂNCIAS ESPECÍFICAS : A orção da varânca da -ésma varável aleatóra X advnda como contrbução dos m fatores comuns (etraídos) é chamada de COMUNALIDADE e a orção da V(X ) = = orunda do fator esecífco é a VARIÂNCIA ESPECÍFICA. Assm, tem-se: V(X ) = V[ + F + F ++ m F m + ] = = V( )+ V F V F V F V ( ) ( ) m ( m) ( ) = + m V(X ) = m comunaldade varanca esecfca V(X ) = h =,,, com h m sendo a soma de quadrados dos carregamentos na -ésma varável dos m fatores comuns (etraídos) Estmação Dadas as observações,,, n de varáves geralmente correlaconadas a Análse Fatoral rocura resonder a ergunta: Reresentará o modelo fatoral os dados adequadamente, com um número m < (bao) de fatores? A matrz de covarânca amostral S é um estmador da matrz de covarâncas oulaconal desconhecda. Se os elementos fora da dagonal de S são baos ou equvalentemente na matrz de correlação amostral R eles são ratcamente nulos as varáves não são relaconadas e a Análse Fatoral não é útl. Por outro lado quando é sgnfcatvamente dferente de uma matrz dagonal, então o modelo fatoral ode ser usado e o roblema ncal é o de estmar os carregamentos (esos) j e as varâncas esecífcas. Vamos consderar no nosso estudo a estmação elo Método das Comonentes Prncas. Seja a matrz de covarâncas de X, então, dado que seja ostva defnda, odemos decomô-la na forma abao, segundo a decomosção esectral: [ ' ' ' ee e e. e e e e e ] e e e ' ' ' = LL se m =, então, = Assm, se = LL + tem-se = no ajuste do modelo fatoral. Eceto elo escalar, os carregamentos no j-ésmo fator são os coefcentes oulaconas na j j-ésma comonente rncal. Embora a reresentação de = LL + = LL seja 4

42 4 eata, ela não é artcularmente útl, os tem mutos fatores comuns. É referível um modelo que elque a estrutura de covarânca em termos de oucos fatores comuns. Uma aromação, quando - m autovalores são baos, é neglgencar a contrbução de m+e m+ e m+ + m+e m+ e m+ + + e e ara na decomosção esectral. Assm, tem-se: e e m e m ] = LL de ordem m e e e m Esta reresentação aromada assume que os fatores esecífcos são de menor mortânca e odem, também, ser gnorados na fatorzação de. Se os fatores esecífcos são ncluídos no modelo, suas varâncas são os elementos da dagonal da matrz dferença - LL e conseqüentemente = - j j m ara =,,.,. Para alcar esta abordagem aos dados amostras,,, n é usual, rmero, centrar as observações subtrando a méda amostral. As observações centradas são: [ j - ] = j j j j =,,3,., n Pode-se, também, trabalhar com as varáves adronzadas, z j = j j s s s j =,,.., n cuja matrz de correlação amostral é a matrz de correlação R das observações orgnas,,, n. A reresentação LL +, quando se usa a matrz de covarânca S ou, então, a matrz de correlação R, é conhecda como Solução Por Comonentes Prncas. 4

43 43 RESUMO DA SOLUÇÃO POR COMPONENTES PRINCIPAIS PARA O MODELO FATORIAL A Análse Fatoral or Comonentes Prncas da matrz de covarânca S é esecfcada em termos de seus ares de autovalor/autovetor (, e ),(, e ),,(, e ) onde. Seja m < o número de fatores comuns etraídos. A matrz dos carregamentos estmados j é dada or: Lˆ [ ˆ e ˆ ˆ e ˆ ˆ m ê m ] As varâncas esecífcas estmadas são dadas elos elementos da matrz ˆ = S - LL, ˆ = ˆ ˆ ˆ com ˆ = s - m As comunaldades são estmadas or: ĥ ˆ ˆ ˆ m E, ara determnar o número m de fatores comuns, o ndcado é basear-se na roorção da varânca amostral devdo a cada fator, que é: ˆ j s ˆ j s ˆ j s ara a análse feta a artr de S ara análse feta a artr de R Consderando a solução or comonentes rncas artndo-se da matrz S ou R que fornece os ares de autovalores/autovetores ( ˆ, ê ), ( ˆ, ê ),,( ˆ, ê ) onde ˆ ˆ ˆ tem-se a matrz de carregamentos (esos, loads) Lˆ = m m m ˆ ˆ ˆ = ê ê ê ˆ ˆ ˆ ê ê ê ˆ ˆ ˆ ê ê ê ˆ ˆ m m ˆ ê m ê ê m m m e a matrz de varâncas esecífcas é: ˆ = ˆ ˆ ˆ com ˆ = s - m ˆ j j e onde as comunaldades estmadas são nterretar estes resultados como: ĥ = ˆ ˆ ˆ = m m j ˆ j e odemos 43

44 44 a contrbução do o. fator / a varânca s = s da v.a. é ˆ a contrbução do o. fator / a varânca total s +s + +s = tr(s) é m ˆ EXERCÍCIOS: ) Prove ou dsrove que ˆ ˆ = ) Eresse a roorção da varânca amostral devda ao -ésmo fator em função dos carregamentos (esos) e das varâncas das varáves orgnas. 3) Em uma esqusa sobre referênca do consumdor, uma a.a. de consumdores fo tomada e erguntou-se sobre os dversos atrbutos de um novo roduto. As resostas, em notas numa escala até 7 ontos, foram tabuladas e a matrz de correlação R construída. As notas se referem a: sabor, reço, aroma, refeção ráda e se o sanduíche é nutrtvo nesta ordem. R = a) Você dstngura alguns gruos na matrz? b) Calcule os autovalores e autovetores de R; c) Esecfque o número de fatores comuns na Análse Fatoral; d) Estme a matrz dos carregamentos L; e) Estme as comunaldades; f) Estme as varâncas esecífcas; g) Monte uma tabela com os carregamentos estmados dos fatores, comunaldades e varâncas esecífcas. Interrete os fatores Rotação dos Fatores Os carregamentos obtdos medante uma dervação dos carregamentos ncas, medante uma transformação ortogonal têm a mesma habldade ara reroduzr a matrz de covarânca ou de correlação. Da álgebra matrcal, nós sabemos que uma transformação ortogonal corresonde a uma rotação rígda dos eos coordenados. Se L é a matrz estmada dos carregamentos dos fatores, então: L * = L T, onde TT = T T = I, T ortogonal, é a matrz dos carregamentos rotaconados. Além dsso, a matrz de covarânca (ou de correlação) ermanece ntacta, os: 44

45 45 L L + = L TT L + = L * L * + e também a matrz dos resíduos S - L L - = S - L * L * - ermanece ntacta e, anda, as varâncas esecífcas e as comunaldades h não se alteram. Portanto, do onto de vsta matemátco, não é mortante se L ou L * é defnda. Às vezes não é fácl nterretar os carregamentos orgnas e, então, é usual fazer uma rotação dos carregamentos até que uma estrutura smles seja alcançada. Idealmente, nós gostaríamos de ter uma estrutura de cargas tal que cada varável tenha um alto eso em um únco fator determnado e baos ou moderados esos nos demas fatores. Não é semre ossível obter esta estrutura smles, embora a rotação forneça uma estrutura róma da deal. Uma medda analítca da estrutura smles é o conhecdo crtéro VARIMAX, que defne * * e e / h como sendo os coefcentes j j j escalonados ela raz quadrada das comunaldades. O crtéro selecona a transformação ortogonal T que faz V = m *4 * j j j e ( e ) / tão grande quanto ossível. Escalonar os coefcentes rotaconados e * j tem o efeto de dar às varáves com equenas comunaldades maor eso na determnação da estrutura smles. Aós a transformação T ser determnada, os esos * e j são multlcados or h j tal que as comunaldades orgnas sejam reservadas. Quando m =, ou se consderarmos dos fatores comuns de uma vez, a transformação ara uma estrutura smles ode freqüentemente ser determnada grafcamente. Um gráfco dos ares de carregamentos ( e, e ) =,,, roduzem ontos, um ara cada varável. Então os eos odem ser rotaconados de um ângulo, e os novos carregamentos obtdos e * j são determnados: L * = L T. A matrz T é neste caso, T = cos sen sen cos com rotação no sentdo horáro. EXERCÍCIOS: 4) Faça uma rotação dos fatores, ara os dados do eercíco 3. 5) Dados sobre os valores de ações consstem de n = taas semanas de = 5 ações. As ações ertencem às emresas: Alled Chemcal, Du Pont, Unon Carbde, Eon e Teaco. A matrz R é dada adante e os dados estão na tabela T8.3. Obtenha os autovalores e autovetores de R. Sabendo, esecfcamente, que os carregamentos (esos) estmados são os coefcentes das comonentes rncas amostras multlcados ela raz quadrada dos autovalores corresondentes calcule os carregamentos estmados dos fatores e as varâncas esecífcas. Monte uma tabela com os resultados, nclusve roorção da varânca amostral (adronzada) 45

46 46 elcada or cada fator ara as soluções com m = e m = fatores. Procure nterretar os resultados da Análse Fatoral. R = ) Faça uma rotação nos fatores do roblema 5 e construa o quadro comleto da Análse Fatoral Escores Fatoras Na Análse Fatoral, o nteresse usual está nos arâmetros do modelo fatoral. Contudo, os valores estmados dos fatores comuns, também chamados escores fatoras, odem ser necessáros. Estas quantdades são freqüentemente usadas ara dagnostcar roostas da mesma forma que a análse anteror. Escores fatoras não são estmatvas de arâmetros desconhecdos no sentdo usual. Mas, na verdade, eles são estmatvas de valores não observáves dos vetores de fatores aleatóros Fj, j =,,, m. Isto é, escore fatoral f é a estmatva do valor f j assumdo or F j. A estmação é comlcada elo fato de que as quantdades f j e j sueram em número os valores observados j. Para suerar essa dfculdade são usadas aromações ara estmar os valores fatoras. Estem, bascamente, dos métodos que têm dos elementos em comum:. Eles tratam os carregamentos estmados j e as varâncas esecífcas ˆ como se eles fossem os verdaderos valores;. Eles envolvem transformações dos dados orgnas, adronzados. Tcamente, os carregamentos rotaconados são melhores do que os carregamentos orgnas ara se calcular os escores fatoras Método dos Mínmos Quadrados Suondo, de níco, que o vetor médo, a matrz de carregamentos L e a matrz de varâncas esecífcas sejam conhecdos no modelo X - = LF +, então a soma dos quadrados dos erros, onderados elos recírocos das suas varâncas, é: = - = (X - - LF) - ((X - - LF), 46

47 47 Bartlett roôs escolher os estmadores f de f que mnmzam a eressão anteror, resultando nas estmatvas dos arâmetros oulaconas elo Método da Máma Verossmlhança, no estmador: fˆ = ( L L Lˆ ' ˆ ˆ) ˆ ( j j ) j =,,.., n ou se a análse é feta a artr da matrz de correlação R fˆ = ( L ' j ˆ z ' ˆ z z ) ˆ z z z j j =,,.,n Lˆ Lˆ Mas, quando se usa Comonentes Prncas ara estmar os carregamentos é costume estmar os escores fatoras usando os Mínmos Quadrados Ordnáros. Desta forma, as varâncas esecífcas são consderadas como guas ou como aromadamente guas e os escores são: fˆ = ( L L ) - j L (j - ) j =,,3,.,n ou se a análse é feta a artr da matrz de correlação R fˆ = ( L ' j ˆ z Lˆ ) z j =,,.,n z Lˆ' z j EXERCÍCIOS: 7) Em uma Análse Fatoral obteve-se a matrz de carregamentos rotaconados obtdos or Máma Verossmlhança e a matrz das varâncas esecífcas corresondente. Tem-se também a matrz de carregamentos e matrz das varâncas esecífcas obtdas or Comonentes Prncas. Tem-se, anda, um vetor de dados (que corresonde a taas semanas de retorno de nvestmentos em 5 comanhas do setor químco (três rmeras varáves) e setor etrolífero (duas últmas varáves)) e o vetor médo ara semanas observadas. Obtenha os escores fatoras corresondentes aos fatores e ara a 5 a. semana (vetor de dados aresentado). Reta o rocesso com os dados adronzados e ara a observação ndcada or z abao. Lˆ = ˆ Taas L ˆ * z = ˆ z

48 48 = [ ] ' = [ ] z = [ ] 48

49 Análse de Correlação Canônca Introdução A Análse de Correlação Canônca é uma técnca estatístca que trata da dentfcação e quantfcação da assocação entre dos gruos de varáves. Bascamente, o objetvo dessa técnca é determnar as combnações lneares c ' e c ' y tas que tenham a maor correlação ossível. Tas correlações odem dar dscernmento sobre o relaconamento entre os dos conjuntos de varáves. A déa é determnar rmero o ar de c.l s que tenha maor correlação. Em seguda, determna-se o ar de c.l s, segunte, que tenha maor correlação, escolhdo entre todos os ares não correlaconados com o rmero ar já seleconado. E assm sucessvamente. Os ares de c.l s são chamados de varáves canôncas e suas correlações são as correlações canôncas. Pode-se entender a Análse de Correlação Canônca como uma etensão da Análse de Regressão Múltla. Na Análse de Regressão Múltla as varáves formam o conjunto das covaráves com varáves e o conjunto da varável resosta y com uma únca varável. A solução do roblema de regressão múltla trata de achar a c.l. que é altamente correlaconada com y. Já na Análse de Correlação Canônca o conjunto y contém > varáves e rocura-se os vetores c e c ara os quas a correlação entre c ' e c ' y é máma. Se é nterretado como o causador de y, então redtor e c ' ode ser chamado o melhor c ' y o mas rovável crtéro. As correlações canôncas medem a força da assocação entre os dos conjuntos de varáves. O asecto de mamzação da técnca reresenta uma tentatva de concentrar um relaconamento dmensonalmente alto entre dos conjuntos de varáves em uns oucos ares de varáves canôncas. EXEMPLO Suonha o vetor de varáves que corresonde a resultados de técncas admnstratvas e o conjunto de varáves y que corresondem a meddas de varáves de qualdade. Alguém ode estar nteressado em saber se o conjunto de técncas admnstratvas é altamente relaconado com o conjunto das varáves de qualdade e também redzer os resultados de um dos conjuntos em função do outro. A Análse de Correlação Canônca ajuda neste sentdo Varáves Canôncas e Correlações Canôncas Seja um vetor aleatóro -dmensonal X e outro vetor aleatóro X q- dmensonal < q. Suonha que X e X tenham médas e e matrzes de covarânca e, então: V(X ) = E{(X - )(X - ) }= V(X ) = E{(X - )(X - ) }= cov(x,x ) = E{(X - )(X - ) }= = ' (matrz de covarânca cruzada) 49

50 5 EXERCÍCIOS ) Seja X de dmensão = e X de dmensão q = 3 escreva a eressão da matrz de correlação cruzada entre estes vetores. ) Consdere os dos vetores do eercíco anteror conjuntamente, ou seja, formando um únco vetor de dmensão + q = 5. Determne: a) a eserança do vetor conjunto; b) a varânca do vetor conjunto ; 3) Reta o eercíco anteror consderando as dmensões e q ara os vetores. 4) Seja U = c ' e V = c ' y c.l s dos vetores aleatóros e y. Determne a correlação entre U e V. Você deve ter observado que a correlação entre U e V deende dos coefcentes c e c, então quas os valores desses coefcentes que mamzam (U,V)? A resosta é mamzar c ' c com a restrção de c ' c = c ' c = ara que a correlação não deenda da escala de c e c. Então defnremos como rmero ar de varáves canôncas o ar de c.l s U e V que tendo varâncas untáras mamzarão a correlação (U,V); o segundo ar sera obtdo da mesma forma entre todas as escolhas não correlaconados com a rmera escolha e assm sucessvamente. Então, desta forma é enuncado o resultado segunte: RESULTADO 5.3. Sejam os vetores X e Y de dmensão e q e com matrzes de covarâncas e resectvamente e covarânca cruzada e anda as c.l s U = c ' X e V = c ' Y. Então * a máma corr(u,v) é alcançada em corr(u,v) = com c ' = e ' / onde e é o autovetor corresondente ao maor autovalor e c ' = f ' * /, / / que tem autovalores * > * >. > * e autovetores e =,,, e f é o autovetor corresondente ao maor autovalor de / > * >. > q *. EXERCÍCIOS / que tem q autovetores f corresondentes aos autovalores * ) Escreva as eressões do rmero e do k-ésmo ar de varáves canôncas de acordo com o resultado anteror. ) Qual o valor de V(U k ), V(V k ), corr(u k,u ) k, corr(u k,v ) k e corr(v k,v l ) k? de 5

51 5 EXERCÍCIOS ) Seja Z = [Z Z ] e Z = [Z Z ] vetores aleatóros formados com v.a s adronzadas e seja Z o vetor comosto elos dos anterores tendo matrz de covarânca = V(Z) = canônca , faça uma análse de correlação SOLUÇÃO: rmero ar de varáves canôncas é: U =,856 Z +,77Z V =,545 Z +,737Z A correlação entre as varáves canôncas do. * ar é: = =, 5458 =,74 ndcando uma forte assocação entre os dos conjuntos de varáves, note que o rmero ar é semre o mas mortante; A correlação entre as varáves canôncas do. * ar é: = =, 9 =,3 ndcando uma fraca assocação entre os dos conjuntos de varáves; As correlações entre as varáves orgnas do rmero conjunto, Z = [Z Z ] com a varável canônca U são [,97,6] e as correlações entre as varáves orgnas do segundo conjunto, Z = [Z Z ] com a segunda varável canônca são [,69,85]. Isto ndca que as varáves Z e Z são mas mortantes do que as outras. Da mesma forma ode-se ter as correlações de U com as varáves de Z que são: [,5,63] e de V com Z que são: [,7,46]. É ossível anda afrmar que: se Z = [Z Z ] é nterretado como o causador de Z = [Z Z ], então V ode ser nterretado como o melhor redtor e U o mas rovável crtéro Escores e Predção As varáves canôncas são em geral artfcas. Isto é, não têm sgnfcado físco. Mas estas varáves odem ser dentfcadas em termos das suas varáves rncas. Esta dentfcação ode ser feta or meo da correlação entre as varáves orgnas e as varáves canôncas. Contudo esta nterretação deve ser feta com cautela. O uso da correlação canônca ara redção é feto do segunte modo: sejam os coefcentes a e b das varáves canôncas, ou seja, os vetores de correlação canônca, então os vetores de dmensão n a X e b X denotam os escores dos n ndvíduos (dmensão de cada um dos vetores) nas -ésmas varáves canôncas, U = a X e V = b X. Então o redtor de U dado V é dado or 5

52 5 e onde n j n j ˆ j ara um j =,,.,n * ' ' Uˆ j= ( V j a ) b =, EXERCÍCIOS ) Calcule as correlações entre o rmero ar de varáves canôncas e suas varáves comonentes ara a stuação do eercíco anteror. 3) Suonha 5 varáves: X e X que corresondem a notas de rova sem consulta e Y, Y e Y 3 que corresondem a notas de rova com consulta. Um roblema que ode surgr aqu é o nteresse em saber quão altamente correlaconadas estão as habldades dos estudantes eamnados sem consulta com as habldades dos estudantes eamnados com consulta. Por outro lado, alguém ode usar os resultados da rova com consulta ara redzer os resultados da rova sem consulta. Solução: U =,6 +,58 e V =,84y +,8y +,35y 3 4,368] As correlações canôncas são: ˆ =,663 e ˆ =,4 Os vetores médos são: [38,9545 5,599] e [5,63 46,688 Vˆ j =,663[,6 +,58 [,6,58],35] 5,6 46,68 4,3 =,95 +,7 +,343 38,95 5,59 + [,84,8 De modo que se revêem os valores de Y dado os valores de X. 6- DISCRIMINAÇÃO, CLASSIFICAÇÃO e RECONHECIMENTO de PADRÕES 6..Introdução A técnca multvarada conhecda como Análse Dscrmnante trata dos roblemas relaconados com SEPARAR conjuntos dstntos de objetos (ou observações) e FIXAR (alocar) novos objetos (observações) em conjuntos revamente defndos. A análse dscrmnante quando emregada como rocedmento de classfcação não é uma técnca eloratóra, uma vez que ela 5

53 53 conduz a regras bem defndas, as quas odem ser utlzadas ara classfcação de outros objetos. As técncas estatístcas de dscrmnação e classfcação estão ncororadas num conteto mas amlo, que é o do Reconhecmento de Padrões. Partca junto com técncas de rogramação matemátca e redes neuras na formação do conjunto de rocedmentos usados no reconhecmento e classfcação de objetos e ndvíduos. Mas o que vem a ser Reconhecmento de Padrões? Vamos ctar alguns eemlos de máqunas ntelgentes: Míssl que escolhe or onde entrar em um abrgo (Guerra do Golfo); Carro que se desloca soznho em um camus unverstáro; Carro que estacona soznho (já este no mercado jaonês); Máquna que classfca tábuas de madera ela sua tonaldade de cor; Programa que dentfca se uma essoa com cteríca está com câncer ou colédoco entuto; etc. Estes eemlos refletem o emrego da chamada ntelgênca artfcal que consste, entre outras, de alcações de técncas de reconhecmento de adrões usando tecnologa adequada como a câmara de televsão ara vsão e um rocessador eletrônco como cérebro. Hstorcamente as rncas abordagens de Reconhecmento de Padrões eram: a abordagem estatístca e a abordagem sntátca (estrutural). Surgram e ganharam bastante esaço a tecnologa de Redes Neuras e, também, a de métodos de Programação Matemátca. Estem três questões mortantes em Reconhecmento de Padrões: São estas técncas adequadas ou mesmo alcáves ara resolver roblemas de reconhecmento e classfcação? É ossível desenvolver ou modfcar modelos útes ara determnados roblemas, determnando os arâmetros do modelo? Estem algortmos que odem ser alcados e que são comutaconalmente rátcos nos rocedmentos de solução do roblema? O Reconhecmento de Padrões está relaconado com as seguntes áreas:. Processamento de snas (equamento bo-médco e outros);. Reconhecmento de caracteres (manual ou não); 3. Reconhecmento de faces; 4. Identfcação de mressões dgtas; 5. Análse de snas eletrocardográfcos; 6. Dagnóstco médco relmnar; 53

54 54 7. Teora da estmação e otmzação; 8. Teora da automação; 9. Conjuntos nebulosos (fuzzy);. Lnguagens formas (comutador);. Problemas de classfcação. Os objetvos medatos da técnca quando usada ara DISCRIMINAR e CLASSIFICAR são, resectvamente, os seguntes:. Descrever algebrcamente ou grafcamente as característcas dferencas dos objetos (observações) de váras oulações conhecdas, no sentdo de achar dscrmnantes cujos valores numércos sejam tas que as oulações ossam ser searadas tanto quanto ossível.. Gruar os objetos (observações) dentro de duas ou mas classes determnadas. Tenta-se encontrar uma regra que ossa ser usada na alocação ótma de um novo objeto (observação) nas classes consderadas. Uma função que seara ode servr como alocadora e da mesma forma uma regra alocadora ode sugerr um rocedmento dscrmnatóro. Na rátca, os objetvos e, freqüentemente, sobreõem-se e a dstnção entre SEPARAÇÃO e ALOCAÇÃO torna-se confusa. A termnologa de dscrmnar e classfcar fo ntroduzda or R. A. Fsher [ref. ] no rmero tratamento moderno dos roblemas de searação. No reconhecmento de adrões o roblema básco é dado o vetor de meddas m deseja-se um método ara nverter o maeamento nas relações g e m, dentfcando a classe geradora das meddas. ESPAÇO DE CLASSES ESPAÇO DE PADRÕES ESPAÇO DE MEDIDAS C P M maçãs W P, P 4 m() m granadasw g(w) P 5, P m laranjas W 3 P 3 m3 As maças são dferentes no tamanho, eso e forma; O mesmo vale ara as classes W e W 3 ; Algumas realzações de granadas e maçãs são smlares (P e P ) nos atrbutos; A dstnção entre as classes será feta em função das varáves,.e. o eso é fundamental ara dferencar maçã de granada de mão. 54

55 55 6. Problema geral de reconhecmento e classfcação 6 Introdução EXEMPLO Consdere dos gruos em uma cdade: roretáros de certo equamento e não roretáros desse equamento. A fm de dentfcar o melhor to de camanha de vendas, o fabrcante do equamento está nteressado em classfcar famílas como futuras comradoras do equamento ou não, com base em X = renda e X = tamanho do lote de morada. Amostras aleatóras de n = roretáros e n = não roretáros roduzram o dagrama de dsersão abao: X Observa-se que: R R X ) Proretáros tendem a ter maores rendas e maores lotes; ) Renda arece dscrmnar melhor do que área do lote; 3) Este mstura entre os gruos. Dado que este mstura e conseqüentemente classfcações erradas, a déa é crar uma regra (regões R e R ) que mnmze a chance de fazer esta mstura. Um bom rocedmento resultará em ouca mstura de elementos gruas. Pode ocorrer que de uma classe ou oulação esta maor robabldade de ocorrênca do que de outra classe. Por eemlo, este uma tendênca de serem fnancáves emresas sóldas e não emresas em stuação ré-falmentar. Uma regra de classfcação ótma deve levar em conta as robabldades de ocorrênca a ror. Outro asecto da classfcação é o custo. Suonha que classfcar um tem em quando na verdade ele ertence a reresente um erro mas séro do que classfcá-lo em quando ele ertence a. Então, deve-se levar sto em conta. 55

56 56 Seja f ( ) e f ( ) as f.d. s assocadas com o vetor aleatóro X de dmensão das oulações e, resectvamente. Um objeto, com as meddas, deve ser reconhecdo como de ou de. Seja o esaço amostral, sto é, o conjunto de todas as ossíves observações. Seja R o conjunto de valores ara os quas nós classfcamos o objeto como de e R = - R os remanescentes valores ara os quas nós classfcamos os objetos como. Os conjuntos R e R são mutuamente eclusvos. Para =, odemos ter a fgura: 6 Regões de classfcação ara duas oulações A robabldade condconal de reconhecer um objeto como de ele é de é: P( ) P( X R ) f ( ) d R R quando na verdade Da mesma forma: P( ) P( X R ) f ( ) d R P( ) reresenta o volume formado ela f.d.. f ( ) na regão R e sendo = (caso unvarado) tem-se: 56

57 57 P( ) f ( ) d R P( ) f( ) d R f () f () R R Classfcado como Classfcado como Seja a robabldade a ror de e a robabldade a ror de, onde + =. As robabldades de reconhecer corretamente ou ncorretamente são dadas or: P(rec. corr. como P(rec. ncorr. como P(rec. corr. como P(rec. ncorr. como ) = P( X = P(( X ) = P( X = P(( X ) = P( X = P(( X ) = P( X = P(( X e é rec. corr. como ) R )P( ) = P( ) e é rec. ncorr. como ) R )P( ) = P( ) e é rec. corr. como ) R )P( ) = P( ) e é rec. ncorr. como ) R )P( ) = P( ) Regras de reconhecmento são freqüentemente avaladas em termos de suas robabldades de reconhecmento errado. Assm, é comum construr a matrz que segue Matrz do Custo de Reconhecmento (classf.) Errado e ECM Reconhecdo como Poulação verdadera c( ) c( ) Para qualquer regra a méda ou o custo eserado de reconhecmento (classfcação) errado é dado ela soma dos rodutos dos elementos fora da dagonal rncal elas resectvas robabldades: 57

58 58 ECM = c( )( ) + c( )( ) Uma regra razoável de reconhecmento deve ter ECM muto baa, tanto quanto ossível. Resultado : As regões R e R que mnmzam o ECM são defndas elos valores de valem as desgualdades: R : f ( ) f ( ) Raz ao das densdades c( ) c( ) Raz ao dos custos Raz ao das robabld ades à ror tal que f( ) R : f ( ) Raz ao das densdades c( ) c( ) Raz ao dos custos Raz ao das robabld ades à ror Prova: ECM = c( )P( ) + c( )P( ) e como = R R tem-se: ECM c( ) f ( ) d c( ) f ( ) d R R f ( ) d f( ) d f( ) R R d odemos escrever: ECM c( ) f ( ) d c( ) f ( ) d e das roredades de ntegral (volume). R R ECM [ c( ) f ( ) c( ) f ( )] d c( ) R e como,, c( ), e c( ) são não-negatvos, e anda f ( não-negatvos e são as úncas quantdades de ECM que deendem de é mnmzado se R nclu esses valores tal que [c( ) f ( ) e f ( ) também são. Assm ECM ) - c( ) f ( )] 58

59 59 e eclu aqueles ara os quas esta quantdade é ostva. Isto é, R deve ser o conjunto de ontos tal que: c( ) f ( ) c( ) f ( ) f f ( ) ( ) c( ) c( ) e dado que R é o comlemento de R em os quas:, R deve ser o conjunto de ontos ara f f ( ) ( ) Casos Esecas de Regões de ECM c( ) c( ). a) Probabldades a ror guas: R f f ( ) ( ) = c( ) f( ) R c( ) ; f ( ) b) Custos de erro de reconhecmento guas: c( ) c( ) f( ) f R ; R f ( ) f ( ) ( ) c( ) c( ) c) Probabldades a ror guas e custos de reconhecmento errado guas: c( ) c( ) ou c( ) / c( ) R f ( ) f ( ) ; R f ( ) f ( ) OBS.) Quando as robabldades a ror são desconhecdas, elas são freqüentemente tomadas como guas e a razão de f.d. s é comarada com a razão de custos de reconhecmento errado. ) Se a razão de custo de reconhecmento errado é ndetermnada, ela é usualmente tomada como e a razão das f.d. s é comarada com a razão de robabldades a ror. 3) Fnalmente, quando ambas, razão das robabldades a ror e razão de custos são untáros ou uma razão é recíroca da outra, então as regões de 59

60 6 EXERCÍCIO é uma nova observação e reconhecmento (classfcação) ótmo são determnadas comarando-se os valores das f.d. s. Assm, se f ( )/f ( ) f ( ) f ( )], assummos que. Um esqusador tem dados dsoníves ara estmar a função densdade f ( ) e f ( ) assocadas a e, resectvamente. Suonha que c( ) = 5 undades e c( ) = undades. Sabe-se, anda, que % de todos os tens ara os quas as meddas foram regstradas ertencem a. a) Escreva as robabldades a ror das oulações e. b) Determne as regões de classfcação (reconhecmento) R e R. c) Suonha que ara uma nova observação tem-se: f ( ) =.3 e f ( ) =.4. Em qual dos gruos (oulações) você classfcara a nova observação? Crtéro TPM Outro crtéro, além do ECM, ode ser usado ara construr rocedmentos ótmos. Assm, ode-se gnorar o ECM e escolher R e R que mnmzam a robabldade total de erro de classfcação (TPM). TPM = P( e é classfcada errada) + P( e é classfcada errada) TPM = f ( ) d f ( ) d R R Isto é equvalente a mnmzar ECM quando os custos de classfcação errada são guas. Assm, odemos alocar uma nova observação ara a oulação com a maor robabldade osteror P( ), onde P ( ) P( ocorree observa- se P(observa- se ) ) = P( observa - se ) P( ) P( observa - se ) ( ) P( observa - se ) ( ) 6

61 6 = f ( ) f ( ) f ( ) e P( ) P( ) f ( ) f ( ) f ( ) e classfca-se em quando P( ) > P( ) Classfcação com duas oulações Normas Multvaradas Assumndo-se que f ( ) e f ( ) são normas multvaradas, a rmera com vetor de médas e matrz de covarâncas e a segunda com os arâmetros e e então suondo =, a F.D.L. de Fsher ode ser usada ara classfcação e corresonde a um caso artcular da regra de classfcação com base em ECM. Assm, seja o vetor aleatóro X ' = [ X, X,., X ] ara oulações e e f ( ): e ' ara =, Suonha que os arâmetros, e sejam conhecdos. Então, a regão de mínmo ECM, R : R : f ( ) f ( ) f f = ( ) ( ) = ( ( e = e ) ) e e ( ( )' )' ( ( ' ' c ) ) = c c ' ' c Resultado : Sejam as oulações e normas multvaradas. A regra de reconhecmento que mnmza ECM é dada or: reconhecer como sendo de se ' ' ln c c 6

62 6 e é reconhecdo como de II em caso contráro. EXERCÍCIO: Prove o resultado enuncado anterormente. O rmero termo da regra de classfcação e reconhecmento, ' S, é a função lnear obtda or Fsher que mamza a varabldade unvarada entre as amostras relatvamente a varabldade dentro das amostras. A eressão ntera w ' S S S ' ' [ ] é conhecda como função de classfcação de Anderson. EXERCÍCIOS: ) Comarando a eressão da regra de reconhecmento com ECM mínmo e a F.D.L. de Fsher, mostre a condção na qual a regra torna-se a F.D.L. de Fsher, se houver. ) Seja a stuação dos dados de ortadores de hemofla A e não-ortadores, g. 477 do lvro do Johnson de 988 e T.8. Construa uma regra de reconhecmento de adrões, quando as robabldades a ror de uma essoa ertencer a cada um dos gruos são conhecdas e assumndo rrealstcamente que os custos de reconhecmento errado sejam guas c( )= c( ). Suonha que o sangue é etraído de uma essoa rmo em rmero grau de um hemofílco e os resultados são = log (AHF-atvdade) = -. e = log (antígeno AHF)=-.44. Contudo, a chance genétca de se ter uma ortadora e uma rma em rmero grau ortadora seja.5. Faça um dagrama que mostre os ontos no sstema de eos e e obtenha a regra de reconhecmento, além de testar a Gaussandade Classfcação Quadrátca, Suondo as matrzes de covarânca ara e ara com, as regras de reconhecmento de adrões tornam-se mas comlcadas. Seja, então N (, ) =, com e. A robabldade total de reconhecmento errado (TPM) e o custo eserado de reconhecmento errado f ( ) deendem da razão de densdades ou, equvalentemente, do logartmo das f ( ) razões das densdades ln f ( ) f ( ) ln f ( ) ln f ( ) 6

63 63 Resultado 3: Sejam as oulações e descrtas or densdades normas multvaradas N (, ) e N (, ). Então a regra de reconhecmento e classfcação que mnmza o ECM é dado or: ' ' ' R : k ln c c R em c/c. EXERCÍCIO Prove o resultado anteror. Na rátca, a regra de reconhecmento estabelecda é alcada substtundo-se os arâmetros,, e elas suas estmatvas,, S e S, tal que: Aloca-se em se: ' S S ' S ' S k ln c c Alocamos em, caso contráro Dscrmnação e Classfcação entre Poulações: Método de Fsher Função Dscrmnante Lnear de Fsher Para duas Poulações Bascamente, o roblema consste em searar duas classes de objetos ou far um novo objeto em uma das duas classes. Deste modo, é nteressante alguma eemlfcação. A tabela I a segur mostra dversas stuações onde a Análse Dscrmnante ode ser emregada. É comum denomnar as classes (oulações ) de e, e os objetos searados ou classfcados com base nas meddas de varáves aleatóras são assocadas com vetores do to : X = [ X, X,, X P ], onde as varáves X, =,,,, são as meddas das característcas nvestgadas nos objetos. Os valores observados de X odem dferr de uma classe ara outra, sendo que a totaldade dos valores da a. classe é a oulação dos valores X ara e aqueles da a. classe são a oulação dos valores de X ara. Assm, estas oulações odem ser descrtas elas funções densdade de robaldade f ( ) e f ( ). 63

64 64 TABELA I - SITUAÇÕES EXEMPLOS Poulações e Varáves meddas (comonentes de X ). Sucesso ou nsucesso de estudantes na - Nota no vestbular, notas no curso, Unversdade. número de dsclnas no curso.. Machos e fêmeas adultos. 3. Comrador de um novo roduto e não comrador de um novo roduto. 4. Artgos jornalístcos escrtos or Paulo Francs e Carlos Castelo Branco. 5. Pessoa de alto rsco no crédto e essoa de bao rsco. 6. Duas eséces de lanta semelhantes. Fonte: o autor. - Altura, eso, erímetro do bíces, erímetro do tóra, erímetro do quadrl. - Educação, renda, tamanho da famíla. - Freqüênca de dferentes alavras, comrmento das sentenças. - Renda, dade, número de cartões de crédto, tamanho da famíla. - Comrmento da étala, rofunddade da fenda da étala, dâmetro do ólen. A déa de Fsher fo transformar as observações multvaradas X s nas observações unvaradas y s tal que os y s das oulações e sejam searados tanto quanto ossível. Fsher teve a déa de tomar combnações lneares de X ara crar os y s, dado que as combnações lneares são funções de X e or outro lado são de fácl cálculo matemátco. Seja y a méda dos y s obtdos dos s ertencentes a e y a méda dos y s obtdos dos s ertencentes a, então Fsher seleconou a combnação lnear que mamza a dstânca quadrátca entre y e y relatvamente a varabldade dos y s. Assm, seja: = E ( X ) = valor eserado de uma observação multvarada de. = E ( X ) = valor eserado de uma observação multvarada de. e suondo a matrz de covarânca =, como sendo a mesma ara ambas as oulações, e consderando a C.L. tem-se e Y c X y = E ( Y ) = E ( c X ) = c E ( X ) = c, y = E ( Y ) = E ( c X ) = c E ( X ) = c, V(Y) = y = V (c X) = c V(X)c = c c, 64

65 65 que é a mesma ara ambas oulações. Segundo Fsher, a melhor combnação lnear é a dervada da razão entre o quadrado da dstânca entre as médas e a varânca de Y. ( ) ( c c ) c ( )( ) c ( c ) y y y onde = -. c c c c c c RESULTADO 6.3.: Seja = - e Y = c X, então ( c ) é mamzada or c c c = k - = k - ( - ) ara qualquer k Escolhendo k = tem-se c = - ( - ) e Y = c X = ( - ) - X, que é conhecda como FUNÇÃO DISCRIMINANTE LINEAR DE FISHER. EXERCÍCIO Prove o resultado anteror. A FUNÇÃO DISCRIMINANTE LINEAR DE FISHER transforma as oulações multvaradas e em oulações unvaradas, tas que as médas das oulações unvaradas corresondentes são searadas tanto quanto ossível relatvamente a varânca oulaconal, consderada comum. Assm tomando-se y = ( - ) - como o valor da função dscrmnante de Fsher ara uma nova observação, e consderando o onto médo entre as médas das duas oulações unvaradas, como m = ( y y ), ' ' m = (c c ) m = ( ) ( ) m = ( ) ( ), e tem-se que: E (Y ) - m E (Y ) - m <, 65

66 66 ou seja, se X ertence a, se esera que Y seja gual ou maor do que o onto médo. Por outro lado se X ertence a, o valor eserado de Y será menor que o onto médo. Desta forma a regra de classfcação é : alocar em se y - m alocar em se y - m < Geralmente, os arâmetros, e são desconhecdos, então suondo que se tem n observações da v.a. multvarada X X X X da oulação e n observações da v.a. multvarada X X X X da oulação, então os resultados amostras ara aquelas quantdades são : n n ; S ( )( ) n n n n ; S ( )( ) n n Mas uma vez que se assuma que as oulações sejam assemelhadas é natural consderar a varânca como a mesma daí estma-se a matrz de covarânca comum or : ( n ) S ( n ) S S ( n n ) que é um estmador não-vcado daquele arâmetro. Conseqüentemente, a FUNÇÃO DISCRIMINANTE LINEAR DE FISHER AMOSTRAL é dada or: y c ( ) S E, a estmatva do onto médo entre as duas médas amostras unvaradas y c e y c é dado or : m ( y y ) ( ) S ( ) S m ( ) S ( ) Fnalmente a regra de classfcação é a segunte : 66

67 67 alocar em se y = ( ) S m ou melhor se: alocar em se y = ( ) S m y - m é alocado em y - m < é alocado em RESULTADO 6.3. : A combnação lnear artcular y = c ( ) S mamza a razão : ( y y ) ( c c ) S y onde d e S EXERCÍCIO y n c S c ( c d) c S c ( y y ) ( y y ) n n n Seja um estudo onde se retende detectar ortadores de Hemohla A. A fm de se construr um rocedmento ara detectar ortadores otencas de Hemohla A, amostras de sangue são analsadas em dos gruos de mulheres e meddas as varáves: X = log (atvdade AHF) e X = log (antígeno AHF). Os dados estão na tabela T.8. O rmero gruo é comosto or n = 3 mulheres seleconadas de uma oulação de mulheres que não ossu ortadora do gene da hemofla. Este gruo é o gruo normal. O segundo gruo de n = mulheres fo seleconado de uma oulação de conhecdas ortadoras da defcênca (rmãs de hemofílcos, mães com mas de um flho hemofílco e mães com um flho hemofílco e outro hemofílco relatvo). Este é o gruo dos ortadores obrgatóros. Os resultados dos dados são: S - = 358, 9, 43 9, 43 8, 47 a) Calcule a F.D.L. de Fsher; b) Calcule o onto médo das duas médas amostras; c) Sejam as meddas = -, e = -,44, verfque em qual das oulações é alocado o ndvíduo com estas meddas (normal ou ortadora). EXERCÍCIO 3 A comssão de admssão de uma escola deseja classfcar um retendente em uma de duas oulações: oulação dos estudantes que comletam com sucesso o curso ou oulação dos estudantes que não comletam o curso. A comssão consdera a nota dos retendentes em = testes. Seja = [ ] o vetor das notas. De eerêncas 7 anterores é sabdo que : = [6 57], = [4 39] e = 7 67

68 68 a) Encontre a F.D.L. de Fsher; b) Calcule E(Y ) = y, E(Y ) = y e V(Y) = y, c) Determne o onto médo entre as médas oulaconas unvaradas, d) Daça um gráfco das duas oulações, admtndo que X N (, ) ou X N (, ) e) Determne a robabldade de classfcação errônea, f) Escreva o crtéro de classfcação, g) Verfque em qual oulação será alocado o onto = [5 45] Dscrmnação entre Dversas Poulações O método de dscrmnação eosto no tem 6.3. ode ser estenddo ara dversas oulações. O rmero objetvo de Fsher com a Análse Dscrmnante fo o de searar oulações. Ele ode, contudo, ser usado também ara classfcar. Este método não necessta da suosção de que as dversas oulações sejam normas multvaradas. Entretanto, assume-se que as matrzes de covarâncas oulaconas s são guas e com osto comleto, sto é, = = = g =. Assm, seja o vetor médo dos dversos gruos (oulações) g rodutos cruzados entre gruos oulaconas tal que B = A combnação lnear Y = c' tem or eserança E(Y) = c'e( X oulação e varânca g ( V(Y) = y c' V ( X ) c c' c ara todas as oulações. Desta forma, o valor eserado y = c )( )' g e B a matrz Soma de ) = c' ara a muda quando a oulação da qual X é seleconado é outra. Vamos então defnr a méda global y g g y c' e a razão entre a soma dos quadrados das dstâncas das oulações ara a méda global e a varânca de Y é: c' B c c' c que é uma generalzação multgrual do caso de duas oulações. Esta razão mede a varabldade entre gruos de valores (escores) Y relatvamente a varabldade comum dentro dos gruos. Da mesma forma que no caso de duas oulações, nós odemos seleconar c que mamza esta razão, e é convenente normalzar c tal que c' c =. 68

69 69 RESULTADO Seja s > os s = mn(g-,) autovalores não-nulos de - B e e, e,.., e s os corresondentes autovetores (escalonados tal que e' e = ). Então o vetor de coefcentes c que mamza a razão c ' B c é dada or c = e. A combnação lnear c' c c X é chamada o. dscrmnante e da mesma forma odemos generalzar ara o k- ésmo dscrmnante com c k = e k k =,,. s. Como, geralmente, e não são dsoníves, nós tomamos amostras aleatóras de tamanhos n das oulações, =,,., g e denotando o conjunto de dados (a.a) da oulação, =,,., g, or n X temos na j-ésma lnha o vetor j e os estmadores dos arâmetros e são n g g A matrz Soma de rodutos cruzados entre gruos, B, é estmada or e um estmador ara j n n n j B ( )( )' g ode ser consegudo com base na matrz W g g j n n j Conseqüentemente, g n W ( )( )' ( n ) S j W n n n g g j j ( n ) S ( n ) S. ( n ) S n n. n g g g g g = S É claro que o mesmo ĉ que mamza a razão ' ĉ Bˆ ' ĉ S ĉ ĉ também mamza ' ĉ Bˆ ĉ. ' ĉ Wĉ Assm, aresentaremos o otmzante c na forma mas usual, que é o autovetor e da matrz W - B, orque se W - B e = e então S - B e ( n n n g) e g, ortanto, conclundo sejam g > os autovalores não nulos de W - B e e, e,.., e s os corresondentes autovetores, sendo s = mn(g-, ) e e normalzado tal que e S e = ; então o vetor de coefcentes que mamza a razão ' ctada acma é c = e e a combnação lnear ê é chamada o. dscrmnante amostral. Generalzando, teremos no asso k o k-ésmo dscrmnante amostral ê ' k, k s. 69

70 7 EXERCÍCIO 4 Dadas as observações de = varáves orundas de 3 gruos oulaconas, e 3 X = 5 3 X = 6 4 X 3 = 4 a) Determne os vetores médos amostras =,, 3. b) Determne o vetor médo global, amostral. c) Dadas as matrzes de covarânca amostral S = S 3 = 4 determne as matrzes S, B e W. d) Determne a matrz nversa W - e W - B. 4, S = 4 e) Determne os autovalores e autovetores de W - B. f) Quas são os dscrmnantes ara os três gruos. g) Faça um gráfco que reresente o esaço dscrmnante nas duas dmensões que você encontrou, reresente a amostra no gráfco. h) Em qual gruo sera classfcado o ndvíduo ' = [, 3]. 6.4 Avalação de funções de reconhecmento e classfcação Crtéro TPM Uma manera de julgar o desemenho de um rocedmento de reconhecmento de adrões é calcular a sua taa de erro no reconhecmento dos adrões. A robabldade total de erro de reconhecmento, TPM, é dada or: TPM f ( ) d f ( ) d R R e o menor valor ara esta quantdade, obtdo ela escolha adequada de R e R, é chamado de taa ótma de erro (OER), f( ) com R e R determnados or R : f ( ) OER= f ( ) d f ( ) d R R e R em caso contráro. e 7

71 7 EXERCÍCIO Determne a eressão ara taa ótma de erro quando = = / e f () e f () são densdades normas multvaradas. Solução: Sabemos que o ECM e TPM, mínmos, concdem quando c( )= c( ) e devdo as robabldades a ror serem também guas tem-se: c c c ln e c R : ' ' R : ' ' e fazendo y ' ' fca: R ( y): y ' R ( y): y ' Mas como y é uma combnação lnear de v.a s Gaussanas, as f.d. s de Y, f (y) e f (y), são Gaussanas unvaradas com arâmetros: y ' ' y ' ' y V ( y) V ( ' ) ' y( ) ' ' e TPM f( ) d f ( ) d R R 7

72 7 = P R R P R R e P R R P( ) P y ( )' ( ) P y y y ' ' y P Z ' ' y P Z ' y P R R P( ) P Z y y P Z y y Da mesma forma P R R P( ) P Z P Z Logo a TAXA ÓTIMA DE ERRO é: y y y OER mínmotpm y y y 7

73 73 Suondo, y = ( )' ( ) =.56, tem-se: y =.6 y /= -.6/ =.8 (-.8) =.9 Assm, a regra ótma de reconhecmento cometerá erros em torno de.9%. Uma medda do desemenho que não deende da forma da dstrbução e que ode ser calculada ara qualquer rocedmento de classfcação é a taa aarente de erro que é defnda como a fração das observações no trenamento amostral corresondente a reconhecmento equvocado ela função. A taa aarente de erro é calculada da matrz de confusão que mostra a stuação real das observações nos gruos versus o reconhecmento. Para n observações de e n de, a matrz de confusão tem a forma: ATUAL PREDITO n C n M n n M = n - n C n C n onde: n C : número de tens de corretamente reconhecdo como de n M : número de tens msturados com de n C : número de tens corretamente reconhecdo como de n M : número de tens msturados com de A taa aarente de erro (APER) é dada or: 73