MÉTODOS MULTIVARIADOS. Rodrigo A. Scarpel

Transcrição

1 MÉTODOS MULTIVARIADOS Rodrgo A. Scarpel

2 INTRODUÇÃO Semana Conteúdo Introdução aos métodos multvarados 1 Análse de componentes prncpas Aplcações de análse de componentes prncpas 3 Prncípos de análse fatoral eploratóra 4 Análse fatoral eploratóra e aplcações 5 Métodos de vsualzação de dados e escalonamento multdmensonal 6 Análse de agrupamentos: métodos herárqucos 7 Análse de agrupamentos: métodos não-herarqucos 8 Prova Análse de agrupamentos: método da mstura (baseados em densdade). 9 Métodos avançados de formação de agrupamentos. Introdução aos modelos de classfcação 10 Métodos de detecção de terações 11 Classfcadores lneares e análse dscrmnante paramétrca 1 Regressão Logístca 13 FERIADO (11/6) Métodos de classfcação baseados em programação matemátca 14 Support Vector Machne Métodos de avalação da performance de modelos de classfcação 15 Mstura de especalstas 16 Prova

3 VISUALIZAÇÃO DE DADOS Métodos redução de dmensão: Um fabrcante de bens de consumo gostara de analsar a estrutura de mercado mapeando os produtos ofertados (seus e da concorrênca) para determnar quem são seus maores concorrentes e quas são os produtos percebdos como smlares aos seus, segundo os consumdores.

4 VISUALIZAÇÃO DE DADOS Os métodos de vsualzação de dados são utlzados na representação de observações em um espaço eucldano com poucas ( ou 3) dmensões. Esta representação é gerada buscando preservar, tanto quanto o possível, as dstâncas orgnas entre as observações. Na representação obtda, a promdade dos pontos está relaconada à smlardade das observações em relação às varáves utlzadas. Métodos de vsualzação de dados mas empregados: Bplot Escalonamento multdmensonal: Clássco (prncpal coordnate analyss) STRESS (Kruscal e Shepard) Mapeamento não-lnear (Sammon s method)

5 Multdmensonal scalng (MDS) é um conunto de técncas matemátcas que aulam na descoberta de estruturas esconddas em bases de dados São largamente utlzadas na cração de escalas métrcas, permtndo encaar observações em um espaço vrtual que mostra, vsualmente, quão smlares as observações são entre s. Formas de MDS: métrco (assume-se que as dssmlardades são proporconas à dstânca Eucldana) e não-métrco (assume-se que as dssmlardades são relaconadas à dstânca Eucldana por alguma transformação monotônca) Passos na utlzação de MDS: 1. Construção de uma matrz de dssmlardades. Decomposção das dssmlardades, obtendo-se coordenadas 3. Gerar a representação ( espaço vrtual ) Algumas abordagens de MDS: STRESS (Shepard e Kruscal), Clássco (prncpal coordnate analyss) e Mapeamento não-lnear (Sammon)

6 MEDIDAS DE DISSIMILARIDADE Propredades de uma medda de dssmlardade: 1. d(,y) 0. Smetra: d(,y) = d(y,) 3. Se d(,y) 0 então y 4. Se = y, então d(,y) = 0 Propredades de uma medda de dstânca: 1. Todas as propredades de uma medda de dssmlardade. Desgualdade trangular: d(,y) d(,z) + d(y,z) A medda de dssmlardade mas utlzada em geração de agrupamentos é a dstânca Eucldana (entre as observações e w): D D, w, w = (, w) = w = ( w ) = d = 1 (( w) '( w) ) 1/ = ( ' + w' w ' w) 1/ d

7 A prmera abordagem de escalonamento multdmensonal proposta fo proposta por Shepard(196). Decomposção das dssmlardades: Crar uma representação no espaço k- dmensonal (k<p) em que as dstâncas entre as n observações de uma matrz X estvessem o mas prómo possível à dssmlardade orgnal, de acordo com uma função obetvo chamada STRESS, que representa a badness of ft (qualdade do auste) Mn STRESS Varáves de = decsão : ( ) + ( y y ) e y, = 1,..., n D Coordenadas: M 1 y y M 1 n y n y

8 Kruskal(1964) aprmorou a proposta feta por Shepard(196). Decomposção das dssmlardades: Mn STRESS ( d D ) = d em que D é a dssmlardade entre as observações e e d é a dstânca eucldana entre as coordenadas das observações e no espaço k- dmensonal, calculada por d = k < p v= 1 ( ) v v Coordenadas: M n 1,1,1,1 1, 1, M n, L L O L 1, k, k M n, k

9 A segunda abordagem de escalonamento multdmensonal proposta fo a Classcal Multdmensonal Scalng, também chamada de prncpal coordnate analyss (Gower, 1966) Decomposção das dssmlardades: Emprega-se análse de componentes prncpas na matrz de dssmlardades. Assm, SVD : D = w' λ w λ = dag { λ λ } 1, Coordenadas: w1,1 w w,1 w M w n,1 w n 1,,, w.. M w.,1

10 Sammon(1969) propôs um método de mapeamento não-lnear para analsar a estrutura de dados. Pelo método proposto, a decomposção das dssmlardades é feta mnmzando-se: em que D é a dssmlardade entre as observações e e d é a dstânca eucldana entre as coordenadas das observações e no espaço k- dmensonal, calculada por 1 E = d < < d = ( d D ) d k < p v= 1 ( ) v v Coordenadas: M n 1,1,1,1 1, 1, M n, L L O L 1, k, k M n, k

11 Sammon(1969), além do método de mapeamento, propôs um algortmo, baseado no método do gradente, para resolver o PPM:

12 Número deal de dmensões:

13 Para casa: Letura do artgo: A Nonlnear Mappng for Data Structure Analyss (J. W. Sammon)