EM (Dempster, Laird, Rubin: 1977)

Transcrição

1

2 EM (Dempster, Lard, Rubn: 1977) Algortmo teratvo para localzação do(s) parâmetro(s) que maxmza(m) a função de verossmlhança p(x ) Dos passos por teração Passo E: cálculo do valor esperado de uma certa v.a. em função do parâmetro θ Passo M: maxmzação, em θ, da função encontrada no passo M

3 EM: Idéa

4 EM: Contas x = (x 1,..., x n ), vetor de amostras ndependentes da v.a. X z = (z 1,..., z m ), realzações da v.a. Z θ = (θ 1,..., θ p ), vetor de parâmetros p(x θ) = p(x θ), função objetvo a maxmzar θ k, valor aproxmado de ˆθ, obtdo na k-ésma teração do algortmo p(x ˆθ) = max θ p(x θ) log p(x ˆθ) = max log p(x θ) θ

5 EM: Contas L(θ) := log p(x θ) = log Y = log Y = log Y = X p(x θ) X p(x, z j θ) j X p(x z j, θ)p(z j, θ) j log X j p(x z j, θ)p(z j, θ) p(zj x, θ k ) p(z j x, θ k ) = X X log X j X j p(z j x, θ k )p(z j, θ) p(x z j, θ) p(z j x, θ k ) p(z j x, θ k ) log p(z j, θ) p(x z j, θ) p(z j x, θ k )

6 EM: Contas L(θ) X X j p(z j x, θ k ) log p(z j, θ) p(x z j, θ) p(z j x, θ k ) L(θ k ) = log p(x θ k ) = X = X L(θ) L(θ k ) X log p(x θ k ) X p(z j x, θ k ) log p(x θ k ) j X p(z j x, θ k ) log p(x z j, θ)p(z j, θ) p(z j x, θ k )p(x θ k ) j =: (θ θ k ) L(θ) L(θ k ) + (θ θ k ) =: l(θ θ k ) (θ k θ k ) = 0 L(θ k ) = l(θ k θ k )

7 EM: Contas l(ˆθ θ k ) = max l(θ θ k ) L(ˆθ) L(θ k )

8 EM: Contas arg max l(θ θ k ) = arg max θ θ {L(θk ) + (θ θ k )} = arg max (θ θ k ) θ X X = arg max θ j = arg max θ = arg max θ p(z j x, θ k ) log p(x z j, θ)p(z j θ) p(z j x, θ k )p(x θ k ) X X p(z j x, θ k ) log p(x z j, θ)p(z j θ) j X EY k Y k é uma v.a. que assume os valores y j = log p(x z j, θ)p(z j θ), para j = 1,..., m, com dstrbução p(y k = y j ) = p(z j x, θ k )

9 EM: Algortmo Passo E: calcular EY k, para = 1,..., n Passo M: maxmzar EY k, em θ

10 EM: Mstura de duas gaussanas undmensonas Z = z j a amostra provém da j-ésma gaussana (j = 1, 2) p(z 1 ) = 1 π p(z 2 ) = π p(x ) = (1 π)φ θ1 (x ) + πφ θ2 (x ) p(z j x, θ k ) = p(zj, x θ k ) p(x θ k ) = p(z 1 x, θ k ) = p(x z j, θ k )p(z j θ k ) P l p(x z l, θ k )p(z l θ k ) Φ θ k 1 (x )(1 π k ) Φ θ k 1 (x )(1 π k ) + Φ θ k 2 (x )π k =: (1 γ k ) p(z 2 x, θ k ) = γ k

11 EM: Mstura de duas gaussanas undmensonas X EY k = X = X X p(z j x, θ k ) log p(x z j, θ)p(z j θ) j {(1 γ k ) log p(z1 θ)p(x z 1, θ) + γ k log p(z2 θ)p(x z 2, θ)} = X {(1 γ k ) log (1 π)φ θ 1 (x ) + γ k log πφ θ 2 (x )} µ1 µ2 σ 2 1 σ 2 2 π X X X X X EY k EY k EY k EY k EY k!! = 0 µ 1 = = 0 µ 2 = P (1 γ k P )x (1 γ k ) P γ k P x γ k! P = 0 σ 21 = (1 γ k )(x µ 1 ) 2 P (1 γ k )! P = 0 σ 22 = γ k (x µ 2 ) 2 P γ k! = 0 π = 1 X γk n

12 EM: Mstura de duas gaussanas undmensonas

13 EM: Mstura de m gaussanas d-dmensonas x = (x 1,..., x n ), z = (z 1,..., z m ) Passo E: Responsabldades r j,k := p(z j x, θ k ) = p(x z j, θ k )p(z j θ k ) P m l=1 p(x z l, θ k )p(z l θ k ) Passo M: Atualzando θ j = (µ j, Σ j ) e p(z j θ), j = 1,..., m µ k+1 j = Σ k+1 j = P n =1 r j,kx P n =1 r j,k P n =1 r j,k(x µ k+1 j )(x µ k+1 j ) T P n =1 r j,k p(x z j, θ k ) = p(z j θ k+1 ) = 1 nx r j,k n =1 1 1 (2π) d/2 Σ j 1/2 e 2 (x µ j ) T Σ 1 (x µ j j )

14 EM: Exemplos n = θ 0 θ 10 ˆθ µ σ µ σ π

15 EM: Exemplos n = 100 θ 0 θ 100 ˆθ µ σ µ σ π

16 EM: Clusterng akaho/mxtureem.html

17 EM: Clusterng EM k-means

18 EM: Convergênca Mostramos que (L(θ k )) k N é não decrescente, mas sso não é sufcente para garantr a convergênca desta seqüênca, tampouco de (θ k ) k N. Em [G. McLachlan e T. Krshnan, The EM Algorthm and Extensons, 1996], mostra-se que θ k pode convergr para pontos de sela e até para mínmos locas da função de verossmlhança. Em [J. Jamshdan e R. Jennrch, Conjugate Gradent Acceleraton of the EM Algorthm, 1993], dscute-se a semelhança entre o algortmo EM e o Método de Descda Máxma. Mostra-se que, em mutos problemas, o Método do Gradente Conjugado é melhor que o EM.

19 GEM: EM Generalzado

20 Baggng (Breman, 1996) Baggng = Bootstrap aggregatng B = {x 1,..., x n }, n amostras da v.a. X A dstrbução de X é conhecda a menos de um parâmetro θ ˆθ, estmador de θ; ˆθ = φ(b) ˆθ A, valor esperado de ˆθ, no segunte sentdo: sendo ˆθ uma v.a. que depende de B, defne-se ˆθ A := E B ˆθ Pela L.G.N., E B ˆθ 1 m m j=1 φ(b j), para m grande Os B j podem ser conjuntos eqücardnas de amostras colhdas da v.a. X ou Bootstrap Samples

21 Baggng: Por quê funcona? E B = esperança com respeto às possíves coleções B E θ = esperança com respeto aos possíves valores de θ E B [E θ [(θ ˆθ A ) 2 ]] = E θ [(θ ˆθ A ) 2 ] = E θ [θ 2 2θˆθ A + ˆθ A 2 ] = E θ [θ 2 ] 2E θ [θ]ˆθ A + E θ [ˆθ A 2 ] = E θ [θ 2 ] 2E θ [θ]e B [ˆθ] + E θ [(E B [ˆθ]) 2 ] E θ [θ 2 ] 2E θ [θ]e B [ˆθ] + E θ [E B [ˆθ 2 ]] = E B [E θ [θ 2 ]] 2E B [E θ [θˆθ]] + E B [E θ [ˆθ 2 ]] = E B [E θ [(θ ˆθ) 2 ]] Em usamos (EZ) 2 E[Z 2 ]

22 Baggng: Exemplos 1000 amostras da N(0, 1) bootstrap samples µ σ ˆθ ˆθ A

23 Baggng: Exemplos σ = 0.3, 20 splnes Splnes aggregatng

24 Baggng: Exemplos σ = 0.5, 10 splnes Splnes aggregatng

25 Bumpng (Tbshran, Knght: 1997) Bumpng = Bootstrap Umbrella of Model Parameters Ingredentes z = (z 1,..., z N ), vetor de amostras ndependentes de uma dstrbução F Um modelo para os dados, dependente do parâmetro θ Target Crteron: R, ˆθ = arg mn θ R(z, θ) Workng Crteron: R0, mas fácl de mnmzar Procedmento Tomar B bootstrap samples, z 1, z 2,..., z B (por convenção, a amostra orgnal z é uma delas) Para b = 1,..., B, calcular ˆθ b = arg mn θ R 0 (z b, θ) Escolher ˆθ B = arg mn b R(z, ˆθ b ) como estmador para θ

26 Bumpng: Stuações em que se pode aplcar R suave mas com mutos mínmos locas. Escolhendo R 0 = R, espera-se que o procedmento encontre o melhor mínmo local. R não suave e/ou dfícl de mnmzar numercamente. Problemas de mnmzação restrta em que R é dfícl de mnmzar numercamente. R 0 sera a versão rrestrta de R.

27 Bumpng: Casos partculares Regressão e Classfcação z = (x, y ) η b (x), modelo para os dados baseado na b-ésma bootstrap sample erro b = (y η b (x )) 2 (regressão) ou erro b = χ(y η b (x )) (classfcação), (x, y ) do conjunto de trenamento orgnal ˆη(x) = η ˆb (x), onde ˆb = arg mn b erro b Vantagem: se alguns poucos pontos estão prejudcando o bom ajuste de um modelo, qualquer bootstrap sample que omtr tas pontos deve se destacar, e o modelo correspondente deve ter preferênca no procedmento acma Mstura de gaussanas R0 = R = L(x θ) = log p(x θ)

28 Bumpng: Exemplos Mstura de duas gaussanas undmensonas Bumpng com EM como R 0 e L como R 1000 amostras, 10 terações do EM, 100 bootstraps ˆθ θ 0 EM Bumpng µ σ µ σ π

29 Bumpng: Exemplos Mstura de duas gaussanas undmensonas Bumpng com EM como R 0 e L como R 1000 amostras, 20 terações do EM, 500 bootstraps ˆθ θ 0 EM Bumpng µ σ µ σ π

30 Bumpng: Exemplos LDA 100 pontos/grupo µ 1 = (0.3, 0.7), µ 2 = (0.7, 0.3), σ = bootstraps # erros: 29 vs 21

31 Bumpng: Exemplos LDA 100 pontos/grupo µ 1 = (0.2, 0.8), µ 2 = (0.8, 0.2), σ = bootstraps # erros: 0 vs 0