MRF, Ising, Imagens e MCMC

Transcrição

1 MRF, Ising, Imagens e MCMC Renato Assunção - DCC, UFMG Outubro de Grafos não-direcionados Aé agora vimos modelos estocáticos representados por grafos em que as arestas são direcionadas, os DAGs. Entretanto existem situações em que as variáveis aleatórias, representadas pelos vértices do grafo, afetam-se mutuamente, sem que uma delas possa ser considerada a causa e a outra o efeito. Dessa forma, fica difícil atribuir uma direção para a aresta que liga os dois vértices. Um bom exemplo para este tipo de situação é aquele em queremos modelar uma imagem em preto-e-branco, representada como uma matriz M N. O elemento da matriz na posição (ou pixel) (i, j) tem um valor x (i,j) igual a -1 (se branco), ou igual a 1 (se preto). O lado esquerdo da Figura 1 mostra uma imagem preto-e-branco e o lado direito mostra o centro de cada pixel. Cada pixel é um pequeno quadrado colorido de acordo com o valor de x (i,j). Considere o pixel destacado em preto no centro da Figura. É natural que os valores de x nos quatro pixels imediatamente vizinhos (e também destacados na figura) estejam correlacionados com o pixel central mas não parece razoável escolher uma direção preferencial para unir com uma aresta direcionada as variáveis desses pixels. Figura 1: Imagem preto e branco (esquerda). O gráfico da direita mostra um pixel destacado no centro e a sua a vizinhança formada por quatro pixels vizinhos no formato do movimento do peão no xadrez. Outro exemplo ilustrativo é aquele em que cada vértice representa um autor de artigos científicos. Para cada autor i, suponha que observamos um índice Y i de citação de seus artigos (ou um indicador numérico do seu prestígio científico ou do impacto de seu trabalho). Cada autor é conectado por arestas aos seus co-autores, com os quais escreveu pelo menos um artigo. Pode ser razoável usar arestas não-direcionadas neste problema. 1

2 2 Campos Aleatórios de Markov Os campos aleatórios de Markov foram criados para lidar com essas situações. Para os propósitos deste curso, eles são uma distribuição de probabilidade f(x) para um vetor estocástico x em que cada elemento do vetor é um vértice de um grafo arbitrário com arestas não direcionadas. São permitidos loops no grafo bem como vértices isolados, sem arestas. Não são permitidos self-loops. Figura 2: O gráfico da direita mostra um pixel destacado no centro e a sua a vizinhança formada por quatro pixels vizinhos no formato do movimento do peão no xadrez. A teoria de independência condicional nas distribuições de probabilidade dos campos de Markov é mais simples que no caso das redes bayesianas. Essa teoria depende do conceito de vizinhança de um vértice. Seja N i o conjunto de vértices ligados ao vértice i. Considere a seguinte propriedade: Definição: Uma distribuição de probabilidade f(x) possui a propriedade de Markov com respeito ao grafo G = (V, E) com estrutura de vizinhança {N i } se, para todo i, tivermos f (x i x i ) = f (x i {x j, j N i ). (1) Isto é, a distribuição do vértice x i depende apenas de sua vizinhança imediata. Um importante teorema dessa teoria é o de Hammersley-Clifford. Este teorema esclarece quando uma distribuição f(x) possui a propriedade de Markov com respeito a um certo grafo G = (V, E) com estrutura de vizinhança {N i }. Ele permite verificar se é válida a propriedade markoviana sem que seja necessário verificar se (1) é válida para cada vértice. O teorema estabelece que basta checar se a expressão da densidade conjunta f(x) satisfaz uma propriedade muito fácil de ser verificada. Para declarar o teorema, precisamos de mais duas definições. Definição: Uma distribuição conjunta de probabilidade f(x) = f(x 1, x 2,..., x n ) com distribuições marginais f i (x i ) satisfaz a propriedade de positividade se para todo valor x i em que a marginal for maior que zero (isto é, f i (x i ) > 0) implicar que a distribuição conjunta f(x 1,..., x i,..., x n ) > 0 para qualquer configuração das demais variáveis. Exemplo: Considere uma matriz 2 2 binária tal que, se os três vértices (1, 1), (1, 2), e (2, 1) tiverem todos o mesmo valor +1 então o vértice (2, 2) vai ser necessariamente igual a +1 também. Isto é, p(x 2,2 = 1 x 1,1 = +1, x 1,2 = +1, x 2,1 = +1) = 0 Suponha que, de forma não condicional, a probabilidade de que x 2,2 = 1 não seja 1. Ou seja, suponha que o vértice (2, 2) possa receber a cor 1: p(x 2,2 = 1) > 0. Assim, esta distribuição não satisfaz 2

3 apropriedade de positividade pois p(x 1,1 = +1, x 1,2 = +1, x 2,1 = +1, x 2,2 = 1) = p(x 2,2 = 1 x 1,1 = +1, x 1,2 = +1, x 2,1 = +1)p(x 1,1 = +1, x 1,2 = +1, x 2,1 = + mas p(x 2,2 = 1) > 0. A condição de positividade é válida na maioria dos casos práticos. Uma condição suficiente é que o suporte da distribuição conjunta seja igual ao produto cartesiano dos suportes das distribuições marginais. Definição: Uma clique de um grafo G = (V, E) é um conjunto de vértices tais que todo par de elementos é conectado por uma aresta. Uma clique maximal é uma clique que não pode ser aumentada pela adição de nenhum outro vértice. Neste texto, quando dissermos clique estamos nos referindo a cliques maximais. Seja C o conjunto de todas as cliques de G. Seja S um subconjunto de vértices. elementos x i S. Vamos denotar por ψ S (x) uma função que depende apenas dos Teorema de Hammersley-Clifford: Uma distribuição de probabilidade f(x) com a condição de positividade possui a propriedade de Markov com respeito ao grafo G = (V, E) com estrutura de vizinhança {N i } se, e somente se, ( ) f(x) exp ψ c (x) Prova: Ver Assunção, Rodrigues e Krainski (2010). Campos Aleatórios de Markov e Distribuições Especificadas Através das Densidades Condicionais. SINAPE, ABE, c C 3 De volta às imagens binárias Considere uma imagem binária x com o grafo de vizinhança dado pela estrutura em cruz representada na Figura 1. Para evitar trabalhar com a indexação dupla para os elementos da imagem, vamos ordenar as posições da matriz com i = 1, 2,..., n = MN percorrendo os pixels ao longo da primeira coluna, depois os da segunda coluna, etc. Assim, i = 1 corresponde ao pixel (1, 1), i = 2 correponde ao pixel (2, 1), etc. Para dois pixels arbitrários, se eles possuem uma aresta comum, diremos que eles são vizinhos e denotamos isto por i j. O Gráfico à direita na Figura 1 mostra um pixel e seus quatro vizinhos. Nas bordas da imagem, cada pixel tem um número menor de vizinhos, 3 vizinhos ou 2 vizinhos (no caso dos quatro pixels nos cantos da imagem). Uma clique (maximal) neste grafo é composta apenas de pares de vértices vizinhos, representados como i j. Assim, uma distribuição de probabilidade para as imagens x que possui a propriedade de Markov com respeito a este grafo e esta estrutura de vizinhança se ela é uma distribuição da seguinte forma: f(x) exp ψ ij (x i, x j ) Por exemplo, a distribuição de Ising é dada pela expressão f(x) exp βx i x j = exp (β(n s N u )) onde N s e N u são os números de pares de vizinhos com as mesmas cores e com cores diferentes, respectivamente. Assim, na distribuição de Ising tomamos ψ i,j (x i, x j ) = βx i x j. Note que o valor de β é um só, não depende da região da figura (isto é, não depende dos pixels i e j). 3

4 Exercício: Mostre que a distribuição de Ising pode ser escrita como f(x) exp (β N s ) = exp βi[x i = x j ] onde I[x i = x j ] é a função indicadora de que x i e x j são iguais (ambos pretos ou ambos brancos). Esta maneira de exprimir a distribuição de probabilidade mostra claramente que, se β > 0, isto implica que as configurações com um grande número de pares de vizinhos com cores iguais terão mais probabilidade de ocorrer. O efeito de aumentar muito o valor de β é colocar quase toda a massa de probabilidade em configurações com praticamente todos os pixels pretos ou com todos os pixels brancos. Exercício: Se f(x) é a distribuição de Ising, obtenha a condicional completa f(x i x i ), a distribuição do valor x i do pixel i dados os valores x i de todos os outros pixels componentes da imagem. Verifique que ela depende apenas dos pixels vizinhos de i. Exercício: Começando com uma configuração aleatória pretos e usando β = 0.25 e β = 0.40, gere algumas configurações seguindo a numa matriz Começando com uma configuração aleatória e usando a distribuição condicional completa de cada pixel, podemos usar o amostrador de Gibbs para gerar novas configurações. Após um período de burn-in, teremos uma configuração selecionada pelo modelo de Ising. Entretanto, o algoritmo do amostrador de Gibbs é bastante lento. Ao atualizar um único pixel de cada vez, ele leva em conta os outros pixels vizinhos. Mesmo após percorrer todos os pixels na imagem, a nova configuração simulada será muito similar à anterior. Isto significa que vai demorar um longo período de burn-in para que a imagem inicial perca a sua influência. Uma maneira de acelerar dramaticamente o processo é usar um truque baseado na topologia regular do grafo associado com a imagem. Pense nos pixels particionados em dois grupos como num tabuleiro de xadrez: um conjunto S 1 de pixels correspondentes às posições pretas do tabuleiro de xadrez e um outro conjuntos S 2 correspondente às posições brancas da tabuleiro. Seja x S1 o sub-vetor com os elementos da imagem x que pertencem aos pixels em S 1. Veja que a vizinhança de um pixel i S 2 é formada por pixels j S 1. Exercício: Argumente que, por causa da propriedade de Markov e da última observação acima, dadas as cores dos pixels em S 1, as cores dos pixels em S 2 são condicionalmente independentes: f(x S2 x S1 ) = f i (x i x S1 ) = f i (x i N i ) i S 2 i S 2 Isto permite atualizar simultanemente todos os pixels em S 2, dados os pixels em S 1. Como eles são condicionalmente independentes, podemos atualizar cada um dos pixels em S 2 sem nos importar com a atualização simulatânea que está sendo feita nos demais pixels em S 2. Evidentemente, após atualizar S 2, fixamos seus valores e atualizamos todos os pixels em S 1 simultaneamente. Itere o processo. Exercício: Escreva um novo script implementando o algoritmo acima baseado na partição da imagem em dois subconjuntos S 1 e S 2. Como antes, comece com uma configuração aleatória com aproximadamente 50% dos pixels pretos e usando β = 0.25 e β = 0.40, gere algumas configurações seguindo a distribuição de Ising numa matriz Recuperando uma imagem A Figura 3 mostra no seu lado esquerdo uma imagem em preto-e-branco. No lado direito vemos a mesma imagem corrompida por um ruído que a transforma uma imagem em tons de cinza. Observamos apenas 4

5 Figura 3: Imagem preto e branco original (esquerda) e corrompida por ruído gaussiano (meio). O gráfico da direita mostra a vizinhança formada por quatro vizinhos no formato do movimento do peão no xadrez. a imagem corrompida e desejamos obter automaticamente uma estimativa da imagem da esquerda, que supostamente não é observada. Seja x = (x 1, x 2,..., x MN ) a imagem original em preto-e-branco com x i = 1 ou x i = 1 se branco ou preto, respectivamente. Seja y = (y 1, y 2,..., Y MN ) a imagem corrompida. O modelo para y é o seguinte: para cada pixel i, some um ruído gaussiano N(0, σ 2 ) independentemente ao valor de x i. Isto é, (y x) i N(y i ; µ = x i, σ 2 ). Mais especificamente, de densidade de y dada a imagem original x é igual a f(y x) = ( 1 exp 1 ) ( ) i 2πσ 2σ 2 (y i x i ) 2 exp 1 2σ 2 (y i x i ) 2. i Vamos supor, por exemplo, que existam apenas 4 pixels, x = (1, 1, 1, 1). A função densidade do vetor Y avaliada no ponto y = (0.94, 0.07, 1.03, 0.18), f(y = (0.94, 0.07, 1.03, 0.18) x = (1, 1, 1, 1)), é então proporcional a ( exp 1 ( (0.94 1) 2 2σ 2 + (0.07 1) 2 + ( 1.03 ( 1)) 2 + ( 0.18 ( 1)) 2) ). Deseja-se recuperar x tendo observado y. Quais as imagens mais prováveis para x depois de ver y? Para isto, usando a regra de Bayes, temos p(x y) p(y x)p(x) O primeiro fator você já possui. distribuição de Ising dada por A escolha mais comum para o segundo fator (a priori para x) é a p(x) exp β x i x j supondo que β > 0. Exercício: Obtenha a distribuição a posteriori f(x y) f(y x)f(x). Usando o Teorema de Hammersley- Clifford, responda: esta distribuição de probabilidade possui a propriedade de Markov com respeito ao mesmo grafo de vizinhança da priori de Ising? (RESP: sim). 5

6 Exercício: Para obter as configurações x mais prováveis a posteriori, você pode usar novamente o amostrador de Gibbs. Obtenha p(x i x i, y) supondo que σ 2 e β sejam conhecidos. Lembre-se que x i é binário e portanto você deve gerar um novo valor para x i igual a -1 ou a 1. Exercício: Faça um script em R para recuperar uma imagem corrompida. Use os comandos abaixo para lidar com imagens (leia, corrompa e a seguir recupere a imagem). # EBImage is an R package which provides general purpose functionality # for the reading, writing, processing and analysis of images. # It has many special features for microscopy images. # See # To install this package, start R and enter: source(" bioclite("ebimage") # Load the package library("ebimage") # The function readimage is able to read images from files or URLs. # Current supported image formats are JPEG, PNG and TIFF. # change working directory to that where images are stored setwd("dir_name") # Read black-white image yy <- readimage("pure-yinyang.png") dim(yy) # saved as an array 3-dim to allow for color images (3 channels, r-g-b # intensities. However, in this case, it is redundant as all 3 slices # are identical. yy = yy[,,1] is.matrix(yy) yy display(yy) # values are between 0 and 1 range(yy) # changing to match the Exercise List (values = +1 or -1) # can manipulate image as a matrix yy = * yy # corrupting the image with an indep Gaussian noise N(0,1) in each pixel yyn = yy + matrix(rnorm(1024*1024, m=0, sd=2), ncol=1024, nrow=1024) display(yyn) # In case you want to save the noisy image 6

7 writeimage(yyn, "noisy-yinyang.png", quality=85) # Use you code now to recover the image. # The objects borders will not come out nice. # Other techniques are needed to deal with them. # Some of these other techniques are also Bayesian. Exercícios Para sua conveniência, repetimos aqui os exercícios que foram espalhados ao longo do texto. Veja algumas das soluções no fim do documento. 1. Mostre que a distribuição de Ising pode ser escrita como f(x) exp (β N s ) = exp βi[x i = x j ] onde I[x i = x j ] é a função indicadora de que x i e x j são iguais (ambos pretos ou ambos brancos). 2. Se f(x) é a distribuição de Ising, obtenha a condicional completa f(x i x i ). Verifique que ela depende apenas dos pixels vizinhos de i. 3. Argumente que, por causa da propriedade de Markov, dadas as cores dos pixels em S 1, as cores dos pixels em S 2 são condicionalmente independentes: f(x S2 x S1 ) = f i (x i x S1 ) = f i (x i N i ) i S 2 i S 2 4. Escreva um novo script implementando o algoritmo acima baseado na partição da imagem em dois subconjuntos S 1 e S 2. Como antes, comece com uma configuração aleatória com aproximadamente 50% dos pixels pretos e usando β = 0.25 e β = 0.40, gere algumas configurações seguindo a distribuição de Ising numa matriz Obtenha a distribuição a posteriori f(x y) f(y x)f(x). Usando o Teorema de Hammersley- Clifford, responda: esta distribuição de probabilidade possui a propriedade de Markov com respeito ao mesmo grafo de vizinhança da priori de Ising? (RESP: sim). 6. Para obter as configurações x mais prováveis a posteriori, você pode usar novamente o amostrador de Gibbs com o truque de codificação em dois subconjuntos S 1 e S 2. Obtenha p(x i x i, y) supondo que σ 2 e β sejam conhecidos. Lembre-se que x i é binário e portanto você deve gerar um novo valor para x i igual a -1 ou a Faça um script em R para recuperar uma imagem corrompida. Use os comandos mostrados no texto para ler, corromper e a seguir recuperar a imagem. Soluções dos exercícios 1. Mostre que a distribuição de Ising pode ser escrita como f(x) exp (β N s ) = exp β I[x i = x j ] 7

8 onde I[x i = x j ] é a função indicadora de que x i e x j são iguais (ambos pretos ou ambos brancos). Solução: A distribuição de Ising é dada por f(x) exp β x i x j O produto x i x j possui apenas dois valores possíveis: { 1 se xi x x i x j = j, +1 se x i = x j, Temos um total T de pares de pixels. Deste total, podemos classificar os pares em dois subconjuntos. Um deles, com os dois pixels tendo sinais iguais. Suponha que existam N s = I[x i = x j ] deles. O outro, com os pares tendo sinais distintos (com N u = T N s deles). Assim, o expoente da distribuição de Ising fica βx i x j = β(n s N u ) = β(n s (T N s )) = β(2n s T ) Como T é fixo (não depende da configuração x),a distribuição de Ising pode ser reescrita com uma nova constante de proporcionalidade: f(x) exp βx i x j = exp (β(2n s T )) = exp(βt ) exp (2βN s )) exp (β N s )) onde β = 2β já que exp(βt ) é uma constante com respeito a x. 2. Se f(x) é a distribuição de Ising, obtenha a condicional completa f(x i x i ). Verifique que ela depende apenas dos pixels vizinhos de i. Solução: Para obter a condicional completa f(x i x i ), a partir da distribuição conjunta de x, jogue fora todos os fatores multiplicativos que não envolvem o pixel i. Para um pixel fora das bordas da imagem temos f(x i x i ) f(x) exp β ( ) I[x k = x j ] exp βi[x i = x k ] = exp (βn i ) k j onde n i é o número de vizinhos do pixel i com a mesma cor indicada por x i. Por exemplo, f(x i = +1 x i ) exp ( βn +1 ) i onde n +1 i é o número de vizinhos de i com cor +1. Assim, encontramos que k i +1 se n +1 i = 0, e β se n +1 i = 1, f(x i = +1 x i ) e 2β se n +1 i = 2, e 3β se n +1 i = 3, e 4β se n +1 i = 4, 8

9 Para normalizar os valores acima, não podemos somar os cinco valores acima! Veja que temos cinco distribuições de probilidade acima, uma para cada número de vizinhos iguais a 1. Para encontrar a normalização correta, devemos obter a probabilidade condicional de x i = 1: f(x i = 1 x i ) exp ( βn 1 i onde n 1 i é o número de vizinhos de i com cor 1. Para um pixel no interior da imagem, temos n 1 i = 4 n +1 i. Assim, f(x i = 1 x i ) +1 se n 1 i = 0 ou n +1 e β e 2β e 3β e 4β ) se n 1 i = 1 ou n +1 se n 1 i = 2 ou n +1 se n 1 i = 3 ou n +1 se n 1 i = 4 ou n +1 i = 4, i = 3, i = 2, i = 1, i = 0, Juntando as duas pontas, podemos finalmente obter a distribuição condicional completa de um pixel x i no interior da imagem: 1 se n +1 1+e 4β i = 0, e β = 1 se n +1 e β +e 3β 1+e 2β i = 1, e f(x i = +1 x i ) 2β = 1 e 2β +e 2β 2 se n +1 i = 2, e 3β 1 = se n +1 e 3β +e β 1+e 2β i = 3, e 4β e 4β +1 = 1 se n +1 1+e 4β i = 4, Para um pixel nas bordas da imagem, o raciocínio é similar, devendo-se apenas levar em conta que o número total de vizinhos é igual a 3 ou a Começando com uma configuração aleatória com aproximadamente 50% dos pixels pretos e usando β = 0.25 e β = 0.40, gere algumas configurações seguindo a distribuição de Ising numa matriz Use o amostrador de Gibbs. 4. Argumente que, por causa da propriedade de Markov, dadas as cores dos pixels em S 1, as cores dos pixels em S 2 são condicionalmente independentes: f(x S2 x S1 ) = f i (x i x S1 ) = f i (x i N i ) i S 2 i S 2 Solução: Seja x S1 o sub-vetor com os elementos da imagem x que pertencem aos pixels em S 1. A vizinhança de um pixel i S 2 é formada por pixels j S 1. Assim, pela propriedade de Markov, se i e i pertencem a S 2, teremos p(x i x i, x S1 ) = p(x i x S1 ) e portanto x i x i condicionalmente em x S1. Generalizando psrs os demais pixels, temos o resultado desejado. 5. Escreva um novo script implementando o algoritmo baseado na partição da imagem em dois subconjuntos S 1 e S 2. Como antes, comece com uma configuração aleatória com aproximadamente 50% dos pixels pretos e usando β = 0.25 e β = 0.40, gere algumas configurações seguindo a distribuição de Ising numa matriz Solução: Abaixo, um script R para gerar rising <- function(n, beta, burnin=10, x=null) { ## n - imagem com dimensao n x n, n deve ser multiplo de 2 ## beta - parametro do modelo de Ising 9

10 ## burnin - numero de simulacoes iniciais descartadas ## x - matriz n x n de valores iniciais (opcional) if((n %% 2) > 0) stop("n deve ser multiplo de 2") ## x - valores iniciais {-1,1} simulados com ## probabilidade 0.5 para cada 1 x <- matrix(2*(0.5 > runif(n*n))-1, n) ## cod1 - primeiro conjunto de vertices cod1 <- seq(2, n, 2) ## cod2 - segundo conjunt de vertices cod2 <- seq(1, n, 2) ## loop para cada iteracao do Gibbs Sampler for (i in 1:burnin) { ## soma os vizinhos s <- cbind(x[,-1], 0) + cbind(0, x[,-n]) + rbind(x[-1,], 0) + rbind(0, x[-n,]) ## calcula exponencial e <- exp(2*beta*s) ## atualiza localizacoes codificadas como pontos x[cod1, cod2] <- 2*(e[cod1,cod2]/(1+e[cod1,cod2]) > runif((n*n)/4))-1 x[cod2, cod1] <- 2*(e[cod2,cod1]/(1+e[cod2,cod1]) > runif((n*n)/4))-1 ## atualiza a soma dos vizinhos s <- cbind(x[,-1], 0) + cbind(0, x[,-n]) + rbind(x[-1,], 0) + rbind(0, x[-n,]) e <- exp(2*beta*s) ## atualiza localizacoes codificadas como asteriscos x[cod2, cod2] <- 2*(e[cod2,cod2]/(1+e[cod2,cod2]) > runif((n*n)/4))-1 x[cod1, cod1] <- 2*(e[cod1,cod1]/(1+e[cod1,cod1]) > runif((n*n)/4))-1 } return(x) } im1 = rising(2^6, beta = -0.30, burnin=1000) # valores repelm uns aos outros im2 = rising(2^6, beta = 0.00, burnin=1000) # valores iid im3 = rising(2^6, beta = 0.20, burnin=1000) # certa correlacao positiva im4 = rising(2^6, beta = 0.35, burnin=1000) # mais correlacao positiva par(mfrow=c(2,2)) image(im1); title("beta = -0.20") image(im2); title("beta = 0.00") image(im3); title("beta = 0.20") image(im4); title("beta = 0.35") # Um valor muito grande de beta faz com que, no limite, a imagem fique # toda branca ou toda preta, dependendo da condicao inicial e de alguns # fatores casuais aolongo das simulacoes. par(mfrow=c(1,1)) 10

11 image(rising(2^6, beta = image(rising(2^6, beta = 0.50, burnin=1000)) 0.50, burnin=10000)) Figura 4: Configurações geradas por Gibbs sampler a partir do moelo de Ising com diferentes valores para β. 6. Obtenha a distribuição a posteriori f(x y). Usando o Teorema de Hammersley-Clifford, responda: esta distribuição de probabilidade possui a propriedade de Markov com respeito ao mesmo grafo de vizinhança da priori de Ising? (RESP: sim). Solução: Pelo teorema de Bayes, f(x y) f(y x)f(x) N(x i, σ 2 ) exp β x i x j exp 1 2σ 2 i Se definirmos ψ ij (x i,j ) = βx i x j (y i x i ) 2 2σ 2 n i (y j x j ) 2 2σ 2 n j onde n i é o número de vizinhos do pixel i, teremos f(x y) exp ψ i,j (x i,j ) NM i=1(y i x i ) 2 + β x i x j 7. Para obter as configurações x mais prováveis a posteriori, você pode usar novamente o amostrador de Gibbs com o truque de codificação em dois subconjuntos S 1 e S 2. Obtenha p(x i x i, y) supondo que σ 2 e β sejam conhecidos. Lembre-se que x i é binário e portanto você deve gerar um novo valor para x i igual a -1 ou a 1. Solução: A partir da distribuição p(x y) podemos obter facilmente p(x i x i, y) exp 1 2σ 2 (y i x i ) 2 + βx i j:j i x j Assim, p(x i = +1 x i, y) exp 1 2σ 2 (y i 1) 2 + β j:j i x j 11

12 enquanto e portanto p(x i = +1 x i, y) = = p(x i = 1 x i, y) exp 1 2σ 2 (y i + 1) 2 + β ( exp 1 ( exp 1 2σ (y 2 i 1) 2 + β j:j i x j j:j i x j 2σ (y 2 i 1) 2 + β j:j i x j ) + exp exp ( 1 2σ (y 2 i 1) 2) exp ( 1 2σ (y 2 i 1) 2) + exp ( 1 2σ (y 2 i + 1) 2) e 2β j:j i xj 8. Faça um script em R para recuperar uma imagem corrompida. Solução: ) ( 1 2σ 2 (y i + 1) 2 + β j:j i x j restoration.ising <- function(im, beta, sigma, nsim=10, x=2*(yyn > 0)-1){ ## im - imagem com dimensao n x n, n deve ser multiplo de 2 ## beta - parametro do modelo de Ising ## nsim - numero de simulacoes iniciais descartadas ## x - matriz n x n de valores iniciais (opcional) d = dim(im) if(d[1]!= d[2]) stop("imagem deve ser quadrada") n = d[[1]] if((n %% 2) > 0) stop("n deve ser multiplo de 2") ## cod1 - primeiro conjunto de vertices cod1 <- seq(2, n, 2) ## cod2 - segundo conjunto de vertices cod2 <- seq(1, n, 2) ## matriz com numerador de probabilidades de que x_i = +1 num = exp(-(yyn-1)^2/(2*sigma^2)) ## loop para cada iteracao do Gibbs Sampler for (i in 1:nsim) { ## soma os vizinhos (matriz como output) s = cbind(x[,-1], 0) + cbind(0, x[,-n]) + rbind(x[-1,], 0) + rbind(0, x[-n,]) ## calcula exponencial (em forma de matriz) e = exp(-2*beta*s) ## atualiza probabilidades (matriz) de que x_i = +1 prob = num/(num + exp(-(yyn+1)^2/(2*sigma^2))*e) ## atualiza localizacoes codificadas como pontos x[cod1, cod2] = 2*rbinom(length(x[cod1, cod2]), 1, prob[cod1, cod2]) - 1 x[cod2, cod1] = 2*rbinom(length(x[cod2, cod1]), 1, prob[cod2, cod1]) - 1 ## atualiza a soma dos vizinhos s <- cbind(x[,-1], 0) + cbind(0, x[,-n]) + rbind(x[-1,], 0) + rbind(0, x[-n,]) e <- exp(-2*beta*s) ) 12

13 ## atualiza probabilidades prob = num/(num + exp(-(yyn+1)^1/(2*sigma^2))*e) ## atualiza localizacoes codificadas como asteriscos x[cod2, cod2] <- 2*rbinom(length(x[cod2, cod2]), 1, prob[cod2, cod2])-1 x[cod1, cod1] <- 2*rbinom(length(x[cod1, cod1]), 1, prob[cod1, cod1])-1 } return(x) } im1 = restoration.ising(yyn, beta = 1.25, sigma=2, nsim=20) im2 = restoration.ising(yyn, beta = 1.25, sigma=2, nsim=20, x=im1) im3 = restoration.ising(yyn, beta = 1.25, sigma=2, nsim=20, x=im2) im4 = restoration.ising(yyn, beta = 1.25, sigma=2, nsim=20, x=im3) par(mfrow=c(2,2)) image(yyn) image(im2) image(im3) image(im4) 13