Um esquema regenerativo visível em cadeias de alcance variável não limitadas

Transcrição

1 Um esquema regenerativo visível em cadeias de alcance variável não limitadas Aluna: Divanilda Maia Esteves Orientador: Antonio Galves Instituto de Matemática e Estatística Universidade de São Paulo 21 de março de 2007

2 Cadeias de alcance variável foram introduzidas por [Rissanen(1983)] e popularizadas na literatura estatística por [Bühlmann e Wyner(1999)] no caso limitado e no caso não limitado por [Ferrari e Wyner(2003)]. Nessa classe de modelos, para se decidir sobre o estado presente da cadeia, ao invés de considerarmos todo o passado, consideramos apenas a parte do passado que é relevante, o que foi chamado por Rissanen de contexto.

3 Cadeias de alcance variável foram introduzidas por [Rissanen(1983)] e popularizadas na literatura estatística por [Bühlmann e Wyner(1999)] no caso limitado e no caso não limitado por [Ferrari e Wyner(2003)]. Nessa classe de modelos, para se decidir sobre o estado presente da cadeia, ao invés de considerarmos todo o passado, consideramos apenas a parte do passado que é relevante, o que foi chamado por Rissanen de contexto.

4 Isso tem duas vantagens óbvias: 1 os contextos capturam propriedades estruturais dos dados; 2 esses modelos fazem um uso parcimonioso dos parâmetros sem perder a fineza de ajuste.

5 Isso tem duas vantagens óbvias: 1 os contextos capturam propriedades estruturais dos dados; 2 esses modelos fazem um uso parcimonioso dos parâmetros sem perder a fineza de ajuste.

6 Notação Por questão de simplicidade, a seguinte notação será utilizada: x n m := (x m, x m+1,..., x n ), para m < n p(x 0 x 1 n ) := P(X 0 = x 0 X 1 = x 1,..., X n = x n ), p(x 0 x 1 ) := P(X 0 = x 0 X 1 = x 1, X 2 = x 2,...) x n ma = x m,..., x n, a.

7 Notação Atenção: Quando apresentamos as seqüências, elas aparecem na ordem natural, com à esquerda e à direita. Nos condicionamentos, elas são apresentadas do passado mais recente para o mais remoto.

8 Cadeias de Markov Definição Um processo (X n ) n Z assumindo valores em um conjunto A é uma cadeia de Markov de ordem k se o próximo estado do processo é influenciado apenas pelos k momentos anteriores, ou seja P(X 0 = x 0 X 1 = x 1 ) = P(X 0 = x 0 X 1 k = x 1 k ).

9 Cadeias de ordem infinita Definição Seja (X t ) t Z um processo estacionário com valores em um alfabeto finito A com probabilidades de transição dadas por uma função P : A A tal que P(X 0 = x 0 X 1 = x 1 ) = p(x 0 x 1 ) para todo x 0 A, x 1 A. Chamamos tal processo de cadeia de ordem infinita com probabilidades de transição p( ).

10 Cadeias de Markov de Alcance Variável Definição Para cada passado x 1, definimos a função comprimento: l = l(x 1 ) = min{j : P(x 0 x 1 ) = P(x 1 x 1 j ), x 1 A} Seja k = sup{l(x 0 ) : x 0 A 2, 1 }.

11 Cadeias de Markov de Alcance Variável Definição Para cada passado x 1, definimos a função comprimento: l = l(x 1 ) = min{j : P(x 0 x 1 ) = P(x 1 x 1 j ), x 1 A} Seja k = sup{l(x 0 ) : x 0 A 2, 1 }.

12 Cadeias de Markov de Alcance Variável Definição Definição Seja um processo (X n ) n Z. Se k <, então (X n ) n Z é chamada cadeia de Markov de alcance variável (VLMC) de ordem k. Se k =, então temos uma cadeia de alcance variável não limitada.

13 Árvore de Contextos Um subconjunto enumerável τ de k=1 A{ k,..., 1} é uma árvore completa enraizada com ramos finitos se satisfaz as seguintes condições:

14 Árvore de Contextos 1. Propriedade do sufixo: Para qualquer sequência ω 1 k τ, não existe u 1 j i = 1,..., j. τ, com j < k, tal que ω i = u i, para 2. Completitude: τ define uma partição de A..., 2, 1. Cada elemento da partição coincide com o conjunto das seqüências em A..., 2, 1 que tem ω 1 k como sufixo.

15 Árvore de Contextos 1. Propriedade do sufixo: Para qualquer sequência ω 1 k τ, não existe u 1 j i = 1,..., j. τ, com j < k, tal que ω i = u i, para 2. Completitude: τ define uma partição de A..., 2, 1. Cada elemento da partição coincide com o conjunto das seqüências em A..., 2, 1 que tem ω 1 k como sufixo.

16 Árvore de Contextos Definição Uma árvore probabilística de contextos em um alfabeto A é um par ordenado (τ, p) tal que τ é uma árvore completa p = {p( ω), ω τ} é uma família de probabilidades de transição em A.

17 Árvore de Contextos Notação: Seja τ uma árvore de contextos completa. Denotaremos por c τ (x 1 ) o único sufixo de x 1 que está em τ.

18 Árvore de Contextos Observação: O conjunto τ pode ser identificado por um conjunto de ramos da seguinte forma: o primeiro nó é a raiz, ou o presente; os galhos são o passado, sendo que quanto mais longe da raiz, mais distante é o passado; cada nó tem no máximo A arestas; cada contexto é representado por um ramo completo.

19 Árvore de Contextos Observação: O conjunto τ pode ser identificado por um conjunto de ramos da seguinte forma: o primeiro nó é a raiz, ou o presente; os galhos são o passado, sendo que quanto mais longe da raiz, mais distante é o passado; cada nó tem no máximo A arestas; cada contexto é representado por um ramo completo.

20 Árvore de Contextos Observação: O conjunto τ pode ser identificado por um conjunto de ramos da seguinte forma: o primeiro nó é a raiz, ou o presente; os galhos são o passado, sendo que quanto mais longe da raiz, mais distante é o passado; cada nó tem no máximo A arestas; cada contexto é representado por um ramo completo.

21 Árvore de Contextos Observação: O conjunto τ pode ser identificado por um conjunto de ramos da seguinte forma: o primeiro nó é a raiz, ou o presente; os galhos são o passado, sendo que quanto mais longe da raiz, mais distante é o passado; cada nó tem no máximo A arestas; cada contexto é representado por um ramo completo.

22 Árvore de Contextos Observação: O conjunto τ pode ser identificado por um conjunto de ramos da seguinte forma: o primeiro nó é a raiz, ou o presente; os galhos são o passado, sendo que quanto mais longe da raiz, mais distante é o passado; cada nó tem no máximo A arestas; cada contexto é representado por um ramo completo.

23 Cadeias de Markov de Alcance Variável Árvore de Contextos Uma cadeia de alcance variável estacionária (X t ) é consistente com uma árvore probabilística de contextos (τ, p) se para qualquer passado x 1 e qualquer símbolo a A temos: onde x 1 l x 1. P(X 0 = a X 1 ) = p(a x 1 l ), é o único elemento de τ que é um sufixo da seqüência

24 Árvore de Contextos Exemplo: τ = {(00), (010), (011), (1)}

25 Árvore de Contextos Definição Dizemos que uma árvore probabilística de sufixos (τ, p) é não limitada se a função comprimento (l) é não limitada.

26 Cadeias de Markov de Alcance Variável Árvore de Contextos No caso em que a árvore de contextos τ não é finita, a compacidade de A Z garante que existe ao menos uma cadeia estacionária compatível com (τ, p). As seguintes condições garantem a unicidade da cadeia.

27 Cadeias de Markov de Alcance Variável Árvore de Contextos Definição Uma árvore probabilística de contextos (τ, p) em A é do tipo A se suas probabilidades de transição p satisfazem as seguintes condições. Fracamente não nula, isto é inf p(a w) > 0 ; (1) w τ a A

28 Cadeias de Markov de Alcance Variável Árvore de Contextos Definição -continuação Continuidade, isto é β(k) := max a A quando k. sup w 1 1 =v k k { p(a w) p(a v) } 0 (2) A seqüência {β(k)} k N é chamada taxa de continuidade.

29 Árvore de Contextos Como observado em [Duarte el al(2006)], para uma árvore probabilística de contextos do tipo A com uma taxa de continuidade somável, o argumento do acoplamento maximal usado em [Fernández el al(2001)] implica a unicidade da lei da cadeia consistente com ela.

30 Árvore de Contextos Figura: Árvore de Contextos não limitada

31 Dados (τ, p), ω τ e x uma seqüência de símbolos de A, dizemos que t Z é um ponto de regeneração da seqüência relativamente a ω se x t+ ω 1 t = ω c τ (x ) n xt n, para todo n t.

32 Objetivo Objetivo O objetivo central desta tese é demonstrar a existência de uma estrutura regenerativa visível para as cadeias de alcance variável não limitadas.

33 O que isso quer dizer? Fixe um contexto ω. Dada uma amostra infinita X queremos que existam infinitos instantes (σ ω i ) i Z com < σ ω 0 < 0 < σ ω 1 < σ ω 2 <... que são instantes de regeneração

34 O que isso quer dizer? Fixe um contexto ω. Dada uma amostra infinita X queremos que existam infinitos instantes (σ ω i ) i Z com < σ ω 0 < 0 < σ ω 1 < σ ω 2 <... que são instantes de regeneração

35 Um Exemplo onde o teorema não vale: P(0 1) = 1 0 < P(0 ω) < 1, ω (1) A conjectura não vale para o contexto (1)

36 Um Exemplo onde o teorema não vale: P(0 1) = 1 0 < P(0 ω) < 1, ω (1) A conjectura não vale para o contexto (1)

37 VLMC No caso em que τ < uma condição suficiente para o resultado é que P(a ω) > 0, a A, ω τ. E no caso infinito?

38 Árvore de Contextos Exemplo: Cadeias de renovação As cadeias de renovação, também chamadas cadeias de alcance variável esparsas [Bühlmann e Wyner(1999)] são definidas da seguinte forma. Dizemos que uma cadeia de alcance variável (X n ) n Z tomando valores no alfabeto A = {0, 1} é uma cadeia esparsa, se suas probabilidades de transição são dadas por: p(1 x 1 ) = q l(x 1 ), onde l(x 1 ) = l := min{i 1 : x i = 1} 1.

39 Cadeias esparsas Figura: Árvore de Contextos referente a uma cadeia esparsa

40 Cadeias esparsas Para obter a estrutura regenerativa, basta garantir, para quase toda amostra suficientemente grande de uma cadeia esparsa, a existência de infinitos símbolos 1. Isto é equivalente a procurar as condições necessárias e suficientes para que uma cadeia esparsa cumpra a seguinte igualdade: ( ) P 1 {Xn=1} = + X 0 = 1 = 1 (3) n=1

41 Cadeias esparsas Teorema P ( n=1 1 {X n=1} = + X 0 = 1 ) = 1, e somente se, + i=0 q i =.

42 Cadeias esparsas Passos da demonstração: Se l=0 q l < +, então P ( n=1 1 {X n=1} = + X 0 = 1 ) < 1. Se lim sup l q l = δ > 0, então P ( n=1 1 {X n=1} = + X 0 = 1 ) = 1. Se lim sup l q l = 0 e l=0 q l = +, então P ( n=1 1 {X n=1} = + X 0 = 1 ) = 1.

43 Cadeias esparsas Passos da demonstração: Se l=0 q l < +, então P ( n=1 1 {X n=1} = + X 0 = 1 ) < 1. Se lim sup l q l = δ > 0, então P ( n=1 1 {X n=1} = + X 0 = 1 ) = 1. Se lim sup l q l = 0 e l=0 q l = +, então P ( n=1 1 {X n=1} = + X 0 = 1 ) = 1.

44 Cadeias de alcance variável Para demonstrar a existência de uma estrutura regenerativa no caso mais geral das cadeias de alcance variável, vamos usar a seguinte decomposição.

45 Proposição básica da decomposição Proposição básica da decomposição Seja τ uma árvore de contextos qualquer em {0, 1}. Podemos escrever τ na forma τ = τ [ ] k=0 τ [k], onde τ [ ] ou é o conjunto vazio ou tem um único elemento que é uma seqüência de zeros; τ [k] = τ [k] 0 k ; com 0 k sendo uma seqüência de k zeros e τ [k] é uma árvore de contextos cuja raiz é o símbolo 1 e com altura f (k) + 1.

46 Proposição básica da decomposição Proposição básica da decomposição Seja τ uma árvore de contextos qualquer em {0, 1}. Podemos escrever τ na forma τ = τ [ ] k=0 τ [k], onde τ [ ] ou é o conjunto vazio ou tem um único elemento que é uma seqüência de zeros; τ [k] = τ [k] 0 k ; com 0 k sendo uma seqüência de k zeros e τ [k] é uma árvore de contextos cuja raiz é o símbolo 1 e com altura f (k) + 1.

47 Proposição básica da decomposição Proposição básica da decomposição Seja τ uma árvore de contextos qualquer em {0, 1}. Podemos escrever τ na forma τ = τ [ ] k=0 τ [k], onde τ [ ] ou é o conjunto vazio ou tem um único elemento que é uma seqüência de zeros; τ [k] = τ [k] 0 k ; com 0 k sendo uma seqüência de k zeros e τ [k] é uma árvore de contextos cuja raiz é o símbolo 1 e com altura f (k) + 1.

48 Proposição básica da decomposição τ [ ] = (00) τ [0] = {(1)} e daí τ [0] = {(1)} τ [1] = {(10, 11)} e daí τ [1] = {(010), (011)}

49 Proposição básica da decomposição τ [ ] = ( ) τ [k] = {(1)} e daí {}}{ τ [k] = {( )} k

50 Cadeias de alcance variável Observação: Na decomposição proposta acima, τ [k] é uma árvore com raiz 1. Vamos chamar de f (k) o comprimento máximo dos ramos de τ [k] excluindo-se a raiz, ou seja f (k) = sup{ ω 1 : ω τ [k] }.

51 Vamos considerar o caso em f (k) < para todo k, mas a função f é ilimitada. Vamos definir {f = m} como {f = m} = {k IN : f (k) = m} e a n = inf{k {f = n}}.

52 Teorema Vamos supor que (τ, p) seja uma árvore de contextos no alfabeto A = {0, 1} satisfazendo as seguintes condições: as probabilidades de transição p são contínuas com taxa de continuidade somável; inf{p(1 v) : v τ} = δ > 0; f (k) f (k ), se k k e f (k) +, quando k + ; i=1 {f = i} (1 δ)a i <.

53 Teorema Então qualquer que seja ω τ existem infinitos instantes < σ ω 0 0 < σ ω 1 < σ ω 2 <... que são instantes de regeneração da amostra com relação ao contexto ω.

54 Ingredientes para a demonstração do Teorema: Para toda seqüência (X n ), com X m = 1 e, para todo i 1, vamos definir Di m como sendo o número de 0 s sucessivos que devem aparecer a partir do instante i, para que tenhamos um contexto que ultrapasse o instante m. Formalmente D m i = min{j 1 : c τ (X m 1 1X m+i m 0 j ) > j + i + 1}.

55 Ingredientes para a demonstração do Teorema: Para toda seqüência (X n ), com X m = 1 e, para todo i 1, vamos definir Di m como sendo o número de 0 s sucessivos que devem aparecer a partir do instante i, para que tenhamos um contexto que ultrapasse o instante m. Formalmente D m i = min{j 1 : c τ (X m 1 1X m+i m 0 j ) > j + i + 1}.

56 Lema Para toda seqüência X tal que X m = 1, temos que { i=0 c τ (X m+i ) m} = {Di m 1} i=0

57 Vamos acoplar D n a uma cadeia de Markov não homogênea D i n, assumindo valores em N, cuja matriz de transição q i (d d) = P( D i n = d D i 1 n = d), é assim definida q i (0 0) = 1 q i (d 1 d) = 1 δ, d 1 q i (a i+1 d) = δ, d 1, onde a i = inf{k {f = i}}.

58 Lema Para todo n e para toda amostra X tal que X n = 1, existe um acoplamento entre Di n e D i n de tal forma que D0 n = D 0 n = 1 e Dn i D i n, i 1.

59 Prova: Observamos que, para todo n, D n i = g i (D n i 1, X n+i ), onde g i é assim definida: 0 se d = 0 g i (d, x) = d 1 se d 1 e x = 0 a i+1 se d 1 e x = 1., (4)

60 Para cada n, seja {U n i : n Z, i 1} uma família de variáveis aleatórias independentes entre si e uniformemente distribuídas em [0, 1]. Para cada n Z e para cada i 1, definimos a variável (Y n i ) assumindo valores em {0, 1} e acoplada à variável (X n+i ), da seguinte maneira:

61 Para cada n, seja {U n i : n Z, i 1} uma família de variáveis aleatórias independentes entre si e uniformemente distribuídas em [0, 1]. Para cada n Z e para cada i 1, definimos a variável (Y n i ) assumindo valores em {0, 1} e acoplada à variável (X n+i ), da seguinte maneira:

62 (X n+i, Y n i ) = F(U n i, X n+i 1 ) = (1, 1), se 0 U n i < δ (1, 0), se δ U n i < p(1 X n+i 1 ) (0, 0), se U n X n=i 1

63 Observamos que, por construção, X n+i Y n i. P(Y n i = 1) = δ A família {Y n i : n Z, i 1} é independente.

64 Vamos definir agora D n i = g i ( D n i 1, Y n i ), onde g i é a função 4. Desta maneira, para todo n, i e para toda realização das variáveis, temos que D i n Di n. Isso encerra a demonstração do lema.

65 Vamos definir as variáveis ξ n = 1 { i=1 {D n i 1}} e ξ n = 1 { i=1 { D n i 1}}.

66 Para concluir a demonstração do teorema, precisamos mostrar que P {ξ n = 1} = 1. m 1 n m Por construção ξ n ξ n, para todo n e para toda realização das variáveis. E portanto P {ξ n = 1} P { ξ n = 1}. m 1 n m m 1 n m

67 Para concluir a demonstração do teorema, precisamos mostrar que P {ξ n = 1} = 1. m 1 n m Por construção ξ n ξ n, para todo n e para toda realização das variáveis. E portanto P {ξ n = 1} P { ξ n = 1}. m 1 n m m 1 n m

68 Para concluir a demonstração do teorema, precisamos mostrar que P {ξ n = 1} = 1. m 1 n m Por construção ξ n ξ n, para todo n e para toda realização das variáveis. E portanto P {ξ n = 1} P { ξ n = 1}. m 1 n m m 1 n m

69 A seqüência de variáveis aleatórias ( ξ n ) é, por construção, independente, já que as seqüências (Ui n ) i 1 usadas na sua construção são independentes. Além disso, Lema - Nas condições do teorema, temos que P( ξ n = 1) > 0.

70 Portanto, pelo Lema de Borel-Cantelli, P n m{ ξn = 1} = 1. m 1 E consequentemente P n m{ξn = 1} = 1. m 1

71 Corolário No Teorema, se a função f for invertível, então i=1 {f = i} (1 δ)a i convergir é equivalente a i=1 (1 δ)[f 1 (i)] convergir. O Corolário segue do fato de que se f é invertível, a k = f 1 (k).

72 Corolário No Teorema, se a função f for invertível, então i=1 {f = i} (1 δ)a i convergir é equivalente a i=1 (1 δ)[f 1 (i)] convergir. O Corolário segue do fato de que se f é invertível, a k = f 1 (k).

73 Corolário No Teorema, se a função f (k) = k for invertível, então i=1 {f = i} (1 δ)a i converge. O Corolário segue do fato de que se f (k) = k, então i=1 {f = i} (1 δ)a i = i=1 (1 δ)i.

74 Corolário No Teorema, se a função f (k) = k for invertível, então i=1 {f = i} (1 δ)a i converge. O Corolário segue do fato de que se f (k) = k, então i=1 {f = i} (1 δ)a i = i=1 (1 δ)i.

75 Exemplo Vamos considerar f (k) = ln(k). Neste caso, f 1 (k) = exp(k), de onde segue que (1 δ) f 1 (i) i=1 (1 δ) i <. i=1

76 Exemplo Agora vamos considerar f (k) = exp(k). Queremos mostrar que i=1 (1 δ)ln(i) é convergente. Sabemos que uma série i=1 a n é convergente se e somente se i=1 2k a 2 k também é. Então, a série é convergente desde que δ > ln 2.

77 Algoritmo Considere uma amostra X 1,..., X n de (τ, p), com τ conhecida. Vamos descrever um algoritmo para encontrar pontos t 1 (X1 n, τ),..., t M n (X1 n, τ) que satisfaçam as condições dos teoremas vistos no capítulo anterior, para um determinado contexto ω. Seja S = {t i (X 1, τ); i 1} o conjunto dos pontos de regeneração em uma amostra X 1,..., X n.

78 Algoritmo Algoritmo Passo 0 - Fixe ω τ. Faça k=0 e m=1. Passo 1 - Fixe i (0) 1 = 0. Se C(X n i(0) 1 1 ) = C(X1 n) = ω, faça i 1 = 0 e t 1 (x1 n, τ) = n e vá ao passo 5. Passo 2 - Faça k=k+1. Se i (k 1) 1 < n 1, faça i (k) 1 = min{i (k 1) 1 < i < n : C(X n i 1 ) = ω}. Se não existir tal i (k) 1, faça S = e pare. Passo 3 - Se l(x n j 1 ) > i (k) 1 j + ω para algum 0 j < i (k) 1, volte ao passo 2.

79 Algoritmo Passo 4 - Faça i 1 = i (k) 1 e t 1 (X n 1, τ) = n i 1 ω + 1 e vá ao passo 5. Passo 5 - Faça m=m+1 e k=0. Faça i (0) m = i m 1 ω. Se C(X n i0 m 1 ) = ω, faça i m = i (0) m, t m (x n 1, τ) = n i m ω + 1 e repita este passo. Passo 6 - Faça k=k+1. Se i (k 1) m i (k) m = min{i (k 1) m < n 1, faça < i < n : C(X n i 1 ) = ω}. Se não existir tal i (k) m, faça m 1 = M n e vá ao passo 9.

80 Algoritmo Passo 7 - Se l(x n j 1 ) > i (k) m j + ω para algum i m 1 j < i k m, volte ao passo 6. Passo 8 - Faça i m = i (k) m i m < n 1, volte ao passo 5. e t m (X n 1, τ) = n i m ω + 1. Se Passo 9 - Para finalizar, para i = 1,..., M n, faça t i (X n 1, τ) = t M n i+1 e então teremos S.

81 Algoritmo Observação Não vamos considerar todos os pontos encontrados. Na verdade, vamos considerar os pontos que estão em X 1,..., X n k(n), sendo que k(n) é uma função que cresce com o tamanho da amostra e que n > k(n). Isso porque com probabilidade alta os pontos próximos a n não serão pontos de regeneração quando aumentarmos um pouco a amostra.

82 Algoritmo Teorema Seja X 1,..., X n uma amostra de uma cadeia esparsa. Vamos denotar os pontos de separação associados a esta amostra por t 1 (X n 1, τ),..., t M n (X n 1, τ). Então, se i=0 q i =, então P M n k(n) i=1 t i (X1 n, τ) / S (n k(n)) z=1 sendo que aqui k(n) é tal que e P k(n) m=0 qm = o ( z e P k(n)+z m=0 q m 0, 1 n k(n) ).

83 Algoritmo Teorema Dados X 1,..., X n uma amostra de (τ, p) e t 1 (X1 n, τ),..., t M n (X1 n, τ) os pontos de separação associados a esta amostra. Então, 0 1 M n k(n) [ t i (X1 n, τ) / SA 1 X (n k(n))p(1) (2(1 δ)) m j 1 2(1 δ) i=1 + X j=1 j(2(1 δ)) f (m n+j ) «0, j=n+1

84 Algoritmo Teorema - continuação onde k(n) é tal que ( 2(1 δ)) f (mn) = o 1 n k(n) j=n+1 (2(1 δ))m j = o ( ) 1 n k(n) com m j = min{m : m f (m) > j (n k(n))}. )

85 Algoritmo No caso em que temos um amostra X 1,..., X n de (τ, p), com τ desconhecida, vamos usar o algoritmo do contexto para estimar a árvore de contextos associada à amostra, a qual chamaremos τ n e então podemos usar o mesmo algoritmo descrito para o caso onde τ era conhecida, sendo que o passo 0 se torna: Passo 0 - Fixe ω τ n.

86 Algoritmo Para um dado contexto ω τ n, teremos os pontos t 1 (X1 n, τ n),..., t Mn (X1 n, τ n) e com base nesses pontos, podemos dividir a amostra em blocos independentes B 0 = B 0 (X1 n, τ n) = [X 1,..., X t1 1] B 1 = B 1 (X1 n, τ n) = [X t1,, X t2 1] B Mn k(n) = B Mn k(n) (X1 n, τ n) = [X tmn k(n) 1,, X tmn k(n) 1]

87 Algoritmo Teorema Seja X 1,..., X n uma amostra de (τ, p), onde τ é desconhecida. Considerando B 0 (X1 n, τ n),..., B Mn k(n) (X1 n, τ n) os blocos de separação associados a esta amostra, então M n k(n) P B i (X1 n, τ n ) / B 0. i=0

88 Apêndice Referências Bibliográficas Referências Bibliográficas I P. Bühlmann e A. Wyner (1999) Variable length Markov chains. The Annals of Statistics 27(2), D. Duarte and A. Galves and N. L. Garcia Markov Approximation and consistent estimation of unbounded probabilistic suffix trees. Artigo em preparação.

89 Apêndice Referências Bibliográficas Referências Bibliográficas II R. Fernández, P. A. Ferrari e A. Galves Coupling, renewal and perfect simulation of chains of infinite order Vth Brazilian School of Probability, F. Ferrari e A. Wyner(2003) Estimation of general stationary processes by variable length Markov chains. Scandinavian Journal of Statistics 30(3),

90 Apêndice Referências Bibliográficas Referências Bibliográficas III S. P. Lalley (2000) Regeneration in One-Dimensional Gibbs States and Chains with Complete Connections Resenhas do Instituto de Matemática e Estatística da Universidade de São Paulo 3IT-4, J. Rissanen (1983) A universal data compression system. IEEE Transactions on Information Theory IT-29,