Cálculo da Informação Acessível

Transcrição

1 Cálculo da Informação Acessível Michael Souza (LNCC) Renato Portugal (LNCC) Carlile Lavor (IME-UNICAMP) Este trabalho tem suporte financeiro das agências FAPERJ e CNPQ.

2 Tópicos Abordagem pragmática da teoria da informação clássica. Critérios de correlação para variáveis aleatórias. Interpretação alternativa para probabilidade (Teoria da tendência) Teoria da informação quântica. O problema da distinção de estados quânticos. O problema do cálculo da informação acessível (Abordagens e propostas) Métodos de Otimização Classificação de métodos Método Branch Bound + Aritmética Intervalar

3 Teoria da informação clássica A teoria moderna da informação clássica é marcada pelo célebre artigo [1] de Shannon publicado em Neste artigo, Shannon estabelece três de suas mais importantes contribuições à teoria da informação:

4 Teoria da informação clássica Formulação matemática do conceito de fonte de informação clássica.

5 Teoria da informação clássica Formulação matemática do conceito de fonte de informação clássica. Teorema de codificação da fonte Que quantifica os recursos físicos mínimos necessários ao armazenamento da informação produzida por uma fonte de informação clássica.

6 Teoria da informação clássica Formulação matemática do conceito de fonte de informação clássica. Teorema de codificação da fonte Que quantifica os recursos físicos mínimos necessários ao armazenamento da informação produzida por uma fonte de informação clássica. Teorema de codificação em canais ruidosos Que determina a quantidade de informação que pode ser transmitida com confiança através de um canal ruidoso.

7 Teoria da informação clássica Def 1. Uma fonte de informação é uma variável aleatória que assume valores em um conjunto finito (alfabeto).

8 Teoria da informação clássica Def 1. Uma fonte de informação é uma variável aleatória que assume valores em um conjunto finito (alfabeto). Exemplo: A variável aleatória é uma fonte de informação para a língua portuguesa.

9 Teoria da informação clássica Def 1. Uma fonte de informação é uma variável aleatória que assume valores em um conjunto finito (alfabeto). Exemplo: A variável aleatória é uma fonte de informação para a língua portuguesa. Def 2. Entropia de Shannon Seja uma variável aleatória com distribuição de probabilidades. Então

10 Teoria da informação clássica A entropia de Shannon pode ser entendida como a quantidade média de bits necessários para armazenar um único uso da fonte ou uma medida da incerteza sobre a variável o..

11 Teoria da informação clássica A entropia de Shannon pode ser entendida como a quantidade média de bits necessários para armazenar um único uso da fonte ou uma medida da incerteza sobre a variável o.. Exemplo: Imagine uma fonte X que assume os valores 0, 1, 2, 3 com as probabilidades 1/2, 1/4, 1/8, e 1/8, respectivamente. Usando o código de compressão que associa os resultados 0, 1, 2 e 3 às seqüências 0, 10, 100 e 101, então, em média, utilizaremos da fonte, ou seja, bits por uso

12 Teoria da informação clássica Def 3. Entropia conjunta Sejam variáveis aleatórias. Então

13 Teoria da informação clássica Def 3. Entropia conjunta Sejam variáveis aleatórias. Então Def 4. Informação mútua Sejam variáveis aleatórias. Então

14 Teoria da informação clássica Interpretação da Informação Mútua:

15 Teoria da informação clássica Interpretação da Informação Mútua:

16 Teoria da informação clássica Interpretação da Informação Mútua: Mede a quantidade de informação que X e Y têm em comum.

17 Teoria da informação clássica Interpretação da Informação Mútua: Mede a quantidade de informação que X e Y têm em comum.

18 Teoria da informação clássica Teorema da reconstrução Sejam variáveis aleatórias. Então com igualdade se, e somente se, dado possível reconstruir, for

19 Teoria da informação clássica A teoria da informação clássica fornece:

20 Teoria da informação clássica A teoria da informação clássica fornece: Ferramentas (entropias) para avaliar possíveis correlações entre variáveis aleatórias distintas.

21 Teoria da informação clássica A teoria da informação clássica fornece: Ferramentas (entropias) para avaliar possíveis correlações entre variáveis aleatórias distintas. Interpretações alternativas da probabilidade

22 Teoria da informação clássica A teoria da informação clássica fornece: Ferramentas (entropias) para avaliar possíveis correlações entre variáveis aleatórias distintas. Interpretações alternativas da probabilidade Teoria da freqüência Freqüência relativa da ocorrência de um evento, quando o experimento é realizado um grande número de vezes.

23 Teoria da informação clássica A teoria da informação clássica fornece: Ferramentas (entropias) para avaliar possíveis correlações entre variáveis aleatórias distintas. Interpretações alternativas da probabilidade Teoria da freqüência Freqüência relativa da ocorrência de um evento, quando o experimento é realizado um grande número de vezes. Teoria da Tendência Tendência objetiva de uma parte de um único experimento produzir uma saída ao invés de outra.

24 Teoria da informação quântica Mecânica quântica...(as regras do jogo)

25 Teoria da informação quântica Mecânica quântica...(as regras do jogo) 1º Postulado (Estados quânticos) Um estado quântico é um operador sobre um espaço de Hilbert de dimensão finita D. As propriedades requeridas para são e.

26 Teoria da informação quântica 2º Postulado (Medidas quânticas) As medidas são descritas por operadores de medida. Se o estado o sistema antes da medida for, então a probabilidade de um resultado m ocorrer é E o estado após a medida será i Os operadores de medida satisfazem a relação de completude

27 Teoria da informação quântica Def 5. Medidas POVM Um conjunto POVM é qualquer conjunto de operadores { E m } tq que é positivo e E m I. E m Se o estado do sistema antes da medida for, então p( m i) tr( Em ) m Def 6. Operador densidade Um sistema que tem probabilidade de estar no estado é representado por seu operador densidade

28 Teoria da informação quântica Def 5. Medidas POVM Um conjunto POVM é qualquer conjunto de operadores { E m } tq que é positivo e E m I. E m Se o estado do sistema antes da medida for, então p( m i) tr( Em ) m Def 6. Operador densidade Um sistema que tem probabilidade de estar no estado é representado por seu operador densidade

29 Teoria da informação quântica Teoria da informação quântica A introdução de novos tipos de informação, como os estados quânticos, ampliam as possibilidades dos processos dinâmicos de tratamento da informação:

30 Teoria da informação quântica Teoria da informação quântica A introdução de novos tipos de informação, como os estados quânticos, ampliam as possibilidades dos processos dinâmicos de tratamento da informação: Compressão Descompressão Codificação Decodificação Transmissão Códigos de correção de erros

31 Teoria da informação quântica O problema da distinção de estados quânticos

32 Teoria da informação quântica O problema da distinção de estados quânticos Estados quânticos não-ortogonais não podem ser distinguidos com certeza.

33 Teoria da informação quântica O problema da distinção de estados quânticos Estados quânticos não-ortogonais não podem ser distinguidos com certeza. Teorema da não clonagem: Estabelece a impossibilidade de criação de aparatos físicos capazes gerar cópias de estados quânticos arbitrários.

34 Teoria da informação quântica Critérios qualitativos para a capacidade de distinção de estados quânticos arbitrários:

35 Teoria da informação quântica Critérios qualitativos para a capacidade de distinção de estados quânticos arbitrários: 1. Probabilidade de Erro quântico

36 Teoria da informação quântica Critérios qualitativos para a capacidade de distinção de estados quânticos arbitrários: 1. Probabilidade de Erro quântico 2. Fidelidade quântica

37 Teoria da informação quântica Critérios qualitativos para a capacidade de distinção de estados quânticos arbitrários: 1. Probabilidade de Erro quântico 2. Fidelidade quântica 3. Quantum Rényi Overlaps

38 Teoria da informação quântica Critérios qualitativos para a capacidade de distinção de estados quânticos arbitrários: 1. Probabilidade de Erro quântico 2. Fidelidade quântica 3. Quantum Rényi Overlaps 4. Informação quântica de Kullback

39 Teoria da informação quântica Critérios qualitativos para a capacidade de distinção de estados quânticos arbitrários: 5. Informação Acessível

40 Teoria da informação quântica Informação acessível Motivação: Alice Bob

41 Teoria da informação quântica Informação acessível Alice Bob Motivação: Baseada no resultado de uma variável aleatória, com distribuição de probabilidade, Alice prepara um estado, escolhido em um conjunto fixo e o envia a Bob.

42 Teoria da informação quântica Informação acessível Alice Bob Motivação: Baseada no resultado de uma variável aleatória, com distribuição de probabilidade, Alice prepara um estado, escolhido em um conjunto fixo e o envia a Bob. O objetivo é fazer com que Bob, através de uma medida, determine da melhor forma possível o valor de a partir do resultado desta medida.

43 Teoria da informação quântica Uma boa medida da capacidade que Bob tem de, a partir do resultado de, reconstruir é a informação mútua de

44 Teoria da informação quântica Uma boa medida da capacidade que Bob tem de, a partir do resultado de, reconstruir é a informação mútua de

45 Teoria da informação quântica Def: Informação acessível É o máximo da informação mútua sobre todos os conjuntos POVM s possíveis.

46 Teoria da informação quântica Def: Informação acessível É o máximo da informação mútua sobre todos os conjuntos POVM s possíveis.

47 O cálculo da informação acessível Estratégias

48 O cálculo da informação acessível Estratégias Soluções Analíticas

49 O cálculo da informação acessível Estratégias Soluções Analíticas Limites

50 O cálculo da informação acessível Estratégias Soluções Analíticas Limites Soluções Numéricas

51 O cálculo da informação acessível Soluções Analíticas: Não existe solução conhecida para o problema geral. No entanto, soluções analíticas particulares baseadas em estruturas algébricas são conhecidas. Exemplo: Grupos covariantes ( [2], [5] ) [Davies 1978, Sasaki 1999]

55 O cálculo da informação acessível Limites: Limites superiores e inferiores para a informação acessível vêm, ano após ano, sendo refinados. Exemplos: Limite de Holevo [Holevo 1973] Metodologia para geração de limites [Fucs 1995]

59 O cálculo da informação acessível Limites: Legenda: S(t):: Holevo upper bound L(t):: Fucs upper bound I(t):: Accessible Information M(t):: Fucs lower bound Q(t):: Jozsa lower bound

60 O cálculo da informação acessível Soluções Numéricas: Métodos de otimização não-determinísticos Incompletos (qualidade, critério de parada = heurísticas) Assintoticamente completos (critério de parada = heurística) Métodos de otimização determinísticos Completos

61 O cálculo da informação acessível Soluções Numéricas: Métodos de otimização não-determinísticos Incompletos (qualidade, critério de parada = heurísticas) Assintoticamente completos (critério de parada = heurística) Métodos de otimização determinísticos Completos Branch Bound + Aritmética Intervalar

62 O cálculo da informação acessível Futuras Contribuições Método branch and bound (BB) Etapas: Branching: Subdivisão recursiva do espaço de busca Bounding: Geração de cotas (via aritmética intervalar)

63 O cálculo da informação acessível Futuras Contribuições Método branch and bound (BB) Etapas: Branching: Subdivisão recursiva do espaço de busca Bounding: Geração de cotas (via aritmética intervalar) Aritmética intervalar é um conjunto de técnicas (baseadas em intervalos) que possibilitam a geração natural de cotas para funções.

64 Objetivos Abordagem pragmática da teoria da informação clássica. Critérios de correlação para variáveis aleatórias. Interpretação alternativa para probabilidade (Teoria da tendência) Teoria da informação quântica. O problema da distinção de estados quânticos. O problema do cálculo da informação acessível (Abordagens e propostas) Métodos de Otimização Classificação de métodos Método Branch Bound + Aritmética Intervalar

65 Referências bibliográficas [1] Shannon, C. E. (1948). A mathematical theory of communication. The Bell Sistem Tech. J., 27: , [2] Davies, E. B. (1978). Information and quantum measurement. IEEE Trans. Inf. Theory, IT-24(5): [3] Holevo, A. S. (1973). Bounds for the information transmitted by a quantum communication channel. Problems of Information Transmission, 9: [4] Fucs, C. A. (1995). Distinguishability and accessible information in quantum theory. PhD thesis, University of New Mexico, Department of Physics and Astronomy. [5] Sasaki, Barnett, Jozsa, Osaki and Hirota (1999). Accessible information and optimal strategies for real symmetrical quantum sources. Physical Review A, 59(5): [7] Nielsen, M. A. and Chuang, I. L. (2005). Computação quântica e informação quântica. Bookman.