COM29008 LISTA DE EXERCÍCIOS #

Transcrição

1 INSTITUTO FEDERAL DE SANTA CATARINA CAMPUS SÃO JOSÉ COORDENADORIA DE ÁREA DE TELECOMUNICAÇÕES ENGENHARIA DE TELECOMUNICAÇÕES COM98 LISTA DE EXERCÍCIOS # 8. Exercícios. [, 9.5] Um processo estocástico gaussiano, branco, de tempo discreto, média zero e variância unitária é quantizado de acordo com um quantizador uniforme cuja curva entrada saída é mostrada abaixo. Saída,5,5,5 Entrada,5 Determine a entropia da saída do quantizador.. [, 9.7, 9.] Considere uma fonte discreta sem memória (DMS) com alfabeto X = {a, b, c} e probabilidades p X = [,7,5,5]. (a) Calcule a entropia da fonte. (b) Determine um código de Huffman para a fonte. Qual o comprimento médio do código obtido? (c) Calcule a entropia da extensão de segunda ordem da fonte. (d) Determine um código de Huffman para a extensão de segunda ordem da fonte. Qual o comprimento médio do código obtido? Comente o resultado. /5

2 . Considere os códigos símbolo-a-símbolo abaixo. Símbolo Enc Enc Enc Enc Enc 5 a b c d e (a) Quais dos códigos são unicamente decodificáveis? Justifique. (b) Quais dos códigos são instantâneos (isto é, livres de prefixo)? Construa a árvore de decisão para esses códigos. (c) A desigualdade de Kraft McMillan afirma que, se um código é unicamente decodificável, então l(x), x X em que l(x) denota o número de bits em Enc(x). Quais dos códigos satisfazem a desigualdade de Kraft McMillan? Comente os resultados.. [, 9.] Considere uma DMS como definida abaixo. Letra a i l m n o p y Prob.,,,,,,,, Determine dois códigos de Huffman diferentes para esta fonte: (a) movendo um símbolo combinado o mais para cima possível e (b) movendo um símbolo combinado o mais para baixo possível. Em seguida, determine a média e a variância do comprimento de cada código. 5. Considere um canal binário não-simétrico com probabilidades de transição dadas por p Y X ( ) = /, p Y X ( ) = /, p Y X ( ) = /, p Y X ( ) = 9/. Faça a representação gráfica do canal. Supondo que p X () = / e p X () = /, encontre: (a) p Y (y). (b) p X Y (x y). (c) H(X). (d) H(X Y = ) e H(X Y = ). (e) H(X Y ). (f) I(X; Y ). Comente os resultados. /5

3 6. [, 9.] Dois canais binários simétricos independentes são conectados em cascata, como mostra a figura abaixo. Entrada BSC(p) BSC(p) Saída Encontre a capacidade do canal resultante da cascata, assumindo que ambos os canais têm a mesma probabilidade de transição, dada por p. Obs.: Você pode utilizar o fato de que a capacidade do canal BSC(p) é dada por C = H(p). 7. Calcule a capacidade dos canais das figuras abaixo. / / /5 / / 5 5 / / Para cada caso, determine uma distribuição de entrada que alcança a capacidade. 8. Determine a entropia diferencial das seguintes funções densidade de probabilidade: (a) Uniforme: f X (x) = [a x b]. b a (b) Gaussiana: f X (x) = (x µ) e σ. πσ (c) Exponencial: f X (x) = λe λx [x ]. 9. [, 9.9] O canal de voz do sistema telefônico tem largura de banda de, khz. (a) Determine a capacidade do canal para uma razão sinal ruído de db. (b) Determine a mínima razão sinal ruído (em db) necessária para que se tenha transmissão confiável a uma taxa de 96 bit/s.. Considere o canal gaussiano com uma dada largura de banda. Determine se é possível ter comunicação confiável operando a uma eficiência espectral de bps/hz e uma relação sinal-ruído de bit de E b /N =,7 db. Repita a questão considerando agora E b /N =,5 db. Justifique sua resposta. /5

4 Extra. Considere o canal Z, cujo diagrama é mostrado abaixo. X α Y α (a) Seja H(p) = p log + p log, p p onde p = p. Mostre que H (p) = d dp H(p) = log p p. (b) Mostre que a capacidade do canal para α = / é dada por C = H(/5) /5, bits por uso do canal. Determine também a distribuição de entrada que alcança a capacidade. (c) O canal Z pode ser modelado algebricamente pela equação Y = AX, em que A Bern(α) é independente de X. Mostre que a capacidade do canal supondo que o ganho A seja conhecido pelo receptor é dada por C = α. Compare o resultado com o item anterior.. Considere o canal pentagonal, cuja entrada X {,,,, } e saída Y {,,,, } se relacionam através da equação Y = (X + Z) mod 5, onde Z Unif({, +}) é independente de X. X Y /5

5 (a) Calcule a capacidade do canal pentagonal. Dica: Utilize I(X; Y ) = H(Y ) H(Y X) e mostre que entrada uniforme induz saída uniforme. (b) Considere os seguintes códigos, de comprimentos n = e n =, respectivamente: C = {, }, C = {,,,, }. Mostre que ambos os códigos têm probabilidade de erro de exatamente. Qual a taxa de cada código? Compare com a capacidade calculada no item anterior. Referências [] S. Haykin, Communication Systems, th ed. John Wiley and Sons,. Respostas.,9 bits.. (a),8 bits/letra. (b) {a:, b:, c:}, com l =, bits/letra. (c),66 bits/superletra. (d) {aa:, ab:, ac:, ba:, ca:, bb:, bc:, cb:, cc: }, com l =,95 bits/superletra =,975 bits/letra.. (a) Enc, Enc, Enc. (b) Enc, Enc. (c) Enc, Enc, Enc, Enc 5.. (a) {l:, o:, a:, i:, m:, n:, p:, y: }. Média: l = bits/letra. Variância:. (b) {l:, o:, a:, i:, m:, n:, p:, y: }. Média: l = bits/letra. Variância:,. 5. (a) p Y () = /, p Y () = 9/. (b) p X Y ( ) = /, p X Y ( ) = /, p X Y ( ) = /9, p X Y ( ) = 9/9. (c),8 bits. (d),76 bits e,998 bits. (e),69 bits. (f),9 bits. 6. C = H(p p), onde p = p. 7. (a) C = log. (b) C = log. (c) C = log. 8. (a) log(b a). (b) log(πeσ ). (c) log(e/λ). 9. (a),89 kbit/s. (b) 7,8 db.. Sim. Não. 5/5