everywhere Turbo Sílvio A. Abrantes FEUP Como o princípio turbo está a mudar as técnicas de transmissão digital

Transcrição

1 Turbo everywhere Como o princípio turbo está a mudar as técnicas de transmissão digital Sílvio A. Abrantes FEUP

2 Turbo-códigos Inventados por Claude Berrou, Alain Glavieux e Punya Thitimajshima (ENST, Brest, França) Apresentados em 1993 Claude Berrou (1951-) Alain Glavieux ( ) SAM/2005 2

3 Turbo-códigos Predecessores: : Gérard Battail 1989: J. Hagenauer and P. Hoeher (SOVA) 1992: J. Lodge, P. Hoeher and J. Hagenauer SAM/2005 3

4 Turbo-códigos: uma revolução Durante décadas a comunidade da codificação tentou aproximar-se do limite de Shannon com novos códigos e técnicas Sucesso? Algum, mas não muito Até que, com uma abordagem diferente, surgiram códigos que se aproximam a apenas décimas de db desse limite!! SAM/2005 4

5 Diagrama de blocos genérico Dados u k =±1 Codificador de canal Canal Ruído y k Descodificador û k Abordagem convencional: Com códigos descritos por treliças normalmente usa-se descodificação de máxima verosimilhança com o algoritmo de Viterbi (estimação ML) Pode também usar-se o algoritmo BCJR (estimação MAP) calcula a probabilidade a posteriori P y) mas é muito mais complexo SAM/2005 5

6 O princípio turbo O desempenho de um receptor num sistema de comunicações digitais é significativamente melhorado se se usar: Codificação concatenada no emissor Detecção e descodificação iterativas no receptor Os descodificadores formam uma malha fechada de feedback onde circulam decisões brandas (Soft-Input Soft-Output, ou SISO) relacionadas com probabilidades a posteriori (APP) A decisão final é tomada bit a bit (é uma decisão rígida ) Entrelaçamento e desentrelaçamento Operações são realizadas em blocos de bits turbo-códigos são códigos de blocos SAM/2005 6

7 Concatenação para codificação turbo Em paralelo (primeira a surgir em turbo-códigos) Dados Dados Entrelaçador Codificador 1 Paridade 1 Em série Codificador 2 Paridade 2 Dados Entrelaçador Dados + u Codificador 1 Codificador 2 k1 x k1 u k2 paridade (Exterior) (Interior) x k2 Os codificadores estão separados por um entrelaçador SAM/2005 7

8 A descodificação iterativa (turbo) Porquê turbo? Por analogia com os motores turbo de automóveis Desentrelaçador Recebido Descodificador interior Descodificador exterior Estimado Entrelaçador SAM/2005 8

9 Entrelaçamento: um exemplo Sequência original, x Padrão de permutação: P = [ ] Sequência permutada, y Matriz de permutação: P = y[i] = x[p[i]] x[p[i]] = y[i] y = xp x = yp T SAM/2005 9

10 Codificadores constituintes dos turbo-códigos Geralmente usam-se codificadores convolucionais recursivos iguais: Bits sistemáticos Dados Entrelaçador Codificador 1 Bits de paridade 1 Codificador 2 Bits de paridade 2 Gerador do ramo directo: 15 8 Gerador do ramo de feedback : 13 8 SAM/

11 Comparação de desempenho Probabilidade de erro com códigos convolucionais e turbo Fonte: C. Schlegel & L. Perez, Trellis and Turbo Coding, IEEE Press-Wiley, 2004 SAM/

12 Aplicações dos turbo-códigos Telemóveis 3G UMTS, WCDMA (3GPP/evolução de GSM) CDMA2000 (3GPP2/evolução de IS-95) Televisão digital Norma DVB-RCS ( Return Channel via Satellite ) Redes locais e metropolitanas sem fios Norma IEEE a ( Fixed Broadband Wireless Access Systems ) Comunicações espaciais NASA: Messenger ( 04), Mars Reconnaissance Orbiter & Rover ( 05), STEREO ( 05), Pluto ( 06), Kepler ( 07), etc. ESA: SMART-1 ( 03), Rosetta Sistemas militares Gravação magnética SAM/

13 Descodificação turbo é iterativa Probabilidade de erro em função do número de iterações 10 0 Algoritmo log-map iteration iterations BER iterations 3 iterations iterations iterations E b /N o in db Fonte: M. Valenti, Turbo Codes and Iterative Processing, IEEE New Zealand Wireless Communications Symposium, Nov SAM/

14 Probabilidades e logaritmos Razão de probabilidades a posteriori Pu ( 1 ) H1 k =+ y 1 Pu ( = 1 y) LLR ( log-likelihood ratio ) a posteriori k H 0 Critério MAP LLR a priori Pu ( 1 ) H1 k =+ y Lu ( k y) = ln 0 Pu ( = 1 y) Pu ( k =+ 1) Lu ( k ) = ln Pu ( = 1) k k H 0 Critério MAP SAM/

15 Estimação MAP e algoritmo BCJR O receptor óptimo usa o critério da probabilidade a posteriori máxima (MAP) para tomar decisões sobre u k. Algoritmo de cálculo de L y): BCJR (Bahl, Cocke, Jelinek e Raviv, 1974) Outros nomes para o mesmo: algoritmo MAP, algoritmo APP, forward-backward algorithm Variantes mais simples: log-map, max-log-map, SOVA SAM/

16 O algoritmo BCJR, ou MAP! Normalize!! Sumário de expressões usadas L( u k y ) = ln R 1 R 0 α α k 1 k 1 ( s ) γ ( s, s) β ( s) k ( s ) γ ( s, s) β ( s) k k k α k 1(0) α γ k (0,2) k 1 (1) γ k (1,2) α k (2) α () s = α ( s ) γ ( s,) s βk 1 ( s ) = βk ( s ) γk ( s, s ) k k 1 k s α k 1 (1) (1,2) γ k β k α k 1( s ) γ k ( s, s) βk ( s) (2) n u L u = L k ( k ) 2 c γ k ( s, s) Ck e exp x 2 l= 1 Canal AWGN β k 1 (3) γ k (3,1) γ k (3,3) s β k (1) β k (3) 1 = 0 0 ( s 1 s = 0 α s) = kl ykl β N () s = 0 s 0 0 s 0 SAM/

17 Variantes simplificativas do algoritmo BCJR Algoritmo SOVA (Soft Output Viterbi Algorithm) Algoritmo log-map Algoritmo max-log-map São definidas novas variáveis, A, Γ e B: n ulu k ( k) Lc k( s, s) ln γ k( s, s) lnck xklykl 2 2 l= 1 Γ = = + + [ ] A () s = ln α () s = max* A ( s) +Γ ( s,) s k k k 1 k s [ ] B ( s ) = ln β ( s ) = max* B ( s) +Γ ( s, s) k 1 k 1 k k s A 0 ( B N 0 s) = 0 ( s) = s = 0 s 0 s = 0 s 0 max( a, b) + ln(1 + e max ( a, b) = max( a, b) a b ) algoritmo log MAP algoritmo max log MAP SAM/

18 Os algoritmos log-map e max-log log-map Sumário de expressões usadas [ A ( s ) + Γ ( s, s) + B ( s) ] max* [ A ( s ) + Γ ( s, s) B ( s) ] L( u y) = max* k 1 k k k 1 k k + R R 1 0 k A k 1 (0) A Γ k (0,2) k 1 (1) (1,2) Γ k (2) A k [ A ( s ) + Γ ( s, )] A ( s) max* 1 s k = k k s A k 1 (1) A + (1,2) Γ k + 1( s ) + Γk ( s, s) Bk ( s) k + B k (2) B B k 1 (3) (3,1) Γ k (3,3) Γ k (1) B k (3) B k [ B ( s) + Γ ( s, )] 1( s ) = max* k k s k s Γ ( s, s) = ln C k k u L( u ) + k k Canal AWGN Lc 2 n l = 1 x kl y kl SAM/

19 Um exemplo numérico com o algoritmo BCJR E c Canal AWGN: a =1 e 1 db N = L c = 4aE c /N 0 = 5 Treliça do codificador convolucional de taxa ½: 0 Estado anterior Saída x k Estado actual Sequência ±1 enviada começa e termina no estado nulo Sequência recebida: y y y y y y y = Qual terá sido a sequência de seis bits enviada? SAM/

20 Um exemplo numérico com o No instante k = 1 temos algoritmo BCJR Sequência recebida k =0 k =1 (-1,-1) k =0 k =1 γ 1 (0,0)=0.37 α 0 (0)=1 α 1 (0)=0.37 (+1,+1) γ 1 (0,2)=2.74 α 1 (2)=2.74 a) b) u ( ) 2 L k L uk c (0,0) exp ( ) [ 2.5 ( ) ] 1 γ 1 = Ck e x11 y11 + x12 y12 = = = e e (com L )=0) γ 2.5 ( ) 1 (0,2) e + = = e = α0(0) γ 1(0,0) = = 0.37 α 1 (0) = = = ( s α s) = 0 s α0(0) γ 1(0,2) = = 2.74 α 1(2) = = SAM/

21 Um exemplo numérico com o algoritmo BCJR Mais exemplos de cálculo de α, γ e β [ 2.5 (2,3) ( 1 (0.8) γ = e )] = e = 0.47 α (3) α 2 (2) γ 3 (2,3) + α 2 (3) γ 3 (3,3) = = = β (2) β (1) γ (2,1) + β (3) γ (2,3) = = = s s α 3 ( s) = α 3 (0) + α 3 (1) + α 3 (2) + α 3 (3) = = β 2 ( s ) = β 2 (0) + β 2 (1) + β 2 (2) + β 2 (3) = = SAM/

22 Um exemplo numérico com o algoritmo BCJR Valores de α, β e γ ao fim de toda a sequência de seis símbolos recebida γ ( s, s) k α ( s) β k ( s) k SAM/

23 Um exemplo numérico com o algoritmo BCJR Valores da probabilidade conjunta P norm (s,s,y) e da LLR L y) P norm ( s, s, y) Sequência recebida L y) ^ u k SAM/

24 Um exemplo numérico com o Pnorm(0,2, y) L( u1 y) = ln = ln = 1.79 P ( 00,, y) norm algoritmo BCJR Valores das LLR a posteriori Pnorm(0,2, y) + Pnorm(2,3, y) L( u 2 y) = ln = ln = 0.24 P ( 00,, y) + P ( 21,, y) norm norm Pnorm(0,2, y) + Pnorm(1,2, y) + Pnorm(2,3, y) + Pnorm(3,3, y) L( u 3 y) = ln = ln = 1.98 P ( 0, 0, y) + P (1,0, y) + P ( 21,, y) + P (3,1, y) norm norm norm norm Pnorm(0,2, y) + Pnorm(1,2, y) + Pnorm(2,3, y) + Pnorm(3,3, y) L( u4 y) = ln = ln = 5.56 P ( 00,, y) + P (1,0, y) + P ( 21,, y) + P (31,, y) norm norm norm 0 L ( u y) = ln = 5 P( 00,, y) + P(1,0, y) + P( 21,, y) + P(31,, y ) 0 L( u 6 y) = ln = P( 00,, y) + P(1,0, y) norm Sequência estimada û k = SAM/

25 Descodificação iterativa É uma abordagem relativamente recente (1993). É um intercâmbio iterativo de decisões brandas ( soft ) entre dois descodificadores no receptor. Que decisões brandas? Estimativas cada vez mais apuradas da informação a priori: Pu ( k =+ 1) Lu ( k ) = ln Pu ( = 1) k LLR a priori SAM/

26 Descodificador SISO (Soft-In Soft-Out Out) Saída do canal { LLR a priori L ) L c y k1 L c y kp Bits sistemáticos Bits de paridade Descodificador SISO L e ) L y) Informação extrínseca LLR a posteriori L ( uk y) = L( uk ) + Lc yk1 + Le ( uk ) L e ( uk ) = L( uk y) L( uk ) Lc yk1 L c = E b 4aRc N 0 Taxa do código AWGN: a = 1 Mas é preciso calcular L y)! Como? Com BCJR SAM/

27 Descodificação iterativa Concatenação em paralelo: descodificador 1 L 2 ) L e2 ) Do outro descodificador Saída do canal { LLR a priori L ) L c y k1 L c y kp Bits sistemáticos Bits de paridade Descodificador SISO L e1 ) L y) LLR a posteriori Desentrelaçador Entrelaçador L 1 ) Para o descodificador seguinte Só a informação extrínseca circula entre descodificadores. O entrelaçador e o desentrelaçador convertem as informações extrínsecas em estimativas melhoradas da LLR a priori. No descodificador 2 troca-se o entrelaçador e o desentrelaçador. SAM/

28 Descodificação iterativa Para concatenação em paralelo Dados Paridade 1 Paridade 2 Desentrelaçador L 2 ) L e2 ) Descodif. 1 Entrelaçador Descodif. 2 L e1 ) Entrelaçador L 1 ) L 2 y) Desentrelaçador A usar após última iteração Estimativa de dados û k L 2 ) é normalmente inicializado em zero. SAM/

29 Descodificação iterativa Para concatenação em série y k Entrelaçador L 1 2 ) L e1 (x k1 ) Dados + paridade Descodif. 2 Desentrelaçador Descodif. 1 L e2 2 ) L 2 (x k1 ) L 1 y) Estimativa de dados Repare-se que o descodificador 1 só tem uma entrada (a LLR a priori estimada pelo descodificador 2) SAM/

30 Passos da descodificação iterativa 1. Descodificador 1 envia informação extrínseca ao descodificador 2 2. Descodificador 2 envia ao descodificador 1 nova informação extrínseca 3. O processo prossegue iterativamente até se satisfazer o critério de paragem pré-estabelecido. SAM/

31 Um turbo-exemplo numérico (concatenação em paralelo) Treliça dos codificadores convolucionais Estado anterior Saída x k Estado corrente 0 Perfuração de códigos para que R c = ½ Canal AWGN com E c /N 0 = 0.25 e a =1 L c =1 Sequência de nove bits enviada: Sequência de 18 valores reais recebida: 11 G(D) =[1(1+D 2 )/(1+D+D 2 )] Padrão de entrelaçamento: P = [ ] Se sequência original Sequência entrelaçada Como estimar a sequência enviada? y = paridade 1 paridade 2 SAM/

32 Turbo-exemplo numérico 1) Sequências de entrada do descodificador turbo k P Lcy k L y c ( P) k L y c (1) kp L y c (2) kp Todos os zeros de paridade são devidos à perfuração nos codificadores SAM/

33 Turbo-exemplo numérico 2) Saída do descodificador 1 após 1ª meia iteração 4 Erros P L 1 y) L ) L c y k L e1 ) L 1 ) ) Saída do descodificador 2 após 1ª iteração L 2 y) L 1 ) P -1 L y c ( P) k1 L e2 ) L 2 ) SAM/

34 Turbo-exemplo numérico Sequências após primeira iteração L 2 ) Descod. 1 P -1 P L 1 ) Descod P P -1 û k A usar só após última iteração Erro SAM/

35 Turbo-exemplo numérico 4) Saídas dos descodificadores turbo durante cinco iterações Erros Iteração k L 1 y) L 1 y) L 1 y) L 1 y) L 1 y) L y) L y) L y) L y) L y) Após 2 iterações todas as decisões rígidas são correctas! SAM/

36 Turbo-exemplo numérico LLR a posteriori, L y) Descodificador 1 Descodificador L1(uk y) -1-2 L(uk y) Iteração Iteração Os valores de L y) são todos negativos (como deviam!) após a 2ª iteração. SAM/

37 Concatenação para codificação turbo Na concatenação em paralelo o projecto do entrelaçador é crucial Vantagens da concatenação em série: Projecto do entrelaçador é mais fácil Maior flexibilidade âmbito de aplicação mais alargado SAM/

38 Entrelaçadores propostos na literatura* Entrelaçadores aleatórios (de Berrou & Glavieux) Entrelaçadores de espalhamento S ( S-random interleavers, de Divsalar & Pollara) High Spread-Random (HSR) interleavers Dithered-Diagonal (DD) interleavers Dithered golden interleavers Dithered Relative Prime (DRP) interleavers * Haykin, S. et al, Turbo-MIMO for Wireless Communications, IEEE Communications Magazine, Out. 2004, e outras fontes SAM/

39 Aplicações do princípio turbo Codificação de canal Igualização e estimação de canal Modulação codificada Codificação conjunta de canal e de fonte Sincronização Sistemas MIMO Detecção multi-utilizador e com espalhamento espectral Etc. SAM/

40 Configurações de aplicações turbo (concatenação em série) Igualização MIMO Aplicação Codificação (FEC) concatenada em série Modulação codificada (TCM) Codificação de fonte e de canal conjunta Codific./Descodific. exterior (1) Codificador/ Descodificador (FEC) Codificador/ Descodificador (FEC) Codificador/ Descodificador (FEC) Codific./Descodific. de fonte Codificador/ Descodificador (FEC) Codific./Descodific. interior (2) Codificador/ Descodificador (FEC) Canal/Detector (igualizador) Mapeador/ Desmapeador Codificador/ Descodificador (FEC) Mapeador e Detector MIMO Fonte: J. Hagenauer, The Turbo Principle in Wireless Communications, Nordic Radio Symposium, Oulu, Finlândia, Agosto 2004 SAM/

41 Igualização turbo Dados u Codificador de canal P Canal com Ruído x v ISI y Entrelaçador (1) (2) k k k k Do canal Igualizador SISO L e2 (v k ) L 2 (x k ) + P - -1 Descodificador P SISO de canal + - (2) L 1 (v k ) L e1 (x k ) (1) L y) û k Canal ISI pode ser encarado como um codificador de taxa 1 no corpo dos reais Igualizador tem duas entradas: sinal recebido do canal e L 1 (v k ) Descodificador só tem uma entrada: L 2 (x k ) SAM/

42 Modulação codificada turbo Dados u k Codificador de canal P Conversor S/P (1) (2) Modulador (mapeador) Canal Estimativa de dados û k Descodificador de canal P -1 P Conversor P/S (1) (2) Desmodulador (desmapeador) SAM/

43 Codificação turbo conjunta de Em paralelo fonte e de canal Dados P (1) Codificador de fonte Só paridade MUX Codificador de canal (2) Em série Dados Codificador de fonte P Codificador de canal (1) (2) SAM/

44 Recuperação de temporização turbo Abordagem convencional Recuperação de temporização Igualização Descodificação Sincronização iterativa com recuperação e igualização separadas Recuperação de temporização Igualização Descodificação Sincronização iterativa com recuperação e igualização conjuntas Recuperação de temporização + igualização Descodificação SAM/

45 Recuperação de temporização turbo Desempenho em canal PR Iteração 1 Convencional BER 10-3 Temporização conhecida Iteração Iteração E b /N 0 (db) Fonte: Barry, J. R., Kavcic, A., LcLaughlin, S. W., Nayak, A., Zeng, W., Iterative timing recovery, IEEE Signal Processing Magazine, Vol. 21, Jan. 2004, pp SAM/

46 Sistemas MIMO (múltiplas antenas) Dados u k (1) Codificador exterior (de canal) P (2) Mapeador de constelação n T antenas emissoras Canal H Estimativa de dados û k Descodificador exterior P -1 (1) (2) Detector MIMO n R antenas receptoras P SAM/

47 Detecção multi-utilizador utilizador turbo Dados Codificador 1 Codificador K P 1 P K Entrelaçador multiutilizador Conversor P/S Canal MAI Ruído Entrelaçador multiutilizador Detector multiutilizador Desentrelaçador multiutilizador Banco de K descodificadores Estimativa de dados Canal MAI (Interferência de Acesso Múltiplo) pode ser encarado como um canal ISI de coeficientes variáveis no tempo Também pode ser encarado como codificador de taxa 1 no corpo dos reais SAM/

48 Uma turbo consequência A invenção dos turbo-códigos levou ao ressurgimento de um outro código que também se aproxima da capacidade: LDPC (Low-Density Parity-Check Code) Esteve adormecido mais de 30 anos Mas isso já é outra história! SAM/