MAGNO TEÓFILO MADEIRA DA SILVA EQUALIZAÇÃO AUTODIDATA BASEADA EM COMBINAÇÃO DE FILTROS ADAPTATIVOS

Transcrição

1 MAGNO TEÓFILO MADEIRA DA SILVA EQUALIZAÇÃO AUTODIDATA BASEADA EM COMBINAÇÃO DE FILTROS ADAPTATIVOS Tese apresentada à Escola Politécnica da Universidade de São Paulo para obtenção do título de Professor Livre- Docente junto ao Departamento de Engenharia de Sistemas Eletrônicos. São Paulo 2013

2 MAGNO TEÓFILO MADEIRA DA SILVA EQUALIZAÇÃO AUTODIDATA BASEADA EM COMBINAÇÃO DE FILTROS ADAPTATIVOS Tese apresentada à Escola Politécnica da Universidade de São Paulo para obtenção do título de Professor Livre- Docente junto ao Departamento de Engenharia de Sistemas Eletrônicos. Área: Processamento de Sinais São Paulo 2013

3 Silva, Magno Teófilo Madeira da Equalização autodidata baseada em combinação de filtros adaptativos / M. T. M. Silva. São Paulo, p. Tese (Livre-Docência) - Escola Politécnica da Universidade de São Paulo. Departamento de Engenharia de Sistemas Eletrônicos. 1. Filtros elétricos adaptativos 2. Equalização 3. Algoritmos 4. Combinação de algoritmos. I. Universidade de São Paulo. Escola Politécnica. Departamento de Engenharia de Sistemas Eletrônicos II.t

4 Aos meus alunos João, Renato e Ronaldo

5 i Agradecimentos Em primeiro lugar, agradeço à Profa. Maria D. Miranda por todas as discussões técnicas relevantes, pela orientação rigorosa da minha tese de doutorado, confiança, apoio, amizade e por seguirmos trabalhando juntos em algoritmos adaptativos para equalização desde Ao Prof. Max Gerken, in memorian, pelos conselhos, confiança, incentivo, exemplos a serem seguidos e pelas orientações de iniciação científica, mestrado e fase inicial do doutorado. Ao Prof. Vítor H. Nascimento, com quem tenho trabalhado em combinações de filtros adaptativos desde 2006, pelas inúmeras discussões técnicas, confiança, apoio e permanente incentivo. Ao Prof. Jerónimo Arenas García pelas ideias e discussões técnicas que foram fundamentais para o desenvolvimento deste trabalho. Agradeço também por fazer com que eu me sentisse em casa durante minha estância na Universidad Carlos III de Madrid no primeiro semestre de Gracias amigo! Aos meus alunos João Mendes Filho, Renato Candido e Ronaldo Abreu com os quais aprendi muito durante as orientações de seus trabalhos. Esta tese é dedicada a vocês! Ao Prof. Marcio Eisencraft pela amizade, discussões técnicas e trabalhos em conjunto. À Profa. Denise Consonni, pelo apoio, confiança e exemplo de profissionalismo a ser seguido. Agradeço também aos professores e colegas do LPS Miguel A. Ramírez, Flavio A. M. Cipparrone e Mário Minami e também à secretária Dilma Alves da Silva pelo companheirismo, apoio e incentivo durante todos esses anos que trabalhamos juntos. Aos demais professores e funcionários do Departamento de Engenharia de Sistemas Eletrônicos da EPUSP, em especial aos Profs. Marco I. Alayo Chavez e João A. Martino e à secretária Darlene Ricetti pelo apoio e incentivo. À FAPESP e ao CNPq pelos auxílios concedidos. Por último, mas não menos importante, à minha família pelo carinho, compreensão e por tudo que representa para mim.

6 ii Resumo Equalizadores autodidatas são usados em sistemas de comunicação digital para remover a interferência intersimbólica introduzida por canais dispersivos. Eles evitam a transmissão de sequências de treinamento, possibilitando um uso mais eficiente da banda do canal. Usualmente, depois de uma equalização preliminar, esses equalizadores são chaveados para o modo de decisão direta (DD) a fim de reduzir o erro quadrático médio (MSE - mean-square error) em regime para níveis aceitáveis. O bom desempenho desse esquema depende da seleção de um limiar apropriado de MSE para o chaveamento entre os modos de treinamento cego e o modo de decisão direta. No entanto, essa não é uma tarefa fácil já que o nível de MSE adequado depende de vários fatores como constelação, canal de comunicação ou razão sinal-ruído. Neste trabalho, é proposto um esquema de equalização autodidata que combina de forma adaptativa um equalizador cego com um equalizador de decisão direta funcionando em paralelo. A combinação é adaptada de forma autodidata e consequentemente, o esquema proposto possibilita um chaveamento automático entre os filtros componentes, evitando a seleção a priori de um nível de MSE para a transição. O desempenho do equalizador proposto é ilustrado de forma analítica e através de simulações numéricas, que mostram suas vantagens com relação a esquemas de chaveamento abrupto e suave existentes na literatura. Palavras-chave: processamento adaptativo de sinais; filtragem adaptativa; equalizadores autodidatas; algoritmo do módulo constante; algoritmo multimódulo; combinação convexa; decisão direta; rastreio.

7 iii Abstract Blind equalizers are used in digital communications systems to remove the intersymbol interference introduced by dispersive channels. They avoid the transmission of training sequences, allowing a more efficient use of the channel bandwidth. Usually, after a first rough equalization is achieved, these equalizers are switched to a decision-directed(dd) mode to reduce the steady-state mean-square error (MSE) to acceptable levels. The good overall performance depends on the selection of an appropriate MSE threshold for switching between the blind and the DD modes. However, this is not an easy task, since the adequate MSE level depends on several factors such as the signal constellation, the communication channel, or the signalto-noise ratio. In this work, we propose a blind equalization scheme that adaptively combines a blind and a DD equalizers running in parallel. The combination is itself adapted in a blind manner, and as a result the overall scheme can automatically switch between the component filters, avoiding the need to set the transition MSE level a priori. The performance of our proposal is illustrated both analytically and through a set of simulations, where we show its advantages with respect to existing hard- and soft-switching equalization schemes. Keywords: adaptive signal processing; adaptive filtering; blind equalizers; constant-modulus algorithm; multimodulus algorithm; convex combination; decision-directed; tracking.

8 iv Sumário Lista de figuras vi Lista de tabelas viii Lista de abreviaturas Lista de símbolos ix xi 1 Introdução e formulação do problema A equalização adaptativa Sobreamostragem Algoritmos para adaptação dos coeficientes do equalizador Transição para o modo de decisão direta A combinação convexa de algoritmos adaptativos Objetivos e justificativa Contribuições Organização da tese Chaveamento automático entre os modos cego e de decisão direta Combinação convexa do MMA com o LMS Adaptação do parâmetro de mistrura Um exemplo ilustrativo Conclusões Análise estatística em regime Hipóteses simplificadoras e indicadores de desempenho EMSE em regime da combinação EMSE cruzado em regime

9 SUMÁRIO v 3.4 Precisão da análise Conclusões Resultados de simulação Algoritmos de chaveamento entre o modo cego e de decisão direta Cenários de simulação, parâmetros e medida de desempenho Cenário I: 256-QAM Cenário II: 64-QAM Cenário III: V Conclusões Conclusões e perspectivas Conclusões Perspectivas Referências Bibliográficas 57 Apêndices 67 A Versões do algoritmo de Shalvi-Weinstein 67 B Os algoritmos multimódulo e de decisão para sinais QAM 73 C Hipóteses adicionais usadas na obtenção do EMSE cruzado 80

10 vi Lista de Figuras 1.1 Sistema de comunicação simplificado com um equalizador adaptativo no modo de treinamento Equalizador adaptativo no modo de decisão direta Sistema de comunicação simplificado com um equalizador autodidata Sistema de comunicação simplificado com um equalizador autodidata sobreamostrado Combinação convexa de dois filtros adaptativos transversais para filtragem supervisionada (a) EMSE para µ 1 -LMS, µ 2 -LMS, e sua combinação convexa; (b) média de conjunto de η(n); µ 1 = 0,1, µ 2 = 0,01, µ α = 100 (adaptação não-normalizada), α + = 4, b = 0,8; média de 500 realizações Combinação convexa do MMA com o LMS. O filtro LMS opera no modo de decisão direta, sendo que seus coeficientes são atualizados utilizando a saída do decisor como sinal desejado MSE dos esquemas de combinação para o Cenário I da Tabela 4.1: (a) MSE do MMA, LMS, e da combinação convexa proposta, estimado com uma média de conjunto de 1000 realizações; (b) MSE do MMA, LMS e de sua combinação convexa usando (2.12); (c) Parâmetros de mistura considerando uma realização dos algoritmos SER em regime em função da SNR para o MMA, o LMS e suas combinações usando (2.10) e (2.12); primeiro canal do Cenário I da Tabela SER ao longo das iterações para o Cenário I (Tabela 4.1) com SNR = 30 db. Média de conjunto de 100 realizações

11 LISTA DE FIGURAS vii 3.1 EMSE teórico (teo) e experimental (exp) em função do passo de adaptação do LMS (µ); ρ = 10 6 ; 64-QAM, Canal H 2 (z) de [LÁZARO et al., 2005, Eq. (29)], ausência de ruído, implementação na taxa de símbolos, M = 12, média de conjunto de 1000 realizações; (a) ambiente estacionário e (b) ambiente não-estacionário com Q = I MSE ao longo das iterações para o Cenário I e parâmetros dos algoritmos especificados na Tabela MSE ao longo das iterações para o Cenário II e parâmetros dos algoritmos especificados na Tabela MSE ao longo das iterações para o Cenário III e parâmetros dos algoritmos especificados na Tabela B.1 Parte real do erro do RMA em função de y R (n) para 64-QAM. Os erros nas coordenadas dos símbolos da constelação são indicados por ; fator de escala K = B.2 Parte real do erro do SBD para 64-QAM; fator de escala K = 7. Os erros nas coordenadas dos símbolos das constelações são indicados por B.3 Regiões da parte real de uma constelação 64-QAM; o centro da região A k é representado por c k e k = ±2,±

12 viii Lista de Tabelas 1.1 Sumário do algoritmo LMS aplicado à equalização Sumário do CMA Sumário do MMA Sumário da combinação convexa de dois filtros LMS Sumário da combinação convexa do MMA com o LMS, considerando (2.10) Expressões analíticas para o EMSE e EMSE cruzado em regime dos filtros MMA e LMS em um ambiente não-estacionário Cenários de simulação e parâmetros dos algoritmos A.1 Sumário do SWA A.2 Sumário do DM-SWA A.3 Sumário do DM-LSWA B.1 Sumário do RMA B.2 Sumário do algoritmo SBD

13 ix Lista de Abreviaturas A seguir são listadas as principais abreviações usadas na tese. No caso de siglas consagradas na literatura internacional, optou-se por manter as mesmas em inglês. AWGN CMA DD DM-LSWA additive white Gaussian noise (ruído gaussiano branco e aditivo) constant-modulus algorithm (algoritmo do módulo constante) decision-directed (decisão direta) dual-mode lattice Shalvi-Weinstein algorithm (algoritmo de Shalvi-Weinstein em treliça com dois modos de operação) DM-CMA dual-mode constant-modulus algorithm (algoritmo do módulo constante com dois modos de operação) DM-SWA dual-mode Shalvi-Weinstein algorithm (algoritmo de Shalvi-Weinstein com dois modos de operação) EMSE FIR HOS iid ISI LMS LTE MMA MSE NLMS QAM excess mean-square error (erro quadrático médio em excesso) finite Impulse Response (resposta ao impulso finita) high-order statistics (estatísticas de ordem superior) independente e identicamente distribuído intersymbol interference (interferência intersimbólica) least mean squares linear transversal equalizer (equalizador linear transversal) multimodulus algorithm (algoritmo multimódulo) mean-square error (erro quadrático médio) normalized least mean squares quadrature amplitude modulation

14 LISTA DE ABREVIATURAS x RDE RLS RMA SBD SER SNR SWA radius-directed equalization (equalização guiada por raios) recursive least squares regional multimodulus algorithm (algoritmo multimódulo regional) symbol-based decision (algoritmo de decisão baseada nos símbolos) symbol error rate (taxa de erro de símbolo) signal-to-noise ratio (razão sinal-ruído) Shalvi-Weinstein Algorithm (algoritmo de Shalvi-Weinstein)

15 xi Lista de Símbolos Nesta tese, matrizes são indicadas por letras maiúsculas em negrito, por exemplo, R. Vetores coluna são indicados usando-se letras minúsculas em negrito, por exemplo, w e u. Escalares são representados por letras minúsculas ou maiúsculas em itálico, por exemplo, M, N h, µ e y. A seguir, são listados os principais símbolos utilizados. Símbolos gerais n instante de tempo ( ) T transposição de vetores ou matrizes ( ) complexo conjugado ( ) H hermitiano (transposição do complexo conjugado) de vetores ou matrizes E{ } x Tr( A) operador esperança matemática norma euclidiana ou l 2 do vetor x traço (soma dos elementos da diagonal principal) da matriz A ( ) I parte imaginária ( ) R parte real w J σ 2 x O( ) a H(z) N h h k vetor gradiente da função custo J variância do sinal x ordem do custo computacional de um algoritmo (operações por iteração) símbolo transmitido transformada z da sequência {h k } N h 1 k=0 função de transferência do canal número de coeficientes do canal k-ésima amostra da resposta ao pulso unitário do canal

16 LISTA DE SÍMBOLOS xii u ν u w sinal de entrada do equalizador atraso em número de amostras ruído branco gaussiano vetor de entrada do equalizador vetor de coeficientes do equalizador vetor de coeficientes combinados M y número de coeficientes do equalizador sinal de saída do equalizador sinal de saída global da combinação convexa e erro de estimação de algoritmos supervisionados erro global da combinação convexa T período de transmissão dos símbolos H 0 (z) e H 1 (z) função de transferência dos sub-canais (sobreamostragem) u 0 e u 1 β vetores regressores de entrada dos sub-equalizadores (sobreamostragem) constante que distingue o caso complexo do real Algoritmo LMS e solução de Wiener J MSE w WIE R p função custo do erro quadrático médio solução de Wiener matriz de autocorrelação do sinal de entrada vetor de correlação cruzada µ passo de adaptação do LMS λ max maior autovalor da matriz de autocorrelação R µ passo de adaptação do NLMS δ constante positiva pequena usada para evitar divisão por zero no NLMS Algoritmo do módulo constante J CM κ função custo do módulo constante constante de dispersão

17 LISTA DE SÍMBOLOS xiii ε passo de adaptação erro de estimação Algoritmo multimódulo J MM r ρ c função custo multimódulo constante de dispersão passo de adaptação erro de estimação Combinação convexa η y 1 e y 2 w 1 e w 2 e 1 e e 2 c 1 e e 2 parâmetro de mistura da combinação saídas dos filtros da combinação vetores de coeficientes dos componentes da combinação erros de estimação de uma combinação de dois filtros LMS erros de estimação da combinação do MMA com o LMS µ 1 e µ 2 passos de adaptação dos componentes de uma combinação de dois filtros LMS ρ e µ ϕ[ ] sgm[x] α ϕ [ ] α + passos de adaptação dos componentes MMA e LMS função de ativação não-linear da combinação convexa função sigmoidal variável auxiliar da combinação convexa derivada de ϕ[ ] valor máximo permitido para α µ α passo de adaptação de α (MSE) ρ α passo de adaptação de α (MMA) p estimativa da potência de [y 1 y 2 ] λ p sign[x] dec[x] fator de esquecimento função sinal função de decisão

18 LISTA DE SÍMBOLOS xiv Análise em regime e a1 e e a2 e a w 1 e w 2 w o v ζ 1 e ζ 2 ζ 12 ζ erros a priori dos filtros componentes da combinação erro a priori da combinação vetores de erro dos coeficientes dos filtros componentes solução ótima ruído complexo iid EMSE em regime dos filtros componentes EMSE cruzado entre os filtros componentes EMSE da combinação Chaveamento abrupto ξ λ e estimativa do erro quadrático médio de decisão fator de esquecimento

19 1 Capítulo 1 Introdução e formulação do problema Neste capítulo, aborda-se inicialmente o problema da equalização adaptativa e em seguida, descreve-se a combinação convexa de filtros adaptativos. Por fim, os objetivos, a justificativa, as contribuições e a estrutura do trabalho são apresentados. 1.1 A equalização adaptativa Em sistemas de comunicação digital, os sinais portadores de informação, transmitidos entre locais remotos, são afetados por interferência intersimbólica (ISI - intersymbol interference) e ruído introduzidos por canais dispersivos. Exemplos de canais dispersivos incluem cabo coaxial, fibra óptica ou cabo de par trançado em comunicações com fio e a atmosfera ou o oceano em comunicações sem fio [JOHNSON JR. et al., 1998]. Para remover os efeitos da distorção do canal, é comum usar equalizadores adaptativos, que procuram recuperar a sequência de símbolos transmitida, mitigando os efeitos da ISI [DING; LI, 2001; HAYKIN, 2002; JOHNSON JR. et al., 1998; QURESHI, 1985; TREICHLER; FIJALKOW; JR., 1996; SILVA, 2005]. Um sistema de comunicação simplificado com um equalizador adaptativo é mostrado na Figura 1.1. A sequência transmitida a(n) é em geral não-gaussiana, independente e identicamente distribuída (iid). O sistema H(z) representa não só o canal físico de transmissão, mas também o sistema de transmissão/modulação e o sistema de recepção/demodulação, efetivamente presentes em qualquer sistema de comunicação prático. Assim, denomina-se aqui como canal um modelo de tempo discreto para o sistema de transmissão, o canal físico

20 1.1 A equalização adaptativa 2 e o sistema de recepção. Em geral, as distorções decorrentes do canal são bem modeladas por um filtro FIR (finite impulse response), cuja função de transferência é dada por H(z) = N h 1 k=0 h k z k, (1.1) sendo N h o número de coeficientes h k, k = 0,1,2,...,N h 1 da resposta impulsiva do canal. Devido à memória de H(z), o sinal u(n) no receptor contém contribuições não somente de a(n) mas também dos símbolos anteriores a(n 1),a(n 2),...,a(n N h +1), ou seja, 1 u(n) = h k a(n k) +h a(n )+ k=0 } {{ } pré-isi N h 1 k= +1 h k a(n k) +ν(n). (1.2) } {{ } pós-isi em que é o atraso da associação em série dos sistemas canal e equalizador e ν(n) é um ruído aditivo, assumido branco e gaussiano (AWGN - additive white Gaussian noise) com média nula e variância σ 2 ν. O papel do equalizador é mitigar os dois somatórios em (1.2), mitigando dessa forma a ISI e encontrando uma aproximação y(n) para a(n ). Neste trabalho, vamos abordar apenas o equalizador linear transversal (LTE - linear transversal equalizer), cujos vetores de entrada e de coeficientes, ambos de dimensão M, são dados respectivamente por u(n) = [u(n) u(n 1) u(n M +1)] T (1.3) e w(n 1) = [w 0 (n 1) w 1 (n 1) w M 1 (n 1)] T, (1.4) sendo que ( ) T indica transposição. Usando esses vetores, a saída do equalizador é calculada como y(n) = u T (n)w(n 1). (1.5) O equalizador no esquema da Figura 1.1 funciona no chamado modo de treinamento, já que uma versão atrasada da sequência transmitida a(n ) (sequência de treinamento) é conhecida previamente no receptor. Durante o modo de treinamento, o equalizador adapta seus coeficientes usando o erro de estimação e(n) = a(n ) y(n) e um algoritmo adaptativo. Quando a informação é efetivamente transmitida, o receptor não terá acesso a a(n ).

21 1.1 A equalização adaptativa 3 z a(n ) canal ν(n) a(n) u(n) equalizador y(n) H(z) adaptativo e(n) Figura 1.1: Sistema de comunicação simplificado com um equalizador adaptativo no modo de treinamento. Nesse caso, como esquematizado na Figura 1.2, o sinal de treinamento a(n ) é substituído por sua estimativa â(n ) obtida na saída do decisor, o que caracteriza o chamado modo de decisão direta (DD - decision-directed). Cabe observar que o equalizador retorna ao treinamento sempre que houver inclusão de um novo elemento na rede, quando ocorrer falta de energia, ou quando variações do canal de comunicação impuserem um novo ajuste aos coeficientes do filtro utilizado. Esse mecanismo implica paradas previstas e não previstas e, principalmente, perda de banda disponível, já que parte da banda deve ser alocada para a transmissão da sequência de treinamento [MENDES FILHO, 2011]. u(n) equalizador adaptativo y(n) decisor e(n) â(n ) Figura 1.2: Equalizador adaptativo no modo de decisão direta. A fim de usar a banda do canal de comunicação de forma mais eficiente, em vez de transmitir uma sequência previamente conhecida no receptor, estatísticas de ordem superior a dois(hos- high-order statistics) do sinal transmitido podem ser utilizadas para se calcular o erro de estimação e(n) no modo de treinamento [DING; LI, 2001; JOHNSON JR. et al., 1998; HAYKIN, 2002]. Em outras palavras, o equalizador conhece as estatísticas do sinal que se pretende transmitir e então ajusta permanentemente os coeficientes com base em um algoritmo que avalia o quão distante estão as estatísticas do sinal de saída do equalizador

22 1.1 A equalização adaptativa 4 das do sinal transmitido [BENVENISTE; GOURSAT; RUGET, 1980]. Essa solução é conhecida como equalização autodidata, cega ou não-supervisionada (blind equalization), cujo esquema está mostrado na Figura 1.3. canal ν(n) a(n) u(n) filtro y(n) H(z) adaptativo e(n) HOS de a(n) algoritmo autodidata Figura 1.3: Sistema de comunicação simplificado com um equalizador autodidata. É comum realizar o processamento dos sinais no receptor com uma taxa maior que a de transmissão dos símbolos, usando uma técnica conhecida como sobreamostragem, descrita brevemente a seguir Sobreamostragem O equalizador pode realizar o processamento dos sinais na taxa de símbolos (1/T) ou com sobreamostragem. Neste caso, o equalizador trabalha numa taxa maior que a dos símbolos, sendo comum se considerar o dobro dessa taxa, i.e., 2/T. Os equalizadores fracionários ou sobreamostrados são amplamente considerados na literatura já que possibilitam a equalização perfeita sob certas condições bem conhecidas, entre elas a ausência de ruído [TREICHLER; FIJALKOW; JR., 1996; DING; LI, 2001; MAI; SAYED, 2000; SILVA, 2005]. Quando o receptor é implementado para funcionar com o dobro da taxa de símbolos, as amostras do modelo de tempo discreto do canal correspondem à uma amostragem do modelo de tempo contínuo com essa taxa maior. Dessa forma, o modelo equivalente de tempo discreto do sistema de comunicação com um equalizador fracionário com taxa 2/T é composto por dois sub-canais e dois sub-equalizadores em paralelo, como mostrado na Figura 1.4, considerando a adaptação autodidata.

23 1.1 A equalização adaptativa 5 a(n) H 0 (z) H 1 (z) ν 0 (n) u 0 (n) ν 1 (n) u 1 (n) w 0 (n 1) w 1 (n 1) y(n) e(n) HOS de a(n) algoritmo autodidata Figura 1.4: Sistema de comunicação simplificado com um equalizador autodidata sobreamostrado. Se a resposta impulsiva do canal tiver 2N h coeficientes, obtidos da amostragem com o dobro da taxa de símbolos, i.e, H(z) = h 0 +h 1 z 1 +h 2 z 2 + +h 2Nh 2z (2N h 2) +h 2Nh 1z (2N h 1), (1.6) as respostas impulsivas dos sub-canais serão dadas por H 0 (z) = h 0 +h 2 z 1 +h 4 z 2 + +h 2Nh 4z (N h 2) +h 2Nh 2z (N h 1) (1.7) e H 1 (z) = h 1 +h 3 z 1 +h 5 z 2 + +h 2Nh 3z (N h 2) +h 2Nh 1z (N h 1). (1.8) Considerando que cada sub-equalizador tenha M/2 coeficientes (com M par), os vetores regressores de entrada serão u 0 (n) = [u 0 (n) u 0 (n 1) u 0 (n M/2+1)] T (1.9) e u 1 (n) = [u 1 (n) u 1 (n 1) u 1 (n M/2+1)] T. (1.10) Por fim, concatenado esses dois vetores no vetor u(n), ou seja, u(n) = [u T 0(n) u T 1(n)] T, (1.11)

24 1.1 A equalização adaptativa 6 a saída do equalizador pode ser calculada como y(n) = u T (n)w(n 1), sendo w o vetor correspondente à concatenação dos coeficientes dos dois sub-equalizadores. Dessa forma, a adaptação dos dois sub-equalizadores em paralelo pode ser realizada considerando um único vetor de coeficientes w com dimensão M. Assim, para adaptação de um equalizador fracionário, a única coisa que deve ser alterada nos algoritmos de equalização descritos a seguir é o vetor de entrada do equalizador, que deve ser como (1.11) [SILVA, 2005] Algoritmos para adaptação dos coeficientes do equalizador Nesta seção, são descritos brevemente alguns algoritmos adaptativos de equalização supervisionada e autodidata para atualização do vetor w(n 1). Inicialmente, revisita-se o algoritmo LMS (least mean squares) usado em equalização supervisionada e em seguida são descritos o algoritmo do módulo constante (CMA - constant modulus algorithm) e o algoritmo multimódulo (MMA - multimodulus algorithm) usados em equalização autodidata. O algoritmo LMS Algoritmos do gradiente estocástico buscam minimizar o erro quadrático médio (MSE), definido como J MSE (n) E{ e(n) 2 }, em que E{ } representa o operador esperança matemática e e(n) = a(n ) y(n). O MSE é uma função custo convexa, cujo mínimo depende do atraso e é dado pela solução de Wiener w WIE = R 1 p, em que R = E{u (n)u T (n)} é a matriz de autocorrelação do sinal de entrada, p = E{u (n)a(n )} é o vetor de correlação cruzada entre o vetor regressor de entrada e o sinal transmitido e ( ) representa o complexo conjugado [FARHANG-BOROUJENY, 1998; HAYKIN, 2002; SAYED, 2008; NASCIMENTO; SILVA, 2013]. A solução de Wiener pode ser encontrada pelo algoritmo do gradiente exato (steepest descent algorithm), que evita o cálculo da inversa de R, atualizando w(n 1) na direção

25 1.1 A equalização adaptativa 7 oposta ao gradiente de J MSE (n), i.e., w(n) = w(n 1)+µ[p Rw(n 1)], em que µ é um passo de adaptação e w( 1) é um chute inicial para o mínimo de J MSE (n). A menos que algum conhecimento prévio esteja disponível, w( 1) é usualmente feito igual ao vetor nulo, i.e., w( 1) = 0. Com uma escolha adequada para µ, este algoritmo atinge exatamente a solução de Wiener. No entanto, o gradiente exato requer um conhecimento prévioderep,oquenãoéfactívelparaequalização. Éimportanteobservarqueemmuitas situações práticas, o canal varia no tempo, u(n) é não-estacionário e consequentemente, R e p não podem ser estimados em cada instante de tempo. Para solucionar esse problema, o algoritmo LMS foi proposto. Em vez de usar o gradiente exato, o LMS usa uma aproximação instantânea, i.e., w J MSE (n) 2a(n )u (n)+2u (n)u T (n)w(n 1) = 2e(n)u (n), (1.12) o que leva à seguinte equação de atualização: w(n) = w(n 1)+µe(n)u (n), (1.13) com w( 1) = 0 e µ sendo o passo de adaptação. As operações do algoritmo LMS estão mostradasnatabela1.1. OLMSéofiltroadaptativomaispopulardevidoaoseubaixocusto computacional[o(m)], robustez, facilidade de implementação e muitos resultados analíticos. A partir de uma análise de segunda ordem, é possível mostrar que ele converge na média quadrática para a solução de Wiener se [FARHANG-BOROUJENY, 1998; NASCIMENTO; SILVA, 2013] 0 < µ < 2 < 2, (1.14) βλ max βmσu 2 sendo β = 2 (resp., β = 3) para sinais complexos (resp., reais), λ max o maior autovalor de R e σ 2 u a variância do sinal de entrada u(n). Devido à aproximação (1.12), o algoritmo LMS varia em torno da solução de Wiener, não a atingindo exatamente. A distância entre o valor mínimo de J MSE (n) e a potência de erro obtida efetivamente com o LMS é chamada de erro quadrático médio em excesso (EMSE - excess mean-square error) e a razão entre o EMSE e o valor mínimo de J MSE (n) é conhecida como desajuste. Para passos de adaptação pequenos, o desajuste é pequeno, já que o LMS se

26 1.1 A equalização adaptativa 8 Tabela 1.1: Sumário do algoritmo LMS aplicado à equalização. Inicialização: w( 1) = 0 Para n = 0,1,2,..., calcule y(n) = u T (n)w(n 1) e(n) = a(n ) y(n) w(n) = w(n 1)+µe(n)u (n) Fim comporta aproximadamente igual ao algoritmo do gradiente exato. Entretanto, um passo de adaptação pequeno também significa convergência lenta. Esse compromisso existe para todos os algoritmos adaptativos e tem sido assunto de intensa pesquisa nas últimas décadas: muitos algoritmos tem sido propostos para permitir uma convergência mais rápida sem aumentar o desajuste. Diante disso, um problema do algoritmo LMS é a escolha do passo de adaptação. Quão grande deve ser o passo para possibilitar uma convergência rápida, proporcionar um desajuste aceitável e ainda assegurar a estabilidade? Uma possível solução para esse problema é obtida com o algoritmo LMS normalizado (NLMS - normalized least-mean squares), que usa um passo de adaptação variante no tempo, ou seja, µ(n) = µ δ + u(n) 2, com 0 < µ < 2, (1.15) sendo que δ é uma constante positiva usada para evitar divisão por zero e representa a norma euclidiana. Assim, a equação de atualização do NLMS é dada por w(n) = w(n 1)+ µ δ + u(n) 2e(n)u (n). (1.16) O passo de adaptação de (1.15) depende inversamente da potência instantânea do vetor de entrada u(n), o que possibilita o NLMS acompanhar melhor variações na estatística do sinal. Outros algoritmos que merecem destaque são os da família RLS (recursive least-squares). Embora o algoritmo RLS convencional tenha um custo computacional elevado [O(M 2 )], ele apresenta em geral uma velocidade de convergência maior que as dos algoritmos LMS e

27 1.1 A equalização adaptativa 9 NLMS para um mesmo valor de desajuste. É bem conhecido na literatura que o compromisso entre velocidade de convergência e custo computacional tende a ser menos crítico para versões rápidas do RLS, i.e., versões que apresentam um custo computacional que crescem linearmente com o comprimento do filtro [O(M)] [HAYKIN, 2002]. Entre os membros da família dos algoritmos RLS rápidos, merece destaque o algoritmo EF-LSL (error feedback least-squares lattice) modificado [MIRANDA; GERKEN; SILVA, 1999], que é numericamente bem comportado em precisão finita, embora nenhuma prova de sua estabilidade numérica seja conhecida. A literatura de filtros adaptativos é vasta e esse assunto ainda desperta interesse na comunidade científica, sendo uma área de intensa pesquisa. Há vários livros sobre esse assunto, sendo [HAYKIN, 2002; SAYED, 2003, 2008; DINIZ, 2008; FARHANG-BOROUJENY, 1998; APOLINÁRIO JR. (Ed.), 2009] os de maior destaque. Cabe mencionar também o capítulo [NASCIMENTO; SILVA, 2013], que abrange os fundamentos de filtragem adaptativa e aborda diversos tópicos sobre a pesquisa atual na área. O algoritmo do módulo constante O CMA foi proposto independentemente em [GODARD, 1980] e [TREICHLER; AGEE, 1983] e busca minimizar a função custo do módulo constante definida como J CM (n) = E{ [κ y(n) 2 ] 2 }, (1.17) sendo κ = E{ a(n) 4 }/E{ a(n) 2 } uma constante de dispersão, que contém informação sobre as estatísticas de ordem superior do sinal transmitido a(n) e y(n) = u T (n)w(n 1) é a saída do equalizador. Essa função penaliza desvios no módulo do sinal equalizado que ficam distantes da constante de dispersão κ. Diferente da função custo do erro quadrático médio usada em filtragem adaptativa supervisionada, J CM (n) não é convexa em relação aos coeficientes do equalizador. Em outras palavras, ela apresenta mínimos locais e algoritmos baseados no módulo constante podem ficar parados nessas soluções sub-ótimas. O CMA é obtido a partir de uma aproximação instantânea para o vetor gradiente de J CM (n) em relação a w. Dessa forma, definindo o erro de estimação ε(n) = [ κ y(n) 2] y(n), (1.18)

28 1.1 A equalização adaptativa 10 a equação de atualização do CMA pode ser escrita como w(n) = w(n 1)+ ε(n)u (n), (1.19) sendo um passo de adaptação. Diferente dos algoritmos de equalização supervisionada, o vetor de coeficientes do CMA não pode ser inicializado com o vetor nulo pois nesse caso w(n) = 0 para todo n. Por isso, é comum inicializá-lo com o vetor pino [DING; LI, 2001], ou seja, w( 1) = [ ] T. (1.20) As operações do CMA estão mostradas na Tabela 1.2. Tabela 1.2: Sumário do CMA. Inicialização: w( 1) = [ ] T κ = E{ a(n) 4 }/E{ a(n) 2 } Para n = 0,1,2,..., calcule y(n) = u T (n)w(n 1) ε(n) = [κ y(n) 2 ]y(n) w(n) = w(n 1)+ ε(n)u (n) Fim Como o CMA é um algoritmo do gradiente estocástico, a similaridade de (1.19) com a equação de adaptação do LMS [Eq. (1.13)] não é surpreendente. Por isso, o CMA é interpretado como a versão autodidata do algoritmo LMS [PAPADIAS; SLOCK, 1997]. Dessa forma, como no caso do LMS, o custo computacional aumenta linearmente com o comprimento do filtro, i.e., O(M), e passos de adaptação pequenos levam a um desajuste pequeno e a uma convergência lenta. Entretanto, a similaridade com o LMS para por aí. A multimodalidade de J CM (n) torna difícil a análise do comportamento do CMA. Por exemplo, a análise de estabilidade que permite obter o intervalo do passo de adaptação do CMA depende de inúmeras hipóteses simplificadoras não muito realistas, como a inicialização próxima da solução ótima [NASCIMENTO; SILVA, 2008]. É importante observar que o CMA apresenta algumas desvantagens como a impossibilidade de resolver as ambiguidades de fase introduzidas pelo canal de comunicação, a possível

29 1.1 A equalização adaptativa 11 convergência para mínimos locais indesejáveis e problemas de instabilidade [JOHNSON JR. et al., 1998; SILVA, 2005; MIRANDA; SILVA; NASCIMENTO, 2008a]. Além disso, o melhor desempenho do CMA ocorre para sinais de módulo constante, já que o fato de κ não coincidir com o módulo dos símbolos da constelação gera um erro quadrático médio em regime não nulo. Na verdade, os algoritmos baseados no módulo constante só podem alcançar um erro quadrático médio em regime nulo para sinais de módulo constante em um ambiente estacionário, livre de ruído e se for adotada a sobreamostragem [MAI; SAYED, 2000; SILVA; MIRANDA, 2004; NASCIMENTO; SILVA, 2008]. Por isso, esses algoritmos apresentam um desajuste relativamente grande, quando usados para recuperar sinais de módulo não-constante, como é o caso de sinais com modulação QAM (quadrature amplitude modulation) de ordem elevada (e.g., 1024-QAM) [MENDES FILHO, 2011]. A questão da instabilidade do CMA foi abordada em [MIRANDA; SILVA; NASCIMENTO, 2008a], onde foi proposto um mecanismo para evitar a divergência em uma versão normalizada do algoritmo. O algoritmo proposto em [MIRANDA; SILVA; NASCIMENTO, 2008a], denominado dual-mode-cma (DM-CMA), trabalha com dois modos de operação. No primeiro modo, ele funciona como o CMA normalizado e no segundo, rejeita estimativas nãoconsistentes do sinal transmitido. Uma análise estatística desse algoritmo foi feita posteriormente em [CANDIDO et al., 2010]. O algoritmo multimódulo Para mitigar o problema da ambiguidade de fase do CMA, o MMA foi proposto em [WE- SOLOWSKI, 1992; OH; CHIN, 1995] e depois analisado em [YANG; WERNER; DUMONT, 2002]. O MMA é obtido a partir da minimização estocástica da dispersão das componentes real e imaginária da saída do equalizador de forma separada, ou seja, { [r J MM (n) = E y 2 R(n) ] } { 2 [r y 2 +E I(n) ] } 2, (1.21) sendo y(n) = u T (n)w(n 1) = y R (n)+jy I (n) e y R (n) e y I (n) as partes real e imaginária de y(n), respectivamente. A constante de dispersão também é calculada usando separadamente as partes real [a R (n)] e imaginária [a I (n)] do sinal transmitido a(n) = a R (n)+ja I (n), i.e., r = E{a4 R(n)} E{a 2 R(n)} = E{a4 I(n)} E{a 2 I(n)} (1.22)

30 1.1 A equalização adaptativa 12 para constelações simétricas com símbolos iid. O erro de estimação do MMA é dado por c(n) = c R (n)+jc I (n) = [r y 2 R(n)]y R (n)+j[r y 2 I(n)]y I (n). (1.23) Usando essa definição em(1.19) em vez de ε(n), temos a equação de atualização do algoritmo, isto é, w(n) = w(n 1)+ρc(n)u (n), (1.24) sendo que ρ é o passo de adaptação e w(n) o vetor de coeficientes que deve ser inicializado como (1.20). Cabe observar que para sinais reais r = κ, c(n) = ε(n) e o MMA coincide com o CMA. As operações do MMA estão mostradas na Tabela 1.3. Tabela 1.3: Sumário do MMA. Inicialização: w( 1) = [ ] T r = E{a 4 R(n)}/E{a 2 R(n)} Para n = 0,1,2,..., calcule y(n) = u T (n)w(n 1) c R (n) = [r yr(n)]y 2 R (n) c I (n) = [r yi(n)]y 2 I (n) c(n) = c R (n)+jc I (n) w(n) = w(n 1)+ρc(n)u (n) Fim Embora o MMA apresente uma melhor convergência que o CMA para sinais de módulo não-constante, ele ainda pode ocasionar rotações de fase múltiplas de π/2 como comentado em [GARTH; YANG; WERNER, 2001]. Isso foi confirmado teoricamente em [YUAN; TSAI, 2005], que mostra que a função custo do MMA apresenta pontos estacionários adicionais relacionados a rotações de fase múltiplas de π/2 e próximos a esses pontos, ele apresenta uma convergência lenta antes de convergir para o mínimo desejado. Entretanto essa convergência ruim ocorre muito raramente em situações práticas. Ocasionalmente, o MMA também pode convergir para algumas soluções indesejadas causadas por rotações múltiplas de π/4 [YANG;

31 1.1 A equalização adaptativa 13 WERNER; DUMONT, 2002]. Porém, essas soluções podem ser evitadas através de diferentes técnicas, como mencionado em [YANG; WERNER; DUMONT, 2002, Seção VIII]. Outros algoritmos de equalização autodidata Com o objetivo de melhorar o desempenho do CMA e MMA, diferentes algoritmos de equalização autodidata tem sido propostos na literatura (veja, e.g., [DING; LI, 2001; SHALVI; WEINSTEIN, 1993; SILVA; GERKEN; MIRANDA, 2002, 2004; SILVA; MIRANDA; SOARES, 2005; SILVA, 2005; MIRANDA; SILVA; NASCIMENTO, 2008b; MENDES FILHO; MIRANDA; SILVA, 2012c] e suas referências). Dentre esses algoritmos, destaca-se o algoritmo de Shavi-Weinstein (SWA) proposto em [SHALVI; WEINSTEIN, 1993]. Em geral, o SWA converge mais rápido que o CMA e o MMA para um mesmo valor de EMSE em regime, às custas de um custo computacional maior [O(M 2 )]. Porém, um dos principais problemas do SWA convencional é que uma escolha inadequada do fator de esquecimento, uma inicialização distante da solução ótima e/ou uma razão sinal-ruído baixa podem levá-lo à divergência (i.e., a norma do vetor de coeficientes vai para infinito) ou à convergência para mínimos locais indesejáveis. Como no RLS convencional, o SWA também pode divergir devido à problemas numéricos no cálculo da estimativa da matriz de autocorrelação inversa. A questão da divergência do SWA foi abordada em [MIRANDA; SILVA; NASCIMENTO, 2008b], onde foi proposta uma versão do algoritmo com dois modos de operação, denominada dual-mode-swa (DM-SWA). No primeiro modo, ele funciona como o SWA convencional e no segundo, rejeita estimativas não-consistentes do sinal transmitido. Para evitar a causa de divergência devido à perda de positividade da estimativa da matriz de autocorrelação, foi proposto um SWA em treliça com dois modos de operação (DM-LSWA - dual-mode lattice Shalvi-Weinstein algorithm), que é estável mesmo em aritmética de precisão finita e tem um custo computacional relativamente baixo [O(M)]. Detalhes sobre essas versões do SWA podem ser encontrados no Apêndice A. Também merece destaque o algoritmo multimódulo regional (RMA - regional multimodulus algorithm) proposto em [MENDES FILHO, 2011; MENDES FILHO; MIRANDA; SILVA, 2012c] para equalização de sinais QAM. Esse algoritmo foi obtido a partir de uma modificação na função de erro do MMA, que faz com seu erro de estimação seja igual a zero nas coordenadas dos símbolos da constelação. Dessa forma, o RMA pode ter um desempenho similar ao de

32 1.1 A equalização adaptativa 14 um algoritmo de equalização supervisionada como o NLMS, mesmo quando são transmitidos sinais QAM de ordem elevada. Um outro algoritmo com características similares foi proposto em [MENDES FILHO, 2011; MENDES FILHO; MIRANDA; SILVA, 2012b] e denominado algoritmo de decisão baseada nos símbolos (SBD - symbol-based decision). Esses algoritmos são revisitados no Apêndice B Transição para o modo de decisão direta Para finalizar esta seção, é importante salientar que a transição entre os modos de treinamento supervisionado ou cego e o modo de decisão direta depende em geral de um limiar de erro quadrático médio (MSE - mean-square error) atingido pelo algoritmo adaptativo. Um bom desempenho global do equalizador depende da seleção de um limiar de MSE adequado. No entanto, essa não é uma tarefa simples, já que depende fortemente de vários fatores como constelação do sinal transmitido, canal de comunicação, razão sinal-ruído (SNR - signal-tonoise ratio), entre outros [JOHNSON JR. et al., 2000]. Uma seleção inadequada do nível de MSE para o chaveamento tem um impacto significativo no desempenho da equalização já que um valor de MSE muito elevado leva a uma convergência ruim ou à não-convergência para o algoritmo de decisão direta [MAZO, 1980; MACCHI; EWEDA, 1984]. Em contrapartida, um valor muito pequeno pode resultar em um atraso muito grande ou até em falha no chaveamento entre os modos. Para evitar a necessidade de se selecionar um limiar de MSE para o chaveamento abrupto (hard switching) entre os modos cego e de decisão direta, vários esquemas de chaveamento suave foram propostos na literatura (veja e.g [PICCHI; PRATI, 1987; WEE- RACKODY; KASSAM, 1994; CASTRO; CASTRO; ARANTES, 2001; CHEN, 2003]). Além disso, algoritmos de equalização autodidata com bom desempenho no transitório e em regime tem sido propostos a fim de evitar o mecanismo de chaveamento para o modo DD (veja, e.g, [MENDES FILHO, 2011; MENDES FILHO; MIRANDA; SILVA, 2012b, 2012c] e suas referências). Entretanto, esses esquemas são tipicamente difíceis de ajustar e o desempenho alcançado ainda é muito dependente do ambiente particular em que são aplicados. A seguir, revisita-se a combinação convexa de algoritmos adaptativos, que será utilizada nos capítulos seguintes para propor um esquema que permite um chaveamento automático entre os modos cego e de decisão direta.

33 1.2 A combinação convexa de algoritmos adaptativos A combinação convexa de algoritmos adaptativos A combinação convexa de dois ou mais filtros operando em paralelo foi proposta para melhorar o desempenho de filtros adaptativos [MARTÍNEZ-RAMÓN et al., 2002; ARENAS-GARCÍA, 2004; ARENAS-GARCÍA; GÓMEZ-VERDEJO; FIGUEIRAS-VIDAL, 2005; ARENAS-GARCÍA; FI- GUEIRAS-VIDAL; SAYED, 2006; ARENAS-GARCÍA et al., 2006; AZPICUETA-RUIZ; FIGUEIRAS- VIDAL; ARENAS-GARCÍA, 2008; SILVA; NASCIMENTO, 2008a; ARENAS-GARCÍA; FIGUEIRAS- VIDAL, 2009; LÁZARO-GREDILLA et al., 2010]. Esse método é relativamente simples e proporciona um desempenho global melhor ou igual ao de cada filtro individual operando independentemente. Essa ideia tem gerado interesse, pois uma dificuldade no projeto de filtros adaptativos é escolher da melhor forma os parâmetros fixos do filtro, como o passo de adaptação para algoritmos do tipo LMS ou o fator de esquecimento para algoritmos do tipo RLS. Cabe destacar que há diversos artigos que propõem o uso de algoritmos com passo variável [KWONG; JOHNSTON, 1992; ABOULNASR; MAYYAS, 1997; BILCU; KUOSMANEN; EGI- AZARIAN, 2002; NELATURY; RAO, 2002], mas o desempenho deles é pior do que o de um algoritmo com parâmetro fixo escolhido de maneira ótima, principalmente quando os sinais são estacionários. Como o desempenho de combinações de filtros nunca é pior do que o de cada filtro individual, essa solução é mais interessante do que as que utilizam parâmetros variáveis em muitas situações práticas. A ideia de se combinar as saídas de vários filtros adaptativos independentes para se obter um melhor desempenho do que o de cada filtro individual não é nova. Ela foi proposta inicialmente em [ANDERSSON, 1985] e posteriormente melhorada em [NIEDŹWIECKI, 1990, 1992]. Ideias similares também têm sido usadas na literatura de teoria da informação (veja, e.g., [KOZAT; SINGER; ZEITLER, 2007]). No entanto, o método de [ARENAS-GARCÍA; FIGUEI- RAS-VIDAL; SAYED, 2006] tem recebido mais atenção devido à sua relativa simplicidade e à prova de que a combinação é universal, i.e., considerando entradas estacionárias, a estimativa combinada é pelo menos tão boa quanto à do melhor filtro componente em regime. A combinação convexa de dois filtros adaptativos está esquematizada na Figura 1.5, onde se considera a filtragem supervisionada que pode ser usada para diferentes aplicações, como identificação de sistemas, equalização adaptativa, cancelamento de eco ou ruído etc. [HAYKIN, 2002; SAYED, 2003]. O sinal de saída global y(n) é obtido a partir da combinação

34 1.2 A combinação convexa de algoritmos adaptativos 16 linear das saídas y 1 (n) e y 2 (n) dos filtros individuais, ou seja, y(n) = η(n)y 1 (n)+[1 η(n)]y 2 (n), (1.25) sendo η(n) o parâmetro de mistura. Os vetores de coeficientes de cada filtro w 1 (n 1) e w 2 (n 1) são adaptados com seus respectivos erros e 1 (n) = d(n) y 1 (n) (1.26) e e 2 (n) = d(n) y 2 (n), (1.27) sendo d(n) a resposta desejada, que no caso da equalização supervisionada corresponde ao símbolo a(n ). d(n) u(n) w(n 1) w 1 (n 1) e 1 (n) y 1 (n) η(n) e(n) y(n) w 2 (n 1) y 2 (n) 1 η(n) e 2 (n) Figura 1.5: Combinação convexa de dois filtros adaptativos transversais para filtragem supervisionada. Na mistura de dois algoritmos do tipo LMS com passos de adaptação µ 1 e µ 2, sendo µ 1 > µ 2, a combinação convexa tem uma interpretação intuitiva. No início da convergência, η(n) 1 e a combinação se aproxima do filtro µ 1 -LMS, que converge mais rapidamente. Em regime, η(n) 0 e a combinação se aproxima do filtro µ 2 -LMS, que por ser mais lento, faz um ajuste fino a fim de atingir um erro de estimação menor. No entanto, há situações

35 1.2 A combinação convexa de algoritmos adaptativos 17 em que 0 < η(n) < 1 e nesses casos, a combinação pode apresentar um desempenho melhor do que o de cada um dos filtros quando considerados separadamente [ARENAS-GARCÍA; FI- GUEIRAS-VIDAL; SAYED, 2006]. Esse comportamento pode ser observado nos resultados de simulação mostrados na Figura 1.6, em que a combinação convexa de dois filtros LMS com diferentes passos de adaptação (µ 1 = 0,1 and µ 2 = 0,01) foi usada para identificar o sistema [ 0,9003 0,5377 0,2137 0,0280 0,7826 0,5242 0,0871 ]. O regressor u(n) é obtido de um processo x(n), gerado com um modelo autoregressivo de primeira ordem, cuja função de transferência é dada por 1 b 2 /(1 bz 1 ). Esse modelo é alimentado com um processo gaussiano iid, cuja variância é escolhida para que o traço da matriz de autocorrelação R seja igual a um. Além disso, um ruído aditivo iid v(n) com variância σ 2 v = 0,01 é adicionado para se obter o sinal desejado. Na Figura 1.6-(a), são mostradas curvas de EMSE, estimadas a partir de uma média de conjunto de 500 realizações e filtradas por um filtro de média móvel com 128 coeficientes para facilitar a visualização. Na Figura 1.6-(b), é mostrada a média do parâmetro de mistura ao longo do tempo. Pode-se observar que η(n) 1 durante o início da convergência e em regime, η(n) 0. Na combinação convexa, o parâmetro de mistura η(n) fica restrito ao intervalo [0, 1] e por isso é modificado através de uma variável auxiliar α(n) que está relacionada com η(n) através da seguinte função sendo η(n) = ϕ[α(n 1)] = sgm[α(n 1)] sgm[ α+ ], (1.28) sgm[α + ] sgm[ α + ] sgm[x] = 1 1+e x (1.29) a função sigmoidal e α + o máximo valor que α(n) pode assumir. A função de ativação ϕ[ ] foi proposta em [LÁZARO-GREDILLA et al., 2010] e é uma versão deslocada e escalonada da função sigmoidal. É importante notar que η(n) atinge os valores 1 e 0 para α(n 1) = α + e α(n 1) = α +, respectivamente. Calculando a derivada do MSE global da combinação J MSE (n) = E{ e(n) 2 } = E{ d(n) y(n) 2 }

36 1.2 A combinação convexa de algoritmos adaptativos 18 EMSE (db) (a) µ 1 -LMS µ 2 -LMS combinação (b) E{η(n)} 0, Iterações Figura 1.6: (a) EMSE para µ 1 -LMS, µ 2 -LMS, e sua combinação convexa; (b) média de conjunto de η(n); µ 1 = 0,1, µ 2 = 0,01, µ α = 100 (adaptação não-normalizada), α + = 4, b = 0,8; média de 500 realizações. com relação à α(n) e aproximando as esperanças por seus valores instantâneos, obtém-se a seguinte regra para adaptar α(n): α(n) = α(n 1)+ µ α (n) Re{[d(n) y(n)][y 1 (n) y 2 (n)] }ϕ [α(n 1)], (1.30) sendo ϕ [α(n 1)] = dη(n) dα(n 1) = sgm[α(n 1)]{1 sgm[α(n 1)]} sgm[α + ] sgm[ α + ] (1.31) e µ α (n) um passo de adaptação. Na prática, α(n) fica restrita por saturação ao intervalo simétrico [ α +, α + ], já que o fator ϕ [α(n 1)] em (1.30) pararia a adaptação se α(n) crescesse muito. Uma escolha comum na literatura é α + = 4 [ARENAS-GARCÍA; FIGUEIRAS- VIDAL; SAYED, 2006; AZPICUETA-RUIZ; FIGUEIRAS-VIDAL; ARENAS-GARCÍA, 2008; LÁZARO- GREDILLA et al., 2010]. Quando se trata da combinação convexa de dois algoritmos com passos de adaptação diferentes, por exemplo, combinação do µ 1 -LMS com o µ 2 -LMS, em que µ 1 > µ 2, é melhor inicializar α( 1) = α + para que η(0) = 1 e a combinação tenha

37 1.2 A combinação convexa de algoritmos adaptativos 19 um comportamento semelhante ao do filtro rápido no início da convergência. Entretanto, o desempenho da combinação não é afetado significativamente se α( 1) for feito igual a um valor no intervalo [ α +, α + ], já que λ(n) converge rapidamente para próximo de 1 quando o filtro µ 2 -LMS ainda não convergiu. Isso também ocorre quando há mudanças abruptas no canal de comunicação, por exemplo. Embora seja possível usar um valor constante para µ α (n), um comportamento melhor pode ser obtido com uma regra normalizada. Reinterpretando a combinação como um filtro adaptativo de segunda camada [AZPICUETA-RUIZ; FIGUEIRAS-VIDAL; ARENAS-GARCÍA, 2008] e notando que [y 1 (n) y 2 (n)] faz o papel de sinal de entrada para essa segunda camada, pode-se considerar µ α (n) = µ α p(n) sendo p(n) uma estimativa da potência de [y 1 (n) y 2 (n)], i.e, (1.32) p(n) = λ p p(n 1)+(1 λ p ) y 1 (n) y 2 (n) 2 (1.33) com p( 1) = 1. A regra normalizada é mais fácil de ajustar do que a não-normalizada, como observado em [AZPICUETA-RUIZ; FIGUEIRAS-VIDAL; ARENAS-GARCÍA, 2008; CANDIDO; SILVA; NASCIMENTO, 2010]. Além disso, a seleção do fator de esquecimento λ p não é crítica para um bom desempenho da combinação, sendo λ p = 0,9 uma escolha comum na literatura. As operações da combinação convexa de dois algoritmos LMS com passos de adaptação diferentes e adaptação normalizada estão mostradas na Tabela 1.4, em que 1, x < 0 sign[x] = 1, x 0. Cabe observar que em uma implementação prática, a função ϕ[ ] pode ser calculada com o auxílio de uma tabela (lookup table). Além disso, no caso de equalização, não é necessário calcular o vetor de coeficientes da combinação, ou seja, w(n) = η(n+1)w 1 (n)+[1 η(n+1)]w 2 (n), (1.34) já que para essa aplicação, o interesse está na estimativa obtida com a saída global combinada, i.e., y(n). Os benefícios de se utilizar a função ϕ[ ] para o cálculo de η(n) são dois. Primeiramente, ela serve para manter o parâmetro de mistura η(n) no intervalo [0, 1]. Em segundo lugar,