ESTIMAÇÃO DE NÚMERO DE FONTES VIA NORMA 0,55

Transcrição

1 ESTIMAÇÃO DE NÚMERO DE FONTES VIA NORMA 0,55 GIOVANNI HENRIQUE FARIA FLORIANO ABRIL/2016

2 Estmação de número de fontes va norma 0,55 GIOVANNI HENRIQUE FARIA FLORIANO Dssertação apresentada ao Insttuto Naconal de Telecomuncações, como parte dos requstos para obtenção do Título de Mestre em Telecomuncações. ORIENTADOR: Prof. Dr. Dayan Adonel Gumarães COORIENTADOR: Prof. Dr. Rausley A. A. de Souza Santa Rta do Sapucaí 2016

3

4 FOLHA DE APROVAÇÃO Dssertação defendda e aprovada em 19 /04 /2016, pela comssão julgadora: Prof. Dr. Dayan Adonel Gumarães INATEL Prof. Dr. Rausley Adrano Amaral de Souza INATEL Prof. Dr. Tales Cleber Pmenta UNIFEI Prof. Dr. Felpe Emanoel Chaves INATEL Coordenador do Curso de Mestrado Prof. Dr. José Marcos Câmara Brto

5 Everythng should be made as smple as possble, but no smpler. Albert Ensten

6 À mnha famíla.

7 AGRADECIMENTOS Aos professores Dr. Dayan Adonel Gumarães (orentador) e Dr. Rausley Adrano Amaral de Souza (coorentador) pela generosa e efcente orentação dspensada, tanto nas dscplnas que atuaram como meus professores quanto, e prncpalmente, durante o desenvolvmento da pesqusa cujo resultado é apresentado nessa dssertação. À Dreção e à Coordenação do Insttuto Naconal de Telecomuncações de Santa Rta do Sapucaí-INATEL, pelo apoo e suporte oferecdo durante todo o curso de mestrado. v

8 ÍNDICE LISTA DE FIGURAS... v LISTA DE TABELAS... LISTA DE ABREVIATURAS E SIGLAS... x x LISTA DE SÍMBOLOS... x RESUMO... xv ABSTRACT... xv 1 Introdução Contextualzação Formulação do problema Objetvos, Contrbuções e Estrutura da Dssertação Referencal Teórco Fundamentos da Teora da Informação A medda da nformação: Entropa A dvergênca de Kullback-Lebler O crtéro da máxma verossmlhança O crtéro de máxma a posteror Aplcação de dvergênca de Kullback-Lebler (KL) A teora das matrzes aleatóras (RMT) v

9 3 Estmadores do Número de Fontes O estmador baseado no crtéro da nformação de Akake O estmador baseado no comprmento de mínma descrção O estmador baseado na teora das matrzes aleatóras O estmador baseado em norma Estmador Empírco Baseado em Norma Melhorado (NB) Resultados Numércos Crtéros adotados nas smulações Smulações com varação do número de amostras (n) Smulações com varação da relação snal/ruído (SNR) Smulações com varação do número de fontes (p) Smulações com varação do número de sensores (m) Conclusões e Pesqusas Futuras REFERÊNCIAS BIBLIOGRÁFICAS APÊNDICE v

10 LISTA DE FIGURAS Fgura 1.1: Representação de um arranjo com transmssores e receptores com ndcação dos ganhos do canal... 4 Fgura 2.1: Representação esquemátca de um sstema geral de comuncação Fgura 2.2: Entropa (H) de uma fonte bnára sem memóra em função da probabldade (p) de um dos símbolos Fgura 3.1: Gráfco dos autovalores e índces normalzados para p = 0, m = 30 e n= Fgura 3.2: Autovalores e índces normalzados segundo o algortmo NB Fgura 4.1: Comportamento dos autovalores normalzados e dos correspondentes modfcados, em função dos índces normalzados, para p = Fgura 4.2: Norma l 0,83 para todos os { l } e a norma Eucldana (norma l 2 ) (N) para todos os, com p = Fgura 4.3: Comportamento dos autovalores normalzados e dos correspondentes modfcados, em função dos índces normalzados, para p = Fgura 4.4: Norma l 0,83 para todos os {} l e a norma Eucldana (norma l 2 ) (N) para todos os, com p = Fgura 4.5: Probabldade detecção correta em função do parâmetro u da norma para város conjuntos de parâmetros Fgura 5.1: Pc e Pse em função do número de amostras (n) para o Caso 01 (p = 3, m = 30, SNR = - 10 db) Fgura 5.2: Pc e Pse em função do número de amostras (n) para o Caso 02 (p = 3, m = 30, SNR = - 2 db) Fgura 5.3: Pc e Pse em função do número de amostras (n) para o Caso 03 (p = 3, m = 70, SNR = - 10 db) Fgura 5.4: Pc e Pse em função do número de amostras (n) para o Caso 04 (p = 3, m = 70, SNR = - 2 db) v

11 Fgura 5.5: Pc e Pse em função do número de amostras (n) para o Caso 05 (p = 8, m = 30, SNR = - 10 db) Fgura 5.6: Pc e Pse em função do número de amostras (n) para o Caso 06 (p = 8, m = 30, SNR = - 2 db) Fgura 5.7: Pc e Pse em função do número de amostras (n) para o Caso 07 (p = 8, m = 70, SNR = - 10 db) Fgura 5.8: Pc e Pse em função do número de amostras (n) para o Caso 08 (p = 8, m = 70, SNR = - 2 db) Fgura 5.9: Pc e Pse em função da relação snal/ruído (SNR) para o Caso 01 (p = 3, m = 30, n = 200) Fgura 5.10: Pc e Pse em função da relação snal/ruído (SNR) para o Caso 02 (p = 3, m = 30,n = 1000) Fgura 5.11: Pc e Pse em função da relação snal/ruído (SNR) para o Caso 03 (p = 3, m = 70, n = 200) Fgura 5.12: Pc e Pse em função da relação snal/ruído (SNR) para o Caso 04 (p = 3, m = 70, n = 1000) Fgura 5.13: Pc e Pse em função da relação snal/ruído (SNR) para o Caso 05 (p = 8, m = 30, n = 200) Fgura 5.14: Pc e Pse em função da relação snal/ruído (SNR) para o Caso 06 (p = 8, m = 30,n = 1000) Fgura 5.15: Pc e Pse em função da relação snal/ruído (SNR) para o Caso 07 (p = 8, m = 70, n = 200) Fgura 5.16: Pc e Pse em função da relação snal/ruído (SNR) para o Caso 08 (p = 8, m = 70, n = 1000) Fgura 5.17: Pc e Pse em função do número de fontes (p) para o Caso 01 (m = 30, n = 200, SNR = -10 db) Fgura 5.18: Pc e Pse em função do número de fontes (p) para o Caso 02 (m = 30, n = 200, SNR = -2 db) v

12 Fgura 5.19: Pc e Pse em função do número de fontes (p) para o Caso 03 (m = 30, n = 1000, SNR = -10 db) Fgura 5.20: Pc e Pse em função do número de fontes (p) para o Caso 04 (m = 30, n = 1000, SNR = -2 db) Fgura 5.21: Pc e Pse em função do número de fontes (p) para o Caso 05 (m = 70, n = 200, SNR = -10 db) Fgura 5.22: Pc e Pse em função do número de fontes (p) para o Caso 06 (m = 70, n = 200, SNR = -2 db) Fgura 5.23: Pc e Pse em função do número de fontes (p) para o Caso 07 (m = 70, n = 1000, SNR = -10 db) Fgura 5.24: Pc e Pse em função do número de fontes (p) para o Caso 08 (m =70, n = 1000, SNR = -2 db) Fgura 5.25: Pc e Pse em função do número de sensores (m) para o Caso 01 (p = 3, n = 200, SNR = -10 db) Fgura 5.26: Pc e Pse em função do número de sensores (m) para o Caso 02 (p = 3, n = 200, SNR = -2 db) Fgura 5.27: Pc e Pse em função do número de sensores (m) para o Caso 03 (p = 3, n = 1000, SNR = -10 db) Fgura 5.28: Pc e Pse em função do número de sensores (m) para o Caso 04 (p = 3, n = 1000, SNR = -2 db) Fgura 5.29: Pc e Pse em função do número de sensores (m) para o Caso 05 (p = 8, n = 200, SNR = -10 db) Fgura 5.30: Pc e Pse em função do número de sensores (m) para o Caso 06 (p = 8, n = 200, SNR = -2 db) Fgura 5.31: Pc e Pse em função do número de sensores (m) para o Caso 07 (p = 8, n = 1000, SNR = -10 db) Fgura 5.32: Pc e Pse em função do número de sensores (m) para o Caso 08 (p = 8, n = 1000, SNR = -2 db) x

13 LISTA DE TABELAS Tabela 1: Conjuntos de parâmetros utlzados na obtenção da Fgura Tabela 2: Conjuntos de parâmetros utlzados na obtenção das curvas de Pc e Pse em função do número de amostras do snal recebdo pelos senso- res (n) Tabela 3: Conjuntos de parâmetros utlzados na obtenção das curvas de Pc e Pse em função da relação snal/ruído do snal recebdo pelos senso- res (SNR) Tabela 4: Conjuntos de parâmetros utlzados na obtenção das curvas de Pc e Pse em função do número de fontes do snal recebdo pelos senso- res (p) Tabela 5: Conjuntos de parâmetros utlzados na obtenção das curvas de Pc e Pse em função do número de sensores (m) x

14 LISTA DE ABREVIATURAS E SIGLAS AIC AWGN BIC DoA FDP NB KL LRT MAP MDL NB RC RLRT RMT SNR Akake nformaton crteron Addtve whte Gaussan nose Bayesan nformaton crteron Drecton of arrval Função densdade probabldade Improved Norm based Crtéro de nformação de Kullback-Lebler Lkelhood rato test Máxmo a posteror Mnmum descrpton length Norm based Rádo cogntvo Roy s largest root test Random matrx theory Sgnal-to-nose rato x

15 LISTA DE SÍMBOLOS m n p Y X H V h j Número de sensores Número de amostras coletadas por cada sensor Número de fontes Matrz de amostras do snal recebdo Matrz de amostras do snal transmtdo Matrz de canal Matrz de ruído Gaussano Representação do ganho do canal entre transmssor j e sensor Varânca do ruído Gaussano I m N 2, Im Matrz dentdade de ordem m Varável aleatóra Gaussana de méda e varânca R ˆR Matrz de covarânca do snal recebdo Matrz de covarânca estmada do snal recebdo Conjugado transposto do argumento Valor esperado do argumento H Função entropa I Função nformação mútua D KL Dvergênca de Kullback-Lebler f () Função densdade de probabldade f ˆ() Função densdade de probabldade estmada x

16 θ ˆθ Π Ʃ H k P(H k ) Vetor de parâmetros do snal recebdo Vetor de parâmetros estmado do snal recebdo Produtóro Somatóro Hpótese para ordem do modelo k Probabldade a pror H k P( H k x) Probabldade a posteror da hpótese H k H 0 H 1 ˆp P c P se l (N) (N) Hpótese de nuldade Hpótese alternatva -ésmo autovalor Número de fontes estmadas Probabldade de detecção correta Probabldade de sobrestmação -ésmo autovalor normalzado -ésmo índce normalzado -ésmo autovalor normalzado e modfcado no método NB Expoente de encurvamento dos autovalores normalzados no método NB. Norma eucldana do argumento l u =. u tr Vetor cujos elementos são -ésmo autovalor normalzado e modfcado e -ésmo índce normalzado Norma de parâmetro u do argumento Traço da matrz x

17 RESUMO Florano, G. H. F. Estmação de número de fontes va norma 0,55. Santa Rta do Sapucaí: Insttuto Naconal de Telecomuncações, Em 2014, fo proposto um método empírco para realzar a estmatva do número de fontes do snal recebdo por múltplos sensores, denomnado algortmo baseado em norma (NB). Esse método é baseado na análse da norma Eucldana de vetores cujos elementos são os autovalores, normalzados e escalonados não lnearmente, da matrz de covarânca do snal recebdo e os correspondentes índces também normalzados. Essas normas são então utlzadas para dscrmnar os maores autovalores dos demas, permtndo assm a estmatva do número de fontes. Nesta dssertação propomos o algortmo baseado em norma melhorado (NB) o qual utlza a norma 0,55 para dscrmnar os maores autovalores. Dferentemente do algortmo NB, o NB não utlza o escalonamento não lnear e, também, não necessta da defnção de uma constante empírca para realzar a dscrmnação dos autovalores. Para avalar a efcáca dessa proposta (NB) comparamos seus resultados com os resultados obtdos utlzando estmadores baseados no crtéro de nformação de Akake (AIC), no método do comprmento de mínma descrção (MDL) e na teora de matrz aleatóra (RMT). Essas comparações mostram que o algortmo NB pode superar a performance de um ou mas desses estmadores em váras stuações e que o NB sempre supera o algortmo NB. Palavras-chave: Estmação do número de fontes, crtéro de nformação de Akake (AIC), método do comprmento de mínma descrção (MDL), teora da matrz aleatóra (RMT), método baseado em norma (NB). xv

18 ABSTRACT Florano, G. H. F. Estmatng the number of sources va 0,55 -Norm. Santa Rta do Sapucaí: Insttuto Naconal de Telecomuncações, In 2014, an emprcal method was proposed to estmate the number of sgnal sources beng mpnged by multple sensors, named norm-based algorthm (NB). Ths method s based on analyss of the Eucldean norm of vectors whose elements are the egenvalues, standardzed and scaled nonlnearly, from the receved sgnal covarance matrx and the also standardzed correspondng ndexes. These norms are then used to dscrmnate the largest egenvalues among all of them, allowng the estmaton of the number of sources. In ths dssertaton we propose the mproved norm-based algorthm (NB) whch uses the 0,55 -norm to dscrmnate the largest egenvalues. Unlke the NB algorthm, NB does not use the nonlnear scalng, and also does not requre the defnton of an emprcal constant to perform the dscrmnaton of the egenvalues. To evaluate the effectveness of ths proposal (NB) ther results were compared wth the results obtaned usng estmators based on Akake nformaton crteron (AIC), the method length mnmum descrpton (MLD) and random matrx theory (RMT). These comparsons show that NB algorthm can overcome the performance of one or more of these estmators n varous stuatons and that NB always exceeds the NB Algorthm. Keywords: Estmaton of the number of sources, Akake nformaton crteron (AIC), method of mnmum descrpton length (MDL), theory of random matrx (RMT), method norm-based (NB). xv

19 Capítulo 1 Introdução 1.1 Contextualzação A estmatva do número de fontes de snas que ncdem em um arranjo com város sensores é um problema fundamental na comuncação e no processamento dgtal de snas, tendo recebdo consderável atenção de mutos pesqusadores nas últmas décadas. Essa estmatva encontra aplcações em dversas áreas, entre as quas temos a medcna, a estatístca e as telecomuncações [1]-[8]. Na área de telecomuncações, contexto prncpal dessa dssertação, a estmatva do número de fontes de snas corresponde a estmar o número de transmssores cujos snas ncdem, em uma determnada faxa de frequêncas, em um arranjo de antenas (sensores) ou em um conjunto de receptores com antenas smples compondo um arranjo vrtual de antenas. Em sstemas de telecomuncações há váras aplcações para essa estmatva, dentre as quas podemos ctar: no sensoramento espectral em sstemas de rádo cogntvo (RC) [9], onde as antenas dos rádos cogntvos compõem o arranjo vrtual de antenas, a detecção do número de transmssores atvos na rede secundára é útl para computar a estatístca de teste que verfcará o estado de ocupação do espectro ou como dado adconal de entrada de um processo cogntvo mas amplo; 1

20 város algortmos que estmam a varânca de ruído térmco presente na entrada de um receptor necesstam conhecer o número de snas recebdos para realzar essa estmatva [3]; este também é o caso de város algortmos de estmação de dreção de chegada de snas em arranjos de antenas (DoA, drecton of arrval), onde o conhecmento do número de transmssores possblta que a estmatva produzda alcance maor precsão [10]; em sstemas de radar, a estmação do número de fontes pode auxlar no conhecmento do número de ecos de um snal refletdo por um alvo, permtndo que etapas posterores de processamento reduzam a nfluênca de tas ecos na caracterzação do alvo [2][11]. O desenvolvmento de métodos para a estmação do número de fontes, num prmero momento, teve sua fundamentação na teora da nformação. Em 1985, Mat Wax e Thomas Kalath publcam um artgo [2] no qual dscutem a aplcação dos crtéros de seleção de modelo na detecção do número de fontes. Nesse artgo fo proposta uma nova abordagem na aplcação do crtéro de nformação de Akake (AIC, Akake nformaton crteron) [12][13] e do crtéro de mínma descrção (MDL, mnmum descrpton length) [15][15], na qual não há necessdade da determnação subjetva de lmares para a determnação do número de fontes. Essa determnação passa a ser feta através da mnmzação do crtéro AIC ou do crtéro de MDL. Os métodos baseados nesses crtéros apresentam, como melhor característca, uma alta probabldade de detecção correta em regmes de baxa relação snal-ruído no caso do AIC, e a boa consstênca em regmes onde o snal recebdo apresenta um grande número de amostras no caso do MDL. Em 2009 fo proposta, para a detecção do número de fontes, outra abordagem baseada na teora de matrzes aleatóras (RMT, random matrx theory) [3] a qual utlza a dstrbução dos autovalores da matrz de covarânca do snal recebdo e do ruído assocado. O método baseado em RMT procura obter o que há de melhor nos métodos baseados em teora da nformação AIC e MDL ( alta probabldade de detecção correta e boa consstênca). Contudo, o RMT necessta de uma estmatva da varânca do snal de ruído para defnr um lmar de decsão no teste de hpóteses. 2

21 Na prátca a determnação dessa varânca pode representar um obstáculo a aplcação do método e a sua precsão obvamente nterfere no seu desempenho. Tantos nos métodos fundamentados na teora da nformação (AIC e MDL) quanto no método fundamentado na teora de matrzes aleatóras (RMT), a estmatva do número de fontes é realzada a partr da classfcação dos autovalores da matrz de covarânca do snal ncdente nos sensores. Essa classfcação objetva seleconar dentro do conjunto de autovalores um subconjunto cujo número de elementos corresponda ao número de snas recebdos e representa o maor desafo desses métodos. Em 2014 fo proposto em [16] um método empírco para a decteção do número de fontes, denomnado algortmo baseado em norma (NB), a partr de outra abordagem para a classfcação dos autovalores da matrz de covarânca. Nessa abordagem é realzada uma análse da norma Eucldana de um vetor que contém os autovalores, normalzados e escalonados não lnearmente, da matrz de covarânca do snal recebdo e de um vetor que contém os correpondentes índces desses autovalores, também normalzados. Essas normas são utlzadas para dscrmnar os maores autovalores dos demas e o número dos autovalores seleconados correponde a estmatva do número de fontes de snal. Assm como os métodos AIC, MDL e RMT, o NB necessta dos autovalores da matrz de covarânca, mas não requer o conhecmento a pror de nenhum parâmetro e nem a estmatva de nenhum outro. Contudo, o NB necessta da defnção de uma constante empírca para realzar o escalonoamento não lnear. Nessa dssertação propomos um novo algortmo, denomnado NB melhorado (NB), que vsa aumentar o desempenho do estmador baseado em norma (NB). O NB utlza a norma 0,55 para a classfcação dos autovalores e apresenta menor complexdade que o NB, uma vez que não utlza o escalonamento não lnear e não necessta da defnção de uma constante empírca. O NB, além de consstênca, apresenta desempenho superor ao dos estmadores AIC, MDL e RMT em váras stuações e sempre superor ao do alcançado pelo NB. 3

22 1.2 Formulação do problema Seja um arranjo composto por m sensores que podem ser antenas ou podem ser receptores, cada um deles com uma antena, compondo um arranjo vrtual de antenas. Cada um desses sensores coleta n amostras do snal recebdo de p transmssores (fontes), amostras essas que são armazenadas na matrz snal emtdo pelos p transmssores são organzadas na matrz representar o canal usaremos a matrz h j m Y n. Já as amostras do p X n. Para m H p, onde cada um dos seus elementos representa o ganho do canal entre o j-ésmo transmssor (fonte) e o -ésmo sensor (antena ou receptor), com j 1,2,, p e 1,2,, m. A Fgura 1.1 lustra o que acaba de ser descrto. Fgura 1.1: Representação de um arranjo com transmssores e receptores com ndcação dos ganhos do canal. Seja anda a matrz 2 Gaussano, com dstrbução N 0, I m m V n cujos elementos são amostras do ruído adtvo, onde I m é a matrz dentdade de ordem m. As amostras do ruído são ndependentes das amostras do snal. 4

23 A relação entre as matrzes das amostras do snal recebdo ( Y ), do snal emtdo ( X ), do ruído adtvo ( V ) e a matrz de ganho de canal ( H ) é dada por Y HX V. (1.1) A partr da matrz das amostras do snal recebdo ( Y ) pode-se determnar a sua correspondente matrz covarânca R pela estmatva de máxma verossmlhança dada pela méda amostral 1 R YY (1.2) n onde ndca o conjugado transposto. De acordo com [2], utlzando o operador esperança estatístca, podemos escrever R como R YY. (1.3) Substtundo (1.1) em (1.3) obtemos R HX V HX V HX V X H V HXX H HXV VX H VV. HXX H HXV VX H VV (1.4) Dentro do ntervalo de coleta das amostras do snal recebdo podemos consderar que o ganho do canal ( H ) é constante (desvanecmento lento) e que o ruído adtvo Gaussano ( V ) é ndependente do snal ( X ), e assm escrever 2 R H XX H H X V V X H I. (1.5) 5

24 Denotando por x R XX a matrz de covarânca do snal transmtdo e como o ruído tem méda nula ( V 0 ), podemos então conclur que a matrz de covarânca pode ser dada por x 2. R HR H I (1.6) Se a matrz do canal H é posto completo (full rank), ou seja, tem todas as suas colunas lnearmente ndependentes, então o posto (rank) da matrz x HR H será p, o que mplca que os m p menores autovalores de x HR H serão guas a zero. Como os autovalores de R são guas aos autovalores de HR H x somados os autovalores de 2 I, temos que os m p menores autovalores de R serão guas a 2. Assm, determnando-se a multplcdade ( m p ) dos menores autovalores da matrz de covarânca R, automatcamente estará determnado o número de fontes (p) do snal recebdo. No entanto, na prátca não podemos determnar a matrz de covarânca R. A alternatva é então obter sua estmatva R utlzando um conjunto fnto de n amostras do snal recebdo, conforme ndcado na equação (1.2). Essa estmatva da matrz de covarânca R possu autovalores dferentes entre s, com probabldade gual a 1. Nesse caso, por observação dreta, fca nvablzada a classfcação desses autovalores em dos grupos: um contendo os p maores autovalores e o outro com os m p menores autovalores. Consequentemente, em todos os métodos que estmam o número de fontes através dos autovalores da matrz R, o grande desafo está justamente em como classfcar esses autovalores nos dos grupos ctados anterormente e, assm, encontrar a estmatva confável para o número de fontes do snal recebdo. 1.3 Objetvos, Contrbuções e Estrutura da Dssertação Este trabalho tem como prncpal objetvo apresentar o método empírco de estmação do número fontes, que denomnamos NB (mproved norm-based), 6

25 baseado na classfcação dos autovalores da matrz de covarânca do snal recebdo em um arranjo de sensores. O NB é uma melhora do método baseado em norma (NB) [16]. Para realzar sua estmatva do número de fontes, o método NB utlza apenas os autovalores normalzados da matrz de covarânca do snal recebdo e os correspondentes índces normalzados, não requerendo outro parâmetro adconal. Isso confere ao NB uma smplcdade maor que outros baseados também em autovalores. O NB também apresenta performance sempre superor a do NB e, em mutos casos, superor a dos estmadores AIC, MDL e RMT. Assm sendo, a maor contrbução dessa pesqusa é oferecer esse novo estmador do número de fontes, que ala smplcdade e efcênca. Essa dssertação, além desse capítulo, apresenta no Capítulo 2 a fundamentação teórca dos métodos AIC e MDL que são baseados na Teora da Informação, e do método RMT que é baseado na Teora das Matrzes Aleatóras. No Capítulo 3 serão apresentados e dscutdos os estmadores baseados no crtéro de nformação de Akake (AIC), no método do comprmento de mínma descrção (MDL), na teora de matrz aleatóra (RMT) e, anda, o estmador baseado em norma (NB). No Capítulo 4 será apresentado o estmador baseado em norma melhorado (NB). No Capítulo 5 temos os resultados das smulações realzadas para comparar o desempenho do NB com o do AIC, do MDL, do RMT e do NB. Fnalmente, no Capítulo 6, são apresentadas as conclusões e as propostas para trabalhos futuros. As seguntes publcações foram geradas como resultado das pesqusas realzadas durante a elaboração dessa dssertação. D.A. Gumarães, G.H.F. Florano and R.A.A. de Souza, An Effcent and Smple Algorthm for Estmatng the Number of Sources va Norm. Internatonal Telecommuncatons Symposum, ITS2014, São Paulo, Brazl, Aug Publcado. D.A. GUIMARÃES, G.H.F. FLORIANO and L.S. CHAVES, A Tutoral on CVX System for Modelng and Solvng Convex Optmzaton Problems. Revsta IEEE Amérca Latna (IEEE Latn Amerca Transactons). Vol. 3, Issue 5, May 2015, pp Publcado. 7

26 Capítulo 2 Referencal Teórco Neste capítulo são apresentados os prncpas concetos que fundamentam os métodos de estmação do número de fontes a partr da matrz de covarânca do snal recebdo por múltplos sensores. São concetos orundos da Teora da Informação e da Teora de Matrzes Aleatóras, os quas serão dscutdos numa profunddade que entendemos ser a sufcente para o bom entendmento dos métodos de estmação, mas que certamente não abrange toda a ampltude dessas teoras. 2.1 Fundamentos da Teora da Informação A Teora da Informação, que também pode ser chamada de Teora da Comuncação, é a área do conhecmento humano que estuda o tratamento matemátco da nformação e a modelagem dos processos de comuncação. Especfcamente no ramo das telecomuncações a aplcação da Teora da Informação possblta, entre outras cosas, obter resultados que permtem melhorar a efcênca do processo de comuncação em estudo e, também, estabelecer lmtes para essa efcênca. O estudo moderno dessa teora tem como marco ncal a publcação em 1948 do artgo A Mathematcal Theory of Communcatons de Claude Shannon [17]. Nesse artgo Shannon defne como problema fundamental da comuncação o de reproduzr em um ponto, de forma exata ou aproxmada, a mensagem seleconada em 8

27 outro ponto. Também afrma que essas mensagens frequentemente têm sgnfcado, sto é, elas se referem a, ou estão correlaconadas de acordo com, algum sstema com certas entdades físcas ou concetuas. Contudo, estes aspectos semântcos da comuncação são rrelevantes para o problema de engenhara. Na engenhara, o mportante é consderar que a mensagem a ser comuncada é seleconada de um conjunto de possíves mensagens. Assm o sstema de comuncação deve ser concebdo para operar para cada seleção possível e não apenas para aquela que va ser escolhda, uma vez que essa é desconhecda no momento da sua concepção [17]. Se esse conjunto tem um número fnto de mensagens e se cada uma delas apresenta uma probabldade de ser seleconada, então a ncerteza quanto à nformação a ser recebda dmnu quando a mensagem é recebda. A quantfcação da redução da ncerteza está dretamente lgada à probabldade de ocorrênca da mensagem, ou seja, o recebmento de uma mensagem pouco provável provoca uma maor redução da ncerteza e, portanto, contém mas nformação que uma mensagem com alta probabldade de seleção. A partr dsso pode-se defnr a quantdade de nformação de uma mensagem com base na sua ncerteza ou dfculdade de seleção, conforme será dscutdo no próxmo tem. Para Shannon um sstema genérco de comuncação, esquematzado conforme mostra a Fgura 2.1, é consttuído por cnco componentes prncpas, a saber: 1ª) A fonte de nformação, onde é produzda a mensagem ou sequênca de mensagens a serem comuncadas ao receptor; 2ª) O transmssor ou codfcador, que opera de alguma forma sobre essa mensagem, transformando-a num snal adequado à transmssão através do canal; 3ª) O canal, que representa o meo físco utlzado para transmtr o snal e onde é adconado ao mesmo um ruído que rá alterá-lo; 4ª) O receptor, que realza a operação nversa a da realzada pelo transmssor, reconstrundo a mensagem a partr do snal recebdo; 5ª) O destno, que é a pessoa ou cosa a quem a mensagem se destna. 9

28 Fgura 2.1: Representação esquemátca de um sstema geral de comuncação. Nesse sstema genérco, a fonte de nformação produz as mensagens. O conjunto das palavras-códgo que possblta representar todas as mensagens possíves geradas por essa fonte consttu um códgo. O transmssor ou codfcador é o agente capaz de converter (mapear) a mensagem gerada pela fonte num snal composto por componentes do códgo e na forma adequada à transmssão através do canal. O snal fornecdo pelo transmssor receberá no canal a adção de ruídos, chegando ao receptor. O receptor é o agente capaz de decodfcar esse snal, ou seja, desfazer o mapeamento realzado pelo transmssor, entregando então a mensagem ao destno. Shannon também classfcou os sstemas de comuncação em três categoras: dscretos, contínuos e mstos. Por dscreto entende-se aquele onde tanto a mensagem quanto o snal podem ser representados por uma sequênca de símbolos dscretos. Um sstema de comuncação é consderado contínuo quando a mensagem e o snal são ambos representados por funções contínuas. Já um sstema é classfcado como msto se tanto varáves dscretas quanto contínuas são empregadas na sua representação. Shannon partu do estudo dos sstemas dscretos e usou esse caso como base para o estudo dos outros dos casos [17]. 10

29 2.2 A medda da nformação: Entropa Conforme fo menconado no tem anteror, Shannon defnu que a quantdade de nformação contda numa mensagem está dretamente relaconada à sua ncerteza ou dfculdade de prevsão. Assm, consderando essa mensagem gerada por uma fonte dscreta sem memóra, que pode ser modelada por uma varável aleatóra X, a quantdade de nformação nela contda depende das probabldades dos símbolos utlzados na sua composção: P( X x ) p,, P( X x ) p. Dessa forma, 1 1 quanto maor é a ncerteza contda numa mensagem, maor é a quantdade de nformação que ela transmte. Para quantfcar essa ncerteza Shannon propôs uma função das probabldades dos símbolos da fonte, que ndcou por H, ou seja, H X H p,, 1 pn, a qual atende as seguntes condções: I. H é uma função contínua das probabldades dos símbolos ( p ). N N II. Se a fonte apresenta símbolos equprováves, sto é, p 1 N ( 1,, N) então H é uma função monotônca crescente de N. Isso sgnfca que quanto maor é a quantdade de escolhas equprováves, maor é a ncerteza. III. Se X e Y são fontes ndependentes, a ncerteza conjunta dessas fontes será gual à soma das ncertezas ndvduas, ou seja,, H X Y H X H Y. IV. Se uma escolha pode ser dvdda em duas escolhas sucessvas, o H orgnal deve ser gual à soma ponderada dos valores ndvduas de H. Assm, por exemplo, consdere que os símbolos gerados por uma fonte sejam dvddos em dos grupos A e B. Assm, a probabldade da fonte gerar um símbolo do grupo A será pa p1 pk e a probabldade do símbolo gerado ser do grupo B será pb pk 1 pn, com N 3 e 1k N [18]. Assm, atendendo a le de Bayes, temos que 11

30 ,, 1 1 1, p,, p k pk,, p N H p pn H pa pb pah pbh pa pa pb pb (2.1) forma [17] Pode-se provar que a únca função que atende as condções anterores assume a N H p,, p K p log p 1, (2.2) N 1 onde K é uma constante arbtrára postva. Assumndo o valor untáro para essa constante temos 1 N H p,, p p log p p log N 1 1 p N 1. (2.3) Por analoga a uma função formalmente dêntca utlzada na físca estatístca, a função H também fo desgnada na teora da nformação como entropa. A entropa normalmente é expressa em bts/símbolo, quando utlzamos (2.3) com logartmo de base 2, ou em nats/símbolo, quando utlzamos (2.3) com logartmo de base e (logartmo natural). Qualquer que seja a fonte (X) tem-se que 0 H X log N. (2.4) Se todas as probabldades forem nulas com exceção de apenas uma que assume o valor untáro, sto é, 0 p e p 1 1,, N ; k k, temos a entropa mínma mn H X 0, o que faz sentdo já que nesse caso temos certeza acerca da mensagem emtda pela fonte e então a entropa (ncerteza) assocada a essa mensagem desaparece. Por outro lado se todos os símbolos emtdos pela fonte são equprováves, ou seja, se p 1 N ( 1,, N), a ncerteza acerca da mensagem será máxma, portanto a entropa nessa stuação é máxma e dada por N N max H X plog p log N log log log N 1 1 N N N N N. 1 12

31 Para lustrar o que acaba de ser exposto, seja uma fonte bnára sem memóra que produz um símbolo qualquer com probabldade p e o outro símbolo com probabldade 1- p. A entropa dessa fonte, em bts/símbolo, é dada por,1 log 1 log 1 H X H p p p p p p, (2.5) 2 2 onde o valor da entropa vara em função de p de acordo com a curva apresentada na Fgura 2.2. Fgura 2.2: Entropa (H) de uma fonte bnára sem memóra em função da probabldade (p) de um dos símbolos. Consderemos agora o caso em que temos duas varáves aleatóras: a varável X com N possbldades e a varável Y com M possbldades, e seja px, y a probabldade de ocorrênca conjunta, prmero de x e y em seguda. A entropa conjunta dessas varáves corresponde à entropa da varável aleatóra consttuída pelo par XY, e é dada por H X, Y px, ylog px, y. (2.6) x y Como H X px, ylog px, y e H Y p x, ylog p x, y x, y pode-se demonstrar que [17] y x, y x 13

32 0 H X, Y H X H Y, (2.7) ou seja, a entropa conjunta será sempre menor ou gual a soma das entropas ndvduas. A gualdade só ocorre quando as varáves X e Y são ndependentes, sto é, px, y px p y para todo para, xy. Anda para as varáves aleatóras X e Y pode-se calcular a entropa de X condconada a um valor específco de Y Y y da segunte manera ( )log H X Y y p x y p x y. (2.8) x Já a entropa de X condconada a todos os valores possíves de Y é obtda por ( ) H X Y p y H X Y y y y y p( y) p( x y)log p x y x x p( x, y)log p x y. (2.9) Pode-se então estabelecer a relação que é conhecda como le de Bayes para entropas que é dada por [18] H( X, Y) H( X ) H( Y X ) H( Y) H( X Y). (2.10) Como já vmos, se X e Y são varáves aleatóras ndependentes, temos que, H X Y H X H Y e nesse caso H( X Y) H( X ) e H( Y X ) H( Y), (2.11) sto é, a entropa condconal é gual a entropa não condconal. Manpulando a le de Bayes para entropas, dada em (2.10), podemos escrever a dferença entre a entropa de uma das varáves aleatóras com a sua entropa 14

33 condconada à outra varável, dferença essa que é denomnada Informação Mútua e denotada por I X; Y, conforme ndcado a segur I( X; Y) H( X ) H( X Y) H( Y) H( Y X ). (2.12) Em (2.10) temos H( X, Y) H( Y) H( X Y) H( X Y) H( X, Y) H( Y) que permte reescrever (2.12) como I( X; Y) H( X ) H( Y) H( X, Y). (2.13) Essa últma expressão ndca que a nformação mútua é uma medda da dependênca entre as varáves aleatóras X e Y. No caso em que essas varáves são ndependentes, não há dependênca entre elas e de acordo com (2.7), H X Y H X H Y, que em (2.13) nos leva a um valor nulo nformação mútua, ou seja, I( X; Y) A dvergênca de Kullback-Lebler Sejam duas funções de dstrbução de probabldade f ( x ) e f ( x ) defndas 1 2 sobre um mesmo alfabeto. A Dvergênca de Kullback-Lebler ( D ndcador da dssemelhança entre essas duas funções e é dada por x x KL ) é um f 1 DKL f1, f2 f1 xln x f, (2.14) 2 que pode ser entendda como a dferença entre a entropa de f ( ) 1 x com a entropa cruzada de f ( x ) e f ( x ), pos 1 2. (2.15), ln ln D f f f x f x f x f x KL x x Essa dvergênca é não smétrca, pos geralmente D f, f D f, f, KL 1 2 KL 2 1 portanto não pode ser consderada uma medda de dstânca entre as funções de probabldade. Pode-se demonstrar que [18], para qualquer par de funções f ( x ) e 1 f ( ) 2 x defndas sobre o alfabeto, a dvergênca de Kullback-Lebler é sempre não 15

34 negatva e com gualdade se e somente se f1( x) f2( x) para qualquer x, ou seja, KL 1 2 D f, f 0. (2.16) A partr de (2.12) e (2.15) pode-se mostrar que a nformação mútua entre duas varáves aleatóras X e Y é gual à dvergênca de Kullback-Lebler entre a sua função de probabldade conjunta f1 x, y e outra função probabldade f2, qual essas varáves aleatóras são ndependentes: f x, y f x f y, sto é x y na f1 x, y I( X ; Y) DKL f1, f2 f1 x, yln x y f2 x, y, (2.17) A desgualdade da nformação estabelece a não negatvdade da nformação mútua para quasquer varáves aleatóras X e Y, ou seja I( X; Y) 0, (2.18) na qual a gualdade só acontece se as varáves aleatóras X e Y são ndependentes. 2.4 O crtéro da máxma verossmlhança Proposto em 1912 por Ronald Aylmer Fsher, o crtéro da máxma verossmlhança ( maxmum lkelhood ) tornou-se uma mportante ferramenta da nferênca estatístca, sendo muto utlzado na estmatva dos parâmetros de um modelo estatístco. Faremos aqu uma breve explanação desse crtéro. Para tanto, seja uma varável aleatóra X que tem uma dstrbução dependente de um únco parâmetro, onde representa o espaço paramétrco [19]. Para um valor fxo x da varável, a função de verossmlhança f x; assoca a densdade cada um dos possíves valores de, ou seja, p x a 16

35 ; px f x. (2.19) Consderando que x x1,, x N é um vetor de observações de dmensão N, com função de densdade de probabldade conjunta p x, a função de verossmlhança de é f x; px X,, X varáves aleatóras. Sendo 1 N ndependentes e dentcamente dstrbuídas, essa função será dada por f N, (2.20) 1 x; px onde pode ser um escalar, um vetor ou uma matrz de parâmetros. O estmador de máxma verossmlhança de, que ndcaremos por, é o valor do espaço paramétrco que maxmza a função de verossmlhança (2.20), ou seja, ˆ arg max f x;. (2.21) Caso seja um escalar, o estmador de máxma verossmlhança ˆ pode ser obtdo através da solução, algébrca ou computaconal, da equação de verossmlhança dada por f x; 0. (2.22) Para garantr que a solução de (2.22) seja realmente um ponto de máxmo devemos ter, no ponto do estmador, a segunda dervada da função negatva, ou seja 2 f x; 0 2 ˆ. (2.23) No caso em que é um vetor ou uma matrz de parâmetros, devemos resolver a equação de verossmlhança (2.22) para cada um dos seus elementos, sto é 17

36 f x; k 0;,k. (2.24) Podemos verfcar as condções de segunda ordem a partr da matrz Hessana (H[f]) da função de verossmlhança, cujos elementos são dados por h 2 f x;. (2.25) f k k Para garantr que as soluções encontradas através de (2.24) sejam os correspondentes pontos de máxmo, a condção é que a matrz H f, (2.26) seja uma matrz negatva defnda. Para dmnur o esforço de cálculo (algébrco ou computaconal) exgdo na determnação do estmador de máxma verossmlhança, é comum trabalhar na escala logarítmca. Como o logartmo natural é estrtamente crescente, o valor de maxmza a função log verossmlhança ln ; função de verossmlhança f x; função log verossmlhança, temos que f x é o mesmo que maxmza a. Reescrevendo então a equação (2.21) para a ˆ argmaxln f x;. (2.27) No caso de nteresse desse trabalho, seja o vetor observado x uma varável aleatóra de dmensão m assocada a um snal recebdo em um nstante de tempo dscreto. Seja também um vetor de parâmetros desconhecdos, assocado a esse snal [2] [16] [19], γ é um vetor desconhecdo, µ(γ) uma função determnístca de γ e η o vetor que representa o ruído adtvo gaussano branco de méda zero e matrz de covarânca gual a 2 I. Assm podemos escrever x como 18

37 x ( γ) η, (2.28) e sua função verossmlhança como f 1 (2 ) ( ) ( γ) 2 x; e 2, (2.29) m/2 2 m/2 x 2 onde θ = γ. (2.30) 2 Assm, de acordo com (2.27) o vetor estmado por máxma verossmlhança ˆθ para o vetor de parâmetros é dado por θˆ arg max ln f x;. (2.31) θ A dmensão do vetor estmado ˆθ, denomnada ordem do modelo, está assocada ao número de fontes emssoras que compõe o snal recebdo pelo arranjo de sensores, cuja determnação é o nteresse desse trabalho [19]. 2.5 O crtéro de máxma a posteror Consdere o conjunto de hpóteses mutuamente excludentes H k K k 1, onde k representa a ordem do modelo em análse e K é um conhecdo lmte superor dessa ordem [16] [19]. Seja f x H a função densdade de probabldade (FDP) do vetor aleatóro x condconada à hpótese H k e hpótese. k k P H k a probabldade a pror dessa Se f x H e P H k são conhecdas podemos escrever a probabldade de k k P H condconada ao snal x como k 19

38 f k fk x Hk Pk Hk H k x. (2.32) P x Pelo crtéro de máxma a posteror (MAP) a ordem do modelo k é aquela que maxmza (2.32). Como o denomnador P x não depende de k, podemos escrever que o MAP é dado por max f H x max f x H P H. (2.33) k k k k k k k 1, K k 1, K Como geralmente as hpóteses { H k} k K 1 são a pror equprováves [19], o crtéro MAP pode ser reduzdo a max f H x max f x H. (2.34) k k k k k 1, K k 1, K É mportante observar que estmar a hpótese é equvalente estmar o vetor de parâmetros do modelo. Outro ponto mportante que deve ser ressaltado é a possbldade de se atrbur a essa estmatva uma probabldade de detecção correta P, obtda sobre todo o conjunto de todas as hpóteses possíves [19], sto é, c P P escolher H H correta escolher H H correta. (2.35) c 1 1 K K Pode-se demonstrar que o crtéro MAP maxmza P e, portanto, é um crtéro ótmo c para a estmatva de ordem do modelo [19]. Porém, sua aplcação dreta não é possível uma vez que a função densdade de probabldade do vetor observado sobre as hpóteses f x H não é conhecda. Uma possbldade, para contornar essa k k dfculdade da aplcação do crtéro MAP na detecção da ordem do modelo, é a adoção de uma FDP a pror para o vetor de parâmetros desconhecdo e ntegrar f x, θ H em relação a essa FDP para obter a FDP assocada a cada hpótese k f x H [16]. k k k 20

39 2.6 Aplcação da dvergênca de Kullback-Lebler (KL) A dvergênca de Kullback-Lebler (KL) pode ser aplcada no desenvolvmento de métodos para a estmação da ordem do modelo. Os métodos assm obtdos são conhecdos como métodos baseados na teora da nformação [19]. Para tanto, seja x o vetor de amostras aleatóras do snal recebdo, o vetor de parâmetros, f x, θ a FDP verdadera do vetor x e fˆ x, θ a FDP estmada para esse vetor. Assm, de acordo com (2.14) temos que a dvergênca de Kullback-Lebler entre essas FDP s é dada por ˆ f x, θ DKL[ f x, θ, f x, θ ] f x, θ ln dx, f ˆ (2.36) x, θ Essa dvergênca pode ser encarada como uma medda da perda de nformação provocada pela utlzação da FDP estmada em substtução a FDP verdadera. Podemos reescrever (2.36), utlzando o valor esperado E [.] f em relação à FDP verdadera f x, θ, da segunte forma ˆ f x, θ DKL[ f ( x, θ), f ( x, θ)] E f ln f ˆ x, θ E ln f x, θ E ln fˆ x, θ, f f (2.37) e podemos provar que D ˆ KL[ f x, θ, f x, θ ] é sempre não negatva, sendo nula apenas no caso de f x, θ fˆ x, θ [19]. A dvergênca de KL não pode ser aplcada dretamente para estmação da ordem do modelo já que f x, θ não é conhecda. Essa aplcação pode ser realzada através da utlzação de uma estmatva para a dvergênca de KL, que ndcaremos por Dˆ ˆ KL[ f x, θ, f x, θ ] em substtução da real dvergênca D [ f x, θ, fˆ x, θ ], escolhendo-se uma FDP estmada fˆ x, θ adequada ao KL modelo em análse. Assm, a estmatva da ordem do modelo será obtda pela mnmzação de Dˆ ˆ KL[ f x, θ, f x, θ ] que, conforme podemos observar através de (2.37), corresponde a maxmzar E ln ˆ f f x, θ, denomnada nformação relatva de Kullback-Lebler e ndcada por 21

40 I f, fˆ E ln fˆ( x, θ ). (2.38) KL f Uma possível escolha para f ˆ( x, θ ) é a função densdade obtda com parâmetros estmados f ( x, θ ˆ) que, uma vez substtuída em (2.38), fornece I f, f ( x, θˆ) E ln f ( x, θ ˆ). (2.39) KL f Como a FDP verdadera f ( x, θ ) não é conhecda, não é possível calcular I KL já que o valor esperado de ln f ( x, θˆ ) é tomado sobre essa FDP. A opção de utlzar o estmador não polarzado trval ln f ( x, θ ˆ) para o valor esperado não é razoável já que a ordem do modelo obtda através de sua maxmzação pode falhar completamente em alguns casos [19]. A melhor opção é aproxmar ln f ( x, θ ) pela expansão em sére de Taylor em torno de ˆθ. Utlzando essa aproxmação em (2.38), conforme detalhado em [19], obtemos como estmatva para ordem do modelo o valor de k que mnmza a expressão 2ln f( x, θ ˆ) k. (2.40) De acordo com Akake [12] a ordem do modelo obtda pela mnmzação de (2.40) normalmente é superestmada, já que uma redução de 2ln f ( x, θ ˆ) é pouco compensada pelo aumento de k. Ou seja, o termo k em (2.40) penalza a superestmação, e por sso é conhecdo por termo de correção, e é responsável por tornar não polarzada a estmatva da dvergênca de KL. Conforme dscutdo na seção 2.4, podemos obter uma estmatva máxma verossmlhança para o vetor de parâmetros desconhecdos ˆθ e então obter uma estmatva da FDP do snal por f ˆ ( x, θ) f( x, θ ˆ ) [16]. Como na estmação da ordem do modelo para a estmação do número de fontes, f ˆ( x, θ ), e consequentemente ln fˆ ( x, θ ), é função dos autovalores { 1 2 m } da matrz de covarânca do snal recebdo. No caso do ruído Gaussano, snas das fontes com dstrbução Gaussana e matrz de canal com posto máxmo (full rank), tal função de logverossmlhança é dada por [2] 22

41 m ˆ k 1 ln f ( x, θ ) nln. (2.41) m 1 m k k 1 m k Assm, a partr de (2.40) e (2.41) a estmatva para o número de fontes será o valor de k que mnmza a expressão m k 1 2 n ln termo de correção. (2.42) m 1 m k k 1 m k Nessa expressão (2.42) o número de parâmetros lvres é k(2m k)+1 e o termo de correção é função desse número [2]. Os métodos que utlzam (2.42) para estmar o número de fontes, conhecdos como métodos baseados na Teora da Informação, dferem entre s pela manera que estabelecem o termo de correção, ou seja, como penalzam a sobrestmação da ordem do modelo. 2.7 A teora das matrzes aleatóras (RMT) A teora das matrzes aleatóras (RMT) ganhou vsbldade na década de 1950 quando o físco Eugene Paul Wgner a utlzou no estudo do espalhamento de ressonâncas de partículas com núcleos pesados em reações nucleares lentas. Desde então essa teora progressvamente vem amplando seu campo de aplcação. Atualmente a RMT é utlzada, entre outros, em estudos que envolvem funções L e a hpótese de Remann, permutações aleatóras, teora das cordas, sstemas caótcos, ótca, fnanças, movmento Brownano, gravdade quântca. Nesse trabalho estamos nteressados na sua aplcação na teora da nformação, especfcamente, no problema da estmatva do número de fontes dos snas ncdentes num arranjo de sensores. Faremos a segur uma breve apresentação dos prncpas concetos envolvdos nessa aplcação. Para tanto, consderemos o problema da escolha entre as duas hpóteses seguntes [3] 23

42 H 0 : nenhum snal recebdo, H 1 : apenas um snal recebdo com varânca do ruído conhecda. De acordo com (1.6), podemos modelar essas hpóteses através das expressões H H 0 1 : R 2 I 2 2 : R HR H I dag(,0,...,0) I, x (2.43) sendo que em H 1 a matrz de covarânca do snal assume a forma de matrz dagonal [16]. Consdere que a varânca de ruído é conhecda a pror, dstrbução Gaussana com varânca 1, e o snal tem também conhecda a pror. Então, para qualquer número de sensores (m) e de amostras (n) haverá para cada hpótese apenas uma FDP para os autovalores da matrz de covarânca R e assm a seleção das hpóteses pode ser realzada de forma ótma aplcando o teste da razão das funções de verossmlhança (lkelhood rato test-lrt) também conhecdo por Lema de Neyman-Pearson. Através desse teste, com n e m fxo, podemos efetuar a dstnção entre H 0 e H 1 (2.43) apenas pela observação do máxmo autovalor da matrz de covarânca do snal recebdo, assm como é preconzado pelo teste de máxma raz de Roy (RLRT, Roy s largest root test) [3] [16]. De forma semelhante, consderando conhecda a pror da varânca do ruído e do snal recebdo, podemos aplcar esse teste para dstngur entre as duas hpóteses seguntes H H 0 1 : no mínmo k 1 snas presentes, : pelo menos k snas presentes. (2.44) A dstnção entre as hpóteses H 0 e H 1 em (2.44) deve ser baseada somente na observação do k-ésmo autovalor ( k ) da matrz de covarânca do snal recebdo. Essa observação de k corresponde a um teste de sgnfcânca, no qual cada autovalor da matrz de covarânca do snal é comparado com um lmar determnado 24

43 em função do nível de confdênca esperado sobre o resultado do teste, determnação essa ancorada nos elementos da RMT. Para tanto, consdere ˆR a estmatva da matrz de covarânca do snal recebdo (1.2) consderando apenas a presença do ruído. Para o lmte conjunto m, n, com n/m c 0, a dstrbução do máxmo autovalor da matrz aleatóra ˆR converge para a dstrbução de Tracy-Wdom F () s, sto é 2 1 nm, Pr s F ( s ), (2.45) nm, onde utlza-se = 1 caso as amostras de ruído sejam reas e = 2 caso elas sejam complexas. Já o parâmetro de centralzação n,m e o parâmetro de escala n,m dependem apenas dos valores de n e m [3]. Conhecda a varânca do ruído 2, através do teste de máxma raz de Roy (RLRT), a hpótese H 0 de ausênca de snal é rejetada se 2 1 n, m n, m s ( ), (2.46) onde é a probabldade assntótca de falso alarme, que representa o nível de confdênca esperado do resultado do teste, e s() é o lmar obtdo através da nversão da expressão da dstrbução de Tracy-Wdom dada a segur F s ( ) 1. (2.47) Uma vez que não exste uma expressão fechada para essa dstrbução, s() pode ser calculada pela nversão numérca de (2.47), utlzando o pacote de rotnas em Matlab dsponíves para download em [21]. Fnalmente, é mportante regstrar todo o desenvolvmento que acabamos de apresentar está baseado no comportamento assntótco da dstrbução da matrz de covarânca do snal recebdo, ou seja, quando m, n, com n/m c 0. Contudo, também podemos obter bons resultados nos casos nos quas m e n apresentam valores fntos, desde que mn(m, n) 1 e que a razão m/n ou n/m não seja elevada [3]. 25

44 Capítulo 3 Estmadores do Número de Fontes Nesse capítulo apresentamos uma breve dscussão sobre quatro estmadores do número de fontes do snal recebdo por múltplos sensores. Os dos prmeros são fundamentados na teora da nformação e bem conhecdos: o AIC e o MDL. O tercero, que apesar de ser mas recente que os dos prmeros também já é bem dfunddo, é fundamentado na teora de matrzes aleatóras: o RMT. O quarto é o estmador baseado em norma dos autovalores da matrz de covarânca: o NB, que fo apresentado em 2014 por [16]. É justamente no estmador NB que está fundamentado o estmador proposto nessa dssertação: o NB, o qual será apresentado no próxmo capítulo. Faremos aqu apenas algumas observações geras sobre o desempenho desses estmadores. Uma avalação mas completa e fundamentada desse desempenho será apresentada no Capítulo O estmador baseado no Crtéro de nformação de Akake Para estmar a ordem do modelo, em 1973 Akake propôs o Crtéro de Informação Akake (AIC, Akake nformaton crteron) [12][13]. Esse crtéro é amplamente aceto e utlzado prncpalmente pela sua smplcdade. Conforme apresentado na seção 2.6, o AIC basea-se na mnmzação da dvergênca de Kullback-Lebler (KL), utlzando como termo de correção (penalzação) em (2.42) o dobro do número de parâmetros lvres. Então, a estmatva pelo AIC do número de fontes ( ˆp ) será o valor de k que mnmza, para k = 0, 1,..., m 1, a expressão AIC(k) dada por 26

45 m k AIC( k) 2nln 2 k(2 m k ). 1 m 1 m k k 1 m k (3.1) É mportante destacar que o estmador AIC tem como característca ntrínseca o fato de não ser consstente, sto é, nunca alcança uma probabldade de detecção correta untára (P c = 1), apresentando sempre uma probabldade não nula de sobrestmação (P se ). Para altos valores da relação SNR do snal recebdo temos que a probabldade de sobrestmação tende a ser o complementar da probabldade de detecção correta, ou seja, P se (1 P c ), sso porque quando o estmador AIC erra, esse erro vem de uma estmação do número de fontes maor que o real ( ˆp p). Já para baxos valores de SNR geralmente ocorre o oposto, ou seja, na maora das vezes o erro ocorrdo é de subestmação [16]. 3.2 O estmador baseado no comprmento de mínma descrção Em 1978 Schwarz apresentou seu crtéro de nformação para a avalação de modelos. Para prová-lo, Schwarz utlzou um argumento Bayesano e, por sso, seu crtéro fcou mas conhecdo como Crtéro de nformação Bayesano (BIC, Bayesan nformaton crteron) [16]. Assm como o AIC, o BIC se fundamenta na mnmzação da dvergênca de KL. Para tanto o BIC utlza uma FDP a pror do parâmetro a ser estmado, f ( θ ). Isso é o mesmo que ocorre no crtéro MAP com as probabldades a pror das hpóteses, conforme apresentado na seção 2.5 do capítulo anteror. A FDP f ( θ ) é utlzada uma vez que no BIC é adotada uma aproxmação um pouco dferente da adotada no AIC na aproxmação da FDP desconhecda do modelo em torno do vetor de parâmetros estmados [16]. No desenvolvmento matemátco do BIC o teorema de Bayes é empregado para relaconar as probabldades a pror e a posteror, de forma smlar ao MAP. 27

46 Esse desenvolvmento leva a uma expressão smlar a (2.42), com termo de correção formado a partr do número de parâmetros lvres e de um fator ln n. Assm, a estmatva do número de fontes ( ˆp ) será, para k = 0, 1,..., m 1, o valor de k que mnmza a expressão BIC(k) dada por m k BIC( k) 2 n ln k(2 m k)ln n. 1 m 1 m k k 1 m k (3.2) Já o estmador baseado no crtéro do comprmento de mínma descrção (MDL, mnmum descrpton length) fo desenvolvdo em 1978 de forma paralela e ndependente por Schwarz [14] e Rssanen [15]. Schwarz realzou esse desenvolvmento através da uma abordagem Bayesana, análoga à utlzada por ele no desenvolvmento do BIC. Já o desenvolvmento feto por Rssanen se fundamentou na compressão da nformação, uma vez que ele consderou que cada modelo em seleção corresponde a uma forma de codfcação de fonte dos dados observados. Nesse prsma, o melhor modelo é aquele que mas comprme tas dados, ou seja, é aquele que mnmza o comprmento médo do códgo e, por sso, fcou conhecdo como crtéro do comprmento de mínma descrção (MDL). Tanto Schwarz como Rssanen obtveram um mesmo estmador MDL, apesar de utlzarem abordagens dferentes no desenvolvmento matemátco. Outro ponto mportante é que se esse desenvolvmento for realzado consderando um número fxo de parâmetros estmados então o estmador MDL é equvalente ao BIC [20]. Como sso é o que ocorre no contexto da estmatva do número de fontes, na avalação de desempenho no Capítulo 5 só utlzaremos o MDL. Assm, a estmatva do número de fontes ( ˆp ) será, para k = 0, 1,..., m 1, o valor de k que mnmza a expressão MDL(k) dada por 28

47 m k MDL( k) 2 n ln k(2 m k)ln n. 1 m 1 m k k 1 m k (3.3) Dferentemente do AIC, o estmador MDL é consstente, sto é, a probabldade de detecção correta pode ser gual untára ( P c = 1 ) dependendo das condções. Outra característca nteressante do MDL é que a probabldade de sobrestmação é sempre gual a zero ( P se = 0 ). Quando ocorre erro no MDL ele é de subestmação, ou seja, o número de fontes estmado é menor que o número correto. 3.3 O estmador baseado na teora de matrzes aleatóras Em 2009, Krtchman e Nadler apresentam um algortmo, baseado na teora de matrzes aleatóras (RMT), para um estmador do número de fontes de snal. Esse algortmo realza uma sequênca de testes de hpóteses, sendo que a cada teste é verfcada a sgnfcânca do k-ésmo autovalor da matrz de covarânca do snal recebdo pelos m sensores [3], conforme fo apresentado na seção 2.7 do capítulo anteror. se Nesse teste, para k = 1, 2,..., mn(m, n) 1, a hpótese H 0 de (2.44) é rejetada k 2 ˆ ( kc ) ( ), (3.4) n, m, k onde 2 ˆ ( k ) é a estmatva da varânca de ruído a cada passo e C,, ( ) é o n m k parâmetro que depende do nível de confdênca ( 1) determnado pelo usuáro. Esse parâmetro pode ser obtdo por C ( ) s ( ) (3.5) n, m, k n, m k n, m k com s() obtdo conforme (2.47) [3]. 29

48 No teste de hpóteses (2.44), se somente k 1 snas estão presentes e o k- ésmo autovalor é devdo ao ruído, então k Cn, m, k 0 Pr rejetar H H Pr ( ) H. (3.6) Assm corresponde ao valor aproxmado da probabldade de sobrestmação assntótca (n ) da estmação do número de fontes pelo método RMT, e o número de fontes estmado é obtdo por ˆ 2 p arg mn k ˆ ( k) C n, m, k ( ) 1. (3.7) k Observa-se que a utlzação da expressão anteror depende de uma estmatva da varânca do ruído, método para a estmação da varânca 2 ˆ ( k ). Krtchman e Nadler também apresentam em [3] um 2 ˆ ( k ). 3.4 O estmador baseado em norma Em 2014 fo proposto em [16] um estmador empírco do número de fontes do snal que ncde num arranjo de sensores. Esse estmador fo desenvolvdo baseado nas normas dos vetores assocados aos autovalores da matrz de covarânca desse snal ( ˆR ) e, por sso, fo denomnado por estmador baseado em norma (NB - Normbased). Sua concepção partu da observação das curvas determnadas pelos autovalores da matrz de covarânca, observação essa que permtu constatar a ocorrênca de pontos de nflexão justamente na transção entre os prmeros p autovalores e os m p restantes, exceto no caso onde temos p = 0 [16]. No algortmo proposto para o estmador NB, prmeramente os autovalores da matrz de covarânca são colocados em ordem decrescente de valor, obtendo a sequênca,,. A partr dessa ordenação esses autovalores são normalzados 1 m de modo a assumrem valores no ntervalo [0,1], de acordo com a expressão 30

49 l 1,, m. (3.8) 1 m m Os valores dos ndces desses autovalores também são normalzados da segunte forma N 1 1,, m m 1. (3.9) Os autovalores normalzados {} l são adconalmente modfcados por uma operação não lnear, expressa por N E 1 (1 l ) 1,, m. (3.10) O papel desta operação não lnear é arquear a curva dos autovalores. O controle desse arqueamento é realzado através do expoente E. Para lustrar, consderemos o caso no qual o número de sensores é m = 30, o número de fontes é p = 0 e o número de amostras é n = A Fgura 3.1 apresenta os autovalores normalzados {} l desse caso e os seus respectvos autovalores normalzados e escalados N, calculados a partr da expressão (3.10) para os expoentes E = 2, E = 4 e E = 6, todos em função dos índces normalzados { } conforme (3.9). N Uma vez que p = 0, os autovalores tendem a ser guas. Assm, quando n cresce, a curva de {} l tende a tornar-se uma lnha reta. O efeto da modfcação realzada por (3.10) é uma obter uma flexão desta curva de acordo com o valor atrbuído para o expoente E. Para E = 2 e com um grande número de amostras (n), a curva que representa E > 2 as curvas de N tende a um arco de crcunferênca de rao untáro. Para N flexonam mas e se dstrbuem acma do arco de rao untáro. Se consderarmos o vetor N N T [ ], através da Fgura 3.1 podemos constatar que para E > 2 temos ( 1), onde representa a norma 1 Eucldana de. 31

50 Fgura 3.1: Gráfco dos autovalores e índces normalzados para p = 0, m = 30 e n=5000. Conforme ndcado em [16], a escolha do expoente de flexão E utlzado em (3.10) pode ser realzada a partr de smulações, buscando o valor que maxmza a probabldade de detecção correta (Pc), que é a probabldade de estmar corretamente o número de fontes, para um conjunto específco de parâmetros do sstema. Em um cenáro de maor relevânca prátca, E pode ser encontrado como o valor que maxmza o valor médo de Pc ao longo de város conjuntos de parâmetros. Isso fo feto em [16] através de smulações que combnaram os seguntes conjuntos de parâmetros: m {10, 15, 20, 50} ; n {50, 100, 1000} ; SNR { 5 db, 0 db, 8 db, 10 db}; p { 2, 5, 10, 15}. A partr dos resultados dessas smulações o expoente ótmo encontrado fo E = 5. 32

51 Já para p > 0, os m p menores autovalores de ˆR tendem a ser a varânca do ruído e sso torna evdente o ponto de nflexão da curva na transção da regão dos p maores autovalores e dos m - p menores autovalores. Isto tende a tornar ( p 1), o que permte então utlzar a norma para estmar o p 1 número de fontes. Esse é o fundamento prncpal do algortmo NB. No entanto, nos casos em que o número de fontes é pequeno, a localzação dessa nflexão pode ocorrer mas para a esquerda e sso acarretará numa maor probabldade de termos para > p + 1. Para contornar esse problema p 1 devemos tomar do conjunto de vetores apenas um subconjunto com K vetores para realzar a pesqusa que determna a menor norma eucldana. A Fgura 3.2 lustra essa heurístca para um subconjunto com K = 15 para p = 0 e p = 5, assumndo m = 30, n = 5000 e E = 5. Fgura 3.2: Autovalores e índces normalzados segundo o algortmo NB. 33

52 Observe que a utlzaçao de um subconjunto com K < m, é equvalente a empurrar o ponto de nflexão das curvas para a dreta, reduzndo o possbldade de sobrestmar do número de fontes. Se o número de fontes aumenta, todo o conjunto com K = m do vetor é utlzado. Na Fgura 3.2 temos também um exemplo dsso para o caso p = 15. A necessdade de determnar o melhor valor de K é o prncpal nconvenente do algortmo NB, uma vez que é nfluencada pelo número máxmo de fontes esperado, uma nformação que é não é conhecda à pror na maora das aplcações. A segur apresentamos o algortmo orgnal do estmador NB [16]. Algortmo 1 Algortmo NB for 1 m do Calcule l 1 m m Calcule N m 1 1 N Calcule 1 (1 l ) end for Do K m /2 E for j 1 K do Calcule j N j K 1 1 T end for Calcule pˆ arg mn 1 j j 2 34

53 Capítulo 4 Estmador Empírco Baseado em Norma Melhorado (NB) Neste capítulo propomos um novo estmador empírco do número de fontes dos snas recebdos por múltplos sensores. Esse novo estmador é uma melhora do estmador baseado em norma (NB) dscutdo na seção 3.4 e, por esta razão, vamos chama-lo de Estmador Baseado em Norma Melhorado (NB - mproved Normbased). Conforme dscutdo na seção 3.4, o maor ncovnente apresentado pelo estmador NB é a necessdade de determnar a quanddade K de vetores do conjunto que serão utlzados. No entanto, uma análse mas atenta da expressão (3.10) nos permte nterpretar o escalonamento não lnear dos autovalores como uma alteração ou dstorção na dstânca espacal dos autovalores normalzados em relação a orgem, tanto é que a norma eucldana é calculada na sequênca. Intutvamente, podemos dzer que sso é bastante razoável. Contudo, podemos analsar essa questão sobre outra perspectva, qual seja, a de manter nalterada a dstânca espacal dos autovalores normalzados e alterar apenas a métrca dessa dstânca. Esta outra perspectva para o problema em questão está dretamente relaconada com a nterpretação da norma genérca l u de um vetor. Recordando, a norma l u de um vetor x d-dmensonal, a qual é geralmente ndcada por x u, é defndo por: 1 u u u u 1 2 x u x x x d. (4.1) A fm de lustrar como funcona o racocíno advndo dessa nova perpectva, apresentamos na Fgura 4.1, para o caso no qual temos ausênca de fontes (p = 0), o comportamento assntótco dealzado dos autovalores da matrz de covarânca l 35

54 normalzado conforme (3.8) e os correspondentes modfcados N conforme N (3.10), com E = 5, ambos em função dos índces também normalzados segundo (3.9). Fgura 4.1: Comportamento assntótco dealzado dos autovalores normalzados e dos correspondentes modfcados, em função dos índces normalzados, para p = 0. A Fgura 4.2 apresenta a curva obtda pelas normas l 0,83 de todos os autovalores normalzados{ l } e a curva obtda pela norma Eucldana (norma l 2 ) de todos os autovalores modfcados (N), ambas em função dos índces () e consderando p = 0. Através dela é possível ver o efeto provocado pelo escalonamento não lnear (3.10) sobre a norma eucldana dos autovalores normalzados (N), e compará-lo com o efeto da medção da norma de cada {} l 36

55 através da norma l 0,83 (o valor de 0,83 fo escolhdo para manter as duas normas dentro de uma mesma faxa). Fgura 4.2: Norma l 0,83 para os { l } e a norma Eucldana (norma l 2 ) para todos os p = 0. (N) para Podemos comprovar pela Fgura 4.2 que em ambos os casos, norma l 2 e norma l 0,83, temos um tpo de dstorção na dstânca espacal dos autovalores normalzados. No entanto, pode-se também comprovar que tas dstorções têm comportamentos dstntos, e é sso que justfca a dferença de desempenho entre o NB e o algortmo NB, como será mostrado no próxmo capítulo. O NB opera com { l } e utlza a norma lu com um valor de u que otmza seu desempenho, enquanto que o NB opera com (N) e utlza a norma eucldana (norma l 2 ) e um valor de E que otmza seu desempenho. 37

56 Além dsso, o algortmo de NB também exge a escolha empírca do parâmetro K, o que não exste no algortmo NB. No NB, todo os m autovalores normalzados são consderados na busca pela norma mínma. As Fguras 4.3 e 4.4 mostram os mesmos parâmetros mostrados nas Fguras 4.1 e 4.2, mas agora para p = 10. Estas fguras lustram o efeto da utlzação da norma l 0,83 em uma stuação em que é evdente a falha do algortmo NB. Observe na Fgura 4.3 que o ponto de nflexão é vsível nos autovalores normalzados { l }, o que é não perceptível na curva dos autovalores normalzados e escalonados (N). Se utlzarmos a norma eucldana mínma dos autovalores normalzados { l } para estmar o número de fontes, obteremos uma estmatva para o número de fonte ( ˆp ) em torno de 13, o que é ncorreto. Fgura 4.3: Comportamento assntótco dealzado dos autovalores normalzados e dos autovalores modfcados em função dos índces normalzados para p =

57 Na Fgura 4.4 pode-se observar que a norma mínma l 0,83 de fato ndca como estmatva ˆp = 10, o que está correto. Por outro lado, a norma eucldana mínma que é adotada pelo algortmo NB na estmatva do número de fonte, ndca um valor dferente de 10 ( ˆp 10), ou seja, o algortmo NB falhara na estmatva do número de fontes numa stuação semelhante à lustrada nessas fguras. Fgura 4.4: Norma l 0,83 para os {} l e a norma Eucldana (norma l 2 ) para todos os caso de p = 10. (N) no Para determnar o melhor valor para o parâmetro u da norma usada para dscrmnar os autovalores no NB, foram realzadas dversas smulações nas quas fo calculada a probabldade de detecção correta (Pc) em função de u para váras combnações dos parâmetros m, n, p e SNR. A Tabela 4.1 lsta 8 dessas combnações, enquanto que a Fgura 4.5 apresenta as correpondentes curvas de probabldade de detecção correta (Pc) como uma função do valor de u da norma, para valores de u pertencentes ao ntervalo [0,1 ; 3] com passo de 0,05. Nessa fgura 39

58 também apresentamos a curva da probabldade de detecção correta méda (Pc méda) de todos os oto casos. Tabela 1: Conjuntos de parâmetros utlzados na obtenção das curvas da Fgura 4.5. Curva m n p SNR [db] Fgura 4.5: Probabldade detecção correta em função do parâmetro u da norma para város conjuntos de parâmetros. 40