MODELAGEM COMPUTACIONAL DE DADOS ESTOCÁSTICOS DE SÉRIE TEMPORAL MULTIVARIÁVEL NO ESPAÇO DE ESTADO PELO MÉTODO DE AKAIKE: ANÁLISE E APLICAÇÃO

Transcrição

1 MODELAGEM COMPUTACIONAL DE DADOS ESTOCÁSTICOS DE SÉRIE TEMPORAL MULTIVARIÁVEL NO ESPAÇO DE ESTADO PELO MÉTODO DE AKAIKE: ANÁLISE E APLICAÇÃO MARLENY A CHARAGUA JAVIER ANGIE J FORERO CELSO P BOTTURA DSIF-FEEC-UNICAMP, Av Albert Einstein - 4, Cidade Universitária Zeferino Vaz Distrito Barão Geraldo Campinas, SP, , Brasil maralichaja@gmailcom,angiejforero@gmailcom,bottura@dmcsifeeunicampbr Abstract The state-space realization theory of dynamical systems developed by Kalman received important contributions to the stochastic case of Faurre and Akaike In this paper first we present some aspects of the theory of stochastic realization by Akaike Then we present the method due to Akaike implemented in MATLAB and apply it to the computational modeling of stochastic data of multivariate time séries At the end we analyze the results Keywords Data modeling, Stochastic Realization, Akaike, Multivariate Time Series Resumo A teoria da realização no espaço de estado de sistemas dinâmicos desenvolvida por Kalman recebeu importantes contribuições para o caso estocástico de Faurre e de Akaike Neste trabalho primeiramente tratamos de alguns aspectos da teoria de realização estocástica de Akaike Em seguida apresentamos o método de Akaike implementado em MATLAB e o aplicamos na modelagem computacional de dados estocásticos de séries temporais multivariadas Para finalizar fazemos uma análise dos resultados obtidos Palavras-chave Modelagem de dados, Realização Estocástica, Akaike, Séries Temporais Multivariádas Introdução A série temporal multivariada estocástica constitui um processo estocástico vetorial, e os modelos dessas séries podem ser descritos no espaço de estado A modelagem computacional de dados de séries temporais tem sido abordada por diversas áreas de estudo, devido à grande importância de encontrar modelos matemáticos que possam descrever o comportamento dinâmico da série temporal Alguns trabalhos relacionados com a modelagem de séries temporais e a identificação de sistemas multivariáveis no espaço de estado desenvolvidos no Laboratorio de Controle e Sistemas Inteligentes -LCSI- UNICAMP podem ser vistos em Torrico Cáceres (2), Clavijo (28), Tamariz (2), Barreto (22), Giesbrecht (23), Tobar (23), Alegria (2), Serra (2) A teoria da realização estocástica de Akaike (974) está baseada na teoria da realização de sistemas lineares desenvolvida por Kalman (963), no algoritmo de realização determinística de Ho e Kalman (966) e no algoritmo de realização estocástica de Faurre (976) O método proposto por Akaike trata o problema da realização estocástica com uma abordagem geométrica, onde a partir dos dados da série temporal são gerados os espaços preditores do futuro e do passado Aplicando a análise de correlação canônica aos espaços preditores são obtidos os vetores base ortonormais, os quais são usados como vetores de estado na representação Markoviana, ver Akaike (97) Neste artigo apresentamos de forma breve, o problema da realização estocástica, o modelo no espaço de estado na forma inovativa Kalman (96), a construção das matrizes de Hankel e Toeplitz a partir das covariâncias do futuro e do passado da série temporal; depois mostra-se a abordagem geométrica de Akaike Nela, de forma especial, definimos os espaços preditores, os vetores base x e x, bem como apresentamos o cálculo associado à análise de correlação canônica entre o futuro e o passado da série temporal pela decomposição em valores singulares da matriz de Hankel e a solução aproximada da equação algébrica de Ricatti Em seguida é calculada a tripla (A, C, K) do modelo inovativo Finalmente o algoritmo apresentado é aplicado em dois exemplos de séries temporais multivariadas 2 O Problema de Realização Estocástica Dada uma série temporal y(t) para t =, ±, com média zero e matriz de covariância descrita por: Λ(l) = E{y(t + l)y T (t)}, l = ±, () onde E{ } é o operador esperança matemática, o problema da realização estocástica é encontrar um modelo Markoviano no espaço de estado com a forma inovativa, a partir das matrizes de covariância () da saída y(t): x(t + ) = Ax(t) + Ke(t) y(t) = Cx(t) + e(t) (2) onde x(t) R n é o vetor de estado, K R n p é o ganho de Kalman, A R n n e C R p n são

2 as matrizes do sistema, e e(t) R p é o processo de inovação, expresso como um ruido branco com media zero e matriz de covariância: = E{e(t)e T (t)} (3) Para o modelo descrito em (2), definimos a matriz de observabilidade estendida dada por: [ ( O = C T A T C ) ] T A T 2 C T (4) e a matriz de controlabilidade estendida dada por: onde C = [ CT A C T A 2 CT ] C T = E{x(t + )y(t) T } () A matriz de Hankel é calculada com as matrizes de observabilidade e controlabilidade estendidas, da seguinte forma: H = OC (6) A partir dos dados da série temporal y(t), definem-se os vetores do futuro e do passado como: y(t) y(t ) f(t) := y(t + ), p(t) := y(t 2) A matriz de Hankel de covariância é calculada a partir da matriz de covariância cruzada do futuro e do passado, da forma: Λ() Λ(2) Λ(3) H = E{f(t)p T Λ(2) Λ(3) Λ(4) (t)} = Λ(3) Λ(4) Λ() (7) A matriz de covariância do futuro é definida como a matriz de Toeplitz do futuro, da forma: T + = E{f(t)f T (t)} Λ() Λ T () Λ T (2) Λ() Λ() Λ T () = Λ(2) Λ() Λ() (8) e a matriz de covariância do passado é definida como a matriz de Toeplitz do passado, da forma: T = E{p(t)p T (t)} Λ() Λ() Λ(2) Λ T () Λ() Λ() = Λ T (2) Λ T () Λ() (9) 3 Modelagem Computacional Estocástica pelo Método de Akaike Neste trabalho o problema de modelagem computacional de dados estocásticos de série temporal multivariada é abordado pela teoria da realização estocástica baseada em correlações canônicas proposta por Akaike (974), Akaike (976) Nesta teoria, a partir de y(t) é gerado o espaço Y t definido por: Y t = span{y(t), t =, ±, 2, } onde span{ } representa o espaço fechado de Hilbert gerado pelos elementos infinitos { } O espaço Y t é dividido nos subespaços do futuro Y t + e do passado Yt, dados por: Y + t = span{y(t), y(t + ), }, Y t = span{y(t ), y(t 2), } A estimativa de variância minima do futuro baseado no passado ŷ f p é calculada mediante a projeção ortogonal do futuro f(t) sobre o subespaço do passado Y t, como é mostrado na figura Y t f(t) ŷ f p Figura : Projeção ortogonal do futuro no passado Assim a equação da estimativa de variância minima do futuro baseado no passado é dada por: ŷ f p = Ê{f(t) Y t } () onde Ê{ } representa o operador projeção ortogonal Da mesma forma, a estimativa de variância minima do passado baseada no futuro ŷ p f é calculada mediante a projeção ortogonal do passado p(t) sobre o subespaço do futuro Y t +, como é mostrado na figura 2 A equação da estimativa de variância minima do passado baseado no futuro é dada por: y p f = Ê{p(t) Y+ t } () Com as estimativas de variância minima de () e () são gerados o espaço preditor do futuro

3 Y + t p(t) ŷ p f Figura 2: Projeção ortogonal do passado no futuro ˆX + t e do passado X t, como segue: ˆX + t := Ê{Y+ t Y t } = span{ŷ f p (t + h) h =,, } X t := Ê{Y t Y + t } = span{ y p f (t l) l =, 2, } (2) (3) Obtendo os vetores base ortonormais dos espaços preditores do futuro e do passado temos uma representação no espaço de estado do sistema estocástico Estes vetores base são chamados vetores de estado do futuro ˆx(t) e do passado x(t) A caracterização especifica da estrutura do vetor de estado define a representação canônica de um sistema linear estocástico; esta representação canônica é obtida escolhendo o vetor de estado como o primeiro conjunto máximo de elementos linearmente independentes entre as estimativas de variância minima Devido a que as matrizes de covariância de estado do futuro ˆx(t) e do passado x(t) são iguais à matriz de correlação canônica Σ, E{ˆx(t)ˆx(t) T } = E{ x(t) x(t) T } = Σ, pode-se usar qualquer um dos vetores de estado ˆx(t) ou x(t) indiferentemente, ver Katayama (2) Neste trabalho será usado o vetor de estado do futuro ˆx(t) e será denotado como x(t) no modelo de Markov apresentado em (2) 3 Algoritmo Com os dados da série temporal y(t), construímos as matrizes do passado Y p R kp N e do futuro Y f R kp N, da forma: y(k ) y(k) y(n + k 2) y(k 2) y(k ) y(n + k 3) Y p := y() y() y(n ) y(k) y(k + ) y(k + N ) Y f := y(k + ) y(k + 2) y(k + N) y(2k ) y(2k) y(n + 2k 2) onde p é o numero de saídas, N o numero de amostras da serie temporal e k é o numero de linhas das matrizes bloco do futuro Y f e do passado Y p ; k é escolhido com a condição k n Com as matrizes do passado Y p e do futuro Y f obtemos as matrizes de covariâncias Σ ff, Σ pp e as matrizes de covariâncias cruzadas Σ fp e Σ pf : N Yp [Y T Y p f ] Yf T Σpp Σ = pf Σ fp Σ ff Para calcular as matrizes de covariâncias aplicamos a fatoração LQ da forma: Yp L Q T = N Y f L 2 L 22 Q T (4) 2 Assim, elas podem ser calculadas em função das componentes da matriz L em (4): Σ fp = L 2 L T, Σ ff = L 2 L T 2 + L 22 L T 22, Σ ff = L 2 L T 2 + L 22 L T 22 Aplicando a decomposição em valores singulares SVD, obtem-se as correlações canônicas do futuro e do passado da série temporal, como se mostra a seguir: Σ /2 ff Σ fp Σ T/2 pp = UΣV T Û ˆΣ ˆV T () onde a dimensão do vetor de estado é dada pela dimensão de ˆΣ e o vetor de estado estimado X k é dado pela equação (6): X k = ˆΣ /2 ˆV T Σ /2 pp Y p R n N (6) ˆΣ e Σ são as soluções aproximadas das equações algébricas de Ricatti para o futuro e para o passado respectivamente: e ˆΣ = AˆΣA T + ( C T AˆΣC T ) (Λ() C ˆΣC T ) ( C T AˆΣC T ) T (7) Σ = A T ΣA + (C T A T Σ CT ) (Λ() C Σ C T ) (C C ΣA) (8) Os valores singulares de ˆΣ e Σ são as correlações canônicas do futuro e do passado do processo estacionário y(t) A partir da decomposição em valores singulares, obtemos a observabilidade O k e a controlabilidade C k, como: O k = Σ /2 ff Û ˆΣ /2, C k = ˆΣ /2 V T Σ T/2 pp (9)

4 As matrizes A, C e C T são calculadas a partir das matrizes de observabilidade e controlabilidade, da forma: A = O k O k, C = O k ( : p, :), C = Ck (:, : p) (2) onde: O k = O k ( : (k )p, :) e O ganho de Kalman é: O k = O k (p + : kp :) K = ( C T AˆΣC T )(Λ() C ˆΣC T ) (2) onde Λ() = Σ ff ( : p, : p) 32 Síntese do Metodo O método de Akaike passo a passo é o seguinte: Calcule a decomposição LQ de (4) 2 Calcule a SVD segundo () 3 Calcule as matrizes de observabilidade e de controlabilidade dadas por (9) 4 Calcule as matrizes A, C e C T com (2) Calcule o ganho de Kalman K como na equação (2) 6 Finalmente represente o modelo de espaço de estado na forma inovativa (2) 4 Exemplos de modelagem de dados de séries temporais multivariáveis O algoritmo da realização estocástica devido ao Akaike é aplicado na modelagem computacional de dados de séries temporais multivariadas Dois casos são apresentados a seguir 4 Caso Considerando o seguinte modelo de segunda ordem benckmark no espaço de estado com a forma inovativa: A = K = C = 67 3 geramos a série temporal multivariada da seguinte forma: y (t) y(t) =, com t=,2, 3, y 2 (t) período de amostragem de 2 s e s de duração A partir da série temporal y(t) são estimadas as matrizes (A s, K s, C s ) pelo algoritmo de Akaike A s = K s = C s = Para avaliação dos resultados obtidos, comparamos a sequência calculada y s (t) gerada com as matrizes estimadas (A s, C s, K s ) Figura 3 (B e E) com a sequência vetorial y(t), Figura 3 (A e D) Consideramos, também, a diferença entre as duas saídas y(t) y s (t), Figura 3 (E e F) 2 A) Saida y Real B) Saida y Estimada C) Erro de estimacão y() yest() D) Saida y2 Real E) Saida y2 Estimada F) Erro de estimacão y(2) yest(2) Tempo em s Figura 3: Comparação dos resultados do caso

5 42 Caso 2 Considerando o seguinte modelo de ordem 3 no espaço de estado com a forma inovativa: A = K = C = geramos a série temporal multivariada da seguinte forma: y(t) = y (t), com t=,2, 3, período y 2 (t) de amostragem de 2 s e s de dura- ção A partir da série temporal y(t) são estimadas as matrizes (A s, K s, C s ) pelo algoritmo de Akaike A s = K s = C s = Para avaliação dos resultados obtidos, comparamos a sequência calculada y s (t) gerada com as matrizes estimadas (A s, C s, K s ) Figura 4 (B e E) com a sequência vetorial y(t),figura 4 (A e D) Consideramos, também, a diferença entre as duas saídas y(t) y s (t), Figura 4 (E e F) Conclusões Com os dados das séries temporais multivariadas dos dois casos apresentados e 2, obtivemos através do método de Akaike para cada um deles a realização estocástica (A, K, C) na forma inovativa através do método de Akaike Vemos que os erros calculados são desprezíveis Agradecimentos Os autores agradecem ao MSc Jorge Andrés Puerto Acosta por sua ajuda neste trabalho 2 A) Saida y Real B) Saida y Estimada C) Erro de estimacão y() yest() D) Saida y2 Real E) Saida y2 Estimada F) Erro de estimacão y(2) yest(2) Tempo em s Figura 4: Comparação dos resultados do caso 2 Referências Akaike, H (974) Stochastic theory of minimal realization, IEEE Trans Automatic control AC-9: Akaike, H (97) Markovian representation of stochastic processes by canonical variables, SIAM J control 3: Akaike, H (976) Canonical correlation analysis of time series and the use of an information criterion, System identication: Advances and case studies (R Mehra and DLainiotis, eds) pp Alegria, E O J (2) Estimação on-line de parâmetros dependentes do estado (state dependent parameter - sdp) em modelos de regresão não lineares, Master s thesis, Universidade Estadual de Campinas UNICAMP

6 Aoki, M (987) State space modeling of time series, Universitext, Springer, Berlin, Heidelberg, New York Barreto, G (22) Modelagem Computacional Distribuída e Paralela de Sistemas e de Séries Temporais Multivariáveis no Espaço de Estado, PhD thesis, Universidade Estadual de Campinas Chiuso, A and Picci, G (2) Some algorithmic aspects of subspace identification with inputs, Int J Applied Math and Computer Science (): 7 Clavijo, D G (28) Metodos de subespaços para identificação de sistemas: Propostas de alterações, implementações e avaliações, Master s thesis, Universidade Estadual de Campinas Faurre, P (976) Stochastic realization algorithms, in R K Mehra and D G Lainiotis (eds), System Identification Advances and Case Studies, Vol 26 of Mathematics in Science and Engineering, Elsevier, pp 2 Giesbrecht, M (23) Propostas imunoinspiradas para identificação de sistemas e realização de séries temporais multivariáveis no espaço de estado, PhD thesis, Universidade Estadual de Campinas Ho, B and Kalman, R E (966) Effective construction of linear, state-variable models from input/output functions, Regelungstechnik 4: 4 48 Soares, A and Bottura, C P (2) Identificação de séries temporais multivariadas no espaço de estado pelo método de akaike baseado em correlações canônicas com parâmetro iterativo, Anais do X Simpósio Brasileiro de Automação Inteligente, Universidade Federal de São João del-rei, São João del-rei, MG, Brasil, pp Tamariz, A D R (2) Modelagem Computacional de Dados e Controle Inteligente no Espaço de Estado, PhD thesis, Universidade Estadual de Campinas Tobar, J B Q (23) Propostas para modelagem computacional de series temporais e de sistemas multivariaveis variantes no tempo no espaço de estado, Master s thesis, Universidade Estadual de Campinas Torrico Cáceres, A F (2) Identificação e Controle Estocásticos Descentralizados de Sistemas Interconectados Multivariáveis no Espaço de Estado, PhD thesis, Universidade Estadual de Campinas Van Overschee, P and De Moor, B (996) Subspace Identification for Linear Systems, Kluwer Academic Pub Verhaegen, M (994) Identification of the deterministic part of mimo state space models given in innovations from input-output data, Automatica 3(): 6 74 Kalman, R E (96) A new approach to linear filtering and prediction problems, Trans ASME J Basic Engineering 82D: 34 4 Kalman, R E (963) Mathematical description of linear dynamical systems, Journal of the Society for Industrial and Applied Mathematics Series A Control (2): 2 92 Katayama, T (2) Subspace Methods for System Identification, Springer Lindquist, A and Picci, G (996a) Canonical correlation analysis, approximate covariance extension, and identification of stationary time series, Automatica 32(): Lindquist, A and Picci, G (996b) Geometric methods for state space identification, The Science of Learning Models from Data : 69 Serra, G L O (2) Propostas de metodologias para Identificação e Controle Inteligentes, PhD thesis, Universidade Estadual de Campinas