Modelação e Simulação 6.Modelos baseados em dados 6. Modelos baseados em dados Objectivo: Após completar este módulo, o aluno deverá ser capaz de formular e resolver problemas simples de estimação de parâmetros com base no método dos mínimos quadrados. Referência: Ljung e Glad.
Modelação e Simulação 6.Modelos baseados em dados Ajuste de uma recta a dados experimentais Uma situação experimental: Pretende-se relacionar a corrente I com a tensão V no circuito da figura. Para tal são aplicados diversos valores de tensão à resistência e registados os dados Tensão [volt] Corrente [ma] V= I=. V= I=3.9 V3=3 I3=6. V4=4 I4=7.9 I + V g=? -
Modelação e Simulação 6.Modelos baseados em dados 3 Sob certas condições, a relação teórica (o modelo) existente entre a tensão V aplicada à resistência e a corrente I é: I = gv em que g é um parâmetro que se pretende estimar a partir dos dados. Devido aos erros experimentais, os pontos experimentais não se encontram exactamente sobre a recta I = gv mas têm desvios. Como decidir qual a recta melhor ajustada? I [ma] 0 9 8 7 6 5 4 3 0 0 0.5.5.5 3 3.5 4 4.5 5 V [volt]
Modelação e Simulação 6.Modelos baseados em dados 4 De acordo com o Princípio dos Mínimos Quadrados é escolhida a recta que minimiza a soma dos quadrados dos desvios. De acordo com este princípio, a estimativa de g é tal que minimiza ( ) ( 39 ) ( 6 3) ( 79 4) J( g) =. g +. g +. g +. g O que efectivamente observamos O que esperamos que seja a corrente quando a tensão é (Depende da estimativa de g)
Modelação e Simulação 6.Modelos baseados em dados 5 "custo" J ( g) associado ao critério de mínimos quadrados J(g) g^ g
Modelação e Simulação 6.Modelos baseados em dados 6 Como J ( g) é uma função quadrática de g, a estimativa de mínimos quadrados verifica a equação dj = 0 dg g= g $ ou seja (. g$ ) (. g$ ) (. g$ ) (. g$ ) 39 3 6 3 4 79 4 = 0 Esta equação simplifica-se para 60g$ 0. = 0 sendo a estimativa de mínimos quadrados dada por g $ = 00.
Modelação e Simulação 6.Modelos baseados em dados 7 Ajuste de uma recta a dados experimentais (Caso geral) Suponhamos que a relação teórica entre duas grandezas X e Y é do tipo Y = α X em que α é um parâmetro desconhecido que se pretende estimar. Repare-se que, conhecendo uma estimativa de α podemos responder a perguntas do tipo "Se X valer quanto se espera que valha Y? "
Modelação e Simulação 6.Modelos baseados em dados 8 Suponhamos que são observados n pares ( i i) outros tantos ensaios experimentais. Dispõe-se da tabela X X, Y, i =, K, ncorrespondentes a Y X Y X Y X 3 Y 3 X 4 Y 4 X 5 Y 5
Modelação e Simulação 6.Modelos baseados em dados 9 Pretende-se estimar a recta melhor ajustada aos dados experimentais, de acordo com o critério de mínimos quadrados. De acordo com esta critério, a estimativa é tal que minimiza a soma dos quadrados dos desvios: 0 9 8 7 6 Desvio i Yi n i= ( α ) J( α) = Y X i i I [m A] 5 4 3 O que efectivamente observamos O que estamos à espera que seja Y i 0 0 0.5.5.5 3 3.5 4 4.5 5 V [volt] Xi
Modelação e Simulação 6.Modelos baseados em dados 0 A estimativa de mínimos quadrados verifica a equação (eq. "normal"): ou seja dj = 0 dα α= $ α n Xi( Yi $ αxi) = i= 0 esta equação tem por solução n i= $α = n i= XY i X i i
Modelação e Simulação 6.Modelos baseados em dados Mínimo ou não? A condição dj = 0 dα α= $ α não garante necessariamente que J( α ) seja mínimo para α = $ α. É necessário impor uma condição na segunda derivada: n d J X i dα = > i= 0 este exemplo, esta condição é verificada se for feita pelo menos uma medida com X 0 (o que tem uma interpretação geométrica imediata). Veremos a seguir que se estimarmos mais do que um parâmetro a segunda derivada deixa de ser um escalar. A condição de mínimo é então a de que os dados sejam tais que a matriz de segundas derivadas seja definida positiva.
Modelação e Simulação 6.Modelos baseados em dados Bom, ou apenas óptimo? A estimativa de mínimos quadrados é "óptima" no sentido em que minimiza um funcional de custo. o entanto, o funcional de custo pode não ser o mais adequado. Como caricatura, pode dizer-se que os bons relógios são os que estão parados pois dão horas absolutamente certas duas vezes por dia. Um outro exemplo é o de um caçador que vê dois pombos. Se disparar para o ponto que minimiza a distância média quadrática aos dois pombos Isto sugere que por vezes são necessários outros critérios.
Modelação e Simulação 6.Modelos baseados em dados 3 Outros critérios de Estimação Ops exemplos anterios sugerem a utilidade de utilizar critérios que ultrapassem as limitações dos Mínimos Quadrados. Um dos mais utilizados em Estimação é o critério de Máxima Verosimilhança. o entanto, quando a motivação é o Controlo Adaptativo, os Mínimos Quadrados gozam (quando integrados num sistema de controlo em cadeia fechada) de propriedades que os tornam suficientes para muitas aplicações. São além disso simples e de convergência robusta.
Modelação e Simulação 6.Modelos baseados em dados 4 Carl Frederich Gauss (777-855) utilizou pela primeira vez o critério de mínimos quadrados para a estimação de parâmetros em equações. Em 80, o astronomo italiano Piazzi observou pela primeira vez um pequeno planeta denominado Ceres. Infelizmente, a duração das observações era muito curta devido a Ceres se ser escondido atrás do Sol, pelo que estas eram insuficientes para estimar os parâmetros da sua órbita pelos métodos tradicionais. Recorrendo ao critértio dos mínimos quadrados, Gauss efectuou uma estimativa (bastante diferente das obtidas pelos métodos clássicos) que foi brilhantemente confirmada pelas observações experimentais.
Modelação e Simulação 6.Modelos baseados em dados 5 Qual a estimativa de mínimos quadrados da aceleração da gravidade g? 0 Modelo: h g t = + e t [s] h [m] 8.49 0.05 3 50.65 4 7.9 5 9.85 6 7.56 h(t)
Modelação e Simulação 6.Modelos baseados em dados 6 Estimação de parâmetros em equações de diferenças Modelo: yt ( ) + ayt ( ) + K+ ayt ( n) = but ( ) + K + but ( m ) n 0 Problema: A partir das amostras de u e y, estimar os parâmetros ai, b m j u Sistema a Identificar y ESTIMADOR
Modelação e Simulação 6.Modelos baseados em dados 7 Exemplo Considere-se o sistema Dados recolhidos y ( k + ) = ay( k) + bu( k) + e( k + ) 000 k = y ( k) = 30 000 k = u ( k) = 50 000 yk ( + ) yk ( ) = k = 000 yk ( + ) uk ( ) = 36 k = ykuk ( ) ( ) = 0 Determinar as estimativas de mínimos quadrados dos parâmetros a e b Escrever a funcional de mínimos quadrados Calcular as derivadas parciais em ordem aos parâmetros e igualar a zero 000 k =
Modelação e Simulação 6.Modelos baseados em dados 8 J = y k + ay k bu k k = [ ( ) ( ) ( )] J a [ ] = yk ( ) yk ( + ) ayk ( ) buk ( ) = 0 k = J b [ ] = uk ( ) yk ( + ) ayk ( ) buk ( ) = 0 k = + = + 30 a$ + 0 b$ = a$ y( k) b$ ykuk ( ) ( ) yk ( ) yk ( ) k = k = k = $ ( ) ( ) $ a u k y k + b u ( k) = u( k) y( k + ) k = k = k = a$ = 0. 6 b$ = 0. 964 0a$ + 50b$ = 36
Modelação e Simulação 6.Modelos baseados em dados 9 otação matricial Se quisermos resolver o problema de estimação para um número arbitrário de parâmetros temos de usar a notação matricial. yt ( ) + ayt ( ) + K+ ayt ( n) = but ( ) + K + but ( m) + et ( ) n 0 Define-se o regressor,ϕ,como [ K ] ϕ ( t ) = y( t ) y( t n) u( t ) u( t m) e o vector de parâmetros a estimar, θ,como θ a a b b = [ K n K m] m O modelo escreve-se: y( t) = ϕ ( t ) θ + e( t)
Modelação e Simulação 6.Modelos baseados em dados 0 Critério de Mínimos Quadrados Dadas observações, estimar o vector de parâmetros θ o por um vector $ θ por forma a que o funcional seguinte seja mínimo: J ( θ) = ( ) ( ) t = [ yt θ ϕ t ]
Modelação e Simulação 6.Modelos baseados em dados ( ) () ( ) y y y e e e () ( ) ( ) () ( ) ( ) 0 M M M = + ϕ θ ϕ θ ϕ θ ( ) () ( ) y y y e e e () ( ) ( ) () ( ) ( ) 0 M M M = + ϕ ϕ ϕ θ
Modelação e Simulação 6.Modelos baseados em dados [ ] ( 0) () y() ϕ e() y( ) e( ) = ϕ θ + M M M y ( ) ϕ ( ) e ( ) y Φ[ n ] p ε[ ] [ n ] p O conjunto das observações satisfaz: y = Φθ + ε
Modelação e Simulação 6.Modelos baseados em dados 3 Funcional de mínimos quadrados escrito matricialmente: Como: Vem: θ ε = = ε ε J( ) ε = y Φ $ θ y y J( θ ) = ( θ Φ )( Φ θ ) yy y J( θ ) = ( Φ θ + θ Φ Φ θ ) O funcional de mínimos quadrados é uma forma quadrática em θ
Modelação e Simulação 6.Modelos baseados em dados 4 A estimativa $ θ de mínimos quadrados satisfaz Gradiente da forma quadrática ( θ) J $ = 0 θ θ= θ ( ) xax = xa x Recordando: vem yy y J( θ ) = ( Φ θ + θ Φ Φ θ ) θ J = + ( y Φ θ Φ Φ)
Modelação e Simulação 6.Modelos baseados em dados 5 A estimativa de mínimos quadrados satisfaz pois a equação ou seja θ J = + ( y Φ θ Φ Φ) $ θ ΦΦ = y Φ ou, transpondo ΦΦ θ$ = Φ y
Modelação e Simulação 6.Modelos baseados em dados 6 Equação ormal Em conclusão, a estimativa de mínimos quadrados do vector de parâmetros θ do modelo de regressão linear y( t) = ϕ ( t ) θ + e( t) satisfaz a equação matricial (dita equação normal) ΦΦ $ θ = Φ y Se existir a inversa de Φ Φ a estimativa de mínimos quadrados existe e é única, sendo dada por $ θ = Φ ( ΦΦ) y