Ajuste de Curvas Regressão. Computação 2º Semestre 2016/2017

Transcrição

1 Ajuste de Curvas Regressão Computação 2º Semestre 2016/2017

2 Ajuste de Curvas Quando apenas sabemos alguns valores de uma função contínua e queremos estmar outros valores ntermédos Quando queremos obter uma versão smplfcada de uma função complexa Exemplos de aplcações em Cênca e Engenhara para o ajuste de curvas aos dados expermentas: Análse de tendêncas: usar a curva obtda para fazer prevsões para valores não obtdos expermentalmente Teste de hpóteses: verfcar a correcção de um modelo matemátco ou ajustar os seus parâmetros de acordo com os dados expermentas 2

3 Ajuste de Curvas Dos tpos de abordagens que dependem dos erros assocados aos dados dsponíves: Regressão: se o erro nos dados é sgnfcatvo procurar uma curva que represente todos os pontos sem ter que os ntersectar Interpolação: se os dados são exactos procurar uma curva que passe por todos os pontos 3

4 Estatístca Descrtva Objectvo: Descrever um conjunto de dados de forma sucnta Exemplo: foram fetas 24 meddas de uma quantdade Meddas de tendênca central Méda Artmétca: soma dos valores ndvduas (y ) a dvdr pelo seu número n: y y n Medana: o ponto médo de um conjunto ordenado de dados. Moda: o valor que ocorre mas frequentemente. 4

5 Estatístca Descrtva Meddas de dspersão Desvo Padrão: em que S t é a soma do quadrado dos resduos: Varânca: Coefcente de varação: s 2 y s y S t 2 y y n 1 S t n 1 2 y y y 2 y 2 /n n 1 c.v. s y y 100% 5

6 y s y 2 s y Estatístca Descrtva Exemplo: y n y y n ( ) c.v. s y y 100% % 1.47% 6.6 6

7 Estatístca Descrtva Dstrbução dos dados Hstograma: representação vsual das frequêncas de ocorrênca dos valores Se dstrbuídos de acordo com a Dstrbução Normal: [ y sy, y sy] 68% [ y 2s, y 2s ] 95% y y [ , ] 95% 7

8 Estatístca Descrtva no MATLAB O MATLAB tem váras funções pré-defndas de estatístca descrtva. Se s é um vector coluna: mean(s), medan(s), mode(s) Calcula a méda, a medana, e a moda de s. mn(s), max(s) Calcula o valor mínmo e o valor máxmo em s. var(s), std(s) Calcula a varânca e o desvo padrão de s Se o argumento s é uma matrz o resultado é calculado para cada coluna. 8

9 Hstogramas em MATLAB [n, x] = hst(s, x) Determna o número de elementos em cada ntervalo de dados em s. x é um vector com os valores centras dos ntervalos. [n, x] = hst(s, m) Determna o número de elementos em cada ntervalo de dados em s. m é o número de ntervalos usado. Por omssão: m=10 hst(s, x), hst(s, m), hst(s) Sem argumentos de saída produz o gráfco. 9

10 Estatístca Descrtva exemplo: >> s=[ ]'; >> format short g >> mean(s), medan(s), mode(s) ans = 6.6 ans = 6.61 ans =

11 Estatístca Descrtva exemplo: >> mn(s),max(s) ans = ans = >> range=max(s)-mn(s) range = 0.38 >> var(s),std(s) ans = ans =

12 Estatístca Descrtva exemplo: >> [n,x] =hst(s) n = x = >> hst(s) 12

13 Números Aleatóros em MATLAB r = rand(m, n) Gera uma matrz mn de números aleatóros unformemente dstrbuídos entre 0 e 1. r = a + (b-a)*rand(m, n) Gera uma matrz mn de números aleatóros unformemente dstrbuídos entre a e b. r = randn(m, n) Gera uma matrz mn de números aleatóros de acordo com uma dstrbução normal com méda 0 e desvo padrão 1. r = med + s*randn(m, n) Gera uma matrz mn de números aleatóros de acordo com uma dstrbução normal com méda med e desvo padrão s. 13

14 Números Aleatóros em MATLAB Exemplo: bungee jumper Sabe-se que: g=9.81 m/s 2, m=68.1 kg v t tanh Usar a função rand para gerar 1000 valores de c d unformemente dstrbuídos entre e (0.25 kg/m 10%) e calcular a dstrbução de velocdades para t=4 s Usar a função randn para gerar 1000 valores de c d dstrbuídos de acordo com uma normal com méda 0.25 e desvo padrão e calcular a dstrbução de velocdades para t=4 s gm c d gc m d t 14

15 Números Aleatóros em MATLAB Exemplo: bungee jumper (dstrbução unforme) Escrever fchero unformcd.m clc,format short g n=1000;t=4;m=68.1;g=9.81; cd=0.25;cdmn=cd-0.025;cdmax=cd+0.025; cdrand=cdmn+(cdmax-cdmn)*rand(n,1); meancd=mean(cdrand),stdcd=std(cdrand) subplot(2,1,1) hst(cdrand),ttle('(a) Dstrbuton of drag') xlabel('cd (kg/m)') vrand=sqrt(g*m./cdrand).*tanh(sqrt(g*cdrand/m)*t); meanv=mean(vrand) subplot(2,1,2) hst(vrand),ttle('(b) Dstrbuton of velocty') xlabel('v (m/s)') 15

16 Números Aleatóros em MATLAB Exemplo: bungee jumper (dstrbução unforme) >> unformcd meancd = stdcd = meanv =

17 Números Aleatóros em MATLAB Exemplo: bungee jumper (dstrbução normal) Escrever fchero normalcd.m clc,format short g n=1000;t=4;m=68.1;g=9.81; cd=0.25; stdev= ; cdrand=cd+stdev*randn(n,1); meancd=mean(cdrand),stdevcd=std(cdrand),cvcd=stdevcd/meancd*100 subplot(2,1,1) hst(cdrand),ttle('(a) Dstrbuton of drag') xlabel('cd (kg/m)') vrand=sqrt(g*m./cdrand).*tanh(sqrt(g*cdrand/m)*t); meanv=mean(vrand),stdevv=std(vrand),cvv=stdevv/meanv*100 subplot(2,1,2) hst(vrand),ttle('(b) Dstrbuton of velocty') xlabel('v (m/s)') 17

18 Números Aleatóros em MATLAB Exemplo: bungee jumper (dstrbução normal) >> normalcd meancd = stdevcd = cvcd = meanv = stdevv = cvv =

19 Regressão Lnear Ajustar uma lnha recta a um conjunto de pares de observações: (x 1, y 1 ), (x 2, y 2 ),,(x n, y n ). y=a 0 +a 1 x+e Em que: a 1 - slope a 0 - ntercept e- erro (resíduo) entre o modelo e as observações 19

20 Regressão Lnear Ajustar uma lnha recta a um conjunto de pares de observações: (x 1, y 1 ), (x 2, y 2 ),,(x n, y n ). y=a 0 +a 1 x+e e=y a 0 a 1 x Crtéros: Mnmzar a soma dos erros resduas n 1 e n 1 ( y a o a x ) 1 Inadequado: os erros postvos compensam os erros negatvos (ambas as lnhas mnmzam o crtéro) 20

21 Regressão Lnear Ajustar uma lnha recta a um conjunto de pares de observações: (x 1, y 1 ), (x 2, y 2 ),,(x n, y n ). y=a 0 +a 1 x+e e=y a 0 a 1 x Crtéros: Mnmzar a soma do valor absoluto dos erros n 1 e n 1 y a o a x 1 Inadequado: não determna uma únca lnha (qualquer lnha entre as tracejadas mnmza o crtéro) 21

22 Regressão Lnear Ajustar uma lnha recta a um conjunto de pares de observações: (x 1, y 1 ), (x 2, y 2 ),,(x n, y n ). y=a 0 +a 1 x+e e=y a 0 a 1 x Crtéros: Mnmzar o erro máxmo Inadequado: um grande erro num ponto compromete o resultado (a lnha tracejada mnmza o crtéro) 22

23 Regressão Lnear Ajustar uma lnha recta a um conjunto de pares de observações: (x 1, y 1 ), (x 2, y 2 ),,(x n, y n ). y=a 0 +a 1 x+e e=y a 0 a 1 x Crtéros: Mnmzar a soma dos quadrados dos erros Tem sempre uma únca solução! Denomnado: Método dos Mínmos Quadrados n S r 2 e 1 n 1 y a 0 a 1 x 2 23

24 Método dos Mínmos Quadrados Mnmzar a soma dos quadrados dos erros Mínmo quando as dervadas se anulam: 24 S r e 2 1 n y a 0 a 1 x 2 1 n 0 ) ( 2 0 ) ( o r o o r x x a a y a S x a a y a S x a a y x a x a x y y a x a n 1 0 y x a x a x x a y a x x n y x y x n a valores médos

25 Método dos Mínmos Quadrados Exemplo: dados expermentas para medr como a força de resstênca do ar depende da velocdade 25

26 Método dos Mínmos Quadrados Exemplo: dados expermentas para medr como a força de resstênca do ar depende da velocdade 26

27 Método dos Mínmos Quadrados Exemplo: dados expermentas para medr como a força de resstênca do ar depende da velocdade 27

28 Método dos Mínmos Quadrados (a) dspersão de dados à volta da méda da varável dependente (b) dspersão de dados à volta da lnha obtda por regressão A redução da dspersão representa a melhora na explcação dos dados obtda pela regressão lnear. 28

29 Método dos Mínmos Quadrados Medda de dspersão para a varável dependente: Desvo Padrão: em que Na regressão o resíduo representa a dstânca vertcal entre o observado e a lnha recta: n n 2 2 S e y a a x Assumndo uma dstrbução normal do erro da estmatva r 1 s y S t n Desvo Padrão da regressão: S t 2 y y s y/ x S r n 2 29

30 Método dos Mínmos Quadrados S t é a soma dos quadrados à volta da méda da varável dependente S r é a soma dos quadrados dos resíduos à volta da lnha de regressão S t -S r quantfca a redução do erro obtda pela descrção dos dados com a lnha de regressão em vez da descrção com o valor médo. O coefcente de determnação r 2 é dado por: r 2 S t S r S t (r coefcente de correlação) r 2 representa a percentagem da ncerteza orgnal explcada pelo modelo. Para um ajuste perfeto, S r =0 e r 2 =1. Se r 2 =0, não há melhoras relatvamente à smples escolha da méda. Se r 2 <0, o modelo é por que a smples escolha da méda! 30

31 Método dos Mínmos Quadrados (a) regressão lnear com um coefcente de determnação maor (b) regressão lnear com um coefcente de determnação menor 31

32 Método dos Mínmos Quadrados Exemplo: dados expermentas para medr como a força de resstênca do ar depende da velocdade (melhorou!) (88% da ncerteza orgnal é explcada pelo modelo) 32

33 Lnearzação de Relações Não Lneares A Regressão Lnear assume a lneardade entre as varáves dependente e ndependente No entanto, nem sempre é o caso! Exemplo: exponenca l : y e 1 x 1 potênca : y x 2 2 crescment o lmtado : y 3 x 3 x 33

34 Lnearzação de Relações Não Lneares Em certos casos é possível lnearzar o modelo: Modelo Não lnear Lnearzad o exponenta l : y e 1 x 1 ln y ln x 1 1 potênca : y x 2 2 log y log 2 log x 2 crescment o lmtado : y 3 x 3 x 1 y x 34

35 Lnearzação de Relações Não Lneares 35

36 Lnearzação de Relações Não Lneares Exemplo: dados expermentas para medr como a força de resstênca do ar depende da velocdade (modelo potênca) 36

37 Lnearzação de Relações Não Lneares Exemplo: dados expermentas para medr como a força de resstênca do ar depende da velocdade (modelo potênca) 2 y x 2 log y log2 2 log x y x

38 Função lnregr functon [a, r2] = lnregr(x,y) % lnregr: lnear regresson curve fttng % [a, r2] = lnregr(x,y): Least squares ft of straght % lne to data by solvng the normal equatons % nput: % x = ndependent varable % y = dependent varable % output: % a = vector of slope, a(1), and ntercept, a(2) % r2 = coeffcent of determnaton n = length(x); f length(y)~=n, error('x and y must be same length'); end 38

39 Função lnregr x = x(:); y = y(:); % convert to column vectors sx = sum(x); sy = sum(y); sx2 = sum(x.*x); sxy = sum(x.*y); sy2 = sum(y.*y); a(1) = (n*sxy-sx*sy)/(n*sx2-sx^2); a(2) = sy/n-a(1)*sx/n; r2 = ((n*sxy-sx*sy)/sqrt(n*sx2-sx^2)/sqrt(n*sy2-sy^2))^2; % create plot of data and best ft lne xp = lnspace(mn(x),max(x),2); yp = a(1)*xp+a(2); plot(x,y,'o',xp,yp) grd on 39

40 Função lnregr Exemplo: dados expermentas para medr como a força de resstênca do ar depende da velocdade (modelo lnear) >> x = [ ]; >> y = [ ]; >> [a, r2] = lnregr(x,y) a = r2 =

41 Função lnregr Exemplo: dados expermentas para medr como a força de resstênca do ar depende da velocdade (modelo potênca) >> [a, r2] = lnregr(log10(x),log10(y)) a = r2 =

42 Função pré-defnda polyft A função pré-defnda polyft usa o método dos mínmos quadrados para ajustar um polnómo de grau n: p = polyft(x, y, n) x: dados da varável ndependente y: dados da varável dependente n: ordem do polnómo p: coefcentes do polnómo f(x)=p 1 x n +p 2 x n-1 + +p n x+p n+1 O comando polyval pode ser usado para calcular um valor com os coefcente do polnómo obtdos. y = polyval(p, x) 42

43 Função lnregr Exemplo: dados expermentas para medr como a força de resstênca do ar depende da velocdade (modelo lnear) >> x = [ ]; >> y = [ ]; >> a = polyft(x,y,1) a = >> y = polyval(a,45) y =

44 Regressão Polnomal O método dos mínmos quadrados pode ser usado para o ajuste de um polnómo de ordem superor. A dea é mnmzar a soma dos quadrados dos erros resduas. Exemplo do ajuste de: a) Um polnómo de prmero grau b) Um polnómo de segundo grau Ajuste de Curvas Regressão Não Lnear 44

45 Regressão Polnomal Para um polnómo de segundo grau, mnmzar: S r 2 2 e y a 0 a 1 x a 2 x 1 Encontrar os zeros das dervadas: n n 1 2 Resolver o sstema equações lneares de 33: Ajuste de Curvas Regressão Não Lnear 45

46 Regressão Polnomal Em geral, mnmzar: n S r 2 e y a 0 a 1 x a 2 x 2 m a m x 1 n 1 corresponde a resolver um sstema de equações lneares m+1m+1 O Desvo Padrão para o ajuste de um polnómo de ordem m a n pontos é: S s y/ x r n m 1 O coefcente de determnação r 2 é: 2 r 2 S t S r S t Ajuste de Curvas Regressão Não Lnear 46

47 Regressão Polnomal Exemplo: ajustar um polnómo de 2º grau aos dados das 2 prmeras colunas da tabela segunte Resolver o sstema equações lneares de 33: Ajuste de Curvas Regressão Não Lnear 47

48 Regressão Polnomal Exemplo: ajustar um polnómo de 2º grau aos dados das 2 prmeras colunas da tabela segunte Correspondendo ao sstema equações lneares de 33: Ajuste de Curvas Regressão Não Lnear 48

49 Regressão Polnomal Exemplo: ajustar um polnómo de 2º grau aos dados das 2 prmeras colunas da tabela segunte >> N = [ ; ; ]; >> r = [ ]; >> a = N\r a = Resultando o polnómo: Ajuste de Curvas Regressão Não Lnear 49

50 Regressão Não Lnear Nem todas os modelos podem ser representados por equações lneares de coefcentes e funções báscas. Ex: Uma solução consste em transformar as varáves e resolver o problema de regressão lnear resultante. Desvantagens: Nem todas as equações podem ser transformadas A solução obtda corresponde ao melhor ajuste para as varáves transformadas e não para as varáves orgnas. A alternatva é usar regressão não lnear para determnar drectamente o ajuste que mnmza a soma dos quadrados dos erros resduas. Ajuste de Curvas Regressão Não Lnear 50

51 Regressão Não Lnear em MATLAB Escrever uma função que calcule a soma dos quadrados dos erros resduas. Usar a função pré-defnda fmnsearch para encontrar os valores dos coefcentes que mnmzam a função anteror. Ajuste de Curvas Regressão Não Lnear 51

52 Lnearzação de Relações Não Lneares Exemplo: dados expermentas para medr como a força de resstênca do ar depende da velocdade (modelo potênca) 2 y x 2 log y log2 2 log x y x

53 Regressão Não Lnear em MATLAB Exemplo: dados expermentas para medr como a força de resstênca do ar depende da velocdade (modelo potênca) Escrever no fchero fssr.m: functon f = fssr(a,xm,ym) yp = a(1)*xm.^a(2); f = sum((ym-yp).^2); Introduzr os dados para ajustar: >> x = [ ]; >> y = [ ]; Resolver o problema de mnmzação: fmnsearch(@fssr, [1, 1], [], x, y) ans = Resultado: y x y a x a 1 Ajuste de Curvas Regressão Não Lnear 53

54 Regressão Não Lnear em MATLAB Os coefcentes obtdos maxmzam o coefcente de determnação r 2 e podem ser dferentes dos obtdos por transformação: Ajuste de Curvas Regressão Não Lnear 54