Otimização por Descida de Gradiente

Transcrição

1 Universidade Federal do Espírito Santo Centro de Ciências Agrárias CCA UFES Departamento de Computação Otimização por Descida de Gradiente Redes Neurais Artificiais Site:

2 Otimização por Descida de Gradiente Este é um método iterativo; Porém, não possui garantia de encontrar parâmetros ótimos, a não ser que o problema seja convexo; Esta técnica utiliza somente derivadas de 1ª ordem ( E de E). Gradiente: vetor composto pelas derivadas parciais; Matriz Jacobiana. 2

3 Princípio de Aplicação É aplicado em um problema de aprendizagem supervisionada com mapeamento funcional g(x;w). Deve-se definir uma função de erro E(w) dos parâmetros livres w. A forma analítica do E é desconhecida; O valor do E para um argumento concreto E(τ) é calculável; É diferenciável em relação aos w = (w0,, wi,..., wd)t : d E(w) d w =grad E(w)= E(w) O valor de E(w( τ)) para o argumento concreto w(τ) é calculável. 3

4 Exemplo Abra o Octave e crie uma função para retornar o resultado de: f(x) = (x cos(2 (x - 4.5)))² + 2 (x - 5) + 4 Crie um vetor x dentre 9,5 à 11,5, com intervalos de 0,1. Plote o gráfico dessa função. Crie um ponto x1 = 11,4. Obtenha o valor desse x1 na função; Plote-o no gráfico: plot(x1, funcao(x1), 'r*') Tente o mesmo com x1 = 9,6. Baseando-se no gradiente, encontre o mínimo da função: Com um ponto, calcule a derivada: f '(x) = Δy/Δx f '(x)< 0 ou f '(x) > 0 ; Agora, vá na direção oposta do gradiente; Princípio da descida do gradiente: y (1)= y (0) ηf ' (x), η>0 w(1)=w(0)+δ w(0)=w(0)+η( E(w)) 4

5 Descida do Gradiente Fato: E(w) cresce na direção positiva do gradiente. em vizinhança próxima ao valor concreto w(τ) Estratégia: Assim, E(w) decresce na direção negativa (oposta) do gradiente. Então, o valor de w(τ) é modificado iterativamente nessa direção, usando um múltiplo do gradiente negativo. Efeitos: w(τ+1)=w(τ)+η[ E(w(τ))] η=taxa de aprendizagem w(0)=valor inicial Convergência de E(w) para um mínimo; Mínimo atingido não necessariamente é o mínimo global. η pequena aprendizagem lenta η grande oscilações, divergências. 5

6 Encontraram o mínimo da função? 6

7 Tentem plotar a mesma função com: X = -20:0.1:20; Agora encontre seu mínimo! 7

8 Exemplos Supondo o conhecimento analítico de E(w) e η = 0,2 Encontre o mínimo para: a) E(w) = w 2, com w(0) = 3 b) E(w) = 0,034w 4 0,02w 3 0,12w 2 + 0,35w + 4, com w(0) = -6 Após isso, plote as funções e os pontos de iteração no gráfico gerado. 8

9 Encontrando o argumento mínimo 1-D Busca-se o x* = arg min f(x) Não tem-se a função, mas possui-se o valor de entrada (x i ) e o resultado (y i =f(x i )) para encontrar o mínimo. Escolhe-se então um valor aleatório de x i e obtém-se seu resultado. Então, obtém-se sua derivada (que é seu gradiente) e caminha-se sentido contrário. Lembrando-se que a função em 1-D é uma reta. x i+1 =x i +η( f ' (x i )) f (x i+1 )<f (x i ) x i+1 ε pequeno 9

10 Encontrando o argumento mínimo 2-D Busca-se f(x) ( x 1 x 2) =argmin f ( x 1 x 2) Seu gradiente é definido por f (x) f x (x)=( 1 ) f (x) x 2 Lembrando-se que a função em 2-D é um plano. Caminha-se no sentido contrário de E. x 2 x(0) E E -η E x 1 10

11 Atividade Encontre o argumento mínimo em: f (x 1 x 2) =f ( 3 x x 2) = 3 x x 2 Sendo: w(τ+1)=w( τ)+η( E(w)) w j (τ+1)=w( τ) η ( E(w) w j (τ) ), j=1,...,d RSS(w)=E(w)=( ŷ y) T ( ŷ y)= ŷ y 2 ŷ (k) (w)=w. x (k) 11

12 Aprendizagem supervisionada com descida de gradiente Em problemas lineares: ŷ i (x;w) = w i. x; A definição da função de erro é: E(w)=E[ ŷ(w) y 2 ] Aproximado por: n Ê(w)= 1 n ŷ (k) (x (k) ;w) y (k) 2 k=1 12

13 Aprendizagem supervisionada com descida de gradiente Discrepância entre o desejado e o calculado: δ= ŷ y Para o k-ésimo exemplo:δ (k) = ŷ (x (k) ;w) y (k) Problema Linear: δ (k ) =w. x (k ) y (k) Erro individual para = ( o k-ésimo padrão: δ k δ (k) k) 2 δ c 13

14 Aprendizagem supervisionada com descida de gradiente Erro global aproximado: n Ê(w)= 1 n δ (k) 2 = 1 k=1 n i=1 c n k=1 [δ i (k) ] 2 n = 1 n k=1 {[δ 1 (1) δ c (1)2 ]+...+[δ 1 (n) δ c (n)2 ]} n = 1 n k=1 {[δ 1 (1) δ 1 (n)2 ]+...+[δ c (1) δ c (n)2 ]} 14

15 Utilização da Função de Erro Aprendizagem Estocástica: Após a apresentação de cada padrão individual x (k) (em ordem aleatória) E (k) (w) e ajustar w usando o princípio de descida de gradiente. Aprendizagem em Lote (batch): Utilizar o erro acumulado sobre todos os n padrões: n E(w)= 1 n k=1 E (k) (w) w(τ+1)=w( τ)+η( E(w)) 15

16 c E (k ) (W i )= i=1 E (k) (w i )/ w ij = c =2. i=1 c =2. i=1 c [δ (k ) ] 2 = i=1 c i=1 [w i x (k ) (k y ) i ] 2 E gradiente E (k ) (w i )=( (k) (w i )/ w i0 E (k ) (w i )/ w ij... E (k) (w i )/ w id) (δ (k) ) 2 w ij = c i=1 (δ (k ) ) 2 c w ij = i=1 [w i x (k) y i ] 2 w ij = [w i x (k) y i ]. [w i0 x (k) w ij x (k) (k j +...+w id x ) d ] w ij δ i (k ). x j E i (k) =2.δ (k ). x j w ij (τ+1)=w ij (τ)+η' [ 2δ i (k ). x j ] =w ij (τ) η[δ i (k). x j ] 16

17 Então: c E (k ) (W i )= i=1 [w i x (k) y i (k ) ] 2 E E (k ) (w i )=( (k) (w i )/ w i0 E (k) (w i )/ w (k ij... E (k) (w i )/ w id)=2.δ ). x j w ij (τ+1)=w ij (τ)+η' [ 2δ i (k ). x j ] =w ij (τ) η[δ i (k). x j ] 17

18 Treino Estocástico: Para k=1,, n (aleatório): Para i=1,,c : Para j=0,,d: w(τ+1)=wij(τ) ηδ (k) (k) i x j Em Lote (Batch): n E= k=1 E (k) n E(w i )=2. k=1 δ (k) (k) i X j W ij (τ+1)=w ij (τ) η. 1 n k=1 n δ (k) (k) i X j 18

19 Momento O Momento é uma heurística para melhorar a convergência. W (τ+1)=w (τ)+δ W (τ) ΔW (τ)= η E(W (τ))+μ Δ W (τ+1) Parâmetro de Momento > 0 E(w) Efeito sem momento: μ = 0 Desaceleração com η fixo E(w) Com e sem momento. Em caso de oscilação, cancelamento mútuo dos termos com momento W E(w) Efeito com momento: μ > 0 Menor desaceleração W W 19

20 Descida de Gradiente y i = Z(W i X) = Z( net(x j W i ) ). Regra de Delta: W ij (τ+1)=w ij (τ) η E(w) w(τ) Z W i X = net w i0 w ij w id (k E ) (k (W i ) =δ ) i = ŷ (k) (k i y ) i =Z (W i X (k) (k ) ) y i E(W ij )= E =2.δ (k) (k) W i (W i ).Z ' (net). X j ij X 0 =1 X... X d E =2.δ (k) (k ) W i (W i ).(1 net '). X j ij 20