UNIVERSIDADE DO ESTADO DE MATO GROSSO - UNEMAT. Faculdade de Ciências Exatas e Tecnológicas FACET / Sinop Curso de Bacharelado em Engenharia Elétrica

Transcrição

1 Toolbox de Redes Neurais MATLAB Prof. Dr. André A. P. Biscaro 1º Semestre de 2017

2 Toolbox de Redes Neurais Introdução ao Matlab Linha de comando NNTool Estudo de Casos Análise de Crédito Bancário (Classificação). Localização de Faltas (Inferência). Sensação Térmica (Previsão).

3 Toolbox de Redes Neurais Introdução ao Matlab Linha de comando NNTool Estudo de Casos Análise de Crédito Bancário (Classificação). Localização de Faltas (Inferência). Sensação Térmica (Previsão).

4 MATLAB MATrix LABoratory Programação baseada em Matrizes Vetores e escalares são tratados como matrizes (1xN, Nx1, NxN)

5 Tela Principal

6 Tela Principal

7 Tela Principal

8

9 Tela Principal

10 Tela Principal

11 Janela de Comando

12 Matrizes no Matlab Quadro Melancholia I, do artista alemão e matemático amador Albrecht Dürer

13 Quadrado Mágico Matriz NxN construída a partir de inteiros de 1 a N 2 em que as somas das colunas são iguais às somas das linhas.

14 Quadrado Mágico Matriz NxN construída a partir de inteiros de 1 a N 2 em que as somas das colunas são iguais às somas das linhas.

15 Definindo uma Matriz Explicitamente Elementos de uma linha são separados por espaços ou vírgulas. O final de cada linha é indicado por um ponto-evírgula. A lista de elementos é delimitada por colchetes [ ].

16 Janela de Comando

17 Janela de Comando

18 Toolbox de Redes Neurais Introdução ao Matlab Linha de comando NNTool Estudo de Casos Análise de Crédito Bancário (Classificação). Localização de Faltas (Inferência). Sensação Térmica (Previsão).

19 Passos para a criação de uma RN Definição do problema Definição dos padrões Inicialização da rede Definição dos parâmetros de treinamento Treinamento da rede Teste da rede

20 Passos para a criação de uma RN Definição do problema Definição dos padrões Inicialização da rede Definição dos parâmetros de treinamento Treinamento da rede Teste da rede

21 Passos para a criação de uma RN Definição do problema x x 1 O problema do OU-Exclusivo

22 Passos para a criação de uma RN Definição do problema Definição dos padrões Inicialização da rede Definição dos parâmetros de treinamento Treinamento da rede Teste da rede

23 Definição dos Padrões x x 1 O problema do OU-Exclusivo

24 # linhas = # de variáveis # colunas = # de padrões Definição dos Padrões x x 1 O problema do OU-Exclusivo

25 Definição dos Padrões x x 1 O problema do OU-Exclusivo

26 Passos para a criação de uma RN Definição do problema Definição dos padrões Inicialização da rede Definição dos parâmetros de treinamento Treinamento da rede Teste da rede

27 Inicialização da rede Perceptron: net = newff( P, padrões entrada T, targets N_hid camadas escondidas ); ou net = newff( P, padrões entrada T targets ); ou net = newp( P, padrões entrada T targets );

28 Inicialização da rede Perceptron: ou ou net = newff( P, padrões entrada T, targets N_hid camadas escondidas ); net = newff( P, padrões entrada T targets ); net = newp( P, padrões entrada T targets );

29 Inicialização da rede MLP: net = newff( P, padrões entrada T, targets {H 1..H n-1 }, camadas escondidas {TF 1..TF n }, func. transf. BTF, alg. treinamento BLF alg. aprendizado);

30 Inicialização da rede MLP: net = newff( P, padrões entrada T, targets {H 1..H n-1 }, camadas escondidas {TF 1..TF n }, func. transf. BTF, alg. treinamento BLF alg. aprendizado); Funções de Transferência:

31 Inicialização da rede MLP: net = newff( P, padrões entrada T, targets [H 1..H n-1 ], camadas escondidas {TF 1..TF n }, func. transf. BTF, alg. treinamento BLF alg. aprendizado); Algoritmos de Treinamento: traingd Gradient descent backpropagation traingdm Gradient descent backpropagation com momentum traingda Gradient descent backpropagation com taxa adaptativa traingdx Gradient descent backpropagation com momentum e taxa adaptativa trainlm Levenberg-Marquardt backpropagation (default) trainrp Resilient backpropagation (Rprop)

32 Inicialização da rede MLP: net = newff( P, padrões entrada T, targets {H 1..H n-1 }, camadas escondidas {TF 1..TF n }, func. transf. BTF, alg. treinamento BLF alg. aprendizado); Algoritmos de Aprendizado: learngd Gradient descent weight and bias learning function learngdm Gradient descent with momentum weight and bias learning function

33 Passos para a criação de uma RN Definição do problema Definição dos padrões Inicialização da rede Definição dos parâmetros de treinamento Treinamento da rede Teste da rede

34 Parâmetros de Treinamento net.trainparam.epochs net.trainparam.goal net.trainparam.lr net.trainparam.show net.trainparam.mc net.trainparam.lr_inc net.trainparam.lr_dec net.trainparam.max_perf_inc Número de epochs Erro final desejado Taxa de aprendizado Atualização da tela (epochs) Taxa de momentum Taxa de incremento da l.r. Taxa de decremento da l.r. Incremento máximo do erro

35 Parâmetros de Treinamento (early stopping) Divide vectors into three sets using specified indices. net.dividefcn = 'divideind'; net.divideparam.trainind = indtreino; net.divideparam.valind = indvalidacao; net.divideparam.testind = indteste; Divide vectors into three sets using random indices. net.dividefcn = 'dividerand'; net.divideparam.trainratio: ; net.divideparam.valratio: ; net.divideparam.testratio: ; Divide vectors into three sets using blocks of indices. net.dividefcn = 'divideblock'; net.divideparam.trainratio: ; net.divideparam.valratio: ; net.divideparam.testratio: ; net.dividefcn = '';

36 Passos para a criação de uma RN Definição do problema Definição dos padrões Inicialização da rede Definição dos parâmetros de treinamento Treinamento da rede Teste da rede

37 Treinando a rede net = train(net, P, T);

38 Treinando a rede net = train(net, P, T);

39 Passos para a criação de uma RN Definição do problema Definição dos padrões Inicialização da rede Definição dos parâmetros de treinamento Treinamento da rede Teste da rede

40 Testando a rede C = sim(net, P);

41 Perceptron básico : Rede neural com apenas uma camada de processadores M-file desenvolvida para o XOR

42 Multi-layer Perceptron : Rede neural com uma camada escondida de processadores (Multi-Layer Perceptron); TAXA de APRENDIZADO CONSTANTE, sem MOMENTUM M-file desenvolvida para o XOR

43 Multi-layer Perceptron : Rede neural com uma camada escondida de processadores (Multi-Layer Perceptron); TAXA ADAPTATIVA e MOMENTUM M-file desenvolvida para o XOR