Redes Convolucionais Aplicadas em Visão Computacional

Transcrição

1 Redes Convolucionais Aplicadas em Visão Computacional Marcos José Canêjo Estevão de Azevêdo

2 Sumário História Evolução Tipos Aplicações Considerações Finais 2

3 História Surgiram em 1980 com o trabalho de Kunihiko Fukushima. Em 2012 ganharam destaque após ganhar a competição ImageNet. CNNs supreram os humanos no desafio de detecção e classificação de objetos da ImageNet [4]. 3

4 História Zebra (13.74%) Dálmata (40.86%) Banco de Parque (19.35%) Zebra (26.31%) Zebra (40.19%) 4

5 Classificação de Dígitos Manuscritos 5

6 Diagonal 6

7 Hotspot 7

8 Water Reservoir 8

9 Rede Neural 9

10 CNN f D = N 5 Extração de Características Rede Neural 10

11 CNN Exemplo de uma Rede Neural Convolucional. 11

12 CNN 12

13 Camada de Convolução Visualização de um filtro 5 x 5 aplicado na camada de convolução. 13

14 Camada de Convolução = = = = 49 14

15 Camada de Convolução Matriz de Pixel Filtro, Kernel, Neurônio 15

16 Camada de Convolução 16

17 Camada de Convolução 17

18 Camada de Convolução Operação de convolução. 18

19 Camada de Convolução Operação de convolução. 19

20 Parâmetros O tamanho do Mapa de Característica é controlado por três parâmetros: Profundidade (Depth), Passo (Stride) e Preenchimento (Padding). 20

21 Profundidade Mapa de Característica com Profundidade igual a 3, pois 3 filtros foram aplicados. Operação de Convolução 21

22 Passo e Preenchimento Matriz de Entrada 7 x 7 Matriz de Saída 5 x 5 Matriz de Entrada 7 x 7 Matriz de Saída 3 x 3 22

23 Passo e Preenchimento A imagem de entrada tem 32 x 32 x 3. Se adicionarmos duas bordas de 0 s. Ela irá ter 36 x 36 x 3. Então, quando for aplicado a convolução com o filtro de tamanho 5 x 5 x 3 e stride de 1, a saída será uma imagem com dimensões 32 x 32 x 3. 23

24 Camada de Convolução 24

25 Camada de Convolução Camada 3 Camada 2 Operação de convolução. Camada 1 25

26 Subamostragem Mapa de Caracterítica Subamostragem do Maxpool com filtros 2x2 e Passo 2. 26

27 Camada Totalmente Conectada 27

28 Arquiteturas AlexNet (2012); ZFNet (2013); VGGNet (2014); GoogleNet/Inception (2015); ResNet(2015). 28

29 AlexNet (2012) Arquitetura da CNN conhecida por AlexNet. Uma GPU executa a parte superior da imagem, enquanto que uma outra executa a parte inferior. 29

30 AlexNet (2012) Treinada em duas GTX 580 com os dados da ImageNet por 5/6 dias, contendo mais de 15 milhões de imagens rotuladas em mais de 22 mil categorias; Uso da técnica de Data Augmentation; Primeira CNN a conseguir um bom resultado na ImageNet. 30

31 ZFNet (2013) Arquitetura ZFNet bastante semelhante a AlexNet utilizando filtros 7x7 e um valor de stride menor na primeira camada com o objetivo de reter mais informações da imagem de entrada. 31

32 ZFNet (2013) Treinada em uma GTX 580 por 12 dias com 1.3 milhões de imagens; No mesmo trabalho foi desenvolvido uma técnica de visualização dos filtros chamado de Deconvolutional Network (DeConvNet). 32

33 DeConvNet Representação de 16 filtros diferentes paras as imagens do lado direito. 33

34 DeConvNet 34

35 VGGNet (2014) Arquitetura VGG com 6 configurações diferentes. 35

36 VGGNet (2014) Treinada em duas Nvidia Titan Black por 2/3 semanas; Aplicada para classificação e localização; Rede bastante profunda, mas simples em termos de tamanho de filtros. 36

37 GoogleNet/Inception (2015) Arquitetura GoogleNet e seus modulos Inceptions. 37

38 GoogleNet/Inception (2015) Modulo Inception 38

39 GoogleNet/Inception (2015) Treinada com algumas GPU de ponta em paralelo; Utiliza 9 módulos Inception por toda a rede atingindo mais de 100 camadas; Uma das primeiras redes a propor uma arquitetura não sequencial. 39

40 ResNet (2015) Arquitetura Microsoft ResNet com 152 camadas atingiu bons resultados nos problemas de classificação, detecção e localização. 40

41 ResNet (2015) Treinada em 8 GPUs por 2/3 semanas; Testaram com 1202 camadas, mas não conseguiram bons resultados; 41

42 Aplicações Automated Edge Detection Using Convolutional Neural Network. DOI: /IJACSA ; Beyond a Gaussian Denoiser: Residual Learning of Deep CNN for Image Denoising. DOI: /TIP ; Colorful Image Colorization. ArXiv: arxiv: ; DeepContour: A Deep Convolutional Feature Learned by Positive-sharing Loss for Contour Detection. DOI: /CVPR ; Learning Representations for Automatic Colorization. ArXiv: arxiv:

43 Referências Convolutional-Neural-Networks/