Data Science. Data Stream Mining: trabalhando com dados massivos. André Luís Nunes Porto Alegre, Globalcode Open4education

Transcrição

1 Data Science Data Stream Mining: trabalhando com dados massivos André Luís Nunes Porto Alegre, 2018 Globalcode Open4education

2 Data Stream Mining trabalhando com dados massivos 2018

3 agenda

4 andré luís nunes Gestor Técnico Cientista de Dados CWI Software São Leopoldo/RS Núcleo de Tecnologia Mestrado em Ciência da Computação, UNISINOS (2017) Crescer Bacharel em Sistemas de Informação, FACCAT (2008) P&I

5 data stream Fluxo contínuo de dados. Real Time?

6 data stream

7 data stream Sequência de dados potencialmente infinita. Velocidade na chegada: Importantes apenas na chegada; Após processamento são descartados. BASES NÃO-ESTACIONÁRIOS

8 data stream Exemplo de dados: Base Airlines

9 data stream Primeiro algoritmo: VFDT Very Fast Decision Tree (2001, Domingos and Hulten)

10 data stream A partir da implementação da árvore de Hoeffding. Probability Inequalities for Sums of Bounded Random Variables (1962, Wassily Hoeffding)

11 data mining Etapas do processo: KNOWLEDGE DISCOVER in DATABASE (KDD)

12 data mining Etapas do processo: KNOWLEDGE DISCOVER in DATABASE (KDD)

13 data mining Ciclo: dados selecionados dados processados dados transformados padrões de dados conhecimento dados

14 data mining Ciclo: dados selecionados dados processados dados transformados padrões de dados conhecimento dados

15 pré-processamento? Exemplo: discretização de valores numéricos. O intervalo é desconhecido.

16 data stream mining Resumo do fluxo:

17 Trabalhos com comparativos de resultados. Na grande maioria com bases estacionárias.

18 data mining data stream (tradicional) múltiplos passos ilimitado ilimitado acurácia único tempo restrito memória restrita aproximação

19 data stream mining Três dimensões influenciam memória tempo poder de generalização

20 data stream mining Três dimensões influenciam memória tempo EQUILÍBRIO poder de generalização

21 data stream mining ferramenta {M}assive {O}nline {A}nalysis Evolução do popular WEKA, voltado para Data Stream Mining.

22 data stream mining Interface gráfica

23 data stream mining Contexto: Machine Learning Distributed Non Distributed Batch Stream Batch Stream Hadoop S4, Storm, Samza Mahout SAMOA R, Weka,... MOA

24 data stream mining Leitura dos dados.

25 data stream mining Leitura dos dados. Através de janelas deslizantes.

26 data stream mining Leitura dos dados. Conjunto de dados i 1 ( f ) Tamanho da amostragem i n

27 data stream mining Leitura dos dados, capturando amostras ( f ). Conjunto de dados (5M) i 1 ( f =100K ) Tamanho da amostragem i n

28 data stream mining Leitura dos dados, capturando amostras ( f ). Conjunto de dados (5M) i 1 ( f =100K ) Tamanho da amostragem i n

29 data stream mining Leitura dos dados, capturando amostras ( f ). Conjunto de dados (5M) (w) tamanho da janela i 1 i n ( f =100K ) Tamanho da amostragem

30 data stream mining Uma janela (w) desliza sobre a amostragem. Conjunto de dados (5M) (w=1k) tamanho da janela i 1 ( f =100K ) Tamanho da amostragem i n

31 data stream mining Uma janela (w) desliza sobre a amostragem. (w=1k) tamanho da janela i 1 ( f =100K ) Tamanho da amostragem i n

32 data stream mining Para cada amostragem, o processo de aprendizado: PARA CADA AMOSTRAGEM ( f =100K ) CAPTURA JANELAS (w=1k) 1. Processa o Algoritmo; 2. Atualiza Estatísticas; 3. Atualiza Modelo;

33 data stream mining Para cada amostragem, o processo de aprendizado: PARA CADA AMOSTRAGEM ( f =100K ) CAPTURA JANELAS (w=1k) 1. Processa o Algoritmo; 2. Atualiza Estatísticas; 3. Atualiza Modelo;

34 data stream mining Dentro do processo de aprendizado: 1. Definição do Algoritmo; 2. Definição dos critério para a seleção de atributos;

35 data stream mining Aplicando a ferramenta na prática. Exemplo Base Airlines Passo 1: qual o tipo de tarefa? REGRESSÃO

36 data stream mining Contexto: Aprendizado de Máquina Supervisionado Não Supervisionado Classificação Regressão Clusterização Associação

37 data stream mining Exemplo de dados: Base Airlines

38 data stream mining Aplicando a ferramenta na prática. Passo 2: qual(is) algoritmo(s)?

39 data stream mining Aplicando a ferramenta na prática. Alguns algoritmos (MOA) para REGRESSÃO FIMT-DD AMRules IBLStreams SNF Regressor

40 data stream mining Algoritmos selecionados: FIMT-DD: Fast Incremental Model Tree with Drift Detect AMRules: Associate Model Rules IBLStreams: Instance-Base Learning SNF Regressor: Scalar Free-Network

41 regressão Como avaliar o resultado da regressão (erro)? x1 x2 x3 y predicted Métrica muito utilizada: Mean Absolute Error

42 regressão Como avaliar o resultado da regressão (erro)? x1 x2 x3 y predicted diff n MAE = 1 n i 1 y i y i SUM(ABS(y-predicted)) COUNT(instances)

43 regressão Como avaliar o resultado da regressão (erro)? x1 x2 x3 y predicted diff n MAE = 1 n i 1 y i y i 6 3

44 data stream mining - exemplo Base Airlines

45 data stream mining - exemplo Base Airlines Year,Month,DayofMonth,DayofWeek,CRSDepTime,CRSArrTime, UniqueCarrier,FlightNum,ActualElapsedTime,Origin,Dest, Distance,Diverted,ArrDelay 2008,1,1,2,10,737,NW,336,274,LAX,DTW,1979,0, ,1,1,2,15,823,B6,172,299,SMF,JFK,2521,0, ,1,1,2,25,535,AA,622,182,SMF,DFW,1431,0, ,1,1,2,25,709,DL,430,266,PHX,JFK,2153,0, ,1,1,2,30,444,AS,198,222,ANC,SEA,1449,0,24

46 data stream mining - exemplo Resultados memória tempo poder de generalização

47 data stream mining - exemplo Resultados MAE AMRules... FIMT-DD... IBLStreams... SFN+AMRules... SFN+FIMT-DD... 12,54 11,26 x 10,97 11,29

48 data stream mining - exemplo Resultados Memória MB AMRules... FIMT-DD... SFN+AMRules... SFN+FIMT-DD

49 data stream mining - exemplo Resultados Tempo minutos AMRules... FIMT-DD... SFN+AMRules... SFN+FIMT-DD

50 data stream mining - exemplo Resultados Tempo FIMT-DD, 12

51 Data stream mining Data Stream Mining deve prever concept drift :

52 Data stream mining Data Stream Mining deve prever concept drift :

53 Data stream mining Data Stream Mining deve prever concept drift :

54 concept drift - configuração Base sintética - Friedman

55 concept drift - configuração Base sintética - Friedman

56 concept drift - configuração Base Friedman: Geração de 4 diferentes configurações (concept) com 1M de instâncias: C1 C2 C3 C4

57 concept drift - configuração Base Friedman: Geração de 4 diferentes configurações (concept) com 1M de instâncias: C1 f

58 concept drift - configuração Base Friedman: Geração de 4 diferentes configurações (concept) com 1M de instâncias: C1 f

59 concept drift - configuração Base Friedman: Geração de 4 diferentes configurações (concept) com 1M de instâncias: C2 f

60 concept drift - configuração Base Friedman: Geração de 4 diferentes configurações (concept) com 1M de instâncias: C3 f

61 concept drift - configuração Base Friedman: Geração de 4 diferentes configurações (concept) com 1M de instâncias: C4 f

62 concept drift - configuração Base Friedman: Última configuração é uma cópia da primeira: C1 C2 C3 C4 C5

63 concept drift - configuração Base Friedman: Última configuração é uma cópia da primeira: 1MI + 1MI + 1MI + 1MI + 1MI = 5 MI C1 C2 C3 C4 C5 instâncias

64 concept drift - configuração Base Friedman, bases derivadas: + 2 bases foram geradas a partir da original: Fried FriedChar FriedWOx4 Original Convertendo o valor (x 4 ) numérico para caractere 1=A, 2=B,... Removendo o atributo x 4

65 concept drift - resultados Tempo (min) de aprendizado para cada base de dados Fried FriedChar FriedWOx4 AMRules FIMT-DD SFN AMRules SFN FIMT-DD 17

66 Erro MAE concept drift - resultados Avaliando o comportamento durante a evolução do processo: 30 Análise do Erro MAE - Fried ,1 1,1 2,1 3,1 4,1 Instâncias (Milhão) AMRules FIMT-DD SFN AMRules SFN FIMT-DD

67 Erro MAE concept drift - resultados Avaliando o comportamento durante a evolução do processo: Análise do Erro MAE - FriedChar 0,1 1,1 2,1 3,1 4,1 Instâncias (Milhão) AMRules FIMT-DD SFN AMRules SFN FIMT-DD

68 Erro MAE concept drift - resultados Avaliando o comportamento durante a evolução do processo: Análise do Erro MAE - FriedWOx ,1 1,1 2,1 3,1 4,1 Instâncias (Milhão) AMRules FIMT-DD SFN AMRules SFN FIMT-DD

69 data stream mining - resumo Pré-Processamento Treinamento Concept Drift Métodos de Validação

70 Globalcode Open4education THE DEVELOPER S CONFERENCE POA-2018 Data Stream Mining: trabalhando com dados massivos André Luís Nunes nunes.br@gmail.com Data Science