Tutorial CRISP-DM. Conteúdo. 2. Entendimento dos Dados. 1. Entendimento do Negócio. Objetivo; Descrição.

Transcrição

1

2 Tutorial CRISP-DM Conteúdo 1. Entendimento do Negócio Objetivo; Descrição. 2. Entendimento dos Dados Carregamento dos dados; Descrição estatística; Visualização.

3 Tutorial CRISP-DM Conteúdo 3. Preparação dos Dados Missing data ; Engenharia de features. 4. Modelagem Construção do modelo. 5. Avaliação Desempenho do modelo; Importância das features (características); Seleção de Modelos. 6. Deployment Submissão dos resultados.

4 1- Entendimento do negócio Qual é a pergunta? É possível prever se um passageiro do Titanic irá sobreviver ao naufrágio?

5 1- Entendimento do negócio Descrição No naufráugio do Titanic em 1912, 1502 dos 2224 passageiros morreram na tragédia; O motivo principal das mortes foi a falta de coletes salvavidas em número suficiente para os passageiros e tripulação; Tirando o fator sorte, foi constatado que alguns grupos de pessoas apresentaram taxas de sobrevivência maiores em relação a outros grupos: Mulheres; Crianças; Passageiros da 1ª classe. O objetivo da análise é tentar prever se um passageiro escolhido de forma aleatória irá sobreviver ao naufágio.

6 1- Entendimento do negócio Pergunta: Na sua opinião, quais os fatores que mais contribuíram para a sobrevivência de alguns passageiros?

7 2- Entendimento dos dados Carregamento dos dados No site do tutorial, baixe os arquivos train.csv e test.csv em uma pasta com o nome input. O arquivo de treinamento será usado para a tarefa de mineração. É a partir dele que iremos treinar o nosso modelo. O arquivo de testes será usado para prever a sobrevivência de um certo grupo de passageiros. Os dados desse arquivo não podem ser usados no treinamento do modelo. Por quê?

8 2- Entendimento dos dados Descrição estatística Vamos estudar primeiro as variáveis, visualizando as primeiras linhas do arquivo de treinamento.

9 2- Entendimento dos dados Descrição estatística O arquivo de treinamento possui 1309 passageiros, com 12 variáveis: Survived: Sobreviveu (1) or Não Sobreviveu (0) Pclass: A classe do passageiro (1, 2 e 3) Name: O nome do passageiro Sex: O sexo do passageiro Age: A idade do passageiro SibSp: Número de irmãos ou cônjuges a bordo Parch: Number of pais ou crianças a bordo Ticket: Número da passagem Fare: Valor da passagem Cabin: Identificação do Quarto/Cabine Embarked: Porto de embarque (C = Cherbourg, Q = Queenstown, S = Southampton)

10 2- Entendimento dos dados Descrição estatística Média, mediana, desvio padrão dos dados numéricos Algum número chamou a sua atenção?

11 2- Entendimento dos dados Descrição estatística Matriz de covariância

12 2- Entendimento dos dados Descrição estatística Distribuição da idade e sexo dos passageiros

13 2- Entendimento dos dados Qual a idade de homens e mulheres com a maior probabilidade de sobrevivência?

14 2- Entendimento dos dados Entendimento dos dados Repetir a análise da frequência para cada variável numérica. Tentar estimar as probabilidades de sobrevivência para cada variável.

15 2- Entendimento dos dados Entendimento dos dados Repetir a análise da frequência para cada variável numérica. Tentar estimar as probabilidades de sobrevivência para cada variável.

16 2- Entendimento dos dados Entendimento dos dados Repetir a análise da frequência para cada variável numérica. Tentar estimar as probabilidades de sobrevivência para cada variável.

17 2- Entendimento dos dados Entendimento dos dados Repetir a análise da frequência para cada variável numérica. Tentar estimar as probabilidades de sobrevivência para cada variável.

18 2- Entendimento dos dados Entendimento dos dados Plotar a frequência das variáveis categóricas

19 2- Entendimento dos dados Entendimento dos dados Repetir a análise para outras variáveis categóricas: Sexo do passageiro, Classe, Número de cônjuges/irmãos, pais/filhos.

20 3- Preparação dos dados Transformação das variáveis categóricas Porto de embarque, classe e sexo do passageiro podem ser convertidas para valores numéricos. Alguns algoritmos de mineração só tratam dados numéricos. sex = pd.series( np.where( full.sex == 'male', 1, 0 ), name = 'Sex' )

21 3- Preparação dos dados Missing data Olhando os dados, verificou-se que vários passageiros não informaram a idade. As informações sobre o valor da passagem não estão disponíveis para todos os passageiros. O que fazer com os dados que faltam?

22 3- Preparação dos dados Missing data Solução simples: colocar a média nos dados em falta

23 3- Preparação dos dados Engenharia de features Criar outras variáveis a partir da conjunto original. Objetivo: enriquecer o conjunto de treinamento. É uma arte! Você consegue criar outras variáveis, olhando o quadro abaixo?

24 3- Preparação dos dados Engenharia de features Soluções (criativas) dos participantes do desafio do Kaggle: Extrair o título de nobreza dos passageiros pelo nome Ex.: Major -> Oficial, Sir -> Realeza, Lady -> Realeza, Mr -> Passageiro Comum, etc...

25 3- Preparação dos dados Engenharia de features Soluções (criativas) dos participantes do desafio do Kaggle: Extrair a categoria da cabine através do número Ex.: Primeira letra da cabine define a categoria: A, B, E, U. etc.

26 3- Preparação dos dados Engenharia de features Soluções (criativas) dos participantes do desafio do Kaggle: Extrair a classe da passagem pelo número Ex.: A, A4, A5, AQ3, etc.

27 3- Preparação dos dados Engenharia de features Soluções (criativas) dos participantes do desafio do Kaggle: Extrair o tamanho da família pela quantidade de filhos/irmãos/cônjuge/

28 3- Preparação dos dados Engenharia de features

29 3- Preparação dos dados Juntando tudo em um único conjunto Das variáveis comuns, idade e preço da passagem apresentam as maiores correlações com a taxa de sobrevivência. Juntar idade e preço com as novas variáveis

30 3- Preparação dos dados Avaliando a importância das novas variáveis Quais estão mais fortemente correlacionadas com a sobrevivência do passageiro?

31 4- Modelagem Seleção da técnica de mineração de dados Separar aleatoriamente os dados em treinamento e teste. Escolher a técnica de aprendizagem de máquina mais adequada ao problema. Exemplos: Random Forest Support Vector Machines Gradient Boosting K-nearest neighbors Gaussian Naive Bayes Logistic Regression

32 5- Avaliação O conjunto de testes não deve ser usado no treinamento. Avaliação estatística: repetir a avaliação diversas vezes e obter a média e desvio dos desempenhos. Escolher a técnica de aprendizagem de máquina que obtém os melhores resultados no conjunto de teste: Random Forest: 76% de acerto Support Vector Machines: 68% de acerto Gradient Boosting: 83% de acerto K-nearest neighbors: 65% de acerto Gaussian Naive Bayes: 67% de acerto Logistic Regression: 79% de acerto

33 6- Deployment Um dos modelos alcançou 83% de taxa de acerto. Voltando à pergunta original: É possível prever se um passageiro do Titanic irá sobreviver ao naufrágio? Se sim, o modelo poderá ser utilizado para prever a probabilidade de sobrevivência de outros passageiros. Se não, as variáveis não conseguem explicar (prever) a sobrevivência.

34 Tutorial CRISP-DM Código completo em

35 Outras competições atuais do Kaggle Previsão do nível de ameaça de um passageiro de avião, baseado na imagem de scanner corporal. Prêmio de US$ 1.5M!

36 Outras competições atuais do Kaggle Previsão do preço de avaliação de imóveis do mercado americano Prêmio de US$ 1.2M!