Aprendizado de Máquina (Machine Learning)

Transcrição

1 Ciência da Computação (Machine Learning) Aula 08 Regressão Linear Max Pereira

2 Regressão: Prevendo valores de casas

3 Regressão Quanto vale a minha casa? Quero vender minha casa. R$???

4 Regressão Verificar as últimas vendas no meu bairro. Por quanto as casas foram vendidas?

5 Analisar as vendas recentes (2 anos) X característica, variável independente. Y Observação, variável dependente.

6 Prever o valor da casa usando casas similares Nenhuma casa vendida recentemente tinha exatamente o mesmo tamanho

7 Prever o valor da casa usando casas similares Verificar a média de preços em um intervalo. Apenas 4 casas! Descartando informações de todas as outras vendas.

8 Modelo de Regressão Linear Traçar uma linha através dos dados f(x) = W 0 +W 1 X Parâmetros do modelo

9 Modelo de Regressão Linear Traçar uma linha através dos dados f w (x) = W 0 +W 1 X Função parametrizada por W = (W 0, W 1 )

10 Qual linha? f w (x) = W 0 +W 1 X Diferentes valores w

11 Como encontrar os parâmetros f(x) = w 0 + w 1 x corretos (w 0 e w 1 )? f(x) = x 2 f(x) = x f(x) = x w 0 = 1.5 w 1 = w 0 = 0 w 1 = w 0 = 1 w 1 = 0.5

12 Custo de uma determinada linha Residual sum of squares (RSS) RSS(w 0,w 1 ) = (preco1 [w 0 +w 1 tamanho1]) 2 + (preco2 [w 0 +w 1 tamanho2]) 2 + (preco3 [w 0 +w 1 tamanho3]) [de todas as casas]

13 Encontrar a melhor linha Minimizar o custo de todos os possíveis w 0,w 1 RSS(w 0,w 1 ) = (preco1 [w 0 +w 1 tamanho1]) 2 + (preco2 [w 0 +w 1 tamanho2]) 2 + (preco3 [w 0 +w 1 tamanho3]) [de todas as casas]

14 Prevendo o valor da casa

15 Uma função quadrática? Pode não ser uma relação linear!

16 Ou uma função polinomial de maior ordem? Minimizando o RSS

17 Esse modelo é confiável? Será que a casa vale tanto assim? Minimiza o RSS mas com previsões ruins.

18 Como escolher a ordem/complexidade do modelo Queremos boas previsões, sem observar o futuro Vamos simular as previsões 1. Remova algumas casas do conjunto de dados 2. Construa o modelo nas casas restantes 3. Estime o preço das casas removidas. Conjunto de Treinamento e Conjunto de Teste.

19 Erro do treinamento ErroTreinamento(w) = ($exe1 f w (tamanho.exe1)) 2 + ($exe2 f w (tamanho.exe2)) 2 + ($exe3 f w (tamanho.exe3)) [de todas as casas]

20 Erro do teste ErroTeste(w) = ($test1 f w (tamanho.test1)) 2 + ($test2 f w (tamanho.test2)) 2 + ($test3 f w (tamanho.test3)) [de todas as casas]

21 Acrescentar mais características X 2 Nº de banheiros

22 Modelos de Previsão Conjunto de dados: bodyfat.csv

23 Modelos de Previsão Conjunto de dados: bodyfat.csv

24 Modelos de Previsão O modelo de regressão linear no R é construído com a função lm(). Os seus parâmetros são os habituais: uma fórmula e a amostra de treino.

25 Modelos de Previsão Podemos analisar os coeficientes gerados no modelo de regressão, verificando suas correlações com a variável dependente.

26 Modelos de Previsão

27 Modelos de Previsão Mais detalhes sobre o modelo podem ser obtidos com a função attributes().

28 Modelos de Previsão As diferenças entre os valores dos exemplos e os valores do modelo podem ser obtidos com o atributo residuals.

29 Modelos de Previsão Resumo do modelo

30 Modelos de Previsão Podemos então verificar o gráfico do modelo, com a função plot(rl).

31

32 Modelos de Previsão Vamos criar um outro modelo de regressão com todos os atributos do conjunto de dados, para depois, comparar com o modelo anterior.

33

34 Modelos de Previsão

35 Modelos de Previsão Modelo de regressão linear com arquivos de treinamento e teste. Criando os data frames.

36 Modelos de Previsão Criando e testando o modelo. Para testar o modelo usamos a função predict().

37 Modelos de Previsão Usando gráficos para comparar os valores previstos com os valores atuais.

38 Modelos de Previsão

39 Modelos de Previsão Podemos sobrepor os gráficos para analisar os valores.

40