Data Mining. Introdução ao. Com breve apêndice sobre cognição humana e novos caminhos de pesquisa. Sergio Navega snavega@intelliwise.

Transcrição

1 Introdução ao Data Mining Com breve apêndice sobre cognição humana e novos caminhos de pesquisa Sergio Navega snavega@intelliwise.com Mestrado Eng. Produção Unip/Maio 2010 IAIR-Intelliwise AI Research snavega@intelliwise.com 1

2 Conteúdo Introdução Filosófica Ontologias Dedução versus Indução Data Mining Cognição e Caminhos Futuros IAIR-Intelliwise AI Research snavega@intelliwise.com 2

3 Qual a Origem do Conhecimento? Posição Empirista Vem dos Sentidos Posição Racionalista Vem do Pensamento Com o estudo da cognição e da neurociência temos hoje informações suficientes para entender melhor o processo cognitivo e assim descobrir mais sobre essa questão IAIR-Intelliwise AI Research snavega@intelliwise.com 3

4 O Problema de Platão Pessoas parecem aprender mais do que a informação contida naquilo que recebem Platão afirmava que isto se devia ao fato de que as pessoas nasciam equipadas com muito conhecimento, bastando apenas leves sugestões e alguma contemplação para despertálos; esse era um conhecimento inato do perfeito e do absoluto Platão ( AC) As idéias de Platão sobre esse assunto não sobreviveram ao tempo, mas o mistério acerca de nossas habilidades ainda nos faz pensar IAIR-Intelliwise AI Research snavega@intelliwise.com 4

5 Racionalismo: Conhecimento da Razão Socrates Rene Descartes Baruch Spinoza Gottfried Leibniz Enfatiza a importância da Razão, incluindo a Intuição, minorando a influência das eperiências sensórias (incluindo emoções) como fatores de obtenção de conhecimento. Os sentidos são frequentemente não confiáveis, sujeitos a ilusões. IAIR-Intelliwise AI Research snavega@intelliwise.com 5

6 Empirismo: Conhecimento dos Sentidos Aristoteles John Locke David Hume John Stuart Mill Enfatiza a importância das eperiências sensórias. Nada em torno de nós pode ser dito como sendo real a não ser que sua eistência possa ser inferida do que captamos com nossos sentidos ou via introspecção sobre nossos estados subjetivos IAIR-Intelliwise AI Research snavega@intelliwise.com 6

7 A Teoria da Informação Shannon foi um dos primeiros a se preocupar com aprendizado por mecanismos eletromecânicos, um dos primeiros eperimentos práticos da ainda não nascida inteligência artificial Claude Shannon ( ) IAIR-Intelliwise AI Research snavega@intelliwise.com 7

8 O Conceito de Informação (Shannon) Informação é uma medida da probabilidade de um evento ocorrer = I= log2( pi) I log( pi) Informação em bits, quando se usa base 2 Eventos IMPROVÁVEIS contém MUITA informação. Eventos ESPERADOS contém POUCA informação Nosso grau de surpresa é uma indicação do volume de informação da mensagem recebida. Se algo é surpreendente, então temos muito a aprender com isso! IAIR-Intelliwise AI Research snavega@intelliwise.com 8

9 Breve Parêntesis: Wolfram Alpha! IAIR-Intelliwise AI Research 9

10 Livros Têm Conhecimento? Notes on Quantum Mechanics By Enrico Fermi Mir Publishers, 1968 Podemos dizer que este livro tem Conhecimento? Não! Porquê? IAIR-Intelliwise AI Research 10

11 IAIR-Intelliwise AI Research 11

12 Importância dos Níveis de Análise Ecosistemas Simbiose, predação, populações, etc Emergência Organismos Biologia, morfogênese, anatomia, etc Células Mitose, meiose, genética, etc Organelas Enzimas, membranas, transporte, etc Sólidos, Fluidos Gases, pressão, temperatura, fluo Moléculas Química, ligações, catálise, etc Átomos Elétrons, neutrons, prótons Reducionismo Partículas Quarks, glúons, múons, etc IAIR-Intelliwise AI Research 12

13 Múltiplos Níveis de Análise Sistemas Sociais e Econômicos Estrutura social de seres humanos, estrutura das corporações (empresas), características dos mercados, economia global, Internet, etc. Sistemas Fisiológicos Sistema nervoso central, controle neuromuscular, cérebro, córte, cerebelo, hipocampo, fígado, estômago, etc. Sistemas Celulares Interações gene/citoplasma, diferenciação celular, organismos multicelulares, comunicação entre células, etc. Sistemas Biomoleculares DNA/RNA, proteínas, epressão, transcrição, regulação genética, mutações, recombinações genéticas, sistema imunológico, etc. Sistemas Fisico-Químicos Hidrodinâmica, dinâmica química, física não-linear, auto-organização molecular, padrões fractais e temporais compleos, etc. IAIR-Intelliwise AI Research snavega@intelliwise.com 13

14 Introduzindo as Ontologias Ontologia (Filosofia) Estudo das coisas que eistem, parte da filosofia que investiga a natureza e organização da realidade Ontologia para Engenharia do Conhecimento Uma especificação eplícita de uma conceitualização (Gruber) Teoria sobre quais entidades eistem na mente de um agente com conhecimento (Wielinga & Schreiber) Descrição de uma taonomia de conceitos para uma tarefa ou domínio específico que define a interpretação semântica do conhecimento (Alberts) Porção de uma base de conhecimentos que não muda durante a atividade de resolução de problemas (Fikes) IAIR-Intelliwise AI Research snavega@intelliwise.com 14

15 Mais Definições de Ontologias Uma base de conhecimentos descrevendo os fatos assumidos como verdadeiros por uma comunidade de usuários (Guarino) Um conjunto de acordos sobre um conjunto de conceitos (Mark) Taonomia de Conceitos Reutilizável Especificação parcial de um vocabulário conceitual para ser usado na formulação de teorias no nível do conhecimento (knowledge level) acerca de um domínio do discurso. O principal requisito de uma ontologia é suportar o reuso e o compartilhamento de conhecimento (Enrico Motta) IAIR-Intelliwise AI Research snavega@intelliwise.com 15

16 Por Que Precisamos de Ontologias? Não é possível representar o universo com níveis eatos de detalhes, é preciso aproimar, categorizar Deve-se restringir a representação a partes específicas do universo (chamadas de domínios) com detalhes suficientes para permitir a resolução de problemas práticos Escolha de um conjunto de conceitos envolve um compromisso ontológico Core Ontologies Domain Ontologies Top Level Empresa decide criar uma categoria (classe) abstrata que tem importância para a organização Perda de Deterioração Custo financeiro da perda de matéria prima por apodrecimento IAIR-Intelliwise AI Research snavega@intelliwise.com 16

17 Eemplo: Ontolingua ;;; -*- Mode:Lisp; Synta: Common-Lisp; Package:ONTOLINGUA-USER; Base:10 -*- ;;; Copyright (c) 1993 Greg Olsen and Thomas Gruber (define-theory physical-quantities (abstract-algebra) (in-theory 'physical-quantities) (define-class PHYSICAL-QUANTITY (?) ;; every physical quantity has a dimension :def (defined (quantity.dimension?)) ;; physical quantities are either quantities or quantity functions :aiom-def (and (ehaustive-subclass-partition PHYSICAL-QUANTITY (setof CONSTANT-QUANTITY FUNCTION-QUANTITY))) (define-function QUANTITY.DIMENSION (?q) :->?dim :def (and (physical-quantity?q) ; domain constraint (physical-dimension?dim)) ; range constraint :issues ((:eample (= (quantity.dimension (height fred)) length-dimension)))) (define-relation COMPATIBLE-QUANTITIES (??y) :iff-def (and (physical-quantity?) (physical-quantity?y) (= (quantity.dimension?) (quantity.dimension?y))) :issues (:eample (compatible-quantities (* 6 feet) (* 20 meters)))) IAIR-Intelliwise AI Research snavega@intelliwise.com 17

18 Eemplo: LOOM (loom:defcontet physical-quantities :theory (frame-ontology abstract-algebra)) (loom:defrelation quantity.dimension :contet physical-quantities :only-if-no-preeisting-definition-p t) ;;; Concept PHYSICAL-QUANTITY (loom:defconcept physical-quantity :contet physical-quantities :is-primitive (:eactly 1 quantity.dimension) :ehaustive-partitions $physical-quantity-partition-1$ :annotations ((documentation "A physical-quantity is a measure..."))) (loom:defconcept physical-dimension :contet physical-quantities :only-if-no-preeisting-definition-p t) ;;; Relation QUANTITY.DIMENSION (loom:defrelation quantity.dimension :contet physical-quantities :is-primitive loom:binary-tuple :domain hysical-quantity :range physical-dimension :attributes (:single-valued) :arity 2 IAIR-Intelliwise AI Research snavega@intelliwise.com 18

19 Um Eemplo de Ontologia: Mikrokosmos IAIR-Intelliwise AI Research 19

20 Mais Um Nível da Mikrokosmos IAIR-Intelliwise AI Research 20

21 Um Editor Open Source IAIR-Intelliwise AI Research 21

22 Dois Lados da Questão Dedução Indução Garante a verdade Garante a consistência Conclusões são certeiras Conclusões são prováveis Aumento do número de proposições Racionalismo Redução no número de proposições Empirismo IAIR-Intelliwise AI Research snavega@intelliwise.com 22

23 Dedução Prova a Conclusão Pelas Premissas Todas as Baleias são Mamíferos Todos os Mamíferos têm Pulmões Portanto, Todas as Baleias têm Pulmões Mamíferos bípedes, onívoros Todos os Homens São Mapeludos Todos os Ursos São Mapeludos Portanto, Todos os Homens São Ursos IAIR-Intelliwise AI Research snavega@intelliwise.com 23

24 Indução é Parecida (mas nem tanto) Indução Quase Aceitável Todos cães que vi são amigáveis Aqui temos um cão Portanto, este cão é amigável Algumas instâncias são usadas para justificar uma regra genérica IAIR-Intelliwise AI Research 24

25 Uma Indução Não Muito Boa Indução Fraca Esta pessoa conhece o Sergio Esta outra pessoa conhece o Sergio Portanto, todas as pessoas deste prédio conhecem o Sergio O risco de fazer induções fracas é alto, essa é uma grande fonte de discordâncias em argumentações IAIR-Intelliwise AI Research snavega@intelliwise.com 25

26 Uma Indução Muito Boa Indução Forte Saturno tem órbita elíptica Terra tem órbita elíptica,... Portanto, todos os planetas têm órbita elíptica A discussão filosófica sobre a validade da indução é tópico aberto mesmo na Filosofia atual. Provavelmente a resposta está no meio do caminho IAIR-Intelliwise AI Research snavega@intelliwise.com 26

27 Conceituando o Data Mining Bancos de dados corporativos são volumosos e potencialmente cheios de informações valiosas. Técnicas tradicionais de B.D. são inadequadas para gerar novos padrões (são dedutivas). A etração de informações preditivas escondidas em grandes bancos de dados Etração de padrões interessantes de grandes volumes de dados brutos Data Mining é o processo não trivial de identificação de padrões em dados que sejam válidos, novos, potencialmente úteis e ultimamente compreensíveis Usama Fayyad (1995) Nós estamos nos afogando em dados, mas morrendo de fome de conhecimento Dr. Jiawei Han, University of Illinois IAIR-Intelliwise AI Research snavega@intelliwise.com 27

28 Uma Visão do Processo Inteiro Limpeza * Dinâmicas * Incompletas * Reduntantes * Incoerentes * Ruidosas * Esparsas DECISÕES Visualização Data Mining Data Warehouses Bases de Dados Fontes Diversas IAIR-Intelliwise AI Research snavega@intelliwise.com 28

29 Interface Data Mining - Estatística Data Mining Estatística Assim como em estatística, em DM você tem o privilégio de nunca precisar dizer que está totalmente certo sobre uma conclusão! Objetivo comum de sumarizar quantidades de dados Identificar estruturas e relações interessantes em conjuntos de dados (data sets) Construir (ou auiliar) no desenvolvimento de preditores baseados nos dados coletados IAIR-Intelliwise AI Research snavega@intelliwise.com 29

30 DM Está no Meio de Uma Teia de Disciplinas Ciência da Computação Linguagens de Programação Algoritmos Information Retrieval Sistemas Operacionais Bancos de Dados Machine Learning Psicologia Data Mining Lógica Estatística Inteligência Artificial Matemática Teoria Probabilidade Knowledge Representation Linguística Filosofia Neurociência IAIR-Intelliwise AI Research 30

31 Manipulação de B.D. é Dedução Dedução: Inferências comprovadamente corretas Funcionários Departamentos Departamentos Gerentes Operador Join Funcionários Gerentes Dedução é naturalmente suportada pelos B.D. IAIR-Intelliwise AI Research 31

32 Data Mining é Indução Usando a mesma B.D., uma indução produz: Funcionários Departamentos Departamentos Gerentes Indução de Regras Cada Funcionário Tem Um Gerente ILP Inductive Logic Programming, y Funcionário( ) Gerente( y, ) IAIR-Intelliwise AI Research snavega@intelliwise.com 32

33 Novas Técnicas São Necessárias Indução não é gerada por manipulação dedutiva de bases de dados Data Mining é a resposta Perda de informação, compactação Para fazer indução é necessário desprezar algumas características; Data Mining precisa perder alguns dados Este é um medo que precisamos perder! IAIR-Intelliwise AI Research snavega@intelliwise.com 33

34 A Questão dos Níveis Em Bancos de Dados, as informações estão estruturadas em níveis primitivos Filial Conhecimento é epresso em níveis mais elevados Divisão Operacional Gerência Informática Funcionário Pessoa José da Silva Mineração deve se preocupar com o nível de análise IAIR-Intelliwise AI Research snavega@intelliwise.com 34

35 A Questão dos Níveis Filial Divisão Operacional Gerência Informática Funcionário Pessoa José da Silva Nível Alto Demais Regras são óbvias, revelam o senso comum Nível Baio Demais Regras descobertas são muito fracas e suscetíveis a ruído Mineração em múltiplos níveis, provê diversas visões em múltiplos estágios de abstração Interação providencia (em tempo real) foco em áreas mais interessantes, aprofundando o processo de mineração de forma seletiva e controlada IAIR-Intelliwise AI Research snavega@intelliwise.com 35

36 Três Principais Focos do DM Identificar Classes Achar Padrões em Sequências Descobrir Regras Associativas Regras (Rules) Restrições (Constraints) Padrões (Patterns) IAIR-Intelliwise AI Research 36

37 Três Técnicas Importantes Árvores de Decisão Descoberta de Regras Regras Associativas ID3 (Quinlan 1986) C4.5 (Quinlan 1992) Piatetsky-Shapiro 1991 Agrawal 1993 Eiste atualmente um grande número de técnicas, várias delas sendo publicadas no momento em que falamos IAIR-Intelliwise AI Research 37

38 Indução de Árvores de Decisão Método ID3 já é obsoleto, mas é importante em termos teóricos Caso Risco Histórico Débito Garantia Salário 1 alto ruim alto nenhuma 15k 2 alto desc. alto nenhuma 35k 3 moder. desc. baio nenhuma 35k 4 alto desc. baio nenhuma 15k 5 baio desc. baio nenhuma >35k 6 baio desc. baio adeq. >35k 7 alto ruim baio nenhuma 15k 8 moder. ruim baio adeq. >35k 9 baio bom baio nenhuma >35k 10 baio bom alto adeq. >35k 11 alto bom alto nenhuma 15k 12 moder. bom alto nenhuma 35k IAIR-Intelliwise AI Research snavega@intelliwise.com 38

39 A Árvore Obtida Pelo ID3 débito? desc. alto baio alto risco histórico? nenh. ruim alto risco garantia? adequ. alto risco bom débito? alto baio baio risco garantia? nenh. garantia? adequ. 15k salário? 35k >35k baio risco alto risco risco moder. baio risco IAIR-Intelliwise AI Research 39

40 Técnicas Mais Comuns Regras Caracterizadoras Regras Discriminantes Regras Associativas Regras Classificadoras Métodos Para Clustering Regras de Evolução Temporal Além dessas técnicas eistem várias outras que não veremos aqui (algoritmos genéticos, métodos bayesianos, support vector machine, análise de discriminantes, regressão linear, etc.) IAIR-Intelliwise AI Research 40

41 O Que é Uma Regra? Epressões que relacionam condições iniciais a conclusões. Em argumentação, as condições iniciais são chamadas de premissas e as conclusões são chamadas de alegação. Em nosso caso, vamos usar esta nomenclatura: Antecedente 1 Antecedente 2 Antecedente 3... Antecedente n Consequente Se (emprestimo > 5000) e (salário < 1500) então {recusar crédito} IAIR-Intelliwise AI Research snavega@intelliwise.com 41

42 A Indução Orientada a Atributos Compressão de dados onde valores de atributos são trocados por conceitos generalizados, de hierarquias superiores Hierarquias são normalmente fornecidas por um especialista no domínio ou gerados através de sugestões de outros métodos (ID3, C4.5) Pode-se remover atributos que têm grande número de valores distintos e que não possuam hierarquia superior (E: chaves de acesso a B.D.) Pode-se generalizar atributos que tenham como ser categorizados sob um mesmo nome IAIR-Intelliwise AI Research snavega@intelliwise.com 42

43 Eemplos de IOA Um banco de dados gigantesco esconde relações valiosas Estado Cidade População Orç.Saúde Estado População Gastos Norte, Nordeste, Sudeste, Sul, etc. Pequena, Média, Grande 0-5%, 5-15%, 15-20% arrecadação Generalização de atributos reduz (comprime) o tamanho do banco de dados IAIR-Intelliwise AI Research snavega@intelliwise.com 43

44 Eemplos de IOA Hobby de Uma Pessoa Tênis, futebol, piano, nintendo, ópera, playstation Esportes, Música, videogame Redução de atributos promove uma generalização que pode favorecer o aparecimento de certos padrões IAIR-Intelliwise AI Research snavega@intelliwise.com 44

45 As Regras Caracterizadoras Regras que caracterizam um conceito satisfeito por todos (ou pela maioria) dos eemplos. Também conhecidas como Regras de Sumarização. Aqui usa-se a IOA de forma a sugerir quais são os atributos que caracterizam uma determinada coleção de dados. Eemplos: Sintomas de uma doença específica podem ser sumarizados por uma regra caracterizadora Características típicas dos estudantes de MBA que decidiram pelo curso logo após terminarem graduação IAIR-Intelliwise AI Research snavega@intelliwise.com 45

46 Regras Caracterizadoras: Análise de Crédito tempo t1 tempo t2 tempo t3 Cliente: Anos cliente: 6 Empréstimo:$2800 Salário:$4800 Possui casa:sim Contas em atraso:2 Num. Pagtos. Atraso:3 Cliente rentável:? Cliente: Anos cliente: 6 Empréstimo:$4200 Salário:? Possui casa:sim Contas em atraso:2 Num. Pagtos. Atraso:4 Cliente rentável:? Cliente: Anos cliente: 7 Empréstimo:$6720 Salário:? Possui casa:sim Contas em atraso:3 Num. Pagtos. Atraso:6 Cliente rentável:não Cliente rentável:? Cliente rentável:? Cliente rentável:não Se [contas em atraso] > 2 e [num.pagtos.atraso] > 1 Então Se [cliente rentável] = Não Então {Recusar Crédito} Se [contas em atraso] = 0 e ([salário] > 3000 ou ([anos cliente] > 3) Então {Aceitar Solicitação de Crédito} IAIR-Intelliwise AI Research snavega@intelliwise.com 46

47 Regras Discriminatórias Regras que discriminam um conceito da classe que está sendo aprendida (classe alvo) em relação a outras classes (classes contrastantes) Eemplos: Para distinguir uma doença de outras a regra discriminante iria sumarizar os sintomas que identificam (separam) esta doença das outras IAIR-Intelliwise AI Research snavega@intelliwise.com 47

48 Regras Discriminatórias Principal preocupação da regra: Remover as classes alvo que tenham sobreposição com alguma das classes contrastantes Generalizar classes alvo e contrastante sincronizadamente, para ecluir as propriedades que se sobrepõe de um mesmo nível conceitual IAIR-Intelliwise AI Research snavega@intelliwise.com 48

49 Regras Associativas Dado um B.D. qualquer, descobrir quais as associações entre itens de forma que a presença de um item em um registro implica na presença de outro(s) item(s) no mesmo registro Eemplo: Para a maioria das pessoas que adquiriram pão e leite conjuntamente, também foi adquirido manteiga {pão, leite} manteiga IAIR-Intelliwise AI Research snavega@intelliwise.com 49

50 Características das Regras Associativas Em geral, despreza quantidades, só interessando a presença ou ausência de determinada associação. Por isso, é um processo booleano por natureza (Sim/Não) Jiawei Han propôs algoritmos que desenvolvem associações sobre faias de quantidades IAIR-Intelliwise AI Research snavega@intelliwise.com 50

51 Regras Associativas Multi-Níveis Dr. Han também propôs descobrir regras em níveis conceituais específicos, como as MLAR (Multiple- Level Association Rules) leite leite desnatado leite desnatado Parmalat pão pão integral pão integral Pullman IAIR-Intelliwise AI Research 51

52 Market Basket Analysis Esta é uma das mais interessantes aplicações das Regras Associativas, de fundamental importância para marketing A) Achar todas as regras que tenham diet coke como consequentes. Irá auiliar no planejamento de lojas para vender melhor esse produto B) Achar todas as regras com iogurte como antecedente. Irá auiliar a determinar o impacto nas vendas, caso esse produto seja retirado das prateleiras C) Achar todas as regras com salsicha no antecedente e mostarda no consequente. Auilia na obtenção de melhores regras para determinar que produtos devem ser vendidos em conjunto com salsichas para aumentar as vendas de mostarda IAIR-Intelliwise AI Research snavega@intelliwise.com 52

53 Regras Classificadoras Tentam classificar o conjunto de dados disponível baseado no valor de um determinado atributo. Preocupa-se em obter regras que particionem os dados em grupos disjuntos. Eemplo: Classificar carros de acordo com consumo de combustível, dividir clientes em classes pouco rentável, rentável e muito rentável, efetuar marketing direcionado, etc. IAIR-Intelliwise AI Research snavega@intelliwise.com 53

54 Um Eemplo de Uso da Classificação Classificar lojas de acordo com a localização pode ajudar na escolha do local de uma nova loja Lojas bem sucedidas Lojas medianamente sucedidas Lojas mal sucedidas Classificação pode ser feita através de ID3, C4.5 ou do CART (Breitman et al. 1984) IAIR-Intelliwise AI Research snavega@intelliwise.com 54

55 Métodos Supervisionados Até agora vimos métodos no qual um operador humano deveria apontar que características ou conceitos deveriam ser eaminados. Esses métodos são ditos como supervisionados, pois usam um professor para lhes dizer que fazer com os dados analisados Dados Sistema IAIR-Intelliwise AI Research 55

56 Métodos Não-Supervisionados Métodos no qual nós não fazemos idéia do tipo de padrões que podem ser encontrados nos dados. O sistema deve procurar por aquilo que for possível achar Dados Sistema O professor não sabe o que procurar IAIR-Intelliwise AI Research snavega@intelliwise.com 56

57 Clustering: Detectando Aglomerações Clusters são áreas densamente povoadas de dados Clustering é um processo não-supervisionado no qual se tenta detectar aglomerações nos dados Em geral, usa algum processo do tipo dividir/conquistar É necessário fornecer alguma medida de distância entre os dados (por eemplo, distância euclideana) A. K. Jain, R. C. Dubes: Algorithms for Clustering Data, Prentice Hall 1988 IAIR-Intelliwise AI Research 57

58 Clustering com o K-Means Clustering com o K-Means IAIR-Intelliwise AI Research snavega@intelliwise.com 58 Pontos estão dispostos em uma área. Neste caso, área bidimensional, mas em geral é multidimensional

59 Clustering com o K-Means - Fase 1 Clustering com o K-Means - Fase 1 fase 1 2 IAIR-Intelliwise AI Research snavega@intelliwise.com 59 Escolhe-se dois pontos ao acaso. Esses pontos serão os centros de duas classes 1

60 Clustering com o K-Means - Fase 2 Clustering com o K-Means - Fase 2 fase 2 2 IAIR-Intelliwise AI Research snavega@intelliwise.com 60 De cada ponto faz-se uma investigação de todos outros através da distância 1

61 Clustering com o K-Means - Fase 3 Clustering com o K-Means - Fase 3 fase IAIR-Intelliwise AI Research snavega@intelliwise.com 61 Recalcula-se os novos centros tomando por base a área delimitada pelo passo anterior

62 Clustering com o K-Means - Fase 4 Clustering com o K-Means - Fase 4 fase IAIR-Intelliwise AI Research snavega@intelliwise.com 62 Volta ao passo 2, divide novamente os dados de acordo com os novos centros

63 Regras de Evolução Temporal Procuram acompanhar a evolução no tempo de um conjunto de dados, tentando obter padrões Eemplo: Comprou um PC com gravador DVD hoje, poderá comprar um Blu-ray em nove meses Comprou impressora hoje, precisará de novos suprimentos em dois meses Quem comprou DVD-Player hoje tem 3 vezes mais probabilidade de adquirir uma filmadora 7 meses após a compra Na Evolução Temporal interessa-nos dados que sofrem variações constantemente. Anti-eemplo: departamento de um funcionário IAIR-Intelliwise AI Research snavega@intelliwise.com 63

64 Usa as Outras Técnicas Como Base As Regras de Evolução Temporal são construídas através das técnicas anteriores (caracterização, classificação, associação, clustering) Achar as principais características das empresas cujas ações em bolsas de valores tiveram crescimento de 20% Achar as empresas que tenham ações subindo em conjunto (regras associativas) IAIR-Intelliwise AI Research 64

65 Um Eemplo: Videolocadora CODFITA TITULO GENERO CODPRECO LOCMES LOCTOTAL DIASLANC SITUACAO LIGACOES PERIGOSAS ALT MANSAO DA MEIA NOITE IMPERIO DO SOL DOCTOR DETROIT A PRINCESA E O ROBO EXCALIBUR O SENHOR DAS AGUIAS UM PRINCIPE EM NOVA YORK AS NOVAS AVENTURAS TURMA DA MONICA NA HORA DA ZONA MORTA TACADA MORTAL FIREFOX-RAPOSA DE FOGO OSSO DURO DE ROER LATINOS APRENDIZ DE ASSASSINOS O MERCADOR DE GUERRA O TELEFONE VERMELHO DOVE LIBERDADE O TREM DOS DESESPERADOS HONDCATS FUGA A MEIA NOITE OS DOZE CONDENADOS ATIRANDO PARA MATAR COCKTAIL RED SCORPION CONQUISTA SANGRENTA IAIR-Intelliwise AI Research snavega@intelliwise.com 65

66 Outras Bases de Dados da Videolocadora Gêneros CODGENERO GENERO 01 COMEDIA 02 FICCAO 03 GUERRA 04 WESTER 05 EROT/PORNO 06 ACAO 07 AVENTURA 08 DRAMA 09 INFANTIL 10 TERROR 11 SUSPENSE 12 POLICIAL 13 ROMANCE 14 COMEDIA/ROMANCE 15 DOCUMENTARIO 16 BIBLICO Locações CLI_FITA Feriados DATA 01/01/00 07/03/00 21/04/00 01/05/00 22/06/00 07/09/00 12/10/00 08/10/00 02/11/00 15/11/00 25/12/00 08/12/00 06/03/00 29/04/00 30/04/00 01/01/01 27/02/01 13/04/01 21/04/01 01/05/01 14/06/01 07/09/01 08/10/01 15/11/01 IAIR-Intelliwise AI Research 66

67 Manipulando as Bases de Dados Locações CLI_FITA CODFITA TITULO GENERO CODPRECO LOCMES LOCTOTAL DIASLANC SITUACAO LIGACOES PERIGOSAS ALT MANSAO DA MEIA NOITE IMPERIO DO SOL DOCTOR DETROIT A PRINCESA E O ROBO EXCALIBUR O SENHOR DAS AGUIAS UM PRINCIPE EM NOVA YORK AS NOVAS AVENTURAS TURMA DA MONICA NA HORA DA ZONA MORTA TACADA MORTAL FIREFOX-RAPOSA DE FOGO OSSO DURO DE ROER LATINOS APRENDIZ DE ASSASSINOS O MERCADOR DE GUERRA O TELEFONE VERMELHO DOVE LIBERDADE O TREM DOS DESESPERADOS HONDCATS FUGA A MEIA NOITE OS DOZE CONDENADOS ATIRANDO PARA MATAR COCKTAIL RED SCORPION CONQUISTA SANGRENTA CODGENERO GENERO 01 COMEDIA 02 FICCAO 03 GUERRA 04 WESTER 05 EROT/PORNO 06 ACAO 07 AVENTURA 08 DRAMA 09 INFANTIL 10 TERROR 11 SUSPENSE 12 POLICIAL 13 ROMANCE 14 COMEDIA/ROMANCE 15 DOCUMENTARIO 16 BIBLICO Gêneros Filmes Locações Por Gênero Isto ainda é manipulação de B. D. tradicional, ou seja, é DEDUÇÃO IAIR-Intelliwise AI Research snavega@intelliwise.com 67

68 Locações CLI_FITA CODFITA TITULO GENERO CODPRECO LOCMES LOCTOTAL DIASLANC SITUACAO LIGACOES PERIGOSAS ALT MANSAO DA MEIA NOITE IMPERIO DO SOL DOCTOR DETROIT A PRINCESA E O ROBO EXCALIBUR O SENHOR DAS AGUIAS UM PRINCIPE EM NOVA YORK AS NOVAS AVENTURAS TURMA MONICA DA NA HORA DA ZONA MORTA TACADA MORTAL FIREFOX-RAPOSA DE FOGO OSSO DURO DE ROER LATINOS APRENDIZ DE ASSASSINOS O MERCADOR DE GUERRA O TELEFONE VERMELHO DOVE LIBERDADE O TREM DOS DESESPERADOS HONDCATS FUGA A MEIA NOITE OS DOZE CONDENADOS ATIRANDO PARA MATAR COCKTAIL RED SCORPION CONQUISTA SANGRENTA Minerando Através da Indução Gêneros CODGENERO GENERO 01 COMEDIA 02 FICCAO 03 GUERRA 04 WESTER 05 EROT/PORNO 06 ACAO 07 AVENTURA 08 DRAMA 09 INFANTIL 10 TERROR 11 SUSPENSE 12 POLICIAL 13 ROMANCE 14 COMEDIA/ROMANCE 15 DOCUMENTARIO 16 BIBLICO Locações Por Gênero Classifica e joga fora restante Gêneros Preferidos Gênero Preferido por cada cliente Gêneros Mais Rentáveis Ao jogar fora o restante está-se fazendo uma indução, ou seja, desenvolvendo uma regra que vale para a maioria Marketing Direcionado IAIR-Intelliwise AI Research snavega@intelliwise.com 68

69 Minerando Através do Uso de Conceitos CODGENERO GENERO 01 COMEDIA 02 FICCAO 03 GUERRA 04 WESTER 05 EROT/PORNO 06 ACAO 07 AVENTURA 08 DRAMA 09 INFANTIL 10 TERROR 11 SUSPENSE 12 POLICIAL 13 ROMANCE 14 COMEDIA/ROMANCE 15 DOCUMENTARIO 16 BIBLICO Generalização Indutiva FL - Filmes Leves FF - Filmes Fortes FS - Filmes Suspense FA - Filmes Ação FO - Filmes (Outros) IAIR-Intelliwise AI Research snavega@intelliwise.com 69

70 Outro Conceito, Outras Descobertas CODGENERO GENERO 01 COMEDIA 02 FICCAO 03 GUERRA 04 WESTER 05 EROT/PORNO 06 ACAO 07 AVENTURA 08 DRAMA 09 INFANTIL 10 TERROR 11 SUSPENSE 12 POLICIAL 13 ROMANCE 14 COMEDIA/ROMANCE 15 DOCUMENTARIO 16 BIBLICO Generalização Indutiva FI - Filmes Infantis FT - Filmes Teens FA - Filmes Adultos IAIR-Intelliwise AI Research snavega@intelliwise.com 70

71 Eplorando a Evolução Temporal Como é o comportamento de cada cliente? Detectar sequências típicas de consumo Ação - Romance - Ficção - Infantil Romance - Erótico - Bíblico - Documentário Ação - Western - Guerra - Ficção - Terror O fato é que muitas vezes não dá para deduzir que tipo de sequências são lógicas. É por isso que o apoio tem que ser sobre nossos dados, pois eles é que são a única referência empírica da realidade de que dispomos IAIR-Intelliwise AI Research snavega@intelliwise.com 71

72 Uma Colcha de Retalhos Estado atual do DM: inúmeras técnicas, cuja aplicação requer concentração sobre algoritmos específicos. Mas um analista humano tem tudo integrado em seu cérebro. Então qual é melhor tipo de futuro que podemos imaginar para o DM? IAIR-Intelliwise AI Research snavega@intelliwise.com 72

73 Agentes Inteligentes e Seus Ambientes O Ambiente O Agente O Conjunto Ambiente/Agente IAIR-Intelliwise AI Research snavega@intelliwise.com 73

74 Apresentando a Visão Tradicional Visão já obsoleta Organismos inteligentes requerem transdutores (órgãos dos sentidos) e sistemas motores para interagir com o meio ambiente. Entre esse nível e o processamento simbólico há um nível perceptual IAIR-Intelliwise AI Research snavega@intelliwise.com 74

75 O Sensório, o Perceptual e o Conhecimento PERCEPÇÃO Controle de Atenção SERIAL Desenvolvido Por Eperiência Mecanismos Inatos PARALELO IAIR-Intelliwise AI Research snavega@intelliwise.com 75

76 Empirismo: Conhecimento Dos Sentidos Conhecimento nasce através da percepção das regularidades estatísticas dos sinais sensórios, da formação de categorias e da indução de regras IAIR-Intelliwise AI Research snavega@intelliwise.com 76

77 Racionalismo: Conhecimento Do Pensar Conhecimento nasce através da refleão. Faz-se o pensamento circular por áreas perceptuais já formadas (simulação do mundo), o que leva a novas percepções IAIR-Intelliwise AI Research snavega@intelliwise.com 77

78 Conhecimento Modula Percepção e Vice-Versa A atenção modula a percepção. Ao desviar a atenção para uma característica em particular, perdemos a capacidade de perceber alguns outros detalhes IAIR-Intelliwise AI Research snavega@intelliwise.com 78

79 Das Similaridades Originam-se Categorias Perceptuais Maçãs Tangerinas O tipo de característica que define uma categoria pode variar, até mesmo em tempo real Frutas Conceituais IAIR-Intelliwise AI Research snavega@intelliwise.com 79

80 A Hierarquia da Mente Lógico-Associativo Epressões linguísticas eplícitas Simbólico Palavras, ícones, signos Sub-Simbólico Não tem epressão pública O gato está dormindo no tapete Gato Justiça Árvore [mesa] [gosto chocolate] Educação Formal Vivências IAIR-Intelliwise AI Research snavega@intelliwise.com 80

81 Decidi Fazer Um Eperimento Esse é o sofisticado instrumental que utilizei IAIR-Intelliwise AI Research snavega@intelliwise.com 81

82 Cento e Dez Arremessos de Moeda A O O A O A O A A A O O O A O A A A O A A O O O O O A A A O A A A O O A A A O O A O O A A O O A A A A A A O A A A A O A O A A O A A A O O A A A A A O A A A A O O O A O O O A O A O O O A A O O A O A O A O A O A O O O O O Organizei em matriz de 10 por 11 elementos, CARA ficou um quadrado em branco, COROA quadrado preto. IAIR-Intelliwise AI Research snavega@intelliwise.com 82

83 Simples Filtro Gaussiano Gaussian Blur, 20 piels IAIR-Intelliwise AI Research 83

84 Apresentando os Monstros da Moeda Adição de um pouco de ruído para dar tetura Original IAIR-Intelliwise AI Research 84

85 Como Separar Palavras da Fala? Como os bebês conseguem aprender a segmentar palavras se a fala humana raramente respeita fronteiras? IAIR-Intelliwise AI Research snavega@intelliwise.com 85

86 Um Eperimento Instigante A Dra. Jenny Saffran (University of Wisconsin-Madison) é uma das maiores autoridades no aprendizado estatístico de bebês Bebês de 8 meses de idade foram epostos a estímulos sonoros durante 2 minutos Sílabas utilizadas pa bi go tu pi la da do ti ku bu ro bidakupadotigolabubidakutupiropadotitupiro... IAIR-Intelliwise AI Research snavega@intelliwise.com 86

87 Os Estatísticos de 8 Meses de Idade Diferentes probabilidades transicionais go ro bi pa Palavras formadas com a sequência de sílabas tupiro golabu bidaku padoti bidakupadotigolabubidakutupibupadotitupiro... Bebês localizam ponto de quebra IAIR-Intelliwise AI Research snavega@intelliwise.com 87

88 Percepção Estatística é Multimodal IAIR-Intelliwise AI Research 88

89 Segmentou as palavras corretamente IAIR-Intelliwise AI Research 89

90 Um Quase-Eemplo: SISCOLO IAIR-Intelliwise AI Research 90

91 Limpeza e Preparação de Dados IAIR-Intelliwise AI Research snavega@intelliwise.com 91

92 Base Convertida IAIR-Intelliwise AI Research 92

93 Um Teste: O Simple Miner Avaliação Analítica Citologia Colpocitologia Oncótica data estado civil cor IAIR-Intelliwise AI Research snavega@intelliwise.com 93