H3 EAD-0750 INTELIGÊNCIA DE NEGÓCIOS Prof. Sérgio Luiz de Oliveira Assis sergioassis@usp.br 02
Agenda 1. Sistemas Transacionais e Sistemas do Ambiente Analítico 2. Fases de um Projeto de BI 3. Datawarehouses e Data Marts 4. Arquitetura para o ambiente analítico 5. The Datawarehouse Institute
Sistemas Transacionais e Sistemas de Inteligência de Negócios Os sistemas que estamos acostumados a utilizar no dia a dia das empresas são denominados Sistemas Transacionais São orientados para atender funções específicas tratando um número elevado de transações pontuais que afetam um número relativamente limitado de registros durante cada ciclo de transação Movimentos de Estoque Lançamentos Contábeis Notas Fiscais Faturas Pagamentos do Contas a Receber Etc... 3
Sistemas Transacionais São responsáveis pela coleta e tratamento das transações originais por exemplo, a emissão de um pedido, o estorno de uma mercadoria, o pagamento de uma fatura Registram e controlam os fatos e procedimentos relativos à operação e atividades produtivas da empresa e de seus processos auxiliares Modelos de dados baseados em Entidades, refletindo as regras do negócio Registram e controlam os fatos e procedimentos relativos à Modelos de dados baseados em Entidades, refletindo as regras do negócio 4
Sistemas Transacionais Características e Aplicações Processamento de transações Operações atômicas pré definidas Grande número de usuários Muitas pessoas realizando repetida e concorrentemente as mesmas operações Tempo de resposta < 3 segundos Transações curtas operando sobre poucos dadosconro 5
Sistemas de Inteligência de Negócio São processados em um ambiente com características especiais e com uma arquitetura denominada analítica A arquitetura analítica de informações é uma plataforma que permite acompanhar, simular e analisar os negócios e as ações da empresa de forma ágil, permeando todos os níveis de decisão auxiliares Esta tecnologia de apoio à decisão deve proporcionar informações para a condução das atividades do negócio, bem como fornecer aos gestores uma visão clara e acessível dos cenários, variáveis e situações relevantes as regras do negócio 6
Ambiente Analítico Características e Aplicações Visa à exploração e análise das informações táticas e gerenciais da organização transações Procura analisar o comportamento dos mercados e as tendências dos processos operacionais de usuários Busca auxiliar a direção da Organização a entender, otimizar e orientar as suas atividades Modelos de dados preocupados em registrar fatos e as formas pelas quais eles devem ser interpretadosro 7
Sistemas do Ambiente Analítico Características e Aplicações Objetivo Consultas para planejamento tático e estratégico Pequeno número de usuários Poucas pessoas realizando consultas planejadas e ad hoc Tempo de resposta Consultas longas operando sobre grande volume de dados Redundância planejada de dados para favorecer o desempenho Dados de ontem bases de dados atualizadas periodicamente Dados somente para leitura, sem necessidade de controle de concorrência 8
Demandas específicas Drill Up, Drill Down e Drill Across 9
Demandas sobre a infra estrutura As diferentes características dos ambientes transacional e analítico conduzem a diferentes demandas sobre a infra computacional Menor número de usuários Maior necessidade de espaço para arquivamento Utilização acíclica dos recursos de processamento Transacional Ambiente Analítico 10
Aspecto Sistema Transacional Ambiente Analítico Objetivo Registro de fatos relativos à operação e atividades produtivas da Empresa Exploração e análise de informações táticas e estratégicas Modelagem Modelos de dados relacionais Modelos de dados dimensionais Transações Usuários Tempo de Resposta Redundância Operações atômicas pre definidas e repetitivas Muitas pessoas executando operações repetitivas Transações curtas, na casa dos segundos Modelos normalizados com mínima redundância Consultas complexas para apoio à decisão Consultas longas operando em grandes volumes de dados Consultas longas sobre grandes volumes - minutos Redundância planejada visando desempenho Acesso Leitura e gravação Somente leitura
Diferentes Técnicas Construtivas Sistemas Transacionais
Diferentes Técnicas Construtivas Sistemas do Ambiente Analítico ITERAÇÃO
Agenda 1. Sistemas Transacionais e Sistemas do Ambiente Analítico 2. Fases de um Projeto de BI 3. Datawarehouses e Data Marts 4. Arquitetura para o ambiente analítico 5. The Datawarehouse Institute
Trilhas ou Vertentes de um Sistema de BI Um sistema de BI apresenta 3 trilhas a serem consideradas Trilha de Gestão Trilha Tecnológica Trilha Informacional
Trilhas ou Vertentes de um Sistema de BI Trilha de Gestão focada na identificação das premissas estratégicas e das questões críticas do negócio Trilha Tecnológica preocupada com os requerimentos da solução de software adotada, bem como com o desenvolvimento do sistema de informações e a infra estrutura tecnológica que deve apoiar a implementação da solução Trilha Informacional relacionada com a modelagem de métricas, indicadores e regras de negócio utilizadas pelos Gestores
Planejamento Estratégico TECNOLOGIA Arquitetura Ferramentas Metadados Planejamento Tático Definição dos Requisitos de Informação Projeto Físico Obtenção de dados Modelagem Distribuição Camada de Exploração Construção da Exploração NEGÓCIO OU GESTÃO INFORMAÇÃO Gerenciamento do Projeto - PMI
Agenda 1. Sistemas Transacionais e Sistemas do Ambiente Analítico 2. Fases de um Projeto de BI 3. Datawarehouses e Data Marts 4. Arquitetura para o ambiente analítico 5. Tipos de usuários e TDWI
Datawarehouse Data warehouse é um conjunto de dados integrado variante no tempo não volátil para suporte a decisões gerenciais Bill Inmon, Building the Data Warehouse
Datawarehouse Integrado Sistemas transacionais Data Warehouse Específicos da aplicação Integrados Aplicações e suas bases de dados foram construídos separadamente Vários Fornecedores Ao longo dos anos Integrados desde o início Construídos, ou pelo menos planejados, de uma só vez
Datawarehouse Variante no Tempo Sistemas transacionais O conteúdo do DW muda com o tempo para registrar a história Data Warehouse Primariamente preocupado com os dados atuais Preocupado com dados históricos
Datawarehouse Não Volátil Sistemas transacionais Data Warehouse insert update replace replace change update Mudanças constantes Carga Consistente Atualizado com freqüência Atualizações não seguem um planejamento Dados são carregados, não atualizados Cargas são planejadas
Data Mart Data Mart é uma coleção de assuntos organizados para suportar as necessidades de decisão de um Departamento ou de uma área de negócios RALPH KIMBALL
Data Mart Definições Formais Uma base de dados, ou coleção de bases de dados, projetada para ajudar os gerentes a tomar decisões estratégicas sobre seus negócios. Enquanto um data warehouse combina dados de toda a organização, os data marts são geralmente menores e focalizam em um assunto particular, ou um departamento. Alguns data marts, chamados data marts dependentes são subsets de um data warehouse maior. A visão convencional de um data mart é a de uma fonte de dados consultável, depurada e histórica para a geração de reportes e consultas ad hoc, para suportar o processo de tomada de decisão. (Gabriel Tanase)
Agenda 1. Sistemas Transacionais e Sistemas do Ambiente Analítico 2. Fases de um Projeto de BI 3. Datawarehouses e Data Marts 4. Arquitetura para o ambiente analítico 5. The Datawarehouse Institute
Data Mart Definições Formais A Arquitetura para Business Intelligence ETL Exploração Staging Data Mart Fontes Data Warehouse ETL ETL Produto Final Informação
O Ciclo Produtivo do Vinho Processamento Compras Fazendas Silos Depósitos Lojas Colheita Distribuição 27
Fontes de Dados ERPs Outros sistemas legados CRM Relacionamento Gestão de campanhas Internet Transações Click stream
ETL Parte 1 Processo otimizado de obtenção de dados relevantes ao processo decisório da empresa, departamento ou usuário Acessa múltiplas fontes de dados, segundo regras pré-definidas de negócio O E do ETL 29
Staging Area Área de trabalho para depurarse a informação Temporária e descartável Usada para armazenar dados de fontes distintas, para o processo de depuração 30
ETL Parte 2 Aplicação sistemática de regras de negócios para integração, consolidação, padronização e depuração de dados oriundos de fontes distintas O T do ETL 31
Data Warehouse Repositório de informações históricas, detalhadas, consolidadas e coerentes Usado para oferecer aos usuários uma visão de longo prazo dos negócios 32
ETL Parte 3 Processo de distribuir a informação, já tratada, aos consumidores finais Leva a informação ao usuário específico segundo regras que definem suas necessidades O L do ETL 33
Data Marts Local de onde o consumidor obtém informações específicas para satisfazer suas necessidades de negócios Existem vários deles, para diferentes comunidades de usuários 34
Exploração Processo pelo qual o usuário obtém as informações para suas necessidades de negócio Envolve diversas formas e ferramentas, combinadas para atender requisitos específicos 35
Informação A informação, conforme solicitada pelo usuário, no formato desejado, no momento certo, de forma a provê-lo dos recursos necessários para desempenhar sua função com confiança 36
A Arquitetura para o BI ETL Exploração Staging Data Mart Fontes Data Warehouse ETL ETL Produto Final 37 Informação
A estrutura do ambiente analítico 39
Duas linhas metodológicas VS BILL INMON RALPH KIMBALL
Primeiro o DW depois os DM s Bill Inmon Sistemas Fonte DM s Poupança Marketing Investimentos Extrair Transformar Carregar DW Rentabilidade Cartões de Crédito Crédito CIS Segmentação
DM s isolados, sem DW Ralph Kimball
Ou,,,Os DM s formam um SuperMart
Abordagem Incremental (1)
Abordagem Incremental (2)
Abordagem Incremental (3)
Agenda 1. Sistemas Transacionais e Sistemas do Ambiente Analítico 2. Fases de um Projeto de BI 3. Datawarehouses e Data Marts 4. Arquitetura para o ambiente analítico 5. The Datawarehouse Institute
The Data Warehousing Institute TWDI
Erros a se Evitar Para gerentes de data warehouses 49
Começar com a cadeia errada de patrocínio Um projeto de data warehouse sem a cadeia certa de patrocínio é como um automóvel com combustível e óleo insuficientes e com um problema de conexão entre o volante e as rodas. 50
Estabelecer expectativas que não podem ser atingidas e frustrar os executivos no momento da verdade Executivos sentem enorme frustração quando suas expectativas não são atingidas. Eles concentram sua frustração na pessoa que fez as promessas. 51
Agir de maneira politicamente ingênua Isto vai ajudar nossos gerentes a tomar melhores decisões. Este cara pensa que nós não temos tomado boas decisões e que este sistema vai dar um jeito em nós. 52
Carregar o warehouse com informações simplesmente porque estavam disponíveis Longas listas de informação de utilidade marginal aumentam a necessidade de armazenamento e o tempo de resposta Dados expúrios soterram informações importantes e levam a bancos de dados muito grandes 53
Acreditar que desenhar um data warehouse é o mesmo que desenhar um banco de dados para processamento transacional Objetivos diferentes, desenhos diferentes Tipos diferentes de usuários Conteúdo diferentes Dados sumarizados Séries de tempo 54
Escolher um gerente para o projeto que seja orientado a tecnologia, e não ao usuário Data warehousing é a respeito de serviço, não de armazenamento, e aborrecer seus clientes é um modo quase perfeito de acabar com seu negócio de serviços 55
Concentrar-se em dados tradicionais internos e ignorar o valor potencial de dados externos, bem como tipos complexos de dados Por necessitarem de informações de fontes externas, altos executivos, às vezes, podem achar os data warehouses irrelevantes 56
Apresentar dados com definições conflitantes e confusas O calcanhar de Aquiles de um DW é a necessidade de um consenso sobre a definição dos dados. Cada definição terá seu defensor, e eles não são facilmente conciliáveis. 27 definições de vendas. 57
Acreditar nas promessas sobre desempenho, capacidade e escalabilidade Servidores de DW Ferramentas de acesso Redes 58
Acreditar que uma vez que o DW está em produção, seus problemas acabaram DWs têm que ser intensamente cultivados após seu lançamento. Além disso, sem um líder dinâmico, ele pode facilmente perder o embalo e o patrocínio. Data warehousing é uma viagem, não um destino 59
Concentrar-se em acessos esporádicos e em relatórios periódicos Relatórios podem se tornar um peso morto, a menos que o destinatário os leia. Sistemas de alerta podem ser uma abordagem melhor, e podem fazer o DW parte essencial do sistema. Reinvente as necessidades dos executivos! 60
Prof. Sérgio Luiz de Oliveira Assis sergioassis@usp.br 61