Redes Neuronais e Aprendizagem Automática 1

Tamanho: px
Começar a partir da página:

Download "Redes Neuronais e Aprendizagem Automática 1"

Transcrição

1 Redes Neuronais e Aprendizagem Automática 2005/ a aula Instituto Superior Técnico Redes Neuronais e Aprendizagem Automática 1

2 Sumário Árvores de decisão (continuação) Entropia. Selecção de atributos por critério de entropia. Redes Neuronais e Aprendizagem Automática 2

3 Interpretação de entropia A entropia mede a incerteza sobre uma determinada variável aleatória Caso determínistico H(X) = 0 Caso equiprovável: H(X) = log 2 (K) Entropia mede a informação fornecida por uma VA: Maior incerteza = mais informação = maior entropia Menor incerteza = menos informação = menor entropia Em teoria da informação, a entropia mede o número de bits necessário para codificar 1 de K possíveis acontecimentos Caso equiprovável: codificação binária convencional Caso determinístico: 0 bits Casos intermédios: cada acontecimento pode ser codificado com log 2 (P (x i )) bits. Número de bits necessário para codificar cada acontecimento reduz-se com o aumento da probabilidade de ocorrência (menos informativo). Número médio de bits: H(X) Redes Neuronais e Aprendizagem Automática 3

4 Entropia conjunta Entropia conjunta de X e Y H(X, Y ) = n i=1 m P (x i, y k ) log 2 (P (x i, y k )) k=1 X e Y independentes: P (x i, y k ) = P (x i )P (y k ) H(X, Y ) = H(X) + H(Y ) Entropia condicional de X dado Y = y j H(X Y = y j ) = n P (x i Y = y j ) log 2 (P (x i Y = y j )) i=1 Redes Neuronais e Aprendizagem Automática 4

5 Entropia condicional Entropia condicional m H(X Y ) = E[H(X Y = y j )] = H(X Y = y j )P (y j ) j=1 m n P (x i, y j ) log 2 (P (x i y j )) j=1 i=1 (1) H(X Y ) mede a incerteza de X admitindo que se conhece Y. X e Y independentes: H(X Y ) = H(X) Relação determinística: X = F (Y ) P (x i Y = y j ) = δ ik(j), H(X Y ) = 0 (2) m n H(X Y ) = P (y j ) P (x i y j ) log 2 (P (x i y j )) = 0 j=1 Relação determinística: Não há qualquer incerteza (informação) em X quando Y é conhecido. i=1 Redes Neuronais e Aprendizagem Automática 5

6 Entropia condicional e conjunta Entropia condicional H(X, Y ) = H(X Y ) + H(Y ) Informação conjunta de X, Y é igual à informação de X dada Y mais a informação de Y. Redes Neuronais e Aprendizagem Automática 6

7 Informação mútua Informação comum (partilhada) entre X e Y : I(X; Y ) = H(X) H(X Y ) = H(X) + H(Y ) H(X, Y ) Redes Neuronais e Aprendizagem Automática 7

8 Diagramas de Entropia H(X,Y) H(X) H(Y) H(X Y) Caso geral I(X;Y) H(Y X) Redes Neuronais e Aprendizagem Automática 8

9 Diagramas de Entropia 2 H(X,Y) H(X) H(Y) I(X;Y) H(X Y) H(Y X) Variáveis com interdependência determinística Redes Neuronais e Aprendizagem Automática 9

10 Diagramas de Entropia 3 H(X,Y) H(X) H(Y) H(X Y) H(Y X) I(X;Y) Variáveis independentes Redes Neuronais e Aprendizagem Automática 10

11 Telecomunicações Shannon, 1949 Telecomunicações: x(n) H(X) Canal y(n) H(Y) Entropia do emissor: H(X) (taxa de transmissão) Incerteza sobre X à chegada: H(X Y ) (taxa de erro) Informação mútua I(X; Y ) = H(X) H(X Y ) (capacidade do canal) r(n) Redes Neuronais e Aprendizagem Automática 11

12 Selecção de atributo em árvores de decisão Informação mútua entre a saída e o atributo Critério de selecção: atributo com informação mútua máxima com o valor desejado I(Y ; A) = H(Y ) H(Y A) H(Y A) = P (v k )H(Y A = v k ) Redes Neuronais e Aprendizagem Automática 12

13 Interpretação Interpretação Impureza: medida de incerteza ou entropia Entropia do conjunto inicial T H(Y ) = i P (y i ) log 2 P (y i ) Entropia em cada folha v k quando é seleccionado o atributo A: H(Y A = v k ) = i P (y i v k ) log 2 P (y i v k ) Entropia média nas folhas ao seleccionar o atributo A H(Y A) = k P (v k )H(Y A = v k ) Redes Neuronais e Aprendizagem Automática 13

14 Atributo óptimo T A H(Y) v 1 v 2 v3 v4... v Ns T 1 T 2 T 3 T 4... T Ns H(Y A=v ) 1 H(Y A=v ) 2 H(Y A=v ) 3 H(T A=v ) 4 H(Y A=v ) Ns H(Y A) = E[H(Y A=v )] k Ganho de informação (redução de entropia) por seleccionar A I(Y ; A) = H(Y ) H(Y A) Decisão: arg max A I(Y ; A) = arg min A H(Y A) Redes Neuronais e Aprendizagem Automática 14

15 Exemplo: seleccção de atributo A 1 A 2 A 3 Y A 0 1 X 2 A 1 2 X 1 C 1 3 X 1 B 1 4 X 2 B 1 5 X 2 H(Y ) = 2 5 log log = H(Y A 1 = A) = 1 2 log log = 1.0 H(Y A 1 = B) = 0 H(Y A 1 = C) = 0 H(Y A 1 ) = 2 5 H(Y A 1 = A) = H(Y A 2 ) = = H(Y A 3 ) = 0 I(Y ; A 1 ) = I(Y ; A 2 ) = I(Y ; A 3 ) = Redes Neuronais e Aprendizagem Automática 15

16 Exemplo 2: seleccção de atributo Selecção por ganho de informação: atributo A 2 A 1 A 2 Y A X 0 A X 0 A Y 0 A Y 0 A Y 0 A Y 0 B Z 1 B Z 1 B Z 1 B Z 1 B Z 1 B Z 1 B Z 1 B Z1 1 B Z1 1 B Z1 0 B Z1 1 B Z1 1 Selecção por número de erros: atributo A 1 ou A 2 ID3 favorece a selecção de atributos com maior ganho de informação (V. exemplo) De um modo geral, o critério de informação mútua usado pelo ID3 favorece árvores pequenas relativamente a grandes. O método greedy utilizado apenas permite derivar uma solução, que pode não ser globalmente óptima. É possível derivar um algoritmo de selecção da árvore mais curta, testando exaustivamente todas as árvores que produzem um conjunto consistente de hipóteses. O algoritmo ID3 é uma aproximação heurística deste algoritmo usando um método greedy (e, portanto, muito mais eficiente). Redes Neuronais e Aprendizagem Automática 16

Instituto Superior Técnico. 19 de Janeiro de 2001. Parte I

Instituto Superior Técnico. 19 de Janeiro de 2001. Parte I Exame de Compressão e Codificação de Dados Secção de Telecomunicacções DEEC, Instituto Superior Técnico 19 de Janeiro de 1 Parte I Esta parte do exame é constituida por 20 perguntas de resposta múltipla.

Leia mais

Tópicos sobre Teoria da informação e codificação de fonte

Tópicos sobre Teoria da informação e codificação de fonte Tópicos sobre Teoria da informação e codificação de fonte Processamento Digital de Sinal II Artur Ferreira e Paulo Marques ( Dezembro 2003 ) Tópicos a abordar 1. Teoria da informação Informação própria

Leia mais

Prof. Aleksander S. Paterno

Prof. Aleksander S. Paterno Prof. Aleksander S. Paterno Disciplina de Princípios de Comunicações I Teórica ELEMENTOS DE TEORIA DA INFORMAÇÃO AULA em slide 13 20/11/2009 Quarta-feira 15:20 a 17:00 [1] Resumo da aula 13 O que é teoria

Leia mais

Redes Neuronais e Aprendizagem Automática 1

Redes Neuronais e Aprendizagem Automática 1 Redes Neuronais e Aprendizagem Automática 2005/2006 18 a aula Fernando.Silva@ist.utl.pt Instituto Superior Técnico Redes Neuronais e Aprendizagem Automática 1 Sumário Árvores de decisão (continuação) Redes

Leia mais

Elementos de Teoria da Informação

Elementos de Teoria da Informação Elementos de Teoria da Informação Mário A. T. Figueiredo Departamento de Engenharia Electrotécnica e de Computadores Instituto Superior Técnico 1049-001 Lisboa Portugal Versão 1.5 Novembro de 2007 2 Conteúdo

Leia mais

Codificação de Informação 2010/2011

Codificação de Informação 2010/2011 Codificação de Informação 2010/2011 Sumário: Criptografia Introdução, terminologia, critérios de classificação Alguns métodos de cifra clássicos Noção de segredo perfeito (Shannon) Criptografia e Cripto

Leia mais

Algoritmos Genéticos (GA s)

Algoritmos Genéticos (GA s) Algoritmos Genéticos (GA s) 1 Algoritmos Genéticos (GA s) Dado um processo ou método de codificar soluções de um problema na forma de cromossomas e dada uma função de desempenho que nos dá um valor de

Leia mais

Classificação - avaliação de resultados - 1. Mineração de Dados 2013

Classificação - avaliação de resultados - 1. Mineração de Dados 2013 Classificação - avaliação de resultados - 1 Mineração de Dados 2013 Luís Rato (Capítulo 4 do livro Introduction to Data Mining ) Universidade de Évora, Mineração de dados / Data Mining 1 Desempenho Desempenho

Leia mais

O Processo de KDD. Data Mining SUMÁRIO - AULA1. O processo de KDD. Interpretação e Avaliação. Seleção e Pré-processamento. Consolidação de dados

O Processo de KDD. Data Mining SUMÁRIO - AULA1. O processo de KDD. Interpretação e Avaliação. Seleção e Pré-processamento. Consolidação de dados SUMÁRIO - AULA1 O Processo de KDD O processo de KDD Interpretação e Avaliação Consolidação de dados Seleção e Pré-processamento Warehouse Data Mining Dados Preparados p(x)=0.02 Padrões & Modelos Conhecimento

Leia mais

Algoritmos Indutores de Árvores de

Algoritmos Indutores de Árvores de Algoritmos Indutores de Árvores de Decisão Fabrício J. Barth Sistemas Inteligentes Análise e Desenvolvimento de Sistemas Faculdades de Tecnologia Bandeirantes Abril de 2013 Problema: Diagnóstico para uso

Leia mais

NOÇÕES DE PROBABILIDADE

NOÇÕES DE PROBABILIDADE NOÇÕES DE PROBABILIDADE Fenômeno Aleatório: situação ou acontecimento cujos resultados não podem ser determinados com certeza. Exemplos: 1. Resultado do lançamento de um dado;. Hábito de fumar de um estudante

Leia mais

Entropia, Entropia Relativa

Entropia, Entropia Relativa Entropia, Entropia Relativa e Informação Mútua Miguel Barão (mjsb@di.uevora.pt) Departamento de Informática Universidade de Évora 13 de Março de 2003 1 Introdução Suponhamos que uma fonte gera símbolos

Leia mais

Aula 11 Esperança e variância de variáveis aleatórias discretas

Aula 11 Esperança e variância de variáveis aleatórias discretas Aula 11 Esperança e variância de variáveis aleatórias discretas Nesta aula você estudará os conceitos de média e variância de variáveis aleatórias discretas, que são, respectivamente, medidas de posição

Leia mais

SUMÁRIO LISTA DE FIGURAS... 15 LISTA DE TABELAS...17 LISTA DE SÍMBOLOS... 19. 1.1 - Introdução...21 1.2 - Revisão Bibliográfica...

SUMÁRIO LISTA DE FIGURAS... 15 LISTA DE TABELAS...17 LISTA DE SÍMBOLOS... 19. 1.1 - Introdução...21 1.2 - Revisão Bibliográfica... SUMÁRIO Pág. LISTA DE FIGURAS... 15 LISTA DE TABELAS...17 LISTA DE SÍMBOLOS... 19 CAPÍTULO 1 - INTRODUÇÃO... 21 1.1 - Introdução...21 1.2 - Revisão Bibliográfica...25 CAPÍTULO 2 - MODELAGEM ESTOCÁSTICA

Leia mais

KDD. Fases limpeza etc. Datamining OBJETIVOS PRIMÁRIOS. Conceitos o que é?

KDD. Fases limpeza etc. Datamining OBJETIVOS PRIMÁRIOS. Conceitos o que é? KDD Conceitos o que é? Fases limpeza etc Datamining OBJETIVOS PRIMÁRIOS TAREFAS PRIMÁRIAS Classificação Regressão Clusterização OBJETIVOS PRIMÁRIOS NA PRÁTICA SÃO DESCRIÇÃO E PREDIÇÃO Descrição Wizrule

Leia mais

16.36: Engenharia de Sistemas de Comunicação Aula 14: Códigos cíclicos e detecção de erros

16.36: Engenharia de Sistemas de Comunicação Aula 14: Códigos cíclicos e detecção de erros 16.36: Engenharia de Sistemas de Comunicação Aula 14: Códigos cíclicos e detecção de erros Eytan Modiano Códigos Cíclicos Um código cíclico é um código de bloco linear onde c é uma palavra-chave, e também

Leia mais

4. Protocolos Teóricos e Protocolos de Controlo de Ligação Protocolos ARQ; Especificação de Protocolos; Eficiência ARQ.

4. Protocolos Teóricos e Protocolos de Controlo de Ligação Protocolos ARQ; Especificação de Protocolos; Eficiência ARQ. 4. Protocolos Teóricos e Protocolos de Controlo de Ligação Protocolos ARQ; Especificação de Protocolos; Eficiência ARQ. Redes de Comunicações/Computadores I Secção de Redes de Comunicação de Dados Protocolos

Leia mais

Aula 04. Código BCD, Códigos Alfa-numéricos e Sistemas de Detecção de Erros

Aula 04. Código BCD, Códigos Alfa-numéricos e Sistemas de Detecção de Erros Aula 04 Código BCD, Códigos Alfa-numéricos e Sistemas de Detecção de Erros Prof. Otávio Gomes otavio.gomes@ifmg.edu.br sites.google.com/a/ifmg.edu.br/otavio-gomes/ 1 Bytes A maioria dos microcomputadores

Leia mais

PE-MEEC 1S 09/10 118. Capítulo 4 - Variáveis aleatórias e. 4.1 Variáveis. densidade de probabilidade 4.2 Valor esperado,

PE-MEEC 1S 09/10 118. Capítulo 4 - Variáveis aleatórias e. 4.1 Variáveis. densidade de probabilidade 4.2 Valor esperado, Capítulo 4 - Variáveis aleatórias e distribuições contínuas 4.1 Variáveis aleatórias contínuas. Função densidade de probabilidade 4.2 Valor esperado, variância e algumas das suas propriedades. Moda e quantis

Leia mais

Probabilidade. Definições e Conceitos

Probabilidade. Definições e Conceitos Probabilidade Definições e Conceitos Definições Probabilidade Medida das incertezas relacionadas a um evento Chances de ocorrência de um evento Aplicação em: Avaliação de Desempenho de Sistemas Engenharia

Leia mais

Sistemas de Apoio à Decisão Árvores de decisão V 1.2, V.Lobo, EN/ISEGI, 2010

Sistemas de Apoio à Decisão Árvores de decisão V 1.2, V.Lobo, EN/ISEGI, 2010 V., V.Lobo, EN/ISEGI, O que é a árvore de decisão? Arvores de decisão Victor Lobo Algorítmo para tomar decisões (ou classificar) Modo de representar conhecimento Tem penas? Nós (testes, ou conceitos) Comprimento

Leia mais

Algoritmos e Estrutura de Dados. Aula 13 Estrutura de Dados: Árvores de Pesquisa Binária Prof. Tiago A. E. Ferreira

Algoritmos e Estrutura de Dados. Aula 13 Estrutura de Dados: Árvores de Pesquisa Binária Prof. Tiago A. E. Ferreira Algoritmos e Estrutura de Dados Aula 13 Estrutura de Dados: Árvores de Pesquisa Binária Prof. Tiago A. E. Ferreira Introdução Uma árvore de pesquisa binária são estruturas de dados que admitem operações

Leia mais

Satisfação de Restrições. Capítulo 5 (disponível online)

Satisfação de Restrições. Capítulo 5 (disponível online) Satisfação de Restrições Capítulo 5 (disponível online) Sumário Problemas de Satisfação de Restrições (CSPs) Procura com Retrocesso para CSPs Procura Local para CSPs Estrutura dos CSPs Problemas de Satisfação

Leia mais

Errata. Livro: Transmissão Digital - Princípios e Aplicações Edição:1ª Código: 4391 Autores: Dayan Adionel Guimarães & Rausley Adriano Amaral de Souza

Errata. Livro: Transmissão Digital - Princípios e Aplicações Edição:1ª Código: 4391 Autores: Dayan Adionel Guimarães & Rausley Adriano Amaral de Souza Errata Livro: Transmissão Digital - Princípios e Aplicações Edição:1ª Código: 4391 Autores: Dayan Adionel Guimarães & Rausley Adriano Amaral de Souza Página 3 Primeiro parágrafo Excluir o seguinte texto

Leia mais

PLANIFICAÇÃO ANUAL. MACS Matemática Aplicada às Ciências Sociais. Curso de Línguas e Humanidades 2º ANO (11º ANO)

PLANIFICAÇÃO ANUAL. MACS Matemática Aplicada às Ciências Sociais. Curso de Línguas e Humanidades 2º ANO (11º ANO) PLANIFICAÇÃO ANUAL MACS Matemática Aplicada às Ciências Sociais Curso de Línguas e Humanidades º ANO (º ANO) Ano Lectivo 0/05 Planificação º Ano - MACS º Período Número de Aulas Previstas 0 Apresentação

Leia mais

COMENTÁRIO AFRM/RS 2012 ESTATÍSTICA Prof. Sérgio Altenfelder

COMENTÁRIO AFRM/RS 2012 ESTATÍSTICA Prof. Sérgio Altenfelder Comentário Geral: Prova muito difícil, muito fora dos padrões das provas do TCE administração e Economia, praticamente só caiu teoria. Existem três questões (4, 45 e 47) que devem ser anuladas, por tratarem

Leia mais

Teoria da Informação

Teoria da Informação Charles Casimiro Cavalcante charles@gtel.ufc.br Grupo de Pesquisa em Telecomunicações Sem Fio GTEL Programa de Pós-Graduação em Engenharia de Teleinformática Universidade Federal do Ceará UFC http://www.gtel.ufc.br/

Leia mais

Avaliação de Processos Produtivos - APP

Avaliação de Processos Produtivos - APP Avaliação de Processos Produtivos - APP Aula 13 Os direitos desta obra foram cedidos à Universidade Nove de Julho Este material é parte integrante da disciplina oferecida pela UNINOVE. O acesso às atividades,

Leia mais

(b) Qual a probabilidade de ter sido transmitido um zero, sabendo que foi recebido um (1.0) zero?

(b) Qual a probabilidade de ter sido transmitido um zero, sabendo que foi recebido um (1.0) zero? Grupo I 5.0 valores 1. Um sistema de comunicação binária transmite zeros e uns com probabilidade 0.5 em qualquer dos casos. Devido ao ruído existente no canal de comunicação há erros na recepção: transmitido

Leia mais

Engenharia de Software II

Engenharia de Software II Engenharia de Software II Aula 8 http://www.ic.uff.br/~bianca/engsoft2/ Aula 8-17/05/2006 1 Ementa Processos de desenvolvimento de software Estratégias e técnicas de teste de software (Caps. 13 e 14 do

Leia mais

Lista de Exercícios - Distribuição Normal

Lista de Exercícios - Distribuição Normal Lista de Exercícios - Distribuição Normal Monitor: Giovani e Prof. Jomar 01. Em indivíduos sadios, o consumo renal de oxigênio tem distribuição Normal de média 12 cm³/min e desvio padrão 1,5 cm³/min. Determinar

Leia mais

Transmissão de Dados

Transmissão de Dados T 1 Transmissão de Dados FEUP/DEEC/RCD 2002/03 MPR/JAR T 2 Terminologia e Conceitos Meios de transmissão A transmissão de sinais, sob a forma de ondas electromagnéticas, é suportada em meios de transmissão

Leia mais

Avaliação de Desempenho

Avaliação de Desempenho Avaliação de Desempenho Aulas passadas Modelagem de sistemas via cadeias de Markov Aula de hoje Introdução à simulação Gerando números pseudo-aleatórios 1 O Ciclo de Modelagem Sistema real Criação do Modelo

Leia mais

Momentos de uma variável aleatória

Momentos de uma variável aleatória Momentos de uma variável aleatória O cálculo de E[X] (valor médio de X) e E[X 2 ] (que intervém na variância), pode ser generalizado pensando em E[X k ] com k IN. Definição: Dada uma v.a. X, chama-se momento

Leia mais

Aprendizado Bayesiano

Aprendizado Bayesiano Aprendizado Bayesiano Marcelo K. Albertini 26 de Junho de 2014 2/20 Conteúdo Teorema de Bayes Aprendizado MAP Classificador ótimo de Bayes 3/20 Dois papéis para métodos bayesianos Algoritmos de aprendizado

Leia mais

Geração de variáveis aleatórias

Geração de variáveis aleatórias Geração de variáveis aleatórias Danilo Oliveira, Matheus Torquato Centro de Informática Universidade Federal de Pernambuco 5 de setembro de 2012 Danilo Oliveira, Matheus Torquato () 5 de setembro de 2012

Leia mais

Evolução via Selecção Natural (Darwin) - sobrevivem os mais aptos (fittest )

Evolução via Selecção Natural (Darwin) - sobrevivem os mais aptos (fittest ) Generalidades A metáfora Biológica Evolução via Selecção Natural (Darwin) - sobrevivem os mais aptos (fittest ) Operadores Genéticos (Mendel) - recombinação (crossover ) - mutação (mutation ) Algoritmos

Leia mais

BC-0504 Natureza da Informação

BC-0504 Natureza da Informação BC-0504 Natureza da Informação Aulas 2 Entropia na termodinâmica e na teoria da informação Equipe de professores de Natureza da Informação Parte 4 Os pilares da teoria da informação Os estudos de criptografia

Leia mais

Distribuição Uniforme Discreta. Modelos de distribuições discretas. Distribuição de Bernoulli. Distribuição Uniforme Discreta

Distribuição Uniforme Discreta. Modelos de distribuições discretas. Distribuição de Bernoulli. Distribuição Uniforme Discreta Distribuição Uniforme Discreta Modelos de distribuições discretas Notas de Aula da Profa. Verónica González-López e do Prof. Jesús Enrique García, digitadas por Beatriz Cuyabano. Acréscimos e modicações:

Leia mais

Programação https://fenix.ist.utl.pt/disciplinas/pro/ deec-prog@disciplinas.ist.utl.pt

Programação https://fenix.ist.utl.pt/disciplinas/pro/ deec-prog@disciplinas.ist.utl.pt Programação https://fenix.ist.utl.pt/disciplinas/pro/ deec-prog@disciplinas.ist.utl.pt Sumário Corpo Docente Página da disciplina Funcionamento Avaliação Suporte informático 01-2 Corpo Docente Aulas teóricas/problemas

Leia mais

CRM e Prospecção de Dados

CRM e Prospecção de Dados CRM e Prospecção de Dados Marília Antunes aula de 6 Abril 09 5 Modelos preditivos para classificação 5. Introdução Os modelos descritivos, tal como apresentados atrás, limitam-se à sumarização dos dados

Leia mais

Construir um modelo de dados é: - Identificar, Analisar e Registar a política da organização acerca dos dados

Construir um modelo de dados é: - Identificar, Analisar e Registar a política da organização acerca dos dados 4. Modelo Entidade Associação 4.1. Introdução Modelo de Dados. Visão dos dados em vez de visão das aplicações. Eliminação de redundâncias. Partilha de dados pelas aplicações Construir um modelo de dados

Leia mais

Faculdade de Engenharia Optimização. Prof. Doutor Engº Jorge Nhambiu

Faculdade de Engenharia Optimização. Prof. Doutor Engº Jorge Nhambiu 1 Programação Não Linear Aula 25: Programação Não-Linear - Funções de Uma única variável Mínimo; Mínimo Global; Mínimo Local; Optimização Irrestrita; Condições Óptimas; Método da Bissecção; Método de Newton.

Leia mais

Processamento e Comunicação Multimédia

Processamento e Comunicação Multimédia Universidade da Beira Interior Departamento de Informática Processamento e Comunicação Multimédia Mestrado em Eng. Informática João Caldeira Maio 2008 Tema Códigos Convolucionais: Codificação JC 2007/2008

Leia mais

L.J. Amoreira UBI. Dezembro 2010

L.J. Amoreira UBI. Dezembro 2010 Definição de informação L.J. Amoreira UBI Dezembro 2010 Entropia (ou incerteza [ou ignorância]) A incerteza associada a uma variável aleatória X que pode tomar os valores x 1, x 2,..., x n com probabilidades

Leia mais

Qual a sua chance de ganhar?...o ensino de probabilidade através de jogos

Qual a sua chance de ganhar?...o ensino de probabilidade através de jogos Qual a sua chance de ganhar?...o ensino de probabilidade através de jogos Elaine Gabriel do Nascimento Universidade Estadual da Paraíba Brasil elainegn@oi.com.br Júlio Pereira da Silva Universidade Estadual

Leia mais

Conteúdo. SCC5909 Fundamentos de Multimídia. Ementa do Curso. 1. Apresentação da Disciplina. Ementa do Curso. Ementa do Curso

Conteúdo. SCC5909 Fundamentos de Multimídia. Ementa do Curso. 1. Apresentação da Disciplina. Ementa do Curso. Ementa do Curso SCC5909 Fundamentos de Multimídia Aula 1 Conteúdo Apresentação da disciplina Conceitos e definições em multimídia Princípios de compressão Prof.: Dr. Rudinei Goularte (rudinei@icmc.usp.br) Instituto de

Leia mais

DISTRIBUIÇÕES DE PROBABILIDADE

DISTRIBUIÇÕES DE PROBABILIDADE DISTRIBUIÇÕES DE PROBABILIDADE i1 Introdução Uma distribuição de probabilidade é um modelo matemático que relaciona um certo valor da variável em estudo com a sua probabilidade de ocorrência. Há dois tipos

Leia mais

TEORIA DO RISCO. LUIZ SANTOS / MAICKEL BATISTA economia.prof.luiz@hotmail.com maickel_ewerson@hotmail.com

TEORIA DO RISCO. LUIZ SANTOS / MAICKEL BATISTA economia.prof.luiz@hotmail.com maickel_ewerson@hotmail.com TEORIA DO RISCO LUIZ SANTOS / MAICKEL BATISTA economia.prof.luiz@hotmail.com maickel_ewerson@hotmail.com 1 TARIFAÇÃO (FERREIRA, 2002) Diversos conceitos e metodologias envolvidos no cálculo do preço pago

Leia mais

Aula de Hoje. Sistemas e Sinais Sinais e Sistemas. Sinal em Tempo Contínuo. Sinal Acústico

Aula de Hoje. Sistemas e Sinais Sinais e Sistemas. Sinal em Tempo Contínuo. Sinal Acústico Aula de Hoje Sistemas e Sinais Sinais e Sistemas lco@ist.utl.pt Instituto Superior Técnico O que é um sinal? Como representamos matematicamente um sinal? Qual a diferença entre um sinal contínuo e um sinal

Leia mais

Extração de Árvores de Decisão com a Ferramenta de Data Mining Weka

Extração de Árvores de Decisão com a Ferramenta de Data Mining Weka Extração de Árvores de Decisão com a Ferramenta de Data Mining Weka 1 Introdução A mineração de dados (data mining) pode ser definida como o processo automático de descoberta de conhecimento em bases de

Leia mais

INF 1771 Inteligência Artificial

INF 1771 Inteligência Artificial Edirlei Soares de Lima INF 1771 Inteligência Artificial Aula 12 Aprendizado de Máquina Agentes Vistos Anteriormente Agentes baseados em busca: Busca cega Busca heurística Busca local

Leia mais

Aula 04 Método de Monte Carlo aplicado a análise de incertezas. Aula 04 Prof. Valner Brusamarello

Aula 04 Método de Monte Carlo aplicado a análise de incertezas. Aula 04 Prof. Valner Brusamarello Aula 04 Método de Monte Carlo aplicado a análise de incertezas Aula 04 Prof. Valner Brusamarello Incerteza - GUM O Guia para a Expressão da Incerteza de Medição (GUM) estabelece regras gerais para avaliar

Leia mais

Redes Complexas Aula 2

Redes Complexas Aula 2 Redes Complexas Aula 2 Aula passada Logística, regras Introdução e motivação Aula de hoje Redes sociais Descobrimento Características Redes Sociais Vértices: pessoas ou grupo de pessoas Arestas: algum

Leia mais

UNIDADE I Aula 6 Taxas de Transmissão Máxima em um Canal: Teorema de Nyquist e Teorema de Shannon. Fonte: Rodrigo Semente

UNIDADE I Aula 6 Taxas de Transmissão Máxima em um Canal: Teorema de Nyquist e Teorema de Shannon. Fonte: Rodrigo Semente UNIDADE I Aula 6 Taxas de Transmissão Máxima em um Canal: Teorema de Nyquist e Teorema de Shannon Fonte: Rodrigo Semente Sabemos que, quanto maior a banda passante de um meio físico, maior o número de

Leia mais

Teste de Software Estrutural ou Caixa Branca. Disciplina de Engenharia de Software prof. Andrey Ricardo Pimentel andreyrp@hotmail.

Teste de Software Estrutural ou Caixa Branca. Disciplina de Engenharia de Software prof. Andrey Ricardo Pimentel andreyrp@hotmail. Teste de Software Estrutural ou Caixa Branca Disciplina de Engenharia de Software prof. Andrey Ricardo Pimentel andreyrp@hotmail.com Contexto da Aula Introdução a ES Qualidade Métricas de Software Planejamento

Leia mais

Base Nacional Comum Curricular 2016. Lemann Center at Stanford University

Base Nacional Comum Curricular 2016. Lemann Center at Stanford University Base Nacional Comum Curricular 2016 Lemann Center at Stanford University Parte II: Base Nacional Comum: Análise e Recomendações da Seção de Matemática Phil Daro Dezembro, 2015 BASE NACIONAL COMUM: ANÁLISE

Leia mais

CODIFICAÇÃO NA PRESENÇA DO VALOR UNIVERSIDADE ESTADUAL DE MARINGÁ CENTRO DE CIÊNCIAS EXATAS DEPARTAMENTO DE MATEMÁTICA PROGRAMA DE.

CODIFICAÇÃO NA PRESENÇA DO VALOR UNIVERSIDADE ESTADUAL DE MARINGÁ CENTRO DE CIÊNCIAS EXATAS DEPARTAMENTO DE MATEMÁTICA PROGRAMA DE. UNIVERSIDADE ESTADUAL DE MARINGÁ PROGRAMA DE CENTRO DE CIÊNCIAS EXATAS DEPARTAMENTO DE MATEMÁTICA PÓS-GRADUAÇÃO EM MATEMÁTICA (Doutorado) LUCIANO PANEK CODIFICAÇÃO NA PRESENÇA DO VALOR SEMÂNTICO DA INFORMAÇÃO

Leia mais

Descoberta de Conhecimento em Bases de Dados. Classificação

Descoberta de Conhecimento em Bases de Dados. Classificação Universidade Técnica de Lisboa INSTITUTO SUPERIOR DE ECONOMIA E GESTÃO Informática e Sistemas de Informação Aplicados em Economia Descoberta de Conhecimento em Bases de Dados. Classificação Descoberta

Leia mais

Autómatos Finitos Determinísticos

Autómatos Finitos Determinísticos Ficha 2 Autómatos Finitos Determinísticos 2.1 Introdução Se olharmos, de forma simplificada, para um computador encontramos três componentes principais: a) A unidade de processamento central b) As unidades

Leia mais

Protocolo Ethernet e Dispositivos de Interconexão de LANs

Protocolo Ethernet e Dispositivos de Interconexão de LANs Protocolo Ethernet e Dispositivos de Interconexão de LANs Prof. Rafael Guimarães Redes de Alta Velocidade Tópico 4 - Aula 1 Tópico 4 - Aula 1 Rafael Guimarães 1 / 31 Sumário Sumário 1 Motivação 2 Objetivos

Leia mais

I.3 Indução de Árvores de Decisão

I.3 Indução de Árvores de Decisão I.3 Indução de Árvores de Decisão Nesta seção serão apresentados alguns conceitos básicos da técnica de indução de árvores de decisão a partir de um exemplo sobre o efeito dos raios solares sobre algumas

Leia mais

Métodos Numéricos. A. Ismael F. Vaz. Departamento de Produção e Sistemas Escola de Engenharia Universidade do Minho aivaz@dps.uminho.

Métodos Numéricos. A. Ismael F. Vaz. Departamento de Produção e Sistemas Escola de Engenharia Universidade do Minho aivaz@dps.uminho. Métodos Numéricos A. Ismael F. Vaz Departamento de Produção e Sistemas Escola de Engenharia Universidade do Minho aivaz@dps.uminho.pt Mestrado Integrado em Engenharia Mecânica Ano lectivo 2007/2008 A.

Leia mais

Deve justificar convenientemente todas as suas respostas.

Deve justificar convenientemente todas as suas respostas. nstituto Superior de Engenharia de Lisboa Departamento de Engenharia de Electrónica e Telecomunicações e de Computadores Secção de Redes de Comunicação de Dados RC (LEC / LESTE) Exame ª Chamada 0/0/06

Leia mais

Primeiro Curso de Programação em C 3 a Edição

Primeiro Curso de Programação em C 3 a Edição Edson Luiz França Senne Primeiro Curso de Programação em C 3 a Edição Visual Books Sumário Prefácio da Terceira Edição 9 Prefácio da Primeira Edição 11 Aula 1 13 Regras de sintaxe de uma linguagem de programação...

Leia mais

DO ANALÓGICO AO DIGITAL: CONCEITOS E

DO ANALÓGICO AO DIGITAL: CONCEITOS E DO ANALÓGICO AO DIGITAL: CONCEITOS E TÉCNICAS BÁSICASB Fernando Pereira Instituto Superior TécnicoT Digitalização Processo onde se expressa informação analógica de forma digital. A informação analógica

Leia mais

Sistemas Distribuídos: Conceitos e Projeto Introdução a Tolerância a Falhas

Sistemas Distribuídos: Conceitos e Projeto Introdução a Tolerância a Falhas Sistemas Distribuídos: Conceitos e Projeto Introdução a Tolerância a Falhas Francisco José da Silva e Silva Laboratório de Sistemas Distribuídos (LSD) Departamento de Informática / UFMA http://www.lsd.ufma.br

Leia mais

IA: Busca Competitiva. Ricardo Britto DIE-UFPI rbritto@ufpi.edu.br

IA: Busca Competitiva. Ricardo Britto DIE-UFPI rbritto@ufpi.edu.br IA: Busca Competitiva Ricardo Britto DIE-UFPI rbritto@ufpi.edu.br Sumário Introdução Árvores de Jogos Minimax Antecipação Limitada Poda Alfa-beta Introdução Jogos têm sido continuamente uma importante

Leia mais

TEORIA DE INFORMAÇÃO UM NANOCURSO

TEORIA DE INFORMAÇÃO UM NANOCURSO TEORIA DE INFORMAÇÃO UM NANOCURSO Max H. M. Costa Unicamp Set. 2016 Centenário de Shannon - SBrT - Santarém Dedicação: a memória de Claude Shannon Claude Shannon 1916-2001 matemático, engenheiro eletrônico,

Leia mais

2 Independência e dependência das taxas de juro

2 Independência e dependência das taxas de juro 1 Incerteza e juro aleatório Considere-se o intervalo [0, n], o tempo medido em anos, e a partição [0, 1], (1, 2],..., (n 1, 1] e suponha-se que no início do ano t são aplicadas C t unidades de capital,

Leia mais

Projeto de Redes Neurais e MATLAB

Projeto de Redes Neurais e MATLAB Projeto de Redes Neurais e MATLAB Centro de Informática Universidade Federal de Pernambuco Sistemas Inteligentes IF684 Arley Ristar arrr2@cin.ufpe.br Thiago Miotto tma@cin.ufpe.br Baseado na apresentação

Leia mais

A Preparação dos Dados

A Preparação dos Dados A Preparação dos Dados Escolhas Básicas Objetos, casos, instâncias Objetos do mundo real: carros, arvores, etc Ponto de vista da mineração: um objeto é descrito por uma coleção de características sobre

Leia mais

Introdução às Redes Neurais Artificiais

Introdução às Redes Neurais Artificiais Introdução às Redes Neurais Artificiais Treinamento via Algoritmos Genéticos Prof. João Marcos Meirelles da Silva http://www.professores.uff.br/jmarcos Departamento de Engenharia de Telecomunicações Escola

Leia mais

Aspectos Sociais de Informática. Simulação Industrial - SIND

Aspectos Sociais de Informática. Simulação Industrial - SIND Aspectos Sociais de Informática Simulação Industrial - SIND Jogos de Empresas Utilizada com sucesso para o treinamento e desenvolvimento gerencial Capacita estudantes e profissionais de competência intelectual

Leia mais

INE 5111 Gabarito da Lista de Exercícios de Probabilidade INE 5111 LISTA DE EXERCÍCIOS DE PROBABILIDADE

INE 5111 Gabarito da Lista de Exercícios de Probabilidade INE 5111 LISTA DE EXERCÍCIOS DE PROBABILIDADE INE 5 LISTA DE EERCÍCIOS DE PROBABILIDADE INE 5 Gabarito da Lista de Exercícios de Probabilidade ) Em um sistema de transmissão de dados existe uma probabilidade igual a 5 de um dado ser transmitido erroneamente.

Leia mais

1. Extremos de uma função

1. Extremos de uma função Máximo e Mínimo de Funções de Várias Variáveis 1. Extremos de uma função Def: Máximo Absoluto, mínimo absoluto Seja f : D R R função (i) Dizemos que f assume um máximo absoluto (ou simplesmente um máximo)

Leia mais

Introdução à Transmissão Digital. Funções básicas de processamento de sinal num sistema de comunicações digitais.

Introdução à Transmissão Digital. Funções básicas de processamento de sinal num sistema de comunicações digitais. Introdução à Transmissão Digital Funções básicas de processamento de sinal num sistema de comunicações digitais. lntrodução à transmissão digital Diferença entre Comunicações Digitais e Analógicas Comunicações

Leia mais

Escola Superior de Tecnologia e Gestão Instituto Politécnico de Bragança Março de 2006

Escola Superior de Tecnologia e Gestão Instituto Politécnico de Bragança Março de 2006 Redes de Computadores Escola Superior de Tecnologia e Gestão Instituto Politécnico de Bragança Março de 2006 Sinal no domínio do tempo Redes de Computadores 2 1 Sinal sinusoidal no tempo S(t) = A sin (2πft

Leia mais

ESTRUTURAS DE DADOS II

ESTRUTURAS DE DADOS II ESTRUTURAS DE DADOS II Msc. Daniele Carvalho Oliveira Doutoranda em Ciência da Computação - UFU Mestre em Ciência da Computação UFU Bacharel em Ciência da Computação - UFJF Conteúdo Programático 1. Introdução

Leia mais

Métodos e Algoritmos de Data Mining(parte 2)

Métodos e Algoritmos de Data Mining(parte 2) Robert Groth Métodos e Algoritmos de Data Mining(parte 2) Usama Fayyad et al 1 Métodos e Algoritmos de Data Mining Soluções distância (K-NN e clustering) Naïve-Bayes Arvores de decisão Regras de associação

Leia mais

DISTRIBUIÇÃO NORMAL 1

DISTRIBUIÇÃO NORMAL 1 DISTRIBUIÇÃO NORMAL 1 D ensid ade Introdução Exemplo : Observamos o peso, em kg, de 1500 pessoas adultas selecionadas ao acaso em uma população. O histograma por densidade é o seguinte: 0.04 0.03 0.02

Leia mais

4 TEORIA MATEMÁTICA DA COMUNICAÇÃO DE SHANNON

4 TEORIA MATEMÁTICA DA COMUNICAÇÃO DE SHANNON 4 TEORIA MATEMÁTICA DA COMUNICAÇÃO DE SHANNON A Teoria Matemática da Comunicação, ou Teoria da Comunicação de Shannon foi proposta por Claude Shannon no final da década de 1940 como forma de sistematizar

Leia mais

Planeamento e Controlo de Projectos

Planeamento e Controlo de Projectos Planeamento e Controlo de Projectos Transparências de apoio à leccionação de aulas teóricas Versão 2.1 c 2010, 2006, 1998 Maria Antónia Carravilla José Fernando Oliveira FEUP Planeamento e Controlo de

Leia mais

Características do sinal de voz

Características do sinal de voz Características do sinal de voz Análise na freuência: a voz apresenta um conteúdo espectral ue vai de 0 Hz a 0 khz; os sons vozeados ou nasais (e.g. vogais e algumas consoantes j, l, m) apresentam um espectro

Leia mais

Redes de Computadores 3ª Colecção Exercícios diversos 16 de Dezembro de 2005 Spanning Tree, Protocolo IP, Encaminhamento em redes IP e Cam.

Redes de Computadores 3ª Colecção Exercícios diversos 16 de Dezembro de 2005 Spanning Tree, Protocolo IP, Encaminhamento em redes IP e Cam. I Bridging Transparente Spanning Tree 1) Considere a rede local, da figura. Admitindo que as bridges são transparentes e correm o algoritmo Spanning Tree (IEEE 802.1d) HOST Y HOST Z HOST X Bridge Prioridade

Leia mais

3. REDES DE CAMADA ÚNICA

3. REDES DE CAMADA ÚNICA 3. REDES DE CAMADA ÚNICA Perceptron Forma mais simples de RN Utilizado para classificação de padrões (linearmente separáveis) Consiste em um único neurônio, com pesos sinápticos ajustáveis e bias 3.1 Funções

Leia mais

Como saber se a comunicação verbal é bem sucedida?

Como saber se a comunicação verbal é bem sucedida? Como saber se a comunicação verbal é bem sucedida? Referências: Davidson, Donald, A nice derangement of epitaphs, in Martinich, A. P. (ed.), The Philosophy of Language, Oxford, Oxford University Press,

Leia mais

MLP (Multi Layer Perceptron)

MLP (Multi Layer Perceptron) MLP (Multi Layer Perceptron) André Tavares da Silva andre.silva@udesc.br Roteiro Rede neural com mais de uma camada Codificação de entradas e saídas Decorar x generalizar Perceptron Multi-Camada (MLP -

Leia mais

Vamos Jogar no Totoloto?

Vamos Jogar no Totoloto? Vamos Jogar no Totoloto? N CRISTIN BICO MTOS CRL HENRIQUES Departamento de Matemática, Escola Superior de Tecnologia de Viseu Tendo como objectivo despertar o interesse dos alunos pelo cálculo de probabilidades,

Leia mais

Espaços Amostrais Finitos

Espaços Amostrais Finitos EST029 Cálculo de Probabilidade I Cap. 2: Espaços Amostrais Finitos Prof. Clécio da Silva Ferreira Depto Estatística - UFJF Espaços Amostrais Finitos Espaço amostral S = {a 1, a 2, a 3,..., a k } (finito)

Leia mais

Códigos Lineares CAPÍTULO 4

Códigos Lineares CAPÍTULO 4 CAPÍTULO 4 Códigos Lineares 1. Definição, pârametros e peso mínimo Seja F q o corpo de ordem q. Portanto, pelo Teorema 3.24, q = p m para algum primo p e inteiro positivo m. Definição 4.1. Um código linear

Leia mais

Otimização por Descida de Gradiente

Otimização por Descida de Gradiente Universidade Federal do Espírito Santo Centro de Ciências Agrárias CCA UFES Departamento de Computação Otimização por Descida de Gradiente Redes Neurais Artificiais Site: http://jeiks.net E-mail: jacsonrcsilva@gmail.com

Leia mais

IA: Problemas de Satisfação de Restrições. Prof. Msc. Ricardo Britto DIE-UFPI rbritto@ufpi.edu.br

IA: Problemas de Satisfação de Restrições. Prof. Msc. Ricardo Britto DIE-UFPI rbritto@ufpi.edu.br IA: Problemas de Satisfação de Restrições Prof. Msc. Ricardo Britto DIE-UFPI rbritto@ufpi.edu.br Introdução Um PSR é definido por um conjunto de variáveis X 1, X 2,..., X n, e por um conjunto de restrições,

Leia mais

Tabela de Símbolos. Análise Semântica A Tabela de Símbolos. Principais Operações. Estrutura da Tabela de Símbolos. Declarações 11/6/2008

Tabela de Símbolos. Análise Semântica A Tabela de Símbolos. Principais Operações. Estrutura da Tabela de Símbolos. Declarações 11/6/2008 Tabela de Símbolos Análise Semântica A Tabela de Símbolos Fabiano Baldo Após a árvore de derivação, a tabela de símbolos é o principal atributo herdado em um compilador. É possível, mas não necessário,

Leia mais

Teleprocessamento e Redes

Teleprocessamento e Redes Teleprocessamento e Redes Aula 19: 29 de junho de 2010 1 camada de transporte camada de rede 2 Questão 1 (Kurose/Ross) camada de transporte camada de rede Um processo em um host C tem um socket UDP com

Leia mais

Probabilidade. Multiplicação e Teorema de Bayes

Probabilidade. Multiplicação e Teorema de Bayes robabilidade Multiplicação e Teorema de ayes Regra da Multiplicação Num teste, são aplicadas 2 questões de múltipla escolha. Na primeira questão, as respostas possíveis são V ou F. Na segunda, a, b, c,

Leia mais

Métodos Quantitativos. aula 6

Métodos Quantitativos. aula 6 Métodos Quantitativos aula 6 Prof. Dr. Marco Antonio Insper Ibmec São Paulo Teoria das Filas Elementos de uma Fila: 1. População 2. Clientes 3. Fila 4. Serviço Sinônimos e Jargão de área Podem aparecer

Leia mais

. evolução do conceito. Inspecção 3. Controlo da qualidade 4. Controlo da Qualidade Aula 05. Gestão da qualidade:

. evolução do conceito. Inspecção 3. Controlo da qualidade 4. Controlo da Qualidade Aula 05. Gestão da qualidade: Evolução do conceito 2 Controlo da Qualidade Aula 05 Gestão da :. evolução do conceito. gestão pela total (tqm). introdução às normas iso 9000. norma iso 9000:2000 gestão pela total garantia da controlo

Leia mais

Estatística: Conceitos e Organização de Dados. Introdução Conceitos Método Estatístico Dados Estatísticos Tabulação de Dados Gráficos

Estatística: Conceitos e Organização de Dados. Introdução Conceitos Método Estatístico Dados Estatísticos Tabulação de Dados Gráficos Estatística: Conceitos e Organização de Dados Introdução Conceitos Método Estatístico Dados Estatísticos Tabulação de Dados Gráficos Introdução O que é Estatística? É a parte da matemática aplicada que

Leia mais