DATA MINING & MACHINE LEARNING (I) Thiago Marzagão
|
|
|
- Leila Coelho Cipriano
- 5 Há anos
- Visualizações:
Transcrição
1 DATA MINING & MACHINE LEARNING (I) Thiago Marzagão
2 problema de trabalhar c/ textos: dimensionalidade A quantidade de colunas cresce rapidamente com a quantidade de documentos
3 problema de trabalhar c/ textos: dimensionalidade A quantidade de colunas cresce rapidamente com a quantidade de documentos Quantidade de colunas pode chegar facilmente à casa dos milhões.
4 problema de trabalhar c/ textos: dimensionalidade A quantidade de colunas cresce rapidamente com a quantidade de documentos Quantidade de colunas pode chegar facilmente à casa dos milhões. Isso resulta em problemas computacionais.
5 problema de trabalhar c/ textos: dimensionalidade A quantidade de colunas cresce rapidamente com a quantidade de documentos Quantidade de colunas pode chegar facilmente à casa dos milhões. Isso resulta em problemas computacionais. Duas soluções:
6 problema de trabalhar c/ textos: dimensionalidade A quantidade de colunas cresce rapidamente com a quantidade de documentos Quantidade de colunas pode chegar facilmente à casa dos milhões. Isso resulta em problemas computacionais. Duas soluções:... redução de dimensionalidade (LSA)
7 problema de trabalhar c/ textos: dimensionalidade A quantidade de colunas cresce rapidamente com a quantidade de documentos Quantidade de colunas pode chegar facilmente à casa dos milhões. Isso resulta em problemas computacionais. Duas soluções:... redução de dimensionalidade (LSA)... extração de tópicos (LDA, HDP, outros)
8 Latent Semantic Analysis - LSA Objetivo aqui é simplesmente reduzir a quantidade de colunas.
9 Latent Semantic Analysis - LSA Objetivo aqui é simplesmente reduzir a quantidade de colunas. Não há qualquer premissa sobre o processo de geração dos dados (DGP).
10 Latent Semantic Analysis - LSA Matematicamente LSA é apenas o nome que damos a um algoritmo de decomposição de matrizes - singular value decomposition (SVD) - quando aplicado a textos.
11 Latent Semantic Analysis - LSA Matematicamente LSA é apenas o nome que damos a um algoritmo de decomposição de matrizes - singular value decomposition (SVD) - quando aplicado a textos. SVD pode ser aplicado a qualquer tipo de dados, não apenas textos.
12 Latent Semantic Analysis - LSA Matematicamente LSA é apenas o nome que damos a um algoritmo de decomposição de matrizes - singular value decomposition (SVD) - quando aplicado a textos. SVD pode ser aplicado a qualquer tipo de dados, não apenas textos. LSA é às vezes chamada de LSI (Latent Semantic Indexing).
13 Latent Semantic Analysis - LSA Primeiro passo: escolher número de dimensões - k.
14 Latent Semantic Analysis - LSA Primeiro passo: escolher número de dimensões - k. Como escolher k?
15 Latent Semantic Analysis - LSA Primeiro passo: escolher número de dimensões - k. Como escolher k? Let the data speak!
16 Latent Semantic Analysis - LSA Segundo passo: decompor a matriz TF-IDF (vamos chamá-la de A), usando Singular Value Decomposition (SVD):
17 Latent Semantic Analysis - LSA Segundo passo: decompor a matriz TF-IDF (vamos chamá-la de A), usando Singular Value Decomposition (SVD): A = m n U m m Σ m n V n n
18 Latent Semantic Analysis - LSA Segundo passo: decompor a matriz TF-IDF (vamos chamá-la de A), usando Singular Value Decomposition (SVD): A = m n U m m Σ m n V n n U é uma matriz ortogonal (i.e., U U = I) cujas colunas são os vetores singulares à esquerda de A.
19 Latent Semantic Analysis - LSA Segundo passo: decompor a matriz TF-IDF (vamos chamá-la de A), usando Singular Value Decomposition (SVD): A = m n U m m Σ m n V n n U é uma matriz ortogonal (i.e., U U = I) cujas colunas são os vetores singulares à esquerda de A. Σ é uma matriz diagonal cujos valores não-zero são os valores singulares de A,
20 Latent Semantic Analysis - LSA Segundo passo: decompor a matriz TF-IDF (vamos chamá-la de A), usando Singular Value Decomposition (SVD): A = m n U m m Σ m n V n n U é uma matriz ortogonal (i.e., U U = I) cujas colunas são os vetores singulares à esquerda de A. Σ é uma matriz diagonal cujos valores não-zero são os valores singulares de A, V é uma matriz ortogonal cujas colunas são os vetores singulares à direita de A.
21 Latent Semantic Analysis - LSA Segundo passo: decompor a matriz TF-IDF (vamos chamá-la de A), usando Singular Value Decomposition (SVD): A = m n U m m Σ m n V n n U é uma matriz ortogonal (i.e., U U = I) cujas colunas são os vetores singulares à esquerda de A. Σ é uma matriz diagonal cujos valores não-zero são os valores singulares de A, V é uma matriz ortogonal cujas colunas são os vetores singulares à direita de A. (V é a matriz transposta conjugada de V )
22 Latent Semantic Analysis - LSA Segundo passo: decompor a matriz TF-IDF (vamos chamá-la de A), usando Singular Value Decomposition (SVD): A = m n U m m Σ m n V n n U é uma matriz ortogonal (i.e., U U = I) cujas colunas são os vetores singulares à esquerda de A. Σ é uma matriz diagonal cujos valores não-zero são os valores singulares de A, V é uma matriz ortogonal cujas colunas são os vetores singulares à direita de A. (V é a matriz transposta conjugada de V ) SVD é apenas um dentre vários métodos de decomposição de matrizes (Cholesky, QR, etc).
23 Latent Semantic Analysis - LSA Segundo passo: decompor a matriz TF-IDF (vamos chamá-la de A), usando Singular Value Decomposition (SVD): A = m n U m m Σ m n V n n U é uma matriz ortogonal (i.e., U U = I) cujas colunas são os vetores singulares à esquerda de A. Σ é uma matriz diagonal cujos valores não-zero são os valores singulares de A, V é uma matriz ortogonal cujas colunas são os vetores singulares à direita de A. (V é a matriz transposta conjugada de V ) SVD é apenas um dentre vários métodos de decomposição de matrizes (Cholesky, QR, etc). A solução p/ SVD é encontrada iterativamente, por tentativa e erro.
24 Latent Semantic Analysis - LSA Terceiro passo: truncar U, Σ, V
25 Latent Semantic Analysis - LSA Terceiro passo: truncar U, Σ, V Mantemos apenas as k primeiras colunas de U (Ũ)
26 Latent Semantic Analysis - LSA Terceiro passo: truncar U, Σ, V Mantemos apenas as k primeiras colunas de U (Ũ)... as k primeira linhas e k primeiras colunas de Σ ( Σ)
27 Latent Semantic Analysis - LSA Terceiro passo: truncar U, Σ, V Mantemos apenas as k primeiras colunas de U (Ũ)... as k primeira linhas e k primeiras colunas de Σ ( Σ)... e as k primeiras linhas de V ( V )
28 Latent Semantic Analysis - LSA Terceiro passo: truncar U, Σ, V Mantemos apenas as k primeiras colunas de U (Ũ)... as k primeira linhas e k primeiras colunas de Σ ( Σ)... e as k primeiras linhas de V ( V ) Ũ mapeia palavras a tópicos: ũ ij é o peso da palavra i no tópico j
29 Latent Semantic Analysis - LSA Terceiro passo: truncar U, Σ, V Mantemos apenas as k primeiras colunas de U (Ũ)... as k primeira linhas e k primeiras colunas de Σ ( Σ)... e as k primeiras linhas de V ( V ) Ũ mapeia palavras a tópicos: ũ ij é o peso da palavra i no tópico j Σ V = S mapeia tópicos a documentos: s ij é o peso do tópico i no documento j
30 Latent Semantic Analysis - LSA Os tópicos são ordenados.
31 Latent Semantic Analysis - LSA Os tópicos são ordenados. O primeiro tópico - i.e., a primeira coluna de S - captura mais variação que o segundo.
32 Latent Semantic Analysis - LSA Os tópicos são ordenados. O primeiro tópico - i.e., a primeira coluna de S - captura mais variação que o segundo. O segundo mais que o terceiro.
33 Latent Semantic Analysis - LSA Os tópicos são ordenados. O primeiro tópico - i.e., a primeira coluna de S - captura mais variação que o segundo. O segundo mais que o terceiro. E assim por diante.
34 Latent Semantic Analysis - LSA Os tópicos são ordenados. O primeiro tópico - i.e., a primeira coluna de S - captura mais variação que o segundo. O segundo mais que o terceiro. E assim por diante. Portanto, se extraímos k = 300 e depois k = 200 os 200 primeiros tópicos serão os mesmos nos dois casos.
35 Latent Semantic Analysis - LSA Os tópicos são ordenados. O primeiro tópico - i.e., a primeira coluna de S - captura mais variação que o segundo. O segundo mais que o terceiro. E assim por diante. Portanto, se extraímos k = 300 e depois k = 200 os 200 primeiros tópicos serão os mesmos nos dois casos. Cada tópico é independente de todos os tópicos extraídos depois.
36 Latent Semantic Analysis - LSA Os tópicos são ordenados. O primeiro tópico - i.e., a primeira coluna de S - captura mais variação que o segundo. O segundo mais que o terceiro. E assim por diante. Portanto, se extraímos k = 300 e depois k = 200 os 200 primeiros tópicos serão os mesmos nos dois casos. Cada tópico é independente de todos os tópicos extraídos depois. É isso: S é a matriz com dimensionalidade reduzida, que vamos usar no lugar da matriz TF-IDF.
37 Latent Dirichlet Allocation - LDA LSA é flexível: não assume nada sobre o processo de geração dos dados.
38 Latent Dirichlet Allocation - LDA LSA é flexível: não assume nada sobre o processo de geração dos dados. (LSA não é estatística, é matemática.)
39 Latent Dirichlet Allocation - LDA LSA é flexível: não assume nada sobre o processo de geração dos dados. (LSA não é estatística, é matemática.) Problema: difícil interpretar os coeficientes.
40 Latent Dirichlet Allocation - LDA LSA é flexível: não assume nada sobre o processo de geração dos dados. (LSA não é estatística, é matemática.) Problema: difícil interpretar os coeficientes. O que exatamente é o peso da palavra i no tópico j?
41 Latent Dirichlet Allocation - LDA LSA é flexível: não assume nada sobre o processo de geração dos dados. (LSA não é estatística, é matemática.) Problema: difícil interpretar os coeficientes. O que exatamente é o peso da palavra i no tópico j? O que exatamente é o peso do tópico i no documento j?
42 Latent Dirichlet Allocation - LDA LSA é flexível: não assume nada sobre o processo de geração dos dados. (LSA não é estatística, é matemática.) Problema: difícil interpretar os coeficientes. O que exatamente é o peso da palavra i no tópico j? O que exatamente é o peso do tópico i no documento j? Não há uma interpretação natural p/ peso aqui.
43 Latent Dirichlet Allocation - LDA LDA, por outro lado, assume que as palavras são geradas de uma determinada maneira.
44 Latent Dirichlet Allocation - LDA LDA, por outro lado, assume que as palavras são geradas de uma determinada maneira. Perde-se generalidade, mas ganha-se interpretabilidade (mais sobre isso daqui a pouco).
45 Latent Dirichlet Allocation - LDA C/ LDA, não fazemos a transformação TF-IDF.
46 Latent Dirichlet Allocation - LDA C/ LDA, não fazemos a transformação TF-IDF. LDA modela a contagem bruta de palavras, não de suas transformações.
47 Latent Dirichlet Allocation - LDA O modelo teórico:
48 Latent Dirichlet Allocation - LDA O modelo teórico: Passo 1: escolher N, o número de palavras no documento.
49 Latent Dirichlet Allocation - LDA O modelo teórico: Passo 1: escolher N, o número de palavras no documento. N P oisson(ξ)
50 Latent Dirichlet Allocation - LDA O modelo teórico: Passo 1: escolher N, o número de palavras no documento. N P oisson(ξ) Passo 2: criar um vetor k-dimensional, θ, com as proporções dos tópicos no documento.
51 Latent Dirichlet Allocation - LDA O modelo teórico: Passo 1: escolher N, o número de palavras no documento. N P oisson(ξ) Passo 2: criar um vetor k-dimensional, θ, com as proporções dos tópicos no documento. Ex.: θ = [0.3, 0.2, 0.5]
52 Latent Dirichlet Allocation - LDA O modelo teórico: Passo 1: escolher N, o número de palavras no documento. N P oisson(ξ) Passo 2: criar um vetor k-dimensional, θ, com as proporções dos tópicos no documento. Ex.: θ = [0.3, 0.2, 0.5] θ Dir(α)
53 Latent Dirichlet Allocation - LDA O modelo teórico: Passo 1: escolher N, o número de palavras no documento. N P oisson(ξ) Passo 2: criar um vetor k-dimensional, θ, com as proporções dos tópicos no documento. Ex.: θ = [0.3, 0.2, 0.5] θ Dir(α) Passo 3: sorteamos cada palavra, w.
54 Latent Dirichlet Allocation - LDA O modelo teórico: Passo 1: escolher N, o número de palavras no documento. N P oisson(ξ) Passo 2: criar um vetor k-dimensional, θ, com as proporções dos tópicos no documento. Ex.: θ = [0.3, 0.2, 0.5] θ Dir(α) Passo 3: sorteamos cada palavra, w. P/ cada palavra primeiro sorteamos o tópico, z, dos k tópicos que criamos no passo 2.
55 Latent Dirichlet Allocation - LDA O modelo teórico: Passo 1: escolher N, o número de palavras no documento. N P oisson(ξ) Passo 2: criar um vetor k-dimensional, θ, com as proporções dos tópicos no documento. Ex.: θ = [0.3, 0.2, 0.5] θ Dir(α) Passo 3: sorteamos cada palavra, w. P/ cada palavra primeiro sorteamos o tópico, z, dos k tópicos que criamos no passo 2. z Multinomial(θ)
56 Latent Dirichlet Allocation - LDA O modelo teórico: Passo 1: escolher N, o número de palavras no documento. N P oisson(ξ) Passo 2: criar um vetor k-dimensional, θ, com as proporções dos tópicos no documento. Ex.: θ = [0.3, 0.2, 0.5] θ Dir(α) Passo 3: sorteamos cada palavra, w. P/ cada palavra primeiro sorteamos o tópico, z, dos k tópicos que criamos no passo 2. z Multinomial(θ) Em seguida sorteamos w usando p(w z, β), onde β é uma matriz k m onde β ij é a probabilidade de a palavra j ser selecionada dentro do tópico i (m é a quantidade de palavras no corpus).
57 Latent Dirichlet Allocation - LDA P/ estimar o modelo precisamos encontrar o α e β que maximizam a probabilidade de observar os ws:
58 Latent Dirichlet Allocation - LDA P/ estimar o modelo precisamos encontrar o α e β que maximizam a probabilidade de observar os ws: ( p(w α, β) = Γ(Σ iα i ) k ) ( ) N k V i Γ(α θ α i 1 i (θ i β ij ) wj n i) i=1 n=1i=1j=1
59 Latent Dirichlet Allocation - LDA P/ estimar o modelo precisamos encontrar o α e β que maximizam a probabilidade de observar os ws: ( p(w α, β) = Γ(Σ iα i ) k ) ( ) N k V i Γ(α θ α i 1 i (θ i β ij ) wj n i) i=1 n=1i=1j=1 (V é a quantidade de palavras únicas no vocabulário. Os demais termos foram definidos anteriormente.)
60 Latent Dirichlet Allocation - LDA P/ estimar o modelo precisamos encontrar o α e β que maximizam a probabilidade de observar os ws: ( p(w α, β) = Γ(Σ iα i ) k ) ( ) N k V i Γ(α θ α i 1 i (θ i β ij ) wj n i) i=1 n=1i=1j=1 (V é a quantidade de palavras únicas no vocabulário. Os demais termos foram definidos anteriormente.) Essa equação é intratável: não podemos achar uma resposta anaĺıtica.
61 Latent Dirichlet Allocation - LDA P/ estimar o modelo precisamos encontrar o α e β que maximizam a probabilidade de observar os ws: ( p(w α, β) = Γ(Σ iα i ) k ) ( ) N k V i Γ(α θ α i 1 i (θ i β ij ) wj n i) i=1 n=1i=1j=1 (V é a quantidade de palavras únicas no vocabulário. Os demais termos foram definidos anteriormente.) Essa equação é intratável: não podemos achar uma resposta anaĺıtica. Solução: tentativa e erro. Várias possibilidades. Ex.: Hoffman, Blei, and Blach (2010).
62 Latent Dirichlet Allocation - LDA O output é:
63 Latent Dirichlet Allocation - LDA O output é:... uma matriz m k de palavras X tópicos, onde cada célula é a probabilidade de a palavra i ser sorteada se nós sortearmos uma palavra do tópico i; e
64 Latent Dirichlet Allocation - LDA O output é:... uma matriz m k de palavras X tópicos, onde cada célula é a probabilidade de a palavra i ser sorteada se nós sortearmos uma palavra do tópico i; e... uma matriz k n de tópicos X documentos, onde cada célula é a proporção de palavras do tópico i no documento j.
65 Latent Dirichlet Allocation - LDA O output é:... uma matriz m k de palavras X tópicos, onde cada célula é a probabilidade de a palavra i ser sorteada se nós sortearmos uma palavra do tópico i; e... uma matriz k n de tópicos X documentos, onde cada célula é a proporção de palavras do tópico i no documento j. Ou seja, diferente de LSA aqui o output tem uma interpretação natural.
66 exercícios! Refazer a clusterização da aula passada, mas c/ LSA e LDA. (Se sobrar tempo: análise de sentimentos dos tuítes da aula passada.)
Thiago Marzagão LSA, LDA
MINERAÇÃO DE DADOS Thiago Marzagão marzagao.1@osu.edu LSA, LDA Thiago Marzagão (UnB) MINERAÇÃO DE DADOS 1 / 16 problema de trabalhar c/ textos: dimensionalidade A quantidade de colunas cresce rapidamente
Recuperação de Informações por Álgebra Linear Computacional
Recuperação de Informações por Álgebra Linear Computacional MAC499 - Projeto de Iniciação Científica Aluna: Ellen Hidemi Fukuda Orientador: Paulo José da Silva e Silva Departamento de Ciência da Computação
étodos uméricos SISTEMAS DE EQUAÇÕES LINEARES (Continuação) Prof. Erivelton Geraldo Nepomuceno PROGRAMA DE PÓS-GRADUAÇÃO EM ENGENHARIA ELÉTRICA
étodos uméricos SISTEMAS DE EQUAÇÕES LINEARES (Continuação) Prof. Erivelton Geraldo Nepomuceno PROGRAMA DE PÓS-GRADUAÇÃO EM ENGENHARIA ELÉTRICA UNIVERSIDADE DE JOÃO DEL-REI PRÓ-REITORIA DE PESQUISA CENTRO
Processamento de Imagens CPS755
Processamento de Imagens CPS755 aula 04 - sistemas lineares Antonio Oliveira Ricardo Marroquim 1 / 32 laboratório de processamento de imagens tópicos decomposições (álgebra linear) decomposição QR decomposição
MATEMÁTICA. Aula 14 Matrizes. Prof. Anderson
MATEMÁTICA Aula Matrizes Prof. Anderson Assuntos Conceito Matrizes com Nomes Especiais Igualdade de Matrizes Operações com Matrizes Matriz Inversa Conceito As matrizes são quantidades de dados passíveis
Revisão de Álgebra Linear
Introdução: Revisão de Álgebra Linear Antonio Elias Fabris Instituto de Matemática e Estatística Universidade de São Paulo Map 2121 Aplicações de Álgebra Linear Antonio Elias Fabris (IME-USP) Revisão de
Algoritmos para o Método dos Mínimos Quadrados
Algoritmos para o Método dos Mínimos Quadrados Antonio Elias Fabris Instituto de Matemática e Estatística Universidade de São Paulo Map 2210 Aplicações de Álgebra Linear Antonio Elias Fabris (IME-USP)
Mecânica Quântica. Spin 1/2 e a formulação da M. Q. Parte II. A C Tort 1. Instituto Física Universidade Federal do Rio de Janeiro
Mecânica Quântica Spin 1/ e a formulação da M. Q. Parte II A C Tort 1 1 Departmento de Física Teórica Instituto Física Universidade Federal do Rio de Janeiro 10 de Maio de 01 Mais dois postulados, agora
SME Gustavo C. Buscaglia
SME0602-2017 Gustavo C. Buscaglia ICMC - Ramal 738176, gustavo.buscaglia@gmail.com Cálculo de autovalores e autovetores Existem vários problemas na engenharia em que precisamos calcular os autovalores
MINERAÇÃO DE DADOS. Thiago Marzagão MINERAÇÃO DE TEXTOS. marzagao.1@osu.edu. Thiago Marzagão (UnB) MINERAÇÃO DE DADOS 1/2016 1 / 25
MINERAÇÃO DE DADOS Thiago Marzagão marzagao.1@osu.edu MINERAÇÃO DE TEXTOS Thiago Marzagão (UnB) MINERAÇÃO DE DADOS 1/2016 1 / 25 transformando textos em dados Documento 1: "Não trabalho para ter clientes;
Método de Gauss-Jordan e Sistemas Homogêneos
Método de Gauss-Jordan e Márcio Nascimento Universidade Estadual Vale do Acaraú Centro de Ciências Exatas e Tecnologia Curso de Licenciatura em Matemática Disciplina: Álgebra Matricial - 2017.1 14 de agosto
SME Gustavo C. Buscaglia / Roberto F. Ausas
SME0305-2016 Gustavo C. Buscaglia / Roberto F. Ausas ICMC - Ramal 738176, gustavo.buscaglia@gmail.com ICMC - Ramal 736628, rfausas@gmail.com Sistemas lineares sobredeterminados Matrizes não quadradas Onde
AGA Análise de Dados em Astronomia I 7. Modelagem dos Dados com Máxima Verossimilhança: Modelos Lineares
1 / 0 AGA 0505- Análise de Dados em Astronomia I 7. Modelagem dos Dados com Máxima Verossimilhança: Modelos Lineares Laerte Sodré Jr. 1o. semestre, 018 modelos modelagem dos dados dado um conjunto de dados,
Visão Computacional CPS754
Visão Computacional CPS754 aula 12 - matriz fundamental Antonio Oliveira Ricardo Marroquim 1 / 1 visão computacional tópicos métodos numéricos para computar F 2 / 1 básico equação básica lembrando da condição
Geometria Analítica e Álgebra Linear
UNIFEI - Universidade Federal de Itajubá campus Itabira Geometria Analítica e Álgebra Linear Parte 1 Matrizes 1 Introdução A teoria das equações lineares desempenha papel importante e motivador da álgebra
CÁLCULO NUMÉRICO. Profa. Dra. Yara de Souza Tadano
CÁLCULO NUMÉRICO Profa. Dra. Yara de Souza Tadano yaratadano@utfpr.edu.br Aula 12 04/2014 Sistemas de Equações Lineares Parte 2 FATORAÇÃO LU Cálculo Numérico 3/37 FATORAÇÃO LU Uma fatoração LU de uma dada
Parte 0: Normas de Vetor e Matriz
Cálculo Numérico SME0104 ICMC-USP Lista : Sistemas Lineares Métodos Diretos Parte 0: Normas de Vetor e Matriz 1. Dadas as matrizes: 3 5 7 A = 3 6 B = 1 7 1 (a) Calcule A 1, B 1 e C 1 (b) Calcule A, B e
G4 de Álgebra Linear I
G4 de Álgebra Linear I 20122 Gabarito 7 de Dezembro de 2012 1 Considere a transformação linear T : R 3 R 3 definida por: T ( v = ( v (1, 1, 2 (0, 1, 1 a Determine a matriz [T ] ε da transformação linear
Teorema da Triangularização de Schur e Diagonalização de Matrizes Normais
Teorema da Triangularização de Schur e Diagonalização de Matrizes Normais Reginaldo J Santos Departamento de Matemática-ICEx Universidade Federal de Minas Gerais http://wwwmatufmgbr/~regi 16 de novembro
MAP Métodos Numéricos e Aplicações Escola Politécnica 1 Semestre de 2017 EPREC - Entrega em 27 de julho de 2017
1 Preliminares MAP3121 - Métodos Numéricos e Aplicações Escola Politécnica 1 Semestre de 2017 EPREC - Entrega em 27 de julho de 2017 A decomposição de Cholesky aplicada a Finanças O exercício-programa
1. Realimentação de Estado: sistemas MIMO
Realimentação de Estado: sistemas MIMO 1. Realimentação de Estado: sistemas MIMO 2. Estimadores de Estado: sistemas MIMO pag.1 Teoria de Sistemas Lineares Aula 20 Realimentação de Estado: sistemas MIMO
Resolução de Sistemas Lineares. Ana Paula
Resolução de Sistemas Lineares Sumário 1 Aula Anterior 2 3 Revisão Aula Anterior Aula Anterior Aula Anterior Aula Anterior Decomposição LU A matriz de coeficientes é decomposta em L e U L é uma matriz
Algebra Linear. 1. Revisitando autovalores e autovetores. 2. Forma Diagonal e Forma de Jordan. 2.1 Autovalores distintos. 2.2 Autovalores complexos
Algebra Linear 1. Revisitando autovalores e autovetores 2. Forma Diagonal e Forma de Jordan 2.1 Autovalores distintos 2.2 Autovalores complexos 2.3 Nem todos autovalores distintos 3. Autovalores e autovetores
CÁLCULO NUMÉRICO. Profa. Dra. Yara de Souza Tadano
CÁLCULO NUMÉRICO Profa. Dra. Yara de Souza Tadano yaratadano@utfpr.edu.br Aula 13 04/2014 Sistemas de Equações Lineares Parte 3 MÉTODOS ITERATIVOS Cálculo Numérico 3/44 MOTIVAÇÃO Os métodos iterativos
Nota importante: U é a matriz condensada obtida no processo de condensação da matriz
Decomposição P T LU A denominada decomposição P T L U é um processo que pode ser extremamente útil no cálculo computacional, na resolução de sistemas de equações lineares. Propriedade Seja A uma matriz
DATA MINING & MACHINE LEARNING (I) Thiago Marzagão
DATA MINING & MACHINE LEARNING (I) Thiago Marzagão transformando textos em dados Documento 1: Não trabalho para ter clientes; tenho clientes para poder trabalhar. Documento 2: Não se pode forçar a inteligência
ANÁLISE DE SÉRIES TEMPORAIS
ANÁLISE DE SÉRIES TEMPORAIS Ralph S. Silva http://www.im.ufrj.br/ralph/seriestemporais.html Departamento de Métodos Estatísticos Instituto de Matemática Universidade Federal do Rio de Janeiro Estimação
Márcio Antônio de Andrade Bortoloti
Márcio Antônio de Andrade Bortoloti Departamento de Ciências Exatas e Tecnológicas - DCET Universidade Estadual do Sudoeste da Bahia Sumário 1 Definição Uma matriz quadrada de ordem n é definida positiva
Aprendizado de Máquina (Machine Learning)
Ciência da Computação (Machine Learning) Aula 02 Representação dos dados Pré-processamento Max Pereira Tipo de Dados Os atributos usados para descrever objetos de dados podem ser de diferentes tipos: Quantitativos
ALGEBRA LINEAR 1 RESUMO E EXERCÍCIOS* P1
ALGEBRA LINEAR 1 RESUMO E EXERCÍCIOS* P1 *Exercícios de provas anteriores escolhidos para você estar preparado para qualquer questão na prova. Resoluções em VETORES Um vetor é uma lista ordenada de números
Algebra Linear. 1. Ortonormalização. 2. Sistema de Equações Lineares. pag.1 Teoria de Sistemas Lineares Aula 6. c Reinaldo M.
Algebra Linear 1. Ortonormalização 2. Sistema de Equações Lineares pag.1 Teoria de Sistemas Lineares Aula 6 Ortonormalização Um vetor x é dito estar normalizado se sua norma Euclidiana é igual a 1, ie,
Profª Ana Lúcia Lima Marreiros Maia Profª Fabiana Cristina Bertoni
Profª Ana Lúcia Lima Marreiros Maia Profª Fabiana Cristina Bertoni Motivação e Objetivos Etapas do Desenvolvimento de um Sistema de Recuperação de Informações (SRI): Pré-processamento; Representação; Extração
Processamento de Imagens CPS755
Processamento de Imagens CPS755 aula 06 - sistemas não lineares Antonio Oliveira Ricardo Marroquim 1 / 38 laboratório de processamento de imagens tópicos RANSAC métodos iterativos (não-lineares) gradientes
Gabarito Lista 3 Cálculo FAU
Gabarito Lista Cálculo FAU Prof. Jaime Maio 018 Questão 1. O produto vetorial entre dois vetores a = (a 1, a, a ) e b = (b 1, b, b ) em R é um terceiro vetor c, ortogonal a ambos a e b, dado por c = a
SISTEMAS LINEARES PROF. EDÉZIO
SOLUÇÕES NUMÉRICAS DE SISTEMAS LINEARES PROF. EDÉZIO Considere o sistema de n equações e n incógnitas: onde E : a x + a x +... + a n x n = b E : a x + a x +... + a n x n = b. =. () E n : a n x + a n x
MAE125 Álgebra Linear /1 Turmas EQN/QIN
MAE25 Álgebra Linear 2 205/ Turmas EQN/QIN Planejamento (última revisão: 0 de junho de 205) Os exercícios correspondentes a cada aula serão cobrados oralmente na semana seguinte à aula e valem nota Todas
Métodos Matemáticos II
Sumário Métodos Matemáticos II Nuno Bastos Licenciatura em Tecnologias e Design Multimédia Escola Superior de Tecnologia de Viseu Gabinete 4 nbastos@mat.estv.ipv.pt http://www.estv.ipv.pt/paginaspessoais/nbastos.
Descomposição de Cholesky
Frederico Almeida & Guilherme Aguilar Universidade Federal de Minas Gerais 20 de Novembro de 2018 Frederico A. & Guilherme A. (ICEX - UFMG) 20 de Novembro de 2018 1 / 29 Motivação Métodos de otimização
Matrizes. Laura Goulart. 29 de Outubro de 2018 UESB. Laura Goulart (UESB) Matrizes 29 de Outubro de / 16
Matrizes Laura Goulart UESB 29 de Outubro de 2018 Laura Goulart (UESB) Matrizes 29 de Outubro de 2018 1 / 16 Motivação Chama-se matriz de ordem m por n uma tabela com m n elementos(em geral, números reais)
Álgebra Linear e Geometria Anaĺıtica. Espaços Vetoriais Reais
universidade de aveiro departamento de matemática Álgebra Linear e Geometria Anaĺıtica Agrupamento IV (ECT, EET, EI) Capítulo 4 Espaços Vetoriais Reais Definição de espaço vetorial real [4 01] O conjunto
Matrizes. Instituto Federal de Educação, Ciência e Tecnologia do Sudeste de Minas Gerais. Abril de 2014
es Instituto Federal de Educação, Ciência e Tecnologia do Sudeste de Minas Gerais Abril de 2014 Matrizes Matrizes Uma matriz A, m n (m por n), é uma tabela de mn números dispostos em m linhas e n colunas.
(x 1, y 1 ) (x 2, y 2 ) = (x 1 x 2, y 1 y 2 ); e α (x, y) = (x α, y α ), α R.
INSTITUTO DE MATEMÁTICA E ESTATÍSTICA UNIVERSIDADE DE SÃO PAULO MAT-2457 Álgebra Linear para Engenharia I Terceira Lista de Exercícios - Professor: Equipe da Disciplina EXERCÍCIOS 1. Considere as retas
SME Roberto F. Ausas / Gustavo C. Buscaglia
SME0305-2016 Roberto F. Ausas / Gustavo C. Buscaglia ICMC - Ramal 736628, rfausas@gmail.com ICMC - Ramal 738176, gustavo.buscaglia@gmail.com Cálculo de autovalores e autovetores Existem vários problemas
Capítulo 1 - Problemas de Valores Próprios
Capítulo 1 - Problemas de Valores Próprios balsa@ipb.pt Departamento de Matemática Mestrado em Engenharia da Construção Métodos de Aproximação em Engenharia 1 o Semestre 2010/2011 Capítulo 1 - Problemas
Algoritmos Numéricos 2 a edição
Algoritmos Numéricos 2 a edição Capítulo 2: Sistemas lineares c 2009 FFCf 2 2.1 Conceitos fundamentais 2.2 Sistemas triangulares 2.3 Eliminação de Gauss 2.4 Decomposição LU Capítulo 2: Sistemas lineares
GAAL Exercícios 6: Umas soluções
GAAL Exercícios 6: Umas soluções. Quais dos seguintes vetores são combinação linear de u = (5, 3, ), v = (, 4, 3), w = (, 8, 7)? (a) (, 2, 5) (b) (, 2, 8) (c) ( 2, ) (d) (, 2, 3). O conjunto {u, v, w}
Minera c ao de Dados Aula 6: Finaliza c ao de Regress ao e Classifica c ao Rafael Izbicki 1 / 33
Mineração de Dados Aula 6: Finalização de Regressão e Classificação Rafael Izbicki 1 / 33 Como fazer um IC para o risco estimado? Vamos assumir que ( X 1, Ỹ1),..., ( X s, Ỹs) são elementos de um conjunto
Autovalores e Autovetores
Algoritmos Numéricos II / Computação Científica Autovalores e Autovetores Lucia Catabriga 1 1 DI/UFES - Brazil Junho 2016 Introdução Ideia Básica Se multiplicarmos a matriz por um autovetor encontramos
MAE125 Álgebra Linear /2 Turmas EQN/QIN
MAE25 Álgebra Linear 2 205/2 Turmas EQN/QIN Planejamento (última revisão: 26 de outubro de 205) Os exercícios correspondentes a cada aula serão cobrados oralmente na aula seguinte e valem nota Todas as
Lista 8 de Álgebra Linear /01 Produto Interno
Lista 8 de Álgebra Linear - / Produto Interno. Sejam u = (x x e v = (y y. Mostre que temos um produto interno em R nos seguintes casos: (a u v = x y + x y. (b u v = x y x y x y + x y.. Sejam u = (x y z
SVD. Single Value Decomposition 18/09/2017. Lema. Toda matriz A, com n linhas e d colunas, admite uma fatoração A= UDV T =
SVD Single Value Decomposition Lema. Toda matriz A, com n linhas e d colunas, admite uma fatoração A= UDV T = U é uma matriz com n linhas e r colunas (r rank de A) D é uma matriz diagonal r x r; V é uma
Matrizes e Sistemas Lineares
MATEMÁTICA APLICADA Matrizes e Sistemas Lineares MATRIZES E SISTEMAS LINEARES. Matrizes Uma matriz de ordem mxn é uma tabela, com informações dispostas em m linhas e n colunas. Nosso interesse é em matrizes
Disciplina: Cálculo Numérico IPRJ/UERJ. Sílvia Mara da Costa Campos Victer. Aula 6 - Solução de Sistema de Equações Algébricas
Disciplina: Cálculo Numérico IPRJ/UERJ Sílvia Mara da Costa Campos Victer Aula 6 - Solução de Sistema de Equações Algébricas Métodos diretos: 1- Eliminação de Gauss com substituição recuada 2- Decomposição
Ajuste de dados por mínimos quadrados
Cálculo Numérico por mínimos quadrados Prof. Daniel G. Alfaro Vigo dgalfaro@dcc.ufrj.br Departamento de Ciência da Computação IM UFRJ Motivação: População do Brasil Ano População (milhões) 1960 70, 992343
Álgebra Linear /2 Turma 11852
Álgebra Linear 2 202/2 Turma 852 Planejamento (última revisão: 26/0/202) Os exercícios correspondentes a cada aula serão cobrados oralmente na aula seguinte e valem nota Todas as referências e exercícios
Modelos de Regressão
Renato Martins Assunção DCC - UFMG 2015 Renato Martins Assunção (DCC - UFMG) 2015 1 / 19 Exemplo de preço de apto Y = y 1 y 2 y 1499 y 1500 b 0 1 1 1 1 + b 1 área 1 área 2 área 1499 área 1500 + b 2 idade
Modelos Lineares Generalizados - Estimação em Modelos Lineares Generalizados
Modelos Lineares Generalizados - Estimação em Modelos Lineares Generalizados Erica Castilho Rodrigues 23 de Maio de 207 Introdução 2 3 Vimos como encontrar o EMV usando algoritmos numéricos. Duas possibilidades:
MAT2457 ÁLGEBRA LINEAR PARA ENGENHARIA I Gabarito da 2 a Prova - 1 o semestre de 2015
MAT27 ÁLGEBRA LINEAR PARA ENGENHARIA I Gabarito da 2 a Prova - 1 o semestre de 201 Nesta prova considera-se fixada uma orientação do espaço e um sistema de coordenadas Σ (O, E) em E 3, em que E é uma base
Agrupamento de dados. Critério 1: grupos são concentrações de dados k-means Critério 2: grupos são conjuntos de elementos próximos entre si espectral
Agrupamento de dados Critério 1: grupos são concentrações de dados k-means Critério 2: grupos são conjuntos de elementos próximos entre si espectral Dados e grafos Se temos dados x i, i 0... n, criamos
Álgebra Linear. Aula 02
Álgebra Linear Aula Determinante Para aproveitar 1% dessa aula vocês precisam saber: ü Matrizes ü Equação do 1º grau ü Equação do º grau Como representamos o determinante de uma matriz? Colocando os elementos
Parte I. Álgebra Linear. Sistemas Dinâmicos Lineares. Autovalores, autovetores. Autovalores, autovetores. Autovalores e Autovetores.
Sistemas Dinâmicos Lineares Romeu Reginatto Programa de Pós-Graduação em Engenharia de Sistemas Dinâmicos e Energéticos Universidade Estadual do Oeste do Paraná Parte I Álgebra Linear Adaptado das notas
Álgebra Linear e Geometria Anaĺıtica. Matrizes e Sistemas de Equações Lineares
universidade de aveiro departamento de matemática Álgebra Linear e Geometria Anaĺıtica Agrupamento IV (ECT, EET, EI) Capítulo 1 Matrizes e Sistemas de Equações Lineares Geometria anaĺıtica em R 3 [1 01]
Resolvendo algebricamente um PPL
Capítulo 6 Resolvendo algebricamente um PPL 6.1 O método algébrico para solução de um modelo linear A solução de problemas de programação linear com mais de duas variáveis, não pode ser obtida utilizando-se
Geometria Computacional
Geometria Computacional Claudio Esperança Paulo Roma Cavalcanti Estrutura do Curso Aspectos teóricos e práticos Construção e análise de algoritmos e estruturas de dados para a solucionar problemas geométricos
Álgebra Linear I - Aula 5. Roteiro
1. Produto vetorial. 2. Aplicações. 3. Produto misto. Álgebra Linear I - Aula 5 1 Produto vetorial Roteiro Definição: Dados vetores ū = (u 1, u 2, u 3 ) e v = (v 1, v 2, v 3 ) de R 3 definimos o produto
ÁLGEBRA LINEAR I - MAT0032
UNIVERSIDADE FEDERAL DA INTEGRAÇÃO LATINO-AMERICANA Instituto Latino-Americano de Ciências da Vida e Da Natureza Centro Interdisciplinar de Ciências da Natureza ÁLGEBRA LINEAR I - MAT32 12 a Lista de exercícios
Física Computacional 18 matrizes: inversão, valores próprios e sol. da eq. De Schrödinger
Física Computacional 18 matrizes: inversão, valores próprios e sol. da eq. De Schrödinger 1. Trabalhar com matrizes, e aplicá-las a um problema físico a. Inversão da matriz, eliminação de Gauss b. Determinante
14 Estimador assintótico
Teoria de Controle (sinopse) 4 J. A. M. Felippe de Souza Neste capítulo continuaremos no estudo de que foi iniciado no capítulo anterior. Estimadores de Estado, A exemplo dos capítulos anteriores será
Álgebra Linear /2 Turma EM1 (unificada)
Álgebra Linear 2 2013/2 Turma EM1 (unificada) Planejamento preliminar (última revisão: 3/4/2013) Os exercícios correspondentes a cada aula serão discutidos na aula seguinte e não valem nota Este planejamento
P4 de Álgebra Linear I
P4 de Álgebra Linear I 2008.2 Data: 28 de Novembro de 2008. Gabarito. 1) (Enunciado da prova tipo A) a) Considere o plano π: x + 2 y + z = 0. Determine a equação cartesiana de um plano ρ tal que a distância
x exp( t 2 )dt f(x) =
INTERPOLAÇÃO POLINOMIAL 1 As notas de aula que se seguem são uma compilação dos textos relacionados na bibliografia e não têm a intenção de substituir o livro-texto, nem qualquer outra bibliografia Aproximação
Matemática I. Capítulo 3 Matrizes e sistemas de equações lineares
Matemática I Capítulo 3 Matrizes e sistemas de equações lineares Objectivos Matrizes especiais e propriedades do produto de matrizes Matriz em escada de linhas Resolução de sistemas de equações lineares
G3 de Álgebra Linear I
G3 de Álgebra Linear I 2.2 Gabarito ) Considere a matriz 4 N = 4. 4 Observe que os vetores (,, ) e (,, ) são dois autovetores de N. a) Determine uma forma diagonal D de N. b) Determine uma matriz P tal
Álgebra Linear e Geometria Analítica
Álgebra Linear e Geometria Analítica Engenharia Electrotécnica Escola Superior de Tecnologia de Viseu wwwestvipvpt/paginaspessoais/lucas lucas@matestvipvpt 007/008 Álgebra Linear e Geometria Analítica
FACULDADE DE ENGENHARIA DA UNIVERSIDADE DO PORTO LEEC EXERCÍCIOS DE ÁLGEBRA
FACULDADE DE ENGENHARIA DA UNIVERSIDADE DO PORTO LEEC EXERCÍCIOS DE ÁLGEBRA Exercícios vários. Considere o conjunto C =, e a operação binária definida por a b = min(a, b). O conjunto C é, relativamente
ESTATÍSTICA COMPUTACIONAL
ESTATÍSTICA COMPUTACIONAL Ralph dos Santos Silva Departamento de Métodos Estatísticos Instituto de Matemática Universidade Federal do Rio de Janeiro Sumário Introdução Solução de equações não lineares
Processamento de Imagens CPS755
Processamento de Imagens CPS755 aula 07 - modelos de câmera Antonio Oliveira Ricardo Marroquim 1 / 32 laboratório de processamento de imagens tópicos matriz de calibração câmera finita câmera projetiva
1. Avaliação de impacto de programas sociais: por que, para que e quando fazer? (Cap. 1 do livro) 2. Estatística e Planilhas Eletrônicas 3.
1 1. Avaliação de impacto de programas sociais: por que, para que e quando fazer? (Cap. 1 do livro) 2. Estatística e Planilhas Eletrônicas 3. Modelo de Resultados Potenciais e Aleatorização (Cap. 2 e 3
Revisão: Matrizes e Sistemas lineares. Parte 01
Revisão: Matrizes e Sistemas lineares Parte 01 Definição de matrizes; Tipos de matrizes; Operações com matrizes; Propriedades; Exemplos e exercícios. 1 Matrizes Definição: 2 Matrizes 3 Tipos de matrizes
SME Roberto F. Ausas / Gustavo C. Buscaglia
SME0305-2016 Roberto F. Ausas / Gustavo C. Buscaglia ICMC - Ramal 736628, rfausas@gmail.com ICMC - Ramal 738176, gustavo.buscaglia@gmail.com Métodos iterativos Vamos considerar o problema: Achar x R n
> Princípios de Contagem e Enumeração Computacional 1/10
Princípios de Contagem e Enumeração Computacional > Princípios de Contagem e Enumeração Computacional 1/10 De quantas maneiras podemos selecionar um subconjunto de r objetos de um conjunto de n objetos?
Refletores de Householder e Fatoração QR
Refletores de Householder e Fatoração QR Antonio Elias Fabris Instituto de Matemática e Estatística Universidade de São Paulo Map 2210 Aplicações de Álgebra Linear Antonio Elias Fabris (IME-USP) Householder
Cálculo Numérico. Aula 8 Sistemas de Equações Lineares / Parte /04/2014. Prof. Guilherme Amorim*
Cálculo Numérico Aula 8 Sistemas de Equações Lineares / Parte 1 2014.1-29/04/2014 Prof. Guilherme Amorim* gbca@cin.ufpe.br * Com algumas modificações pelo Prof. Sergio Queiroz Perguntas... O que é um sistema
Introdução a Regressão Linear
Introdução a Regressão Linear 1 Duas pedras fundamentais em econometria: 1) Modelo de Regressão Linear 2) OLS método de estimação: Mínimos Quadrados Ordinários técnica algébrica / estatística Modelo de
Value at Risk Não-linear. Análise de Risco (4) R.Vicente
Value at Risk Não-linear Análise de Risco (4) R.Vicente Resumo Portfolios Lineares Portfolios Não-lineares: Aproximação Delta Portfolios Não-lineares: Aproximação Delta-quadrática Portfolios Não-lineares:
Introdução a Regressão Linear
Introdução a Regressão Linear 1 Duas pedras fundamentais em econometria: 1) Modelo de Regressão Linear 2) OLS método de estimação: Mínimos Quadrados Ordinários técnica algébrica / estatística Modelo de
G3 de Álgebra Linear I
G de Álgebra Linear I 7 Gabarito ) Considere a transformação linear T : R R cuja matriz na base canônica E = {(,, ), (,, ), (,, )} é [T] E = a) Determine os autovalores de T e seus autovetores correspondentes
Noções de Simulação. Ciências Contábeis - FEA - Noturno. 2 o Semestre MAE0219 (IME-USP) Noções de Simulação 2 o Semestre / 23
Noções de Simulação Ciências Contábeis - FEA - Noturno 2 o Semestre 2013 MAE0219 (IME-USP) Noções de Simulação 2 o Semestre 2013 1 / 23 Objetivos da Aula Sumário 1 Objetivos da Aula 2 Motivação 3 Geração
Aula 25 - Espaços Vetoriais
Espaço Vetorial: Aula 25 - Espaços Vetoriais Seja V um conjunto não vazio de objetos com duas operações definidas: 1. Uma adição que associa a cada par de objetos u, v em V um único objeto u + v, denominado
Aula 3- Codificação de Canal. October 18, 2017
ELE-32 Introdução a Comunicações Aula 3- Codificação de Canal October 18, 2017 1 Introdução Em muitas situações, a mensagem a ser transmitida por um sistema de comunicações é uma sequência de bits. Entretanto,
Resolução de Sistemas Lineares. Ana Paula
Resolução de Sistemas Lineares Sumário 1 Aula Anterior 2 Decomposição LU 3 Decomposição LU com Pivotamento 4 Revisão Aula Anterior Aula Anterior Aula Anterior Aula Anterior Eliminação de Gauss Transforma
SME Gustavo C. Buscaglia
SME0602-2017 Gustavo C. Buscaglia ICMC - Ramal 738176, gustavo.buscaglia@gmail.com Sistemas lineares sobredeterminados Matrizes não quadradas Onde aparecem, no dia a dia de um engenheiro, matrizes não
Álgebra Linear I - Aula Bases Ortonormais e Matrizes Ortogonais
Álgebra Linear I - Aula 19 1. Bases Ortonormais e Matrizes Ortogonais. 2. Matrizes ortogonais 2 2. 3. Rotações em R 3. Roteiro 1 Bases Ortonormais e Matrizes Ortogonais 1.1 Bases ortogonais Lembre que
Dados no R n. Dados em altas dimensões 29/03/2017
Dados no R n Dados em altas dimensões Alguns dados são apresentados como vetores em R n Alguns dados não são apresentados como vetores mas podem ser representados como vetores (e.g. Texto) Texto Dados
Sistemas Lineares. ( Aula 3 )
Sistemas Lineares ( Aula 3 ) Determinante Definição: Determinante Matriz quadrada é a que tem o mesmo número de linhas e de colunas (ou seja, é do tipo n x n). A toda matriz quadrada está associado um
Álgebra Linear Teoria de Matrizes
Álgebra Linear Teoria de Matrizes 1. Sistemas Lineares 1.1. Coordenadas em espaços lineares: independência linear, base, dimensão, singularidade, combinação linear 1.2. Espaço imagem (colunas) - Espaço
Universidade do Sul de Santa Catarina Ciência da Computação Aula 09 Introdução a Análise de Textos Prof. Max Pereira
Universidade do Sul de Santa Catarina Ciência da Computação Técnicasde InteligênciaArtificial Aula 09 Introdução a Análise de Textos Prof. Max Pereira Processamento de Linguagem Natural Conjunto de técnicas
1 Auto vetores e autovalores
Auto vetores e autovalores Os autovalores de uma matriz de uma matriz n n são os n números que resumem as propriedades essenciais daquela matriz. Como esses n números realmente caracterizam a matriz sendo
Métodos Quantitativos Aplicados
Métodos Quantitativos Aplicados Aula 8 http://www.iseg.utl.pt/~vescaria/mqa/ Tópicos apresentação A análise de relações de interdependência para variáveis qualitativas: a Análise factorial de correspondências