Prof. Frank Sill Torres DELT Escola de Engenharia UFMG

Documentos relacionados
Hierarquia de Memória. Sistemas de Computação André Luiz da Costa Carvalho

Memória 21/05/2010. Introdução. Hierarquia de Memória. Hierarquia de Memória. Arquitetura de Computadores

Sistemas Processadores e Periféricos Aula 6 - Revisão

Organização e Arquitetura de Computadores. Ivan Saraiva Silva

Infraestrutura de Hardware. Implementação Multiciclo de um Processador Simples

DataPath II Tomando o controle!

Hierarquia de Memória

UNIVERSIDADE FEDERAL FLUMINENSE INSTITUTO DE COMPUTAÇÃO DEPARTAMENTO DE CIÊNCIA DA COMPUTAÇÃO

Arquiteturas de Computadores

Memória Cache. Aula 24

SSC0112 Organização de Computadores Digitais I

Princípio da Localidade Apenas uma parte relativamente pequena do espaço de endereçamento dos programas é acessada em um instante qualquer Localidade

Capítulo 7 Sistemas de Memória. Ch7a 1

SSC0611 Arquitetura de Computadores

Infraestrutura de Hardware. Explorando a Hierarquia de Memória

Arquitetura e Organização de Processadores. Aulas 9 e 10. Memória cache

O Processador: Via de Dados e Controle (Parte C: microprogramação)

ELECTRÓNICA DE COMPUTADORES. Sumário

Tempo de processador desperdiçado a fazer nada. Processor register 1 clock cycle (0.5 2 GHz) $??? DRAM semiconductor memory ns $10 $20

5 de Maio de Aula 15

Organização de Unidades de Processamento

SSC0112 Organização de Computadores Digitais I

Memória cache. Sistemas de Computação

Infraestrutura de Hardware. Implementação Monociclo de um Processador Simples

SSC0112 Organização de Computadores Digitais I

MIPS Implementação. sw) or, slt. Vamos examinar uma implementação que inclui um subconjunto de instruções do MIPS

É um sinal elétrico periódico que é utilizado para cadenciar todas as operações realizadas pelo processador.

Universidade Federal de Campina Grande Departamento de Sistemas e Computação Curso de Bacharelado em Ciência da Computação.

Organização de Computadores

Memória cache segunda parte. Organização de Computadores. Aula 17. Memória cache segunda parte. 1. Mapeamento completamente associativo

O Porcessador: Via de Dados e Controle (Parte B: multiciclo) 1998 Morgan Kaufmann Publishers Ch5B 1

Infraestrutura de Hardware. Explorando Desempenho com a Hierarquia de Memória

Hierarquia de memória

lw, sw add, sub, and, or, slt beq, j

Relembrando desempenho...

Arquitetura de Computadores. Hierarquia de Memória. Prof. Msc. Eduardo Luzeiro Feitosa

Arquitetura e Organização de Processadores. Aula 4. Pipelines

Sistemas de Memória. CES-25 Arquiteturas para Alto Desmpenho. Paulo André Castro

INTRODUÇÃO À ARQUITETURA E ORGANIZAÇÃO DE COMPUTADORES. Função e Estrutura. Introdução Organização e Arquitetura. Organização e Arquitetura

CAPÍTULO 4 CAMINHO DE DADOS E CONTROLE

Relembrando desempenho...

Níveis de memória. Diferentes velocidades de acesso. Memória Cache. Memórias Auxiliar e Auxiliar-Backup

Hierarquia de memória

Memórias cache: uma introdução

Memória Cache Prof. Rômulo Calado Pantaleão Camara. Carga Horária: 60h

Introdução. Os mesmos princípios se aplicam a processadores. No MIPS as instruções são divididas normalmente em cinco etapas:

Memória e Hierarquia de Memória. Memória Vs. Armazenamento

Organização e Arquitetura de Computadores

Hierarquia de Memória

O Processador: Via de Dados e Controle

Arquiteturas de Computadores

Arquitetura de Computadores

Arquitectura de Computadores (ACom)

Organização e Arquitetura de Computadores I

Sistemas de Memória. CES-25 Arquiteturas para Alto Desmpenho. Paulo André Castro

Tópicos Avançados em Sistemas Computacionais: Infraestrutura de Hardware Aula 10

Arquitectura de Computadores

SSC0902 Organização e Arquitetura de Computadores

William Stallings Arquitetura e Organização de Computadores 8 a Edição. Capítulo 12 Estrutura e função do processador

Sistemas Processadores e Periféricos Aula 5 - Revisão


Memória Cache. Adriano J. Holanda. 12 e 16/5/2017

Capítulo 5 Livro do Mário Monteiro Conceituação. Elementos de projeto de memória cache

ORGANIZAÇÃO DE COMPUTADORES CAPÍTULO4: MEMÓRIAPRINCIPAL

Arquitectura de Computadores

Memória Cache. Memória Cache. Localidade Espacial. Conceito de Localidade. Diferença de velocidade entre Processador/MP

Hierarquia de Memória

FUNDAMENTOS DE ARQUITETURAS DE COMPUTADORES MEMÓRIA CACHE CONTINUAÇÃO CAPÍTULO 5. Cristina Boeres

Pipeline. Prof. Leonardo Barreto Campos 1

PCS-2529 Introdução aos Processadores. Prof. Dr. Paulo Sérgio Cugnasca

Infra-estrutura de Hardware

ü Capítulo 4 Livro do Mário Monteiro ü Introdução ü Hierarquia de memória ü Memória Principal ü Memória principal ü Memória cache

Arquitetura e Organização de Computadores

Organização e Arquitetura de Computadores I

Memória Virtual. Prof. M.Sc. Bruno R. Silva CEFET-MG Campus VII

Memória Cache: Funcionamento

Sistemas Processadores e Periféricos Aula 2 - Revisão

Correção de Erros. Erros de memória de semicondutores podem ser:

Adriano J. Holanda FAFRAM. 4 e 11 de maio de 2012

Memória Principal. Tiago Alves de Oliveira

Exercícios resolvidos (aula de 4 de Maio) Resolução:

Sistemas Operacionais

Construção de uma via de dados, abordagem monociclo, multiciclo e pipeline

DCC-IM/NCE UFRJ Pós-Graduação em Informática. Gabriel P. Silva. Microarquiteturas de Alto Desempenho

Memória. Memória Cache

Microprocessadores. Memórias

FUNDAMENTOS DE ARQUITETURAS DE COMPUTADORES MEMÓRIA CACHE CAPÍTULO 5. Cristina Boeres

CEFET-RS Curso de Eletrônica

SSC0611 Arquitetura de Computadores

Barramento. Prof. Leonardo Barreto Campos 1

1. Esta lista de exercícios poderá ser resolvida em grupo com no máximo 3 integrantes.

Arquiteturas de Computadores

Sistemas Operacionais Gerenciamento de Memória. Carlos Ferraz Jorge Cavalcanti Fonsêca

Otimização de Execução em Processadores Modernos. William Stallings - Computer Organization and Architecture, Chapter 12 [Trad. E.Simões / F.

Sistemas Operacionais. Conceitos de Hardware

Organização e Arquitetura de Computadores I

Memória cache (cont.) Sistemas de Computação

Pipeline. Ciclos de Operação da CPU Estágios do Pipeline Previsão de Desvio. Estrutura da CPU. Em cada ciclo, a CPU deve:

Memória Cache. Walter Fetter Lages.

Cache. Cache. Direct Mapping Cache. Direct Mapping Cache. Internet. Bus CPU Cache Memória. Cache. Endereço Byte offset

Transcrição:

Sistemas, Processadores e Periféricos Aula 7 - Revisão Prof. Frank Sill Torres DELT Escola de Engenharia UFMG Adaptado a partir dos Slides de Organização de Computadores 2006/02 do professores Leandro Galvão (DCC/UFAM 1 galvao@dcc.ufam.edu.br) e o Ricardo de Oliveira Duarte (DELT/UFMG)

Dividindo Instruções em Estágios :: Linhas de controle PC 0 M u x 1 Address Write data Memory MemData Instruction [25 21] Instruction [20 16] Instruction [15 0] Instruction register Instruction [15 0] Memory data register PCWriteCond PCWrite IorD Outputs MemRead MemWrite Control MemtoReg IRWrite Instruction [15 11] Op [5 0] 0 M u x 1 0 M u x 1 PCSource ALUOp ALUSrcB ALUSrcA RegDst 16 RegWrite Instruction [25 0] 26 Shift 28 left 2 Instruction [31-26] PC [31-28] Read register 1 Read register 2 Registers Write register Write data Sign extend Read data 1 Read data 2 32 Shift left 2 A B 4 0 M u x 1 0 1 M u 2 x 3 ALU control Zero ALU ALU result Jump address [31-0] ALUOut 0 1 2 M u x Instruction [5 0] 2

Resumo Multi-ciclo Estágio Ação Tipo R Action Memória Ação Branch Ação Jump Carga de Instrução (IF) IR = Memory[PC] PC = PC + 4 Decodificação Instrução A = Reg [IR[25-21]] Carga de Registrador B = Reg [IR[20-16]] (ID) ALUOut = PC + (sign-extend (IR[15-0]) << 2) Execução (EX) ALUOut = A op B ALUOut = A + sign-extend if (A ==B) then PC = PC [31-28] II Computo de Endereço (IR[15-0]) PC = ALUOut (IR[25-0]<<2) Finalização branch/jump Acesso à memória Reg [IR[15-11]] = Load: MDR = Memory[ALUOut] Finalização tipo R (MEM) ALUOut or Store: Memory [ALUOut] = B Finalização Leitura Mem. (WB) Tipo de instrução Load: Reg[IR[20-16]] = MDR 3

FSM Controle Start IF Instruction fetch 0 MemRead ALUSrcA =0 IorD = 0 IR Write ALUSrcB =01 ALUOp =00 PCWrite PCSource =00 ID Instruction decode/ register fetch 1 ALUSrcA =0 ALUSrcB =11 ALUOp =00 Fig. 5.38 EX 2 Memory address computation ALUSrcA =1 ALUSrcB =10 ALUOp =00 6 Execution ALUSrcA =1 ALUSrcB =00 ALUOp=10 8 Branch completion ALUSrcA =1 ALUSrcB =00 ALUOp =01 PCWriteCond PCSource =01 9 (Op = 'J') Jump completion PCWrite PCSource =10 MEM 3 (Op = 'LW') MemRead IorD = 1 Memory access 5 MemWrite IorD = 1 Memory access 7 RegDst=1 RegWrite MemtoReg =0 R -type completion WB 4 RegDst=0 RegWrite MemtoReg=1 Write-back step 4

Exemplo: CPI em uma CPU multiciclo Solução: CPI total N N CPI instr, i i i 1 N Ninstr, i N instr, total N i 1 instr, total CPI i 0,22 5 0,11 4 0,49 4 0,16 3 0,02 3 4,04 5

Ganho de desempenho com Pipelining Supondo: N instruções K estágios de duração T Tempo de execução sem pipelining: N K T N K Tempo de execução com pipelining: K T + (N 1) T K N T 6

Processador RISC de cinco estágios Cinco estágios de execução de cada instrução: IF Busca (fetch) da instrução ID Decodificação da instrução EX Execução ou cálculo do endereço efetivo MEM Acesso à memória ou desvio WB Atualização dos registradores (write back) Cada fase de uma instrução é processada por um estágio, em um ciclo de clock Uma nova instrução é iniciada a cada ciclo Ciclo de clock Instrução 1 2 3 4 5 6 7 8 9 i IF ID EX MEM WB i+1 IF ID EX MEM WB i+2 IF ID EX MEM WB i+3 IF ID EX MEM WB i+4 IF ID EX MEM WB 7

Processador RISC de cinco estágios Durante um mesmo ciclo de clock, temos de garantir que não ocorram duas operações com os mesmos componentes do caminho de dados: Utiliza se uma memória cache de dados (DM) separada da memória cache de instruções (IM) O banco de registradores é utilizado duas vezes: Estágio ID para leitura, na 2ª. metade do ciclo de clock Estágio WB para escrita, na 1ª. metade do ciclo de clock 8

Processador RISC de cinco estágios IF/ID ID/EX EX/MEM MEM/WB 9

Sistemas Processadores e Periféricos Aula 8 - Hierarquia de Memória (capítulo 7) Prof. Frank Sill Torres DELT Escola de Engenharia UFMG Adaptado a partir dos Slides de Organização de Computadores 2006/02 do professor Leandro Galvão DCC/UFAM - galvao@dcc.ufam.edu.br e do Ricardo de Oliveira Duarte (UFMG) 10

Introdução - Memória Pode ser definida como um local para armazenamento de informações, onde as duas únicas ações possíveis são a leitura e a escrita A informação pode ser representada pelo bit ou por um conjunto de n bits que possuem um endereço definido Em um sistema computacional, temos diferentes tipos de memórias, para diferentes finalidades, que se interligam de forma estruturada e que formam o subsistema de memória 11

Hierarquia de Memória Os usuários querem memórias grandes e velozes, mas elas são caras Possível solução: Fazer com que a memória pareça ser grande e veloz a um custo razoável Hierarquia de Memória Inclusiva: cada nível é um sub-conjunto do nível inferior O desempenho depende das taxas de acerto (hit rates) 12

Hierarquia de Memória Registradores Custo, Velocidade Memória Cache Memória Principal Memória Auxiliar Tempo de Acesso, Capacidade 13

Hierarquia de Memória 14

Hierarquia de Memória Os dados contidos num nível mais próximo do processador são sempre um sub-conjunto dos dados contidos no nível anterior O nível mais baixo contém a totalidade dos dados Disco Memória Principal Cache 15

Tecnologias DRAM (Dynamic Random Access Memory): Valor é armazenado com uma carga em um capacitor que deve ser periodicamente atualizado por isso é chamada dinâmica Muito pequeno 1 transistor por bit De 5 a 10 vezes mais lento que a SRAM Usada para memória principal SRAM (Static Random Access Memory): Valor é armazenado em um par de portas lógicas indefinidamente, enquanto houver energia por isso é chamada estática Muito rápida, mas toma mais espaço que a DRAM 4 a 6 transistores por bit Usada para memória cache 16

Localidade Localidade: estatística de comportamento do acesso aos dados da memória Se um item é referenciado Ele tende a ser referenciado em breve novamente Os itens na sua vizinhança também o serão O princípio de localidade faz com que a hierarquia de memória funcione na prática 17

Localidade Localidade temporal: Um item referenciado tende a ser referenciado novamente em um curto espaço de tempo Ex: laços Localidade espacial: Os itens próximos na memória a um item referenciado tendem a ser também referenciados Ex: matrizes e estruturas 18

Localidade :: Exemplo 1 int soma_linhas(int a[m][n]) { int i, j, sum = 0; for (i = 0; i < M; i++) for (j = 0; j < N; j++) sum += a[i][j]; return sum; } Localidade temporal: mesmas instruções são executadas seguidamente M N vezes Localidade espacial: Matrizes são arrumadas linha a linha Aqui, percorre-se a matriz linha a linha assim, faz-se sempre acesso a posições de memória contíguas 19

Localidade :: Exemplo 2 int soma_coluna(int a[m][n]) { int i, j, sum = 0; for (j = 0; j < N; j++) for (i = 0; i < M; i++) sum += a[i][j]; return sum } Localidade temporal: mesmas instruções são executadas seguidamente M N vezes Localidade espacial: o percurso da matriz é feito coluna a coluna, portanto, dois acessos consecutivos não fazem acesso a posições de memória contíguas 20

Memória Cache 21

Memória Cache Memória rápida e de pequena capacidade Guarda somente os itens que serão referenciados com frequência em determinado momento Para tal, explora os conceitos de Localidade Temporal e de Localidade Espacial Tais itens podem ser tanto dados, como instruções 22

Memória Cache Transferência de words Transferência de blocos CPU Cache Memória Principal 23

Memória Cache :: Terminologia Sejam dois níveis adjacentes na hierarquia de memória: Nível superior próximo à CPU Nível inferior longe da CPU Bloco menor unidade de dados transferidos de um nível inferior para a cache Hit ocorre quando o dado requisitado pelo processador se encontra na memória cache Miss ocorre quando o dado requisitado pelo processador não se encontra na memória cache, sendo necessário lê-lo do nível inferior 24

Memória Cache :: Terminologia Hit rate porcentagem de hits ocorridos em relação ao total de acessos à memória Miss rate porcentagem de misses ocorridos em relação ao total de acessos à memória (igual a 1-hit rate) Hit time tempo para determinar se o acesso é um hit + tempo para acessar e entregar o dado de um nível inferior para a CPU Miss penalty tempo para determinar se o acesso é um miss + tempo para substituir o bloco no nível inferior + tempo de entregar o bloco á CPU 25

Quatro Perguntas Básicas sobre a Hierarquia de Memória 1. Posicionamento do bloco: Onde o bloco deve ser colocado na memória de nível mais alto? 2. Identificação do bloco: Como bloco é encontrado na memória de nível mais alto? 3. Substituição de bloco: Quais blocos serão trocados em um miss? 4. Estratégia de gravação: O que acontece em uma escrita? 26

P1 Posicionamento do bloco :: Esquemas de endereçamento Mapeamento direto (directed-mapped) Cada bloco pode ser colocado em uma única posição na cache Totalmente associativa (fully associative) Cada bloco pode ser colocado em qualquer posição na cache Parcialmente associativa (n-way set-associative) Cada bloco pode ser colocado em um conjunto restrito de posições na cache 27

P1 Posicionamento do bloco :: Esquemas de endereçamento Set no. Block no. 01234567 Block no. 01234567 Block no. Cache Totalmente associativa Mapeamento direto (12 % 8) = 4 Parc. associativa (12 % 4) = Set 0 0 0 1 1 2 3 2 4 5 3 6 7 Block no. 0123456789 1 0 1 1 1 2 1 3 1 4 1 5 1 6 1 7 1 8 1 9 2 0 2 1 2 2 2 3 2 4 2 5 2 6 2 7 2 8 2 9 3 0 3 1 Memory 28

P1 Posicionamento do bloco :: Mapeamento direto Endereço do bloco na cache = endereço do bloco na memória % tamanho da cache 000 001 010 011 100 101 110 111 Bloco Cache Memória Principal 00001 00101 01001 01101 10001 10101 11001 11101 29

P1 Posicionamento do bloco :: Mapeamento completamente associativo Cada bloco da memória principal pode ser alocado em qualquer posição da cache A busca por um bloco é feita ao mesmo tempo em paralelo em todas as entradas da cache 30

P1 Posicionamento do bloco :: Mapeamento parcialmente associativo Cada bloco pode ser colocado em um conjunto restrito de posições Um conjunto é um grupo de blocos na cache Um bloco é mapeado: Primeiramente, em um conjunto Depois, inserido em qualquer lugar desse conjunto Endereço no bloco da cache = Endereço no bloco de memória % No. de conjuntos na cache 31

P1 Posicionamento do bloco :: Mapeamento parcialmente associativo Se há n blocos em um conjunto, o posicionamento da cache é chamado associativo de conjunto de n vias Note que a cache de mapeamento direto é simplesmente uma cache associativa de conjunto de uma via A cache completamente associativa pode ser imaginada como uma cache que contém um único conjunto 32

P1 Posicionamento do bloco :: Mapeamento parcialmente associativo A busca por um bloco é feita ao mesmo tempo em paralelo em todas as entradas da cache dentro de um conjunto Aumento do grau de associatividade Aumenta o tamanho dos conjuntos Reduz o miss rate Aumenta o tempo de hit por causa da busca paralela 33

P1 Posicionamento do bloco Exemplo: processadores Blackfin Cache de dados: associativo de conjunto de 2 vias Cache de instruções: associativo de conjunto de 4 vias Lembre-se: o número de vias aumenta o número de locais na cache onde o conteúdo de cada endereço de memória pode ser colocado Assim, faz sentido ter mais locais para instruções, onde saltos e desvios abrem maior intervalo de endereçamento 34

P1 Posicionamento do bloco Na maioria dos processadores atuais, as caches são de: mapeamento direto associativas de conjunto de 2 vias associativas de conjunto de 4 vias 35

P2 Identificação do bloco Inicialmente, assuma: Tamanho de bloco de uma palavra Mapeamento direto 36

P2 Identificação do bloco :: Mapeamento direto Endereço no bloco de cache = endereço no bloco de memória % tamanho da cache 0000 0001 0010 0011 0100 0101 0110 0111 1000 1001 1010 1011 1100 1101 1110 1111 Memória Principal 00 01 10 11 Memória Cache 37

P2 Identificação do bloco :: Mapeamento direto Se o tamanho da cache = 2 m, endereço (índice) da cache = m bits mais baixos de um endereço de memória de n bits n = 4 0000 0001 0010 0011 0100 0101 0110 0111 1000 1001 1010 1011 1100 1101 1110 1111 Memória Principal 00 01 10 11 tamanho da cache = 2 2 words m = 2 Memória Cache 38

P2 Identificação do bloco :: Mapeamento direto Os (n-m-2) bits restantes do endereço de memória são usados como tag bits em cada bloco da cache ( -2 : porque no MIPS os words são alinhados como múltiplos de 4 Bytes) Os tag bits servem para identificar de que parte da memória superior veio o bloco copiado para a cache Endereço de memória 31 Tag n-m-2 m Índice 1 0 Word 39

P2 Identificação do bloco :: Acessando dados na cache Além de armazenar dados, a memória cache reserva espaço para armazenar os bits de tag e o bit de validade Por convenção, porém, conta-se apenas o campo de dados O bit de validade serve para reconhecer se um bloco de cache é válido Por exemplo, quando o processador é iniciado, a cache não contém dados válidos e os campos do tag não terão significado 40

P2 Identificação do bloco :: Acessando dados na cache Endereço da memória principal: 31 n-m-2 m 1 0 Tag Índice Word Dados guardados em cache, endereçados por cada índice: Valid Tag Dados 41

P2 Identificação do bloco :: Acessando dados na cache Cada bloco da cache é endereçado por um índice, que corresponde aos bits menos significativos do endereço de memória Índice 5 Índice 4 Índice 3 Índice 2 Índice 1 Valid Tag Dados 42

P2 Identificação do bloco :: Acessando dados na cache Endereço de memória 31 Tag 12 11 Índice 2 1 0 Byte Memória Cache 1K linhas Valid Tag Bloco de dados (32 bits) 43

P2 Identificação do bloco :: Acessando dados na cache O tamanho do bloco até agora era de uma word Normalmente, têm-se blocos de várias words Valid Tag Bloco de dados (128 bits) 44

P2 Identificação do bloco :: Acessando dados na cache Transferência de words Transferência de blocos CPU Cache Memória Principal 45

P2 Identificação do bloco :: Acessando dados na cache :: Exemplo Considere: Uma máquina com espaço de endereçamento de 32 bits Uma memória cache de 64 KB Blocos de 4 words Mapeamento direto Quantos bits são necessários no total para implementar tal cache? 46

P2 Identificação do bloco :: Acessando dados na cache :: Exemplo Endereço de memória 31 Tag 16 15 Índice 4 3 2 1 0 MUX Memória Cache 4K linhas Valid Tag Bloco de dados (128 bits) 47

P2 Identificação do bloco :: Acessando dados na cache :: Exemplo Cada linha da figura anterior (bloco) contém: 1 bit de validade x bits de tag Blocos de dados de 128 bits (4 words) Como encontrar o número de tag bits (x)? 32 bits de endereço na memória principal 2 bits de offset de word 2 bits de endereçamento do bloco 128 Bit = 16 Byte 64KB / 16 Byte = 4 K = 2 12 12 bits de índice tag bits: 32 2 2 12 = 16 bits 48

P2 Identificação do bloco :: Acessando dados na cache :: Exemplo Cada linha contém: 1 bit de validade 16 bits de tag Blocos de dados de 128 bits (4 words) 1 + 16 + 128 = 145 bits por linha Tamanho total: no. de linhas bits/linha 4 K 145 bits = 580 Kbits ou 72,5 KB para uma cache de 64 KB de dados 49

P2 Identificação do bloco :: Associatividade cache associativa de conjunto de 1 via (mapeamento direto) Índice de linha 0 1 2 3 4 5 6 7 Tag Dados cache associativa de conjunto de 2 vias Conjunto 0 1 2 3 Tag Dados Tag Dados 50

P2 Identificação do bloco :: Associatividade cache associativa de conjunto de 4 vias Conjunto 0 1 T D T D T D T D T D T cache associativa de conjunto de 8 vias (totalmente associativa) D T D T D T D T D T D T D 51

P2 Identificação do bloco :: Associatividade Considere uma memória cache com capacidade para 2 14 Bytes e blocos de 8 words O tamanho do campo tag varia conforme o esquema de posicionamento de bloco utilizado: mapeamento direto parcialmente associativo totalmente associativo 52

P2 Identificação do bloco :: Associatividade Considere uma memória cache com capacidade para 2 14 Bytes e blocos de 8 words Direto: Tamanho bloco: Tamanho word * words/bloco = 4 Byte * 8 = 32 Byte = 2^5 Byte Tamanho conjunto = Tamanho bloco * blocos/conjunto = 2^5 * 2^0 = 2^5 Byte Nº conjuntos = Tamanho cache / Tamanho conjunto = 2^14 / 2^5 = 2^9 Índice (Í) = log 2 (Nº conjuntos) = 9 Tag= 32 Í log 2 (Bytes/word) log 2 (words/bloco) = 32 Í 2 3 = 18 Associativa de 2 vias: Tamanho bloco: Tamanho word * words/bloco = 4 Byte * 8 = 32 Byte = 2^5 Byte Tamanho conjunto = Tamanho bloco * blocos/conjunto = 2^5 * 2^1 = 2^6 Byte Nº conjuntos = Tamanho cache / Tamanho conjunto = 2^14 / 2^6 = 2^8 Índice (Í): log 2 (Nº conjuntos) = 8 Tag= 32 Í log 2 (Bytes/word) log 2 (words/bloco) = 32 Í 2 3 = 19 53

P2 Identificação do bloco :: Associatividade Considere uma memória cache com capacidade para 2 14 Bytes e blocos de 8 words Associativa de 4 vias: Tamanho bloco: Tamanho word * words/bloco = 4 Byte * 8 = 32 Byte = 2^5 Byte Tamanho conjunto = Tamanho bloco * blocos/conjunto = 2^5 * 2^2 = 2^7 Byte Nº conjuntos = Tamanho cache / Tamanho conjunto = 2^14 / 2^7 = 2^7 Índice (Í): log 2 (Nº conjuntos) = 7 Tag= 32 Í log 2 (Bytes/word) log 2 (words/bloco) = 32 Í 2 3 = 20 Totalmente associativa: Nº conjuntos = 1 Índice (Í): log 2 (Nº conjuntos) = 0 Tag= 32 Í log 2 (Bytes/word) log 2 (words/bloco) = 32 Í 2 3 = 27 54

P2 Identificação do bloco :: Associatividade Tag Índice Block offset Word offset 18 bits 9 3 2 19 bits 8 3 2 20 bits 7 3 2 Mapeamento direto Associativa de 2 vias Associativa de 4 vias... 25 bits 2 3 2 26 bits 1 3 2 27 bits 3 2 Associativa de 128 vias Associativa de 256 vias Totalmente associativa

P3 Substituição do bloco :: Falhas de Cache Uma falha de cache (ou miss) ocorre quando o processador requisita dados que não estão presentes na memória cache Nesse caso, o processador congela seu funcionamento (stall), até que a memória cache busque no nível inferior o dado requisitado 56

P3 Substituição do bloco :: Falhas de Cache Mapeamento direto: somente o bloco não encontrado é substituído, simplificando o hardware No caso das caches organizadas associativamente, há muitos blocos dentro de um mesmo conjunto a escolher no caso de uma falha Três estratégias são comumente empregadas: Aleatória Menos recentemente usado (LRU) Primeiro a entrar, primeiro a sair (FIFO) 57

P3 Substituição do bloco :: Estratégias de seleção Aleatória o bloco a substituir é escolhido aleatoriamente Menos recentemente usado (LRU) substitui-se o bloco que não é usado há mais tempo Primeiro a entrar, primeiro a sair (FIFO) substituise o bloco mais antigo (ainda que tenha sido recentemente usado) 58

P3 Substituição do bloco :: Estratégias de seleção Substituição aleatória é a estratégia mais simples de ser implementada em hardware À medida que o número de blocos a controlar aumenta (aumento de associatividade), a LRU se torna cada vez mais dispendiosa Normalmente implementa-se uma aproximação da LRU 59

P3 Substituição do bloco :: Falhas de Cache Aumentar o tamanho de bloco normalmente diminui a taxa de falhas (miss rate), pois blocos maiores exploram a propriedade de localidade espacial Mas a taxa de falhas pode subir novamente se o tamanho do bloco se tornar uma fração significativa do tamanho de cache O número de blocos que pode ser armazenado na cache se tornará pequeno e haverá uma competição entre esses blocos Assim, um bloco pode ser retirado da cache antes que muitas de suas words sejam utilizadas 60

P3 Substituição do bloco :: Falhas de Cache :: Exemplo Aumento do tamanho de bloco V Tag Dados V Tag Dados 61

P3 Substituição do bloco :: Falhas de Cache O aumento do tamanho do bloco também aumenta o custo de uma falha (miss) O custo de uma falha está associado ao tempo necessário para se transferir um bloco do nível inferior e carregá-lo na cache Quanto maior o bloco, mais dados têm de ser transferidos e maior será o tempo de transferência 62

P4 Estratégia de gravação :: Leitura e Escrita de dados Leituras dominam os acessos à cache: Todos os acessos às instruções são de leitura Maioria das instruções não grava na memória É fácil tornar o caso comum (leitura) mais rápido: Dados podem ser lidos enquanto sua tag é verificada Se a tag for válida, ganha-se tempo Se a tag não for válida, fica no mesmo As gravações não permitem esse recurso, requerendo validação da tag antes da escrita 63

P4 Estratégia de gravação :: Escrita de dados Dois modos de escrita de dados: Write-through: a informação é escrita tanto para o bloco da cache quanto para a memória de nível mais baixo Write-back: a informação é escrita somente para o bloco da cache este bloco só escrito na memória de nível inferior quando for trocado 64

P4 Estratégia de gravação :: Escrita de dados Writethrough Write-back Processador atualizado ao mesmo tempo Processador atualizado na reposição de bloco Cache de dados Cache de dados Memória Memória 65

P4 Estratégia de gravação :: Vantagens Write-back Words individuais podem ser gravadas pelo processador na velocidade da cache (mais rápida) Múltiplas gravações dentro de um bloco requer somente uma gravação no nível inferior Write-Through Falhas de leitura consomem menos tempo, pois não requer gravação no nível mais baixo É mais fácil de ser implementado 66

P4 Estratégia de gravação :: Desvantagens Write-back Aumenta a penalidade de falha (miss), pois o processador deverá esperar a atualização da memória antes de gravar na cache Mais complexo de implementar Write-Through Várias escritas no mesmo bloco implicam em várias escritas na memória principal As escritas são feitas à velocidade da memória principal e não à da cache 67

P4 Estratégia de gravação :: Hit/Miss na Escrita de dados Esquema Write-through Hit de escrita: substituir o dado na cache e na memória em cada hit, para evitar inconsistência Miss de escrita: escrever a palavra na cache e na memória (obviamente, não há necessidade de buscar da memória a palavra que gerou o miss) Esquema lento, pois sempre exige acesso à memória Desempenho é melhorado com um buffer de escrita As palavras são armazenadas enquanto esperam ser escritas na memória O processador continua execução das demais instruções Buffer pode não ser suficiente caso tenha-se várias instruções de escrita nesse caso, o processador congela, até liberação do buffer

P4 Estratégia de gravação :: Miss na Escrita de dados (WT) Processador? Cache de dados Memória 69

P4 Estratégia de gravação :: Miss na Escrita de dados (WT) Buffer Processador Cache de dados Memória Para o processador não precisar aguardar transferência de dados com níveis inferiores de memórias, utiliza-se um buffer 70

P4 Estratégia de gravação :: Hit/Miss na Escrita de dados Esquema Write-back Hit de escrita: Bloco é escrito somente na cache Um bit de status (dirty bit) indica se um certo bloco da cache foi ou não modificado Caso tenha-se de reescrever um bloco da cache, o valor do bloco atual só é atualizado na memória de nível inferior se dirty bit = 1 Se o bloco estiver limpo, não há necessidade de gravá-lo de volta na memória, pois os dados são idênticos Miss de escrita: Se o bloco presente na cache estiver sujo, dados da CPU são escritos em um buffer até que a memória seja atualizada Se o bloco estiver limpo, grava-se direto na cache 71

P4 Estratégia de gravação :: Miss na Escrita de dados (WB) Buffer Processador? Cache de dados Memória 72

P4 Estratégia de gravação :: Hit/Miss na Escrita de dados Write allocate: bloco é trazido para cache se ocorrer um miss de escrita, e as escritas subsequentes são realizadas apenas na cache No-write allocate: bloco é modificado somente no nível mais baixo, e não é carregado na cache, até que uma leitura desse bloco seja realizada Write-through é geralmente utilizado com no-write allocate Write-back é geralmente utilizado com write allocate 73

P4 Estratégia de gravação :: Instruções Políticas de gravação não são aplicáveis a caches de instruções, pois modificações de código durante o tempo de execução não constituem um modelo de programação típico Portanto, estratégias de gravação são implementadas apenas em caches de dados 74

P4 Estratégia de gravação :: Aplicações Write-back Servidores, por consumir menos largura de banda de memória Sistemas embutidos, por poupar energia ao deixar de utilizar menos recursos de hardware para escrita de dados Write-Through Dispositivos com duplo processamento, onde ambos compartilham uma memória comum 75

O que vocês aprenderam hoje? Hierarquia de memória Localidade Cache: Posicionamento do bloco Identificação do bloco Substituição de bloco Estratégia de gravação: 76

Questões Uma máquina com espaço de endereçamento de 16 bits, uma memória cache de 32 Kbytes, mapeamento associativo por conjunto, cache organizada com 4 blocos por conjunto, blocos de 2 words, tamanho da word igual a 16 bits. Qual é o tamanho em bits do índice da cache? Dados por linha da cache? => => 4 2 2 16 Bytes de dados por linha da cache => => 11 bits para endereçar 2k endereços 2 2 endereços 77

Questões Uma máquina com espaço de endereçamento de 16 bits, uma memória cache de 32 KBytes, mapeamento associativo por conjunto, cache organizada com 4 blocos por conjunto, blocos de 2 words, tamanho da word igual a 16 bits. Qual o tamanho em bits do tag? Word offset = log 2 (Bytes/word) = log 2 (2) = log 2 (2^1) = 1 Block offset = log 2 (words/bloco) = log 2 (2) = log 2 (2^1) = 1 Tag: 16 bit Índice Block offset word offset = (16 11 1 1) bits = 3 bits Tag Índice Block offset Word offset 3 bits 11 bits 1 1 78

Prova 2 Na aula do dia 14/05/2012: Avaliação 2 Assuntos da prova Todos os assuntos das aulas 5 a 8* Incluindo: Arquitetura e sinais de controle para ciclo único e multiciclo Pipelining Hierarquia de memória Cache (Mapeamento, acesso, falhas,...)... Conhecimento necessário das aulas anteriores (código assembly,... ) *provas não são contadas como aulas 79