Análise de desempenho com OProfile

Transcrição

1 Análise de desempenho com OProfile João Canas Ferreira Tópicos de Arquitectura de Computadores Assuntos Tópicos 1 A microarquitectura NetBurst 2 Utilização básica de OProfile 3 Eventos sintéticos João Canas Ferreira (FEUP/DEEC) OProfile / 17

2 A microarquitectura NetBurst Características gerais A microarquitectura NetBurst foi introduzida com o Pentium 4 (Nov. 2000). Tem as seguintes características principais: pipeline de 20 andares; uma nova arquitectura de cache com 2 níveis on-chip e um terceiro off-chip; unidades aritméticas de frequência dupla; maior rapidez de execução para operações VF; instruções multimédia adicionais (SSE2); barramento de sistema mais rápido. João Canas Ferreira (FEUP/DEEC) OProfile / O primeiro modelo do Pentium 4 introduzido no mercado tinha 42 milhões de transístores, 217 mm 2, e consumia 55 W de potência com um relógio de 1.5 MHz O conjunto SSE2 é composto por 144 instruções que operam sobre dados empacotados em unidades de 128 bits. Destina-se principalmente a melhorar o desempenho de aplicações multimédia e científicas Uma descrição sumária da arquitectura pode ser encontrada no artigo The microarchitecture of the Pentium 4 processor, Glenn Hinton et al., Intel Technology Journal Q1, 2001 (Algumas das figuras apresentadas a seguir provêm desse artigo.) 3.4. Apesar de estar prevista para ser usada durante pelo menos 10 anos, a Intel anunciou já uma nova microarquitectura, cuja primeira implementação deverá surgir no mercado no outono de 2006; consultar anúncio em 3

3 Diagrama de blocos geral A microarquitectura NetBurst João Canas Ferreira (FEUP/DEEC) OProfile / Front-end: prepara instruções para execução. As instruções provêm do subsistema de memória ou da cache de instruções (trace cache) Para não limitar o processo de obtenção de instruções, é necessário predizer o destino das instruções de salto. O bloco com a etiqueta BTB/Branch prediction está encarregado dessa tarefa. A sigla BTB significa branch target buffer e denomina uma memória associativa que contém o endereço de destino dos saltos mais recentes As instruções são executadas fora de ordem pelo bloco designado por out-of-order execution engine. Este bloco sequencia a passagem das instruções às unidades de execução, ocupando-se igualmente de actualizar o estado interno do processador no final do processamento (retirement) As instruções podem ser executadas especulativamente, i.e. antes de o processador determinar se devem ser realmente executadas. Caso se venha a determinar que a instrução deve ser anulada, tal acontece durante a finalização O bloco de finalização também actualiza a BTB Todos estes aspectos serão abordados ainda nesta disciplina. 4

4 A microarquitectura NetBurst Contexto geral João Canas Ferreira (FEUP/DEEC) OProfile / Um processador necessita geralmente de circuitos de apoio. Por exemplo, o circuito integrado 82865PE implementa o subsistema northbridge. A sua tarefa é gerir as comunicações entre CPU, RAM, barramento AGP ou PCI Express (placa gráfica) e o subsistema southbridge. Por vezes, este sistema inclui um processador gráfico integrado. Este subsistema está directamente ligado ao FSB (Front-side bus), o principal barramento externo do processador (na figura anterior denominado system bus). Este subsistema tem um papel preponderante para o desempenho global do computador. Por exemplo, é deste subsistema que depende a quantidade de memória física máxima suportada pelo sistema (geralmente inferior aos 64 GB suportados pelo CPU). A funcionalidade deste subsistema pode variar. Por exemplo, os processadores AMD64 incluem o controlador de memória no circuito integrado do CPU O circuito integrado ICH5 implementa o subsistema southbridge, cuja função principal é controlar os recursos mais lentos: barramentos (PCI, ISA), controlador DMA, controlador de disco (IDE, SATA), gestão de consumo de potência e memória BIOS. Também pode incluir suporte para USB, audio codec, Firewire e Ethernet. 5

5 NetBurst: vista mais detalhada A microarquitectura NetBurst João Canas Ferreira (FEUP/DEEC) OProfile / As instruções IA-32 são de descodificação complicada. O descodificador de instruções converte essas instruções em microinstruções µops). A memória cache de instruções (do tipo trace cache) trabalha com µops. As µops a serem executadas são colocadas na fila de execução (µops queue) A unidade de prefetch tenta alimentar o descodificador ao débito máximo, indo buscar instruções à memória cache de instruções, se necessário A unidade de sequenciamento (alocator/register rename) pertence já ao motor OOE. O seu papel é distribuir as µops pelas unidades de processamento (chama-se a este processo emissão ou despacho de instruções e será estudado mais tarde) Os dados provêm de uma memória cache de nível 1 (ao fundo da figura) ou da memória cache unificada de nível O tratamento de uma instrução pode passar por cerca de 20 andares de processamento. 6

6 A microarquitectura NetBurst Despacho de instruções João Canas Ferreira (FEUP/DEEC) OProfile / As µops são despachadas para uma unidade de processamento assim que os operandos estiverem disponíveis e exista uma unidade apropriada livre A microarquitectura NetBurst dispõe de 4 portos de emissão. Os portos 0 e 1 despacham até 2 instruções por ciclo cada um para as unidades aritméticas e de vírgula flutuante. Existem ainda mais dois portos para leituras e escritas em memória, respectivamente Colectivamente, estes portos podem despachar até 6 µops por ciclo. Notar que a secção de front-end pode fornecer até 3 µops por ciclo. O débito da unidade de finalização também é de 3 µops por ciclo. O excesso de capacidade da unidade de despacho permite maior flexibilidade na escolha das instruções a tratar, bem como absorver as irregularidades introduzidas no processamento pelas dependências entre instruções Esta microarquitectura introduz dependências estruturais entre instruções que podem afectar o desempenho. Por exemplo, nem todos os pares de instruções de VF podem iniciar execução no mesmo ciclo. 7

7 A microarquitectura NetBurst Nomenclatura Intel No contexto da monitorização de desempenho, a documentação da Intel e de OProfile mencionam os seguintes termos: bogus Durante o processamento, algumas instruções são executadas especulativamente. As instruções posteriormente canceladas são designadas por instruções bogus. bus ratio É a razão entre a frequência de relógio do processador e do barramento de sistema (que comunica com o sub-sistema northbridge). replay Algumas instruções são despachadas antes de estarem garantidas todas as condições para a sua execução. Caso as condições não possam ser satisfeitas, as instruções devem ser repetidas (replayed). assist Em alguns casos, o CPU recorre a sequências de microcódigo para tratar de alguns eventos. Nessa situação, diz-se que usa uma assistência (assist). João Canas Ferreira (FEUP/DEEC) OProfile / Muitas instruções são executas com base nas predições de destino de saltos. Apenas quando as predições são confirmadas é que essas instruções levam efectivamente à alteração de dados durante a finalização. Para que o mecanismo funcione bem, a percentagem de predições deve ser elevada A re-execução de instruções pode ser causada por falhas de cache, dependências não-satisfeitas ou por falha inesperada de recursos Um exemplo de assistência é o tratamento de operandos de VF em situação de underflow, que obriga a que o seu formato seja modificado internamente. Trata-se sempre de situações raras e de tratamento complexo. A execução de assistências é sempre muito penalizante porque obriga a processar completamente todas as µops anteriores. Notar que um Pentium 4 pode ter mais de 100 instruções em execução (in-flight). 8

8 Utilização básica de OProfile A ferramenta OProfile O sistema OProfile permite monitorar a execução de qualquer programa sem o modificar nem ter o código fonte disponível. O sistema funciona em Linux e suporta diferentes tipos de CPU: Intel, AMD, Alpha, PowerPC. O sistema pode utilizar os recursos de monitorização eventualmente existentes no CPU. É possível monitorar tanto a execução de programas específicos, como de todo o sistema, incluindo o núcleo. Princípio de funcionamento: Quando ocorre um certo número de eventos, é gerada uma interrupção que activa uma rotina de monitorização. Esta rotina toma nota do endereço da instrução em execução aquando do evento e do processo associado. Exemplo de contagem de evento: ocorrência de ciclos de relógio. João Canas Ferreira (FEUP/DEEC) OProfile / Site WWW: Num sistema deste género, é importante manter as perturbações introduzidas pelo sistema de medida ao mínimo, já que a sua grande virtude é poder ser aplicado em condições realistas gerais Este sistema não é especificamente desenvolvido para processadores Pentium 4, pelo que não suporta a utilização de todos os recursos internos deste processador Os eventos especificáveis variam de modelo para modelo. O número de eventos que podem ser monitorizado simultaneamente também É muito importante ter em atenção que esta ferramenta funciona por amostragem (no exemplo, o estado do CPU é examinado a cada ciclos de relógio). Este facto deve ser sempre tido em conta quando se interpretam os resultados. 9

9 Utilização básica de OProfile Organização geral Componentes de OProfile (v , núcleo 2.6): módulo do núcleo e sistema virtual de ficheiros (/dev/oprofile); processo de recolha de dados (daemon chamado oprofiled); programa de controlo: opcontrol; programas de tratamento de dados: opreport, opannotate e opgprof. Da perspectiva do utilizador, todas as operações, excepto o tratamento dos dados, são controladas através do programa opcontrol. É possível recolher dados num computador, arquivá-los e transferi-los para outro computador para tratamento (comando oparchive). É também possível usar opreport para efectuar análises comparativas. João Canas Ferreira (FEUP/DEEC) OProfile / Para obter uma sinopse rápida dos diversos programas, executar o comando man oprofile Cada comando aceita a opção --help, apresentando um resumo das opções que aceita A directoria /dev/oprofile contém vários ficheiros e sub-directorias virtuais (por exemplo, uma para cada contador de eventos suportado). Para consultar os ficheiros virtuais basta usar o comando cat nome_do_ficheiro Existem outros sistemas ou ferramentas que podem ser usados: VTune da Intel (existe uma versão para Linux sem custos para o utilizador); Performance Application Programming Interface (PAPI): perfctr: Os recursos internos de monitorização da arquitectura IA-32 estão documentados em: IA-32 Intel Architecture Software Developer s Manual Volume 3: System Programming Guide IA-32 Intel Architecture Optimization: Reference Manual 10

10 Utilização básica de OProfile Procedimento geral de utilização Os passos a seguir para proceder a medições usando o sistema OProfile são os seguintes: 1 activar o sistema: opcontrol --init 2 não monitorar o núcleo: opcontrol --no-vmlinux 3 iniciar o programa de recolha: opcontrol --start-daemon 4 iniciar a recolha: opcontrol --start 5 interromper a recolha: opcontrol --stop 6 desactivar o sistema: opcontrol --shutdown Outros comandos úteis: forçar a gravação dos dados: opcontrol --dump apagar os dados recolhidos: opcontrol --reset guardar os dados recolhidos: opcontrol --save=nome_sessão João Canas Ferreira (FEUP/DEEC) OProfile / Importante: terminar sempre a sessão de trabalho com opcontrol --reset e opcontrol --shutdown Para se obter dados detalhados sobre a operação do núcleo é necessário indicar a imagem usada com opcontrol --vmlinux=imagem e, idealmente, ter o código fonte acessível As opções start e stop podem ser usadas repetidamente. As medidas vão sendo acumuladas. Quando tal não for desejado, deve usar-se a opção --reset O estado corrente do sistema pode ser determinado com opcontrol --status. 11

11 Utilização básica de OProfile Exemplo de utilização 1 Tarefa: Determinar a distribuição de tempo de CPU por todos os programas em execução: Executar as instruções 1-4 indicadas anteriormente para dar início à recolha de dados. Gerar relatório geral: opreport Gerar relatório para um programa específico: opreport /bin/bash A recolha de dados pode ser parada e re-iniciada à vontade. Tarefa: Medir o número de instruções úteis executadas. Executar as instruções 1-3 indicadas anteriormente. Especificar o evento a medir: opcontrol --event=instr_retired:100000:0x03 Dar início ao processo de medida e proceder como anteriormente. João Canas Ferreira (FEUP/DEEC) OProfile / Para se obter uma lista resumida dos eventos suportados, usa-se o comando opcontrol --list-events Os eventos suportados para cada modelo de CPU podem ser encontrados em Os detalhes da especificação de eventos são explicados mais à frente O número colocado à frente do nome do evento (10000 no exemplo) indica o valor inicial do contador de eventos. Neste caso, a especificação indica que se faz uma amostragem do estado do CPU após ocorrências do evento INSTR_RETIRED. Este número deve ser escolhido com conhecimento de causa; um número demasiado baixo pode tornar o sistema inutilizável. 12

12 Utilização básica de OProfile Anotar código fonte Tarefa: Produzir uma listagem anotada com o número de ciclos gastos em cada linha de um programa. Executar as instruções 1-3 indicadas anteriormente. Compilar o programa com a opção -g: por exemplo: gcc -g prog.c -o prog Especificar o binário a monitorar (opcional): opcontrol --image=prog Efectuar as medidas. Proceder à anotação: opannotate --source prog > prog_annot.c Para anotar o código assembly: opannotate --assembly prog > prog_annot.c Também é possível produzir informação no formato do programa gprof. João Canas Ferreira (FEUP/DEEC) OProfile / Não esquecer que o sistema funciona por amostragem, pelo que os números devem ser interpretados com cuidado. È importante deixar o programa bastante tempo em execução ou, alternativamente, acumular os dados de muitas execuções Neste caso particular, cada linha de código é anotada com o número de eventos que ocorreram quando instruções associadas a esta linha estavam em execução. Esse mapeamento nem sempre pode ser feito correctamente, especialmente na presença de optimizações. 13

13 Eventos sintéticos Eventos detectados O utilizador dos sistema OProfile não especifica os eventos a monitorar por referência directa aos recursos existentes mas sim através de eventos sintéticos. Especificação de um evento: nome:limiar:máscara:núcleo:utilizador nome identificador do evento; limiar número de ocorrências até ser gerada uma interrupção; máscara especificação mais detalhada do evento (depende do evento); núcleo monitorar o núcleo? 0/1; utilizadores monitorar código de utilizador? 0/1. João Canas Ferreira (FEUP/DEEC) OProfile / Lista de eventos para Pentium 4 com Hyperthreading: Lista de eventos para Pentium 4 sem Hyperthreading: Os 3 últimos campos são facultativos. A máscara por omissão depende do tipo de evento. Os últimos dois campos têm por omissão o valor O valor de limiar deve ser sempre cuidadosamente verificado. 14

14 Eventos sintéticos Restrições na especificação de eventos Existem algumas restrições na especificação de eventos a monitorar. 1 Cada evento está associado a um contador. Eventos associados ao mesmo contador não podem ser monitorados simultaneamente. 2 No caso do Pentium 4 sem hyperthreading existem 8 contadores, com hyperthreading apenas 4. Os resultados obtidos são sempre associados aos 2 processadores lógicos (i.e., não podem ser feitas medidas por processador lógico). 3 O sistema OProfile impõe valores mínimos para os limiares. Mesmo assim, deve ter-se em consideração que valores baixos sobrecarregam o sistema, o que provoca a alteração das medidas. Por exemplo, as operações de E/S podem ser fortemente alteradas (atraso no atendimento dos perifèricos, rede, etc.). João Canas Ferreira (FEUP/DEEC) OProfile / De facto, o Pentium 4 tem 18 contadores de eventos, mas o sistema OProfile apenas usa 8 deles Exemplo: Para um processador de 2 GHz, um valor de limiar de implica o registo de amostras por segundo. Trata-se de uma granularidade de medida difícil de justificar e que pode alterar significativamente o comportamento do sistema Para que as medidas sejam significativas e realistas é importante manter o overhead introduzido pelo mecanismo de medições. Daí que os valores de contagem devam ser o mais altos possível (e que seja compatível com a precisão desejada). É importante proceder a experiências bem planeadas, por forma a poder-se analisar todas as influências significativas do processo de medida. 15

15 Eventos sintéticos Alguns eventos úteis Eventos principais: GLOBAL_POWER_EVENTS: n. de ciclos em que o processador não está parado (a máscara tem obrigatoriamente o valor 1). INSTR_RETIRED: n. de instruções finalizadas. máscara=3: instruções non-bogus; máscara=12: instruções bogus. UOPS_RETIRED: nº de µops finalizadas. máscara=1: non-bogus máscara=2: bogus BRANCH_RETIRED: n. de instruções de salto finalizadas (máscara=15). MISPRED_BRANCH_RETIRED: n. de instruções de salto mal-preditas completadas (máscara=1). BPU_FETCH_REQUEST: n. de falhas no acesso à memória cache de instruções de nível 1 (máscara=1). João Canas Ferreira (FEUP/DEEC) OProfile / Neste contexto, branch refere-se a todo o tipo de saltos. Noutros contextos pode designar apenas as instruções de salto condicional Em alguns casos, as máscaras podem ser somadas. Por exemplo, para contar o número de µops finalizadas sem distinção de tipo pode usar-se a máscara=1+2= Mais alguns eventos interessantes: UOP_QUEUE_WRITES: n. de µops colocadas na fila de despacho (máscara=7). BSQ_CACHE_REFERENCE: cache de nível 2 máscara=256 (0x100): falhas de leitura; máscara=263 (0x107): n. acessos de leitura; BSQ=Bus Sequence Unit (sequenciador de acesso ao barramento do sistema) 16

16 Eventos sintéticos Interpretação de resultados Cuidados gerais a ter na obtenção e interpretação dos dados: efectuar medições em condições realistas; efectuar medições em diferentes cenários; medir durante o maior intervalo de tempo possível; não confiar demasiado nos dados. Aspectos específicos: atraso na recepção de interrupções; comportamento do sistema no estado de idle; inexactidão das anotações: optimizações, inlining, prólogo/epílogo de funções. João Canas Ferreira (FEUP/DEEC) OProfile / É extremamente importante ser cuidadoso na generalização dos resultados obtidos. Por exemplo, é importante caracterizar a carga de trabalho existente no intervalo de tempo em que as medições foram efectuadas Não se devem realizar apenas medidas isoladas. Deve-se procurar obter sempre um conjunto de dados que permita aumentar a confiança nos resultados, por exemplo, fazendo medidas com diferentes granularidades. 17