Computação de Alto Desempenho uma pequena introdução

Tamanho: px

Começar a partir da página:

Download "Computação de Alto Desempenho uma pequena introdução"

André Alcântara Casqueira
8 Há anos
Visualizações:

1 Computação de Alto Desempenho uma pequena introdução Pedro Alberto Laboratório de Computação Avançada Centro de Física Computacional Unversidade de Coimbra 1

2 Sumário Porque é que é precisa a computação de alto desempenho (HPC)? Utilizações científicas GRID e HPC Hardware para HPC Software para HPC Sistemas futuros de HPC 2

3 Porque é que é precisa a computação de alto desempenho? Cálculos ou muito grandes (envolvendo muita memória e dados) Simulações envolvendo muitos (centenas, milhares) de partículas/graus de liberdade Grandes malhas/matrizes usadas em certos algoritmos numéricos e/ou levarem muito tempo a realizarem-se só com um CPU Métodos interactivos que requerem muitos ciclos para convergir ou para obter uma certa precisão Muitas repetições do mesmo cálculo usando diferentes conjuntos de dados (farming applications) 3

partículas/graus de liberdade Grandes malhas/matrizes usadas em certos algoritmos numéricos e/ou levarem muito tempo a

4 Usos científicos Física Astrofísica, matéria condensada, Física de altas energias, plasmas Matemática Novos algoritmos paralelos Química Estrutura molecular, mecanismos de reacção... Biology Análise de bases de dados, dobragem/desdobragem de proteínas... Engineering Simulações de estruturas, dinâmica de fluidos... 4

5 HPC também é usado em Finanças (p. ex. mercado de acções) Indústria de petróleo e gás Data mining (p. ex. Pesquisa de mercados) Indústria farmacêutica Indústria automóvel etc... 5

6 GRID e HPC Podemos distinguir entre computação de Grid Diferentes instâncias do mesmo programa que não comunicam entre si e HPC (High Performance Computing) Programas paralelos cujas instâncias precisam de comunicar mais ou menos frequentemente 6

entre si e HPC (High Performance Computing) Programas

7 GRID e HPC Um sistema de Grid é formado por um conjunto de computadores ligados informalmente, podendo até estar afastados geograficamente (capacity computing) Um sistema HPC é formado por um conjunto de processadores ou computadors num certo local ligados entre si de uma forma coesa (capability computing) 7

computing) Um sistema HPC é formado por um conjunto de processadores ou

8 Hardware HPC Sistemas de memória distribuída (clusters) Conjuntos de computadores pessoais ou servidores montados em armários São mais baratos (construídos com componentes comerciais) e mais fáceis de organizar e pôr a funcionar -> paradigma Beowulf Exemplo: Milipeia 8

mais baratos (construídos com componentes comerciais) e mais fáceis

9 Hardware HPC Sistemas de memória partilhada (Shared Memory Systems - SMP) Grandes quantidades de memória disponíveis para um único processo Mais caro mas não tem problemas de partição de memória em programas paralelos arquitecturas proprietárias Exemplos: NEC SX-9 (computadores vectoriais), IBM p570, HP 9000 computers... -> alguns podem ter mais de 1 TB de memória partilhada! 9

memória em programas paralelos arquitecturas proprietárias Exemplos: NEC SX-9 (computadores

10 Hardware HPC Os primeiros supercomputadores como os Crays usavam processadores SIMD (Single Instruction Multiple Data) também chamados procesadores vectoriais, mas agora os processadores MIMD (Multiple Instruction Multiple Data) são os mais comuns 10

também chamados procesadores vectoriais, mas agora os

11 Hardware HPC Ligações de rede Mais comum: Gigabit Ethernet 1 Gb/s; latência ~60 μs baratos mas relativamente lentos Ligações de rede rápidas e de baixa latência Myrinet 10 Gb/s; latência 2.3 μs proprietária, a desaparecer Infiniband 10, 20 e 40 Gb/s (planos para 50 e 100 Gb/s) latência μs; standard aberto Ligações proprietárias na forma de um torus 3-D muito rápidas ~ 6 GB/s e eficientes, mas requerendo uma programação cuidadosas IBM BlueGene/P e Cray XT6 Tecnologia a estar atento: 10 GbE já há testes de 100 GbE 11

3 μs proprietária, a desaparecer Infiniband 10, 20 e 40 Gb/s (planos para 50 e 100 Gb/s) latência 1.

12 Software HPC Armazamento num supercomputador Há em geral um sistema central de armazenamento de dados disk array Storage area network (SAN) Pode haver redes dedicadas a E/S de dados Sistemas de ficheiros (filesystems) Um sistema de ficheiros centralizado (ex: NFS) leva a estrangulamentos no fluxo de dados quando há muitos nós (computadores) Solução: Usar o directório local /temp para escrita! Usar um sistema de ficheiros paralelo (ex: Lustre software livre - ou IBM GPFS) com vários servidores para gerirem e partilharem o tráfego E/S 12

a estrangulamentos no fluxo de dados quando há muitos nós (computadores) Solução: Usar o directório local /temp para escrita!

13 Software HPC Schedulers/resource e allocation managers Programas que: gerem os trabalhos computacionais submetidos de acordo com os recursos do supercomputador: tempo de CPU disponível, # of processors, memória e espaço em disco fazem a contabilidade dos recursos usados pelos utilizadores através de projectos. Os trabalhos batch são submetidos a filas de espera por scripts que requisitam um certo conjunto recursos do supercomputador 13

espaço em disco fazem a contabilidade dos recursos usados pelos utilizadores através de projectos.

14 HPC software Exemplo de script PBS/Torque (milipeia) #!/bin/bash #PBS -S /bin/bash #PBS -m bea -M # mail to user when job starts/finishes #PBS -l nodes=4:ppn=4 # n. of nodes x cores #PBS -l mem=30gb # total memory requested #PBS -l walltime=2:00 # walltime requested #PBS -N hpl_test #PBS -A test # account to be charged cd $PBS_O_WORKDIR module load comp/mpich2/gcc4 NODES=$(grep -c comp $PBS_NODEFILE) mpipbsexec -n $NODES./xhpl 14

of nodes x cores #PBS -l mem=30gb # total memory requested #PBS -l walltime=2:00 # walltime requested #PBS -N

15 Software HPC Paradigmas para programação paralela MPI/OpenMP MPI Message Passing Interface usado para systemas com memória distribuída -> usada para paralelismo de grão fino e grosso OpenMP directivas de compilador usadas em sistemas de memória partilhada ou computação intranó em clusters paralelismo de grão fino Novas linguagens com instruções para processamento paralelo (PGAS): UPC, Co-array FORTRAN... A Microsoft está a realizar extensões paralelas em algumas das suas linguagens 15

partilhada ou computação intranó em clusters paralelismo de grão fino Novas linguagens com instruções para processamento

16 Software HPC Escalamento O aumento de desempenho (speedup) de um programa paralelo com o # de processadores depende do fracção do programa que está paralelizada Lei de Amdahl Speedup = (s + p ) / (s + p / N )= 1 / (s + p / N ) N é o número de processadores (cores) s é a fracção do tempo gasto na execução das partes série do programa p é a fracção do tempo gasto nas partes do programa que estão paralelizadas Speedup=N só se s=0, p=1! 16

$+ p / N ) N é o número de processadores (cores) s é a fracção do tempo gasto na execução das partes série do$

17 HPC future systems A tendência hoje em dia é para sistemas híbridos (distribuídos/smp) com os novos processadores multicore Ex.: Sistemas com 2x quad-core CPU, mas já há com 4x 12-cores CPU da AMD Mas há problemas a resolver: os sistemas com chips multicore têm problemas de contenção de memória -> há competição no acesso à memória partilhada 17

: Sistemas com 2x quad-core CPU, mas já há com 4x 12-cores CPU da AMD Mas há problemas

18 Sistemas HPC futuros Multicore: solução para o chamado muro de frequência (se existir!) e para continuar a cumprir a lei de Moore? Outras tecnologias: Processadores GPGPU (NVidia Tesla GPU Fermi -> 480 cores!). Há já ferramentas de desenvolvimento de software (CUDA) Aceleradores de vírgula flutuante Processadores cell, sistemas híbridos (Road Runner da IBM) -> primeiro sistema com desempenho de Petaflop/s! 18

Outras tecnologias: Processadores GPGPU (NVidia Tesla GPU Fermi -> 480 cores!).

19 Sistemas HPC futuros Chips com muitos cores incluindo ligações de rede (chip Teraflops da Intel) Os processadores vectorais continuam a ser desenvolvidos! Ainda mais além: processadores e redes ópticos, envolvendo nanotecnologias 19

processadores vectorais continuam a ser desenvolvidos!

20 Sistemas HPC futuros TOP500 - os 500 supercomputadores mais rápidos do mundo 20

21 Sistemas HPC futuros Já há vários sistemas com Petaflop/s O consórcio PRACE procura ter supercomputadores europeus a partir de 2010 em diante Já se fala de computadores com desempenho de Exaflop/s (10 18 Flop por segundo!!) em 2018 ou talvez antes! 21

Documentos relacionados

Supercomputação em Portugal: realidade e perspectivas Pedro Alberto Centro de Física Computacional Laboratório de Computação Avançada Universidade de Coimbra Ciência 2008 3 Julho 2008 1 O que é supercomputação?