Introdução OpenMP. Nielsen Castelo Damasceno

Transcrição

1 Introdução OpenMP Nielsen Castelo Damasceno

2 Computação de auto desempenho Processamento Paralelo Memória Distribuída e Compartilhada Modelo de programação OpenMP Métricas de Desempenho

3 Computação de auto desempenho O desenvolvimento científico tem exigido das simulações numéricas resultados cada vez mais confiáveis e próximos da realidade. A computação científica se depara com o desafio de superar as diversas barreiras que surgem em virtude da limitação física dos computadores.

4 Objetivo Tem como objetivo aumentar a velocidade de processamento de simulações numéricas e viabilizar a simulação de modelos muito grandes e/ou com elevado grau de detalhes.

5 Arquitetura distribuída

6 Arquitetura distribuída

7 Arquitetura distribuída

8 Arquitetura distribuída

9 Arquitetura distribuída

10 O que é OpenMP OpenMP é uma interface de programação (API), portável, baseada no modelo de programação paralela de memória compartilhada para arquiteturas de múltiplos processadores.

11 Modelo de programação Paralelismo baseado em Threads : Processo de memória compartilhada que consiste de múltiplos threads ; Paralelismo explícito: O OpenMP é um recurso de programação paralela que permite ao programador total controle sobre a paralelização do código;

12 Histórico No início da década de 90, fabricantes de máquinas de memória compartilhada e similar, desenvolveram extensões do compilador Fortran com um conjunto especial de instruções denominadas de diretivas de execução.

13 Histórico O primeiro padrão, ANSI X3H5, para testes foi lançado em 1994, mas nunca foi adotado devido ao grande uso e interesse, na época, por máquinas de memória distribuída (clusters). Um novo padrão foi desenvolvido em 1997 a partir do padrão anterior, quando as arquiteturas de memória compartilhada se tornaram mais comum.

14 Histórico Em 28 de Outubro de 1997 foi divulgado e disponibilizado o OpenMP Fortran API e no final de 1998 foi disponibilizado o OpenMP C/C++ API. Informações do OpenMP em

15 Modelo de execução

16 Modelo de execução Todos os programas OpenMP começam como um processo simples: Thread Mestre. O thread mestre executa sequencialmente até a primeira definição de uma região paralela ser encontrada. FORK (bifurcar): O thread mestre cria um conjunto ( team ) de threads paralelos.

17 Modelo de execução Os comandos de um programa que estão inseridos na região paralela serão executados em paralelo pelos diversos threads criados. JOIN (unir): Quando o conjunto de threads completar a execução dos comandos na região paralela, os threads são sincronizados e finalizados, permanecendo apenas o thread mestre.

18 Modelo de execução Baseado em diretivas de compilação: Todo paralelismo do OpenMP é especificado através de diretivas de compilação. Suporta paralelismo recursivo: Permite que em uma região paralela existam outras regiões que podem ser executadas em paralelo, e assim sucessivamente. Depende da implementação OpenMP. Threads dinâmico: É possível durante a execução do programa alterar o número de threads que serão criados. Depende da implementação OpenMP

19 Por que usar?

20 Estrutura

21 Características Biblioteca para paralelização de código Usa #pragma para definir as regiões paralelas Os programas ainda podem ser executados serialmente Detecta automaticamente o número de processadores O programador não precisa saber a priori o número de processadores disponíveis Exige suporte do compilador

22 Exercício O objetivo desse exercício é entender como se compila e executa um programa utilizando OpenMP. O programa HELLO, é o mais simples possível; em paralelo várias threads irão imprimir um hello.

23 Hello World

24 Hello World

25 Configurando Ambiente

26 Configurando Ambiente

27 Configurando Ambiente

28 Configurando Ambiente Procure onde está instalado o MinGW no diretorio do codeblock e apaga. Em seguida, copie a pasta MinGW para dentro do codeblck.

29 Configurando Ambiente

30 Configurando Ambiente

31 Configurando Ambiente

32 Configurando Ambiente

33 Configurando Ambiente

34 Região paralela

35 Região paralela

36 Região paralela

37 Região paralela

38 Elementos de programação

39 Paralelizar soma de vetores A inserção do construtor paralelo indica que será criado um grupo de threads e que todas as threads desse grupo irão executar as mesmas instruções, ou seja, não há nenhuma divisão de trabalho.

40 Soma de vetores

41 Soma de vetores

42 Soma com 2 threads

43 Soma com 4 threads

44 Soma com 4 threads

45 Soma vetor paralelo

46 Soma vetor 2 threads

47 Soma de matrizes

48 Soma de matrizes

49 Soma de matrizes

50 #pragma parallel for main() { int i; #pragma omp parallel for for(i=0;i<1000;i++) DoTask(); } 1 processador 1000 chamadas a DoTask() 4 processadores 250 chamadas a DoTask() para cada processador Distribui automaticamente o trabalho entre as threads.

51 #pragma parallel for

52 #Soma matriz com omp for

53 Condição de corrida

54 Condição de corrida

55 Condição de corrida Região crítica: Trecho de código que acessa variáveis compartilhadas entre processos ou threads. Condição de corrida: Quando mais de um processo ou thread acessa suas RCs ao mesmo tempo. Exclusão Mútua: Impedir que dois ou mais processo ou threads acessem sua RCs ao mesmo tempo.

56 Shared

57 Private

58 Private

59 Soma de matrizes

60 Soma de matrizes