Guia del Laboratório 2 Desenho e Implementação de algoritmos paralelos Introdução

Transcrição

1 Guia del Laboratório 2 Desenho e Implementação de algoritmos paralelos Introdução Este laboratório tem como objetivo: Desenhar e implementar algoritmos paralelos. Desenvolvimento Em conferência pudemos ver que para o desenho de algoritmos paralelos se deve seguir uma metodologia consistente em quatro passos fundamentais: Particionamento Comunicação Aglomeração Mapeamento O qual estava representado pelo seguinte diagrama: O particionamento destina-se a expor oportunidades para a execução paralela. Concentre-se na definição de um grande número de pequenas tarefas para produzir uma decomposição fina do problema. Uma boa partição divide em pequenas peças as tarefas computacionais associadas a um problema e os dados nos quais as tarefas funcionam. Existem várias técnicas que permitem a decomposição, entre estas se encontram: Decomposição recursiva Decomposição de dados Decomposição exploratória Decomposição especulativo. Figura 1: Fases do desenho de um algoritmo paralelo. Para isso pode utilizar como ferramenta os grafos de computação os quais consistem em:

2 Um conjunto de vértices ou nós, em que cada nó representa um passo consistente em uma computação seqüencial arbitrária. Um conjunto de bordas direcionadas que representam restrições de pedidos entre etapas. Por exemplo para o problema de somar os elementos de um acerto um possível grafo de computação para este problema pode ser: Onde: Figura 2: Grafo de computação para o exemplo da soma dos elementos do acerto. S1, é o início da execução do algoritmo S2, é a tarefa de somar a primeira parte do acerto (realiza-se de forma assíncrona). S3, é a tarefa de somar a segunda parte do acerto S4, é a tarefa de somar os resultados de S2 e S3. Deve esperar pelos resultados de ambas as tarefas. Outra notação que pode ser empregada para representar esta informação é mediante o uso dos indicadores finish e async. Figura 3: Representación del algoritmo usando los indicadores async y finish. Durante a fase de comunicação se deve definir como intercambiam informação os diferentes processos. Para isso se pode utilizar de igual maneira os grafos de computação visto na etapa anterior (Figura 2). Na fase de aglomeração se deve levar as abstrações antes realizadas a uma implementação real. Além disso se deve analisar mediante as métricas estudadas na conferência se efetivamente o algoritmo é adequado para o problema em questão. Recorde que as diferentes métricas estão dadas pelas fórmulas da seguinte tabela:

3 WORK(G) Tempo sequencial A soma dos tempos de execução de todos os nós no CG G. É o mesmo tempo que a execução de maneira seqüencial do algoritmo. T s o T 1.

4 SPAN (G) Paralelismo ideal A longitude de um caminho mais longo em G, ao somar os tempos de execução de todos os nós no caminho. Conhecidos como caminho crítico WORK(G) / SPAN(G) T É um limite superior do fator de aceleração que pode ser obtido a partir da execução paralela de nós no gráfico de computação G. Tempo de execução em p processadores Tempo que demora o algoritmo em se executar em p processadores, desde o início da execução do primeiro processador para funcionar até o último processador terminar de funcionar. Está dada pela fórmula T p =T a +T c T sol Tempo aritmético Tempo de comunicações Tempo de sobreposição Speed-up Tempo que demora o sistema multiprocessador em fazer operações aritméticas do algoritmo. T a Tempo que demora o sistema multiprocessador em executar transferências de dados. T c Tempo que decorre quando se realizam operações aritméticas e operações de comunicação simultaneamente. T sol Indica qual é o ganho de velocidade de um algoritmo paralelo, executado sobre p processadores, quando se compara com o melhor algoritmo sequencial. Sp= T s T p lim Sp=p Eficiência Mede o grau de utilização de um sistema multiprocessador. Ep= Sp p Durante o mapeo se deve atribuir cada grupo de tarefas aos processadores. O objetivo é maximizar a utilização dos processadores e minimizar a comunicação inter-processador. A utilização do processador é maximizada quando a computação está balançada de forma casal para cada processador. Comunicação inter-processador diminui quando duas tarefas conectadas por um canal são mapeadas ao mesmo processador. Na Figura 4 mostra-se um exemplo de um bom mapeo de tarefas a processos.

5 Figura 4: Ejemplo de un buen mapeo. Figura 5: Ejemplo de un mal mapeo. Na Figura 5 mostra-se um exemplo de mau mapeo, já que o processador da esquerda e da direita têm mapeados somente 2 tarefas, enquanto o processador do meio tem mapeada 4 e além disso a comunicação entre processadores é elevada. Cenários típicos para esta fase são: Decomposição de domínio (dados): As tarefas têm um tamanho similar. Se os patrões de comunicação é regular, uma boa estratégia é criar p aglomerados de tarefas para p processadores. Caso que o número de tarefas é fixo e o patrão de comunicação é regular, mas o tempo de realizar cada tarefa difere. Se as tarefas vizinhas tiverem requerimentos computacionais similares, então um mapeo cíclico simples pode dar uma distribuição de carga computacional balançada, a expensa de maior custo de comunicação.

6 Para problemas que têm patrões de comunicação não estruturados, é importante minimizar a sobrecarga de comunicação. Um algoritmo de balanço de carga pode alcançar isto. Em caso de tarefas criadas e destruídas em tempo de execução, necessitam-se algoritmos de balanço de carga dinâmicos. Incrementar a utilização de processamento e minimizar a comunicação inter-processador podem ser freqüentemente objetivos em conflito. Suponha que tem disponível p processadores. Mapear todas as tarefas a um só processador elimina a comunicação completamente, mas reduz a utilização a 1/p. Implementação de um exemplo no Java Suponhamos que temos uma serie de elementos e queremos computar a soma de seus elementos. Figura 6: Ejemplo del problema de suma de los elementos de un arreglo. Para este problema como técnica de decomposição pode ser utilizada a decomposição recursiva e nosso problema poderia definir-se como segue: Obtendo-se como grafo de computação o visto na Figura 2. Logo o mesmo pode ser implementado no Java usando o marco de trabalho ForkJoin do API de concorrência do Java. public class ASum extends RecursiveAction{ private double[] array; int lo; int hi; double sum; public ASum(double[] array, int lo, int hi) {...}

7 } public void compute() { if(lo == hi) { sum = array[lo]; }else if(lo > hi) { sum = 0; }else { int mid = (hi+lo)/2; ASum l = new ASum(array, lo, mid); ASum r = new ASum(array, mid+1, hi); l.fork(); r.compute(); l.join(); sum = l.sum + r.sum; } } Ou também substituindo o patrão: l.fork(); r.compute(); l.join(); pelo método equivalente invokeall(l,r);. Exercicio 1. Implemente um algoritmo paralelo que permita determinar o menor elemento em um conjunto de números.