Decisões arquiteturais importantes. Projeto arquitetural x projeto de algoritmos. Decomposição de dados. Decomposição de dados

Tamanho: px

Começar a partir da página:

Download "Decisões arquiteturais importantes. Projeto arquitetural x projeto de algoritmos. Decomposição de dados. Decomposição de dados"

Luiz Beppler
5 Há anos
Visualizações:

Processamento Paralelo Técnicas de Decomposição de Problemas Prof. João Paulo A. Almeida (jpalmeida@inf.ufes.br) Decisões arquiteturais importantes 1.

1 Processamento Paralelo Técnicas de Decomposição de Problemas Prof. João Paulo A. Almeida Decisões arquiteturais importantes 1. Divisão de responsabilidades entre partes (componentes) do sistema 2. Localização dos componentes do sistema 3. Relação entre 1 e 2: Em que momento(s) definiremos localização (em que momento faremos alocação) Como o potencial de localização afeta as propriedades do sistema Com slides de Ananth Grama, Anshul Gupta, George Karypis, and Vipin Kumar Introduction to Parallel Computing, Addison Wesley, Projeto arquitetural x projeto de algoritmos Projeto arquitetural Ênfase na decomposição e alocação de partes, serviços Projeto de algoritmos paralelos Ênfase em decomposição e alocação de tarefas Técnicas de Decomposição de Problemas O primeiro passo no projeto de algoritmos paralelos é a decomposição de tarefas para que elas possam ser executadas em paralelo Decomposição de dados Decomposição recursiva Decomposição exploratória Decomposição especulativa Decomposição de dados Identificar os dados que são usados Particionar os dados entre as várias tarefas O particionamento induz uma decomposição do problema A forma como os dados são particionados tem grande impacto no desempenho speed-up grau de concorrência / número de processadores uso de comunicação Decomposição de dados Dados de entrada Dados de saída Dados intermediários Estática Definida em tempo de projeto Dinâmica Definida em tempo de execução 1

2 Particionamento de dados: dados de saída Cada elemento (ou parte) da saída pode ser computada independentemente Por exemplo como função da mesma entrada Nesse caso, partição de dados de saída é uma decomposição natural 2

3 Exemplo (cont.): outras decomposições Particionamento de dados de saída Com o mesmo particionamento da saída, outras composições em tarefas são possíveis: Decomposition I C 1,1 = A 1,1 B 1,1 C 1,1 = C 1,1 A 1,2 B 2,1 C 1,2 = A 1,1 B 1,2 C 1,2 = C 1,2 A 1,2 B 2,2 Task 5: C 2,1 = A 2,1 B 1,1 Task 6: C 2,1 = C 2,1 A 2,2 B 2,1 Task 7: C 2,2 = A 2,1 B 1,2 Task 8: C 2,2 = C 2,2 A 2,2 B 2,2 Decomposition II C 1,1 = A 1,2 B 2,1 C 1,1 = C 1,1 A 1,1 B 1,1 C 1,2 = A 1,2 B 2,2 C 1,2 = C 1,2 A 1,1 B 1,2 Task 5: C 2,1 = A 2,2 B 2,1 Task 6: C 2,1 = C 2,1 A 2,1 B 1,1 Task 7: C 2,2 = A 2,1 B 1,2 Task 8: C 2,2 = C 2,2 A 2,2 B 2,2 Particionamento de dados Exemplo: Particionamento de dados de entrada Se o banco de dados de transações está replicado, cada tarefa pode ser realizada sem comunicação Se o banco de dados está particionado, cada tarefa pode fazer contagens parciais que deverão ser agregadas Aí temos particionamento da entrada Exemplo: Particionamento de dados de entrada Particionamento de dados: entrada Nessa decomposição uma tarefa é associada com cada partição de dados da entrada A tarefa faz o máximo de computações possíveis com aqueles dados Outras tarefas devem continuar o processamento para obter um resultado Nossa soma com mestre escravo Em muito casos, é a única opção Achar mínimo em uma lista 3

particionamento de entrada particionamento de entrada Particionamento de dados intermediários A computação pode ser vista em muitos casos como uma sequência de passos de transformação da entrada em

4 particionamento de entrada particionamento de entrada Particionamento de dados intermediários A computação pode ser vista em muitos casos como uma sequência de passos de transformação da entrada em saídas A decomposição pode ser feita também em passos intermediários Vamos rever o exemplo da multiplicação de matrix. Primeiro, vejamos como fazer a multiplicação com matrizes intermediárias D. 12 tarefas em 2 estágios (8 4 tarefas) Pode-se visualizar-se as dependências entre tarefas com um gráfico de dependências de tarefas É um gráfico direcionado cujos nós são as tarefas e arcos indicam que o resultado de uma tarefa é necessário para processar a próxima tarefa I Task 09: C 1,1 = D 1,1,1 D 2,1,1 Task 10: C 1,2 = D 1,1,2 D 2,1,2 Task 11: C 2,1 = D 1,2,1 D 2,2,1 Task 12: C 2,,2 = D 1,2,2 D 2,2,2 4

5 I I Task 09: C 1,1 = D 1,1,1 D 2,1,1 Task 10: C 1,2 = D 1,1,2 D 2,1,2 Task 11: C 2,1 = D 1,2,1 D 2,2,1 Task 12: C 2,,2 = D 1,2,2 D 2,2,2 Task 09: C 1,1 = D 1,1,1 D 2,1,1 Task 10: C 1,2 = D 1,1,2 D 2,1,2 Task 11: C 2,1 = D 1,2,1 D 2,2,1 Task 12: C 2,,2 = D 1,2,2 D 2,2,2 Pra que serve o gráfico de dependências Determinar: Grau de concorrência Tamanho do caminho crítico Grau de concorrência O número de tarefas que podem ser executadas em paralelo indicam o grau de concorrência Como pode mudar com o tempo de execução, falamos sobre o máximo grau de concorrência, ou o grau médio de concorrência O grau de concorrência depende das decomposições Tamanho do caminho crítico O caminho pelo grafo de dependências de tarefas cujo tempo de execução é o mais longo é chamado de caminho crítico O tempo de execução do caminho crítico é o menor tempo de execução do algoritmo paralelo como um todo que podemos obter Representa tarefas que têm que ser executadas de forma sequencial 5

Documentos relacionados

SSC PROGRAMAÇÃO CONCORRENTE. Aula 03 Terminologia Geral de Computação Paralela Prof. Jó Ueyama

SSC PROGRAMAÇÃO CONCORRENTE. Aula 03 Terminologia Geral de Computação Paralela Prof. Jó Ueyama SSC- 0742 PROGRAMAÇÃO CONCORRENTE Aula 03 Terminologia Geral de Computação Paralela Prof. Jó Ueyama Créditos Os slides integrantes deste material foram construídos a par4r dos conteúdos relacionados às