Estrutura da Apresentação. Introdução ao Processamento Paralelo e Distribuído. Conceitos em PPD. Conceitos em PPD 4/26/09.

Transcrição

1 Estrutura da Apresentação Introdução ao rocessamento aralelo e Distribuído Conceitos em rocessamento aralelo e Distribuído; Frentes de trabalho e pesquisa em D; O D no Rio Grande do Sul; Observações finais. Adenauer Yamim AD/ESIN/UCEL Conceitos em D aralelismo de alto nível Entre Unidades de rocessamento aralelismo de Baixo Nível Interno as Unidades de rocessamento Conceitos em D Sistemas Distribuídos: Velocidades de comunicação não tão rápidas; rocessadores Heterogêneos; Configuração alterável; odem atingir grandes distâncias. Sistemas aralelos: Elevado grau de acoplamento entre processadores; Um só tipo de processador e sistema operacional; lanejados para terem configuração estável. AD/ESIN/UCEL AD/ESIN/UCEL 1

2 Conceitos em D Conceitos em D rocessamento distribuído rocessamento aralelo Níveis de Exploração da Concorrência de Execução: Crescimento Gradual Tolerância a Falhas Desempenho Compartilhamento de Recursos rogramas; rocessos Rotinas Laços (vetores) Instruções Granulosidade das tarefas AD/ESIN/UCEL AD/ESIN/UCEL Conceitos em D Estrutura genérica de um sistema distribuído Conceitos em D Arquiteturas para rocessamento aralelo Rede de Comunicações Multiprocessadores; rocessadores Matriciais; rocessadores Multifuncionais (superescalares); rocessadores ipeline; Unidades de rocessamento Autônomas AD/ESIN/UCEL AD/ESIN/UCEL 2

3 Conceitos em D Multiprocessadores (MIMD) rocessadores com tarefas e dados independentes Conceitos em D Multiprocessadores de Memória Compartilhada Exemplos de arquiteturas: Memória Compartilhada rocessador M 0 M 1 M 2 M 0 S S rocessador rocessador Cache Cache Cache Cache M 1 S S Memória Global Compartilhada 0 1 rocessador rocessador rocessador Elevado acoplamento entre processadores; ode trabalhar com tarefas de baixa granulosidade Barramento Crossbar 2x2 AD/ESIN/UCEL AD/ESIN/UCEL Conceitos em D Multiprocessadores (MIMD) Memória Distribuída (multicomputadores) Conceitos em D Multiprocessadores de Memória Distribuída Exemplos de arquiteturas: rocessador + rocessador + rocessador + Rede de Interconexão 9 rocessador + rocessador + rocessador + Médio acoplamento entre processadores; Indicado para tarefas de granulosidade elevada Árvore Grade Estrela AD/ESIN/UCEL AD/ESIN/UCEL 3

4 Conceitos em D Arquiteturas para rocessamento aralelo Multiprocessadores; rocessadores Matriciais; rocessadores Multifuncionais (superescalares); rocessadores ipeline; Conceitos em D rocessadores Matriciais (SIMD) Vários processadores executam a mesma instrução sobre dados independentes (aplicações de natureza específica) rocessadores Vetoriais Registradores Gigantes Utilizados em processamento numérico Múltiplos rocessadores Uma unidade de controle e múltiplos processadores Utilizados em processamento de imagens e sinais AD/ESIN/UCEL AD/ESIN/UCEL Conceitos em D Arquiteturas para rocessamento aralelo Multiprocessadores; rocessadores Matriciais; rocessadores Multifuncionais (superescalares); rocessadores ipeline; Conceitos em D rocessadores Superescalares Exploração de paralelismo em baixo nível Múltiplas unidades funcionais Elevado número de registradores Reorganização interna das instruções AD/ESIN/UCEL AD/ESIN/UCEL 4

5 Conceitos em D Arquiteturas para rocessamento aralelo Multiprocessadores; rocessadores Matriciais; rocessadores Multifuncionais (superescalares); rocessadores ipeline; Conceitos em D rocessadores ipeline Dividir as tarefas em estágios que se sobrepõem no tempo resente em todos os microprocessadores modernos Exploração de paralelismo em baixo nível AD/ESIN/UCEL AD/ESIN/UCEL Conceitos em D Conceitos D rocessadores ipeline: Exemplo: Gráfico característico de um ipeline: Seqüencial 1 2 Ciclos Busca de Instrução 2 - Decodificação de Instrução 3 - Busca de Operando 1 - Busca de Instrução 2 - Decodificação de Instrução 3 - Busca de Operando 4 - Execução 4 - Execução Ciclos AD/ESIN/UCEL AD/ESIN/UCEL 5

6 Frentes de Trabalho e esquisa em D Avaliação de Desempenho Mips, Mflops, SpeedUp e Eficiência a medida que aumenta o número de processadores Frentes de Trabalho e esquisa em D Novos Métodos de rogramação rogramação em Lógica Escalonamento de tarefas aralelismo rogramação Funcional rogramação em Espaço de Tuplas Objetos distribuídos, etc. Tarefas Recursos e rocessadores AD/ESIN/UCEL AD/ESIN/UCEL Frentes de Trabalho e esquisa em D Desenvolvimento de Ferramentas CASE Frentes de Trabalho e esquisa em D Otimização na geração de código paralelo Elevar o nível de abstração (especificidade do hardware paralelo/distribuído) no momento da codificação; Depuração; Visualização dos resultados (processadores ativos, troca de mensagens, etc.) Exploração de paralelismo implícito Uso de construtores para paralelismo ou linguagens específicas para o paralelismo AD/ESIN/UCEL AD/ESIN/UCEL 6

7 Frentes de Trabalho e esquisa em D Otimização na geração de código paralelo aralelismo Implícito no Código: Exploração de paralelismo implícito Manutenção das características da programação Uso de seqüencial; construtores para paralelismo ou linguagens Os diversos específicas módulos que formam para o compiladoro paralelismo ganham complexidade; Inviável para alguns paradigmas e/ou métodos numéricos Frentes de Trabalho e esquisa em D Otimização na geração de código paralelo Exploração de paralelismo implícito Uso de construtores para paralelismo ou linguagens específicas para o paralelismo AD/ESIN/UCEL AD/ESIN/UCEL Frentes de Trabalho e esquisa em D Análise da Complexidade de Algoritmos aralelos e distribuídos A distribuição/paralelismo implica em: movimento de dados, sincronizações, custos de comunicação, etc. Inviabiliza Métodos existentes para algoritmos seqüenciais Frentes de Trabalho e esquisa em D Sistemas Operacionais para Sistemas Distribuídos e aralelos S.O. orientados a objetos; S. O. com Tolerância a Falhas S. O. com Suporte a Migração de rocessos S. O. com Balanceamento automático de carga Etc. AD/ESIN/UCEL AD/ESIN/UCEL 7

8 Frentes de Trabalho e esquisa em D aralelismo Heterogêneo (processadores especializados) Frentes de Trabalho e esquisa em D Confiabilidade (Tolerância a Falhas) Trechos de Código rocessador Detecção; rograma Trechos de Código Trechos de Código rocessador rocessador Confinamento; Mascaramento Diagnóstico de falhas Trechos de Código rocessador AD/ESIN/UCEL AD/ESIN/UCEL Frentes de Trabalho e esquisa em D Sistemas de Tempo Real ortabilidade de Código Bancos de Dados Distribuídos Considerações Finais Aspectos Favoráveis ao rocessamento aralelo Relação Custo/oder Computacional C $950, Cray C90 $30 milhões Limite na taxa de crescimento do Clock 6 Mhz (1985), 50 Mhz (1993), 1000 Mhz (2001) Desempenho no acesso a memória AD/ESIN/UCEL AD/ESIN/UCEL 8

9 Considerações Finais Obstáculos ao Sucesso Comercial das Arquiteturas aralelas Considerações Finais Quando surgiu o primeiro equipamento paralelo: Disponibilidade de Software; adronização; Instabilidade dos Fornecedores. Model V (2 processadores e 3 canais de I/O) Laboratórios da Bell Telephone AD/ESIN/UCEL AD/ESIN/UCEL Considerações finais O rocessamento aralelo e Distribuído é...ainda trabalhoso (em certos casos)...inevitável (em todas as formas) AD/ESIN/UCEL 9