Cluster facílimo. Com o PelicanHPC, todo mundo pode ter um cluster de baixo custo para triturar números à vontade.

Transcrição

1 Transforme seu desktop num cluster de alto desempenho TUTORIAL Cluster facílimo Com o PelicanHPC, todo mundo pode ter um cluster de baixo custo para triturar números à vontade. por Mayank Sharma Andrea Danti Se os usuários estão pedindo o poder de um data center mas seu chefe insiste em afirmar que não é mais possível aumentar o parque de TI, não perca a esperança. Com algum tempo, um pouco de esforço e certas ferramentas de código aberto, é possível transformar seus sistemas desktop medianos num super-computador. Para os impacientes, o live CD PelicanHPC reúne múltiplos PCs com hardware comum em um cluster de alto desempenho em pouco tempo. O projeto PelicanHPC é a evolução natural do ParallelKnoppix, uma versão remasterizada do Knop pix com pacotes para criação de clusters. Michael Creel desenvolveu o PelicanHPC para suas próprias pesquisas. Creel estava interessado em aprender sobre clusters, e como acrescentar pacotes a essa distribuição é tão fácil, ele adicionou o PVM, ferramentas para clusters como o ganglia monitor, aplicativos como o GROMACS e assim por diante. Incluiu também alguns exemplos simples de computação paralela em Fortran, C, Python e Octave para oferecer alguns exemplos funcionais básicos para os iniciantes. Porém, o processo de manter a distribuição demandava muito tempo, principalmente para atualizar pacotes como Xorg e KDE. Foi então que Creel descobriu o Debian Live, passou algum tempo estudando o pacote live-helper e criou uma forma mais sistemática de criar uma distribuição em live CD para clusters. Então, essencialmente, o PelicanHPC é um único script que baixa pacotes a partir de um repositório Debian, adiciona scripts de configuração e softwares de exemplo e gera como saída uma imagem ISO inicializável. Início básico Mais adiante, este artigo abordará a criação de uma versão customizada. Por ora, vamos usar a versão 1.8 do PelicanHPC conforme é distribuída no site [1] para dar a partida em nosso cluster. Há versões de 32 e 64 bits disponíveis, então escolha a mais adequada para o seu hardware. O desenvolvedor alega que, com o PelicanHPC, é possível montar e iniciar um cluster em cinco minutos. 48

2 PelicanHPC TUTORIAL Entretanto, trata-se de um exagero é possível chegar lá em menos de três. Primeiro, certifique-se de ter todos os ingredientes: um computador para atuar como mestre e outros que serão nós escravos de computação. O mestre e os escravos se conectam pela rede, então é necessário que façam parte de uma mesma LAN. Embora seja possível conectá-los por uma rede sem fio, a computação paralela pode trocar muitos dados entre os nós, portanto a rede seria um gargalo de desempenho para seu cluster. Além disso, assegure-se de que o roteador que interliga o nó mestre e os escravos não esteja executando um servidor DHCP, pois é do mestre a função de distribuir IPs a seus escravos. Apesar de não ser realmente necessário um monitor, teclado ou mouse nos nós escravos, o nó mestre precisa deles. No caso de um processador de núcleo duplo com memória suficiente, não seria uma má idia executar o mestre numa máquina virtual e o escravo na máquina física. O PelicanHPC roda a partir da memória, então é preciso garantir que haja memória suficiente. Se o cluster for realizar trabalho sério, é possível salvar os resultados da computação no disco rígido nesse caso, tenha um disco rígido na máquina. Na realidade, para testar o PelicanHPC, é possível executá-lo completamente em hardware virtual com conexões virtuais de rede, contanto que a máquina física seja poderosa o suficiente para abrigar tantas máquinas virtuais. Com o hardware propriamente arranjado, inicie o nó mestre pelo live CD. Para escolher um idioma diferente de inglês ou desligar o ACPI, ou alterar qualquer outro parâmetro de inicialização, é possível explorar as opções de inicialização com a tecla [F1]. Durante a inicialização, o Pelican- HPC faz três pedidos. Primeiro, é preciso selecionar um dispositivo de armazenamento para abrigar o diretório /home/. A opção padrão ram1 guarda os dados na memória RAM. Para qualquer solução minimamente permanente, é preciso fornecer o dispositivo, como hda1 ou sda5. Ele pode ser tanto uma partição do disco quanto um disco USB mas ele precisa usar Ext2 ou Ext3. Se a opção padrão ram1 for substituída por um dispositivo, o PelicanHPC criará um diretório user/ na raiz desse dispositivo. Em seguida, o PelicanHPC pergunta se deve copiar todos os scripts de configuração e exemplos para o diretório home/ do dispositivo especificado. Recomenda-se responder Sim na primeira vez que o PelicanHPC for executado e Não nas inicializações seguintes. Claro que para executar o PelicanHPC a partir da memória é preciso sempre escolher Sim. Por último, o sistema pede para você alterar a senha padrão. Essa senha será usada pelo usuário user no nó mestre e também nos escravos. O PelicanHPC é projetado para um único usuário, e a senha fica em texto puro. De posse dessas informações, o PelicanHPC inicia o nó mestre e entra no ambiente Xfce. Configuração do cluster Agora que o nó mestre está funcionando, é hora de configurá-lo para usar o cluster. O PelicanHPC possui um conjunto de scripts para esse propósito. Execute-os manualmente ou use o script mestre pelican_setup, que chama todos os outros scripts, que por sua vez iniciarmos vários servidores e se conectam aos nós escravos. Para começar a instalar o cluster, abra um terminal e digite: sh pelican_hpc Se as máquinas tiverem múltiplas interfaces de rede, o sistema perguntará qual delas está conectada ao cluster. Em seguida, ele pedirá autorização para iniciar o servidor DHCP e confirmará o início dos serviços que permitirão a entrada dos escravos no cluster. A princípio, as confirmações constantes parecem irritantes, mas são necessárias para evitar que se coloque a rede num estado inoperante por causa de serviços DHCP conflitantes, que por sua vez poderia interromper computações no meio. Após obter permissão para iniciar o cluster, o script pede para você iniciar os nós escravos. Os escravos são iniciados pela rede, então ative essa opção na BIOS dessas máquinas. Ao encontrar o nó mestre, cada escravo exibe o splash do PelicanHPC e permite a digitação de parâmetros de inicialização (idioma etc.), exatamente como fez antes no nó mestre. Em vez de entrar no Xfce, os nós escravos exibem a informação de que são parte de um cluster e não devem ser desligados (figura 1). Claro que se os nós escravos não tiverem Figura 1 Se o nó escravo tiver um monitor, é isso que ele mostrará. Linux Magazine #57 Agosto de

3 TUTORIAL PelicanHPC um monitor, basta garantir que a BIOS inicie a partir da rede e ligar a máquina. Quando os escravos estiverem em funcionamento, volte ao mestre e pressione o botão Não para varrer novamente o cluster e atualizar o número de nós conectados (figura 2). Quando todos os escravos forem conectados ao mestre, pressione Sim. O PelicanHPC mostra uma mensagem de confirmação e abre o script que reconfigura o cluster para adicionar ou remover um nó (figura 3). Para redimensionar o cluster, execute o seguinte script: sh pelican_restarthpc E pronto. Seu cluster já está funcionando, aguardando instruções. Figura 2 Dois nós em execução; continue procurando outros. Figura 3 Dois nós estão em execução e conectados ao mestre. Hora de triturar O desenvolvedor Creel é professor de economia da Universidade Autônoma de Barcelona, na Espanha. Ele trabalha com econometria, que envolve bastante computação numérica. Por isso há alguns textos e códigos de exemplo em GNU Octave relacionados à pesquisa de Creel. Para os interessados em econometria, o arquivo econometrics.pdf, no diretório /home/user/econometics/, é um bom início. Além disso, confira o arquivo ParallelEconometrics.pdf em /home/user/econometrics/parallel Econometrics/. Essa apresentação é uma boa introdução à computação paralela e à econometria. Para os não iniciados, o GNU Octave [2] é uma linguagem de computação de alto nível para computação numérica. É a alternativa livre ao programa proprietário Matlab, ambos usados para aritmética forte. Há códigos de exemplo no diretório /home/user/econometrics/ Examples/ para realizar testes como estimativa de densidade [3] e estimativas de máxima verossimilhança, assim como para efetuar simulações Monte Carlo de como um novo estimador econométrico se comporta. Testando Para executar os testes, abra um terminal e inicie o GNU Octave digitando octave na linha de comando. Na interface do Octave é possível executar vários exemplos de código digitando seus nomes. Por exemplo, para realizar as estimativas de densidade deve-se digitarkernel_example. Da mesma forma, pea_example mostra a implementação paralela do algoritmo de expectativa parametrizada, e mc_example2, mostrado na figura 4, exibe os resultados do teste de Monte Carlo. Creel também afirma que o PelicanHPC pode ser usado para dinâ- 50

4 PelicanHPC TUTORIAL mica molecular por meio do software livre GROMACS (GROningen MAchine for Chemical Simulations). O projeto distribuído para estudo de enovelamento de proteínas, Folding@ home, também usa o GROMACS, e Creel acredita que seja possível replicar essa configuração num cluster criado com o PelicanHPC. Creel sugere ainda que os usuários interessados unicamente em aprender sobre computação de alto desempenho confiram o Parallel- Knoppix, cuja última versão ainda está disponível para download [4]. Programação paralela Um dos melhores usos do Pelican- HPC é a compilação e execução de programas paralelos. Se o único uso pretendido para o PelicanHPC for a compilação, não é preciso usar nós escravos, pois as ferramentas podem compilar programas no próprio nó mestre. O PelicanHPC inclui várias ferramentas para escrever e processar código paralelo. O OpenMPI compila programas em C, C++ e Fortran. O SciPy e o NumPy [5] são aplicativos baseados em Python para computação científica. O PelicanHPC também possui a MPI toolbox (MPITB) para Octave, que permite a chamada a rotinas de bibliotecas MPI de dentro do Octave. Passe o chapéu Se você não tem intimidade com a programação paralela, talvez não conheça a MPI (Message-Passing Interface, ou interface de passagem de mensagens), que é fundamental para a computação paralela. Tratase de um sistema de software que permite a escrita de programas paralelos que passam mensagens para execução em clusters. MPI não é uma linguagem de programação, mas uma biblioteca capaz de passar mensagens entre múltiplos processos. O processo pode estar tanto numa máquina local quanto em execução nos vários nós do cluster. Linguagens populares para escrever programas com MPI são C, C++ e Fortran. A MPICH foi a primeira implementação da especificação MPI 1.x. LAM/MPI é uma outra implementação que também cobre porções significativas da especificação MPI 2.x. A LAM/MPI é capaz de passar mensagens via TCP/IP, memória compartilhada ou Infiniband. A implementação mais popular da MPI é o OpenMPI, desenvolvido e mantido por um consórcio e que combina o melhor de vários projetos, como o LAM/MPI. Ele é usado por muitos dos super-computadores da lista Top 500, incluindo o mais veloz no momento, o IBM Roadrunner. Figura 4 O Gnuplot plota os resultados de um exemplo de teste de Monte Carlo. Listagem 1: Olá, mundo com MPI 01 #include <stdio.h> 02 #include mpi.h int main(int argc, char *argv[ ]){ 05 int rank, size; MPI_Init(&argc, &argv); MPI_Comm_rank(MPI_COMM_WORLD, &rank); 10 MPI_Comm_size(MPI_COMM_WORLD, &size); printf( We are borg! I am %d of %d\n, rank, size); MPI_Finalize(); 15 return 0; 16 } Linux Magazine #57 Agosto de

5 TUTORIAL PelicanHPC mpicc borg-greeting.c -o borggreeting Para executar os programas, é preciso usar o mpirun: mpirun -np 4 borg-greeting Figura 5 Ajuste o script make_pelican para criar seus prompts customizados. MPI O PelicanHPC inclui duas implementações da MPI: LAM/MPI e OpenMPI. Para escrever programas paralelos em C ou C++, certifique-se de incluir o cabeçalho mpi.h (#include <mpi.h>). Para compilar os programas, é preciso o mpicc para programas em Listagem 2: Pacote para o live CD C, mpic++ ou mpicc para C++ e mpif77 para Fortran. A listagem 1 possui um programa Hello World de exemplo em C que usa a biblioteca mpi para imprimir uma mensagem em todos os nós do cluster. Compile-o com mpicc: 01 ### pacotes a acrescentar digite aqui os nomes dos pacotes ### 02 cat <<PACKAGELIST > addlist 03 # pacotes básicos para o cluster 04 ssh dhcp3 server nfs kernel server nfs common atftpd ifenslave 05 # ``blobs binários para a rede 06 # firmware bnx2 firmware iwlwifi firmware ralink linux wlan ng firmware 07 # gerenciamento de recursos 08 slurm llnl slurm llnl sview slurm llnl basic plugins 09 # configuração e ferramentas 10 wget bzip2 dialog less net tools rsync fping screen 11 make htop fail2ban locales console common 12 # suporte a 13 bsd mailx liblockfile1 mailx postfix ssl cert 14 # MPI 15 lam runtime lam4 dev openmpi bin openmpi dev 16 # Octave 17 octave3.0 octave3.0 headers gnuplot 18 # Python 19 python scipy python matplotlib python numpy ipython lampython 20 # outros pacotes científicos 21 gfortran libatlas headers libatlas3gf base 22 # GROMACS 23 gromacs 24 # Xorg e cia. 25 xorg xfce4 konqueror ksysguard ksysguardd kate kpdf 26 konsole kcontrol kdenetwork kdeadmin abiword 27 PACKAGELIST 28 ### FIM DA LISTA DE PACOTES ### Esse comando faz a biblioteca MPI executar explicitamente quatro cópias do aplicativo, cada uma em uma das CPUs do cluster, em rodízio. Dependendo do número de nós do cluster, você verá algo como: We are borg! I am 1 of 4 We are borg! I am 3 of 4 We are borg! I am 0 of 4 We are borg! I am 2 of 4 Há vários tutoriais de MPI na Web [6]. O professor José Luis da Universidade de Sevilha, Espanha, usa o PelicanHPC em seu curso de programação paralela. Ele recomenda a novos programadores experimentar os exemplos disponíveis online a partir do livro de Peter Pacheco, Parallel Programming with MPI [7]. Confira o site do OpenMPI para mais documentação, incluindo FAQ [8] bem detalhadas. Seu próprio Se seu único interesse for aprender programação paralela, o PelicanHPC oferece mais que o suficiente. Porém, o principal objetivo do live CD é ajudar a montar um cluster sem grandes esforços. O foco é a facilidade de manutenção e customização, e é por isso que a versão oficial não inclui montes de pacotes. Após testar e aprovar o live CD, recomenda-se criar suas próprias versões com o pacote live-helper do Debian e com o script make_pelican do Pelican. Além disso, é necessária uma instalação do Debian ou Ubuntu para produzir o live CD, que pode ser uma instalação mínima ou até uma máquina virtual numa máquina 52

6 PelicanHPC TUTORIAL com bastante memória RAM e um processador veloz de núcleo duplo. Então, para criar sua própria imagem ISO ou USB, primeiro instale uma versão recente do Ubuntu ou Debian. Em seguida, baixe o pacote live_helper do repositório da distribuição. Por último, baixe a última versão do script make_pelican (atualmente, a 1.8) da página do Pelican [4]. Abra o script num editor de texto. Ele tem várias seções. Após os comentários iniciais, que incluem um breve changelog, a primeira seção lista os pacotes que estarão disponíveis na ISO. É nele que precisamos fazer as alterações. A listagem 2 mostra uma versão modificada dessa seção, sem os blobs binários de rede. Há também o editor de texto Abiword e o pacote GROMACS. Como esses pacotes são baixados a partir dos repositórios da sua distribuição, certifique-se de digitar seus nomes corretamente. O GROMACS possui várias dependências, mas não é necessário acrescentá-las, pois serão instaladas automaticamente. O próximo pedaço do script make_ pelican a ser alterado é a arquitetura para criação da imagem ISO, além da definição do tipo de imagem: ISO ou USB. Esta seção também especifica a série de endereços fornecidos pelo PelicanHPC: PELICAN_NETWORK= MAX_NODES= 100 #ARCHITECTURE= amd64 #KERNEL= amd64 ARCHITECTURE= i386 KERNEL= 686 IMAGETYPE= iso IMAGETYPE= usb-hdd DISTRIBUTION= lenny MIRROR= en O resto do script lida com aspectos internos do PelicanHPC e não deve ser alterado, a menos que você saiba o que está fazendo. Porém, recomenda-se examinar as outras seções para se ter uma ideia melhor de como o PelicanHPC transforma magicamente máquinas comuns em clusters extraordinários. Após ajustar o script, execute-o no console: sh make_pelican Mais informações Agora, sente e relaxe ou, se sua conexão ou seu computador forem lentos, aproveite para preparar sua declaração do imposto de renda, pois vai demorar para os pacotes chegarem e serem compilados em uma imagem de distribuição. Quando terminar esse processo, você terá uma nova imagem ISO chamada binary.iso no diretório i386/ ou amd64/, dependendo da arquitetura escolhida. Agora, transfira a imagem USB para um pen drive ou teste a imagem ISO numa máquina virtual antes de gravá-la num disco. A figura 5 mostra a tela da senha para um live CD modificado do PelicanHPC. O PelicanHPC é projetado com vistas à facilidade de uso por qualquer pessoa que desejar utilizar seus computadores excedentes em tarefas numéricas. Com base na experiência do ParallelKnoppix, o desenvolvedor se dedicou bastante à abordagem simplista do PelicanHPC para construir um cluster do zero em pouquíssimo tempo. As possibilidades de customização são a cereja do bolo e fazem do PelicanHPC uma plataforma ideal para criar seu próprio ambiente de cluster personalizado. n [1] PelicanHPC: [2] GNU Octave: [3] Estimativa de densidade na Wikipédia (em inglês): [4] Download do ParallelKnoppix: [5] SciPy e NumPy: [6] Tutorial MPI: [7] Peter Pacheco, Parallel Programming with MPI : [8] FAQ do OpenMPI: Sobre o autor Mayank Sharma já escreveu para várias publicações de Linux, incluindo Linux.com, IBMdeveloperWorks e Linux Format, e já publicou dois livros sobre administração de Elgg e Openfire. Eventualmente ele ensina tecnologias de Código Aberto. Seu site é Gostou do artigo? Queremos ouvir sua opinião. Fale conosco em cartas@linuxmagazine.com.br Este artigo no nosso site: Linux Magazine #57 Agosto de