Status da T2-UERJ. Equipe técnica: Douglas Milanez Eduardo Revoredo José Afonso Sanches. Estagiários Luiz Gustavo Dornellas Renata Salles

Transcrição

1 Status da T2-UERJ Equipe técnica: Douglas Milanez Eduardo Revoredo José Afonso Sanches Estagiários Luiz Gustavo Dornellas Renata Salles Colaboração CERN: Alan Malta e Ana Franco

2

3 Cluster Infraestrutura atual Três racks contendo 53 servidores de processamento com 464 núcleos de processamento; Um total de 450 TB para armazenamento de dados; Servidores adicionais dedicados a disponibilização dos serviços de Grid: o o o o Transferência de dados (PhEDEx + GridFTPs); Submissão de jobs (compute elements Condor); Armazenamento distribuído (hadoop); Servidor web, servidor de nomes, servidor de contas dos usuários, servidor de autenticação dos usuários da Grid, servidor de monitoramento; Ano Núcleos Armazenamento HEP - SPEC Final TB 3,55 K Final TB 9,0 K Imagem da sala do cluster com os servidores distribuídos em racks

4 Infraestrutura atual Sala de controle e de terminais do CMS Dois monitores de grande visibilidade Quatro estações de monitoramento com seis monitores de 22 polegadas. Seis terminais de submissão e análise de jobs Imagens da sala de controle (abaixo) e de análise de dados (a direita) do CMS.

5 Eficiência semanal dos jobs em 2012 (até novembro)

6 Total de jobs executados pela T2-UERJ em K + 136K jobs de produção (MC) 148 K jobs de análise

7 Número de eventos processados (análise) em 2012

8 Interrupções do enlace externo no final de 2012 Indisponibilidade da conexão externa em devido a um rompimento de fibra entre UERJ e o PoP-RJ (duração: 21 dias); Devido ao mesmo problema, a conexão caiu novamente em , (duração 192 dias);

9 Atitudes para recuperação do link Após a confirmação da indisponibilidade de acesso em , entramos em contato com o Luciano Martins (responsável alocado no CPqD); Após muita insistência para a solução do problema com o Luciano, soubemos que a operadora Oi não tem atendido prontamente os chamados de manutenção para este trecho de fibra que une a UERJ ao POP-RJ (localizado na Urca); Durante esse período, ficou claro que a Oi demonstrou total desinteresse na resolução do caso.

10 RedeCOMEP na UERJ Paralelamente a este problema, aconteciam reuniões mensais a respeito da implantação da RedeCOMEP, cujo anel terá velocidade de 10Gbps; A UERJ será um ponto de presença (PoP) deste anel, portanto terá papel importante no funcionamento da RedeCOMEP; Atualmente, a RedeCOMEP está em fase de testes em alguns trechos, da qual a UERJ participa; Mais informações:

11 RedeCOMEP na UERJ Neste meio tempo, o Santoro entrou em contato com o Márcio Albuquerque (CBPF), coordenador técnico da RedeCOMEP, para conhecermos mais detalhes do projeto; Durante a reunião, o Márcio sugeriu a possibilidade de usarmos, em caráter provisório, um par de fibras da RNP que está inserido no anel da RedeCOMEP; Iniciamos uma conversa com a RNP que decidiu após uma reunião de diretoria (colaboração do Michael Stanton) que o projeto poderia usar as fibras até que a RedeCOMEP seja capaz de suportar o tráfego gerado pelo cluster;

12 Problemas com os switches/rnp A partir desta decisão, iniciamos a configuração dos equipamentos envolvidos; Nesta fase, houve dificuldades, pois o switch usado para conexão com o PoP-RJ começou a apresentar defeito e seria necessário substituí-lo; A RNP nos informou que enviaria outro switch que também apresentou defeito e assim também ocorreu com um terceiro;

13 Problemas com os switches/rnp Após comunicarmos o problema ao Santoro ele entrou em contato com o diretor-geral da RNP, Nelson Simões; Efetuamos em conjunto os ajustes necessários nos equipamentos envolvidos e o link foi restabelecido no final da tarde de ;

14 Restabelecimento dos serviços no cluster Após a recuperação do link, iniciamos a atualização/reinstalação de diversos componentes no cluster: Restabelecimento dos serviços do dcache. Solicitação e concessão de direitos de GridAdmin (Eduardo e Zé) para a nova autoridade certificadora vinculada ao OSG; Conclusão do backup dos usuários que realizaram o pedido (somente aqueles que responderam o ); Instalação do sistema operacional e configurações iniciais no futuro namenode do Hadoop;

15 Restabelecimento dos serviços o cluster Instalação do sistema operacional e configurações iniciais no futuro servidor BestMan; Instalação do sistema operacional e configurações iniciais nos futuros quatro servidores GridFTP; Monitoramento do link (Perdas de pacotes, rotas, RTT); Seleção e cópia dos arquivos de configuração antigos da instância Rocks 5.4 Acompanhamento dos testes nas fibras da redecomep realizados pela empresa Ômega. Os dados coletados foram levados para análise. Seremos informados a respeito dos resultados. Não foram tomadas medidas para solução do problema até o momento (perdas na fibra);

16 Restabelecimento dos serviços no cluster Nas próximas duas semanas iremos trabalhar nas seguintes atividades: Término da elaboração dos scripts de instalação dos aplicativos no sistema operacional rocks nos nós; Instalação do novo sistema operacional rocks nos nós; Instalar o condor, glexec e demais ferramentas de grid nos nós de processamento; Instalar e configurar o hadoop nos nós; Continuação da configuração dos servidores GridFTPs, Namenode, BestMan e Frontend; Instalação da nova versão do Squid; Reconfiguração e atualização dos serviços do servidor PhEDEx; Atualização dos servidores OSGCE;

17 Projetos de software em desenvolvimento Elaboração da página do grupo com informações dos componentes do grupo e das pesquisas realizadas e em andamento;

18 Obrigado.