Uma avaliação da Distribuição de Atividades Estática e Dinâmica em Ambientes Paralelos usando o Hydra *

Transcrição

1 Um vlição d Distribuição de Atividdes Estátic e Dinâmic em Ambientes Prlelos usndo o Hydr * Vítor Silv 1, Fernndo Chirigti 1, Edurdo Ogswr 1, 2, Jons Dis 1, Dniel de Oliveir 1, Fábio Porto 3, Ptrick Vlduriez 4, Mrt Mttoso 1 1 Progrm de Engenhri de Sistems e Computção COPPE / UFRJ 2 Centro Federl de Educção Tecnológic Celso Suckow d Fonsec CEFET/RJ 3 LNCC Lbortório Ncionl de Computção Científic 4 INRIA & LIRMM {silv,fernndo_sebr,ogswr,jonsdis,dnielc,mrt}@cos.ufrj.br, fporto@lncc.br, Ptrick.Vlduriez@inri.fr Abstrct. Scientific Workflows re used s bsic tool to design nd execute scientific experiments on different computtionl environments. These workflows cn be computtionl nd dt intensive, requiring high performnce computing. The wy in which workflow ctivities re prllelized nd distributed over these environments ffects the overll performnce of the workflow. This work evlutes two different strtegies for ctivity distribution (sttic nd dynmic) using Hydr middlewre integrted with VisTrils. Our experiments show tht using the right strtegy decreses elpsed time for ctivity distribution in 30%. Resumo. Workflows Científicos são usdos como um bstrção básic pr estruturção e execução de experimentos científicos em diferentes mbientes computcionis. Estes workflows podem ser intensivos tnto computcionlmente qunto n mnipulção de ddos, exigindo computção de lto desempenho. A prlelizção e distribuição dequd de tividdes nestes mbientes influencim o desempenho do workflow científico como um todo. Este trblho vli dus estrtégis de distribuição (estátic e dinâmic) de tividdes utilizndo o middlewre Hydr integrdo o VisTrils. Nossos experimentos observrm que usr estrtégi dequd diminui durção pr distribuição de tividdes em 30%. 1. Introdução Muitos experimentos científicos são bsedos em simulções computcionis complexs que consomem e produzem conjuntos de ddos extensos e utilizm grndes quntiddes de recursos computcionis. Conforme complexidde do experimento cresce, executr tis simulções torn-se um desfio. Portnto, é comum utilizção de workflows científicos com o objetivo de uxilir os cientists n gerênci de recursos envolvidos em simulções computcionis de lrg escl (Mttoso et l. 2010). Um workflow pode ser definido como um modelo de um processo, que consiste em um série de tividdes e sus dependêncis (Alst nd Hee 2002). Um workflow científico estrutur o processmento de um simulção científic como um grfo de tividdes, nos quis os nós correspondem tividdes que processm ddos e s rests representm os fluxos de ddos entre eles. Atividdes de workflow estão ssocids progrms científicos que preprm, processm e nlism ddos. * Esse trblho foi prcilmente finncido pel CAPES, CNPq e INRIA (projeto SARAVA, equipe ssocid).

2 Sistems de Gerênci de Workflows Científicos (SGWfC) (Deelmn et l. 2009) são softwres que poim definição, execução e monitormento de workflows científicos. Existem diversos SGWfC, tis como VisTrils (Cllhn et l. 2006) e Swift (Zho et l. 2007). Cd um deles tem su própri lingugem (Deelmn et l. 2009) e foc em diferentes spectos, tis como execução prlel, suporte semântico, crcterístics específics de domínio e proveniênci dos ddos. Em um workflow científico, um mesm tividde pode ser executd repetids vezes vrindo-se os vlores de seus prâmetros. Assim, distribuição de tividdes de um workflow n execução prlel se present como um crcterístic importnte pr os SGWfC em experimentos de long durção. Ess distribuição em mbientes de Processmento de Alto Desempenho (PAD) é essencil pr obter os resultdos de experimentos em lrg escl em um tempo hábil. Existem soluções que vism poir ess distribuição, tis como o Swift, o MpReduce (Wng et l. 2009) e o Hydr (Ogswr et l. 2009). Ns soluções de distribuição de tividdes, um ftor que precis ser levdo em considerção é estrtégi dotd. Dinte d grnde quntidde de vlores de prâmetros que precism ser processdos pels tividdes envolvids n execução de um workflow científico, estrtégi de distribuição pode fetr o desempenho d solução. Existem bsicmente dois extremos no que diz respeito estrtégis de distribuição. A primeir estrtégi é distribuição estátic, onde cd core recebe o conjunto de instâncis de tividdes que ele deve processr ntes de começr execução. A segund estrtégi é distribuição dinâmic, onde cd core requisit um nov instânci de tividde conforme su disponibilidde. Assim, o objetivo deste trblho é vlir vrição de desempenho n utilizção desss dus estrtégis. A vlição foi relizd utilizndo o VisTrils com o Hydr. O Hydr foi escolhido por poir diferentes estrtégis de distribuição e poder ser utilizdo em diversos SGWfC. O Hydr fornece um conjunto de componentes que podem ser incluídos n especificção do workflow de um SGWfC pr controlr distribuição de tividdes em mbientes de PAD. O Hydr tmbém permite configurção d estrtégi de distribuição e colet de proveniênci distribuíd. Este rtigo está orgnizdo em cinco seções, lém dest introdução. A Seção 2 present rquitetur do middlewre Hydr. Os métodos de distribuição de tividdes em mbientes de PAD são discutidos n Seção 3. A Seção 4 present os resultdos experimentis. Os trblhos correltos são detlhdos n Seção 5 e Seção 6 conclui o rtigo. 2. Middlewre Hydr O Hydr (Ogswr et l. 2009) é um middlewre cpz de distribuir, controlr e monitorr execução prlel ds tividdes de um workflow científico em mbientes de PAD. Ele é desenvolvido em Jv 1.6 e utiliz MPJ ( pr comunicção prlel. Pr o rmzenmento de ddos de proveniênci, o PostgreSQL 8.4 ( é utilizdo. O Hydr oferece o cientist distribuição utomátic de um determind tividde em mbientes de PAD, trvés de poucs lterções n definição do workflow. Pode-se citr como crcterístics positivs do Hydr: (i) não ssocição um máquin de execução do SGWfC específic; (ii) simplificção do processo de distribuição de tividdes em PAD; e (iii) colet de proveniênci distribuíd.

3 Um dos tipos de prlelismo suportdo pelo Hydr é vrredur de prâmetros (Wlker nd Guing 2007). Neste modelo de prlelismo, os cientists explorm o comportmento do seu modelo computcionl com diferentes entrds, configurds no workflow. A vrredur de prâmetros é muito comum e pode representr um brreir pr os cientists controlrem e monitorrem execução do experimento, sendo então importnte fornecer poio pr tl prlelismo. Pr explicr vrredur de prâmetros, presentremos um formlizção de workflow científico dptd de Meyer et l. (2007). Figur 1. Vrredur de prâmetros relizd pelo Hydr Um workflow científico Wf é representdo por um tripl (A, PtI, PtO), onde: A é um conjunto { 1, 2,..., n } de tividdes que constituem Wf; PtI é o conjunto {pti 1, pti 2,..., pti m } de prâmetros de entrd de Wf; e PtO é o conjunto {pto 1, pto 2,..., pto r } de prâmetros de síd de Wf. Cd prâmetro em PtI e em PtO pode ssumir vlores no domínio ssocido ele. Assim, Dpti j represent o domínio de possíveis vlores pr o prâmetro pti j, enqunto que Dpto j represent o domínio de possíveis vlores pr o prâmetro pto j. A vrredur de prâmetros efetud pelo Hydr é crcterizd por diverss e simultânes execuções prlels de um tividde j do workflow, em que cd execução us diferentes vlores pr os prâmetros de PtI. Por exemplo, suponh que tividde j do workflow Wf possu prâmetros de entrd pti 1 e pti 2, e que os domínios de possíveis vlores pr esses prâmetros sejm Dpti 1 = {x, x } e Dpti 2 = {y, y }. Um instânci d tividde j de Wf pode consumir os vlores x e y pr os prâmetros pti 1 e pti 2, respectivmente, enqunto outr instânci d mesm tividde pode consumir os vlores x e y. O prlelismo pr ess vrredur de prâmetros é relizd locndo-se diferentes configurções de vlores pr os prâmetros de PtI, em que cd configurção está ssocid um diferente core do mbiente de PAD. A Figur 1 present o esquem desse prlelismo plicdo um workflow científico desenvolvido no SGWfC VisTrils, em que tividde j é representd pel tividde EdgeCFD Disptcher, onde mesm reliz vrredur de prâmetros.

4 3. Distribuição estátic e distribuição dinâmic no Hydr Ddo um determindo cenário de prlelizção de um tividde por meio de vrredur de prâmetros, pode-se estbelecer um conjunto de instâncis dest tividde. Um instânci d tividde é um execução d tividde que consome um determind combinção de vlores de prâmetros. As instâncis podem ser distribuíds dentre os cores computcionis que irão processá-ls num mbiente de PAD, tl como um cluster. No Hydr, o conjunto de instâncis d tividde prlelizd pode ser distribuído seguindo s estrtégis de distribuição estátic e dinâmic. N estrtégi estátic, s instâncis d tividde de um ddo workflow são prélocds pr cd core ntes de serem consumids. Ou sej, distribuição do número de instâncis por core é feit priori. A Figur 2() represent um esquem d distribuição estátic de tividdes. Nest figur, cd instânci d tividde A (s instâncis estão representds pelos qudrdos ) é referente um mesmo progrm com um conjunto diferente de vlores de prâmetros. No início do processo prlelo, o esclondor tribui pr cd core um número fixo de qutro instâncis d tividde A pr serem processds. O esclondor presentdo n figur é o componente do Hydr responsável pel distribuição. N estrtégi de distribuição estátic, o esclondor do Hydr utiliz bordgem gther e sctter do MPJ pr trnsmitir s trefs os cores. A A Esclondor Esclondor () (b) Figur 2. Estrtégis de distribuição estátic () e dinâmic (b) Por outro ldo, n estrtégi dinâmic, cd instânci d tividde é locd pr um core conforme este estej disponível e requisite um instânci pr processr. Ou sej, s instâncis d tividde permnecem em um fil únic e cd núcleo obtém e process pens um instânci d tividde por vez. N Figur 2(b) é presentdo um esquem d distribuição dinâmic, onde cd core requisit o esclondor um instânci d tividde A por vez. Neste cso, o esclondor do Hydr precis mnter um thred que gurd requisições feits pelos cores trvés de primitivs de comunicção do tipo send e receive do MPJ. 4. Avlição Experimentl Nest seção, presentmos um comprção de desempenho entre s distribuições estátic e dinâmic de tividdes em cenários de vrredur de prâmetros. Os estudos form conduzidos utilizndo o Hydr como middlewre de distribuição de instâncis de tividdes em um cluster SGI Altix ICE 8200 de 256 cores (32 nós, cd nó contendo dois processdores qud-core Xeon).

5 % de frequênci % de frequênci 12% 25% 10% q = 1 20% k=5 8% 6% 4% 2% q = 2 q = 3 q = 4 15% 10% 5% k=15 k=45 k=135 0% tempo (seg) () 0% tempo (seg) Figur 3. Durção de um tividde seguindo um distribuição Gmm com k = 15 fixo e q vrindo de 1 4 (); Durção de um tividde seguindo um distribuição Gmm, com q = 1 fixo e k vrindo em 5, 15, 45 e 135 (b). Inicilmente, relizmos um estudo em que s tividdes possuím durção fix de um segundo. Consttou-se que estrtégi estátic obteve um desempenho superior em proximdmente 30%, qundo comprd à estrtégi dinâmic. Em outro estudo, utilizmos ddos sintéticos pr vlir tividdes de durção vrid. Considermos oito tipos de tividdes diferentes, cd um dels seguindo um distribuição Gmm (Freedmn et l. 2007) específic, conforme presentdo nos cenários () e (b), d Figur 3. A distribuição Gmm, representd por (k, q) nesses cenários, tem k como prâmetro de form e q como prâmetro de escl (k, q > 0). Cbe ressltr que distribuição Gmm é dequd, por frequentemente ser utilizd como modelo de probbilidde pr tempo de esper (Weisstein 2011). No cenário (), temos qutro tipos de tividdes, tods com o mesmo k fixo de 15 e cd um dels com um q diferente (1, 2, 3 e 4). Já no cenário (b), temos qutro tipos de tividdes, tods com o q fixdo em 1 e cd um dels com um k diferente (5, 15, 45 e 135). O estudo mediu durção d distribuição ds tividdes pr cd tipo de tividde, ou sej, o tempo necessário pr processr tods s instâncis de um determindo tipo. Em cd um ds medições foi relizd um vrredur de prâmetros de 1024 combinções de vlores de prâmetros num distribuição de 64 cores. A Figur 4 present os resultdos pr os dois cenários mostrndo o desempenho ds distribuições estátic e dinâmic. A estrtégi dinâmic mostrou-se superior em tods ests situções, especilmente onde vriânci d distribuição é mior, i.e., o vlor de q é mior. No cenário (b), de vriânci fix (q fixo), observmos que mbs s estrtégis esclm de mneir muito similr, pesr de estrtégi dinâmic presentr melhores resultdos. Pr se tentr justificr est diferenç, fizemos um segund nálise verificndo porcentgem de recursos ociosos durnte execução. A Figur 5() present os resultdos de mbs s estrtégis. Os resultdos explicitm rzão d superioridde d estrtégi dinâmic. El minimiz ociosidde dos recursos, pois funcion com um mecnismo de fil únic enqunto estrtégi estátic funcion com o mecnismo de um fil pr cd core, o que pode cusr um desblncemento. Com menos ociosidde, durção d execução prlel tende ser menor. (b)

6 % de ociosidde durção (min) durção (min) durção (min) 30,0 25,0 20,0 15,0 10,0 5,0 0,0 Estático Dinâmico q () 45,0 40,0 35,0 30,0 25,0 20,0 15,0 10,0 5,0 0,0 Estático Dinâmico k Figur 4. Durção de distribuição de tividdes segundo distribuição Gmm com k = 15 e q vrindo de 1 4 (); Durção de distribuição de tividdes segundo distribuição Gmm com q = 1 fixo e k vrindo (5, 15, 45 e 135) (b). Um últim nálise presentd n Figur 5(b) mostr melhor do desempenho com o umento do número de recursos. Pode-se observr que o comportmento d estrtégi dinâmic permnece melhor, embor diferenç de desempenho pr estrtégi estátic diminu com o umento d quntidde de recursos. Entretnto, ess diferenç de desempenho tmbém está ssocid à quntidde de instâncis de tividdes pr serem consumids Estático () Dinâmico time 45,0 40,0 35,0 30,0 25,0 20,0 15,0 10,0 5,0 0,0 Estático (b) Dinâmico cores Figur 5. % de ociosidde de cores pr distribuição dinâmic e estátic (); Comprção de desempenho vrindo-se o número de core (b). 5. Trblhos Relciondos As soluções tuis voltds o prlelismo em workflows científicos, como o SGWfC Swift, são cpzes de executr tividdes prlels em diferentes mbientes computcionis como clusters, grdes computcionis e nuvens. Em gerl, tis soluções podem ser coplds esclondores existentes como o Condor (Thin et l. 2002). Embor o Condor sej cpz de distribuir s tividdes de mneir dinâmic dentre os cores, ele demor cerc de meio segundo pr disprr cd tividde (Ricu et l. 2008). Em um cenário com centens ou milhres de instâncis de tividde, ess tx de distribuição é indesejd. Além disso, polític de fils do Condor pode limitr o número de tividdes submetids por usuário. Mis especificmente no cso do Swift, o mesmo pode ser tmbém copldo o Flkon (Ricu et l. 2007). O Flkon é um (b)

7 esclondor que pode ser usdo em substituição o Condor, ms su estrtégi de distribuição dotd não é divulgd pel equipe de desenvolvimento. O Nimrod/K é um conjunto de complementos pr o SGWfC Kepler cujo objetivo é orquestrr execução do workflow relizndo vrredur de prâmetros em clusters, grdes e nuvens. Entretnto, o Nimrod/K só funcion com o Kepler e limit-se poir vrredur de prâmetros por meio de distribuição estátic ds instâncis de tividdes do workflow. Um solução bsed no prdigm MpReduce, como o Hdoop ( integrd um SGWfC trdicionl, como o Kepler, tmbém pode relizr distribuição de tividdes de workflow. O Hdoop é cpz de mper diferentes execuções de tividdes do workflow em mbientes distribuídos como clusters, grdes e nuvens. Após execução, os resultdos são grupdos. Existe integrção do Kepler com o Hdoop, ms o workflow fic dependente do SGWfC e d cpcidde do cientist em progrmr s funções de Mp e Reduce no Kepler. O Hdoop tmbém reliz somente distribuição estátic ds instâncis d tividde prlel do workflow. 6. Conclusão Experimentos científicos em lrg escl são crcterizdos por cálculos computcionis complexos envolvendo simulções. A utilizção de workflows científicos pr concepção, execução e controle destes experimentos é muito comum e long durção ds tividdes dos workflows implic n necessidde de utilizr computção prlel em mbientes de PAD, fim de diminuir o tempo de execução dos workflows científicos. A vrredur de prâmetros de um determind tividde do workflow pode ser prlelizd de modo se obter os resultdos em tempo hábil. Cd instânci d tividde pode ser locd pr executr em prlelo em diferentes cores. Porém, estrtégi de distribuição pode influencir o desempenho totl d execução. As soluções tuis pr processmento prlelo em SGWfC usm esclondores, como o Condor, pr distribuir um determind tividde. Nesses esclondores, porém, não é possível configurr estrtégi de distribuição ser utilizd. Dess form, este trblho present um estudo comprtivo ds estrtégis estátic e dinâmic utilizndo o Hydr e o SGWfC VisTrils, com o intuito de poir tomd de decisões em experimentos que demndem prlelismo em workflows. O estudo mostrou que estrtégi estátic present desempenho superior qundo tividde distribuíd possui um curt durção. Em outros csos, porém, estrtégi dinâmic present um desempenho superior, pois el minimiz ociosidde dos cores. A bordgem dinâmic tmbém é menos sensível vriânci do tempo de execução d tividde. Ess superioridde ocorre em função do mecnismo de fil únic utilizdo pel estrtégi dinâmic que evit o desblncemento presente no mecnismo de fils múltipls n distribuição estátic. Mesmo com o umento do número de cores presentes n execução, estrtégi dinâmic mnteve o melhor desempenho. Esses resultdos pontm importânci n escolh d estrtégi de distribuição, embor miori ds soluções tuis como o Swift, Nimrod/K e o Hdoop desconsiderem tl opção. Agrdecimentos Os utores grdecem o NACAD/UFRJ pelo uso d infrestrutur computcionl.

8 Referêncis Alst, W. vn der, Hee, K. vn, (2002), Workflow Mngement: Models, Methods, nd Systems. 1 ed. The MIT Press. Cllhn, S. P., Freire, J., Sntos, E., Scheidegger, C. E., Silv, C. T., Vo, H. T., (2006), "VisTrils: visuliztion meets dt mngement". In: Proc. SIGMOD, p , Chicgo, Illinois, USA. Deelmn, E., Gnnon, D., Shields, M., Tylor, I., (2009), "Workflows nd e-science: An overview of workflow system fetures nd cpbilities", Future Genertion Computer Systems, v. 25, n. 5, p Freedmn, D., Pisni, R., Purves, R., (2007), Sttistics, 4th Edition. 4 ed. W. W. Norton. Mttoso, M., Werner, C., Trvssos, G. H., Brgnholo, V., Murt, L., Ogswr, E., Oliveir, D., Cruz, S. M. S. d, Mrtinho, W., (2010), "Towrds Supporting the Life Cycle of Lrge Scle Scientific Experiments", Interntionl Journl of Business Process Integrtion nd Mngement, v. 5, n. 1, p Meyer, L., Scheftner, D., Vöckler, J., Mttoso, M., Wilde, M., Foster, I., (2007), "An Opportunistic Algorithm for Scheduling Workflows on Grids", VECPAR 2006, 1 ed, p Ogswr, E., Oliveir, D., Chirigti, F., Brbos, C. E., Elis, R., Brgnholo, V., Coutinho, A., Mttoso, M., (2009), "Exploring mny tsk computing in scientific workflows". In: MTAGS 09, p. 1-10, Portlnd, Oregon. Ricu, I., Foster, I. T., Yong Zho, (2008), "Mny-tsk computing for grids nd supercomputers". In: Workshop on Mny-Tsk Computing on Grids nd Supercomputers, p. 1-11, Austin, Texs. Ricu, I., Zho, Y., Dumitrescu, C., Foster, I., Wilde, M., (2007), "Flkon: Fst nd Lightweight tsk execution frmework". In: SC07, p. 1-12, Reno, Nevd. Thin, D., Tnnenbum, T., Livny, M., (2002), "Condor nd the Grid", Grid Computing: Mking the Globl Infrstructure Relity. John Wiley & Sons Inc Wlker, E., Guing, C., (2007), "Chllenges in executing lrge prmeter sweep studies cross widely distributed computing environments". In: Workshop on Chllenges of lrge pplictions in distributed environments, p , Monterey, Cliforni, USA. Wng, J., Crwl, D., Altints, I., (2009), "Kepler + Hdoop: generl rchitecture fcilitting dt-intensive pplictions in scientific workflow systems". In: Proc. of the 4th Workshop on Workflows in Support of Lrge-Scle Science, p. 1-8, Portlnd, Oregon. Weisstein, E. W., (2011), Gmm Distribution, Text, Zho, Y., Htegn, M., Clifford, B., Foster, I., von Lszewski, G., Nefedov, V., Ricu, I., Stef- Prun, T., Wilde, M., (2007), "Swift: Fst, Relible, Loosely Coupled Prllel Computtion". In: Proc. of the 3rd IEEE World Congress on Services, p. 206, 199, Slt Lke City, USA.