Cálculo da árvore binária de busca ótima usando MPI

Transcrição

1 Cálculo da árvore binária de busca ótima usando MPI 1. O Algoritmo Adriano Medeiros 1, André Murbach Maidl 1 1 Programação Concorrente/Paralela - PUC-Rio 1 adrimedeiros1@gmail.com, andremm@gmail.com O cálculo da árvore binária de busca ótima é um algoritmo de programação dinânica, comunmente usado para organizar uma árvore binária de tal forma que o número de nós visitados seja minimizado em todas as procuras. O algoritmo é executado a partir de uma sequência de n palavras, sendo que para cada palavra n i nós temos uma probabilidade p i de uma busca ser executada para n i. O procedimento de cálculo da árvore binária de busca ótima é θ(n ), pois é bastante similar ao procedimento de multiplicação de matrizes, usando três loops aninhados. Todavia, após calculada garante que a execução de uma busca por uma determinada palavra seja O(lg n). A seguir apresentaremos como paralelizamos tal algoritmo, usando MPI, os resultados dos testes executados no cluster e por fim uma análise do speed up.. Implementação e Paralelização O algoritmo paralelo foi implementado a partir do exemplo serial apresentado no exercício sugerido. No entanto, modificamos o algoritmo para ler as palavras e as probabilidades de um arquivo, em vez de ler do teclado. O arquivo deve ser organizado como apresentado a seguir e passado como parâmetro para o programa que executa o procedimento de cálculo da árvore binária de busca ótima. Para usarmos o exemplo também apresentado no exercício sugerido, devemos criar o seguinte arquivo: brown,.1 dog,.1 fox,. jumped,. lazy,. over,.1 quick,. the,. Cada palavra deve ser listada em uma linha do arquivo, seguida de uma vírgula (,) e sua respectiva probabilidade. Ao criar o arquivo livro.txt executamos o código paralelo passando-o como parâmetro: $ mpirun -v -np /obst_parallel /livro.txt

2 Ao executar o comando acima, indicamos que queremos dividir o trabalho entre dois processadores. A seguir veremos os detalhes do algoritmo paralelo. O algoritmo serial consiste no cálculo das sub-árvores ótimas, ou seja, cada célula da matriz triangular superior representa uma sub-árvore ótima. A figura 1 ilustra que em cada iteração são calculadas o valor de cada sub-árvore, onde cada processador realiza os cálculos sobre as sub-árvores de seu domínio. Por se tratar de um algoritmo iterativo, existe uma dependência sobre os dados da iteração (n+1) e n. Essa dependência é gerenciada pelo processador master. Figura 1. Divisão entre processadores para cálculo das sub-árvores em cada iteração O processador master, através da operação coletiva MPI_Scatterv, realiza a divisão dos dados da iteração n entre os diferentes processadores (slave), para o cálculo das sub-árvores do nível n+1. Depois do cálculo realizado por cada processador, através da operação MPI_Reduce é armazenado o melhor resultado no processador master, o qual gerencia a matriz superior triangular, o valor da menor sub-árvore e sua raiz na última coluna da linha da iteração. No final, na última iteração, armazena-se na posição [][LAST COLLUMN] o valor da árvore ótima e sua raíz.. Testes Para os testes medimos o tempo do cálculo da árvore binária de busca ótima para 1,,, e 9 palavras usando 1,,, e es. Cada teste foi executado cinco vezes, os resultados foram somados para obter a média das cinco execuções de cada caso de teste. Um script lua foi usado para gerar cada caso de teste, ou seja, para cada palavra um número aleatório, entre. e 1., era atribuído. Os mesmos dados foram usados em todas as execuções. A princípio gostaríamos de testar usando 1,, 1,,, e

3 palavras, no entanto encontramos uma limitação de 9 palavras, possivelmente devido a alguma configuração do servidor. Veremos agora alguns gráficos confrontando o resultado serial com cada resultado paralelo e ao final da seção um gráfico confrontando todos os resultados, bem como uma análise de cada gráfico. Os gráficos apresentam os resultados em uma escala de número de palavras X tempo em minutos. 1 1 processadores Figura. X processadores Podemos observar no gráfico que as execuções para 1 e palavras apresentam um tempo similar, mesmo assim nesses casos o serial é mais rápido. A partir de palavras a execução paralela, usando processadores, já leva vantagem sob a execução serial. 1 1 processadores Figura. X processadores

4 Bastante similar ao gráfico, o gráfico também apresenta comportamento similar entre o algoritmo serial e o paralelo, usando processadores, para 1 e palavras. Porém, pode-se notar bastante diferença a partir de palavras, quando a divisão entre os processos começa a apresentar resultados mais satisfatórios. 1 1 processadores Figura. X processadores No gráfico é fácil de ver um comportamento diferente nas execuções para 1 e palavras, ou seja, aqui é possível ver que a comunicação entre os processadores já começa a ter influência no tempo de execução, mesmo assim para palavras o resultado continua melhor que o serial e para 9 palavras foi mais significativo. 1 1 es Figura. X es Com es a comunicação é mais intensa ainda, portanto no gráfico

5 podemos observar uma execução mais lenta do algoritmo paralelo para 1, e palavras e uma execução similar a execução com processadores, apresentada em, para e 9 palavras proessadores processadores processadores es 1 9 Figura. Todos Finalmente, no gráfico confrontamos todos os resultados e obtivemos a seguinte análise: Para 1 e palavras o algoritmo paralelo é mais lento, devido a comunicação entre os processos, o que não existe no algoritmo serial. Para palavras o algoritmo paralelo usando, e processadores apresentou resultados bastante similares e uma pequena vantagem em relação ao serial. Usando processadores obtivemos o melhor resultado para palavras e com processadores o melhor resultado para 9 palavras. Infelizmente não pudemos testar usando 1 palavras ou mais, contudo os testes com es sinalizaram que provavelmente observaríamos um resultado significativo, se executado numa base de pelo menos 1 palavras. Ficou claro também que quanto menor a base de dados e maior o número de processadores, o algoritmo paralelo terá mais desvantagens em relação ao algoritmo serial.. Análise do Speed UP Como vimos anteriormente, os resultados para 1 e palavras, bem como os resultados para e 9 palavras são relativamente semelhantes, por isso analisaremos o speed up apenas para os casos com, e 9 palavras. Para palavras, no gráfico fica nítido que o speed up não é satisfatório porque a base de palavras é pequena de mais para ser paralelizada, ou seja, toda a comunicação necessária entre os processos influi severamente na performance do algoritmo, na medida que o número de processadores aumenta.

6 Speed UP x Processadores Real Ideal Speed UP 1 1 Processadores Figura. Speed UP para palavras No gráfico podemos observar que o speed up ainda é fraco, apesar de se mostrar relativamente estável para e processadores, a partir de processadores a comunicação entre processos volta a ser um problema para o tamanho da base de palavras utilizada. Speed UP x Processadores Real Ideal Speed UP 1 1 Processadores Figura. Speed UP para palavras Com 9 palavras o speed up ainda não é ideal, mas, como podemos observar no gráfico 9, já sinaliza que a medida que a base de palavras cresce ele também melhora, indicando que certamente obteríamos uma taxa de speed up bastante significativa ao executar o algoritmo paralelo para calcular a árovre de busca ótima de milhares de palavras.

7 Speed UP x Processadores Real Ideal Speed UP 1 1 Processadores Figura 9. Speed UP para 9 palavras É importante ressaltar que tivemos uma limitação de 9 palavras em nossos testes, provavelmente devido a configuração do MPI instalado no cluster, por isso ficou bastante evidente que o tempo de comunicação entre os processadores superam a demanda de processamento sobre cada processador para uma carga pequena de dados, acarretando em um baixo speed up. Porém, nota-se que para 9 palavras esse quadro começa a inverter e que certamente a tendência seria speed up aproximar-se do linear (esperado) com o aumento do número de palavras.