Method for Maximal Utilization of Idle Links for Fast Load Balancing

신속한 부하균등화를 위한 휴지링크의 최대 활용방법

  • 임화경 (경희대학교 전자정보학부) ;
  • 장주욱 (서강대학교 컴퓨터학과) ;
  • 김성천 (서강대학교 컴퓨터학과)
  • Published : 2001.12.01

Abstract

In this paper, we introduce new methods for hiding computation overheads involved in load redistributing for parallel computer of hypercube, mesh and tree topologies. The basic idea is either coalescing some phases of load redistributing to overlap the transfer on different links or dividing each phase into steps to pipeline the transfer of load unit by unit for maximum utilization of links. They proved effective in making links busy transmitting load as soon as possible, hence reducing the computation overheads involved in balancing. Proposed techniques experimented on hypercube, mesh or tree topologies reduce communication overheads by 20% to 50% compared with known methods.

본 논문에서는 병렬컴퓨터의 하이퍼큐브, 메쉬, 트리 위상에서 부하를 재분배할 때 소요되는 계산비용을 줄이기 위한 기법을 제안하였다. 기본 개념은 두가지이다. 첫 번째는 부하를 재분배할 때 각단계마다 발생하는 idle한 링크를 겹쳐서 사용하여 전송하는 방법이며, 두 번째는 이전의 방법에 파이프라인 형태로 부하의 이동을 수행하여 링크를 최대한 사용함으로써 보다 효과적으로 계산비용을 줄이는 방법이다. 즉, idle한 링크가 가능한 발생하지 못하게 부하의 전송에 링크가 적극 참여하도록 함으로써 계산비용을 은닉하는 방법이다. 실험을 통하여 병렬컴퓨터의 위상(하이퍼큐브, 메쉬, 트리)에 따라 기존의 기법들에 두 방법을 적용한 결과, 기존의 기법보다 최소 20%에서 최대 50%의 계산비용이 감소됨을 알 수 있었다.

Keywords

References

  1. R. Veeravallie, G. Debasish, V. Mani, G. Thomas, Scheduling Divisible Loads in Parallel and Distributed Systems, IEEE Computer Society Press, 1996
  2. C. Hui, S. Chanson, 'Hydrodynamic Load Balancing.' IEEE Trans. on Parallel and Distributed Systems, Vol.10, No.4, 1999 https://doi.org/10.1109/71.809572
  3. I. Ahnad, Y. Kwok, 'On Parallelizing the Multi-processor Scheduling Problem,' IEEE Trans. on Parallel and Distributed Systems, Vol.10, No.4, 1999 https://doi.org/10.1109/71.762819
  4. M.H. Willebeek-LeMair, 'Strategies for Dynamic Load Balancing on Highly Parallel Computers,' IEEE Trans. on Parallel and Distributed Systems, Vol.4, No.9, pp.979-993, 1993 https://doi.org/10.1109/71.243526
  5. M. Mitzenmacher, 'How Useful Is Old Information?,' IEEE Trans. on Parallel and Distributed Systems, Vol.11, No.1, 2000 https://doi.org/10.1109/71.824633
  6. M.Y. Wu, 'On Runtime Parallel Scheduling for Processor Load Balancing,' IEEE Trans. on Parallel and Distributed Systems, Vol.8, No.2. pp.173-185, 1997 https://doi.org/10.1109/71.577261
  7. M.Y. Wu, 'An Incremental Parallel Scheduling Approach to Solving Dynamics and Irregular Problems,' Proc. of Int'l Conf. on Parallel Processing, Vol.II, pp.143-150, 1995
  8. G. Cybenko, 'Dynamic Load Balancing for Distributed Memory Multiprocessors,' Journal of Parallel and Distributed Computing, Vol. 7, pp279-301, 1989 https://doi.org/10.1016/0743-7315(89)90021-X
  9. A. Alan, B. Pritsker, Introduction to Simulation and SLAMII, John Wiley, 1986