協調マルチタスキングを用いて短い遊休時間を活用するGPUグリッドシステムの提案

本稿では，ミリ秒単位の遊休時間を活用することを目的として，GPU （Graphics Processing Unit） 向けの協調マルチタスキングを用いたグリッドシステムを提案する．GPU グリッドは，ネットワーク上の共有計算資源として遊休 GPU を用い，大規模計算を加速する．既存システムは，遊休資源を検出するために，マウス・キーボード入力を監視し，CPU および GPU の計算負荷と組み合わせる手法を提案している．しかし，1 秒程度の短い遊休時間を活用できない問題がある．そこで提案システムは，協調マルチタスキングを用いて GPU プログラムを実行し，ミリ秒単位の短い遊休時間を活用する．提案システムは計算タスクを分割し，GPU の負荷に応じて分割数および実行モードを切り替えながら，各々を実行する．これらにより，描画処理および GPU プログラムの並行実行を実現し，資源所有者に与える外乱を抑える．実験では，研究室の学生が日常的に使用する 4 台の計算機に対して提案システムを運用した．結果，既存システムと比較して最大で 1.7 倍の遊休時間を検出し，フレームレートを低下することなく行列積のスループットを倍増できた．This paper proposes a grid system based on a cooperative multitasking technique for the graphics processing unit (GPU), aiming at exploiting short idle time in the order of milliseconds. GPU grids accelerate large-scale computation by exploiting idle GPUs as shared computational resources on the network. To detect idle resources, a previous system monitors mouse and keyboard activities, which are then combined with CPU and GPU load averages. However, this approach cannot exploit short idle time such as a second. To exploits such short idle time of milliseconds, our proposed system executes GPU programs with a cooperative multitasking technique. Our system divides a computational task into smaller parts, which are then executed with the appropriate number of divisions and execution mode determined according to GPU workload. Owing to this technique, we not only realize concurrent execution of frame updates and GPU programs but also minimize the perturbation to the resource owners. In experiments, we apply our system to four machines ordinarily used by students in our laboratory. As a result, our system detects 1.7 times longer idle time than a previous system, and doubles the performance of matrix multiplication without dropping the frame rate.