GPU制御用ファームウェア開発環境

多くの GPU はオンチップのマイクロコントローラに実装されたファームウェアによって制御されている．このマイクロコントローラを効果的に使用することで，データ転送やカーネル実行に関する GPU 資源管理のさらなる改善が期待できる．しかし，コードの記述がアセンブリに限られるなど，現状では開発環境が整備されておらず，ファームウェア開発の生産性に問題がある．そのため本稿では， NVIDIA 社製 GPU マイクロコントローラ向けコンパイラおよびデバッグ支援ツールを開発し，開発環境として提供することで， GPU 資源管理の新たな方向性を示す．コンパイラの実装には，移植性の高いコンパイラ基盤として知られる LLVM を用いた．一方，デバッグ支援ツールは，マイクロコントローラ上でファームウェアを実行し，コマンドの送信や監視をおこなう．本開発環境を用いて NVIDIA 社製 GPU マイクロコントローラのファームウェアを開発し，評価をおこない，実行時間のオーバヘッドは 2.3% であった．さらに，メモリコピーなどを含めた全体の時間におけるオーバヘッドの割合は 0.01% と，許容範囲内に収まることを確認した．

GPUs are often controlled by firmware running on the integrated on-chip microcontroller. This microcontroller is highly available to extend the functionality of GPU resource management relevant to GPU code executions and data transfers. However, GPU firmware development environments are not yet well organized in the literature. In this paper, we develop a compiler and debugging tool set for NVIDIA's GPU microcontrollers in order to enhance the productivity of GPU firmware development. In particular, we implement the compiler using the well-known portable LLVM compiler infrastructure, while together providing a debugging subsystem that can individually execute firmware on the microcontoroller, monitor its status, and send firmware commands. As a proof of concept, we develop new firmware using our compiler tool set and evaluate it on an NVIDIA's graphics card. Our experimental results demonstrate that the overhead of introducing our firmware is suppressed to within 2.3%, as compared to the native proprietary firmware. Furthermore, the overhead occupy the 0.01% of total time including memory copy and so forth.