AIがGPUコードを自動最適化、新手法「Hawkeye」がNVIDIA・AMDで最大18.9倍高速化

　米ハーバード大、スタンフォード大、Together AI、Caltechの研究者9人で構成するチームは、AIコーディングエージェントにGPU固有の知識を与え、演算カーネルを自動生成・最適化させるフレームワーク「HAWKEYE」を提案した。新しいGPUやAIアクセラレーターが登場するたびに、専門家がハードウエア固有の命令やメモリー構造に合わせてソフトウエアを作り直す負担を減らす狙いがあるという。


　HAWKEYEは、ベクトル化したメモリー読み込みや非同期データ処理、ワープ単位の演算など、繰り返し利用される最適化戦略を分類する。新しいアーキテクチャに対応する際は、約10本の専門家作成の単体テストと参照カーネルを用意。エージェントはGPUを使える実行環境でコードの編集、実行、検証、プロファイリングを繰り返し、ボトルネックに応じて複数の最適化を組み合わせるとしている。

　研究チームは、HAWKEYEによって新しいAIアクセラレーターをソフトウエア側から支援する負担を抑えられるとみている。ただし、未知のアーキテクチャに対応する最初の単体テストと参照実装には、引き続き専門家の知識が必要となるという。