エヌビディア、cuBLASの倍精度行列演算で最大5.5倍を報告

複素行列乗算のZGEMMでは、Ozaki-IIと組み合わせた2M方式が実数行列乗算の回数を従来の4回から2回に減らす。エヌビディアは、同方式を使ったGB200のZGEMMがネイティブ複素FP64比最大5倍になったとしている。

高速化の幅は行列の形状や大きさで変わる。小さな行列ではOzaki-IIの利点が出ず、ネイティブFP64演算が選ばれる場合もある。DGEMMは実数、ZGEMMは複素数の倍精度行列乗算を指す。

Ozaki-IIはCUDA Toolkit 13.4系に含まれる。13.4.2は9月、13.4.3は10月、13.5.0は11月に公開され、11月14日時点の最新版は13.5.0だ。今回の説明は、既に公開された機能の仕組みと性能測定を扱っている。

理化学研究所は「富岳NEXT」に向け、OZAKI-SchemeによるFP64行列演算エミュレーションを用いた数値計算ライブラリの開発方針を示している。