デル・テクノロジーズのAIソリューション担当シニアディレクター、ブラッド・マルツ氏は、スーパーコンピューティング会議「SC26」でのインタビューで、企業のAIを試験導入から本番稼働へ進めるにはGPUだけでは足りず、費用やデータ主権などへの対応が要るとの考えを示した。このインタビューは、デルがスポンサーを務めた中継枠で行われた。
マルツ氏は、現在のフロンティアラボ(最先端AIの開発企業)やハイパースケーラー(大手クラウド事業者)でのトークン支出について、「想定より少し多い」と述べた。トークンは、AIモデルの利用量を測る単位として課金に使われる。
同氏によると、多くの企業はまだパイロット(試験導入)の段階にある。最初の用途にはコーディングアシスタントが多い。従業員がアンスロピックやオープンAIのツールを試した経験があるためだという。
本番稼働に進むには、トークン費用に加え、データ主権、知的財産の漏えい、セキュリティ、ガバナンスへの対応が前提になる。このため、微調整したうえでオンプレミス(自社設備)で動かせるオープンウェイトモデルを選ぶ企業が増えていると説明した。米国製の例として、エヌビディアの「Nemotron」が挙がった。
主権(ソブリン)型の導入では、ネットワークから切り離したオンプレミスのシステムに、モデルをGPUや企業が管理するデータの近くに置く例が多いという。マルツ氏は、データの位置づけを次のように語った。




