本文へ
TokenPost
マーケットデータ提供:CoinGecko

デル幹部、AIの本番稼働はGPUだけでは不足 費用やデータ主権も要と指摘

TokenPost約3分で読めます
ガラス張りの建物と閉じられた金属製ゲートが並ぶ企業のデータセンター / TokenPost.ai
ガラス張りの建物と閉じられた金属製ゲートが並ぶ企業のデータセンター / TokenPost.ai

デル・テクノロジーズのAIソリューション担当シニアディレクター、ブラッド・マルツ氏は、スーパーコンピューティング会議「SC26」でのインタビューで、企業のAIを試験導入から本番稼働へ進めるにはGPUだけでは足りず、費用やデータ主権などへの対応が要るとの考えを示した。このインタビューは、デルがスポンサーを務めた中継枠で行われた。

マルツ氏は、現在のフロンティアラボ(最先端AIの開発企業)やハイパースケーラー(大手クラウド事業者)でのトークン支出について、「想定より少し多い」と述べた。トークンは、AIモデルの利用量を測る単位として課金に使われる。

同氏によると、多くの企業はまだパイロット(試験導入)の段階にある。最初の用途にはコーディングアシスタントが多い。従業員がアンスロピックやオープンAIのツールを試した経験があるためだという。

本番稼働に進むには、トークン費用に加え、データ主権、知的財産の漏えい、セキュリティ、ガバナンスへの対応が前提になる。このため、微調整したうえでオンプレミス(自社設備)で動かせるオープンウェイトモデルを選ぶ企業が増えていると説明した。米国製の例として、エヌビディアの「Nemotron」が挙がった。

主権(ソブリン)型の導入では、ネットワークから切り離したオンプレミスのシステムに、モデルをGPUや企業が管理するデータの近くに置く例が多いという。マルツ氏は、データの位置づけを次のように語った。

「データがAIの生命線だということは理解されている。モデルを訓練するのもデータであり、モデルが処理する対象もデータだ」

フロンティアラボとオープンウェイトの関係については、「フロンティアラボは常に存在し、オープンウェイトモデルも常に存在する。問われるのは、企業の用途を満たせるだけの多様性がオープンウェイトにあるかどうかだ」と述べた。

AI Factoryの対象を拡大、パートナー検証プログラムも

マルツ氏によると、デルは過去1年、「AI Factory」の対象をサーバーやストレージの先、つまりソフトウェア、オープンソースツール、モデル、運用まで広げてきた。顧客がフルスタックでの成果を求めているためだという。同氏は「ハードウェアは重要だ。トークンを生み出すのはそこだからだ。ただ、ハードウェアの層を超えて、フルスタックでAI Factoryを捉える必要が本当にある」と話した。

SC26に合わせて、デルはAI Factoryの更新と、ソフトウェアパートナーをAI Factory上で検証する「AI Ecosystem Program」の開始を明らかにした。マルツ氏によると、約60社が申請済みまたは評価中で、1社が加わるごとにデルが解決できる顧客課題が10〜30件増える。

オープンウェイトへの移行が広がっているという見方は、オンプレミス型のAI基盤を販売するデルの幹部の説明であり、数字などの裏付けは示されていない。

関連記事

一覧を見る