GMOインターネットグループ、生成AI向けGPUクラウドサービスにNVIDIA Spectrum-Xを国内クラウド事業者として初採用
～NVIDIA Spectrum-X 採用により、生成 AI モデルの開発期間を短縮へ～

　GMOインターネットグループ株式会社（代表取締役グループ代表：熊谷 正寿　以下、GMOインターネットグループ）は、「NVIDIA H200 Tensor コア GPU(以下、NVIDIA H200 GPU）」を採用した2024年12月にリリース予定の生成AI向けのGPUクラウドサービスに、NVIDIA Spectrum™-Xイーサネットネットワークプラットフォームを採用したことを発表いたします。^(※1)
　NVIDIA Spectrum-XはAIワークロード専用に設計された世界初のイーサネットファブリック^（※2）であり、生成AIネットワークのパフォーマンスを飛躍的に向上させることが期待されます。大規模言語モデルの開発・研究者向けにGPUメモリ容量とメモリバス帯域幅を大幅に拡大・最適化された「NVIDIA H200 GPU」の国内最速提供に加え、Spectrum-Xの採用により、お客様の大規模言語モデルの開発における期間短縮とコスト削減を実現します。NVIDIA Spectrum-Xは、国内クラウド事業者として初の採用となります。^(※3)

（※1）NVIDIA、生成AI向けにイーサネット ネットワーキングを強化：https://www.nvidia.com/ja-jp/about-nvidia/press-releases/2024/nvidia-supercharges-ethernet-networking-for-generative-ai/
（※2）イーサネットファブリックとは、ネットワークデバイス間の高速かつ効率的なデータ転送を実現するために、スイッチ間の接続を最適化する技術
（※3）2024年6月10日時点　NVIDIA 調べ

【背景】

　データセンター規模で運用され、ユニークなネットワーク特性を示す生成AIにおいては、従来のイーサネットネットワーキングはAIの高性能要求を満たすには不十分であり、NVIDIAはこれを解決するため、AI向けに最適化されたイーサネットファブリックを開発しました。Spectrum-Xは、生成AIインフラのネットワーク性能を飛躍的に向上させ、高速かつ安定したネットワーク環境が不可欠であることから採用に至りました。

【Spectrum-X の特徴と利点】

　Spectrum-XはAI向けに構築された初のイーサネットファブリックで、従来のイーサネットファブリックと比べてネットワーク性能を1.6倍に向上させます。NVIDIA Spectrum SN5600イーサネットスイッチとNVIDIA BlueField®-3 SuperNICを特徴とするSpectrum-Xは、生成AI向けのGPUクラウドサービスに必要なパフォーマンスと機能を備えたエンドツーエンドの接続性で、適応ルーティングと混雑制御を活用し、AIに最適化された最高性能のイーサネットネットワーキングを提供します。
　NVIDIA Spectrum SN5600イーサネットスイッチは、AI 向けの世界初の毎秒51Tbイーサネットスイッチであり、生成AI向けに、ネットワークの混雑を最小限に抑えながら、大規模で負荷の高いデータスループットを提供します。きめ細かなルーティングテクノロジーにより、ネットワークインフラを常に最大限に活用できます。
　BlueField-3 SuperNICは、ネットワーク集約型の超並列コンピューティング向けに設計されており、GPU サーバー間で最大毎秒400GbのRDMA over Converged Ethernet (RoCE) ネットワーク接続を提供し、クラスタ内のネットワークにおける 大規模言語モデルの開発パフォーマンスを向上させます。Spectrum-Xを採用することより、お客様のAI開発期間の短縮とコスト削減を実現します。

▲NVIDIA Spectrum-X

【今後の展望】

　GMOインターネットグループは、NVIDIA Spectrum-Xの採用により、生成AI向けのGPUクラウドサービスの性能をさらに強化し、日本国内のAI産業を支援します。これにより、AI研究者やスタートアップは、より効率的かつ経済的にAIソリューションの開発と展開を行うことが可能となります。GMOインターネットグループは、今後も最新技術を積極的に導入し、より高品質な生成AI向けのGPUクラウドサービスの提供に努めてまいります。そして、日本のAI産業の発展、ひいては社会全体の発展に貢献してまいります。

【生成AI向けGPUクラウドサービスについて】

　GMOインターネットグループのGPUクラウドサービスは、毎秒4.8テラバイト (TB/s) で141ギガバイト (GB) の HBM3e メモリを提供する初の GPUである「NVIDIA H200 GPU」を搭載予定です。これは、「NVIDIA H100 Tensor コア GPU」の２倍近い容量で、メモリ帯域幅は約1.4倍です。「NVIDIA H200 GPU」の大容量かつ高速なメモリは、生成AIとLLMの開発効率を向上・開発コストを低減し、生成AIモデルの開発力を底上げします。

・参考：GMOインターネットグループ、NVIDIA H200 Tensor コア GPU を採用した生成AI向けのGPUクラウドサービスを国内最速提供へ～経済産業省による「クラウドプログラム」の供給確保計画の認定～　https://www.gmo.jp/news/article/8933

▲NVIDIA H200 Tensor コア GPU

■提供開始時期： 2024年12月(予定)
■本サービスに関するお問い合わせ先：
GMOインターネットグループ株式会社　
　ドメイン・ホスティング事業本部　
　E-mail：[email protected]

【GMOインターネットグループのAI関連の取り組み】
（URL：https://www.gmo.jp/ai-history/）

　GMOインターネットグループは、「AIで未来を創るナンバー１企業グループへ」を掲げ、① 時間とコストの節約、② 既存サービスの質向上、③ AI産業への新サービス提供を軸に、グループ全パートナーを挙げてAIの活用、AI関連サービスの提供を進めています。

①時間とコストの節約
　2023年度には賞金総額1,000万円の社内公募コンテスト「AI（愛）しあおうぜ！ChatGPT業務活用コンテスト」を実施しました。AIに関する取り組みや新サービスへつながる作品が集まり、多くが実際のサービスに実装されています。
　また、全員受講必須の定期的なAIセミナーを開催。2024年からは、非エンジニア向けのリスキリング施策としてAI人財育成プログラム「虎の穴」を実施しています。（https://www.gmo.jp/news/article/8802/）

②既存サービスの質向上
　生成AIによる文章や画像の生成など、既存サービスにAIを組み込むことにより、ドメイン、ホスティング、EC、広告、メディア、セキュリティなど幅広い領域でお客様にこれまで以上に利便性の高いサービスをご提供しています。

③AI産業への新サービス提供
　AI産業をさらに拡大するための支援を進めています。

● 2023年5月24日に、ハンズオン型CVC「GMO Web3株式会社」を、「GMO AI＆Web3株式会社」へと社名変更しAIスタートアップ支援を拡大しています。すでに、有望なAIスタートアップへの支援を実施しています。
● ドメイン登録サービス「お名前.com byGMO」にて、「.ai」ドメインの提供。(https://www.onamae.com/service/domain/ai/）
● AI専門家とともに「GMO教えてAI株式会社」を設立し、生成AIプロンプトポータルサイト「教えてAI byGMO」を開始しました。（https://oshiete.ai/）
● 簡単に使える超高速VPS『ConoHa VPS』にて、NVIDIA社のGPU「NVIDIA H100 Tensor コア GPU」「NVIDIA L4 Tensor コア GPU」を搭載したAI開発者向けのGPUホスティングサービスを開始しました。（https://www.conoha.jp/）
● 2023年12月に「NVIDIA Partner Network」に参画し、GPUの国内普及に取り組んでまいります。（https://www.gmo.jp/news/article/8720/）
● 2024年4月に経済安全保障推進法に基づく特定重要物資である「クラウドプログラム」の供給確保計画に関する経済産業省の認定を受けました。日本のAI産業の拡大のため、生成AIの基盤となるクラウドインフラの提供に向けて、約100億円規模のGPUサーバーへの投資をします。（https://www.gmo.jp/news/article/8933/）

【GMOインターネットグループについて】

　GMOインターネットグループは、ドメインからセキュリティ、決済までビジネスの基盤となるサービスをご提供するインターネットインフラ事業を主軸に、インターネット広告・メディア事業、インターネット金融事業、暗号資産事業を展開する総合インターネットグループです。
　お客様に喜ばれるサービスを迅速かつ低価格で提供するために、サービスは機器の選定から設置、構築、開発、運用までを内製化することを基本方針としています。そのため、グループ110社に在籍する約7,400名のパートナーのうち、ITのモノづくりを担う開発者（エンジニア・クリエイター）が約半数の49.5%を占めています。^（※4）

（※4）2024年3月末時点