NVIDIA、2つのGPUダイを採用した新GPUアーキテクチャ「Blackwell」発表 電力効率25倍、AI性能は30倍に

0

2024年03月19日 16:11  ITmedia PC USER

  • チェックする
  • つぶやく
  • 日記を書く

ITmedia PC USER

GB200を36基搭載する水冷ラックシステム「NVIDIA GB200 NVL72」

 米NVIDIAは3月18日(現地時間)、高度なデータセンターなどで使われるGPUの新アーキテクチャ「Blackwell」(ブラックウェル)を発表した。同技術を採用する製品は、コストとエネルギー消費を従来製品の25分の1に抑えながら、数兆規模のパラメータを持つ大規模言語モデル(LLM)による生成AIを構築、実行できるようになるという。搭載製品は2024年後半から市場に投入される予定だ。


【その他の画像】


 Blackwellは、2022年に同社がリリースした「Hopper」(ホッパー)の後継に位置付けられる新アーキテクチャだ。2つのGPUダイ(半導体のチップ本体)を10TB/秒の超高速なインタフェース「NV-HBI」で接続し、1つのGPUとして振る舞う仕組みを採用している。トランジスタの数は2080億個に上る。


 さらに4bit浮動小数点AI推論を実現する第2世代の「Transformer Engine」(AIトレーニングのアクセラレーター技術)や、1.8TB/秒の双方向スループットや最大576基までのGPU接続を実現する最新の「NVLink」(GPU間を接続するプロトコル)、GPUの信頼性や可用性、保守性を高める専用エンジン「RAS Engine」などを採用することにより、最大10兆のパラメータを持つLLMのトレーニングと推論を実現するとしている。


 NVIDIAは、Blackwellアーキテクチャを採用する製品として「NVIDIA GB200 Grace Blackwell Superchip」(以下、GB200)を同時発表している。これは2基のBlackwell GPUを900GB/秒のインタフェースでNVIDIA Grace CPUと接続したものだ。


 このGB200を36基搭載する水冷ラックシステム「NVIDIA GB200 NVL72」は、従来の「NVIDIA H100 Tensor コア GPU」と比べて、最大30倍のパフォーマンス向上と、コストとエネルギー消費を25分の1に抑えることが実現するという。


 NVIDIA創業者のジェンスン・フアンCEOは「生成AIは、現代を定義するテクノロジーだ。Blackwellは、この新たな産業革命を推進するエンジンである。世界で最もダイナミックな企業と協力することで、私たちはあらゆる業界におけるAIの可能性を実現していくだろう」とコメントしている。


 Blackwellという名前は、ゲーム理論と統計を専門とする数学者のデビッド・ハロルド・ブラックウェル氏にちなんで名付けられたという。


    ランキングIT・インターネット

    前日のランキングへ

    ニュース設定