NVIDIA RTX PRO™ 6000 Blackwell Server Edition GPU - NVIDIA

NVIDIA RTX PRO™ 6000 Blackwell Server Edition

革新的なNVIDIA Blackwell アーキテクチャーを搭載した NVIDIA RTX PRO™ 6000 Blackwell Server Edition は、最先端の AI 処理能力と卓越したビジュアルコンピューティング性能を統合し、企業データセンターの複雑なワークロードを劇的に加速します。超高速 GDDR7 メモリを 96GB 搭載した NVIDIA RTX PRO 6000 Blackwell は、エージェント AI、フィジカル AI、科学計算からレンダリング、3D グラフィックス、ビデオ処理まで幅広いユースケースに対応する比類なきパフォーマンスと柔軟性を提供します。

製品仕様

	NVIDIA RTX PRO™ 6000 Blackwell Server Edition	NVIDIA L40S
CUDA Parallel Processing cores	24,064	18,176
NVIDIA Tensor Cores	752	568
NVIDIA RT Cores	188	142
Frame Buffer Memory	96 GB GDDR7 with ECC	48GB GDDR6 with ECC
Memory Bandwidth	1597 GB/s	864 GB/s
Max Power Consumption	600W	350W
Graphics Bus	PCI Express 5.0 x16	PCI Express 4.0 x16
Display Connectors	DisplayPort 2.1 x4	DisplayPort 1.4a x4
Form Factor	4.4” H x 10.5” L, FHFL Dual Slot	4.4” H x 10.5” L,dual slot
外部電源	1x PCIe CEM5 16-pin	1x PCIe CEM5 16-pin

グラフィック性能はもちろんのこと、学習・推論でもパフォーマンスの向上が期待できます。

NVIDIA RTX PRO 6000 Blackwell Server Edition搭載サーバについてはOEMベンダーであるSupermicro社及びDELL technologies社にてご提案可能です。

弊社から検証済みのサーバーをご案内も可能ですので、興味のある方は是非下記からお問い合わせください。

RTX PRO 6000と前世代L40Sとの比較

前世代のL40Sと比べると大規模言語モデルをはじめ数倍の性能を出すことが可能です。

NVIDIA NIMとの連携

NVIDIA NIMを使用することでLlamaモデルをはじめ前世代より最大約5倍のスループットを有し、ファインチューニングでは最大約2倍を有します。

RTX PRO 6000 MIG機能

RTX PRO 6000シリーズはMIG機能により、最大物理的に4分割(1/4 MIG:24GB)することが可能です。さらにタイムスライスvGPU機能を利用することにより、通常1GPUは1つのコンテナで占有するところ、1/4 MIGあたり12コンテナをスケジューリング処理することができ、最大48コンテナのスケジューリング処理を可能にします。