サイト内検索

 昨今ビッグデータを用いたデータサイエンスという分野が急速に発展し、5Gの普及によりデータは益々増加し多様化する傾向にあります。またクラウドを活用したアプリケーションや共同開発が増加し、データセキュリティを強化する必要に迫られています。肥大化するデータを高速処理するにはデータセンターの資源となる計算リソースや消費電力、設置スペースを拡充しなければなりません。高度なセキュリティ機能に対応させようとすると、その分リソースも必要となります。ただ現在データセンターの資源は拡張の限界を迎えつつあります。

 

これらの課題を解決し5Gの展開を加速させる可能性を持つテクノロジーとなるDPU(Data Processing Unit)が、今後データセンターやエンタープライズなどの分野で非常に重要な役割を果たすことになります。本記事ではDPUとはいったい何か、DPUがあることでどんなメリットがあるのかを解説していきます。

CPU・GPUに次いで登場したDPUとは

GPUの台頭以前は、CPUが本来のアプリケーション動作とそれ以外にも並列計算処理やサーバー間ネットワーク処理、リモートストレージアクセスなどを一手に担っていました。GPUが現れ並列計算を任せられるようになったのがここ数年前からで、その後登場したのがDPUです。

 

DPU(Data Processing Unit)とは、従来ホストCPUが担っていた通信機能をオフロードするためのデバイスです。DPUに近いコンセプトとしてネットワーク処理をオフロードするNIC(Network Interface Card)はすでに存在しました。ただしオフロードをするための命令をホストCPUで実行する必要があったので完全には解放できませんでした。DPUは、NVIDIA製 ConnectXシリーズのNICにArm CPUや周辺デバイスを搭載することにより、これまでのNICによるオフロード機能の制御や、更なる付加機能を実現することができます。これによりホストCPUがアプリケーション処理に専念できる状態を実現できます。

データセンターネットワークで酷使されるCPUリソースの行方

データセンターにおけるサーバー上では、大きく2つの目的でサーバーリソースが消費されます。1つは、各種アプリケーション処理に必要なリソースで、これが本来サーバー上で「ユーザーが実現したいこと」に利用するユーザー領域になります。そして無視できないもう1つが、ネットワーク/ストレージ処理などの「インフラのためのリソース」で、多くの場合はサーバー管理者が利用する領域です。昨今のデータ大容量化や通信帯域の増大に伴い、この「インフラのためのリソース」の割合がどんどん増えてきています。さらには、トレンドの一つであるゼロトラストセキュリティ実現に向けて、セキュリティ機能までもがサーバー上で実現されることが求められつつあり、ますますユーザー領域のためのサーバーリソースが圧迫されてしまいます。

 

ユーザーはアプリケーションの質や数が増加すればそれだけユーザー領域を拡大したくなります。一方、管理者側もSLA(サービス品質保証)の向上の一環としてリソース拡充が必要となり、結果としてCPUリソース不足の深刻化が進みます。

データセンター内CPUリソースの現状と今後

DPUの活用により、限られたサーバーリソース内でせめぎ合っていたユーザー領域と管理者領域を分離し、管理者用リソースをDPU上へ移行することが可能になります。それにGPUへの並列処理も加わり、CPUリソースは完全にユーザーアプリケーションに専念することができます。

DPUによりユーザー領域と管理者領域を分離

DPUで具体的に何ができるのか

DPUが活躍する用途を主に3つの観点で紹介していきます。

ネットワーク

システムの入り口にDPUが追加されることで、CPU・GPUの前段に新たなアクセラレーターという役割を担います。これによりパケットIOにおけるCPU処理を最小化し、より一層の高速処理を実現します。

ストレージ

大容量に対応するためにリモートストレージの活用が広がりますが、そこへのアクセスにおいてホストOSでの処理が必要でした。DPU側でSNAPと呼ばれる機能を活用することで、リモート環境にあるストレージをあたかもローカルストレージかのように取り扱うことができ、高速なデータ転送をサポート可能です。

セキュリティ

DPU上へセキュリティ機能をオフロードすることで、サーバーのCPUやメモリー、さらには上位のアプリケーションとは物理的に完全に分離・保護された状態でセキュリティの処理をすることが可能です。

活用が期待されるエリア

クラウドコンピューティング
サイバーセキュリティ
HPC&AI
テレコム&エッジ
データストレージ
メディアストリーミング

NVIDIA DGX H100の詳細資料をご用意しております

ネットワーク視点のNVIDIA DGX™ H100大解剖 ~GPUを最大限活かすNVIDIA ConnectX®-7の役割~

「NVIDIA DPU」は、上記でご紹介したConnectXシリーズのNICに、Arm CPUや周辺デバイスを搭載したアクセラレーションカードです。
従来のシステムだとCPUがネットワークやストレージ、セキュリティ、マネジメント等多くの処理を担当しており、CPUに高い負荷がかかってしまう可能性がありました。しかし、これらをDPU(Data Processing Unit)が代替することで、ホストCPUがアプリケーション処理に専念できる状態を実現できます。

DPUとは一体何か、具体的にどのような用途で活用ができるのかについて、参考資料『ネットワーク視点のNVIDIA DGX™️ H100大解剖 ~GPUを最大限活かすNVIDIA ConnectX®️-7の役割~』で解説しています。
個人情報入力無しで全文をご覧いただけます。

資料内容(一部抜粋)

画像をクリックすると拡大できます。

目次
マクニカ_DGXH100大解剖
NVIDIA DGX H100概要ページ

お問い合わせ