[AI画像解析アプリ開発に必要な知識] 第1話 NVIDIA DeepStream SDKとは

AI監視カメラを活用した画像解析技術は目まぐるしく進化しており、ビジネスの課題解決に導入される方が増えています。

 

いざ導入を決定して、自社で画像解析アプリケーションを開発することになれば、開発するための専用ツールを使いこなす必要があります。世の中には画像解析アプリケーション開発に関する情報は点在していますが、役立つ情報がまとめられているものは少なく、またソフトウェアエンジニアにとって全く新しい環境に慣れる必要があり、開発に苦労する方が多いという現状があります。

 

本記事では、画像解析アプリケーション開発をこれから始められる方や、すでに挑戦して挫折してしまった方に、全5話のシリーズ記事で、開発に必要となる基礎知識についてできる限り難しい言葉を使わずに解説します。

 

[AI画像解析アプリ開発に必要な知識]

 

  第1話 NVIDIA DeepStream SDKとは

  第2話 GStreamerとは

  第3話 パイプラインの設計

  第4話 アプリケーションの開発

  第5話 プラグインの開発

IVAとは?

突然ですが、IVAという言葉をご存じでしょうか?IVAはIntelligent Video Analytics(インテリジェント・ビデオ分析)の略で、AIを応用することで、カメラ画像から優れた洞察をリアルタイムに得ることを可能とする技術です。小売店舗内で顧客の導線(動線)を解析して収益改善を図る、歩行者と車両の流れを解析して渋滞改善を図る、駐車場の空きをリアルタイムに把握、不審者や不審物を素早く見つけて防犯に役立てるなど非常に多くの応用が考えられます。

 

実際のIVAアプリケーションのデモ動画をご覧ください。

(「第4話 アプリケーションの開発」までご覧いただくと下記のようなデモを試していただけます。)

これらを実現するにはすでにパッケージ化されたアプリケーションを活用するか、自社で開発をするか、2つの選択肢があります。パッケージより精度を上げたりカスタマイズをしたい場合や、自社製品として販売したい場合は、後者のIVAアプリケーション開発をすることになります。

 

それでは、開発を進める上で必ず知っておくべきツールについてご紹介していきます。

DeepStream SDKとは?

DeepStream SDKとは、画像処理用のソフトウェア開発キットのことで、NVIDIA GPUを利用した高度なIVAアプリケーションの開発を容易にするものです。開発フローの中にはいくつかパターン化されている部分があり、それらを0から作るのではなくモジュール化することで開発を加速させることが可能です。

DeepStream SDKの仕組み

GStreamer

DeepStream SDKはGStreamerと呼ばれるマルチメディアフレームワークをベースに構成されています。GStreamerはプラグインと呼ばれる機能ブロック同士を接続してアプリケーションを構築します。その柔軟なプログラミングモデルによって多チャンネル入力対応のIVAアプリケーションを容易に実現できます。

GStreamerについては、「第2話 GStreamerについて」で詳しく解説しています。

NVIDIA TensorRT

DeepStream SDKにはNVIDIA TensorRTを利用した高速ディープラーニング推論機能が組み込まれているので、ユーザーの用意した学習済みモデルを高速に処理できます。

ビデオ・デコーディング機能

IVAアプリケーションに共通に必要とされる(GPUで高速化された)ビデオ・デコーディング機能も組込まれており、IP監視カメラから配信されてきたH.264、H.265ビデオ・ストリームをハードウェアで効率的にデコードできます。

データ分析のフロー 出典:NVIDIA DeepStream SDK

データ分析のフロー 出典:NVIDIA DeepStream SDK

DeepStream SDKを使う理由

幅広いユースケースと分野に対応

  スマートシティー、小売店舗の購買解析、製造業の外観検査、物流など幅広いユースケースに対応したアプリケーションを構築できます

 

性能重視

  NVIDIA社製GPUに最適化されており、低遅延と卓越した性能を発揮します

 

市場投入の時間短縮

  すぐに使える機能ブロックとIPで、差別化部分の開発に注力できます

 

クラウド対応

  クラウド上で動作するアプリケーション/サービスも構築できます

 

容易なデプロイメント

  ・Dockerコンテナとして容易にデプロイメントできます

  ・組み込み用Jetsonモジュールからデータセンター用データセンターGPUカードまで、NVIDIA社の幅広いGPU製品に対応します

 

柔軟性とカスタマイズ性

  提供されるプラグインまたは独自に開発したプラグインをプラグ・アンド・プレイでつなぎ替えてアプリケーション開発できます

DeepStream SDKの処理性能

1080p30動画入力から物体検出と追跡する場合の処理チャンネル数とCPU/GPU使用率は以下のとおりです。

詳細情報はこちら

NVIDIA Products

H.264 / CPU使用率 / GPU使用率

H.265 / CPU使用率 / GPU使用率

Jetson AGX Xavier

34 / 38.89% / 56.32%

54 / 59.07% / 84.66%

Jetson Xavier NX

23 / 56.22% / 66.10%

30 / 71.59% / 85.12%

Jetson AGX Orin

15 / 5.10% / 10.45%

37 / 11.06% / 23.24%

Jetson Orin NX

13 / 7.22% / 18.21%

32 / 14.97% / 44.39%

Jetson Orin Nano

8 / 8.17% / 21.66%

19 / 17.12% / 43.40%

Data center CPU-GA100

98 / 2.53% / 18.42%

187 / 6.41% / 40.20%

Data center GPU-T4

43 / 1.93% / 23.27%

75 / 3.21% / 44.77%

Data center GPU-A30

71 / 1.80% / 19.31%

190 / 6.30% / 53.86%

Data center GPU-A2

48 / 1.64% / 47.93%

91 / 53.48% / 99.99%

Data center GPU-A10

45 / 1.39% / 12.62%

105 / 2.81% / 29.60%

Data center GPU-H100

153 / 1.73% / 26.41%

274 / 1.71% / 65.36%

Data center GPU-L40

82 / 1.92% / 13.74%%

192 / 4.93% / 33.55%

Data center GPU-L4

91 / 2.19% / 28.96%

181 / 11.50% / 71.68%

Data center GPU-A6000

48 / 0.61% / 11.44%

108 / 1.40% / 26.62%

次はIVAアプリ開発者なら必ず知っておきたい、GStreamerについてご紹介!

本記事では、IVAアプリケーション開発を加速するNVIDIA DeepStream SDKについて、仕組みや使われる理由についてご紹介しましたが、いかがでしたでしょうか。

次回はGStreamerとは何か、その基本構成要素について解説します。

 

こんな方が2話以降をダウンロードしています

実際にダウンロードいただいた方の声をご紹介します。

「今行っている開発で、Jetson上でGStreamerのプラグインを作ろうとしているのですが、

検索したら丁度良い記事を見つけたのでダウンロードしてみました。今まさに見てるところですが大変ためになります!」

IVA開発をご検討の方は、ぜひお問い合わせください

IVAの導入に向けて、弊社ではハードウェアのNVIDIA GPUカードやGPUワークステーションの選定やサポート、また顔認証、導線分析、骨格検知のアルゴリズム、さらに学習環境構築サービスなどを取り揃えております。お困りの際は、ぜひお問い合わせください。