デジタルツインとGAN

皆さんはデジタルツインという言葉をご存知でしょうか？
ざっくり説明しますと機械そのものや工程のデータを使って同じように振舞う仮想モデルをデジタル空間上に構築することです。
IoT化に伴いモノの情報を詳細にリアルタイムに集めることが可能になりつつあるので、デジタルツインもよりリアルタイムに本物のデータを使ってモデリングできる=モデルのシミュレーション精度が高くなっていることから注目を集めています。

このデジタルツインの構築にGANを組み合わせる取り組みの紹介がありました。

装置や工程のデータを学習させたGANのGeneratorをデジタルツインとして扱うというアイディアで、生成したデータは異常検知などの教師あり学習にも転用していくとのことでした。
シミュレーション結果を他のモデリングや分析に応用する画期的な例であったように思います。
また、Discriminatorは異常検出器として使えるようです。

ここで使われているGANはノイズモデルの分布を予め考慮するため、あるラベル中に意図しないノイズが混じるような粗いデータセットで学習させても、生成モデルは意図したラベルに対応した性質のデータをきちんと作り出してくれます。

建築設計にもディープラーニング

BIM（Building Information Modeling）とディープラーニングの組み合わせも注目されています。
BIMとはいわば建築設計における工程データのようなもので、建造物の3Dモデルに間取り、素材、寸法、材料の数量、施工情報、コストなどの付帯情報を組み合わせたモデルのことです。 

紹介されていたものはディープラーニングを使った建築設計の自動化です。

BIMから間取りや素材、部屋のタイプ等の付帯情報を自動検出するモデルをディープラーニングで学習させることで、推論時にはBIMを人間が確認しなくても学習済モデルが自ら検出した内容をもとに建築物のレイアウトや窓の位置などの比率を自動計算していきます。
計算された比率も含めたBIMのジオメトリは、ツールを使って3Dモデルへとコンパイルできるようで、意図したとおりに設計されているかを動的に確認することができます。

学習/推論の高速化（Pruning）

精度を保ちながら学習/推論の両方を高速化するアプローチに関するセッションも多く、その中で「スパース」なニューラルネットワークというワードが散見されました。
スパースというのは疎であること（スカスカ、モデルのパラメータに0が多い）を指します。
ニューラルネットワークが疎であるということは重要でないパラメータを0にして計算しない、つまり余分な計算をしなくなるので結果的に学習/推論時のメモリ使用率を抑えつつ高速化を図ることができます。

ここで重要でないパラメータを間引く学習テクニックとして、「pruning」が多く紹介されていました。

閾値以下の値（0に近い値）しかもたない結合重み（ノードの手法もあります）を0にしてしまうことで更新するパラメータを削減していく手法が紹介されていましたが、どのようにpruningしていくかは様々な手法が提唱されているようです。

今回は事例紹介を中心としたにセッションついてご紹介しました！

最終回は少し突っ込んだ内容です。
機械学習や前処理でGPUをフル活用するためのライブラリ群「RAPIDS」と、機械学習/ディープラーニングなどのモデリングとデータの関係性についてご紹介します、お楽しみに！

なお、初回でご紹介したJetson Nanoの開発キットは以下のリンクから購入できます。
その他NVIDIA GPU製品の詳細情報も入手できますので是非ご覧ください！