こんな方におすすめの記事です

データサイエンティスト、機械学習エンジニア、人工知能について勉強をしている全ての人

この記事を読み終えるのに必要な時間

10分

はじめに

本コラムはNeurIPS 2019の参加レポートです。
2019年12月8日~14日にカナダ・バンクーバーで開催されたNeurIPS 2019に、マクニカのAI Research & Innovation Hub(ARIH)のメンバーが参加してきました。

去年に引き続きカナダで開催されたNeurIPS 2019ですが、さすが最も人気のあるAI国際学会のトップカンファレス。ものすごい人混みでした。
そもそも参加に必要なチケットも抽選制で、当選者のみ参加できるという程の盛況ぶりでした。

そんなNeurIPS2019について、第一回目のレポートでは

・数あるAI学会の中でNeurIPSの位置づけは?
・投稿論文から見たAI技術トレンドは?

という視点から、学会に参加したからこそ得られたAIの最新情報をお届けしていきたいと思います!

NeurIPSの位置づけ

下表は2020年のAI系学会の特徴をまとめたものです。

名前

詳細

場所

時期

人工知能全般

IJCAI

機械学習だけでなく、AI全般の世界のトップカンファレンス

横浜

7月

AAAI

IJCAIと同格のカンファレンス

ニューヨーク

2月

JSAI

人工知能学会全国大会と呼ばれる日本の大会

熊本

6月

統計的機械学習・Deep Learning

NeurIPS

機械学習系のトップカンファレンス
以前はNIPSという名前だった

カナダ

12月

ICML

NeurIPSに並ぶトップカンファレンス

オーストリア

7月

IBIS

日本最大の機械学習系のワークショップ

TBD

TBD

コンピュータビジョン

CVPR

コンピュータビジョンのトップカンファレンス

アメリカ

6月

ICCV

CVPRに並ぶカンファレンス(隔年開催)

TBD

TBD

※2020年1月調べ。学会の時期は全て2020年のものです。

数ある学会の中でも、機械学習系のトップカンファレンスであるNeurIPS 2019。
来場者約13,000人、論文投稿数9,185本と、主要な国際学会と比較しても非常に人気が高く、最も権威のある学会の一つといえます。

そんなNeurIPS 2019から見た今年のAI技術トレンドを、投稿論文のタイトル・発表内容を元に振り返りたいと思います!

NeurIPS 2019 投稿論文から見たAI技術トレンド

この画像は、技術トレンドを把握するために、NeurIPS 2019に採択された論文1,428本のタイトルを集計して、タイトルに含まれるワードが多いものを大きく表示し、少ないものを小さく表示したものです。(色付けに意味はありません。)
https://nips.cc/Conferences/2019/Schedule?type=Posterより自作しました。

2019年に多く取り上げられていたキーワードは「Optimization」、「Reinforcement」、「Efficient」、「Bayesian」でした。
ここでは理論や数式について触れることなく、誰にでもわかるように概要を説明いたします。

■ Optimization(最適化)

AIで問題解決をする場合、アプローチとしては例えば画像処理や統計学、Deep Learningなどが有名どころではありますが、最適化などのアプローチで解決できる問題も多くあります。
最適化問題とは、「限られた条件の中で一番良いものを求める問題」です。
最適化は、経路最適化や配置最適化などが多く取り上げられる問題ですが、例えば経路最適化は下記のようなものが具体例としてあります。

【限られた条件】:食品生産工場からコンビニエンスストアまでの道のりで
【一番良いものを求める】:どのような運送経路で運送コストが最小化されるか

また、配置最適化の問題の具体例は下記のようなものです。

【限られた条件】:部材の製造工場の生産ラインで
【一番良いものを求める】:どのような人や工作機械の配置で不良品率が下がるか

上記のような問題について文章で語ることは簡単なのですが、実際に取り組むときには、「限られた条件」と「一番良いもの」を数式やプログラムに落とし込むことが難しくチャレンジングな内容となります。

■ Reinforcement(強化)

ビジネスで使われる機械学習手法は、「教師あり学習」「教師なし学習」が一般的ですが、研究の分野では「強化学習(Reinforcement Learning)」も注目を集めています。

教師あり学習とは、一番使われている機械学習手法で、入力と出力の関係を学習するものです。
例えば、教師あり学習では、犬の画像を入力すると、「犬」というラベルを出力するように学習をします。
また、教師なし学習はデータの構造そのものを学習するものです。
例えば、工場から取得できるデータで異常検知をする際には異常データがない場合が多いため、正常データの構造を教師なし学習で学習し、異常を検出することができます。

強化学習は与えられた環境下で、どのような行動をすると報酬が一番大きくなるかを学習する手法です。
例えばGoogleのDeep MindであるAlpha Goは強化学習を採用していました。
手法自体は他の二つに比べてわかりにくいかと思いますが、盛んに研究は行われてはおり、一時期は「本当のAIは強化学習からできる」などと騒がれていました。
しかし、強化学習をビジネスで展開するのには課題があります。
それは一重に「実世界のデータは強化学習にかけられるほどのボリュームがない」ということです。
ゲームなどのシミュレーションで大量のデータを制作できる場合は強化学習ができるのですが、実際にはそれほど多くのデータを集められるケースが少ないため、今後に期待されている分野という印象を持っています。

■ Efficient(効率化)

機械学習の計算プロセスには長い時間がかかります。
例えば画像系のタスクで分類をする際に、一つの賢いモデルを作るのに2週間かかるといったことは当たり前のように起こります。
この期間自体が問題でもあるのですが、このモデルの性能をきちんとテストできるのも2週間後になってしまいます。
2週間の間に途中経過は見ることはできますが、その間のコーディングやチューニングなどの作業はできません。
通常のソフトウェア開発であれば、作りながらアウトプットを確認することができるのですが、そういった点でAI開発は難点があります。

そこで、大事になってくるのが学習の「Efficient(効率化)」です。
例えば、学習アルゴリズムに使われている数式を少し変更することで、2週間かかっていた学習が半分になったりすることがあります。
これがいわゆる効率化です。
また、学習フェーズのみでなく、推論フェーズでも効率化は重要になります。
例えば、自動運転のためにカメラから人を検出するAIモデルを制作したとして、そのAIモデルが1枚の画像から人を検出するために10秒必要となると、実用性が皆無になってしまいます。
そのため、効率化の研究はビジネスでの適用が近い分野であるといえるでしょう。

■ Bayesian(ベイズ)

ベイズ統計は1700年中期にイギリスの数学者トーマス・ベイズによって提案された「ベイズの定理」を基礎とする統計学の一種です。
日本の大学では通常、推計統計学が主に教えられ、ベイズ統計学というワードはあまり広まっていないのですが、機械学習の実世界への適用には非常に効力を発揮します。
ここではベイズ統計の強みと実応用についてご紹介いたします。

推計統計と比較したときにベイズ統計の強みは下記二点にあります。

1. ドメイン知識との組み合わせが柔軟にでき、少ないデータでの予測が可能である(主観確率)
2. データが入ってくると自動的に予測モデルがアップデートされる仕組みが簡単に作れる(ベイズ更新)
※ドメイン知識とは人間が持っている知識のことです

こうした強みを活かし、実応用としてはベイジアンフィルターを用いた迷惑メールのフィルタリング機能や、ベイジアンネットワークを用いた医療診断サポートなどがツールとして開発されています。

最後に、今回はあまり多くは取り上げられていませんでしたが、2018年にはその強力さゆえに注目されていた「グラフ理論」についてお伝えしたいと思います。

※NeurIPS 2018に採択された論文1011本のタイトルを集計して、タイトルに含まれるワードが多いものを大きく表示し、少ないものを小さく表示したものです。
https://nips.cc/Conferences/2018/Schedule?type=Posterより自作しました。

■ Graph(グラフ)

グラフとは、一言でいうと何かと何かがつながっている状態を表すための構造のことを表します。
例えば、ニューラルネットワークや通信のネットワークもグラフです。
画像やテキストでさえも様々なデータの構造としてグラフを用いることができ、これらをCNNなどのニューラルネットワークにかけるといった試みも昨年度には多く行われておりました。
FacebookやTwitterの「友達かも?」に出てくるレコメンド機能や、バイオロジー分野での分析手法としてグラフ理論は応用されています。

まとめ

今回は、誰でもわかるNeurIPS2019ということで、まずは以下2つの視点からお伝えしました。

・数あるAI学会の中でNeurIPSの位置づけは?
・投稿論文から見たAI技術トレンドは?

第二回では、もう少し深堀りしたトレンドをお伝えします。お楽しみに!!

・実際のセッションから見たAI技術トレンド
・ARIHが興味を持ったAI Keyword5選

論文を活用した事例はこちら

アイシン・エィ・ダブリュ株式会社様事例:カーナビの目視検査をAIで自働化

関連記事

*テックブログ*
AIの最先端は論文で学ぶ

*テックブログ*
AI系トップカンファレンスNeurIPS 2018まとめ

*テックブログAI女子部*
[AI論文] GraphCNNの最新手法「D-GraphCNN」

*テックブログAI女子部*
[AI論文] ターゲット画像のみで画像修正を行う「Deep Image Prior」

*テックブログAI女子部*
CVPR 2019 論文5選

*テックブログAI女子部*
最先端の研究を知ろう ― AAAI 2019 AI論文3選 ―

*テックブログ*
人工知能学会全国大会(JSAI)2019 まとめ

マクニカのARIH(AI Research & Innovation Hub)では、最先端のAI研究・調査・実装による評価をした上で最もふさわしいAI技術を組み合わせた知見を提供し、企業課題に対する最適解に導く活動をしています。
詳細は下記よりご覧ください。