こんな方におすすめの記事です

  • 最先端のAI技術をビジネスで実用化したい
  • JSAI2020の論文をいくつか読んでみたい
  • AIをシステム導入したい

この記事を読み終えるのに必要な時間

5分

はじめに

こんにちは、マクニカAI女子部のMakkyです!
最近は「新しい生活様式」を意識しているからか、自然とソーシャルディスタンスの距離感を守れるようになってきた日々を過ごしております。
新型コロナウイルスの影響は日本のみならず世界各国でも大きな変化としてあらわれていますが、AIの各学会についても開催形態が「オンライン」になるといった変化をもたらしました。
今回はこれまでのブログでご紹介してきたCVPR2019AAAI2019と同様に、JSAI2020で採択された論文について、いくつかピックアップしてご紹介したいと思います!

今年はオンライン開催:JSAI2020

日本最大級のAI学会の一つでもある人工知能学会全国大会(JSAI)。
2019年は新潟で開催されたJSAIですが、今年は新型コロナウイルスの影響でオンラインでの開催となりました。
JSAI2019に参加した際のブログでも記載しましたXAI(Explainable AI:ディープラーニングの説明性)ですが、今年も引き続きAIのトレンドであり、XAIに関する論文は多く採択されていました。
さらに論文をチェックしていて気になった点としては、AIの実案件ベースで執筆された論文が、システム化や運用フェーズにまで言及されていることが増えたように感じたことです。

そこで今回はXAIとAIのシステム化に関わる2本の論文をピックアップし、ご紹介したいと思います。

論文1:スパース局所線形モデルのニューラル生成器

まず1本目に「スパース局所線形モデルのニューラル生成器」で提案された手法についてご紹介します。

この論文では、
・ディープニューラルネットワーク(DNN)の高い予測性能
・線形モデルの解釈のしやすさ
というDNNと線形モデルの良いところを実現するために「スパース局所線形モデルのニューラル生成器(NGSLL)」を提唱しています。

NGSLLの構成

NGSLLは各事例に対して密な重みをDNNにて生成するWGN(Weight Generator Network)と、重要な特徴だけ選択する、つまり疎(そ)な重みを生成するK-HGM(K-Hot Gate Module)で構成されます。NGSLLはこのアプローチでDNNの予測性能の高さも維持し、そして生成される疎な重みが予測の解釈の助けになるため、予測結果の解釈可能性を達成しています。

 出典:“NEURAL GENERATORS OF SPARSE LOCAL LINEAR MODELS FOR ACHIEVING BOTH ACCURACY AND INTERPRETABILITY”
キャプション:Figure 1: An overview of the NGSLL for binary classification and scalar-value regression.
https://arxiv.org/pdf/2003.06441.pdf

MNISTを用いた実験結果

論文ではNGSLLが高い予測性能を達成すること、生成される重みが予測の解釈の助けになることを、MNISTを用いた実験結果で示しています。
以下図中のKはK-HGMで選択した重要な特徴の数を示します。「NGSLL(w/o K-HGM)」はK-HGM無しのNGSLLであり、密な重みのまま使用した例です。

出典:“NEURAL GENERATORS OF SPARSE LOCAL LINEAR MODELS FOR ACHIEVING BOTH ACCURACY AND  NTERPRETABILITY”
キャプション:Figure 3: Weights visualization for binary-class MNIST dataset.
https://arxiv.org/pdf/2003.06441.pdf


MNISTの実験結果から、K-HGMで疎な重みを生成したNGSLLは黒い画素の領域にのみ重みが正確に割り当てられているのがわかります。また重みが疎になるおかげで、画像のどの領域が予測にとって重要なのかを簡単に理解することができます。
NGSLLを他の解釈可能な手法と比較した実験結果も論文に記載ありましたので、詳しい内容はぜひ論文を読んでみてください!

論文2:人工知能を実装したシステム開発におけるプロジェクトリスクの考察

AIを組み込んだシステム開発では従来の開発プロジェクトと比較して考慮すべき点が増える…ということは、実際にAIシステム開発を行っていなくても想像ができると思います。
AIプロダクト品質保証コンソーシアム発行の「AIプロダクト品質保証ガイドライン」でも品質の把握や評価、説明や管理部分において、従来のソフトウェアに対する品質保証が利用できず、非常に難しいとされています。

次にご紹介する「人工知能を実装したシステム開発におけるプロジェクトリスクの考察」という論文では、AI導入システム開発のプロジェクトマネジメントについて3つの観点から考察を述べています。

1.開発フレームワーク 
2.不確実性のリスク対応
3.ミス・コミュニケーション

私もAI導入システム開発を経験しましたが、これら3つの観点によるプロジェクトマネジメントに関連する考察は、QA4AI(Quality Assurance for AI:AIのための品質保証)にも活かせる部分があると感じています。
 

開発フレームワーク

従来のソフトウェア開発ではウォーターフォールやアジャイルといった開発プロセスを踏んでいました。AIという新しい技術を組み込む場合の開発プロセスは、どのようになるのでしょうか?

論文の著者は、AIはあくまでもシステムを実現する一つの手段と捉え、開発プロセスはウォーターフォール型でも問題ないと述べています。
そしてAIの開発は通常、事前にPoCを行いますが、先行研究でAIの有用性が既に確認できている場合はPoCを行わないケースも存在し、そのようなケースのウォータフォール型開発例も示しています。

出典:第34回人工知能学会全国大会 セッションID: 4O3-GS-13-05
”人工知能を実装したシステム開発におけるプロジェクトリスクの考察”
キャプション:図.3 V字モデル
https://doi.org/10.11517/pjsai.JSAI2020.0_4O3GS1305


AIのPoCを行わない場合は上図のように精度目標を設定し、アジャイルによる開発を実施するべきとしています。しかし実際の開発では、データ不足等の要因で精度目標に至らない可能性も十分にあり得ます。そこでポイントとなるのは、妥協可能な精度についても事前に考慮し検討しておく必要がある…ということです。

不確実性のリスク対応

AIは精度の点を考慮しても、必ず成功を保証するものではありません。
そのためAIをシステムに導入する際は「不確実性」の問題は発生すると考えて間違いありません。
不確実性…というと理解が難しいですが、論文の例をご紹介します。

出典:第34回人工知能学会全国大会 セッションID: 4O3-GS-13-05
”人工知能を実装したシステム開発におけるプロジェクトリスクの考察”
キャプション:図.5 不確実性の分類
https://doi.org/10.11517/pjsai.JSAI2020.0_4O3GS1305


本論文では、Courtneyの不確実性の分類にAI導入システムの観点を当てはめていました。
不確実性を小さくするには、適切な意思決定を行うことが大事です。この決定を合理的に判断できるかどうかは、意思決定者の知識量に依存します。そこで大事になるのがプロジェクトマネージャーの行動です。
論文の著者は、意思決定者に対してプロジェクトマネージャーが適切な判断ができる情報を発信することが重要だと述べています。

ミス・コミュニケーション

AIはとても専門性が高い分野です。かくいう私もAIについては、実際に手を動かしてAIモデルを構築してわかる部分も多くありました。言い換えるとAIは知識レベルに偏りが生まれやすく、結果としてミス・コミュニケーションが発生しやすい分野でもあるということです。
AI導入システム開発のプロジェクトのミス・コミュニケーションを防ぐための具体例として、論文では、コミュニケーションプランや目的を明確にして推進し、すり合わせを行う必要があるとしています。
さらに、AIプロジェクトの管理指標を用いることでもミス・コミュニケーションリスクは削減できるため、AIプロジェクトの評価指標として、QCDにAIの精度「Accuracy」を追加したQCDAによるプロジェクトマネジメントが望ましいとしています。

出典:出典:第34回人工知能学会全国大会 セッションID: 4O3-GS-13-05
”人工知能を実装したシステム開発におけるプロジェクトリスクの考察”
キャプション:図.6 QCDAマトリックス
https://doi.org/10.11517/pjsai.JSAI2020.0_4O3GS1305


上図は論文から引用しましたQCDAマトリックスですが、各関係は以下のように表せます。
・高精度を求める場合は、CostとDeliveryは上昇する。
・Accuracyを下げることによってCostとDeliveryを下げることが可能となる。

ここからわかることはAIを実装したシステム開発プロジェクトでは考慮すべきことが増えているため(Accuracyが増えている)、システム全体のバランスをどのように取るかが重要になるということです。QCDAのどれを優先とするかがわかれば、その要素はプロジェクトの成功基準としての判断要素ともなります。

これまでの開発を振り返って考えてみても、AIを導入したシステム開発は従来のソフトウェア開発よりも留意しなければいけない点が多く、従来どおりのプロジェクト管理では不十分であるという内容はとても理解できます。
もちろんプロジェクトごとに進め方は変わってくるとは思いますが、今後のAIプロジェクトの進め方や品質管理のひとつの知識として参考になる論文だと思いますので、気になった方は論文もチェックしてみてください!

まとめ

今回はJSAI2020の論文を2本ご紹介いたしました。
今回ご紹介した以外にも多くの面白い論文があり、調査をしていて多くの知識を得られることができました。

今年は未曾有の環境変化があった年でもありますので、これから生活様式の変化などで必要とされる新しいアプローチも多く発表されると思います。トレンドを逃さずしっかり動向をチェックしていきたいですが、身体は資本になりますので体調管理だけは日々気を付けていかねば…と常々感じています。これから寒くなってきますので、皆様もどうぞご自愛ください。

■本記事で特集したAI論文の出典元/Reference Lists

・Yuya Yoshikawa, Tomoharu Iwata, “NEURAL GENERATORS OF SPARSE LOCAL LINEAR MODELS FOR ACHIEVING BOTH ACCURACY AND INTERPRETABILITY”, https://arxiv.org/pdf/2003.06441.pdf

・吉川 友也, 岩田 具治, “スパース局所線形モデルのニューラル生成器”
https://doi.org/10.11517/pjsai.JSAI2020.0_3E5GS201

・AI プロダクト品質保証コンソーシアムhttp://www.qa4ai.jp/, “AIプロダクト品質保証ガイドライン”
http://www.qa4ai.jp/QA4AI.Guideline.202008.pdf

・首藤 康浩, “人工知能を実装したシステム開発におけるプロジェクトリスクの考察”,
https://doi.org/10.11517/pjsai.JSAI2020.0_4O3GS1305

マクニカのARIH(AI Research & InnovationHub)では、最先端のAI研究・調査・実装による評価をした上で最もふさわしいAI技術を組み合わせた知見を提供し、企業課題に対する最適解に導く活動をしています。
詳細は下記よりご覧ください。

論文を活用した事例はこちら

アイシン・エィ・ダブリュ株式会社様事例

アイシン・エィ・ダブリュ工業株式会社様事例

関連記事