Webマガジン
「<Part 2>人工知能技術の過去と現在(3)」
株式会社オージス総研

2018年08月号
  • 「<Part 2>人工知能技術の過去と現在(3)」
株式会社オージス総研   乾 昌弘

1.はじめに

今回は、ディープラーニングの「Explainable Artificial Intelligence (XAI)」と「見える化」について概要を説明します。

2.「Explainable Artificial Intelligence (XAI)」について

2-1.XAIとは、

(1)「Back Propagation」が話題になった30年前からそうでしたが、「ディープラーニング」でうまく機械学習できたとしても「なぜそういう結果になったか」を説明することができません。単にそれぞれのリンクの重み付けが変化しただけです。そのため、説明機能を可能にする研究が行われています。これを「XAI」と呼んでいます。
(Back Propagationは以下を参照)
4.ニューラルネットワーク(Back Propagation)

(2)図1に「XAI」の流れを示します。もし、このような機能が可能になれば「訓練データや機械学習方法を改善していくこと」もできます。

(3)訓練データはRPA (Robotics Process Automation) で自動作成できる可能性もある。

XAIの概念図
図1.XAIの概念図

2-2.フィードバック制御との比較

(1)結果をフィードバックするという観点から、フィードバック制御を思い出したので、それとの比較をしてみる。

(2)図2のように目標値に従って制御するのであるが、ノイズや制御対象の特性などにより、誤差が生じる。従って誤差を補正するように制御を行う。

(3)「XAI」もこのようなことができれば便利になると思います。

フィードバック制御の概念図
図2.フィードバック制御の概念図

2-3.「XAI」の第1歩見える化

(1)「教師あり学習」の代表格であるCNN(Convolutional Neural Network)の説明機能の第1歩として「見える化」を紹介します。これは、画像のどの部分に注目して判断したかがわかる機能です。

(2)「Grad‐CAM
タグ付けされたクラス(例:犬、猫)に対して影響の大きい画像の箇所を「変化を加えて大きい変化が現れる場所を平均化」して決定するやり方です。変化の大きさは一般的に「Gradient」と呼ばれているので、この方法は「Grad‐CAM」と命名されています。結果は「ヒートマップ」で表され、ソフトウェアは公開されています。
※変化が大きいということは、影響が大きいということに等しいと思われる。

(3)ただし、誤った認識をしている場合に「どのように学習し直したらよいかが、わからない」ことがあるという欠点があります。
 一般的に説明機能は、デバッガーとしての役割を果たす時があるのですが「見える化」だけでは不十分な場合があると言えます。

 Grad-CAMによるCNNの注目箇所(Citation from Reference 1. Fig. 1)「再掲」
図3.Grad-CAMによるCNNの注目箇所(Citation from Reference 1. Fig. 1)「再掲」

※「Gradient」:実用的にいろいろな分野で使用されているため、大学入学後すぐに習う。内容は偏微分で分母の変数のみに対して微分を行い、計算方法は高校で習った微分法と同じ。「d」は「ディー」と言うのに対して「デールント」と言う。と習った。ドイツ語で「まるいディー」という意味らしい。

 Gradientの例
図4.Gradientの例

(4)CNNなどディープラーニングは、図5の例に示すようにアプリケーションが広範囲に及ぶので、効果が大きいと考えられる。

CNNなどの応用例(ご参考)
図5.CNNなどの応用例(ご参考)

※12.CNN(Convolutional Neural Network)
※22.エキスパートシステム、BRMS (Business Rule Management System)
※33.自動運転
※43.α碁の戦略
※53.Genetic Algorithm
※6[Topology] 後日、掲載予定。

「Reference」
1. Ramprasaath R. Selvaraju, Michael Cogswell , et al,: "Grad-CAM: Visual Explanations from Deep Networks via Gradient-based Localization", Mar 2017

「余談」
1.「東ベルリン」のはずが「西ベルリン」で論文発表

(1)27年前のことですが、東西ドイツが統一した後、ベルリンの国際ガス会議で「ICAI(Intelligent Computer Aided Instruction)」の論文発表を行いました。事前募集で論文を送った時は、東ドイツの東ベルリン開催予定であったので、採択(accept)の返事は共産圏のため「わら半紙のような」粗悪な紙に印字されていました。

(2)統一後、西ベルリンに会場が変更になりました。西ベルリンは周りを壁で囲まれていたために、ひっそりとした都市という印象でした。東ベルリンは、立派な建物が並んでいましたが、汚いポンコツの車が多数放置されていました。

(3)壁もほとんど残っていましたが、今では見違えるような大都市になっていることでしょう。

※ICAIは以下を参照
3-1.ICAI(Intelligent Computer Aided Instruction)とは、

写真1.ベルリンの壁(1991年7月9日現在)
写真1.ベルリンの壁(1991年7月9日現在)

表1.「<オージス総研をとりまく>人工知能技術の過去と現在(項目)」
<オージス総研をとりまく>人工知能技術の過去と現在(項目)

表2.「<Part 2>人工知能技術の過去と現在(項目)」
<Part 2>人工知能技術の過去と現在(項目)

※下記「記事一覧」からリンクが張られている。

*本Webマガジンの内容は執筆者個人の見解に基づいており、株式会社オージス総研およびさくら情報システム株式会社、株式会社宇部情報システムのいずれの見解を示すものでもありません。

同一テーマ 記事一覧
乾 昌弘  記事一覧



2018年08月号のコンテンツ



『Webマガジン』に関しては 弊社の「個人情報の取り扱いについて」に同意の上、
下記よりお気軽にお問い合わせください。

ページトップへ戻る