「事前討議《1》: 中本浩之氏 "処理ロジックについて" など」第49回日本医学教育学プレコングレス（その4）--感性的研究生活（68）

（☆「鐘の声 ブログ」記事マップ☆）

（感性的研究生活シリーズの記事一覧）

2017/08/19
「事前討議《1》: 中本浩之氏 "処理ロジックについて" など」第49回日本医学教育学プレコングレス（その4）--感性的研究生活（68）

ミニシリーズ:
「SNS中継、映像中継によるプレコングレス【人工知能の発達に対応する医学教育】第49回日本医学教育学--感性的研究生活」--at 2017.08.17
===============================================
1. プレコングレスの開催、これからのAI教育など
2. 飯箸によるトリガースピーチ "始まったAI友の時代"
3. 飯箸による詳細説明書の紹介
4. 事前討議《1》: 中本浩之氏 "処理ロジックについて" など
5. 事前討議《2》: 伊藤昌夫氏 "チャペックの R.U.R. " など
6. ディープラーニングは人工知能の全部か/一部か
7. いわゆるヒラメキをAIが提供してくれるか？
8. AIは空気が読めるか、ジャッジは人間優先か・AI優先か
9. Dr. Akira Naito（精神科医、英国在住）との対話: "ヒトは危うい、ましてやAIは?
10. 『問答』を終えて
11. 続編1: 高橋優三名誉教授 "白い巨塔から"
12. 続編2: 週刊プレイボーイ "人間は『命に関わるＡＩ』を使いこなせない？" "AIの暴走=ブラックボックス"
13. 続編3: 授業におけるFBなどのSNSの可能性
14. 続編4: "共感とAI"、"AI教材は何から始まる"
===============================================

プレコングレスの前に討論は始まっていました。なぜか始まっていたのは私のスレッドだけで、高橋先生のスレッドや浅田先生のスレッドへの書き込みはありませんでした。
先の記事に示したように、討論参加者向けにトリガースピーチのスライドは画像化されて公開されていて、それらのスライドごとの説明も着いていました。
このブログに転載を許可してくださった方に限定して、ご許可いただけた順に、このミニシリーズに採録いたします。内容はいずれも示唆に富んだもので、大変興味深いものです。FBグループの記載だけにすると、やがて次々と押し寄せるジャンク情報に押し流されてかき消されてしまうものと思います。可能な限りここに転載したいと念願しています。書き込まれた皆様、ご理解のほどなにとぞよろしくお願い申し上げます。

中本浩之彩光システムズ社長からいただいたコメントとそれに対するトリガースピーカー飯箸泰宏の回答です。
-------------------------------------------------
中本浩之
G1・中本：三つの質問をいたします。（少しご説明と重複するかもしれません）　G1はグループ名です。

【人工知能のブームと変化について】
ここまで何度か人工知能のブームがありまして、前回のブームの後の現在では「ディープラーニング」が衝撃的だと言われていますが、そもそも「ディープラーニング」は過去にも概念はあったとは思うのですが、出来なかった（不完全だった）理由は人工知能が動作する環境（インターネット、画像、音声、記憶領域のサイズ、コンピュータの処理速度）等のハードウェアの進化が大きいのでしょうか？それ以上にロジックが進化した為なのでしょうか？どちらも意味がありそうですが？如何でしょうか？

【人工知能の善悪について】
ディープラーニングが進むと人工知能は勝手に情報を取り込んで、その内容から推論などを行うわけですが、そのデータソースには明らかに間違った内容も含まれている為、善悪を人工知能が勝手に管理する事には危険を感じています。最近では人工知能を利用してマルウェアやランサムウェアなど、過去のセキュリティでは検出が難しかった問題の検出を人工知能が学習する事で検出させようとしていますが、人工知能が勝手に学習し害悪を良しとする可能性もあります。医学の世界でも同様の事が想像出来ないでしょうか？そしてこれをプロテクトする手法はやはり人間なのでしょうか？

【処理ロジックについて】
別途投稿されていた伊藤昌夫氏のお話が面白くて、少し思いついてしまいました。人工知能も解答を出したアプローチのプロセスや参考資料や文献などはどうなるのでしょうね？ブラックボックスになってしまうのか？アプローチの傾向も「飯箸さん方式」とか出てくるのか？解答を出してきたら、人間が「何でそう考えるのか？」と聞くと解説を始めるような「友達」になるのか？どうにでも出来そうですが、こうした事がより役に立つ存在として良い形を生みそうに思います。
-------------------------------------------------
飯箸泰宏
【人工知能のブームと変化について】
ディープラーニング相当の計算モデルはすでに1990年代初めには提案されており、計算可能性は証明されていました。
当時は入力データを少しずつ変動させて出力結果と教師データの差が最小となる値を多数回の近似計算を繰り返して探すという数値計算の王道が採用されていましたが、入力項が増えると膨大な時間がかかるために計算に簡単なもので10日、1か月、半年、少し実用的な計算では10年あるいはヒトの寿命以上の計算時間がかかることが予想されたため、数年以上の計算は実際のところ誰も試さない（試せない）状況となっていました。
「計算は可能だが、実際は不可能」という点では「ハノイの塔問題」というものが有名ですが、似たような状況になっていました。
その後、スーパーコンピュータが高速化して少しは改善がみられるようになりましたが、それ以上に劇的な効果があったのがアルゴリズムの改良によるものです。次の2点が主な改良点です。
①勾配降下法を利用する方法
変動の幅を勾配の大きさに連動して決定するもので、収束速度が大幅に向上する。
③逆伝播法（バックプロパゲーション）
初期出力と教師データとの差異を最小化するように出力側から補正を加える方法。この方法の優れた点は、試行計算が初期計算以外には逆伝播計算が1度しか必要でないことである。1回の計算は入力データから計算よりは余計にかかりますが、計算の回数が1万から数十万回分の一になるという画期的な改善が図られました。
この後者②の効果で、不可能と思われた計算が瞬時にできることになりました。もちろん、これにはスーパーコンピュータの処理速度の向上も大いに貢献をしています。
インターネット、画像、音声、記憶領域のサイズはあまり関係がありません。アルゴリズムの改善が一番、処理速度の向上が二番と言ってよいと思います。

【人工知能の善悪について】
AIを野に放ったらどうなるかは、ご指摘のワトソン（事例ベース推論マシン）の実際で如実になりましたね。"ポピュリズム（大衆迎合主義）" に数日のうちにたちまち染まって、人種や性別に対する差別的な言動を（スラングたっぷりに）連発するようになってしまいました。
小さいうちにヒトのあるべき姿を家庭でよく教えておかないまま社会で出してしまうとこんなになってしまうという手痛い教訓となってしまいましたね。
IBMは、社外の雑音を遮断して社内だけで「教育（?）」しなおして、出直すことになり、今は大きな問題が生じていないようです。AIは「人工知能」で、ヒトの脳をまねた仕組みなので、どう頑張っても人と同じ過ちは犯しやすい性質を免れません。
ご指摘の点についての私見ですが同感です。当面の間（これからの20年から50年の間）はヒトがおのれの哲学を磨いて「AIの人格（AI格）」を育てて、おかしくなったら矯正してあげなければならないと思います。
ということは、ヒトがAIに哲学を教えられなければならないわけで、現代人は手遅れにならないように急いで人類哲学（地球哲学）を磨いて身に着ける必要に迫られているともいえると思います。ヘイト主義や排外主義に酔っている余裕はないと思います。人工知能はヒトの考えや振る舞いに染まりやすいので、たちどころにそれは人工知能に伝染してしまいます。ヘイト主義や排外主義に染まったAIは、目の上のたんこぶである人間を差別して抑圧する側に回ることは目に見えているように思います。
当日、機会があったら公開するつもりで用意していたスライドの1枚をフライイングですが、ここに貼り付けておきます。（クリックすると拡大します）

やがて、人類哲学を体得したAIが多数派を占めるようになれば、少数派のポピュリズムAIを制圧または抑制してくれることが期待できますが、今は、まだ両者の戦いの開始前なのでどちらが優勢になるのかはにわかに言えません。つまり、その逆「ポピュリズムAIが多数を占める」危険性もありうるということです。AI開発者は心して、誰よりも先んじて、自らを律して人類哲学の体得に努めなければならないと(一介のAI技術者としての自戒を込めて)私は思います。また、AI技術を活用する士業(師業)それぞれの専門家と市民の皆さんもAI開発者に対して、賢明な監視の目を怠らないことが重要であると思います。

【処理ロジックについて】
ご質問の話題については、伊藤昌夫さんとの問答の中の私の回答をご参照ください。該当箇所をこのコメントを末尾に引用しておきます。
その前に、まず、ご留意いただきたいことがあります。人工知能一般が「（今は）処理ロジックを説明できない」のではありません。第一次ブームの時代の成果である「推論と検索」の自動化システムは、プログラマならばロジックのすべて追い切れる記述になっています。この仕組みは概ね「演繹的推論」に終始していますから理解が易しいです。人間が自覚しやすい脳（前頭葉運動野と頭頂葉の協働）の機能が最初に機械化されたという当たり前のような歴史の経緯がありますから、もとより人間が自覚できるロジックで作成されています。人間がロジックを組み立ててシステム化してゆくスタイルで構築されますから、ソースコードのコメント欄には文献の引用があったりなかったりしますが、マニュアルには引用が書かれるのが普通です。
第二次ブームの時代（知識工学の時代）の知識ベースを利用した意思決定システムも、人の側頭葉と頭頂葉、運動野の協働機能（言葉によって記述できる=陳述記憶の処理）なので、これも知的処理のための作業領域がやや大きな方（たとえば中本社長のような）は、十分にロジックが追えるシステムです。陳述記憶の範囲で構成されていますから、理解が可能です。引用があれば少なくともマニュアルには書かれるでしょう。
問題にされている「説明不能」な部分は、第三次ブームのヒロインであるディープラーニングなどのニューラルネットワーク系のシステムです。この範囲のシステムは、ロジックを自動検知して自らのパラメータ群の中に構成します。人間が考えて作るものではありませんから名前も着いていません。複雑怪奇な数値の羅列しかありませんから、その中から陳述的ロジックを見出して、人間にわかるように説明できる人間は皆無です。
なぜか?　他の誰も口にしていませんが、私の考えでは、ニューラルネットワーク系のシステムは「大脳」ではなく「小脳」の仕組みをまねした非陳述的記憶を形成するものだと思われます（小脳という器官はすごい奴で、大脳全部の細胞よりも10倍くらいたくさんの細胞を持っています。実はかなりすごいことをやっている器官なのだということが脳科学の世界でも最近やっとささやかれるようになっています）。非陳述的記憶ですから、考える前に行動する（判断する）ことには大変向いた機能ですが、宿主である人間にも言葉では説明ができません。小脳には言葉に関する機能がまるでありませんから、「言葉にならない」が正常なのだと思います。
「言葉にならない」手順的な論理が小脳で作られているということになりますが、生身の脳で、それが（どういうやり方かは不明ですが）大脳に渡されてそのうちのある程度は名前が付けられたり、他の知識と関連付けられてやがては、言葉になる知識になっていくはずのものに違いありません。言葉にならない手続き的な知識が、どのように大脳に取り込まれて人一人分の知識の体系の中にどうやって取り込まれてゆくのかは未詳です。ここには海馬が大きく作用していそうだという推測が成り立ちますが、小脳と大脳の間の知識の移動と受け取った側での処理や保管状況などについてはわかっていないことだらけです。
大脳で陳述記憶化された知識の複製が時間差を持ちながら小脳に作られていることも最近分かってきました（大脳のバックアップストレージ=小脳）。私の推測では、陳述化された大脳での知識が小脳にコピーされると言葉は失われて非陳述化されていると思われます。言葉が伴っていたら、記憶容量がたくさん必要です。いろいろな兆候から無意識に判定と行動ができる知識に変容して（つまり軽量化して）小脳に格納されるように思われるのです。大脳と小脳の間でどんなように情報が交換されてそれぞれの処理がされ相互補完されているのかについての興味は尽きません。
このあたりのことがわかるようになれば、言葉で表現できないニューラルネットワーク系の自動生成型知識を言葉化する仕組みもわかってくるはずと期待しているところです。その様な言葉化する仕組みがわかれば、ニューラルネットワーク系の自動生成型知識そのものではないかもしれないものの、ニューラルネットワーク系の自動生成型知識が他の知識と結びついた何かを説明できる可能性があります。また、もしかすると言葉かされなくとも困らない理由がわかってくるかもしれません。それまでは、人工知能技術者の悪戦苦闘が続くと思います。
つまり、小脳で獲得された知識は大脳に移動して大脳で知識整理の処理を経ないと言葉化できない、しかも言葉化するのは小脳で得てものの一部に違いないというのが（私が予想する）結論です。
--------
『「どうしてその答えになるのかわからない」は、その時期の問題理由ではなく、比較的最近の話題です。当時問題だったのは初期モデルが数学モデルとして失敗していたからです。技術の進歩に失敗はつきものです。失敗を克服してこそ本物ということですね、
今は、「どうしてその答えになるのかわからない」のであっても、計算可能性が証明されさえすれば基本的な問題はないとみなして、「答えが（実用的精度の範囲で）正しいのであれば、それを採用する」のが正統派の人工知能のアルゴリズム理解です。「解析的解ばかりが解ではない」というのがアルゴリズム研究者の一般的理解になっていると私は思います。
最近の話題での「どうしてその答えになるのかわからない」という問題に、解答すれば、「どうしてその答えになるのか現在の人間には説明できないのが正しい」ということになります。これ以上の解はありません。
私見ですが、おそらく現在のディープラーニング（ニューラルネットワークの比較的新しいモデル）はヒトの小脳（一部は後頭葉）の機能をまねているもので、小脳で感知したことはそもそも宿主である人間でも説明できませんから、小脳の真似をしているディープラーニングの挙動を傍らに立つヒトが「説明できない」で当然だからです。
この問題への直接的解答にはなりませんが、この問題の高次的解決は、小脳の働きと大脳の働きの分業と協業のありさまが解明できて（脳科学的またはAI技術者の試行錯誤で）それなりの説明ができるようになれば、「どうしてその答えになるのかわからない」ような状態で「ヒトがなぜ困らないか」が分かるようになるだろうということです。
その高次解を得るまでは、AI技術者も汗と涙の日々が続くと思われます。』

参考になるかもしれない私の最近のブログ記事を引用させていただきます。よろしくお願いいたします。
飯箸（&スクワイア）の記憶の分類2017「推論方法に科学を（2）」--独創力の創り方（29）
http://shyosei.cocolog-nifty.com/.../08/-2017-2--29-1fa.html
-------------------------------------------------
中本浩之
丁寧なご説明、感謝いたします。特にロジックについては色々と調べたのですが、明確な答えが見つからずスッキリいたしました。出力側から補正というのは人間の脳の動きに似ていて実に面白いですね。人工知能の教育も論じる必要がありますから、教育者は大変そうです。ありがとうございました。
-------------------------------------------------
飯箸泰宏
ご承知の通り、アルゴリズムは、コンピュータ向きの逐次処理などにこだわらずに、（優れた）人の脳がやる方法を採用することが良いアルゴリズムになる可能性が高いです。ソフトウエア技術者の定石ですね？
-------------------------------------------------

優等生的な討論でしたね。古来、ヒトの知恵を磨く源泉の一つと言われてきた「問答」の力を見せつけてくれました。人工知能ともこんな問答ができる時代が来るといいですね。

次の記事では、プレコングレス開始前に行われた事前のFB討議を紹介します。

△次の記事: 感性的研究生活（69）
http://shyosei.cocolog-nifty.com/shyoseilog/2017/08/sns495--69-8732.html
▽前の記事: 感性的研究生活（67）
http://shyosei.cocolog-nifty.com/shyoseilog/2017/08/sns493--67-a464.html

琵琶

（補1）「鐘の声 ブログ」はリンクフリーです。ただし、「鐘の声 ブログ」の記事の一部または全部を引用または翻案して、公的に発言または発表される場合は、事前にメール等でお知らせください。[→連絡先]
（補2）この記事が含まれるシリーズの記事の一覧は下記(別サイト)のとおりです。
　　感性的研究生活シリーズの記事一覧　(GO!)
（補3）ブログ「鐘の声」には、10個ほどのシリーズとシリーズ以外の一般記事があります。シリーズの全体構成やシリーズ別の記事一覧は下記(別サイト)にあります。
　　☆「鐘の声」の全体構成（「鐘の声 ブログ」記事マップ）☆　(GO!)