「事前討議《2》: 伊藤昌夫氏 "チャペックの R.U.R. "など」第49回日本医学教育学ブレコングレス（その5）--感性的研究生活（69）

（☆「鐘の声 ブログ」記事マップ☆）

（感性的研究生活シリーズの記事一覧）

2017/08/19
「事前討議《2》: 伊藤昌夫氏 "チャペックの R.U.R. "など」第49回日本医学教育学ブレコングレス（その5）--感性的研究生活（69）

ミニシリーズ:
「SNS中継、映像中継によるプレコングレス【人工知能の発達に対応する医学教育】第49回日本医学教育学--感性的研究生活」--at 2017.08.17
===============================================
1. プレコングレスの開催、これからのAI教育など
2. 飯箸によるトリガースピーチ "始まったAI友の時代"
3. 飯箸による詳細説明書の紹介
4. 事前討議《1》: 中本浩之氏 "処理ロジックについて" など
5. 事前討議《2》: 伊藤昌夫氏 "チャペックの R.U.R. " など
6. ディープラーニングは人工知能の全部か/一部か
7. いわゆるヒラメキをAIが提供してくれるか？
8. AIは空気が読めるか、ジャッジは人間優先か・AI優先か
9. Dr. Akira Naito（精神科医、英国在住）との対話: "ヒトは危うい、ましてやAIは?
10. 『問答』を終えて
11. 続編1: 高橋優三名誉教授 "白い巨塔から"
12. 続編2: 週刊プレイボーイ "人間は『命に関わるＡＩ』を使いこなせない？" "AIの暴走=ブラックボックス"
13. 続編3: 授業におけるFBなどのSNSの可能性
14. 続編4: "共感とAI"、"AI教材は何から始まる"
===============================================

プレコングレスの始まる前に、いち早く私のスレッドに書き込まれたのは、伊藤昌夫氏でした。
記事搭載の順位とは違って4. 事前討議《1》: 中本浩之氏「処理ロジックについて」などは、先に伊藤昌夫氏との「問答」のあとに書かれたものです。
伊藤昌夫氏は、トリガースピーチ用のスライドの4番目にコメントを書き込んでいました。

トリガースピーチ用のスライドの4番目（クリックすると拡大する）

伊藤昌夫氏は絵画で個展も開くほどの方ですが、長くシステム開発のお仕事をされていた方と伺いました。伊藤昌夫氏からいただいたコメントとそれに対するトリガースピーカー飯箸泰宏の回答です。
-------------------------------------------------
伊藤昌夫氏
私のつまらない日常ですら，AI に代替できるところはほとんどない気がします．例えば，3に挙げられている第三次ブームの技術，ほぼ90年前後の第一次（二次?）ニューラルネットワークブームのときのものだろうと思います．このときに，ブームが落ち着いたたくさんある理由の一つが，どうしてその答えになるのか，分からないというものでした．そのとき，患者に説明して納得してもらうということが，可能になりそうでしょうか．
チャペックの R.U.R. だと，ロボットと人間の差異は，生殖ではなく，最終的には「愛」が答えだったと記憶しています．卓見のような気がします．
-------------------------------------------------
飯箸泰宏
早速のコメントありがとうございます。
現在のところ、平穏でつまらない日常に急変をきたすAIの応用システムはほとんどありません。「（スーパー資産家による）株の投資システム」や「WEBユーザの購買行動の分析」など、もっぱら一般人の目に触れてほしくないところで密かにAI化が進んでいます。マフィアのAI化投資額は現在のグーグルのそれに匹敵するなどとも言われていますから、善良な市民が知らない間に、反社会勢力のほうが早くこの種の技術を駆使するようになるのかもしれません。自動車の自動運転が普及すると市民にも身近になると思いますが、まだ少し時間がかかります。
ニューラルネットワークの初期モデル（単純パーセプトロン）は、人工知能の父ミンスキーらによって、実現可能性がない（単純パーセプトロンは線形分離不可能なパターンを識別できない）ことが証明されてしぼんだものの、日本人研究者（福島邦彦、ネオコグニトロン）らが、様々なモデルと手法を開発してその隘路を突破して再発展を遂げ、昨年の「アルファ碁ショック」につながったことはＩＴ技術の発展史に寄り添ってきた方々にはよく知られている事実です。
「どうしてその答えになるのかわからない」は、その時期の問題理由ではなく、比較的最近の話題です。当時問題だったのは初期モデルが数学モデルとして失敗していたからです。技術の進歩に失敗はつきものです。失敗を克服してこそ本物ということですね、
今は、「どうしてその答えになるのかわからない」のであっても、計算可能性が証明されさえすれば基本的な問題はないとみなして、「答えが（実用的精度の範囲で）正しいのであれば、それを採用する」のが正統派の人工知能のアルゴリズム理解です。「解析的解ばかりが解ではない」というのがアルゴリズム研究者の一般的理解になっていると私は思います。
最近の話題での「どうしてその答えになるのかわからない」という問題に、解答すれば、「どうしてその答えになるのか現在の人間には説明できないのが正しい」ということになります。これ以上の解はありません。
私見ですが、おそらく現在のディープラーニング（ニューラルネットワークの比較的新しいモデル）はヒトの小脳（一部は後頭葉）の機能をまねているもので、小脳で感知したことはそもそも宿主である人間でも説明できませんから、小脳の真似をしているディープラーニングの挙動を傍らに立つヒトが「説明できない」で当然だからです。
この問題への直接的解答にはなりませんが、この問題の高次的解決は、小脳の働きと大脳の働きの分業と協業のありさまが解明できて（脳科学的またはAI技術者の試行錯誤で）それなりの説明ができるようになれば、「どうしてその答えになるのかわからない」ような状態で「ヒトがなぜ困らないか」が分かるようになるだろうということです。
その高次解を得るまでは、AI技術者も汗と涙の日々が続くと思われます。

「患者に説明して納得してもらうということが，可能になりそうでしょうか」についてまだ回答していませんでした。
実は、本格的なAI導入前夜の今でも理由がわからない治療法（薬や外科的手法）は山ほどありますね。それらは症例と統計（いわば疫学的手法）で患者（および医学界、行政等）に説明しています。AI導入前でも理由が分からなくとも説明が可能でしたから、導入後も十分な症例と統計データがあれば説明できるというのがご回答です。
さて、私も立派な患者ですが、お医者様から「理由はわからないが、効いたという論文がアメリカで2-3出ているからやってみるか」という程度のご説明で、ありがたく日本で初めて当該疾病の投与患者となりました（当該疾患ではない別の疾患の薬としては認可されていたので）。
ちなみに、すでに薬剤の開発現場では、ニューラルネットワークによる対象化合物の絞り込みが行われており、その試行の実績はすでに20年以上なります。ある製薬メーカーの研究者から、この技術が普及したおかげで、細菌等を用いたスクリーニング技術の向上と合わせて、最近では、同社で処分するラットの総数を千分の一程度に減らすことができたと聞いたことがあります。

「チャペックの R.U.R. だと，ロボットと人間の差異は，生殖ではなく，最終的には「愛」が答えだったと記憶しています．」について
文芸作品の解釈は読者各自のものです。作者の意図をも離れてしまいます。一人一人がそれぞれに思いを巡らせて楽しめばよいことと思います。
私は残念ながらこの作品を読んでいませんが、まご引きによると、この本のエピローグ（欧米普及版にはない）で、主人公（?）アルクイストはロボットによる集団的反乱の直前に作られた最後の男性型ロボットと女性型ロボットを次の時代のアダムとイブの役割を与えて、次のように独白して終わるとされていました。
「神よ、人間の作り出したくだらぬものはすべて時と共に消え失せました。ただ生命が、生命だけが、不滅です!」
これを読む限りでは、作者は（人造人間を含むヒトの）生命の不滅に歓喜しているようです。「（人造人間を含む）ヒトの生命の悠久たるを望むのがヒト」という命題に行きつくように思います。「愛」はその命題をかなえるジグソーパズルの一ピースということになりそうです。しかし、生殖能力を持たぬ人造人間のアダムとイブに生命の不滅を託して歓喜しているのは、堕落して滅ぶ人間の中の生き残った最後のヒト（アルクイスト）のやり場のない絶望的な狂気を思わせます。この狂気に読者の多くは共感して「我々の生命の悠久はいかにして・・・」をもう一度心の中に思い起こすのではないでしょうか。
もっとも、「神がアダムとイブをお作りたもうた」という旧約聖書をもじって、現代の人（アルクイスト）がロボットたちから神と祭り上げられて、自らの複製である次代のヒト（人造人間）の中からアダムとイブを選ぶというリカーシブルストーリに仕立ててありますから、逆に今のヒトもまたその前のヒト（我々のなかの一部のヒトが神と呼ぶ生命体）によって作られたのだと暗に言いたいのかもしれません。
他方、この作品に出てくるロボットは、当時チェコの社会問題になっていた「疎外された労働」に従事する労働者そのもののようですから、当時の社会に対する痛烈な風刺を効かせることに主眼があっただけなのかもしれません。ロボット集団の反乱に仮託した作者の意図は、「かくして労働者階級の革命は失敗する」と皮肉を込めて言うところにあったのかもしれません。
どう解釈するのかは、各自の自由だと思います。
-------------------------------------------------
伊藤昌夫氏
ご返事ありがとうございます．
私は，AI に別段否定的ではないのですが，大事なことがこの議論を通じて明らかになればうれしいと思っています．
私は「日常」が，重要なんだろうと思っています．ルールが定まっているときに，計算機が素早い答えを出すのは，確かにそうです．ただ，人間がその能力を進化させなかったのは，日常には不要だからと思います．日々の暮らしというのは，（おそらく社会学の一部である）ethnomethodology の人たちが明らかにしたように，非常に刺激的で高度な activity と思います．人間は，この activity を遂行する能力を高度に発達させていると思います．
IC の話も，同様だろうと思っています．先生が，きわめて乏しい根拠の説明(I)でも納得（C）なさるのは，人対人の関係があるからだろうと思います．「脳」だけがホルマリン?のプールに浮かんでいて，マイクから説明が流れてきても，おそらく納得しないのではと思います．
R.U.Rの話も同じかと思っています．彼の時代とは違って，いまや「生殖」は倫理なき科学によって制御できるかと思います．究極の人間対人間の関係であるアガペ的愛は，いまのところ（そしてこれからも）制御できないのではと思います．
もちろん，アプローチの違いといえば，それだけです．
-------------------------------------------------
飯箸泰宏
コミュニケーションモデルにおける「メンタルモデル」はすでに80年以上の歴史があります。ヒットラー全盛の時代には情報だけあって各自の脳内の知識と心が除外されるコミュニケーションモデルが優勢でしたが、今どき信じているのは一部の政治家くらいではないでしょうか。コミュニケーションモデルの歴史の初期にはおもちゃのような「メンタル概念」でしたが、心理学で育てられて今では脳科学的にも承認されているものになっています。相互に相応の共通認識があることを前提にコミュニケーションが成立していることは情報コミュニケーション学の入門コースで教える内容です。
さて、どうも、私と伊藤さんは面識もなく、どこまで相手が何を理解しているのかがわからないままに議論し始めてしまっているように思います。その意味で情報コミュニケーション論の常道を逸しているように思います。
共通の認識がないままのコミュニケーションは難しいので、まずはFBのお友達になっていただけませんか。また、伊藤さんの精神的バックグウンドもいろいろとお教えいただければありがたく存じます。
たとえば、ethnomethodologyに詳しいわけではありませんが、ある程度の理解はあるつもりです。
私のバックグラウンドは、私のブログに露出していますので、必要に応じてご覧いただければ幸いです。
https://www.sciencehouse.jp/blog.php
「琵琶」は私のネットネームです。文筆業では「森口晶（もりぐち・あきら）」と称していた時期もあります。
よろしければ、FBのお友達のリクエストをしていただくか、当方からのリクエストをご承認いただければ幸いです。
-------------------------------------------------

その後。メッセンジャを介して非公開の討議が続きましたが、お互いに秘密はないと思いますが、ブログに転載するのはやめておきます。

次の記事からは、プレコングレス開始後に行われた事前のFB討議を紹介します。

△次の記事: 感性的研究生活（70）
http://shyosei.cocolog-nifty.com/shyoseilog/2017/08/sns496--70-3c94.html
▽前の記事: 感性的研究生活（68）
http://shyosei.cocolog-nifty.com/shyoseilog/2017/08/sns494--68-4909.html

琵琶

（補1）「鐘の声 ブログ」はリンクフリーです。ただし、「鐘の声 ブログ」の記事の一部または全部を引用または翻案して、公的に発言または発表される場合は、事前にメール等でお知らせください。[→連絡先]
（補2）この記事が含まれるシリーズの記事の一覧は下記(別サイト)のとおりです。
　　感性的研究生活シリーズの記事一覧　(GO!)
（補3）ブログ「鐘の声」には、10個ほどのシリーズとシリーズ以外の一般記事があります。シリーズの全体構成やシリーズ別の記事一覧は下記(別サイト)にあります。
　　☆「鐘の声」の全体構成（「鐘の声 ブログ」記事マップ）☆　(GO!)