「Dr. Akira Naito（精神科医、英国在住）との対話: "ヒトは危うい、ましてやAIは?」第49回日本医学教育学プレコングレス（その9）--感性的研究生活（73）

（☆「鐘の声 ブログ」記事マップ☆）

（感性的研究生活シリーズの記事一覧）

2017/08/20
「Dr. Akira Naito（精神科医、英国在住）との対話: "ヒトは危うい、ましてやAIは?」第49回日本医学教育学プレコングレス（その9）--感性的研究生活（73）

ミニシリーズ:
「SNS中継、映像中継によるプレコングレス【人工知能の発達に対応する医学教育】第49回日本医学教育学--感性的研究生活」--at 2017.08.17
===============================================
1. プレコングレスの開催、これからのAI教育など
2. 飯箸によるトリガースピーチ "始まったAI友の時代"
3. 飯箸による詳細説明書の紹介
4. 事前討議《1》: 中本浩之氏 "処理ロジックについて" など
5. 事前討議《2》: 伊藤昌夫氏 "チャペックの R.U.R. " など
6. ディープラーニングは人工知能の全部か/一部か
7. いわゆるヒラメキをAIが提供してくれるか？
8. AIは空気が読めるか、ジャッジは人間優先か・AI優先か
9. Dr. Akira Naito（精神科医、英国在住）との対話: "ヒトは危うい、ましてやAIは?
10. 『問答』を終えて
11. 続編1: 高橋優三名誉教授 "白い巨塔から"
12. 続編2: 週刊プレイボーイ "人間は『命に関わるＡＩ』を使いこなせない？" "AIの暴走=ブラックボックス"
13. 続編3: 授業におけるFBなどのSNSの可能性
14. 続編4: "共感とAI"、"AI教材は何から始まる"
===============================================

英国在住の精神科医 Dr. Akira Naito との対話が、私にとって、最も刺激的で充実したものとなった。Dr. Akira Naito はFBのプロフィールによると日本で心療内科医として勤務された後、イギリスにわたって精神科医となられたようです。
この対話は、8. AIは空気が読めるか、ジャッジは人間優先か・AI優先かに続くもので、人間の知的活動に関する最新の知見に踏まえたもので、なお、診療の現場ならではの人間の脳の誤動作についての洞察も垣間見られるものである。ようやく、本当のことが討論できる方に出合えたという感動の体験をした。
企画メンバー以外で、本名の使用の許可が確認できていない方はイニシャルで記載しています。企画メンバーは公知の氏名なので、本名を使用させていただいています。ご了承ください。

Dr. Akira Naito（精神科医、英国在住）との対話: "ヒトは危うい、ましてやAIは?
-------------------------------------------------
（8. AIは空気が読めるか、ジャッジは人間優先か・AI優先かから続く）
-------------------------------------------------
飯箸 泰宏
ディープラーニングはAIの一部です。自動推論、知識ベース意思決定システムもAIの一部です。いろいろな一部が融合しないと一つの脳になりませんから、人工知能はまたまだなのです。
「そこから先のブラックボックス」も人間の物理的脳の活動の現れなので、光を当ててゆきたいと思っています。明るみに出すことに成功すれば、より良いAIになると思います。
-------------------------------------------------
Akira Naito 意思決定に関しては、アルゴリズムに「時間的要素・タイミング」が加味され、いくつかのアルゴリズム（インプットとアウトプットをタイミングもあわせて）が同時平行しながら、お互いに影響しあいながら、最終決断としての意思決定が生じるというモデルの作成が必要があると思っています。
-------------------------------------------------
飯箸 泰宏
ヒトの記憶には、時間的な要素を含む事例記憶（エピソード記憶）と時間要素を除外した概念的記憶があります。概念的記憶では論理的整合性の検討が可能なので、概念操作がされて因果関係や整合性が確かめられると再びその事例記憶（エピソード記憶）がタイミングなどの留意点（必要条件）が付加されていわば「法則」として記憶強化されて保管されるというサイクルがあるようです。初期の事例記憶（エピソード記憶）と獲得された「法則」では変形が加わっていますので同一ではありませんが、人は良く後者を事実だったかのように勘違いしていることがあります。
法則化され時間要素が復活した法則的な記憶を便りに、ヒトは問題に遭遇するや、仮想実行（シミュレーション）を脳内で実行または繰り返してして相対的優位なものを実行アルゴリズムとする決心をすることが意思決定なのだろうと思います。役に立つ「法則」に不足を感ずるとこのプロセスを最初から何度でもやり直してよりよいシミュレーション結果が出るまで続けること（逡巡する）こともあると思われます。納得のゆくシミュレーション結果が出ないと見切り発車するのかあきらめるのかの決断が迫られて、うつ症状に陥る人もいるようです。就活でこの状態に陥る学生は少なくありません。今も、（元）学生からの相談（主訴は食欲不振と不眠）に応じているところです。
プロセスを概念的にまとめると次のようなとこになると思います。
原始的な事例記憶（エピソード記憶）-->概念的記憶へのスリム化-->論理的検討-->原始的な事例記憶（エピソード記憶）の法則化変型と記憶強化-->仮想実行（シミュレーション）-->アルゴリズム間の優劣を比較-->相対的優位の選択決心

途中で一つ前やその前、その前の前、、、に戻ったり、先頭に戻って事例の収集からやり直したりもすると考えるべきではないでしょうか。また、決心が迫られてからこのプロセスが始まるわけではなく、ヒトはたえまなく何気もなく法則化変型と記憶強化までは進めていると考えられます（教養としての勉強もこの範疇）。いざというときに使える「法則的な記憶」が多いほうが生存に有利だからだと思われます。いざというときに改めて「元に戻って考える」こともあるということと思われます。
-------------------------------------------------
Akira Naito
エピソード記憶は（矛盾ととれるようなものでも）「個人の経験」としての「真実」を重ねる、医学のメタファーでは、エビデンスに相当する情報だと思います。シーマティック記憶（概念記憶）が、実は厄介というか、人間味を持つための要素かもしれませんが、そうした、個々の ランダムな エビデンスらを、その個人の中で、最も「整合性」のある「ストーリー」に並べ替え、足りない部分も、ある時には「補って」（つまり「作り上げて」）因果関係として認識して 記憶 してしまう。という仕組みがある事が言われています。

このため、PTSDの治療法でのトラウマ後初期のDebriefing が、最近は危険性のために否定されています。
-------------------------------------------------
Akira Naito
この概念記憶の人での構築プロセスは、AIには多分、不可能というか、そうした（意識しない次元において記憶を作る、強化するもしくは整合しないエビデンスを軽視する、消す、という）「作為」を許すプログラムは、危険性が大き過ぎて、できないと思いますが、 人の意思決定過程においては、かなり重要というか、影響力が大きい因子ではないかと、私自身は感じています。
-------------------------------------------------
飯箸 泰宏 危険性についてはおっしゃる通り十分に配慮されるべきであると思います。
誤動作したり過剰負荷のために障害を生じたりするのが人の脳というものと思います。勝手に「補って（たとえば「自分はイエスキリストの生まれ変わりだ！」などと）」しまうのも人の脳というものです。ヒトとは何といとおしいものでしょうね。（実は、「自分はイエスキリストの生まれ変わりだ！」にこだわるインテリ女性=中程度の双極性障害Ⅰ型の方=がいて友人の間でまわりまわされて私のところにやってきました。私がボランティアでお世話をしている患者さんの一人です。医療機関に行くことを数年かかりで説得してお勧めしてゆくようになりましたので、今はやめないように支援することが主たるお仕事です。診断名は「うつ病」となっていますが、便宜的なものと思われます。年々躁極の高さが高くなり、異常行動が強くなってご本人の生命の危険が高くなっていることが感じられて心配な方です）
一方のコンピュータでは、それらのリスクがわかればどこまでも研究対象とすることが可能でどこまでも修正が可能という利点もあります。数十年の努力が必要でしょうが、AI屋さんはいずれ、その問題も解決すると思います。
危険を安全に変えることも技術の責務であると感じるのが技術職人の思考パターンの一つなのかもしれません。職業柄の立場の違いということをご理解賜れば幸いです。
-------------------------------------------------
Akira Naito
なるほど。面白いです。
ひとでのこの整合性の検討で用いられる情報で大きな因子に、本人の 信条、嗜好、など個人のそれまでの経験が絡んでくると思われます。そういう意味においても、「哲学」が、ひとがAIを導く際に益々非常に大切になっていきますね。
-------------------------------------------------
飯箸 泰宏 おっしゃる通りです。AIの登場によってますます哲学の必要が高まっていると思います。
御賛同者がいらっしゃることをたいへん嬉しく存じます。
-------------------------------------------------

大きな共感と感動のあった対話でした。まだ推定に過ぎない様々な考え方も含まれていますから、これからも慎重に思慮をめぐらせてゆきたいと思います。
この話題も、今後も議論を重ねないといけないと思います。

△次の記事: 感性的研究生活（74）
http://shyosei.cocolog-nifty.com/shyoseilog/2017/08/4910--74-5368.html
▽前の記事: 感性的研究生活（72）
http://shyosei.cocolog-nifty.com/shyoseilog/2017/08/sns498--72-a0d9.html

琵琶

（補1）「鐘の声 ブログ」はリンクフリーです。ただし、「鐘の声 ブログ」の記事の一部または全部を引用または翻案して、公的に発言または発表される場合は、事前にメール等でお知らせください。[→連絡先]
（補2）この記事が含まれるシリーズの記事の一覧は下記(別サイト)のとおりです。
　　感性的研究生活シリーズの記事一覧　(GO!)
（補3）ブログ「鐘の声」には、10個ほどのシリーズとシリーズ以外の一般記事があります。シリーズの全体構成やシリーズ別の記事一覧は下記(別サイト)にあります。
　　☆「鐘の声」の全体構成（「鐘の声 ブログ」記事マップ）☆　(GO!)