東大教授が挑む AIに「善悪の判断」を教える方法

東大教授が挑む AIに「善悪の判断」を教える方法 (扶桑社新書)

posted with ヨメレバ

鄭 雄一 扶桑社 2018-04-29

Amazon

Kindle

楽天ブックス

楽天kobo

満足度★★★★
付箋数:24

　　「私は東京大学で医学と工学を教えています。
　　具体的には、医学と工学を融合した医工学
　　という分野で、医療機器や医療材料の研究に
　　携わっています。
　　さらに最近では、ロボットが人間と共生する
　　近い将来に向けて、ロボットの行動を
　　制御するための “道徳エンジン” について
　　研究しています。
　　 “道徳エンジン” とは聞きなれない単語だと
　　思いますが、簡単に言うと、ロボットに
　　 “善悪の区別” を自分でつけさせるには
　　どうすればいいか、という研究です。」

1952年に連載が開始され、その後、
国民的なアニメとなった手塚治虫さんの名作、
「鉄腕アトム」。

アトムは、物凄い「7つの力」を備えていて、
その1つ目が「善悪を見分けられる電子頭脳」
でした。

本書の著者、東京大学教授の鄭雄一さんが
やっているのは、まさに鉄腕アトムの電子頭脳
をつくる研究に他なりません。

まず、ロボットに善悪を判断させるために
やらなければならないことは、人間の道徳が
どのような構造で成り立っているかを
明らかにすることです。

多くの人が道徳的に絶対に「してはいけない」
と考える「殺人」は、ロボットに「NO」と
インプットできるのでしょうか。

　　「私たち人間は、本当にこの（人を殺しては
　　いけないという）道徳を “絶対に” 厳守して
　　いるのでしょうか。ロボットに命令する
　　からには、その元となる、私たちの道徳に
　　破綻があってはならないはずです。」

しかし、現実の世界では戦争で人を殺す
ことや、死刑という制度もあります。

ロボットに「人を殺してはいけない」を
インプットするためには、戦争や死刑などで
殺人を容認する矛盾を明らかにして、
整理しなければならないです。

本書では、殺人が容認される理由を
「社会中心の考え」と「個人中心の考え」の
2つに分けて深掘りしていきます。

社会中心の考えとは、「権力者の命令や
法律でそう決まっているから」、
「社会を守るために仕方ないから」などの
理由です。

個人中心の考えとは、「そうしないと自分が
殺されるから」、「人を殺したら、同じく
殺されるのが当然だから」などの理由です。

鄭さんは、私たち人間がこれまで培ってきた
道徳的思想を、「社会中心の考え」と
「個人中心の考え」に分けて整理することで、
道徳のモデル化を試みています。

この「抽象的概念のモデル化」をしていく
過程が非常に面白い。

本書では、アリストテレスさんから、
マイケル・サンデルさんまで、古代から
現代思想までの道徳思想を整理分類します。

その上で、古今東西の道徳思想がどのような
構造で成り立っているかを分析して、
道徳システムの共通の原理を抽出します。

　　第1回講義 「人を殺してはいけない」とい
　　　　　　　う道徳は普遍的だろうか？
　　第2回講義 これまでの道徳思想を分類してみよう
　　第3回講義 そもそも「人を殺してはいけない」の
　　　　　　「人」って誰だろう？
　　第4回講義 道徳をモデル化してみよう
　　第5回講義 道徳の階層を分類してみよう
　　第6回講義 道徳エンジンをロボットに
　　　　　　　搭載してみよう

本書の最後には、ロボット工学三原則
として広く知られる「アシモフの三原則」
についても手を加えていきます。

　　「この三原則は、あまりに有名で、一部の
　　人々はロボットの従うべき道徳律の決定版
　　のように扱っていますが、私が見る限り、
　　根本的に大きな問題をはらんでいて、
　　このままでは使えないと考えています。」

この本から何を活かすか？

私たちは「道徳」が「二重性」を持っている
ことをあまり意識していません。

道徳には、全社会に「共通の掟」と、
各社会ごとに異なる「個別の掟」がある
二重性です。

「共通の掟」は、世界中どこにいようとも、
変わらない内容です。

一方、「個別の掟」は、場所や仲間の範囲と
ともに、内容が変化するものです。

本書では「共通の掟」と「個別の掟」を
統合する基本原理を「仲間らしくせよ」と
結論づけ、道徳エンジンの鍵としています。

Miss a meal if you have to, but don't miss a book.