こんにちはHitouchの「T」です。
@hitouch_life
僕の大好きな本の1つに、「経済は感情で動く」という行動経済学の本があります。
本書には「トロッコ問題」という思考実験が登場します。
この問題には非常に多くのことを考えさせられます。
人気の理系記事
Contents
トロッコ問題（トロリー問題）って何？
トロッコ問題−trolley problem
ある暴走列車が5人の作業員がいる方向へ走り出した。
このままでは5人は轢かれてしまうだろう。
5人を救う唯一の方法は、車線を変更して車両をもう一つの車線に導くことだ。
しかしそうすると別の1人が轢かれることになる。
車線変更をすることは正しいことか？
1967年、イギリスの哲学者「フィリッパ・フット」さんが考案した思考実験です。
多くの哲学者や心理学者、神経科学者が知恵を奮って、人間の道徳的ジレンマを検証しています。
想像力や倫理観を駆使して考えてみてください。
1人を犠牲にして5人を救うことは正義なのでしょうか？
とあるアンケートでは、「5人を救うために電車の進路を変えた」場合、89％の人が「正しい」と答えたそうです。＊）ダ・ヴィンチニュース
トロッコ問題②派生問題−太った人
次に別の場面を想像してみます。
ある暴走列車が5人の作業員がいる方向へ走り出した。
このままでは5人は轢かれてしまうだろう。
あなたはその光景を橋の上から見ており、今まさに列車はその下を通過しようとしている。
あなたの横にはかなり太った人がいる。
あなたはとっさに判断する。
その知らない人を突き落とせば、列車は確実に止まって5人は助かるだろうと。
しかしそうすると太った人は確実に死んでしまう。
太った人を突き落とすことは正しいことか？
ここで大方の人が出す結論は、「たとえ5人の命を救うためであっても、太った人を犠牲にすべきではない」というものです。
先ほどの場合と同じ「1人を犠牲にして5人を救う」という状況であったとしても、2つの問題で意見が食い違うのはなぜでしょうか。
倫理や道徳のパラドックスが存在します。
道徳は文化を越える
太った人のバージョンでは、列車を止めるために文字通り人を用いるという、積極的な介入をするわけで、ここでは個人の死が手段になっている。
一方、車両変更バージョンでは、介入が引き起こした一種の側面効果のために死ぬわけで、こちらでは個人の死は事故の意味合いが強い。
これはほんの一例で、他にも多く例が考えられる。
おもしろいのは、正当化の理由は別にして、道徳に関する直感は文化が異なっても基本的には変わらないということだ。
「経済は感情で動く」より引用
長い歴史の中で多くの文化が誕生し、人類は多様性を獲得しました。
価値観や思想だけでなく、罹病率や見た目までもが全く異なるのが「人種差」だと思っていました。
しかし、道徳的に「正しい」と感じるかどうかは文化が異なっても変わらない。
人間の「直感」や「本能」というものは、世界共通なのかもしれません。
トロッコ問題で考える自動運転の倫理
AIが進歩し、自動運転が「当たり前」の時代になりそうです。
僕も大歓迎です。
早くそんな未来が来て欲しいです。
明らかに事故が少なくなると「僕は」考えています。
それくらい公道を走っている車は「むちゃくちゃ」な運転をしています。
お前はどうなんだ？ということですが、今僕は体が悪いので運転できません。
話はそれましたが、仮にすべての車が自動運転になって、事故が大きく減ったとしても、「ゼロ」にはならないと思います。
いつか訪れるであろう、その事故の瞬間に「AI」はどう判断するのが倫理的なのでしょう。
どうしても避けられないなら・・・
5人を轢くより1人を轢くほうを選ぶべきでしょうか。
歩行者5人より運転手1人を犠牲にすべきでしょうか。
歩行者の年齢を考慮すべきでしょうか。
それが家族だったらどうでしょうか。
はたまた「自然」にまかせるべきでしょうか。
そもそも「自然」とは何でしょうか？
・・・
自動運転が当たり前の世の中にするには、この道徳的ジレンマを解決しなければならないときが来ると思います。
自動運転の社会的ジレンマ
「自動運転の社会的ジレンマ」という論文が投稿されています。
＞＞＞Science
1928人を対象におこなわれた自動運転車に関する調査
76%の回答者は、10人以上の歩行者が犠牲になるならば、1人の歩行者が犠牲になる方が道徳的だと述べた。
犠牲者の数を最小限に抑えるようプログラムされた「功利主義的な自動運転車」の方が、道徳的には望ましいと語った。
自分や家族が犠牲者になると仮定しても、同様の傾向を示した。
自分や家族が犠牲になる状況では、彼らが実際に自動運転車を購入する傾向は有意に低くなった。
彼らは「功利主義的な自動運転車」を歓迎すると語っていても、実際にそれを購入するとなれば足踏みする。
「功利主的な自動運転車」を政府が規制すれば、回答者はそれに批判的でもあった。
その上で、市場に「功利主義的な自動運転車」と「（自分や家族を守る）自己防衛的な自動運転車」が出回れば、ほとんどの人が「自己防衛的な自動運転車」を選ぶだろうと結論づけている。
言ってることとやっていることが違う
「犠牲になるのがたとえ家族でも、10人を轢くよりは1人を轢くようにプログラムされた車の方が道徳的だ」
なんて事を言っていても、実際に市場はそれを受け入れられる程「合理的」ではありません。
AIに人間と同じ様な判断をさせるというのはすごく難しい事だと思います。
人間は「非合理的」な生き物だからこそ、難しいのです。
スポンサーリンク
あとがき
「トロッコ問題」で道徳的なジレンマを考えてみました。
自動運転だけではなく、AIが人の代わりをするとなると、道徳や倫理というものをプログラムする必要が出てくるかもしれません。
哲学的な話になってしまいますが、これは真剣に研究すべき重要な課題だと思います。
「自動運転はなんとなく怖い」とワイドショーの町中アンケートで回答している人を見ると、なぜ人が運転する車は怖くないんだろうと思います。
僕はよっぽど人の運転する車のほうが怖いです。
急に「ブーン」って発進したり、窓から手を出してタバコを吸いながら運転したり、ウインカーも出さずに曲がったり。
きっとその人達も「悪気」はないんだと思います。
きっとその人達も「トロッコ問題」を考える時には、口を揃えて「太った人を突き落とすのはおかしい」なんて言うと思います。
なぜなら人間は・・・
人類が世界共通で持ち合わせている「道徳」という奇跡で、物事を考えることができるから。
しかしその一方で平気顔をして「あおり運転」をする。
外でどれだけ荒い運転をしようが、家や職場では「倫理」や「道徳」をふりかざす・・・
それが人間です。
僕は今、平日の朝から人間の愚かさを憂いています。
平日の朝からです。
繰り返します・・・
僕は平日の朝から仕事もせず、こんな事を考えているのです。
お察しの通り、僕は「人」の心配をしている場合ではありません。
Sincerely,
Hitouch「T」
おすすめ理系記事
参考書籍
思考実験の人気記事
