医療・科学の話

【道徳の時間】5人を救うために1人を犠牲にしますか?「トロッコ問題」で自動運転の倫理を考える

経済は感情で動く : はじめての行動経済学

こんにちはHitouch(@hitouch_life)です。
>>詳細なプロフィール

FIRE(経済的自由を手に入れてアーリーリタイア)という生き方を目標に、フリーランスとして自由な働き方を実践しています。

僕の大好きな本の1つに、経済は感情で動くという行動経済学の本があります。

本書には「トロッコ問題」という思考実験が登場します。

この問題には非常に多くのことを考えさせられます。

自動運転技術が導入される今の時代だからこそ…考えねばならないことがたくさんあるはずです。

トロッコ問題(トロリー問題)って何?

まずはトロッコ問題について簡単にご紹介します。

少し残酷な実験ですが、あくまでも『思考実験』ですので、ご安心ください。

トロッコ問題−trolley problem

ある暴走列車が5人の作業員がいる方向へ走り出した。

このままでは5人は轢かれてしまうだろう。

5人を救う唯一の方法は、車線を変更して車両をもう一つの車線に導くことだ。

しかしそうすると別の1人が轢かれることになる。

車線変更をすることは正しいことか?

トロッコ問題とは、1967年、イギリスの哲学者「フィリッパ・フット」さんが考案した思考実験です。

多くの哲学者や心理学者、神経科学者が知恵を奮ってこの問題に取り組み、人間の道徳的ジレンマを検証しています。

想像力倫理観を駆使して、この問題を考えてみてください。

1人を犠牲にして5人を救うことは正義なのでしょうか?

・・・

とあるアンケートでは、「5人を救うために電車の進路を変えた」場合、89%の人が「正しい」と答えたそうです。

つまり、5人を救うために1人を犠牲にすることを、『正しい』と考えたということです。

参考≫ダ・ヴィンチニュース

トロッコ問題②派生問題−太った人

次に別の場面を想像してみます。

ある暴走列車が5人の作業員がいる方向へ走り出した。

このままでは5人は轢かれてしまうだろう。

あなたはその光景を橋の上から見ており、今まさに列車はその下を通過しようとしている。

あなたの横にはかなり太った人がいる。

あなたはとっさに判断する。

その知らない人を突き落とせば、列車は確実に止まって5人は助かるだろうと。

しかしそうすると太った人は確実に死んでしまう。

太った人を突き落とすことは正しいことか?

ここで大方の人が出す結論は、たとえ5人の命を救うためであっても、太った人を犠牲にすべきではないというものです。

先ほどの場合と同じ『1人を犠牲にして5人を救う』という状況であったとしても、2つの問題で意見が食い違うのはなぜでしょうか。

ここに倫理や道徳のパラドックスが存在します。

道徳は文化を越える

太った人のバージョンでは、列車を止めるために文字通り人を用いるという、積極的な介入をするわけで、ここでは個人の死が手段になっている。

一方、車両変更バージョンでは、介入が引き起こした一種の側面効果のために死ぬわけで、こちらでは個人の死は事故の意味合いが強い。

これはほんの一例で、他にも多く例が考えられる。

おもしろいのは、正当化の理由は別にして、道徳に関する直感は文化が異なっても基本的には変わらないということだ。

経済は感情で動くより

長い歴史の中で多くの文化が誕生し、人類は多様性を獲得しました。

価値観や思想だけでなく、病気の罹病率や見た目までもが、全く異なるのが『人種差』だと考えている人は多いです。

しかし、道徳的に「正しい」と感じるかどうかは文化が異なっても変わらない、ということが、この問題で明らかとなりました。

人間の「直感」や「本能」というものは、世界共通なのかもしれません。

トロッコ問題で考える自動運転の倫理

AIが進歩し、自動運転が「当たり前」の時代になりそうです。

個人的には大歓迎です。

早くそんな未来が来て欲しいです。

明らかに事故が少なくなると、『僕は』考えています。

それくらい公道を走っている車は、むちゃくちゃな運転をしていると思います。

お前はどうなんだ?ということですが…僕は体が悪いので運転できません。

話はそれましたが、仮にすべての車が自動運転になって、事故が大きく減ったとしても、『ゼロ』にはならないと思います。

いつか訪れるであろう、その事故の瞬間に『AI』はどう判断するのが倫理的なのでしょう。

どうしても避けられないなら・・・

5人を轢くより1人を轢くほうを選ぶべきでしょうか。

歩行者5人より運転手1人を犠牲にすべきでしょうか。

歩行者の年齢を考慮すべきでしょうか。

それが家族だったらどうでしょうか。

はたまた「自然」にまかせるべきでしょうか。

そもそも「自然」とは何でしょうか?

・・・

自動運転が当たり前の世の中にするには、この道徳的ジレンマを解決しなければならないときが来ると思います。

自動運転の社会的ジレンマ

「自動運転の社会的ジレンマ」という論文が投稿されています。

簡単に本論文をご紹介します。

Science

1928人を対象におこなわれた自動運転車に関する調査

  • 76%の回答者は、10人以上の歩行者が犠牲になるならば、1人の歩行者が犠牲になる方が道徳的だと述べた。
  • 犠牲者の数を最小限に抑えるようプログラムされた「功利主義的な自動運転車」の方が、道徳的には望ましいと語った。
  • 自分や家族が犠牲者になると仮定しても、同様の傾向を示した。
  • 自分や家族が犠牲になる状況では、彼らが実際に自動運転車を購入する傾向は有意に低くなった。
  • 彼らは「功利主義的な自動運転車」を歓迎すると語っていても、実際にそれを購入するとなれば足踏みする。
  • 「功利主的な自動運転車」を政府が規制すれば、回答者はそれに批判的でもあった。
  • その上で、市場に「功利主義的な自動運転車」と「(自分や家族を守る)自己防衛的な自動運転車」が出回れば、ほとんどの人が「自己防衛的な自動運転車」を選ぶだろうと結論づけている。

言ってることとやっていることが違う

『犠牲になるのがたとえ家族であっても、10人を轢くよりは1人を轢くようにプログラムされた車の方が道徳的だ』なんて事を口では言っていても、実際に市場(人間)はそれを受け入れられる程合理的ではありません。

AIに人間と同じ様な判断をさせるというのは、すごく難しい事だと思います。

人間は非合理的な生き物だからこそ、複雑で難しくて、醜くて…美しいのです。

 

スポンサーリンク


あとがき

「トロッコ問題」で道徳的なジレンマを考えてみました。

自動運転だけではなく、AIが人の代わりをするとなると、道徳や倫理というものをプログラムする必要が出てくるかもしれません。

哲学的な話になってしまいますが、これは真剣に研究すべき重要な課題だと思います。

「自動運転はなんとなく怖い」と、ワイドショーの町中アンケートで回答している人を見ると、『なぜ人が運転する車は怖くないんだろう?』と僕は思います。

僕は人の運転する車のほうがよっぽど怖いです。

急に『ブーン』って発進したり、窓から手を出してタバコを吸いながら運転したり、ウインカーも出さずに曲がったり・・・。

きっとその人達も「悪気」はないんだと思います。

きっとその人達も「トロッコ問題」を考える時には、口を揃えて「太った人を突き落とすのはおかしい」なんて言うと思います。

なぜなら人間は・・・

人類が世界共通で持ち合わせている「道徳」という奇跡で、物事を考えることができるから。

しかし、その一方で、平気な顔をして『あおり運転』をする。

外でどれだけ荒い運転をしようが、家族の前や職場では、『倫理』や『道徳』をふりかざす…

それが人間です。

参考書籍

おすすめの思考実験を紹介

マリーの部屋

すべての『色』を学び尽くした、『盲目』の色の専門家マリー。

彼女は世界の全ての色を『知っています』。

しかし、彼女は色を『見たことはない』。

そんな彼女がはじめて色を見たら・・・?

マリーの部屋って知ってる?思考実験で脳をクリエイティブに活性化!! こんにちはHitouch(@hitouch_life)です。 >>詳細なプロフィール FIRE(経済的自...

シュレディンガーの猫

『毒』と『猫』が一緒にはいった箱がある。

この『毒』が入った容器は、50%の確率で蓋が開き、50%の確率で何も起きない。

この箱の中に入った猫は、50%の確率で生きており、50%の確率で死んでいる。

さて…この猫は生きているのか?死んでいるのか?はたまた…?

「シュレディンガーの猫」に学ぶ投資の極意とは!? こんにちはHitouchの「T」です。 いきなりですが・・・未来は分かりません。 Anything can ha...

折り紙を折って月まで行けるか?

紙を折りたたむと、どんどん分厚くなりますよね。

さてここで問題です。

紙を何回折ったら、月まで届くでしょうか?

【理系クイズ】紙を何回折ったら月まで届く!?オックスフォード大学入試問題! こんにちはHitouch(@hitouch_life)です。 >>詳細なプロフィール FIRE(経済的自...
あなたの知りたいが見つかる!


幸せな人生を作り上げる秘訣は、好奇心を刺激し続けることです。
知らないこと、気がついていないことは無数にあります。
このブログにはあなたの知的好奇心を満たす知恵やノウハウが凝縮されています。
きっとあなたの興味があることが見つかるはずです。

経済的自由を手に入れるには?
もっと効率よく英語を勉強する方法は?

あなたの『知りたい』はここにあります…

≫探しに行く!