2020.11.07

STSの事例 -トロッコ問題-

STSについてもう一つ考えてみたい事例があります。それが「トロッコ問題」です。
次の図を見てください。

トロッコの走っている線路上に5人の人物がいます。一方、切り替え線の先には1人がいます。そしてあなたは切り替え機のところにいるとしましょう。
今、このトロッコのブレーキが壊れてしまいました。このままだと線路上にいる5人をひき殺してしまいます。一方、あなたが切り替え機を動かせば5人は助かり、死ぬのは切り替えられた線路の先にいる1人だけで済みます。
さて問題です。あなたはこの切り替え機を動かしますか、それともそのままにしますか?

これがトロッコ問題です。この問題では、切り替えても切り替えなくても、人が死にます。つまり問われているのは「ある人を助けるために他の人を犠牲にするのは許されるか?」ということです。

これが何故STSで扱うべき問題かというと、今後、人間が運転しないAI(人工知能)による(レベル5の)自動運転車が出てくると考えられているからです。
もし自動運転車の前に、いきなり子どもとその親が飛び出してきたとき、そしてブレーキをかけても間に合わないとき、AIはどうするべきなのでしょう?そのままその親子をひいてしまうべきでしょうか?それともその親子を避けて人が歩いている歩道や、対向車の来る反対車線に突っ込むべきでしょうか?
人間はこの問いに対して明確な答え、いえ「指針」を示す必要があります。指針がなければ自動運転車は実現しません。

では「自動運転車は一切認めない」という選択はどうでしょう。その場合、地方に住み、運転ができなくなってしまった高齢者は買い物にも行けなくなってしまいます。
「地方だけ自動運転車を認める」とすると「どこからどこまでが地方なのか?」という新たな問題が生じます。人口密度が一定以下とする方法もありますが、わずかに上回ってしまった地域の人は反対するでしょう。
いずれにせよ、何らかの社会的ルールを決め、そのルールに則る形で制度設計を行い、法律化する必要があります。場合によっては都市の構造自体を変える必要があるかも知れません。そしてこれらが実行されれば、あなたの生活にも影響が現れます。

この問題を考える上では、「AIとはどのようなものか」という科学技術に関する知識と、法律や社会の仕組み・問題点など社会科の知識を使いこなす必要があります。そしてこれがSTSの領域である理由です。
ちなみに、これらの指針を作らず先送りし続けた未来を描いた作品として「BEATLESS」があります。AIが人間よりも賢くなった未来に
「やり残した宿題を(AIに)没収される」
と表現されています。興味のある方は一読をお勧めします。


日々の学習と社会を繋げるデジタル教材。
小さな気付きを好奇心に変え、学ぶ意欲を創造する。