元記事：The Moral & Ethical Considerations Of Self-Driving Vehicles by Steve Hanley on 『CleanTechnica』

自動運転分野は急速に進化している

数日前、敬意を表すべき私の同僚であるMaarten Vinkhuyzen氏が、自動運転車両は人間が運転するよりも10倍安全、もしくは良い選択肢であるという素晴らしい記事を投稿しました。彼の結論としては”10倍良い”という表現の方が好ましいということでしたが、それは”10倍安全”であってもアメリカ国内では年に4,000件の死亡事故となる（注※アメリカでは現状で年間4万人近い交通事故による死亡者数を記録している）からです。もちろん、これは、Zachary Shahan氏が最近イーロン・マスク氏と話した際に出てきた、もうすぐ見られるテスラの急速な進化に関する議論をもとに導き出された考えです。

自動運転車両の分野は急速に前進しています。カリフォルニアでは多くの会社が自動運転車のテスト走行をしています。Waymoはクライスラー・パシフィカのPHEVミニバンと、ジャガーからもアイペイスを大量に発注しました。アメリカの多くの都市で自動運転シャトルが特定のルートで運行されており、もうすぐバージニアでは1マイル（1.6km）のルートを走るサービスが開始される予定です。

イーロン・マスク氏ほど自動運転車両を水平方向のエレベーターと比較して考えた著名人はいません。そう遠くない未来に、エレベーターに乗り込むのと同じくらいの思考量で、自動運転車に乗り込む日がくると彼は示唆しています。しかしこの2つには大きな違いがあります。エレベーターは進むべき道がきっちり決まっています。隣接したエレベーターシャフトに飛び移ることはできないし、行く先に歩行者、自転車、他のエレベーターが突然現れた際にどうするか決める必要もないのです。

Vinkhuyzen氏は（前述の記事中で）自動運転車が原因の死亡や怪我に対し、社会はある程度許容することになるとしていますが、それは少し楽観的過ぎると思います。私が考えるに人々は自動運転車がほぼ完璧になることを期待しています。またコンピューターエラーに起因する死亡事故や四肢欠損などの重大事故について、陪審員に訴える様を想定して、今から涎を垂らしている弁護士団がいるとも言えます。自動運転車が原因の怪我は、ペントハウスから警告なしに駐車ガレージへ飛び出してきたエレベーターと、同等に見なされるでしょう。

根拠を見せろって？　フランスに拠点を置くEasyMileは、バージニア州のフェアファックス郡を走る新しいシャトルを生産しました。社はアメリカの複数の都市で、16の似たようなシャトルを運行しています。ワシントンポストによると、オハイオ州のコロンバスでEastMile社製のシャトルが緊急停止をした際に乗客が1人落ちたため、2月に国家幹線道路交通安全局（NHTSA）は16台すべてのシャトルの運行を止めるよう命令を出しました。当たり前のことですが、シャトルは走行ルート上に障害物が突然現れたら停まるように設計されています。しかしこの事件から分かるのは、自動運転車両を運転中に生じた怪我に対する許容値はほぼゼロだということです。現在シャトルには、突然停止する可能性があるので（新しく備え付けられた）シートベルトを装着するよう、警告が表示されています

Rachel Flynn氏は フェアファックス郡の副知事です。彼女はワシントンポストに、新しいシャトルがエキサイティングで、革新的で、新しいものだと話しましたが、懐疑的な人達が新しいテクノロジーに慣れるには時間がかかると付け加えました。「車が初めて現れた時、内燃機関を積んだ台車に乗るなんて、皆怖かったはずですよね。でも慣れたらこれは便利だ、ちゃんと動く、となりました。自動運転車両に関しても同じです。それが普通になって、人間が車の操作をしていたのを忘れるでしょう」。しかし今から1，2世代後ならそうかもしれませんが、人々の態度はすぐには変わらないでしょう。

倫理とモラルの考え方

テスラやその他の会社は、自動運転車両用のシステム設計に集中しています。ここでプログラマーがソフトウェアに道徳や倫理の要素を組み込む必要があるのですが、この種の考え方は国や地域によって大きく変わってきます。よくあるのが、自分の行動により5人もしくは2人が死ぬ場合、どちらの選択肢を選ぶのか、という仮説です。自動運転用コンピューターにはどのような指示が組み込まれるのでしょうか。

数年前、MITのメディア研究室所属の研究者たちが、倫理的な質問を集めたモラル・マシンというオンライン体験を製作しました。初めの2年間で200万人がこの研究に参加し、4,000万以上の回答をしました。ザ・ニューヨーカーは自動運転システムに関係するモラルや倫理の詳細な議論において、住んでいる国や宗教教育により人々の反応に大きな違いが出たと報じています。記事によると、一般的に「ほとんどの回答者が大きなグループを救うため個人を犠牲にしました。またほとんどの人が男性よりも女性を優先して助けました。愛犬家は犬の方が猫よりも助けられるケースが多いと分かれば嬉しいでしょうし、人類愛の強い人は犯罪者よりも犬が助けられるケースが多いと知って動揺するでしょう」。

ドイツは自動運転システムに組み込まれるべきと考えられる倫理的判断について法的枠組みを作った唯一の国家です。2017年、ドイツ最高裁の元判事であるUdo Di Fabio氏が率いる政府委員会は、無人運転車両用の様々なガイドラインを提案するレポートを出しました。20の提案の中でも目を惹くのは「避けられない事故の状況では、個人の特徴（年齢、性別、肉体・精神的な性質）を基に区分をつけることは、厳に禁じる」というものです。

観察されたモラル・マシンに対する反応の違いについて問われた際、哲学者と法律家の間では、一般の人よりも倫理的ジレンマに関する理解の相違が出てくると、Di Fabio氏は話しました。彼によると「専門家はこの相違にイライラさせられるかもしれません。この問題には常に考えさせられるでしょう」。Di Fabio氏は、生死の決定に関して人間のバイアスを黙って受け入れるべきではないと信じています。「ドイツでは、人々はそのような議論にとても敏感に反応します。人々を断絶、分類したという暗い過去があるからです」。

ザ・ニューヨーカーはドイツの決定が国境を超えて反響を呼ぶことを示唆しています。フォルクスワーゲンは世界で最も大きな自動車会社の1つですが、その優れた生産能力はモラルに関する複雑な責任を生じさせます。雑誌は「国によって違ったモラル予測を反映して欲しいと言われたら、会社はどうすべきでしょうか」と問いかけます。モラル・マシン設計者の1人であるAzar Shariff氏は、各モデルがどの国で運転されるかにより調整されるべきという考えに傾いています。自動車会社は、倫理的決定を設定する場所の文化的な違いに敏感であるべきで、そうでなければ彼らが輸出するアルゴリズムによるモラル的植民地支配の様相を呈してくるかもしれないと考えています。

しかしDi Fabio氏は独裁政府にコードをいじらせるのを危惧しています。中国では将来、社会的ステータスで市民にスコアを付ける『社会信用システム』で、より高くランクしている人の方を車が好ましく受け取ると推測しています。最近の香港に対する中国の強制的なコントロールを見ても、その可能性は否定できません。
色々な可能性があるのです。車が危険な状況で選択をしなければならない時、企業は車が自らの顧客をひいきするようプログラムできるのでしょうか。自動運転車のオーナーが国境を超えた場合、例えばアルバニアとスイスでは車が違う選択肢を選ぶと考えなければならないのでしょうか。自動運転車両には、単純に道の穴ぼこ、通行人、自転車を避けるだけではなく、設定しなければならないことが多くあるようです。

（翻訳・文／杉田 明子）