2026年6月29日
AI倫理 × 功利主義
自動運転のAIが事故を起こした時、
責任は誰にあるのか
――ベンサムとミル、二人の功利主義者が描く「責任論」の未来
「AIが事故を起こしたら、開発者を訴えればいい。それで責任は明確になる」
多くの人は、そう考えるかもしれません。
しかし、功利主義の哲学者たちならこう問い返すでしょう。
「その裁判は、次の犠牲者を一人でも減らすことができますか？」
責任を追及することと、社会の不幸を減らすこと——この二つは、必ずしも同じではないかもしれない。
これが、功利主義という思想が200年以上前から投げかけ続けている問いの核心です。
◆ 功利主義とは何か
功利主義の合言葉は「最大多数の最大幸福」です。
18世紀のイギリス哲学者ジェレミ・ベンサムが提唱し、その思想を継承・発展させたジョン・スチュアート・ミルが体系化したこの倫理学は、行動の善悪をただ一つの基準で測ります。
判断の基準は「動機の正しさ」でも「規則への忠実さ」でもない。
功利主義の基本は、行為の善悪を「結果として幸福を増やし、不幸を減らすか」で考える点にあります。
この思想を自動運転に当てはめると、責任論はまったく異なる姿を取ります。「悪者を罰すること」より「次の事故をどう防ぐか」が倫理の中心になるからです。
◆ 功利主義が導く「事故責任」の答え
世界では毎年、約120万人が交通事故で命を落とします。その大部分は、居眠り・飲酒・脇見といった人間の運転ミスが原因です。
もし自動運転が普及して、この数が劇的に減るとしたら——功利主義者の答えは明快です。「それは圧倒的な善だ」と。
その前にひとつ確認しておきたいことがあります。ここで考えるのは「法廷で誰が有罪になるか」という法律上の問いではありません。「社会全体の不幸を減らすために、責任をどう分配すべきか」という倫理上の問いです。実際の自動運転事故では、メーカー・ソフトウェア開発者・所有者・道路管理者など複数の主体が絡み、AIそのものを「罰する」ことはできません。
その上で——功利主義者は「誰を刑務所に送るか」という問いに、他の倫理学とは異なる答え方をします。功利主義にとって処罰の意味は「報復」そのものではなく、再発防止・抑止・社会の信頼回復につながるかどうかです。刑事処罰より、制度設計で次の事故を防ぐことの方が、社会の幸福を増やす——そう考えます。
功利主義的「責任の形」
◎ 個人責任 → 社会的リスク分散へ
特定のエンジニアや企業に過酷な刑事責任を集中させるのではなく、「自動運転社会全体で積み立てた保険基金」から被害者へ迅速に賠償する仕組みを構築する。
◎ なぜ責任追及と被害者救済を分けて考えるのか
企業責任を重くしすぎれば開発が萎縮し、軽くしすぎれば安全投資を怠る危険がある。功利主義的に重要なのは、被害者救済と安全投資のインセンティブを両立させる制度設計であり、多くの命を救える可能性を手放さないことだ。
現行の自動車保険という仕組みは、すでにこの発想の部分的な実装です。事故のたびに加害者を破滅させるのではなく、社会全体でリスクを分散している。功利主義は、この考え方を自動運転の時代に合わせて拡張せよと主張します。
◆ ベンサムとミル——同じ思想が分かれる場所
ここで重要な問いが生まれます。
AIのバグで年間300人が「理不尽に」亡くなるとしても、人間の運転ミスによる死亡が3,000人から300人に減るなら、「差し引き2,700人の命が救われた」として受け入れるべきか。
同じ功利主義者でも、ベンサムとミルでは答えが分かれます。
| ジェレミ・ベンサム 量的功利主義 | J.S.ミル 質的功利主義 |
|---|---|
「数値だけが答えだ」 幸福も苦痛もすべて数値化して足し引きできる。2,700人が救われるなら、300人の「バグによる犠牲」は社会のコストとして受け入れるべきだ。 「AIのバグだから許せない」は感情論に過ぎない。犠牲者数が最小化されるなら、原因が何であれ受け入れるのが合理的だ。 | 「数値だけでは不十分だ」 幸福には「質の高低」がある。「個人がAIに理不尽に殺されても仕方ない」という社会のルールを認めると、市民は恒常的な不安と恐怖に晒され続ける。 「明日は我が身か」という精神的苦痛は、数では測れない不幸だ。個人の権利を守るルールがあって初めて、真の「最大多数の最大幸福」が成立する。 |
ベンサムは「データ（結果の総数）」を見る。ミルは「データの先にある人々の安心感という質」も見る。この差が、現代の自動運転倫理の設計を考える上で、決定的な意味を持ちます。
◆ 功利主義が直面する「3つの冷たいジレンマ」
一見、最も合理的に見える功利主義ですが、自動運転と組み合わせると、思いもよらない結論を導き出すことがあります。
ジレンマ① 命の計算——トロッコ問題の現実化
「直進して子ども1人をはねる」か「回避して乗員2人が死ぬ」か——これは現実の自動運転設計を単純化した倫理上の思考実験です。もし人数だけを計算するなら、功利主義は「2人より1人の犠牲が小さい」として、子どもを犠牲にする方向に傾きやすい。
しかし現実には、「乗員を見捨てる車」を誰も買いたがらないため、市場そのものが崩壊するというパラドックスが生まれます。計算の正しさが、計算の破綻を招く。
ジレンマ② 少数の切り捨て
AIの普及で年間の交通事故死が3,000人から300人に激減した。ただしその300人は「AIのバグ」で理不尽に亡くなった人たちだとします。功利主義の計算では「差し引き2,700人が救われた大成功」です。
しかし遺族からすれば、「社会全体の利益のために、身内が人柱にされた」ことになる。個人の尊厳をどこまで「社会の利益」で上書きできるのか——カントなら「人間を単なる手段として扱ってはならない」と言い、激しく反論するでしょう。
ジレンマ③ 責任のコスト計算——フォード・ピント事件の再来
あるバグを修正するのに100億円かかる。しかしバグを放置し、事故が起きた際の賠償総額は10億円と試算された。短期的な費用便益計算だけなら、「直さずに10億円を払う方が安い」という結論になってしまいます。
よく比較されるのが、1970年代のフォード・ピント事件です。企業が命をコスト計算した事実が明るみに出た時、世論は激しく反発しました。合理性と倫理が衝突した瞬間です。
◆ 現代の自動運転倫理は、どう折り合いをつけているか
各国の政府やAIガイドラインは、功利主義の論理をそのまま採用してはいません。
実際に行われているのは、「ベンサムの目的を、ミルの手段でコントロールする」という二重構造です。
現代の「修正功利主義」の構造
◆ ベンサム的な目的：自動運転の普及を止めない。全体の犠牲者を減らすという最終目標は揺るがさない。
◆ ミル的な歯止め：個人の属性や命の価値を点数化して特定の人を犠牲にするような設計は認めない方向が強い。
◆ 制度的な補完：被害者救済を先行させつつ、原因究明と再発防止は別途徹底する（無過失補償に近い制度の導入が検討されている）。
ミルの思想は後に「ルール功利主義」に近い形で読まれることがあります——個人の権利を守るルールを、あらかじめ社会の土台に組み込む——という発想は、現代のAI倫理指針の設計思想と深いところで響き合っています。
哲学から現実へ
200年以上前にベンサムとミルが交わした論争は、今日、自動運転のアルゴリズム設計や事故補償の法整備として現代に蘇っています。哲学の問いは、教室の外でも生き続けているのです。
――考えてみてください
あなたが自動運転車の倫理設計を任されるとしたら、ベンサムの「冷静な数値計算」とミルの「個人の尊厳への配慮」、どちらを優先しますか。
そしてその答えは——「誰かが理不尽に犠牲になるかもしれない」という現実の前でも、変わりませんか。
YBA教育研究会では、各教科の学習を、単なる暗記や作業ではなく、「なぜそうなるのか」を考えるところから指導しています。
世田谷・経堂で完全1対1の個別指導をお探しの方は、ぜひご覧ください。 → 経堂の完全1対1個別指導｜YBA教育研究会の指導内容はこちら