米国によるイランへの軍事攻撃ではAI（人工知能）が主役を演じ、改めてAIの倫理性に注目が集まっている。AIも心を持つのか、AIと人間の境界線はどこか、という難問を、50年以上前に題材としたのが、フィリップ・K・ディックのSF、『アンドロイドは電気羊の夢を見るか？』だ。チームみらい党首の安野貴博氏が書いた『サーキット・スイッチャー』と併せて考察しよう。
※本連載をまとめた書籍『古典に学ぶ現代世界』（日経プレミアシリーズ）を発売しました。
イラン攻撃の主役を演じたAI
戦場は現地ではなく電脳空間かもしれない。報道によると、最高指導者ハメネイ師への狙い撃ちで始まった米国とイスラエルによるイランへの軍事攻撃では、AIが決定的な役割を演じた。注目の的は新興企業、アンソロピック（Anthropic）が開発したAI「Claude（クロード）」である。
アンソロピックはAI開発に倫理性を求める元オープンAIの幹部が創業した。ところが米紙ウォール・ストリート・ジャーナルによると、中東地域を管轄する米中央軍などが、情報評価や標的の特定、戦闘シナリオの策定などにクロードを組み込んでいるという。
完全自律型兵器や米国民の大規模監視にはAIの利用制限を。そう求めたアンソロピックに対し、国防総省は米軍によるすべての合法活動での利用を認めるよう迫った。アンソロピックが拒んだため、トランプ米大統領は2月27日、同社技術の政府利用の中止を発表した。
その直後のイラン攻撃でアンソロピックのAIが活用されたのなら、何という皮肉だろう。人間は意識や心を持つが、AIは持たない。ありきたりの二分法はどうやら通用しない。
こうした倫理的な難問に、1968年に真正面から取り組んだSFがある。フィリップ・K・ディックの『
アンドロイドは電気羊の夢を見るか？
』（浅倉久志訳／ハヤカワ文庫SF）である。「アンドロイド」（人型ロボット）と機械仕掛けの「電気羊」。ともに人間や動物に似せた存在が、人の無意識世界である「夢」で結びつく。
『アンドロイドは電気羊の夢を見るか？』（フィリップ・K・ディック著／ハヤカワ文庫SF）。画像クリックでAmazonページへ
何と思わせぶりな。舞台は核戦争後のサンフランシスコ。地上には死の灰が容赦なく降り注ぐ。人類の多くはそんな地球から火星に移住し、反対に火星からは地球へと今でいう高度なAIを備えるアンドロイドが侵入してくる。人に危害を加えかねないアンドロイドを退治する賞金稼ぎが主人公という設定だ。
アンドロイドは心や感情を持たない。話は最初、そんな前提で進む。身体は人間と見分けがつかない最新型のアンドロイド。その正体を見破るための感情テストが活用される。
だますアンドロイドと見破る賞金稼ぎ。丁々発止の駆け引きが繰り広げられるうちに、実はアンドロイドが心のようなものを持っていることが判明する。人型ロボットは感情がないから殺してもかまわない。そんな賞金稼ぎの心は生身のアンドロイドと触れ合ううちに揺らいでいく。
「あなたは人間ではないわ。わたしとおなじように、あなたもアンドロイドなのよ」。そう語るアンドロイドが女性風なのはドラマトゥルギー（作劇法）のお約束かもしれない。そしてアンドロイドのボスとの最終決戦で主人公は勝利を収めるのだが、そこにはカタルシス（爽快感）はない。
自分自身がむしろ殺人機械なのではないか。そんな思いにさいなまれる賞金稼ぎは、懸賞金をもとに本物の黒いメス山羊を手に入れる。「おれはアンドロイドに同情しはじめたんだ。……山羊を買ったのはそのためなんだ」。多くの動物たちが死の灰で死に絶えた未来世界では、生きた本物の動物を飼うことが人々の心の安らぎだった。だがその安らぎは長続きしない……。小説の結末を記すのはやめておこう。それにしても主人公は、機械仕掛けの動物にさえ愛情を抱くようになる。
続きを読む 1/2
溶けていく自明な境界線
溶けていく自明な境界線
驕慢（きょうまん）な人間こそ、機械的で残酷だ。思いやりの心のようなものを持ったアンドロイドこそむしろ人間的。そして人間とAI、人間とアンドロイドは、クッキリと二分法で区切られるものではない。
境界線はあいまいで、問われるのはアンドロイドに映し出された人間の心である。ここにタイトルの「夢」の答えがあるように思える。
AIやアンドロイドが心を持つか。問題は直ちに人間自身に返って来る。ソフトウエアエンジニアの安野貴博氏が2021年に発表したSF『
サーキット・スイッチャー
』（ハヤカワ文庫JA）は、2029年の日本を舞台に、究極の倫理的な問題を突き付けている。
その名前に聞き覚えのあると思った方もいるだろう。チームみらいの代表として政界に旋風を巻き起こしている、あの安野氏である。テーマはクルマの自動運転で、レベル5（制限のない自動運転）が実現した場合に起きる、事故時の命の選別の問題である。
その難問はトロッコ問題（The Trolley Problem）と呼ばれる。路線の切り替えスイッチの操作を任されたとしよう。トロッコが暴走してくる。右の路線にも左の路線にも作業員がおり、どちらかがひき殺されてしまう。その際に、スイッチを右に切るか、左に切るかが問われるのだ。どんな理由でどう決断すべきか。
アルゴリズムに渦巻く人間の思惑
ドストエフスキーの『
カラマーゾフの兄弟
』（原卓也訳／新潮文庫）。「大審問官」の章でイワン・カラマーゾフが問うような究極の難問に、人はしばし立ちすくむ。ならばトロッコ問題に直面したレベル5の自動運転車はどう判断するのだろうか。高度なAIが評価するのは、犠牲者の数の多寡だろうか、年齢、職業、性別、人種などだろうか。
そもそもAI自体には心がないとすれば、トロッコ問題に解を見いだすのは、自動走行に関するアルゴリズム（計算手順）ということになる。自動運転のシステムを開発した天才エンジニアと、そのエンジニアを誘拐した謎の人物。首都高速道路を疾走する自動運転車を舞台に繰り広げられる駆け引きは息をもつかせない。
アルゴリズムの中身は単なるブラックボックスではない。人間的な、あまりに人間的な思惑が渦巻いているのである。その仕組みが種明かしされた後で、誘拐犯とエンジニアの間で心のやり取りが交わされる。安野氏が志すテクノロジーを通じた政治、あるいは政治によるテクノロジーの制御という問題意識の原点は、この小説のなかにあるように思える。
パンドラの箱の底には希望が潜むのだろうか。それともAIは感情を持たぬまま、戦争にビジネスにと突っ走るのだろうか。AIが加速度的に進化する今だからこそ、問われるのは私たち人間なのである。
写真／スタジオキャスパー
名著の中に問題解決の道を探す
AIと超高齢化、ポピュリズムと全体主義、権力の偏重とタテ社会、人情と情緒、外交と経済運営――。長きにわたって読み継がれてきた古典は、私たちが抱えている課題解決へのヒントになる。ジョージ・オーウェルから有吉佐和子まで、数々の名著を現代の視点から読み解く。「日経BOOKプラス」の好評連載を大幅加筆。
滝田洋一著／日本経済新聞出版／1210円（税込み）