今後、人間に比したAIの能力と、社会実装の是非をめぐる議論においては、そこで要求されているのが「ベターかベストか」という点を見極めることがポイントとなるだろう。もし人類がベストではなくベターなAIを受け入れるならば、カーツワイルが描くようなAIの社会実装は、チューリングテストを待たずして進んでいくだろう。
もうひとつ、カーツワイルも本書でさらっと紹介している「AI効果」についてもおさえておきたい。歴史上、これまで人間にしかできないと思われていたタスクをAIが達成すると、そのタスクや能力はそもそも「人間らしさ」の根幹をなす要素ではないと見なされるようになっていった。例えばチェスのプレイやクイズ番組の回答、自然言語での流暢な会話や、いまこの原稿を書くのに使っているChat-GPT4o1の推論能力なんかもそうだ。
恐らく、2029年にAIがチューリングテストをパスしたとしても、この「AI効果」によって、そこで証明された能力とは、そもそも人間だけがもつ能力ではないし、したがって「人間を超えた」ことの証明にはならない、と見なされるだろう（すでにそうした議論は始まっている）。では、「人間らしさ」とはそもそもなんだろうか? 生物学的な「あなた」とシリコン製の知能とを隔てるものはどこにあるのか? こうした問いに真正面から取り組むのが、次章だ。
意識の問題は解けていない
第3章「私は誰？」でカーツワイルは、「意識」という、まだ科学的にも技術的にも哲学的にも解けていない人類の難問に迫る。実は前著でも、後半のほぼ最後になって、シンギュラリティの到来とともに迎える「やっかいな問題」として意識について取り上げているけれども、それが本書では早々に一章を割いて取り組んでいることからは、20年の時を経て、意識をめぐる問題がさらに前景化していることが読み取れて感慨深い。
AIの計算能力によって模倣し、また測定もできるような「知能」と、そこに宿る「わたし」という自己認識はどう違うのか? カーツワイルが長らく取り組んできたように、脳のリバースエンジニアリングを行ないあなたの脳のニューラルネットワークを完璧に再現すれば、はたしてそこにクオリアは宿るのだろうか? これは、哲学者のデイヴィッド・チャーマーズが「意識のハードプロブレム」として位置づけたものであり、「AIに意識は生まれるか」という問いは、例えば今夏に東京大学で開催された第27回国際意識科学会（ASSC）でも活発に議論されたトピックスだった（チャーマーズも参加した）。
肯定派が依拠する理論のひとつが、精神科医・神経科学者ジュリオ・トノーニが提唱した「統合情報理論」で、意識とは多様な情報の統合によって生まれ、その統合量φ（ファイ）の多寡によって決まるとするものだ。それによれば、計算能力が指数関数的に上がり、ますます多くの情報がやりとりされ、ニューラルネットワークの深層学習の進化によってさらに複雑な統合がなされるならば、そこには（程度の違いはあれ）意識が生まれるということになる。
一方、2024年現在において、意識をめぐる議論としてわたしたちの生活により関連性が高いのは、チャーマーズの提唱したもうひとつのテーゼである「哲学的ゾンビ」だろう。これは、外見の表情や仕草、感情表現が人間とまったく変わらないけれど実はクオリアをもたないゾンビのような存在がいたときに、他者はその存在を人間ではなくゾンビだと見分けることは不可能だ、という哲学的思考実験だ。いまや生成AIがつくりだすさまざまなキャラクターAIと日常的にチャットし、ゲームの世界でノンヒューマンエージェント（NHA）が当たり前に存在する時代に、たとえ人間にそっくりな哲学的ゾンビではなくても、人間の側があらゆるアバターに感情や意識を勝手に読み取りつつある文化状況はすでに拡がっている。だからカーツワイルの予測通り、人間の脳を模倣し、あるいは複製したシステムが2030年代のどこかで形になってくれば、クオリアの有無にかかわらず、ぼくたちがそこに意識を見出すことは容易に想像できるし、それはSF小説や映画やドラマでさんざん描かれてきたことだ。
WACOCA: People, Life, Style.