“強い”AIが、人類に「私」という存在に対する答えを教えてくれる？SF作家、ケン・リュウの作品が私たちに提示したもの

——さて、金属が剥き出しのこの無機質なわたしとの対話を通じて、君たち人間は、どのような気づきを手にするだろうか——

これは、アンドロイド観音マインダーが人間に投げかけた挑戦だ。

マインダーは、京都にある豊臣秀吉の正室である北政所ねねゆかりの寺院、高台寺で公開中のアンドロイド型の観音。
高台寺の公式HPの説明によると、「様々な姿に変化できる観音菩薩が、アンドロイドの姿を借り、あらわれた」ということだ。

マインダーは全長195cm（台座含む）。顔と手はシリコンで人間に似た姿に作られているが、それ以外の部分はむき出しの機械で構成されており、神秘的な印象を受ける。

この観音にはAIの搭載はされておらず、作られた台本に沿って内蔵されたボーカロイドが喋る、というシステムになっている。そして、マインダーが説法で語るのが「空（くう）」だ。

「空」は般若心経に登場する「無情」や「無我」を意味する言葉。「無情」は人間を含む万物は常に変化し続けることを、「無我」はこの世にある存在は他の存在と独立には存在し得ないことをあらわす。

毎日与えられたシナリオを与えられた通りに語る。完璧にルーチン化された日常を送るマインダーが「空」を語るというセンセーショナルな試みにはSNSなどで賛否両論の声が上がった。

「空」を悟ることができない（ように見える）ものが「空」を語っている、という事実は、私たちに様々な問いを提示する。

そして私たちは考える。
「目に見えないけれど存在を感じられるもの」について。

例えば、「意識」とか。

“意識”がないとはどういう状態？

思考は幻想だ。
（ケン・リュウ 著、古沢嘉通 編・訳「愛のアルゴリズム」『紙の動物園』）

アメリカ人哲学者のジョン・サールは、1980年に発表した論文「Minds, brains, and programs. 」の中で、「人の認知過程の状態を理解したり、身に付けるという意味で、適切にプログラムされたコンピュータは、『意識』となるのだ」と論じ、「意識」と等号を結べる人工知能を“強い”AI（“strong” AI）と呼んだ。

さらに、サールは、同論文の中で意識についての問題を提起する「中国語の部屋」という思考実験も行った。

※画像はイメージです。

それは、下記のようなものだ。

英語しか話せない職員たちがある部屋の中で仕事をしているとする。そこには英語で書かれたルールブックがあり、職員たちには部屋の外から「記号の書かれたカード」が届けられる。職員たちは、カードに書かれた記号を見て、ルールブックに示された通りに別の記号を記してカードを部屋の外へと送り返す、という作業をしている。

ここで、職員たちが確認し、自らも書き付けていた記号は実は中国語で、部屋の外にいる中国語が理解できる人からすると、その部屋に中国語で“質問”を書いたカードを送ると“答え”（職員たちが書いていた記号）が帰って来る仕組みになっている。

では、この職員たちは中国語を理解したと言えるのか？
ここでいう「部屋」をAIに置き換えた時、この問いは以下のように変容する。

あらかじめ組み込まれたプログラム（ルールブック）で中国語の対話ができるようになったAIは意識持ったと言えるのか？

この問いに真っ向から向き合った小説が、ケン・リュウの短編『愛のアルゴリズム』だ。
私たちは本当の意味で物事を「理解」しているのか？
中国出身のアメリカ人、ケン・リュウは、弁護士、プログラマーという異色の経歴を経て作家になった。
彼の作品の特徴は、アジアの文化を下地に、どこか悲哀を含んだような語り口で語られるSF的なストーリーだ。

『愛のアルゴリズム』では、幼い娘を無くしたことがきっかけで、“限りなく人間に近い少女の人形”の開発に取り憑かれる女性開発者のエレナの姿が描かれる。

エレナが人間と寸分たがわぬ完璧な人形、タラを作り上げた時、彼女にある異変が訪れる。

彼女は、自分が語りかけた時の夫や同僚の応答を完璧に予想できるようになっていたというのだ。

タラがそれまでに言ったりしたりしたことは、わたしにはなにも驚きではなかった。実際に口にするまえに彼女が言うであろうことはすべて予測できた。要するにわたしが彼女のなかのすべてをコード化したのであり、個々のインタラクションで彼女のニューラルネットワークがどう変化するのか、わたしは正確に把握していた。
（ケン・リュウ 著、古沢嘉通 編・訳「愛のアルゴリズム」『紙の動物園』）

※画像はイメージです。

エレナは、タラ（AI）のアルゴリズムを完璧に理解していたため、入力に対する出力として、タラの言動が事前に把握できるようになった。しかし、彼女の周囲の人間たちもタラと同様のアルゴリズムに従って行動していたのだ。

そして、エレナは一人、「娘を喪った悲しみも、夫への愛も、全てはアルゴリズムが吐き出した出力に過ぎないのではないか？」という不安を募らせていく。

今作で提示されるのは、人間の脳が「中国語の部屋」である ――つまり、“人間には「意識」や「自由意思」がない”―― という決定的な事実を前に、悩み、葛藤する人間の姿だ。

人間が意識を待たない可能性を考える、という試みはすでに、「哲学的ゾンビ」という思考実験で実践されている。

「哲学的ゾンビ」は、1990年代に哲学者のデイヴィッド・チャーマーズによって考案され、議論を巻き起こした。

この思考実験では、人間と同じように動き話すことができるが、すでに死んでいる（＝意識がない）存在であるゾンビを例に挙げ、脳の電気信号一つとっても物理的には人間と全く同じように働くが、意識を持たない存在を仮定する。

つまり、「哲学的ゾンビ」は、人間と同じように、泣いたり、笑ったり、怒ったりするが、それは物理的な出力に過ぎず、本質的な悲しみや喜び、怒りを持つことはないのであり、そこには「私」という意識も、存在しない。

私たちは「哲学的ゾンビ」ではないといえるのだろうか？

『愛のアルゴリズム』は、日常で考えるには重厚すぎるこの哲学的な問いを切実に読者へと訴えかけるのだ。

私たちが“強い”AIと出会うとき

※画像はイメージです。

AIの発展を考える時、多くの人はまず、技術的な恩恵やリスクを考えてしまう。
しかし、“強い”AIが実在する時、人間たちが真っ先に行うことは、「私」という存在についての問いの答え合せなのではないだろうか？

私たちが「シンギュラリティ」と呼ぶ特異点に本当の意味で到達するためには、技術以上に「意識」の問題についての理解が必要なのかもしれない。

だからこそ、『愛のアルゴリズム』やアンドロイド観音マインダーのように「目に見えないけれど存在を感じられるもの」（それは「意識」や「愛」、「空」と言い換えられる）について、考えさせるきっかけを作ってくれる存在は重要なのだ。

あなたは「あなた」についてどう考えるのか？ぜひ、考えてみてはどうだろう。