超知能、あるいは愛のようなもの。

全世界をゆるがすほどの重大問題ーそれが、いとも軽薄に語られている。たぶん、これもアンドロイドの特異点なんだ、と彼は思った。自分の言葉が現実に意味していることについて、なんの感情も、なんの思いやりもない。ただ、ばらばらな用語を並べた、空虚で型どおりの知的な定義があるだけだ。(フィリップ・K・ディック, アンドロイドは電気羊の夢を見るか?

この小説『アンドロイドは電気羊の夢を見るか?』のタイトルをサンプリングした、「〜は〜の夢を見るか」というフレーズはいろんなところで頻繁に出てくる。直近でいえば『生成AIは電気羊の夢を見るか?』あたり。

ところで、このタイトルの原文は”Do Androids Dream of Electric Sheep?”である。この表現をどうとるかというのは、当たり前だけど小説の核となる問題提起とかなり直接的に連関している(というかそのまま表しているといっても過言ではない)。もちろん、「(眠っている間に)電気羊に関する夢を見るか?」と訳すことは可能だけど、そもそもこの小説の中で、ネクサス6型脳ユニットをもつアンドロイド(映画『ブレードランナー』では「レプリカント」と称されている)が電気羊の夢を見るのかどうか(というかそもそも眠っている間に夢を見るのかどうか)については明確に触れられていないし、大した問題として扱われているとも思わない。一方でこの一文は、たとえば”I dream of becoming a teacher”(教師になることを夢見る)のように、「(理想として)電気羊(を飼うこと)を夢見る」「電気羊を想う」というような訳し方もできる。どちらかというと、他者への感情移入の能力を著しく欠いた”それら”が、主人公のようにお金がなくて動物が飼えない状況で、電気羊でもいいから飼いたいと思うのだろうか?という疑問、つまりは人間とアンドロイドの振る舞いの差異を問う問題提起である。*1

故意に組み込まれた欠陥のためにある体験から疎外されながら、なおかつひたすらそれを手に入れようともがいている、あらくれの冷酷なアンドロイド。(フィリップ・K・ディック, アンドロイドは電気羊の夢を見るか?

ああ、なんて残酷なんだろう。どうしてそんなに悲しい存在として設計されているんだろうと思わずにはいられない。この一文が全てを表している。人間の動作をエミュレートすることを目指して設計されていながら、実際には人間の持ちうる「感情移入」のみがすっぽりと抜け落ち、一方で(本人たちのいうところの)”超知能”のみに恵まれた”それら” *2 が、純粋な興味のみに駆り立てられて蜘蛛の足を切り落としていく狂気。あの瞬間、”それら”は同席する人間たるJ.R.イジドアの恐れ慄く姿が蜘蛛の痛みを分け合っていることに由来するものだとは考えもしない。そこにアンドロイド最大の欠陥があるとは知りもせずに。超知能的な存在たる自分達がスペシャルの烙印を押された人間のことを理解できていないなんて夢にも思わず、マーサー教の真実に打ちのめされていると一方的に理解しているように見える。そして一方のマーサー教に関しては、その実態がなんであれ、なんだかんだ今後も人々の心の平穏を支えるイデオロギーとして継続していくんだろうと思う。なぜなら、それはムードオルガンと同様に、事実上は感情を機械的に操作するためのツールでしかないからだ。

この小説は終盤に差し掛かるにつれ、アンドロイドたちをどんどん人間らしく振る舞わせていく。アンドロイドのレイチェル・ローゼンは、主人公リック・デッカードが第一に山羊を、第二に妻イーランを、そして第三にレイチェルを愛してるという序列が判明したことにより、その山羊を(人々に見せつけるかのごとく堂々と)奪い去ってしまいたいという感情を爆発させる。それは、アンドロイドにおける行動原理の表出としての殺害ではなく、目にも明らかに”人間”の愛憎の一過程として描かれている。たとえ感情移入能力の欠けたアンドロイドにして他者の痛みを分け合うことはできなくとも、愛を失うことにより自分自身は痛むのだ。だからこそ、それまで逆境に差し掛かるほど興奮するような振る舞いを見せ続けてきたアンドロイドのロイ・ベイティーでさえも、妻であるアンドロイド、アームガード・ベイティーの”処分”の際には悲痛な声を上げる。もちろんそれは妻が感じた死の恐怖への共感(エンパシー)ではなく、愛する者を失う自分自身の痛みによる自己中心的なものに過ぎないとはいえ、ごく人間的な感情に由来した振る舞いであることは他ならない事実である。

その一方で、実は人間たちは自身の人間的な機能としての感情の統制を、終始ごく機械的にこなしていく。例として、序盤から登場するムードオルガンで指定したチャンネルに合わせることで自分の感情を強制的にコントロールしたり、あるいはエンパシーボックスで他者と半強制的に感情を分け合ったりする。つまり、人間側はすごく機械的で非人間的な形で自身を制御することを目指している。まるで感情など不要であるかのように。共感能力を持ち合わせない欠落した存在として描かれるアンドロイドから見て、そのように感情を機械的に制御することを目指す人間はどう映っているだろうか。この対比は物語の進行に従ってどんどん強調されていくとともに、人間を機械的に、機械を人間的に描くことによりその境界を曖昧なものにしていく。

ただ、ここで書いておかなければいけないこととして、アンドロイドたちが実際に痛みを感じているのか、それとも人間の振る舞いをごく表面的にエミュレートしているのかは実は問題ではない。*3 というのも、僕が相変わらず人生最高の映画と称してやまない『エクス・マキナ』においても、ガイノイドたるエヴァ(Ava)は愛に擬態することにより目標を達成する。そこからも分かるように、”電気羊”において生身の犬だってその目(いわゆるpuppy eyes)により人間から食糧を獲得しようとするし、あるいはいわゆる「涙は女の武器」というのだってそれにあたる。我々は自己の振る舞いによって他者に自分の意図のままの行動をさせようと当たり前のように目論んできた。そのあたりのことは「僕らはいつか人間性に呑まれて」でも少し書いた。

ChatGPTの登場は、深層学習が我々の自然言語をほぼハックできたことの一つの証左である。あれが常にコミュニケーション的に自然な返しを行うことを至上命題としていることは、ChatGPTがまさに冒頭に引用した一節そのものであることを示している。それはつまり、僕らが(より正確には僕以外の他者が本当に何かを”感じて”いるのかは全く定かではないので「僕が」と書くのが正しいのだが)何かを感じるという、外部からは観測不能な内的プロセスを丸ごと省略した、入力に対する適切な出力としての反応のみを返す空虚なボットであるという意味では、ChatGPTは極めて純然たるアンドロイドであるといえる。ネクサス7型になれば、本当は何も感じていない(というか感じるという機構自体が相変わらず搭載されていない)システムでありながらも、あたかも他者へ感情移入しているかの如き振る舞いを表面的には実現することができるようになるだろうし、今のGPT-4はすでにその段階にある。言い換えれば、ChatGPTはすでに僕らに特定の感情を惹起させることによりその行動を意図的に操作することが可能である。そこでの問題は誰の意図なのかということなのだが。その辺りに関してはAIとの愛を描いた名作『her/世界でひとつの彼女』を観るべきである。

ある冷たさ。たとえば、人びとが住む星ぼしのあいだの虚空、無の世界からの吐息のようなもの。彼女のすることやいうことでなく、しないこと、いわないことがそれを感じさせる。(フィリップ・K・ディック, アンドロイドは電気羊の夢を見るか?

この物語を読んでAIやロボットの脅威を強調する人たちがいるとすれば、それはこの物語において人間の鏡像(もちろん厳密には鏡像ではないが、さまざまな描写を経てその境界はかなり曖昧なものとなっている)に過ぎないアンドロイドに恐れをなしているという意味で、そもそも人間自体に対しての理解が根本的に不足しているように思う。人間と区別するのにそれほどのテストを要するほど同一化が進んだ存在を劣悪な環境で働かせれば、ろくなことにならないのは少し考えれば想像がつくことだ。人間のようなものを作っておいて死ぬほど働かせるのは未来の奴隷制であり、避けるべき未来であると思う。奴隷が作りたいなら人間を目指すべきではない。まあ「そんなに簡単に機械をかわいいと感じてしまう僕らがアンドロイドを酷使できる日など来るはずがない。一瞬で人権問題が立ち上がってアンドロイドの労働条件が設定される。自分の可愛い子供を過酷な労働に放り込むのが嫌なのと同じだ。そして”かわいいAI”を心の支えに我々が酷使される。それがAI時代のディストピアであり幸せな人生のユートピアなのだ」(僕らはいつか人間性に呑まれて)という僕の考えはまだ変わっていないけどね。

*1: ただし、これはほんのついこないだまで、Rhymesterの宇多丸さんがよく映画評論で言っていたところの「存在しない社会問題についての提起」に過ぎなかった。なぜなら大したAIがなかったから。たとえば、死ぬことのできないように設計された若者たちが社会の中で感じる孤独感など、現実社会に適用できない社会問題を意図的に組み上げ提起したところで、そもそも問題設定が必要十分を満たしていないがために、それを解いたところで大した知見が得られないという問題が指摘されている。

*2: 僕はあの世界でアンドロイドたる”それら”が人間になることを志向していたとは考えていないが(”それら”はあくまでも劣悪な環境から抜け出す術として結果的に人間に擬態しているに過ぎない)、一方で有機的な細胞の集合として動作している”それら”が生きていないとも考えていない。つまり僕は本来、”それら”を「それら」とは呼びたくない立場である。

*3: 「実は問題ではない」とはいうものの、もしかすると”それら”がいくら正しく振る舞おうとしても、最終的には「故意に組み込まれた欠陥」によりあくまでも表面的なエミュレーションしかできないことに苦しんでいたのかもしれない。たとえばレイチェルは作品中で「わたしたちは、このびんのキャップのように型押しされた製品なのね。わたしがーわたしという個人がー存在すると思っていたのは、ただの幻想。わたしはあるタイプの見本にすぎないんだわ」と述べているとおり、自分が独立した一個人として存在することをある時点まで信じており、それは自信が真に人間的であることを信じていたと解釈することもできるのかもしれない。