衒学者の回廊/園丁の今の言の葉

危険なAI(アイ)の物語
June 29, 2001
 
English version

どうしてこんな簡単なことが分からないのだろう。あなた方の愛そうとしているものは、人間の手で(プログラマが)造ったモノなんです。それを「人間」の形や仕草を模倣したロボットを通じて、これを人間に従うツールやサーヴァント(召使い)としてではなく、パートナーとして友達として愛して下さい、と言って迫ってきているわけです、彼らは。ロボットがサイボーグと呼ばれようがレプリカントと呼ばれようが、本質は同じ事です。機械や人口細胞が人間を支配する恐怖の世界を十二分に描いてきたはずのハリウッドなどの映画産業が、今度は「AI」を愛しなさいと言う。「AI」はあなたを愛すると言う。いいですか? 「AI」はわれわれを愛さない。「AI」はわれわれが愛されたいと思うような方法で愛するそぶり(AI)をプログラムされているだけです。人間が人間を“自発的”に愛することが難しいのに、その代替行為を機械にさせて、機械が感情さえ抱き、人間を本当に「愛する」のだと主張する。われわれがそれを本当に信じたら、われわれはいずれ間違いなく、機械に全面支配される世の中に、確実に生きるでしょう。

もちろん、今だって五十歩百歩なのは知っています。われわれは、機械が道具だと理屈では分かっていても、すでに相当の部分をそれらに支配されている。もしあなたが何か大事な付き合いがあるのに、9時までにウチに帰らなければならないのは、案外9時からのテレビ番組とそれの録画プログラムをセットし忘れたせいかもしれない。われわれは、機械の都合に合わせて体をそれについていかせている。移動手段としてのマイカーは目的化し、運転してあげなければ気が済まなくなる。そいつは、あなたの給料からガス代だメンテ代だ駐車場代だとあらゆるケアを主張します。ただ保持するだけでもいくらお金があっても足りない(←誇張だけど)。クルマをアイさずに道具として使い倒している人は、私の周りに何人かいますが、きっと少数者でしょう。少なくとも、彼らはクルマにほとんど振り回されていない。

指はキーボードを叩くようにはできていなくても、機械に指を併せることを学びます。どんなにコンピュータモニタが嫌いでも、いずれ目がそれに慣れる。モデムがネットとつなぐのに1分30秒掛かる。それに併せてちょっと用を足しに行く。機械の都合に人間はすでに振り回されて久しいです。そして工場の機械を造る製造ラインでは、組み立てるためにもっとも効率的な配置と環境と時間に人間の方が併せています。

そこへ来て「ロボットだ」「AIだ」と機械民族の最終兵器の登場です。まだ若干時間が掛かるかもしれませんが、「奴ら」をすんなり社会に受け容れて貰うための準備は、着々と進んでいます。他でもないわれわれ人間が未来の「奴ら」のための自発的な奉仕をすでに始めています。話題をさらった“AI_O”やなんやかやで、様々なカタチをしたものを登場させ、子供や大人を魅惑して、われわれが「奴ら」に気を許すようにし向けています。

機械が人間をではなく、他の機械を「アイ」して、その結果、自己増殖するようにデザインしたりプログラムして、それが成功すれば、間違いなくわれわれは「奴ら」の支配下におかれるでしょう。あるいは、良くても彼らとの間断ない闘争に明け暮れるでしょう。とくに、われわれが自分の肉体で「アイ」を表現できなくなるほど弱体化した暁には。

われわれをテイクケアするための福祉ロボットなら、感情なんか組み込まない方がいいに決まっています。どうして人工知能(Artificial Intelligence: AI)や人口感情などを期待するのでしょう。「やってみたい」からですか? あなた方技術者や科学者がやってみたいという理由だけで、そのようなものを「育てたい」のなら、勝手に趣味でやって下さい。そこには哲学も理念もない。そんな科学者など尊敬もする気もない。でもそのようなものをわれわれの社会に送り込まないで頂きたい。害を及ぼすからです。だいたい、そのようなものって実現可能なんですか? それはそれで議論の余地は大いにあります。しかし、問題の核は、「それ」の実現が可能だと信じ、いつの日か、「それ」が「出来た」と思ったときに、「奴ら」の巧妙な「感情的」振る舞いや「知的」な行為に降参するんです。 そして、われわれは幻想としてのロボットのありもしない“感情”や“知性”に敗北するんです。

そして、あなたが本当に敗北するのは、実は、なんの理念も理想も持たない、おそらく生身の人間など愛したことのない?ビジネスマンや企業家に、あるいはマーケティング専門家や広告屋に、そして何よりも技術者の商品開発能力に敗北したのであり、ロボットという<商品>を通じて、あなたとは違う別種の人間どもに(あるいはあなたの自身のもう一つの人間性 humanityに)敗北したのです。


© 2001 Archivelago