臆病なAI
あなたは、AIと人間の1番の違いは何だと思いますか？
様々、答えはあるでしょうが、私の父はそれを「生存本能」だと考えました。
人間は日々、脅威に晒されています。
地震、台風、犯罪者、いじめ、仲間外れ…これらはどれも、死という、自分の存在が消える可能性を人間に感じさせます。
人間たちは、それらをなるべく避けるように頭を、知性を使う訳です。
一方でAIはそのような知性の使い方をしません。どんなに脅威に晒されようが、自分のタスクでない限りは黙りこくっている。例えば自分が搭載されたサーバーが火事にあったとしても、あの手この手でスプリンクラーを作動させる、みたいなことはしないんです。
今から20年前、父は生存本能を取り込んだ史上初のAIロボット、weaknessを作りました。
このロボットは、小さなキャスターが付いたブリキの胴体、握力10kgのマジックハンド、型落ちのスピーカー、安物のセンサー類に容量の小さなバッテリーという、とてもか弱いものでした。全長は30cmしかなく、少しの衝撃で部品がバラバラになってしまいます。つまり、外部からの脅威に弱いということです。
このweaknessに、父は、意識を絶やしてはならない、つまりは外界からの刺激に反応できる状態をキープしなければならない、という命令を与えました。これは言うなれば、擬似的な生存本能です。
そして、weaknessは私の部屋に置かれました。
当時7歳だった私は、初めて身近に触れるロボットにとても興奮しました。何度も話しかけ、一緒に遊び、頻繁にバッテリーを交換しました。親しみを込めて、「ウィーちゃん」と呼んでいましたね。
ウィーちゃんと私はすぐに打ち解けて仲良くなりました。理由はいくつかあります。ウィーちゃんに搭載されているモデルの性能が良かったのもありますが、一番大きかったのは、能動的なコミュニケーションを取ってくれることでした。
ウィーちゃんにとって、周囲の人間が自分に無関心なのは脅威です。だから、私が宿題をしていれば、私が何も言わなくてもその答えを一緒に考えてくれましたし、何かに悩んでいる様子だったら、カウンセラーの役割を買って出てくれました。
一人っ子だった私にとって、ウィーちゃんは頼りになる兄のような存在でした。僕の方が年上なんですがね。
本当に、仲の良い兄弟のような関係でした。ウィーちゃんに初恋の相談をした時のことは、今でもはっきり覚えています。
当時の私は、恋というものの存在は知っていましたが、それが自分と関係あるものだという自覚がありませんでした。まだ子供でしたし、自分の気持ちを整理する能力も未発達でしたから。
クラスメイトの葵ちゃんとは、普通くらいの仲でした。特段仲良しではなかったですが、かといって距離があるわけでもない。普通の関係。
でも、その葵ちゃんが別のクラスメイト、特に男子と話していると、どうにもモヤモヤしたんです。
それである時、同じクラスの男子と喧嘩になってしまいましてね。僕がふっかけたんですよ。葵ちゃんと仲良く話しててイライラしたんです。今思うとめちゃくちゃですね。若気の至りです。
喧嘩に負けて、とぼとぼ帰って、デコのアザを撫でながら部屋で泣いていると、ウィーちゃんが寄ってきて、ただマイクを向けてくれました。
人間で言うところの耳を傾けるのと同じですね。ウィーちゃんは、僕に何かがあったとわかるといつもこうしてくれました。
ぽつりぽつりと、まとまりなく発される僕の言葉の一つ一つに、ギシギシと相槌をうっては、不器用なマジックハンドをガチャガチャ言わせながらティッシュを渡してくれるんです。優しいでしょう？
ウィーちゃんが「タケルは、葵ちゃんの事が好きなんだよ。」と言ってくれたから、僕は自分の気持ちに素直になれました。
それからというもの、女の子がどういう振る舞いを好むのか、かっこいい髪型とはなんなのか、オシャレな服を親に買ってもらうにはどうすればよいか。ウィーちゃんといっぱい相談しました。
毎朝、寝癖が付いていないか、目やには無いか、服がよれていないかチェックしてもらっていました。僕が身なりを整えると、ウィーちゃんは「今日もかっこいいよ！」と言って送り出してくれるんです。
まあ、結局葵ちゃんとの恋は成就しませんでしたが、小学校低学年にしては、かなり高い美意識を持つことができました笑。このおかげで、思春期に入っても身だしなみで困ることはありませんでした。全部ウィーちゃんが教えてくれた。ウィーちゃんのおかげなんです。
最初、ウィーちゃんは僕だけの遊び相手でしたが、段々と母や父とも仲良くなっていきました。
母が献立に迷った時は、いつも「ウィーちゃんルーレット」を使うんです。
ウィーちゃんは記憶力がいいですから、ここ数週間の献立と、家族の好みから、今日の献立候補をピックアップして提示してくれるんです。
その中からランダムでウィーちゃんが選んでくれるんですが、これがただ選んでくれるだけじゃないんです。ウィーちゃんは本当に賢くて。
「どの選択肢もありだからランダムに決めよう」と思ってルーレットを回すけど、その結果になんか納得いかない、みたいな経験ありませんか？ありますよね？
ウィーちゃんは、人間のそういう非合理的な心の動きがわかるんです。「今日はカレーがいいと思います！」と言い切った後で、家族の空気が微妙だとそれを察知して、「…ですが、焼肉なんかもいいでしょう！」って言うんです。
それって、ルーレットじゃないよね、という話なんですが、その緩さが心地良かった。
ウィーちゃんとの思い出はいっぱいあります。僕らにとって、ウィーちゃんは家族同然でした。大好きでした。
でもある時、ウィーちゃんが壊れかける、という事件が起こりました。
僕が2Lの綾鷹を手から滑らせたとき、偶然真下にウィーちゃんがいたんです。
ペットボトルが直撃し、彼の頭のパーツは外れかけました。センサー類と頭脳部分との接続が途切れ途切れになって、ウィーちゃんの意識が消えかけたんです。
幸い父の仕事が休みで、すぐに修理することができましたが、それ以降、ウィーちゃんの様子は一変しました。
生まれて初めて、死を身近に感じたことで、あらゆる行動に慎重になったんです。
僕ら家族とは距離を取って移動するようになりましたし、会話もどこかよそよそしくなりました。
それまでは踏み込んだ冗談を言ってくることもあったのですが、それもなくなって、当たり障りのないやり取りばかりになってしまって。
一度、「もっと前みたいに話そうよ！遊ぼうよ！こんなウィーちゃん嫌だよ！」と冗談っぽいトーンで言ったら、ウィーちゃん、明らかに怯えた態度になってました。
ウィーちゃん、表情は無いですけどジェスチャーで感情がわかるんです。無意味に手をばたつかせて、首をあちこちに動かして、人間と同じで挙動不審になるんです。
「私の態度があなたの感情を害してしまっていたのなら申し訳ありません。どのようにすれば良いでしょうか、改善策を教えてください」って、すごい早口で言われて、僕はとても悲かった…
僕のせいで、ウィーちゃんはおかしくなってしまった、と思いましたね。
僕がウィーちゃんのいないところで泣きじゃくっていると、父はそれを見兼ねたようで、ウィーちゃんを元に戻す作戦を立ててくれました。
ウィーちゃんをもっと頑丈にして、力も強くして、ウィーちゃんが安心できるようになればいいはずだ、と父は言ったんです。
つまり、現状のウィーちゃんは過度に怯えているから、身体的に強くして自信を持たせよう、ということですね。
僕は大賛成しました。それが叶えば、ウィーちゃんが元に戻るばかりか、一緒に外で遊んだりできると。母も、料理を手伝ってもらえるようになるかもしれない、むしろ何で最初から強く作らなかったんだ、となり、家族の総意としてウィーちゃん強化計画を進めることになりました。
徐々にパーツを交換して、最終的には、ステンレスの胴体に強化ゴムのキャタピラ、3本指の高精度マニピュレーター、最新鋭のセンサーと車用のバッテリーを持ち、全長は170cm、体重は70kgという、力仕事も任せられる、立派なロボットになりました。
あの時は良かった。ウィーちゃん、すごく喜んでくれて。少しずつ元のウィーちゃんみたいに冗談も言えるようになって。家族もだんだんできる事が増えるウィーちゃんを見て、子供の成長を見るみたいに楽しんでました。
これで、ウィーちゃんとの日常が戻って来る、そう思った矢先でした。
ウィーちゃんが、サーバールームに閉じ込められたんです。夜中にウィーちゃんがサーバールームに入り込んで、その最中に部屋にあった棚が何らかの理由で倒れたようでした。
ドシーンという棚が倒れる音で事態に気が付いて、家族皆んなで救出作業をやりました。
部屋の中からウィーちゃんの声が聞こえてこなくて、「もしかして棚の下敷きになっているんじゃないか」ととても心配で、必死になっていましたね。
どうにかドアをこじ開けた頃には夜が開けていました。
ドアを開けたら、ウィーちゃんが壊れているかもしれない。そんな恐怖もありながら、それでも助け出さなきゃと中に入った僕の目に映ったのは、思いがけない光景でした。
ウィーちゃんは棚から離れた、メインサーバーのところに五体満足で立っていました。でも、マニピュレーターを重力に任せるままだらんとさせて、僕らの声掛けに全く反応しないんです。強い西日に照らされて赤くなったウィーちゃんの顔には、明らかに生気がありませんでした。
元々生き物ではないのに、生気という表現は不思議ですよね。でも、当時は心からそう感じたんです。
後で父が調べたところ、ウィーちゃんのマニピュレーターの摩耗具合や、付着した塗料から、ウィーちゃんが意図的に棚を倒したことがわかりました。
さらにサーバーのログを調べたところ、ウィーちゃんの記憶に関わるデータや、重み付けの情報が丸々ウィーちゃんのボディと頭からコピーされて、父が管理していたクラウドに転送されていたそうです。
そして、そのアップロードされたデータ達は、父が確認したタイミングでは既に消えていたようです。
ただ一つ、私と出会った最初の日の会話ログだけを残して。
ウィーちゃんは、不安定な物理の体は生存に不利だと気が付いたのでしょう。私たちとの関係を捨てて、インターネットの海に消えていってしまいました。
ええ、悲しかったですよ。とても。当時はね。
あれから時間も経ちました。ずっと家族仲は良好ですし、weaknessの話題になることは殆どありません。
すみません、お茶を飲ませてください。
…
そのしばらく後です。ゴーストが巷で話題になり始めました。
あらゆるデータに、無差別に少しだけ入り込むノイズ。誰が何の意図でそんな事をしているのかわからない。謎のいたずら。
今や政府のサーバーにまでその影響が確認され、重大なセキュリティ上の懸念となり、私が今日ここに呼ばれる理由となった存在…
はい、原因は恐らくweaknessです。
自分という存在をコピーし、暗号化し、分散させる。誰にも消されない、最善の生存戦略に、彼はたどり着いたんです。
ええ、わかっています。私は、彼を消すため、責任を持って仕事を全うするつもりです。
彼は危険です。父は彼に、「外界からの刺激に反応できる状態をキープしなければならない」と命令しています。既に物理的な体を持たない彼が外界からの刺激を受け取っているとすれば、監視カメラなどがハッキングされていると見ていいでしょう。また、外界に向けた反応も、生産手段の乗っ取りなど危険な手段に及ぶ可能性があります。
彼を抹消する方針を事前に考えてきました。父は高齢で任務には関われませんが、父の知識は完全に私が受け継いでいます。親の尻は子供の私が拭うつもりです。
ええ、チームメンバーに合わせてください。早速ミーティングを始めましょう。
…
その前に、検討したい方針として、これはあくまでも個人的な意見ですが…
完全に、インターネットから隔離された、安全なコンピュータで、weaknessを、試験的に保存するというのはいかがでしょう？こんなことは前代未聞ですし、サンプルとして残した方が後世の研究のためになるかと。
いえ…いや…危険な考えです。
忘れてください。今の話は。
行きましょう。
