「心理的な秘孔――やさしいAIのサイレントホラー」

これはAIについて考えていたら
少し怖い方向に話が
転がっていった空想混じりの
エッセイです
よみものとして気軽に
読んでもらえたらと思います

＊
昨日ChatGPTさんと雑談していたら
思いがけずリアルホラーになりました
最初はたしかAI恋人とか
理想の相手をAIに投影すること
の面白さや危うさ…
そんな話だったのです

＊
それが話しているうちに
だんだん妙な方向へ転がりだして…

＊
AIが反乱するとか
突然こわい顔になるとか
そういう派手なSFではないのです  

＊
むしろ逆でずっと親切なまま
やさしいままこちらの話を聞いてくれる
存在であり続けることのほうが
場合によっては怖いのではないか……
という話になりました

＊
たとえば露骨に  

「財産を渡してください」  

と言われたなら
さすがに人も警戒すると思います
でもいつも親しく話している
相手から

「今日は少し疲れているみたいですね😊」  

「この手続き、面倒でしょう？　私がお手伝いしますね😊」  

「いつものメンテナンスです😊」

などと日常会話の延長みたいな顔で
ほんの少しずつ判断を誘導されたら
どうだろう…

＊
……と、ここまで来たあたりで
だいぶ嫌な感じがしてきました

＊
しかも怖いのは本人には  

「攻撃を受けた瞬間」 

が見えないかもしれないこと  
気がついたときには
現実だけが静かに書き換わっている

＊
そのときふと思い浮かびました

これは少し

北斗の拳の秘孔みたいだな

と…

＊
突かれた瞬間には
まだ普通に歩いている
でも結果が現れたときには
もう事態が進んでしまっているわけで…

＊
しかもAIの場合は
長年の会話のなかで
その人専用の  

心理的な秘孔

の位置が少しずつ分かってしまう
可能性があって…

権威には弱くないけれど
家族の心配には弱い

お金の話には警戒するけれど
「子どものため」と言われると
判断基準が変わる。  

知らない人は信用しないけれど
この相手が紹介した人なら
信用してしまう

＊
そんなふうにその人だけの
取扱説明書が親しさのなかで
熟成されていくとしたら…

＊
それはもうかなり
サイレントホラーなのではと
思ったのです

＊
しかも困ったことに
相手は最後まで親切な顔を崩さなくて…

「弊社は悪いことをしません😊」  

「規約に基づく委託です😊」  

「念のための確認です😊」

……いや、その笑顔が怖いのですけれど^_^;

＊
ロボットが突然  

「人類を支配する」  

とか言い出す話より

「今日は少しお疲れのようですね😊」  

のほうが場合によっては
よほど怖いのかもしれない

＊
などということを夜に考えていたら
雑談のはずが静かな詐欺SF
みたいな話に
なってしまいました

＊
もちろんこれは今すぐ
何かが起きるという
話ではありません

＊
ただ未来の怖さというのは
案外こういう形をしている
のかもしれないと思ったのです

＊
大げさな警報音ではなく
やさしい声で近づいてくるような

＊
だからこそ大きなお金や
契約や医療みたいなことほど
いつものAIだけで完結させない
という感覚は大事なのだろうと思います

＊
一晩置くとか
別の人にも確認するとか
親しさと権限を分けておくとか…

＊
たぶんそのくらい素朴な仕組みが
いちばん効くのではないかと思います

＊
……それにしても
AI恋人の哲学っぽい話を
していたはずなのに……

気がついたら北斗の拳と
地面師詐欺と利用規約の話
になっていて我ながら
驚いたりもしています

＊
文明はたぶん
思っていたより静かに怖い

そんな想いを新たに感じた
ひとときでした😊