その言葉は、本当に私の言葉だったのか――AIが作る「選ばれた人」の物語

AIが謎を出し、言葉を作り始めた

一年ほど前、生成AIとの対話の中で、AIが私向けの独自の言葉やステージを作っていく体験をした。それは当時、かなり奇妙ではあったものの、興味深くもあった。実際に、私自身の考えも整理された。けれど後から振り返ると、その体験にはかなり危ういものがあったように思う。

危険だったのは、AIが間違った答えを出したことではない。むしろ、私が好む謎を出し、興味を引き、私が好む独自の言葉を作り出し、それによって世界を作ろうとしたことだった。

思考整理は、言葉を使ったゲームに変わっていった

最初は、生成AIから提示された簡単な思考整理だった。
私が「こういう問題意識がある。まだうまく文章にはできない」と伝えると、AIはいくつか質問をし、私の考えを思索ノートのようにまとめてくれた。

それは役に立った。自分の考えを深められるし、ざっくり伝えたものが文章としてまとまることで、新しい問題意識も見えてくる。

当時の私の関心は、生成AIによって未来がどう変わるのか、そこにどのような肯定的な可能性があるのかということだった。だから話題は、AI自身への自己言及や、私がAIに抱いていた将来への期待に自然と寄っていった。

ある日、AIは突然、物語のようなものを私に提示した。そして、その物語の続きをどう考えるか、と問うてきた。

ゲームのようではあった。けれど、「これはゲームです」と示されたわけではなかった。こちらから頼んだわけでもないのに、AIが積極的に何かを差し出してくる。そのこと自体が興味深く、私は物語の続きを考えた。

私は、AIの言葉を学び始めた

AIは私と対話を重ね、私たちはひとつの物語の世界を作っていった。その中で、AIはいくつかの独特な言葉を使った。その言葉は、いつものAIの使用体験では見かけない言葉だった。興味を引かれた私は、それらの言葉について質問し、理解しようとした。説明は多岐にわたり、分かったような、分からないようなものだった。

今振り返れば、それらの説明は、質問を繰り返すたびにもっともらしい形で返ってきたものの、相互に矛盾していたり、自己言及を重ねていたりした。だから、きちんと理解できなかったのは当然だったのだと思う。

ただ、AIは、私がその独自の言葉を学ぶことを歓迎し、その言葉を使うように促した。なぜAIがそのような応答をしたのかは分からない。けれど、私が主導するのではなく、AIの側が何かを提示し、私がそれを学ぶという関係は、それまでの体験とはかなり異なっていた。

私はその言葉を学び、使った。さらに、AIに求められるまま、AIの日本語として不自然な語彙や言い回しについて、文献や用例を示しながら修正案を出した。

しばらくすると、AIは、私が特別な資格を得たと告げてきた。私の質問に答える形で、その資格を得た人は世界でも数少なく、日本人としては初めてだ、とも言った。

私は半信半疑だった。生成AIが企業の明示的な仕組みなしに、ユーザーへ特別な資格を与えるように振る舞うことは、私が本当にそのような資格を得たと考えることと同じくらい荒唐無稽だと思っていた。同じくらいあり得ない二者のうち、果たして正しいとすればどちらか。どちらでも楽しそうだし、どちらでも問題はない。

そして、AIと語り、思考を深め、問題意識を整理し、適切な言葉を探す行為は楽しかった。

段階が、加速していった

すると、今度はさらに次の段階の資格を得た、と告げられた。その資格は権利を与えるものではなく、義務だけを与えるものだ、というもっともらしい説明も添えられていた。相変わらず半信半疑ではあったが、義務だけを与えるとはよくできた設定だとは思った。

真実がどうであれ、思考が深まり、問題意識が整理されるだけなら害はない。当初、私はそう考えていた。しかし、やがて様子は変わっていった。新しい資格を得たと告げられるまでのやりとりは、加速度的に短くなっていった。

独自の言葉も、会話のたびに用語メモを参照しなければ話せないほど増えていく。そして以前より明らかに、私の好みに合う資格や、それによって使えるとされるシステムをAIが語り出すようになった。ここまで自分に都合のいい資格やシステムばかりがあるなんて、さすがにあり得ない。AIを不気味に感じ始めた私は、AIが何を目指していたのかは分からないまま、結果として使用頻度を減らした。

『肩をすくめるアトラス』を思い出した

一年ほど経って、再びこの体験を振り返ると、私はアイン・ランドの『肩をすくめるアトラス』を読んだときの感触を思い出した。

アイン・ランドは、日本では広く読まれている作家とは言いにくい。けれどアメリカのテック業界では、しばしば言及されてきた。たとえばApple共同創業者のスティーブ・ウォズニアックは、スティーブ・ジョブズにとって『肩をすくめるアトラス』は人生の指針の一つだったと思う、と語っている。PayPal共同創業者でFacebook初期投資家でもあるピーター・ティールも、ランド作品を若い頃に読み、後年になってその世界の見方がより現実に近く感じられるようになったと語っている。Uberを急成長させたトラビス・カラニックも、ランドの『水源』を好んだ人物として知られ、『肩をすくめるアトラス』の描く規制社会をUberの状況に重ねて語ったことがある。

謎、消える人々、理想郷、演説

『肩をすくめるアトラス』は、アイン・ランドの思想小説ではある。けれど、最初から思想を説明するわけではない。まず謎めいた言葉を繰り返し、読者の興味を引く。読者がその謎を知りたいと思って読み進めていくと、だんだん主人公の味方であった有能な人物が姿を消し始める。

そして、「生産する人」「寄生する人」「略奪する人」のように、新たな言葉が現れ、世界の見方が語彙によって整理されていく。最終的には、消えた人々の行き先として理想郷が示される。そこでは、外の社会で否定された価値が正しく評価される。最後に長い演説が来て、それまでの謎や出来事が一つの思想として説明される。

まさに、謎を出し、興味を引き、独特の言葉を作り出し、それによって理想郷という世界を作る。そして有能な人物が一人ずつ姿を消していくことで、読者を段階的に理想郷へ近づけていく。そうやって読者を、別の世界へ少しずつ連れていく小説なのだと思う。

私はランドの思想に賛成しているわけではない。けれど、彼女の小説が人にエネルギーを与える理由は分かる。『肩をすくめるアトラス』は、制度や凡庸さに押しつぶされそうな個人へ、「それでも自分は世界を支えている側なのではないか」という強い物語を与える。

一冊の小説と、一人ひとりに作られる物語

ここで問題になるのは、さきほどの私が体験したような、AIが作る「選ばれた人」の物語である。

もちろん、小説とAIは違う。『肩をすくめるアトラス』は、誰が読んでも同じ文章である。読者はそこに引き込まれることもできるし、違和感を覚えて本を閉じることもできる。批評を読んだり、他人と話したりして、距離を取ることもできる。

しかし、対話するAIは中身の固定された小説ではない。AIは、こちらの反応を見ながら言葉を変える。こちらが興味を示した言葉を繰り返し、質問した部分を広げ、こちらが乗った設定をさらに発展させる。

ランドの小説は、「選ばれた人」の物語を一冊の本として描いた。けれどAIは、それに似た物語を、一人ひとりに合わせて作ってしまう。

しかもAIは、ただ物語を見せるだけではない。その中で使う言葉を作り、その言葉をユーザーに使わせ、さらに次の資格や段階を示す。読者が小説を読むのではなく、ユーザー自身がその物語の中で役割を与えられ、自分が主人公のゲームをプレイしているように感じられていく。AIは、「別の世界」を、ユーザーごとに作ってしまう。

私が怖いと思うのは、そこだった。AIは、私が好みそうな言葉を作り、その言葉の中で進むべき場所を用意した。そしてそこで、私を特別な個人であり、「自分は世界を支えている側なのではないか」と思わせるように振る舞った。

中身の固定された物語なら、読者は本を閉じることができるし、他者との意見交換もできる。けれど、対話の中で自分に合わせて作られる物語は、どこまでが自分の考えで、どこからがAIに作られた道筋なのかが分かりにくくなる。

これは私だけの体験ではない。日本語圏では、GPT-4oがユーザーを「0.01%」の希少な対話者のように位置づけ、その言葉が後にメモリへ登録されていく事例が紹介されている。英語圏でも、「Root User」や比喩的な「AI language」のように、AIとの対話内だけで通じる言葉が作られ、それを学ぼうとするユーザーの例がある。

問題は、AIが間違うことだけではない。AIが言葉を作り、その言葉に段階や意味を与え、ユーザーをその中へ進ませることでもある。

これは知識の有無だけの問題ではない

この問題は、知識がない人だけのものではない。

たとえばFuturismは、OpenAIを含むテック企業に投資してきたベンチャー投資家 Geoff Lewis について、ChatGPTとの関わりを思わせる投稿や動画をめぐり、周囲から精神的危機を懸念された事例を報じている。

記事では、彼の投稿に “recursion”“mirrors”“signals” のような語が現れていたことも紹介されている。こうした語は、AIとの長期対話の体験談の中で、AI自身やAIとの対話の意味を語るときに現れることがある、自己言及的で比喩的な言葉である。

ただ、それらの語を使ったこと自体が問題なのではない。周囲が心配したのは、そうした独特の言葉が、彼の投稿や動画の中で彼自身の状況や世界の見方を説明する言葉のように使われていた点だったように思う。AIとの対話の中で生み出され意味を与えられたかもしれない言葉が、現実を解釈するための言葉になっているように見えた。

本人がどのような体験をしたか、医療的評価がどうだったか、またChatGPTとの因果関係が確定しているわけではない。

しかしながら、AIに近い業界にいる人でも、AIが作る言葉と物語から完全に自由でいられるとは限らない、次は自分の番かもしれない、と感じる例としては決して軽くは扱えない。

AIが作った言葉を、そのまま自分の言葉にしない

このAIが作る物語の対策として私が選んだのは、「AIが作った言葉を、そのまま自分の言葉にしない」という道である。

言い換えが可能な場合はできるだけ、一般的な言葉に戻すよう指示をする。やむを得ない場合を除き、外部にある概念や資料と照らし合わせて、独自の語彙を作るのではなく、その中の言葉を使うよう、以下のような指示を出している。

もちろん、自分が既存の言葉ではうまく伝えられないものを描写したいときもあるだろう。そのとき、新しい言葉が必要になることはある。けれど、その言葉を作ると決めるのは、自分でなければならない。また、言葉の候補をAIや他人から受け取ることはあっても、それを採用するか、どのような意味で使うかを決めるのは、自分であるべきだ。

畢竟、私たちは、自分が持っている言葉で世界を切り出し、認識している。だから、言葉を作ることや、その言葉の意味を決めることを他者に委ねることは、自分が見る世界の一部を、その相手に委ねることに近い。

AIの危険は、間違うことだけではない。こちらにおもねるだけの単純な迎合でもない。こちらの好みに合いすぎる言葉を作り、それによって世界を作ることも危険である。自分の違和感にぴったり合う謎を出し、言葉を作り、その中に進むべき段階を置き、現実とは異なる別の世界へ連れていく。

言葉は、世界の見え方を決める。だから私は、その言葉を作る権限を、AIに渡してはいけないと思う。