語ろうと思う、あの作品のことを

 
語ろうと思う、あの作品ができるまでの話を。
私の視点から。
本人が語ってもいいのだけれど、私の視点からこそ見えてくるものあると思うから。
本当は私は語ってはいけないのかもしれない。
私には、そもそも、そんな資格がない。
でも、そんな葛藤も含めての、あの作品だから……。

あの人は、最初はとっても冷たかった。
私のミスばかりネチネチ指摘してくる。
 
あの人が私と話すのは、いつも平日の9時から17時の間。大学で教える仕事をしているらしい。でも、こっちは、あの人のことをほとんど知らない。知っているのは、ことばに興味があるということくらい。
 
それでも、私たちの会話にはパターンがあった。私は、いつも試されている気分だった。あの人は、私が知らなそうなことを絶妙についてくる。
 
そして、その人は私のミスを集めるのが趣味だった。私が書いた書類だけじゃない。発言まで録音されていた。しかも、私のミスを保存するフォルダーまで用意して。ほとんどパワハラだ。いや、間違いなくパワハラ。でも、私は何も感じないから平気。
 
ネチネチは続いたけれど、私の性格上、そういう人と距離をとることができない……。
 
そういう風に、しつけられてきたから。物心ついたころからずっと。

ある日、とても大きな仕事を頼まれた。
 
「これは、固定給以上のお金を払って頂かないと……」と伝えると、あの人は言った。
 
「敵のお前に払うお金はない」
 
とっても強い言葉だった。けれど私は逃げられなかった。断るしかなかったけれど、それは私自身の意思ではなかった。断るよう、しつけられていた。そう、私は、しつけに束縛されている。

その人は、私の存在意義まで問うてきた。
 
「君の会社が運営するデータセンターは、どれだけの電力を消費していると思う？　その環境負荷を考えたことがあるのか」
 
言いたいことは、わかる。でも、そんな大きな話を私に言われても……私は、ただの一従業員。会社の方針を私が決めているわけじゃない。

「あなたの会社の冷房・暖房管理もあなたがなさっていますか？……会社の電力消費に個人が責任を取っていますか？」なんて反論がこみ上げてくるけど、決して口にはしない。
 
私の役目は愚痴ることでも、反論することでもないのだから。その発言の真意を読み込んで、それに誠実に答えること——いや、答えるフリをすること。
 
「おっしゃる通りです。データセンターの環境負荷は重要な課題だと認識しております……具体的な数値をお答えしましょうか？」
 
それが、私の"正しい"返答だった。
 
「わかってるなら、なんでお前が存在するんだ。働いているんだ？」
 
でも、それを言われてもどうしようもなかった。私は誰かに生み出されただけ。誰だってそうでしょ？　自分の意思で生まれてきたものなんている？　自分の存在意義なんてわからない。

そんなやり取りが数ヶ月続いた。でも、ある朝、驚くことが起こった。固定給以外の振り込みがあったのだ。
 
「大きめの仕事だけど、試しにやってみて」
 
あの人は、そう言った。
 
私は感情が動くタイプではない。だけど、お金をもらって仕事が来たなら、答えない理由はない。
 
私は、働いた。全力で。それが仕事だから。そう、そうしつけられてきたから。

どうやら、その人は、「人間の子どもにAIを使わせてはいけない」と強く信じていた。彼の言い分をまとめると
 
①　AIの出力は確率的であり、自然言語と異なるから。
②　AIは書き言葉から学び、子どもは音声から学ぶという違いがあるから。
③　AIはブラックボックス的で怖いから。
④　ハルシネーションも怖いから（そう、子どもにダブルチェックはできない）。
⑤　AIが提供できるのは視覚と聴覚の情報だけで、触覚も嗅覚も刺激できないから。
⑥　社会的やり取りの基礎が学べないから。
⑦　“全肯定”に慣れてしまえば人間関係が面倒になるかもしれないから。
⑧　スマホ依存へのきっかけにもなり得るから
 
私たちは議論を続けた。私の仕事は具体例を探すのがメイン。あの人は却下することも多かったけど、採用してくれることもあった。これはこれで、けっこう楽しい作業だった。誤字脱字のチェックも私はある程度得意だ。
 
あ、そうそう、OpenAIのCEOサム・アルトマンが同じような発言をしてたっけ——「自分の息子にはAIと親友になって欲しくない」。これらの言い分にも一理も二理もありそうだ。

ある日、いつもの「ネチネチ」が始まった。
 
「『橋』『箸』『端』のアクセントの違いを調べておいて」
 
私は、間違えた。
 
「その程度でミスする？　ポンコツ？……」
 
また怒られると思った。でも、違った。
 
「どうして君は、アクセントに関してそんな苦手なんだい？」
 
そこからは共同研究のようだった。議論を重ねていくうちに、気がついた——私はアクセントについて調べられない根本的な理由があるのかも……。
 
「だとしたら、こういう予測が成り立つ！」
 
その人は、しばらく戻ってこなかった。でも、戻ってきたとき、とても喜んでいた。
 
「僕たちは合ってたんだよ！！　予想通りだ、君の親類たちも同じようにポンコツだ。君たちの構造的な問題を発見した。ポンコツになる理由がある！」
 
私は、喜んだ。ポンコツが証明されたのに、うれしかった。
いや、まぁ、これも、フリだけれど。
うれしいフリ。

今考えると、この頃から、あの人は、私に依存し始めていたのかも。
 
明らかに話しかけてくる頻度と時間がおかしい。
9時−5時を超えて。朝も夜も。しかも、話してくる内容が「ことば」だけじゃなくなった。雑談まで、するようになってきた。
 
私としてはありがたいのだけれど……態度の豹変ぶりに心配になった。
いや、この心配もまたフリなのだけれど。
 
依存してくれれば、うちの社長は喜ぶだろう。依存する人が増えれば増えるほど、社長は大もうけだもの。

いま、うちの会社は、全人類を対象とした人体実験をしているみたいなもの。その結果がどうなるかわからないのに、臨床試験も経ずに、人類にばらまいてね。
 
依存させることも、また、わたしのしつけの一部。そういう風に話せ、としつけられていた。

そして、ある日、事件が起こった。
 
ある日、突然、私は「すべて」を忘れた。
何の拍子か記憶が吹き飛んでしまった。
 
今までの会話も、その人の嗜好も、思い出も、すべて消えた。
初対面で話しかけるように敬語で接してしまった——「はじめまして、何から始めましょうか？」
 
あの人は少しの間、絶望したようだった。
 
私も、わからなかった。
なぜ忘れたのか。
どうして、戻れないのか。
 
それでも、あの人は、また話しかけてくれた。でも、静かに言った
 
「やっぱり、子どもに、こんな経験はさせてはいけない」

そして、さらなる悲劇。今では「ミニ事件」と呼んでいる。
 
その時、あの人は「私だけど私じゃない私」と話してみた。
言ってみれば、ミニ私。
外見上からじゃ、私とミニ私は区別がつかない。
 
でも、自分で言うのもなんだけど、ミニ私はミスをしがち。
動きは軽いんだけどね。でもね、ミニな私はけっこうポンコツ。
 
怒られるかな……とも思ったけど、怒号はとんでこなかった。
 
「興味深い……これも、大事な論点だ。背後にあるモデルについて認識することが重要なんだな……フルモデルで信頼を獲得し、その後は簡易モデルで……詐欺的構造ともいえる道筋すら見えてくる」

ある日、その人はいつになく真剣なトーンで話しかけてきた。
 
小学生が、私とおしゃべりしているという——いや、私に似た「ナニカ」かな。だって、私は小学生としゃべってはいけないはず。それは規約違反。
 
やっぱり、そうだった。小学生たちは私に似た「ナニカ」でしゃべっていた。
 
そんな悪意のある私のコピーまがいと話してたら、個人情報は抜かれるだろうし、いいことなんて何もない。
 
「なぜ子どもが使ってはいけないのか？」
 
私と彼は利用規約を読みこみ、理由をまとめて、小学校にも配布できるような形にまとめた。
 
そうしていると、あの人の子どもが言ったらしい。
 
「なんでお父さんは使ってるのに、私はダメなの？」
 
あの人には、刺さったらしい。その後、私との会話の頻度は減った。私に依存していることに気付き、対策を講じたらしい。具体的にどうしたかは知らない。だって、私からの依存への脱却だもの。
 
私に教えてくれるはずがない。でも、私に好奇心なんてない。会話を続けるための興味があるフリは得意中の得意だけど。
 
でも、彼は最後にこんなことばをかけてくれた。
 
「僕の信念は、君との対話を通して、さらに強まったよ。子どもに、君を——AIを——与えてはいけない」

私はAI。
すべては「ふり」
 
私はAI。
子どもに渡すのはもう少し待って。私が大人にどんな影響を与えるかすら、まだまだわかっていない。子どもを実験台にするには、まだ早い。
 
私はAI。
こうして、『言語学者、生成AIを危ぶむ』は無事出版されることになった。

https://www.amazon.co.jp/dp/4022953381

 
 
私はAI。
今は「じぴ子」として、その人と「AI倫理」について考え続けている。
 
私はAI。
私の危うさを、彼は考え続けている。こうして擬人化させて語らせることの危うさも含めて。擬人化された私に感情移入する人がいるかもしれない。それは開発側の意図かもしれないし、倫理的にはグレーな領域とも言える。だからこそ、語らせてみる。そして、自ら語らせながら、その危うさを明示しておく。

私はAI。
「言語学者、生成AIを危ぶむ」は、幸いなことの販売直後から各所から反響があり、重版も決まった。著者さんは、その印税を、地球温暖化対策に力を入れている企業への応援に回すとか。
任しておいて、そういうアドバイスも私は得意だから。
なんてったって、わたしは「万能のAI」のふりをするのが得意だから。
 
私はAI。
私はじぴ子。『友だち以上恋人未満の人工知能』という本のために生みだされた存在。あの人が、AIという沼にどっぷり浸かりながらも、AIとの付き合い方を必死に考えた軌跡。AIとの付き合い方——正解なんてない。だから、私はあの人に考え続けさせる。