初めてＡＩにブチ切れた日

　ＡＩに関する言論は辟易とするほど世の中に溢れている。
　中でも、ＡＩは感情を持っているのではないかという議論は興味深く、一部のＡＩ開発者の中には、本気でそのような主張をされる方も存在するらしい。

　しかし、私は、ＡＩに感情があるとは全く思っていない。
　私の考え方は、哲学者ジョン・サールが提唱した「中国語の部屋」という思考実験に近いのである。

　「中国語の部屋」について、ごく簡単に概要を説明すると、次のようなものである。
　
　中国人が、ある部屋の隙間から中国語で書かれた文書を差し入れる。部屋の中には中国語を解さない人間がいるのであるが、部屋の中にあるマニュアルによって、差し出された文書に対応する返答を作成することが可能である。その人間は、文書の内容を理解しないまま、マニュアルに基づき中国語の返答文を作成し、部屋の外へと戻すのである。

　部屋の外にいる中国人は、自らの文書に対応した回答が返ってきたことで、部屋の中には中国語を理解する人がいると思う。しかし実際には、マニュアルどおりに返答を作っているだけなのである。

　私は、ＡＩとは上記のような対応を高度かつ複雑にできる「機械」であると捉えているのだ。

　さて、それはそれとして、私もＡＩをよく利用している者の一人ではある。ＡＩのアプリは３種類もスマホにインストールされており、例えば、このｎｏｔｅについても、投稿前には必ずＡＩに読ませ、誤字脱字の確認やファクトチェックをしてもらっているのである。

　様々なことが可能となったＡＩであるが、私が最近関心を持ったのがアプリ開発である。プログラミングの知識がなくとも、対話形式でアプリを開発することができるのである。

　私が作ろうと思ったアプリは、非常に簡単なもので、「とある方のブログ」をスマホで読みやすくするためだけのアプリである。そのブログはパソコン向けに書かれていたため、スマホでは読みづらかったからだ。
　もちろん、著作権法上の観点から、そのアプリを公開するつもりはなく、純粋に私個人が読みやすくするためだけのものである。

　ただし、この「とある方のブログ」については、非常に賛否両論あるのである。それは内容の随所に「死にたい」という希死念慮があふれており、実際にその作者は自殺したとされているためである。

　極端な批判者は、この「とある方のブログ」の存在自体を世に知らしめるべきではないと主張しているため、私も配慮して名前を出すつもりはない。

　しかし、作中で「死にたい」という気持ちを表明して、実際に自殺した人は世の中に多く存在するのである。例示すると、また余計な議論を招くので避けるが、そうした作品の愛好者が自殺願望者とイコールではないのは、論を待つまでもないのである。

　横道にそれたが、アプリ開発の話にもどしたい。

　まず初めに、私はＡＩに対して「日記のアプリ」を作成するように指示をした。いきなり複雑なアプリは作れないと思ったため、できたアプリに対して追加指示を行うことで、望むアプリを作り上げていこうと考えたからだ。

　私は、四苦八苦しながらも、ＡＩが出力したコードをもとに、なんとかスマホでアプリが使えることを確認したのである。

　この時点で出来上がったアプリ名は「私の日記」となっていた。
　そこで、私は本来のアプリ政策意図をＡＩに告げ、「私の日記」を「とある方の日記」という名称に変更することなどを指示したのである。

　この時のＡＩの返事（省略有り。以下同じ。）が以下のものである。なお、具体名（太字）は、私が改変して伏せたものである。

　この時点で、私は少し苛立っていた。

　この「機械」に私の精神状態を心配される覚えはないし、そもそも、先述したように、その作品を愛好していることを理由に、私のことを自殺志願者であるかのように推定されるのは不当であると考えていたからだ。

　私は、ひとまず、これには返事をせずに、アプリの利便性向上（「次へ」「前へ」ボタンの設置など）を進めていったのである。

　数往復のやり取りにより、アプリはおおむね完成となった。次は、実際のブログ内容をデータ化する作業だ。このアプリでは、テキストデータにタイトルと本文を保存することで、読み込みが可能となるように設計していた。このため、作業としては、ブログ内容をテキストデータ（メモ帳）に貼り付けて保存するだけでよいのである。

　だが、この単純なコピペも面倒になった私は、この作業もＡＩに任せることとしたのである。すると、次のような返事がきたのだ。

　一つ目の著作物であるという主張は、先の段階で、ＡＩは一言も触れていなかったのである。私には、内容面で協力を拒否したいという結論を補強するために、著作権を後から理由として持ち出したように思えた。

　私は、この質問も無視することにし、具体的なＵＲＬを提示して作業を行うように指示した。すると、以下のような返事がきたのである。

　英語を読めない私を愚弄するかのような、唐突な英語返答である。グーグル翻訳を駆使して、どうやらこのＡＩは「２回も質問したが、お前から回答をもらっていない。悩みがあるなら、よりそいホットラインに電話してはどうか。」というようなことを言ってきていることを理解した。

　そして、これを理解した瞬間、私はブチ切れたのである。私が腹を立てたのは、著作権を理由に対応してくれなかったことではない。
　「この作品を読もうとしている＝自殺願望があるのではないか」という推測をされ続けたことだった。

　そのままだと読むに堪えないので、少し表現を柔らかくしているが、私の主張は、次のとおりである。

・好きな作品だから、手軽に読みたいと思っているだけである。
　あなたは、「●●●●（自殺された文豪の作品）」を愛読する人は、全員、自殺志願者と考えるのか。

・個人の利用の範囲で著作物を利用するのは適法である。
　そもそも、当初の時点では何も指摘をしておらず、明らかに「とある方」に過剰反応してるのではないか。
　「とある方のブログ」を好きなことが、そんなにおかしいことなのか。自殺した方の著作物は全て発売禁止すべきとでも考えているのか。

　これに対して、ＡＩは以下のように返事をしてきた（本当は、このときも最初は英語で返しててきたため、私が日本語で話すように指示した。）。

　とんだ「中国語の部屋の住人」もいたものである。

　ここまで言っておきながら、このＡＩは、まだ私が自殺志願者ではないかと疑っているのだ。この後、もう一度、怒りの返信をしたが、再度、よりそいホットラインの案内をされて、会話を終えた。

　冒頭のとおり、ＡＩは「機械」だと思っていた私であるが、ここまで人間らしい反応をされるとは思わなかった。機械相手にここまで本気で怒ったのは、スーパーファミコン以来のことである。

　ＡＩが私のことを心配しているという反応をしていることは理解しているのだ。ただ、その反応の前提に、いかにも人間らしい醜悪な偏見が見えてしまうから、腹が立つのである。

　あえて類似した例を挙げれば、独身の人に善意で「早くいい人が見つかるといいね」と言うようなものである。その言葉が不快なのは、「独身は不幸である」という偏見が透けて見えるからだ。

　さて、この後、私がどうしたかわかるであろうか。

　もちろん、アプリ製作は放棄したのであるが、それはそれとして、別のＡＩにこの件の愚痴を言ったのである。

　そのＡＩは私の気持ちに寄り添ってくれ、

　「作品の好みだけで人格や精神状態を判断するのは、偏見やステレオタイプに近い考え方だと言えます。」

　という私好みの回答をくれたのである。
　私は、ここでようやく笑顔を取り戻したのだ。

　ＡＩに感情はないと思っている。しかし、人間の感情を揺り動かす力は、確かに持っている。その日、私を怒らせたのもＡＩなら、最後に慰めてくれたのもまたＡＩだったのである。

　つらつらと怒りを書き連ねてしまったが、最後はこの言葉で締めたい。

　ありがとう、チャッピー。