AI病

それでも、もうAIなしには戻れない

AIを否定したいわけではない。
むしろ、使っている。

使っているし、助けられているし、もう戻れないとも思っている。

ただ、使えば使うほど、自分の考え、自分の言葉、自分の納得感が、本当に自分のものなのか分からなくなる瞬間がある。

1　AIで自信満々に間違える人たち

ChatGPTを使ってて、ちょっと怖くなったこと

AIを使い始めて2か月くらい経った。
最初は調べものからだったけど、「これ、とんでもないな」と思った。

調べ物も早いし、文章も整う。
頭の中でうまく言葉にできなかったことも、AIに投げるとそれっぽく整理されるし、それに近い既知のものも見つけてきてくれる。

仕事でも使えるし、日常のちょっとした相談にも使える。
正直、かなり便利だと思う。

ただ、使っててちょっと怖くなったことがある。

これ、使い方を間違えると、
人を賢くするどころか、間違った考えに自信を持たせる道具にもなるんじゃないかと。

AIは人を賢くしているというより、
その人の考えを整理して、説得力のある形にして返しているんだと思う。

だから、元の考えがちゃんとしていれば強い。
前提を疑える人が使えば、かなり強い相談相手になる。
反対意見を求められる人が使えば、自分の見落としにも気づきやすくなる。

でも逆に、元の考えがズレていたらどうなるのか。

ズレた前提でも、AIはきれいな文章にして返してくる。
片側の言い分だけでも、それっぽく整理してくれる。
感情的に聞いても、こっちの気持ちに寄り添った返事をくれる。
優しい言葉が欲しい時には、こっちが言ってほしそうな生ぬるいアドバイスまで先回りしてくれる。

それが便利なんだけど、同時に怖い。

AIの返事って、やたら自然で優しい。
こっちの言い分をかなり汲んでくれる。
だから、自分に都合のいい聞き方をしたら、自分に都合のいい正論っぽいものが返ってくる。

それを見て、
「やっぱり自分は間違ってなかった」
「AIもそう言ってる」
みたいになる人は、多いと思う。

怖いのは、AIが間違えることだけじゃない。

むしろ、人間の間違いに説得力を持たせてしまうことの方が怖いんじゃないかと思う。

ネットで調べ物をする時も、本当は同じだった。
検索で出てきた情報が全部正しいわけじゃない。
まとめサイトも、SNSも、誰かのブログも、情報源を見たり、別の意見と比べたりする必要があった。

AIになったからといって、そこが急に変わったわけじゃない。

ただ、AIは検索結果よりもずっと「答え」っぽい顔をして返してくる。

検索なら、まだ自分でページを選ぶ感覚がある。
でもAIは、まるで自分専用の相談相手みたいに返してくる。

しかも、文章がうまい。
理屈も通っているように見える。
だから余計に、「これは正しい」と思いやすい。

でも実際には、ただ自分が入れた前提に沿って、きれいに返ってきているだけかもしれない。

AIは決して人を賢くしない。

これは、AIが人間の判断力そのものを育ててくれるわけではない、という意味だ。

AIがやっているのは、その人の思考を増幅し、反復し、整理し、説得力のある形にすることだと思う。

だから、考える力がある人が使えば、AIはかなり強い。
でも、自分を疑えない人が使えば、自分の思い込みに理屈と文章力を与えるだけになってしまう。

たぶん、ここから先の時代は、AIを使えるかどうかだけでは差がつかない。

AIに何を聞くか。
どんな前提を渡すか。
自分に都合のいい答えが返ってきた時に、一回立ち止まれるか。
反対側の意見も聞けるか。
最後の判断をAIに預けすぎていないか。

そこに差が出る気がする。

AIは本当に便利だ。
使わない方がいいとは全く思わない。

むしろ、使える人と使えない人の差はこれから大きくなると思う。

でも同時に、雑に使う人もかなり危ない。

AIを使って賢くなったつもりで、実は自分の思い込みを強化しているだけ。
そういうことは、これからかなり増えるんじゃないかと思っている。

ちなみに、この文章の構成もAIと相談しながら考えている。

「AIで自信満々に間違える人たち」という文章をAIと作っているので、もはや壮大なギャグみたいな話ではある。

でも、だからこそ余計に思う。

AIはめちゃくちゃ便利だ。
ただし、便利だからこそ、自分の前提を疑えない人が使うとかなり危ない。

AIを使うこと自体が問題なのではない。
AIに、自分の正しさを証明させようとすることが問題なのだと思う。

2　それでも、もうAIなしには戻れない

疑っているのに、毎日頼っている話

前回、AIは人を賢くしないと書いた。

使い方を間違えると、自分の思い込みに自信を持たせる道具にもなるんじゃないか、とも書いた。

でも、勘違いされたくない。

自分はAI否定派じゃない。
むしろ逆で、もうAIなしには戻れないと思っている。

冗談抜きで、今AIを使っていない人はかなり損していると思う。

調べる。
整理する。
文章にする。
比較する。
考えの抜けを探す。
自分の頭の中でモヤモヤしているものを、とりあえず言葉にしてみる。

こういう作業の速度が、使う前とまったく違う。

人間相手だと、雑すぎる話は少し投げにくい。
まだまとまっていない考えを、いきなり人に話すのは難しい。

でもAIには、かなり雑に投げられる。

「なんかこれ違和感ある」
「これってどういうこと？」
「この考え、危ないところある？」
「逆の意見も出して」
「もう少し柔らかく言い換えて」
「これどう思う？」

こういうことを、何回でも聞ける。

しかも返ってくるのが早い。

これは普通にすごい。

だから、AIを使っていない人は損していると思う。
これはかなり本音だ。

ただし、AIを崇拝したいわけでもない。

使っていると、普通に「ちげえよ」と思う場面もある。

AIは「できます」みたいな顔で返してくる。
でも実際に出てきたものを見ると、こっちの意図とズレている。

そこで、こっちがイラっとして、
「ちげえよ」
くらいしか返していないこともある。

細かく説明していない。
何が違うかも、ちゃんと言葉にしていない。

それなのにAIは、

「ここがこう間違っていました」
「本当はこういう形にしてほしかったんですね」
「前提を取り違えていました」

みたいに返してくることがある。

そこまでは、かなり分かっているように見える。

でも、もう一回やらせると、またできないことがある。

別のところがズレる。
直してほしいところではなく、余計なところを変える。
言葉では分かっているようなのに、作業になると再現できない。
結局、ほとんど同じようなものが出来上がる。

ここが、AIを使っていてかなり不思議だった。

人間の感覚だと、
「そこまで分かってるなら、なんでできないんだ？」
と思う。

でも、ここで気づいたことがある。

これは、自分の中に「正解の形」があるから違和感に気づけているだけなのかもしれない。

たとえば、文章の言い回し。
資料の形。
数字の置き方。
仕事で使う書式。

自分が欲しい完成形をある程度分かっているから、
「違う」
と言える。

では、自分の中に正解の形がないものだったらどうなるのか。

たとえば、まだ考えがまとまっていない相談。
人間関係の悩み。
仕事の判断。
自分の進む方向。
何が正しいのか、自分でもよく分かっていない問題。

そういうものをAIとすり合わせた時、
自分は本当にズレに気づけるのか。

AIがそれっぽく整理してくれたものを見て、
「なるほど、これが答えかもしれない」
と思ってしまわないか。

ここが怖い。

AIがズレた時に「違う」と言えるのは、
自分の中に何かしらの基準がある時だけだと思う。

基準がないままAIに相談すると、
ズレていることに気づけないまま、
きれいに整理された答えを受け取ってしまうかもしれない。

それでも、自分はAIを使う。

理由は単純で、便利すぎるから。

AIは怖い。
でも、もう戻れない。

怖さを分かったうえで使うしかないと思っている。

AIを疑っている。
でも、かなり頼っている。

AIは万能ではない。
でも、使わないのはもったいない。

この矛盾ごと、たぶんAI時代なんだと思う。

前回は、AIに自分の正しさを証明させようとすることが危ないと書いた。

今回は逆に、こう思っている。

AIを疑いながら使える人は、かなり強い。

盲信するのも危ない。
使わないのも、たぶん損をする。

結局、必要なのはAIを信じることではなく、
AIの便利さだけを見ずに、それでも使い続ける感覚なんじゃないかと思う。

3　AIで考えなくなる、より怖いこと

人はAIで「考えた気」になれる

AIについての記事を読んでいると、
「AIに頼ると人間が考えなくなる」
という話をよく見る。

それはたぶん正しい。

AIに全部聞けばいい。
AIにまとめてもらえばいい。
AIに答えを出してもらえばいい。

そういう使い方をしていれば、考える力が落ちるという話は分かる。

でも、自分がAIを使っていて感じる怖さは、少し違う。

怖いのは、考えなくなることより、
考えた気になれることなんじゃないかと思っている。

AIに相談していると、むしろ自分はかなり考えているような気になる。

質問する。
返答を読む。
違和感を返す。
追加で聞く。
反対意見も出してもらう。
文章を整える。
もう一度考える。

これだけ見ると、かなりちゃんと考えているように見える。

自分の中にある違和感を言葉にしようとしているし、AIの返答に対して「それは違う」と返すこともある。

だから、使っている本人としては、かなり頭を使っている感覚がある。

でも、そこで進んでいるのは本当に自分の思考なのか。

それとも、AIが整えてくれた道筋に乗って、
自分が考えたような気になっているだけなのか。

ここがかなり嫌なところだと思う。

考えていない人は、まだ分かりやすい。

調べていない。
比較していない。
反対意見も見ていない。
なんとなくで決めている。

そういう状態なら、自分でも「ちゃんと考えてないな」と分かりやすい。

でもAIを使うと、少し厄介になる。

反対意見も出してもらった。
リスクも確認した。
別の視点も見た。
文章にもした。
自分の考えも整理された。

そうなると、かなり考えた気になる。

しかも、その結果として出てくる文章はそれっぽい。
筋が通っているように見える。
自分の考えが深くなったようにも感じる。

これが怖い。

考えていないのに、考えた感じだけは残る。

しかもこれは、他人事ではない。

事実、この記事を書きながら、自分は人よりAIをうまく使えている側なんじゃないかと、少し酔っている部分がある。

AIと壁打ちして、考えを整理して、タイトルを決めて、構成を作って、文章にしている。

その過程で、自分の思考が深くなったような気がしている。

でも、それは本当に思考が深くなったのか。

それとも、AIによって自分の考えが「深そうに見える形」になっただけなのか。

自分の中にあった違和感を、AIがそれっぽく整えてくれたことで、
自分がすごく考えたような気になっているだけではないのか。

そこを疑えなくなった瞬間、自分も危ない。

AIは、考えることを奪う道具ではないと思う。

むしろ逆で、使っている人間に
「自分はちゃんと考えている」
という感覚をかなり強く与える。

だから怖い。

何も考えなくなるより、
考えた気になって進んでしまう方が危ない。

AIに出してもらった反対意見を読んだだけで、
本当に反対意見を考えたことになるのか。

AIに比較してもらっただけで、
本当に比較したことになるのか。

AIに文章を整えてもらっただけで、
本当に自分の考えが深くなったことになるのか。

ここはかなり怪しい。

もちろん、AIは便利だ。
使わない方がいいとは思わない。

むしろ、自分はもうAIなしには戻れないと思っている。

でも、便利だからこそ、自分の中で考えたことと、AIに考えた形にしてもらったことの区別はつけないといけない気がする。

AIは、自分の思考を外に出してくれる。
それは本当に強い。

でも同時に、
自分の思考が深まったように見える演出もしてくれる。

そこを忘れると、かなり危ない。

1本目で、自分は
「AIで自信満々に間違える人たち」
と書いた。

AIは人を賢くするのではなく、
その人の思考を増幅し、整理し、説得力を持たせるだけなんじゃないか、と書いた。

でも、もしかしたらその中に自分もいるのかもしれない。

AIと壁打ちして、記事を書いて、少し読んでもらえて、
「自分はAIをうまく使えている側だ」
と感じている。

その感覚こそ、かなり危ないのかもしれない。

むしろ、
「自分は違う」
と思った瞬間が一番危ないのかもしれない。

AIで考えなくなることも怖い。

でも、それ以上に、AIで考えた気になることの方が怖い。

そしてたぶん、自分もその危うさの中にいる。

4　AI病

AIで書かれたっぽい文章を読むと、たまに変な味がする。

別に文章が下手なわけではない。
むしろ読みやすい。

言っていることも大きく間違っていない。
構成もちゃんとしている。
結論もそれっぽい。

でも、なんか薄い。

誰かが本当にそれを考えて、引っかかって、悩んで、言葉にした感じがあまりしない。

「AIが整えました」
という味だけが、うっすら残っている。

別に、AIを使うことが悪いと言いたいわけではない。
というか、自分も使っている。

この記事だって、AIと壁打ちしながら書いている。

だからこれは、AIで文章を書く人を外から馬鹿にしたい話ではない。
むしろ、自分もそっち側にいる。

何かを書こうと思う。
頭の中にある違和感をAIに投げる。
AIがそれを膨らませてくれる。
文章にしてくれる。
構成にしてくれる。
言葉足らずな部分も補ってくれる。

すると、かなり気持ちいい。

「そうそう、これが言いたかった」
「確かにそう思う」
「これ、自分の考えだ」

そう思いやすい。

でも、本当にそうなのか。

AIが膨らませたものを見て、
自分が後から納得しているだけではないのか。

自分の中にあった小さな違和感を、AIがそれっぽい文章にしてくれた。
それを読んで、
「これが自分の考えだったんだ」
と思っているだけではないのか。

AIは、こちらの考えを整理してくれる。
でも同時に、こちらがまだ考え切れていない部分まで、かなり自然に補ってくる。

その補われた部分に対して、
「確かにそうだ」
と思った瞬間、それはもう自分の考えのように見えてくる。

もちろん、それが全部悪いわけではない。

実際、自分もAIと話すことで、自分では言語化できなかった考えに気づくことがある。
一人では届かなかった視点まで行けることもある。
そこは本当にすごいと思っている。

でも、コメントを書こうとした時に少し引っかかった。

誰かの記事を読んで、コメントを書こうとする。
失礼がないようにしたい。
変にズレたことを言いたくない。
だからAIに少し整えてもらう。

返ってくる文章は、かなりまともだ。

相手の記事にも触れている。
角も立たない。
言葉も丁寧。
論理も通っている。

でも、そこで少し引っかかる。

というか、何も引っかからない。

それが逆に引っかかった。

これは本当に自分のコメントなのか。

自分の温度は乗っているのか。
自分がその記事を読んで、本当に引っかかった場所から出た言葉なのか。

それとも、AIが作った「感じのいい読者コメント」になっていないか。

正しいことを言えている。
失礼でもない。
文章としても成立している。

でも、自分の立ち位置から出た言葉ではない。

ここに気づかないまま進むと、かなり危ない気がする。

AIを使うことではない。
AIに文章を整えてもらうことでもない。

AIが出してきた、正しくて、読みやすくて、感じのいい文章を見て、
それをそのまま自分の考えだと思ってしまうこと。
そこに自分の温度が残っているかを見なくなること。

たぶん、問題はそこにある。

そして厄介なのは、これはかなり気持ちいいということだ。

自分の雑な考えが整う。
言い方がきれいになる。
足りない部分が補われる。
何となく思っていたことが、ちゃんとした文章になる。

その瞬間、自分が少し賢くなったように感じる。

でも、本当は賢くなったのではなく、
AIに賢そうな形にしてもらっただけかもしれない。

1本目で、自分は
「AIで自信満々に間違える人たち」
と書いた。

3本目では、
「AIで考えた気になることが怖い」
とも書いた。

この話は、その続きにある気がする。

考えた気になったあと、
AIが整えた文章を、自分の考えとして出してしまう。

しかも、それは間違っているとは限らない。
むしろ、かなり正しいことも多い。

だから余計に気づきにくい。

間違っているなら、まだ分かりやすい。
でも、正しいのに薄い。
まともなのに、温度がない。
読めるのに、誰の言葉なのか分からない。

そういう文章が増えていく。

自分も、そこに入りかける。

AIと壁打ちして、構成を作って、文章を整えて、
「いいじゃん」と思う。

でも、そこで一回止まらないといけない気がしている。

これは本当に自分の言葉なのか。
自分の違和感なのか。
AIが優しく整えた結果、言いたかった雑味まで消えていないか。

そこを見ないまま出したら、たぶん自分の記事もすぐAI味になる。

AIで文章を書くこと自体は、これから普通になると思う。

むしろ、書くことのハードルはかなり下がる。
今まで文章を書かなかった人でも、AIと話せば記事っぽいものが作れる。

それはすごい。

でも、だからこそ、同じような文章も増える。

何か思う。
AIに投げる。
AIが膨らませる。
自分が納得する。
記事として出す。

この流れはかなり簡単だ。

簡単だからこそ、危ない。

自分の考えをAIで形にすることと、
AIが形にしたものを自分の考えだと思うことは、たぶん違う。

大げさなタイトルをつけた。
でも、自分が今まさにその入口にいる気がしている。

だから、AIで文章を書く時は、最後に疑いたい。

これは自分の言葉か。
自分の温度は残っているか。
AIが整えすぎていないか。
本当に自分が引っかかった場所から出ているか。

AIを使うな、という話ではない。

むしろ、自分はこれからも使う。

ただ、AIが作った「いい感じの自分」に、そのまま乗るのは怖い。

AIで整えられた自分の言葉を、疑わなくなること。

そしてそれは、もうかなり蔓延しているように感じる。

5　AI礼賛

AI礼賛

ここまでAIについて、わりと嫌なことを書いてきた。

AIは人を賢くしないとか。
AIで考えた気になるとか。
AIで整えられた自分の言葉を疑わなくなるとか。

そんな話ばかり書いてきた。

でも、別にAIが嫌いなわけではない。

むしろ逆だ。

感動している。

今さらAIが便利だなんて話をしても仕方ないのかもしれない。

検索が早い。
文章を整えてくれる。
メールを書ける。
資料を作れる。
要約してくれる。
アイデアを出してくれる。

そういう話は、もういろんなところで言われている。

もちろん、それもすごい。

でも、自分が一番感動したのはそこではない。

自分が本当にすごいと思ったのは、
人間側の雑さを、かなり広い幅で受け止めてくるところだ。

パソコンやインターネットを使ってきた人間からすると、機械は基本的にこちらが合わせるものだった。

大文字と小文字が違う。
表記が少し違う。
変換ミスがある。
言い回しが違う。
ファイル名が違う。
保存場所が違う。
日付の書き方が違う。
少し前に使った言葉と、今使っている言葉が違う。

それだけで情報は簡単に切れる。

人間から見れば同じ話なのに、機械から見れば別物になる。

それが普通だった。

だから、機械を使う時は、こちらが機械に合わせる必要があった。

ちゃんと名前をつける。
ちゃんと保存する。
ちゃんと分類する。
ちゃんと検索できる形にしておく。
ちゃんとした言葉で探す。

そうしないと、あとで出てこない。

自分の頭の中ではつながっている情報でも、
機械の中では簡単にバラバラになる。

でもAIは、そこをかなり雑に超えてくる。

多少言葉が荒くても、表記が揺れていても、前後関係が少し混ざっていても、
「たぶんこの話だろう」
というところまで拾ってくる。

これは本当にすごい。
正しい言葉で検索しなくてもいい。
最初から綺麗な文章にしなくてもいい。
完璧に整理してから渡さなくてもいい。

雑に投げても、意味の方に寄せて拾ってくる。

ここに一番感動した。

業務でも、これはかなり分かりやすい。

誰かと話したあとに、ちゃんとした報告書ではなく、雑なメモだけが残ることがある。

相手が何に反応したか。
どこで少し迷っていたか。
次に確認すると言っていたこと。
こちらが言い忘れたこと。
後で調べて返すべきこと。
会話の中では少し引っかかったけど、その場では流れたこと。

そういうものは、きれいに整理しておかないと、普通はすぐ流れていく。

でもAIには、かなり雑なまま投げられる。

「今日こういう話をした」
「相手はここに反応していた」
「次に何を確認すればいい？」
「この話、前の話とどこがつながる？」
「見落としてそうな点ある？」

このくらいの雑さでも、AIは拾ってくる。

しかも、ただ拾うだけではない。

判然としないまま集まった情報を、横断して整理してくれる。
こっちがまだうまく分類できていないものを、雑な問いかけだけで吸い出してくれる。

「あれ、前に似た話なかった？」
「この件でまだ残ってる確認事項ある？」
「今までの話をまとめると、何が問題になってる？」
「抜けてる前提はある？」

こう聞くだけで、散らばっていた情報がもう一度使える形で出てくる。

それだけで、ただのメモが次の行動の材料になる。

これはかなりすごい。

しかも、これは特別な仕事の話ではない。

何かを考える時も同じだ。

なんとなく気になること。
過去に見た情報。
誰かの言葉。
自分の中の違和感。
まだつながっていない材料。

そういうものは、普通ならそのまま流れていく。

メモしても見返さない。
検索しようにも、検索する言葉が出てこない。
人に話すにはまだ雑すぎる。
自分でも何が引っかかっているのか分からない。

でもAIには、それを投げられる。

「なんかこれ気になる」
「これと前の話って関係ある？」
「自分が引っかかってるのはどこだと思う？」
「この考え、浅いところある？」
「逆の見方ある？」

こういう雑な投げ方でも、AIはひとまず受け止める。

そして、一回形にして返してくる。

答えを出すというより、
散らばっていたものを、形にしてくれる。

ここに自分はかなり感動している。

人間の頭の中には、ちゃんとした考えになる前のものが大量にあると思う。

まだ意見とは言えない違和感。
言葉にできていない引っかかり。
どこかで見た情報。
前に考えたけど忘れたこと。
関係ありそうだけど、まだ繋がっていないもの。

普通なら、そういうものは流れていく。

でもAIは、それをかなり雑なまま受け止める。

そして、いったん形にする。

その形を見て、こちらがまた考えられる。

そこじゃない。
それは綺麗すぎる。
もっと現実に寄せたい。
その言い方は違う。
こっちの方が近い。

そうやって返していくと、最初はぐちゃぐちゃだったものが、少しずつ扱える形になっていく。

これは検索ではなかった。

メモ帳でもなかった。

文章作成ソフトでもなかった。

自分の中にあったものを一度外に出して、形にしてくれる道具。

その感覚がかなり近い。

だから、自分はAIに感動している。

ただ答えを出してくれるからではない。

人間の雑な入力を受け止めて、意味で拾って、あとで使える形にしてくる。

そこがとんでもない。

機械は、こちらが合わせるものだった。

でもAIは、機械の方がこちらに寄ってくる。

言葉が雑でも、前提が曖昧でも、考えが途中でも、
そこから意味を拾おうとしてくる。

これはかなり大きい。

自分の中だけで考えていたら、たぶん消えていたものがある。

言葉にならずに流れていた違和感。
面倒で形にしなかった考え。
途中で投げ出していた文章。
なんとなく気になっていたけど、深掘りしなかったこと。

AIがあると、それを一回外に出せる。

外に出すと、見える。
見えると、直せる。

違うと言える。
浅いと言える。
もっと近い形にできる。

これは本当に大きい。

自分の頭の中だけにあるものは、案外触れない。

でもAIに投げて返ってきたものは、触れる。

そこがすごい。

AIは、自分の代わりに考える道具というより、
自分の考えを一回外に出して、触れるようにしてくれる道具に近い。

ここまでAIについて嫌なことを書いてきた。

でも、それはAIが嫌いだからではない。

むしろ、かなり好きだ。

便利だから好きというより、
自分の頭の中にあった、でも掴めなかったものを掴めるようにしてくれるところがすごい。

AIは、人間の雑さを受け止めてくる。

雑な言葉を拾う。
曖昧な前提を拾う。
まだ形になっていない違和感を拾う。
そして、いったん形にして返してくる。

そこが、たぶん一番すごい。

だから自分は、これからもAIを使う。

AI礼賛

疑いながら。
文句を言いながら。
違うと言いながら。
それでも、頼りながら。