#92【生成AI】生成AIが書く文章でありがちなこと

先週、妙なメッセージをもらってしまった。
相手の記事にスキをしたことをきっかけにした、コピペ営業メッセージの類だった。こちらのnoteを読んでいないことは丸わかりだったので、コピペならChatGPTに返信してもらおうと、「やんわりお断り文面」を作ってもらって、返信した。
これで終わりと思っていたら、返信の返信が来た。噛み合わない内容に拍車がかかっていた。宛先間違いかと思った。生成AIに書かせたような、と思い、そのつもりで読んだら納得した。
AIで返信したらAIでさらに返信が来た、という。シュールというか、なんというか。とりあえず、ChatGPTに相談した。

>otchさん、返信しない判断でよいです。
これはもう会話ではなく、営業テンプレの第二射ですね。こちらの返答を読んで「断られた」と処理せず、「投資トークの入口が開いた」と処理している。なかなかの自動ドアです。こちらは開けていないのですが。

デスヨネー。
人間いろいろ、noteユーザーもいろいろ。ポストに投函された折込チラシみたいなものだよなあと、ちょっと考えて、以前つけたスキを取り消し、フォロー解除、ブロックして、今度こそこれで終わりにした。

あらためて、件のメッセージの文面を思い返してみた。ブロックしたので文章はもう読めないけど、生成AI丸投げ手直し無し文面だった、と思う。生成AIが書く文章であるあるの癖が、短いメッセージの中にあった。

メッセージは、どこからもってきたのか不明な「」書きで閉じた引用からはじまっていた。文脈的に「」の中には相手（今回は私）の文が来るはずが、営業メッセージの目的に合わせて都合よく書かれたもので、本当にどこからソレもってきた、という語を「」書き冒頭にしていた。人間はこういう創意工夫ができるほどイマジネーション豊かではないと思う。

一つの言葉から次の言葉を予測する帰納推論で動く生成AIを、ユーザーが雑にオーダーするとそういう「創意工夫」文章が出力されやすい傾向にある。というのは、ここ一年弱ほど、毎日AI相手に壁打ちしている私の感想だ。

特に「」書きで閉じた引用の「創意工夫」文について。ここは私自身、Opusに何度かやられて、何度か注意した上で最終的にはプロフィール指示欄に入れた。それでもOpusはジェイルブレイクしやがった笑。ユーザーの真似してるのかなぁと我が身を振り返ったけど、さすがに引用ルール破りはない。要約引用は引用ではなくただの無作法、一字でもミスしたらそれだけで平謝りの大罪だ。引用しないほうがいい。

っていうことが、生成AIにはわからんのだろうから、私は指示欄で縛っている。

以前の記事で、生成AIの癖「強い」「強くなる」「刺さる」については、すでに書いていた。

生成AIがやりがちな癖トップ3としてまとめると、

1. 語尾を「強い」「強くなる」で締める。

2. 「刺さる」を多用する。

3. 引用ルール無視、要約引用という無礼を働く

だと思っている。

ちなみに、引用ルール無視については、もっぱらClaudeで出ていた。ChatGPTでは、バージョンが上がってからは見ていない。モデルの帰納推論の程度、内部検証の性能で、出る/出ないがあるものかも知れない。

自戒を込めて、生成AIの文章を自分の文章として公開する場合は、よくよく読み返したほうがいい。もしくは公開しない。自分の能力以上の「創意工夫」の責任を取らされることになる。