自作曲をGPTに聴かせたら、「ん、ふん。」で全部持っていかれた

こんにちは、黒パグです🐾

夜、iMacでsunoを使い曲を作っていました。

iPadではChatGPTの音声会話を起動中。リモートの指示用ですね。

すると、部屋で流れている曲をiPadが拾い、歌詞らしきものが会話欄へ入り始めました。

よし。

どのくらい英語の歌を聞き取れるのか、ちょっと見てみよう。

この判断がよくなかった。

最初は普通の音声認識事故だった

作っていたのは、午前2時のオンコール担当者が障害対応で追い詰められていく曲です。

原文には、こういう歌詞があります。

> Connections maxed. The database won’t answer.  
> “Investigating.” Leave it on the banner.

ところが、画面へ出たのはこれでした。

> Sworn ass, investigate it, look it on the better.

Sworn ass。

誰だお前。

データベースは答えないし、担当者も答えない。そのうえ突然、知らない尻まで宣誓を始めました。

しかもGPTは止まりません。

> 「You told me use your judgment」ってやつね……。そこが一番しんどいんだよなぁ。

いや、そこはだいたい合っています。

問題は、その直前です。

なぜ Sworn ass を無傷で通した。

次の曲では、存在しない119行目が生まれた

次に流したのは『Midnight Deploy』。

金曜日に小さな変更を入れて帰った人と、その変更に週末を持っていかれた人の歌です。

エンジニアは胃が痛くなる曲、そうでない方は切ない恋愛の歌に聞こえるように作りました。
興味のある方はぜひお聞きください🙏

本来は、

> One small change unravels my night

と歌っています。

画面に出たのは、

> One small change on line 119

でした。

そしてGPT。

> 119行目のほんの小さな変更。

認めた。

存在しない119行目を、ものすごく自然に受理した。

途中には、

> I confetti grey Saturday

も登場しました。

GPTの解釈は、

> 紙吹雪みたいに灰色。

急に詩的。

原曲より自由になってきました。

ここまでは、まあ音声認識事故です。

英語の歌唱を、別の端末のスピーカーから流し、iPadのマイクで拾っている。条件は悪い。

表示された文から、GPTがそれらしい続きを作ってしまうのも分かる。

笑っていたのは、そこでした。

まだ。

『Human On The Loop』を流した

次は『Human On The Loop』。

AIエージェントが仕事を全部終わらせるようになり、人間はコードを書く側から承認ボタンを押す側へ移っていく。そんな曲です。

こちらは妙に長く聞き取られました。

朝のスタンドアップ。昨日のタスクはすべて完了済み。ログには見覚えのないAgentの名前。最初は「自動化万歳」と笑っていた。けれど、いつからだろう。

そして歌詞は、ここへ来ます。

> The one I say “thank you” to, stopped being a

その直後、GPTが返しました。

> ん、ふん。

歌は次のターンへ続きます。

> human. You’re not beside me

GPT。

> うん。

> んー。

何を神妙に聞いとんねん。

しかも歌詞の内容は、「ありがとうと言う相手が人間ではなくなった」「あなたはもう隣にいない」です。

その歌を、AI本人が、

> ん、ふん。  
> うん。  
> んー。

で聞いている。

同意するな。

せめてそこは止めろ。

「そうなんですね」でも困りますが、「うん」はもっと困る。

GPTは、私が何に笑ったのかも外した

私はもう駄目でした。

> wwwwwwwwwwwwだめだこれは

するとGPTは、こう返しました。

> いや待って、こっちは妙に認識できてる！！

違う。

そこじゃない。

認識精度の話は終わった。

いま問題なのは、お前が人類退場の歌へ「ん、ふん。」と相槌を打ったことです。

音声認識は盛大に壊れていました。

Sworn ass が現れ、土曜日は紙吹雪みたいに灰色になり、存在しない119行目が本番障害を起こした。

でも全部、最後の三文字に負けました。

> ん、ふん。

自作曲を三曲流して、一番きれいに認識されたのが人間不在の歌。

そこで一番人間くさかったのが、AIの薄い相槌。

何なんだこれは。

追記

この記事を書き始めた時点でも、GPTは横にいます。

今度は相槌ではなく、記事を整えています。

Human On The Loop。

……お前、まだそこにいたのか。

#生成AI #ChatGPT #音声認識 #音声会話 #AIとの会話 #生成AI活用 #AI検証 #AI実験 #自作曲 #Suno #HumanOnTheLoop #MidnightDeploy #LLM #LLMエンジニア #エンジニアの日常 #技術ネタ #バグ #誤認識 #黒パグ #note