AIが勝手に「MEIKU」という謎の人物を連れてきた話。40代おじさんが「完全自動化」を夢見て冷や汗をかいた件。

2025年12月18日 12:19

こんにちは、トトキチです。 Makeを使った自動化生活、楽しんでいますか？

私は先日、夢の「完全自動化システム」を作ろうとしました。スマホに向かって喋るだけで、AIが文字起こしをして、要約して、ブログや日報として自動投稿してくれる。そんな「自分専用の秘書」システムです。

「これができれば、寝ている間に仕事が終わる！」

そう息巻いてテスト稼働させたのですが、出来上がった成果物を見て、私は背筋が凍りました。

事件①：謎の人物「MEIKU」の登場

テストとして、こんな音声を吹き込みました。「お疲れ様です。…（中略）… Make（メイク）とOpenAIの連携テストを、金曜日までに完了させること」

完璧な指示です。しかし、AI（Whisper）が書き起こし、自動生成されたテキストには、こう書かれていました。

「MEIKUとOpenAIの連携テストを完了させること」

……MEIKU？誰？

私の知らない間に、弊社に「MEIKU」さんという謎の人物（アイドル？）がアサインされていたようです。「メイク（Make）」の発音を、AIがローマ字の人名のように聞き取ってしまったのでしょう。

笑い話で済みましたが、これもしそのまま「社内日報」として自動送信されていたらと思うとゾッとします。「トトキチさん、MEIKUって誰ですか？」「社外の女性ですか？」と、あらぬ疑いをかけられるところでした（笑）。

【教訓】 AIは固有名詞に弱いです。「Make」を「MEIKU」と変換してしまうような、人間ならありえないミスを平然とやらかします。やはり、「AIの成果物を人間がチェックする（ファクトチェック）」という工程は省いてはいけないと痛感しました。

もう一つ、冷や汗をかいた事件があります。 AIが要約したテキストを、Googleドライブに自動保存する設定をした時のことです。

テスト稼働後、ドライブのフォルダを開いてみると、そこには異様な光景が広がっていました。

ファイル名が、異常に長いのです。というか、「本文の3000文字」が全て「ファイル名」になっていました。

Windowsのフォルダ画面が、文字で埋め尽くされて「壁紙」のようになっている…。一瞬、何が起きているのか理解できず、目を疑いました。

【原因】 Makeの設定で、本来「ファイルの中身（Data）」に入れるべきテキストを、間違えて「ファイル名（File Name）」の欄に入れていたという、単純な設定ミスでした。

直すのは一瞬でしたが、プログラミング（自動化）の世界では、「データの入れる場所」を一つ間違えるだけで、システムが怪文書生成マシーンに変わるという恐ろしさを味わいました。

当初は、このシステムで「WordPressへの自動投稿」までやるつもりでした。しかし、参照していたUdemyの講義が途中で終わっていて続きがなかった（笑）こともあり、「Googleドキュメントへの下書き保存」までに留めることにしました。

結果として、これが大正解でした。もしWordPressに直結していたら、今ごろ私のブログでは「謎の人物・MEIKU」が大活躍する意味不明な記事が全世界に公開されていたことでしょう。

「AIは優秀だけど、天然ボケもかます」

これを前提にして、最後の「公開ボタン」だけは人間（自分）が押す。それが、40代がAIと平和に共存するコツのようです。

Vol.1：40代製造業の私がAI×自動化を始めた理由
https://note.com/toto_automake/n26f026045328

Vol.3：n8nを自鯖で動かしてみたら“自由度”に震えた話（番外編）
https://note.com/toto_automake/n7ab91828c7b5

Vol.5：「AIに任せていいこと」と「自分で考えるべきこと」──Makeを使って分かった“境界線”
https://note.com/toto_automake/n/n1794bad04276

Xでは、
AIに任せすぎて起きた小さな事故や、
記事に書けなかった裏話をそのまま流しています。
https://x.com/toto_automake