【AIを妄信してはいけない】AIとの2ヵ月に渡る格闘と仕事で直面した致命的な問題から導き出した境界線

「AIに任せれば完璧」への違和感

「このプロンプトを使えば的確に解決する」
「AIに任せれば短時間で正確な資料が完成する」

これを全否定するわけではありません。

実際のところ、有料コンテンツになっている場合などは、購入しないと正確性どころか内容がわからないのに一概に否定するのは間違いです。

また、用途にもよります。
これは一番重要なポイントだと思っています。

今の時点ではそれらについて両手を挙げて全てが「正しい」とは思わない、という立場です。

これはもちろん、プロンプトへの依存もありますし、どのAIサービスを使うのか、さらにはどのモデルを使うのかにも大きく依存があると思っています。

特に、「厳密なルール」や「正確な数字」が求められる場面において、AIの出すもっともらしい回答をそのまま信じるのは、極めて危険な行為です。

AIに任せていい領域と、任せてはいけない領域の境界線はどこにあるのか。

実体験から導き出した「現時点での結論」についてお話しします。

LINEスタンプ制作で見えた、AIの「勝手な最適化」

例えば、現時点でほぼ毎日進めているLINEスタンプ作成の自動化。

【AI x LINEスタンプ作成】半自動化目指して泥沼日記｜へろん｜note

こちらでは度々AIとの衝突を繰り広げています。

この衝突の多くが、「指示した内容と違う手順でプログラムを作りこもうとするAI」と、「手順を守って実現したい人間」という構図です。

何が起きているのかというと、人間側の最適解がAIにとっては必ずしもそうではないので、AIとして最適だと判断した方向を採用されてしまうということです。

これは、何も知らない、経験もないという状況においてはとても心強いことです。

自分で考えなくてもAIによる「それなり」の判断により具体的なかたちができてくるということになるからです。

ですが、一歩進んだとき。

「このAI判断が常に最適なのか？」 というと、そうではないということを最近特に強く感じています。

とは言え、LINEスタンプ作成の自動化は趣味ですから、多少どころか多くの間違いが入っても困るのは私だけですし、誰に迷惑をかけることもありません。

仕事で直面した、AIの致命的な「暴走」

ですが、実はたまたま仕事上で「数字に関わる問題」に直面したため、あまり気軽に「資料作成はAIに全て任せればいい」を信じてはいけないという話を書きたいと思います。