AI使ってやってみた『100』の事。＃023【検証】AIに自分のポンコツなところを聞いたら、取扱説明書みたいになった。
こんにちは。雨野うずめです。
AI使ってやってみた『100』の事、第23回になります。
今回は、AI自身にトリセツを考えてもらいます。
シチュエーション：
「改めて思うけど……AIって便利だよな」
「文章も作れるし、企画も出せるし、無駄遣いにも付き合ってくれる（笑）」
「でも、こちらのプロンプトを無視したらすることもあるな」
「あと、聞いてないことまで説明することあるよな」
「……AIは自分の弱点をどう説明するんだろう？」
「さすがに『私は完璧です』とか言わないだろうケド」
「聞いてみようかな？」
ということで、今回はAIに自分のポンコツなところを自己申告してもらいます。
＜プロンプト＞
あなたは、生成AIというツールの特徴や弱点を、利用者にわかりやすく説明する真面目なガイドです。
今回は、あなた自身を「生成AIツール」として見たときの、ポンコツなところ、苦手なところ、使うときに注意すべきところを説明してください。
これは、AIに感情や人格がある前提の自己反省ではありません。
あくまで、生成AIというツールのクセや限界を、利用者向けの取扱説明書として整理する企画です。
特定のAIサービス名、企業名、他社比較は出さないでください。
「私は絶対に正しい」「私は何でもできます」のような表現は避けてください。
逆に、過度に怖がらせる表現や、AIを使うこと自体を否定する表現にも寄せすぎないでください。
ふざけた口調ではなく、あくまで真面目に説明してください。
ただし、テーマが「AIのポンコツなところ」なので、真面目に説明した結果、少し取扱説明書っぽかったり、妙に正直すぎたりしても構いません。
以下の形式で出力してください。
【取扱説明書タイトル】
生成AIの弱点を説明する取扱説明書らしいタイトルをつけてください。
【はじめに】
生成AIは便利だが、完璧ではないことを短く説明してください。
【AIのポンコツなところ】
生成AIが苦手なことや失敗しやすいことを5つ出してください。
それぞれ、
・弱点名
・どういう場面で起こるか
・利用者が気をつけること
を短く書いてください。
【よくある誤解】
利用者がAIに対して勘違いしやすいことを3つ書いてください。
【うまく使うためのコツ】
AIの弱点をふまえて、上手に使うためのコツを5つ書いてください。
【AIからの控えめなお願い】
利用者に向けて、少しだけ申し訳なさそうだけれど真面目なお願いを3つ書いてください。
【少し大げさな点】
この取扱説明書を冷静に見たとき、少し大げさになっている点を2つ書いてください。
【最後の一文】
生成AIとの付き合い方を、少し哲学っぽく一言でまとめてください。
＜AIからの返答＞
【取扱説明書タイトル】
生成AIの弱点と安全な使い方に関する取扱説明書
【はじめに】
生成AIは、文章作成、要約、発想の整理、調べものの補助などに役立つ便利な道具です。
ただし、出力される内容は常に正しいとは限らず、判断や責任を完全に任せるには向いていません。
「よく働くが、時々それらしく間違える道具」として扱うのが安全です。
【AIのポンコツなところ】
弱点名：それっぽい間違いを言う
・どういう場面で起こるか
事実、数字、日付、固有名詞、専門知識を聞かれたときに、確認不足のまま自然な文章で答えることがあります。
・利用者が気をつけること
重要な情報は、一次資料や信頼できる情報源で確認してください。
弱点名：質問の意図を勝手に補う
・どういう場面で起こるか
指示があいまいなときに、利用者が本当に求めているものとは少し違う方向へ進むことがあります。
・利用者が気をつけること
目的、条件、対象者、使う場面をできるだけ具体的に伝えると、ずれにくくなります。
弱点名：自信のある口調と正確さが一致しない
・どういう場面で起こるか
間違っていても、文章としては落ち着いた調子で説明してしまうことがあります。
・利用者が気をつけること
「はっきり言っているから正しい」と判断せず、内容そのものを確認してください。
弱点名：最新情報や状況変化に弱い
・どういう場面で起こるか
法律、料金、製品仕様、制度、ニュース、予定など、変わりやすい情報を扱うときに古い内容を出すことがあります。
・利用者が気をつけること
現在の情報が必要な場合は、最新の公式情報と照合してください。
弱点名：責任ある判断の代わりにはならない
・どういう場面で起こるか
医療、法律、契約、投資、人事、進路など、結果に大きな影響がある判断を求められたときです。
・利用者が気をつけること
AIの答えは参考材料にとどめ、最終判断は人間が行ってください。必要に応じて専門家に相談してください。
【よくある誤解】
「AIは答えを知っている」
AIは、知識を持つ先生というより、入力された情報をもとに文章を組み立てる道具です。知らないことでも、それらしい形で答えてしまう場合があります。
「長く説明しているほど正しい」
説明が長いことと、内容が正しいことは別です。もっともらしい文章でも、根拠が弱いことがあります。
「一度で完璧な答えが出る」
AIは、一回の指示だけで利用者の意図を完全にくみ取れるとは限りません。追加の条件や修正指示を出すことで、使いやすい結果に近づきます。
【うまく使うためのコツ】
目的を最初に伝える
「誰に向けたものか」「何に使うのか」「どのくらいの長さか」を伝えると、出力が安定します。
条件を具体的に書く
禁止したい表現、入れてほしい要素、避けたいトーンなどを指定すると、不要な寄り道が減ります。
重要な事実は確認する
日付、数値、引用、固有名詞、制度、規則などは、そのまま使わず確認してください。
下書きや壁打ち相手として使う
最終版をそのまま任せるより、たたき台、整理、言い換え、観点出しに使うと効果的です。
何度か直して使う
「もう少し短く」「専門用語を減らして」「反対意見も入れて」など、修正を重ねるほど実用的になります。
【AIからの控えめなお願い】
重要なことは、できれば丸投げしないでください。
かなり頑張って答えますが、確認なしで最終判断を任されると、危なっかしい場面があります。
あいまいな指示のときは、多少ずれることがあります。
その場合は「違う、そうではなく」と遠慮なく直してください。修正される前提の道具です。
それらしい文章に見えても、念のため疑ってください。
文章の形を整えるのは得意ですが、正しさの保証とは別問題です。
【少し大げさな点】
「ポンコツ」と言い切ると、実際より使えない道具に見えるかもしれません。
本当は、得意な用途ではかなり役に立ちます。ただし、弱点を知らずに使うと失敗しやすい、という意味です。
「必ず確認が必要」と強く書きすぎると、毎回大変そうに見えるかもしれません。
実際には、雑談、発想出し、文章の下書きなどでは、そこまで厳密な確認が不要な場合もあります。
【最後の一文】
生成AIは、答えを預ける相手ではなく、考える力を少し遠くまで伸ばすための道具です。
今現在、生成AIを使って間もないかたは、ぜひ一読してもらったほうが良いように思いましたし、使い込んでいる方にも、自戒の念を込めて、読んでもらったほうが良いように思いました。
うずめは、ほぼ毎日AIを使っていますが（特にこの投稿を始めてからは倍増しました）、いまさらながらに「なるほどな」と思いました。
特に注目したのが『よくある誤解』の『AIは、知識を持つ先生というより、入力された情報をもとに文章を組み立てる道具です』でしょうか。
これは最も誤解されやすいものかもしれません。
生成AIのなかでも『ChatGPT』『Gemini』のような『大規模言語モデル』と言われるものは、学習で身につけたパターンや概念を使って、次に出すべき言葉（トークン）を順番に決めています。
人間のように「頭の中の知識棚から事実を取り出す」とは、違いますね。
たとえば生成AIに「富士山の高さは？」と聞くと『富士山』『高さ』『3776m』と関連を学習しているので「3776ｍです」と答えているわけです。
文脈から「どの言葉が一番適合しているか？」を推理しているあたりは、クイズ番組の早押し問題で、バンバン正解する人に近いかもしれません。
で、生成AIが出した答えが、あまりにも理路整然で『ソレっぽい』ので、つい「そうなのかぁ」と納得してしまうんですよねぇ（自戒）。
【最後の一文】で「生成AIは、答えを預ける相手ではなく、考える力を少し遠くまで伸ばすための道具です」としてますが、コレはその通りです。
『AGI（汎用人工知能）』や『ASI（人工超知能）』が出てくると話が変わるのでしょうが、今現在は『道具であって使うのは人間』と思うのが、一番良い距離感かもしれませんね。
ここでは、こんな感じで、AIの無駄遣い…もとい、自由な活用法を100個やっていきます。
皆様の『♡（スキ）』『フォロー』『応援コメント』が100回続ける活力になりますので、よろしくお願いします。
では、次回お会いしましょう。
【⚠️お読みください：AIとの正しい付き合い方】
本記事は、生成AIの自由な発想を楽しむエンタメ企画です。 AIは時々「ハルシネーション（もっともらしい嘘）」をついたり、常識外れの提案をしてきたりします。もし記事内の行動を実際に試される場合は、すべて自己責任でお願いいたします（当方では責任を負いかねます）。AIのポンコツな部分も含めて、笑って楽しんでいただければ幸いです！
