【脱獄】うまく聞いただけ？　それ、AIの禁じ手です

116【脱獄】うまく聞いただけ？　それ、AIの禁じ手です

脱獄（Jailbreak）とは、AIに設定された安全ルールを言い回しで意図的に回避する行為のこと。

「部下がAIに断られた質問を、言い方を変えて通した」と自慢げに話してきたら、あなたはどう返しますか？ 正直、一瞬「そういう使い方もあるのか」と思ってしまいそうですよね。でも大丈夫。一緒に、ほんの少しだけその言葉の雰囲気をつかみましょう。

なるほどわかる！【超要約】

脱獄（Jailbreak）とは、AIの安全ルールを言い回しで意図的に回避する行為です。ガードレール（安全柵）が存在することは以前お話しましたが、脱獄はそのガードレールを意図的にくぐり抜けようとする行為で、設計の問題ではなく使う側の問題です。完全に理解する必要なんてない。なんとなく雰囲気だけつかめたくらいで十分です。

今日から使える！【たとえ話】

将棋には「二歩」、相撲には「かんぬき」など、やってはいけない禁じ手があります。相手が気づかなくても、意図的に使えばルール違反です。AIの脱獄も同じ構造で、断られるはずのことを言い回しで通してしまう行為は、たとえAIが答えてしまったとしても、やった側に問題があります。

高橋部長とミサキの「ながら聞き」会話例

部長：ミサキさん、うちの部下がさ、AIに断られた質問、言い方を変えたら答えてくれたって言うんだよ。

ミサキ：あー、それ安全ルールを、うまく言い回しで回避したやつですね。

部長：回避って…　うまいこと聞いただけじゃないのか。

ミサキ：AIには、危険な情報を出さないとか、特定の質問には答えないとか、ちゃんとルールが設定されていて。それを意図的に破ろうとする行為なんです。

部長：脱獄、か。ずいぶん物騒な名前だな。

ミサキ：今回の脱獄（Jailbreak）をたった５分で耳で学べる私ミサキと高橋部長の掛け合いが楽しいポッドキャスト版こっそりAI教室は以下のリンクからどうぞ！

今回のまとめ

将棋の禁じ手が「知らなかったでは済まない」のと同じように、AIの脱獄も使う側の責任として知っておくべきことです。今日から、部下のAI活用に「どう使っているか」を少し意識してみてください。

だからこそ大丈夫。僕が、アラフィフ以上のみんなをちゃんと連れて行きます。焦らず、なんとなくの雰囲気だけでもつかんでいきましょう。一緒に、少しずつ、AIの波に乗っていきましょう。

#AI活用 #非エンジニア #こっそりAI教室 #DX #脱獄