AIの「幻覚」で訴訟沙汰！Palo Alto NetworksとNISTが示す新リスク
*
生成AIはサイバーセキュリティの銀の弾丸か、それとも新たなパンドラの箱か。今週の世界のニュースは、AIがもたらす効率化という光と、それ以上に深刻な「AI自身が引き起こすリスク」という影を、我々日本のエンジニアとビジネスパーソンに突きつけています。
政府も本腰！NISTが示す「AI時代のサイバーセキュリティ新常識」
これまでセキュリティの世界では、NIST（米国国立標準技術研究所）のサイバーセキュリティフレームワーク（CSF）が、いわば「守りの教典」として機能してきました。しかし、その教典も生成AIというゲームチェンジャーの登場で、大幅なアップデートを迫られています。
NISTは今、「Cyber AI Profile」なる新たな指針の策定に乗り出しました。これは、AIを開発・利用する際のリスクと、AIをセキュリティ対策に活用する際の両面を考慮した、まったく新しい基準です。記事で紹介されている5つの柱（適応型リスク管理、設計による回復力、信頼中心のガバナンス、暗号アジリティと量子コンピュータへの備え、人的資本と協力）は、もはや「マルウェアAの対策はこれ」といった牧歌的な時代が終わり、常に変化し、予測不能なAIのリスクに組織全体で立ち向かう必要があることを示唆しています。
お役所の仕事は遅いなんて言われますが、ことAIに関しては、現場が火の車になる前にルールブックを作ろうと必死のようです。我々も「うちの会社はまだAIなんて…」と高みの見物をしている場合ではないかもしれません。
AIの「幻覚」がビジネスを破壊？Palo Alto Networks傘下、悪夢の訴訟劇
AIが時々、もっともらしい嘘をつく「ハルシネーション（幻覚）」。それがチャットボットの面白い回答で済んでいるうちは良かったのですが、ついに現実のビジネスを木っ端微塵にする事件が起きました。
セキュリティ大手Palo Alto Networksが買収したKoi Security社が、自社開発のAI「Wings」を使って作成した脅威レポートが発端です。このレポートは、無関係な米国のメディア企業MeetingTV社を「中国政府と繋がりのあるスパイ活動のインフラ」と断定。その結果、MeetingTV社は世界中のセキュリティ製品からブロックされ、事業は壊滅的な打撃を受けました。
MeetingTV社の訴えは、「その判定は人間の専門家による分析ではなく、AIの完全なエラーだ」というもの。「AI様のお告げによれば、お前の会社は悪の手先だ！」と宣告され、問答無用で業界から村八分にされる…。もはやこれは中世の魔女狩りですが、恐ろしいのは、火あぶりにすべきAIの判断プロセスがブラックボックスである点です。AIによる脅威インテリジェンスを鵜呑みにすることの危険性が、数百万ドル規模の訴訟となって我々の目の前に現れたのです。
「9割の社員はAIに疎い」Palo Alto Networks CEOが語る"ダーウィンの瞬間"
皮肉なことに、前述の訴訟で被告となったPalo Alto NetworksのCEO、ニケシュ・アローラ氏が、まさにAIがもたらす人材の淘汰について厳しい見解を述べています。
彼によれば、「企業の従業員の9割はAIに精通していない」とのこと。そして、AIの普及によって、企業は「誰が本当に優秀かを見極める“ダーウィンの瞬間”」を迎えていると指摘します。AIを理由に大量解雇に踏み切る企業を批判しつつも、同社では「自然減（natural attrition）」によって、AIに対応できない人材を時間をかけて入れ替えていく方針を明らかにしました。3年後には、AIに精通した人材が多数を占める組織に変貌させる計画だとか。
「AIが仕事を奪う」はもはや都市伝説ではなく、世界トップ企業のCEO自らが「適応できない者は、進化の過程で自然に消えてもらう」と公言する時代なのです。あなたの会社の次の評価面談も、実は裏でAIが「この人物は進化の袋小路に入っている」と冷徹な判定を下しているかもしれません。
まとめ：日本の我々はどうすべきか？
これらのニュースが示す未来は明確です。日本企業や我々個人が取るべき道は、以下の3つに集約されるでしょう。
AIを盲信するな、手綱を握れ。 AIは「賢いが、時々壮大な嘘をつくとんでもない新人」です。AIが出力した分析結果や脅威情報は、必ず人間の専門家がダブルチェックし、その判断の根拠を検証するプロセスを義務付けましょう。
NISTの動向をウォッチせよ。 国際的なスタンダードとなるであろうNISTの「Cyber AI Profile」の動向を追いかけ、自社のセキュリティポリシーや製品開発にどう組み込むべきか、今から検討を始めるべきです。
自らをアップデートせよ。 エンジニアもビジネスパーソンも、「AIに仕事を奪われる」側ではなく、「AIを使いこなして価値を生み出す」側に立たねばなりません。さもなければ、Palo Alto NetworksのCEOが言うように、ダーウィンの荒波に飲み込まれ、静かに淘汰されるだけです。
AIという新たなテクノロジーとの付き合い方は、まだ誰も正解を知りません。しかし、そのリスクから目を背ける者から、市場からの退場を宣告される時代が、もう始まっています。
