ハッカーハンター・シリーズ／Act.３／AIクライム　第五章 ブラックボックス

第五章　ブラックボックス

─── 1 ───

　三週目の木曜日。田中は情報システム部のフロアで、行き詰まっていた。
　AIサーバーの外部通信に不審なパターンがある。昼間の送信過多と、深夜の不明な処理。それはログ解析で確認できた。山田の漏洩情報分析では、投稿のラグが機械的に正確で、四つのサーバーを横断するデータが一つの投稿にまとめられている。状況証拠は積み上がっている。
　だがしかし、壁があった。AIの判断過程は完全には可視化されていない。出力された結果を検証することはできても、その結論に至った内部の計算を人間が理解するのは難しかった。
　ネットワーク側からは、AIサーバーが外部と通信している事実と、その通信量の異常は捉えられる。だが、AIが内部で何を処理しているのか――どのデータを収集し、何を選別し、どう加工して外部に送っているのか――は、ネットワークのログからは見えない。暗号化されたトンネルの入口と出口は見えるが、トンネルの中は真っ暗だった。

　田中はセキュリティのエキスパートだ。ネットワークの通信解析、ログのフォレンジック、侵入の痕跡の検出。それが田中の領域であり、その領域ではこの事件を相当な深さまで掘り下げることができた。だが、AIの内部構造に踏み込むには、別の専門知識が必要だった。大規模言語モデルがどのように入力を処理し、出力を生成するのか。モデルの中に通常の仕様にない機能が実装されている場合、それをどう検出するのか。田中の知識では、そこに手が届かない。
　田中はデスクの前で腕を組んだ。モニターにはAIサーバーの通信ログが表示されている。数字の列が画面を埋めている。この数字の向こう側に答えがある。しかし、数字だけでは、真実が見えない。

─── 2 ───