ZeroTrustVPSシステム構築 AI LIFE③

なぜ私は、AIに手綱を渡さないのか

前回の終わりに、私はこう書いた。この場所を建てるなかで、いちばん神経を使った判断は、技術ではなかった。AIに、最後の判断をさせない――その一点だった、と。

そして、二つの宿題を残した。調べものをAIに頼むとき、どこの情報源から取るかを、なぜ私自身が決めているのか。そして、なぜ私は、便利な「全自動」に乗らず、手綱を握り続けるのか。

今回、答える。先に言ってしまえば、この二つは根が一つだ。そしてその根は、私が考え出したものではない。半世紀以上も前に、日本の工場で、すでに掘り当てられていた。

「全自動」のようなAI、よくできた誘惑

いまのAIは、「全部やっておきました」と言える方向へ、猛烈な速さで進んでいる。問いを投げれば、調べ、考え、判断し、手まで動かす。やがては契約も、送金も――そういう未来が、すぐそこにあるようにみえる。

魅力は、本物だ。介護をしながら働き、書く私の一日は、いつも足りない。肩代わりしてくれるなら、どれほど楽か。

それでも私は、自分の暮らしと、預かりものを載せるこの場所では、その流れに乗らなかった。便利さを拒んだのではない。乗る場所と、降りる場所を、自分で線引きしただけだ。

なぜ、そんな面倒を選んだのか。その理由をもっともよく言い表す言葉を、私は発明できなかった。とうの昔に、別の人たちが、別の現場で、もう見つけていたからだ。

ここで一つ簡単な言葉の定義をしておかなければならない。
自律型AIと自律的AIの違い。型と的の違いだけのように思える。
あえて英文にすると、
前者は『Autonomous AI』、後者は『Agentic AI』となる。
前者の意訳は「人間の介入をさせずに、全自動でタスクを続けさせる独立した労働力」
後者の意訳は「最終的決定権を人間が持つ、自分で考えて動く優秀な助手」

これにエージェント機能をつけると英文は次のようになる。
前者は「Autonomous AI Agent」、後者は「Agentic AI Agent」
現在の大勢占める世界の潮流は、後者に『あたる』ように私は考える。

なお、私は多くのAIを組み込み活用しているが、システム全体としてはどれにも該当しない。
あえて、定義すれば、「人間主導型ゼロトラストインフラ」
しかし「型」が付く。なぜか。
人間が手綱を握るアーキテクチャ（構造モデル）だからだ。
英文にすると「Human in Command Zero Trust Infrastructure」
もしくは「Human in Command Zero Trust Architecture」
シンプルには「Human Led Zero Trust Infrastructure」
詳細の説明は別の回に譲る。（第５回）

工場で、つくられてきた思想

トヨタ生産方式、という言葉がある。戦後、大野耐一氏が中心となって体系づけた、ものづくりの思想だ。世界中の工場が、いまもこれを手本にしている。

その柱の一つが、ジャスト・イン・タイム。必要なものを、必要なときに、必要なだけ。作りすぎない、抱え込まない、要らない在庫を持たない。

必要なものを、必要な時に、必要なだけ。この発想が日本の、そして世界の製造業やその枠を超え、各業種に広がった。
「定位・定品・定量」で『3定』という言葉も生まれ各業界に利用されている。

なぜこれが、ITやAIと関係するのか。

私が前回、「データを溜め込まない」「守るべき宝を、最初から置かない」と書いたのは、知らぬ間に、この思想をなぞっていた。倉庫に積み上げるほど、管理は重くなり、傷みは見えなくなる。要るときに、要るだけ。それが、軽さの正体だった。

だが、私がいちばん惹かれたのは、もう一つの柱のほうだ。

ニンベンのついた、自働化

「自働化」という。ふつうの「自動」の動ではなく、人を表すニンベンのついた、自(働)化。たった一画の違いに、思想のすべてが宿っている。

源流は、自動車より前にさかのぼる。トヨタの始まりは、布を織る織機の会社だった。創業者の豊田佐吉氏は、糸が一本でも切れたら、機械が自分で気づいて、ぴたりと止まる仕組みを織り込んだ。

それまでの機械は、糸が切れても回り続けた。気づかぬまま、不良の布を織り続ける。だから人は、機械の前に張りついて、見張っていなければならなかった。

切れたら、止まる。止まって、知らせる。すると人は、張りつかなくてよくなる。異常のときだけ、駆けつければいい。機械は淡々と働き、判断が要る一瞬にだけ、人を呼ぶ。

これが、ニンベンのついた自働化だ。すべてを機械に委ねる「自動化」ではない。動かすのは機械。止めるか動かすか、何を良品とし何を捨てるかを決めるのは、人間。役割を、はっきり分ける。

私がAIにさせていること、させていないことは、ちょうどこれと同じだった。AIには、調べ、訳し、整え、提案させる。糸を織るように、淡々と働いてもらう。だが、何を採り、何を捨て、最後にどう決めるか――その手綱は、私が握る。

私は、言葉を探していたのではない。すでにある言葉に、ようやく追いついたのだ。

工場の思想が、ITへ渡った日

この思想は、やがて工場の外へ出た。ものづくりの現場で磨かれた知恵を、コンピューターとネットワークの世界へ持ち込んだ人たちがいる。その一人が、友山茂樹氏だ。

いまでこそトヨタはクルマとITをつなぐ会社として知られるが、その原点は、ずいぶん地味なところにあった。

一九九〇年代、まだインターネットが普及する前のこと。若き日の豊田章男氏――のちにトヨタの社長になる人だ――が、有志と組んで、中古車を画像で見られるシステムを手作りした。

市販のパソコンは高くて非力だったから、部品を買ってきて、自分たちで組み上げたという。

社内では「画像でクルマが売れるか」と相手にされず、トヨタの正式なブランドを名乗ることも許されなかった。だから「画像」をもじって、GAZOOと名づけた。友山氏は、その活動の中核を担い、やがてトヨタのIT事業そのものを立ち上げていく。

私がこの逸話に惹かれるのは、そこに、工場とまったく同じ思想が流れているからだ。

大きな仕組みを一気に外注して作り込むのではなく、小さく、速く、自分たちの手で組み、動かしながら直していく。要らないものは足さない。何が起きているかを、常に目に見える形にしておく。

いまソフトウェアの世界で「アジャイル」と呼ばれる作り方は、もとをたどればトヨタ生産方式に行き着く、とよく言われる。ジャスト・イン・タイムの、IT版だ。

GAZOOは、その精神を、まだ誰も名づける前から地でいっていた。

ものづくりの思想を、システム開発の現場へ翻訳する。その流れのなかで、友山氏のチームから生まれた言葉が、『はやい・かるい・みえる』だったと、私は理解している。

私は、この三つの言葉に深く頷いた。そして、自分のシステムの背骨に、そのまま据えさせてもらった。

異常があれば、すぐ止まり、すぐ知らせる――はやい。要らないものを足さず、引いて、引いて、保てる範囲に留める――かるい。何が起きているかを、隠さず、目に見える形にしておく――みえる。

工場で半世紀かけて磨かれ、ITへ受け継がれてきた構えを、私のような一個人が、自分の小さなサーバーの上で借りている。おこがましいかもしれない。けれど、良い思想とは、本来そういうものだ。工場のものでも、個人のものでもなく、ただ、正しい。

情報源を、誰が選ぶか

ここで、一つめの宿題に戻る。

私の仕事は、他人の大切なものを預かる仕事だ。判断のもとになる情報が汚れていれば、その汚れは、預かりものの上に、そのまま落ちる。だから私は、AIに調べさせるとき、どこを見に行くかを、自分で決めている。

世の中には、それらしく見えて、確かでない情報が、無数にある。誰かのまとめ。要約の、そのまた要約。AIに「調べて」と丸投げすれば、その中から、もっともらしいものを拾ってくることがある。速い。だが、もとが確かでなければ、速さは害になる。

だから、おおもとを指す。法律なら、条文そのもの。制度なら、それを定めた役所そのものの発表。そこへAIを向かわせ、本文を読ませ、出どころを添えて返させる。返ってきた答えは、いったん受け取る。けれど、そのまま採用はしない。出どころを確かめ、時期がずれていないかを見て、別のAIにも突き合わせる。良品か、不良品か――その見極めに、私が立ち会う。

二つの宿題は、こうして一つに溶ける。「情報源を自分で決める」とは、「最後の判断を、人間が握る」ことの、もっとも具体的な一場面なのだ。手綱とは、決意の話ではない。どの井戸から水を汲むかを、自分の手で選ぶ。その、地道な作業のことだ。

緑のランプは、アンドンだった

前回の、緑のチェックを思い出してほしい。一行打てば、すべてが順調なら緑が並び、どこかが転べば、その箇所が赤くなって、私を呼ぶ。

あの緑にも、自働化と同じ血が流れている。

工場には「アンドン」という仕掛けがある。異常が起きると、ランプが灯り、どこで何が起きているかが、ひと目でわかる。隠さない。覆わない。困りごとを、まず見えるようにする。見えれば、人は駆けつけられる。見えなければ、問題は静かに大きくなる。

私の緑のチェックは、私の家のアンドンだ。普段、私は機械の前に張りつかない。緑を信じて、自分の仕事をする。赤が灯ったときだけ、駆けつければいい。

整理し、整頓し、誰が見てもひと目で異常がわかる状態を保つ。工場ではこれらを5S（整理・整頓：2S）と呼んで徹底する。

立派な管理画面のことではない。「いま、何が起きているか」を、ごまかさず、目に見える形にしておく。それだけのことが、安心の土台になる。これが、みえる、ということの実体だ。

足し算ではなく、引き算

工場には、もう一つの戒めがある。ムダ・ムラ・ムリ――三つのム（3M）を、削ぎ落とす。要らない動き、ばらつき、無理を、一つずつ取り除いていく。

私は、組み立てるたびに、自分に聞いた。「これは、本当に要るか」。便利そうな道具は、いくらでもある。流行りの仕掛けも、次々に出てくる。

だが、足せば足すほど、システムは重くなり、いつか手に負えなくなる。壊れる場所も、覗かれる隙も、その分だけ増えていく。

だから、足すより、減らすことに神経を使った。一つの入口。一つの境界。溜め込まないデータ。覚えることが少ないほど、壊れにくい。軽いものは、速い。速くて軽いものは、見通しがいい。三つの言葉は、ばらばらではなく、互いに支え合っている。

なぜ、いま、この話なのか

ここまでは、私の小さな家の話だ。けれど、手綱を握るかどうかは、もう個人の趣味の問題では、なくなりつつある。

この春、世界の金融当局が、にわかに慌ただしくなった。

きっかけは、ある最先端のAIだった。そのAIは、世にあるほとんど主要な基本ソフトやブラウザに潜む深刻な欠陥を、数千件も、自力で見つけ出す力を持っていた。

守りに使えば心強いが、悪意に使えば、社会の土台を揺るがしかねない。

アメリカでは財務長官と中央銀行のトップが大手銀行の幹部を集め、欧州や英国の当局も銀行に注意を促し、国際機関までもが「この危機は国境を越える」と警告した。

私が興味深く見たのは、その先だ。このAIを開発した会社自身が、力が強すぎることを理由に、世に出す範囲を厳しく絞った。

誰にでも使わせるのではなく、ごく限られた組織にだけ、慎重に手渡す。作った当人が、ブレーキを踏んだのである。

同じころ、AIをめぐる株価も大きく揺れた。理由は一つではない――過熱した期待、決算への失望、半導体の需給。さまざまな要因が複雑に絡んでのことで、AIへの不安だけが原因だと言うつもりはない。それでも、相場のざわめきの底に、この技術がどこまで行くのか誰にも見通せないという、漠とした落ち着かなさが流れているように、私には見える。

これらは、ばらばらの出来事ではない。一つのことを指している。AIに何もかも丸投げし、中で何が起きているかを誰も見ていない――そういう「全自動・ブラックボックス」の方向には、社会全体を巻き込む危うさがある、ということだ。

だから、止まる仕組みがいる。見える仕組みがいる。最後に、人間が立ち会う仕組みがいる。工場が半世紀前に掘り当てた答えが、いままさに、世界でいちばん新しい問いの答えになろうとしている。

私が自分の家でやっている地味な線引きは、規模こそ違え、世界の当局が頭を抱えているのと、同じ問いの上に立っている。

設計は人間、施工はAI

前回、私はこう書いた。設計は人間が、施工はAIと。

いまなら、もう少し深く言える。

施工――手を動かす部分は、AIに大いに頼った。わからないことを聞き、返ってきた手順を試し、動かなければ、原因を一緒に探した。AIは、よく働く相棒だった。

けれど、設計――何を建て、何を建てないか、どこに線を引くか――は、ぜんぶ人間がやった。私だ。これは要る、これは要らない、ここから先には立ち入らせない。その判断を、AIに代わってもらったことは、一度もない。

動かすのは機械、止めるかどうかを決めるのは人間。施工はAI、設計は人間。言い方が違うだけで、中身は同じことを言っている。

そして、これは技術だけの話ではない。私が建てたこの場所には、母の暮らしの気配があり、仕事で預かった、他人の秘密がある。

そういうものの最後の行き先を、機械の判断にゆだねる気には、どうしてもなれなかった。便利だからと、暮らしや秘密の「採否」までAIに任せてしまえば、それはもう、自分の人生を、自分で生きていることにならない。

手綱を握るとは、不便を選ぶことではない。自分の暮らしの、最後の責任を、自分の手のなかに残しておく。ただ、それだけのことだ。

なぜ、乗らなかったのか

冒頭の問いに、もう答えられる。

なぜ私は、便利な「全自動」に乗らなかったのか。AIを信じないからでも、恐れているからでもない。むしろ私は、AIを毎日使い、深く頼っている。

そうではなく、知っているからだ。糸は、切れる。情報は、汚れる。

機械は、間違える。そのとき、ぴたりと止まって人を呼ぶ仕組みがあるか。最後の一線で、人間が立ち会えるか。その一点が、いま世界の金融当局を慌てさせ、そして私のような一個人の小さな家でも、何より大事なのだと。

便利さは、存分にいただく。けれど、主権は、渡さない。動くのは機械、決めるのは人間。これが、私がこの場所に通した、ただ一本の背骨だ。

次回予告

ここまでは、自分の暮らしと、自分の場所の話だった。けれど、手綱を握るという思想が、いちばん厳しく試されるのは、自分のためではない。他人の秘密を、預かったときだ。

次回は、この哲学を、私の暮らしのなかでもっとも秘密の重い場所――仕事に当てる。

一つのサーバーの中で、個人の領域と、仕事の領域を、どう完全に分けるのか。守秘義務のかかる書類を守りながら、どうAIを調べものに使うのか。お役所の分厚い書類を、どう「翻訳」させ、それでも最後の判断は手放さずにいるのか。

冷たいはずの技術が、温かい器に変わるとすれば、それはきっと、こういう地道な線引きの、積み重ねの先にある。

（第4回「個人と仕事を、一つの器で分ける」へ続く）

楠（KUSUNOKI）

ZeroTrustVPSシステム構築 AI LIFE（第1回）
　　https://note.com/ksnk_note/n/n36002e6ca63f
ZeroTrustVPSシステム構築 AI LIFE（第2回）
　　https://note.com/ksnk_note/n/nae90d6071d09
ZeroTrustVPSシステム構築 AI LIFE（第3回）←今回
　　https://note.com/ksnk_note/n/n97eac30cd3c7
ZeroTrustVPSシステム構築 AI LIFE（第4回）
　　https://note.com/ksnk_note/n/nd86ab88d0c24
ZeroTrustVPSシステム構築 AI LIFE（第5回）
　　https://note.com/ksnk_note/n/n093dd3acef36