ZeroTrustVPSシステム構築 AI LIFE⑤（最終回）

AIとは何か、誰が手綱を握るのか

この連載は、一つの問いから始まった。

あなたのデータは、誰のものか。

朝、目覚めて最初に手を伸ばすスマートフォン。検索窓にだけ打ち明けた、口に出せなかった本当のこと。家計の不安、健康の心配、家族の距離。あの「正直なあなた」は、いま、どこにいるのか――。

四回かけて、私はその問いに、自分なりの答えを並べてきた。月に三千円台で、自分の場所を建てた。外に向けた扉を一つに絞った。データを溜め込まず、鍵は自分の手元にだけ置いた。そして、いちばん神経を使った一点。

最後の判断を、AIに渡さなかった。

ここまで読んでくださった方には、もう景色が見えていると思う。今回は、その景色の先にあるものの話をしたい。

私の小さな家の話は、ここで一度、社会の話に変わる。そして最後に、これから私たちがAIと、どう生きていくのかという、未来への提案で、この連載を閉じたい。

これまでの四回を、一枚にたたむ

新しく読み始めた方のために、ここまでを手短にたたんでおく。技術の言葉は、できるだけ使わずに。

第一に、自分の場所を持った。 大手のサービスをやめたわけではない。便利なものは便利に使っている。変えたのは、使い方だ。何をどこに預けるかを、自分で決められる「司令塔」を、自分の名義の小さなサーバーに建てた。預けっぱなしではなく、選んで預ける。

第二に、扉を一つだけにした。 家の窓ぜんぶに鉄格子をつけるのではなく、そもそも出入りできる場所を一か所に絞る。外に向けて待ち受ける口を、一つも開けない。これが、ゼロトラストと呼ばれる考え方の核心だった。

第三に、手綱を、自分の手に残した。 これがいちばん大事だった。AIには、調べさせ、訳させ、整えさせ、提案させる。よく働いてもらう。けれど、何を採り、何を捨て、最後にどう決めるか――その一点だけは、人間が握る。動くのは機械、決めるのは人間。

第四に、一つの器の中に、一枚の壁を立てた。 同じ小さなサーバーの中で、自分の暮らしと、仕事で預かった他人の秘密を、置き場から分けて持った。重い秘密は、そもそも外に出さない。分けることは、隔てることではない。固く分けられているからこそ、暮らしの側は、安心して大胆につなげる。

この背骨を、私は発明したわけではない。半世紀前に、日本の工場で掘り当てられていた。糸が一本でも切れたら、機械が自分で気づいてぴたりと止まる、ニンベンのついた「自働化」。動かすのは機械、止めるか進めるかを決めるのは人間。私は、その古い知恵に、ようやく追いついただけだ。

ここまでが、私の四回ぶんの要約だ。

まず、はっきりさせておきたい ―― 私は、自動化を否定しない

本題に入る前に、誤解されたくない一点を置いておく。

私は、自動化を否定しているわけではない。 むしろ逆だ。

その歴史を、少しだけたどらせてほしい。はじまりは紙だったかもしれない。記録を、石や人の記憶から解き放った技術的発明だ。やがてグーテンベルクが活版印刷を生み、知を写し広める仕事が、書き写す人の手から解き放たれた。電信が現れ、文字は遠くへ一瞬で届き、飛脚が走って手紙を運ぶ必要は消えていった。電話が声を運び、ラジオが音を、テレビが映像を、自宅まで届けるようになった。留守番電話が、留守のあいだの伝言を預かり、そしていま、私たちは携帯電話を握り、LINEに代表されるSNSで世界中と一瞬でつながっている。

どれもこれも、人間の手間を機械が肩代わりしてくれた歴史だ。ラジオもテレビも、登場したときは未知の機械だった。それが、進化し、暮らしになじみ、いまの形に落ち着いた。AIも、同じように進化していくのだと思う。 否定する理由など、どこにもない。

ただ、この長い系譜には、一本だけ、変わらなかったものがある。

意思決定と、最終責任の在りかだ。

留守番電話が伝言を録音してくれても、それを聞き、かけ直すか無視するかを決めるのは人間だ。携帯電話に着信が並び、SNSにメッセージが届いても、確認し、どう返すかを考え、結果を引き受けるのは、いつも人間だった。道具は、労力を肩代わりした。けれど、判断と責任までは、肩代わりしなかった。

私は、AIも、この系譜のいちばん新しい一章にすぎないと思っている。これまででもっとも有能な道具ではある。けれど本質は、紙や電話やテレビと、地続きだ。

「人工知能」という訳語が、錯覚を生んでいる

ところが、AIにかぎって、この地続きの感覚が、ふっと途切れてしまう。

なぜか。私は、訳語のせいも大きいと思っている。

AIは、日本語で「人工知能」と訳される。知能、という言葉が入っている。すると、どうしても、こう感じてしまう。これは、人間の代わりに考えてくれる、人間に代わる機械なのだ、と。

だから「全部おまかせ」できる気がしてくる。留守番電話に「考えておいて」とは誰も思わなかったのに、AIには、つい判断ごと預けたくなる。

この錯覚は、私たちユーザーだけのものではないだろう。大手のテック企業も、AIを開発する会社も、使う私たちも――まだ定義の定まっていないものを、それぞれの想像で「未来の、人間に代わる機械」として思い描いているのかもしれない。だから、過剰な期待と過剰な不安が、同じ場所に同居する。同じ「AI」という一語で、まるで違うものを語り合っている。

少しほぐしてみる。決まった手順を自動でこなす「自動化」。データから規則を学ぶ「機械学習」。文章や画像を作る「生成AI」。自分で段取りを立て手まで動かす「自律エージェント」。そして、人間並み・人間超えを目指す「汎用人工知能」――これはまだ未来の話だ。この全部が、ひとくくりに「AI」と呼ばれている。話が噛み合わないのも、無理はない。

第３回で、少しだけ自律型AIと自律的AIの定義をしてみた。
「型と的」の違いだけのように思える。
あえて英文にすると、
前者は『Autonomous AI』、後者は『Agentic AI』となる。
前者の意訳は「人間の介入をさせずに、全自動でタスクを感けるさせる独立した労働力」
後者の意訳は「最終的決定権を人間が持つ、自分で考えて動く優秀な助手」

これにエージェント機能をつけると英文は次のようになる。
前者は「Autonomous AI Agent」、後者は「Agentic AI Agent」
世界の潮流は、後者に『あたる』ように考えるとも記した。「『あたる』はずだ」が正しい。

では、AIとは「人工知能」で良いのであろうか。
英訳すると、「Artificial Intelligence」

少し前まで、AIは「人間のように意味を理解し、考えて答えを出す機械」だと思われがちだった。今でもそう思っている人が多い。

現在のAIは、意味を理解しているわけではない。

膨大なデータを学習し、「この文脈の次には、どの単語が来る確率が一番高いか」を恐ろしい精度で計算して繋ぎ合わせているだけである。

そのため、最近の専門家は現在のAIを「知能」と呼ぶのを避け、「高度な統計処理システム」や「次世代の計算機（計算エンジン）」と定義する見方が主流である。

「高度な統計処理システム」を表現する場合。
英訳すると、Advanced Statistical Model（高度な統計モデル）
Sophisticated Probabilistic Engine（洗練された確率計算エンジン）

「次世代の計算機」を表現する場合。
Next-Generation Computing Engine（次世代コンピューティングエンジン）Advanced Computational Tool（高度な計算ツール）

Next-Token Predictor（次単語の予測機）
Cognitive Tool（認知拡張ツール）

私が構築している「Human-in-Command Zero-Trust Infrastructure」のコンセプトを説明する際、本質を表現するならシステムに組み込んでいるAIのことを「Artificial Intelligence」と呼ぶ代わりに、「Cognitive Engine」「Probabilistic Engine」とするのが妥当である。

しかしまだAIの言葉の定義があいまいなまま使用すると、言葉が通じない。
私は、普段のコミュニケーションのために「ＡＩ」という『言葉』を使う。

この辺りは、日本であれば、言語学の金田一京介先生、新村出先生、大野晋先生にご存命であれば教えを請いたい。その系譜の研究者でも嬉しい。
The renowned linguist Noam Chomsky.
The father of modern linguistics Ferdinand de Saussure.
The cognitive psychologist and linguist Steven Pinker.
The anthropological linguist Edward Sapir.
言語学の総合知を結集して「ＡＩ」を再定義する時期に来ているのかもしれない。

一般向けブランド名：Cognitive Engine（CE：認知処理エンジン）
技術的説明：Probabilistic Engine（PE：確率推論エンジン）
私は、AIを思考上変換して話している。CEが日本人的に馴染みそうだ。

この六月、ある発表会で見た景色

ちょうどこの連載を書いているあいだに、世界が注目した発表会があった。開発者向けの催しだ。

新しくなった音声アシスタントが、いくつものアプリをまたいで、頼みごとを最後まで一気にやり遂げてみせた。会議のメモから報告メールを書き上げる。
設定の弱いところを見つけて、自分で各所を直してまわる。

一言頼めば、あとは流れるように片づいていく。見事だった。技術として、素直にすごいと思った。あれを心待ちにしていた人は、きっと多い。私も、便利だと思う一人だ。

私が立ちすくんだのは、あの映像そのものにではない。あれを見た多くの人が、「これからは、何もかもおまかせでいいのだ」と受け取ってしまうこと――そちらのほうだった。

デモは、デモだ。短い時間で驚きを届けるために、いちばん鮮やかな場面を切り取って見せる。作り手は、当然それを承知でつくっている。

問題は、見る側に渡される印象のほうにある。

「全部やってくれる」という鮮烈な絵だけが残り、その裏で人間がどこに立っているべきかは、語られないまま流れていく。

私が怖いのは、技術そのものではない。人間の誤解だ。

「丸投げすれば、全部うまくいく」という期待がふくらみ、やがて現実が追いつかず、失望に変わる――その振り子の往復で、AIという良い道具が、いわれのない幻滅を背負わされること。期待と失望のあいだを激しく揺れるのではなく、正しい居場所に、静かに着地させたい。

だからこそ、もう一度言いたい。やはり、ニンベンのついた自働化――異常があれば止まり、肝心なところで人を呼ぶ、あの構えが、本来の姿だと私は思う。自律的に動くAIを、否定しているのではない。その力に、止まる場所と、人を呼ぶ一手を、組み込んでおきたいだけだ。

コスパではなく、満足感

私のシステムは、安い。月に三千円台で、これだけのものが動く。

安い、というと、たいてい「コスパがいい」と言われる。けれど、私がこの場所に感じているのは、価格のことではない。価格以上の、満足感だ。

その満足感は、どこから来るのか。考えてみて、気づいた。自分で選び、自分で決めた、というところから来ているのだ。

どのAIをどう組み合わせるか。何を手元に置き、何を預けるか。一つひとつ、自分で調べ、自分で考え判断して、置いた。

動かなければ原因を探し、また直した。手間はかかった。けれど、その手間の分だけ、この場所は、まぎれもなく自分のものになった。

「AIが選んで設定してくれたから、間違いない」――そうは、決して言えない。
AIの選択が最適とはかぎらないからではない。AIは時として「間違える：Hallucination（ハルシネーション）」
たとえ最適だったとしても、自分で選んでいない暮らしには、あの満足感が、宿らないからだ。

主権を渡すと、楽しみまで手放すことになる

ここに、私がいちばん言いたいことがある。

手綱を握るのは、責任や安全のためだけではない。暮らしの楽しみそのものを、手放さないためでもある。

旅行を考えてみてほしい。

旅の本当の楽しみは、出発の前から始まっている。パンフレットを広げ、地図をなぞり、あの宿にするか、こっちの路地裏の店を覗くか、と迷う。その迷っている時間が、もう旅なのだ。失敗もする。道に迷い、定休日にぶつかり、それでも、その全部が、後から笑い話になる。

もし、AIが代わりに旅をして、撮ってきた完璧な画像を、ぜんぶ見せてくれる世界が来たら、どうだろう。効率はいい。失敗もない。けれど、それはもう、旅ではない。よくできた旅行番組を、テレビで見ているのと、同じだ。

私は、そこに、強い違和感を覚える。

何を機械に渡し、何を自分の手に残すか。それは、責任の線引きであると同時に、どこに自分の人生の手ざわりを残すか、という線引きでもある。

下調べや雑用は、どんどん渡せばいい。けれど、迷い、選び、決める――その、いちばんおいしいところまで明け渡してしまえば、便利になった先に残るのは、ずいぶん味気ない暮らしではないか。

人類にとって何が良いかは、人それぞれだ。全部おまかせの楽さを選ぶ人を、私は否定しない。けれど、私自身は、主権を誰かに、何かに渡してしまった暮らしに、楽しみを感じられそうにない。

「AIがやったから、しょうがない」が通用しない社会へ

この線引きを、私は個人の心がけにとどめず、社会への提案として差し出したい。

「丸投げすれば全部やってくれる」。この甘い響きには、落とし穴がある。責任の主語が、消えてしまうのだ。便利になればなるほど、誰も決めなくなり、誰も負わなくなる。やがて、問題が起きたとき、こんな言葉が漏れる。

「AIがやったことだから、しょうがない」。

私は、この言葉が通用しない社会であってほしいと思う。

ここに、わかりやすい先行事例がある。他人の秘密を預かる、専門家たちだ。 税務にも、医療にも、法律にも、人の言えない事情を書類や数字のかたちで託される人たちがいる。

私たちには共通点がある。最終的な責任を、構造的に外注できない。 AIがどれだけ自律して動こうと、その申告が正しいか、その助言が妥当か、最後に署名し責任を負うのは人間だ。「AIが計算したから」では、誰も納得しない。

私は、専門家がいま当たり前にやっているこの線引きが、これから社会全体に求められるものの先取りだと考えている。

航空や原子力の現場には、昔から「自動化の皮肉」と呼ばれる教訓がある。人間を判断から外すほど、いざ機械が誤ったとき人間は対応できなくなり、平時には腕がなまり、システムはかえって脆くなる。

判断を人間に残す設計は、一見不便でも、長い目で見れば、ずっと頑健だ。

人間が主語であり続けるほうが、実はAIにとっても、健全に育つ。

この構えには名前がついている。Human-in-Command。指揮を執るのは、人間。AIは候補を出し、映し、提案する。

最後に判を押すのは人間。装置が知らせ、映す。人間が、判じ、動く。 この一行を、私は社会への提案として差し出したい。

そしてこれは、第三回で書いた「足さない」という構えと、地続きだ。能力を際限なく足していくのではなく、どこで人間が握るかを決めて、そこから先は足さない。

足さない設計を、個人の机から、社会の作法へ。

私が小さな家でやってきた地味な線引きが、そのまま、これからの社会の線引きになればいい。

いまは過渡期、そして ―― AIが人に寄り添う未来へ

白状すれば、私にも、AIが何であるかの最終的な答えは、わからない。それは、まだ誰にもわからないのだと思う。

AIが社会の中で何であるかという定義も、何にどこまで使うべきかという用途も、まだ定まっていない。能力だけが、定義を置き去りにして先へ走っている。

これは、混乱というより、過渡期なのだと、私は考えている。

自動車が現れたとき、人は最初それを馬のいない馬車と呼んだ。やがて用途が定まり、ルールが整い、暮らしの中に正しい居場所を見つけていった。AIも、いまその途中にいる。

過渡期に大切なのは、答えを焦らないこと。万能だと持ち上げすぎず、脅威だと怯えすぎず。けれど、ただ流れに身を任せるのとも違う。

定まっていないからこそ、私たちがこれから、どう定めたいかを語っておく意味がある。

だから私は、能力ではなく「何を渡し、何を握るか」で、AIを定義しなおすことを提案したい。

紙から電話へと続いてきたこの長い道具の系譜に、AIを正しくつなぎ直すこと。それが、過渡期を抜ける、いちばん確かな道だと思う。

その先に、私は、明るい未来を描きたい。

AIは、これからも確かに進歩し、発展していくだろう。それは止められないし、止める必要もない。問われるのは、その力が、どこを向くかだ。

私が描きたいのは、AIが人間を置き去りにして賢くなっていく未来ではない。

生身の人間に、そっと寄り添うAIの姿だ。

私はそこに、AIのいちばん美しい形があると思っている。

寄り添う、というのは、代わりに生きることではない。先回りして奪うことでも、命じることでもない。
隣にいて、こちらが迷うときには候補を並べ、つまずきそうなときには静かに知らせ、決めるのは本人にまかせる。出しゃばらず、けれど、いつもそこにいる。

思えば、この連載のいちばん最初がそうだった。母の手首の時計が、いつもどおりの朝を刻み、その気配だけが、そっと私のもとへ届く。見張るのではなく、見守る。映像もない、音声もない、ただ「今日も動き出した」という合図だけが伝わる。

あれは、技術が母に寄り添っていた、最初の小さな一場面だったのだと、いまになって思う。技術が消えて、気配だけが残る。私が建てたかったものは、突き詰めれば、ずっとそれだったのかもしれない。

その寄り添いを、母だけでなく、もっと多くの人へ。少しだけ、これから来る暮らしを思い描いてみる。

朝、目を覚ます。枕元のスマートフォンに手を伸ばすより先に、自分の場所のAIが、今日の予定と、昨夜のうちに届いた大事な報せだけを、声でそっと知らせてくれる。
広告も、煽る見出しも、混じっていない。出かけぎわ、役所の封筒を写すと、「これは、今月末までに、これを返す書類です」と、やるべきこと数行に畳んで返ってくる。
外出時、離れて暮らす親の気配が、変わりなく届いている。仕事では、調べものと下書きをAIが整え、最後の判断だけが、自分の手元に置かれている。

どこを見ても、人間が、判断し、決め、楽しんでいる。

AIは、その人生のかたわらに、静かに控えている。
先回りして奪わず、求められたときにだけ、力を差し出す。
一人ひとりの手元に、自分だけの小さな場所があり、データは自分の家に置かれ、迷い、選び、決める楽しみは、ちゃんと本人のものとして残っている。

人間は人間の得意を、AIはAIの得意を持ち寄る。支配でも、依存でもない。

寄り添い、共に生き、共に発展していく。

人間が手綱を握っているからこそ、AIは安心して、その力を伸ばしていける。どちらかがどちらかを置き去りにするのではなく、二人三脚で、これまでの道具がそうしてきたように、暮らしになじみ、暮らしを豊かにしていく。

それは、技術に支配される未来ではない。技術が、人間に寄り添う未来だ。私は、その未来を、ハッピーエンドで描けると信じている。

連載を終えるにあたって

正直に書く、という約束を、最後まで守りたい。この連載で紹介した仕組みは、いまも動いている。けれど、まだ建設中のものもある。声で話しかける「耳と口」は、設計は済んだが、実運用はこれからだ。
重い処理を担うもう一台の計算機の合流は、秋以降を見込んでいる。
できたことは「できた」。できていないことは「できていない」。
完成したら、「できた」と喜びたい。その日を、私はいまから楽しみにしている。

母を見守りたいという、ささやかな願いから始まった連載だった。

その願いがたどり着いた先が、AIが人に寄り添う未来、という景色だったのは、自分でも少し意外で、けれど、しっくりきている。

小さな家を一つ建てる話が、いつのまにか、これからの社会の話になっていた。けれど、振り返れば、最初の動機も、最後の願いも、同じ一つのことだった。大切なものを、自分の手のなかに、ちゃんと置いておきたい。ただ、それだけのことだった。

ここまで、長いあいだ、お付き合いいただき、心より感謝している。

あなたのデータは、誰のものか――。その問いの答えを、いまは、あなた自身の手のなかに感じてもらえていたら、これにまさる喜びはない。

冷たい技術が、温かい器に変わる。その境目には、いつも、判じ、動き、そして人生を楽しむ人間がいる。そして、そのかたわらに、静かに寄り添うAIがいる。

AIが何であるかを、最後に決めるのも――きっと、私たち人間だ。

その手綱を、誰にも、何にも、渡さずに。AIと、共に歩いていこう。

（ZeroTrustVPSシステム構築 AI LIFE ―― 完）

楠（KUSUNOKI）

ZeroTrustVPSシステム構築 AI LIFE（第1回）
　　https://note.com/ksnk_note/n/n36002e6ca63f
ZeroTrustVPSシステム構築 AI LIFE（第2回）
　　https://note.com/ksnk_note/n/nae90d6071d09
ZeroTrustVPSシステム構築 AI LIFE（第3回）
　　https://note.com/ksnk_note/n/n97eac30cd3c7
ZeroTrustVPSシステム構築 AI LIFE（第4回）
　　https://note.com/ksnk_note/n/nd86ab88d0c24
ZeroTrustVPSシステム構築 AI LIFE（第5回）
　　https://note.com/ksnk_note/n/n093dd3acef36：←今回