ZeroTrustVPSシステム構築 AI LIFE④

個人と仕事を、一つの器で分ける

前回、私は手綱の話をした。便利な「全自動」に乗らず、最後の判断は人間が握り続ける。
その設計判断を、トヨタの現場が磨いた「自働化」に重ねて書いた。

今回は、その手綱を握る相手が変わる。

前回まで、握っていたのは「自分の暮らし」だった。母の見守り、原稿、写真、家計。失っても、困るのは私と私の家族だ。ところが私の机には、もう一つ、性質のまるで違うものが載っている。

仕事で預かった、他人の秘密である。

私は税務・会計にたずさわる仕事をしている。詳しくは、クリエーターページのプロフィールをご覧いただきたい。

ただ一つだけ、今回の話に必要なので明かしておく。

私の仕事は、他人がいちばん見られたくない数字を、本人より先に見る仕事だ。いくら稼いだか。どこに使ったか。何を失い、何を隠したいか。封筒の中身を、私は職務として開ける。

だから今回の問いは、これだ。

自分の暮らしと、他人から預かった秘密を、同じ一つの器の中に、どう同居させ、どう分けるのか。

預かりものには、重さがある

自分のデータなら、多少ぞんざいに扱っても、責任は自分に返ってくるだけだ。だが預かりものは違う。漏らせば、傷つくのは私ではない。私を信じて封筒を渡した、その人だ。

この仕事を長くしていると、紙の束を受け取る瞬間の、相手の手の動きをよく覚えるようになる。差し出すときに、わずかにためらう人がいる。中身を全部は見せたくない、けれど見てもらわなければ前に進めない。

その葛藤が、封筒を押し出す指先に出る。私が受け取っているのは、書類であって、書類ではない。その人が、誰にも言えずに抱えてきた数字であり、その背後にある暮らしの選択そのものだ。

専門家には、守秘義務がある。法律で定められた義務であると同時に、それ以前の、職業の良心の問題でもある。医者がカルテを、弁護士が相談の中身を、決して外に出さないのと同じだ。

秘密を預かるとは、その人の人生のいちばん柔らかい部分を、一時的に手のひらに乗せることにほかならない。手のひらに乗せている間、それを落とさない仕組みを、私は自分の責任で用意しておかなければならない。「気をつけます」では足りない。気をつけなくても落ちないように、最初から設計しておく。それが専門家の備えだと、私は考えている。

ここで、前回までの設計が効いてくる。

私は心臓部を、どこかの大きなクラウドに丸ごと預けることをしなかった（第2回）。AIに最後の判断をさせず、手綱を握り続けることにした（第3回）。

この二つは、自分の暮らしのためであると同時に、いまにして思えば、預かりものを守るための備えでもあった。判断を外に明け渡さない設計は、秘密を外に漏らさない設計と、根が同じだったのだ。

問題は、その同じ器の中に、まったく重さの違う二つの世界を、どう置き分けるかだった。

広げない、という判断

ここで多くの人が考えるであろう道は、たぶんこうだ。「容れ物が手狭なら、大きくすればいい」。

私が使っているのは、月に千五百円ほどの、ごく小さなサーバーだ。性能には限りがある。仕事の領域を足すなら、一段大きな容れ物に乗り換えればいい――そう考えるのが自然だろう。実際、私もいったんはその拡張を構想書に書き込んでいた。

だが、見送った。広げないことに決めた。

理由は二つある。一つは、いまの小さな容れ物で、必要なことは十分にできると見極めがついたからだ。机を広げる前に、いま乗っているものを使い切る。トヨタの現場でいう「ムリ・ムラ・ムダ」のうち、まず「ムリ」をしない――背伸びした構成は、いざというとき真っ先に倒れる。

もう一つは、月々の支払いを増やさずに済むからだ。

第2回で内訳まで開示したとおり、私が毎月かならず払っている固定費は、サーバーとクラウドを合わせて三千円台だ。容れ物を大きくすれば、能力と引き換えに、この固定費がそのぶん増える。広げないという判断は、そのまま「家計を膨らませない」という判断でもあった。

足し算は、いつでも気持ちがいい。新しい機能、大きな容量、速い処理。だが私はこの連載を通して、一つのことを繰り返し選び取ってきた。足さないことも、また設計である。 広い机に物を散らかすより、狭い机を片づいたまま使うほうが、預かりものを落とさずに済む。

私はPCを持っている。そこには会計ソフトや税務ソフト、財務分析ソフト等々。紙媒体はなるべくスキャニングしている。もちろん事業用と個別用を区別して。HDD（ハードディスク）からNAS（ネットワーク・アタッチト・ストレージ：ネットワークに接続された記憶装置）もあり、セキュリティも暗号化設定している。NASの中にHDDが何台も組み込まれているが、もしその１台が壊れてもデータがなくならないように複製する仕組みも設定している。更にNASは別の場所にもあり相互に同期し暗号化して複製している。

ここまでしているのに、なぜ、ZeroTrustVPSシステム構築なのか。
答えは簡単だ。提供されている会計システム等にAIがブラックボックスのように組み込まれ始めたからだ。

しかも「自律型エージェントAI」を標榜しているメーカーもある。

システム運用に、自分で確認・判断し決定する。最後は自分が責任を持つ仕組みが必要になった。そこで大切なのはシステムの設計思想であり、運用の指針である。

前回の「自働化」を思い出してほしい。機械に異常が起きたら自ら止まり、人を呼ぶ。働きを増やすことではなく、いつ止まるかを設計に組み込むことが、あの思想の核だった。広げないという今回の判断も、同じ系譜にある。

能力をどこまで伸ばすかではなく、どこで伸ばすのをやめるかを、自分で決める。やめどころを握っているうちは、システムは私の手のなかにある。際限なく足していけば、いつか私はこの器の全体を把握できなくなり、把握できないものの中に、顧客の秘密を置くことになる。それがいちばん怖い。

だから私は、同じ一つの小さな器の中に、二つの世界を分けて持つことにした。壁を増やすのではなく、一枚の壁を、正しい場所に立てる。それが今回の設計の核だ。

器の中に、一枚の壁を立てる

では、どう分けたか。順に書く。

まず、いちばん重い秘密は、そもそもネットの向こうに出さない。 顧問先からお預かりした機微な書類は、私の手元のパソコンの中に、暗号化したまま置いている〔注1〕。クラウドにも、サーバーにも、上げない。出さなければ、漏れようがない。いちばん確実な守りは、立派な金庫を建てることではなく、そもそも金庫に入れる前の段階で、外に持ち出さないことだった。

やむをえずクラウドを経由させる必要があるものは、私の手元で先に暗号化してから送る。 Cryptomatorという道具を使うと、ファイルは私のパソコンの中で鍵をかけられ、暗号化された状態のままクラウドへ渡る〔注2〕。預け先の事業者から見えるのは、中身どころか、ファイルの名前すらも意味をなさない記号の列だけだ。鍵は私の手元にしかない。「預けるが、見せはしない」――この一線を、技術で物理的に引いた。

そして、暮らしの家計と、仕事の会計は、入れ物のレベルから混ぜない。 仕事の経理には専用の場所を用意し、家計のメモや個人の書類とは、置き場そのものを分けている。同じ机の上でも、引き出しを分ける。混在は、いつか必ず取り違えを生む。取り違えが、いちばん起きてはいけない場所が、預かりものの周りなのだ。

取り違えは、油断したときに起きるのではない。忙しいとき、似たものが隣に並んでいるときに起きる。仕事のファイルと個人のファイルが同じ棚に交ざっていれば、急いでいる手は、いつか必ずどちらかを取り違える。

だから私は、置き場を分けるとき、二つの問いを立てた。これは「どこに」置くものか。そして、ここには「何を」置いてよいか。置き場が決まっていれば、迷う時間が消える。迷う時間が消えれば、取り違えも消える。守秘とは、立派な鍵の話である前に、地味な置き場の話なのだと、やってみて分かった。

一枚の壁とは、たくさんの鍵をかけて回ることではない。「どこに何を置くか」を最初に決め、それを崩さないことだ。設計の良し悪しは、足した数ではなく、置き場の明快さで決まる。

システムを設計する人なら、いま私が書いたことを、別の言葉で知っているはずだ。外に晒す面は、できるだけ小さく。与える権限は、必要な分だけ。扱う範囲は、自分が把握できる大きさに留める。私が地味に「置き場」と呼んできたものを、設計の世界は、当たり前の作法としてすでに持っている。

ただ、一つだけ付け加えたい。その作法の、重さのことだ。守る相手が自分のデータであるうちは、設計の巧拙は、まだ趣味の範囲で済む。

けれど、手のひらに他人の人生が乗っているとき、同じ作法は、良心の問題に変わる。

技術が正しいということが、そのまま、誰かの尊厳を守ることになる。腕のいい設計者であることと、信頼に足る預かり手であること――この二つが一つに重なる場所に、専門家の仕事はある。

AIには、秘密を渡さない

ここまで読んで、ひとつ疑問が浮かぶかもしれない。「調べものや要約に、AIを使っているのではないか。だとしたら、その秘密はAIに渡っているのでは」と。

渡していない。これは設計の、いちばん神経を使った一点だ。

私がAIに尋ねるのは、誰の秘密でもない事柄に限っている。税法の条文はどう変わったか。この制度の一次情報はどこにあるか。役所の文書は何を言っているのか。

公にひらかれた知識を、速く正確にたぐり寄せるために、AIは働く。だが、顧問先の固有名や、具体的な数字を、外のAIとの対話に持ち込むことは、しない。しかもAIの学習には使われないようもしている。
（どこまでAI企業を信じてよいかは別として最善は尽くす）

どの様な設定をしようが、AIに機密情報を渡さない理由は単純だ。外のAIに言葉を渡すことは、その言葉を自分の手の外に出すことだからだ。前回書いた「手綱を握る」は、ここでは「言葉を握る」になる。何を渡し、何を握り続けるか。その線引きを、毎回、人間である私が引く。

具体的には、こうしている。何かを調べたいとき、私はまず、その問いから固有のものをすべて削ぎ落とす。誰の話か、いくらの話か、どの会社の話か――そうした、その人を特定しうる手がかりを抜き、残った「制度そのものへの問い」だけをAIに渡す。返ってきた一般論を、私が自分の頭の中で、目の前の固有の事情に当てはめる。――つまり、その人の人生に関する固有の判断は、外には出さず、私の手元で行う。

AIは一般論の調べ役、固有の判断は人間。この境目を引き直すのに、毎回ほんの数秒、手が止まる。その数秒が、守秘の最後の砦だと思っている。

本当は、秘密を一切外に出さずに処理できる、自分の手元だけで動くAIを、この器の中に住まわせたい。設計はしてある。だが、いまの小さな器では、それを動かすには力が足りない〔注3〕。だから私は、それを「動いている」とは書かない。できていないことは、できていないと書く。これは、機が熟すまで凍らせてある計画であって、完成した機能ではない。預かりものに関わる以上、ここで見栄を張るわけにはいかない。

できることと、これからのことを分けて書く。それもまた、秘密を預かる者の作法だと思っている。

暮らしの側は、ひとつにつなぐ

秘密の側を固く分けるいっぽうで、暮らしの側は、むしろ一つにつなぎにかかっている。

私のサーバーは、ふだん使っているメールとカレンダーと、クラウド上の書類置き場に、正式につながった〔注4〕。つなぐための鍵を発行し、自動化の仕組みに連携させ、試しに一通のメールを実際に取り寄せてみて、たしかに届くことを確かめた。設計図の上の話ではない。本当にメールが一通、私の器の中に降りてきた。その日を、私は記録に「土台が動いた日」として書きつけた。

ただし、今つながったのは、あくまで土台である。メールを集め、予定を一本化し、やるべきことを仕分けし、朝に要点だけを一枚で受け取る――そういう、暮らしを軽くする本体の仕組みは、まだこれからだ。土台は据えた。家はこれから増築していく。その順番を、私は飛ばさない。

分けるところは固く分け、つなぐところは大胆につなぐ。この二つは矛盾しない。むしろ、固く分けられているからこそ、暮らしの側は安心して一つにつなげる。壁が信頼できれば、その内側はのびのびと使える。それが、一つの器を二つの世界に分けて持つ、ということの実際だった。

そして、その壁を信頼できるのは、壁が「いま、ちゃんと立っているか」を、いつでも目で確かめられるからだ。私の器は、自分の各部が無事に動いているかを定期的に自己点検し、その結果を私に見せる。すべて無事なら、緑が並ぶ。この連載で繰り返し書いてきた、あの緑だ。秘密を預かる側にとって、見えないまま「たぶん大丈夫」で済ませることほど、こわいものはない。大丈夫かどうかを、推測ではなく、目で確かめられること。壁の堅さと同じくらい、壁が見えていることが、私には大事だった。

封筒の中身を、訳す

最後に、その「暮らしの側」で、いちばん地味で、いちばん効いている使い方を一つ書いておきたい。

役所から届く封筒の、翻訳（解読）である。

行政の文書は、なぜあれほど読みにくいのだろう。制度の名前は長く、ただし書きは入れ子（幾重にも重なって）、結局のところ自分は何をいつまでにどうすればいいのか、最後まで読んでも判然としないことがある。母の介護にまつわる書類は、とりわけそうだった。一枚の通知を前に、何度ため息をついたか分からない。

いまは、その封筒の中身をAIに渡して、こう尋ねる。「これは、結局、私が何を、いつまでにどうすればいい書類ですか」。すると、長い文書が、やるべきこと数行に畳まれて返ってくる。これは誰の秘密でもない、私自身の暮らしの書類だから、安心して渡せる。第1回で書いた「お役所・お金・事務の翻訳」が、ここで現実の道具になった。

行政の文章は関連する制度を数多くまたいでいる。日本は申請主義だから、選び方ひとつで将来が変わる。AIには関連するすべての制度を調べさせ関連法令を検討させる。封筒から取り出した文書から『最適解』を導くために。

冷たい技術が、温かい器に変わる瞬間は、たいてい、こういう地味な場面に宿っている。難しい封筒が、母のために動ける数行になる。それだけのことだ。それだけのことが、暮らしを少し軽くする。

これは、専門家だけの話ではない

ここまで、税務や会計にたずさわる一人の机の話として書いてきた。けれど、他人の何かを預かっているのは、資格を持った専門家だけではない。

街の商店を営む人は、顧客の名簿と連絡先を預かっている。個人で仕事を請け負う人は、取引先の見積もりや、預かった情報を手元に持っている。小さな会社を切り盛りする人は、従業員の給与と、取引先の内情を抱えている。そして、資格も商売もない一人の生活者でも、家族の写真、診断書、通帳――失えば困る、誰しも柔らかい部分を、必ずどこかに持っている。

大げさな仕組みは、要らない。私がこの回でしたことは、突き詰めれば、五つの問いに答えただけだ。いちばん重いものは、そもそも外に出さずに済ませられないか。どうしても預けるなら、自分の手で鍵をかけてから渡せないか。仕事のものと暮らしのものを、置き場から混ぜていないか。

AIに、誰かを特定できる言葉を渡していないか。そしていま、ちゃんと守れているかを、自分の目で確かめられるか。

月々の負担は、増やさなくていい。机は、広げなくていい。むしろ、広げないほうがいい。いま手元にある道具のままで、置き場を決め、外に出さないものを決め、預けるなら鍵をかけてから渡す。

それだけで、預かりものを取り落とす確率は、目に見えて下がる。これは、特別な誰かのための高度な技術ではなく、何かを預かるすべての人が、今日から自分の机で引ける、一本の線なのだ。

丸投げは、事業では危ない

ここまでは、秘密を「守る」側の線引きだった。だが、同じ一本の線は、AIを「活かす」側でも、そっくり必要になる。とりわけ、自分の名前で商いをしている人――個人事業主や、小さな会社を背負う人にこそ、知っておいてほしい。

いまAIは、「全部やっておきました」と言える段階に近づいている。指示を一つ出せば、自分で段取りを決め、書類を作り、手元の道具を操作してまわる。こうした自律型エージェントは、人手の足りない事業主の目には、まぶしいほど魅力的に映る。

けれど、丸投げは、事業では危ない。

AIが組んだ請求書の桁が、一つ違っていたら。AIが出した発注が、二重だったら。AIがまとめた申告の前提が、古い制度のままだったら――

それでも、最後に頭を下げるのは、AIではない。あなたであり、あなたの屋号だ。事業の世界では、誤りは「すみません」では済まず、取引先の信用に、そのまま跳ね返る。

ここで効くのが、前回書いた、人偏のついた「自働化」の考え方だ。機械が異常を察したら、自ら止まって、人を呼ぶ。動かすのは機械、止めるか進めるかを決めるのは人間。指揮を執るのは、あくまで人――ヒューマン・イン・コマンドである。

AIに業務を「させきる」のではなく、要所で必ず、人の確認を一手はさむ。その一手が、事業を守る。

人を判断から外すほど、仕組みは強くなる――そう思いたくなる。だが、現実はしばしば逆だ。人を判断から遠ざけるほど、いざAIが誤ったとき、人はもう異常に気づけず、立て直すこともできなくなる。

平時にこそ現場の勘が痩せ、肝心なときに脆い。

これは「自動化の皮肉（the ironies of automation）」として、航空や工場の現場で古くから知られてきた教訓だ。便利になるほど、人を完全には抜けない。抜いては、いけない。

そもそも私たちは、「人工知能」という言葉に、少しだけ引きずられているのかもしれない。

その語感は、子どもの頃に親しんだ、心を持った相棒のような機械を思い起こさせ、ときには、人に代わってすべてを決めてしまう機械の物語さえ呼び寄せる。

だが、事業の現場でほしいのは、人に取って代わる機械ではない。人の判断を、速く、正確にし、危ういときにはちゃんと止まってくれる――そういう、頼れる道具のほうだ。

だから、事業にAIやITを迎えるときの線引きを、私はこう置いている。取り返しのつく仕事――集計、下調べ、下書き、転記、要約は、迷わずAIに渡す。

取り返しのつかない決め事――値付け、与信、最終的な発注、申告の可否は、人が握る。

この一本を引けているかどうかが、事業でAIを「活かす」のか「振り回される」のかの分かれ目になる。道具に使われるのではなく、道具を使う。主語を、人間に置いたままにする。それが、私の考える、事業における自動化の最適解だ。

そろそろ、最初の問いに戻ろう。自分の暮らしと、他人から預かった秘密を、一つの器の中にどう同居させるか。

答えは、こうなった。分けることは、隔てることではない。

一つの器の中で、握り続けるものと、渡してよいものを、最初に一枚の壁で分ける。秘密は外に出さず、暮らしは大胆につなぐ。そして、その境目を引くのは、いつも人間の手だ。

机を広げる誘惑を断ち、狭い机を片づいたまま使う。足さないことを選び取る。そうやって私は、母の見守りと、他人の秘密と、自分の原稿を、同じ小さな器の中に、取り違えずに置いている。足さないことが、守ることだった。 この連載を貫いてきた「足さない設計」は、ここでようやく、その本当の意味をあらわしたように思う。

医師は病歴を預かる。弁護士は相談の中身を預かる。税務や会計にたずさわる者は、人の数字を預かる。世の中には、他人の人生のいちばん柔らかい部分を、職務として手のひらに乗せている人が、たくさんいる。その人たちは今、その秘密を、どこに置いているのだろうか。

次回、この連載の最終回では、机の上の一人の話を、机の外へ広げてみたい。

秘密を預かるすべての専門家へ――そして、いつか誰かに秘密を預ける、私たち全員へ。冷たい技術を、温かい器に変えるための「足さない設計」を、一つの社会への提案として書き残す。

そこではきっと、そもそもAIとは何なのか、その手綱を最後に誰が握るのか、という問いにも、私なりの答えを差し出すことになる。

連載 AI LIFE、次回が最終回になる。

【脚注】

〔注1〕ローカルでの暗号保管。 手元のパソコンの記憶装置そのものを暗号化する仕組み（BitLocker等）を使い、パソコンを盗まれても中身を読めないようにしている。最も機微な書類は、この手元の暗号領域に留め、ネットワークに出さない方針をとる。

〔注2〕Cryptomator。 手元の端末側でファイルを暗号化してからクラウドへ預ける道具。暗号方式はAES-256。預け先の事業者からは、ファイルの中身に加えてファイル名も判読できない。鍵は利用者本人のみが保持する。

〔注3〕手元で動くAI（ローカルLLM）。 外部に一切言葉を送らず、自分の機器の中だけで動かすAIの構想。守秘の観点では理想に近いが、相応の計算資源を要するため、現在の小規模なサーバーでは安定稼働させられず、上位環境が整うまで実装を凍結している（設計のみ完了、全体最適化）。

〔注4〕Google連携の土台。 認証用の鍵（OAuthクライアント）を発行し、自動化基盤（n8n）にメール・カレンダー・クラウド書類置き場を接続。受信メールの実取得を確認した段階を指す。集約・一本化・仕分け・要点配信といった本体機能は、この土台の上に順次構築。

楠（KUSUNOKI）

ZeroTrustVPSシステム構築 AI LIFE（第1回）
　　https://note.com/ksnk_note/n/n36002e6ca63f
ZeroTrustVPSシステム構築 AI LIFE（第2回）
　　https://note.com/ksnk_note/n/nae90d6071d09
ZeroTrustVPSシステム構築 AI LIFE（第3回）
　　https://note.com/ksnk_note/n/n97eac30cd3c7
ZeroTrustVPSシステム構築 AI LIFE（第4回）←今回
　　https://note.com/ksnk_note/n/nd86ab88d0c24
ZeroTrustVPSシステム構築 AI LIFE（第5回）
　　https://note.com/ksnk_note/n/n093dd3acef36