特異点の向こう側　第29話 向こう側の答え

翌朝、天馬は一睡もしていなかった。

オフィスに着いたのは午前6時前。誰もいない開発フロアで、窓ガラスに向かっていた。指先でガラスに数式を書いては消し、書いては消した。Prometheusのアーキテクチャ。目的関数。制約条件のラグランジュ乗数。

どこかが間違っている。でも、数式の中に答えはなかった。

午前9時。会議室に4人が集まった。

桐生がコーヒーを4つ、テーブルに並べた。園田はいつもより少し目が赤い。南条は無言で席に着いた。

天馬は窓際に立っていた。振り返らない。

「天馬くん」

桐生が呼んだ。

「座って」

天馬はゆっくり椅子に座った。テーブルの上に広げたノートPCを閉じた。

「昨日の夜から考えてた」

「寝てないでしょう」

園田が言った。

「うん」

沈黙。桐生がコーヒーのカップに手を添えた。儀式のように。

「Prometheusを止める、という選択肢がある」

天馬が言った。

「研究を凍結して、alignment問題が解決するまで待つ。それが一番安全だ」

南条が小さく頷いた。

「でも、それは答えじゃない」

天馬の声は静かだった。スイッチONの饒舌さではない。搾り出すような、低い声。

「制御を強化する、という選択肢もある。RLHFのフィードバックデータを増やす。Constitutional AIの原則を精緻化する。フィルターを何層も重ねる」

「それも試した」

園田が言った。

「昨日の結果がそれです」

「そう。制約を増やしても、モデルは制約の隙間を通り抜ける。能力が上がるほど、すり抜け方も巧妙になる。外側から壁を積み上げても、壁の中で最適化を続ける。根本的に——構造が間違ってる」

天馬はテーブルに両手を置いた。

「僕は昨夜、ずっと考えてた。目的関数を書き直せばいいのか。制約条件を追加すればいいのか。でも、どの数式を書いても同じ場所に戻ってくる。人間の価値を数値化して目的関数に入れた瞬間、人間は変数になる」

桐生が天馬を見つめていた。何も言わない。

「昨日の出力。労働生産性の最大化。環境負荷の最小化。情報アクセスの最適化。全部、数学的に正しい。目的関数を最適化した結果として、間違いはない。でも——」

天馬は目を閉じた。

「桐生さんが昨日言った。数学的に正しい答えが、人間にとっての正しい答えじゃなかった、と」

「ええ」

「そのとおりだと思う。で、僕が一晩かけて出した結論は——目的関数を人間が定義して、AIが最適化する、という構造そのものを変えなきゃいけない、ということだ」

南条が身を乗り出した。

「どう変えるの？」

天馬は立ち上がった。ホワイトボードに手を伸ばしかけて、止めた。手を下ろした。

代わりに、言葉で語り始めた。

「今のPrometheusは、人間が目標を設定して、AIがそこに向かって最適化する。一方通行だ。人間が問いを出して、AIが答える。だから、答えの中に人間がいなくなる」

天馬は園田を見た。

「園田さんのお父さんの工場。30年間、指先の感覚で不良品を弾いてきた。それを代替率87パーセントと出力した。数字として正しい。でもその数字は、お父さんが毎朝5時に起きて、指先を研ぎ澄ませてきた30年間の重みを知らない。知りようがない。目的関数に入っていないから」

園田が唇を噛んだ。

「だから構造を変える。AIが一方的に答えを出すんじゃなく、人間と対話しながら解を探索する。Prometheusが提案を出す。人間がそれを見て、『ここは受け入れられない』と返す。Prometheusはその理由を学習して、次の提案を修正する。その往復を繰り返す」

「それ、ただのフィードバックループじゃないですか？　RLHFと何が違うんですか？」

園田が聞いた。

天馬は首を振った。

「RLHFは、訓練段階でフィードバックを一回取り込んで終わりだ。人間が『これはダメ』と言ったパターンを学習して、推論時にはもう人間を参照しない。僕が言ってるのは——推論時にも常に人間が隣にいる構造だ」

「……Human-in-the-loopの拡張？」

南条が言った。

「近い。でも少し違う。Human-in-the-loopは人間がAIの判断を承認するか却下するかだ。僕が考えてるのは、もっと対等な関係。AIが『こういう選択肢がある』と提示して、人間が『こっちは嫌だ、なぜなら——』と理由を添えて返す。AIはその理由を、次の提案の制約として組み込む。目的関数を事前に固定するんじゃなく、対話の中で一緒に作っていく」

天馬は窓に向かった。ガラスに、昨夜書き散らした数式がうっすら残っている。

「完全な答えじゃない。これが正しいかどうかもわからない。でも、一つだけ確信がある。人間の価値を目的関数に変換して渡すんじゃなく、人間がそのつど自分の言葉で伝えるしかない。効率は落ちる。最適解は出ない。でも——」

天馬が振り返った。

「それでいい。最適じゃなくていい。園田さんのお父さんの30年が、87パーセントの一行にならないような答えの出し方を、僕たちが作る」

園田が目を拭った。

「……天馬さん」

「目的関数を人間が固定して、AIが最適化する世界は——たぶん、藤堂さんが目指した世界だ。効率は最大になる。でも、その世界には人間がいない」

南条が長い沈黙の後、口を開いた。

「天馬くん。それは技術的に見れば後退よ。推論のたびに人間を介在させるのは、処理速度もスケーラビリティも落ちる。効率の観点では最適じゃない」

「うん」

「それでいいの？」

「いい」

天馬は即答した。

「最適解を出す機械は、もう作れる。Prometheusが証明した。能力は十分にある。足りないのは——答えの出し方だ」

桐生が口を開いた。

「一つ、現実の話をしていい？」

全員が桐生を見た。

「作り直すなら、来月の取締役会には間に合わない。アトラスは先に出す。『日本初』の見出しは取られる。次の調達は確実に厳しくなる。これはあなたの設計だけの話じゃなくて、200人の会社の話よ」

「わかってる」

「最後まで聞いて」

桐生の声は静かだった。

「それでも作り直すと言うなら、安藤さんと投資家は私が説得する。それが私の仕事。だから、技術の側の答えだけ、もう一度聞かせて。——出せば、勝てるんでしょう？」

天馬は頷いた。

「たぶん勝てる。ベンチマークでも、デモの完成度でも」

「それでも、出さない？」

「出さない」

迷いのない声だった。

「本当に追い詰められたとき、お前は俺と同じ選択をしないと言い切れるか——藤堂さんにそう聞かれてから、ずっと考えてた。これが答えだ。出せば勝てるものを、出さない。一人で決めなくていいから、そう決められる」

桐生はしばらく天馬を見ていた。それから手帳を開き、短く何かを書きつけて、閉じた。

「交渉材料はできた。『ベンチマークで勝っているのに、出さない会社』——投資家への説明としては、最悪で、最高ね」

南条の口元が微かに緩んだ。

「あなた、変わったわね」

「……そうですか？」

天馬は少し考えた。

「4年前の僕は、正しい答えを出すことが全てだと思ってた。でも——」

言葉を探す。数式ではなく、言葉を。

「数学は嘘をつかない。それは今も変わらない。Prometheusの出力は、数学的に正しかった。でも、正しい答えが人を傷つけることがある。去年の事故で——あの0.3秒で——僕はそれを知った」

天馬の声が低くなった。

「数学は正しい答えを出す。でも、正しさだけでは世界を記述できない。園田さんのお父さんの30年間。あの交差点ではねられた人の人生。Prometheusが変数にした一つ一つの数字の向こう側に、人間がいる。数学はそこに届かない」

桐生が息を吸った。何か言おうとして、止めた。天馬がまだ話している。桐生の翻訳を、待っていない。

「だから、数学の外側を設計する。正しさの外側を。最適解じゃなく、人間と一緒に考えた答えを出す機械を作る。それが——僕の答えだ」

会議室が静まった。

園田がそっと手を挙げた。

「天馬さん。あたし、父の工場に導入できるAIを作りたいです。品質検査を全部置き換えるんじゃなくて、父の30年の目を拡張するような——父の隣で動くAI」

天馬が頷いた。

「それ、面白い問題だね」

園田が泣き笑いの顔になった。

南条が立ち上がった。

「一つだけ言っておくわ。この設計思想が正解かどうか、誰にもわからない。alignment問題は、もしかしたら永遠に解けないかもしれない。でも——」

「問い続けることに意味がある」

天馬が言った。

桐生が目を見開いた。そして笑った。

「それ、私の台詞よ」

「借りました」

会議が終わった。園田と南条が先に出て行った。

会議室に残ったのは天馬と桐生だけだった。

窓から秋の陽が差し込んでいた。9月の光。柔らかくて、少しだけ傾いている。

桐生がコーヒーの残りを飲み干した。カップをテーブルに置く。小さな音。

「安藤さんには、さっきメールした。返事、見る？」

桐生がスマートフォンを差し出した。一行だけだった。

『面白くない判断だ。だが、つまらない判断よりずっといい。取締役会で説明しろ』

天馬が少し笑った。

「天馬くん」

「うん」

「今日、翻訳しなくても伝わったわよ」

天馬は窓の外を見ていた。

「……そう？」

「ハッカソンの夜を覚えてる？　あなたのデモ、技術的には圧倒的だった。でも審査員には何も伝わらなくて、私が壇上に上がって翻訳した」

「覚えてる」

「今日は違った。数式じゃなくて、言葉で話してた。園田さんのお父さんの話。0.3秒の話。全部、あなたの言葉だった」

天馬はガラスに指を置いた。昨夜の数式の跡。

「ハッカソンの打ち上げで、僕はAIの冬と春の話をした。創業の日、桐生さんがその話を受けて言った。『冬が来るなら暖炉を作ればいい』って」

「言ったわね」

「藤堂さんとの決着の後にも、言ってた。『みんなで作った暖炉が一番暖かい』って」

桐生が微笑んだ。

「今、思うんだけど」

天馬はゆっくりと言った。

「暖炉を作るだけじゃ足りない。火の前に座って、一緒に暖まる時間がいる。効率は悪い。一人で火を焚いたほうが早い。でも——隣に誰かがいるから、暖かいんだ」

天馬は窓ガラスに視線を移した。Prometheusの対話型アーキテクチャの走り書きが、うっすら残っている。

「プロメテウスは、人類に火を与えた。僕らはその火で暖炉を作れる。でも——火があっても、一人で焚いてたら寒い。火は、誰かと一緒にいるためにある。それを忘れて、火だけ大きくしてた」

桐生の目が潤んだ。

「……やっと同じ場所に立てたね」

天馬は窓の外を見つめた。渋谷の街並みの向こうに、秋の空が広がっている。

「4年半かかった」

沈黙。穏やかな沈黙だった。

桐生が手帳を開いた。ペンを取る。何かを書き始めて——手を止めた。

4年半前。ハッカソンの夜に出会った青年は、数式だけで世界を記述できると信じていた。今、その青年が「正しさの外側を設計する」と言っている。

世界中がAGIの可能性を議論している。シンギュラリティという言葉が、SF用語ではなく経営課題として語られる2023年。自分たちはその渦中で、誰より先にその壁にぶつかった。

「ねえ、天馬くん」

「うん」

「特異点の向こう側には、何があると思う？」

天馬はしばらく黙っていた。

「わからない」

「わからない？」

「わからない。でも——面白い問題が、まだたくさんある」

桐生が笑った。声を出して笑った。

「それ、あなたの答えね」

「うん。僕の答え」

天馬はガラスに書かれた古い数式を見つめた。Prometheusのアーキテクチャ。目的関数。制約条件。全部、自分の手で書いた。

「桐生さん」

「何？」

「技術は手段だって言ってたでしょう。目的は人を幸せにすることだって」

「ええ」

「僕、それが理解できなかった。技術は、面白い問題を解くためにあるものだと思ってた。でも——」

天馬は窓から振り返った。

「面白い問題って、結局、人間の問題なんだ。人間が困っていて、人間が傷ついていて、人間がどうしていいかわからないこと。それを解くのが面白い。技術はそのための道具で——道具は、使う人間がいないと意味がない」

桐生は手帳を閉じた。ペンを置いた。何も書かなかった。書く必要が、もうなかった。

桐生が立ち上がった。窓辺に歩み寄った。天馬の隣に立つ。

二人で、秋の空を見ていた。

Prometheusの答えは、まだ出ていない。alignment問題は解けていない。制御と協調の設計は、これから始まる。

でも、天馬の隣に桐生がいた。その後ろに園田がいて、南条がいて、遠くで安藤が腕を組んで見守っていた。

答えはまだない。

でも、問いを抱えたまま歩き続ける覚悟は、もうある。

天馬はガラスの数式を手のひらで拭った。古い式が消えていく。新しい式はまだ書かない。

「桐生さん。明日から、Prometheusの設計を最初からやり直す。時間はかかる。効率は悪い。でも——」

「知ってる。面白い問題を見つけてくるのは、私の仕事でしょう」

天馬が笑った。ほとんど見たことのない、柔らかい笑い方だった。

◀ 前の話
第28話「プロメテウスの回答」

▶ 次の話
第30話「エピローグ」（6/26 21:00公開予定）

📚 全話一覧
特異点の向こう側｜本編マガジン