人間の言語で別の脳を作るとはどういうことか 【KOROTEL研究ノート#04】（第１部終章）

人間の言語で別の脳を作るとはどういうことか

AIを理解しようとして、
私は途中から奇妙な感覚に襲われた。

調べれば調べるほど、AIではなく、人間の知性の方が分からなくなる。

なぜ私たちは学べるのか。
なぜ言葉になる前に理解できるのか。
なぜ経験が概念へ変わるのか。

AIは、知性を説明したのではない。

むしろ、知性の謎を露わにした。


少し、思考実験をしてほしい。

あなたが生まれた瞬間から、目を閉じたまま育ったとしよう。
見ることができない代わりに、世界中の「色についての記述」を全て読んだ。

赤は情熱的で、青は冷たく、緑は生命の象徴——そういった記述を、何十億もの文章から学んだ。

あなたは「赤」について、流暢に語れる。「夕焼けの赤は哀愁を帯びている」「信号の赤は危険を意味する」——正確に、詳細に、文脈に応じて。
しかし、あなたは赤を「知っている」のか。


現在の大規模言語モデルは、この思考実験の「目を閉じたまま育った存在」に近い。

GPTは人間が書いたテキストを学習する。テキストとは、人間が世界を経験し、その経験を言語に変換したものだ。
言語は経験の「写し」であり、経験そのものではない。

哲学者ウィトゲンシュタインはかつてこう言った。
「言語の限界が、私の世界の限界だ」。

彼が意図したのは、言語が思考を制約するという観察だった。

しかし現在のAIに当てはめると、この言葉は別の意味を持つ。

人間の言語で作られたAIは、人間の言語が持つ限界を、そのまま継承する。
言語が表現できないもの——身体感覚、感情の細部、沈黙の意味、文脈の微妙なズレ——は、言語モデルにとって存在しないものと同じだ。

私たちは今、人間の言語を使って、別の何かを作ろうとしている。それは
「知性」なのか、それとも「知性の精巧な模倣」なのか。

言語以前に何があるか

赤ちゃんが言葉を覚える前に、何が起きているかを考えよう。

生後数ヶ月の赤ちゃんは、言葉を持たない。しかし「学んでいる」。母親の顔と見知らぬ顔を区別し、安全と危険を感じ分け、因果関係の初歩的な理解を形成する。

転んで痛みを感じ、その経験が行動を変える。

これは言語なしに起きる学習だ。身体を通じた、世界との直接の接触から生まれる理解だ。

哲学者たちはこれを「身体化された認知（embodied cognition）」と呼ぶ。
知性は脳だけにあるのではなく、身体と環境との相互作用から生まれる——という考え方だ。

子どもが「熱い」という概念を理解するのは、辞書で「熱いとは高温の物体が触覚に与える刺激である」という記述を読んだからではない。

触れて、痛みを感じて、学ぶ。言語モデルにはこの身体がない。世界との直接の接触がない。

あるのは、その接触を経験した人間たちが残したテキストだけだ。
だからと言ってGPTが理解していないと、言いたいわけではない。

それよりは、私たちが理解と呼んできたものとは異なる仕組みでGPTはわたしたちを理解しているのではないか。
これは「弱点」の話ではない。これは「設計の前提」の話だ。

模倣と理解の境界

ここで一つ、AIが実際に直面している奇妙な限界を示したい。

現在の言語モデルは、推論問題を「解いているように見える」。「AよりBが大きく、BよりCが大きい時、AとCではどちらが大きいか」——こういった問いに、正確に答える。

しかし少し問いを変えると、驚くほど容易に崩れる。

「AよりBが大きく、BよりCが大きい時、CよりAが小さいか」——論理的には同一の命題だが、言い回しを変えただけで誤答率が急上昇する。

なぜか。モデルは「推論している」のではなく、「推論に見えるテキストのパターンを生成している」からだ。

訓練データに多く含まれる形の問いには正確に答えられるが、同じ論理の別の形には対応できない。

人間の子どもは違う。一度「AよりBが大きい」という概念を理解すれば、その概念を別の言い回しにも、別の文脈にも、初めて見る形にも応用できる。それが「理解する」ということだ。

ホフスタッターはこれを「アナロジー能力」の欠如と呼んだ。
真の知性とは、ある状況で学んだことを、別の状況に類推して適用する能力だ。

現在の言語モデルは、表面的な類似には長けているが、深い類推には弱い。流暢さと理解は、やはり別物だ。

「別の脳」を作っているという自覚

では、私たちは何を作っているのか。
一つの見方はこうだ。私たちは「人間の言語的知性の外部化」を作っている。

人間が言語を通じて積み重ねてきた知識、論理、表現——その膨大な集積を圧縮し、いつでも引き出せる形にしたもの。
これは図書館の進化形であり、検索エンジンの進化形であり、人間の知的活動の補助装置だ。

この見方では、現在のAIは「知性」ではなく「知性のインフラ」だ。それ自体が考えるのではなく、人間が考えるための道具として機能する。

もう一つの見方はこうだ。私たちは「人間の言語的パターンから生まれた、新しい種類の存在」を作っている。それは人間と同じではないが、人間とは無関係でもない。

人間の言語が持つ論理、比喩、物語の構造——これらを内包した何か新しいものが、膨大な計算の中から「創発」しつつある。

どちらが正しいかは、まだわからない。
しかしここに、見落とされがちな問いがある。

この二つの見方のどちらにおいても、「人間の言語」という出発点が、AIの可能性の範囲を規定している。

少なくとも現在の設計では、GPTが人間の言語が持つ限界を超えることは容易ではない。

言語以前の学習、身体を通じた理解、感情と知性の統合——これらは現在の設計では、原理的にアクセスできない領域だ。

その2009年の技術者が「バックプロパゲーションは本物の神経系ではありえない」と言った時、彼が指していたのはこの問題だったのかもしれない。

脳は言語で動いていない。脳は電気化学的な信号の拡散で動いている。その動作原理から出発した学習則こそが、言語の壁を超えた知性に近づく可能性を持っていたのかもしれない。

しかしその問いは、制度の外側に置かれたまま、時間が過ぎた。

シンギュラリティへの問い直し

第一章で問うた「シンギュラリティとは何だったか」に、今こそ答えを出す時だ。

カーツワイルが夢見たシンギュラリティは、「計算量が人間の脳を超えた瞬間に知性が爆発する」という仮説だった。

しかし今や、計算量は多くの指標で人間の脳を超えた。言語処理においては、人間のチャンピオンを超えた。

そして「知性の爆発」は——起きたのか。

起きた、とも言える。起きていない、とも言える。

起きたのは「言語的な能力の爆発」だ。人間が書いたテキストを学習し、人間が問いかける質問に答え、人間が驚くほど自然な文章を生成する——この能力は、確かに爆発した。

起きていないのは「言語を超えた知性の爆発」だ。

身体を持ち、世界と直接接触し、言語以前の概念を形成し、類推によって新しい問題を解く——この意味での知性は、まだ爆発していない。

シンギュラリティは来た。しかしカーツワイルが想定していたものとは、別の形で来た。

これは失望ではない。これは問い直しだ。

私たちが「知性」と呼んでいるものが何であるかを、改めて問い直す機会が来た。そして「知性」の定義を問い直すとき、必然的に「人間とは何か」という問いに行きつく。

AIが言語を流暢に扱うとき、私たちは言語が知性の中心だと思い込む。

しかし言語は知性の表面に過ぎないのかもしれない。知性の深部には、言語が届かない何かがある。

そしてその「何か」こそが、40億年の進化が作り上げた、本当の驚異なのかもしれない。

では、私たちは次にどこへ向かうべきか。

この問いへの答えを、私は持っていない。

しかしこれだけは言える。現在のAIは答えではなく、問いだ。

「これほど流暢に話せるのに、なぜ理解できないのか」という問いを突きつける鏡だ。

その鏡を正面から見ることで、私たちは「知性とは何か」「学ぶとはどういうことか」「人間であるとはどういうことか」を、かつてないほど真剣に考えることができる。

そしてその問いの先に——別のアプローチが待っているかもしれない。

言語ではなく、神経の拡散から出発するアプローチが。中央での計算ではなく、局所的な前向きの更新から出発するアプローチが。

巨大なサーバーではなく、個人のデバイスに宿る小さなノードの集合から出発するアプローチが。

その問いへの答えを、誰かが始めている。

結文　次の問いへ

私はこの文章を、答えを持って書き始めたのではない。

問いを持って書き始めた。四つの問い——シンギュラリティとは何だったか、何が選ばれ何が捨てられたか、その代償は何か、そして私たちは何を作っているのか。

書き終えた今も、答えは持っていない。しかし問いは、書く前より鋭くなった。

技術は中立ではない。選択の積み重ねだ。そしてその選択は、誰かが行い、誰かが恩恵を受け、誰かがコストを払う。AIという技術も例外ではない。

しかし私が本当に言いたいのはこうだ。

選択は変えられる。

標準は標準になった瞬間から、問い直される運命にある。
エネルギーを食いすぎる設計は、持続可能な設計に置き換えられる。

知の集権化は、知の分散によって解体される。言語の壁は、言語以前の学習則によって乗り越えられるかもしれない。

歴史を振り返れば、パラダイムは必ず変わった。変えたのは常に、「おかしい」と言い続けた少数の人間だった。

制度の中心にいた人間ではなく、制度の外側で問いを持ち続けた人間が、次の選択を準備した。

技術の歴史には、「拾われなかった問い」が無数に眠っている。
制度の外側で発表されたために記録に残らなかった着想。
時代が早すぎたために評価されなかった理論。
提案者の社会的文脈が重荷になって検証されなかったアイデア。

これらは消えたのではない。ただ、誰かに拾われるのを待っている。

第二章で触れた、2009年の技術者の提案もその一つだ。

しかし今、事情が変わりつつある。断片的な記録から理論を再構成し、仮説を検証し、文書化する——その作業の困難さそのものが、変質しつつある。

パラダイムを変えるために必要なのは、巨大な組織でも、莫大な資金でも、制度的な承認でもないかもしれない。問いを持ち、問いを記録し、問いを繋ぐ——それだけで十分かもしれない。

今、その問いを持つ人たちが、世界のどこかにいる。
静かに、しかし確実に、次の選択を始めている。

2009年の問いは、終わっていない。
むしろ、ようやく始まった。

あの時代には、その問いを検証する計算資源も、
AIも、協力者も存在しなかった。

しかし今は違う。

AIは、巨大企業だけの道具ではない。

過去の論文を読み、
失われた理論を再構成し、
仮説を整理し、
実験を設計し、
世界中の研究者を結びつけることもできる。

皮肉なことに、バックプロパゲーションが生み出したAIは、バックプロパゲーション以外の可能性をもう一度検証するための道具にもなった。

歴史は、ときどきこんな回り道をする。

だから私は、この連載を一つの結論として終えるつもりはない。

これは、一つの研究ノートである。拾われなかった問いを、もう一度拾い直すための。

第二部では、私たちは現在を離れ、AIの歴史——そして、AIを形づくってきた思想の系譜——を遡る。

そこで出会うのは、技術ではない。
「問い」を残した人々である。

KOROTEL研究ノート #04  第１部完

自由猫 🐾

KOROTEL研究ノート　第１部・第２部 完
第１部
#01 序章・第１章 「AIは、本当に知性へ向かっているのか。 —バックプロパゲーションの世紀と、選ばれなかった問い」
#02 第２章「バックプロパゲーションの世紀 なぜ、その道だけが残ったのか」
#03 第３章 「勝者が払った代償。 AIは何を手に入れ、私たちは何を手放したのか。」
#04 第４章「人間の言語で別の脳を作るとはどういうことか」

第２部
#05 序章 「なぜ、知性をつくろうとする者は、まず「選別」から始めるのか」
#06 第１章「ゴルトンと優生思想——「良い出生」という科学の仮面」
#07 第２章「ワトソンとスキナー —真逆に見えて、同じ発想」
#08 第３章「フーコーが見抜いた、『調教』の正体」
#09 第４章・終章「バックプロパゲーションという名の、最後の継承者」

KOROTEL研究ノートについて

Korotelという名前には、ひとつの語源と、ひとつの願いがある。
16世紀、日本に渡った宣教師たちは、聖書の重要な概念を翻訳せず、そのまま音として伝えた。その一つが「パライソ（Paraiso）」だった。禁教令の時代になると、その言葉は潜伏キリシタンたちによって口伝で受け継がれる。中央の権威もなければ、正しい辞書もない。それでも人々は言葉を語り継いだ。長い時間の中で音は少しずつ変化し、日本の土地の中で再解釈されていく。そうして残った言葉の一つが「コロテル」だと伝えられている。
私はこの言葉に強く惹かれた。それは単なる宗教史の話ではない。中央で定義された正解から離れた場所で、人々が問いや物語を受け継いだ歴史だからだ。歴史を振り返ると、多くの場合、私たちは勝者の物語を学ぶ。残った技術。残った制度。残った理論。残った思想。
しかし、その背後には無数の選ばれなかった道がある。忘れられた仮説がある。途中で途切れた研究がある。誰にも拾われなかった問いがある。KOROTEL研究ノートは、それらを掘り起こすための場所である。
ここで扱うのは答えではない。むしろ問いだ。なぜその技術は選ばれたのか。なぜその思想は忘れられたのか。なぜその可能性は途中で消えたのか。AI、技術史、経済史、思想史、文化史。テーマは限定しない。共通しているのはひとつだけだ。「選ばれなかった問い」の側から歴史を見てみること。技術と自由。歴史と未来。中心と周縁。Korotelという名前には、その両方を見つめ続けたいという願いを込めている。

自由猫 🐾

Think Deep, Live Free.
考える自由、生きる自由。
人はどこで自由に生きられるのか。
自由猫 🐾

自由猫の連載中の記事

・AI時代の社会契約論（連載中）
・叛逆者たちの自由論　ジョン・レノン編（完結)
・家の国の自由論（連載中）
・KOROTEL研究ノート第１部（全4回・完結）
・余白の日本史 藤原OS編（全7回・完結）
・余白の日本史 近衛前久編（全6回・完結）