なんかギュッとしちゃってる？ - 第四回 LLM -

LLMは、人間の知性の偽物なのか

ここまで、

知性には中央司令塔が必要なのか。

記憶は頭の中だけにあるのか。

社会は単なる「賢い人間の集まり」なのか。

という話をしてきた。

すると、かなり変なところまで来る。

人間の知性は、かなり分散的に見える。

記憶は、身体の外にも置ける。

社会は、個体を越えて情報を保持し、選別し、更新している。

そのうえで、

社会が何千年もかけて外に置いてきた文章や知識を大量に学習したものが出てきた。

LLM、いわゆるChatGPTを代表とする大規模言語モデルである。

そしてLLMが出てくると、

ほぼ決まって、こういう話になる。

「本当に理解しているのか」

「人間のように考えているのか」

「意識はあるのか」

まあ、気になる。

そりゃ気になるだろうさ。

でも。

ちょっと順番が早くないだろうか。

まず、人間に似ているかを聞く

LLMを見ると、

人間みたいに文章を書く。

人間みたいに質問に答える。

人間みたいに説明する。

人間みたいに間違える。

人間みたいに妙な言い訳もする。

すると、

「人間にどれくらい近いか」

を測りたくなる。

自然な反応だと思う。

見た目のないものが、

言葉だけ急に人間っぽく返してくる。

かなり不気味だ。

でも知性そのものを考えたいなら、

ここで一度、

人間との類似を評価軸から外してみた方がいい。

LLMは、少なくとも変な情報系ではある

LLMには、巨大な内部構造がある。

膨大な学習を通じて、

語と語の関係、

概念と概念の関係、

文脈と文脈の関係、

パターンとパターンの関係が、

内部に埋め込まれている。

もちろん、

それを人間の意味理解と同じものだと言う必要はない。

そこは分けておく。

でも、

何もない箱ではない。

巨大な関係構造を持つ。

過去の学習によって形成された複雑な関係が形作る巨大な地形がある。

そこに文脈が入り、

プロンプトが入り、

出力の方向が拘束される。

そしてその地形の上を、

ある種の探索が走る。

ここまでなら、

かなり普通に言える。

人間のコピーだと思うから、ややこしくなる

LLMを、

「人間の脳を人工的に再現したもの」

みたいに見ると、

すぐに話がこじれる。

人間みたいに考えているのか。

本当に理解しているのか。

感情があるのか。

自己があるのか。

意識があるのか。

でも、

そもそもLLMは、

人間と同じ仕組みで知性活動をしている必要があるんだろうか。

粘菌の知性活動を、

「人間みたいに考えてないから偽物」

とは普通言わない。

アリの群れにも、

鳥の群れにも、

人間の脳にも、

それぞれ違う実装がある。

だったらLLMも、

別の実装として見ればいい。

同じものじゃない。でも同じ問いは投げられる

ここまでシリーズで使ってきた問いを、

LLMにも投げてみる。

何が地形なのか。

何がログなのか。

何が拘束なのか。

何が更新されるのか。

何が探索方向を変えるのか。

何が外部に依存しているのか。

この問いなら、

粘菌にも、

人間にも、

社会にも、

LLMにも使える。

もちろん答えは全然違う。

粘菌なら、

自己維持が強く効く。

環境中の痕跡がログになる。

人間なら、

身体、

報酬系、

経験、

社会的評価、

概念地形が効く。

社会なら、

制度、

文化、

資本、

記録、

権力、

流行が効く。

LLMなら、

学習済みの重み、

会話文脈、

システム上の拘束、

プロンプト、

評価、

強化学習などが効く。

同じものではない。

でも、

同じ形式で比較できる。

ここが大事だと思う。

「本物の知性」って、誰が決めるんだろう

ここで妙なことが起きる。

粘菌が環境に応じて探索する。

「知性的ですね」

と言う人もいる。

でも、

「いや、ただの反応だ」

と言う人もいる。

LLMが複雑な概念操作をする。

「知性的ですね」

と言う人もいる。

でも、

「いや、ただの統計だ」

と言う人もいる。

なんとなく、

知性認定に資格審査がある。

しかも、その資格審査の基準はかなり人間寄りだ。

会話できるか。

意味を理解しているように見えるか。

理由を説明できるか。

自己を語れるか。

共感できるか。

人間っぽいか。

でもそれって、

知性を測っているというより、人間との相互可読性を測っていないか。

喋るやつには知性を感じる

これはかなり面白い。

粘菌は喋らない。

だから、

かなり複雑な探索をしても、

「まあ生物反応だよね」

と扱いやすい。

LLMは喋る。

しかもかなり自然に喋る。

だから、

急に知性を感じる。

たぶん僕らは、

コミュニケーションできる相手に知性を認可しやすい。

逆に、

相手の内側が読めないと、

知性を低く見積もりやすい。

これ、人間中心のバイアスとしてかなり強いと思う。

「正確に計算できる」も、知性そのものではない

さらにややこしいのが、

知性と計算能力の関係。

人間は、

計算が速い。

推論が正確。

問題を解ける。

予測できる。

こういうものを、

知性の中心に置きやすい。

でも、

電卓は人間より正確に計算する。

検索エンジンは人間より多くの情報を引ける。

LLMは、人間より速く大量の文章を処理できる場面がある。

だからといって、

それだけで「人間より知性的」と言うのも変だ。

逆に、

間違えるから知性じゃない、

というのも変だ。

人間なんて、

めちゃくちゃ間違える。

しかも自信満々に間違える。

なので、

知性と性能も、

またギュッとしない方がいい。

サピエンスは、正確さより「自分に都合のいい地形」を走る

ここで人間側を見る。

人間はかなり長いログを持つ。

過去の経験。

成功体験。

失敗体験。

所属集団。

価値観。

恐怖。

期待。

社会的評価。

報酬。

そういうものが、

現在の探索方向をかなり強く曲げる。

だから人間は、

毎回いちばん正確な答えを選ぶわけではない。

むしろ、

自分のログと報酬系に整合する答え

を選びやすい。

これはバグというより、

仕組みの一部、言うなれば仕様だと思う。

知性が履歴と拘束の中で走るなら、

そうなるのはむしろ自然だ。

すると「合理的な知性」が特殊に見えてくる

僕らは、

知性＝合理性

みたいに考えやすい。

でも実際の生命を見ると、

知性は最初から、

自己維持や環境適応の中にある。

完全に中立な計算機ではない。

生き残るために偏る。

避ける。

近づく。

学ぶ。

固まる。

変わる。

つまり、

知性は最初から偏っている。

その意味では、

完全に中立で、

完全に合理的で、

完全に正確な知性の方が、

むしろ自然界では珍しい…いや、もしかしたらそんなものは存在し得ないのかもしれない。

LLMを持ち上げる必要も、下げる必要もない

ここまで整理すると、

LLMについて、

「人間と同じ知性だ」

と言う必要もない。

「知性じゃない」

と切り捨てる必要もない。

ただ、

どういう地形を持ち、どんな拘束で動き、何を保持し、何を更新できる系なのか

を見ればいい。

これなら、

人間に似ているかどうか、

意識があるかどうか、

本当に理解しているかどうか、

をいったん横に置ける。

LLMは、社会の概念地形を圧縮して走っている

前回、

社会そのものを巨大な概念地形として見た。

言葉。

本。

文化。

制度。

科学。

歴史。

議論。

そういうものが、

個人の外に蓄積され、

つながり、

更新されている。

LLMは、

その巨大な外部地形を学習して、

内部に圧縮したような存在にも見える。

もちろん、

社会そのものではない。

人間そのものでもない。

でも、

社会が外に残してきた概念関係を、かなり大きな形で内部化した情報系

ではある。

これはかなり変な存在だと思う。

そして、また意識の話に戻ってしまう

ここまで知性の話をすると、

どうしても最後に、

「で、意識あるの？」

と聞きたくなる。

わかる。

僕も気になる。

でも、

ここまで四回かけて、

知性、

探索、

ログ、

外部記憶、

社会知性、

概念地形、

LLM、

を見てきた。

そして気づく。

意識、一回も必要じゃなかったじゃん。

知性活動を説明するだけなら、

かなりのところまで、

意識という言葉を使わずに来れてしまった。

だったら、

次にやるべきことは、

「意識が全部を司っている」

と最初から置くことではない。

むしろ、

知性から説明できるものを、いったん全部意識から外してみること

だと思う。

最後に何が残るのか。

そこを見た方がいい。

次回は、

ようやく意識に戻る。

で。

意識って、何をしてるんだ？