
自由エネルギー原理 中級編 第4章前半
第4章 自由エネルギー
第1節 なぜ「自由エネルギー」と呼ばれるのか
「自由エネルギー原理(FEP)」という言葉に出会ったとき、多くの人がまず戸惑うのはその名前ではないでしょうか。「エネルギー」はまだしも、「自由」なエネルギーとは一体どういう意味なのか。それは物理学で使われる言葉と関係があるのか。あるいは比喩的な意味なのか──この節ではまず、この「自由エネルギー」という言葉の由来とその意味について、熱力学や力学の概念と比較しながら考えてみたいと思います。
熱力学における自由エネルギー
自由エネルギーという言葉はもともと、熱力学に由来するものです。
たとえばヘルムホルツの自由エネルギー(F)は次のように定義されます:
F = U − T・S
ここで、
U:系の内部エネルギー(ポテンシャルや運動などの合計)
T:温度
S:エントロピー(乱雑さの度合い)
この式が意味しているのは、「外から取り出せる有効なエネルギー=自由エネルギー」ということです。つまり、エネルギーのうちで「秩序を生み出す仕事」に使える分を自由エネルギーと呼び、それ以外はエントロピーとして“失われている”とみなすわけです。

力学における位置エネルギー
力学の世界にも、よく似た考え方があります。
物体には「位置エネルギー」があり、高い場所にあるほど多くのエネルギーを蓄えています。このエネルギーは、物体が落ちるときに運動エネルギーに変わり、「仕事」をする力として使われます。

FEPにおける自由エネルギー
FEPにおける自由エネルギーも、同様に考えることができます。エージェント(生き物やシステム)は、予測と現実とのズレを「エネルギーの高さ」として感じ、それを最小にする方向へ動こうとします。
このとき、まるで物体が坂道を転がるように、「予測誤差が小さくなる方向=自由エネルギーが低くなる方向」へと行動や思考が向かっていくのです。
自由エネルギーが大きいほど、その系は環境に対して積極的に変化を及ぼすことができ、小さいほど安定的で、変化しにくい状態にあります。
言い換えれば、「自由エネルギーを最小化する」とは、変化の余地を減らすことであり、安定した、予測可能な状態へと向かう力学的傾向を表しています。
この考え方を、フリストンは生物の行動や知覚に応用しました。
生物もまた、エネルギーを使って外界に働きかけ、あるいは外界からの刺激に反応して、内部の恒常性を維持しようとします。そのとき、生物の中にある「モデル」──すなわち、世界はこうなっているはずだという予測や信念──と、
実際に観測される世界とのズレを減らすことこそが、生きる上での“仕事”なのです。
このような意味で、FEPにおける「自由エネルギー」は、「まだ減らしきれていないズレの総量」であり、「減らすべきエネルギー」、言い換えれば「変化する余地のある不安定さ」を意味します。
また、もう少し比喩的に言えば、FEPにおける自由エネルギーとは「自分の仮説と現実との間に残された、すり合わせ余地」であり、それをうまく調整していくことが、知覚や行動、学習や適応の駆動力になっているのです。
第2節 数式から見る自由エネルギーの構造
自由エネルギー原理においては、「自由エネルギー」は確率分布にもとづく数式として定義されており、複数の“分解”の仕方があります。
ベイズ則を使う分解:分解1
ここではまず、最も基本的な「分解1」を見てみましょう。
F = −log p(o) + DKL [q(x) || p(x ∣ o)]
この式の意味は次の通りです:
−log p(o) は「驚き(surprise)」
DKL [q(x) || p(x ∣ o)] は「ズレ」
つまり、自由エネルギーとは:
自由エネルギー = ズレ + 予測誤差
という構造になっています。
ここで、q(x) はエージェントが持っている「信念(内部モデル)」、
p(x | o) は観測結果 o を見たときにベイズ則によって計算される「理想的な推定値(神様の答え)」です。
この式の右辺第2項、KLダイバージェンス DKLは「自分の信念がどれだけ理想解からズレているか」を測る指標です。
ベイズ則を使う分解:分解2
もう一つの見方として、以下のようにも分解できます:
F = DKL [q(x) || p(x)] −Eq(x)[log p(o ∣ x)]
この分解では、
第1項:モデルの複雑さ(どれだけ事前から逸脱しているか)
第2項:モデルの曖昧さ(=低精度)(観測をどれだけ明確に予測できるかの逆)
となり、先の分解と同様に、自由エネルギーが「ズレと曖昧さ」から成っていることがわかります。
このように、FEPでは、内部モデルの信念や生成モデルの構造に応じて、自由エネルギーを数式的に多角的に読み解くことができます。
分解2の導出の詳細は、
自由エネルギー原理について誰でもわかる、明快かつ深い解説 -2-
をご覧ください。
ベイズ則を使わない形式(同時確率)
最後に紹介するのは、生成モデルの同時分布に基づく、ベイズの定理を使わない分解です:
F = Eq(x)[−log p(x,o)]−H[q(x)]
ここで、
H[q(x)] :信念のエントロピー(広がり、不確実性)
−log p(x,o):信念 q(x) に対して、世界のありようがどれだけ「都合が悪いか」
この形式は、「信念と世界の不整合性」と「信念自体の曖昧さ」という2つの要素から自由エネルギーを捉えるものです。とても抽象度が高く、構成的な原理を強く意識する研究や数理モデルで使われます。
第3節 複雑さと曖昧さ──不確実性の2つの顔
前節で見たように、自由エネルギーは「モデルと観測とのズレ」と「予測の曖昧さ」から構成されています。では、具体的に“自由エネルギーが高い”状態とはどういうことなのでしょうか?
ここで鍵になるのが、「不確実性(uncertainty)」という概念です。
不確実性はひとつではない
FEPにおける不確実性は、主に2つの側面から成っています。
① 複雑さ(complexity)
内部モデル q(x) が、事前の知識 p(x)からどれだけ逸脱しているかを表します。
簡単に言えば、「この仮説はどれだけ無理をしているか」「リスクやコストが高いか」を示す指標です。
数式的には DKL [q(x)‖p(x)] に対応します。
② 曖昧さ(ambiguity)
ある原因 xに対して、観測 oがどれくらいはっきり予測できるか。
つまり、「この状況に対する自信のなさ」を表しています。
数式では −Eq(x) [ log p(o | x) ] に対応します。
この2つは、ベイズの定理を使わない分解(分解2)において、自由エネルギーの2項として登場します。
図で理解する:精度と複雑さのトレードオフ
この2つの不確実性を軸にして、自由エネルギーの状態を視覚化したものが下図(精度 vs 複雑さ)です。

横軸:正確さ、精度、精緻さ(=不正確さ、あいまいさの逆向き)
縦軸:複雑さ(=単純さの逆向き)
図では、右下方向に進むほど自由エネルギーが減少します。
言い換えると、精度を高めるか、複雑さを抑えるか、あるいはその両方によって自由エネルギーは低くなるということです。
イメージイラストで描くとこんな感じです。

用語の整理:それぞれ何に対応するか

このように、不確実性には「モデルの複雑さ」と「予測の曖昧さ」の2つの側面があることを明確にしておくと、以降の理解がスムーズになります。
第4節に続きます。