深層学習(ディープラーニング)：逆伝搬

１．概要

ディープラーニングのパラメータ（重みやバイアスなど）を更新する手法である誤差逆伝播法(Back Propagation)を数値の流れも含めて説明します。
自分も忘れることが多いので、参考用として作成しました。

２．必要な基礎知識

学習のために必要な知識を記載します（説明は紹介程度のみ）。

３．そもそも逆伝搬は何ができるの？

複雑な合成関数から求めたい変数の微分(勾配)を簡単に求めることができます。機械学習の場合、損失関数から重みwやバイアスbの傾きを計算することができるためその勾配からパラメーターを更新することができます。
(※もし逆伝搬がないと合成関数を直接微分して微分式を求める必要があり、それは非常に大変です。)

４．損失関数

データの正解値と計算の予測値を比較するための関数です。正解値と予測値が大きく離れていると損失関数の計算値：Loss (つまりデータの精度の悪さ)は大きくなり、近いと0に近づきます。
分類問題には交差エントロピー、回帰分析(数値を予測する問題)には平均二乗誤差(正解値と予測値の差分を2乗した合計値÷データ数)などが使用されます。
目的としては損失関数から得られる誤差を最小にするために重みwを最適化することです。MSEの場合、数式は下に凸であり傾き=0の時のwが最適値となるため重みから勾配(×学習率)を引くことで更新できます。

５．逆伝搬の図解

逆伝搬を理解するためのフローを簡単に説明します。

５－１．逆伝搬1：合成関数の分解

下記のような線形モデルにおいて逆伝搬を実施してみる。

まずは計算フローを和差積商や2乗の関数に分ける※。（ここでのポイントは分解した関数そのものが微分可能であること）
下記より損失関数は掛け算・足し算・引き算・2乗の合成関数であることがわかります。

５－２．逆伝搬2:連鎖律により勾配計算

損失関数から得られる誤差を下げるため重みwを更新するための損失関数の勾配dL/dwを求めていきます。
（※当たり前のことをたくさん書きますが自分の頭の整理用です。）
まずイメージとして各関数（掛け算・足し算・引き算・2乗）の出力値は入力値を使用しています。よってそれぞれを関数（掛け算I・足し算M・引き算D・2乗L）として考えた時にフローは下記のように記載できます。

次に損失関数の勾配を求めます。まず参考用として逆伝搬ではなく普通に求めてみます。結果は下記のとおりです。

$$\frac{dL}{dw} = \frac{dL}{dD}\frac{dD}{dw} = \frac{dD^2}{dD}\frac{d((wx + b) - yc)}{dw} = 2D× x = 2x((wx + b) - yc)$$

次に逆伝搬で求めてみます。連鎖律よりdL/dwは下記のとおりです。

$$\frac{dL}{dw} = \frac{dL}{dD}\frac{dD}{dM}\frac{dM}{dI}\frac{dI}{dw}$$

　連鎖律の式に従って各項を計算すると下記のとおりです。
※関数を通って出力された値は関数の入力値を使用している。入力値を変数で置き換えてあげれば、連鎖律ができるイメージがつかみやすい。

５－３．逆伝搬3:パラメーター(重み・バイアス)の更新

実際に数値を入れて勾配を更新してみる。

結果として勾配は6×1×1×5=30であり求めたい勾配を計算することができた（※図では各勾配を記載しているため、dL/dwを計算する場合はすべてかける必要がある。）。この勾配に適当に決めた学習率(例：0.01)をかけたものを重みwから引くことでLossを低下させることが可能である。
(※実際はdL/dbも求めてバイアスも更新します。)

６．逆伝搬のポイント

フローより下記が確認できました。

● 損失関数の微分を直接計算せずに、入力に使用した値だけ(x, w, b, yc)で求める勾配を計算できた。
● 各関数の微分は簡単な結果で出力できる。例として足し算・引き算の勾配は1であり後流側に前の勾配値をそのまま流す。掛け算だとinputとは別の変数をかけた値を後流に流す。
●どれだけ層が深くなっても計算可能である。

【参考】勾配消失

よく「深い層のディープラーニングでは勾配消失が生じるため、活性化関数でシグモイド関数を使用できない」と聞いて理解ができなかった。
上記フローで考えると下記が理由であることがすんなりわかります。