読み方 ： れんさりつ

概要

連鎖律は、一つの変数が別の変数に依存し、その変数がさらに他の変数に依存する状況で、最終的な変化率を中間の変数を介して表す方法である。例えば、zがyの関数で、yがxの関数である場合、$\frac{\mathrm{dz}}{\mathrm{dx}}$ は $\frac{\mathrm{dz}}{\mathrm{dy}}\times \frac{\mathrm{dy}}{\mathrm{dx}}$ というように、各々の導関数の積として求めることができる。複雑な関数でも小さな部分に分けて微分できるため、数学的な処理が容易になる。

誤差逆伝播法と連鎖律

ニューラルネットワークの学習を効率的行う「誤差逆伝播法」は連鎖律を応用した手法である。ネットワークは各層が上下に接続された合成関数とみなせるため、出力における正解との誤差が、各層のノード間を繋ぐ重みやノード自身が持つバイアスなどのパラメータにどのような影響を受けているか評価する際に連鎖律の考え方を用いる。

各層のノードは、ノード間の重みと自らの活性化関数から、自らが下の層へ送り出した値の微分値（その層における偏微分）を求めることができる。連鎖律により、出力における誤差の微分値は、各層の偏微分値の積（ネットワークが分岐している箇所では和）として表される。

出力の誤差から各層の微分値（勾配）を実際に求めるには、最終的な誤差の微分値に下層側から順にその層の偏微分値を掛けていけばよい。各層では前の層で求めた微分値と自身の偏微分値だけを使って、簡単にその層における微分値を求めることができる。誤差がネットワークを遡って推論時とは逆向きに伝わっていくように計算するため「誤差逆伝播法」という。

この記事の著者 ： (株)インセプト IT用語辞典 e-Words 編集部
1997年8月より「IT用語辞典 e-Words」を執筆・編集しています。累計公開記事数は1万ページ以上、累計サイト訪問者数は1億人以上です。学術論文や官公庁の資料などへも多数の記事が引用・参照されています。