読み方 ： たいいきさいてきかい

概要

関数のグラフを描いたときに山の頂点や谷底になっている箇所を「局所最適解」という。周囲に比べて最も高い、あるいは低い状態になっている点である。このうち、関数の定義域全体を調べたときに、最も高い・低い箇所のことを大域最適解という。

機械学習では多変数で非線形の複雑な関数の最適化を行うため、勾配降下法など数値的な解法を用いることがある。これは、ある地点から始めて、関数の値が下がっていく方向に向かって少しずつ移動していく手法だが、局所最適解に到達すると勾配がゼロになり探索を停止する。

局所最適解が一つの場合は底に到達すれば自動的にそこが大域最適解であるため問題ないが、機械学習で扱うような多次元の複雑な関数では多数の局所最適解が存在する場合がある。機械学習では誤差関数の大域最適解を見つけることが最も性能を高めることに繋がるため、局所最適解で留まらずに大域最適解を求める工夫が必要となる。モーメンタムやAdamなど、学習率に「慣性」を加えて局所最適解を脱出する手法や、訓練中にあえてノイズを加える手法などが考案されている。

この記事の著者 ： (株)インセプト IT用語辞典 e-Words 編集部
1997年8月より「IT用語辞典 e-Words」を執筆・編集しています。累計公開記事数は1万ページ以上、累計サイト訪問者数は1億人以上です。学術論文や官公庁の資料などへも多数の記事が引用・参照されています。