オンライン学習【online learning】

概要

機械学習では、モデルによる予測と正解の隔たりである誤差関数が小さくなるように、訓練データから求めた値に基づいてモデル内部のパラメータ更新を行う。オンライン学習では、用意されたデータセットの中からランダムに一つを選んで誤差関数の勾配（修正すべき方向を示す値）を求め、パラメータの更新を行う。次々に新しい訓練データが届く状況では、新たに到着した順に一つずつ計算を行う。

一度の更新で一つのデータを用いて計算を行うため、バッチ学習のようにデータセット全体をメモリに呼び出す必要がなく、少ない計算資源でも短時間で一回の更新が行われる。ただし、毎回のデータのばらつきの影響が勾配計算に反映されるため、初期には学習が不安定になる場合があり、学習率を徐々に下げていくといった工夫が必要になる。

一方、訓練データ全体を用いて勾配計算を行う手法を「バッチ学習」という。全データを反映して勾配計算を行うため学習が安定しやすいが、規模によっては巨大な計算資源が必要で、データを追加すると膨大な再計算が必要になるといった難点がある。バッチ学習とオンライン学習の中間で、訓練データから少数のデータを選んで計算を行う手法は「ミニバッチ学習」と呼ばれる。