平均二乗誤差【MSE】Mean Squared Error
概要

ある事象について実際に測定、観測などで確かめた値と、予測関数などから導き出された予測値があるとき、両者の差、すなわち「誤差」を求める。この誤差を二乗してから足し合わせ、標本の数で割ると平均二乗誤差が算出される。
誤差をそのまま足し合わせて平均すると正の誤差と負の誤差が打ち消し合ってしまい、合計値は実態よりも少ない誤差を表すことになるが、平均二乗誤差では二乗してから平均を取るため、正負に関わらずすべての誤差が正の値として評価に反映される。
予測値が真の値に近ければ近いほど平均二乗誤差は小さくなり、真値からのズレが大きくなるほど平均二乗誤差も大きくなる。すべての標本で真の値を正確に予測できた場合、誤差はすべて0となるため、平均二乗誤差の値も0となる。誤差を二乗する性質上、極端に大きなズレを持つ外れ値が存在すると、その影響が強く反映され、値が大きく跳ね上がりやすいという特徴もある。この性質は大きな予測ミスを許容しないモデルの評価に適している。
平均二乗誤差は誤差を二乗した値の平均であるため、元の値や予測値とは単位(次元)が異なり、同じ尺度で比較することができない。例えば、予測対象が金額(円)であれば、平均二乗誤差の単位は円の二乗となり、直感的な解釈が難しくなる。このため、平均二乗誤差の平方根(ルート)を取って元の単位に戻した値で評価することもあり、これを「二乗平均平方根誤差」(RMSE:Root Mean Squared Error)という。
平均二乗誤差は、モデルの学習における最適化の基準としても利用される。回帰モデルの多くは、学習データに対する平均二乗誤差が最小となるようにパラメータを調整する仕組みを持つ。二乗した値は微分が容易な滑らかな関数となるため、勾配法などの数値計算による最適化と相性がよく、予測モデルの構築過程においても重要な役割を果たしている。