ランダムサーチ【randam search】
概要

ハイパーパラメータは学習過程を制御するために事前に決めておく各種の設定値で、モデルの仕様や学習の仕方を規定するものである。学習データによって導き出されるパラメータとは異なり、通常は学習プロセスそのものから自動的に最適な値を得ることはできない。
ランダムサーチはハイパーパラメータの最適な値を求める方法論の一つで、各設定値について候補となる値を列挙するか範囲を指定しておく。一回の試行では候補値をランダムに取り出して組み合わせ、学習をさせて検証データで性能を計測する。これを規定の回数繰り返し、最も性能の良かった組を採用する。
ランダムサーチは確実に最良の値の組を見つけられるとは限らないものの、それぞれのパラメータを独立してランダムに変動させながら探索するため、高性能な結果をもたらす有効なパラメータ値が探索空間のどこにあっても、少ない試行回数で効率よく発見することができるとされる。
一方、すべての組み合わせを網羅的に試行する方式は「グリッドサーチ」という。確実に最良の組み合わせを見つけられるが、ハイパーパラメータの数や候補値が多い場合や、一回の試行に必要な時間や計算資源が大きい場合にはすべての組を探索するのは現実的でない場合がある。ランダムサーチは限られた時間や資源で効率よく良い値を見つける手法としてグリッドサーチの代わりに用いられる。
(2025.12.3更新)