読み方：ニューラルアーキテクチャたんさく

ニューラルアーキテクチャ探索【NAS】Neural Architecture Search

概要

ニューラルアーキテクチャ探索とは、ニューラルネットワークの最適な構造を、機械学習を用いて自動的に設計する手法。層の種類や数、接続方法といった膨大な選択肢の中から、特定のタスクに対して最も高い性能を発揮する構成をAIが自ら探索し、発見する。

従来の深層学習では、ネットワークの層構成や接続方法は専門家の経験や試行錯誤に依存しており、多大な労力と時間を要していた。NASでは、この設計作業そのものを最適化問題として定式化し、探索アルゴリズムによってネットワーク構造を自動生成する。

ニューラルアーキテクチャ探索は一般に、「探索空間」（search space）、「探索戦略」（search strategy）、「性能推定戦略」（performance estimate strategy）の三要素から構成される。探索空間は、畳み込み層や活性化関数、接続様式などの候補集合を定義したものである。探索戦略は、強化学習や進化的アルゴリズム、勾配降下法などを用いて探索空間内から有望な構造を効率的に選出する。評価戦略は、構築されたモデルの性能を推定する。

すべての候補を最初から最後まで学習させると莫大な計算資源が必要になるため、近年では学習の一部を省略したり、以前の学習結果を再利用する手法なども考案されている。汎用的なモデルだけでなく、特定のハードウェアに最適化された軽量なモデルの設計にも応用されている。NASを含む、機械学習モデルの構築プロセス全体を自動化する仕組みを「AutoML」と総称する。