読み方：デンスネット

DenseNet

概要

DenseNetとは、画像認識を行う畳み込みニューラルネットワークの一つ。各層がそれ以前のすべての層と直接結合される密な接続構造を持つモデルで、特徴再利用と効率的な学習を可能とする。

従来の畳み込みニューラルネットワーク（CNN）では、層は主に直前の層の出力のみを入力として受け取る。このような単純な構想では、層が深くなるにつれて入力画像が持つ重要な情報が消失したり、学習時の勾配が伝わりにくくなったりする課題があった。

DenseNetは、「高密度ブロック」（Dense Block）という各層が密に接続されたブロックと、特徴マップのサイズを縮小して計算コストを抑える「遷移層」（Transition Layer）の組み合わせで構成される。ブロックの前後には、残差ネットワーク（ResNet）のようにブロックを飛ばして前後の層を直に繋ぐスキップ接続がある。スキップ接続は先々の各ブロックの後に向けて複数用意される。

各ブロックの内部では、各層がそれまでに生成されたすべての特徴マップを結合したものを入力として用いる。各層は前方の層が抽出した特徴を再利用することが可能となり、ネットワーク全体で特徴量を共有することができる。層ごとのフィルタ数を大幅に抑えることができ、他のモデルよりも少ないパラメータ数で高い精度を実現できる。

ブロック内では、層を重ねるごとに特徴マップがチャンネル方向に積み上がっていくが、各層が追加する特徴マップの数を「成長率」というハイパーパラメータで制御する。この値を上下させることでパラメータ数の爆発を抑え、モデルの複雑さを抑制する。