隠れ層【hidden layer】中間層/intermediate layer

概要

ニューラルネットワークとは

人工ニューラルネットワーク（人工知能の文脈では単にニューラルネットワーク）は、動物の脳の神経回路の構造と働きを模式化したモデルである。刺激に反応する神経細胞（ニューロン）を模したノードを層状に配置した構造で、入力層、1層以上の隠れ層（中間層）、出力層で構成される。

各ノードは固有のパラメータに基いて比較的単純な計算を行う能力を持ち、上位層の各ノードの計算結果を入力として所定の計算を行う。計算結果は下位層の各ノードへそれぞれ固有の重み付けを行った上で出力される。最上位の入力層は外部からデータを受け取り、最下位の出力層は外部へデータを出力する。

隠れ層の役割

隠れ層は入力層と出力層に挟まれた中間に配置された層である。各ノードは一層上のノードから伝達された値に、各上位ノードへの繋がりの強さを表す重み付けを行って加算する。加算した値は一層下の各ノードへ伝達するが、その際、「活性化関数」という関数を適用して非線形変換を行う。

ニューラルネットワークは隠れ層の数で分類されることがある。人工ニューラルネットワーク研究の初期に提案されたモデルは隠れ層がなく、入力層と出力層のみの「単純パーセプトロン」だった。中間に隠れ層を加え、3層以上で構成されるモデルは「多層パーセプトロン」（MLP：Multilayer Perceptron）という。

多層パーセプトロンのうち、隠れ層が複数（2層以上）あるものは「ディープニューラルネットワーク」（DNN：Deep Neural Network/深層ニューラルネットワーク）という。現代のニューラルネットワークのほとんどはこれに分類される。DNNは「ディープラーニング」（deep learning）の最も有力な実装方式の一つである。