読み方 : ぜんけつごうそう

全結合層【fully-connected layer】affine layer/dense layer

概要

全結合層とは、機械学習に用いられるニューラルネットワークを構成する層の種類の一つで、すべてのノードが、一つ上の層のすべてのノードと結びついているもの。最も基本的な構造で、上位層から受け取ったデータの特徴を組み合わせ、より抽象的な特徴を表現する働きを持つ。

ニューラルネットワークとは

人工ニューラルネットワーク人工知能の文脈では単にニューラルネットワーク)は、動物の脳の神経回路の構造と働きを模式化したモデルである。刺激に反応する神経細胞(ニューロン)を模したノードを層状に配置した構造で、入力層、1層以上の隠れ層(中間層)、出力層で構成される。

ノードは固有のパラメータに基いて比較的単純な計算を行う能力を持ち、上位層の各ノードの計算結果を入力として所定の計算を行う。計算結果は下位層の各ノードへそれぞれ固有の重み付けを行った上で出力される。最上位の入力層は外部からデータを受け取り、最下位の出力層は外部へデータを出力する。

全結合層とは

全結合層は最も基本的な構造の層で、その層のすべてのノードが、一つ上の層のすべてのノードと結びついている。各ノードは前の層のすべての出力を受け取り、それぞれに異なる重みを乗じて加算する。これに自らが内部に持つバイアス値を加算して、最後に活性化関数で変換した値を次の層のノードへ出力する。

基本的なニューラルネットワークは隠れ層として全結合層を何層も重ねた構造を持つ。全結合層は前の層で抽出された特徴量を組み合わせて、より抽象度の高い特徴を表現することができる。出力層として用いられる場合は、上層から得られるすべての情報を集約し、最終的な判断に必要な情報へと統合する役割を果たす。

全結合層は表現力が高い反面、結合の数が多いためパラメータ数も多くなり、学習時の計算量が大きくなりやすい。また、データ全体の特徴を均等に扱うため、画像の解析のように局所的な特徴や構造を組み合わせた判断はうまく行うことができない。そのような場合には、結合に制約を設けた「畳み込み層」(convolutional layer)など、異なる構造の層を用意する。

この記事の著者 : (株)インセプト IT用語辞典 e-Words 編集部
1997年8月より「IT用語辞典 e-Words」を執筆・編集しています。累計公開記事数は1万ページ以上、累計サイト訪問者数は1億人以上です。学術論文や官公庁の資料などへも多数の記事が引用・参照されています。