読み方 : インフォブイエーイー

InfoVAE【Information Maximizing Variational Autoencoder】

概要

InfoVAEとは、変分オートエンコーダVAE)の枠組みを拡張し、潜在変数と観測データ相互情報量を重視して学習を行う生成モデル。潜在表現の情報量低下を抑えることができる。
InfoVAEのイメージ画像

VAEオートエンコーダを拡張したニューラルネットワークの構造で、確率的な潜在変数モデルに基づいてデータの生成過程を学習することができる。従来のVAEでは、潜在変数が事前分布に過度に近づくことで、入力データの情報が十分に保持されない現象が指摘されてきた。

InfoVAEはこの問題に対応するため、潜在変数と入力データの間の相互情報量を学習目標に明示的に組み込み、これを最大化するように設計されている。これにより、潜在表現がデータの構造や多様性をより豊かに反映することが期待される。

学習では、再構成誤差に加えて、潜在分布と事前分布の乖離を測る項や相互情報量に関する項が導入され、それぞれの重み付けを調整することで、生成品質と表現力のバランスが制御される。画像生成や表現学習において、潜在空間の崩壊を抑えつつ多様なサンプルを生成できる。

この記事の著者 : (株)インセプト IT用語辞典 e-Words 編集部
1997年8月より「IT用語辞典 e-Words」を執筆・編集しています。累計公開記事数は1万ページ以上、累計サイト訪問者数は1億人以上です。学術論文や官公庁の資料などへも多数の記事が引用・参照されています。