読み方：インフォブイエーイー

InfoVAE【Information Maximizing Variational Autoencoder】

InfoVAEとは？

変分オートエンコーダ（VAE）の学習目標を拡張し、潜在変数と観測データの相互情報量を明示的に組み込んだ生成モデル。従来のVAEで生じやすい潜在空間の崩壊を抑え、データの構造や多様性を豊かに反映した潜在表現を獲得できる。

変分オートエンコーダ（VAE：Variational Autoencoder）は確率的な潜在変数モデルに基づき、データの生成過程を学習するニューラルネットワークの一種である。エンコーダが入力データを潜在空間上の確率分布へ変換し、デコーダがそこからサンプリングした潜在変数をもとに元のデータを再構成する構造をとる。目的関数には再構成誤差と、潜在分布を事前分布（通常は標準正規分布）に近づけるための正則化項が含まれる。

従来のVAEでは、正則化項が強く働くと潜在変数が事前分布に過度に引き寄せられ、入力データの情報が潜在表現に十分反映されなくなる「事後崩壊」（posterior collapse）と呼ばれる現象が生じることがある。この状態では潜在変数の利用が形骸化し、生成品質や表現学習の性能低下につながる。

InfoVAEはこの問題に対処するため、目的関数の設計を変更し、再構成誤差に加えて潜在分布と事前分布の乖離を制御する項と、潜在変数と入力データの相互情報量を最大化する項を組み込む。各項の重みを調整することで、生成品質と潜在表現の情報保持のバランスを制御できる。さらに、事後分布の集約分布と事前分布の一致を促す制約が導入されており、潜在空間全体の構造が整えられる。

画像生成や表現学習の分野では、潜在変数の利用効率が改善され、生成サンプルの多様性が向上する。また、InfoVAEの枠組みは最大平均不一致度（MMD：Maximum Mean Discrepancy）などの統計量を用いて潜在分布の乖離を評価する「MMD-VAE」をはじめ、派生手法の基盤としても参照されている。

(2026.6.18更新)