読み方：ポチョムキンりかい

ポチョムキン理解【Potemkin understanding】

ポチョムキン理解とは？

AIの一種である大規模言語モデル（LLM）が、表面上は正確に動作しているように見えながら、その根拠となる概念や論理を実際には把握していない状態のこと。ソフトウェア開発の文脈では、内部実装が伴わないまま外観や画面だけを作り込んだ状態を指すこともある。

目
次

解説
AIのポチョムキン理解
ソフトウェア開発におけるポチョムキン理解

名称は18世紀ロシアの逸話に由来する。皇帝エカテリーナ2世の視察に際し、ポチョムキン将軍が沿道に張りぼての村を並べ、実態のない繁栄を演出したとされる話で、「見かけだけで実態が伴わない状態」を意味する比喩として英語圏で広く使われている。

AIのポチョムキン理解

AI分野では主に大規模言語モデルの評価に関して用いられる。モデルは膨大なテキストから統計的パターンを学習し、専門的な問いにも流暢な回答を返す。しかし、流暢さは概念の意味や因果関係を内部で構造的に把握していることを保証しない。関連するトークンの共起パターンを利用して、それらしい文章を組み上げているに過ぎない場合がある。

この状態が顕在化しやすいのは、問いが少し変形された場合や、複数ステップの推論を要する場合である。設問の言い回しが変わっただけで誤った方向に応答が引きずられたり、誤った前提を含む質問に対して誤りを指摘せず肯定してしまったりする。

「説明はできるが応用では誤る」という現象であり、人間の「分かったつもり」に近い状態として説明されることもある。なお、事実と異なる情報を生成する「ハルシネーション」（hallucination：幻覚とは区別され、ポチョムキン理解は知識の応用や論理的一貫性における不完全さを指す。