メタ認知【metacognition】
概要
人間のメタ認知は1970年代に心理学者のジョン・H・フラベルが提唱した概念で、問題を解きながら「この考え方で合っているか」と確認し、理解が不十分であれば方法を変えるといった働きを指す。自分の知識や理解の状態を捉える働きと、それを実際に監視・調整する働きの二つから成立している。
AIのメタ認知
AI（人工知能）におけるメタ認知は、AI自身が自らの出力や判断の確実性を評価し、誤りや知識不足を検出して処理方法を変更する能力を指す。生成した回答の確信度を評価する、知識不足を検出した際にWeb検索など追加の情報収集を行う、回答に矛盾がないか自ら検証して推論手順を修正するといった仕組みが研究されている。
AIへのメタ認知の実装は、事実と異なる内容をもっともらしく出力する「ハルシネーション」（hallucination：幻覚）の低減や、不適切な判断の回避に役立つと考えられている。自身が正解を持たないと判定できれば、誤った回答をそのまま示すのではなく、外部データベースへの照会や別の処理方法への切り替えといった対処につなげられる。
AIのメタ認知を実現する手段として、自己評価や自己反省を促すプロンプトを与える方法や、生成した回答を別の処理段階で改めて評価させる方法、外部からのフィードバックをもとに回答を修正させる方法などが提唱されている。近年では、AIエージェントに通常の処理とは別に実行内容を監視する層を設け、問題のある処理を特定して知識や方法を更新する構成も研究されている。
なお、AIのメタ認知は人間のような意識や自己認識を持つことを意味するものではなく、自己評価や不確実性の推定、誤りの検出といった機能を計算処理としてどのように実現し評価するかが主眼となっている。大規模言語モデル（LLM）が飛躍的に発展し、人間と遜色ない内容を出力するようになったことを踏まえ、人間の心理的な働きになぞらえて与えられた名称で、AIに自己意識のようなものを持たせるという話ではない。
共有ボタンをタップ