再帰的自己改善【RSI】Recursive Self-Improvement
概要

現在の大規模言語モデル(LLM)は、学習データの準備やモデル設計、評価方法の決定などを人間が主導している。新しいモデルが前世代より高性能であっても、それだけで再帰的自己改善が実現したとはいえない。
再帰的自己改善は、AI自身が改良方法を考え、その結果を評価し、さらに優れた改良方法を生み出す循環が継続する状態である。自身を基盤として次の段階の改良を繰り返し、人間の介入なしに継続的にモデルの改良が進んでいく。
現在のAIはコンピュータプログラムとデータを組み合わせた構成であり、再帰的自己改善はコード生成AIが自身より優れたコード生成AIを自ら開発することで進んでいくと考えられている。人間の知識や能力を前提とせずに改良が加速していけば、人間並の「汎用人工知能」(AGI:Artificial General Intelligence)あるいは人間を超える「人工超知能」(ASI:Artificial Superintelligence)が産み出される可能性があるとされる。
現時点で、AIが完全な再帰的自己改善を実現しているという証拠は確認されていない。近年はAIがAI研究を支援したり、生成した結果を利用して性能を改善したりする事例が増えているものの、多くは人間が設定した目標や制約の範囲で動作している。自己評価の信頼性や誤りの蓄積、計算資源の制約、人間による監督の必要性などが、完全な自己改善を妨げる要因として指摘されている。
また、ロボットを動かすフィジカルAIなどの研究もされてはいるものの、現在のAIは基本的にソフトウェア上で完結した存在であり、コンピュータ本体や内部のICチップ、コンピュータを稼働させるデータセンター、電力インフラなど、AIが稼働する物理的な基盤に介入あるいは改良する術を持たないため、既存の計算資源の制約により、いずれ改良が頭打ちになるとする予測もある。
再帰的自己改善は、AIの将来像や安全性を議論する際に頻繁に用いられる概念である。改善速度が著しく加速した場合、人間の予測や制御の範囲を超過、逸脱する事態が生じるのではないかという指摘があり、富の独占や失業の増加で社会が不安定化したり、AIが人間に反乱を起こすSF映画のようなシナリオが現実化する危惧もある。AI開発企業の間では技術的な進展と並行して、安全性の確保や国際的な協調をどう図るかという議論が進められている。