ヒューマンインザループ【HITL】Human-in-the-Loop

概要

ヒューマンインザループとは、機械学習や自動化システムの開発や運用において、人間が判断や操作の一部を介入させる仕組み。機械的な処理では対応が難しい判断や品質確認を人間が担うことでシステム全体の精度や安全性、信頼性を担保する。

人工知能（AI）および機械学習の分野では、様々な目的でヒューマンインザループの仕組みが取り入れられている。例えば、モデルの学習データに対して人間がラベル付けや品質確認を行うことで、人間の判断をモデルに学習させる。AIが自動的に判断できる事例と、判断が難しく人間のレビューを必要とする事例を分類し、後者を人間に割り振る「アクティブラーニング」という手法が用いられることもある。

また、AIが意思決定を支援する業務システムでは、AIが出した結論や推薦結果を人間が最終的に確認・承認してから実行に移す設計がヒューマンインザループにあたる。医療診断支援システムで医師がAIの解析結果を確認してから診断を下す運用、融資審査でAIのスコアリング結果を担当者がレビューする運用などがこれに当てはまる。

自律システムやロボティクスの分野でも、システムが自動対応できる範囲を超えた状況が発生した際に人間のオペレータに制御を引き渡す仕組みが組み込まれることがある。自動運転車の遠隔監視・介入システムなどである。完全自動化と比べてコストや処理速度の面での制約はあるが、誤りのリスクが高い判断や倫理的な考慮が必要な場面では、人間の判断を組み込む設計が選択されることが多い。