リスクベースアプローチ【risk-based approach】

概要

リスクベースアプローチとは、対象となる行為や技術がもたらすリスクの大きさや性質に応じて、規制や管理の強度を段階的に変化させる考え方。金融や医療などでよく知られる手法で、近年ではAIシステムの安全性の確保にも適用される。

リスクとは悪い事象の発生確率と影響（損害）の大きさを組み合わせた概念である。リスクベースアプローチは対象を一律に扱うのではなく、低リスクの対象には簡素な対応を、高リスクの対象には厳格な管理や規制を適用するといったように、リスクに応じた対応を行う考え方である。

具体的な適用プロセスとしては、まず、潜在的なハザード（危険源）を特定し、そのハザードが実際に損害を引き起こす可能性（発生確率）と、引き起こされる損害の大きさ（影響度）を評価する。両者を勘案したリスクレベルに基づいて、必要な予防措置や軽減策（コントロール）を設計・適用する。

AI分野にリスクベースアプローチを適用する場合、人命に直接関わる医療診断支援システムや、市民の権利に重大な影響を与える信用評価システムなどは「高リスク」と分類され、厳しい透明性、堅牢性、人間による監視などの要件が課される。一方で、単純なスパムフィルターや娯楽目的のAIなどは「低リスク」とみなされ、比較的緩やかな規制や監視のみで済まされる。