読み方：エーアイトリズム

AI TRiSM【AI Trust, Risk, and Security Management】

概要

AI TRiSMとは、AIモデルやAIシステムの開発から運用に至るまでの過程で発生するリスクを継続的に管理し、信頼性や安全性、公平性、セキュリティを確保する考え方。米調査会社ガートナー（Gartner）社が提唱した概念で、AIを安心して活用できる体制を組織内に築くことを目指す。

AIによって生じるリスクには様々なものがある。誤った判断や偏った出力を行うリスクや、悪意ある入力による誤作動のリスク、学習データや利用履歴を通じた機密情報の漏洩リスクなどが含まれ、これらへの対処が管理の中心となる。

従来のAI管理は、利用規程を定めて定期的に監査する方法が中心であった。しかし、生成AIはモデルの更新や外部サービスとの連携、入力内容によって挙動が変化するため、運用中にも新たなリスクが生じる。文書によるルール整備だけでは対応が難しくなり、稼働中も継続的に監視し問題を検知して対処する仕組みが求められるようになった。

具体的には、AIの判断根拠を人間が解釈できるようにする「説明可能性」（explainability）の確保や、モデルの出力を常時監視し異常を検知する仕組み、不正な入力や攻撃からモデルを守るセキュリティ管理、個人情報や機密データの漏洩を防ぐプライバシー保護などを組み合わせる。これらは単独の技術ではなく、組織の運用プロセス全体に組み込まれることで機能する。

「AIガバナンス」がAIの開発や導入、利用、運用を管理するための枠組みであるのに対し、AI TRiSMはその方針を実際の現場で機能させる実践的な手段にあたる。方針を定めるだけでなく、それが守られているかを技術的に確認し、逸脱があれば是正する取り組みが含まれる。近年では生成AIに加え、自律的に処理を進めるAIエージェントの利用も広がり、運用中の状況変化に対応する継続的な監視や制御の重要性が増している。

日本国内では、経済産業省と総務省が策定した「AI事業者ガイドライン」が実務上の枠組みとして用いられており、同ガイドラインが求めるガバナンス要素とAI TRiSMの構成要素は重なる部分が多い。企業がAIを事業に取り入れる際には、こうした枠組みを踏まえたリスク管理体制の整備が求められている。

(2026.7.27更新)