ChatGPTをはじめとする生成AIの登場を背景に、組織でのAI活用が急速に拡大しています。総務省が2025年に発表した「令和7年版情報通信白書」では、日本国内の企業における生成AI利用率は約55.2%(第Ⅰ部 第2節 第1章 図表 Ⅰ-1-2-14)と報告されており、すでに一定数の企業が業務の中でAIを活用していることが示されています。
総務省『令和7年版 情報通信白書』（2025年）第Ⅰ部 第2節 第1章 図表Ⅰ-1-2-14(2026年1月5日参照)
しかし組織でAIを活用する際は、情報漏洩やハルシネーションなどの注意すべきリスクが存在します。そうしたリスクを事前に把握し、適切に管理・防止できる運用体制を整えることが重要です。
今回は、AI導入時の指針として広く参照されている「NIST AI Risk Management Framework(AI RMF)」※についてご紹介していきます。
※本記事は、執筆時点で公開されているNIST AI RMF 1.0の内容をもとに作成しています。今後、フレームワークの更新や改訂が行われる可能性があります。
NIST AI Risk Management Framework(AI RMF)とは？
NIST AI Risk Management Framework(AI RMF)とは、米国商務省管轄の政府機関であるNIST(National Institute of Standards and Technology)がAIリスクを体系的に管理するために公開したフレームワークです。
NIST AI RMFでは、「組織が信頼して使えるAI」の定義やAIリスクに対する基本的な考え方が示されており、AIリスクを管理するために必要な4つの中核機能(GOVERN/MAP/MEASURE/MANAGE)が整理されています。ここからは、４つの中核機能を整理しながら解説します。
画像出典：NIST (2023) AI Risk Management Framework (AI RMF 1.0). NIST AI 100-1. https://aisi.go.jp/assets/pdf/NIST_AI_RMF_jp_20240806.pdf（2026年1月5日参照）
GOVERN
GOVERNの項目では、 AIリスクを現場任せにするのではなく、組織全体の方針や体制のもとで管理していく考え方が示されています。
例えば、AIシステムの利用や出力結果によって情報漏洩が発生した場合、組織はAIシステムの利用停止、内部および外部への周知、再発防止策の検討といった対応を行う必要があります。NIST AI RMFでは、こうした対応をリスク発生後に場当たり的に決めるのではなく、AIシステムを運用していく段階で、誰がどの判断を行うのかをあらかじめルールとして定め、組織内に共有することの重要性が示されています。
AIシステムはIT部門をはじめとした現場で扱われることが多く、責任者が明確に定まっていないケースが少なくありません。NIST AI RMFは、こうした曖昧さ自体をリスクと捉え、責任分担と判断プロセスを文書化し、組織として再現可能な形で運用することの重要性を示しています。
MAP
MAPの項目では、AIをどのような目的で利用するのかを整理した上で、その影響範囲やリスクを洗い出すことが示されています。
具体的には、AIシステムを直接操作するユーザーだけでなく、AIが作成した提案資料を意思決定に使う上司や、AIによる判断を参考にする顧客といった、間接的に出力結果の影響を受ける人も含めて、起こりうるリスクを洗い出します。これにより、組織はAIリスクをより広い視点で把握でき、後述するMEASUREやMANAGEを効率的かつ適切に進めることができます。
MEASURE
MEASUREでは、AIリスクを評価するための方法やプロセスを定め、運用の中で継続的に評価することが示されています。
例えば、AIシステムの挙動を実稼働後も監視し、特定の人物や条件に対して不利な結果が出ていないか、出力結果に偏りが生じていないかといった公平性・バイアスのリスクを評価し、その結果を文書として残します。このように評価を繰り返しながら運用することで、時間とともに変化するAIリスクに対応し続けることができます。
MANAGE
MANAGEの項目では、評価したAIリスクを実際の運用工程に落とし込むための考え方や方法が示されています。
具体的には、AIリスクをインパクトや利用可能なリソースなどの観点で整理・優先付けした上で、それぞれの対応方針を策定することの重要性が示されています。
ここでのリスク対応には、緩和、移転、回避、受容の4つの選択肢が挙げられています。
一般的に、組織がAIシステム利用時に行っている「リスクを減らす対策」は、この中の緩和にあたります。例えば、情報漏洩リスクに対して、人間によるレビューを制度化したり、生成結果の取り扱いルールを定めたりすることで、リスクの発生確率や影響の大きさを抑えた状態でAIシステムを使い続ける運用方法です。
NIST AI RMFでは、リスクを単に下げることだけを前提とするのではなく、契約によって責任範囲や補償範囲を明確にし、リスクの一部を自組織以外に移転することや、用途を限定した上でリスクを受容することも含め、組織の状況に応じて対応を選択していくことが示されています。
多くの組織が整備しているAI導入対策
それでは、既にAI導入を行っている組織が、実際にどのような対策を行っているかを見ていきましょう。
先行してAI導入を行っている組織では、AIを安全に導入することを目的とした対策を中心に、一定の取り組みが進められています。
例えば、社内でAIシステムを利用する際のルールや禁止事項をガイドラインとして明文化したり、情報漏洩対策としてCASBやDLPを用いて機密情報の入力を制御したりするケースが一般的です。これらはいずれも、AIを導入する初期段階において重要な対策であり、多くの企業が取り組んでいます。
こうした対策は、AIを導入するための土台として有効ですが、「AIを使い続ける」ための仕組みとして整理されているケースはまだ多くありません。
本番環境でAIの利用者や入力内容が増加するほど、業務プロセスの中でAIの使われ方も変化していきます。その結果、導入前の段階では想定していない使い方が普及したり、時間の経過とともに精度や出力傾向が変化したりすることがあります。AIシステムは導入時点で固定されたシステムではなく、利用状況や環境の変化に応じてリスクも変わっていく存在です。
そのため、導入時の評価だけに頼るのではなく、本番稼働後も継続的に評価を行い続ける仕組みを、運用の中に組み込むことが今後ますます重要になります。NIST AI RMFは、AIを「導入して終わりのツール」ではなく、「組織全体で継続的に管理していくツール」として捉える考え方を示しているため、中長期的に組織内でAIを活用していく場合は、非常に有効な指針となります。
まとめ
AI利用は生成AIをはじめとして様々な場面で使われ始めています。その進歩はめざましく、AIによって生成された文章や画像が、人間が作ったコンテンツと見分けがつかないケースも増えてきています。そのため、AIの出力を都度確認するのではなく、安全に使える仕組みを整え続けることが重要です。
NISTのAI Risk Management Framework(AI RMF)は、このような安全性・信頼性を担保するためのリスク管理とガバナンスの仕組みを構築するためのフレームワークであり、今後ますます重要性が高まると考えられます。
AI導入を進める企業としては、必ずチェックしておきたい内容です。
弊社では、組織内で利用しているAI基盤のセキュリティ対策の実現をサポートするソリューションとして、Orca Security社の「Orcaプラットフォーム」をご提案しています。
Orcaプラットフォームは、組織内のAI基盤を含むあらゆるクラウド資産を網羅的に監視し、リスク管理を支援するCNAPP製品です。
組織内で新しいAIシステムを導入・運用する際にも、OrcaのAI-SPM機能を用いてセキュリティチェックを行うことが可能です。
具体的には、AIモデルの構成を特定したうえでアクセス制御の状態を可視化し、非推奨設定や過剰権限などのリスクを継続的に検知します。さらに、AIベストプラクティスに基づいたルールでリスクを継続的に評価することで、AI基盤を継続的に可視化し、保護し続ける運用につなげることができます。
製品の詳細な説明やデモ、皆様の環境を実際にスキャンするアセスメントのご案内も可能ですので、ご興味がありましたらお気軽にご相談ください。
