GOV-006フレームワーク更新日 2026-06-21 · バージョン 1.0
エージェント型システム向け監査フレームワーク
エージェントを監査可能にし、実際に監査を行うための、実用的かつベンダーニュートラルなフレームワーク。独立したレビュー担当者が必要とする証拠（すべての意思決定とツール呼び出しの不変かつ関連付けられたトレース、モデルとバージョンのプロベナンス、評価レポート、承認およびインシデントの記録など）を定義し、コントロールのテスト方法や大量の実行データのサンプリング方法を示します。各証拠タイプはISO/IEC 42001およびNIST AI RMFにマッピングされており、監査人はエージェントが管理された境界内に留まっているかを検証できます。後付けではなく、最初から監査可能性を考慮して設計するためにご活用ください。
エビデンス: 業界での観察確信度: 中ソース: 業界での観察ソース: 論文
ISO/IEC 42001NIST AI RMF
定義
エージェント監査とは、エージェント型システムが定義された期間において、承認されたスコープ、コントロール、およびポリシーの範囲内で動作したか、また、そのシステムに関して行われたガバナンスの主張が信頼できる証拠によって裏付けられているかを判断する、独立した証拠に基づく検査です。
スコープ
監査人、アシュアランスおよびリスク管理チーム、そして設計段階からエージェントを監査可能にする必要があるシステム所有者。ツールを使用し、長期にわたって動作する自律型または半自律型エージェントに適用され、内部アシュアランスと外部または規制監査の両方をサポートします。本フレームワークは、公式なフレームワークを補完する実用的なガイドであり、法的助言に代わるものではありません。
主な要件
- 設計段階からの監査可能性（Auditability by design）：エージェントは、後から任意の実行を再構成できるように、実行時に十分な構造化された証拠を出力しなければなりません。
- すべての実行において、不変かつ関連付けられたトレース（目標、パラメータと結果を伴う各ステップおよびツール呼び出し、承認、オーバーライド、および最終結果）が生成されます。
- 証拠価値を持つためには、証拠が完全であり、帰属性があり、タイムスタンプが付与され、改ざん検知可能（tamper-evident）でなければなりません。
- モデルとバージョンのプロベナンス（プロンプト、ツール、モデル）が実行ごとに記録され、振る舞いが既知の構成に関連付けられます。
- サンプリングは階層化されています。リスク層別化、統計的サンプリング、およびすべての例外、オーバーライド、拒否、インシデントに対する100%のレビューで構成されます。
- 監査証跡は、ISO/IEC 42001の内部監査（箇条9）およびNIST AI RMFのMeasure（測定）およびManage（管理）機能に対応しています。
コントロール
- 不変の監査ログとトレーサビリティ
- 実行ごとに、エージェントの識別情報とバージョン、目標、各ステップ、ツール呼び出し、結果、承認、最終結果を紐付けたトレースを記録し、改ざんから保護します。これによりAIオブザーバビリティを実装します。
- モデルとバージョンのプロバナンス（来歴）
- 各実行の背景にある正確なプロンプト、ツールセット、モデルバージョンを記録し、動作が構成によって再現可能な既知のベースラインに起因するようにします。
- 評価の証跡
- 監査人が安全性と品質が測定されたことを検証できるように、デプロイ前および継続的な評価レポートとゲート結果を保持します（NISTの「Measure」に対応）。
- コントロールのテストとサンプリング
- 文書化されたサンプリング手法（リスク層別化、統計的サンプリング、および完全な例外レビュー）を使用して、証跡に照らし合わせて各コントロールをテストします。
- 承認およびインシデントの記録
- 実行者の識別情報とタイムスタンプとともに、人の承認、オーバーライド、インシデントを記録します。これにより、人の承認ゲート（human-approval-gate）パターンを実装します。
- アテステーション（証明）と指摘事項の管理
- システムおよびコントロールの所有者は、証跡に裏付けられたアテステーションに署名します。指摘事項は、深刻度と期限を設定して解決まで追跡されます。
チェックリスト
- 01すべてのエージェントの実行が、一貫したトレースIDによって紐付けられた、完全で関連性のあるトレースを生成することを確認する。
- 02ログが改ざん検知可能であり、タイムスタンプが付与され、監査および規制で定められた全期間にわたって保持されていることを検証する。
- 03各実行において、モデルとバージョンのプロバナンス（プロンプト、ツール、モデルバージョン）が記録されていることを確認する。
- 04各コントロールをその証跡に関連付けるコントロールマッピングまたは適用宣言書（Statement of Applicability）を取得する。
- 05デプロイ前および継続的な評価レポートとゲート結果を保持し、レビューする。
- 06実行者の識別情報とタイムスタンプを含む、承認、オーバーライド、インシデントの記録が存在することを確認する。
- 07文書化されたサンプリング手法（リスク層別化、統計的サンプリング、および100%の例外カバー）を適用する。
- 08深刻度と期限を設定して指摘事項を解決まで追跡し、所有者による署名済みのアテステーションを回収する。
一般的な落とし穴
- 監査不可能なエージェント：ロギングが後回しにされ、監査では埋められないギャップが残ること。
- 変更可能なログ：記録が改ざんされる可能性があり、証拠としての価値が損なわれること。
- サンプリングの盲点：ランダムサンプリングのみに頼ることで、まれではあるが壊滅的なアクションを見落とすこと。
- 証跡のないアテステーション：実証できないコントロールに対して、所有者が承認の署名をしてしまうこと。
- 指摘事項の放置：問題が提起されたものの、是正や再テストが一切行われないこと。
例
- 監査人が、目標からツール呼び出し、人の承認に至るまでの関連付けられたトレースを追跡することで、紛争のある返金処理を再構成する。
- 継続的監査チェックにより、ライブログストリームに対して許可リスト外のツール呼び出しを検知し、アラートを発信する。
- 保持された評価レポートがNIST AI RMFのMeasureに対応し、デプロイ前に安全ゲートを通過したことを証明する。
FAQ
- 非決定的なエージェントを監査することはそもそも可能ですか？
- はい。決定性ではなく、コントロールと記録された動作を監査します。完全で不変のトレースがあれば、特定の実行を正確に再現できなくても、再構成することが可能です。
- 監査サンプルの規模はどの程度にするべきですか？
- 統計的に目標とする保証レベルに達するのに十分な大きさに加え、例外および影響の大きいアクションの100%を含める必要があります。サンプリングが完全な例外レビューの代わりになることはありません。
- 監査証跡はフレームワークにどのように対応しますか？
- トレースとログは、NIST AI RMFのMeasureおよびManage、ならびにISO/IEC 42001の箇条9（内部監査）をサポートします。コントロールマッピングまたは適用宣言書（Statement of Applicability）により、各コントロールがその運用を証明する証跡に関連付けられます。