エンタープライズAIガバナンス
エンタープライズAIおよびエージェント型システムを管理するための実用的なリファレンスライブラリ。主要な規制やフレームワーク（EU AI法、ISO/IEC 42001、NIST AI RMF）と、実践的なエージェント型AIガバナンスチェックリストを提供し、それぞれにスコープ、主な要件、実装可能なコントロール、チェックリスト、一般的な落とし穴が含まれています。人間とAIエージェント向けに構築されています。
フレームワーク
5NIST AIリスクマネジメントフレームワーク
NIST AI RMF 1.0は、ライフサイクル全体でAIリスクを管理するための、自主的かつ広く採用されているフレームワークです。これは、「Govern（統治）」、「Map（位置づけ）」、「Measure（測定）」、「Manage（管理）」の4つの機能と、信頼できるAIの特徴（妥当性と信頼性、安全性、セキュリティと回復力、説明責任と透明性、説明可能性、プライバシー強化、有害なバイアスが管理された公平性）を中心に構成されています。関連する「Generative AI Profile」は、これをGenAIのリスクに適応させています。EU AI法とは異なり法律ではありませんが、実務的なAIガバナンスの共通の基盤となっています。
エンタープライズAIガバナンスフレームワーク
組織全体でAIを統治するための包括的な運用モデルです。AIの利用を合法かつ安全に保ち、リスク許容度に合わせるための原則、責任（RACI）、AIリスク分類、ライフサイクルゲート、およびポリシー階層を定義します。EU AI法、ISO/IEC 42001、NIST AI RMFを1つの内部プログラムに調和させ（一度の準拠でどこでも再利用可能）、エージェント型ガバナンスチェックリストを具体的なコントロールセットとして構成します。これを使用して、本番環境のすべてのAIシステムに指名された所有者、リスク層、および非準拠のデプロイを実際にブロックできるゲートを割り当てます。
エージェント型システム向け監査フレームワーク
エージェントを監査可能にし、実際に監査を行うための、実用的かつベンダーニュートラルなフレームワーク。独立したレビュー担当者が必要とする証拠（すべての意思決定とツール呼び出しの不変かつ関連付けられたトレース、モデルとバージョンのプロベナンス、評価レポート、承認およびインシデントの記録など）を定義し、コントロールのテスト方法や大量の実行データのサンプリング方法を示します。各証拠タイプはISO/IEC 42001およびNIST AI RMFにマッピングされており、監査人はエージェントが管理された境界内に留まっているかを検証できます。後付けではなく、最初から監査可能性を考慮して設計するためにご活用ください。
OWASP LLMアプリケーションのトップ10
「OWASP LLMアプリケーションのトップ10」は、言語モデル上に構築されたシステムで発生する不具合に関する共通の語彙です。これは管理策フレームワークではなく、何を実装すべきかを指示するものでもありません。プロンプトインジェクションから過剰なエージェンシー、無制限の消費に至るまでの脆弱性クラスを定義することで、チーム、監査人、ベンダーが同じ前提で議論できるようにします。その実用的な価値は、自社のアーキテクチャに対するチェックリストとして、また検出事項を報告する際の共通言語として機能することにあります。
MITRE ATLAS
MITRE ATLASは、攻撃者側のマップです。OWASPがアプリケーション内の脆弱性クラスを定義するのに対し、ATLASは攻撃者がAI搭載システムに対して実際に使用する戦術（タクティクス）と手法（テクニック）をカタログ化しています。これには、モデルの偵察、アクセス権の獲得、攻撃の準備、防御の回避、データの持ち出しなどが含まれ、MITRE ATT&CKが従来の侵入を整理するのと同じ方法で整理されており、仮説ではなく文書化されたケーススタディに基づいています。
プレイブック
2エージェント型AIガバナンスチェックリスト
企業におけるエージェント型AIを統制するための、実用的かつベンダーニュートラルなチェックリスト。EU AI法、ISO/IEC 42001、NIST AI RMFの原則を、ハーネスに実装可能な具体的なコントロールに変換します。人間による監視、ガードレール、監査ログ、評価、アクセス制御、プロンプトインジェクション対策、インシデント対応をカバーし、各コントロールをそれを具現化するパターンやナレッジユニットにマッピングします。エージェントを本番環境で動作させる前のレディネスゲートとしてご活用ください。
人間による監視と説明責任に関するポリシー
EU AI Act第14条の人間による監視を、エージェント型AI向けに実践へと落とし込む運用ポリシーです。エージェントごとに明確な責任ある所有者を割り当て、リスクに応じて監視レベル（in-the-loop、on-the-loop、out-of-the-loop）を設定し、介入、オーバーライド、停止権限、およびエスカレーションパスを定義します。監視者が有能であり、行動を起こす時間があることを要求し、形骸化（ラバースタンプ）や自動化バイアスを防ぎます。このポリシーは、2つの失敗、すなわち「人間が不在であること」と、エージェントの行動を実際に理解、オーバーライド、または説明できない「名ばかりの人間」を防ぐために存在します。