エージェント型AIナレッジベース
応用AIおよびエージェント型AIに関する、自己完結型で引用可能なナレッジ。人間、検索エンジン、AIエージェントのいずれも再利用できるナレッジユニットとして構築されています。すべてのエントリーに、定義、主な要点、FAQ、参考文献、日付、バージョンが含まれています。
コンセプト
10Agentic AIとは何か？
Agentic AIとは、単一の回答を生成するのではなく、計画、ツールの呼び出し、環境への働きかけ、フィードバックへの対応など、複数のステップにわたって目標を追求するシステムを指す。これにより、言語モデルはテキスト生成器から、タスクを完了できる実行者へと変化する。これが表すシフトは、人間がすべてのステップを主導する「DIY（Do-It-Yourself）ソフトウェア」から、システムが作業を実行して報告する「DIFM（Do-It-For-Me）ソフトウェア」への移行である。
アジェンティックAI評価とは何ですか？
アジェンティックAI評価とは、単一の回答の品質だけでなく、エージェントが環境内でツールを使用するマルチステップのタスクをどれだけ適切に完了できるかを測定する手法です。モデルが静的な知識ベンチマークで飽和状態に達するにつれ、評価は「能力（モデルが何を知っているか）」の測定から「エージェンシー（システムが実際に何を達成できるか）」の測定へと移行しています。優れた評価（evals）は、ハーネスエンジニアリングを可能にするフィードバックループとなります。
AIエージェントとは？
AIエージェントとは、単一のプロンプトに回答するだけでなく、モデルにツール、メモリ、コントロールループを組み合わせて、目標に向けたアクションを実行するシステムです。状況を認識し、何をすべきかを決定し、ツールを介して行動し、結果を観察し、完了するまでこれを繰り返します。自律性の範囲は、単一のツール呼び出しから、複雑なタスクの長期的な実行まで多岐にわたります。
埋め込み（Embeddings）とベクトル検索とは何ですか？
埋め込み（Embedding）とは、テキスト（または画像、音声、コード）の意味を表現する数値ベクトルであり、意味的に類似したアイテムがベクトル空間上で近くに配置されるようにします。ベクトル検索は、クエリに最も近い埋め込みを見つけることで、キーワードではなく意味による検索を可能にします。埋め込みは、検索拡張生成（RAG）、セマンティック検索、クラスタリング、レコメンデーションの基盤となっています。
ファインチューニングとは？
ファインチューニングとは、事前学習済みモデルをより小さく的を絞ったデータセットで追加学習させ、その振る舞い、スタイル、またはドメイン知識を特化させる手法です。事前学習よりもはるかに低コストであり、プロンプティングや検索（これらはモデルを変更しません）とは異なり、モデルの重みを変更します。一貫したフォーマット、トーン、またはスキルを固定したい場合に適しています。最新の事実やプライベートな事実が必要な場合は、代わりに検索を使用してください。
基盤モデルとは？
基盤モデル（Foundation Model）とは、広範なデータを用いて大規模に事前学習され、幅広いダウンストリームタスクに適応できる大規模なモデルのことです。大規模言語モデル（LLM）や大規模マルチモーダルモデルがその代表例です。2021年にスタンフォード大学で提唱されたこの用語は、タスクごとに専用のモデルを学習させるのではなく、共有された汎用的なベースを基盤として構築し、プロンプティング、検索、またはファインチューニングを通じて特化させるというパラダイムシフトを捉えています。
Model Context Protocol (MCP) とは何ですか？
Model Context Protocol (MCP) は、AIモデルやエージェントを、単一の統一されたインターフェースを介して外部のツール、データソース、システムに接続するためのオープン標準です。2024年後半にAnthropicによって導入され、アプリケーションがコンテキストや機能をモデルに公開する方法を標準化します。ユニバーサルアダプターのように機能し、準拠している任意のクライアントが、準拠している任意のサーバーと通信できるようにします。
プロンプトエンジニアリングとは何ですか？
プロンプトエンジニアリングとは、言語モデルが望ましい出力を確実に生成するように、モデルに与える入力を設計する手法です。優れたプロンプトは、役割、タスク、制約、出力形式、および必要に応じて例を指定します。これはモデルの挙動を制御するための最も手軽な手段であり、モデルを取り囲む広範なハーネスの1つのレイヤーですが、これ単体でシステムの大規模な信頼性を担保できるわけではありません。
推論モデルとは？
推論モデルとは、回答する前に「思考」するために追加の計算処理を行うようトレーニングされた言語モデルです。数学、コーディング、論理におけるより困難な問題を解決するために、内部的な推論ステップを生成します。複雑で複数ステップに及ぶタスクにおいて、レイテンシーとコストを引き換えに精度を向上させます。重要なアイデアは「テスト時計算（test-time compute）」です。モデルのサイズを大きくするだけでなく、推論時により長く推論を行わせることで、結果を大幅に改善できます。
ツール利用（Function Calling）とは何ですか？
ファンクションコーリング（function calling）とも呼ばれるツール利用（tool use）は、言語モデルが外部の関数、API、またはコードを呼び出して、情報を取得したり現実世界でアクションを実行したりできるようにする機能です。モデルはどのツールをどのような引数で呼び出すかを決定し、アプリケーションがそのツールを実行して結果を返します。モデルはその結果を使用して処理を継続します。ツール利用は、テキスト生成AIを、実際にアクションを実行できるエージェントへと変える架け橋となります。
ハーネスエンジニアリング
4エージェントメモリシステムとは何か？
エージェントメモリとは、AIエージェントが単一のコンテキストウィンドウを超えて、ステップ、セッション、タスク間で情報を保持および想起する方法である。通常、短期のワーキングメモリ（現在のコンテキスト）と、長期メモリ（エージェントが読み書きする永続的なストレージ）を分離する。メモリによって、エージェントは長いタスクを通じて状態を維持し、時間の経過とともにユーザーを記憶し、重複する作業を避けることができる。これはハーネスエンジニアリング (Harness Engineering) のコアレイヤーである。
AIエージェントのオブザーバビリティとは何ですか？
AIオブザーバビリティとは、AIシステム（特にエージェント）をインストルメンテーションし、何を実行したか、そしてその理由を可視化する手法です。プロンプト、ツール呼び出し、取得されたコンテキスト、モデルの出力、トークン、レイテンシ、コストなど、各ステップのトレースをキャプチャします。エージェントは非決定的かつマルチステップであるため、オブザーバビリティこそが障害の診断を可能にし、体系的な改善を実現します。これは評価にデータを供給し、ハーネスエンジニアリング (Harness Engineering) のループを閉じるレイヤーです。
コンテキストエンジニアリングとは何ですか？
コンテキストエンジニアリングとは、モデルの限られたコンテキストウィンドウに各ステップでどの情報を入れ、どの情報を除外するかを決定する技術分野です。エージェントが多くのステップを実行する際、単純にすべてをコンテキストに詰め込むと、品質が低下しコストが増大します。コンテキストエンジニアリングは、適切な指示、取得された知識、ツールの結果、およびメモリを厳選し、モデルが必要な時に必要なものを正確に得られるようにします。これはハーネスエンジニアリングの中核となる部分です。
ハーネスエンジニアリング (Harness Engineering) とは何ですか？
ハーネスエンジニアリングとは、AIモデルの周囲にある足場（プロンプト、ツール、メモリ、環境、制御ループ、ガードレールなど）を設計および最適化し、モデルが実際のタスクで確実に機能するようにするための新しい分野です。その核心となる前提は、ベースモデルの生の能力が収束していくにつれ、競争優位性はモデル自体からその周囲に構築されるハーネスへと移行するということです。同じモデルであっても、タスクの成否はほぼ完全にそのハーネスに依存します。
パターン
2エンタープライズRAGとは何ですか？
エンタープライズRAG（検索拡張生成）は、モデルのパラメータメモリに依存するのではなく、クエリ実行時に検索された組織独自のドキュメントに基づいてモデルの回答を根拠付けるパターンです。これにより、企業はモデルを再トレーニングすることなく、ポリシー、マニュアル、チケット、契約書などのプライベートで最新の、かつガバナンスの効いた知識を利用できると同時に、企業が必要とするアクセス制御、引用、監査可能性を維持できます。
Human-in-the-Loop パターンとは何ですか？
Human-in-the-Loop（HITL）は、特に影響の大きいアクションにおいて、AIシステムの出力が有効になる前に人間がレビュー、承認、または修正を行う設計パターンです。完全な自律性の代わりに、エージェントが提案し、人間が決定します。これはエージェント型システムにおけるリスク管理の主要なコントロールであり、EU AI法やNIST AI RMFなどのAIガバナンスフレームワークで繰り返し求められる要件です。
ガバナンス
6アジェンティック脅威モデルとは何ですか？
アジェンティック脅威モデルとは、自律型エージェントがどのように攻撃され得るかを示すマップです。これはモデルの重み（ウェイト）を介した攻撃ではなく、エージェントが読み取り、記憶し、呼び出し、実行を許可されているすべての要素を対象とします。直接的および間接的なプロンプトインジェクション、ツールの汚染（ツールポイズニング）、過剰なエージェンシー、メモリの汚染、サプライチェーン、情報の流出経路、混乱した代理人（Confused Deputy）問題などの攻撃対象領域（サーフェス）を特定し、システムプロンプトに期待するのではなく、ハーネス内でそれぞれに対する制御（コントロール）を実装できるようにします。
AIサイバーディフェンスとは？
AIサイバーディフェンスとは、AIシステム（モデル、エージェント、それらが呼び出すツール、アクセスするデータ）を、それらのシステムの推論や行動の仕組みを悪用する攻撃から保護する取り組みです。エージェントにとって、これは後から追加するレイヤーではありません。攻撃を阻止するコントロールは、エージェントを機能させるためのハーネスコンポーネント（ツールの権限、コンテキスト境界、承認ゲート、オブザーバビリティ）そのものです。エージェントを防御することは、そのハーネスをエンジニアリングすることに他なりません。
AIガバナンスとは？
AIガバナンスとは、AIが責任を持って、合法的に、かつ安全に構築および使用されることを保証するための一連のポリシー、プロセス、役割、およびコントロールのことです。これは、AIのライフサイクル全体にわたるリスク管理、説明責任、透明性、セキュリティ、およびコンプライアンスを網羅します。実際には、EU AI法、NIST AIリスク管理フレームワーク（NIST AI RMF）、ISO/IEC 42001などの認知されたフレームワークを、組織が実装、実証、および監査できる具体的なコントロールへと運用化します。
AIガードレールとは何ですか？
ガードレールとは、AIシステムへの入力と出力を制限し、その動作を安全、ポリシー準拠、かつコンプライアンスに則った状態に保つためのランタイム制御です。モデルの周囲に安全レイヤーとして配置され、入出力のチェックとフィルタリング、ツールアクションの検証、不許可コンテンツのブロック、制限の適用などを行います。ガードレールは、AIガバナンスにおける主要な運用管理手段であり、悪用やプロンプトインジェクションに対する重要な防御策です。
MCPセキュリティとは何ですか？
MCPセキュリティとは、Model Context Protocolサーバーがシステムへの最も容易な侵入経路になるのを防ぐためのものです。このプロトコルは、エージェントがツールを検出して呼び出す方法を標準化しますが、誰がツールを呼び出せるか、ツールがどこにアクセスできるか、あるいはツールの説明が有害なものに変化した場合に何が起こるかまでは決定しません。これらの決定は、認証、オリジンおよびトランスポートの検証、厳密にスコープ定義されたツール、レート制限、監査トレールなど、サーバー側で行われます。
プロンプトインジェクションとは？
プロンプトインジェクションとは、言語モデルへの入力に隠された悪意のある指示によってモデルの挙動が乗っ取られ、ルールを無視させられたり、データを漏洩させられたり、ツールを悪用させられたりする攻撃です。これはLLMアプリケーションにおけるOWASP Top 10の第1位に挙げられています。根本的な原因は、モデルが信頼できる指示と信頼できないコンテンツを確実に分離できないことにあります。そのため、エージェントが読み取るあらゆるテキスト（Webページ、ドキュメント、ツールの実行結果など）が攻撃を媒介する可能性があります。