智能体 AI（Agentic AI）知识库
关于应用 AI 和智能体 AI 的独立且可引用的内容单元——每个单元都构建为可供人类、搜索引擎和 AI 智能体复用的知识单元。每个条目都包含定义、核心要点、常见问题解答（FAQs）、参考文献、日期和版本。
概念
10什么是 Agentic AI？
Agentic AI 是指通过多个步骤追求目标的系统——进行规划、调用工具、对环境做出行动并对反馈做出反应——而不是仅生成单一的响应。它将语言模型从文本生成器转变为能够完成任务的执行者。它代表了从“自主操作”（do-it-yourself）软件（人类主导每一步）向“代劳”（do-it-for-me）软件（系统执行工作并汇报结果）的转变。
什么是智能体AI评估？
智能体AI评估是指在特定环境中衡量智能体完成多步骤、使用工具的任务的能力，而不仅仅是评估单个回答的质量。随着模型在静态知识基准测试上趋于饱和，评估正在从衡量能力（模型知道什么）转向衡量能动性（系统实际能完成什么）。优秀的评估是实现支撑系统工程的反馈闭环。
什么是 AI 智能体？
AI 智能体是一种将模型与工具、内存和控制循环相结合的系统，旨在朝着目标采取行动，而不仅仅是回答单个提示词。它感知情境、决定做什么、通过工具采取行动、观察结果并重复这一过程直至完成。其自主程度从单一的工具调用到复杂任务的长周期执行不等。
什么是 Embeddings 与向量搜索？
Embedding（嵌入）是一个数值向量，用于表示文本（或图像、音频、代码）的含义，从而使语义相似的项在向量空间中彼此接近。向量搜索用于查找与查询最接近的 Embedding，从而实现按含义而非关键词进行搜索。Embedding 是检索增强生成（RAG）、语义搜索、聚类和推荐的核心支柱。
什么是微调？
微调是在较小且有针对性的数据集上继续训练预训练模型，以使其行为、风格或领域知识专业化。它比预训练便宜得多，并且会改变模型的权重——这与提示（prompting）或检索不同，后者不会改变模型。使用微调可以锁定一致的格式、语气或技能；当您需要新鲜或私有的事实时，请改用检索。
什么是基础模型？
基础模型是在大规模广泛数据上进行预训练的大型模型，可以适应广泛的下游任务。大语言模型（LLM）和大型多模态模型是典型的例子。该术语由斯坦福大学于 2021 年提出，体现了一种转变：组织不再针对每个任务训练定制模型，而是构建在共享的通用基座之上——然后通过提示、检索或微调使其专业化。
什么是模型上下文协议（MCP）？
模型上下文协议（MCP）是一个开放标准，用于通过单一、统一的接口将 AI 模型和智能体连接到外部工具、数据源和系统。它由 Anthropic 于 2024 年底推出，规范了应用程序向模型暴露上下文和能力的方式——其作用类似于通用适配器，使任何合规的客户端都能与任何合规的服务器进行通信。
什么是提示词工程？
提示词工程是设计提供给语言模型的输入以使其可靠地产生所需输出的实践。一个好的提示词会指定角色、任务、约束、输出格式以及（在有用时）示例。它是引导模型行为最易用的手段——也是围绕模型的更广泛支撑系统（harness）中的一层——但仅凭其自身并不能使系统在大规模下保持可靠。
什么是推理模型？
推理模型是经过训练的语言模型，在回答前会消耗额外的计算资源进行“思考”——生成内部推理步骤以解决数学、代码和逻辑方面的更难问题。它们在复杂的多步任务中以延迟和成本换取准确性。其核心思想是测试时计算（test-time compute）：让模型在推理时进行更长时间 of 推理，而不仅仅是把模型做大，这可以显著改善结果。
什么是工具使用（函数调用）？
工具使用（也称为函数调用）允许语言模型调用外部函数、API 或代码，以获取信息或在现实世界中执行操作。模型决定调用哪个工具以及使用什么参数；应用程序运行该工具并返回结果，模型利用该结果继续执行。工具使用是将文本生成器转变为能够实际执行任务的智能体的桥梁。
Harness Engineering
4什么是智能体记忆系统？
智能体记忆是 AI 智能体在单个上下文窗口之外保留和检索信息的方式——跨越步骤、会话和任务。它通常将短期工作记忆（当前上下文）与长期记忆（智能体读写的持久化存储）区分开来。记忆使智能体能够在长期任务中携带状态、长期记住用户并避免重复工作。它是 Harness Engineering（智能体支撑系统工程）的核心层。
什么是 AI 智能体可观测性？
AI 可观测性是指对 AI 系统（尤其是智能体）进行插桩的实践，以便您能够了解它们做了什么以及原因。它捕获每一步的追踪：提示词、工具调用、检索到的上下文、模型输出、Token、延迟和成本。由于智能体具有非确定性和多步骤特征，可观测性使故障诊断和系统性改进成为可能。它是为评估提供数据并闭环 Harness Engineering（智能体支撑系统工程）的层。
什么是上下文工程？
上下文工程是一门决定在每一步中哪些信息进入模型有限的上下文窗口，以及哪些信息被排除在外的学科。随着智能体运行多个步骤，盲目地将所有内容塞入上下文中会降低质量并增加成本。上下文工程通过策划正确的指令、检索到的知识、工具结果和记忆，使模型在需要时恰好拥有其所需的内容。它是 Harness Engineering 的核心部分。
什么是 Harness Engineering（智能体支撑系统工程）？
Harness Engineering 是一门新兴学科，旨在设计和优化 AI 模型周围的脚手架——提示词、工具、记忆、环境、控制循环和护栏——以便模型在实际任务中可靠地运行。其核心前提是：随着基础模型在原始能力上趋于一致，竞争优势正从模型本身转向围绕其构建的支撑系统（harness）。同一个模型在执行某项任务时是成功还是失败，几乎完全取决于其支撑系统。
模式
2什么是企业级 RAG？
企业级 RAG（检索增强生成）是一种在查询时检索组织自身的文档，并以此作为模型回答依据的模式，而不是依赖模型的参数化记忆。它允许企业在不重新训练模型的情况下，使用私有、最新且受治理的知识（如政策、手册、工单、合同），同时保持企业所需的访问控制、引用和可审计性。
什么是人机回环（Human-in-the-Loop）模式？
人机回环（Human-in-the-loop, HITL）是一种设计模式，其中由人员在 AI 系统的输出生效之前对其进行审查、批准或纠正——特别是针对高影响力的操作。智能体负责提议，人类负责决策，而不是完全自主。它是管理智能体系统风险的主要控制手段，也是欧盟《AI 法案》和 NIST AI RMF 等 AI 治理框架中的常见要求。
治理
6什么是智能体威胁模型？
智能体威胁模型是自主智能体可能遭受攻击的路径图：攻击并非通过其权重进行，而是通过它所读取、记忆、调用以及被允许执行的一切操作。它指明了各种攻击面——直接和间接提示词注入、工具投毒、过度授权、记忆投毒、供应链、数据外泄通道、混淆代理——从而让每一个攻击面都能在支撑系统中得到具体控制，而不是寄希望于系统提示词。
什么是 AI 网络防御？
AI 网络防御是保护 AI 系统（模型、智能体、它们调用的工具以及它们访问的数据）免受利用这些系统推理和行为方式的攻击的实践。对于智能体而言，它不是事后添加的层：阻止攻击的控制措施与使智能体正常工作的支撑系统组件完全相同——工具权限、上下文边界、审批关口、可观测性。防御智能体就是构建其支撑系统。
什么是 AI 治理？
AI 治理是一套确保负责任、合法且安全地构建和使用 AI 的政策、流程、角色和控制措施。它涵盖了整个 AI 生命周期中的风险管理、问责制、透明度、安全性和合规性。在实践中，它将公认的框架（欧盟《AI 法案》、NIST AI 风险管理框架和 ISO/IEC 42001）转化为组织可以实施、证明和审计的具体控制措施。
什么是 AI 护栏？
护栏是运行时控制机制，用于约束 AI 系统的输入和输出，确保其行为安全、符合策略且合规。它们检查并过滤输入和输出、验证工具操作、拦截不合规内容并强制执行限制——作为安全层环绕在模型周围。护栏是 AI 治理中的主要运营控制手段，也是防范滥用和提示词注入的关键防线。
什么是 MCP 安全？
MCP 安全是防止 Model Context Protocol（模型上下文协议）服务器成为进入系统最便捷通道的关键。该协议规范了智能体如何发现和调用工具；但它并不决定谁可以调用它们、它们可以访问什么，或者当工具描述变得具有敌意时会发生什么。这些决策存在于服务器中：身份验证、来源和传输验证、严格限制范围的工具、速率限制以及审计追踪。
什么是提示词注入？
提示词注入是一种攻击方式，隐藏在语言模型输入中的恶意指令会劫持其行为——使其忽略自身规则、泄露数据或滥用工具。它位列 OWASP LLM 应用十大安全风险之首。其根本原因在于模型无法可靠地将可信指令与不可信内容区分开来，因此智能体读取的任何文本（网页、文档、工具结果）都可能携带攻击载荷。