> For the complete documentation index, see [llms.txt](https://yeasy.gitbook.io/context_engineering_guide/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://yeasy.gitbook.io/context_engineering_guide/fu-lu/glossary.md).

# 附录 A：术语表

本术语表收录了上下文工程领域的核心术语及其定义。

***

## 术语列表

### A

**Agentic** [**RAG**](/context_engineering_guide/di-er-bu-fen-he-xin-ji-shu-yu-ce-le/05_select/5.1_rag_principles.md)**（自主型 RAG）** 智能体自主决定检索时机、策略和内容的[检索增强生成](/context_engineering_guide/di-er-bu-fen-he-xin-ji-shu-yu-ce-le/05_select/5.1_rag_principles.md)模式。

**ANN（近似最近邻）** Approximate Nearest Neighbor，向量搜索中用于快速查找相似向量的算法。

### C

**Chain of Thought (CoT)** 一种提示策略，引导模型在给出最终答案前生成推理步骤。

**Chunking（分块）** 将大文档切分为小片段的过程，是 RAG 系统的关键步骤。

**Compaction（紧凑化）** 当上下文接近上限时，将历史记录压缩为摘要的技术，类似“垃圾回收”机制。

**Context Engineering（上下文工程）** 设计、组织、优化和管理大语言模型信息环境的系统性工程学科。

**Context Rot（上下文腐烂）** 随着上下文窗口中 Token 数量增加，模型对关键信息的提取与回忆稳定性可能下降的现象。本书用此概念来强调上下文应被当作稀缺资源管理。

**Context Stuffing（上下文填塞）** 将大量未经筛选的信息填入上下文窗口的做法，通常会降低模型输出质量、增加成本和延迟。是常见的上下文工程反模式。

**Context Window（上下文窗口）** 大语言模型一次能处理的最大 Token 序列长度。

**Cross-Encoder（交叉编码器）** 将查询和文档同时输入模型进行相关性评分的重排序技术。

### D

**DLP（数据防泄漏）** Data Loss Prevention，一类用于识别、拦截或审计敏感数据外泄的数据安全技术与流程，常用于对 LLM 请求/响应与日志做脱敏与拦截。

### E

**Embedding（嵌入）** 将文本转换为数值向量的过程，使语义相似的文本在向量空间中距离相近。

**Episodic Memory（情景记忆）** 存储具体事件和经历的记忆类型。

### F

**Few-shot Learning（少样本学习）** 通过在提示词中提供少量示例，让模型学习并执行特定任务。

**Fine-tuning（微调）** 在预训练模型基础上，使用特定领域数据进行进一步训练及优化。

**Function Calling（函数调用）** 模型生成结构化函数调用请求的能力，用于与外部工具交互。

### G

**Graph RAG（图检索增强生成）** 结合知识图谱进行检索和推理的 RAG 变体。

**Grounding（基座/接地）** 将模型的生成内容限制在特定事实源或知识库范围内，以减少幻觉。

### H

**Hallucination（幻觉）** 模型生成与事实不符或缺乏依据的内容的现象。

**HNSW** Hierarchical Navigable Small World，分层可导航小世界图，一种高效的近似最近邻（ANN）向量索引算法。

**Hybrid Search（混合检索）** 结合语义检索和关键词检索的混合方法。

**HyDE（假设文档嵌入）** Hypothetical Document Embedding，一种先用 LLM 生成假设答案再用其嵌入向量检索的技术。

### I

**ICAE（上下文自动编码器）** In-context Autoencoder，将长文本压缩为软提示词的技术。

**IVF（倒排文件索引）** Inverted File Index，一种基于聚类的近似最近邻索引方法，常与 PQ 组合为 IVF-PQ。

### K

**KV Cache** Key-Value 缓存，存储生成过程中 Token 的键值向量以避免重复计算。

### L

**LLM（大语言模型）** Large Language Model，基于 Transformer 架构的大规模预训练语言模型。

**Lost in the Middle（中段迷失）** 大模型在处理长上下文时，容易忽略位于输入中间部分信息的现象。

### M

**MCP（Model Context Protocol）** 一种开放的标准协议，用于规范 AI 模型或客户端与外部工具、资源和提示模板的交互；该协议最早由 Anthropic 推动并向社区开放。它本身是开放规范，不应被理解为 Anthropic 私有协议。

**Memory Architecture（记忆架构）** 组织和管理 AI 系统记忆的多层次结构设计。

**MemOS（记忆操作系统）** 一种把记忆管理操作封装为标准化服务、对应用开发者透明的记忆操作系统。其论文采用接口层、操作层、基础设施层的三层架构（本书 4.2.4 节为便于讲解，进一步拆分为五层工程视角）。

**MMR（最大边际相关性）** Maximal Marginal Relevance，一种在“相关性”和“多样性”之间权衡的结果选择策略，常用于检索结果去重与多样化。

**MTEB（大规模文本嵌入基准）** Massive Text Embedding Benchmark，用于评测与对比嵌入模型能力的公开基准与排行榜体系。

### N

**Needle in a Haystack（NIAH，大海捞针）** 一种评估大模型长上下文能力的测试方法，检测模型能否从大量无关信息中提取关键事实。

### P

**PQ（乘积量化）** Product Quantization，一种向量有损压缩与近似距离计算方法，常用于降低内存占用并加速相似度搜索。

**Prompt Caching（提示缓存）** 将系统提示词、知识库等固定内容的 KV 计算结果预先缓存，多次请求间复用以降低延迟和成本的技术。实际节省比例取决于平台价格、缓存生命周期、命中率和请求结构。

**Prompt Chaining（提示链）** 将复杂的任务分解为多个步骤，通过一系列关联的提示词依次引导模型完成。

**Prompt Engineering（提示词工程）** 设计和优化输入给模型的文本指令的技术，是上下文工程的子集。

### R

**RAG（检索增强生成）** Retrieval-Augmented Generation，结合信息检索与语言模型生成的技术。

[**ReAct**](/context_engineering_guide/di-san-bu-fen-jin-jie-ji-shu-yu-jia-gou/09_agents/9.1_agent_architecture.md) Reason + Act，结合推理和行动的智能体运行模式。

**Reranking（重排序）** 对初步检索结果进行二次排序以优化相关性的技术。

**RRF（倒数排名融合）** Reciprocal Rank Fusion，融合多个检索结果排序的算法。

**RULER（长上下文评测基准）** 一类面向长上下文能力的评测基准集合，通常覆盖检索、聚合、跟踪等多种长上下文任务类型。

### S

**Semantic Memory（语义记忆）** 存储抽象事实和概念的记忆类型。

**Semantic Search（语义搜索）** 基于语义相似度而非关键词匹配的信息检索方法。

**SLO（服务等级目标）** Service Level Objective，用于定义系统可量化目标的工程指标（如 P95 延迟、错误率、可用性），常与告警与发布门禁联动。

**SSM（状态空间模型）** State Space Model，一类用递推状态方程处理序列数据的神经网络架构，通过固定维度的隐状态演化实现线性时间和空间复杂度。代表模型包括 Mamba、RWKV 等，在长序列建模中相比 Transformer 具有 O(n) 计算复杂度的优势，特别适合处理超长上下文任务。

**System Prompt（系统提示词）** 定义模型基本角色和行为的核心指令。

### T

**Token** 大语言模型处理文本的基本单位。

**Tokenizer（分词器）** 将文本转换为 Token 序列的组件。

**Transformer** 现代大语言模型的基础架构，基于自注意力机制。

**TTFT（首字延迟）** Time To First Token，从请求发出到生成首个 Token 的时间，用于衡量端到端“体感延迟”与流式输出体验。

### V

**Vector Database（向量数据库）** 专门优化用于存储和检索高维向量的数据库系统。

### W

**Working Memory（工作记忆）** 对应上下文窗口，存储当前任务即时信息的短期记忆。

### Z

**Zero-shot Learning（零样本学习）** 模型在没有任何示例的情况下，仅凭指令完成任务的能力。