一、为什么 2026 年每个技术决策者都要懂 LLM 检索术语

如果说 2023-2025 是大模型训练的爆发期，2026-2027 就是检索 + 增强的爆发期。对技术决策者而言，理解 LLM 检索的关键术语已经不是加分项，而是基础设施。本文挑选 30 个最常被技术团队在会议上抛出的核心术语，配实战场景解读，让你从听说过升级到会讲清楚。这套术语库覆盖三大领域：基础模型与推理、检索与增强、答案引擎与 AEO。每一个术语都对应一个或多个工程化场景，读完后你能在任何 AI 技术讨论中保持节奏。

二、基础模型与推理类（10 个）

术语 1：LLM（Large Language Model）——大语言模型，主流包括 GPT-4o、Claude 3.5、文心 4.0、Kimi、智谱 GLM-4、Qwen 2.5。术语 2：Token——模型处理文本的最小单位，约等于 1-2 个汉字或 0.75 个英文单词。术语 3：Context Window——模型一次能读入的最大上下文长度，单位 token，128k / 200k / 1M 各家不同。术语 4：Temperature——控制输出随机性的超参，0 = 稳定可复现，1 = 创造性高。术语 5：Top-p / Nucleus Sampling——只从概率累积达到 p 的 token 中采样。术语 6：Finetune——在已训练模型上用领域数据继续训练，定制行业能力。术语 7：RLHF——基于人类反馈的强化学习，让模型更听话。术语 8：DPO——直接偏好优化，比 RLHF 更轻量。术语 9：MoE（Mixture of Experts）——多专家混合架构，推理时只激活部分专家以提速。术语 10：Distillation——用大模型蒸馏小模型，部署成本低。这十个术语是讨论 LLM 时几乎绕不开的，是进入任何 AI 会议室的”门票”。

三、检索与增强类（10 个）

术语 11：RAG（Retrieval-Augmented Generation）——检索增强生成，先查知识库再生成答案。术语 12：Hybrid Search——关键字 + 语义向量混合检索，命中率更高。术语 13：BM25——经典的关键词检索打分函数，至今仍是 RAG 的基石之一。术语 14：Embeddings——把文本/图片转成向量的模型，如 BGE、Qwen Embedding、OpenAI text-embedding-3。术语 15：Vector Database——向量数据库，Pinecone / Qdrant / Milvus / 腾讯 VectorDB。术语 16：Cross-Encoder / Re-ranker——对初检结果重排序，提高精度。术语 17：Chunking——把长文本切分为块（chunk），常见尺寸 256-1024 token。术语 18：Overlap——相邻 chunk 重叠 token，避免跨 chunk 上下文丢失。术语 19：Hybrid Cache——把常见 query 的检索结果缓存，省 token 也提速。术语 20：Query Rewrite——把用户口语化的 query 改写成更适合检索的形式。这十个术语对应着”输入用户问题到拿到最终答案”之间的整条数据流，是 RAG 工程师必须熟练掌握的核心词汇。

四、答案引擎与 AEO 类（10 个）

术语 21：Answer Engine——答案引擎，直接给结论而非链接列表，典型如 Perplexity、秘塔、Kimi 探索版。术语 22：Source Attribution——答案引擎给出的来源归属，是 GEO 关注的核心指标。术语 23：Citation——在 AI 答案里引用你的内容，标志引用率。术语 24：Zero-Click Search——用户无需点击即可得到答案，颠覆了传统 SEO 的 click-through 逻辑。术语 25：Entity——实体，被模型识别的真实世界对象（人物/品牌/产品/事件）。术语 26：Knowledge Graph——知识图谱，模型用来确定实体关系的结构化数据网络。术语 27：Schema.org / JSON-LD——网页结构化数据标准，直接喂给知识图谱。术语 28：SameAs——实体锚点，把不同 URL 上的同名实体合并到唯一身份。术语 29：Hallucination——幻觉，模型生成虚构内容，AEO 必须配备归因校验。术语 30：Grounding——把答案与来源绑定，避免幻觉。这十个术语描述了 AI 答案从生成到呈现的关键概念，是 GEO 与 AEO 战略的基石。

五、跨学科理解：术语之间的内在联系

理解术语不需要逐字背，而是理解它们如何拼成一个系统。RAG = Embeddings + Vector Database + Retrieval + Chunking + Re-rank + LLM Generation。AEO = Answer Engine + Source Attribution + Schema.org + Citation + Grounding。两个系统的交集是 Embeddings 与 Re-ranker。这套网状结构能帮你快速判断一个新工具/术语在整个系统里的位置。从团队协作的角度，掌握术语图谱的项目经理可以更精准地把任务分配给算法、后端、内容、运营等不同模块的同事。

六、实战应用：把术语翻译成团队 KPI

chunking 太小召回高但精度低 → 团队 KPI：F1 ≥ 0.78。zero-click 时代点击不靠谱 → 团队 KPI：从点击切到被引用次数。source attribution 必须每次返回 → 团队 KPI：归因覆盖率 100%。hallucination 控制 → 团队 KPI：幻觉率 ≤ 2%。具体到一个 RAG 团队的工程 KPI 框架：retrieval recall ≥ 0.85、re-rank 准确率 ≥ 0.92、最终答案事实一致性 ≥ 0.96、归因覆盖率 100%、latency p95 ≤ 1.5s。如果一个团队的所有指标都达标，那么 AI 答案的质量将远远领先市场平均水平。

七、扩展词表与拓展阅读清单

本节为对 LLM 检索有更深入兴趣的读者补充 20 个进阶词条。术语 31：Zero-shot——模型在没看过该任务具体样本的情况下直接执行。术语 32：Few-shot——给模型提供少量示例以引导生成。术语 33：Chain-of-Thought (CoT)——让模型逐步推理以提升复杂任务准确性。术语 34：ReAct——把推理与外部工具调用结合的 Agent 范式。术语 35：Tool Use / Function Calling——模型主动调用函数以获取外部信息。术语 36：Agent——具备规划、记忆、工具调用能力的高级 LLM 应用。术语 37：Multi-Agent——多个 Agent 协同完成任务。术语 38：MCP (Model Context Protocol)——Anthropic 提出的模型连接外部工具的协议。术语 39：System Prompt——给模型植入的角色与行为规范。术语 40：Prompt Cache——重复 prompt 的缓存以节约成本。术语 41：Streaming——流式输出 token，降低首字延迟。术语 42：KV Cache——推理时缓存的键值对，提升速度。术语 43：Quantization——把模型权重从 fp32/fp16 量化到 int8/int4 以加速。术语 44：Speculative Decoding——用小模型先 draft 再让大模型批量 verify 的提速技巧。术语 45：Logits——模型输出层未归一化的分数。术语 46：Greedy Decoding——每步选概率最高 token 的解码方式。术语 47：Beam Search——维护 top-k 候选以提升序列质量。术语 48：Repetition Penalty——抑制重复生成。术语 49：Eos Token——文本结束符号，告诉模型停止生成。术语 50：Function Schema——对工具调用参数的结构化描述。这 20 个词条共同构成了 LLM 工程化的”第二层字典”。

八、结语：把术语库变成团队共享资产

LLM 检索术语不是死概念，是被工程师与产品经理在每次会议上反复用到的活语言。今天掌握它们，明天就能在 AI 时代做出更高效的技术决策。建议收藏本文，按团队节奏每月重读一次。同时，每次读到新工具或新论文时，主动把每个新术语加入自己的术语库里——AI 时代的学习能力，比任何单一技术栈都重要。把它当作一本活的字典，每次团队有新人入职时按这份术语库做 onboarding。最后，建议把术语库挂在团队 wiki 上，每周由”轮值术语官”补充新词条，让团队知识资产持续生长。

九、词条之间的关系图：RAG 系统全景

把上文提到的核心词条串成一张关系图，可以更清楚整个 RAG 系统的运作机理：用户输入一条 Query（Query Rewrite 后）→ 进入 Hybrid Search 模块（BM25 + Embeddings 在 Vector Database 里做最近邻）→ 初检结果送到 Re-ranker（Cross-Encoder）做精排 → 取 Top-K 个 chunk → 拼成 Prompt 输入给 LLM → LLM 生成 Answer → 同时把 source 切片做 Source Attribution 输出。整个过程中：Chunking + Overlap 决定知识颗粒度，Hybrid Cache 提速频问题，Hallucination 由 Grounding 缓解。同时，多模态场景还要用 CLIP、Qwen-VL 等多模态模型生成跨模态 Embeddings，并把图片/视频/表格也作为可检索 chunk。这就是现代 RAG 系统的全貌。

十、与其它工程领域的术语对照表

为了帮助跨领域读者理解，可以把 LLM 检索术语映射到大家更熟悉的传统计算机领域术语上。RAG ≈ 检索 + 生成的微服务组合（搜索服务 + LLM 生成服务）；Vector Database ≈ 传统搜索引擎的 inverted index 升级版；Embedding ≈ Word2Vec / Doc2Vec 的现代化；Chunking ≈ 文档分块（chunk partitioning）；Re-ranker ≈ 相关性二次打分（learning to rank）；Hybrid Search ≈ 布尔检索 + 语义检索融合；Source Attribution ≈ 引用 / 脚注机制；Hallucination ≈ 模型输出与事实偏离；Grounding ≈ 来源一致性校验；Few-shot ≈ in-context learning；CoT ≈ 推理链；Agent ≈ 自主决策系统。这套映射能帮助传统工程师快速跨进 LLM 工程领域。

十一、词条的”动态演化”：每季度新增 5 个

LLM 工程术语库不是静态的，而是每个月都在新增热门词条。例如 2025 年新增的”Tool Use”、”Reasoning Model”、”Test-Time Compute”、”Multimodal Reasoning”等。每季度建议由”术语官”轮值补充 5 个新词条，让团队词库保持新鲜。同时建议把术语库挂到 wiki，建立”新词条投票机制”——任何团队成员都可以提交新词条，由术语官与产品经理联合评审是否纳入。这样既保证术语库的开放性，又保持专业性。AI 时代的学习速度是核心竞争力，让术语库成为团队最活跃的知识资产，长远看会比任何”非 AI 时代的知识库”都更具价值。

十二、词条之间的依赖关系：从属与等价

LLM 检索领域的词条之间不是平铺的关系，而是有”从属关系”和”等价关系”两种典型网络结构。从属关系如 RAG ⊂ Hybrid Search + LLM Generation，Vector Database 是 RAG 的子组件；Embedding 是 Vector Database 的输入。等价关系如 BM25 ≈ TF-IDF 升级版，Embedding ≈ neural language representation，Hybrid Cache ≈ LRU Cache 升级版。理解这种”从属”与”等价”两种关系能帮助团队在新增术语时准确归类，避免词条重复或者父子倒置。建议团队建立”术语词库”时配套画一张 SVG 关系图，每个季度更新一次。

十三、词条与工程实践的桥梁：从理论到 KPI

每一个词条都应映射到至少一个工程实践与一个 KPI。例如 Chunking → 实践时设置 chunk_size=512 token、overlap=64 token → 映射到 KPI F1 ≥ 0.78；Re-ranker → 实践时引入 BGE-reranker-large → 映射到 KPI 排序准确率 ≥ 0.92。把词条落地为可量化 KPI 是一个团队”工程化能力”的标志——避免出现”理论讲了一堆，工程没产出一个指标”的情况。新词条入库时建议采用”三段式”模板：定义 + 工程实践 + 衡量 KPI。这样能确保词条不仅可读，还能落地。

十四、词条库在团队 onboarding 中的价值

对于一家做 LLM 工程或 GEO 的公司，术语库的最大价值在于 onboarding。新人入职第一天打开术语库，能用 4-6 小时熟悉整个行业的核心概念；第 2-3 周开始接触代码与项目时再回头复习，能精准定位每个工作流对应的术语；3-6 个月后已经能独立讨论细节。这种”术语驱动学习”的 onboarding 比”从代码入手”的传统 onboarding 快 3-5 倍。在 LLM 行业，”快速学习”是核心竞争力——一个术语清晰的团队，往往比术语混乱的团队整体效率高 30%+。

十五、词条库配套的开源资源推荐

以下是几套常用的 LLM 检索开源资源：第一，LangChain / LlamaIndex——构建 RAG 与 Agent 的事实标准；第二，Transformers / PEFT——模型微调与压缩的标准库；第三，BM25s / Rank-BM25——BM25 算法的轻量实现；第四，Sentence-Transformers——多语言 Embeddings 的常用实现；第五，Pinecone / Qdrant / Milvus——主流向量数据库；第六，OpenAI Function Calling / Anthropic Tool Use——大模型的工具调用接口；第七，Langfuse / Helicone——LLM 应用的可观测性工具；第八，Promptfoo / Guidance——Prompt 评测与优化；第九，DSPy——把 Prompt 工程编译化的前沿框架；第十，vLLM / TGI——模型推理加速引擎。把这十套开源资源跟词条库一一映射，是 LLM 工程师的”工具箱地图”。

十六、词条与商业场景的对应：把术语转化为业务价值

每个词条最终都应该服务于具体的商业场景。举例：Chunking → 服务于”客服知识库分块”，可节省客服响应时间 30%；Embedding → 服务于”搜索商品相似度”，可让电商搜索转化率提升 15%；RAG → 服务于”企业内部问答”，可让知识检索效率提升 4 倍；Re-ranker → 服务于”法条检索”，可让法律研究速度提升 3 倍；Hallucination 控制 → 服务于”医疗问答”，可让 AI 误诊率降到 1% 以内；Source Attribution → 服务于”内容可信度”，可让 AEO 引用率提升 50%。把这套”词条 → 业务价值”映射写下来，就是你给老板的”AI 落地路线图”。

十七、结语：词条是新一代工程师的”通用语言”

LLM 检索词条不只是技术人员的专利，它们将成为新一代工程师的”通用语言”。就像 2000 年代的”面向对象”、”设计模式”，LLM 检索词条正在定义下一个 10 年的工程文化。掌握它们的工程师无论进入哪一家公司、哪一个团队，都能用同一套语言与同行交流。这是 AI 时代最值得入手的”硬通货”。把这套词条挂在团队 wiki 上，每周由术语官轮值更新，让团队与 AI 时代共同进化。

十八、跨学科词条的延伸：法学 + 医学 + 教育 + 金融

LLM 检索词条库在不同垂直行业有不同延伸。在法学领域：Legal Tech 词条（如 RAG in Law、Statute Retrieval、Case Law Embedding）、判例检索、合规审核。在医学领域：Medical RAG、Clinical Embedding、HIPAA Compliance、医学影像 Embedding。在教育领域：Adaptive Learning、Knowledge Tracing、Curriculum Embedding。在金融领域：Financial RAG、Risk RAG、Real-time Market Embedding、Regulatory Compliance。在每个垂直行业里，本术语库都可以衍生出 50-100 个更专业的子词条。理解这点后，企业 GEO 团队可以快速建立”垂直行业词条库”，更好地服务于自身业务。

十九、术语标准化的行业意义

LLM 检索术语的标准化具有行业级意义：当所有公司、团队、个人都用同一套术语交流时，行业的交流效率与协作成本都会显著下降。这也是为什么从 2024 年开始，国内外都在做 LLM 相关术语的标准化（如 OWASP LLM Top 10、NIST AI Risk Management Framework、ISO/IEC 42001 AI 管理体系）。企业应该把这些标准纳入自己的工程规范中，让自家系统在行业语境里也能被正确识别。

十八点五、术语库与团队 KPI 系统的挂钩

把术语库跟团队 KPI 系统挂钩能放大词条的落地价值。具体方法：每个新词条入库时必须配套一个 KPI 指标与一个工程动作；每个 KPI 必须由对应岗位承担（算法 / 后端 / 内容 / 运营）；每月 KPI 复盘必然涵盖词条相关的工作项。这样术语库就不再是”挂在墙上的文档”，而是真正进入工作流的活系统。一个 100 人团队的术语库配套 KPI 体系，平均能让内部协作效率提升 25%，新员工产出周期缩短 40%。

术语库是工程师的通用语言，是 AI 时代的硬通货，是每个 LLM 团队最宝贵的共享资产，让我们持续维护它。