专业术语索引
课程中的专业名词会链接到这里。先读一句白话解释，再回到原章节继续学习；无需一次背完。
一、模型调用与数据表达
API
应用程序接口。你的后端按照约定格式向模型服务发送请求并接收结果。
像银行柜台窗口：按规定提交材料，窗口按规定返回办理结果。
SDK
厂商提供的开发工具包，把底层 API 请求包装成更容易调用的函数。
像配套工具箱，最终仍然通过 API 这个窗口办事。
Prompt（提示词）
发送给模型的任务说明、规则、示例和上下文，不等于安全边界。
像给新员工的任务说明书；写清楚能减少误解，但不能代替权限制度。
Context（上下文）
模型在一次调用中实际能看到的信息，包括系统规则、历史、检索资料和当前问题。
像考试时桌面上允许查看的材料，而不是仓库里的全部资料。
Token
模型读取和生成文字时使用的计量单位，影响上下文容量、速度和费用。
像行李重量额度：装得越多，成本越高，也可能超过上限。
JSON
用键和值表达结构化数据的文本格式，便于程序读取。
像栏目固定的电子表格，而不是一段自由散文。
JSON Mode
模型接口的一种输出模式，主要保证结果能够解析为合法 JSON，但不保证字段符合业务要求。
JSON Schema
用于约束 JSON 字段、类型、枚举和必填项的结构规则。
像表格模板能规定栏目，却不能证明填写内容是真实的。
二、语义检索与 RAG
Embedding（向量嵌入）
模型把文字转换成一串数字，使语义接近的内容在向量空间中更靠近。
像把每段文字放到一张“含义地图”上的坐标位置。
Vector（向量）
Embedding 模型生成的数字数组，用来计算内容之间的语义距离。
Vector Database（向量数据库）
专门保存向量并快速查找相似向量的数据库，通常还保存文本引用和过滤字段。
Similarity（相似度）
衡量两个向量接近程度的分数。相似只表示主题接近，不自动代表事实正确。
Top-k
从候选中取分数最高的前 k 条，例如 Top-5 就是取前五条。
Metadata（元数据）
描述内容来源、权限、版本、有效期等管理信息，供程序过滤、追踪和审计。
像快递标签，说明货主、批次和去向，不是包裹正文。
RAG（检索增强生成）
先从知识库检索相关证据，再把证据交给模型生成回答的方法。
像先查公司手册，再根据手册回答客户，而不是凭记忆猜。
Chunk（文本块）
文档切分后的最小检索单位。大小要兼顾主题完整和检索精度。
Overlap（重叠）
相邻 Chunk 之间故意保留的一小段重复内容，用来减少切块边界造成的信息断裂。
Collection
向量数据库中存放同类记录的集合，可理解为面向向量场景的数据表。
Vector Index（向量索引）
帮助向量数据库更快找到近似结果的数据结构，通常以少量精度或额外空间换取速度。
BM25
一种经典关键词相关性排序方法，擅长匹配产品名、编号和明确词语。
Hybrid Search（混合检索）
同时使用关键词检索和向量检索，再合并结果，兼顾精确词和语义。
RRF
Reciprocal Rank Fusion，用排名位置融合多份检索结果的方法，不要求不同分数处于同一尺度。
Rerank（重排）
对初步召回的少量候选进行更精细打分，并重新排序。
像先快速筛选简历，再由面试官逐份精读候选名单。
三、工具、Agent 与状态
Function Calling / Tool Calling
模型输出“建议调用哪个工具及参数”的结构化机制；真正执行仍由后端负责。
MCP
Model Context Protocol，应用连接外部工具、资源和提示模板的开放协议。
像 USB 标准统一连接方式，但每个设备的具体能力仍不同。
Idempotency（幂等）
同一个业务请求重复执行，最终效果仍与执行一次相同，用来防止重复退款或重复写入。
Workflow（工作流）
由程序预先规定步骤和分支的执行流程，适合高风险、要求稳定可测的业务。
Agent（智能体）
模型在受限循环中根据状态选择下一步、调用工具并读取结果的系统模式。
State Machine（状态机）
把任务表示成有限状态和合法转换，防止模型跳过关键步骤。
Orchestrator（编排器）
组织步骤、保存状态、控制循环、预算、超时和人工接管的后端组件。
Checkpoint（检查点）
任务关键步骤后的可靠快照，用于服务重启或失败后的断点恢复。
Human-in-the-loop（人在回路）
在高风险或不确定步骤让人工查看依据、批准、修改、拒绝或接管。
Saga
把跨系统长流程拆成多个本地操作，并为已成功步骤设计补偿动作的方法。
Memory（记忆）
跨请求保存并在需要时检索的合法信息，不等于把全部聊天永久塞进 Prompt。
TTL
Time To Live，数据允许保留或缓存的有效时长，到期后应失效或重新获取。
四、评测、安全与生产化
Golden Dataset（黄金评测集）
经过业务确认、带标准答案或期望行为的固定案例集，用于公平比较新旧版本。
LLM-as-Judge
让评审模型按照明确规则评价回答质量的方法；评审模型本身也需要校准和抽查。
Trace
一次用户请求经过检索、模型和工具等组件的完整链路。
Span
Trace 中的一个具体操作片段，例如一次检索或一次模型调用。
Metric（指标）
聚合后的数字，例如错误率、P95 延迟和单次请求成本。
SLO
Service Level Objective，服务希望达到的可靠性或性能目标。
Prompt Injection（提示注入）
不可信内容试图诱导模型忽略原有规则、泄露信息或执行越权动作的攻击。
Least Privilege（最小权限）
每个用户、服务和工具只获得完成当前任务所需的最少权限。
PII（个人身份信息）
能够直接或间接识别个人的信息，需要遵循最小收集、授权使用和安全保护原则。
Secrets（机密配置）
API 密钥、数据库密码等敏感凭据，应由专用密钥系统管理，不能写进代码或 Prompt。
Cache（缓存）
保存可复用结果以减少重复计算和等待；必须同时设计失效、版本和权限边界。
Backpressure（背压）
当下游处理不过来时限制上游继续涌入，避免整个系统被高峰压垮。
Model Routing（模型路由）
根据任务难度、风险、延迟和成本，把请求分配给不同模型或处理路径。
Fine-tuning（微调）
用特定训练数据调整模型参数，适合稳定行为学习，不是替代知识检索的默认方案。
Container（容器）
把应用及依赖打包成一致运行单元，减少不同环境之间的差异。
Stateless（无状态）
服务实例不依赖本机内存保存关键会话，任何实例都能接续请求。
CI/CD
持续集成与持续交付/部署：自动构建、测试、验收并把版本送入目标环境。
Canary（金丝雀发布）
先让少量真实流量使用新版本，确认质量、安全和性能后再逐步扩大。
Runbook
写清告警含义、检查顺序、止损操作、负责人和恢复验证的故障处理手册。
RPO
Recovery Point Objective，灾难发生时最多可以接受丢失多长时间的数据。
RTO
Recovery Time Objective，发生故障后服务必须在多长时间内恢复。
LLMOps
围绕模型、Prompt、数据、评测、发布、监控和回滚建立的持续运营体系。
五、数据库、索引与评测补充
Milvus
面向大规模向量数据的开源向量数据库，用于存储、索引和搜索 Embedding。
PostgreSQL
成熟的关系型数据库，适合保存权威业务记录、结构化状态和事务数据。
Redis
以内存访问为主的数据系统，常用于缓存、短期会话、限流和队列协调，不应默认成为所有业务事实的唯一来源。
Docker
常用容器工具，用镜像把应用和依赖打包，并以容器方式运行。
像把设备和配件装进标准集装箱，换到另一处仍按同样方式运行。
HNSW
常见近似向量索引，通过多层图结构快速找到邻近向量，通常查询快但占用较多内存。
IVF_FLAT
先把向量划分到若干聚类，再搜索部分聚类的索引方式，需要在速度、召回率和参数之间权衡。
Cross-Encoder
把查询和候选文本一起输入模型做精细相关性判断，常用于 Rerank。
Recall（召回率）
应该找到的相关结果中，实际找到了多少。检索阶段通常先关注不要漏掉正确证据。
MRR
Mean Reciprocal Rank，用第一个正确结果出现的位置衡量排序质量；正确结果越靠前，分数越高。
P95 延迟
95% 请求的耗时不超过这个数，用来观察普通平均值看不到的慢请求。
429 / Rate Limit（限流）
服务因请求过多而暂时拒绝请求的信号，客户端应按策略退避重试，而不是立刻持续轰炸。
Jitter（随机抖动）
在重试等待时间中加入随机量，避免大量请求在同一时刻再次冲击服务。
A/B Test
把符合条件的流量随机分组，对比两个版本的质量、成本或行为差异。
Multi-tenancy（多租户）
同一系统服务多个组织，同时通过身份、数据和权限边界确保彼此隔离。