Shopee 一面：你使用 RAG 给大模型一个输入，系统是怎样的工作流程？

📌 一句话摘要

本文以面试问答形式，系统拆解了 RAG 系统在线工作流程的六个核心步骤，从 Query 预处理到溯源生成，详细解释了每个环节的技术原理和工程细节。

📝 详细摘要

文章以 Shopee 面试场景切入，指出仅回答「检索 + 生成」的不足，随后详细拆解了 RAG 在线流程的六个步骤。第一步是 Query 预处理，通过改写、HyDE 或多角度扩写将口语化问题转化为适合检索的形式。第二步是 Query Embedding，强调必须使用与离线建库完全相同的 Embedding 模型，否则向量空间不兼容。第三步是向量检索与多路召回，结合 ANN 搜索和 BM25 全文检索，通过 RRF 算法融合结果，兼顾语义相似性与关键词精确匹配。第四步是 Rerank 精排，使用 Cross-Encoder 模型对粗排结果进行深度语义匹配，过滤噪音。第五步是 Prompt 拼装，通过明确指令约束大模型仅依据参考资料回答，抑制幻觉。第六步是生成与溯源，要求模型标注引用来源以提升可信度。文章最后总结了各环节的耗时分布和常见优化手段，如缓存高频 Query 和并行执行多路召回。

💡 主要观点

- RAG 在线流程的核心是「检索 -> 整理 -> 生成」的流水线，而非简单的两步。 用户提问不能直接用于检索，需经过 Query 预处理、向量化、多路召回、精排、Prompt 拼装等多个环节，才能让大模型基于高质量参考资料生成答案。

Query 预处理是提升检索质量的第一步，常用改写、HyDE 和多角度扩写。 口语化或带指代的问题直接检索效果差。HyDE 通过让 LLM 先生成假设答案，再用假设答案的向量去检索，利用答案与文档用词更接近的特性提高命中率。

向量检索与 BM25 多路召回结合，通过 RRF 融合结果，可兼顾语义与精确匹配。 向量检索擅长语义相似性，但对产品型号、专有名词等精确词语识别弱；BM25 则擅长精确匹配。两者互补，多路召回覆盖面更广、质量更高。

Rerank 精排采用两阶段策略，先用粗排筛到几十条，再用 Cross-Encoder 精排选出最佳片段。 Rerank 模型计算量大，无法对全量数据逐一打分。工程上先通过向量检索快速粗排，再对少量候选进行深度语义匹配，兼顾速度与质量。

Prompt 拼装和溯源生成是抑制幻觉、提升可信度的关键。 通过「只根据资料回答」「资料没有就说不知道」等指令约束大模型，并要求在答案中标注引用来源，让用户能追溯验证答案的准确性。

💬 文章金句

- RAG 的在线流程本质是一个「精准取件」的过程：从海量知识里找到和这个问题最相关的那几段，然后再让大模型在这个「小范围」里作答。

• 用 A 模型建的库，如果用 B 模型来检索，两边的向量就像在不同坐标系里，距离计算完全没有意义，检索结果会一塌糊涂。
• 向量检索对精确词语（比如产品型号、专有名词、错误拼写）的识别能力比较弱，而 BM25 对这些精确匹配反而更在行。
• Rerank 是 Cross-Encoder 结构，需要把查询和每个候选拼在一起过模型，计算量比向量检索大得多。如果拿它对百万条数据逐一算分，延迟完全不可接受。
• 大模型即使在有参考资料的情况下，依然可能过度发挥或者误读资料，溯源让用户有能力判断哪些内容是可靠的、哪些需要再确认。

📊 文章信息

AI 初评：82

来源：小林coding

作者：小林coding

分类：人工智能

语言：中文

阅读时间：19 分钟

字数：4667

标签： RAG, 检索增强生成, 向量检索, BM25, Rerank

阅读完整文章