QREAM框架：通过查询与文档重写提升RAG信息利用率

原创

于 2026-06-22 16:33:03 发布 · 389 阅读

1. 项目概述：当RAG遇上“语言不通”的难题

最近在折腾几个RAG（检索增强生成）项目时，我反复被一个问题困扰：从知识库里辛辛苦苦检索出来的文档片段，和大模型（LLM）的“对话风格”对不上，导致最终生成的答案要么信息不全，要么逻辑别扭。这感觉就像你让一个严谨的学术专家（文档）和一个活泼的脱口秀演员（LLM对话接口）合作讲段子，中间少了关键的“翻译”和“润色”环节。检索出来的信息利用率低，成了很多RAG系统性能提升的瓶颈。

于是，我花了不少时间研究和实践，摸索出了一套专门解决这个问题的思路，并把它实现成了一个轻量级的框架，我称之为 QREAM 。这个名字是 Query Rewriting for Enhanced Answer Matching 的缩写，核心目标很明确：通过对用户查询和检索到的文档进行“风格对齐重写”，让它们说“同一种语言”，从而显著提升RAG系统中检索信息的利用率，生成更准确、更流畅的答案。

简单来说，QREAM不是一个替代传统RAG流程（检索-排序-生成）的新架构，而是一个精巧的“预处理”和“后处理”增强插件。它作用于两个关键节点：一是在检索前，重写用户查询，使其更贴近知识库文档的表述习惯，提升召回率；二是在生成前，重写检索到的文档片段，使其更匹配LLM的提示词风格和当前对话的上下文，提升生成质量。

如果你也在为RAG的答案质量不够精准、信息融合生硬而头疼，或者你的知识库文档风格多样（如混合了技术报告、产品手册、会议纪要），那么QREAM这套思路和实现细节，或许能给你带来一些直接的启发和可复用的代码。

2. QREAM框架的核心设计哲学与工作流拆解

在深入代码之前，我们必须先厘清QREAM要解决的核心矛盾是什么。传统RAG流程通常假设“检索到的文档片段可以直接用于生成答案”，但这个假设在复杂场景下非常脆弱。

2.1 问题根源：信息格式与生成需求的不匹配

我遇到过几个典型场景：

冗长技术文档 vs. 简洁问答需求 ：检索到的是一段包含背景、方法、实验数据的完整技术描述，但用户只问一个具体参数。直接塞给LLM，它可能无法快速定位关键数字，或者会连带无关背景一起输出。
非结构化笔记 vs. 结构化回答需求 ：知识库里存的是会议纪要或头脑风暴笔记，语言零散、充满缩写和指代。用户问“我们上次关于XX项目的结论是什么？”，LLM面对一堆碎片信息，很难拼凑出连贯结论。
被动语态文档 vs. 主动对话风格 ：许多官方文档使用大量被动语态和第三人称（如“该功能应被启用”），而对话式AI通常使用主动语态和第二人称（如“你需要打开这个功能”）。这种风格冲突会让生成的答案显得生硬、不自然。

QREAM的设计哲学，就是承认这种不匹配的普遍存在，并主动介入进行“对齐”。它的工作流可以清晰地分为两个主要阶段，如下图所示（概念流程）：

用户原始查询
        ↓
[QREAM 查询重写器]
        ↓
风格对齐后的查询 → 用于 → [向量数据库检索]
        ↓
                                    检索到原始文档片段
                                        ↓
                             [QREAM 文档重写器]
                                        ↓
                            风格对齐后的文档片段
                                        ↓
                                    与原始查询一同送入
                                        ↓
                                 [大模型生成器]
                                        ↓
                                    最终优化答案

2.2 双路径重写：查询侧与文档侧的协同

路径一：查询重写（Query Rewriting） 这一步发生在检索之前。它的目标不是改变用户的查询意图，而是 改变查询的“表达形式” ，使其与知识库中文档的嵌入向量更“相似”，从而提高召回相关文档的概率。

为什么有效？ 向量检索的本质是计算语义相似度。如果用户问“怎么让程序跑得快”，而知识库里存储的文档用语是“性能优化方法”，尽管语义相近，但词汇不匹配可能导致相似度分数不高。查询重写器可以将其改写成“性能优化方法有哪些”或“提升程序执行效率的途径”，从而更精准地命中目标文档。
实现关键 ：重写需要基于对知识库文档语言风格的总结（例如，通过分析高频词、常用句式），不能天马行空。通常，我会用一个轻量级LLM（如Phi-3 Mini）来执行这个任务，提示词模板会强调“保持原意，采用与参考文档库类似的表达风格”。

路径二：文档重写（Document Rewriting） 这一步发生在检索之后、生成之前。这是QREAM提升信息利用率的 核心环节 。它的目标是将检索出来的、可能冗长、散乱或风格不符的文档片段，改造成适合当前生成任务的“优质上下文”。

核心任务 ：
1. 压缩与摘要 ：去除冗余信息，保留与当前查询最相关的核心事实和数据。
2. 风格转换 ：将文档语言转换为与对话历史和LLM提示词风格一致的文本。例如，将技术手册语言转换为一步步的指导步骤。
3. 上下文融合 ：根据当前多轮对话的历史，调整文档片段的指代和表述，使其更连贯。例如，如果历史对话中用户一直用“小A”指代某个工具，重写时可以将文档中的正式工具名替换为“小A”。
实现关键 ：文档重写器需要更强的逻辑理解和文本生成能力。这里我会使用能力更强的LLM（如Llama 3 8B或GPT-3.5-Turbo级别的模型）。提示词设计至关重要，需要明确指令：“你是一个编辑，请将以下文档片段改写成一段简洁、清晰、直接用于回答用户问题的背景信息。要求：采用对话口吻，聚焦于回答‘[用户问题]’，保留所有关键数据和事实。”