基于LLM的RAG应用的问题转换的技巧（译）
输入“/”快速插入内容
基于LLM的RAG应用的问题转换的技巧（译）
基于LLM的RAG应用的问题转换的技巧（译）
飞书用户97332023年12月28日修改
一个基本的的RAG应用通常将文档切分为一个个的文本块，然后对文本块进行embedding向量化，最后检索出与用户问题在语义上高度相似的文本块。但是，这也带来了一系列的问题：（1）文本块可能包含不相关的内容，这些内容会降低检索的效果，（2）用户的问题可能表达不完善、措辞不佳可能影响检索以及（3）需要根据用户问题来生成结构化查询语句（例如，用于查询具有元数据过滤功能的向量存储或SQL数据库）的效果。
设想一个基本的 RAG 流水线，一般的流程是接受用户的问题并将其直接传递给embedding模型。然后将该embedding向量与存储在 vectorstore 中的文档进行比较，并返回最相似的前 k 个文档。
查询转换就用来负责在将用户问题传给embedding模型之前对其进行转换。
💡
Below are a few variations of papers and retrieval methods that take advantage of this. They are all using an LLM to generate a new (or multiple new) queries, and the main difference is the prompt they use to do that generation.
以下是一些运用这一概念的论文和检索方法，并进行了稍微变化。他们都使用LLM来生成一个或多个新的查询语句，主要区别在于用来生成该查询语句的提示 prompt 。
重写-检索-读取（Rewrite-Retrieve-Read）
本文使用 LLM 重写用户查询，而不是直接使用原始用户查询语句进行检索。
因为对于LLM检索而言，原始的查询语句并不总是最优的，尤其是在现实世界中......我们首先提示LLM让它重写查询语句，然后读取检索增强的内容。
使用的提示是一个相对简单的提示：
代码块
Provide a better search query for web search engine to answer the given question, end the queries with ’**’.
Question {x}
Answer: