什么是检索增强生成?

什么是检索增强生成?

检索增强生成(Retrieval-Augmented Generation,RAG)是在生成回答前,先从外部资料中检索相关内容,再将这些内容作为上下文提供给模型的方法。它把信息检索与语言生成结合起来,常用于企业知识问答、文档助手和专业资料查询。

RAG 通常不需要为每次知识更新重新训练模型参数。AWS 的 RAG 介绍说明了利用外部知识补充模型的基本思路。但它不能保证检索正确,也不能彻底消除无依据生成。

为什么需要先检索再回答?

模型训练时见过的信息可能不包含企业私有资料,也可能已经过时。即使模型知道一般规则,也未必知道某家公司最新的合同或产品政策。

检索把当前问题与适当资料连接起来,使回答有机会基于具体依据,而不只是模型已有的统计关联。来源还可以帮助使用者核查与继续阅读。

不过,知识可更新的前提是新资料已经进入可检索范围,旧资料被正确处理。上传文件不等于全部内容已经被准确解析和索引。

RAG 通常怎样工作?

资料准备阶段先取得文档,解析文字与结构,分成适当片段,建立检索索引,并保留来源、版本和权限。提问时,系统寻找相关片段,可能进行重排,再将选中内容与问题交给模型生成回答。

检索可以使用关键词、向量或混合方式,不是所有 RAG 都必须使用向量数据库。AWS 关于 RAG 架构的说明介绍了连接、检索与生成等组成。

片段大小也有取舍。太小可能丢失上下文,太大可能引入无关内容;表格和跨页条件尤其容易在切分时失去关联。

一个产品售后问答例子

以下是说明性例子。

用户询问某型号产品的保修范围。系统需要检索该型号、有效地区与当前版本的政策,而不是只找到一段含“保修”字样的文字。

如果旧政策与新政策同时存在,检索相关性再高,也可能返回错误版本。若片段只保留“可免费维修”,却丢掉前面的适用条件,模型还可能给出过度承诺。

因此,RAG 需要把文档状态、元数据过滤和回答依据放在一起管理。遇到资料不足或冲突时,直接说明无法确认,往往比拼出完整答案更可靠。

RAG 与微调、长上下文有什么区别?

方法 主要改变什么
RAG 本次回答取得的外部资料
微调 模型参数及其任务表现
长上下文输入 一次提供给模型的信息容量

它们可以组合。微调适合某些任务行为与表达模式,RAG 适合按问题取得可更新资料;长上下文能容纳更多材料,但不自动解决权限、版本和相关内容选择。

把全部文件一次放进提示,也不是所有场景下最经济或准确的方法。选择应看资料规模、更新频率与任务要求。

怎样区分检索问题与生成问题?

可以先检查正确资料是否被找到,再检查模型是否忠实使用。若依据没有进入上下文,单纯调整回答措辞往往无效;若依据正确但结论超出来源,则需要改善生成约束与评测。

引用也需要核对。链接存在,只能说明指向一份资料,不能证明它支持附近结论。评估时应关注可回答性、来源支持、权限过滤和拒答表现,而不只是答案是否流畅。

RAG 适合什么场景?

资料相对明确、需要追溯来源、知识持续更新的问答较适合。精确交易查询可能更适合调用数据库或 API;资料本身错误、互相矛盾或没有覆盖问题时,RAG 无法凭空补足真实知识。

检索到很多资料,为什么答案仍可能不准?

相关内容过多会引入噪声,旧版与新版混合也可能互相冲突。模型需要的不是尽可能长的上下文,而是适合当前问题、条件完整且来源有效的依据。

多条片段还可能分别讨论不同对象。把它们连接成一段回答时,系统可能无意中跨越适用范围,例如把某产品政策套到另一型号。

因此,检索之后仍需要选择、组织和核对,引用也应对应具体结论。无法形成一致依据时,应说明冲突或缺口,而不是用语言流畅性填平差异。

RAG 的改进通常需要逐环节判断:资料是否正确解析,正确内容有没有进入候选,筛选是否保留权限与版本,生成是否忠于依据。把所有问题都归给模型能力,容易忽略更直接的内容与检索原因。

问题本身也可能带有错误前提。例如用户问某政策为何已经取消,而资料只说明局部调整。系统应先核对前提,再解释已有证据,避免检索到相近文字后顺势编造原因。

知识来源本身也需要负责人与更新机制。检索技术能帮助找到内容,但资料是否仍然有效、是否需要纠正,通常仍要由掌握业务事实的人确认。

袋鼠云可以提供哪些相关能力?

袋鼠云 AIWorks提供文档接入、解析、知识切分、检索和召回测试等知识库相关能力,可帮助组织基于企业资料的问答。回答可靠性仍需通过来源管理与真实问题评测验证。

返回概念目录