分享
RAG(Retrieval Augment Generation)
输入“/”快速插入内容
RAG(Retrieval Augment Generation)
飞书用户1912
飞书用户9463
2024年4月17日修改
RAG 是一个完整的系统,其工作流程可以简单地分为数据处理、检索、增强和生成四个阶段:
1.
数据处理阶段
a.
对原始数据进行清洗和处理。
b.
将处理后的数据转化为检索模型可以使用的格式。
c.
将处理后的数据存储在对应的数据库中。
2.
检索阶段
a.
将用户的问题输入到检索系统中,从数据库中检索相关信息。
3.
增强阶段
a.
对检索到的信息进行处理和增强,以便生成模型可以更好地理解和使用。
4.
生成阶段
a.
将增强后的信息输入到生成模型中,生成模型根据这些信息生成答案。
三、RAG VS Finetune
在提升大语言模型效果中,RAG 和 微调(Finetune)是两种主流的方法。
微调
: 通过在特定数据集上进一步训练大语言模型,来提升模型在特定任务上的表现。
RAG 和 微调的对比可以参考下表(表格来源[
1
][
2
])
【
参考内容
】:
1.
Retrieval-Augmented Generation for Large Language Models: A Survey
2.
面向大语言模型的检索增强生成技术:综述 [译]