模型生命周期

RAG(检索增强生成)

在回答时为模型提供外部文档参考,而不是只依赖训练时记住的内容。

LLM 的训练数据有截止日期,也不可能包含某家公司的内部文件。RAG 的做法是:问题传入时先在文档库中检索相关段落,再把这些段落连同问题一起喂给模型的上下文窗口,这样答案就能建立在真实、最新的原始材料之上。

RAG 是生产环境 AI 产品中最常见的模式之一,因为它能在不重新训练模型的前提下减少幻觉,并让答案可以追溯到具体来源。