모델 라이프사이클
RAG (검색 증강 생성)
학습 때 외운 내용에만 의존하지 않고, 답변 시점에 외부 문서를 참고하도록 모델에게 제공하는 방식.
LLM의 학습 데이터에는 마감 시점이 있고, 회사 내부 문서 같은 건 애초에 포함될 수 없습니다. RAG는 질문이 들어오면 문서 저장소에서 관련 있는 부분을 검색한 다음, 그 내용을 질문과 함께 모델의 컨텍스트 윈도우에 넣어줌으로써 이 문제를 해결합니다. 그 결과 답변이 실제 최신 원문에 근거하게 됩니다.
RAG는 실제 서비스되는 AI 제품에서 가장 흔히 쓰이는 방식 중 하나입니다. 모델을 다시 학습시키는 비용 없이도 환각을 줄이고, 답변의 출처를 특정 문서까지 추적할 수 있게 해주기 때문입니다.