モデルのライフサイクル
RAG(検索拡張生成)
学習時に記憶した内容だけに頼るのではなく、回答時に外部の文書を参照させる仕組み。
LLMの学習データにはカットオフ日があり、企業の内部文書などはそもそも含まれていません。RAGは質問が来た時点で文書ストアから関連する箇所を検索し、その内容を質問と一緒にモデルのコンテキストウィンドウに渡すことでこれを解決します。その結果、回答は実際の最新の一次資料に基づいたものになります。
RAGは実運用のAI製品で最もよく使われる方式の一つです。モデルを再学習させるコストをかけずに、幻覚(ハルシネーション)を減らし、回答の根拠を特定の文書までたどれるようにできるためです。