実践 LLMアプリケーション開発 ―プロトタイプを脱却し、実用的な実装に迫るための包括的な手引き

12章RAG

　10章では、LLMを外部のデータやソフトウェアと連携させることで、その能力を大幅に拡張する方法を紹介しました。11章では、埋め込み表現を利用した検索という基本的な手法を用いて、データストアからクエリに応じた関連データを検索する仕組みを解説しました。これらの知識を踏まえて、本章では外部データによってLLMを拡張するパラダイムであるRAG（Retrieval-Augmented Generation、検索拡張生成）を取り上げます。

　この章では、RAGを用いたアプリケーションにおける典型的なワークフローを詳細に掘り下げながら、RAGのパイプライン全体の構造を包括的に解説します。また、RAGの運用において発生するさまざまな意思決定、たとえば「どのようなデータを検索すべきか」「どのように検索すべきか」「いつ検索すべきか」といった点についても検討します。さらに、RAGが推論時だけでなく、モデルの訓練やファインチューニングの段階でも有用であることを明らかにし、他のパラダイムとの比較を通じて、RAGが特に効果を発揮する場面や、他のアプローチの方が適している場面についても考察します。

12.1　RAGの必要性

　10章で紹介したように、RAGは、LLMの能力を外部データソースによって拡張するための多様な技術を包括する用語です。以下は、RAGを導入する主な理由です。

• LLMが、自社で保有する非公開もしくは独占的なデータや、事前学習時には含まれていなかったような独自の情報にアクセスする必要がある場合、RAGを用いることで、LLMを一から事前学習するのではなく、はるかに軽量な方法で必要な情報を外部から補うことができます。
• LLMが内部知識に依存するのではなく、検索によって得られた外部データを参照することで、ハルシネーションのリスクを抑えることができます。また、LLMの出力に対して信頼できるデータソースとの対応関係を明示するような、正確な出典表示も実現できます。 ...