AWSではじめる生成AI ―RAGアプリケーション開発から、基盤モデルの微調整、マルチモーダルAI活用までを試して学ぶ

9章RAGとエージェントにより文脈に応じた論理的判断を行うアプリケーション

この章では、文脈に応じた論理的判断を行うアプリケーションの構築を目的として、これまで学んだ内容全てを結集させる方法を探ります。そのために、検索拡張生成（retrieval-augmented generation/RAG）とエージェント（agent）について見ていきます。またLangChainのようなフレームワークや、ReAct、PALといった理論についても学びます。そうしたフレームワークや理論を使うと、RAGやエージェントのワークフローに関する実装と保守がかなり楽になります。生成AIアプリケーションでは、RAGとエージェントの双方が主要な構成要素になっています。

RAG（検索拡張生成）は名前の通り、生成AIに入力するプロンプトを、関連性のある検索結果で拡張します。この拡張により、LLMが抱える知識制限に対処でき、モデルの出力がより正確かつ意図に沿ったものになります。RAGでは、新しいデータがシステムにやって来るたびにモデルを継続的に微調整する必要はありません。プロンプトのコンテキストに動的なデータソースを組み込めば、知識のカットオフやハルシネーションといった課題を軽減する効果が継続的に得られるため、RAGは生成AIアプリケーションの構築によく利用されるようになってきています。

RAGは、既製の基盤モデルに統合できる他、独自の生成ユースケースやドメインに特化したモデル（例えば微調整済みのモデルや、人間の価値観に適合させたモデル）との統合も可能です。

RAGと微調整は、一緒に使えます。相互に排他的ではありません。

次に、RAGの利用を決める場合に検討する、一般的な指針をいくつか示します。外部データや動的データへのアクセスが必要な場合、RAGベースのアーキテクチャなら、継続的な微調整に高額なコストをかけずに、そのようなアクセスが可能です。また、RAGベースのテクニックは通常、既存の基盤モデルを用いて実装されるため、機械学習（machine ...