生成AIデザインパターン ―AIエージェント構築、アプリケーション開発のベストプラクティス

3章知識を追加する：ベースライン

基盤モデルはクローズドシステムであり、訓練データによって制約される。したがって、多くの場合追加情報を与えなければならない。例えば、訓練時にはまだ発生していなかった最近の出来事に関することや、企業の機密情報や、基盤モデルの訓練者には入手できないような情報だ。

追加知識を用いてLLMを再訓練するのは非現実的だ。継続的事前学習（CPT）で基盤モデルに知識を追加することさえ難しい。1回の訓練コストですら高価過ぎるのに、情報は頻繁に変化するのでCPTを頻繁に行わなければならないからだ。そのコストは、数千万ドルに上ることもある†1。したがって、基盤モデルをそのまま使用し、実行時に知識を追加するほうがいい。

実行時に基盤モデルに追加情報を与えるためのキーとなるパターンは、Facebook AI Research（現在はMetaの一部）の研究者たちによる画期的な論文「Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks」（https://oreil.ly/zgAj8）で2020年に提案された。RAG（検索拡張生成）を用いると、基盤モデルを、訓練データによって制約されるクローズドなシステムから、オンデマンドで外部の知識を活用できるオープンなシステムへと変換できる。

3つのステップ（索引付け、検索、生成）から構成される複合システムとして、RAGを捉えるとわかりやすい。個々の構成要素をデプロイする必要があるが、各構成要素はカスタマイズ可能だ。したがって本章に関しては、他の章とは異なり（自分の問題に最も適したパターンを選ぶのではなく）すべてのパターンを順番に読むことを勧める（図3-1参照）。