AWSではじめる生成AI ―RAGアプリケーション開発から、基盤モデルの微調整、マルチモーダルAI活用までを試して学ぶ

2章プロンプトエンジニアリングとコンテキスト内学習

この章では、コードをほとんど書かずに生成AIモデルと対話する方法について学びます。具体的には、プロンプトエンジニアリングとコンテキスト内学習が、その方法です。プロンプトエンジニアリングは、「モデルが生成する応答の品質と適切さの向上を促す技法（art）であり、同時に科学（science）でもある」ことを本章で理解できるでしょう。また、基盤モデルを最大限に活用するために、プロンプトならびにプロンプトのテンプレートを定義する際のベストプラクティスも紹介します。

また、プロンプトへの入力と一緒に、別のプロンプトと応答のペア（例えば、質問と回答のペア）を複数「コンテキスト（context：文脈）」内に入れて渡すコンテキスト内学習の利用法も学びます。コンテキスト内学習では、別のプロンプトと応答のペアを、コンテキスト内で例として与え、似たような応答をするようにモデルを促します。1回の問いかけの間だけモデルの動作を一時的に変化させる点において、コンテキスト内学習は、基盤モデルが備える能力の中でも特徴的なものと言えます。

最後に、コンテンツ作成時に基盤モデルのランダム性等を制御するためによく使われる生成パラメーター（temperatureやtop k等）について学びます。

大規模言語モデルは、入力としてプロンプトを受け取り、応答を生成します。そうしたプロンプトと応答は、次に説明するように、テキストベースのトークン群から構成されています。

2.1　プロンプトと応答

生成AIタスクは、複数のモダリティ（modality：データ型）にまたがることがありますが、テキストベースの入力を伴う場合が大半です。こうした入力を、プロンプト（prompt：発言等を促すこと）と呼びます。プロンプトは、あるタスクを達成するために用いられる、指示、コンテキスト、制約全般で構成されます。 ...