
会話型APIと補完型API
4.1
LLMをアプリケーションに組み込んで使用する際には、APIを介して言語モデルとやり取
りを行います。本書執筆時点で、主要なAPI には会話型 API(Chat API、Conversation API)
と補完型API(Completion API)の 2 種類があります。本節では、特定のLLMに依存しない
形でそれぞれのAPI について解説します。
4.1.1
会話型 API
会話型API は、OpenAIの Chat GPTのように自然な会話を実現するために設計されたイン
タフェースです。対話型LLM(1.2.2 参照)やマルチモーダルLLM(1.2.3 参照)の多くは、
この会話型API を介して利用されます。会話型APIの LLM は、ユーザとAI アシスタントが
交互にメッセージをやり取りすることで、会話の文脈を理解した上で適切な応答を生成しま
す。
会話型API は、メッセージリストをプロンプトとして入力し、次の応答メッセージを生成
します。例えば、下記のようなメッセージリストの入力を考えてみましょう。
ユーザ: 最も古いプログラミング言語はなんですか?
アシスタント: 最も古いプログラミング言語の一つは、1950年代初頭に開発されたFORTRANです。
ユーザ: 誰が開発しましたか?
このプロンプトは、二つのユーザメッセージと一つのアシスタントメッセージから構成され
ています。ユーザは、はじめに最も古いプログラミング言語をアシスタントに問いかけていま
す。アシスタントは答えが ...