仕組みからわかる大規模言語モデル 生成AI時代のソフトウェア開発入門

4

ユーザの2 回目の質問「誰が開発しましたか？」では、目的語である「FORTRAN」が省略

されています。しかし、LLMは、会話の文脈から目的語が「FORTRAN」であることを理解

し、回答しています。

このように、会話型APIを使うことでユーザは LLMと自然な対話を行い、様々なタスクを

依頼することができます。会話の文脈を維持しながら、ユーザの質問や要求に対して適切な応

答を生成できるため、幅広いアプリケーションに応用できます。

4.1.2

補完型 API

補完型API は、与えられたテキストに続く自然なテキストを予測するためのインタフェー

スです。事前学習済み言語モデル（1.2.1 参照）の多くは、この補完型APIを介して利用され

ます。

事前学習済み言語モデルは与えられたプロンプトの文脈を理解し、その文脈に続くテキスト

を生成します。例として、次のような文をプロンプトとして利用する場合を考えてみましょ

う。

I N

昔々、あるところにおじいさんとおばあさんが住んで

これをプロンプトとしてAPI に入力し、最大256 トークンのテキストを生成するように指定

すると、次のような出力が得られます。

O U T

いました。おじいさんは山へしばかりに、おばあさんは川へせんたくに行きました。おばあさんが

川でせんたくをしていると、ドンブラコッコ、ドンブラコッコと大きな桃が流れてきました。おば

あさんはびっくりして、桃をあがりました。家に帰っておじいさんにおいしそうな桃を見せてあげ

ました。おじいさんもおばあさんも、おいしそうな桃を食べたくてたまりません。おじいさんは大 ...