
ような応答メッセージを生成します。
アシスタント: 「犬は忠実で、猫は独立しています。」
このように、対話型LLM は、ユーザとアシスタントの過去のやり取りを含む会話履歴を入
力として受け取り、適切な応答を生成します。
対話型LLM では、事前学習済み言語モデルよりも複雑な入出力を扱うため、入力のトーク
ン化やデコードの方法も少し複雑になります。本節では以降、対話型LLM への入力のトーク
ン化とデコードについて説明します。ここでは、図 1.2.4 を用いて先ほどの例を説明します。
図1.2.4 では下側に入力、上側に出力を表示しています。
...