
047
2-1:プロンプトとは
1
2
3
4
5
6
2
して、全く同じ回答を返してくることはほとんどない。たとえば、次
の結果も「桃太郎」の話ではあるが、前回の結果とは異なっている。
むかしむかし、あるところに、おじいさんとおばあさんが住んで
いました。このおじいさんとおばあさんは非常に優しく、互いに
深く愛していましたが、ひとつだけ悲しみがありました。それは、
二人には子どもがいなかったことです。
ある晴れた日のこと、おばあさんは川へ行って洗濯をしていまし
た。すると突然、大きな桃が川を流れてきました。おばあさんは
その桃を拾っておじいさんと一緒に家で開けてみることにしまし
た。大きな桃を包丁で切り開くと、中から元気な小さな男の子が
出てきました。(略)
このように、モデルは毎回全く同じ出力をするようには作られてい
ないことを知っておくことは大切だ。それは、モデルが膨大な量のデー
タを使って学習され、後続する単語の出力が確率的に生成されている
からだ。したがって、同じ冒頭部分を入力しても、結果的に生成され
る物語にはバリエーションが生まれる。
ここで、この確率をコントロールするためにモデルが持っている「温
度」という概念についても紹介しておこう。
モデルの温度を低く設定すると、モデルは次に出力する単語として
確率が最も高い単語のみを選択するようになる。逆に、温度を高く設
定すると、確率が低い単語にも選択される可能性が出てくる。すなわ
ち温度とは乱雑さを決めるパラメータで、温度を高くすることで、よ
り多様な出力を得ることができる。逆に、あるプロンプトのパフォー ...