February 2025
Intermediate
376 pages
9h 25m
Japanese
Content preview from 仕組みからわかる大規模言語モデル 生成AI時代のソフトウェア開発入門
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
O’Reilly covers everything we've got, with content to help us build a world-class technology community, upgrade the capabilities and competencies of our teams, and improve overall team performance as well as their engagement.I wanted to learn C and C++, but it didn't click for me until I picked up an O'Reilly book. When I went on the O’Reilly platform, I was astonished to find all the books there, plus live events and sandboxes so you could play around with the technology.I’ve been on the O’Reilly platform for more than eight years. I use a couple of learning platforms, but I'm on O'Reilly more than anybody else. When you're there, you start learning. I'm never disappointed.I'm always learning. So when I got on to O'Reilly, I was like a kid in a candy store. There are playlists. There are answers. There's on-demand training. It's worth its weight in gold, in terms of what it allows me to do.
4
ことが期待できます。
temperatureを使ったトークンサンプリングの仕組みについては 1.5.1 を参照してください。
top-p（トップ p）
top-pは言語モデルが次のトークンを予測する際に使用するパラメータです。top-p を用いた
トークンのサンプリングでは、確率の累積値が閾値p 以上になるまでのトークンを選択の対象
とします。このため、top-pを小さく設定すると、生成されるテキストはより確定的で一貫性
のあるものになります。一方、top-pを大きく設定すると、生成されるテキストはより多様性
に富んだものになります。
top-pを使ったトークンサンプリングの仕組みについては 1.5.3 を参照してください。
最大トークン数
最大トークン数は、言語モデルが生成するテキストの最大長を制御するパラメータです。こ
のパラメータはトークンの数で指定され、生成されるテキストが指定された長さを超えないよ
うにします。
最大トークン数の主な目的は、無駄に長いトークン列の生成によって計算資源が消費される
ことを防ぐことです。最大トークン数の値は、言語モデルに与えられるプロンプトとは独立し
て機能します。つまり、プロンプトの内容に関わらず、最大トークン数で指定された長さを超
えるテキストは生成されません。
最大トークン数を使用する際には、文が途中で切れる可能性がある点に注意する必要があり
ます。このため、多くの場合、プロンプト中で長さを指定する方が自然なテキストの生成に適
しています。プロンプトでは、「100単語程度で要約してください」 ...
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
and much more.
Read now
Unlock full access
More than 5,000 organizations count on O’Reilly
O’Reilly covers everything we've got, with content to help us build a world-class technology community, upgrade the capabilities and competencies of our teams, and improve overall team performance as well as their engagement.Julian F.
I wanted to learn C and C++, but it didn't click for me until I picked up an O'Reilly book. When I went on the O’Reilly platform, I was astonished to find all the books there, plus live events and sandboxes so you could play around with the technology.Addison B.
I’ve been on the O’Reilly platform for more than eight years. I use a couple of learning platforms, but I'm on O'Reilly more than anybody else. When you're there, you start learning. I'm never disappointed.Amir M.
I'm always learning. So when I got on to O'Reilly, I was like a kid in a candy store. There are playlists. There are answers. There's on-demand training. It's worth its weight in gold, in terms of what it allows me to do.