February 2025
Intermediate
376 pages
9h 25m
Japanese
Content preview from 仕組みからわかる大規模言語モデル 生成AI時代のソフトウェア開発入門
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
O’Reilly covers everything we've got, with content to help us build a world-class technology community, upgrade the capabilities and competencies of our teams, and improve overall team performance as well as their engagement.I wanted to learn C and C++, but it didn't click for me until I picked up an O'Reilly book. When I went on the O’Reilly platform, I was astonished to find all the books there, plus live events and sandboxes so you could play around with the technology.I’ve been on the O’Reilly platform for more than eight years. I use a couple of learning platforms, but I'm on O'Reilly more than anybody else. When you're there, you start learning. I'm never disappointed.I'm always learning. So when I got on to O'Reilly, I was like a kid in a candy store. There are playlists. There are answers. There's on-demand training. It's worth its weight in gold, in terms of what it allows me to do.
4.2.4
言語モデルの制御パラメータ
言語モデルAPI では、言語モデルの動作を制御するためのパラメータが用意されています。
パラメータを調整することで、生成されるテキストの特性を変化させられます。
各モデルで共通するパラメータには次のようなものがあります。
temperature（温度）
top-p（トップ p）
最大トークン数
ストップシーケンス
これらのパラメータは用途に応じて次の二つに大別されます。
トークン予測：TransformerベースのLLMは、文脈から次のトークンの確率分布を計算
します。そして、temperature、top-pなどのパラメータを使用してこの確率分布から次
のトークンをサンプリングします。
長さの制御：最大トークン数は、モデルが生成するテキストの全体の長さを制限する役割
を果たします。モデルがテキストを生成する際、最大トークン数に設定された上限に達す
るかストップシーケンスが現れると、生成プロセスは停止します。
これらのパラメータは、APIのリクエスト時に指定します。目的に応じて適切なパラメータ
を設定する必要があります。以降、本節では各パラメータについて説明します。
temperature（温度）
temperatureは生成されるテキストの創造性に影響を与える非負の実数パラメータです。主
に0 以上1 以下の範囲で設定されます。低く設定すると生成されるテキストはより確定的で一
貫性のあるものになります。0を設定することで、毎回同じ結果を得ることができます。一
方、高く設定すると生成されるテキストはより多様性に富んだものになります。 ...
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
and much more.
Read now
Unlock full access
More than 5,000 organizations count on O’Reilly
O’Reilly covers everything we've got, with content to help us build a world-class technology community, upgrade the capabilities and competencies of our teams, and improve overall team performance as well as their engagement.Julian F.
I wanted to learn C and C++, but it didn't click for me until I picked up an O'Reilly book. When I went on the O’Reilly platform, I was astonished to find all the books there, plus live events and sandboxes so you could play around with the technology.Addison B.
I’ve been on the O’Reilly platform for more than eight years. I use a couple of learning platforms, but I'm on O'Reilly more than anybody else. When you're there, you start learning. I'm never disappointed.Amir M.
I'm always learning. So when I got on to O'Reilly, I was like a kid in a candy store. There are playlists. There are answers. There's on-demand training. It's worth its weight in gold, in terms of what it allows me to do.