July 2025
Intermediate to advanced
484 pages
8h 8m
Japanese
book
生成AIのプロンプトエンジニアリング ―信頼できる生成AIの出力を得るための普遍的な入力の原則
by James Phoenix, Mike Taylor, 田村 広平, 大野 真一朗, 砂長谷 健, 土井 健, 大貫 峻平, 石山 将成
Content preview from 生成AIのプロンプトエンジニアリング ―信頼できる生成AIの出力を得るための普遍的な入力の原則
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
O’Reilly covers everything we've got, with content to help us build a world-class technology community, upgrade the capabilities and competencies of our teams, and improve overall team performance as well as their engagement.I wanted to learn C and C++, but it didn't click for me until I picked up an O'Reilly book. When I went on the O’Reilly platform, I was astonished to find all the books there, plus live events and sandboxes so you could play around with the technology.I’ve been on the O’Reilly platform for more than eight years. I use a couple of learning platforms, but I'm on O'Reilly more than anybody else. When you're there, you start learning. I'm never disappointed.I'm always learning. So when I got on to O'Reilly, I was like a kid in a candy store. There are playlists. There are answers. There's on-demand training. It's worth its weight in gold, in terms of what it allows me to do.
図3-5は、大きなテキストの塊をチャンク化し、個々のチャンクからトピックを抽出するプロセスを示しています。
図3-5 テキストをチャンク化した後のLLMによるトピック抽出
3.18.1 テキストのチャンク化の利点
テキストのチャンク化には以下のような利点があります。
コンテキスト長の制限への対応
LLMは入出力のトークン数に制限があり、これをコンテキスト長と呼びます。入力トークンを減らすことで、出力が切り捨てられたり、最初のリクエストが拒否されたりするのを防ぎます。
コスト削減
チャンク化により、文書から最も重要な点のみを抽出できるため、トークンの使用量やAPIコストを削減できます。
性能の向上
チャンク化により、LLMの処理負荷が軽減され、応答時間の短縮とリソースの利用効率の向上が可能になります。
柔軟性の向上
チャンク化により、開発者は特定のタスクやアプリケーションのニーズに基づいてLLMの応答を調整することができます。
3.18.2 テキストをチャンク化するシナリオ
テキストのチャンク化は、特定のシナリオで特に有益ですが、他のシナリオでは必ずしも必要ではありません。この手法を適用するタイミングを理解することで、LLMの性能とコスト効率を最適化することができます。
3.18.2.1 チャンクが必要な場合
大規模な文書
LLMのトークン数の制限を超える大規模な文書を扱う場合
複雑な分析
詳細な分析が必要で、より深い理解とより効率的な処理のために文書を分割する必要がある場合 ...
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
and much more.
Read now
Unlock full access
More than 5,000 organizations count on O’Reilly
O’Reilly covers everything we've got, with content to help us build a world-class technology community, upgrade the capabilities and competencies of our teams, and improve overall team performance as well as their engagement.Julian F.
I wanted to learn C and C++, but it didn't click for me until I picked up an O'Reilly book. When I went on the O’Reilly platform, I was astonished to find all the books there, plus live events and sandboxes so you could play around with the technology.Addison B.
I’ve been on the O’Reilly platform for more than eight years. I use a couple of learning platforms, but I'm on O'Reilly more than anybody else. When you're there, you start learning. I'm never disappointed.Amir M.
I'm always learning. So when I got on to O'Reilly, I was like a kid in a candy store. There are playlists. There are answers. There's on-demand training. It's worth its weight in gold, in terms of what it allows me to do.