June 2025
Intermediate to advanced
424 pages
7h 8m
Japanese
Content preview from 直感 LLM ―ハンズオンで動かして学ぶ大規模言語モデル入門Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
O’Reilly covers everything we've got, with content to help us build a world-class technology community, upgrade the capabilities and competencies of our teams, and improve overall team performance as well as their engagement.I wanted to learn C and C++, but it didn't click for me until I picked up an O'Reilly book. When I went on the O’Reilly platform, I was astonished to find all the books there, plus live events and sandboxes so you could play around with the technology.I’ve been on the O’Reilly platform for more than eight years. I use a couple of learning platforms, but I'm on O'Reilly more than anybody else. When you're there, you start learning. I'm never disappointed.I'm always learning. So when I got on to O'Reilly, I was like a kid in a candy store. There are playlists. There are answers. There's on-demand training. It's worth its weight in gold, in terms of what it allows me to do.
7章高度なテキスト生成のテクニックとツール
前の章では、プロンプトエンジニアリングによって、大規模言語モデルが生成するテキストの品質が大きく改善することを紹介しました。これらのLLMは、少しの工夫を加えるだけで、入力に対してより的確な応答を生成できるようになります。これは、LLMそのものをファインチューニングせずとも、プロンプトエンジニアリングのように比較的簡単な工夫で、大きな効果を得られることを示しています。
本章では、この「プロンプトの工夫によってLLMの性能を引き出す」という考え方をさらに発展させ、LLMをより高度に活用するためのさまざまな方法を紹介します。これには、モデルそのものをファインチューニングすることなく、LLMからさらに良い結果を引き出すための手法が含まれます。
幸いなことに、LLMの性能を引き出す方法は多数あり、それらの方法を使えば前の章で得た出力をさらに改善できます。こうした高度なテクニックは、LLMを用いた多くのシステムの基盤となっており、新しいシステムの設計時には真っ先に実装されることも多くなっています。
本章では、生成されるテキストの質を向上させるための方法として以下を紹介します。
- モデルの入出力
- LLMの入出力の整形と管理
- チェイン
- LLMやツールといったコンポーネントの連携
- メモリ
- 会話履歴の保持
- エージェント
- 複雑な動作を外部ツールと組み合わせる方法
これらの方法はすべてLangChain（https://oreil.ly/gmWSX）を使えば簡単に実装できます。LangChainは、抽象化を通じてLLMを使いやすくするフレームワークの1つです。LangChain以外だと、DSPy（https://oreil.ly/DJ-wf）やHaystack（ ...
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
and much more.
Read now
Unlock full access
More than 5,000 organizations count on O’Reilly
O’Reilly covers everything we've got, with content to help us build a world-class technology community, upgrade the capabilities and competencies of our teams, and improve overall team performance as well as their engagement.Julian F.
I wanted to learn C and C++, but it didn't click for me until I picked up an O'Reilly book. When I went on the O’Reilly platform, I was astonished to find all the books there, plus live events and sandboxes so you could play around with the technology.Addison B.
I’ve been on the O’Reilly platform for more than eight years. I use a couple of learning platforms, but I'm on O'Reilly more than anybody else. When you're there, you start learning. I'm never disappointed.Amir M.
I'm always learning. So when I got on to O'Reilly, I was like a kid in a candy store. There are playlists. There are answers. There's on-demand training. It's worth its weight in gold, in terms of what it allows me to do.