LLMのプロンプトエンジニアリング ―GitHub Copilotを生んだ開発者が教える生成AIアプリケーション開発

8章会話型エージェント

「3章　チャット形式への移行」では、テキスト補完モデルからチャットモデルへの移行について説明しました。チャットモデル自体は、トレーニングで扱われた情報と、ユーザーがその場で伝えた情報のみを認識します。チャットモデルは、外部の世界にアクセスしてトレーニングデータに含まれていなかった情報を学んだり、ユーザーに代わって外部のアクションを実行したりすることはできません。

LLMコミュニティは、会話型エージェントを通じて、これらの制限を克服するために大きな前進を遂げつつあります。「エージェント」とは、エンティティが自主的、自律的な方法でタスクを完了し、目標を達成する能力です。本章で説明する会話型エージェントは、チャット（ユーザー、アシスタント間でやり取りされる会話）と同様の体験を提供しますが、アシスタントが実世界に手を差し伸べ、新しい情報を学習し、実世界の資産と対話する機能が追加されています。

本章では、LLMベースの会話型エージェントを構築するための最先端のアプローチを、いくつか紹介します。モデルがツールを使って外部世界に到達する方法、問題空間を通じてより適切に推論するようにモデルを条件付ける方法、長く複雑なやり取りを促進するために最適なコンテキストを収集する方法を探ります。本章の終わりまでに、あなたは、世界に出てあなたに代わってガイド付きタスクを実行することができる、独自の会話型エージェントを構築することができるようになるでしょう。

8.1　ツールの使用

言語モデルは単独で動作するため、モデルが達成できることは限られています。チャットアシスタントとの会話が魅力的なのは、ある意味でそれが世界のデジタル時代の流れを体現しているからです。幅広いトピックから何でも学ぶことができ、モデルは多様な考え方を引き出し、ブレインストーミングに役立ちます。もし、ハルシネーションを気にしないのであれば、モデルは素晴らしい家庭教師です。ただ、モデルにできないことの1つとして、「隠された」知識、つまりトレーニング中にモデルが利用できなかった情報にアクセスすることが挙げられます。 ...