生成AIのプロンプトエンジニアリング ―信頼できる生成AIの出力を得るための普遍的な入力の原則

6章ツールとメモリーを使う自律エージェント

　本章では、CoT推論の重要性と、エージェントを活用することでLLMがいかに複雑な問題を推論するのかについてさらに掘り下げます。複雑な問題をより小さく、より管理しやすい構成要素に分解することで、LLMはより徹底的かつ効果的な解決策を提供できます。また、入力、目標関数または報酬関数、選択可能な行動など、自律エージェントを構成する要素についても学びます。

6.1　CoT推論

　AIが複雑な問題を推論する能力は、ユーザーフレンドリーで、有用性と信頼性が高いアプリケーションを作成するために重要な役割を果たします。

　CoT推論（Chain-of-Thought Reasoning：思考の連鎖による推論）※1とは、結論に達したり問題を解決したりするために、LLMが段階的に考え、論理的なつながりを考慮するように導く方法です。このアプローチは、文脈や複数の考慮すべき要因を深く理解する必要があるタスクに特に有用です。

※1　https://arxiv.org/abs/2201.11903

　CoT推論では、複雑な問題をより小さく、より管理しやすい構成要素に分解して考えるようにLLMに依頼します。これにより、LLMは各構成要素に個別に焦点を当て、目の前の問題をより徹底的に理解することができます。

　CoT推論を実践する際には、以下のような試みが行われます※2。

※2　訳注：本書翻訳時点では、モデル自体にCoT推論を組み込む事例も散見されており、CoT推論の利用方法も徐々に変化している状況です。

• LLMに自身の決定についての説明を求める
• 最終的な回答を決定する前に複数のステップを計画する

　続いて、CoT推論の効果的な例を探ります。ここでは、ユーザーが新しいソフトウェア製品の包括的なマーケティングプランをLLMに生成してほしい状況を想像してみます。 ...