LLMのプロンプトエンジニアリング ―GitHub Copilotを生んだ開発者が教える生成AIアプリケーション開発

9章LLMワークフロー

従来の機械学習モデルは、ツイートのセンチメント分析、クレジットカード取引の不正検出、英語からフランス語へのテキスト翻訳など、「1つ」のドメインでの「1つ」のスキルのみを持つのが、一般的でした。GPTモデルの登場により、1つのモデルで、一見あらゆるドメインの膨大なバリエーションのタスクを実行できるようになりました。

しかし、GPT-2以降、モデルの品質は大幅に向上しましたが、人レベルの認知能力を満たす、または超えるAIである汎用人工知能（AGI）を作成する段階には、ほど遠いです。私たちがAGIを作成すると、AGIは知識を取り入れ、それについて推論し、今までにない複雑な問題を解決し、さらには新しい知識を生成する能力を持つでしょう。AGIは、人のような創造性を駆使して、あらゆるドメインの実世界の問題に対処します。

対照的に、今日のLLMは、推論と問題解決に顕著な欠陥を示しており、科学的発見の重要な要素である数学が特に苦手です。これらのモデルが生成するテキストは、既存の知識に対する幅広い理解を示していますが、新しい何かを導入することはめったにありません。また、トレーニング以外では、これらのモデルは新しい情報を学習することができません。将来のAGIは、定義上、「強み」（複雑な問題を解決する能力）、「一般性」（あらゆるドメインの問題を解決する能力）の両方を備えるでしょう。しかし、現在のLLMでは、知能のこれら2つの側面の間にトレードオフがあるようです（図9-1を参照）。

分布の一端には、前章で紹介した会話型エージェントがあります。極端な例として、ChatGPTのような純粋なチャットアプリケーションは「非常に」一般的です。あなたが望むことなら、何でも話してくれます。しかし、それは、あなたに代わって複雑なタスクを解決するわけではありません。特定のドメインに対するエージェントのシステムメッセージを作成し、そのドメイン用の一連のツールを備えた場合、エージェントはより一般的ではなくなり、そのより狭いドメイン内のタスクをより達成できるようになります。それにもかかわらず、会話型エージェントは、実際に作業を完了しようとしているユーザーからの支援を受けながら、一度に1つ、2つのステップだけを伴うタスクに最も適しています。 ...