LLMメッシュ (Japanese Edition)

第2章 エンジェティックアプリケーション構築のためのオブジェクト

この作品はAIを使って翻訳されている。ご意見、ご感想をお待ちしている：[e-mail]

LLMメッシュは、企業内でエージェント型アプリケーションを構築するための新たなアーキテクチャパラダイムである。これにより組織はより多くのエージェント型アプリケーションを構築・維持でき、最終的にLLMsからより多くの価値を得られるようになる。

LLMメッシュにより、以下のことが可能になる：

• 抽象化レイヤーを介して様々なLLM関連サービスにアクセスする

• 制御と分析のためのフェデレーションサービスを提供するサービスプロバイダー

• カタログを介してLLM関連オブジェクトの中央集中型発見と文書化を提供する

本章では、エージェント型アプリケーション構築に用いられる多様なLLM関連サービスと、それらの相互接続方法について説明する。これらの各種LLM関連サービスは、LLMメッシュにおいて「オブジェクト」と呼ばれる。本章の最終セクションでは、LLMメッシュ内のオブジェクトを発見・利用する上でカタログが持つ重要性について述べる。

まず、今日の競争環境において、LLMメッシュを用いたエージェント型アプリケーション構築がなぜ重要性を増しているのかを説明する。要するに、多くのカスタムエージェント型アプリケーションを構築する必要があるということだ。

新たなエージェント型アプリケーションの可能性

第1章では、利用可能な多様なモデルの種類、その動作原理、およびホスティングの選択肢について学んだ。これらのモデルは企業においてどのような用途に活用できるのか？ 企業におけるこれらのモデルの主な初期用途は二つある。一つは、企業のセキュリティと監査要件を満たすラッパー内で、コンシューマ向けチャットボット体験のバージョンを提供するだけのことだ。二つ目は、既存のSaaS製品の利用を加速できるソフトウェアアシスタント（Copilotと呼ばれることが多い）を提供するためにこれらのモデルを使うことだ。

この第一世代の企業利用は賛否両論の反応を呼んでいる。特にソフトウェア開発者向けのコーディングアシスタントとして活用された場合、Copilotは企業IT環境にとって価値ある追加要素となることが実証されている。 一方で、MITの研究が示すように「ジェネレーティブAIのパイロットプロジェクトの95%が本番環境に移行しない」といった多様なフィードバックもあり、失望を招くケースも存在する。しかし、企業におけるLLMsの可能性を軽視するのは時期尚早だ。なぜなら第二世代のエージェント型アプリケーションは、より高度な能力と価値を備えるからである。

これらのアプリケーションは、テキスト生成能力だけでなく、指示された任意の問題を解決する能力も活用する。例えば、あるLLMに株価を照会するAPIの文書化を提供するとしよう。その文書化とコーディング能力を基に、LLMは指定された株価を取得するAPI呼び出しスクリプトを記述できる。 そのスクリプトの実行を許可されれば、LLMは明示的にプログラミングされたことがないにもかかわらず、エンドユーザが任意の株価を検索するツールとなる。LLMが特にプログラミングされていないタスクを達成するこの能力は一般化と呼ばれ、従来のアプリケーションを制限する予期せぬコンテキストや曖昧な文脈を処理することで、LLMが新たなクラスの企業アプリケーションのエンジンとなることを可能にする。