LLMメッシュ (Japanese Edition)

第5章 安全性

この作品はAIを使って翻訳されている。ご意見、ご感想をお待ちしている：[e-mail]

「安全な」エージェント型エンタープライズアプリケーションとは、信頼性が高く、無害で、コンプライアンスに準拠したものである。安全性と品質は密接に関連しているが、エンタープライズアプリケーションにおいては、安全性は独立した主要な要件として扱わなければならない。第4章で論じたように、品質は正確性や一貫性といったメトリックに焦点を当てるが、安全性は出力が無害かつコンプライアンスに準拠していることも保証する。 例えば、レスポンスが事実上正確であっても憎悪表現を使用している場合、正確性という品質メトリックでは高得点を得られるが、安全性のテストには合格しない。実際には、これは企業が安全性を譲れない前提条件として扱う必要があることを意味する。つまり、洞察に富むレスポンスであっても、会社の倫理やポリシーに違反するものは、その品質にかかわらず受け入れられない。

エージェント型アプリケーションは、開発・デプロイする組織を法的・評判上のリスクに晒す可能性がある。安全でない出力（誹謗中傷やバイアスを含むコンテンツなど）は、企業のコンプライアンス違反や法的責任につながる。例えば、カスタマーサポートチャットボットが嫌がらせや差別的なメッセージを生成した場合、組織は人事面や法的な問題に直面する可能性がある。 したがって、LLMメッシュにおける安全性は、コンプライアンス（法令順守）と責任危険性管理に直接結びついている。

LLMメッシュアーキテクチャが安全対策にどのように貢献できるかを理解することは有益である。LLMの安全への貢献には直接的なものと間接的なものがある。

LLMメッシュには、安全なエージェント型アプリケーションの開発とデプロイを特に支援するために設計された特定の機能が含まれるべきだ。これらの機能には以下が含まれる：

モジュール性があり再利用可能な安全性サービス

コストやパフォーマンス測定サービスが再利用・組み合わせ可能であるのと同様に、コンテンツフィルタリングやハルシネーション検出といった安全サービスも柔軟かつ階層的に組み合わせられる。

透過的で集中化されたロギング

中核的なガバナンスおよびオーケストレーション層として、LLMメッシュは完全かつ監査可能なログを提供し、あらゆる安全でない振る舞いを特定・追跡するために利用できる。

技術の選択可能性

AIサービスプロバイダーが侵害された場合、LLMメッシュは代替プロバイダーへの迅速かつ摩擦の少ない移行を可能にする。

これらの直接的な貢献に加え、LLMメッシュは共通機能を通じて安全なエージェント型アプリケーションの開発・デプロイを間接的に支援する。LLMメッシュが間接的に支える安全対策の例は以下の通りだ：

敵対的テストと堅牢性テスト

LLMメッシュは、プロンプトライブラリ、自動テストエージェント、結果分析ツールなど、このテストに使用される構成要素を提供し、結果の収集と分析をサポートできる。

デプロイと監視

安全性と堅牢性のテストはデプロイ後も継続する必要があり、LLMメッシュが提供する性能・安全テストフレームワークによってこれを支援できる。

企業データにおける主体性を持つアプリケーションの基盤化

LLMメッシュは企業データとの安全な接続を促進することで、エージェント型アプリケーションの出力が実世界の事実に基づいており、それに裏付けられていることを保証するのに役立つ。 ...