
414
12
章 最後に
この部分の設計の安全性を確保する際、考慮しなければならない生成AI特有の脅威には、次のよう
なものが挙げられます。
データポイズニング(Data Poisoning)
モデルが後で悪い結果や意図しない結果を出すことを目的とし、データセットやラベルを改
変することで、データセットを汚染します。
漏洩(Exfiltration)
攻撃者がシステムに侵入し、データを漏洩します。生成 AIソリューションの特徴は、組織全
体に分散している大量のデータを一か所に集め、モデルの訓練とチューニングを行い、より
精度を高めることです。データ群には大量の機密データが含まれている可能性があり、攻撃
者にとって非常に興味深い対象となります。
収集されたデータ、その出所、統合前にどのように保護されていたかに基づいてデータを理解し
分類することで、重要な対策を確立します。この分類により、アクセス制御、多要素認証、暗号化な
ど、必要な管理策を導き出すことができます。監視を含めることで、漏洩が発生した場合、迅速に特
定し対応することも可能です。
12.2.2.2
アプリケーション
/
オ ー ケ スト レ ー ション
/LLM
AIアプリケーションは生成 AIソリューションのエンドユーザへのインターフェースを提供します。
ユーザはクエリを入力し、アプリケーションを介してレスポンスを受け取ります。ユーザがクエリを入
力すると、アプリケーションは LLMプロンプトを作成します。オーケストレーションコンポーネント
は、ベクターデータベースか ...