大規模言語モデルのセキュリティに関する開発者のプレイブック

第7章. 誰も信じない

この作品はAIを使って翻訳されている。ご意見、ご感想をお待ちしている：[e-mail]

最近Netflixの『ストレンジャー・シングス』に夢中になる前、1990年代には『X-ファイル』があった。怪物やエイリアン、政府の陰謀など奇妙な現象を調査する2人のFBI捜査官の話だった。主人公のフォックス・モルダーには2つのキャッチフレーズがあった。そのうちのひとつは、希望に満ちたフレーズだった：真実はそこにある。もうひとつは深い偏執的なものだった：誰も信用するな。

この章では、2番目のフレーズに焦点を当てる。典型的なLLMアーキテクチャに内在する無数のリスクを簡単にレビューし、前述した軽減策を実装することは価値があるが、モデルの出力が常に信頼できると仮定する方法はないことに注意する。我々はモルダーの「誰も信用しない」というマントラを採用し、LLMアプリケーションにゼロトラスト・ アプローチを適用する方法を探る。脅威が現実にあるとき、パラノイアは狂気ではない！

ゼロトラストは単なるバズワードではなく、脅威はどこからでも、たとえ信頼できるシステム内であっても起こりうると想定して設計された厳格なフレームワークである。このモデルは、信頼できないソースから様々なインプットを取り込むことが多いLLMにとって有益である。LLMが持つ「エージェンシー」を管理し、システムに危害を加えたり、機密データを暴露したりする可能性のある自律的な意思決定を行う能力を制限する方法を検討する。さらに、LLMが生成するテキストにさらに精査のレイヤーを追加して、堅牢性の高い出力フィルタリングのメカニズムを実装するための戦略についても説明する。LLMのすべてのレスポンスにフィルタリングをかけることは、出力をより安全なものにし、何も仮定せずすべてを検証することに合致する。

要するに、私たちは考え方を変える旅に出るのだ。モルダーがあらゆることに疑問を抱くように、私たちもまた疑問を抱くべきなのだ。LLMのゼロトラスト環境の複雑さを理解する興味深い旅になるだろう。

ゼロトラスト解読

モルダーとFBIのパートナー、ダナ・スカリーが高度に制限された政府施設に入るところを想像してほしい。その代わり、すべてのドア、コンピューター端末、そしてファイルにアクセスする時でさえ、安全装置が絶えず彼らを挑発する。施設内では、清掃スタッフであれ施設長であれ、誰もが不信感を抱いている。エピソードの筋書きのように聞こえるかもしれないが、そうではなく、ゼロトラスト・セキュリティの基本的な考え方なのだ。

ゼロトラストはSFから生まれたのではなく、セキュリティの見方を見直す必要性から生まれた。このモデルが脚光を浴びたのは2009年、フォレスター・リサーチのジョン・キンダーヴァーグのおかげだ。キンダーヴァグは、「信頼はするが検証はする」という従来の常識を捨て去り、「決して信頼せず、常に検証する」という、はるかに厳格なものに置き換えた。

キンダーヴァーグの基本原則を分解してみよう：

あらゆるリソースをあらゆる場所で確保する

これは、UFOファイルだけでなく、カフェテリアのメニューまで暗号化するようなものだ。内部であろうと外部であろうと、すべてのデータは同じレベルのセキュリティ精査で扱われるべきである。

最小の特権は最良の特権である

モルダーはFBIの全データベースにアクセスする必要はない。必要なのはXファイルの捜査に関連することだけだ。Network+の誰にとっても同じことが言える-アクセスは役割に応じたものであるべきで、仕事をこなすのに十分なものでなければならない。 ...