大規模言語モデルのセキュリティに関する開発者のプレイブック

第8章 財布をなくすな 財布をなくさない

この作品はAIを使って翻訳されている。ご意見、ご感想をお待ちしている：[e-mail]

小さな漏れが大きな船を沈めてしまう。

ベンジャミン・フランクリン

この章では、DoS 攻撃、DoW 攻撃、モデルクローニング攻撃について、これらの攻撃タイプの類似点と相違点を検 討する。サービスの中断や金銭的損失から知的財産の不正重複に至るまで、結果は様々であるにもかかわらず、これら 3 つの攻撃ベクトルは、アプリケーション内の類似した脆弱性を悪用する。これらの脅威を並行して調査することで、このような攻撃を阻止するための防御策を理解することができる。

DoSという用語は、オンラインサービスの妨害と同義語になっている。DoS攻撃とは、コンピュータ・システム、ネットワーク、アプリケーションを意図的に利用不能にしようとするもので、通常、アプリケーションをリクエストで圧倒することによって、意図的な利用不能を引き起こす。歴史的に、このような攻撃は、金融機関からソーシャルメディア・プラットフォームに至るまで、様々なオンライン・サービスを標的とし、重大な演算子の混乱と経済的損失を引き起こしてきた。高度なコンピューティングとAIの時代に入り、DoS攻撃の影響はLLMを含むより高度なテクノロジーにまで及んでいる。

LLMは従来のサイバーセキュリティの脅威から免れることはできないが、そのユニークな特徴からDoS攻撃に対して非常に脆弱であり、そのような攻撃はユニークで深刻な結果をもたらす可能性がある。今日、DoS攻撃は単にサービスの可用性を妨害するだけでなく、これらのモデルの本質的な特徴を悪用し、リソースの枯渇、パフォーマンスの低下、直接的な金銭的損失の可能性にまで発展している。このDoS攻撃という新たなフロンティアは、単なる技術的課題ではなく、LLMを利用したサービスの信頼性と経済性に直接影響するため、ビジネス上の重大な関心事となっている。

最近、LLMに対するDoSの非常に危険な亜種であるDoW攻撃が出現し、LLMのセキュリティ上の懸念に金銭的な側面が加わった。これらの攻撃は、クラウドベースのAIサービスの従量課金モデルを悪用することで、特に組織の経済リソースを標的としている。DoW攻撃では、敵対者は過剰なクエリor演算子を発生させることでサービスプロバイダに持続不可能なコストを発生させ、単なるサービスの中断ではなく財務的な負担をもたらすことを狙う。この現象は、アプリケーションの財務的完全性がアプリケーション・セキュリティと同様に極めて重要であるLLMのデプロイにおける独特の脆弱性を浮き彫りにしている。

この章では、モデルのクローン攻撃についても説明する。敵対者は、質問をシステムに流し込んでその答えを記録し、その答えを使って自分自身のモデルを訓練することで、モデルの根底にある知的財産を盗み出そうとする。これらの攻撃はしばしば拒否攻撃とは異なる分類をされるが、基本的な類似点がある。特に、モデルクローン攻撃は、DoS攻撃と同じように、モデルに対してクエリを繰り返し実行することに依存している。この類似性は、同じ防御テクニックの多くが適用されることを意味する。

DoS攻撃

DoS攻撃の影響は広範囲に及ぶ。DoS攻撃は、オンライン・サービスの大幅な停止時間につながり、特にオンライン取引に大きく依存している企業にとっては、多大な経済的損失をもたらす可能性がある。金銭的な損害だけでなく、DoS攻撃が頻繁に発生したり、サービスプロバイダが効果的に対処しなかったりすると、主にサービスやブランドに対する信頼を損なう可能性がある。さらに、DoS攻撃はITスタッフの注意をそらすため、データ漏洩やマルウェアのインジェクションなど、より邪悪な活動の隠れ蓑になることもある。 ...