大規模言語モデルのセキュリティに関する開発者のプレイブック

第9章. 弱点を発見する

この作品はAIを使って翻訳されている。ご意見、ご感想をお待ちしている：[e-mail]

君が一番弱いんだ。さようなら！

ゲーム番組『The Weakest Link』（BBC/NBC）の全エピソード

2021年12月10日の朝、私は会社の最高情報セキュリティ責任者（CISO）であるデビッド・リンダーからの夜間メッセージで目を覚ました。起きたらすぐに呼び出してくれ。重要なことだ。これは良い知らせではないと思った。CISOが夜中に呼び出してくるのは、経営者にとっては一番避けたいことだ。

デビッドと連絡を取ると、この24時間の間に世界中の大企業がハッキングされているとのことだった。この問題は、何百万ものアプリケーションに組み込まれた、たったひとつのオープンソースライブラリにまでさかのぼることができた。ワイアード』誌はこのインシデントについて、"インターネットが燃えている！"と叫ぶ記事を掲載した。

この章の後半で、その話について詳しく説明する。この小話は、今日のソフトウェア開発にとって、ソフトウェアサプライチェーンセキュリティの問 題がいかに重大になっているかを印象づけるために述べたものである。本書の読者の中には、アプリケーションセキュリティ（AppSec）のバックグラウンドを持っていて、LLMの安全確保に関する具体的なガイダンスを求めてこの章を読んでいる人もいるかもしれない。しかし、他の読者は、すでにLLMを理解し、セキュリティのベストプラクティスに関するガイダンスを求めて、この章を読んでいることだろう。このことを承知した上で、この章では両方をカバーするように設定する。

まず、サプライチェーンセキュリティの基本概念から始める。次に、LLM アプリケーションのサプライチェーンに特有の構造と課題を検討する。いくつかのベスト・プラクティスについて議論するが、LLMセキュリティの状況において、これは急速に変化している部分であることも認識しなければならない。そこで、この分野の将来についての議論で締めくくることにする。

サプライチェーンの基本

AIには詳しいが、AppSecの概念にはあまり馴染みのない読者のために、まずはサプライチェーンに関する基本的なことを説明し、サプライチェーンのセキュリティを適切に管理できていない有名なケーススタディをいくつか取り上げる。

大学ではコンピューター・サイエンスを専攻していたわけではない。私はビジネスを学んだ。ビジネスについて学んだことが、ソフトウェア開発においてしばしばユニークな洞察力を与えてくれたことについては、まだまだ語り足りない。サプライチェーンもそのひとつだ。何十年もの間、ビジネス研究者によって徹底的に研究されてきた概念だ。

注

サプライチェーンとは、原材料の調達からエンドユーザへの流通に至るまで、製品やサービスをプロデュースし、提供するプロセス全体を指す。サプライチェーンには、調達、製造、輸送、流通など様々な段階が含まれ、サプライヤー、製造業者、小売業者などの事業体のネットワークが関与する。効果的なサプライチェーンマネジメントは、効率性、費用対効果、製品やサービスのタイムリーな提供を保証するために、企業にとって極めて重要である。

世界が工業化するにつれ、経済モデルは職人中心のシステムから大量生産中心のシステムへと移行した。この転換は、個人や小集団が地元で調達した材料を使って商品を生産する以前の慣習に取って代わり、大規模なグローバル・サプライ・チェーンへとつながった。こうした複雑なグローバル・ネットワークの中で、製造業者は製品に必要な特定の部品を提供するために、さまざまな国のサプライヤーに依存している。例えば、中国における特定の半導体の不足のように、世界のある地域でたった一度でも遅延や品質問題が発生すれば、iPhoneの生産が停止し、広範な品不足につながる可能性がある。同様に、サードパーティのサプライヤーから調達したシートベルトの部品が安全基準を満たさない場合、フォードのような企業は大規模な安全リコールを出さざるを得なくなる。これらのシナリオは、現代のサプライチェーンの複雑な相互依存関係と物流の課題が、いかに製品の可用性と品質に大きな影響を与えうるかを示している。 ...