大規模言語モデルのセキュリティに関する開発者のプレイブック

序文

この作品はAIを使って翻訳されている。ご意見、ご感想をお待ちしている：[e-mail]

世界中で大規模言語モデル（LLM）の波に乗っている！ChatGPTがシーンに登場したとき、それは単に記録を塗り替えただけでなく、史上最速で採用されたアプリケーションとなった。今、地球上のすべてのソフトウェア・ベンダが、自社のスタックにジェネレーティブAIとLLM技術を組み込もうと競争しているようなもので、私たちを未知の領域へと押しやっている。話題性は本物であり、誇大広告は正当化され、可能性は無限に広がっている。

しかし、ちょっと待ってほしい。私たちがこれらの技術的驚異に驚嘆する一方で、そのセキュリティの足場は、控えめに言っても未完成なのだ。現実は厳しい。多くの開発者は、地図も持たずにこの新時代に足を踏み入れており、表面下のセキュリティと安全性の流砂にほとんど気づいていない。毎週のように、LLMの不祥事を報じる見出しが躍る。個々のインシデントによる影響は今のところ軽微だが、間違いなく私たちは災難に遭遇している。

リスクは単なる仮定の話ではなく、限りなく現実的なものであり、時間は刻一刻と迫っている。LLMのセキュリティリスクとそのナビゲート方法という泥沼に深く入り込まなければ、小さな不具合のリスクだけでなく、大惨事を招くことになる。今こそ、開発者は準備を整え、情報を入手し、先手を打つ時なのだ。急げ！

この本を読むべき人

本書の主な読者は、LLMテクノロジーを組み込んだカスタム・アプリケーションを開発している開発チームである。この分野での最近の仕事を通じて、このようなチームはしばしば大規模であり、そのメンバーには驚くほど多様なバックグラウンドがあることが分かってきた。その中には、「ウェブアプリ」技術に長けたソフトウェア開発者が、AIとの最初の一歩を踏み出している。このようなチームには、初めてバックオフィスから脚光を浴び、セキュリティリスクが大きく異なる場所にその技術を持ち込もうとしているAIの専門家も含まれる。また、アプリケーション・セキュリティの専門家やデータ・サイエンスの専門家も含まれる。

そのようなコアな読者以外にも、この情報の多くが有用であることを発見した。その中には、これらの新技術を採用する際の重大なリスクを軽減するために、その技術の基礎を理解したいと考えている、これらのプロジェクトに関与している広範なチームも含まれる。その中には、ソフトウェア開発幹部、最高情報セキュリティ責任者（CISO）、品質エンジニア、セキュリティ運用チームなどが含まれる。

この本を書いた理由

私はいつも人工知能に魅了されてきた。十代の頃、アタリ400の家庭用コンピューターでビデオゲームを書いたことを懐かしく思い出す。1980年頃、この小さなマシンには8キロバイトのRAMしかなかった。しかし、私はそのマシンに『トロン・ライトサイクルズ』の完全なクローンゲームを詰め込むことに成功した。シンプルだが効果的なAIを搭載し、シングルプレイヤーモードでプレイしているときにサイクルの1つを運転させた。

職業上、私はいくつかのAI関連プロジェクトに携わってきた。大学卒業後、親友のトム・サントスと私は、遺伝的アルゴリズムで一見難解な問題を解決する数千行の手作りC++コードを基に、AIソフトウェア会社を立ち上げた。その後、友人のケダー・ポドゥリやエベネザー・シューバートと一緒に、シトリックス社で大規模なマシン学習システムの構築を手伝うことになった。しかし、初めてChatGPTを見たとき、すべてが変わったと感じた。 ...