大規模言語モデルのセキュリティに関する開発者のプレイブック

第3章. アーキテクチャと信頼の境界

この作品はAIを使って翻訳されている。ご意見、ご感想をお待ちしている：[e-mail]

あらかじめ定義されたアルゴリズムと静的なデータベースに依存する従来のウェブ・アプリケーションとは異なり、LLMは大規模なニューラルネットワークを利用して、コンテキストを考慮した動的なレスポンスを生成する。この激変は、従来のウェブ・アプリケーションとは異なる、ユニークなセキュリティの課題をもたらす。研究者たちはウェブ・アプリケーションとその脆弱性について綿密に研究してきたが、LLMセキュリティの分野はまだ比較的始まったばかりである。

この章では、LLMを際立たせている基本要素を解剖することで、この知識ギャップを埋めることを目的とする。まず、AIの構成要素であるニューラルネットワークと、それらが大規模な言語モデルにどのように関係しているかを探る。次に、今日ほとんどのLLMを動かしている画期的なアーキテクチャ、トランスフォーマ・モデルに飛び込む。続いて、チャットボットやコピロットなど、LLMを利用した様々なアプリケーションを紹介する。

しかし、アプリケーションのセキュリティ専門家は、新技術を理解することに加えて、LLM に特有な新しい種類の信頼境界（アプリケーショ ン内の様々な信頼できる領域を区分する境界）を意識しなければならない。これには、ユーザ・プロンプト、アップロードされたコンテン ツ、トレーニングデータとテストデータ、データベース、プラグイン、そして、この章の後半で詳述するその他の境界シス テムが含まれる。

AI、ニューラルネットワーク、大規模言語モデル：何が違うのか？

人工知能、ニューラルネットワーク、LLMは、しばしば同じ意味で使われる用語だが、これらはマシン学習と計算知能という、より広い範囲の異なる側面を表している。テクノロジーとセキュリティにおけるそれぞれのユニークな役割を理解するために、その違いを分解してみよう：

人工知能（AI）

人工知能は学際的な分野であり、通常は人間の知能を必要とするタスクを実行できるシステムを作成することを目的としている。これらのタスクには、問題解決、知覚、言語理解などが含まれる。AIは、規則ベースのシステムからマシン学習アルゴリズムまで、幅広い技術と方法論を包含しており、人工知能を実現するための複数のアプローチの総称として機能している。注目すべきは、AIの定義そのものが過去数十年にわたり変化し続けており、テクノロジーの進歩とともに進化し続けていることだ。

ニューラルネットワーク

ニューラルネットワークは、人間の脳のアーキテクチャにヒントを得たAI技術の一種である。パターンを認識し、処理したデータに基づいて意思決定を行うように設計された計算モデルである。ニューラルネットワークは、最小限のレイヤーを持つ単純なもの（シャロー・ニューラル・ネットワーク）もあれば、相互に接続された複数のレイヤーを持つ非常に複雑なもの（ディープ・ニューラル・ネットワーク）もある。画像認識、自然言語処理、自律走行車など、多くの最新AIアプリケーションのバックボーンとなっている。

大規模言語モデル(LLM)

LLMはニューラルネットワークの一種である。LLMは通常、トランスフォーマーモデルなどの高度なニューラルネットワークを採用し、開発者が与えたトレーニングデータに基づいてテキストを分析・生成する。LLMが他と違うのは、単純なテキスト補完から複雑な質問応答や要約まで、言語タスクを処理するための大規模かつ特殊化された機能を備えていることだ。 ...