大規模言語モデルのセキュリティに関する開発者のプレイブック

第5章. LLMは知りすぎることがあるのか？

この作品はAIを使って翻訳されている。ご意見、ご感想をお待ちしている：[e-mail]

2023年、機密データ流出の可能性を懸念し、ChatGPTのようなLLMサービスの利用を禁止または大幅に制限する企業が相次いだ。サムスン、JPモルガン・チェース、アマゾン、バンク・オブ・アメリカ、シティグループ、ドイツ銀行、ウェルズ・ファーゴ、ゴールドマン・サックスなどだ。このような巨大経理企業やハイテク企業の行動は、LLMが機密情報を開示することへの大きな懸念を示している。LLMアプリケーションの開発者として、あなたは気にする必要があるだろうか？

第1章のTayの話では、Microsoftのチャットボットがハッカーに攻撃された。テイが公開可能な機密データにあまりアクセスできなかったため、被害は限定的だった。しかし、LLMと実世界のデータとの積集合は、意図しない情報開示の可能性をはらんでいる可能性がある。従業員がうっかりChatGPTにビジネス上の機密データを与えてしまい、それがシステムの学習ベースに統合され、他の人がそれを発見できるようになったケースに見られるように。

この章では、LLMがデータにアクセスする様々な方法について掘り下げていく。つの主な知識獲得メソッドと、LLMがこのようなアクセスを持つことに関連するリスクを検証する。その過程で、「LLMは知りすぎることがあるのか」という問いに答え、アプリケーションが機密、私的、または極秘データを開示することに関連するリスクを軽減する方法について議論する。

実例

現実の世界で見られた影響の例を2つ見てみよう。まずはチャットボットの例から。Tayとやや似ているが、チャットボットがアクセスできるデータとその公開方法によって、被害がはるかに大きくなった。次に、所有者が法的リスクと風評リスクを高めたコパイロットの例を見てみよう。

イ・ルーダ

第1章でも少し触れた、ソウルを拠点とする新興企業Scatter Labは、個人データの無責任な取り扱いにより、深刻な法的影響と風評被害に直面した。同社は「Science of Love（恋愛の科学）」という人気アプリを演算子として運営しており、ユーザがテキストメッセージを分析することで、恋愛相手との相性を分析することを支援していた。このサービスでは、60万人のユーザから94億件の会話が蓄積された。同社はその後、"人が人よりも会話の相手として好むAIチャットボット"、Lee Ludaを発表した。リー・ルーダは、サイエンス・オブ・ラブの膨大なデータセットを、適切なサニタイズ処理を施すことなく、トレーニングベースとして使用した。Lee Ludaは、Tayに見られたような有害な振る舞いを見せただけでなく、さらに問題なのは、ユーザの名前、プライベートなニックネーム、自宅の住所などの機密データを漏洩し始めたことだ。

韓国の個人情報保護委員会は、ユーザーの適切な許可を得なかったとして、Scatter Lab社に1億330万ウォン（約93万米ドル）の罰金を科した。

このインシデントによる影響は大きかった。さまざまな側面を見てみよう：

機密データの公開

機密データの暴露はユーザのプライバシーを脅かし、名前、場所、交際ステータス、医療情報などの個人情報を暴露した。

罰金

スキャッター・ラボは、ユーザデータの責任ある管理を怠ったとして、多額の罰金を科せられた。

風評被害

このインシデントにより、Scatter ...