AIシステムのセキュリティ確保 (Japanese Edition)

第3章　 従来のデータ漏洩防止の枠を超える

この作品はAIを使って翻訳されている。ご意見、ご感想をお待ちしている：[e-mail]

AIセキュリティの評価を行う組織は、しばしば「既存のデータ漏洩防止（DLP）ツールでこの問題を解決できるか」という妥当な質問から検討を始める。ほとんどの企業にとって、その答えは「いいえ」だ。従来のDLP技術は、機密情報が特定可能なファイルや構造化されたデータベース、明確に定義されたネットワーク境界内に存在していた、別の時代のコンピューティング環境向けに設計されていた。 AIは、情報の移動方法、解釈方法、そしてリスクが顕在化する仕組みを根本から変える。したがって、AIワークフローを保護するには、従来のDLPの枠を超えていく必要がある。組織は、文書の転送を監視する段階から、どのような情報がどのように組み合わされ、AIシステムに影響を与え、自動化された意思決定を形作るかを管理する段階へと進化しなければならない。

従来のDLPの前提

従来のDLPツールは、文書全体の転送や、管理された環境から流出する構造化データの検出に重点を置いている。これらのシステムは通常、あらかじめ定義された分類ルールに依存しており、例えば、文書に社会保障番号や住所のパターンが含まれている場合にアラートを発動させるといった仕組みだ。このアプローチは、機密データが識別可能なファイルや構造化されたレコードに存在し、システム間を移動する際に監視可能であるという前提に基づいている。

実際には、このモデルは、従業員が文書をメールで送信したり、ファイルを転送したり、構造化されたデータベースにアクセスしたりする従来のワークフローでは、かなりうまく機能していた。しかし、AIワークフローがこのパターンに従うことはめったにない。

AIワークフローが従来のDLPを覆す理由

第2章で論じたように、現代のAIワークフローでは、従業員が文書全体を転送するのではなく、会話形式のやり取りを通じて情報の断片を共有することが多い。業界分析もこの変化を反映している。業界を問わず、従業員がAIツールに入力するデータの最も一般的な種類は、ソースコード（8.3%）、研究資料（10.7%）、人事関連情報（6.2%）である。¹ 全体として、AIツールとの人間によるやり取りの39.7％が機密データに関わっている。これらの入力データは通常、ユーザーが調査や生成コンテンツをリクエストする際に、対話型ワークフローにコピーされる。

したがって、AIセキュリティにおけるリスクは、文書の転送から文脈に基づく再構成へと移行している。これは、情報の複数の側面が組み合わさることで機密性の高い知見が明らかになる状況だ。これにより、悪意なく管理された環境の外で専有知識が共有され、知的財産が意図せず漏洩するリスクが高まっている。

暗号化や従来のDLPは、保存中および転送中のデータを保護するための不可欠な安全対策であり続けるが、AIワークフローでは、正当な利用のために情報が復号化された後にリスクが生じる。

従来のDLPは、ファイルには作成者、保存場所、および記録システムが存在することを前提としている。所有権は追跡可能だ。しかし、AIシステムは、要約、推奨事項、書き換えられた文書、コードの提案といった派生コンテンツを生成する。

簡単な例を考えてみよう。AIアシスタントが5つの内部ドキュメントを要約し、新しい経営陣向け概要を作成する。その結果として生成された出力には独自の知見が含まれているが、元の機密分類ラベルがなく、所有権も曖昧な場合がある。 ...