AIシステムのセキュリティ確保 (Japanese Edition)

第2章 　確立されたフレームワークに支えられたAIセキュリティ運用モデル

この作品はAIを使って翻訳されている。ご意見、ご感想をお待ちしている：[e-mail]

人工知能は、組織がリスクを認識する方法を変化させる。 従来のシステムはあらかじめ定義された指示を実行するが、AIシステムは推論とやり取りを通じて結果を生成する。組織がこうした機能を取り入れるにあたり、システムだけでなく、意思決定や影響力までも保護しなければならない。通常の運用において、従業員や自動化されたワークフローは、データの断片を外部モデルや組み込みサービスに送信する。個々のデータ断片は一見無害に見えるが、AIシステムはそれらを再構成し、ビジネス成果に影響を与える。したがって、セキュリティは、データがどこに保存され、どのように移動し、システムがそれをどのように解釈し、その結果がどのように行動につながるかによって左右される。

組織は、従来のサイバーセキュリティ対策のみに頼ることはできない。リーダーは、AIライフサイクル全体――調達、トレーニング、リリース、運用――にわたって、ガバナンス、運用上の監視、技術的保護策を調整しなければならない。 ライフサイクルはリスクがどこで発生するかを示しているが、それを制御するには再現性のあるメソッドが必要だ。本章では、保護策を5つの相互補完的な柱に体系化した「AIセキュリティ運用モデル」を紹介する。その柱とは、AIの利用状況とシャドウAIの発見、データとデータリネージの把握、AIを意識したポリシーの定義、ユーザーがAIとやり取りしている間に保護策が適用されるよう利用時点で制御を実施すること、そして組織全体におけるAIモデルおよびガバナンスプログラムのパフォーマンスと利用状況を継続的に監視・改善することである。

以下のセクションでは、まずこの運用モデルについて説明し、次にガバナンスの責任、ライフサイクルのリスクドメイン、および確立されたセキュリティフレームワークとの関連性を解説する。 その場しのぎの実験では、ツールの進化がガバナンスの整備よりも速いため、組織はリスクにさらされたままになる。成熟した企業は、AIが影響を及ぼすシステム、データ、意思決定の一部としてAIを保護し、そのデプロイメントと利用方法を導く明確な責任の所在と監督体制を確立している。経営陣が説明責任を定義し、運用チームが統制を徹底することで、組織はAIの利用を拡大しつつ、出力結果の信頼性を維持し、機密情報を保護することができる。この転換こそが、実用的な運用モデルの基盤を築くものである。

AIセキュリティプログラムの5つの柱

AIのリスクに対処するには、孤立した保護策だけでは不十分であり、運用モデルが必要だ。組織には、責任を割り当て、データのやり取りを管理し、システムの進化に合わせて監視を継続する仕組みが必要である。このフレームワークは、AIセキュリティを5つの相互に補完し合う柱に体系化し、企業のAIリスクを運用上の責任へと変換する。セキュリティを単発のレビューや純粋に技術的な活動として扱うのではなく、このモデルは、組織がAIを発見、管理、利用し、継続的に評価する方法に保護策を組み込むものである。

図2-1に示すように、このフレームワークは「AIの利用とシャドウAIの発見」から始まる。これにより、AI資産と無許可の利用に対する可視性が確保される。続いて第2の柱である「機密データとそのリネージの把握」では、AIとやり取りする情報を管理下に置き、信頼性を維持する。第3の柱である「AIを意識したセキュリティポリシー」では、確率論的システムにおける許容される利用範囲と意思決定の境界を定義する。 ...