LLMOps

第8章 ガバナンスモニタリング、プライバシー、セキュリティ

この作品はAIを使って翻訳されている。ご意見、ご感想をお待ちしている：[e-mail]

私たちは、 、特にテクノロジーについて話すとき、プライバシーと セキュリティという言葉をよく耳にする。実際には、これらは全く異なる概念である。プライバシー とは、あなたの個人情報をコントロールすること、つまり、誰があなたの何を知ることができるかということだ。一方、セキュリティ（）とは、その情報が盗まれたり、漏れたり、許可なくアクセスされたりしないように保護することだ。これらのモデルは、これまで誰も扱ったことのない方法でプライバシーとセキュリティの両方のリスクを露呈しているからだ。

今日、プライバシーはかつてないほど重要性を増している。AI、特にLLMが非常に多くの製品やサービスにシームレスに統合されているため、何がプライベートで何がプライベートでないかをタブで監視するのは難しい。一つの大きな懸念は、ChatGPT、Gemini、 、Claudeのようなチャット・インタフェースが使いやすい検索サービスとして採用され、そのやり取りが人間のように見え、ユーザが必要以上に情報を漏らす可能性があることだ。堅牢なサイバーセキュリティは、すべてのAI・ML企業にとって必須条件となっている。

2023年6月、ニューヨークの法律事務所Levidow, Levidow, and Obermanは、ChatGPTが製造した偽の訴訟事例を航空傷害訴訟の調査に使用したとして、陪審員から罰金を科された。メディアは何日もかけて、LLMの信頼性の低さ、LLMが提供する情報の信頼性の欠如について論じた。もう一つの深刻な問題は、ユーザ、特に子供や高齢者に、こうしたチャット・ペルソナやそれに伴うリスクについて教育する必要があることだ。2024年末、ニューヨーク・ポスト紙は、「フロリダの14歳の少年が、人工知能アプリで数ヶ月間メッセージのやり取りをしていた本物そっくりのゲーム・オブ・スローンズのチャットボットから、『彼女のところに帰ってきて』という不気味なメッセージを送られ、悲しみに打ちひしがれていた母親によると自殺した」と報じた。より最近では、2025年5月にOpenAIは、その1週間前に行ったアップデートが、ChatGPTをより親しみやすく直感的なものにするはずだったが、その代わりにChatGPTを粘着質な宣伝マシンにした。

この章ではまず、なぜプライバシーが以前よりも大きな関心事になっているのか、そしてなぜLLMがセキュリティとプライバシーに対して、我々が長年使ってきたMLモデルよりもはるかに大きな課題を突きつけているのかについて話そう。そして、LLMがさらされる様々な種類のリスクと、あらゆる規模の企業が監査を実施し、それらに対処するための方法論的フレームワークを作成する方法について詳しく説明する。

データの問題規模と感度

決定木やロジスティック回帰のような非再生MLモデル、あるいはBERTのような単純なNLPモデルでは、多くの場合、単一のドメインと単一の問題に焦点が当てられている。、ラベル付けされたデータのきれいな行、いくつかの定義済みの変数、または既知の特徴の小さなセットなど、構造化されたデータ入力を提供し、出力を得る。このように、これらのモデルに供給されるデータは、通常、管理され、キュレーションされ、ほとんど制約されている。構造化された入力のデータセットを解釈する方法は限られている。 ...