8章ガバナンス:監視、プライバシー、セキュリティ
テクノロジーの話をする時、「プライバシーとセキュリティ」という言葉をよく耳にします。この2つの言葉は似ているようで、実際にはまったく異なる概念です。プライバシーとは、あなたの個人情報をコントロールすることであり、誰があなたの何を知ることができるかということです。セキュリティとは、その情報が盗まれたり、漏れたり、許可なくアクセスされたりしないように保護することです。これまで本書で見てきたモデルには、これまで誰も扱ったことのない方法でのプライバシーとセキュリティ両方のリスクを抱えています。
特に最近では、プライバシーの重要性がかつてないほど高まっています。AI、とりわけLLMは多くのプロダクトやサービスへシームレスに統合されているため、何がプライベートなのか、またはそうでないのかを監視するのは難しくなっています。ChatGPT 、Gemini、Claudeのようなチャットインターフェースが手軽な検索手段として使われ、それらの人間らしい応答につられてユーザーが必要以上の情報を明かしてしまうかもしれません。このような状況では、堅牢なサイバーセキュリティがAIや機械学習を扱うすべての企業にとって不可欠な要件です。
2023年6月、ニューヨークの法律事務所Levidow, Levidow, and Obermanは、ChatGPTが作り上げた偽の訴訟事例を航空傷害訴訟の調査に使用したとして陪審から罰金を科されました(https://oreil.ly/mXrM3)。そしてメディアは何日もかけて、LLMの信頼性の低さ、LLMが提供する情報の信頼性の欠如について論じました。さらにチャットの人格やそれに対するリスクを、ユーザー(とりわけ子供や高齢者)に周知する必要性も浮き彫りになっています。2024年末、AIアプリのチャットボットと数か月にわたってメッセージを交わしていた少年が自殺してしまったという事件が発生し、その際、彼とチャットボットとの会話の中に死を連想させるやり取りがあったことを、ニューヨークポスト紙が報じた ...
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
and much more.
Read now
Unlock full access