September 2025
Intermediate to advanced
476 pages
7h 51m
Japanese
book
高リスク分野のための機械学習 ―責任あるAI構築のための実践アプローチ
by Patrick Hall, James Curtis, Parul Pandey, 高江洲 勲, 伊東 道明, 園田 道夫, 北條 孝佳, 石川 太一
Content preview from 高リスク分野のための機械学習 ―責任あるAI構築のための実践アプローチBecome an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
O’Reilly covers everything we've got, with content to help us build a world-class technology community, upgrade the capabilities and competencies of our teams, and improve overall team performance as well as their engagement.I wanted to learn C and C++, but it didn't click for me until I picked up an O'Reilly book. When I went on the O’Reilly platform, I was astonished to find all the books there, plus live events and sandboxes so you could play around with the technology.I’ve been on the O’Reilly platform for more than eight years. I use a couple of learning platforms, but I'm on O'Reilly more than anybody else. When you're there, you start learning. I'm never disappointed.I'm always learning. So when I got on to O'Reilly, I was like a kid in a candy store. There are playlists. There are answers. There's on-demand training. It's worth its weight in gold, in terms of what it allows me to do.
5章機械学習のセキュリティ
Bruce Schneier氏が主張するように（https://oreil.ly/jfFU3）、「セキュリティにとって最大の敵は複雑さ」であるとするならば、過度に複雑な機械学習システムは安全とは言えない。他の研究者らも、機械学習システム特有の脆弱性に関する多くの研究を発表している。さらに、イスラム国（ISIS）の工作員が、ソーシャル・メディアに実装されたコンテンツ・フィルタを回避する目的で、オンライン・コンテンツにロゴを巧妙に紛れ込ませる（https://oreil.ly/8mSPC）といった現実世界の攻撃事例も明らかになっている。多くの組織が重要なソフトウェアやデータといった資産を保護するためのセキュリティ対策を講じているが、機械学習システムもそれと同様に保護対象とすべきである。そのためには、具体的なインシデント・レスポンス計画の策定だけでなく、機械学習モデルのデバッグ、情報セキュリティ監査、バグバウンティ・プログラム、さらにはレッドチームによるセキュリティ評価といった施策を適用する必要がある。
今日の機械学習システムのセキュリティ的な脅威は主に以下のようなものが挙げられる。
- 機械学習システムの学習データやソフトウェアを内部関係者が操作し、機械学習システムの結果を変更
- 外部の攻撃者による機械学習システムの機能や結果の変更
- 外部の攻撃者による機械学習システムのロジックや学習データの窃取
- サードパーティの機械学習ソフトウェア、モデル、データ、その他の機械学習システムの構成要素に対するトロイの木馬やマルウェアの埋め込み
ミッション・クリティカルな用途や大きなリスクを伴うAIを導入する際には、少なくとも既知の脆弱性に対するテストおよび監査を実施する必要がある。従来の教科書的な機械学習モデルの評価では、こうした脆弱性を検出することはできないが、機械学習モデル特有のデバッグ技術は、これらの問題に対処する手段となり得る。監査 ...
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
and much more.
Read now
Unlock full access
More than 5,000 organizations count on O’Reilly
O’Reilly covers everything we've got, with content to help us build a world-class technology community, upgrade the capabilities and competencies of our teams, and improve overall team performance as well as their engagement.Julian F.
I wanted to learn C and C++, but it didn't click for me until I picked up an O'Reilly book. When I went on the O’Reilly platform, I was astonished to find all the books there, plus live events and sandboxes so you could play around with the technology.Addison B.
I’ve been on the O’Reilly platform for more than eight years. I use a couple of learning platforms, but I'm on O'Reilly more than anybody else. When you're there, you start learning. I'm never disappointed.Amir M.
I'm always learning. So when I got on to O'Reilly, I was like a kid in a candy store. There are playlists. There are answers. There's on-demand training. It's worth its weight in gold, in terms of what it allows me to do.