November 2021
Beginner to intermediate
312 pages
4h 3m
Japanese
Content preview from セキュリティエンジニアのための機械学習 ―AI技術によるサイバーセキュリティ対策入門Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
O’Reilly covers everything we've got, with content to help us build a world-class technology community, upgrade the capabilities and competencies of our teams, and improve overall team performance as well as their engagement.I wanted to learn C and C++, but it didn't click for me until I picked up an O'Reilly book. When I went on the O’Reilly platform, I was astonished to find all the books there, plus live events and sandboxes so you could play around with the technology.I’ve been on the O’Reilly platform for more than eight years. I use a couple of learning platforms, but I'm on O'Reilly more than anybody else. When you're there, you start learning. I'm never disappointed.I'm always learning. So when I got on to O'Reilly, I was like a kid in a candy store. There are playlists. There are answers. There's on-demand training. It's worth its weight in gold, in terms of what it allows me to do.
8章機械学習システムへの攻撃
本章は日本語版オリジナルの記事である。本章は原著の「Chapter 8: Evading Intrusion Detection Systems（侵入検知システムの回避）」の主旨はそのままに増補・改訂を施したものであり、機械学習システムを取り巻く脅威と機械学習システムへの攻撃方法を詳述する。本章では次のトピックを扱う。
- 機械学習システムの脅威モデル
- 攻撃に利用できるライブラリ
- Copycat CNNによる転移攻撃
- FGSM、Carlini & Wagner Attack、そしてZOO Attackによる回避攻撃
- Adversarial TrainingおよびRandomized Smoothingによる回避攻撃対策
- BadNetsによる汚染攻撃
- Activation Clusteringによる汚染攻撃対策
8.1 機械学習システムの脅威モデル
これまでの章で紹介してきたとおり、機械学習によってさまざまなセキュリティの問題を解けるようになった。だが一方で、機械学習を採用することで新たに考慮しなければならなくなる問題もある。それが機械学習システムそれ自体のセキュリティだ。
機械学習システムには、データを収集する処理、データを整形する処理、そのデータをもってモデルを訓練する処理、訓練済みのモデルから新たなデータに対する判断結果を得る処理などが含まれうる。本章ではこれらのうち、特にモデルの訓練および訓練済みモデルの運用に関する攻撃手法を紹介する。攻撃手法は次の3種類に大別される。
- 転移（Transfer）攻撃
- 訓練済みのモデルから訓練データに関する情報やモデルのパラメータを窃取する攻撃。モデルの機密性に対する脅威となる。たとえば、顔認識システムがどんな顔写真のデータを使って訓練されていたかを特定する攻撃を指す。 ...
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
and much more.
Read now
Unlock full access
More than 5,000 organizations count on O’Reilly
O’Reilly covers everything we've got, with content to help us build a world-class technology community, upgrade the capabilities and competencies of our teams, and improve overall team performance as well as their engagement.Julian F.
I wanted to learn C and C++, but it didn't click for me until I picked up an O'Reilly book. When I went on the O’Reilly platform, I was astonished to find all the books there, plus live events and sandboxes so you could play around with the technology.Addison B.
I’ve been on the O’Reilly platform for more than eight years. I use a couple of learning platforms, but I'm on O'Reilly more than anybody else. When you're there, you start learning. I'm never disappointed.Amir M.
I'm always learning. So when I got on to O'Reilly, I was like a kid in a candy store. There are playlists. There are answers. There's on-demand training. It's worth its weight in gold, in terms of what it allows me to do.