December 2020
Beginner to intermediate
256 pages
5h 15m
Korean
Content preview from 안전한 인공지능 시스템을 위한 심층 신경망 강화
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
O’Reilly covers everything we've got, with content to help us build a world-class technology community, upgrade the capabilities and competencies of our teams, and improve overall team performance as well as their engagement.I wanted to learn C and C++, but it didn't click for me until I picked up an O'Reilly book. When I went on the O’Reilly platform, I was astonished to find all the books there, plus live events and sandboxes so you could play around with the technology.I’ve been on the O’Reilly platform for more than eight years. I use a couple of learning platforms, but I'm on O'Reilly more than anybody else. When you're there, you start learning. I'm never disappointed.I'm always learning. So when I got on to O'Reilly, I was like a kid in a candy store. There are playlists. There are answers. There's on-demand training. It's worth its weight in gold, in terms of what it allows me to do.
126
2
부
적대적 입력 생성하기
대체 모델 사용하기: 복제 공격/전송 공격
적대적 입력을 개발하고 테스트하기 위해 대상
DNN
의 사본이나 근사치 역할을 하는
DNN
을 교체해서 사용하는 것이 가능합니다. 이러한 방식으로 공격자는 실제 대상에 공격을 개
시하기 전에 대체 신경망에서 ‘화이트 박스’ 또는 ‘점수 기반 블랙박스’ 방법을 사용해 공격을
개발할 수 있습니다.
이 접근법은 공격을 세분화하는 동안 적대적 방식을 은밀하게 유지할 수 있다는 이점이 있습
니다. 실제 모델에 접근해서 처리하면 의심을 받습니다. 공격자가 실제 모델에 접근할 수 없
을 때 사용할 수 있는 유일한 방법입니다.
대체 모델이 대상 모델과 동일하면 이를 복제 공격이라고 합니다. 모델이 대상 모델과 유사
할 경우 적대적 입력이 대상 알고리즘으로 전달되어야 성공하기 때문에 전송 공격이라고 합
니다.
6
장에서 설명하는 화이트 박스, 점수 기반 블랙박스, 제한된 블랙박스 방법이 최종 대상이나
대체물에 사용된다고 해서 위협을 받는 실제 대상
DNN
에 공격자가 접근하거나 그
DNN
을
완전히 안다고 할 수는 없습니다. 자세한 내용은
7
장에서 다룹니다.
6.1
화이트 박스
화이트 박스 방법은
DNN
모델 (매개변수와 아키텍처 )에 대한 완전한 정보가 필요하며 수학적
최적화 방법을 사용합니다 입력 공간의 예측 ...
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
and much more.
Read now
Unlock full access
More than 5,000 organizations count on O’Reilly
O’Reilly covers everything we've got, with content to help us build a world-class technology community, upgrade the capabilities and competencies of our teams, and improve overall team performance as well as their engagement.Julian F.
I wanted to learn C and C++, but it didn't click for me until I picked up an O'Reilly book. When I went on the O’Reilly platform, I was astonished to find all the books there, plus live events and sandboxes so you could play around with the technology.Addison B.
I’ve been on the O’Reilly platform for more than eight years. I use a couple of learning platforms, but I'm on O'Reilly more than anybody else. When you're there, you start learning. I'm never disappointed.Amir M.
I'm always learning. So when I got on to O'Reilly, I was like a kid in a candy store. There are playlists. There are answers. There's on-demand training. It's worth its weight in gold, in terms of what it allows me to do.