안전한 인공지능 시스템을 위한 심층 신경망 강화

161

7

장

시스템에 사용하는 공격 패턴

지금부터는 각 공격 패턴을 자세히 살펴보겠습니다. 여기서 공격자는 디지털 콘텐츠를 조작할

수 있다고 가정합니다. 적대적 사례를 실제로 사용하는 경우는

8

장에서 알아보겠습니다.

NOTE

_

공격 패턴 용어

이 책에서는 공격 패턴을 설명하기 위해 다양한 용어를 사용합니다. 설명을 위해 채택한 용어가 일관성이 없

으면 이해하기가 매우 어려울 수 있습니다. 예를 들어 직접 공격을 일컫는 말로 ‘블랙박스’가 떠오를 수 있습

니다. 마찬가지로, 화이트 박스 방법을 사용한 복제 공격을 일컬어 간단히 ‘화이트 박스 공격’이라고 하기도

합니다.

이러한 모호성을 피하고자, 이 책에서는 공격 패턴을 언급할 때 ‘화이트 박스’나 ‘블랙박스’라는 용어를 사용

하지 않았습니다. 왜냐하면 이 용어들은 공격에서 사용되는 특정 알고리즘 방법을 의미하기 때문입니다.

‘복제 공격’을 예로 들어보겠습니다. 공격자가 모델, 모델 구조, 매개변수 등 공격 대상의 정보를 갖고 있으므

로 ‘화이트 박스 방법’을 사용해 적대적 입력을 생성하는 것이 논리적으로 보입니다. 그러나 공격자가 경계 공

격과 같은 블랙박스 방법을 사용할 수도 있습니다. 방어에 더 강력하거나 단지 구현하기가 더 쉽기 때문입니

다. 마찬가지로 ‘전송 공격’은 때때로 ‘블랙박스’라고 불리지만 대체 모델에서 ...