안전한 인공지능 시스템을 위한 심층 신경망 강화

146

2

부

적대적 입력 생성하기

max{max{ ():}() }xx,ZitZ k

advadv

it

! --

적대적 사례

l

의 신뢰 손실 함수를 호출합니다. 이것을 모두 합치면 다음과 같습니다.

minimize {()}xx x.cl

advadv

2

2

<<-+

또는

()max{max{ () }()}xxx:,lZitZk

advadv adv

it

!=--

방정식의 두 가지 측면을 보여줍니다. 거리 측정(양수)과 신뢰도 측정(

0

또는 음수)의 두 측

면을 ‘균형화’하여 거리 측정값(섭동)이 커져서 신뢰도 측정이 방정식에 영향을 미치지 않도

록 합니다.

c

값은 이진 검색 알고리즘을 사용해 결정합니다.

6.1.5

화이트 박스 접근방식의 변형

적대적 사례를 생성하는 데 사용할 수 있는 몇 가지 화이트 박스 접근방식을 소개했습니다. 적

대적 사례를 만드는 방법은 다양할 수 있으며, 앞으로 더 많은 방법이 개발될 것입니다.

모든 화이트 박스 접근방식은 동일한 목표를 공유합니다. 즉 일부 계산 가능한 알고리즘을 사

용해 입력 공간 검색을 최적화하는 것입니다. 직간접적인 모든 방법은 필요한 그레이디언트 섭

동을 최소화하기 위해 모델 그레이디언트를 활용합니다. 검색을 최적화하려면 근삿값이나 임

의의 단계가 필요하며, 섭동이 절충되는 것은 불가피할 수 있습니다. 또한 알고리즘이 입력 공

간을 검색하는 방식이 ...