안전한 인공지능 시스템을 위한 심층 신경망 강화

204

4

부

방어

래프를 생성하는 방법을 자세히 살펴보겠습니다.

NOTE

_

모델 간 방어 적용 평가

한 모델에 대한 방어의 평가가 다른 모델에도 적용되는 것은 아닙니다. 특히

Fashion

-

MNIST

와 같이 ‘장난

감 같은’ 데이터셋으로 훈련한 모델에서 테스트한 방어 접근방식은 더 실제적인 데이터로 훈련한 모델에는

적용되지 않을 수 있습니다.

한 네트워크의 견고성만 평가하려는 경우 (예: 운영상 배포되는 모델 테스트) 방어가 추가되기

전과 후에 단일 모델에서 평가를 수행해도 됩니다. 그러나 방어에 대한 일반적인 평가 (예: 연

구 목적 )의 경우 방어가 적용된 다양한 모델에서 평가를 수행하면 방어의 효과를 더 잘 파악할

수 있습니다.

9.2.2

이론적으로 도출한 견고성 지표

평가 방법과 관련 변수가 매우 많기 때문에 경험적 견고성 측정에는 모호한 점이 있습니다. 또

한 적대적 사례를 생성하는 효과적인 공격 방법이 지속적으로 개발되고 있어서 네트워크의 견

고성 측정이 보장되지도 않습니다.

견고성에 대한 경험적 측정보다 수학적 측정은 더 일관되고 신뢰도 높은 지표의 가능성을 열어

줍니다. 소프트웨어 보증을 위해 수학적으로 계산한 지표는 특히 안전에 중요한 시스템의 평가

와 관련됩니다. 적대적 사례의 맥락에서, 예를 들어 자율 주행 차량의 구성요소를 확실히 보증

하기 위해 ...