안전한 인공지능 시스템을 위한 심층 신경망 강화

136

2

부

적대적 입력 생성하기

x_adv = attack(input_or_adv = x,

label = y,

unpack = False) ➊

➊

unpack

=

False

를 지정하면 이미지가 아닌

foolbox

.

adversarial

.

Adversarial

객체가

반환됩니다. 적대적 사례의 이미지와 원본의 거리와 같은 기타 정보는 이 객체를 통해 접근

할 수 있습니다.

이제 결과를 출력해보겠습니다 (그림

6

-

7

참조).

preds = model.predict(np.array([x_adv.image])) ➊

plt.figure()

# Plot the original image

plt.subplot(1, 3, 1)

plt.title(y_name

plt.imshow(x, cmap=plt.cm.binary)

plt.axis('off')

# Plot the adversarial image

plt.subplot(1, 3, 2

plt.title(class_names[np.argmax(preds[0])])

plt.imshow(x_adv.image, cmap=plt.cm.binary)

plt.axis('off')

# Plot the difference

plt.subplot(1, 3, 3)

plt.title('Difference')

difference = x_adv.image - ...