안전한 인공지능 시스템을 위한 심층 신경망 강화

68

1

부

인공지능을 속이는 기술

보시다시피, 케라스는 훈련과 관련해 훈련 단계마다 모델의 손실과 정확도를 출력합니다. 모델

정확도는 정확하게 분류되었는지에 대한 훈련 데이터의 백분율입니다. 모델 정확도가 높아질

수록 손실은 줄어듭니다. 이것이 바로 경사 하강법의 결과입니다. 앞서 [그림

3

-

8

]에서 설명했

듯이 모델의 가중치와 편향이 손실을 최소화하도록 조정됩니다.

케라스는 훈련한 후 생성한 모델의 정확성을 확인하기 위해 다음과 같은 방법을 제공합니다.

훈련 시 제공한 데이터가 아닌 다른 데이터에서도 모델이 정확히 분류하기를 원하기 때문에 이

번에는 결과 라벨이 제공되는 평가 데이터셋을 사용합니다.

test_loss, test_acc = model.evaluate(test_images, test_labels)

print('Model accuracy based on test data:', test_acc)

평가한 결과는 다음과 같습니다.

313/313 [=====================] - 0s 900us/step - loss: 0.3672 - accuracy: 0.8674

Model accuracy based on test data: 0.8673999905586243

모델 정확도는 평가 데이터가 훈련 데이터보다 약간 더 낮습니다. 이는 모델이 평가 데이터에 ...