안전한 인공지능 시스템을 위한 심층 신경망 강화

175

8

장

물리적 공격

8.1

적대적 물체

물리적 세계에서 적대적 물체를 만드는 동기는 다양합니다. 예를 들어, 카메라 센서로 포착한

이미지 데이터를 사용하는 자율 주행 시스템은 사용량이 증가함에 따라 시스템을 혼란스럽게

만드는 적대적 물체가 나타날 가능성이 커졌습니다.

DNN

기술을 사용한 카메라는 수시로 발

생하는 이벤트를 모니터링하고 자동으로 영상 데이터를 처리해야 합니다. 그러나 이러한 시스

템은 물리적으로 생성된 적대적 물체의 공격에 쉽게 노출될 수밖에 없습니다.

이번에는 적대적 물체를 생성하는 데 따른 어려움과 타당성을 고려해봅시다. 카메라를 통

해 적대적 물체를 제작하고 적대적 특성을 디지털로 포착하는 기본적인 문제를 생각해봅시다

(

8

.

1

.

1

참조). 그런 다음 환경과 시야각의 복잡한 요소를 살펴보겠습니다 (

8

.

1

.

2

참조).

8.1.1

적대적 물체 제작과 카메라 성능

다음과 같은 가장 기본적인 질문으로 시작할 수 있습니다. 카메라가 인쇄물의 적대적 측면을

디지털 변환으로 충분히 포착할 수 있을까요? 이 질문의 답을 찾기 위해, 첫 번째 단계는 적대

적으로 섭동된 이미지를 인쇄하고, 카메라가 이미지에서 섭동을 추출해 악의가 있는 디지털 표

현을 생성할 수 있는지 확인하는 것입니다. [그림

8

-

1

]은 실험의 단계를 설명합니다. 이 단계

에서는 카메라 각도나 ...