안전한 인공지능 시스템을 위한 심층 신경망 강화

72

1

부

인공지능을 속이는 기술

를 조작하는 방법을 이해해야 합니다. 그리고 그 시작은 바로 데이터를 계산식으로 표현하는

것입니다.

4

장의 각 절은 특정 데이터 유형인 이미지, 음성, 영상 데이터의 디지털 인코딩으로

시작합니다. 책을 읽어갈수록 데이터의 디지털 인코딩과 인코딩의 정밀도가 직접적으로 적대

적 입력을 생성하는 능력에 어떻게 영향을 미치는지 명확해질 것입니다. 데이터 압축 또는 변

환 단계에서 데이터 정밀도를 변경하면 우연히 또는 의도적으로 부적합한 내용이 제거될 수 있

습니다.

4

장의 마지막 책장을 넘길 때쯤이면 이미지, 음성, 영상이 디지털 방식으로 어떻게 표현되는지

를 알게 되고 일반적인 신경망 설계 패턴에도 익숙해져서 이어지는 장들에서 다루는 적대적 사

례에 대한 논의를 이해하게 될 것입니다.

4.1

이미지

가장 기본적인 수준에서, 인간의 시각은

200

~

700nm

(나노미터 ) 범위의 파장을 가진 전자기

스펙트럼의 일부인 빛을 감지할 수 있습니다. 또한 빛은 주파수의 관점에서 설명할 수 있으며,

여기서 파동의 주파수는 파장의 역수입니다. 주파수는 초당 사이클 수 (

Hz

)로 측정되며, 빛의

주파수 범위는 대략

430

~

750THz

(테라헤르츠 )입니다. 낮은 주파수는 적외선 전자기 방사선

에 해당하고 높은 주파수는 자외선에 해당합니다.

우리 눈의 세 가지 색 수용체 유형은 각각 다른 파장의 빛에 반응합니다. 원뿔 유형은 가시 스

펙트럼에서 긴 파장(빨강 빛 ), 둘째로는 중간 파장 (초록 빛), 셋째로는 짧은 파장 (파랑 빛)