안전한 인공지능 시스템을 위한 심층 신경망 강화

245

11

장

미래 동향: 속지 않는 견고한 인공지능

연구원들은 훈련 데이터셋을 새로운 질감이 아니라 객체의 모양으로 라벨링된 훈련 데이터로

‘양식화된’ 이미지로 구성해서 새롭게 만들었습니다. 그리고 이 훈련 데이터셋으로

CNN

을 재

훈련시켜서 질감에 대한 편향을 줄이고 윤곽에 더 중점을 두게 할 수 있었습니다. 이 접근법은

분류기가 이미지 왜곡에 더 견고하다는 이점을 갖습니다. 왜냐하면 질감은 왜곡의 영향을 받는

경향이 있는 반면 객체의 윤곽은 비교적 안정적으로 유지되기 때문입니다.

신경망을 적대적 사례에 견고하게 만든다는 관점에서 이 연구는 전도유망합니다.

CNN

이 결정

을 내릴 때 윤곽에 중점을 두면 이미지에 두루 있는 적대적 섭동의 영향을 덜 받을 것입니다.

11.2

다중감각 입력

신경 과학 이론에서는 뇌의 작용 원리에 대해 주목할 만한 새 아이디어를 제시합니다. 이 아이

디어는 인간의 인식을 더 정확하게 모방하는 인공지능을 구축하는 새로운 접근법이 될 수 있습

니다.

예를 들어, 인간의 뇌는 세계를 이해하기 위해 다중감각 입력 (예: 시각, 청각, 촉각, 온도 감

지)을 성공적으로 결합하는데, 다중감각 입력은 우리를 둘러싼 데이터를 지속적으로 검증합니

다(다음 노트에 설명한 것처럼 틀릴 수 있더라도).

NOTE

_

맥거크 효과

McGurk

Effect

뇌가 ...