안전한 인공지능 시스템을 위한 심층 신경망 강화

36

1

부

인공지능을 속이는 기술

드 관리(

2

.

2

)를 참조합니다.

혼란

조직을 불신하거나 혼란에 빠뜨릴 혼동 만들기. 예를 들어 자율 주행차의 혼동 (

2

.

5

), 음성 제

어 장치(

2

.

6

)를 참조합니다.

2

장에서는 적대적 사례를 만드는 공격의 동기를 이야기합니다. 모든 사례를 일일이 이야기하

지는 못하지만 위협의 유형과 특징을 설명합니다.

2.1

웹 필터 우회

조직은 공격성이 있거나 적절하지 않은 콘텐츠를 차단하기 위해 외부에서 유입되는 웹 콘텐츠

를 관리해야 하는 압력을 받습니다. 예를 들면 외부 데이터에 의존하는 비즈니스 모델인 소셜

미디어 제공 업체나 온라인 마켓 플레이스와 같은 회사입니다. 조직은 불쾌감을 주는 자료를

모니터링하고 더이상의 전파를 방지해야 하는 법적 의무가 있을 수도 있습니다.

이러한 조직은 갈수록 고전을 겪게 됩니다. 빠른 속도로 업로드되는 모든 데이터를 지속적으로

모니터링하고 필요한 경우 조치를 취할 인력이 충분하지 않습니다. 소셜 미디어에는 하루에도

수십억 개의 데이터가 업로드됩니다. 게다가 게시물 데이터는 필터링하기 쉽게 구조화된 데이

터가 아닙니다. 이미지, 오디오, 텍스트 정보는 ‘공격적/비공격적’ 또는 ‘합법/불법’으로 분류하

기가 매우 미묘합니다. 그렇다고 사람이 업로드된 모든 콘텐츠를 모니터링하고 필터링할 수는

없습니다.

따라서 확실한 해결책은 [그림

2

-

1

]에 나타낸 것과 같이 지능형 시스템을 사용해 데이터를 모

니터링, 필터링, 선별하는 것입니다. 이런 해결책에서 심층 신경망은 점점 더 주요한 핵심이