안전한 인공지능 시스템을 위한 심층 신경망 강화

198

4

부

방어

역량

공격의 성공은 공격자가 사용할 수 있는 자원 (기술, 소프트웨어, 하드웨어, 시간 )에 의해 제한

됩니다. 필요한 자원은 공격 목표에 따라 크게 달라집니다. 간단하고 저렴한 공격은 온라인에

서 공유되는 적대적 패치를 디지털 이미지에 추가하는 것입니다. 반면에 앙상블 모델과 컴퓨팅

대용량을 사용해 강력한 섭동을 개발하려면 더 많은 비용, 시간, 전문지식이 필요합니다.

혼자 움직이는 위협 행위자의 역량을 과소평가해서는 안 됩니다. 해커는 혼자 일할지 모르지만

지식이 풍부하며 공공 클라우드와 온라인 자원을 활용해 공격을 개발할 수 있습니다.

입력에 영향을 미치는 능력

공격자가 데이터를 변경할 수 있는 정도는 적대적 입력을 생성하는 능력을 제한할 수 있습니

다. 예를 들어, 변화가 사람의 인식에 영향을 주는 수준에 따라 디지털 이미지 콘텐츠를 변경하

는 방법이 제한될 수 있습니다.

실제 공격에서 공격자는 디지털 데이터에 접근할 수 없으므로 적대적 콘텐츠를 만드는 데 상당

한 제약이 따릅니다. 공격자는 필요한 센서에 물리적으로 접근하는 것과 같은 매우 낮은 기술

문제로 방해를 받을 수 있습니다.

대상에 대한 지식과 접근

DNN

모델 자체에 대한 지식은 적대적 사례를 작성하는 데 큰 도움이 됩니다. 예를 들어 적대

적 입력을 개발하기 위한 더 강력한 복제 공격을 가능하게 합니다. 그러나 대상에 대한 지식을

모델을 복제하는 능력을 발휘할 때만 유일하게 사용해서는 안 됩니다. 강력한 적대적 사례 공

격을 성공적으로 개시하려면 전체 처리 ...