안전한 인공지능 시스템을 위한 심층 신경망 강화

Table of contents

1. 지은이 옮긴이 소개
2. 들어가며
3. CONTENTS (1/2)
4. CONTENTS (2/2)
5. part 1 인공지능을 속이는 기술
   1. 1 소개
      1. 1.1 딥러닝 소개
      2. 1.2 딥러닝 역사
      3. 1.3 인공지능의 ‘착시 현상’
      4. 1.4 ‘적대적 입력’이란 무엇인가 (1/2)
      5. 1.4 ‘적대적 입력’이란 무엇인가 (2/2)
         1. 1.4.1 적대적 섭동
         2. 1.4.2 부자연스러운 적대적 입력
         3. 1.4.3 적대적 패치
         4. 1.4.4 실제 세계의 적대적 사례
      6. 1.5 ‘적대적 머신러닝’의 광범위한 분야
      7. 1.6 적대적 입력의 의미
   2. 2 공격 동기
      1. 2.1 웹 필터 우회
      2. 2.2 온라인 평판과 브랜드 관리
      3. 2.3 감시 위장
      4. 2.4 개인 정보 온라인
      5. 2.5 자율 주행차의 혼동
      6. 2.6 음성 제어 장치
   3. 3 심층 신경망
      1. 3.1 머신러닝
      2. 3.2 딥러닝 개념
      3. 3.3 수학 함수로서의 심층 신경망 모델 (1/3)
      4. 3.3 수학 함수로서의 심층 신경망 모델 (2/3)
      5. 3.3 수학 함수로서의 심층 신경망 모델 (3/3)
         1. 3.3.1 심층 신경망의 입력과 출력
         2. 3.3.2 심층 신경망의 내부와 순방향 처리
         3. 3.3.3 심층 신경망이 학습하는 방법
      6. 3.4 간단한 이미지 분류기 만들기 (1/2)
      7. 3.4 간단한 이미지 분류기 만들기 (2/2)
   4. 4 이미지, 오디오, 영상을
      1. 4.1 이미지 (1/2)
      2. 4.1 이미지 (2/2)
         1. 4.1.1 이미지의 디지털 표현
         2. 4.1.2 이미지 처리를 위한 심층 신경망
         3. 4.1.3 합성곱 신경망 소개
      3. 4.2 오디오 (1/2)
      4. 4.2 오디오 (2/2)
         1. 4.2.1 오디오의 디지털 표현
         2. 4.2.2 오디오 처리를 위한 심층 신경망
         3. 4.2.3 순환 신경망 소개
         4. 4.2.4 오디오 처리
      5. 4.3 영상
         1. 4.3.1 영상의 디지털 표현
         2. 4.3.2 영상 처리를 위한 심층 신경망
      6. 4.4 적대적 고려 사항
      7. 4.5 ResNet50을 사용한 이미지 분류
6. part 2 적대적 입력 생성하기
   1. 5 적대적 입력의 원리
      1. 5.1 입력 공간 (1/2)
      2. 5.1 입력 공간 (2/2)
         1. 5.1.1 훈련 데이터의 일반화
         2. 5.1.2 OoD 데이터 실험
      3. 5.2 DNN의 사고를 가능하게 하는 원리
      4. 5.3 섭동 공격: 변화의 최소화, 영향의 최대화
      5. 5.4 적대적 패치: 산만의 최대화
      6. 5.5 탐지 가능성 측정 (1/2)
      7. 5.5 탐지 가능성 측정 (2/2)
         1. 5.5.1 섭동 측정에 대한 수학적 접근
         2. 5.5.2 인간 인식 고려하기
      8. 5.6 요약
   2. 6 적대적 섭동을 생성하는 방법
      1. 6.1 화이트 박스 (1/4)
      2. 6.1 화이트 박스 (2/4)
      3. 6.1 화이트 박스 (3/4)
      4. 6.1 화이트 박스 (4/4)
         1. 6.1.1 입력 공간 검색
         2. 6.1.2 모델 선형성 활용
         3. 6.1.3 적대적 돌출
         4. 6.1.4 적대적 신뢰도 높이기
         5. 6.1.5 화이트 박스 접근방식의 변형
      5. 6.2 제한된 블랙박스 방법 (1/2)
      6. 6.2 제한된 블랙박스 방법 (2/2)
      7. 6.3 점수 기반 블랙박스 방법
      8. 6.4 요약
7. part 3 실제 위협 이해하기
   1. 7 시스템에 사용하는 공격 패턴
      1. 7.1 공격 패턴
      2. 7.1.1 직접 공격 (1/2)
      3. 7.1.1 직접 공격 (2/2)
         1. 7.1.2 복제 공격
         2. 7.1.3 전송 공격
         3. 7.1.4 범용 전송 공격
      4. 7.2 재사용할 수 있는 섭동과 패치
      5. 7.3 통합: 하이브리드 접근법과 절충안
   2. 8 물리적 공격
      1. 8.1 적대적 물체 (1/2)
      2. 8.1 적대적 물체 (2/2)
         1. 8.1.1 적대적 물체 제작과 카메라 성능
         2. 8.1.2 시야각과 환경
      3. 8.2 적대적 음향
         1. 8.2.1 오디오 재생과 마이크 기능
         2. 8.2.2 오디오 위치와 환경
      4. 8.3 실생활 속에서 적대적 사례의 타당성
8. part 4 방어
   1. 9 모델 견고성 평가
      1. 9.1 적대적 목표, 역량, 제약, 정보 (1/2)
      2. 9.1 적대적 목표, 역량, 제약, 정보 (2/2)
         1. 9.1.1 목표
         2. 9.1.2 역량, 지식, 접근
      3. 9.2 모델 평가 (1/2)
      4. 9.2 모델 평가 (2/2)
         1. 9.2.1 경험적으로 도출한 견고성 지표
         2. 9.2.2 이론적으로 도출한 견고성 지표
      5. 9.3 요약
   2. 10 방어
      1. 10.1 모델 개선 (1/5)
      2. 10.1 모델 개선 (2/5)
      3. 10.1 모델 개선 (3/5)
      4. 10.1 모델 개선 (4/5)
      5. 10.1 모델 개선 (5/5)
         1. 10.1.1 그레이디언트 마스킹
         2. 10.1.2 적대적 훈련
         3. 10.1.3 OoD와 신뢰도 훈련
         4. 10.1.4 무작위 드롭아웃 불확실성 측정
      6. 10.2 데이터 전처리
         1. 10.2.1 광범위한 처리 과정에서 전처리
         2. 10.2.2 적대적 콘텐츠를 지능적으로 제거
      7. 10.3 대상 감추기
      8. 10.4 적대적 입력에 대항하는 강력한 방어 구축
         1. 10.4.1 프로젝트 열기
         2. 10.4.2 종합적 관점
   3. 11 미래 동향: 속지 않는 견고한 인공지능
      1. 11.1 윤곽을 인식해 견고성 향상하기
      2. 11.2 다중감각 입력
      3. 11.3 객체 구성과 계층
      4. 11.4 마치며
9. 부록 A 수식 설명
10. INDEX (1/2)
11. INDEX (2/2)