안전한 인공지능 시스템을 위한 심층 신경망 강화

243

11

장

미래 동향: 속지 않는 견고한 인공지능

지금까지 인간을 속이지 않는 인공지능을 속이는 기술을 배웠습니다. 사람이 보고 들을 때 착

각을 한다는 약점을 잊지 말아야 합니다. 흥미롭게도 연구에 따르면 일부 적대적 사례는 시간

에 구속되는 인간을 속일 수도 있습니다.

1

반대로, 착시 현상은 신경망을 속일 수도 있습니다.

2

이러한 사례들은 생물학적 인식과 인공적 인식에 다소 유사한 점이 있으나 적대적 입력은 딥러

닝 모델이 생물학적 방식과는 다르게 데이터를 처리한다는 기본 원칙을 이용한다는 사실을 시

사합니다. 딥러닝은 감각 입력을 처리하는 데 있어 사람의 능력에 버금가거나 이를 능가하는

모델을 만들 수 있지만, 이러한 모델은 인간이 실제로 시각과 청각 정보를 배우고 인식하는 방

식과는 거리가 멀 것입니다.

딥러닝에서 인공적 인식과 생물학적 인식을 더 잘 융합할 수 있는 주목할 만한 연구가 진행되

고 있습니다. 그러한 연구에 힘입어 인공지능은 적대적 사례에 대한 복원력이 더 우수해질 것

입니다. 방법은 다음과 같습니다.

1

「

Adversarial

Examples

that

Fool

both

Computer

Vision

and

Time

-

Limited

Humans

」(

Gamaleldin

F

.

Elsayed

et

al

.,

2018

),

http

://

bit

.

ly

/

2RtU032 ...