안전한 인공지능 시스템을 위한 심층 신경망 강화

247

11

장

미래 동향: 속지 않는 견고한 인공지능

성이 한 이미지 내에서 차지하는 상대적 위치에 기반해 학습을 하지는 않습니다. 예를 들어,

CNN

은 눈, 코, 입과 같은 특성 자체에 기반해 얼굴을 인식할 수 있지만, 그 특성들의 상대적

위치는 중요시하지 않습니다.

제프리 힌튼과 그의 팀은 이 세상에 있는 객체의 계층적 표현과 관계를 더 잘 공식화하기 위해

‘캡슐 네트워크’를 제안합니다.

5

이러한 관계를 캡슐 네트워크 계산의 핵심으로 삼음으로써 이

네트워크는 객체 구성요소들 간의 관계에 대한 이해를 통합해서 시야각에 상관없이 이미지 내

객체를 더 잘 이해하게 됩니다. 캡슐 네트워크는 이미지의 맥락을 이해하기 때문에 적대적 공

격에 대해 복원력이 더 좋아짐을 나타내 보여줍니다.

11.4

마치며

신경 과학 인공지능 분야에서 융합은 초미의 관심사가 되고 있습니다. 뇌의 작용 원리를 더 잘

이해하게 되면 인공지능 방법론에 이러한 새로운 아이디어를 적용해서 결과적으로 인간 학습

을 더 잘 모방하게 될 것입니다. 그러나 이와 동시에 인공지능 알고리즘이 우리의 뇌와 같이 약

점에 취약하다는 사실을 암시합니다. 우리가 이를 방지할 정교한 전략을 프로그래밍하지 않는

한 말입니다. 신경 과학의 관점에서 인공지능은 뇌의 작용에 관한 가설을 테스트하는 방법을

제공합니다. 인간과 ...