
246
3부 텐서플로와 케라스를 사용한 비지도 학습 모델
오토인코더의 핵심 개념은
3
장에서 살펴본 차원 축소 개념과 유사합니다. 차원 축소와 마찬가
지로, 오토인코더는 원본 피처와 관측치를 기억 (
항등 함수
identity
function
라고 함 )하지 않습니다
8
.
만약 오토인코더가 정확한 항등 함수를 학습한다면 유용하지 않을 겁니다
9
. 오히려 오토인코더
는 새로 학습한 표현을 사용해 가능한 한 원본 관측치에 가깝게 (하지만 정확하지는 않게) 근사
해야 합니다. 즉, 오토인코더는 항등 함수의 근사를 학습합니다.
오토인코더에는 제약이 있기 때문에 데이터의 내재적 구조를 추출해 원본 데이터의 핵심 특성
을 학습하게 합니다. 이는 차원 축소와 유사합니다. 제약은 오토인코더의 매우 중요한 속성입
니다. 제약은 오토인코더가 중요한 정보는 추출하고 중요하지 않은 정보는 무시하는 것을 지능
적으로 선택하도록 강제합니다.
오토인코더는 수십 년간 사용됐으며 이미 짐작했듯이 차원 축소 및 자동 피처 엔지니어링/학습
에 널리 사용됐습니다. 오늘날, 이들은 종종
생성적 적대 신경망
과 같은
생성 모델
generative
model
을
구축하는 데 사용합니다.
7.3
과소완전 오토인코더
오토인코더에서는 인코더를 가장 중요하게 생각합니다. 원본 데이터의 새로운 표현을 학습하
는 구성 요소이기