
137
CHAPTER 03
기술 인터뷰: 머신러닝 알고리즘
트 생성, 텍스트 요약, 텍스트-이미지 생성 등이 있습니다.
TIP
BoW
와
TF
-
IDF
는 유용한 기반 기술로써, 최근 인터뷰에서 자주 언급되었습니다.
LSTM
신경망 요약
장단기기억
Long
short
-
term
memory
(
LSTM
) 신경망은 긴 데이터 시퀀스를 다루도록 설계된 순환 신
경망
recurrent
neural
network
(
RNN
)의 한 유형으로,
NLP
애플리케이션에 유용합니다. 트랜스포머
의 어텐션 유닛처럼, 장기 의존성과 이전 텍스트의 맥락은 효과적인
NLP
에 있어 중요한 요
소입니다. 그러나
LSTM
은 몇 가지 한계를 가지고 있습니다. 특히 매우 긴 텍스트 시퀀스를
다룰 때 즉, 페이지나 문단의 훨씬 앞부분에 나오는 텍스트의 맥락을 이해할 때 약점을 보입
니다. 이러한 문제에 대해, 트랜스포머 (다음 절에서 다룹니다 )는 장기 의존성을 더 잘 처리
할 수 있습니다.
TIP
LSTM
은 피처 엔지니어링과 시계열 데이터에도 사용할 수 있습니다. 지면의 제약 때문에 이 책에서 더
자세한 설명은 하지 않지만, 자세히 알아 둘 것을 권장드립니다. 크리스토퍼 올라의 블로그 「
LSTM
신경망
이해하기(
https
://
oreil
.
ly
/
C
-
jwG
)」에서는
LSTM
이 어떻게 사용되는지 이해하는 데 도움이 되는 ...