fastai와 파이토치가 만나 꽃피운 딥러닝

451

10



NLP 깊게 알아보기: 순환 신경망

그림

10-4

케이티 존스의 링크드인 프로필

케이티 존스의 링크드인 계정은 워싱턴의 주류 두뇌 집단 구성원들과 연결되었습니다. 하지

만 그는 사실 존재하지 않는 인물이었죠. 프로필 사진은 생성적 적대 신경망

generative

adversarial

network

으로 자동 생성됐으며, 케이티 존스라는 인물이 전략 국제 문제 연구소를 졸업한 이력은

존재하지 않았습니다.

이런 상황을 예방하는 알고리즘을 바라는 사람이 많을지도 모릅니다. 가령 자동 생성된 내용을

자동으로 인식하는 분류 알고리즘을 개발하는 방식으로 말이죠. 하지만 더 나은 분류 알고리즘

을 개발하면, 이를 더 나은 생성 알고리즘을 만드는 데 사용할 수 있다는 문제가 있습니다.

10.4



10

장은

fastai

라이브러리가 즉시 다룰 수 있는 마지막 애플리케이션인 텍스트를 다뤘습니다.

특히 텍스트 생성용 언어 모델과 영화 리뷰의 긍정/부정을 분류하는 모델을 살펴봤습니다. 최

신 분류 모델을 구축하려고 사전 훈련된 언어 모델로 특정 말뭉치에 대해 미세 조정된 언어 모

델을 만들고, 그 모델을 분류 작업에 필요한 새로운 머리의 몸통 (인코더 )으로 사용하였습니다.