회전하면서 양극단에 있는 단어를 탐색하고 분류에 미치는 영향을 확인해 보세요. 단어를 선택
하면 오른쪽 창에 관련 단어가 나타납니다. 이것저것 만져보고 여러 가지 시도를 해 보세요.
6.4
사전 훈련된 임베딩 사용하기
임베딩을 직접 훈련하는 것의 대안은 다른 사람이 사전 훈련한 임베딩을 사용하는 것입니다.
캐글
Kaggle
과 허깅 페이스
Hugging
Face
를 포함해, 다양한 곳에서 임베딩을 쉽게 구할 수 있습니다.
연구 결과와 함께 공개된 사전 훈련된 임베딩도 있습니다. 이런 사전 훈련된 임베딩 중 하나인
스탠퍼드
GloVe
임베딩(
https
://
oreil
.
ly
/
s1YWw
)을 알아보겠습니다.
하지만 사전 훈련된 임베딩을 사용할 때는 사전 훈련된 임베딩에서 사용되는 규칙에 맞도록 토
크나이저를 업데이트하고 변경해야 할 수도 있다는 점을 유의해야 합니다.
예를 들어 사전 훈련된
GloVe
임베딩은
50
에서
300
까지 다양한 차원의 임베딩을 가진 대규
모 단어 텍스트 파일로 구성됩니다. 여기서 단어를 토큰화하기 위해 사용한 규칙은 앞서 우리
가 원시 데이터에서 사용했던 것과는 조금 다릅니다.
GloVe
의 경우 모든 단어를 소문자로, 숫
자는
0
으로 변환합니다.
이를 완료하면 다음처럼 사전 훈련된 임베딩 가중치를 모델에 로드하기만 하면 됩니다
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month, and much more.
O’Reilly covers everything we've got, with content to help us build a world-class technology community, upgrade the capabilities and competencies of our teams, and improve overall team performance as well as their engagement.
Julian F.
Head of Cybersecurity
I wanted to learn C and C++, but it didn't click for me until I picked up an O'Reilly book. When I went on the O’Reilly platform, I was astonished to find all the books there, plus live events and sandboxes so you could play around with the technology.
Addison B.
Field Engineer
I’ve been on the O’Reilly platform for more than eight years. I use a couple of learning platforms, but I'm on O'Reilly more than anybody else. When you're there, you start learning. I'm never disappointed.
Amir M.
Data Platform Tech Lead
I'm always learning. So when I got on to O'Reilly, I was like a kid in a candy store. There are playlists. There are answers. There's on-demand training. It's worth its weight in gold, in terms of what it allows me to do.