언어를 이해하고, 내용을 분류하고, 심지어 언어로 새로운 작품을 창작할 수 있는 모델을 만드
는 프로그래밍 기술입니다.
GPT
, 제미나이
Gemini
, 클로드
Claude
같은 대규모 언어 모델
large
language
model
(
LLM
)의 기반이기도 합니다. 책의 후반부에서
LLM
에 대해 살펴보기로 하고, 여기서는
기초적인
NLP
에 대해 알아 보겠습니다.
자연어 처리를 사용해 챗봇
chatbot
같은 애플리케이션을 만드는 서비스도 많이 있지만 이 책에서
다루지는 않습니다. 대신에 자연어 처리 기초를 살펴보고, 언어를 모델링해 텍스트를 이해하고
분류하는 신경망을 훈련시키는 방법을 알아봅니다. 약간의 재미를 위해 머신러닝 모델의 예측
능력을 사용해 시를 쓰는 방법도 알아보겠습니다! 이는 단순한 재미를 위한 것만이 아니라 생
성형
AI
의 기반이 되는 트랜스포머 모델을 사용하는 방법을 배우기 위한 사전 단계의 역할도
합니다.
먼저 언어를 숫자로 표현하는 방법과 이런 숫자를 신경망에 사용하는 방법을 살펴보겠습니다.
5.1
언어를 숫자로 인코딩하기
궁극적으로 컴퓨터는 숫자를 처리합니다. ...
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month, and much more.
O’Reilly covers everything we've got, with content to help us build a world-class technology community, upgrade the capabilities and competencies of our teams, and improve overall team performance as well as their engagement.
Julian F.
Head of Cybersecurity
I wanted to learn C and C++, but it didn't click for me until I picked up an O'Reilly book. When I went on the O’Reilly platform, I was astonished to find all the books there, plus live events and sandboxes so you could play around with the technology.
Addison B.
Field Engineer
I’ve been on the O’Reilly platform for more than eight years. I use a couple of learning platforms, but I'm on O'Reilly more than anybody else. When you're there, you start learning. I'm never disappointed.
Amir M.
Data Platform Tech Lead
I'm always learning. So when I got on to O'Reilly, I was like a kid in a candy store. There are playlists. There are answers. There's on-demand training. It's worth its weight in gold, in terms of what it allows me to do.