Skip to Content
fastai와 파이토치가 만나 꽃피운 딥러닝
book

fastai와 파이토치가 만나 꽃피운 딥러닝

by 박찬성, 김지은, 제러미 하워드, 실뱅 거거
August 2021
Beginner to intermediate
720 pages
15h 32m
Korean
Hanbit Media, Inc.
Content preview from fastai와 파이토치가 만나 꽃피운 딥러닝
479
12
밑바닥부터 구현하는 언어 모델
>>> vocab = L(*tokens).unique()
>>> vocab
(#30) [‘one’,’.’,’two’,’three’,’four’,’five’,’six’,’seven’,’eight’,’nine’...]
그다음
vocab
의 각 요소를 조회하여 토큰에 대응하는 숫자로 변환합니다.
>>> word2idx = {w:i for i,w in enumerate(vocab)}
>>> nums = L(word2idx[i] for i in tokens)
>>> nums
(#63095) [0,1,2,1,3,1,4,1,5,1...]
이제 언어 모델링을 수월하게 해줄 작은 데이터셋을 만들었으므로, 첫 번째 모델을 구축해
봅시다.
12.2

이 데이터셋을 신경망에서 사용할 수 있는 형태로 바꾸는 간단한 방법을 하나 알아보죠. 이전
세 단어를 기반으로 다음 단어를 예측하도록 지정하는 방법입니다. 연속적인 세 단어로 이루어
진 리스트를 독립변수로, 그 뒤에 등장하는 단어를 종속변수로 구성한 연속적인 리스트를 만듭
니다.
기본 파이썬 문법으로도 할 수 있는 작업입니다. 형태를 쉽게 파악하기 위해 먼저 토큰화를 진
행해보겠습니다.
>>> L((tokens[i:i+3], tokens[i+3]) for i in range(0,len
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
and much more.

Read now

Unlock full access

More than 5,000 organizations count on O’Reilly

AirBnbBlueOriginElectronic ArtsHomeDepotNasdaqRakutenTata Consultancy Services

QuotationMarkO’Reilly covers everything we've got, with content to help us build a world-class technology community, upgrade the capabilities and competencies of our teams, and improve overall team performance as well as their engagement.
Julian F.
Head of Cybersecurity
QuotationMarkI wanted to learn C and C++, but it didn't click for me until I picked up an O'Reilly book. When I went on the O’Reilly platform, I was astonished to find all the books there, plus live events and sandboxes so you could play around with the technology.
Addison B.
Field Engineer
QuotationMarkI’ve been on the O’Reilly platform for more than eight years. I use a couple of learning platforms, but I'm on O'Reilly more than anybody else. When you're there, you start learning. I'm never disappointed.
Amir M.
Data Platform Tech Lead
QuotationMarkI'm always learning. So when I got on to O'Reilly, I was like a kid in a candy store. There are playlists. There are answers. There's on-demand training. It's worth its weight in gold, in terms of what it allows me to do.
Mark W.
Embedded Software Engineer

You might also like

AI를 위한 필수 수학

AI를 위한 필수 수학

할라 넬슨
러닝 타입스크립트

러닝 타입스크립트

조시 골드버그
GPT-4를 활용한 인공지능 앱 개발

GPT-4를 활용한 인공지능 앱 개발

올리비에 케일린, 마리 알리스 블레트

Publisher Resources

ISBN: 9791162244630