April 2026
Intermediate
348 pages
8h 22m
Korean
Content preview from 그림으로 배우는 생성형 AI
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
O’Reilly covers everything we've got, with content to help us build a world-class technology community, upgrade the capabilities and competencies of our teams, and improve overall team performance as well as their engagement.I wanted to learn C and C++, but it didn't click for me until I picked up an O'Reilly book. When I went on the O’Reilly platform, I was astonished to find all the books there, plus live events and sandboxes so you could play around with the technology.I’ve been on the O’Reilly platform for more than eight years. I use a couple of learning platforms, but I'm on O'Reilly more than anybody else. When you're there, you start learning. I'm never disappointed.I'm always learning. So when I got on to O'Reilly, I was like a kid in a candy store. There are playlists. There are answers. There's on-demand training. It's worth its weight in gold, in terms of what it allows me to do.
118
그림으로 배우는 생성형 AI
를 이용하면 기초 모델만큼 정확하면서도 크기는 훨
씬 작은 모델을 만들 수 있습니다
(
https://oreil.ly/
bMp3W
).
경우에 따라서는 증류된 작은 모델에 더 작은 데이터
타입
(
예
:
32
비트 숫자 대신
8
비트 숫자
)
을 사용하거
나 특화된 하드웨어를 사용해서 성능을 더 높이기도
합니다
.
지연시간이 짧아야 하거나 엣지
edge
에 배포해
야 하는 상황이라면 증류를 이용해서 소형 모델을 만
드는 것이 유리합니다
.
또한 주어진 품질에 대해 가장
낮은 비용으로 실행할 수 있는 모델을 원할 때도 증류
가 유용합니다
.
어댑터 조정과 증류는 생성형
AI
의 고급 활용 기법에
해당합니다
.
4
장에서 이 기법들을 활용하는 방법을
좀 더 자세히 살펴볼 것입니다
.
2.3.4 프롬프트 엔지니어링
지금까지의 예제들에서는 생성형
AI
모델에 예시나
그림
2 - 25
사전훈련 모델의 증류
그림
2 - 24
사전훈련 모델의 어댑터 조정
어댑터 조정어댑터 조정
증류증류
지식지식
데이터데이터
다중 헤드 자기 주의
다중 헤드 자기 주의
완전 연결 계층
완전 연결 계층
비선형 활성화
정규 전이 블록
정규 전이 블록
어댑터 계층
교사 모델
학생 모델
지식 전이
증류 전이
연결
건너뛰기
연결
건너뛰기
연결
건너뛰기
연결
건너뛰기
완전 연결 계층
완전 연결 계층
어댑터
어댑터
계층 정규화
계층 정규화
완전 연결 계층들 ...
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
and much more.
Read now
Unlock full access
More than 5,000 organizations count on O’Reilly
O’Reilly covers everything we've got, with content to help us build a world-class technology community, upgrade the capabilities and competencies of our teams, and improve overall team performance as well as their engagement.Julian F.
I wanted to learn C and C++, but it didn't click for me until I picked up an O'Reilly book. When I went on the O’Reilly platform, I was astonished to find all the books there, plus live events and sandboxes so you could play around with the technology.Addison B.
I’ve been on the O’Reilly platform for more than eight years. I use a couple of learning platforms, but I'm on O'Reilly more than anybody else. When you're there, you start learning. I'm never disappointed.Amir M.
I'm always learning. So when I got on to O'Reilly, I was like a kid in a candy store. There are playlists. There are answers. There's on-demand training. It's worth its weight in gold, in terms of what it allows me to do.