의 집합이 아니라, 해당 단어가 가진 의미를 숫자로 표현한 것입니다. 이미지의 고정 크기 패치
도 거의 같은 과정으로 처리됩니다. 모든 토큰과 패치는 벡터화를 통해 같은 고차원 공간에 표
현됩니다.
이
AI
모델이 텍스트와 이미지를 같은 방식으로 처리할 수 있다는 것은, 다른 양식의 입력을 함
께 고려해 더 정교한 답변을 만들어낼 수 있다는 뜻입니다. 이 과정에서 모델은 텍스트와 이미
지 간의 연관성을 파악하기 위해 셀프 어텐션 메커니즘을 적용합니다. 이러한 멀티모달을 활용
해
AI
애플리케이션을 개발한다면, 뛰어난 상호작용 방식으로 나은 사용자 경험을 제공할 수
있을 것입니다. 예를 들어 더 직관적인 챗봇이나 이미지를 이해하고 설명할 수 있는 교육 도구
를 개발하는 데 도움이 될 수 있습니다.
1.2
GPT
-
1
부터
GPT
-
4o
까지
이 절에서는
GPT
-
1
에서
GPT
-
4o
까지 오픈
AI
GPT
모델의 발전 과정을 살펴봅니다.
1.2.1
GPT
-
1
트랜스포머 아키텍처가 발명되고 불과
1
년 후인
2018
년 중반, 오픈
AI
는 <생성 사전 학습을 통
한 언어 이해 개선>
4
이라는 논문을 통해
GPT
-
1
이라는 이름의 생성적 사전 학습 트랜스포머 ...
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month, and much more.
O’Reilly covers everything we've got, with content to help us build a world-class technology community, upgrade the capabilities and competencies of our teams, and improve overall team performance as well as their engagement.
Julian F.
Head of Cybersecurity
I wanted to learn C and C++, but it didn't click for me until I picked up an O'Reilly book. When I went on the O’Reilly platform, I was astonished to find all the books there, plus live events and sandboxes so you could play around with the technology.
Addison B.
Field Engineer
I’ve been on the O’Reilly platform for more than eight years. I use a couple of learning platforms, but I'm on O'Reilly more than anybody else. When you're there, you start learning. I'm never disappointed.
Amir M.
Data Platform Tech Lead
I'm always learning. So when I got on to O'Reilly, I was like a kid in a candy store. There are playlists. There are answers. There's on-demand training. It's worth its weight in gold, in terms of what it allows me to do.