앞서 모델 예측 일관성이 지닌 중요성을 이야기했습니다. 이제 모델 예측에서 일관성이 떨어지
고 다양성이 높아지는 사례를 알아봅시다.
2018
년부터 대형 언어 모델
GPT
와 그 후속 모델인
GPT
-
2
,
GPT
-
3
이 전 세계를 휩쓸고 있
습니다. 이러한 대규모 언어 모델의 장점은 작업별 훈련 데이터가 거의 혹은 전혀 필요하지 않
은 상태에서 광범위한 작업에 대한 예측을 생성한다는 점입니다. [그림
11
-
1
]을 봅시다. 웹 페
이지의 요구 사항을 모델 입력으로 사용해 해당 웹 페이지를 생성하는 데 필요한 리액트 코드
를 출력합니다.
출력: 요구 사항을
충족하는
리액트 코드
입력: 요구 사항
리액트 코드로
렌더링된 웹 페이지
그림
11-1
GPT
-
3
은 웹사이트용 코드를 작성하는 데 도움이 됩니다(출처: 샤리프 샤밈의 영상
2
).
이러한 모델의 단점은 예측이 항상 옳지는 않으며(대부분 맞으며) 예측을 개선하기 위해 작업
2
https://oreil
.
ly/VEuml
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month, and much more.