에이전트 시대의 AI 시스템 설계

11

생성형

AI

generative

AI

애플리케이션을 개발하는

AI

엔지니어라면 한 번쯤은 답답함을 느껴봤을

것이다. 그럴듯한 프로토타입은 금방 만들 수 있어도 프로덕션 환경에 안정적으로 배포하기는

대단히 복잡해서 느끼는 답답함 말이다. 기초 모델

foundation

model

을 활용하면 멋진 데모를 순식

간에 만들어 낼 수 있다. 하지만 실제 프로덕션 시스템에서는 근본적인 난제들을 해결해야 한

다. 정확성을 훼손하는 환각, 후속 프로세스를 망가뜨리는 일관성 없는 출력, 기업 환경 적용을

가로막는 지식의 공백 그리고 핵심 애플리케이션에 쓰기에는 턱없이 부족한 신뢰성 문제 등이

바로 그러한 난제들이다.

이 책은 프로덕션 수준의 생성형

AI

애플리케이션을 개발할 때 반복적으로 부딪히는 문제들을

해결하는

32

가지 실전 설계 패턴을 제시한다. 이 패턴들은 단순한 이론적 개념이 아니다. 최신

연구를 바탕으로 대규모 생성형

AI

시스템 배포에 성공한 실무자들의 손을 거쳐 정련되고 검증

된 해결책들을 체계화한 것이다. 이 패턴들이 앞에서 말한 답답함을 시원하게 날려줄 것이다.

전통적인 지도 머신러닝(기계학습 ) 접근법에서는 특정 문제를 해결하고자 선택한 입력 및 출

력 예시들로 이루어진 방대한 훈련 데이터셋을 이용해서 모델을 훈련한다. 반면 생성형

AI

애

플리케이션을 ...