AI 엔지니어링

이 작품은 AI를 사용하여 번역되었습니다. 여러분의 피드백과 의견을 환영합니다: translation-feedback@oreilly.com

최근 AI 분야의 획기적인 발전은 AI 제품에 대한 수요를 증가시켰을 뿐만 아니라, AI 제품을 구축하고자 하는 이들의 진입 장벽을 낮췄습니다. 모델 서비스(Model-as-a-Service) 접근 방식은 AI를 난해한 학문에서 누구나 활용할 수 있는 강력한 개발 도구로 탈바꿈시켰습니다. 이제 AI 경험이 거의 없거나 전혀 없는 사람들도 AI 모델을 활용해 애플리케이션을 구축할 수 있습니다. 이 책에서 저자 칩 후엔은 AI 엔지니어링, 즉 쉽게 구할 수 있는 기초 모델로 애플리케이션을 구축하는 과정을 다룹니다.

이 책은 AI 엔지니어링 개요로 시작하여, 전통적인 머신러닝 엔지니어링과의 차이점과 새로운 AI 스택에 대해 설명합니다. AI가 더 많이 사용될수록 치명적 실패의 가능성도 커지므로, 평가의 중요성은 더욱 부각됩니다. 이 책은 급성장 중인 'AI-as-a-judge(판사로서의 AI)' 접근법을 포함해 개방형 모델 평가의 다양한 방식을 논의합니다.

AI 애플리케이션 개발자는 모델, 데이터셋, 평가 벤치마크, 그리고 무한해 보이는 사용 사례와 애플리케이션 패턴을 포함한 AI 환경을 탐색하는 방법을 발견하게 될 것입니다. 간단한 기법에서 시작하여 더 정교한 방법으로 발전하는 AI 애플리케이션 개발 프레임워크를 배우고, 이러한 애플리케이션을 효율적으로 배포하는 방법을 발견하게 될 것입니다.

• AI 엔지니어링의 정의와 기존 머신러닝 엔지니어링과의 차이점을 이해하세요
• AI 애플리케이션 개발 프로세스, 각 단계별 도전 과제 및 해결 방안을 학습합니다
• prompt 엔지니어링, RAG(질문-답변-추론), 파인 튜닝, 에이전트, 데이터셋 엔지니어링 등 다양한 모델 적응 기법을 탐구하고 그 작동 원리와 이유를 이해합니다
• 파운데이션 모델 서비스 시 발생하는 지연 시간 및 비용 병목 현상을 분석하고 이를 극복하는 방법을 학습합니다
• 요구 사항에 맞는 적절한 모델, 데이터셋, 평가 벤치마크 및 지표 선택

칩 후엔(Chip Huyen)은 볼트론 데이터(Voltron Data)에서 GPU 기반 데이터 분석 가속화를 담당하고 있습니다. 이전에는 스노클 AI(Snorkel AI)와 엔비디아(NVIDIA)에서 근무했으며, AI 인프라 스타트업을 창업했고 스탠퍼드 대학에서 머신러닝 시스템 설계를 강의했습니다. 저서 『머신러닝 시스템 설계(Designing Machine Learning Systems)』는 Amazon AI 분야 베스트셀러입니다.

『AI 엔지니어링 』은 『머신러닝 시스템 설계』(오라일리)를 기반으로 하며 이를 보완하는 내용을 다룹니다.