July 2025
Beginner to intermediate
284 pages
4h 39m
Korean
Overview
이 작품은 AI를 사용하여 번역되었습니다. 여러분의 피드백과 의견을 환영합니다: translation-feedback@oreilly.com
대규모 언어 모델의 특징은 기존의 규칙이 적용되지 않는다는 것입니다. GenAI를 다룰 때 기존의 MLOps는 완전히 무너집니다. 모델이 환각을 일으키고, 보안 가정이 무너지고, 모니터링이 중단되고, 에이전트가 작동하지 않습니다. 갑자기 미지의 영역에 들어선 것입니다. 이것이 바로 LLMOps가 새로운 분야로 등장한 이유입니다.
LLMOps: 프로덕션에서 대규모 언어 모델 관리하는 방법은 실제 사용자와 실제 돈이 걸려 있는 상황에서 이러한 시스템을 실제로 실행하기 위한 가이드입니다. 이 책은 멋진 데모를 만드는 방법에 대한 것이 아닙니다. LLM 시스템이 실제 환경에서 원활하게 실행될 수 있도록 유지하는 방법에 대한 것입니다.
- LLM 운영에 필요한 새로운 역할과 프로세스를 탐색하세요.
- 기존의 지표로 모든 것을 파악할 수 없는 경우 LLM 성능을 모니터링하세요.
- GenAI에 실제로 중요한 평가, 거버넌스, 보안 감사 설정
- 에이전트, RAG 시스템, 진화하는 프롬프트로 인한 운영의 혼란을 해결하세요.
- 계산 예산을 소모하지 않고 인프라를 확장하세요
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
and much more.
Read now
Unlock full access
More than 5,000 organizations count on O’Reilly
O’Reilly covers everything we've got, with content to help us build a world-class technology community, upgrade the capabilities and competencies of our teams, and improve overall team performance as well as their engagement.Julian F.
I wanted to learn C and C++, but it didn't click for me until I picked up an O'Reilly book. When I went on the O’Reilly platform, I was astonished to find all the books there, plus live events and sandboxes so you could play around with the technology.Addison B.
I’ve been on the O’Reilly platform for more than eight years. I use a couple of learning platforms, but I'm on O'Reilly more than anybody else. When you're there, you start learning. I'm never disappointed.Amir M.
I'm always learning. So when I got on to O'Reilly, I was like a kid in a candy store. There are playlists. There are answers. There's on-demand training. It's worth its weight in gold, in terms of what it allows me to do.