엔지니어링 전략 수립

17장. LLM 도입 전략

이 작품은 AI를 사용하여 번역되었습니다. 여러분의 피드백과 의견을 환영합니다: [e-mail]

제품 엔지니어, 제품 관리자, 또는 엔지니어링 임원이라면 제품을 확장하거나 프로세스를 개선하기 위해 LLM 사용을 고려해야 한다는 압박을 받은 적이 있을 것입니다. LLM 기능은 2023년경부터 주류로 전환되었고, 대부분의 통합이 표면적으로 보이지만 많은 기업이 뒤처지고 있다고 걱정하고 있습니다.

이러한 맥락에서 LLM 도입은 전략 사례 연구의 훌륭한 주제입니다. 이 장에는 가상의 회사, 즉 Theoretical Ride Sharing이 LLM을 어떻게 도입해야 하는지 결정하기 위해 작성된 엔지니어링 전략 문서가 포함되어 있습니다. Theoretical에는 2,000명의 직원이 있으며 그중 300명이 소프트웨어 엔지니어링 엔지니어입니다. 이 회사는 4억 달러를 모금했습니다. 연간 매출은 5,000만 달러이며 북미와 유럽 200개 도시에서 사업을 운영하고 있습니다. 이론적으로는 Uber나 Lyft와 유사한 차량 공유 비즈니스이지만, 본질적으로 대중교통을 재창조하는 대형 차량을 사용하는 것이 혁신입니다.

이 문서 읽기

이 장의 문서는 다음과 같습니다:

문서 17-1: 대규모 언어 모델을 어떻게 채택해야 할까요?

이 전략 문서는 LLM을 도입하는 것이 회사의 개발자 경험에 어떤 영향을 미칠 수 있는지 고려합니다.

문서 17-2: LLM이 개발자 경험에 미치는 영향 모델링하기

이 회사의 소프트웨어 개발 프로세스에 대한 시스템 모델입니다.

문서 17-3: 워들리, LLM 생태계를 매핑하다

이 LLM 공간의 지도는 제품 회사가 Anthropic, Google, OpenAI와 같은 모델 제공업체의 확산과 에이전트 워크플로 및 검색 증강 생성(RAG)과 같은 LLM 제품 패턴에 어떻게 대처해야 하는지에 초점을 맞추고 있습니다. 또한 모델 변경에 따른 성능 유지를 위한 평가 실행에 대해서도 설명합니다.

문서 17-4: 드라이버 온보딩 모델링

이 모델에서는 LLM이 차량 공유 플랫폼의 활성 드라이버 극대화라는 핵심 제품 및 비즈니스 문제를 개선할 수 있는지 살펴봅니다.

이 문서에서 제시하는 전략을 적용하는 것을 목표로 이 문서를 읽는다면 맨 위부터 시작하여 끝까지 읽어 보세요. 반면에 이 문서에 담긴 생각을 이해하는 것이 주된 목표라면 탐색, 진단 등의 섹션을 역순으로 읽으세요. 이 구조에 대한 자세한 내용은 11장을 참조하세요.

파트 4의 다른 장인 '사례 연구'와 마찬가지로 이 장에서는 일련의 문서를 재현하고 각주로 맥락과 해설을 제공하며 몇 가지 주요 시사점을 도출하는 것으로 마무리합니다.

문서 17-1: 대규모 언어 모델을 어떻게 채택해야 할까요?

정책

이론적 차량 공유에서 LLM을 사용하는 에 대한 통합 정책은 다음과 같습니다:¹

• 성숙 시장에서 이탈 및 휴면 드라이버를 재활성화하기 위한 LLM 지원 프로세스를 개발합니다. 드라이버 라이프사이클 모델링을 통해 ...