
289
11
장
파이프라인 1부: 아파치 빔 및 아파치 에어플로
이전 장에서는
TFX
를 이용한 머신러닝 파이프라인 구축에 필요한 모든 컴포넌트를 소개했습
니다. 이 장에서는 두 개의 오케스트레이터 (아파치 빔과 아파치 에어플로
Apache
Airflow
)
를 사용
하여 전체 파이프라인을 실행하는 방법을 다룹니다. 또한
12
장에서는 쿠브플로 파이프라인으
로 파이프라인을 운영하는 방법을 살펴봅니다. 이런 도구는 유사한 원칙을 따르지만, 세부 정
보가 어떻게 다른지 알아보고 각 도구의 예제 코드를 제공합니다.
1
장에서 논의한 바와 같이, 파이프라인 오케스트레이션 도구는 머신러닝 파이프라인 자동화에
필요한 코드를 추상화하는 데 필수입니다. [그림
11
-
1
]과 같이, 파이프라인 오케스트레이터는
이전 장에서 이미 언급한 컴포넌트 아래에 위치합니다. 이런 오케스트레이션 도구가 없으면 한
컴포넌트가 완료되었는지 확인하고, 다음 컴포넌트를 시작하고, 파이프라인 실행을 예약하는
등의 작업을 하는 코드를 작성해야 합니다. 다행히도 이 모든 코드는 이미 이런 오케스트레이
터의 형태로 존재합니다!
데이터
수집
파이프라인
오케스트레이션
메타데이터스토어 데이터베이스
데이터
검증
데이터
전처리
모델
학습
모델 분석 및
검증
모델
배포
그림
11-1
파이프라인 오케스트레이터
파이프라인
1
부:
아파치 빔 ...