
296
살아 움직이는 머신러닝 파이프라인 설계
11.5
아파치 빔으로
TFX
파이프라인 조정
아파치 빔은
TFX
의 종속성으로 이미 설치되었으므로 파이프라인 조정 도구로 사용하기 매우
쉽습니다. 빔에는 매우 단순한 기능만 있으며, 에어플로나 쿠브플로 파이프라인 같은 다양한
기능 (예: 그래프 시각화, 예약 실행 )이 없습니다.
그러나 빔은 에어플로 머신러닝 파이프라인을 디버깅하는 유용한 방법입니다. 파이프라인 디
버깅 중에 빔을 사용한 다음 에어플로나 쿠브플로 파이프라인으로 이동하면 더 복잡한 에어플
로와 쿠브플로 파이프라인 설정에서 발생하는 파이프라인 오류의 근본 원인을 배제할 수 있습
니다.
이 절에서는 예제
TFX
파이프라인을 빔으로 설정하고 실행하는 방법을 설명합니다.
2
장에서
소개한 빔
Pipeline
함수를 [예제
11
-
1
] 스크립트와 함께 파이프라인을 실행하는 데 사용하
겠습니다.
TFX
파이프라인 컴포넌트를 인수로 받아들이고
ML
메타데이터스토어를 보유한
SQLite
데이터베이스에도 연결하는 빔
Pipeline
을 정의합니다.
import absl
from tfx.orchestration import metadata, pipeline
def init_beam_pipeline(components, pipeline_root, direct_num_workers): ...