51
3장 MLOps의핵심기능
규제가 심한 산업(예를 들어, 금융, 제약)에서는 거버넌스와 규제 검사의 범위가 넓고, 수동 개
입을 필요로 하는 경우가 많다. 그렇다 하더라도,
MLOps
측면에서도
DevOps
와 마찬가지로
가능한 한
CI
/
CD
파이프라인을 자동화해야 한다. 그래야 배포 프로세스의 속도를 올릴 수 있
을 뿐만 아니라 더 확장된 회귀 테스트가 가능하고 배포 중 오류 발생 가능성을 낮출 수 있다.
3.4
모니터링
모델을 상용 배포한 뒤에는 계속 잘 작동하는지 확인해야 한다. 하지만 좋은 성능이란 말은 저
마다 다른 의미일 수 있다. 즉,
DevOps
팀 측면에서, 데이터 과학자 측면에서, 비즈니스 측면
에서 다른 의미일 수 있다.
3.4.1
DevOps
의 관심사
DevOps
팀의 관심사는 우리에게 상당히 익숙한 것들로 다음과 같다.
●
모델이작업을충분히빠르게처리하는가?
●
적절한용량의메모리와
CPU
처리시간을사용하고있는가?
이는 전통적인
IT
관점의 성능 모니터링으로
DevOps
팀은 어떻게 해야할지 이미 잘 알고 있
다. 머신러닝 모델에서 필요로 하는 자원도 전통적 소프트웨어와 큰 차이가 없다.
예를 들어, 상용 환경에서 모델을 재학습시켜야 한다면, 컴퓨팅 자원의 확장성은 중요한 고려
사항이다. 특히, 딥러닝 모델은 단순한 의사결정 트리보다 훨씬 많은 자원을 필요로 한다. 하지
만
DevOps
팀이 이미 보유하고 있는 모니터링과 자원 관리에 대한 전문 역량을 머신러닝 모
델에도 적용할 수 있다.
3.4.2
데이터 ...