MLOps 도입 가이드

118

2부MLOps적용방법

 주요확인사항은다음과같다.시스템이살아있는가?

CPU

,

RAM

,네트워크사용량및디스크공간이예상

한수준내에있는가?요청을예상한수준의속도로처리하고있는가?

●

성능 관점:시간의흐름에따라모델이적절히작동하는지모니터링하는것을의미한다.

 주요확인사항은다음과같다.모델이새로들어오는데이터패턴을여전히정확하게표현하고있는가?설계

단계에서예상한수준으로성능이제대로발휘되고있는가?

첫 번째 관점은 여러 문헌에서 광범위하게 다뤄진 전통적인

DevOps

주제다(

6

장에서 다룬

다). 반면에 두 번째 관점은 다소 복합적이다. 왜 그럴까? 모델의 수행 역량은 모델의 학습 데

이터를 반영하기 때문이다. 즉, 학습 데이터가 실시간 요청 데이터를 어느 정도까지 커버하는

지에 따라 성능이 달라진다. 세상이 끊임없이 변화함에 따라 정적인 모델은 새로운 데이터를

끊임없이 전달받지 않는 이상 새롭게 등장하고 발전하는 패턴을 따라잡을 수 없다. 편차가 큰

경우에는 하나의 예측 결과만으로도 감지할 수 있다(

5

장을 참고하자). 그러나 편차가 유의미

하지만 작은 경우 (실측 데이터 유무에 관계없이) 스코어링된 데이터 세트에서 통계적으로 감

지해야 한다.

모델 성능 모니터링은 이러한 성능 하락을 추적하고, 적절한 시점에 현실에 대해 더 대표성을

띠는, 즉 현실을 더 잘 반영하는 데이터를 활용하여 모델을 재학습시키도록 촉발한다. 이번 장

에서는 데이터 팀이 모니터링과 후속 ...