99
5장 상용화준비
5.7
모델 리스크 경감
1
장에서 자세히 다루었듯이, 일반적으로 모델의 배포 범위가 넓어질수록 리스크도 커진다. 리
스크의 영향이 크다면 새로운 버전의 배포를 완전히 통제해야 하고, 이를 위해 충분히 통제된
MLOps
프로세스를 적용해야 한다. 점진적인 방식 혹은 카나리
canary
방식으로 출시해야 하며,
적은 범위의 조직 혹은 고객에게 모델의 새 버전을 배포해야 한다. 그리고 모델의 행태와 사용
자의 피드백을 모니터링하면서 배포 범위를 점차 넓혀나가야 한다.
5.7.1
환경 변화
이번 장의 앞부분에서 언급한 바와 같이, 빠르게 변화하는 환경으로 인해 리스크가 급격히 증
가하고 있다. 입력값의 변화는 직접적으로 연관된, 쉽게 식별할 수 있는 리스크로서
7
장에서
상세한 내용과 대응 방안에 대해 살펴보겠다. 그런데 여기서 중요한 점은 변화의 속도가 응용
프로그램의 리스크를 증폭할 수 있다는 점이다. 변화가 너무 빨라 모니터링 시스템이 경고를
전달하기도 전에 문제가 생길 수 있다. 즉, 아무리 효율적인 모니터링 시스템을 갖추고 변화에
대응하여 모델을 지속적으로 재학습시킨다 해도, 대응에 필요한 시간 자체가 위협이 되어버릴
수 있다. 특히 단순히 모델을 재학습시키는 게 아니라 완전히 재개발해야 한다면 문제는 더
심각하다. 이 대응 시간 동안 상용 시스템의 오작동이 지속되고 조직은 엄청난 손해를 입을
수 있다.
이러한 리스크를 통제하기 위해서는
MLOps
기반 모니터링이 충분히 기민하게 반응해야 하고
(통상적인 주기인 주 ...