MLOps 도입 가이드

101

5장 상용화준비

5.7.3

모델의 잘못된 작동

모델의 잘못된 작동을 방어하기 위해 실시간으로 입력값과 출력값을 확인하는 것과 같은 다양

한 수단을 강구할 수 있다. 모델을 학습시키는 동안에도, 모델의 학습 및 검증 주기를 확인하여

적용 가능 영역을 특정할 수 있다. 추론 시 모델의 특성이 범위를 벗어난 값인 경우, 시스템이

특정 작동을 수행하도록 촉발

trigger

할 수도 있다. 예를 들어, 해당하는 표본은 거부하거나 경고

메시지를 전달할 수 있다.

특성 값의 주기를 제어하는 방법은 간단하면서도 유용한 기법이지만 충분하지 않을 수 있다.

예를 들어, 자동차 가격을 평가하기 위한 알고리즘을 학습할 때, 학습 데이터에 최신의 가벼운

차량과 구형인 무거운 차량만 포함되어 있고, 최신의 무거운 차량은 없을 수 있다. 이런 데이터

의 경우, 모델이 복합적이어서 성능을 예측하기 어렵다. 이처럼 특성이 많으면 차원의 저주를

피할 수 없다. 즉, 특성의 개수가 늘어나면 특성 간 조합의 수는 기하급수적

exponential

으로 늘어

난다.

이런 상황에서는 모델이 작동 범위를 벗어나는 이상 작동을 감지하는 것과 같은 보다 정교한

방법을 이용할 수 있다. 점수를 매긴 후, 추론을 확정하기 전에 모델의 출력을 검토할 수도 있

다. 분류

classification

의 경우, 많은 알고리즘에서 예측 외에 확실성

certainty

점수도 제공하고, 임곗값

을 수정하여 추론 결과를 받아들이도록 할 수 있다. 확실성 점수는 확률로 변환할 수 없다는 점

에 유의해야