MLOps 도입 가이드

80

2부MLOps적용방법

모델을 비교할 때 데이터 과학자가 차이점을 확인할 수 있도록 하여, 한 가지 지표만 확인하기

보다는 더 심층적으로 분석할 수 있도록 해야 한다. 즉, 완전한 환경(인터랙티브 도구, 데이터

등)을 제공하여 모든 모델을 확인할 수 있도록 하고, 궁극적으로는 모델의 모든 측면 혹은 모든

구성 요소를 비교 분석할 수 있도록 해야 한다. 예를 들어, 드리프트의 경우에는 설정을 동일하

게 유지한 채 서로 다른 데이터를 활용하여 비교 분석할 수 있고, 모델 성능을 확인할 때는 데

이터는 동일하게 유지한 채 여러 설정을 비교해볼 수 있다.

4.5.3

책임 있는

AI

가 모델에 주는 영향

상황에 따라(때로는 산업이나 비즈니스 분야에 따라), 데이터 과학자는 모델 작동에 대한 포괄

적인 이해를 바탕으로 모델의 개별적 예측 결과를 설명할 수 있어야 할 수 있다. 여기에는 어떤

특성들이 어떤 방향으로 예측을 유도했는지도 포함한다. 때로는 특정 경우에 대한 예측이 평균

적인 결과와 크게 다를 수도 있다. 개별적 예측에 대한 설명을 확인할 때 가장 각광받는 방법은

샤플리 값

Shapley Value

(가능한 모든 조합에 나타난 특성의 평균적 이익 기여도)과 개별 조건부 기

대치

Individual

Conditional

Expectation

(

ICE

) 계산이다. 이를 활용하면 타깃 함수와 특성 간 의존성을 확

인할 수 있다.

예를 들어, 특정 호르몬의 측정 수준에 따라 모델이 어떤 사람의 건강에 문제가 있는지 예측하

는 경우가 일반적이지만, ...