181
7
장
모델 분석 및 검증
7.4
모델 설명 가능성
공정성에 대해 논의하고
WIT
를 활용하면 자연스럽게 모델의 성능을 설명할 수 있습니다. 또
한 그 안에서 무슨 일이 일어나고 있는지 설명할 방법에 대해 토론하게 됩니다. 앞서 공정성을
다루며 잠깐 언급했지만 여기서는 조금 더 자세히 다뤄보겠습니다.
모델
설명 가능성
explainability
에서는 모델의 예측이 왜 그렇게 되는지 설명하려고 합니다. 이는 다
양한 지표에 대한 모델의 성능을 설명하는
분석
analysis
과는 대조적입니다. 머신러닝에 대한 설
명 가능성은 큰 주제이며, 현재 연구가 활발히 이루어지고 있습니다. 이는 파이프라인에서 자
동화할 수 있는 부분이 아닙니다. 설명은 사람들에게 보여야 하기 때문입니다. 여기서는 간
략한 개요만 알려드리며, 자세한 내용은 크리스토프 몰나르
Christoph
Molnar
의 『
Interpretable
Machine
Learning
(
https
://
oreil
.
ly
/
fGtve
)』과 구글 클라우드의 백서 (
https
://
oreil
.
ly
/
3CLTk
)를 참고하시기 바랍니다.
다음은 모델의 예측을 설명하려는 몇 가지 이유입니다.
●
데이터 과학자가 모델 문제를 디버깅할 수 있도록 지원합니다.
●
모델에 대한 신뢰를 구축합니다.
●
모델을 감사합니다.
●
사용자에게 모델 예측을 설명합니다.
앞으로 다룰 자세히 설명하는 기법은 이런 모든 사용 사례에 도움이 됩니다.
단순한 모델의 예측은 복잡한 모델 예측보다 훨씬 쉽게 설명할 수 있습니다. 선형 ...