로우코드 AI

189

6

장

빅쿼리 ML로 선형 회귀 모델 학습시키기

6.4

설명 가능한

AI

지난

10

년간 딥러닝처럼 복잡한 모델들이 등장함에 따라

설명 가능한

AI

explainable

AI

(

XAI

)가 빠

르게 성장하는 연구 분야로 떠올랐습니다.

XAI

의 목표는 모델의 행동을 사람이 이해할 수 있

는 형태로 설명하는 것입니다. 이는 모델의 성능 개선, 모델의 문제 파악, 규정 준수, 그리고 윤

리적 이유로 모델이 특정 편견을 피하도록 하는 등 다양한 방식으로 사용할 수 있습니다. 이 절

은 빅쿼리

ML

의 맥락에서

XAI

를 간략히 소개합니다.

XAI

에서는 로컬 설명

local

explanation

과 글로벌 설명

global

explanation

을 자주 이야기합니다. 로컬 설명

은 단일 인스턴스나 소규모 인스턴스 그룹에 집중하며, ‘이 모델이 왜 특정 데이터에 대해 이런

예측을 했을까?’와 같은 질문을 해결하는 데 중점을 둡니다. 반면 글로벌 설명은 모델의 전체적

인 동작을 이해하는 데 도움을 주며, ‘이 모델의 예측에 가장 큰 영향을 미치는 요소는 무엇일

까?’ 같은 질문에 답하는 데 사용합니다.

그렇다면 이러한 설명은 어떻게 계산할까요? 주로 모델이 학습된 후, 즉 사후

post

hoc

에 계산됩니

다. 일부는 특정 모델 유형에만 적용되거나, 일부는 모델 종류와는 무관하게 사용할 수 ...