MLOps 도입 가이드

151

8장 모델거버넌스

다음과 같은 주제가 있을 수 있다.

●

예측결과이해:왜모델이특정한예측을했을까?

●

하위집단분석:하위집단사이에편향이있는가?

●

종속성이해:특성들각각은어떤기여를하는가?

상당히 다른 방향이긴 하지만, 편향을 해소하는 보완적인 접근법은 개발 과정에서 가능한 한

광범위하게 인간의 전문 지식을 활용하는 것이다. 이는 책임 있는

AI

의 요소 중 하나인 포괄성

의 한 측면이다.

8.6.3

핵심 요소

3

: 포괄성

HITL

Human

-

in

-

the

-

Loop

접근법은 최고의 인간 지능과 최고의 기계 지능을 결합하는 것을 목표로

한다. 기계는 방대한 데이터 세트를 바탕으로 현명한 결정을 내리는 데 뛰어난 반면, 인간은 더

적은 정보로 결정을 내리는 데 훨씬 능숙하다. 인간의 판단은 윤리적 판정 및 피해와 관련된 판

단을 내리는 데 특히 효과적이다.

이 개념은 모델을 상용 환경에서 사용하는 방식에 적용해볼 수 있고, 모델을 구축하는 과정에

서도 똑같이 적용해볼 수 있다. 예를 들어, 승인

sign

-

off

프로세스에서

MLOps

루프에 인간이 책

임지는 부분을 공식적으로 넣는 것은 간단하지만 매우 효과적이다.

포괄성의 원칙은 인간-

AI

협업의 아이디어를 더욱 발전시킨다. 머신러닝 생애주기에 가능한

한 다양하게 인간의 전문 지식을 도입하면 사각지대 혹은 누락으로 인한 리스크를 줄일 수 있

다. 머신러닝을 구축하는 집단의 포괄성이 낮을수록 리스크도 커진다.

비즈니스 분석가, 직무 전문가, 데이터 과학자, 데이터 엔지니어, ...