MLOps 도입 가이드

149

8장 모델거버넌스

8.6

책임 있는

AI

의 핵심 요소

책임 있는

AI

는 데이터 실무자의 책임에 관한 것이지,

AI

그 자체가 책임져야 한다는 의미는

아니다. 이것은 매우 중요한 차이다. 데이터이쿠의 쿠르트 무에멜

Kurt

Muemel

에 따르면, 또 다른

중요한 차이점은 “의도적인 해악뿐 아니라, 우발적이고 비의도적인 피해에 관한 것이다.” 라는

점이다.

이번 절에서는 책임 있는

AI

의

5

가지 핵심 요소인 데이터, 편향, 포괄성

inclusiveness

, 확장적인 모

델 관리, 거버넌스와 각 요소에 대한

MLOps

고려 사항에 대해 설명한다.

8.6.1

핵심 요소

1

: 데이터

데이터에 대한 의존성은 머신러닝과 전통적인 소프트웨어 개발 간의 근본적인 차이점이다. 사

용한 데이터의 품질은 모델의 정확성에 가장 큰 영향을 미칠 것이다. 실제 고려 사항은 다음과

같다.

●

출처가왕이다.데이터가어떻게수집되었는지,사용시점까지어떤경로로전달되었는지이해해야한다.

●

데스크톱

PC

에서데이터를제거하라.데이터는관리·보호·추적이가능해야한다.

 개인정보는엄격하게관리되어야한다.

●

시간경과에따른데이터품질:일관성,완전성,소유권

●

안으로편향과밖으로편향.편향된입력데이터는고의성없이쉽게발생할수있다.

8.6.2

핵심 요소

2

: 편향

머신러닝 기반 예측 모델 구축은 현실 세계의 동향을 인지하고 이용하는 시스템을 구축하는 것

이다. 예를 들어, 특정 유형의 사람이 특정 장소에서 특정 유형의 자동차를 운전하는 ...