MLOps 도입 가이드

155

8장 모델거버넌스

모든

MLOps

거버넌스 프레임워크는 회사의 윤리적 위치를 반영해야 한다. 보통 그 위치가 모

델이 무엇을 어떻게 하는지에 영향을 끼치기는 하지만,

MLOps

거버넌스 프로세스가 배포된

모델이 선택한 윤리적 입장과 일치한다고 보장해야 한다. 이 윤리적 입장은 거버넌스 프로세스

에 보다 광범위하게 영향을 끼칠 가능성이 높고, 그 범위에는 새로운 모델의 선택과 검증, 우발

적인 손상의 허용 가능성 등이 포함된다.

다음과 같은 윤리적 질문을 생각해보자.

●

사회에서복지의어떤측면이중요한가?예:평등,사생활,인권과존엄,고용,민주주의,편향성

●

인간심리에대한잠재적영향을고려해야하는가?예:인간-인간또는인간-

AI

관계,속임수,조작,착취

●

재정적영향에대한입장이필요한가?예:시장조작

●

의사결정이얼마나투명해야하는가?

●

기업이

AI

에의한실수에대해어느정도수준까지책임질수있겠는가?

3

단계: 책임 소재 설정

MLOps

거버넌스를 감독할 책임이 있는 사람들과 그들의 역할을 판별해야 한다.

●

관리계층의상위부터하위까지의전체조직및모든부서를참여시켜라.

●

피터드러커(

Peter



Drucker

)는“전략은조직문화의아침식사거리밖에되지않는다.”라는유명한말을남

겼는데,이말은광범위한참여와공유된믿음의힘을강조한것이다.

●

완전히새로운거버넌스구조를만드는일은피하라.어떤구조가이미존재하는지확인하고

MLOps

거버넌

스를그구조에통합해보라. ...