MLOps 도입 가이드

96

2부MLOps적용방법

으로서

8

장에서 상세히 다루겠다. 머신러닝 및

MLOps

프로세스에서

QA

와 관련된 완전한 툴

체인은 요구사항과 관련된 모델의 성능을 명확히 확인할 수 있는 기능을 제공해야 함과 동시에

감사 가능성도 용이하도록 해야 한다.

MLOps

프레임워크를 활용하여 데이터 과학자(또는 다른 이해관계자들)는 모델 및 모델과 관

련된 모든 메타데이터를 확인할 수 있으나, 모델 자체를 이해하기란 쉽지 않다. 이에 대한 자세

한 내용은

4

.

5

.

3

절에서 확인할 수 있다.

감사 가능성이 강력하고 실질적인 영향을 미치려면, 시스템의 모든 부분과 버전 이력에 대해

사람이 직관적으로 이해할 수 있도록 하는 것을 목표로 해야 한다. 물론 이것이 (아무리 간단한

모델이라 하더라도) 머신러닝 모델을 이해하려면 적절한 학습이 필요하다는 사실을 바꿀 수 없

다. 응용 프로그램의 중요도에 따라 더 많은 청자가 모델의 세부 사항을 이해할 수 있게 하려는

것이다. 결과적으로 완전한 감사 가능성은 높은 비용을 필요로 하여, 모델의 중요도에 따라 균

형을 이루어야 한다.

5.6

머신러닝 보안

모델을 소프트웨어의 일부로 배포하여 어떤 프레임워크를 활용해서 서비스할 때, 저수준의 결

함부터 사회 공학적 문제에 이르기까지 다양한 보안 이슈를 일으킬 수 있다. 머신러닝이 유발

하는 잠재적 위협은 다양하여, 공격자가 모델이 실수하도록 유도하는 악의적 데이터를 제공하

는 것과 같은 위협도 가능하다.

잠재적 공격 사례는 아주 많다. 예를 들어, 스팸 필터는 머신러닝을 ...