MLOps 도입 가이드

98

2부MLOps적용방법

5.6.2

다른 취약점들

일부 패턴은 머신러닝에 내재된 취약점 자체를 악용하지 않고 머신러닝 모델을 악용하여 바람

직하지 못한 상황에 이르도록 유도한다. 한 가지 예로 신용 점수가 있다. 정해진 금액을 대출해

야 하는 상황에서, 유동성이 낮은 대출자는 회당 상환액을 줄이기 위해 대출 기간을 길게 할 것

이고, 자금에 여유가 있는 대출자는 신용 비용을 줄이기 위해 대출 기간을 짧게 할 것이다. 그

런 상황에서 영업사원이 신용 점수가 낮은 사람에게 대출 기간을 짧게 하자고 할 수 있다. 그러

면 대출자와 은행의 리스크가 모두 상승하므로 적절하지 않은 방향이다. 상관관계

correlation

가 있

다 해서 인과관계

causality

인 것은 아니다!

또한 모델에서 여러 가지 방식으로 데이터가 유출될 수 있다. 머신러닝 모델은 근본적으로 학

습 데이터의 요약이라고 볼 수 있기 때문에, 학습 데이터 중 많든 적든 정확한 정보가 유출될

수 있고, 때에 따라서는 전체 학습 데이터가 유출될 수 있다. 예를 들어, 최근접 이웃 알고리즘

nearest

neighbor

algorithm

을 활용하여 누군가의 지불 금액을 예측하는 모델이 있다고 하자. 어떤 사람

이 서비스에 등록된 특정 인원의 우편번호, 나이, 직업을 알고 있다면, 그 사람의 정확한 수입

을 얻기란 무척 쉬울 것이다. 이런 방식으로 모델에서 정보를 추출하는 공격 방식은 다양하게

존재한다.

보안에서는 기술적 개선과 감사 외에 거버넌스도 중요한 역할을 한다. 책임을 명확히