린 AI : 사용자 유치, 그로스 마케팅, 성장 전략 수립에 인공지능 활용하기

13

장

-

리스크를 줄이는 방법

211

바뀔 수 있다. 여러 변수를 모델에 입력해보고 그 결과가 미치는 영향을 확인

해야 한다.

한 사람의 의사결정을 명확히 설명하기 어려운 것처럼 정교한 인공지능 모델도

결론을 도출한 이유를 명확하게 설명하기 어렵다. 인공지능에 대한 신뢰를 높일

수 있도록 인공지능의 동작 원리와 과정을 설명할 수 있어야 한다. 소프트웨어 제

공자는 어떻게 하면 인공지능의 의사결정 과정을 투명하게 제공할 수 있을지를

연구해야 한다.

편향성

데이터셋이 충분히 준비됐더라도 데이터가 편향되면 문제가 발생한다. 알고리즘

이 편향된 데이터로 훈련한다면 결과 또한 편향되기 때문이다. 고객 데이터는 특

정 성별이나 인종, 연령에 쉽게 치우칠 수 있으며, 새로운 잠재 고객을 확보하는

데 악영향을 미친다. 조직이 지향하는 원칙, 목표, 가치와 데이터, 알고리즘이 동

일 선상에 있는지 살펴봐야 한다. 아직 인공지능은 특정 결괏값에 대한 윤리적 판

단이나 가치 판단 등을 할 수 없다.

편향된 상황을 기초로 만들어진 데이터를 인공지능에 제공한다면 인공지능이 산

출하는 결과도 편향된다. 사람들은 보통 편향적이거나 쓸모없는 데이터에서 얻은

결과물이라고 해도, 컴퓨터에서 나온 결과물이라면 사실이라고 믿는 경향이 있

다.

IMVU

역시 데이터 편향성 때문에 부정적인 상황을 겪은 적이 있다. 편향된

데이터 때문에 소셜 미디어를 사용하는

18

~

24

세 여성을 위주로 잠재 고객이 형

성되어 인공지능에 전달됐다. 문제는 이미

IMVU

가 지향하던 고객층이라는 점이