149
3
데이터 윤리
3.3
데이터 윤리는 넓은 분야이며, 여기서 모든 내용을 다룰 수는 없습니다. 대신 특별히 관련 있다
고 생각되는 몇 가지 주제를 선택해서 이야기해보죠.
●
청원 및 책임감의 필요성
●
피드백 루프
●
편 향
●
거짓 정보
하나씩 차례로 살펴보겠습니다.
3.3.1
복잡한 시스템에서는 아무도 결과에 책임감을 느끼지 않게 되기가 쉽습니다. 이런 태도를 이해
할 수는 있지만, 좋은 결과로 이어지지는 않습니다. 버그 때문에 뇌성마비가 환자가 필요한 치
료를 받지 못한 아칸소주의 건강관리 시스템을 다룬 예시로 돌아가봅시다. 알고리즘 개발자는
정부 관계자를, 정부 관계자는 소프트웨어를 개발자를 서로 비난했습니다. 뉴욕 대학교의 다나
보이드
Danah
Boyd
교수 (
https
://
oreil
.
ly
/
KK5Hf
)는 이 현상을 “관료주의는 책임을 전가하거
나 회피하는 데 자주 사용되었습니다. 오늘날의 알고리즘 시스템은 관료주의를 확장하고 있습
니다”라고 설명했습니다.
청원이 필요한 또 다른 이유는 데이터에 종종 오류가 포함되기 때문입니다. 감사와 오류 수정
메커니즘은 중대합니다. 캘리포니아 법률 집행원이 관리하는 범죄 조직 구성원 데이터베이스
는 오류로 가득 차 있습니다. 여기에는 한 살이 되기도 전에 데이터베이스에 들어간 아기
42
명
도 포함되었죠(그중
28
명은 ‘범죄 조직 구성원으로 인정됨’ 표시를 받음). 특히 누군가가 데이
터베이스에 등재된 다음, 실수를 수정하거나 감사를 거쳐 잘못 추가한 사람을 ...