141
3
데이터 윤리
3.1
기술 분야에서 일반적인 세 가지 윤리적 문제를 설명하는 구체적인 사례부터 시작하겠습니다
(좀 더 자세한 내용은 이 장의 뒷부분에서 살펴봅니다 ).
●
Recourse
process
아칸소
Arkansas
주(州)에 배포된 건강관리 알고리즘의 버그가 많은 환자의 발을 묶은 사례
●
Feedback
loops
유튜브 추천 시스템이 갑작스러운 음모론 유행을 일으킨 사례
●
Bias
아프리카계 미국인 이름을 구글링하면 범죄 신원 조회 광고가 등장한 사례
이 장에서 소개하는 모든 개념에 관한 구체적인 예시를 적어도 하나 이상 제공하고자 합니다.
각 예시에서 여러분이라면 어떤 조치를 취할 수 있을지, 어떤 장애물이 있을지를 고민해보기
바랍니다. 직면한 문제를 어떻게 다룰 건가요? 또 무엇을 조심해야 할까요?
3.1.1
버지
The
Verge
는 미국의 주(州) 절반 이상에서 사용하는 소프트웨어를 조사하여 사람들이 의
료 서비스를 얼마나 많이 받는지 확인하고, 결과를 「
What
Happens
When
an
Algorithm
Cuts
Your
Healthcare
(
https
://
oreil
.
ly
/
25drC
)」라는 기사로 공개했습니다. 아칸소주
에서는 건강관리 알고리즘을 구현한 후, 중증 장애인 수백 명에게 제공하던 의료 서비스를 급
격하게 줄였습니다.
예를 들어 침대에서 일어나고, 화장실에 가고, 음식을 먹는 데 ...