fastai와 파이토치가 만나 꽃피운 딥러닝

164

1



실전 딥러닝

데이터셋을 사용하는 사람들은 편향과 한계에 허를 찔리지 않을 것입니다.

“인간이 편향된 사고를 하는데, 알고리즘적 편향이 중요할까요?”라는 질문을 자주 받습니다.

이를 묻는 사람들이 나름대로 합리적인 추론을 했을 것으로 생각합니다. 그러나 저희가 듣기

에는 논리적으로 타당하지 않았죠! 사실 그들의 생각이 논리적인지와 관계없이 알고리즘(특히

머신러닝 알고리즘 )과 사람이 다르다는 점을 인식해야 합니다. 머신러닝 알고리즘에 관한 다

음 사항을 고려해보죠.

●



피드백의 고리 때문에 약간의 편향이라도 기하급수적으로 빠르게 증가할 수 있습니다.

●



인간의 편향은 더 심각한 머신러닝 편향으로 이어질 수 있습니다.

●



인간 의사 결정자와 알고리즘적 의사 결정자는 플러그 앤 플레이

plug

-

and

-

play

, 즉 교환할 수 있는 방식으

로 사용되지 않습니다. 이에 관한 예는 다음 목록에 있습니다.

●



그리고 강한 힘에는 책임이 뒤따릅니다.

아칸소주의 의료 사례에서 보았듯이 실제로 머신러닝은 더 나은 결과를 보장하기 때문이 아니

라, 더 저렴하고 효율적이기 때문에 구현될 때가 많습니다. 캐시 오닐

Cathy

O

’

Neill

은 자신의 저서

인 『

Weapons

of

Math

Destruction

』(

Crown

,

2016

)에서 특권 계급을 위한 것은 사람에 의

해 처리되는 ...