AI를 위한 필수 수학

615

Chapter 14 -

인공지능, 윤리, 수학, 법률, 정책

[…] 이러한 문제를 일부 해결하기 위해 훈련 데이터의 하위 집합은 노이즈 및 원치 않는 콘텐츠 (

예

포르노 이

미지, 악의적 언어 )를 제거하기 위해 필터링되었다. 하지만 한편으로는 포르노 이미지, 인종 차별 용어, 유해

한 사회적 고정 관념 등 광범위하고 부적절한 콘텐츠를 포함한 것으로 알려진

LAION

-

400M

데이터셋도

활용했다.

Imagen

은 정제되지 않은 웹의 대규모 데이터로 훈련된 텍스트 인코더에 의존하기 때문에 대규모

언어 모델의 사회적 편견과 한계를 그대로 흡수할 수 있다. 따라서

Imagen

은 해로운 고정 관념과 표현을 인

코딩했을 위험이 있으며, 이러한 이유로 추가적인 보호 조치 없이는

Imagen

을 대중에게 공개하지 않기로 결

정했다. […]

Imagen

은 이미지 생성 시 사람을 묘사하는 부분에서 심각한 한계를 보여준다. 실제 사용자 평

가 결과, 사람이 등장하지 않는 이미지에서

Imagen

이 더 높은 선호도를 얻었는데, 이는 사람을 표현하는 이

미지의 완성도가 떨어진다는 것을 시사한다. 또한 예비 평가를 통해

Imagen

이 몇 가지 사회적 편견과 고정

관념을 반영하는 것으로 나타났다. 예를 들어 일반적으로 피부톤이 더 밝은 사람들의 이미지를 생성하는 경

향과 서구의 성별 ...