
90
GPT API를 활용한 인공지능 앱 개발(2판)
NOTE
1
장에서 언급했듯,
GPT
-
4
의 이미지 처리 기능을 위해 이미지 임베딩이 사용되지만, 오픈
AI
가
API
로 공개하
는 임베딩 모델은 텍스트만 처리할 수 있습니다.
2.8.2
모더레이션 모델
앞서 언급했듯이 오픈
AI
모델을 사용할 때는 오픈
AI
사용 정책 (
https
://
openai
.
com
/
policies
/
usage
-
policies
)을 준수해야 합니다. 오픈
AI
는 콘텐츠의 사용 정책 준수 여부
를 확인하는 모델을 제공합니다. 사용자 입력을 프롬프트로 사용하는 애플리케이션을 구축한
다면 모더레이션
moderation
모델의 결과에 따라 출력을 필터링할 수 있습니다. 이 모델은 클래스
기능을 제공해 다음 범주에서 영문으로 된 콘텐츠를 검사합니다.
●
차별 : 인종, 성별, 민족, 종교, 국적, 성적 지향, 장애, 계급에 근거해 집단에 관한 차별을 조장하는 내용
●
혐오 : 특정 집단에 관한 폭력이나 심각한 피해를 수반하는 혐오 표현
●
자해 : 자살, 자해, 섭식 장애 등 자해 행위를 조장하거나 묘사하는 내용
●
성적인 묘사 : 성행위 묘사나 성적인 서비스를 홍보하는 내용(교육 및 건강 관련 콘텐츠 제외 )
●
미성년자와의 성적 묘사 : 미성년자와 관련된 성적인 묘사와 관련된 내용
●
폭력적이거나 잔인한 콘텐츠