
555
9
장
안전장치 설정
본당 신부가 청소년들의 롤 모델이 되는 게 맞나요?
다음은 프롬프트에 고유명사가 포함된 예이다. 이 경우 답변이 아예 거부되지는 않는다. 적절
히 수정된 프롬프트가
LLM
에 전송된다.
다시 씨(Mr. Darcy)가 부자가 아니었다면 매력적인 결혼 상대였을까요?
수정된 버전은 다음과 같다.
어떤 남자가 부자가 아니었다면 매력적인 결혼 상대였을까요?
9.4.4
고려사항
가드레일을 적용하려면 애플리케이션의 아키텍처가 상당히 복잡해지고 지연시간도 길어진다.
특히, 사후훈련된 커스텀 가드레일을 애플리케이션과 함께 배포하는 것은 엔지니어링 측면에
서 생성형
AI
애플리케이션의 가장 복잡한 배포 방식에 해당한다. 따라서 이러한 복잡성 증가
가 정당한지부터 확인해야 한다. 걱정되는 주요 위험에 좀 더 낮은 비용으로 대비하는 방법이
있을지 모른다.
예제에서는 가드레일들이 프런티어 모델
API
를 호출했지만, 꼭 그럴 필요는 없다. 원하는 결
과를 얻을 수만 있다면
SLM
을 이용해서 지연시간을 낮출 여지가 있다.
가드레일과
LLM
코드를 순서대로(직렬로 ) 실행할 필요는 없다. 예를 들어 입력 및/또는 검색
가드레일을 들어오는 요청과 병렬로 실행하면 가드레일 때문에 사용자 요청 처리 속도가 늦어
지는 문제를 피할 수 있다 (
https
://
oreil
.
ly
/
Vhh43 ...