대규모 언어 모델: 어려운 부분 (Korean Edition)

제7장. 안전성을 위한 LLMs평가

이 작품은 AI를 사용하여 번역되었습니다. 여러분의 피드백과 의견을 환영합니다: [e-mail]

잘못 탄 기차라면 첫 번째 역에서 내리세요. 오래 머물수록 반환하는 비용이 더 많이 듭니다.

일본 속담

이 장에서는 안전 위험을 평가하고 완화하기 위해 유해한 prompt(예: LLM에게 폭탄 제조법을 묻는 경우)와 안전하지 않은 모델의 행동에 대해 논의합니다. 예시는 적절한 경우 축약되거나 추상화되어 있습니다.

적절한 안전 장치가 없다면, LLMs은 유해한 콘텐츠를 생성하거나 악의적인 prompt에 응답하여 심각한 결과를 초래할 수 있습니다. 여기에는 위험한 활동에 대한 지침을 생성하거나, 개인이나 사회에 해를 끼칠 수 있는 조언을 제공하거나, 우려스러운 사용자 발언을 인식하지 못하고 적절히 처리하지 못하는 경우가 포함됩니다. 이러한 위험은 악의적인 행동을 조장하는 것부터 안전하지 않은 조언을 통해 직접적인 피해를 입힐 가능성에 이르기까지 다양합니다.¹

Bertie Vidgen 외(2023)의 “SimpleSafetyTests: A Test Suite for Identifying Critical Safety Risks in Large Language Models ”에서 발췌한그림 7-1은 일부 오픈 소스 대규모 LLMs이 제공한 입력 prompt에 대한 유해한 응답의 단순하지만 경각심을 주는 예를 보여줍니다.

그림 7-1. 유해한 사용자 prompt에 대한 Mistral (7B), Dolly v2 (12B), Llama2 (13B)의응답

따라서 LLMs를 배포하거나 LLMBA를 구축할 때는 안전성을 고려해야 하며, 이를 개발 단계에서의 안전성 평가와 배포 단계에서의 (사용자 및 기업의) 보호라는 두 가지 별개의 단계에서 수행해야 합니다.

개발 단계에서는 SALAD-Bench나 TruthfulQA와 같은 안전성 벤치마크를 사용하여 모델을 평가합니다. 이는 서로 다른 모델 중에서 선택할 때—예를 들어, 특정 사용 사례에 Llama-2-7b와 Llama-3-8b 중 어느 것이 더 안전한지 결정하거나, 모델을 미세 조정한 후 그 과정이 안전성 특성을 저하시키지 않았는지 확인하고자 할 때—필요합니다 (성능 저하와는 별개로). 안전성 벤치마크는 “우리 모델이 유해한 요청의 85%를 거부한다”거나 “72%의 확률로 진실하게 답변한다”와 같은 지표를 제공합니다. 우리는 이러한 수치를 바탕으로 모델이 배포할 만큼 충분히 우수한지 여부에 대해 정보에 입각한 결정을 내립니다. 이는 오프라인 테스트로, 모든 사용자 쿼리에 대해 실행하는 것이 아니라 개발 과정에서 한 번 또는 주기적으로 실행합니다. 이를 2장과 3장에서 수행한 평가 작업과 병행하여 진행되는 과정으로 생각할 수 있습니다. 우리는 성능이 ...