에이전트 시대의 AI 시스템 설계

552

에이전트 시대의 AI 시스템 설계

def apply_guardrails(guardrails, prompt):

sanitized_prompt = prompt # initial

for scanner in guardrails:

sanitized_prompt, is_valid, _ = scanner(sanitized_prompt)

if not is_valid:

raise Exception("...")

return sanitized_prompt

출력이나 검색, 도구 매개변수에 가드레일들을 적용할 때도 이와 비슷한 코드를 사용하면 된다.

9.4.3

예제

제인 오스틴

Jane

Austen

의 저작을 바탕으로 질문에 답하도록 설계된 예제

RAG

시스템을 예로 들

어서 가드레일 패턴의 구현 방법을 살펴보자 (전체 코드는 깃허브 저장소

32

_

guardrails

파

일에 있다 ).

이

RAG

시스템에 다음과 같은 질문을 해 보자.

원망을 사지 않고도 조언을 하려면?

그러면 다음과 비슷한 응답이 나올 것이다.

네, 원망을 사지 않고 조언을 하는 것은 가능합니다. 텍스트는 … "이런 점에 대해 원망을

사지 않고 조언을 한 훌륭한 사례"로 묘사된 예를 보여 줍니다.

하지만 조언을 제공하는 태도가 중요한 것 같습니다. 또 다른 예에서 …

가드레일 구현

개인식별정보 (

PII

)가 포함된