에이전트 시대의 AI 시스템 설계

130

에이전트 시대의 AI 시스템 설계

2.4.5

고려사항

이 패턴의 관건은 모델이 모든 관련 콘텐츠를 원본과 스타일만 다른 중립적인 형태로 변환할

수 있느냐에 걸려 있다.

중립 형태 선택

반복해서 손쉽게 생성할 수 있는 중립 형태를 선택하는 것이 중요하다. 앞의 프롬프트 예제에

서는 ‘임원 간의 소통’이나 ‘대학 신입생 수준의 읽기 능력’ 같은 문구를 사용했다. 하지만 사실

중립성

의 정의는 다소 주관적이라서,

LLM

마다 복잡성이나 구성, 어조가 다른 텍스트를 생성할

수 있다.

LLM

은 편향

bias

에서 자유롭지 않음을 주의하자.

LLM

이 정의하는

중립성

은 여러분의

애플리케이션이 정의하는 중립성과 다를 수 있다.

LLM

을 사용해 텍스트를 역중립화할 때 이

점을 명심하고, 결과물의 명확성과 정확성을 재차 확인해야 한다.

이를 평가하는 한 가지 방법은 원본 텍스트와 그로부터 생성된 중립 텍스트의 임베딩

embedding

들을 비교해 사용하는 것이다. 두 텍스트는 의미가 매우 유사해야 하므로, 두 임베딩의 코사인

유사도

cosine

similarity

가 높아야 한다. 물론 이 방법은 신중하게 사용해야 한다. 원본과 가장 유사

한 텍스트는 원본을

전혀

바꾸지 않은 텍스트이므로, 코사인 유사도가 너무 높다는 것은 스타

일이 제대로 변환되지 않았음을 뜻할 수도 있다.

텍스트에 따라서는 내용이 스타일과 너무 긴밀하게 얽혀 있는 탓에 스타일을 중립화하면 텍스

트에 담긴 정보나 의미가 소실될 수도 있다. 따라서 중립화 결과를 원래의 스타일이 살아 있는 ...