에이전트 시대의 AI 시스템 설계

532

에이전트 시대의 AI 시스템 설계

터

raw

data

를 조립한다. 둘째 단계에서는 조립된 콘텐츠를

LLM

을 이용해서 재구성한다. 콘텐츠

를 처음부터 생성하는 것에 비해 기존 문구를 바꾸거나 요약하는 작업은 부정확성을 초래할 가

능성이 상대적으로 낮다는 점에 착안한 패턴이다.

9.2.1

문제

온라인 쇼핑 사이트의 제품 카탈로그를 만든다고 하자. 제품 카탈로그는 잠재적 구매자와 검색

엔진 모두에 매력적이어야 한다. 사이트에는 수십만 개의 제품 페이지가 있으므로, 사람이 직

접 하기보다는

LLM

을 이용해서 카탈로그 웹 페이지를 생성하는 것이 바람직하다.

이 시나리오에서 환각이나 부정확한 콘텐츠와 관련된 위험을 생각해 보자. 예를 들어 리튬 배

터리가 장착된 카메라에 대해

LLM

이 생성한 카탈로그 페이지에서 배터리가 알카라인이라고

설명한다면, 회사는 어느 정도의 위험에 노출될까? 리튬 배터리는 밀폐된 공간에서 통제 불가

능한 화재를 일으킬 수 있기 때문에 항공기 위탁 수하물로 부치는 것이 금지되어 있다. 만약 여

러분의 사이트에서 판매한 카메라가 비행기 화물칸에서 불이 붙거나 화재를 확산시킨다면 어

떻게 되겠는가? 또는, 수하물에 인화성 물품이 있다는 이유로 항공사가 고객의 탑승을 거부한

다면 어떨까? 배터리 유형에 대한 겉보기에는 사소해 보이는 이 오류와 관련된 위험이 꽤 크다

는 점에 동의할 것이다. 따라서 이런 용례에서

LLM

기반 동적 생성은 지나치게 위험하다.

LLM

이 부정확하거나 환각을 일으킬 위험을 감수하지 않고

LLM

생성의 이점을 ...