
234
에이전트 시대의 AI 시스템 설계
개인화와 대화 기록
검색과 생성 사이의 후처리 단계에서 할 수 있는 또 다른 일은 검색된 내용 이외의 정보를 컨텍
스트에 추가하는 것이다. 예를 들어 검색된 노드를 살펴보고 사용자와 유관한 정보를 가져와서
컨텍스트에 추가하는 등이다.
간단한 형태로는, 사용자의 과거 대화 내역 중 쿼리와 관련이 있는 것을 추가하는 것을 생각할
수 있겠다. 여행 챗봇이 사용자의 개인적인 여행 날짜를 반영해서, 주어진 여행지를 사용자가
방문하려는 계절에 맞게 설명한다고 상상해 보기 바란다.
일반적으로 챗봇은 이전 몇 차례의 대화를 요약한 텍스트를 컨텍스트에 추가해서 답변의 그라
운딩에 활용한다. 그런 요약(사용자의 과거 수정 사항이나 선호도도 포함된)을
대화 상태
conver-
sation
state
라고 부르기도 한다. 다음은 이전에 생성한 농담을 더 발전시켜 달라고 요청하는 예로,
파이댄틱
AI
를 이용한 코드이다.
joke = agent.run_sync('농담 하나 해줘.')
print(joke.data)
#> 농담 내용
joke2 = agent.run_sync('농담을 더 길게 만들고 펀치라인을 추가해 줘.',
message_history=joke.new_messages())
print(joke2.data)
검색된 정보에 기반해서 ...