에이전트 시대의 AI 시스템 설계

262

에이전트 시대의 AI 시스템 설계

추론 깊이의 한계

단순한

RAG

시스템은 검색된 문서에 명시적으로 존재하는 정보에 국한된, 얕은 수준의 추론

만 수행한다. 따라서 다단계 추론이나 추론의 연결이 필요한 쿼리에는 어려움을 겪는다. 예를

들어 이런 쿼리를 생각해 보자.

엣지 기기(edge device)에서 실시간 영상 처리를 위해 선형 주의(linear attention) 메커

니즘을 사용하는 트랜스포머 모델을 적용한다면 시스템에 어떤 영향이 미칠까?

단순한

RAG

시스템이라도 트랜스포머, 어텐션 메커니즘, 엣지 컴퓨팅에 대한 문서들을 검색

할 수는 있다. 하지만 검색된 개념들을 연결해서 최종적인 답변을 구성하지는 못한다.

다중 홉 쿼리 문제

단순한

RAG

시스템은 검색과 생성 단계를 한 번만 거치기 때문에 다중 홉 쿼리를 처리하는 데

어려움을 겪는다. 다중 홉 쿼리란 하나의 공급원 (소스 )에서 검색한 정보를 바탕으로 이후의

정보 요구사항에 맞는 효과적인 쿼리들을 만들어 내는 방식을 말한다.

예를 들어 단순한

RAG

시스템이라면 다음 쿼리를 제대로 처리하지 못할 것이다.

MIT에서 발표한 최신 양자 머신러닝 논문에 서술된 알고리즘을 구현하는 데 가장 적합한

프로그래밍 언어는 무엇인가?

이 쿼리에 답하려면 시스템이 먼저 관련 논문을 식별해야 할 뿐만 아니라 그 논문에 ...