DeepSeek-R1, OpenAI GPT-5, Google Gemini와 같은 LLMs은 추론 프레임워크를 통해 LLMs이 어떻게 새로운 차원으로 확장될 수 있는지를 보여주는 대표적인 사례입니다. LLMs의 추론은 최종 답변을 내놓기 전에 토큰을 통해 사고 과정을 생성함으로써 인간의 사고 방식을 모방하려고 시도합니다. 그림 3-1에서 볼 수 있듯이, 이러한 토큰은 LLMs의 사고 연쇄를 설명하며, 추론형 LLMs이 문제를 더 작은 단계들(흔히‘’ 추론 단계 또는 사고 과정이라고 함)로 분해할 수 있게 해줍니다.
그림 3-1. 추론 능력이 없는 LLM과 추론 능력이 있는 LLM의차이
추론형 LLMs은 최종적으로 쿼리에 답하기 전에 먼저 “생각”하고 중간 정보를 생성합니다.
흥미롭게도, 비추론형 LLM과 추론형 LLM의 차이는 인간 인지, 특히 다니엘 카네만(Daniel Kahneman)의 《생각의 속도와 깊이( )》에 제시된 이중 과정 이론에서 말하는 시스템 1( System 1)과 시스템 2( System 2) 사고의 관점을 통해 살펴볼 수 있습니다.1 이 이론은 인간 인지에서 두 가지 모드를 설명합니다.
인간 인지에서 시스템 1은 직관과 학습된 연관성에 의존하여 즉각적인 판단을 내리며, 자동적이고 신속하게 작동합니다. 비추론형 LLMs은 시스템 1 사고와 매우 유사하게 작동하며, 훈련 과정에서 학습한 패턴을 바탕으로 신속하게 응답을 생성합니다. 이들은 단계별(명시적) 사고 과정 없이 즉각적인 답변을 내놓습니다.
인간 인지에서 시스템 2는 의식적인 노력과 주의력을 필요로 하는, 더 느리고 신중한 추론을 수행합니다. 추론형 LLMs은 시스템 2의 사고 방식과 매우 유사하게 작동하며, 결론에 도달하기 전에 더 신중한 단계별 분석을 수행합니다. 이들은 문제를 명시적으로 해결해 나가며, 비추론형 LLM이 놓칠 수 있는 오류를 포착합니다.
시스템 1은 일상적인 작업에는 효율적이지만 인지적 편향에 취약한 반면, 시스템 2는 논리적 추론에 의존하여 더 정확한 결정을 내리는 경향이 있습니다. 추론은 AI 에이전트가 행동을 계획하고, 취할 행동을 결정하며, 취한 행동에 대해 반성할 수 있게 해주기 때문에 매우 중요합니다( 그림 3-2 참조). 여기에는 AI 에이전트가 적극적으로 정보를 탐색하고, 다양한 도구를 활용하며, 추론을 동적으로 개선할 수 있도록 하는 것이 포함됩니다.
그림 3-2. 에이전트는 확장된 추론을 활용하여 ...
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month, and much more.
O’Reilly covers everything we've got, with content to help us build a world-class technology community, upgrade the capabilities and competencies of our teams, and improve overall team performance as well as their engagement.
Julian F.
Head of Cybersecurity
I wanted to learn C and C++, but it didn't click for me until I picked up an O'Reilly book. When I went on the O’Reilly platform, I was astonished to find all the books there, plus live events and sandboxes so you could play around with the technology.
Addison B.
Field Engineer
I’ve been on the O’Reilly platform for more than eight years. I use a couple of learning platforms, but I'm on O'Reilly more than anybody else. When you're there, you start learning. I'm never disappointed.
Amir M.
Data Platform Tech Lead
I'm always learning. So when I got on to O'Reilly, I was like a kid in a candy store. There are playlists. There are answers. There's on-demand training. It's worth its weight in gold, in terms of what it allows me to do.
O’Reilly covers everything we've got, with content to help us build a world-class technology community, upgrade the capabilities and competencies of our teams, and improve overall team performance as well as their engagement.
