를 통해 모델의 도구 사용 방식을 명시적으로 제어할 수 있습니다. 이를 통해 파운데이션 모델
중심의 유연한 호출 방식에서 결정적
deterministic
기능으로 전환할 수 있습니다. ‘
auto
’ 모드에서는
모델이 컨텍스트에 따라 도구 호출 여부를 스스로 결정하며 일반적인 용도에 적합합니다. 반면
‘
any
’ 또는 ‘
required
’ 모드는 모델이 최소 한 개의 도구를 반드시 호출하도록 강제하므로 도구
의 출력이 필수적인 경우에 이상적입니다. 파라미터를 ‘
none
’으로 설정하면 모든 도구 호출이
차단되며 이는 제어된 출력이나 테스트 환경에서 활용할 수 있습니다. 일부 인터페이스는 특정
도구를 고정
pin
해 예측 가능하고 반복 가능한 흐름을 보장하기도 합니다. 모드를 적절히 선택하
면 파운데이션 모델이 작업을 유연하게 처리하도록 할지 아니면 구조적으로 제약을 두어 안정
성과 예측 가능성을 높일지를 결정할 수 있습니다.
에이전트가 도구 호출을 건너뛰거나 잘못된
JSON
을 생성하거나 오류가 발생한 도구를 실
행하는 등 예상치 못한 오작동을 보일 수 있으므로 신뢰할 수 있는 폴백 메커니즘과 후처리
postprocessing
체계를 반드시 마련해야 합니다. 모델의 각 응답 후에는 다음 사항을 점검해야 합니
다. 모델이 올바른 도구를 호출했는지 유효한
JSON
을 생성했는지 런타임 오류 없이 ...
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month, and much more.
O’Reilly covers everything we've got, with content to help us build a world-class technology community, upgrade the capabilities and competencies of our teams, and improve overall team performance as well as their engagement.
Julian F.
Head of Cybersecurity
I wanted to learn C and C++, but it didn't click for me until I picked up an O'Reilly book. When I went on the O’Reilly platform, I was astonished to find all the books there, plus live events and sandboxes so you could play around with the technology.
Addison B.
Field Engineer
I’ve been on the O’Reilly platform for more than eight years. I use a couple of learning platforms, but I'm on O'Reilly more than anybody else. When you're there, you start learning. I'm never disappointed.
Amir M.
Data Platform Tech Lead
I'm always learning. So when I got on to O'Reilly, I was like a kid in a candy store. There are playlists. There are answers. There's on-demand training. It's worth its weight in gold, in terms of what it allows me to do.