121
4
장
도구
injection
으로
DROP
이나
ALTER
같은 위험한 구문이 끼어들 수 있다고 경고합니다. 따라서 입력 검
증은 이러한 패턴이 포함된 문장을 반드시 거부해야 합니다. 또한 파라미터 바인딩이나 준비된
명령문
prepared
statement
을 사용해
SQL
인젝션을 방지하고 에이전트가 사용하는 데이터베이스 계
정에는 허용된 쿼리를 실행하는 데 필요한 최소한의 권한만 부여해야 합니다.
정화 외에도 모든 도구 호출을 로깅해 이상 행위를 탐지하고 포렌식 분석을 지원하는 것이 강
력히 권장됩니다. 대규모 삭제나 스키마 변경 명령처럼 의심스러운 패턴에 대해 실시간 경고를
설정하면 작은 오류가 큰 사고로 번지기 전에 신속히 개입할 수 있습니다.
궁극적으로는 ‘최소 권한 원칙
principle
of
least
power
’이 설계의 기준이 되어야 합니다. 모델이 꼭 필
요한 도구만 사용하도록 하고 모든 작업은 명확한 경계와 감시 속에서 수행되어야 합니다. 도
구가 로컬에서 실행되든 외부
API
를 호출하든
MCP
서버에서 실행되든 동일한 보안 원칙이
적용됩니다. 기능을 제한하고 입력을 정화하며 최소 권한을 강제하고 완전한 가시성을 유지하
세요. 이런 수준의 통제와 규율로 상태 유지 도구를 다룰 때
AI
에이전트는 통제 불능의 데이터
베이스 관리자가 아니라 신뢰할 수 있는 협력자로 남게 됩니다.
4.2
도구 개발 자동화
코드 생성
code
generation
은
AI
에이전트가 자율적으로 코드를 작성해 소프트웨어 애플리케이션을
개발하고 유지보수하는 ...