360
3
부
신뢰할 수 있는 에이전트 운영과 거버넌스
적대적 공격은 특화된 방어가 필요합니다. 입력 검증 파이프라인은 악의적인 프롬프트가 에이
전트의 추론 레이어에 도달하지 못하도록 모든 수신 데이터를 정제해야 합니다. 예를 들어 에
이전트가 민감한 정보를 유출하도록 속이거나 의도하지 않은 명령을 실행하게 만들려는 적대
적 입력은 처리 전에 탐지되고 필터링되어야 합니다. 명령 고정
instruction
anchoring
과 컨텍스트 격리
context
isolation
와 같은 기법은 프롬프트 인젝션 공격의 위험을 추가로 줄일 수 있습니다.
실시간 이상 탐지 시스템은 외부 상호작용에서 기인하는 의심스러운 행동을 식별하는 데 필수
적입니다. 이러한 시스템은 유입 트래픽, 사용자 프롬프트, 에이전트 응답 패턴을 모니터링하면
서 반복적인 인증 실패, 예상치 못한
API
호출, 알려진 공격 벡터와 일치하는 패턴과 같은 이상
징후를 표시합니다. 조직은 데이터 흐름에 가짜 민감 정보를 심어 두는 허니토큰
honeytoken
을 활
용해 이 정보에 무단으로 접근하거나 유출하려는 시도를 관찰함으로써 탐지할 수도 있습니다.
기술적 조치를 넘어, 엔드포인트 하드닝
endpoint
hardening
은 에이전트를 뒷받침하는 인프라가 침해
에 대해 복원력을 유지하도록 보장합니다. 여기에는 기반 서버에 최소 권한 원칙을 적용하고,
운영체제와 의존성을 최신 보안 패치 상태로 유지하며, 공격자의 진입점이 될 수 있는 불필요
한 서비스나 포트를 비활성화하는 작업이 포함됩니다.
선제적인 ...