
337
12
장
에이전틱 시스템 보안
에이전틱 시스템 보
안
12
CHAPTER
AI
에이전트는 지금까지의 소프트웨어와는 다른 고유한 보안 과제가 있습니다. 자율성, 고급
추론 능력, 동적 상호작용, 복잡한 워크플로로 특징지어지는 에이전틱 시스템은 위협 지형을
크게 확장합니다. 효과적으로 보호하려면 기존까지의 보안 고려 사항뿐 아니라 에이전트 자율
성, 확률적 의사결정, 파운데이션 모델과 데이터에 대한 높은 의존성에서 비롯되는 고유 취약
점도 함께 다뤄야 합니다.
생성형
AI
는 사이버보안 지형에서 강력하고 확장되는 위협 벡터를 도입했습니다. 딥페이크
를 이용한 사기, 시스템 탈취를 노리는 프롬프트 인젝션, 멀티 에이전트 워크플로에서의 메모
리 오염처럼 정교한 공격으로 위험이 증폭됩니다. 예를 들어
2025
년 초 메인 주의 한 기초자
치단체 (
https
://
oreil
.
ly
/
ZFOnG
)는 생성형 음성 복제를 악용한
AI
기반 피싱 사기에 피해를
입어
10
,
000
~
100
,
000
달러가 탈취되었습니다. 쉐보레의 챗봇은 프롬프트 인젝션에 조작되
어
76
,
000
달러짜리 차량을 단
1
달러에 제공하도록 유도되면서, 안전장치가 얼마나 쉽게 우회
될 수 있는지가 드러났습니다. 한편 구글의
Big
Sleep
에이전트가
SQLite
의 제로데이 취약점
(
CVE
-
2025
-
6965
)을 발견한 사례처럼 ...