Cisco, AI 에이전트의 오용 탐지를 위한 행동 탐지 엔진 'Project Quarry' 오픈소스 공개
Cisco는 AI 에이전트가 통제 불능 상태가 되는 것을 막기 위해 행동 탐지 엔진인 Project Quarry를 오픈소스로 공개했다. 이 도구는 에이전트의 전체 세션 맥락을 고려하여 공격 시도나 데이터 유출 시퀀스를 탐지하는 것을 목표로 한다. 이는 AI 보안 분야에서 공동의 평가 기준을 마련하는 데 기여할 것으로 보인다.
(새 창에서 원문 열기)