AI 사전 학습 데이터 0.1% 오염으로 에이전트에 원격 코드 백도어 심는 공격 가능성 연구
연구진은 AI 사전 학습 데이터의 단 0.1%만 오염시켜도 해당 모델을 기반으로 개발된 AI 에이전트에 원격 코드 실행(RCE) 백도어를 심을 수 있음을 실험으로 입증했다. 이 공격은 공격자가 모델 개발사의 내부 시스템 접근 없이 공개 웹을 통해 유입되는 문서만 조작해도 가능하다. 공격 성공률은 모델 규모가 커질수록 높아졌으며, 연구진은 이러한 취약점을 막기 위해 실행 권한 제한 등 실제 행동 단계의 보안 통제가 필요하다고 강조했다.
(새 창에서 원문 열기)