AI 비서가 공격 대상이 되다: 숨겨진 명령 주입 공격과 다층적 방어 전략
공격자들이 이메일 등에 숨겨진 명령 주입(Prompt Injection)을 통해 AI 비서를 조종하는 새로운 공격 기법이 등장했다. 공격자는 HTML 주석이나 CSS로 숨긴 텍스트 등을 이용해 AI에게 악의적인 지시를 내릴 수 있다. 이에 대응하기 위해서는 입력 단계의 정제, AI의 격리된 실행 환경 구축, 그리고 중요한 결정에 대한 인간 검토가 결합된 다층적 방어 체계가 필수적이다.
(새 창에서 원문 열기)