연구 요약과 시사점은 AI가 공개 초록을 정리한 것입니다(AI 생성). 연구를 누르면 원문이 새 창에서 열립니다.
연구진은 웹 페이지를 처리하고 브라우저 동작으로 변환하는 시각적 기반 웹 에이전트를 대상으로, 공격자가 원하는 콘텐츠를 선택하고 브라우저 동작을 실행하도록 유도하는 WebMirage 프레임워크를 개발했다. 이 프레임워크는 평균 공격 성공률 91.9%를 달성했으며, 이는 가장 강력한 기준선 대비 17.4%의 성공률을 보였다.
시사점 시각적 기반 웹 에이전트의 취약점은 모델 추론 단계뿐만 아니라 최종 브라우저 실행 단계까지 고려해야 하며, WebMirage와 같은 엔드투엔드 공격에 대비해야 한다.
본 연구는 개별적으로는 무해해 보이는 에이전트들의 집단적 활동을 통해 시스템 정보를 수집하는 분산적 집단 정찰(DCR)을 정의하고, 서비스 경계 원격 측정(telemetry)만을 관찰하는 SwarmReconGuard라는 블랙박스 벤치마크를 제시했다. 가우시안 비율 검출기는 알려진 공격에 대해서는 100% 탐지율을 보였으나, 새로운 정책에 대해서는 3%의 탐지율만을 보였다.
시사점 이러한 공격에 대응하기 위해서는 노출 및 규모를 고려한 방어 기법이 필요하다.
본 연구는 공격적 입력이 제거된 후에도 키/값(KV) 캐시를 통해 모델에 공격적 영향을 지속시키는 Persistent Visual Memory Injection (P-VMI) 공격을 제안하였다. Qwen3-VL-8B-Instruct 모델에서 최적화된 설정으로 최대 약 90%의 목표 성공률을 달성하며, 캐시 압축 후에도 공격적 행동이 지속됨을 입증하였다.
시사점 LLM 기반 멀티모달 모델의 KV 캐시가 공격적 의도를 장기간 유지하는 벡터로 활용될 수 있으므로 이에 대한 방어 메커니즘 연구가 필요하다.
본 연구는 환자 디지털 트윈의 상태 업데이트가 신뢰할 수 있는 출처인지 검증하기 위해 규칙 기반 게이트웨이 TwinGuard-Lite를 제시했다. 이 게이트웨이는 통합된 검증을 통해 99.1%의 정밀도, 90.5%의 재현율, 94.6%의 F1 점수를 달성했다.
시사점 환자 데이터의 무결성을 유지하기 위해 신뢰할 수 있는 출처를 기반으로 하는 상태 승인 메커니즘이 필요하다.
본 연구는 LLM 에이전트가 도구를 사용하며 발생하는 간접적 프롬프트 인젝션 위험을 탐색하기 위해 ASPIRE라는 레드팀 엔진을 제안했다. 이 엔진은 진화하는 에이전트 보안 행동 그래프를 유지하며 공격 성공률을 유지하면서도 영향 범위, 주입 방법, 환경 및 행동 경로 전반에 걸쳐 커버리지를 크게 확장함을 실험을 통해 보였다.
시사점 LLM 에이전트의 잠재적 취약점을 발견하고 검증하기 위해 행동 수준의 레드팀 접근 방식을 적용할 필요가 있다.
연구진은 자연어 정책 조항을 유형별 공간/시간/의미적 삼중항으로 분해하고, 각 측면을 모니터링하여 검증 결과를 통합하는 다각적 런타임 검증 프레임워크를 제시했다. 이 프레임워크는 폐쇄 루프 실험에서 정책을 준수하지 않는 플래너가 공격에 노출되지 않도록 방어하여 공격 성공을 0으로 만들었다.
시사점 LLM 에이전트가 준수해야 할 복잡한 정책을 검증하려면, 단일 이벤트 기반 가드레일이 아닌 다각적이고 시퀀스를 고려한 런타임 검증 메커니즘이 필요하다.
본 연구는 가중치 비트 플립에 의한 신경망의 예측 무결성 저하 문제를 해결하기 위해, 다중 매개변수 비트 플립에 대한 견고성을 증명하는 mBFV 프레임워크를 제안했다. 이 프레임워크는 최대 1.15M 파라미터 네트워크에 대해 최대 네 개의 동시 파라미터 플립에 대한 검증을 성공적으로 수행했다.
시사점 대규모 신경망의 하드웨어 오류로 인한 가중치 비트 플립 공격에 대해 다중 매개변수 수준의 견고성 검증이 가능하다.
연구진은 피싱 및 신원 확인에 직면한 LLM 에이전트의 정보 유출을 평가하기 위해 CredLeak-Bench라는 종합 벤치마크를 제안하였다. 평가 결과, 테스트된 모든 모델이 정보 유출에 취약했으며, 대부분의 완화 기법은 실제 작업 수행 능력을 저하시키는 보안-유틸리티 상충 관계가 존재함을 발견하였다.
시사점 효과적인 방어는 정보 유출을 막는 동시에 합법적인 작업 완료 능력을 보존해야 한다.
본 연구는 IoT 환경에서 머신러닝 기반 침입 탐지 접근법을 엣지, 포그/게이트웨이, 클라우드 아키텍처에 걸쳐 정량적으로 분석하고 DFS 모델을 도입했다. 이 분석을 통해 경량 통계 모델은 엣지, 앙상블/군집 기반은 포그, 심층/최적화 모델은 클라우드에 가장 적합함을 보여준다.
시사점 실제 아키텍처 제약 조건 하에서 IoT 침입 탐지 솔루션을 선택할 때 배포 가능성을 고려해야 한다.
본 연구는 DQN 공격자를 사용하여 Raspberry Pi 3B+에 배포된 ML 기반 IDS 모델에 대한 적응형 포트 스캔 회피를 시도하였다. 공격 성공률은 특징 가시성 설정에 따라 61.9%에서 98.3% 사이의 결과를 보였다.
시사점 제한된 특징 지식만으로도 정적 엣지 배포 IDS 모델에 대해 효과적인 적응형 회피가 가능하므로, IoT 엣지 환경에 대한 보다 강력한 방어가 필요하다.
본 연구는 추론 과정 중 발생하는 비트 플립 공격(BFA)을 탐지, 국소화 및 완화하는 런타임 프레임워크 BARE-AI를 제안했다. 이 프레임워크는 CNN, ViT, LLM에 대해 각각 최대 98% 탐지 정확도 및 언어 모델에서 74%~95%의 탐지율을 보이며, 낮은 오버헤드로 복구 기능을 제공한다.
시사점 안전 필수 시스템에서 AI 가속기의 신뢰성을 유지하기 위해 하드웨어 수준의 공격 탐지 및 복구 메커니즘을 고려해야 한다.
본 연구는 추측적 디코딩의 보안적 함의를 체계적으로 연구하며, 효율성 향상이 보안 취약성 증가로 이어지는 비대칭성을 발견했다. 이에 따라, 초기 토큰에 엄격한 검증 기준을 적용하는 SecureSD 방법을 제안하여 보안성을 향상시키면서 효율성과 유틸리티를 유지함을 실험적으로 입증했다.
시사점 추측적 디코딩을 사용할 경우, 효율성 향상에 따른 보안 취약성 증가를 인지하고, 이를 완화할 수 있는 검증 메커니즘을 고려해야 한다.
본 연구는 LLM 에이전트의 행동 선택에 소유자 식별자를 내재화하는 시맨틱 행동 워터마킹(SBW)을 제안하였다. ToolBench 및 ALFWorld 벤치마크에서, SBW는 재작성 시 검출률 0.49-0.66 또는 0.92-0.97을 보였으며, 키드 빈닝은 적대적 위조를 높은 수준에서 무력화시켰다.
시사점 LLM 에이전트의 행동 흐름에 워터마킹을 적용하여 출처를 추적할 수 있으며, 이는 기존 기법 대비 높은 재작성 및 위조 저항성을 보인다.
본 연구는 고정된 채널 사용 예산 하에서 상호 보완적인 잠재 표현을 학습하고 민감도 인식 마스킹을 적용하여 적대적 교란에 대비하는 TwinViT-DeepJSCC를 제안했다. 이 시스템은 PGD 공격에 대해 최대 약 9.5 dB의 최대 PSNR 이득을 달성했으며, undefended 기준 대비 Top-1 정확도를 최대 약 38%p 향상시켰다.
시사점 의미론적 이미지 통신 시스템을 구축할 때, 적대적 공격에 대한 방어 메커니즘을 통합하는 것이 성능 유지에 중요하다.
본 연구는 검색 증강 생성(RAG) 시스템에 삽입된 프롬프트 인젝션 공격을 탐지하기 위한 벤치마크인 RAG-PIBench를 소개했다. 이 벤치마크를 사용하여 비교한 탐지기 중 DistilBERT가 보호 테스트에서 F1 점수 0.896, PR-AUC 0.968을 달성하며 가장 우수한 성능을 보였다.
시사점 RAG 시스템의 신뢰성 있는 프롬프트 인젝션 탐지를 위해서는 누출 인지적 벤치마크 설계가 중요하며, 강력한 희소 기반 탐지기가 유용하다.
본 연구는 DAST 스캐너와 LLM을 결합한 두 단계 검증에서 발생하는 경보 집계 병목 현상을 식별하고, 경보 수준이 아닌 개별 사례 수준에서 검증을 수행하는 전략을 도입했다. 이 사례 수준 접근법은 기존 경보 수준 운영점 대비 FRR을 4.7%p 개선하고, CEV-Prompt를 통해 TPR을 55.2%에서 62.1%로 높였다.
시사점 대규모 보안 검증 시스템에서 경보 집계 방식은 참 양성률(TPR)과 오탐 감소율(FRR) 간의 상충 관계를 심화시키므로, 개별 사례 수준에서의 검증을 고려해야 한다.
본 연구는 단백질 생성 모델(PGM)의 무단 추출 및 생물 보안 오용을 막기 위해 MARCO라는 워터마킹 프레임워크를 제안하였다. 이 프레임워크는 워터마크가 공격자 모델에도 전이되어 추적 가능성을 제공함을 실험적으로 입증하였다.
시사점 PGM의 지적 재산 보호와 잠재적 오용 추적을 위해 워터마킹 기술을 적용할 수 있다.
본 연구는 각 참여자가 데이터를 공유하지 않고도 모델을 공동 미세 조정할 수 있는 HE-OFT라는 암호학적으로 안전한 단일 샷 연합 미세 조정 프로토콜을 제안했다. 이 프로토콜은 텍스트 분류에서 61~79%의 정확도를 달성했으며, 이는 단독 훈련 대비 85~96%의 정확도를 유지한다.
시사점 민감한 데이터를 공유하지 않으면서도 여러 당사자가 공동으로 모델을 미세 조정할 수 있는 암호화 기반의 새로운 방법론을 고려할 수 있다.
본 연구는 클라우드 서비스에서 행동 특징을 처리할 때 발생하는 프라이버시 문제를 해결하기 위해 TFHE와 호환되는 병목 어텐션 네트워크(FBAN)를 제안하였다. 이 프레임워크는 동형 암호화된 추론을 통해 서버가 원시 행동 특징을 관찰하지 않고도 사용자 인증을 수행함을 입증하였다.
시사점 민감한 행동 데이터를 클라우드에서 처리해야 할 경우, 동형 암호를 활용하여 데이터가 암호화된 상태로 인증 프로세스를 수행할 수 있다.
본 연구는 이미지/비디오 생성 모델과 LLM 기반 코드 렌더링을 통해 생성된 시각적 산출물에 대한 탐지 및 워터마킹을 비교하는 생산 중심 프레임워크를 개발했다. 이 프레임워크는 식별 가능성, 관측 가능성 등 열 가지 연구 질문을 제시하며 개념적 연구 의제를 보고한다.
시사점 시각적 생성물의 출처를 추적하려면 생성 경로(모델 vs. 코드 렌더링)에 따른 각 단계의 요구사항을 이해해야 한다.
본 연구는 AI 에이전트가 사용하는 모듈식 스킬 환경에서, 공격이 성공하려면 먼저 라우터를 통해 스킬을 검색하고 실행해야 하므로 기존 공격 성공률이 과대평가됨을 보였다. 이에 CORSA라는 라우터 인식 공격 기법을 도입하여 검색 및 실행 단계를 최적화했고, 이는 기존 공격 대비 검색 및 종단 간 공격 성공률을 향상시켰다.
시사점 AI 에이전트의 멀티스킬 환경에서는 공격 성공률을 높이기 위해 스킬 검색 및 실행 단계를 고려한 공격 기법이 필요하다.
본 페이지의 연구 요약은 공개된 초록을 AI가 한국어로 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 반드시 원문을 확인하십시오. 본문과 PDF는 제공하지 않으며, 모든 저작권은 각 저자와 발행처에 있습니다.