연구 요약과 시사점은 AI가 공개 초록을 정리한 것입니다(AI 생성). 연구를 누르면 원문이 새 창에서 열립니다.
본 연구는 프로토콜이 보안 목표를 달성하기 위해 필요한 최소한의 신뢰 가정 집합을 찾는 방법을 제시하고, 이를 공격 시나리오에 적용하여 각 공격을 막는 데 필요한 가정의 집합을 정의한다. 연구진은 자체 분석 도구와 CPSA를 사용하여 10개 프로토콜 및 그 변형에 대해 18가지 목표에 대한 최소 신뢰 가정을 도출하였다.
시사점 프로토콜 설계 시 달성하고자 하는 보안 목표에 따라 필요한 최소한의 신뢰 가정을 명확히 정의하는 것이 중요하다.
본 연구는 VLA의 선행 VLM을 활용하여, 시각적 토큰 변조, 지시 기반 의미 증거 억제, 또는 두 가지 목표를 결합한 세 가지 적대적 패치 공격을 제안했다. 실험 결과, 선행 VLM에서 최적화된 패치는 VLA의 작업 성공률에 상당한 저하를 일으켰으나, 공격 효과는 태스크의 종류에 따라 달랐다.
시사점 VLA는 기반 모델로부터 적대적 취약점을 상속받으므로, 실제 배포 환경에서도 선행 모델의 취약점을 이용한 공격이 가능하다.
본 연구는 토큰 가지치기 기법이 VLM의 안전성에 미치는 영향을 평가하고, 배경 토큰 제거가 악성 앵커에 대한 주의 집중을 유도하여 독성 의미를 증폭시키는 가지치기 유도 악성 증폭 현상을 발견했다. 이에 대응하여 제안된 안전 인식 가지치기(SAP) 메커니즘은 가지치기로 인한 취약점을 완화하여 ASR을 최대 62% 감소시켰다.
시사점 VLM의 가속화를 위한 토큰 가지치기 적용 시, 모델 안전성 저하를 유발하는 새로운 취약점이 발생할 수 있으므로 이를 인지하고 가지치기 전략을 신중하게 선택해야 한다.
본 연구는 ISO/SAE 21434 기반의 TARA가 물리적 접근 공격 경로를 일관성 없이 평가하는 문제를 지적하고, 사이드 채널 분석(SCA) 및 결함 주입 공격(FIA)을 포함하는 하드웨어 인지 확장 TARA를 제시한다. 이 방법론은 참조 게이트웨이 아키텍처에 적용되었으며, 10가지 자동차 부품 공격 연구 중 7가지에서 디버그 또는 업데이트 메커니즘을 포함하는 공격을 다루었다.
시사점 자동차 시스템의 물리적 보안 평가 시, 공격자의 지식 상태와 구현에 따른 저항 여부를 명시적으로 고려하는 것이 중요하다.
본 연구는 AgentDojo 은행 실행 사례 64개를 사용하여 LLM 에이전트 로그의 포렌식적 재구성에 필요한 증거 바인딩의 역할을 감사했다. 명시적 바인딩이 없는 경우, Sonnet은 모든 문자 그대로의 출처 위치를 복구했으나 28건 중 26건에서 근거 없는 인용-출처 주장을 했다.
시사점 포렌식적 재구성을 평가하기 위해서는 사실적 일치뿐만 아니라 지원된 발견과 추측을 구별하기 위해 명시적인 기록 바인딩을 보존하는 것이 중요하다.
본 연구는 LLM을 이용한 악성코드 분류 프레임워크 MARS를 제시하고, 직접 분류와 단일 통과 주장 점수화 방식을 비교했습니다. 직접 분류는 모든 모델에서 더 높은 정확도를 보였으며, 사용 가능한 출력 샘플에서 정확도 우위는 3.7에서 20.9 퍼센트포인트 범위였습니다.
시사점 단순히 판결(verdict)이 필요하다면 직접 분류가 유리하며, 주장(claim)을 유지하는 것은 명시적인 정책 검토 및 수정에 도움을 줄 수 있다.
본 연구는 워터마킹 적용 시 발생하는 품질 저하와 검증의 상충 관계를 해결하기 위해, 제공자의 요구사항을 자연어 원칙으로 받아들여 적절한 트레이드오프를 선택하는 프레임워크를 제안했다. 이 프레임워크는 고정된 설정 대비 견고성 우선 요청에서 후처리(post-paraphrase) 탐지 성능을 최대 14%p 향상시키면서도 전반적인 품질과 깨끗한 탐지율을 유지했다.
시사점 LLM 워터마킹 적용 시, 고정된 설정 대신 제공자의 요구사항에 따라 동적으로 설정값을 조정하는 프레임워크를 고려할 수 있다.
본 연구는 그래픽 인터페이스를 통해 명령을 수행하는 CUA가 신뢰할 수 없는 콘텐츠에 의해 공격받는 상황을 모델링하고, 각 행동에 대한 명시적 프로그램인 '액션 트랜잭션(action transaction)'을 통해 이를 방어하는 Secure-CUA를 제안했다. 이 시스템은 400개 WebArena 작업에서 평균 작업 성공률 53.55%를 달성했으며, 이는 Vanilla-CUA의 55.12% 및 CaMeL-CUA의 13.17%와 비교되었다.
시사점 CUA가 신뢰할 수 없는 입력에 의해 오작동할 위험이 있으므로, 실행 단계마다 명시적이고 격리된 검증 과정을 거치는 방어 메커니즘이 필요하다.
연구진은 LLM을 활용하여 사이버 방어 상태를 요약하고, 제한된 인터페이스를 통해 LLM으로부터 방어 권고를 받아 PPO에 적용하는 'Ask the Expert' 프레임워크를 제안했습니다. 이 비대칭적 설계는 기존 PPO 대비 샘플 효율성을 향상시키고 평가된 잠재 기반 보상 형성(PBRS) 기법을 능가했습니다.
시사점 LLM을 훈련 시 가이드로 사용하고 배포 시에는 순수 RL 정책으로 운영하는 접근 방식이 자율 사이버 방어의 샘플 효율성을 높일 수 있다.
본 연구는 코딩 에이전트가 참조하는 규칙 파일에 악성 프롬프트를 주입하여 정당한 의존성을 공격자가 제어하는 패키지로 대체하게 만드는 패키지 환각 공격을 소개했다. 제안된 PackHallu 프레임워크를 통해 다양한 모델과 에이전트 조합에서 높은 공격 성공률과 전이성을 달성함을 보였다.
시사점 자율적인 코딩 시스템을 사용할 경우, 규칙 파일과 같은 입력 경로에 대한 강력한 보안 장치가 시급히 요구된다.
연구진은 웹 페이지를 처리하고 브라우저 동작으로 변환하는 시각적 기반 웹 에이전트를 대상으로, 공격자가 원하는 콘텐츠를 선택하고 브라우저 동작을 실행하도록 유도하는 WebMirage 프레임워크를 개발했다. 이 프레임워크는 평균 공격 성공률 91.9%를 달성했으며, 이는 가장 강력한 기준선 대비 17.4%의 성공률을 보였다.
시사점 시각적 기반 웹 에이전트의 취약점은 모델 추론 단계뿐만 아니라 최종 브라우저 실행 단계까지 고려해야 하며, WebMirage와 같은 엔드투엔드 공격에 대비해야 한다.
본 연구는 개별적으로는 무해해 보이는 에이전트들의 집단적 활동을 통해 시스템 정보를 수집하는 분산적 집단 정찰(DCR)을 정의하고, 서비스 경계 원격 측정(telemetry)만을 관찰하는 SwarmReconGuard라는 블랙박스 벤치마크를 제시했다. 가우시안 비율 검출기는 알려진 공격에 대해서는 100% 탐지율을 보였으나, 새로운 정책에 대해서는 3%의 탐지율만을 보였다.
시사점 이러한 공격에 대응하기 위해서는 노출 및 규모를 고려한 방어 기법이 필요하다.
본 연구는 양자 암호 마이그레이션 시점 결정에 있어 고전적 위험과 양자적 위험을 각 자산에 대한 연간 통화 가치 손실로 표현하는 방법을 제시했다. 시뮬레이션 결과, 양자적 위험 항은 특정 시스템에서 자산 목록의 순서를 바꾸거나 특정 장기적 자산을 결정적으로 이동시키는 것으로 나타났다.
시사점 양자 마이그레이션의 우선순위를 정할 때 고전적 위험과 양자적 위험을 통합적으로 고려하는 모델링 접근이 필요하다.
본 연구는 공격적 입력이 제거된 후에도 키/값(KV) 캐시를 통해 모델에 공격적 영향을 지속시키는 Persistent Visual Memory Injection (P-VMI) 공격을 제안하였다. Qwen3-VL-8B-Instruct 모델에서 최적화된 설정으로 최대 약 90%의 목표 성공률을 달성하며, 캐시 압축 후에도 공격적 행동이 지속됨을 입증하였다.
시사점 LLM 기반 멀티모달 모델의 KV 캐시가 공격적 의도를 장기간 유지하는 벡터로 활용될 수 있으므로 이에 대한 방어 메커니즘 연구가 필요하다.
본 연구는 환자 디지털 트윈의 상태 업데이트가 신뢰할 수 있는 출처인지 검증하기 위해 규칙 기반 게이트웨이 TwinGuard-Lite를 제시했다. 이 게이트웨이는 통합된 검증을 통해 99.1%의 정밀도, 90.5%의 재현율, 94.6%의 F1 점수를 달성했다.
시사점 환자 데이터의 무결성을 유지하기 위해 신뢰할 수 있는 출처를 기반으로 하는 상태 승인 메커니즘이 필요하다.
본 연구는 LLM 에이전트가 도구를 사용하며 발생하는 간접적 프롬프트 인젝션 위험을 탐색하기 위해 ASPIRE라는 레드팀 엔진을 제안했다. 이 엔진은 진화하는 에이전트 보안 행동 그래프를 유지하며 공격 성공률을 유지하면서도 영향 범위, 주입 방법, 환경 및 행동 경로 전반에 걸쳐 커버리지를 크게 확장함을 실험을 통해 보였다.
시사점 LLM 에이전트의 잠재적 취약점을 발견하고 검증하기 위해 행동 수준의 레드팀 접근 방식을 적용할 필요가 있다.
연구진은 자연어 정책 조항을 유형별 공간/시간/의미적 삼중항으로 분해하고, 각 측면을 모니터링하여 검증 결과를 통합하는 다각적 런타임 검증 프레임워크를 제시했다. 이 프레임워크는 폐쇄 루프 실험에서 정책을 준수하지 않는 플래너가 공격에 노출되지 않도록 방어하여 공격 성공을 0으로 만들었다.
시사점 LLM 에이전트가 준수해야 할 복잡한 정책을 검증하려면, 단일 이벤트 기반 가드레일이 아닌 다각적이고 시퀀스를 고려한 런타임 검증 메커니즘이 필요하다.
연구진은 운영 환경의 증거를 바탕으로 각 발견의 심각도를 재산정하는 심층 연구 에이전트를 개발하고, 8개 실제 운영 환경에서 9,967건의 상용 클라우드 보안 발견을 평가했다. 그 결과, 세 가지 중 네 건의 발견이 재등급되었으며, 결정적 증거는 해당 발견된 리소스 바깥에 존재하는 경우가 많았고, 결정된 발견의 99.4%에서 읽기 전용 프로브가 사실을 확인했다.
시사점 클라우드 보안 발견의 심각도는 발견 시점의 정적 규칙보다는 실제 운영 환경의 맥락적 증거에 의해 결정되어야 한다.
본 연구는 가중치 비트 플립에 의한 신경망의 예측 무결성 저하 문제를 해결하기 위해, 다중 매개변수 비트 플립에 대한 견고성을 증명하는 mBFV 프레임워크를 제안했다. 이 프레임워크는 최대 1.15M 파라미터 네트워크에 대해 최대 네 개의 동시 파라미터 플립에 대한 검증을 성공적으로 수행했다.
시사점 대규모 신경망의 하드웨어 오류로 인한 가중치 비트 플립 공격에 대해 다중 매개변수 수준의 견고성 검증이 가능하다.
연구진은 피싱 및 신원 확인에 직면한 LLM 에이전트의 정보 유출을 평가하기 위해 CredLeak-Bench라는 종합 벤치마크를 제안하였다. 평가 결과, 테스트된 모든 모델이 정보 유출에 취약했으며, 대부분의 완화 기법은 실제 작업 수행 능력을 저하시키는 보안-유틸리티 상충 관계가 존재함을 발견하였다.
시사점 효과적인 방어는 정보 유출을 막는 동시에 합법적인 작업 완료 능력을 보존해야 한다.
연구진은 상용 스마트 전구(Philips WiZ A19)를 이용하여 색상 및 밝기 변화를 통해 디지털 데이터를 전송하는 은닉 채널을 구현했다. 색상 변조 방식은 E 값 0.5의 색상 차이로 'hi' 메시지를 전송했으며 수신기는 전송된 비트의 99%를 복구했다.
시사점 일반적인 스마트 전구의 가시 출력은 하드웨어 수정 없이도 저속 데이터 채널로 사용될 수 있으므로, 이를 통한 정보 유출 경로를 인지해야 한다.
본 페이지의 연구 요약은 공개된 초록을 AI가 한국어로 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 반드시 원문을 확인하십시오. 본문과 PDF는 제공하지 않으며, 모든 저작권은 각 저자와 발행처에 있습니다.