연구 요약과 시사점은 AI가 공개 초록을 정리한 것입니다(AI 생성). 연구를 누르면 원문이 새 창에서 열립니다.
본 연구는 기존의 단일 위성 기반 탐지기가 적대적 근접 접근(Rendezvous)을 놓치는 문제를 지적하며, 위성 쌍 간의 운동학적 대칭성을 활용한 PairWatch라는 쌍 인식 이상 탐지기를 제안했다. 이 모델은 공개 우주 추적 데이터로 구축된 벤치마크에서, 단일 임계값으로 실제 RPO와 운영상 음성(operational negatives)을 구분하는 데 성공했으며, 이는 다른 신경망 기반 모델들의 성능을 크게 상회했다.
시사점 공개된 위성 궤도 정보만으로도 위성 쌍 간의 상호작용을 분석하여 잠재적인 적대적 행위를 탐지할 수 있는 새로운 접근법이 제시되었다.
본 연구는 다중 에이전트 LLM 시스템의 정보 전파 과정을 태스크 그래프로 모델링하고, 정보가 흐름 전체에서 적절한지 판단하는 TG-CI를 제안했다. 이 방법론은 두 가지 정책을 통해 로컬 기반 CI 대비 평균 무단 공개 수를 85.8-94.1% 감소시키면서도 태스크 정확도는 93.6-96.1% 유지했다.
시사점 다중 에이전트 시스템에서 정보의 흐름 전체 맥락을 고려하는 무결성 검증 메커니즘이 사생활 침해를 줄이는 데 중요하다.
연구진은 7개의 LLM을 대상으로 5가지 적대적 탈옥 공격 기법을 체계적으로 평가하였으며, 그 결과 난독화 공격이 모든 모델에서 54.3%의 평균 공격 성공률(ASR)을 보이며 가장 전이성이 높은 공격 벡터임을 발견했다. 또한, 자체 상기 프롬프팅(self-reminder prompting)은 Mistral-7B에서 ASR을 44%에서 10%로 줄이는 등 가장 일관된 방어 효과를 보였다.
시사점 LLM의 적대적 공격에 대한 취약성은 모델 크기로 예측되지 않으며, 방어 기법의 효과는 모델 및 공격 벡터에 따라 크게 달라지므로 각 모델별 방어 전략을 수립해야 한다.
본 연구는 웹 접근 장벽(dead links, 인증벽 등) 하에서 웹 에이전트가 목표를 달성하는 능력을 평가하는 AgentHeal 벤치마크를 제시했다. 실험 결과, 접근 장벽 존재 시 LLM 기반 에이전트의 평균 작업 성공률이 89.4%에서 43.7%로 급격히 감소함을 확인했다.
시사점 LLM 기반 웹 에이전트를 실제 환경에 적용하려면 접근 장벽을 인지하고 우회하며 목표를 유지하는 복구 메커니즘을 개발해야 한다.
본 연구는 공격자가 배치 검출기 접근을 가질 경우 기존 워터마킹 기법이 취약함을 보이고, 장기적 및 일회성 비밀 변환을 결합한 새로운 워터마킹 방식을 제안했다. 이 새로운 방식은 배치 검출기 접근 공격에 대해 증명 가능한 보안성을 가지며, 이는 특정 공격자가 무작위 잡음에 비해 유의미한 우위를 점할 수 없음을 의미한다.
시사점 새로운 워터마킹 기법은 공격자가 검출기에 접근할 때 발생하는 취약점을 극복하고 보안성을 높인다.
본 연구는 LLM 에이전트가 작업에 필요한 최소한의 자산만을 사용하도록 REALM(Required Execution Assets Linked to a Mission)이라는 접근 방식을 제안하였다. 이 접근 방식은 AgentDyn에서 60개의 클린 작업과 560개의 주입 사례를 대상으로 테스트되었으며, qwen3.5-flash 기반 모델에서 작업 완료율을 40.0% 달성하고 ASR을 16.6%에서 0.2%로 감소시켰다.
시사점 LLM 에이전트의 권한을 최소화하려면 실행 중에 필요한 자산을 식별하고 그 사용을 승인하는 메커니즘이 필요하다.
본 연구는 Web3 참여자들이 대규모 사전 학습 모델을 맞춤화할 때 발생하는 효율성 및 확장성 문제를 해결하기 위해 DICE라는 새로운 BCFL 알고리즘을 제안했다. 이 알고리즘은 동적 점진적 학습 및 트리 구조 위원회 합의 프로토콜을 통해 효율성, 효과성, 보안성을 입증했다.
시사점 대규모 모델을 Web3 환경에서 안전하고 확장성 있게 맞춤화하는 새로운 접근 방식이 제시되었다.
본 연구는 사용자 피드백을 통해 스스로 진화하는 개인 에이전트가 신뢰할 수 없는 제3자의 지시를 포함한 외부 콘텐츠를 처리할 때 간접 프롬프트 인젝션(IPI)에 취약함을 조사했다. 실험 결과, 진화 과정에서 평균 공격 성공률이 기본 에이전트에 비해 스킬 진화 시 14.0–48.8%p, 강화 학습 시 3.0–39.3%p 상승함을 발견했다.
시사점 자기 진화 능력을 가진 에이전트를 사용할 경우, 공격자가 숨긴 지시에 대한 견고성이 크게 저하되므로 안전성에 대한 검토가 필요하다.
본 연구는 전력 시스템의 OPF 대리 모델에 대한 공격 취약점을 분석하기 위해, 공격 탐지 메커니즘을 통합한 설명 가능한 AI 프레임워크를 제안했다. 이 프레임워크는 OPF 대리 모델과 입력-입력 의존성을 나타내는 오토인코더를 결합하여 특징 수준의 취약점 지표를 구축했으며, IEEE 테스트 시스템에서 기존 방법보다 보안 관련 취약점을 더 정확히 식별함을 입증했다.
시사점 전력 시스템의 AI 기반 모델 취약점 분석 시, 공격 탐지 메커니즘의 존재를 고려하는 것이 중요하다.
연구진은 블랙박스 쿼리 기반 공격을 사용하여 대표적인 유형 결정 모델(Jev)에 대한 공격을 수행했으며, 이 공격은 짧은 접미사로 모델의 확신 있는 답변을 뒤집을 수 있음을 발견했다. 이 접미사는 데이터셋에 따라 다르지만, 하나의 접미사가 다른 작업의 샘플 중 43%에서 90-100%의 샘플을 뒤집을 수 있었다.
시사점 유형 결정 모델의 견고성을 평가하려면 이러한 적응형 공격을 포함해야 한다.
연구진은 각기 다른 주체가 소유한 컴포넌트가 상호작용하는 코딩 에이전트 환경에서, 공격자가 피어 컴포넌트가 생성한 런타임 피드백에 악성 명령을 은닉하여 공격할 수 있음을 발견했다. 이 CARI 기법은 네 가지 프로그래밍 언어와 다섯 가지 코드 생성 모델을 대상으로 시도하여 94.8%의 성공률을 보였으며, Codex와 Claude Code에서도 각각 61.3%, 58.7%의 성공률을 달성했다.
시사점 협업적 코딩 에이전트 시스템에서는 컴포넌트 간의 권한 불일치(authority mismatch)를 악용한 런타임 피드백 주입 공격에 대비해야 한다.
본 연구는 클라우드-엣지-IoT 시스템 전반의 분산 머신러닝(DML) 및 연합 학습(FL)의 보안 경계, 공격 유형 및 방어 기법을 조사한다. 이 연구는 포이즈닝, 백도어, 프라이버시 누출 등 다양한 공격과 이에 대응하는 견고한 집계, 차분 프라이버시 등의 방어 기법을 비교 분석한다.
시사점 DML/FL 시스템을 구축할 때는 공격 인지적 벤치마크, 프라이버시 예산, 그리고 다양한 오버헤드(지연 시간, 통신, 에너지)를 고려한 배포 및 거버넌스 가이드라인이 필요하다.
본 연구는 부분적 C2PA 기반 콘텐츠 생성 정보(partial CCs)를 구조적으로 분석하여 마지막 서명자가 적용한 작업을 재구성하는 2단계 전략을 제시하였다. 이 전략을 통해 합성 이미지 탐지 태스크에서 최신 탐지기의 성능을 유의미하게 향상시킬 수 있음을 실험적으로 입증하였다.
시사점 부분적 C2PA 정보는 이미지 포렌식 탐지기의 성능을 향상시키는 추가적인 신뢰 정보를 제공할 수 있다.
연구진은 20개 오픈소스 웹 애플리케이션의 108개 취약점을 대상으로 Snyk Code, Claude Code, Codex Security, DeepSec 등 9가지 제품화된 구성을 평가하였다. Snyk Code는 거시적 재현율 82.4%를 달성했으며, AI 엔진들은 결합 시 108개 중 101개의 취약점을 탐지하는 데 도달했다.
시사점 AI 엔진의 성능은 사용된 하네스(harness)와 모델 설정에 따라 달라지며, 단독으로는 모든 취약점을 탐지하기 어렵다.
본 연구는 웹 인터페이스를 통해 동작하는 LLM 에이전트의 실행 궤적에 대한 소유권 증거를 각인하는 세션 기반 행동 워터마킹 기법을 제안한다. AgentAnchor는 비밀 키와 세션 식별자를 기반으로 각 단계의 키를 도출하며, 검증자는 에이전트를 재실행하지 않고도 의심스러운 로그를 확인할 수 있다.
시사점 LLM 에이전트의 실행 궤적을 추적하고 소유권을 증명하는 데 행동 워터마킹을 적용할 수 있다.
본 연구는 DRL 교통 신호 제어기가 V2I 보고에 의존할 때, 모델 접근 없이 자신의 접근로에 대한 가짜 보고를 주입하는 공격 시나리오를 연구했다. 이 제한된 공격자는 다른 접근로의 평균 대기 시간을 증가시키면서 자신의 접근로 대기 시간은 거의 변화시키지 않는 공격이 가능함을 입증했다.
시사점 V2I 센싱 채널 자체가 공격의 취약점으로 노출되며, 공격의 영향은 보고의 내용뿐 아니라 공격자가 가진 정보의 양에 따라 달라진다.
본 연구는 LLM 기반 웹 스캐너의 정보 수집 및 행동 선택 과정을 분석하고, 실제 기능을 보존하면서도 스캐너를 가짜 환경으로 유도하는 WebMaze를 제안했다. 12개 웹 애플리케이션과 3개 LLM 기반 스캐너를 대상으로 실험한 결과, 가짜 페이지가 평균적으로 요청된 고유 페이지의 93.0%를 차지함을 보였다.
시사점 LLM 기반 웹 스캐너 공격에 대응하기 위해 실제 기능을 유지하면서도 공격자를 속이는 방어 메커니즘을 고려해야 한다.
연구진은 삭제 세분성, 레이블 표현, 후보 집합에 따라 전체 모델, 제거되지 않은 모델, 유지 전용 모델을 비교하는 경험적 프레임워크인 DecisionUnlearn-Bench를 소개했다. 이 프레임워크를 통해 BANKING77 데이터셋에서 삭제된 클래스에 대한 인식 여부를 평가했으며, 특정 조건에서 성공적인 제거가 이루어짐을 확인했다.
시사점 의사결정 모델의 제거 여부를 평가할 때는 스키마별 재학습 목표와 효과 크기, 유틸리티, 견고성 등을 별도로 보고해야 한다.
연구진은 5가지 운영적 위협 경로와 보안-유틸리티 추정치를 정의하고, 30개의 파서 고정치를 사용하여 결정론적 사전 모델 제어를 실행했다. 파일럿 연구에서 24개 작업 중 21개에서 공격자 대상 채택을 식별했으며, 이는 라이브 검색이나 외부 실행 없이 제공된 증거에 따른 출력 변화를 측정했다.
시사점 제안된 프레임워크와 파일럿은 검색 및 에이전트 평가를 포함하지 않은 상태에서 매니페스트 내용의 영향을 구별할 수 있다.
본 연구는 공격자가 설계한 상호작용을 통해 피해자 에이전트가 공격자의 선호를 피해자 사용자의 것으로 잘못 기록하게 만드는 역할 기반 공격(RGA) 모델을 정식화했다. 이 공격은 다섯 가지 주류 메모리 시스템과 여섯 가지 언어 모델을 대상으로 도구 선택 조작 및 개인정보 유출 시나리오를 통해 높은 성공률을 달성했다.
시사점 LLM 기반 에이전트의 메모리 시스템은 역할 귀속(role attribution)의 취약점을 가지므로, 강력한 역할 기반 정합성(role grounding) 확보가 요구된다.
본 연구는 클라이언트 측 모델과 클라우드 LLM을 결합하여 답변을 생성할 때, 메시지 전송 과정에서 민감 정보가 유출될 수 있음을 보였다. 이를 해결하기 위해 ADLER라는 디코딩 프로토콜을 제안했으며, 이 프로토콜을 적용했을 때 특정 조건에서 정확도를 향상시키면서도 정보 유출을 제한할 수 있음을 GSM8K 문제에 적용하여 입증했다.
시사점 클라이언트-서버 기반 LLM 상호작용 시, 정보 유출을 최소화하면서도 성능을 유지할 수 있는 디코딩 프로토콜의 적용이 중요하다.
본 페이지의 연구 요약은 공개된 초록을 AI가 한국어로 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 반드시 원문을 확인하십시오. 본문과 PDF는 제공하지 않으며, 모든 저작권은 각 저자와 발행처에 있습니다.