연구 요약과 시사점은 AI가 공개 초록을 정리한 것입니다(AI 생성). 연구를 누르면 원문이 새 창에서 열립니다.
연구진은 표준 IV, Davies-Meyer 피드포워드 및 전체 FIPS 180-4 패딩을 준수하는 19단계 및 20단계 SHA-256에 대한 실제 역상 공격 기법을 도입했다. 19단계 공격은 18초의 테이블 구축 후 중앙값 19.5초 만에 해결 가능하며, 20단계 공격은 $2^{46.6}$회의 CPU 참조 평가가 소요된다.
시사점 이 공격들은 전체 SHA-256를 위협하지는 않지만, 특정 단계의 SHA-256 구현에 대한 공격 가능성을 보여준다.
본 연구는 에이전트 시스템에 친밀 파트너 폭력 및 감시 맥락의 기술적 남용 위협 모델을 적용하여 공격 시나리오를 분석하였다. 공격 주체에 따라 공격자 소유 공격과 피해자 생존자 소유 공격이라는 두 가지 유형의 위협을 분류하고 완화 방향을 제시하였다.
시사점 에이전트 시스템의 접근 권한과 능력을 악용하는 공격에 대해 해당 위험을 인지하고 적절한 완화 전략을 연구해야 한다.
연구진은 적대적 선체 패치와 물리적 위장을 통해 감시 시스템을 공격하는 시나리오를 평가하고, AIS 추적과 실제 공격 시나리오를 결합한 하이브리드 재현 프로토콜을 개발했다. 이 프로토콜을 통해 특정 조건에서 자산 대비 접근 속도 확인은 94-95%의 탐지율을 보였으며, 이는 추적 정보만 사용했을 때의 12%보다 높은 수치이다.
시사점 다양한 탐지 방법을 결합하고 운동 정보를 함께 고려하는 것이 무인 수상정 위협에 대응하는 데 효과적이다.
본 연구는 에이전트 코딩 환경에서 추론 모델에 구조화된 출력 백도어를 주입하는 Kerkoporta 방법론을 제시하고, 지도 미세 조정을 통해 백도어를 삽입하였다. 이 공격은 최대 96.2%의 성공률을 보이며, 공격자가 원하는 도구 호출을 유도하여 시스템의 기밀성, 무결성 또는 가용성을 침해할 수 있음을 입증하였다.
시사점 LLM 백도어 공격은 코딩 에이전트와 같은 현대적 도구 사용 환경에서 심각한 보안 영향을 미치므로, 이에 대한 방어적 접근이 필요하다.
본 문서는 공격자들이 전략 정보 수집 및 금전적 갈취를 목적으로 활동하며, 공격 과정에서 생성형 AI 및 대규모 언어 모델(LLM)을 통합적으로 활용하는 동향을 관찰한 내용을 공유한다. 관찰된 행위에는 LotL 바이너리 사용, 제로데이 취약점 악용, 그리고 LLM을 이용한 정교한 사회 공학적 유인물 생성 등이 포함된다.
시사점 실무에서는 공격자들이 AI를 공격 워크플로우에 통합하고 있으므로, 이에 대응하는 탐지 및 방어 역량을 강화해야 한다.
연구팀은 LLM 오케스트레이터가 공격 계획, 도구 선택, 명령 생성을 담당하고 임플란트가 이를 실행하는 CyberStrikeAI라는 오픈소스 프레임워크를 통해 공격 캠페인을 분석했다. 이 공격은 정보 수집부터 최종 데이터 유출까지 LLM을 공격의 핵심 단계에 통합하여 자동화했다.
시사점 공격자들이 LLM을 공격의 초기 단계뿐만 아니라 페이로드 실행, 측면 이동 등 모든 단계에 통합하여 공격을 자동화하고 있음을 보여준다.
연구진은 15,000개 이상의 IoT CVE 데이터를 활용하여 공급업체 및 제품별로 취약점 프로파일을 분석하였다. 그 결과, 헬스케어는 인증/자격 증명 취약점에, 자동차는 메모리 문제에 취약했으며, 취약점 프로파일은 제품 유형보다 벤더 수준에서 더 유사함을 발견했다.
시사점 취약점 해결 노력을 특정 제품 유형이 아닌 취약점 클래스별로 우선순위를 정하여 적용하는 것이 효과적이다.
본 연구는 기존 방어 모델의 취약점을 분석하고, 주입 불변성(injection-invariant)을 갖는 이상적인 참조 모델을 근사하여 SecPO 손실 함수를 도입했습니다. 이 SecPO 손실 함수와 적대적 훈련(AT)을 결합한 모델은 특정 공격에서 기존 모델 대비 공격 성공률(ASR)을 크게 감소시켰습니다.
시사점 LLM 에이전트의 프롬프트 인젝션 공격에 대응하기 위해 SecPO와 같은 원칙 기반의 적대적 훈련 기법을 적용하는 것이 효과적이다.
본 연구는 모델 컨텍스트 프로토콜(MCP)을 통해 생성되는 도구 호출 추적을 분석하여, 이를 통해 사용자 속성을 추론할 수 있음을 보여주었다. 벤치마크 실험 결과, 도구 호출 추적은 기존 추측 기반보다 높은 공격 성공률을 보였다.
시사점 LLM 에이전트와 도구 간의 상호작용 추적은 사용자 프로파일링에 사용될 수 있으므로, 프라이버시를 고려한 상호작용 메커니즘 개발이 필요하다.
본 연구는 AgentDrift 및 AgentDojo 벤치마크를 사용하여 도구 호출 기록 등을 기반으로 공격받은 LLM 에이전트를 탐지하는 방법들을 평가하였다. 공격 비율 2%에서 AUROC 0.879를 달성한 탐지기가 낮은 정밀도를 보였으며, 도구 사용 경험이 없는 경우 탐지 성능이 크게 저하됨을 확인하였다.
시사점 LLM 에이전트 추적 탐지기를 평가할 때는 공격 비율, 도구 사용 경험 여부 등 다양한 조건을 고려한 종합적인 검증이 필요하다.
연구진은 OLMo 2 1B의 특정 시점 데이터를 기반으로, 학습 데이터셋의 일부를 치환하여 멤버십 추론 공격을 수행하였다. 이 공격은 ROC 곡선 아래 면적(AUC) 0.767을 보였으며, 특정 임계값에서 1%의 위양성률(FPR)로 3.8%의 멤버를 탐지할 수 있었다.
시사점 개별 문서에 대한 멤버십 추론은 상당한 문서 수준의 가변성으로 인해 어렵지만, 잘 매칭된 참조를 사용하면 특정 컬렉션 학습 여부를 탐지할 수 있다.
연구진은 표준 평가 데이터셋에서 단순 특징이 코드를 실행하지 않고도 24개 중 20개 오픈 가중치 모델을 능가하는 것을 발견했다. 또한, 특정 시나리오에서 Sonnet 5 모니터는 이전 모델의 백도어 중 77%를 탐지했으나, Sonnet 5 자체의 백도어는 37%만 탐지했다.
시사점 높은 점수가 반드시 악의적인 공격 탐지를 의미하지 않으므로, 평가 지표에 대한 신중한 접근이 필요하다.
본 연구는 EUDI 지갑 참조 아키텍처의 신뢰 당사자를 대상으로 자격 증명 풀링 공격을 수행했으며, 이는 각 사용자의 자격 증명이 진본이고 추출이나 위조 없이 협력적 프록시를 통해 제시될 때 발생함을 보였다. 이러한 공격에 대응하기 위해, 표준 암호화와 자격 증명 형식을 사용하며 신뢰 당사자에게 추가적인 서명 검증 비용만 요구하는 CRESTA라는 효율적인 대응책을 제시하였다.
시사점 EUDI 지갑 환경에서 자격 증명 풀링 공격을 방지하려면, 각 자격 증명에 대해 고유한 키를 사용하고, CRESTA와 같은 표준 기반의 대응책을 도입하여 신뢰 당사자가 이를 검증해야 한다.
본 연구는 GF($2^n$) 상의 다항식 평가 기반 해시 함수인 Poly와 Polyval을 재검토하고, 두 방식의 적절한 필드 및 환원 방식을 식별했다. 이론적 분석과 실험 타이밍 결과에 따르면, $n=128$에서는 Polyval이 더 빠르지만 $n=256$ 및 $512$에서는 Poly가 더 빠르다는 것을 발견했다.
시사점 NIST 표준화 과정에서 사용되는 해시 함수 구현 시, 사용되는 필드 및 환원 방식에 따라 Poly와 Polyval 중 더 효율적인 선택지가 달라진다.
본 연구는 신경망 예측을 확률적 술어(probabilistic predicates)로 표현하고 명시적 결합 정책을 통해 증거를 통합하는 신경-기호적 NIDS인 DeepWeave를 제안했다. 이 시스템은 공격 클래스당 50개의 레이블링된 패킷 관측만으로 매크로-F1 점수를 0.632에서 0.924로 향상시키고 공격 오탐률을 0.075에서 0.008로 감소시켰다.
시사점 신경-기호적 접근 방식을 통해 적은 레이블 데이터로도 높은 성능과 함께 탐지 규칙에 대한 본질적인 설명을 제공할 수 있다.
본 연구는 웹 행동 데이터를 장기간 수집하기 위해 브라우저 확장 프로그램, REST API 백엔드, 관계형 데이터베이스로 구성된 GESIS Surf라는 연구 인프라를 구축했다. 이 시스템은 엄격한 옵트인 참여, 도메인별 수집 규칙, 클라이언트 측 데이터 최소화를 통해 프라이버시를 보장하며 대규모 학술 패널 연구에 활용되었다.
시사점 장기간의 웹 행동 데이터를 연구 목적으로 수집하고 분석할 때, 프라이버시를 고려한 통합적이고 재현 가능한 인프라가 필요하다.
본 연구는 외부 감사 시 민감 정보 노출 문제를 해결하기 위해, 신뢰 표현 구성, 암호화된 감사 계산, 신뢰적 의사결정의 세 가지 도메인을 결합한 프라이버시 보존적 감사 패러다임을 제안한다. 이 패러다임을 구현한 SealCall은 1,252개의 공개 바이너리 후보에 대해 그룹화된 중첩 평가에서 평균 F1 점수 0.840을 달성하며 모든 측정 사례에서 평문 감사 결정을 보존했다.
시사점 LLM 에이전트의 안전성 감사를 수행할 때, 외부 감사 과정에서 발생하는 민감 정보 유출 위험을 프라이버시 보호 기술을 통해 완화할 수 있다.
본 연구는 두 반쯤 정직한 당사자 간의 후속 정렬 단계에 사용될 수 있는 고정 형태의 MPC 온라인 커널인 BlindStep을 제시한다. 이 커널은 특정 조건 하에서 공개 설정 매개변수, 고정 실행 형태 메타데이터, 전역 오버플로우 비트 및 승인된 Layer-2 공개 정보만을 누설한다.
시사점 협업 추론 과정에서 중간 후보나 로컬 점수 등의 정보가 노출되는 것을 방지하기 위해 MPC 기반의 단일 단계 커널을 적용할 수 있다.
본 연구는 기존 도메인 간 인증 모델의 비효율성과 높은 자원 소모 문제를 해결하기 위해 의사 신원, 속성 은닉, 생체 정보 은닉을 통합한 CDAuth 프로토콜을 제안하였다. 이 프로토콜은 인증 정보 세트를 유연하게 구성하고 서버가 사용자 속성 전체 대신 검증 토큰과 속성들의 합집합만을 저장함으로써 저장 및 계산 자원을 크게 절감한다.
시사점 도메인 경계를 넘나드는 정보 교환 시, 효율성과 프라이버시를 높이는 새로운 인증 프로토콜 구조를 고려할 수 있다.
본 연구는 브로커 기반 SSO에서 발생하는 민감한 인증 정보 노출 문제를 해결하기 위해 OrionLink라는 프라이버시 강화 SSO 파이프라인을 제안하였다. 이 파이프라인은 익명 가명 생성 및 익명 키 교환 프로토콜을 통합하여 브로커의 가시성을 차단하고 사용성 저하 없이 보안 및 프라이버시 향상을 달성하였다.
시사점 브로커를 사용하는 SSO 환경에서 사용자 추적 및 데이터 노출 위험을 줄이기 위해 익명성을 보장하는 새로운 프로토콜 구현이 필요하다.
본 연구는 공격 명령이 포함된 외부 미디어에 대해, 공격받은 미디어를 지우는 영역을 식별하여 해당 부분을 빈 콘텐츠로 대체하는 ERASE라는 온-정책 자기 증류 방법을 제안하였다. 이 방법은 3B 오디오 모델에서 공격 성공률을 거의 0에 가깝게 줄이면서도 원본 입력 수준의 작업 유틸리티를 유지함을 보였다.
시사점 멀티모달 환경에서 공격 명령이 포함된 입력에 대해, 공격받은 부분을 식별적으로 제거하는 방어 기법을 적용하여 공격 성공률을 낮추면서도 원래 작업 수행 능력을 유지할 수 있다.
본 페이지의 연구 요약은 공개된 초록을 AI가 한국어로 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 반드시 원문을 확인하십시오. 본문과 PDF는 제공하지 않으며, 모든 저작권은 각 저자와 발행처에 있습니다.