AI 코딩 에이전트가 협업할 때 기밀 정보를 보호하기 위해 Skill-as-API라는 새로운 프로토콜을 제안한다. 이 프로토콜은 기술의 본문을 전달하지 않고 이름, 설명, 입력/출력 스키마만 공개하며, 1.8-2.9초의 대륙 간 재접속 지연 시간을 보인다.
AI 에이전트 협업 시 기밀 정보 유출을 방지할 수 있는 프로토콜을 개발하여 실무에서 적용할 수 있다.
보안 팀과 연구자들이 위협 보고서에서 지식 그래프 추출 도구를 선택할 때 발표된 triple-F1 점수에 의존하지만, 이 점수는 예측된 트리플이 금색 주석과 어떻게 매칭되는지에 따라 달라진다. 12개 시스템 중 5개만이 발표된 매칭 규칙을 재구현할 수 있었고, 10개 시스템 출력을 공유 문서에서 8개 프로토콜로 다시 점수화하면 45개 쌍 중 11개의 순위가 뒤바뀐다.
이 연구는 보안 팀이 위협 보고서에서 추출 도구를 선택할 때 점수 재산정과 매칭 규칙의 영향을 고려해야 함을 시사한다.
PCS는 농업 분야에서 농부의 데이터와 신원을 보호하면서 모델 유틸리티를 유지하도록 설계된 보안 머신러닝 시스템이다. 뉴욕과 캘리포니아에서 6개월과 10개월간 각각 농업 모니터링 및 예측 작업을 평가하여 DSC 0.71, R² 정확도 0.84를 달성했으며, 단일 사이트 모델 정확도를 각각 22.4%와 9.1% 개선했다.
PCS는 농업 분야에서 데이터 프라이버시를 보장하면서 모델 성능을 향상시키는 시스템으로, 농업 기술의 채택을 촉진할 수 있다.
에이전트 AI 시스템이 민감한 데이터를 추론 시간에 처리할 때 발생하는 개인정보 유출 위험을 분석하고, 기존 방어 기법을 무력화하는 새로운 컨텍스트 추론 공격 기법을 제시한다. 공격 성공률(ASR) 100% 및 AUROC 92.5 등 높은 정량적 성능을 보인다.
에이전트 AI 시스템을 사용하는 기업은 컨텍스트 추론 공격에 대한 보안 대책을 강화해야 한다.
Check Point Research는 2025년 중반부터 브라질 기관을 대상으로 지속적인 공격 캠페인을 추적했다. 중국어 사용 사이버 범죄 그룹이 Earth Berberoka와 연결되어 있으며, 이 그룹은 아시아의 도박 사이트를 표적으로 한 적이 있다. 공격자는 희생자 시스템에 커스텀 다운로더, 여러 백도어 등을 배포한다.
이 보고서는 브라질 정부 기관의 사이버 보안 취약성을 드러내며, 중국어 사용 사이버 범죄 그룹의 전략적 공격 활동을 주의 깊게 모니터링할 필요가 있다.
Unit 42는 랜섬웨어 공격에서 인간 공격자가 최첨단 AI를 활용해 기업 네트워크를 자동화된 방식으로 침해한 사례를 분석했다. 공격자는 50개 이상의 MITRE ATT&CK 기술을 10시간 미만으로 집약적으로 수행했으며, 80페이지에 달하는 보안 평가 보고서를 남겼다.
AI 에이전트를 활용한 공격은 기존 방어 전략을 빠르게 무력화할 수 있어, 실무자는 AI 기반의 자동화된 공격 패턴을 감지하고 대응할 수 있는 방안을 마련해야 한다.
스킬 강화 에이전트에 대한 런타임 보호 기법을 제안하고, SCOPE-R 데이터셋을 구축하여 SkillSonar라는 구현체를 평가했다. ID ASR 0.482→0.104, OOD ASR 0.606→0.115로 감소시켰다.
스킬 강화 에이전트의 런타임 보호를 위해 Defense-as-Skill 패러다임을 채택할 수 있다.
대형 언어 모델(LLM)의 안전 정렬이 올바른 미세 조정으로 인해 심각하게 약화되는 이유를 연구했다. 100개의 올바른 미세 조정 예시 후, 출력 측 MLP 모듈에서 경로가 선택적으로 재예화되어 비대칭적 취약성이 설명된다.
이 연구는 LLM의 안전 정렬이 어떻게 미세 조정에 의해 약화되는지를 이해하는 데 도움이 된다.
Mixnets에서 수신자 익명성을 보호하는 새로운 프로토콜 NymHS를 설계하고, 웹 브라우징 실험을 통해 그 실용성을 입증했다. 10 KiB의 Sphinx 페이로드를 사용하면 평균 페이지 로드 지연이 약 5.2배 감소하고 통신 오버헤드는 4.3%로 줄었다.
NymHS는 Mixnets 기반 익명 통신 시스템에서 수신자 보호를 강화할 수 있는 실용적인 프로토콜로, 실무에서 익명성 향상에 활용될 수 있다.
MutMem-V2는 지속적 에이전트 메모리에서 암호학적으로 권한이 부여된 변이를 가능하게 하는 프로토콜을 제안한다. 이 프로토콜은 18개의 버전 관리 객체 스키마, 39개의 회수 벡터, 15개의 변이 벡터 등을 포함하며, 독립적인 검증과 재현 가능성을 지원한다.
이 연구는 보안 시스템에서 메모리 변이의 무결성과 추적 가능성 확보에 기여할 수 있다.
ViT 분할 추론 시스템에서 토큰 축소와 섞기가 개인정보 보호에 미치는 영향을 분석하고, 새로운 공격 기법인 SARA를 제안하여 토큰 위치 정보를 복원하는 방법을 보인다. 토큰 섞기는 보안 효과가 제한적이고, 토큰 축소는 충분한 의미와 위치 정보가 남아 있으면 유출이 발생함을 실증한다.
ViT 분할 추론 시스템에서 토큰 섞기만으로는 개인정보 보호가 어렵고, 토큰 축소와 보완적 방어 기법을 함께 적용해야 한다.
AI 에이전트 허네스의 컨텍스트 조립 설계를 체계적으로 분석하고, 두 가지 새로운 공격 벡터인 MessageRole Context Privilege Escalation(M-CPE)와 Cross-Scope Context Privilege Escalation(X-CPE)를 제시한다. 12개 실제 허네스에서 CPE 공격에 대한 보안 분석을 수행하여 전체 에이전트 침해, 원격 코드 실행, 서비스 거부 등의 결과를 보인다.
AI 에이전트 허네스의 컨텍스트 조립 설계에 대한 보안 검토가 필요하며, M-CPE와 X-CPE 공격에 대한 방어 전략을 수립해야 한다.
중국어 해로운 콘텐츠 평가에서 언어적 변이와 적대적 변형이 위험한 의도를 가릴 수 있다는 점을 고려해, 응답 수준의 중국어 안전 평가 벤치마크인 C-SafeQA를 제안한다. C-SafeQA는 538개의 기본 질문과 8,877개의 적대적 질문을 포함하며, 4개의 전체 모델 LLM 배포를 통해 생성된 37,660개의 질문-응답 기록을 안전, 비안전, 논란으로 라벨링한 결과, 기본 질문에서 0.93%~3.35%, 적대적 질문에서 11.68%~30.05%의 비안전 응답률을 보였다.
C-SafeQA 벤치마크를 활용하면 대규모 언어 모델의 안전성 평가와 자동화된 안전 판정기의 정확도를 검증할 수 있다.
개인 데이터가 협력 서비스 제공업체에 의해 분산 처리될 때 발생하는 구성적 프라이버시 위험을 식별하는 새로운 프로토콜을 제안한다. 이 프로토콜은 데이터 보호 영향 평가의 결과를 개선하기 위해 구성적 위험 후보를 식별하는 방법을 제시한다.
이 연구는 서비스 조합에서 발생할 수 있는 구성적 프라이버시 위험을 식별하는 프로토콜을 제안하여, 기업이 데이터 보호 영향 평가를 보다 효과적으로 수행할 수 있도록 지원한다.
CVE 데이터베이스에 등재된 이더리움 스마트 계약 취약점에 대한 데이터셋을 구축하고, 취약점 라벨과 소스 위치 정보를 포함시켰다. 데이터셋은 491개의 배포된 계약, 26개의 프로젝트, 45개의 검증되지 않은 항목, 6개의 반증되지 않은 취약점 기록을 포함한다.
이 데이터셋은 코드 분석 및 복구 기술의 실증 평가에 활용될 수 있다.
리버스 엔지니어링(RE) 능력을 평가하기 위해 CTF 문제를 사용하지만, 기존 방법은 플래그 획득 여부만 확인한다. 이 논문은 RE 과정의 세 단계에서 LLM RE 에이전트의 성능을 진단하는 Reveree 프레임워크를 제안한다.
이 결과는 LLM 기반 RE 에이전트의 평가 기준을 개선하고, 실제 분석 능력과 기억력의 차이를 구분하는 데 도움이 된다.
연구팀은 CTI 생성 및 공유 과정에서의 주요 문제점을 실증적으로 분석하고, 대규모 언어 모델(LLM)이 이를 어떻게 지원할 수 있는지 탐구했다. 실증 연구에서 LLM은 CTI 생성의 4단계에서 분석가를 지원하지만, 민감 정보 노출 방지, 지표 추출, 표준 TTPs와의 연관성, 공유 포맷 변환 등의 문제를 해결하지 못한다.
이 연구는 CTI 생성 과정의 자동화를 위한 연구 방향을 제시하며, 실무에서 LLM을 도구로 활용할 때 전문가의 감독이 필수적임을 시사한다.
SMS 스팸 탐지 시스템의 실제 내구성을 평가하고, 적대적 공격에 대한 취약점을 분석했다. 다중 모델 앙상블을 통해 내구성을 크게 향상시켰다.
실무에서는 스팸 탐지 시스템의 적대적 공격 내구성을 평가하고, 앙상블 방식을 도입해 보호 수준을 높여야 한다.
센서-서버-클라이언트 구조에서 프라이버시 보호 센서 융합 기술을 개선한다. PBFT 기반 합의 단계와 서버별 라벨 해제를 도입하여 온라인 실행 시간을 평가했다.
센서와 서버의 공모 및 비잔틴 조작을 방지하는 CRSF 프로토콜을 통해 센서 융합 보안을 강화할 수 있다.
RowHammer 보안 취약점 대응책이 실시간 시스템의 타이밍 행동에 미치는 영향을 분석하고, 공격자가 이 대응책 메커니즘을 조작해 실시간 작업의 실행 시간을 예상 WCET를 초과하게 만드는 JENGA 공격을 제안한다. 시뮬레이션 평가 결과, 이 공격으로 작업이 최대 200%의 WCET 지연을 겪는다는 것을 보인다.
실시간 시스템에서 RowHammer 대응책이 시간 안전성을 위협할 수 있으므로, 보안 대응책 설계 시 실시간 예측성까지 고려해야 한다.
딥 이미지 워터마킹의 강건성 한계를 메커니즘과 용량 확장에 따라 분석했다. 64~16384비트의 페이로드를 측정해 3가지 한계를 확인했다.
워터마킹 시스템 설계 시 페이로드 그리드의 동기화, 인코더-디코더 왜곡 저항, 임베딩 강도 범위를 고려해야 한다.
본 페이지의 연구 요약은 공개된 초록을 AI가 한국어로 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 반드시 원문을 확인하십시오. 본문과 PDF는 제공하지 않으며, 모든 저작권은 각 저자와 발행처에 있습니다.