예측 가능한 경로를 넘어: 에이전트(AI agent)를 위한 AI 보안 사고 보고 재정의
AI 보안
AI 에이전트의 보안 사고 보고 프레임워크를 제안한다. 23명의 전문가 의견을 바탕으로 에이전트 메모리, 자율성 수준, 도구 사용 등을 보고 요소로 제안한다.
시사점 AI 에이전트 보안 사고 보고 시스템 구축 시 고려해야 할 핵심 요소를 제시한다.
AI 에이전트보안 사고 보고프레임워크자율성
(새 창에서 원문 열기)RESEARCH
연구·리포트 참고 자료
이번 주 연구
연구 요약과 시사점은 AI가 공개 초록을 정리한 것입니다(AI 생성). 연구를 누르면 원문이 새 창에서 열립니다.
연구 목록
전접두사 펀치 가능한 서명(prefix puncturable signatures)의 키 크기 최적화
암호기존 전접두사 펀치 가능한 서명 구조는 키 크기의 단점을 보였다. 본 논문은 계층적 ID 기반 서명(HIBS)을 기반으로 키 크기를 O(lQ^Punc)로 줄인 새로운 구성을 제안한다.
시사점 이 연구는 전접두사 펀치 가능한 서명의 효율성을 향상시켜 암호 시스템 설계에 새로운 접근을 제공한다.
암호전접두사 펀치 서명계층적 ID 기반 서명HIBS(새 창에서 원문 열기)ActGov: 정책 제약을 통한 LLM 에이전트 행동 관리
AI 보안LLM 에이전트가 외부 도구를 통해 장기 작업을 수행할 때 발생하는 권한 초과 문제를 해결하기 위해 ActGov라는 실시간 검증 프레임워크를 제안한다. ActGov는 각 도구 호출을 정책 기반으로 검증하여 간접 프롬프트 인젝션 공격의 성공률을 줄이며 작업 효용성을 유지한다.
시사점 ActGov는 LLM 에이전트의 동적 실행 과정에서 세부적인 권한을 강제할 수 있어, 실무에서 에이전트의 보안 관리를 강화할 수 있다.
LLM 에이전트정책 제약프롬프트 인젝션ActGov(새 창에서 원문 열기)SkelOT: EVM 계약 가족 간 AOT 컴파일 재사용
시스템·하드웨어이더리움 가상 머신(EVM)의 AOT 컴파일러는 코드 해시 단위로 컴파일 아티팩트를 재사용하지만, 계약 가족 내 구조적 동일성을 고려하지 못한다. SkelOT은 계약 가족 단위로 컴파일 재사용 단위를 확장하여, 47.5%의 컴파일 유닛 감소와 57.4%의 아티팩트 크기 감소, 2.19배의 컴파일 시간 단축을 달성했다.
시사점 EVM 기반 블록체인의 컴파일 효율성을 높이기 위해 계약 구조의 공통성을 활용한 SkelOT 프레임워크를 도입할 수 있다.
EVMAOT 컴파일러계약 가족SkelOT(새 창에서 원문 열기)패시브 하이브리드 네트워크 기반 침입 탐지 시스템(Hybrid-NIDS) 평가
네트워크·프로토콜Hybrid-NIDS는 Suricata와 Random Forest 흐름 분류를 결합한 네트워크 침입 탐지 시스템이다. 실험 결과, Hybrid-NIDS는 공개 벤치마크에서 높은 성능을 보였지만 실제 운영 환경에서는 성능이 저하되는 것을 보였다.
시사점 Hybrid-NIDS는 공개 벤치마크에서 높은 성능을 보이지만, 실제 운영 환경에서는 성능이 저하되므로, 실무에서는 벤치마크 성능을 과신하지 않아야 한다.
Hybrid-NIDSSuricataRandom Forest침입 탐지(새 창에서 원문 열기)Name2Pkg: 앱 이름-패키지 이름 대응 모델링을 통한 경량형 단일클래스 안드로이드 악성코드 스크리닝
악성코드·위협안드로이드 악성코드를 탐지하기 위해 APK 파일 분석이나 런타임 행동을 기반으로 한 기존 방법은 계산 비용이 높아 대규모 초기 스크리닝에 어려움이 있다. Name2Pkg는 앱 이름과 패키지 이름 간의 대응 관계를 모델링하여 악성코드를 경량적으로 탐지하는 단일클래스 분류 방법을 제안한다. 67,129개의 실제 애플리케이션 데이터셋에서 ROC-AUC 0.982, 악성코드 재현율 0.885, 4.4%의 거짓 양성률을 달성했다.
시사점 Name2Pkg는 대규모 악성코드 스크리닝 시스템에서 초기 필터링으로 사용할 수 있는 경량형 기법이다.
안드로이드악성코드Name2Pkg단일클래스 분류(새 창에서 원문 열기)rApp/xApp 인증: O-RAN을 위한 새로운 보안 사례
시스템·하드웨어O-RAN 아키텍처에서 RIC 생태계의 런타임 보안 위험을 해결하기 위해 rApp/xApp 인증을 새로운 보안 사례로 제안한다. 가벼운 해시 기반 프로토타입을 통해 인증 지연 시간이 40ms 미만임을 보인다.
시사점 O-RAN 환경에서 런타임 보안을 강화하기 위해 기존 인증 기술을 통합하는 방법을 실무에 적용할 수 있다.
O-RANrApp/xApp인증보안(새 창에서 원문 열기)악성코드 탐지용 제어 흐름 그래프 신경망의 시간적 일반화와 설명 안정성
악성코드·위협악성코드 탐지를 위한 제어 흐름 그래프 신경망에서 시간적 분할을 적용한 실험을 통해 모델의 일반화 능력과 설명 안정성을 분석했다. 2024-2025년 데이터로 학습한 12개 모델이 2026년 데이터에서 평가되어 메시지 패싱 연산자의 선택이 성능에 큰 영향을 미치는 것을 보였다.
시사점 악성코드 탐지 모델 평가 시 시간적 분할을 고려해야 하며, 메시지 패싱 연산자의 선택이 분포 변화에 대한 안정성에 중요한 역할을 한다.
악성코드 탐지제어 흐름 그래프신경망시간적 일반화(새 창에서 원문 열기)자동 보안 테스트에서 위조 가능한 확인: 결정론적 규칙 대 AI 판정
AI 보안AI가 보안 테스트를 자동화하는 과정에서 공격 성공 여부를 판단하는 확인 메커니즘의 위조 가능성에 대해 연구하고, 결정론적 규칙과 AI 판정의 차이를 분석하였다. 15개 확인 메커니즘 중 9개가 위조 가능하며, 결정론적 규칙은 2%의 공격자 제어 데이터로 위조되지만, 8개의 오픈 가중치 LLM 판정은 중간값 50%로 더 어렵다.
시사점 보안 테스트 시스템의 확인 메커니즘 설계 시 공격자 제어 데이터를 읽는 결정을 피하고, 공격자가 쓸 수 없는 채널에 결정적 증거를 이동시켜야 한다.
AI 보안자동 보안 테스트LLM 판정위조 가능성(새 창에서 원문 열기)KEVGraph: 공격 인식 의존성 취약점 수정
취약점·익스플로잇의존성 스캐닝 도구는 수백 개의 취약점을 표면화하지만, 공격 인식 정렬을 제공하지 않아 실무자가 우선순위를 결정할 수 없게 만든다. KEVGraph는 정확한 정수 선형 계획법(ILP)이나 KEV 인식 탐욕 알고리즘을 통해 활동적으로 공격받는 취약점을 최대한 빨리 제거하도록 설계된 8단계 파이프라인으로, 실제 npm 저장소에서 평가한 결과 AUCCKEV = 0.997을 달성했다.
시사점 KEVGraph를 사용하면 실무자가 활동적으로 공격받는 취약점을 우선적으로 수정할 수 있어 보안 위험을 줄일 수 있다.
의존성 취약점KEVILP정수 선형 계획법(새 창에서 원문 열기)모넷(Monet): 해로운 서비스용 오픈소스 텍스트-이미지 모델 생태계 측정
AI 보안오픈소스 텍스트-이미지(T2I) 모델의 해로운 서비스 생태계를 체계적으로 측정하여, 8개 주요 모델 허브에서 23,947개의 해로운 모델을 식별하고, 플랫폼 간 확산과 거버넌스 회피 전략을 분석했다. 40.76%의 모델이 다른 허브로 복제되어 확산되었으며, 11.99%는 원래 플랫폼에서 금지된 후에도 접근 가능했다.
시사점 해로운 생성 모델의 플랫폼 간 확산과 거버넌스 회피를 막기 위해 플랫폼 간 협력적 위협 정보 공유와 기술적 방어가 필요하다.
텍스트-이미지 생성해로운 서비스모델 생태계거버넌스 회피(새 창에서 원문 열기)비트에서 믿음으로: 블랙박스 대형 언어 모델 검증을 위한 복구 가능한 의미 지문
AI 보안LLM 소유권 검증을 위해 SimPrint이라는 블랙박스 지문 프레임워크를 제안한다. SimPrint은 기존의 정확한 일치에 의존하는 방식 대신 의미적 지문 영역에 개인 서명을 인코딩하여, 수정된 환경에서도 신뢰할 수 있는 소유권 복구를 보여준다.
시사점 SimPrint은 블랙박스 LLM의 소유권을 효과적으로 검증할 수 있는 새로운 방법을 제공하여, 모델의 무단 복제 및 수정을 방지하는 데 기여할 수 있다.
LLM소유권 검증블랙박스의미 지문(새 창에서 원문 열기)LeaseGuard: 권한 있는 LLM 에이전트를 위한 기존 작업 보존형 접속 제어
AI 보안LLM 에이전트가 동일한 파일이나 자원을 사용하는 건강한 작업을 대체하는 문제를 해결하기 위해 LeaseGuard라는 결정론적 접속 제어 계층을 제안한다. 평가 결과, LeaseGuard는 비인가된 대체를 73.3%에서 0.0%로 줄이고 안전한 완료 비율을 70.0%포인트 증가시켰다.
시사점 LeaseGuard는 LLM 에이전트가 자원을 안전하게 공유할 수 있도록 하며, 실무에서는 권한 있는 에이전트의 자원 관리를 개선할 수 있다.
LLM 에이전트접속 제어자원 관리LeaseGuard(새 창에서 원문 열기)MobileCybench: 실행 가능한 프로브를 통한 에이전트 취약점 발견 평가
AI 보안AI 에이전트가 보고한 취약점을 평가하기 위한 프레임워크와 벤치마크인 MobileCybench를 제안한다. 13개의 안드로이드 애플리케이션에서 495개의 프로브를 사용해 5개의 코드 작성 에이전트를 평가한 결과, 최고 성능 에이전트는 악성 앱 설정에서 53.8%, 원격 공격자 설정에서 16.7%의 프로브를 트리거했다. 소스 코드 접근 시 트리거율은 28.8%에서 32.8%로 증가했으며, 23개의 새로운 취약점을 발견했다.
시사점 이 연구는 AI 에이전트의 취약점 발견 능력을 평가하는 표준화된 방법을 제시하며, 실무에서는 AI 도구의 효과성을 검증하는 데 활용할 수 있다.
AI 에이전트취약점 발견프로브안드로이드 애플리케이션(새 창에서 원문 열기)임베디드 하드웨어에서 가벼운 가상화 환경의 포스트-퀀텀 암호(PQC) 벤치마크
암호임베디드 시스템에서 가벼운 가상화 환경의 포스트-퀀텀 암호(PQC) 성능을 측정했다. 네이티브 실행, 도커 컨테이너, 유니크래프트 유니커널 환경에서 70개 이상의 알고리즘 설정을 평가하여 실행 시간, 메모리, 에너지 소비를 측정했다.
시사점 임베디드 시스템에서 PQC 알고리즘 선택이 성능에 미치는 영향이 환경 선택보다 훨씬 크므로, 에너지 효율적인 알고리즘 선택이 중요하다.
포스트-퀀텀 암호(PQC)가상화임베디드 시스템암호 성능(새 창에서 원문 열기)에이전트 AI 보안: 다차원 위협 분류, 평가 성숙도, 개방적 과제
AI 보안Agentic AI 보안을 다차원 위협 분류(T={S, B, P, A})를 통해 분석하고, 66개 연구를 검토하여 평가 성숙도와 개방적 과제를 제시한다. 22개의 레드팀 연구와 11개의 보안 벤치마크를 분석하여, 프롬프트/추론, 메모리, 툴 매개 공격에 주로 집중되어 있으며, 지속적, 인간-에이전트, 복잡한 다중 에이전트, 시스템적, 장기적 위협은 덜 다루어진다.
시사점 Agentic AI 보안 평가 시 다차원 분류와 체계적인 연구가 필요하며, 평가 지표의 일관성과 재현성을 확보해야 한다.
에이전트 AI(agentic AI)보안 분류평가 성숙도개방적 과제(새 창에서 원문 열기)SyzHarness: 패치 기반 커널 결함 재현을 위한 LLM-합성 퍼징 허네스
시스템·하드웨어SyzHarness는 LLM(대형 언어 모델)과 커버리지 가이드 퍼징을 결합하여 Linux 커널 취약점의 패치 기반 재현을 위한 프레임워크이다. 100개의 KernelCTF 사례에서 78%, SyzDirect 벤치마크에서 73%, 50개의 최근 syzbot 결함 중 40개(80%)를 성공적으로 재현하였다.
시사점 SyzHarness는 커널 취약점 재현을 자동화하여 보안 테스트 효율성을 높일 수 있다.
LLM퍼징커널 보안SyzHarness(새 창에서 원문 열기)패턴 수준 차분 프라이버시(pattern-level differential privacy)를 통한 고유틸리티 복합 이벤트 처리
프라이버시복합 이벤트 처리(CEP) 시스템에서 기존 프라이버시 보호 메커니즘이 데이터 유틸리티를 과도하게 저하시킨다는 문제를 해결하기 위해 패턴 수준 차분 프라이버시를 제안하고, 이를 보장하는 새로운 메커니즘을 제시한다. 제안된 메커니즘은 기존 최고 수준의 프라이버시를 유지하면서 데이터 유틸리티를 향상시키는 것을 실험적으로 보인다.
시사점 이 연구는 CEP 시스템에서 프라이버시 보호와 데이터 유틋리티를 동시에 달성할 수 있는 새로운 접근법을 제시하여, 실시간 데이터 분석이 필요한 분야에서 보다 효과적인 프라이버시 보호를 적용할 수 있게 됩니다.
프라이버시 보호복합 이벤트 처리차분 프라이버시패턴 수준(새 창에서 원문 열기)TriFleetRCA: Kubernetes 환경에서 온프레미스 LLM을 활용한 루트 원인 분석
AI 보안Kubernetes 환경에서 루트 원인 분석을 위해 온프레미스 GPU에서 실행되는 TriFleetRCA 파이프라인을 제안한다. 100개 분석에서 팟, 네임스페이스, 클러스터 범위의 정확도는 각각 85%, 90%, 95%이며, 중복 제거 전후의 정확도 차이는 0.75에서 0.90이다.
시사점 Kubernetes 운영자에게 온프레미스 LLM 기반 루트 원인 분석 도구를 제공하여 보안과 효율성을 동시에 달성할 수 있다.
루트 원인 분석KubernetesLLM온프레미스(새 창에서 원문 열기)AI 네이티브 운영체제로 가는 길에서의 보안 체계화(When the Agent Becomes the Kernel)
AI 보안AI 에이전트가 운영체제의 핵심 역할을 수행하는 시스템에서 보안 문제를 체계적으로 분석하고, 보안 설계의 핵심 구분과 방어 전략을 제시한다. 현재 평가가 보안성을 과대평가하는 경향을 보인다.
시사점 AI 에이전트가 핵심 역할을 하는 운영체제 설계 시 보안 구분과 방어 전략을 체계적으로 고려해야 한다.
AI 에이전트운영체제 보안AI 네이티브 시스템보안 체계화(새 창에서 원문 열기)POZZER: 전력 부채널을 활용한 블랙박스 임베디드 시스템 퍼징기법
시스템·하드웨어임베디드 시스템의 퍼징은 취약점을 발견하는 효과적인 기법이지만, 기존 퍼징 도구는 펌웨어 소스 코드나 바이너리에 접근해야 한다. POZZER는 전력 부채널을 피드백으로 사용하여 블랙박스 조건에서 실행 경로를 탐색하는 퍼저를 제안한다. 30개 대상-플랫폼 조합 중 26개에서 블라인드 퍼저보다 우수한 성능을 보였으며, 실제 상용 장비에서 2개의 새로운 취약점을 발견했다.
시사점 이 연구는 블랙박스 임베디드 시스템의 퍼징을 가능하게 하여, 접근이 어려운 장비의 보안 검증에 활용할 수 있다.
임베디드 시스템퍼징전력 부채널블랙박스(새 창에서 원문 열기)
본 페이지의 연구 요약은 공개된 초록을 AI가 한국어로 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 반드시 원문을 확인하십시오. 본문과 PDF는 제공하지 않으며, 모든 저작권은 각 저자와 발행처에 있습니다.