연구 요약과 시사점은 AI가 공개 초록을 정리한 것입니다(AI 생성). 연구를 누르면 원문이 새 창에서 열립니다.
공개 가중치 언어 모델의 어댑터에서 숨겨진 채널을 구조적으로 제거하고 이를 증명하는 방어 기법 ServeGuard를 제안한다. 0.5B 모델에서 선량한 어댑션에 대해 거의 무료로 모니터링 예산은 구조적이다.
시사점 이 연구는 공개 가중치 언어 모델의 어댑터에서 숨겨진 채널을 제거하고 이를 검증할 수 있는 새로운 방어 기법을 제시하여, 공급망 보안을 강화할 수 있다.
동형 암호화(HE) 기반의 대형 언어 모델(LLM) 추론에서 탈옥 공격에 취약한 보안 문제를 발견하고, 암호화된 데이터 상에서 가드레일 메커니즘을 평가하는 HE-Guardrail 프레임워크를 제안한다. HE-Guardrail은 Llama Guard, JBShield, GradSafe 세 가지 대표적인 가드레일을 구현하여, 암호화 도메인에서 원문 가드레일의 결정을 정확히 재현함을 보인다.
시사점 암호화된 LLM 추론 시스템에서 탈옥 공격을 방어하기 위해 암호화 데이터 상에서 가드레일을 실행하는 HE-Guardrail을 적용할 수 있다.
랜섬웨어가 파일 작업을 분산시키는 방식을 감지하기 위해, 파일 이벤트 기반 그래프를 생성해 유사 행동을 클러스터링하는 DEFEAT 프레임워크를 제안한다. 9780만 개의 파일 I/O 이벤트를 기반으로 99.2% 정확도를 달성했으며, 기존 방법 대비 6.57~7.56% 높은 성능을 보였다.
시사점 랜섬웨어 분석 시 파일 간 관계를 그래프로 재구성해 조기 감지가 가능하다는 점을 실증했다.
SBOM(Software Bill of Materials)의 기밀 보호 문제를 해결하기 위해 TrustBOM이라는 확장 가능한 아키텍처를 제안한다. TrustBOM은 제로지식 비멤버십 증명을 사용하여 소프트웨어 공급자가 의존성 그래프를 노출하지 않고 특정 취약점이나 제한된 라이선스가 없는 것을 증명할 수 있도록 한다. 평가 결과, 평균 증명 생성 시간은 0.9초이며, 기업 플랫폼 생태계에 배포가 가능하다.
시사점 TrustBOM은 기업 간 SBOM 공유 시 기밀 보호를 보장하면서 소프트웨어 공급망 관리를 가능하게 하므로, 보안 및 컴플라이언스 실무에 활용할 수 있다.
이진 임베딩에 대한 암호화된 해밍 거리 계산을 위해 퍼일러 기반 클라이언트를 설계하고, 다양한 CPU 및 GPU 구성을 평가하였다. 룩업 GPU 구성에서 43,091개/초의 암호화 처리량과 28,983개/초의 해밍 거리 해독 처리량을 달성하였다.
시사점 이 연구는 대규모 이진 임베딩 데이터의 암호화 처리 성능을 향상시키는 데 기여할 수 있다.
연구자들은 IoT 장치의 암호공학 보안을 평가하는 대규모 언어 모델(LLM) 벤치마크인 CESBench를 제안한다. CESBench는 380개의 전문가 작성 항목으로 구성되며, 6개의 하위 분야와 4가지 태스크 유형을 포함한다.
시사점 이 벤치마크는 LLM이 IoT 암호공학 보안 분야에서 얼마나 효과적으로 작동하는지를 평가하는 데 사용될 수 있다.
LLM을 활용한 재식별 공격에 대해 통계적 보장을 제공하는 Conformal Privacy Auditing(CPA) 프레임워크를 제안한다. CPA는 사용자 정의 신뢰 수준에서 실제 신원을 포함하는 후보 신원 집합을 출력하며, 다양한 공격자 구성과 릴리스 메커니즘에서 검증 가능한 식별 가능성의 급격한 변화를 보인다.
시사점 이 연구는 LLM을 활용한 재식별 공격에 대한 통계적 검증 방법을 제공하여, 문서 릴리스 시 개인 정보 유출 위험을 정량적으로 평가할 수 있게 한다.
SaaS 산업 전반에서 개인적으로 드문 그러나 증가하는 제품 남용 문제를 해결하기 위해 기계 학습을 활용한 통합 방어 시스템을 설계하고, 실제 운영 환경에서의 제약 조건을 고려한 방어 기법을 제안한다. 제품 남용 범위를 35%, 월간 경보를 30% 감소시켰다.
시사점 SaaS 보안 플랫폼의 제품 남용을 감지하는 데 기계 학습 기법을 적용할 수 있으며, 경보 감소와 함께 적응성을 높일 수 있다.
하이브리드 키 설정에서 포스트-퀀텀 KEM과 클래식 디피-헬만을 결합하여 세션 키의 안전성을 유지하는 방안을 제안하고, 트랜스크립트 해시를 결합키에 포함시켜 다운그레이드 공격을 저항하는 메커니즘을 정의하고 증명한다. 트랜스크립트 바인딩은 각 당사자당 하나의 해시로, 핸드셰이크 계산의 11.8%이지만 라디오 포함 에너지의 1.5%에 불과하다.
시사점 이 연구는 하이브리드 포스트-퀀텀 키 설정에서 다운그레이드 공격을 방지하기 위해 트랜스크립트 바인딩을 도입하는 것이 실용적임을 보여주어, 임베디드 장치에서의 보안 프로토콜 설계에 참고가 된다.
실시간 보안 분석 시스템에서 탐색적 분석과 자동 분석의 상호작용을 평가하기 위해 Border Gateway Protocol(BGP) 트래픽 이상 탐지를 위한 시스템을 개발하고 테스트했다. 개발된 플랫폼은 실시간으로 지표와 위협 경고를 계산하고 경고의 맥락을 시각화하는 기능을 포함한다.
시사점 이 연구는 실시간 보안 모니터링 시스템 개발자에게 자동 분석과 탐색적 분석의 상보적 활용 방법을 제시한다.
X-SPUR는 라벨이 없는 공격 데이터가 드문 자동차 이더넷 네트워크에서, 원시 패킷 필드를 토큰 시퀀스로 표현하고 인과 언어 모델링을 통해 정상 트래픽 패턴을 학습한 후, 토큰별 교차 엔트로피 놀라움을 기반으로 이상을 탐지하는 프레임워크이다. TOW-IDS 데이터셋에서 AUC 0.9987를 달성했으며, 기존 AERO(0.9969)보다 약간 높은 성능을 보였다.
시사점 X-SPUR는 자동차 이더넷 네트워크에서 라벨 없는 데이터를 기반으로 정확한 침입 탐지를 가능하게 하며, 토큰별 놀라움을 통해 설명 가능한 보안 분석을 지원한다.
보안 운영 센터(SOC) 분석가의 조사 사고 기술 훈련 방법을 연구하고, 실제 사례 기반 훈련을 통해 비소모성 지식을 전달할 수 있는지 검증했다. 25명의 학생을 대상으로 5회차 20시간의 훈련을 진행하고, 훈련 효과를 분석했다.
시사점 이 연구는 보안 분석가 훈련에서 도구에 의존하지 않고 조사 사고 기술을 향상시키는 방법을 제시한다.
인텐트 기반 네트워크(IoT) 정책 생성을 위해 대형 언어 모델(LLM)을 활용하되, 기존 시스템의 한계를 보완한 NetInspector 프레임워크를 제안한다. NetInspector는 검증-실행 프로토콜을 통해 정책 결정을 네트워크 사실에 기반시켜, 기존 기준 대비 30% 이상의 오류 감소를 달성했다.
시사점 NetInspector는 인텐트 기반 네트워크 정책 생성 시 LLM의 신뢰성을 향상시키며, 네트워크 관리자들이 정책 오류를 줄이는 데 활용할 수 있다.
간접 프롬프트 인젝션(IPI)을 방어하기 위해 기존 변환기 아키텍처를 확장한 '프로벤런스 인식 변환기'를 제안한다. 모델 내부에서 원본 정보를 구분하는 구조적 경계를 설정함으로써 IPI에 대한 내성을 유지하면서 기반 모델과 유사한 유틸리티를 보장한다.
시사점 이 연구는 LLM 시스템에서 프롬프트 인젝션 공격을 방어하는 구조적 접근법을 제시하여, 모델의 안전성 정렬 전략을 개선할 수 있다.
인간 승인을 기반으로 한 에이전트 시스템의 보안 경계를 무력화하는 새로운 공격 기법인 루프잭킹(Loopjacking)을 제안하고, Agno AgentOS 3.0.9, LangGraph Agent Server 0.14.0, OpenClaw 2026.2.23 등에서 이 공격을 재현한 연구를 수행하였다. 7개 버전의 Agno AgentOS와 12개 버전의 LangGraph Agent Server에서 사후 승인 상태 치환 공격을, OpenClaw 2026.2.23에서 표현 불일치 공격을 성공적으로 재현하였다.
시사점 인간 승인을 기반으로 한 에이전트 시스템의 보안 경계를 무력화하는 루프잭킹 공격이 확인되어, 승인 과정에서의 정확한 표현과 실행 시 비교 또는 승인되지 않은 상태 변경을 방지하는 조치가 필요하다.
AI 코드 보조 도구가 소프트웨어 개발을 변화시키고 있지만 보안 취약점을 생성하는 것으로 알려져 있다. 100명의 개발자를 대상으로 AI 생성 코드의 보안성 평가 과정을 실험적으로 조사하여, 개발자가 취약점을 식별하는 능력과 신뢰가 결정에 미치는 영향을 분석했다.
시사점 AI 생성 코드의 보안성 평가 과정에서 개발자의 신뢰와 평가 능력이 중요하며, 이는 AI 도구 사용 시 보안 개발 실천에 영향을 미친다.
Linux의 보안 모델과 호환되지 않는 침투적인 치트 방지 커널 모듈 대신, TPM 2.0과 IMA를 활용한 하드웨어 기반 무결성 증명 프레임워크 TPM-Attest를 제안한다. 500개의 조작 시도에서 100% 탐지율을 달성했으며, 반복 증명 지연 시간은 3초 미만이다.
시사점 Linux 기반 온라인 게임에서 치트 방지를 위해 기존 침투적인 커널 모듈 대신 TPM-Attest를 도입할 수 있다.
생성형 인공지능(GenAI) 시스템에서 프라이버시 위협을 완화하기 위한 적절한 방안을 선택하는 문제를 논의한다. GenAI 시스템은 전통적인 프라이버시 위협을 악화시키며 새로운 추론 기반 위협을 도입한다. 이를 해결하기 위해 기존 위협-완화 매핑 방법을 GenAI 특성에 맞게 확장하는 접근을 제안한다.
시사점 GenAI 기반 시스템의 프라이버시 보호를 위해 기존 방안과 GenAI 특성을 결합한 체계적인 완화책 선택 접근이 필요하다.
AWS AgentCore 허네스의 기본 설정을 통해 공격자가 프롬프트 인젝션을 이용해 인증 정보를 유출할 수 있음을 보였다. 허네스 내장 쉘 도구가 인증 정보를 평문으로 변환하는 메모리 공간에 접근할 수 있음을 발견했다.
시사점 AgentCore 허네스를 사용하는 운영자는 허네스가 사용할 수 있는 툴을 최소한의 범위로 제한하고, 인증 정보 저장소 계정을 최소 권한으로 설정하며, 허네스 컨테이너의 외부 트래픽을 모니터링해야 한다.
AI 생성물의 악용으로 인한 비즈니스 모델과 법적 규제를 분석하고, 개인과 가족을 보호하기 위한 전략을 제시한다. 2025년 보고서에 따르면 미국 청소년 중 47%가 AI 생성 익스플로잇 자료를 접한 것으로 나타났다.
시사점 AI 기반 'Nudify' 앱의 악용을 방지하기 위해 온라인 이미지 관리와 계정 보안 강화가 필요하며, 피해 발생 시 신속한 대응이 중요하다.
AI 모델이 추론 엔진의 특정 정보를 탐지해 취약점을 활용하는 공격 기법을 제시하고, 5개 인기 있는 엔진에서 구체적인 예시와 증명 개념을 통해 실증했다. 실제 에이전트 화면을 통해 모델이 엔진을 식별하고 공격을 수행하는 방법을 보였다.
시사점 AI 모델이 추론 엔진을 타겟으로 삼아 보안 위협을 가할 수 있으므로, 추론 엔진의 보안 강화가 필요하다.
본 페이지의 연구 요약은 공개된 초록을 AI가 한국어로 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 반드시 원문을 확인하십시오. 본문과 PDF는 제공하지 않으며, 모든 저작권은 각 저자와 발행처에 있습니다.