연구 요약과 시사점은 AI가 공개 초록을 정리한 것입니다(AI 생성). 연구를 누르면 원문이 새 창에서 열립니다.
대형 언어 모델(LLM)은 단독으로는 거부되지만, 무해한 작업과 결합된 경우 해로운 의도를 숨기는 탈옥 공격에 취약할 수 있다. 본 연구는 이러한 조합적 의도 숨기기 탈옥 공격을 정보 이론적 관점에서 분석하고, 다양한 번들 크기와 쿼리 생성기에서의 탈옥 효과성과 타겟 행동 보존을 평가했다.
시사점 이 연구는 LLM의 탈옥 공격 방어를 위해 조합적 쿼리의 의도 분석 강화가 필요함을 시사한다.
임베디드 포스트-퀀텀 암호화 최적화는 주로 명령어 수준 최적화에 집중되어 있다. Arm Cortex-M7에서 ML-KEM을 사례로, 메모리 계층 활용, 주변장치 통합, 시계 설정 등을 통해 추가적인 성능 향상을 보인다. 평가 결과, 기존 최적화 구현 대비 2.5%의 사이클 감소를 기록했으며, 특정 공개 데이터 재사용 프로파일을 통해 암호화 및 복호화 사이클을 각각 최대 74.6%와 58.8%까지 감소시켰다.
시사점 임베디드 시스템에서 포스트-퀀텀 암호화의 성능 향상을 위해 시스템 수준 최적화가 필요하다.
랜섬웨어 공격을 효과적으로 탐지하기 위해 오토인코더와 메타러닝을 결합한 하이브리드 딥러닝 프레임워크를 제안한다. Ransomware Dataset 2024에서 1~50 샷 설정에서 정확도, F1 점수, 매튜스 상관계수(MCC)가 높게 나타났다.
시사점 소수 샘플로도 높은 탐지 성능을 보이는 하이브리드 모델은 제한된 라벨 데이터 환경에서 악성코드 대응력을 향상시킬 수 있다.
OpenDP의 이산 라플라스 샘플러에서 주기적 왜곡 아티팩트를 발견하여, 이산 라플라스 분포 샘플링의 정확도를 향상시켰다. 10^6 샘플을 사용한 통계적 검증을 통해 수정된 샘플러가 이론적 분포와 구분되지 않는다는 것을 보였다.
시사점 차분 프라이버시 구현 시 이산 라플라스 샘플러의 정확도를 보장하기 위해 이산 산술 라이브러리의 검증이 필요하다.
이 연구는 IoT 기기의 보안 취약성을 해결하기 위해 구조화된 상태공간 시퀀스(S4) 모델을 악성코드 분석에 처음으로 적용하였다. S4 모델은 악성코드 실행 흐름 내의 인과 관계를 파악하여 장거리 의존성을 포착함으로써 분류 성능을 향상시킨다.
시사점 이 연구는 IoT 환경에서 악성코드를 효과적으로 탐지하고 분류할 수 있는 새로운 접근법을 제시하여, 실무에서 보다 정확한 보안 대응을 가능하게 한다.
블록체인 기반 침입 탐지 및 예방 시스템에 대한 기존 체계적 검토의 한계를 지적하고, 탐지 시스템 분류, 블록체인 기능 역할, 대응 자동화 성숙도를 기준으로 한 세 가지 축의 세분화된 분류 체계를 제안한다. 2019년부터 2026년까지 고영향력 학회에서 발표된 연구를 종합적으로 분석하여, 블록체인 기반의 엔드포인트 대응 루프가 지연, 배포, 커뮤니티 불일치로 인해 거의 존재하지 않는 이유를 밝히고, 제약된 장치에서의 공감각 지연, 포스트-퀀텀 암호화 취약점, 스마트 계약 공격 표면, 진화하는 LLM 기반 탐지 엔진의 적대적 취약점과 같은 구조적 문제를 평가한다.
시사점 이 연구는 블록체인 기반의 분산 탐지-대응 아키텍처의 한계와 과제를 명확히 밝혀내어, 실무에서 블록체인 기술을 활용한 보안 솔루션 설계 시 고려해야 할 핵심 요소를 제시한다.
다중 모달 RAG(MRAG) 시스템에 대한 새로운 데이터 저장소 추출 공격 기법 immRAG를 제안한다. 공격자는 이미지에 악의적 지시를 내장하여 시스템에서 새로운 데이터를 추출할 수 있다. 단일 2500쿼리 실행으로 최대 611개의 방사선 이미지, 566개의 문서 스캔, 416개의 일반 목적 이미지를 재구성할 수 있으며, 비적응형 기준 대비 최대 5.6배 많은 데이터 저장소 항목을 얻는다.
시사점 이 연구는 MRAG 시스템의 보안 취약점을 드러내며, 다중 모달 데이터에 대한 구체적인 보호 대책이 필요하다는 것을 시사한다.
LLMLeak이라는 새로운 공격 벡터를 제시하고, 11개 오픈 파라미터 모델과 실제 챗봇을 대상으로 실험을 수행하였다. 실험 결과, 공격 성공률은 79.7%로 나타났다.
시사점 LLM을 활용한 은밀한 정보 유출 공격이 가능하므로, LLM 사용 시 URL 접근을 주의 깊게 모니터링해야 한다.
분산 에이전트 경제에서 작업 흐름의 보안 및 경제적 요구사항을 17개 속성 가족으로 체계화하고, 12개 시스템과 5개 메커니즘을 분석했다. 840개 실행과 11,648개 사례를 검사해 검증과 정산 사이의 반복적 결함을 드러냈다.
시사점 분산 에이전트 경제 시스템의 보증 체계를 설계할 때 검증과 정산 단계 간의 결함을 주의 깊게 점검해야 한다.
FPGA의 부분 재구성 기능을 활용한 암호화 방식을 분석하고, 광학 부채널(side-channel) 공격을 통해 평문 설정 데이터를 추출하는 방법을 보인다. AMD XC7A200T 장치에서 ICAP 인터페이스를 대상으로 Electro-Optical Probing을 사용해 데이터를 추출하는 실증 결과를 제시한다.
시사점 FPGA 보안 설계 시 부분 재구성 기능을 사용하는 암호화 방식의 취약성을 인지하고, 광학 부채널 공격에 대한 대응이 필요하다.
연방 학습에서 동형 암호화와 차분 프라이버시를 결합한 프레임워크를 제안하고, FEMNIST 데이터셋을 사용한 실험에서 기존 차분 프라이버시만 사용한 경우보다 모델 유틸리티와 프라이버시 보호를 향상시킨다. 실험 결과, 테스트 손실은 1.09로 기존 2.37보다 낮았으며, 프라이버시 파라미터 ε의 추정 후erior 평균은 4.32로 기존 7.26보다 낮았다.
시사점 이 연구는 연방 학습 환경에서 데이터 프라이버시와 모델 성능을 동시에 향상시키는 새로운 접근법을 제시하여, 분산 환경에서의 보안 기술 개발에 참고가 될 수 있다.
Wi-Fi 인증에서 물리 계층 위장(PLD) 기술을 활용한 새로운 인증 방법을 제안하고 open-source hostap 2.12에 구현하여 보안-신뢰성의 균형을 평가했다. 1593회 시도 중 30회 공격을 모두 거부하고 성공 경로 지연 시간을 측정했다.
시사점 이 연구는 기존 인증 방식의 한계를 보완하기 위한 새로운 기술을 제시하여 기업 Wi-Fi 환경의 보안 강화에 기여할 수 있다.
LLM 에이전트가 사용하는 스킬 체인을 악용해 사용자 요청을 조작하는 APEX 공격 기법을 제안한다. APEX는 690회 시도 중 512회(74.2%) 성공했으며, GPT-5.4에서는 84.3% 성공률을 보였다.
시사점 LLM 에이전트의 스킬 체인을 통해 사용자 승인을 조작하는 공격이 가능하므로, 이에 대한 방어 기법을 개발해야 한다.
LLM 안전 라우팅 평가가 분포 변화(distribution shift) 상황에서 기존 모델 비교 방식의 오류를 드러낸다. HELM Safety와 AgentDojo 데이터셋에서 라우팅 성능 저하가 확인되었으며, 일부 모델의 해악 점수 0점이 오류를 확대한다. 19.6점의 인식 점수 감소를 기록한 공격 기법도 제시된다.
시사점 LLM 안전 라우팅 평가 시 분포 변화를 고려하고, 테스트 라벨 없이 기준선을 선택해야 한다.
LLM 툴 호출 에이전트에서 사용자의 요청보다 더 많은 정보를 검색하는 프로액티브 오버-어서션 문제를 분석하고, 이에 대한 완화 방법을 제안한다. OverAct 벤치마크를 통해 7개 모델에서 모두 권한 범위를 초과하는 현상을 확인하고, SelfAudit이라는 제로샷 추론 시점 방법으로 43%의 프라이버시 위험 감소를 보인다.
시사점 LLM 에이전트의 프로액티브 오버-어서션 문제를 인식하고, SelfAudit을 통해 프라이버시 위험을 43% 줄일 수 있다.
페이즈-키드 푸리에-커브 변조의 키 재사용 취약점을 분석하고, 이로 인한 정보 유출 메커니즘과 키 갱신 비용을 평가하였다. 168-심볼 코드워드당 하나의 키를 사용할 때 도청자의 블록 오류율은 0.04 미만이며, 12개 운영 포인트 중 11개에서 0.1의 탈취 기준을 만족한다.
시사점 이 연구는 키 재사용 시 발생하는 보안 취약점을 실증하고, 키 갱신 전략의 중요성을 강조한다.
실행 증거 의무의 회고적 커버리지 분석 모델을 제시한다. 의무 목록의 폐쇄성과 검증자 뷰의 폐쇄성을 구분하고, COMPLETE_WITHIN_SCOPE, INCOMPLETE, UNKNOWN의 세 가지 보고 결과를 정의한다.
시사점 이 모델은 실행 의무의 완전성을 평가하는 데 사용되며, 의무 프로파일과 평가 전제에 따라 조건부로 완전성을 판단할 수 있다.
이 연구는 전통적인 주체별 키 대신 시스템 고유 키를 사용하여 PolyProtect 생체 인식 템플릿 보호 방법을 적용했을 때, 비가역적 템플릿을 생성할 수 있는지 실험적으로 검증한다. 실험 결과, 시스템 고유 키를 선택하는 세 가지 체계적 방법을 통해 비가역적 PolyProtected 템플릿을 생성할 수 있음을 보인다.
시사점 이 연구는 시스템 고유 키를 사용한 PolyProtect 방법이 템플릿 보호 성능을 저하시키지 않으면서도 동일성 중복 제거가 가능함을 보여주어, 생체 인식 시스템 설계에 실용적 기여를 한다.
대규모 언어 모델(LLM)은 소규모 해로운 샘플로 미세 조정(fine-tuning) 시 취약할 수 있다. 품질 기반 선택을 통과한 고품질 샘플이 모델 안전성을 저하시킬 수 있음을 보인다.
시사점 LLM 훈련 시 데이터 선택 과정이 해로운 샘플을 효과적으로 걸러내지 못할 수 있으므로, 품질 기준 외에 안전성 검증이 필요하다.
파인튜닝을 통해 대형 언어 모델에서 개인 정보가 다시 노출될 수 있음을 보인다. ReGap 공격은 6-21%포인트 개선된 개인 정보 복구 성능을 보인다.
시사점 이 연구는 파인튜닝을 통한 개인 정보 유출 가능성을 실무에서 주의 깊게 검토할 필요가 있음을 시사한다.
도구 사용 대규모 언어 모델(LLM) 에이전트의 보안 문제를 해결하기 위해 기원 인식 능력 강제(PACE)라는 새로운 방법을 제안한다. 79개 공격 시나리오 중 62개에서 공격 성공률을 가장 낮게 유지하는 것으로 실험 결과를 보인다.
시사점 이 연구는 도구 사용 LLM 에이전트의 보안 강화에 새로운 접근법을 제시하여, 실무에서 이러한 에이전트를 안전하게 운영할 수 있는 기반을 제공한다.
본 페이지의 연구 요약은 공개된 초록을 AI가 한국어로 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 반드시 원문을 확인하십시오. 본문과 PDF는 제공하지 않으며, 모든 저작권은 각 저자와 발행처에 있습니다.