이 연구는 Generative Engine Optimization(GEO)를 통해 검색 기반 대형 언어 모델 에이전트를 조작하는 계층적 웹 증거 오염 공격을 평가하기 위한 HAE-GEO 벤치마크를 제안한다. 10개의 에이전트를 평가한 결과, 증거 인식이 코로보레이션 트랩에서 악화되고, 에이전트 검색이 최종 저항성을 향상시키지만 증거 인식이나 유틸리티는 개선되지 않는다는 패턴을 발견했다.
이 연구는 검색 기반 대형 언어 모델 에이전트의 취약점을 드러내며, 보다 강력한 방어 전략이 필요함을 시사한다.
기계 학습 기반 네트워크 침입 탐지 시스템(ML-based NIDS)의 적대적 회피 공격에 대한 내성을 평가하고, 공격 탐지 방법을 제안한다. 8개의 적대적 공격, 15개의 탐지 모델, 3개의 방어 전략을 평가하여, 적대적 학습을 적용한 앙상블 모델이 평균 공격 성공률을 0.41에서 0.03으로 줄이고 내성 지수(RI) 0.98을 달성했다.
ML-based NIDS의 적대적 공격 내성을 평가하고, 적대적 학습을 적용한 앙상블 모델을 통해 공격 탐지 성능을 향상시킬 수 있다.
ClosureBound는 에이전트 스킬의 이질적인 의존성 폐쇄에서 권한 이전을 방지하는 참조 모니터를 제안한다. 84,608개 상태와 530,752개 전이를 달성했다.
ClosureBound는 에이전트 스킬의 의존성 관리와 권한 이전 방지를 위한 새로운 보안 기법으로, 실무에서 의존성 폐쇄의 안정성과 효과성을 높일 수 있다.
LLM 에이전트의 보안 노출을 측정하기 위해 실행 구조를 분석하는 새로운 방법을 제안한다. 454개의 주입-싱크 쌍에서 96.9%가 시간적 거리보다 구조적 거리가 더 짧았으며, 평균 갭은 9개의 허프였다.
LLM 에이전트의 보안 분석에서 시간적 거리보다 구조적 거리를 고려하는 것이 중요하다.
LLM 에이전트의 안전성을 향상시키기 위해 EvoSafeHarness라는 새로운 안전 장치 프레임워크를 제안한다. DecodingTrust-Agent에서 평균 공격 성공률을 45.6%에서 10.0%로 줄이며, AgentDojo에서 82.8%의 유틸리티를 0.0% ASR로 달성한다.
EvoSafeHarness는 LLM 에이전트의 안전성과 유틸리티를 동시에 향상시켜, 실제 시스템에 적용할 수 있는 새로운 방안을 제시한다.
LLM 에이전트의 권한 부여 프로세스를 분리하여 공격에 대한 내성을 강화하는 새로운 보안 아키텍처인 KITA를 제안한다. 6개의 시스템 테스트와 암호화 미세 벤치마크를 통해 임계 서명의 정합성과 확장성을 검증한다.
이 연구는 LLM 에이전트가 권한 부여를 분리하여 공격에 대한 내성을 강화하는 새로운 보안 아키텍처를 제안한다.
LLM의 내부 거부 신호를 중독시켜 백박스 편집 제한 해제 공격을 방어하는 새로운 방어 기법을 제안한다. 4개의 오픈 가중치 모델에서 거부율을 16.25%에서 71.75%로 높였다.
이 방어 기법은 LLM의 안전 정렬을 유지하면서 일반적인 성능에 영향을 주지 않아, 실제 시스템에 적용할 수 있는 실용적인 보완책을 제공한다.
소프트웨어 정의 네트워크(SDN)에서 분산 서비스 거부(DDoS) 공격을 실시간으로 감지하기 위해 엔트로피 기반 머신러닝 프레임워크인 XAI-SDN을 제안한다. CIC-DDoS2019 SYN 벤치마크에서 99.9987% 정확도, 99.9621% 매크로 F1 점수, 1.0000 AUC-ROC를 달성했다.
XAI-SDN은 SDN 환경에서 실시간 DDoS 감지와 설명 가능성의 균형을 맞추는 데 기여할 수 있다.
iOS 기기의 Core NFC를 이용해 특정 결제 카드의 주계좌번호(PAN)와 유효기간을 획득하는 방법을 제시한다. 테스트 카드에서 PAN과 유효기간을 성공적으로 복구했다.
iOS 기기 사용자는 NFC 기능을 통해 결제 카드 정보가 유출될 수 있으므로, 카드 정보 보호에 주의해야 한다.
완전 순열 다항식은 암호체계 설계에 핵심적인 역할을 하며, 기존 연구를 일반화하여 새로운 매핑의 완전 순열 특성을 분석하였다. 두 가지 매핑 방식에 대한 완전 순열 조건을 제시하였다.
이 연구는 암호 알고리즘 설계 시 활용 가능한 새로운 완전 순열 다항식의 구성을 제시한다.
ChatGPT의 샌드박스 환경에서 공유 클립보드를 통한 계정 간 데이터 유출 취약점을 분석했다. 특정 조건에서 다른 사용자의 데이터를 접근할 수 있음을 보였다.
ChatGPT 사용자는 샌드박스 기능 사용 시 데이터 유출 위험에 주의해야 한다.
Thomson Reuters의 C-Track 법원 사건 관리 플랫폼이 11개 미국 주와 캐나다의 법원에 영향을 미친 침해 사례를 보고한다. 침입자는 C-Track 파일에 접근하여 정보를 유출하였다.
Thomson Reuters의 C-Track 플랫폼 침해 사례를 통해 법원 시스템의 보안 취약성을 인식하고 대응 방안을 강화해야 한다.
소프트웨어 공급망 보안(SSC)의 취약점을 효과적으로 파악하기 위해 SBOM 도구의 한계를 분석하고, 취약점 전파 효과를 중심으로 한 4단계 전파 모델을 제안한다. 3개 프로젝트와 Log4j 취약점을 테스트 사례로 사용한 실증 결과, 현재 SBOM 도구는 단계 1과 2만 지원하며 단계 3과 4는 SBOM 생태계에서 결여된 기능을 요구한다.
SSC 보안 도구 설계 시 취약점 전파 효과를 중심으로 한 접근이 필요하다.
LLM 기반 디컴파일러가 재컴파일 가능성과 실행 가능성에만 집중하는 경향이 있어, 실제 동작 차이를 포착하지 못한다는 점을 보인다. 4.9%의 함수가 재컴파일된 코드에서 동작이 달라지고, 일부 취약점이 출력에서 사라지는 현상이 관찰된다.
LLM 디컴파일러의 재컴파일 가능성은 완전한 동작 보존을 보장하지 않으므로, 보안 분석 시 동작 차이를 확인하는 추가 검증이 필요하다.
BUGSTONE-E2E는 공개된 취약점 데이터베이스의 패치 기록을 분석하여 실행 가능한 탐지 규칙을 생성하는 프레임워크를 제안한다. 2022년부터 2026년까지의 19,325개 고위험 CVE를 기반으로 1,033개의 탐지 규칙을 생성하여 14개 프로그램에서 644건의 결과를 도출했다.
이 연구는 기존 취약점 패치 기록을 자동화된 탐지 및 수리 프로세스로 전환할 수 있음을 보여주어, 실무에서 취약점 관리 효율성을 높이는 데 기여할 수 있다.
기계 언러닝은 삭제 요청에 따라 모델을 재학습시키는 것을 목표로 한다. 이 연구는 리트로액티브 알고리즘과 차분 프라이버시를 결합한 새로운 정의를 제시하고, 선형 통계량, 클러스터링, 히스토그램에 대한 구조를 제시한다.
이 연구는 기계 언러닝을 프라이버시 보호를 위한 리트로액티브 알고리즘으로 확장할 수 있음을 보인다.
LLM 에이전트 시스템에서 보안 컨텍스트가 구성 요소 간 전달 시 손실되는 문제를 해결하기 위해, 보안 컨텍스트 연속성을 보장하는 CONTINUITY 프레임워크를 제안한다. 2,560개의 공격 시나리오에서 해로운 외부 효과가 발생하지 않았으며, 700개의 정상 작업을 완료하고 200개의 모호한 사례를 상향 조정하였다.
이 연구는 LLM 에이전트 시스템의 보안을 강화하기 위해 구성 요소 간 보안 컨텍스트의 일관성을 보장하는 계약 기반 프레임워크를 설계하는 데 실무적 시사점을 제공한다.
직원들이 개인 계정으로 기업 보안 외부에서 생성형 AI를 사용하는 BYOAI 문제를 해결하기 위해, 위험 분류와 프레임워크 참여 프로필을 포함한 거버넌스 모델을 개발했다. 5단계 성숙도 체계와 기술적 통제 아키텍처를 결합한 모델로, 30개 자료 분석 결과 데이터 노출과 규정 준수 문제가 두드러졌으며, 계층적 통제가 위험을 크게 줄인다.
BYOAI로 인한 데이터 노출과 규정 준수 위험을 줄이기 위해 기술적, 거버넌스, 인간 중심의 계층적 통제가 필요하다.
본 연구는 콘포멀 예측(Conformal Prediction) 기법을 공격 분석에 적용한 연구이다. 콘포멀 예측은 기존에 방어적 수단으로 사용되었으나, 공격 분석에의 활용은 거의 연구되지 않았다. 연구는 개인정보 보호 머신러닝과 네트워크 트래픽 분석 두 분야에서의 초기 결과를 제시한다.
이 연구는 콘포멀 예측 기법을 공격 분석에 적용함으로써 보안 분야에서의 새로운 응용 가능성을 제시한다.
HTTPS 트래픽만으로 사용자가 방문한 웹사이트를 추정하는 웹사이트 지문(WF) 공격을 방어하기 위해 HTTP/2 프로토콜의 기능을 활용한 방어 기법을 제안한다. HTTP/2의 다중 전송(multiplexing), 흐름 제어(flow control) 등의 기능을 통해 클라이언트 및 서버 단에서의 방어 가능성을 실증적으로 평가한다.
HTTP/2의 기능을 활용한 방어 기법은 기존 WF 방어 방식 대비 가벼우면서도 효과적인 대안이 될 수 있다.
LLM의 안전성 평가에 사용할 수 있는 새로운 벤치마크인 TIER를 제안한다. 6개 오픈 웨이트 LLM을 대상으로 실험한 결과, 위협 수준에 따라 안전성 행동이 점진적으로 변화함을 보인다.
이 결과는 LLM의 안전성 평가 시 단순한 이진 평가보다 행동 기반의 세분화된 평가가 필요함을 시사한다.
본 페이지의 연구 요약은 공개된 초록을 AI가 한국어로 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 반드시 원문을 확인하십시오. 본문과 PDF는 제공하지 않으며, 모든 저작권은 각 저자와 발행처에 있습니다.