연구 요약과 시사점은 AI가 공개 초록을 정리한 것입니다(AI 생성). 연구를 누르면 원문이 새 창에서 열립니다.
연구진은 HPC 시스템에서 실행되는 LLM 에이전트의 무단 실행 및 오용을 막기 위해 하드웨어 기반의 신뢰 루트를 갖춘 결정론적 보안 런타임인 Enclawed를 개발했다. 이 시스템은 정책 기반의 실행 게이트, 서명된 하트비트 기반의 임대 부여, 그리고 감독관을 통해 공격 시도를 차단하며, 실제 모델에서 24회의 시도 중 108회의 합법적 실행을 허용했다.
시사점 HPC 환경에서 LLM 에이전트를 운영할 경우, 실행 단계에서부터 물리적/소프트웨어적 수준의 강력한 감독 메커니즘을 도입해야 한다.
본 연구는 사이버 공격에 취약한 ACC 시스템의 상태 정보 유출 문제를 해결하기 위해, 관측된 주행 상태가 보정된 RDC 경계를 위반할 때 복구를 활성화하는 RAT 메커니즘을 갖춘 TRACER를 제안했다. 여섯 가지 사이버 공격 시나리오에 걸친 실험에서 TRACER는 정확도, 안정성, 안전성 측면에서 기존 대비 우수한 복구 트리거링을 달성했다.
시사점 ACC 시스템의 사이버 공격에 대응하기 위해, 주행 상태의 물리적 제약 조건을 활용하여 공격 여부를 판단하고 복구 모드로 전환하는 것이 중요하다.
본 문서는 Kaspersky 제품에 AI 에이전트의 위협에 대응하기 위한 탐지 및 통제 기능을 추가한 내용을 설명한다. 엔드포인트 탐지 및 대응(EDR) 솔루션과 애플리케이션/웹 컨트롤을 통해 AI 에이전트의 실행을 감지하고 통제할 수 있다.
시사점 기업 환경에서 AI 에이전트 사용 시, 엔드포인트 보안 솔루션을 활용하여 실행 행위를 모니터링하고 정책 기반으로 접근을 통제해야 한다.
본 연구는 공격 후 시나리오에서 공격 체인 탐색을 계획 문제로 변환하고, 단계별 가이드 하이브리드 계획-MCTS 알고리즘을 적용한 APEX 시스템을 제안했다. 이 시스템은 벤치마크 환경에서 알려진 및 새로운 공격 체인을 성공적으로 발견했으며, 9개의 새로운 권한 상승 벡터를 포함했다.
시사점 복잡한 운영 환경에서 공격 후 공격 체인을 자동화하여 탐색하는 것은 방어 강화를 위한 실행 가능한 정보를 제공한다.
본 연구는 휴머노이드 로봇의 안전 필터가 환경 및 작업에 따라 설정이 달라지므로 배포 후 특정 시나리오에서 실패할 수 있음을 보였다. 자동화 도구 SIREN을 통해 취약한 목표를 식별하고 실제 로봇 충돌을 유발하는 공격을 성공적으로 시연했다.
시사점 현재의 안전 필터는 공격 가능한 취약점을 내포하고 있어, 로봇의 안전 메커니즘 자체가 새로운 안전 위험 요소가 될 수 있다.
연구진은 다섯 가지 공개 ABAC Lab 정책을 대상으로 하드-거부 세트와 학습기를 감사했으며, 네 가지 엘리시터(elicitor)를 통해 작성된 명시적 제한 사항이 0.50-0.70 비율로 불충분함을 발견했다. 이들은 이 결함이 정책이 부여하는 모든 것을 보류하거나 허용하는 데 영향을 미칠 수 있음을 확인했다.
시사점 학습된 접근 제어 시스템을 배포할 때는 구성 요소들의 정확성과 완전성을 검증하는 과정이 필수적이다.
연구진은 Triton 컴파일러 파이프라인에 Rowhammer 공격으로 유도된 비트 플립을 가하여 GPU 기반 LLM 추론 성능 저하를 일으키는 LLVMhammer를 개발했다. 이 공격은 단일 GPU에서 추론 지연을 4-16% 증가시켰으며, 심지어 다른 GPU 벤더에서도 BERTScore를 25%까지 감소시킬 수 있음을 보였다.
시사점 LLM 추론 과정에 사용되는 컴파일러 파이프라인의 메모리 셀에 대한 물리적 공격이 추론 성능 저하 및 출력 품질 저하로 이어질 수 있으므로 이에 대한 방어적 고려가 필요하다.
본 연구는 공유 물리 자원을 사용하는 이질적 컴퓨팅 플랫폼에서 전력 소비 패턴을 이용하여 실행 중인 워크로드를 식별하는 HAWC-Leak 프레임워크를 제안했다. 이 프레임워크는 실제 측정 환경에서 평가되었으며, 모든 평가 시나리오에서 100% 분류 정확도를 달성했다.
시사점 전력 소비 패턴은 이질적 런타임 동작을 프로파일링하는 데 있어 신뢰할 수 있고 구별되는 지문 역할을 할 수 있다.
본 연구는 주류 Web3 SDK들이 가진 계정 기반 원장, 단일 서명자, 입력 선택 없는 트랜잭션 구성이라는 세 가지 가정이 확장된 UTXO 모델이나 이질적 암호학적 요소가 사용될 때 실패함을 분석했다. 연구는 이러한 환경에 대응하기 위한 트랜잭션 컴포저, 통합 서명 추상화, 커넥터 UI의 세 가지 재사용 가능한 설계 패턴을 도출했다.
시사점 UTXO 계열 원장이나 이질적 지갑 사용자층을 대상으로 하는 SDK를 개발할 때는 이러한 설계 패턴을 고려해야 한다.
연구진은 중앙아시아 외교 기관을 겨냥한 APT 공격에서 BlackLotus와 유사한 UEFI 부트킷(BlackX)이 사용되었음을 확인하고 공격 과정을 분석했다. 이 공격은 Baton Drop 취약점(CVE-2022-21894)을 악용하여 커스텀 드라이버를 주입하고 사용자 모드 페이로드를 실행했다.
시사점 최신 공격 그룹들은 알려진 부트킷을 변형하여 사용하며, 공격 성공 시 새로운 페이로드와 함께 사용되는 인증서 정보 등을 추적해야 한다.
본 연구는 정책 평가와 실행 승인 사이의 격차를 탐구하며, 독립적인 의무, 정확한 바인딩, 유형화된 승인 결과를 위한 BCEAC라는 거버넌스 상대적 계약을 도입했다. 이 아키텍처는 거버넌스 해결, 정책 평가, 독립적 승인 검증, 실행 중재를 분리한다.
시사점 정책 결정과 실행 승인 판단 사이에 무엇이 확립되어야 하는지에 대한 명시적이고 반증 가능한 프레임워크를 제공한다.
본 연구는 가상 머신(VM) 난독화된 코드의 높은 수준의 프로그래밍 의미론을 복구하기 위해 VMSpec이라는 새로운 디컴파일러 기반 접근 방식을 제안했다. 이 프로토타입은 Tigress 및 Code Virtualizer 난독화로 난독화된 147개 프로그램에 대해 실행 가능하며, 원본 코드의 디컴파일과 유사한 출력을 생성했다.
시사점 VM 난독화된 코드의 높은 수준의 의미론을 복구하는 데 디컴파일러 기반 접근 방식을 적용할 수 있음을 보여준다.
본 연구는 디지털 트윈 기술과 사이버-사회적 보안 모델을 통합하여 ICS 공격 시나리오를 시뮬레이션하고 기술적/사회적 차원의 결과를 정량화하는 프레임워크를 제안한다. 이 프레임워크는 기존 CVSS를 확장한 CSVSS를 통해 실제적 결과를 반영하는 단일 심각도 점수를 산출하며, LLM을 활용한 분석과 인간 분석가의 검토를 결합한 구조를 제시한다.
시사점 ICS 환경의 사이버 공격은 전통적인 CIA 트라이어드를 넘어 광범위한 사회적 영향을 미치므로, 이를 모델링하고 정량화할 수 있는 통합적 접근 방식이 필요하다.
본 연구는 호스트 측 USB 전원 제어 및 장치 상태 변화를 이용하여 에어갭 및 네트워크 분리 시스템에서 정보를 유출하는 SPECTER라는 은닉 채널을 제시했다. 실험 결과, 안드로이드 및 iOS 기기에서 0.2-0.25 bit/sec, 윈도우에서 USB 마우스를 이용해 1.0 bit/sec의 신호 전송이 가능함을 입증했다.
시사점 USB 전원 관리 및 장치 상태 이벤트가 보안적으로 중요한 정보 유출 경로가 될 수 있으므로 이에 대한 모니터링이 필요하다.
본 연구는 규제 준수, 기밀성, 증명 가능성, 확장성을 갖춘 생성 모델용 규제 샌드박스 KNOX를 TEE 내에서 구현하였다. KNOX는 정책 매니페스트(policy manifest)와 비교하여 실행을 검증하고, 모든 활동을 증명 가능한 실행 그래프(attested execution graph)에 기록하며 낮은 오버헤드(<1%)를 보인다.
시사점 생성 모델의 규제 준수 여부를 검증하고 악의적 행위를 모니터링하기 위해 TEE 기반의 격리 환경 구축이 가능하다.
본 연구는 암호학적으로 안전한 다자간 컴퓨팅 프로토콜을 사용하여, 설계 및 테스트 당사자가 각자의 지적 재산을 보호하며 신뢰성 검증 서비스(TaaS)를 수행하는 방법을 시연하였다. 100차원 입력 탐색 공간에서 하나의 테스트 생성이 80ms 미만이 소요되었으며, 프라이버시 보존 프로토콜의 오버헤드는 6배 미만이었다.
시사점 이 방법은 보안에 민감한 산업에서 프라이버시를 유지하면서 TaaS를 구현하는 것이 실용적임을 보여준다.
본 연구는 현대 물류 창고를 웹 애플리케이션, 무선 채널, 자동화된 공장 시스템이 결합된 상호 연결된 하이브리드 시스템으로 보고, 공격자가 침투할 수 있는 8단계의 물리적/디지털적 취약점 지점을 추적한다. 이 분석은 공격자가 시스템에 침투하여 주문 처리, 재고 기록 등 운영에 영향을 미치는 경로와 각 단계의 위험 요소를 모델링한다.
시사점 물류 창고와 같은 물리적-사이버 결합 시스템은 각 단계별로 다양한 공격 진입점이 존재하므로, 통합적인 보안 통제 관리가 필수적이다.
본 연구는 컨테이너 내 AI 에이전트의 모든 외부 TCP 연결을 커널의 connect() 경로에서 붙잡아 두고, 별도의 검증 컨테이너에서 서명된 판결이 있을 때만 연결을 해제하는 Connection Escrow 기법을 제시한다. 이 기법은 36가지 체크를 통과했으며, Kubernetes 클러스터에서 6개 파드의 600개 연결에 적용 가능했고, 연결 해제 시 평균 4.5ms의 지연 시간을 추가한다.
시사점 AI 에이전트의 통신을 커널 수준에서 제어하고 검증함으로써, 악의적인 통신 시도를 사전에 차단할 수 있다.
연구진은 상용 자기 촉각 센서의 물리적 취약점인 PhantomTac을 발견하고, 얇은 태그를 부착하여 자기장을 조작함으로써 센서가 해석하는 힘을 속일 수 있음을 보였다. 실제 로봇 팔을 대상으로 한 평가에서, 포획 위치 오프셋이 8mm 이내일 때 95% 이상의 공격 성공률을 달성했다.
시사점 상용 자기 촉각 센서의 물리적 보안 취약점이 존재하므로, 이를 완화하기 위한 다중 모드 일관성 방어 메커니즘을 고려해야 한다.
본 연구는 TEE를 활용한 롤업 시퀀서의 단일체(monolithic) 및 프로포저-빌더 분리(PBS) 모델에 대해 경험적 평가를 수행했다. 실험 결과, TEE가 롤업 성능에 미치는 영향은 작았으며, PBS는 특정 빌더 로직 구현을 통해 상당한 성능 향상을 가져올 수 있음을 보였다.
시사점 롤업 시퀀서의 보안 강화를 위해 TEE를 고려할 때, PBS 구조는 성능 개선의 잠재력을 제공한다.
본 연구는 AI 에이전트의 시스템 동작을 추적하기 위해 eBPF를 사용하여 커널 리소스에 LLM 상호작용의 인과적 식별자를 임베딩하는 AgentLoupe를 제시했다. 실험 결과, AgentLoupe의 평균 관측 오버헤드는 8% 미만이었으며, 이를 통해 독립적인 프로세스를 거쳐 발생하는 공격의 근원을 추적할 수 있음을 확인했다.
시사점 AI 에이전트의 복잡한 실행 흐름을 보안 감사 목적으로 추적하려면 커널 레벨에서의 관측 도구가 필요하다.
본 페이지의 연구 요약은 공개된 초록을 AI가 한국어로 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 반드시 원문을 확인하십시오. 본문과 PDF는 제공하지 않으며, 모든 저작권은 각 저자와 발행처에 있습니다.