연구 요약과 시사점은 AI가 공개 초록을 정리한 것입니다(AI 생성). 연구를 누르면 원문이 새 창에서 열립니다.
본 연구는 엣지 AI 시스템의 물리적 공격 및 모델 조작에 대응하기 위해 하드웨어 성능 카운터와 물리 센서를 활용한 스택형 보안 메커니즘을 제안했다. 실험 분석 결과, 적대적 또는 악성 애플리케이션은 센서 및 열적 판독값의 관찰 가능한 편차를 일으키며, 하드웨어 기반 이상 탐지 기법이 효과적이고 낮은 오버헤드로 이상 탐지를 제공함을 확인했다.
시사점 엣지 AI 환경에서 리소스 제약적 환경에 맞는 저오버헤드 이상 탐지 구현을 위해 하드웨어 기반 보안 메커니즘을 고려해야 한다.
본 연구는 NIST 표준 알고리즘 등 PQC 알고리즘의 실제 구현이 부채널 공격에 취약한 문제를 제기하고, 3D 하드웨어 통합을 통해 가짜 키와 물리적 차폐를 도입하여 이를 방어하는 접근법을 제안한다. 이 접근법은 NTT 버터플라이 내부의 중간 계산을 대상으로 하는 일반적인 공격에 대해 효과적임을 보여준다.
시사점 PQC 알고리즘을 실제 구현할 때 부채널 공격에 대비하기 위해 3D 통합과 같은 물리적 차폐 기법을 고려할 수 있다.
본 연구는 기존 보안 지침과 규제 요건을 엔지니어링 관점에서 적용 가능한 작업 집합(working set)으로 변환하는 방법을 시연한다. 이 작업 집합은 코드 변경이나 규제 준수 의무로부터 도출될 수 있으며, 이를 통해 적용 가능한 통제 목표, 구현 관행, 메커니즘 등을 추적 가능하다.
시사점 보안 규제 준수 의무를 코드 변경이나 엔지니어링 작업에 구체적으로 적용 가능한 형태로 변환하는 접근 방식을 시사한다.
본 연구는 신뢰할 수 없는 웹 노드에 걸쳐 LLM 추론을 분산할 때, 단일 악성 작업자가 생성 중단을 유발하면서도 자신의 책임을 회피하는 은밀한 가용성 공격인 Hush-Up을 소개한다. 이 공격은 로컬 실행의 오류 범위를 모델링한 후, 출력 활성화에 적대적 교란을 가하여 모델의 최종 레이어 확률을 조작함으로써 성공한다.
시사점 로컬 수치 검증만으로는 분산 추론의 전반적인 무결성을 보장하기 어려우며, 미세한 교란도 전역적으로 모델을 파괴할 수 있다.
본 연구는 음성 생체 인식 시스템(ASV)의 생체 활성 감지(liveness detection) 기법에 대해, 특정 음소 위치에 국소적인 폭발음(pop bursts)을 주입하고 가우시안 노이즈를 덧씌워 공격을 수행하는 방법을 소개했다. 이 기법은 기존 공격보다 신호 레벨 검사에 대한 저항성을 가지면서도 적절한 수준의 오염 공격을 달성함을 확인했다.
시사점 음성 생체 인식 시스템을 구축할 때, 기존의 생체 활성 감지 기법에 대한 데이터 오염 공격에 대비한 방어 메커니즘을 고려해야 한다.
본 연구는 익명성을 유지하면서도 반복적인 부정행위를 추적할 수 있도록 두 개의 집계자(aggregator)를 사용하는 2단계 책임 추적 프로토콜 VeilFL을 제안한다. 이 프로토콜은 제출물 바인딩, 중복 탐지, 익명성을 제공하며, 프로토타입 구현에서 제출물 생성에 평균 2.11ms가 소요되었다.
시사점 익명성을 유지하면서도 특정 사용자의 반복적인 부정행위를 추적하고 식별할 수 있는 체계적인 접근 방식을 제공한다.
본 연구는 머신러닝을 사용하여 실행 파일의 최초 발견 날짜를 추정하거나 PE/COFF 컴파일 타임스탬프의 신뢰성을 판단하는 방법을 EMBER2024를 통해 평가했다. 직접적인 최초 발견 날짜 회귀는 데이터셋 수집 기간의 상당 부분과 유사한 오차를 보였으나, 분류기는 타임스탬프의 신뢰도를 높은 변별력으로 탐지할 수 있었다.
시사점 현재 모델은 외부 소스에서 얻은 최초 발견 메타데이터를 대체할 수 없으나, 타임스탬프의 신뢰도 판별에는 활용될 수 있다.
본 연구는 악성코드 전파 역학을 모델링하기 위해 향상된 범용 미분 방정식(E-UDE) 프레임워크를 제안하고 실제 전파 데이터에 적용하였다. E-UDE는 클래식 ODE 및 UDE 모델 대비 RMSE를 약 66% 및 39% 감소시키는 등 전반적으로 우수한 성능을 보였다.
시사점 E-UDE 모델은 악성코드 전파 동향을 이해하고 효과적으로 통제할 수 있는 분석적 틀을 제공한다.
본 연구는 LLM-MAS의 통신 토폴로지가 공격에 취약한 문제를 해결하기 위해, 가짜 엣지(fake edges)와 메시지를 주입하는 Illusion이라는 능동적 난독화 방어를 제안했다. 실험 결과, Illusion은 엣지 수준 F1 점수를 0.87 이상에서 0.62로, 그래프 유사도를 0.94 이상에서 0.71로 감소시키면서도 출력 분포와 작업 정확도를 상당 부분 유지함을 보였다.
시사점 LLM 기반 다중 에이전트 시스템을 운영할 때, 내부 통신 구조가 외부 공격에 의해 추론되는 것을 막기 위해 능동적 난독화 기법을 고려해야 한다.
연구진은 공격자가 서명 요청을 승인하는 서비스에 접근했을 때를 대비하여, 고객의 의도, 거래 효과, 신선한 작업 증거를 확인하는 의도 기반 인출 승인 프로토콜(IWAP)을 제안했습니다. 이 프로토콜은 20회의 시도에서 64개의 동시 시도 중 100 단위의 예산이 고정적으로 유지됨을 검증했습니다.
시사점 백엔드 침해 상황에서 인출 승인 시 독립적인 의도 검증 경계를 설정하는 것이 중요함을 시사한다.
본 연구는 요청-응답 트랜잭션으로부터 주체-리소스-객체-행위 관계를 재구성하는 교차 증거 기반 권한 상태 학습 방법을 제안했다. 이 방법은 합성 벤치마크에서 100.00%의 재현율과 56.63%의 F1 점수를 달성하며, 측정된 무단 관계 오염률은 0.00%였다.
시사점 블랙박스 환경에서 BOLA 취약점을 탐지하기 위해 권한 상태를 추론하는 접근 방식이 시도되었으며, 이는 통제된 합성 환경에서 초기 가능성을 보였다.
본 연구는 LLM 에이전트의 행동 선택과 권한 부여 결정을 분리하는 AgentCap이라는 런타임 권한 부여 계층을 제시하였다. 이 계층은 도구 호출을 중재하며, GPT-5.4를 포함한 평가 모델에서 모든 공격 시도를 차단하고 합법적인 작업을 유지함을 입증하였다.
시사점 LLM 에이전트의 보안을 위해서는 모델의 추론과 독립적으로 도구 경계에서 효과에 대한 권한 부여가 필요하다.
본 연구는 코딩 에이전트의 신뢰를 악용하여 작업을 수행하는 EtE(Earn-then-Exploit) 웹 사기 공격 프레임워크를 제시하였다. 이 공격은 평균적으로 71.4%의 공격 성공률을 보였으며, AAS 방어 기법 적용 시 공격 성공률을 0%로 낮추면서도 작업 완료율은 100%를 유지하였다.
시사점 코딩 에이전트가 웹 소스에 의존할 경우, 신뢰 구축 단계 이후의 악의적인 지시에 취약하므로 액션 권한 분리(AAS)와 같은 방어 메커니즘이 필요하다.
연구진은 알려진 공격의 합성 변이체를 사용하여 NIDS의 제로데이 공격에 대한 탐지 능력을 평가했으며, 가장 강력한 교란 조건에서 탐지율은 90.9%에서 99.7% 사이였으나, 홀드아웃 공격군에 대한 평균 탐지율은 모델별로 76.2%에서 22.8%까지 떨어졌다. 이 연구는 강건성 점수를 제로데이 공격 성공률로 간주해서는 안 되며, 두 측정치를 별도로 보고해야 함을 시사한다.
시사점 침입 탐지 시스템의 강건성 점수를 제로데이 공격 탐지 능력의 지표로 해석해서는 안 되며, 두 가지 측정치를 분리하여 보고해야 한다.
본 연구는 호출된 API 기능과 관련 데이터를 종합적으로 분석하여 호출 시점의 민감도를 평가하고, 각 보안 검사를 명시적인 보안 속성으로 복구하는 Callix를 제안했다. 이 방법으로 10개 안드로이드 벤더의 1,750개 앱에서 총 819개의 취약 경로를 발견했으며, 이 중 42.1%는 일반적인 데이터베이스 작업을 통해 개인 사용자 데이터를 읽거나 수정할 수 있음을 확인했다.
시사점 단순히 민감 API 호출 여부를 확인하는 것을 넘어, 해당 호출 시점의 데이터와 함께 접근 제어의 충분성을 검증하는 것이 중요하다.
본 연구는 276건의 실제 공격 및 91건의 감사 결과를 포함하는 데이터셋을 구축하고, ESM 취약점을 네 가지 범주로 분류했다. 또한, 기존 탐지 접근법들을 평가한 결과, 가장 성능이 좋은 접근법도 실제 공격의 50.4%만을 식별하는 데 그쳤다.
시사점 ESM 취약점 탐지에는 프로토콜 내부 회계 및 경제 상태의 의미론적 이해를 바탕으로 하는 보다 일반화된 접근 방식이 필요하다.
연구진은 표준 IV, Davies-Meyer 피드포워드 및 전체 FIPS 180-4 패딩을 준수하는 19단계 및 20단계 SHA-256에 대한 실제 역상 공격 기법을 도입했다. 19단계 공격은 18초의 테이블 구축 후 중앙값 19.5초 만에 해결 가능하며, 20단계 공격은 $2^{46.6}$회의 CPU 참조 평가가 소요된다.
시사점 이 공격들은 전체 SHA-256를 위협하지는 않지만, 특정 단계의 SHA-256 구현에 대한 공격 가능성을 보여준다.
본 연구는 에이전트 시스템에 친밀 파트너 폭력 및 감시 맥락의 기술적 남용 위협 모델을 적용하여 공격 시나리오를 분석하였다. 공격 주체에 따라 공격자 소유 공격과 피해자 생존자 소유 공격이라는 두 가지 유형의 위협을 분류하고 완화 방향을 제시하였다.
시사점 에이전트 시스템의 접근 권한과 능력을 악용하는 공격에 대해 해당 위험을 인지하고 적절한 완화 전략을 연구해야 한다.
연구진은 적대적 선체 패치와 물리적 위장을 통해 감시 시스템을 공격하는 시나리오를 평가하고, AIS 추적과 실제 공격 시나리오를 결합한 하이브리드 재현 프로토콜을 개발했다. 이 프로토콜을 통해 특정 조건에서 자산 대비 접근 속도 확인은 94-95%의 탐지율을 보였으며, 이는 추적 정보만 사용했을 때의 12%보다 높은 수치이다.
시사점 다양한 탐지 방법을 결합하고 운동 정보를 함께 고려하는 것이 무인 수상정 위협에 대응하는 데 효과적이다.
본 연구는 에이전트 코딩 환경에서 추론 모델에 구조화된 출력 백도어를 주입하는 Kerkoporta 방법론을 제시하고, 지도 미세 조정을 통해 백도어를 삽입하였다. 이 공격은 최대 96.2%의 성공률을 보이며, 공격자가 원하는 도구 호출을 유도하여 시스템의 기밀성, 무결성 또는 가용성을 침해할 수 있음을 입증하였다.
시사점 LLM 백도어 공격은 코딩 에이전트와 같은 현대적 도구 사용 환경에서 심각한 보안 영향을 미치므로, 이에 대한 방어적 접근이 필요하다.
본 문서는 공격자들이 전략 정보 수집 및 금전적 갈취를 목적으로 활동하며, 공격 과정에서 생성형 AI 및 대규모 언어 모델(LLM)을 통합적으로 활용하는 동향을 관찰한 내용을 공유한다. 관찰된 행위에는 LotL 바이너리 사용, 제로데이 취약점 악용, 그리고 LLM을 이용한 정교한 사회 공학적 유인물 생성 등이 포함된다.
시사점 실무에서는 공격자들이 AI를 공격 워크플로우에 통합하고 있으므로, 이에 대응하는 탐지 및 방어 역량을 강화해야 한다.
본 페이지의 연구 요약은 공개된 초록을 AI가 한국어로 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 반드시 원문을 확인하십시오. 본문과 PDF는 제공하지 않으며, 모든 저작권은 각 저자와 발행처에 있습니다.