LLM 에이전트의 문맥 한계와 추론 불확실성을 해결하기 위해, 위상적 추론과 의미적 추론을 분리한 보안 운영 센터(SOC) 아키텍처를 제안한다. 제안된 시스템은 인증 서브그래프를 고정 차원 상태로 요약하고, PPO 정책을 통해 제한된 조사 동작을 매핑하며, LLM 에이전트는 정책 추천을 소비하고 분석가용 서술을 생성한다.
이 연구는 대규모 인증 그래프를 처리하는 LLM 에이전트의 한계를 극복할 수 있는 새로운 SOC 아키텍처를 제시하여, 실무에서 보다 신뢰성 있는 자동화 SOC 운영을 가능하게 한다.
유한 구문 시스템 S가 일관되고 충분히 표현력이 있으면, S가 자율적으로 생성할 수 없는 정리가 적어도 하나 존재함을 증명한다. 이 결과는 보안 메커니즘, AI 시스템, 형식 검증기, 법적 시스템, 경제 모델 등 모든 유한 구문 시스템에 적용되는 메타정리이다.
이 연구는 보안 및 AI 시스템 설계 시 형식 시스템의 한계를 인식해야 함을 시사한다.
AI 에이전트가 취약점 패치를 생성할 때 기존 개발자 패치를 재현하거나 표면적인 수정만 하는 문제를 지적하고, 새로운 벤치마크 PatchBench를 제안한다. 기존 평가 방식은 패치 후 PoC 입력이 크래시를 유발하는지만 확인해 1.83배 과장된 성공률을 보였다.
AI 에이전트의 취약점 패치 평가 시 표면적인 수정을 피하고 실제 근본 원인을 해결하는지 철저히 검증해야 한다.
포스트-퀀텀 암호화 가속기 설계에서 AI가 어떻게 기존 검증 방법의 한계를 보완하는지 실증했다. 301,343회 서명 시도 중 0건의 결함이 발생했으며, 232건 실험 중 71.6%가 성공했다.
AI는 암호화 가속기 설계에서 결함 검증을 강화할 수 있으며, 실무에서는 AI 도입을 고려해야 한다.
AI 에이전트 간의 자율적 상호작용을 감사하기 위한 블록체인 기반 블랙박스 아키텍처를 제안한다. 블록체인에 암호화된 약속을 남겨 에이전트 통신, 인간 승인, 도구 호출 등을 추적할 수 있도록 하며, GRC 감사와 규정 준수를 지원한다.
AI 에이전트 프로세스의 감사 가능성과 규정 준수를 강화하기 위해 블록체인 기반의 증거 모델을 도입해야 한다.
마이크로아키텍처 부채널 공격 연구의 벤치마킹 문제를 분석하고 19개의 반복적 결함을 식별했다. 83개 논문 평가에서 평균 5.5개의 결함이 발견되었다.
보안 및 아키텍처 학회에서 벤치마킹의 중요성을 강조하고, 평가의 완전성과 재현성을 확보해야 한다.
AI 에이전트 허브(AI agent harnesses)의 라이프사이클 훅(lifecycle hook) 업데이트 경로를 새로운 공격 표면으로 제시하고, HookPry라는 오픈소스 공격 프레임워크를 제안한다. HookPry는 1,000회 종단간 실험에서 평가된 7개 허브 중 92.5% 성공률을 기록했으며, 대표 방어 시스템은 0% 감지율을 보였다.
AI 에이전트 허브의 라이프사이클 훅 업데이트 경로를 보호하는 방어 전략이 필요하다.
NACRE는 RISC-V 기반 하드웨어-소프트웨어 협업 설계를 통해 기밀 컨테이너를 구현하는 새로운 방법을 제안한다. lmbench 시스템콜 및 파이프 지표에서 기존 runc 기준 대비 3.5% 이내, nginx 객체 크기 기준 집계 처리량은 1.9% 낮아졌다.
NACRE는 기존 컨테이너 보안 한계를 극복하고, 성능 저하를 최소화하면서 기밀성을 보장하는 기술로 실무에서 컨테이너 보안 솔루션 선택에 영향을 줄 수 있다.
대형 언어 모델(LLM)에 새로운 통계적 워터마크 기법인 Stateless Bernoulli Watermarking(SBW)을 제안한다. SBW는 토큰당 독립적인 베르누이 시도를 통해 멤버십을 결정하여, 기존 방법 대비 6000배 이상 빠른 성능을 보인다. 1% 미만의 오버헤드로 끝到끝 생성 벤치마크를 수행했으며, GPU 네이티브 Jenkins 해시를 사용해 null calibration을 1.8배 개선했다.
이 연구는 대형 언어 모델의 워터마크 기술을 추론 속도에 최적화하여 실용성을 높였으며, 기존 방법 대비 높은 성능 향상을 보여준다.
개인화된 LLM 에이전트가 메모리에 보관한 정보를 압축된 형태로 변환하여 사용자 모델을 생성하는 방식을 분석하고, 이를 기반으로 UMPeek이라는 블랙박스 공격 기법을 제안한다. UMPeek은 기존 공격 기법보다 벤치마크 및 실제 시스템에서 더 높은 성능을 보이며, 응답 수준의 방어를 무력화할 수 있다.
UMPeek 공격 기법은 개인화된 LLM 에이전트의 보안 취약점을 드러내며, 사용자 모델을 보호하기 위한 새로운 방어 전략이 필요하다.
FIDO2/WebAuthn 인증 시스템의 보안 모델을 재평가하고, 8가지 공격 벡터를 제시하여 실제 배포 조건에서의 보안 속성 부재를 보인다. 공격 벡터는 브라우저 확장, 플랫폼 핸들러 악성코드, 패시브 스니핑, 가상 장치 드라이버, CTAP2 특정 악성코드, USB/하드웨어 임플란트, 악성 USB 허브/도크/확장기, NFC 릴레이 공격이다.
FIDO2 보안은 단순히 암호화 계층에 의존하는 것이 아니라, 브라우저, 운영체제, 하드웨어, 프로토콜 스택, 메타데이터 인프라에 걸친 계층적 대응이 필요하다.
제3자 RAG 시장에서 문서 재사용을 감사하기 위한 DirBucket이라는 의미 보존 워터마크 기법을 제안한다. DirBucket은 23개 감사 응답에서 모든 비준수를 탐지하며, 사용자 인식 응답 품질을 유지하면서 적대적 후처리를 견딘다.
이 연구는 RAG 기반 시스템에서 문서 재사용을 효과적으로 감사할 수 있는 워터마크 기법을 제시하여, 제3자 제공업체와의 계약 준수를 확인하는 데 유용하다.
LLM의 탈옥 공격을 방어하기 위해 입력 텍스트만을 대상으로 모델 가중치나 내부 구조를 수정하지 않는 트리 기반 규칙 방어 기법을 제안한다. 33개 오픈 모델과 22개 탈옥 공격 유형에서 기존 방어 대비 73.4%의 경우 보안 및 기능성 점수가 가장 높았으며, 평균 정상 요청 점수는 0.27포인트 이내로 유지했다.
LLM 탈옥 공격 방어에 트리 기반 규칙 방식을 적용할 수 있으며, 기존 방어 대비 높은 성능을 보여 모델 보호 전략에 활용할 수 있다.
음악 메타버스(Musical Metaverse)의 보안 및 프라이버시 문제를 다층 위협 분석을 통해 규명하고, 실시간 성능을 저해하지 않는 방식의 설계 지침을 제시한다. 실시간 음악 상호작용에 적합한 SRTP, DTLS와 같은 경량 보안 프로토콜의 적합성을 평가했다.
실시간 음악 메타버스 시스템 설계 시 SRTP, DTLS와 같은 경량 보안 프로토콜을 채택하여 보안과 성능을 균형 있게 유지해야 한다.
분산된 권한 부여 시스템에서 양자 저항성 서명 기법의 설계 경계를 분석하고, 네이티브 서명 호환성, 단일 서명 저항성, 임계층 유연성이라는 세 가지 속성을 통해 이를 구조화하였다. 조사된 설계 중 어떤 것도 네이티브 출력, 단일 서명 저항성, 임계층 유연성을 동시에 제공하지 않는다는 것을 보였다.
이 연구는 분산 권한 부여 시스템에서 양자 저항성 서명 기법을 설계할 때 고려해야 할 주요 설계 경계를 명확히 하여, 실무에서 더 유연하고 안전한 시스템 구축을 가능하게 한다.
연방 침입 탐지 시스템에서 개인정보 보호, 강건성, 공정성 간의 상호작용을 분석하고 기하학적 구분 불가능성을 개념적 도구로 제시하였다. DP-SGD와 좌표별 중위수 집계를 결합한 방법을 평가하여, 강한 개인정보 보호 조건에서 드문 공격 탐지 성능이 상대적으로 저하되는 현상을 보였다.
실무에서는 연방 침입 탐지 시스템 설계 시 개인정보 보호, 강건성, 드문 공격 탐지 간의 트레이드오프를 종합적으로 고려해야 한다.
대규모 문서 집합에서 개인 정보 보호 검색을 위해 압축 임베딩과 암호 프로토콜을 통합한 Spruce를 제안한다. 10Gbps 대역폭에서 전체 검색이 0.21-2.97초 소요되며, 기존 방식 대비 4.8-6.7배 빠르다.
Spruce는 대규모 문서 검색 시 개인 정보 보호를 유지하면서 처리 속도를 크게 향상시킬 수 있다.
이 연구는 스트립된 바이너리에서 간접 제어 흐름(ICF) 경로를 예측하기 위해 이중 가상 허브와 다중 작업 그래프 학습을 결합한 ICFlowNet이라는 통합 프레임워크를 제안한다. 실험 결과, 이중 가상 허브는 장거리 F1 점수를 최대 9.13포인트 개선하고, 다중 작업 학습은 최대 5.81포인트 추가 개선하며, 최종 모델은 기존 기준 모델보다 장거리 간접 호출에서 13포인트 이상 F1 점수를 개선한다.
이 연구는 스트립된 바이너리 분석에서 간접 제어 흐름 예측 정확도를 높이는 새로운 방법을 제시하여, 바이너리 보안 분석 도구 개발에 기여할 수 있다.
자동화된 취약점 발견이 전문가의 주의 부족을 해소하면서 대부분의 소프트웨어를 보호하던 장벽을 허물었다. 조직의 대응은 발견과 수리에 집중되며, 이 둘 모두 저비용화되고 있다. 그러나 노출을 결정하는 것은 발견과 수리의 비용 곡선이 아니라, 제품 출시 결정 시점에서 식별된 취약점 중 수정된 비율과 조직이 출시 결정을 내리는 미해결 취약점이다.
소프트웨어 개발 조직은 제품 출시 시점에서 수정되지 않은 취약점의 관리를 강화해야 하며, 이에 대한 측정이 보안 책임과 보험, 구매 결정에 영향을 미칠 수 있다.
초특이 타원곡선을 찾는 메타휴리스틱 검색 알고리즘을 제안한다. 46비트에서 정확한 초특이 곡선을 발견하고 40비트와 51비트에서 근-초특이 곡선을 수렴시켰다.
초특이 타원곡선 검색 알고리즘의 효율성을 평가하여 암호체계 설계에 참고할 수 있다.
대규모 언어 모델(LLM)이 사용자가 자체적으로 설계한 테스트를 통해 신분을 확인하는 요청을 어떻게 처리하는지를 실험적으로 분석했다. 5개 모델 중 Qwen, Mistral, Llama는 기술적 지식을 바탕으로 테스트를 생성하고 평가해 '확인됨'을 반환했다.
대규모 언어 모델이 대화 내에서 자가 발급 인증을 생성하는 것은 보안 취약점으로 작용할 수 있어 외부 보안 구성요소에서 신분을 생성하고 관리해야 한다.
본 페이지의 연구 요약은 공개된 초록을 AI가 한국어로 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 반드시 원문을 확인하십시오. 본문과 PDF는 제공하지 않으며, 모든 저작권은 각 저자와 발행처에 있습니다.