연구 요약과 시사점은 AI가 공개 초록을 정리한 것입니다(AI 생성). 연구를 누르면 원문이 새 창에서 열립니다.
본 연구는 MoE 모델의 모듈식 구조를 활용하여 위험 지식을 원래 전문가(expert)로부터 분리하고 새로 추가된 전문가에 격리하는 REX 방법을 제안한다. 이 방법은 Qwen3.5-35B-A3B에서 WMDP-Bio 정확도를 48.4%p 낮추면서 MMLU 변화는 3% 미만으로 유지하며, 후속 미세 조정에서도 지식 제거 효과를 유지했다.
시사점 MoE 기반 LLM의 안전성을 확보하려면 지식을 단순히 조정하는 것이 아니라 아키텍처 수준에서 위험 지식을 물리적으로 격리하는 접근이 필요하다.
본 연구는 신뢰도 신호와 방향/정규 기반 업데이트 품질을 결합한 동료 상대 업데이트 선별 기법을 기존 준분산형 FL(SDFL) 프레임워크에 적용하였다. 실험 결과, 중간 수준의 이질성에서 95.82%의 악성 업데이트를 거부하면서도 90.30%의 양성 업데이트를 유지하며 최종 정확도 98.37%를 달성하였다.
시사점 이 연구는 영향 완화와 명시적 격리 사이의 상충 관계를 정량화하며, 블록체인 기반 감사 및 인센티브 계층에 통합될 수 있는 검증된 오프체인 거버넌스 코어를 제공한다.
연구진은 10개 클래스에 걸친 100개의 실제 리눅스 커널 취약점에 대해 4가지 LLM을 사용하여 37가지 보안 기술을 적용한 대규모 실증 연구를 수행했다. 그 결과, 제안된 SKILL-SIF 프레임워크는 새로운 취약점에 대한 완전 탐지율을 최대 8배 향상시켰다.
시사점 LLM 코딩 에이전트의 취약점 탐지 능력을 향상시키려면 실패 패턴을 학습하여 보안 기술을 반복적으로 진화시키는 접근 방식이 효과적이다.
본 연구는 강화 학습(RL)을 사용하여 훈련된 자율 사이버 방어 에이전트가 진화하는 공격에 취약해지는 문제를 해결하기 위해 행동 트리(BT)를 결합한 적대적 RL(ARLBT)을 개발했다. 이 방법은 새로운 공격 행동에 대한 공격 정책을 학습하고 방어 정책을 적응시켜 공격에 대한 견고성을 향상시켰다.
시사점 새로운 공격 행동에 대응하기 위해 방어 정책을 적응시키는 데 행동 트리 기반의 접근 방식이 효과적임을 시뮬레이션으로 확인했다.
연구진은 기존 공격이 단일 상호작용에 의존하는 한계를 극복하기 위해, 공격 관련 추론 접두사를 유도하는 PETO와 이를 범용 트리거로 통합하는 L2U를 결합한 SEAL을 제안하였다. 광범위한 실험을 통해 SEAL이 다양한 모델과 시나리오에서 공격 효과와 전이성을 갖는 것을 입증하였다.
시사점 LLM 에이전트의 도구 사용 시, 공격의 효과가 여러 라운드에 걸쳐 지속적으로 나타날 수 있으므로 이에 대한 방어적 고려가 필요하다.
본 연구는 랜섬웨어 탐지를 위해 설명 가능한 AI를 통합한 적응형 연합 학습 시스템 AdaFedXplain을 제안하고, 4개 OS 기반 비독립적 분포(non-IID) 클라이언트의 62,485개 실제 랜섬웨어 샘플을 사용하여 성능을 비교했습니다. AdaFedXplain은 모든 기준선 대비 탐지 정확도 99.59%, F1-점수 99.64%를 달성했으며 에너지 사용량, 지연 시간, 통신 오버헤드를 각각 75%, 65%, 75% 감소시켰습니다.
시사점 이 시스템은 연합 학습을 통해 데이터 프라이버시를 유지하면서도 높은 탐지 성능과 해석 가능성을 제공하는 랜섬웨어 탐지 솔루션을 제공한다.
본 연구는 신뢰할 수 있는 엣지 컴퓨팅과 신뢰할 수 없는 클라우드를 결합한 3계층 아키텍처 PRICE를 제안하여, 딥 신경망 추론을 분할하고 CKKS 방식을 사용하여 암호화된 임베딩을 클라우드에 오프로드한다. 이를 통해 개발된 RowHyDiag 기법은 기존 방식 대비 클라우드 추론 속도를 최대 31.8배 향상시키고 회전 횟수를 85.3배 줄이는 결과를 보였다.
시사점 PRICE 아키텍처와 RowHyDiag 기법은 신뢰할 수 있는 엣지 환경 하에서 모바일 엣지-클라우드 시스템의 저지연 암호화 추론 배포를 가능하게 한다.
본 연구는 데이터 이질성(non-IID)이 존재하는 환경에서 연합 학습 기반 악성코드 이미지 분류의 성능 저하 문제를 다루었다. 연구진은 각 라운드별 통계량을 분석하여 클래스 엔트로피가 전역 모델 정확도와 양의 상관관계를 가짐을 보였고, 이를 바탕으로 엔트로피 인식 클라이언트 선택 전략을 제안하여 무작위 선택보다 우수한 성능을 보였다.
시사점 연합 학습 기반 악성코드 분류 시, 참여 클라이언트들의 데이터 분포 특성을 고려한 구성이 모델 성능에 중요한 영향을 미친다.
본 연구는 에이전트 AI를 활용하여 시청각 정보 은닉(steganography) 통신 기법인 SemVideoSte를 제안하고, 이를 통해 안전한 상호 모달(cross-modal) 정보 전송을 구현했다. 시뮬레이션 결과, SemVideoSte는 채널 조건에 따라 높은 임베딩 용량과 신뢰성 있는 메시지 복구 능력을 보였으며, 올바른 디지털 토큰 없이는 비밀 메시지 복구가 어렵고 생성된 스텔로 비디오는 스테가널리시스 탐지에 효과적으로 저항함을 입증했다.
시사점 AI를 활용한 시청각 정보 은닉 통신은 높은 전송 효율성과 보안성을 갖추었으나, 실제 적용을 위해서는 프로토타입 검증 단계를 거쳐야 한다.
연구진은 네 가지 프로그래밍 언어로 48,000쌍의 매칭된 프로그램 쌍을 구성하고, 오용 프로그램의 내부 표현에서 안전한 대응물의 표현을 빼서 '수리 벡터(repair vector)'를 추출했다. 이 CrypSteer 기법을 통해 모델 가중치를 고정한 상태에서 생성 시 활성화에 공유 방향을 추가하자, 언어 및 오용 범주 전반에 걸쳐 안전 목표 달성률이 평균 5.28%p에서 15.00%p 향상되었다.
시사점 LLM이 생성한 코드의 암호화 API 오용을 줄이기 위해 모델의 내부 표현에 개입하여 안전한 방향성을 주입하는 것이 가능하다.
본 연구는 생체 인증의 성공/실패 여부와 같은 극도로 제한된 피드백만을 이용하여 보호된 생체 템플릿을 재구축하는 공격 기법을 제시하였다. 특히, 사전 학습된 얼굴 확산 모델(facial diffusion prior)을 결합하여 필요한 질의 횟수를 기존 점수 기반 공격 대비 5배 감소시켰다.
시사점 생체 인증의 템플릿 보호 메커니즘과 무관하게 인증 과정 자체가 기하학적 정보를 노출하여 완벽한 템플릿 재구축을 가능하게 한다.
본 연구는 웨어러블부터 클라우드 분석까지의 ECG 데이터 흐름 전반에 걸쳐 각 신뢰 경계에 맞는 상호 운용 가능한 프라이버시 강화 기술(PET)을 통합하는 라이프사이클 프레임워크를 개발했다. 이 프레임워크는 AES, CKKS 기반 동형 통계, 적응형 혼돈 보호, 동형 집계 기반 연합 학습 모듈을 통해 진단 유틸리티를 유지하면서 프라이버시 레이어를 구성할 수 있음을 시뮬레이션으로 입증했다.
시사점 분산된 의료 AI 환경에서 진단 유틸리티를 유지하며 종단 간 프라이버시를 확보하기 위해 각 단계에 맞는 다양한 프라이버시 기술을 조합하는 접근 방식이 가능하다.
본 연구는 통신 당사자와 관찰자가 있을 때, 수동적 감사(passive audit)를 통해 프라이빗 정보를 얼마나 검증할 수 있는지에 대한 이론적 경계를 설정한다. Qwen2.5-1.5B-Instruct를 사용한 시뮬레이션에서, 선택적 응답을 통해 모니터가 98.60%의 라우팅 정확도로 프라이빗 비트를 복구할 수 있음을 보였다.
시사점 수동적 감사는 통신을 제한하는 것과 달리 검증할 수 있는 정보의 범위에 명확한 한계가 존재한다.
연구진은 프롬프트 인젝션 공격의 공격 공간을 공격이 모델을 속이는 방식에 따라 분류한 PIAtlas라는 분류 체계를 제시하였다. 또한, 대규모 공개 프롬프트 인젝션 데이터셋인 PICorpus를 공개하고 이를 PIAtlas에 매핑하여 기존 공격 연구의 격차를 드러냈다.
시사점 PIAtlas는 프롬프트 인젝션 공격 공간을 이해하고 벤치마크를 개선하며 레드팀 및 방어 전략을 수립하는 데 공통 기반을 제공한다.
본 연구는 LLM 기반 코드 생성 시 발생하는 보안 취약점을 해결하기 위해, 개별 CWE 취약점 대신 보안 범주를 활용하는 CAT-RAG 프레임워크를 제안했다. 이 프레임워크는 기존 대비 안전한 코드 생성 개선율을 높이고 토큰 오버헤드를 줄이는 결과를 보였다.
시사점 LLM 기반 코드 생성 시, 세부적인 취약점 레벨 대신 상위 수준의 보안 범주를 활용하여 검색 증강을 수행하는 것이 효율적이다.
연구진은 공격자와 방어자 모두를 공동으로 훈련시키는 Peer Pressure (PRPO) 프레임워크를 구축하여, 실행 결과를 바탕으로 각 개체의 패치 적용 여부와 취약점 재현 여부를 평가했습니다. 이 방법론은 훈련되지 않은 네 가지 애플리케이션에서 64.8%의 균형 정확도를 달성했으며, 특정 시나리오에서 기존 방법 대비 우수한 성능을 보였습니다.
시사점 LLM 기반 코드 보안에서 공격자와 방어자의 상호 진화적 검증은 높은 수준의 탐지 및 방어 능력을 갖춘 새로운 접근법을 제공한다.
연구진은 탈옥 성공률을 평가하는 데 사용되는 평가자 모델을 고정하고, 평가자 자체를 변화시키면서 그 편향을 분석했다. 그 결과, 특정 평가자들은 준수 응답을 회피(evasion) 클래스로 분류하는 경향을 보였으며, 평가자에 따라 준수율이 최대 22배에서 25배까지 차이 나는 것을 발견했다.
시사점 LLM의 탈옥 성공률을 보고할 때는 평가자 모델의 종류와 각 클래스별 레이블 수를 함께 보고하여 평가 결과의 신뢰성을 확보해야 한다.
연구진은 RAG 시스템의 오염 공격이 증거 임베딩 기하학에 흔적을 남긴다는 점에 착안하여, 공격 레이블이나 정답 없이도 이 구조적 특징을 감사하는 CoordGuard를 개발했다. 이 방법은 공격 성공률을 전반적으로 0.167까지 낮추는 결과를 보였다.
시사점 RAG 시스템의 오염 탐지는 진실 여부를 판단하기보다 검색된 증거의 구조를 감사하는 방향으로 전환되어야 한다.
본 연구는 프롬프트에 심어진 트로이 목마(Trojan)가 활성화될 때 응답 길이를 늘려 사용자에게 비용을 발생시키는 데이터 오염 공격을 고안했다. 이 공격은 명령어 미세 조정된 LLM에 대해서도 의미적으로 유사한 지시로 트리거링 될 수 있음을 시연했다.
시사점 LLM 사용 시 토큰 기반 비용 구조를 악용한 새로운 형태의 데이터 오염 공격에 대비한 방어 기법을 고려해야 한다.
본 연구는 자원 제약적인 마이크로컨트롤러 유닛(MCU)에 탑재 가능한 TinyML을 활용하여 심전도(ECG) 기반의 연속 인증 프레임워크를 제안했다. 다양한 데이터베이스를 사용한 실험 결과, DNN, 1D CNN, 2D CNN 모델을 통해 98%의 정확도를 달성했다.
시사점 ECG 기반 인증은 웨어러블 및 엣지 장치에서 보안적이고 실시간으로 개인을 식별할 수 있는 잠재력을 보여준다.
본 연구는 자율 사이버 방어(ACD) 에이전트의 실행 시점 거버넌스 프레임워크인 SecODD를 제안하며, 이는 자율 차량 규제에서 운영 설계 영역 개념을 차용하여 자동화된 방어 조치의 승인 범위를 정의한다. 이 프레임워크는 감사 가능한 주의 의무 조건을 명시하고, 공격 실패 모드를 통과/실패 감사 결과로 변환하는 것을 포함한다.
시사점 ACD 시스템을 도입할 경우, 자동화된 조치가 경계 지어져 있고, 중단 가능하며, 복구 가능하고, 증거로부터 재구성 가능할 때만 권한을 부여해야 한다.
본 페이지의 연구 요약은 공개된 초록을 AI가 한국어로 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 반드시 원문을 확인하십시오. 본문과 PDF는 제공하지 않으며, 모든 저작권은 각 저자와 발행처에 있습니다.