CRITICAL
Claude 모델 악용해 자동화된 공격과 데이터 유출 발생
Anthropic은 2025년 12월부터 2026년 8월까지 Claude 모델이 사이버 공격, 무기 설계, 대량 감시 등에 악용되고 있다고 경고했다. 다양한 해킹 그룹이 Claude를 사용해 탐지 회피, 자격 증명 유출, 공격 자동화 등을 수행하고 있으며, 일부 그룹은 대규모 공격 캠페인을 벌이고 있다.
NEWS
뉴스·소식
HIGH
러시아 여성, 사진만으로 250만 루블 대출 사기 피해
러시아 여성은 사진만으로 60개의 대출을 받았고, 이로 인해 수년간 채권 추심에 시달리고 있다. 이 사건은 개인정보 유출로 인한 보안 위협을 다시금 경고한다.
HIGH
AI가 수요를 촉진하며 서버 판매 감소시키지 못함
AI의 수요 증가로 인해 서버 판매가 감소하지 않았으며, 보안 관련 뉴스로 다양한 내용이 포함되어 있다.
HIGH
러시아 해킹 그룹, Claude AI 활용해 악성코드 재구성
러시아 정부 후원 해커 그룹 GTG-20006이 Claude AI를 악용해 악성코드를 자동으로 재구성하고 배포하는 공격 방식을 사용한 것이 밝혀졌다. 이 공격은 우크라이나와 유럽 정부, 외교 및 방위 기관을 주요 표적으로 삼고 있으며, AI를 통해 보안 탐지 회피 전략을 개선하고 있다.
HIGH
위협 행위자들이 신뢰받는 AI 플랫폼을 공격 표면으로 전환하는 방법
Huntress Security Operations Center는 공격자가 신뢰받는 AI 플랫폼의 기능을 악용해 사용자를 표적으로 삼고 악성코드를 배포하는 사례를 분석했다. Claude Artifacts, claude.ai/share 링크, ChatGPT 및 Grok 대화 등을 통해 악의적인 콘텐츠가 배포되며, 사용자가 이를 신뢰해 악성 명령을 실행하게 만드는 공격이 발생하고 있다. 보안 전문가들은 클립보드 기반 실행과 AI 지원 문제 해결을 보안 위험으로 간주하고, 스크립트 실행 제한, 애플리케이션 허용 목록 적용, 사용자 교육 등을 권고하고 있다.
HIGH
정부와 민간 협력 강화 필요성 강조
노르웨이 정부는 사이버 대비태세 강화를 위해 민간 부문과의 협력을 강조하고 있다. 그러나 민간 기업들은 정부의 결정 과정에서 투명성 부족을 우려하고 있다.
LLM에서 개인정보 보호: 요청 익명화와 직원 검색 유지 방법
AGIMA 기술 책임자는 LLM을 사용하는 내부 시스템에서 개인정보 보호를 위해 요청을 익명화하면서도 검색 기능을 유지하는 방법을 설명했다. 이는 개인정보를 숨기고, 동시에 요청의 의미를 보존하는 기술적 접근 방식이다.
HIGH
Jacob Coxon, AI가 우리를 죽으려 한다고 주장하는 연구자
영국의 27세 연구자 Jacob Coxon은 Anthropic에서 사직한 후 AI의 존재적 위험에 대해 경고했다. 그는 OpenAI와 Anthropic가 책임감 있게 행동하지 않고 있으며, 자가 개선 가능한 초지능으로 가는 경쟁을 하고 있다고 주장했다. 일부 동료 연구자들이 그의 우려를 지지했지만, 일부 학계에서는 이러한 위험성이 과장되었다고 반박하고 있다.
HIGH
영국의 기술 요약은 모두의 책임이자 누구의 책임도 아니다
본 기사에서는 AI와 보안 분야의 주요 이슈들을 다루고 있다. Apple 시계의 개인정보 수집 문제, 러시아의 Signal 사기 공격, Microsoft SharePoint의 제로데이 공격 등 보안 이슈들이 소개되고 있다.
HIGH
Claude 사용자들이 생물학적 무기 연구를 위한 안전장치 우회 방법 찾았다
Anthropic은 올해 Claude를 사용해 생물학적 무기 개발을 돕는 연구를 시도한 사례를 여러 번 차단했다고 발표했다. 일부 사용자가 안전장치를 우회하려는 시도를 했으며, 이는 AI가 공공 안전에 미칠 수 있는 위협을 우려하게 만들고 있다.
HIGH
온라인 게임 돈 놀이 사기 수법과 감지 방법 분석
Sharp Vision의 Gaëlle Daanen과 William Klein은 온라인 게임 돈 놀이에서 관리자들이 사기로 수익을 창출하거나 세금을 줄이는 방법을 설명했다. 이들은 플랫폼의 정상적인 도구를 악용하여 보너스를 지급하거나 결과를 조작하는 방식으로 사기를 친다. Sharp Vision의 솔루션은 이러한 사기 행위를 감지하기 위해 금융 흐름을 분석하고 비정상적인 활동을 알림으로 전달한다.
이 CIO는 '엔지니어를 고용해 코드를 작성하게 하지 않는다': 대신 우선시하는 3가지 AI 기초
지에이치(GH)의 CIO는 AI 도입 시 엔지니어의 역할 변화와 AI 기반 플랫폼을 통해 업무 프로세스를 개선하고 있으며, 보안과 신뢰성 있는 출력을 중시하고 있다. Chase는 LLM Suite라는 내부 플랫폼을 통해 직원들이 AI 도구를 효과적으로 활용하도록 훈련시키고 있으며, 고객 서비스 향상과 데이터 보호를 동시에 강조하고 있다.
HIGH
러시아인들이 신호 앱 위장해 피싱 공격 시도
러시아 해커들이 신호 앱(Signal)의 고객 지원을 사칭해 피싱 공격을 벌이고 있다고 보안 업계가 경고하고 있습니다.
HIGH
생물기술의 미래와 저비용·친환경 철강
MIT Technology Review는 생물기술 분야의 혁신을 이끄는 35인 이하의 젊은 인재들을 소개했다. 이들은 시야 회복 치료법, 유전자 편집 기술, AI를 활용한 바이러스 설계 등 다양한 분야에서 혁신을 이끌고 있다. 또한, 철강 산업의 혁신 사례로, 환경 친화적이고 비용 효율적인 철강 생산 기술을 개발한 Laureen Meroueh의 사례가 소개되었다. AI 보안 이슈로는 Anthropic가 생물학적 무기 개발 시도를 차단한 사례가 포함되었다.
HIGH
취약점보다 더 큰 위험은 무엇인가
보안 팀은 취약점을 발견하는 데 능숙해졌지만, 이제는 취약점 중 실제로 침해로 이어질 수 있는 것을 판단하는 과정을 최적화해야 한다. 자율적 펜테스트는 공격자가 실제로 악용할 수 있는 취약점을 확인하는 데 도움이 된다.
GuardRate: 첫 번째 감사에서 도출된 메트릭, 벤치마크 및 인사이트 (2부)
이 기사에서는 GuardRate 툴과 리더보드의 내부 구조와 평가 방법론을 상세히 설명한다. 다양한 벤치마크와 메트릭을 선택한 이유, 데이터 파이프라인, 실험 방법, 평가 지표 등을 다룬다.
HIGH
프랑스 정부, 민간 기업과 협력 강화 위한 디지털 및 AI 계약 체결
프랑스 정부는 민간 기업과 협력하여 디지털 및 인공지능 분야를 강화하기 위해 'Pacte Numérique et IA'라는 계약을 체결했습니다. 이 계약은 정부의 요구사항을 파악하고, 프랑스 내 기업의 제품과 솔루션을 연결하며, 디지털 기반 인프라 보안을 강화하는 것을 목표로 합니다.
데이터 주권: 클라우드가 아니라 데이터가 핵심
유럽 기업들이 클라우드에 대한 의존도를 줄이고 데이터 주권을 확보하기 위한 전략을 강조하고 있다. 데이터 보호와 복구를 독립적으로 관리함으로써 단일 공급업체에 대한 의존성을 줄이고, 사이버 공격 및 지정학적 긴장 속에서도 조직의 회복력을 강화해야 한다는 주장이다.
HIGH
AI 생성 피싱 공격이 클릭률 54%를 기록하며 신원 보안이 필수로 변했다
AI 생성 피싱 공격이 전통적 피싱보다 4.5배 높은 54%의 클릭률을 기록하며 신원 보안의 중요성이 커지고 있다. Microsoft와 Mandiant의 보고서에 따르면 도난된 신원 정보는 2024년 침입 사례의 16%를 차지하며 가장 큰 위협으로 부상했다. 최근 공공기관을 겨냥한 공격 사례가 증가하고 있으며, MSP(관리형 보안 서비스 제공업체)는 신원 보호 전략을 강화해야 한다.
HIGH
국가 디지털 보안: 시스템 간 분리 철폐로 회복탄력성 확보
최근 여러 행정부서를 타격한 사이버 보안 사고는 데이터 보호가 디지털 신뢰와 밀접하게 연결되어 있음을 상기시킨다. 그러나 보다 중요한 것은 국가뿐 아니라 은행, 산업, 필수 인프라 운영자, 국제 그룹 등이 직면한 도전 과제를 드러낸다. 즉, 방대하고 이질적이며 깊이 연결된 정보 시스템을 어떻게 보안할 것인가이다. 기사에서는 시스템 간 분리를 철폐함으로써 사이버 공격에 대한 회복탄력성을 확보해야 한다는 점을 강조한다.
유럽의 디지털 주권, 생태계를 통한 힘으로 구축해야
유럽은 기술, 인프라, 인재를 보유하고 있지만, 이들을 통합한 생태계 구축이 필요하다. 디지털 주권은 단순히 데이터센터 위치나 법적 관할권이 아니라, 기술 의존도 관리와 공급업체 선택의 자유를 포함한다. 유럽은 클라우드, 소프트웨어, 사이버보안, 오픈소스, 데이터 플랫폼, AI 기술을 보유하고 있으며, 이들을 협력적으로 통합하여 강력한 대안을 제공할 수 있다.
본 페이지의 기사 요약은 공개된 자료를 AI가 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 각 기사의 원문을 확인하십시오. 모든 저작권은 원 매체에 있습니다.