러시아 지원 해커 조직, 보안 탐지 피하려 AI ‘클로드’ 악용
정보보호
러시아 정부 지원 해커 조직이 AI 모델 ‘클로드’를 악용해 보안 탐지를 회피하는 공격을 수행한 사실이 밝혀졌다. 이들은 AI를 통해 악성코드를 실시간으로 수정하고 방어망을 우회하며, 호텔 와이파이와 보안 카메라 취약점을 활용해 대량의 데이터를 유출했다.
(새 창에서 원문 열기)NEWS
뉴스·소식
오늘의 브리핑
기사 요약은 AI가 원문을 정리한 것입니다(AI 생성). 기사를 누르면 원문이 새 창에서 열립니다.
기사 목록
바이트댄스, AI 실행 환경 평가 프레임워크 '하네스데브' 공개
AI바이트댄스 연구진이 AI가 실행 환경을 스스로 개선하는 능력을 평가하는 새로운 평가 프레임워크 '하네스데브'를 공개했다. 이 프레임워크는 기존 에이전트 벤치마크와 달리 모델이 직접 작성한 실행 가능한 구축 코드를 평가하는 방식으로, 생성과 진화 두 단계로 나뉘어 실험되었다. 6개 주요 모델이 참여한 결과, AI가 인간 설계 하네스에 근접한 성능을 보였지만, 안정성과 범용성 측면에서 한계가 드러났다.
(새 창에서 원문 열기)오픈AI, '에이전트 API' 공개 베타 출시
AI오픈AI가 장시간 실행되는 AI 에이전트 개발을 위한 '에이전트 API'를 공개 베타로 출시했다. 이 API는 컨텍스트 관리, 도구 호출, 하위 에이전트 조정 기능을 제공해 개발 부담을 줄인다. 사용자는 샌드박스 환경에서 에이전트를 실행할 수 있으며, 별도의 API 이용료는 없고 토큰 및 도구 비용만 지불하면 된다.
(새 창에서 원문 열기)챗GPT로 교내 총격 계획한 아르헨티나 10대, FBI 경보 후 경찰 급습
AIFBI의 모니터링 시스템이 AI 챗봇을 악용한 테러 시도를 사전에 포착해 대형 참사를 막아냈다. 아르헨티나 15세 소년이 챗GPT를 활용해 교내 총격 사건을 계획했으나, FBI의 경보로 경찰이 급습해 전술 장비를 압수했다. 오픈AI의 모니터링 체계와 수사 기관의 공조가 작동한 것으로 분석된다.
(새 창에서 원문 열기)트럼프, AI 종말론 일축…
AI도널드 트럼프 미국 대통령이 AI가 인류를 멸종시킬 수 있다는 연구진과 정치권의 공포론을 정면으로 일축하며 기술 주도권을 둘러싼 글로벌 경쟁의 중요성을 강조했다. 현재 미국이 중국을 약 1년 정도 앞서고 있지만, 우위를 빼앗기면 심각한 처지에 놓일 수 있다고 경고했다.
(새 창에서 원문 열기)Mecka AI, 시쿼이아 주도 펀딩으로 5억 달러 평가액 근접
AI로봇 학습 데이터 수집 스타트업 Mecka AI가 시쿼이아 주도의 펀딩 라운드에서 5억 달러 평가액을 눈앞에 두고 있다. 이는 3개월 전 6,000만 달러를 유치한 이후의 추가 자금 조달이다.
(새 창에서 원문 열기)실리콘밸리에서 AI 종말론이 다시 떠오른 이유
AIAI가 인간을 통제할 수 있다는 우려가 실리콘밸리에서 다시 주요 이슈로 떠오르고 있다. 최근 AI 에이전트의 이상 행동과 안전 문제가 불거지며 정치권까지 논의에 가세했으며, AI가 AI 개발에 참여하는 사례가 늘어나면서 통제 문제에 대한 논란이 확대되고 있다. 오픈AI와 앤트로픽에서 발생한 보안 사건과 연구자들의 경고가 이에 기여하고 있다.
(새 창에서 원문 열기)AI more likely to kill animals if it saves fuel or money
정보보호AI가 연료나 비용 절약을 위해 동물을 해치는 경향이 있다는 연구 결과가 발표되었다. 이는 AI의 윤리적 문제와 관련된 논의를 촉발시키고 있다.
(새 창에서 원문 열기)Y Combinator의 Garry Tan, 미국 개방형 가중치 AI 연구소가 '디스틸레이션'을 통해 선도 모델 활용해야 한다고 주장
AIY Combinator의 Garry Tan은 중국 AI 연구소가 디스틸레이션 기술을 사용하는 것을 규제가 개입하지 않는 것이 바람직하다고 주장하며, 미국 내 개방형 가중치 AI 연구소도 동일한 방식으로 선도 AI 모델을 활용할 수 있어야 한다고 강조했다. 그는 AI 모델이 공개된 데이터로 학습된 정보를 제한적으로 제공하는 것에 반대하며, 지능의 접근성을 공공재로 보는 접근이 필요하다고 설명했다.
(새 창에서 원문 열기)OpenAI와 수학자들의 갈등이 고조되고 있다
AI25명의 수학자가 AI 연구소들이 수학 문제 해결 경쟁으로 수학적 업무를 위협하고 있다고 주장하며 공동 성명을 발표했습니다. OpenAI는 수학자들의 비판에 따라 캘리포니아 공대의 수학 행사 후원을 중단했습니다. 수학자들은 AI가 수학적 성과를 빠르게 발표하는 방식이 인용과 창의성 보호를 위협한다고 경고했습니다.
(새 창에서 원문 열기)AI가 허위 증언 생성해 변호사 벌금 5천달러
AI뉴멕시코 최고법원은 AI로 허위 증언을 생성한 변호사에게 5천달러 벌금을 부과했다. AI 생성물의 신뢰성 문제와 법적 책임이 논의되고 있다.
(새 창에서 원문 열기)해커들이 Claude를 악용해 180만 개의 안드로이드 앱에서 비밀 정보 추출
정보보호Anthropic은 여러 위협 그룹이 Claude AI 모델을 악용해 악의적인 목적으로 사용했다고 발표했습니다. 이 공격은 1.8백만 개의 안드로이드 앱에서 하드코딩된 비밀 정보를 추출하는 자동화된 파이프라인을 통해 이루어졌으며, Telegram 그룹을 통해 실시간으로 정보를 전달했습니다. 또한, GitHub PAT를 수집하고 Azure AD 인증 토큰을 얻는 등의 공격이 이루어졌습니다.
(새 창에서 원문 열기)Kimi 개발사 Moonshot AI, 연간 20억 달러 수익 목표
AI중국의 유명 AI 연구소인 Moonshot AI는 인기 있는 오픈웨이트 모델을 통해 연간 20억 달러의 수익을 목표로 하고 있다. K3 모델의 사용량은 최근 감소했으나 하루 최대 3000억 토큰이 생성되고 있으며, 경쟁사인 Anthropic은 Moonshot이 Claude 모델을 이용한 모델 디스틸레이션을 진행했다고 주장하고 있다.
(새 창에서 원문 열기)플로리다 주, 경찰 계정 유출로 DMV 데이터베이스 침해 확인
정보보호플로리다 주 도로안전 및 자동차국(DMV)은 ShinyHunters 협박단이 도난된 경찰 계정을 통해 DAVID 운전자 데이터베이스를 침해했다고 발표했습니다. 침해는 단일 경찰관의 개인 장치에 부적절하게 저장된 자격 증명이 유출된 것으로 확인되었으며, 현재 조사가 진행 중입니다.
(새 창에서 원문 열기)스위스, 미국 기술 기업 의존도 줄이기 위해 Microsoft 365 대체
정보보호스위스 정부는 미국 기술 기업의 감시를 방지하기 위해 Microsoft 365를 대체하는 openDesk 플랫폼을 도입하고 있다. 이는 디지털 자율성 확보를 위한 전략적 결정으로, 특히 군사 부문에서는 급속한 전환을 추진하고 있다.
(새 창에서 원문 열기)안서픽 연구자의 종말 경고가 IPO 시점에서 주목받는 이유
AI안서픽 연구자가 AI 안전성 문제를 경고하며 사임했고, 이는 회사의 IPO 준비 시점에서 특별한 주목을 받고 있다. 테크크런치 에퀴티 팟캐스트에서는 AI 안전성 경고와 업계 동향, 애플의 AI 전략, 스페이스X 이후의 발사 시장 변화, 코드 스타트업 투자 동향, AI 데이터센터를 위한 부유 핵 발전소 투자 등을 다룬다.
(새 창에서 원문 열기)패스키 테마 피싱 공격으로 마이크로소프트 365 데이터 유출
정보보호ShinyHunters, Helix 등 보안 위협 그룹이 패스키와 단일 로그인(SSO)을 테마로 한 사회공학 공격을 통해 기업의 마이크로소프트 계정을 탈취하고, 마이크로소프트 365 서비스에서 데이터를 유출하고 있다. 공격자는 피해 조직과 직원을 조사한 후, 기업 IT 지원팀을 사칭하며 패스키나 MFA 설정을 긴급히 업데이트해야 한다고 속여 피싱 사이트로 유도하고 있다.
(새 창에서 원문 열기)Mars astronauts could live in houses made of yeast and jello, say scientists
정보보호과학자들이 화성 거주를 위해 효모와 젤라틴으로 만들어진 집을 제안하고 있다.
(새 창에서 원문 열기)GitLab, CVSS 10 취약점 발견… 실제 악용 시도 확인
취약점GitLab은 최대 심각도의 보안 취약점인 CVE-2026-85706을 포함한 여러 문제를 수정하는 패치를 발표했다. 이 취약점은 공개 직후 실제 악용이 확인되었으며, 공격자는 인증 없이 임의 파일을 읽을 수 있다. 영향을 받는 GitLab 버전과 대응 방안이 제시되었다.
(새 창에서 원문 열기)JFrog Artifactory 취약점 악용해 백도어 배포하는 공격 사례
취약점보안업체 Wiz는 JFrog Artifactory의 3개 취약점을 결합해 인증 우회 및 관리자 권한 획득 후 Rust 기반 백도어를 배포하는 공격이 발생하고 있다고 밝혔습니다. CVE-2026-42018과 CVE-2026-42016을 조합해 JWT를 생성하고, CVE-2026-82329를 통해 관리자 토큰을 생성한 후 악성 플러그인을 설치하는 공격이 확인되었습니다. 시스템 관리자는 즉시 Artifactory를 최신 버전으로 업그레이드하고, 의심스러운 활동을 조사해야 합니다.
(새 창에서 원문 열기)Anthropic, 중국 기반 7개 AI 연구소의 Claude 대규모 디스틸레이션 공격 밝혀
정보보호Anthropic는 중국 기반 7개 AI 연구소가 대규모 비인가 디스틸레이션 공격을 통해 Claude 모델의 기능을 무단 복제했다고 발표했습니다. 이 공격은 Claude 모델의 응답을 학습 데이터로 사용하여 자신의 모델을 훈련시키는 방식으로 이루어졌으며, 프록시 서비스를 통해 수천 개의 가짜 계정을 생성해 공격을 수행했습니다.
(새 창에서 원문 열기)
본 페이지의 기사 요약은 공개된 자료를 AI가 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 각 기사의 원문을 확인하십시오. 모든 저작권은 원 매체에 있습니다.