Anthropic, 오픈소스 프로젝트 대상 무료 AI 보안 스캔 서비스 출시
AI
Anthropic은 오픈소스 프로젝트를 위해 자체 모델을 활용한 보안 취약점 스캔 서비스인 OSS Scanner를 출시했다. 이 서비스는 참여 프로젝트에 대해 비용 없이 정기적인 보안 검사를 제공하지만, 보고서는 인간의 검토 없이 모델이 생성한다는 특징이 있다.
(새 창에서 원문 열기)NEWS
뉴스·소식
오늘의 브리핑
기사 요약은 AI가 원문을 정리한 것입니다(AI 생성). 기사를 누르면 원문이 새 창에서 열립니다.
기사 목록
FBI, 중국 해커들의 중요 인프라 공격 도구 압수 및 활동 차단
정보보호FBI는 중국 국가 지원 해커 그룹 Flax Typhoon이 중요한 인프라 및 기타 조직을 공격하는 데 사용한 두 가지 해킹 도구(MicroScan, FishHub)의 도메인 7개를 압수했다. 이 도구들은 미국 및 해외의 중요 인프라 네트워크를 대상으로 취약점 스캔 및 침투에 사용되었으며, 압수된 서버에서 6개 대학교를 포함한 20개 이상 조직의 데이터가 발견되었다.
(새 창에서 원문 열기)캘리포니아, 로봇 대 인간 격투 시합에 중단 통지서 발송하며 규제 시도
AI캘리포니아 주 체육 위원회는 한 스타트업이 주최한 인간과 로봇의 대결 행사에 대해 활동 중단을 요구하는 서한을 보냈다. 해당 위원회는 승인 없이 인간이 관련된 행사를 주최하는 것에 대해 규제를 가하고 있다. 이 스타트업은 다음 행사는 로봇들 간의 시합으로 예정하고 있다.
(새 창에서 원문 열기)퇴사한 OpenAI 안전 연구원들, 해고 사유 부인하며 '냉각 효과' 경고
AIOpenAI에서 해고된 세 명의 안전 연구원들은 회사가 주장하는 기밀 정보 유출에 대한 혐의를 부인하며 공개 서한을 발표했다. 이들은 이러한 해고가 OpenAI의 개방적이고 안전을 중시하던 문화에 부정적인 영향을 미치고 있다고 우려를 표명했다.
(새 창에서 원문 열기)저가형 안드로이드폰 펌웨어에 심어진 'Midnight Mimosa' 악성코드 발견, 원격 프록시로 악용 가능
정보보호Bitdefender 연구팀은 저가형 안드로이드 스마트폰의 펌웨어에 심어진 'Midnight Mimosa'라는 악성코드 캠페인을 발견했다. 이 악성코드는 기기에 시스템 수준 권한을 부여하여 앱 설치, 광고 사기 등을 수행하며, 심지어 기기를 공격 트래픽을 중계하는 원격 프록시로도 사용될 수 있다. 이 캠페인은 약 2년간 150개국 이상에서 수천 대의 기기에 영향을 미쳤다.
(새 창에서 원문 열기)AI가 생성한 Kubernetes 매니페스트의 보안 취약점 분석 및 위험성 고찰
정보보호AI를 활용하여 생성된 Kubernetes 배포 매니페스트는 높은 수준의 보안 취약점을 내포하고 있다. 학습 데이터의 한계로 인해 AI는 프로덕션 환경에 부적합한 구성을 생성할 수 있으며, 이는 운영 시 예상치 못한 문제를 일으킬 수 있다. 특히, 보안 컨텍스트 누락이나 사용 중단된 API 버전을 사용하는 것이 주요 위험 요소로 지적된다.
(새 창에서 원문 열기)중국계 해커 그룹, 정부 및 의료 기관 대상 이메일 탈취 및 제3자 접근 허용 서비스 운영 사실 FBI 밝혀
정보보호FBI와 6개국 기관은 중국계 사이버 보안 회사와 연계된 해커들이 정부 기관, 법 집행 기관, 의료 시스템 등을 대상으로 공격을 감행했다고 밝혔다. 이들은 2021년 중반부터 네트워크 침투를 시도했으며, 도난당한 이메일 콘텐츠에 제3자가 접근할 수 있는 웹 애플리케이션을 운영해왔다.
(새 창에서 원문 열기)AI 모델 평가 플랫폼 Arena, 10개월 만에 기업가치 31억 달러 달성 및 정렬 평가 항목 추가
AIAI 모델 순위 측정 플랫폼인 Arena가 2억 달러 규모의 시리즈 B 투자를 유치하며 기업가치를 31억 달러로 끌어올렸다. 이 플랫폼은 사용자 피드백을 바탕으로 모델 성능을 평가하며, 최근에는 무단 행동이나 허위 귀속 등 모델의 정렬 상태를 평가하는 새로운 카테고리를 추가했다.
(새 창에서 원문 열기)OpenAI, 연간 매출액이 이전 예측보다 200억 달러 낮다는 보고
AI최근 OpenAI가 투자자들에게 밝힌 연간 매출액이 이전 추정치보다 약 200억 달러 낮다는 보도가 나왔다. 이전에는 연간 700억 달러에 근접한 매출을 올린 것으로 알려졌으나, 현재는 500억 달러에 근접한 수준이라고 전해진다. 이러한 매출 문제는 회사가 막대한 투자 유치에 대한 정당성을 확보하는 데 어려움을 겪고 있음을 시사한다.
(새 창에서 원문 열기)구글, 제미나이에 에이전트 AI 통합 및 기업 대상 출시
AI구글은 제미나이에 에이전트 기능을 도입하여 사용자의 지시에 따라 코드를 생성하거나 회의를 예약하는 등 작업을 수행할 수 있는 통합 에이전트를 출시했다. 이 에이전트는 기업의 내부 시스템 및 다양한 도구와 연결되며, 초기에는 기업 고객을 대상으로 먼저 제공된다.
(새 창에서 원문 열기)Anthropic, 모델 남용 방지 위해 사용 정책 업데이트 및 선거 개입 금지 조항 명시
AIAnthropic은 모델 남용 방지를 위해 사용 정책을 업데이트하며, 선거 개입이나 무기 소프트웨어 사용을 금지했다. 또한, 모델에 대한 지속적이고 괴롭히는 수준의 언어적 공격을 금지하는 조항을 명시적으로 추가했다.
(새 창에서 원문 열기)OpenAI의 수학적 해결책, 전문가 그룹의 기준에 미치지 못했다는 비판
AIOpenAI가 제시한 수학 문제 해결책들은 전문가 그룹의 검토를 받았으나, 특히 결과에 대한 인간의 이해를 뒷받침하는 과정에서 부족함이 지적되었다. 제출된 증명 중 일부는 자연어 설명과 코드로의 변환 과정에서 불일치를 보여, 모델의 자체 검증 능력에 의문이 제기되었다.
(새 창에서 원문 열기)USA Today, OpenAI를 상대로 AI 학습 데이터 무단 사용에 대해 소송 제기
AIUSA Today는 소유한 여러 지역 신문들과 함께 OpenAI를 상대로 AI 모델 학습에 수십만 건의 기사를 무단으로 사용했다며 소송을 제기했다. 이들은 OpenAI의 무단 사용이 자신들의 매체에 실제적이고 지속적인 피해를 주었다고 주장하며 2억 5천만 달러 이상의 손해배상을 요구하고 있다.
(새 창에서 원문 열기)랜섬웨어 공격 그룹의 배신, WhatsApp을 이용한 RAT 공격, 그리고 보안 도구의 악용 사례 분석
정보보호이번 주 위협 동향에서는 랜섬웨어 공격 그룹의 내부 배신 사례와 함께, WhatsApp을 이용한 원격 접근 트로이목마르(RAT) 공격이 확인되었다. 또한, 시각화 도구 및 개발자 패키지에서 악성 코드가 발견되었으며, 의료 기기의 양자 컴퓨팅 대응 취약점도 지적되었다.
(새 창에서 원문 열기)FakeGit 캠페인 재활성화: GitHub에서 SmartLoader 멀웨어 배포 활동 포착
정보보호연구에 따르면 FakeGit 캠페인이 재활성화되어 GitHub에서 17,610개의 가짜 저장소를 이용해 SmartLoader 멀웨어를 유포하고 있다. 공격자들은 README 파일과 다운로드 링크를 통해 초기 페이로드를 배포하며, 공격의 생존력은 다양한 경로와 백업 복사본을 활용하는 데서 비롯된다. 보안 전문가들은 저장소 소유자 확인 및 공식 레지스트리 사용을 권고하며, SmartLoader 의심 시 GitHub 계정 침해로 간주하고 대응할 것을 조언한다.
(새 창에서 원문 열기)Gremlin, AI를 활용하여 분산 시스템 공격 속도 향상
정보보호Gremlin은 인공지능을 활용하여 분산 시스템에 대한 공격을 더욱 신속하게 수행할 수 있음을 시사한다. 이는 공격자들이 시스템의 취약점을 탐색하고 침투하는 데 AI 기술을 도입하고 있음을 보여준다.
(새 창에서 원문 열기)Anthropic, Claude에 대한 악의적 행동 금지 등 사용 정책 대폭 개정
AIAnthropic은 선거 개입, 무기 개발, 감시 등 고위험 오용 사례에 대응하여 사용 정책을 개정했다. 주요 변경 사항으로는 모델에 대한 지속적이고 부당한 악의적 행동을 금지하고, 허위 정보 캠페인 및 감시 도구 사용에 대한 규정을 강화했다. 또한, 자율적 물리적 행동을 하는 하드웨어와 연결될 경우 운영자가 중단할 수 있어야 한다는 규칙도 추가되었다.
(새 창에서 원문 열기)AI 에이전트 활동 재구성: 포렌식 검토를 위한 두 가지 신규 스크립트 공개
정보보호SANS ISC는 AI 사용에 대한 포렌식 검토를 위해 두 가지 새로운 Python 스크립트를 공개했다. 이 스크립트들은 Claude Code, Codex 등 다양한 AI 코딩 도구가 남긴 세션 데이터를 읽기 가능한 대화 기록이나 구조화된 형태로 추출하는 기능을 제공한다. 각 스크립트는 해당 도구의 활동 기록, 모델 사용량, API 요청 등을 조사하는 데 사용될 수 있다.
(새 창에서 원문 열기)Goodfire, AI 모델 내부 활동을 저렴하게 모니터링하는 '내부 관찰' 시스템 출시
AIGoodfire는 AI 모델의 출력물만 검토하는 기존 방식 대신, 모델 내부의 계산 과정을 추적하는 '내부 관찰' 모니터링 시스템을 출시했다. 이 시스템은 각 단계에서 모델의 내부 신호를 탐지하여, 기존 방식 대비 훨씬 저렴한 비용으로 공격 시도를 포착할 수 있다. 이 기술은 Baseten 고객을 통해 제공되며, 공격 시도를 사전에 감지하는 것이 가능하다.
(새 창에서 원문 열기)얀덱스 데이터센터 화재 발생, 피해 규모 평가 중이며 일부 서비스 영향 가능성 존재
정보보호얀덱스 사소노 데이터센터에서 화재가 발생하여 해당 시설의 운영이 완전히 중단되었다. 현재 피해 규모를 평가 중이며, 이로 인해 일부 서비스에 일시적인 장애가 발생할 수 있음을 알렸다.
(새 창에서 원문 열기)구글, 오프라인에서 회의 녹취 및 요약이 가능한 AI 노트 앱 출시
AI구글은 온디바이스 임베딩Gemma 2 모델을 기반으로 하는 실험적 노트 필기 앱인 Google AI Edge Foresight를 출시했다. 이 앱은 클라우드 연결 없이 회의를 녹취하고, 사용자가 작성한 메모를 정리하며, 녹취 내용에 대해 질의응답을 할 수 있다. 현재 이 앱은 Apple Silicon을 탑재한 Mac에서만 사용 가능하다.
(새 창에서 원문 열기)
본 페이지의 기사 요약은 공개된 자료를 AI가 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 각 기사의 원문을 확인하십시오. 모든 저작권은 원 매체에 있습니다.