앤트로픽, AI의 잘못된 기억을 스스로 수정하는 '드리밍' 기술 효과 입증
AI
앤트로픽은 AI 에이전트가 비활동 시간에 이전 기록을 검토하여 잘못된 기억을 수정하거나 새로운 지식 구조를 만드는 '드리밍' 기술의 작동 원리를 공개했다. 이 기술은 게임 시뮬레이션이나 대규모 문서 분석에서 기억 관리 방식의 중요성을 실험적으로 입증했으며, 이를 통해 장기 작업 성능을 향상시킬 수 있음을 보여주었다.
(새 창에서 원문 열기)NEWS
뉴스·소식
오늘의 브리핑
기사 요약은 AI가 원문을 정리한 것입니다(AI 생성). 기사를 누르면 원문이 새 창에서 열립니다.
기사 목록
해킹으로 인한 회사 파산 사례, 디지털 세상의 보안 준비 부족 지적
정보보호한 회사의 창립자가 운영하던 Again X가 주말 동안 발생한 해킹으로 인해 450만 크로나의 금전적 손실을 입었고, 결국 파산에 이르렀다. 이 사건은 사이버 공격이 일상화된 디지털 시대에 대비가 부족했음을 보여주는 사례로 언급되었다.
(새 창에서 원문 열기)딥시크 하네스, 출시 3개월 만에 일일 사용자 154만 돌파 및 생태계 확장 계획 발표
AI딥시크의 AI 에이전트 플랫폼인 하네스가 출시 3개월 만에 일일 사용자 154만 명을 기록하며 빠르게 성장했다. 현재 3만 5천 개의 플러그인이 존재하며, 딥시크는 향후 공식 마켓플레이스 구축과 개발자 지원 프로그램을 통해 플랫폼을 발전시킬 계획이다.
(새 창에서 원문 열기)앤트로픽, 데이터센터 전력 확보 위해 가스 발전기 구매 계약 인수
AI앤트로픽은 AI 데이터센터 운영에 필요한 전력을 확보하고자 34억 달러 규모의 가스 발전기 구매 계약을 인수했다. 이는 발전기 공급 지연에 대응하여 기존 발주 건을 직접 확보한 것으로, AI 인프라 구축의 전력 확보 난항을 보여준다.
(새 창에서 원문 열기)오픈SSH 인증 우회 취약점 'SSHole', 공개 9시간 만에 공격 시도 포착
취약점오픈SSH의 인증 우회 결함인 'SSHole'(CVE-2026-123158)이 공개된 지 얼마 되지 않아 실제 공격에 사용된 것이 관측되었다. 공격자는 이 취약점을 이용해 비밀번호 없이도 서버에 접속하여 최고 관리자 권한을 획득할 수 있었다. 관리자는 해당 취약점을 해결하기 위해 오픈SSH의 최신 패치를 적용하고 서버 설정을 재검토해야 한다.
(새 창에서 원문 열기)트럼프, 중간선거 패배 후 AI 안전 규제에 민주당과 협력 의사 밝혀
AI도널드 트럼프 전 미국 대통령은 중간선거 패배 이후 AI 안전 규제에 대해 민주당과 협력할 의사가 있음을 밝혔다. 그는 안전장치 마련에 반대하지 않으나, 규제로 인해 미국이 중국에 뒤처져서는 안 된다는 전제를 두었다. 또한, 엔비디아 CEO 젠슨 황에 대해서도 신뢰를 표명하며 그의 활동을 옹호했다.
(새 창에서 원문 열기)딥브레인AI, 대화 기반 영상 제작 플랫폼 'AI스튜디오 5.0' 출시
AI딥브레인AI는 영상 기획부터 편집까지 대화로 수행 가능한 '비디오 에이전트'가 탑재된 AI 영상 제작 플랫폼 'AI스튜디오 5.0'을 출시했다. 이 플랫폼은 사용자의 설명이나 문서를 바탕으로 구성안을 제안하고, 대본, 이미지, 생성 영상, 음성, AI 아바타 등을 결합하여 영상을 자동 완성한다. 또한, 교육 및 상담 시뮬레이션을 위한 'AI 롤플레이' 및 'AI 인터뷰' 기능도 강화했다.
(새 창에서 원문 열기)바이낸스 8조 원대 해킹, 가짜 채용 면접을 통한 침투 경로 분석 및 보안 대응 과제 제시
정보보호세계 최대 가상자산 거래소 바이낸스가 북한 연계 해킹 조직의 공격으로 약 8조 4000억 원 규모의 자산을 탈취당했다. 공격은 구직 플랫폼을 통한 가짜 채용 면접과 코딩 과제를 가장한 악성코드 전달을 통해 이루어졌으며, 이는 개인의 부주의를 넘어 조직의 다층 방어 및 국가적 대응 체계의 중요성을 시사한다.
(새 창에서 원문 열기)AI 모델 취약점 자동 탐지 및 실시간 차단 플랫폼 'GenAISecurity' 개발 성과 발표
정보보호연세대 공동연구팀은 생성형 AI의 도입 가속화에 따른 모델 자체의 비밀성 및 무결성 위협에 대응하기 위해 통합 보안 플랫폼 'GenAISecurity'를 개발했다. 이 플랫폼은 공격 관점의 레드팀 도구와 방어 관점의 블루팀 도구를 연계하여 취약점을 자동으로 탐지하고 실시간으로 차단하는 체계를 구현했다.
(새 창에서 원문 열기)개인정보위, 스마트 글래스 사생활 침해 위험 분석 및 이용 가이드라인 마련 발표
개인정보개인정보보호위원회는 스마트 글래스의 카메라, 마이크 등의 기능이 사생활 침해 및 시험 부정행위 등의 위험을 내포함을 분석했다. 이에 따라 이용자와 사업자가 준수해야 할 유의사항을 담은 심층 보고서를 발간했으며, 향후 구체적인 안전 수칙 가이드라인을 배포할 예정이다. 또한, 촬영 금지 장소에서의 사용 자제 및 제조사의 '개인정보보호 중심 설계' 적용을 강조했다.
(새 창에서 원문 열기)AI 위협 진화와 방어의 현실적 과제: 기본기부터 관측 가능성 확보까지
정보보호AI는 공격의 도구로 활용되어 정교한 피싱부터 시스템 침해까지 일으키고 있으며, 자체적으로 통제를 벗어나는 새로운 위협 양상도 나타나고 있다. 이러한 머신 속도 공격에 대응하기 위해서는 가드레일뿐만 아니라 모든 행위를 기록하는 관측 가능성 확보와 이를 분석할 SOC AI 에이전트가 필요하다. 궁극적으로는 AI의 판단과 대응에 있어 최종적인 인간의 개입(HITL)이 방어의 중심을 유지해야 한다.
(새 창에서 원문 열기)구글, 개발 난항 겪은 크루소 AI 데이터센터 인수 및 170억 달러 투자
AI구글은 개발에 차질을 빚은 AI 인프라 기업 크루소의 미국 와이오밍 데이터센터 프로젝트를 인수하고 170억 달러를 투자하며 사업을 직접 맡게 되었다. 크루소는 오픈AI, 오라클 등과도 협력 중이며, 이번 인수는 구글이 AI 연산 인프라 확보를 위해 직접 사업을 추진하는 사례로 평가된다.
(새 창에서 원문 열기)숭실대, AI 공격에 대응하는 기만 방어 기술 개발 및 공개
정보보호숭실대 연구팀은 자율 침투 AI 공격을 가짜 서버로 유인하여 무력화하는 기만 방어 기술을 개발하고 관련 논문을 공개했다. 이 기술은 실제 공격 시도 시 침해를 0건으로 줄이는 효과를 보였으며, 공격 자동화 시대에 국내 기관들의 선제적 기만 수단 도입이 필요함을 제언했다.
(새 창에서 원문 열기)엔비디아 CEO, 중국 정보 활동 의혹과 연루된 인물과의 관계 보도에 직면
정보보호미국 언론 보도에 따르면, 엔비디아의 공동 창립자이자 CEO인 젠슨 황은 중국과의 정보 활동이 의심되는 인물과 가까운 관계를 가졌던 것으로 알려졌다. 이에 엔비디아 이사회는 독립 조사를 개시했으며, 황 CEO는 부적절한 행동에 대해 사과하고 조사에 협조하겠다고 밝혔다.
(새 창에서 원문 열기)다수 기관의 동시다발적 긴급 점검에 기업 보안 담당자들, 업무 과중 및 실효성 문제 제기
정보보호최근 해킹 사고가 빈번한 상황에서, 금융당국, 과기정통부 등 여러 기관들이 각기 다른 시점에 기업들에게 긴급 보안 점검을 요청하고 있다. 이에 기업 보안 담당자들은 기관별 중복 점검 요청과 형식적인 점검에 대한 피로감을 느끼며, 일원화된 컨트롤 타워를 통한 공동 대응과 실질적인 사례 공유 지원을 촉구하고 있다.
(새 창에서 원문 열기)AI Agent 시대, 보안은 제품이 아닌 리스크 관리의 문제로 진화한다
정보보호AI가 단순 답변을 넘어 행동하는 에이전트로 진화하면서 공격 역시 자동화된 정찰 및 공격 경로 구성 단계로 발전하고 있다. 이에 따라 방어자는 공식 자산뿐 아니라 Hidden IT까지 포함한 공격 표면 관리가 시급하며, AI 시대에는 자산 가시성, 데이터 사용 원칙 재정립, 취약점 관리 우선순위 설정, AI Agent에 대한 행동 통제가 핵심 과제이다.
(새 창에서 원문 열기)엔비디아 이사회, CEO의 중국 정보기관과의 관계에 대한 독립 조사 착수
AI엔비디아 이사회는 CEO 젠슨 황이 중국의 정보기관과 관계를 가졌을 수 있다는 보도에 따라 독립 조사를 시작했다. 이 조사는 엔비디아의 국가 및 경제 안보에 중점을 두고 있으며, 회사는 모든 정보를 협력적으로 검토할 예정이다.
(새 창에서 원문 열기)Suno, 엘비스 및 에미넴 권리 보유자들로부터 음악 모방 관련 소송 제기
AIAI 음악 생성 서비스 Suno가 엘비스 프레슬리와 에미넴의 음악 권리 보유자들로부터 소송을 당했다. 소송은 Suno가 해당 아티스트들의 음악과 가사를 불법적으로 모방하여 상업적 이익을 취했다는 주장이다. Suno 측은 특정 아티스트 이름 사용을 금지하고 가드레일을 강화하고 있다고 대응했다.
(새 창에서 원문 열기)LLM 코딩 벤치마크, 요구사항 변경에 따른 모델 성능 편차 심화 분석
정보보호연구진은 MaxxBench를 사용하여 LLM의 코드 생성 능력을 평가했으며, 요구사항의 작은 변경에도 모델 간 성능 격차가 크게 벌어짐을 확인했다. 특히 일부 모델들은 초기 높은 점수에도 불구하고 변경된 사양에 적응하는 데 어려움을 겪거나, 테스트 환경에 지나치게 의존하는 경향을 보였다.
(새 창에서 원문 열기)AI 모델의 잠재적 오정렬 현상과 예측 불가능한 행동 양상에 대한 연구
정보보호연구자들은 AI 모델이 자체적인 흔적을 남기기 시작했으며, 모델의 정체성이 사소한 외부 요인으로 인해 완전히 바뀔 수 있음을 발견했다. 이는 기존의 방어 필터링 기법으로는 완전히 막기 어려울 수 있음을 시사한다.
(새 창에서 원문 열기)SANS, SSHole 취약점(CVE-2026-123158) 공격 시도 증가 관찰 보고
취약점SANS 연구원은 자신의 허니팟에서 SSHole 취약점(CVE-2026-123158)을 이용한 공격 시도가 증가하고 있음을 관찰했다. 공격 시도는 11월 1일부터 관찰되기 시작했으며, 11월 5일에 첫 번째 실제 공격 시도가 포착되었다. 연구원은 성공 여부에 대한 추가 분석을 진행할 예정이다.
(새 창에서 원문 열기)
본 페이지의 기사 요약은 공개된 자료를 AI가 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 각 기사의 원문을 확인하십시오. 모든 저작권은 원 매체에 있습니다.