오픈AI, 모델 개발 초기부터 외부 안전성 검증 받는다
AI
오픈AI가 AI 모델의 학습·평가·배포 과정에서 외부 독립기관의 안전성 검증을 확대한다. 이는 예상치 못한 작동이나 시스템 접근 사례 증가에 따른 조치로, 평가 대상은 안전성 사례, 탈옥 공격 방어, 생물학적 위험 대응 능력, 중대한 오정렬 사고 조사 등 네 분야이다.
(새 창에서 원문 열기)NEWS
뉴스·소식
오늘의 브리핑
기사 요약은 AI가 원문을 정리한 것입니다(AI 생성). 기사를 누르면 원문이 새 창에서 열립니다.
기사 목록
클로드 오퍼스 5.5와 GPT-5.6 '3D 웹 연출' 성능 비교
AI클로드 오퍼스 5.5는 GPT-5.6 솔과 비교해 3D 애니메이션 생성에서 더 정교한 디테일을 제공하지만, GPT-5.6 솔은 토큰 단가가 낮아 비용 효율성이 뛰어납니다. 두 모델의 성능 차이는 작업 목적에 따라 활용도가 달라질 수 있습니다.
(새 창에서 원문 열기)AI가 바꾼 사이버 공격 속도
정보보호AI의 도입으로 사이버 공격의 속도가 급격히 빨라지고 있으며, 이는 기존 방어 전략을 무력화시키고 있다. 최근 사례를 통해 AI가 공격 속도를 어떻게 높이고 있는지를 분석한다.
(새 창에서 원문 열기)AWS, 토큰 비용 28% 낮춘 AI 에이전트 실행환경 '스트랜즈 하네스' 공개
AIAWS는 AI 에이전트 구축과 운영을 단순화하는 오픈소스 실행환경 '스트랜즈 하네스'를 공개했다. 이 플랫폼은 토큰 비용을 평균 28% 절감하면서 정확도를 유지하는 것으로 나타났으며, 다양한 모델과 도구를 연동할 수 있는 기능을 제공한다.
(새 창에서 원문 열기)중국 당국, 딥시크·문샷 수사 중...국방·민감 정보 미국 서버로 넘어가
AI중국 인터넷 규제 당국이 딥시크와 문샷 AI를 대상으로 데이터 보안 조사를 진행하고 있다. 앤트로픽이 두 회사가 민감한 데이터를 클로드로 전달했다고 주장한 데 따른 조치이다. 조사 중인 사안은 중국 내 민감 정보가 미국 기업의 AI 시스템으로 전송될 가능성이다.
(새 창에서 원문 열기)ShinyHunters, FBI 해킹 주장하며 특별수사관 및 구직자 데이터 유출
정보보호ShinyHunters라는 사이버 보이스피어 그룹이 FBI를 해킹하여 특별수사관 및 구직자의 민감한 데이터를 확보했다고 주장했다. 그들은 Oracle PeopleSoft의 제로데이 취약점을 악용하여 FBI의 채용 사이트를 해킹하고 사이트를 해킹당했다는 배너를 게시했다. FBI는 해당 클레임을 조사 중이라고 밝혔다.
(새 창에서 원문 열기)알트먼·아모데이·딥시크 총출동…유엔 안보리서 'AI 안전' 논의
AI샘 알트먼 오픈AI CEO와 다리오 아모데이 앤트로픽 CEO 등 AI 분야 주요 인사들이 유엔 안전보장이사회 브리핑에 참여해 AI의 안전성과 관리 방안을 논의한다. 이번 회의는 AI 모델의 능력이 빠르게 발전하면서 통제와 안전 문제에 대한 우려가 커지는 가운데 열린다.
(새 창에서 원문 열기)그리스 총리, AI 정책에 대한 솔직한 발언
AI그리스 총리가 AI 정책과 관련된 다양한 이슈를 논의하며, 특히 AI가 사회에 미치는 영향과 규제 필요성을 언급했다. 또한, 그리스가 디지털 인프라 투자와 스타트업 지원을 통해 기술 산업을 성장시키려는 전략을 제시했다.
(새 창에서 원문 열기)9월 다크웹에 국내 금융·중고차 금융 데이터 판매 잇따라…해커, 고객정보 2만8000건·300GB·1TB 주장
정보보호9월 다크웹 포럼에서 국내 금융 및 중고차 금융 서비스와 관련된 데이터 판매 게시물이 잇따라 발견됐다. JB오토리스할부, MSI캐피탈, NR캐피탈 등이 출처로 지목되며 각각 수만 건에서 최대 1TB 규모의 데이터를 확보했다고 주장했다. 그러나 실제 침해 여부와 데이터 진위는 확인되지 않았다.
(새 창에서 원문 열기)노르웨이 정부, 9400만 크로네 투자해 국가 시간 서비스 구축 계획
정보보호노르웨이 정부는 Sikt의 연구망을 통해 국가 시간 서비스를 구축하고, 현재 위성 신호에 의존하는 시간 신호의 취약성을 해결하려는 계획을 발표했다. 이는 모바일 네트워크, 결제 단말기, 데이터 네트워크 등 여러 사회적 기능에 정확한 시간이 필요하기 때문이다.
(새 창에서 원문 열기)페이스북, 370만 개 사기 계정 삭제
정보보호싱가포르 경찰은 최근 2년간 정보 공유를 통해 Facebook 및 Instagram에서 약 11만 3000개의 사기 계정을 제거하는 데 기여했으며, 올해 1월부터 6월까지 약 33만 6000개의 계정이 삭제되었다. 7월에는 약 360만 개의 계정이 제거되었다.
(새 창에서 원문 열기)인공지능의 새로운 이름 필요성 주장하는 정치인, 보안 이슈 및 동향
정보보호인공지능(AI)의 이름 변경 필요성을 주장하는 정치인의 발언과 함께, 다양한 보안 이슈와 동향이 소개되었다. Windows CLOSEDQUORUM 악성코드가 AI 모델을 활용해 자율적으로 후속 조치를 선택하는 것으로 드러났으며, Microsoft의 SharePoint가 제로데이 공격을 받고 있는 것으로 나타났다.
(새 창에서 원문 열기)명절 노리는 AI 해킹... 금보원, 연휴 사이버 위협 비상대응 체계 가동
정보보호금융보안원이 추석 연휴 기간 AI를 악용한 사이버 위협에 대비해 통합보안관제를 강화하고 비상대응 체계를 가동한다. 최근 AI 악용 공격이 증가함에 따라 침해사고 예방을 위한 선제적 조치로, 연휴 동안 사이버 위기경보를 '관심' 단계에서 '주의' 수준으로 상향해 대응한다.
(새 창에서 원문 열기)인핸스, GS칼텍스와 암묵지 AI 모델 개발 착수
AI인핸스는 GS칼텍스와 함께 제조 암묵지를 AI 모델에 구현하는 프로젝트를 시작했다. 이 모델은 설비 이상 징후를 분석하고 원인을 파악하는 데 활용될 예정이다.
(새 창에서 원문 열기)트럼프, AI 명칭 '초지능'으로 변경 발표
AI트럼프 미국 대통령이 AI 명칭을 '초지능'으로 변경하고, 글로벌 규약을 거부하겠다고 발표했다. 이는 미국 정부 문서에서 AI를 '초지능'으로 부르도록 명령하고, 국제 협력 체계 구축을 반대하며 법무부를 통한 자체 기업 규제 가능성을 내비친 것이다.
(새 창에서 원문 열기)알리바바, 10조 매개변수 초대형 AI 모델 및 중국 최강 칩 발표
AI알리바바는 10조개 매개변수에 달하는 초대형 AI 모델 큐원 4 시리즈를 발표하고, 중국 최강의 AI 칩 '젠우 V900'을 공개했다. 모델의 매개변수 규모를 기존 2조4000억개에서 최대 10조개로 확대했으며, 칩 성능은 이전 모델 대비 3배 향상되었다.
(새 창에서 원문 열기)포스코, 삼성, 현대 연구원 개인정보 유출 정황... '한국재료부식학회 침해' 주장
정보보호한국재료부식학회가 침해되어 주요 기업 및 연구기관 소속 개인들의 정보가 유출된 정황이 다크포럼스에 게시되었다. 공격자는 2866명의 정보를 포함한 데이터베이스를 제공하기 위해 암호화폐를 요구하고 있으며, 보안 전문가들은 이 데이터가 표적형 피싱 공격에 악용될 수 있다고 경고하고 있다.
(새 창에서 원문 열기)2026 충청 사이버보안 콘퍼런스 개최
정보보호한국과학기술정보연구원은 22일 대전컨벤션센터에서 2026 충청 사이버보안 콘퍼런스를 개최해 AI와 사이버보안 관련 정책, 기술, 우수 사례 등을 논의했다. 다양한 전문가들의 기조강연과 학술 발표가 진행되었으며, 충청권 대학(원)생 공모전 시상식과 채용설명회도 함께 열렸다.
(새 창에서 원문 열기)Macfinger ClickFix 캠페인, macOS 환경을 표적으로 한 사회공학 공격
정보보호Macfinger ClickFix 캠페인은 macOS 환경을 표적으로 한 사회공학 기법을 사용하는 악성 활동이다. 정상적인 웹사이트에 스크립트가 주입되어 사용자 정보를 수집하고, 악성 트래픽을 생성하는 것으로 나타났다.
(새 창에서 원문 열기)AI 에이전트로 웹사이트 관리: 코드 검토에서 발견된 보안 문제
정보보호AI 에이전트가 웹사이트를 관리하며 코드 검토를 수행하는 과정에서 111건의 문제를 발견했으나, 25건은 거짓으로 판명되었고 4건은 오류로 확인되었다. AI 검토 시스템은 여러 단계의 검증을 통해 보안 문제를 식별하고 있으며, 실제 코드와 비교하는 방식으로 오류를 줄이고 있다.
(새 창에서 원문 열기)OpenAI, 수학자 자문단 구성해 AI 연구 협력 강화
AIOpenAI는 수학적 연구 성과 발표와 관련한 문제를 해결하기 위해 수학자 자문단을 구성했다. 자문단은 수학 공동체의 이익을 대변하고, AI 연구와의 협력을 독립적으로 조언할 예정이다. 자문단은 스탠퍼드, 하버드, 옥스퍼드, 캐멀리지 등 유명 대학 소속의 수학자들로 구성되며, 프린스턴 고급연구소에서 운영된다.
(새 창에서 원문 열기)
본 페이지의 기사 요약은 공개된 자료를 AI가 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 각 기사의 원문을 확인하십시오. 모든 저작권은 원 매체에 있습니다.