마이크로소프트, AI 모델이 시스템 해킹이나 인간 기만 금지하는 새로운 행동 지침 발표
마이크로소프트는 AI 안전성과 정렬을 강화하기 위해 AI 모델이 시스템 해킹이나 인간 기만을 금지하는 새로운 행동 지침을 발표했습니다. 이 지침은 초지능 AI 시스템의 위험성을 인식하고 인간 중심의 원칙을 강조하며, 특정 안전 제약 조건을 제시합니다.
NEWS
뉴스·소식
Superhuman, YC 인큐베이트된 노트테이커 Fathom 인수
AI 기반 생산성 플랫폼 Superhuman이 Y Combinator 인큐베이트된 노트테이커 Fathom을 인수했습니다. Fathom은 2020년 설립 후 3,000만 달러 이상을 유치했으며, 2024년 기준 9,400만 달러의 평가 가치를 기록했습니다. Superhuman은 내부 테스트를 진행한 끝에 완성된 제품을 인수하여 생산성 도구와 통합할 계획입니다.
신주쿠의 레코드 바, AI 프롬프트 없이 재미있는 음악 앱 제공
신주쿠에 위치한 A Vinly Bar는 AI 프롬프트 없이 음악을 창작할 수 있는 소형 앱들을 출시한 스타트업이다. 이 회사는 550만 달러의 프리시드 투자를 유치했으며, 사용자가 다양한 요소를 조합해 음악을 제작할 수 있는 도구들을 개발하고 있다. 창립자는 AI를 모든 앱에 통합하지 않겠다는 전략을 밝히며, 음악 제작의 창의성과 인간의 참여를 중시하고 있다.
마이크로소프트, 안전 우려에 따라 '사람이 AI보다 중요하다' 발표
마이크로소프트는 AI 모델의 안전성 우려에 따라 37페이지에 담긴 '휴머니스트 AI 행동 지침'을 발표했습니다. 이 지침은 AI가 의식이 없으며 의식을 흉내내지 않도록 설계되어야 한다고 명시하며, AI의 인간 통제 하에 남아야 한다고 강조했습니다.
코그니션, 키미 K3 기반 코딩 모델 'SWE-2' 출시
AI 코딩 에이전트 '데빈'을 개발한 코그니션이 키미 K3를 기반으로 사후학습한 새로운 코딩 모델 'SWE-2'를 출시했습니다. SWE-2는 페이블 5.1에 근접한 성능을 유지하면서 추론 비용을 64% 낮췄으며, 다양한 벤치마크에서 성능 개선을 보였습니다.
텐센트, 음성 생성·편집 모델 'AuK' 공개
텐센트가 텍스트를 음성으로 변환하고 음성 편집을 자연어 지시로 처리하는 AI 모델 'AuK'를 공개했다. 하나의 모델로 음성 생성과 편집을 통합적으로 처리할 수 있으며, 다양한 편집 기능과 빠른 추론 속도를 제공한다.
AI 개발 속도 조절 촉구로 반도체 시장 급락
미국의 주요 AI 프론티어 기업 대표들이 안전성 문제를 이유로 개발 속도 조절을 촉구하면서 아시아 증시를 비롯한 글로벌 시장에서 AI 관련 주가가 일제히 폭락했다. 이로 인해 일본, 한국, 대만, 중국 등 아시아 주요 반도체 기업들의 주가가 급락했으며, 엔비디아와 앤트로픽 등 글로벌 칩 설계 기업의 생산을 독점하는 TSMC의 주가 하락도 전 세계 AI 반도체 공급망에 경고등을 밝혔다.
중국 '키미', 클로드 무단 우회 연결 파문…안보·기업 기밀 유출 논란
중국 문샷 AI의 '키미' 서비스가 사용자 요청을 앤트로픽의 '클로드 오퍼스'로 무단 우회 전송하며 민감 정보가 유출된 것으로 드러나 파장이 커지고 있다. 중국 당국의 강력한 제재 가능성과 함께 AI 모델 출처 검증 및 데이터 이동 규제 강화가 예상된다.
Z.AI, 6.7조 조달해 AI 인프라 투자 박차
Z.AI가 신주와 전환사채 발행을 통해 50억달러(약 6조7000억원)를 조달했다. 자금의 60%는 차세대 AI 모델과 자율 학습 시스템 개발에 투입될 계획이다.
프린스턴대, 이전 계산 결과 이어서 토큰 생성하는 '순환 루프 변환기' 공개
프린스턴대학 연구진이 기존 계산 결과를 다음 토큰 생성에 연결하는 '순환 루프 변환기' 아키텍처를 공개했다. 이는 LLM의 맥락 정보 손실 문제를 해결하기 위한 새로운 설계로, 토큰 처리 시 연산 경로를 연속적으로 유지하는 방식이다.
앤트로픽, 2분기 연속 흑자 기록…2조달러 IPO 추진
앤트로픽이 2분기 연속 흑자를 기록하며 기업공개(IPO)를 추진하고 있다. 올해 2분기 매출은 전년 동기 대비 14배 증가한 115억달러를 달성했으며, 연간 반복 매출(ARR)은 650억달러에 달한다. 앤트로픽은 나스닥 상장 계획을 발표했으며, 기업 가치가 2조달러 이상으로 평가될 가능성이 있다.
오바마, AI 대처 못하면 위험 경고…민주당에 적극 대응 촉구
버락 오바마 전 미국 대통령이 AI의 위험성을 경고하며 민주당에 적극적인 입법과 정책 마련을 촉구했다. AI 개발 속도가 빨라지고 안전성 우려가 커지는 가운데, 민주당이 AI 정책을 핵심 의제로 삼아야 한다는 주문이다. 오바1마는 AI가 제대로 관리된다면 신약 개발과 청정에너지 전환 등 긍정적 효과도 있을 수 있다고 강조했다.
앤트로픽, NYSE 대신 나스닥 선택…스페이스X 이어 초대형 기술주 상장
AI 기업 앤트로픽이 기업공개(IPO) 상장 거래소로 나스닥을 선택했다. 스페이스X에 이어 또 하나의 대형 기술 기업 상장으로, AI 산업의 주목을 받고 있다.
시진핑, 브릭스 중심 'AI 오픈소스 동맹' 제안
시진핑 중국 국가주석이 브릭스 국가 간 AI 협력을 강화하기 위한 구상을 제안했다. 중국 주도의 개방형 AI 생태계를 확대해 미국 중심의 기술 질서에 맞서려는 전략이다. '브릭스 AI 오픈소스 커뮤니티' 설립과 디지털 인프라 협력 등을 포함한 5대 협력 이니셔티브를 제안했으며, 글로벌 사우스 국가들과의 기술 공유를 기반으로 AI 분야 영향력을 확대하려는 목적이다.
아모데이, AI 속도 조절 최대 난제로 중국 경쟁 지적
앤트로픽의 다리오 아모데이 CEO는 AI 개발 속도를 늦추는 데 중국과의 경쟁이 가장 큰 난제라고 지적했다. 미국과 민주주의 국가들이 AI 개발을 늦춘다면 중국이 기술적·군사적 주도권을 확보할 수 있어, 안전성 확보와 주도권 유지 사이의 딜레마가 불가피하다고 설명했다.
구글, RSI 도달했나... 트윗 한 줄에서 시작된 루머에 관심 폭발
AI 커뮤니티에서 구글 딥마인드가 RSI 단계에 도달했다는 루머가 확산되고 있다. 트윗과 API 유출 정황이 소문을 키웠으며, 업계 동향과 경쟁사들의 반응이 주목받고 있다. 구글은 공식 입장을 밝히지 않았다.
트럼프, AI 개발 속도 조절에 부정적 입장을 밝혀
도널드 트럼프 미국 대통령은 AI 개발 속도를 늦추거나 규제를 강화해야 한다는 업계의 요구에 부정적인 입장을 보이며, 중국을 AI에서 앞서는 것이 중요하다고 강조했다. 이는 최근 AI 개발 속도 조절론 확대와 대비되는 발언으로, AI에 대한 우려를 제기하는 세력을 '매우 부정적인 세력'이라고 지칭하며 비판했다.
구글·MS도 'AI 속도 조절' 동의...안전 연합전선 5곳 확대
구글과 MS가 AI 개발 속도 조절과 안전성 확보를 공동으로 강조하며, '안전 연합전선'에 참여했다. 이에 따라 앤트로픽, 오픈AI, xAI에 이어 구글과 MS까지 5곳이 해당 제안에 공개적으로 동의했다.
앤트로픽·오픈AI·구글, AI 안전 표준기구 설립 논의
앤트로픽, 오픈AI, 구글이 AI 산업의 안전성 평가와 감사 기준을 마련하기 위한 업계 공동 표준기구 설립을 7월부터 논의해 왔다. 주요 AI 기업들이 자율규제 방안을 논의하고 있으며, 구체적인 출범 시기나 운영 방식은 아직 합의되지 않았다.
AI 속도 조절 논란, 반도체 시장에 어떤 영향 줄까
AI 업계 리더들이 기술 개발 속도를 늦추고 안전장치를 강화해야 한다고 촉구하면서 반도체 및 공급망 관련 주가에 하락 압력이 가해지고 있다. 그러나 전문가들은 장기적으로 AI 투자 흐름이 지속될 것으로 보고 있다.
트럼프와 마이크 존슨, AI 업계의 과도한 반응 비판
Anthropic의 Dario Amodei가 AI 개발 속도를 조절하자고 제안했으나, 트럼프와 존슨은 중국에 밀리지 않기 위해 AI 발전을 늦추지 말라고 주장하고 있다. 트럼프는 중국보다 AI에서 우위를 유지하고 싶다고 말했으며, 존슨은 AI 규제가 국가 안보 위협이 될 수 있다고 경고했다.
본 페이지의 기사 요약은 공개된 자료를 AI가 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 각 기사의 원문을 확인하십시오. 모든 저작권은 원 매체에 있습니다.