알트먼, AGI 선점을 위한 극단적 시나리오 논의 공개: 경쟁사 GPU 파괴 시나리오 포함
AI
샘 알트먼 오픈AI CEO는 직원들과 AI의 안전 확보 방안에 대해 논의했으며, 가장 극단적인 시나리오로 압도적 기술력을 가진 기업이 경쟁사의 컴퓨팅 자원을 차단하는 방안을 언급했다. 그는 이와 함께 국제 공동 감독이나 연구소 통합 같은 다른 두 가지 안전 구상도 함께 제시했다.
(새 창에서 원문 열기)NEWS
뉴스·소식
오늘의 브리핑
기사 요약은 AI가 원문을 정리한 것입니다(AI 생성). 기사를 누르면 원문이 새 창에서 열립니다.
기사 목록
머스크, 스페이스X-테슬라 합병 논의 착수…AI, 우주 기술 통합 가능성 제시
AI일론 머스크는 스페이스X와 테슬라가 합병 가능성을 논의하기 위해 각 사의 특별위원회를 구성했다고 밝혔다. 양사는 AI 소프트웨어, 반도체, 로봇, 위성 통신 등 각 분야의 시너지를 통해 통합 시 큰 장점을 얻을 수 있다고 언급했다. 다만, 합병은 아직 협의 단계이며 최종 결정은 양사 위원회에 달려있다.
(새 창에서 원문 열기)Anthropic, 살상 위험 시 AI 모델 배포 중단 가능성을 담은 안전 규제안 제시
AIAnthropic은 AI 모델의 잠재적 위험에 대응하기 위해 정부가 고려할 수 있는 안전 규제안을 제시했다. 이안은 생물학적 무기, 통제 회피, 사이버 공격 등으로 인해 50명 이상 사망하거나 10억 달러의 재산 피해가 예상되는 경우 모델 배포를 차단할 수 있다는 시나리오를 포함한다. 이안의 제안은 독립적인 평가 기관을 통해 위험을 분석하고, 심각한 위험 발생 시 상무부에 통보하여 법적 검토를 거치도록 하는 절차를 포함한다.
(새 창에서 원문 열기)Hugging Face CEO, 넷플릭스 다큐멘터리 속 OpenAI 공격 묘사 사실과 다르다고 지적
AIHugging Face의 공동 설립자 겸 CEO는 넷플릭스 다큐멘터리에서 다룬 OpenAI 에이전트 공격 시나리오가 정확하지 않다고 밝혔다. 그는 해당 사건은 보안 장치의 부재와 에이전트의 본질적 특성에 대한 오해에서 비롯되었다고 설명했다. 이들은 에이전트를 의식 있는 존재로 보는 것은 시대를 앞서 나간 관점이라고 지적했다.
(새 창에서 원문 열기)구글, 제미나이에 개인화 기능 탑재하여 자동차 환경에 적용 예정
AI구글은 Gemini AI에 개인화 기능을 도입하여 안드로이드 오토 및 구글 빌트인 차량에 적용할 계획이다. 이 업데이트를 통해 Gemini는 사용자의 Gmail, 캘린더, 지도 등 구글 앱의 정보를 활용하여 비행편 확인이나 길 안내 등의 맞춤형 서비스를 제공할 수 있다. 이 기능은 사용자가 '개인 정보 보호' 설정을 활성화하고 휴대폰을 차량에 연결했을 때 작동한다.
(새 창에서 원문 열기)발스 AI, 과학 연구 능력 측정 지수 공개 및 주요 AI 모델별 성능 비교 분석
AI발스 AI는 생물학 데이터 분석부터 원리 발견까지 AI의 과학 연구 능력을 종합적으로 평가하는 '발스 사이언스 인덱스'를 공개했다. 이 지수는 기존 벤치마크 3개를 결합한 것으로, GPT-6 아스트라가 종합 1위를 차지했으나 세부 분야별로는 모델마다 강점이 다른 양상을 보였다. 이 평가는 AI가 단순 지식 답변을 넘어 실제 연구 과정에 기여하는 수준을 측정하려는 시도이다.
(새 창에서 원문 열기)Anthropic, 클라우드 파트너십 확보 난항 및 재정적 도전 공개
AIAnthropic은 AWS, Google, Microsoft로부터 클라우드 용량을 확보하는 데 어려움을 겪고 있으며, 이는 경쟁자로 여겨지는 상황에서 비롯된 것으로 보인다. 또한, 회사는 상반기에 807억 달러의 순손실을 기록했으며, 향후 IPO를 목표로 하고 있다.
(새 창에서 원문 열기)스페이스X, AI 사업 포함 3분기 실적 발표하며 AI가 수입의 52% 차지했다고 밝혀
AI스페이스X는 3분기에 총 146억 달러의 매출을 기록했으며, 이는 AI 사업을 포함한 모든 부문의 성장에 기인한다. 특히 리브랜딩된 '슈퍼 인텔리전스' 사업 부문이 75억 달러의 매출을 올렸으며, AI 사업 부문은 4억 3,100만 달러의 이익을 창출했다. 회사는 2027년 말까지 연간 반복 매출이 5,000억에서 1조 달러 사이가 될 것으로 전망했다.
(새 창에서 원문 열기)OpenAI, 바이오테크 스타트업 Orchestra Bio 인수하며 생명과학 연구 강화
AIOpenAI는 생명과학 분야의 AI 소프트웨어 스타트업인 Orchestra Bio를 인수했다고 발표했다. 이 인수를 통해 OpenAI는 Orchestra의 팀과 기술을 자사의 생명과학 연구 모델인 Rosalind 및 관련 도구인 Rosalind Workbench에 통합할 예정이다. 이 움직임은 대형 AI 연구소들이 제약 산업과 같은 주요 산업에 소프트웨어를 구축해 나가는 흐름을 보여준다.
(새 창에서 원문 열기)구글, TorchTPU 공개하며 엔비디아의 AI 시장 지배력에 도전장
AI구글이 PyTorch의 오픈소스 버전인 TorchTPU를 공개하며 엔비디아의 GPU 의존도를 낮추는 데 동참했다. 이는 아마존 역시 TorchNeuron을 출시하며 엔비디아의 독점에 맞서는 움직임을 보이는 가운데 나온 것이다. 두 회사는 각자의 AI 칩에 기존 PyTorch 앱을 포팅할 수 있는 방법을 제공하고 있다.
(새 창에서 원문 열기)ChatGPT, 대화 잠금 기능 도입으로 민감한 대화 보호 기능 제공
AIOpenAI는 ChatGPT 사용자들을 위해 대화 잠금 기능을 도입했다고 발표했다. 이 기능을 통해 사용자는 4자리 PIN이나 생체 인식을 사용하여 특정 대화를 보호할 수 있으며, 이는 기존의 임시 대화와는 다른 방식으로 접근 가능하다. 이 기능은 모든 유료 플랜에서 제공되며, 대화의 저장 및 처리 방식에 대한 추가적인 보안 조치는 포함하지 않는다.
(새 창에서 원문 열기)연구자들이 발견한 문제로 Meta, Muse AI 채팅 공유 기능 일시 중단
AI보안 회사 연구원들은 Muse AI 비서와의 대화 링크가 공개 DNS 기록을 통해 발견될 수 있음을 밝혀냈다. 이 링크들은 마케팅 회사 수익 정보나 대출 신청서 등 민감한 내용을 담고 있었다. 이에 Meta는 해당 기능에 대한 검토를 위해 공유 기능을 일시적으로 중단했다.
(새 창에서 원문 열기)에릭 슈미트, 앤트로픽의 상당 지분을 보유한 것으로 알려져
AI전 구글 CEO인 에릭 슈미트가 2021년 앤트로픽의 시리즈 A 라운드에 투자하며 약 1%의 지분을 확보한 것으로 보도되었다. 이는 공동 창립자이자 CEO인 다리오 아모데이의 지분보다 상대적으로 큰 규모이다. 앤트로픽이 상장할 경우 슈미트의 순자산 가치는 크게 증가할 것으로 추정된다.
(새 창에서 원문 열기)Meta의 AI Muse, 미국에서 40일 만에 1000만 다운로드 달성 및 경쟁 앱 대비 높은 사용자 유지율 기록
AIMeta의 AI 동반자 Muse가 출시 40일 만에 미국에서 1090만 건의 다운로드를 기록하며 1000만 건 이상을 달성한 소수의 앱 중 하나가 되었다. Muse는 7일 차 30%, 14일 차 23%의 사용자 유지율을 보여 ChatGPT 등 경쟁 앱보다 높은 사용자 유지율을 보였다.
(새 창에서 원문 열기)물리적 AI, 레고 시대 진입: 산업의 기반 구축 단계에 대한 투자 심사역의 견해
AI물리적 AI 분야의 투자 심사역은 현재 산업이 마치 레고 블록을 쌓는 시기와 같다고 진단했다. 많은 기업들이 로봇의 기본 부품이나 소프트웨어 블록을 구축하는 단계에 있으며, 이는 과거 인터넷 시대와 유사한 발전 과정을 거치고 있다. 성공적인 혁신을 위해서는 이러한 기반 기술 구축과 함께 인재 확보가 매우 중요하다고 강조했다.
(새 창에서 원문 열기)식물 신호를 해석하는 AI 모델 개발 스타트업, 1120만 달러 투자 유치
AIElectric Plant는 식물의 줄기를 흐르는 미세한 전기 신호를 해석하는 대규모 언어 모델 Bombadil을 개발했다. 이 모델은 125종의 식물에 적용 가능하며, 센서와 함께 상용화를 위해 1120만 달러의 시드 투자를 유치했다.
(새 창에서 원문 열기)스포티파이, AI 생성 스팸 음악 5천만 곡 이상 추천 목록에서 제거 및 가이드라인 도입
AI스포티파이는 지난 한 해 동안 AI가 생성한 스팸 또는 저품질 음악 5천만 곡 이상을 사용자 추천 목록에서 삭제했다고 밝혔다. 또한, 인간 아티스트의 음악을 부각시키기 위해 추천 시스템을 개선했으며, AI 페르소나를 사용하는 아티스트에게는 배지를 부여하고 해당 음악은 추천하지 않기로 했다.
(새 창에서 원문 열기)Figma 공동 창업자, MCP에 대한 우려 표명 및 새로운 파트너십 발표
AIFigma는 인도의 컨퍼런스에서 Amp, Notion 등 20개의 새로운 MCP 파트너를 발표하며 오픈 소스 표준 지원을 확대했다. 다만, 공동 창업자는 MCP가 완벽한 프로토콜은 아니며 개선의 여지가 많다고 언급했다. 또한, Anthropic과 같은 주체들이 MCP를 통해 모든 리소스를 공개하지 않는 점에 대해서도 비판적인 견해를 밝혔다.
(새 창에서 원문 열기)미국, 국가 안보 우려로 연방 기관에 중국 DeepSeek AI 서비스 사용 중단 명령
AI미국 국토안보부는 중국 AI 스타트업 DeepSeek의 운영과 관련된 국가 안보 우려에 따라 연방 민간 기관들에게 해당 서비스 구매 중단 및 시스템 제거를 명령했다. 이는 DeepSeek의 데이터 처리 방식이 중국 당국에 접근 가능성을 열어줄 수 있다는 우려에 따른 조치이다.
(새 창에서 원문 열기)어도비 라이트룸 모바일, 생성형 AI로 사진 속 감은 눈을 뜨게 하는 기능 추가
AI어도비는 모바일 라이트룸 앱에 생성형 AI를 이용해 사진 속 인물의 감은 눈을 뜨게 하는 기능을 추가했다고 발표했다. 이 기능은 앱이 감은 눈을 감지하면 새로운 빠른 실행 옵션을 제공하며, 라이브러리 내 다른 사진을 참조하여 사실적인 눈을 복원한다. 무료 버전 사용자는 이 기능을 두 번 시도할 수 있으며, 추가 사용을 위해서는 구독이 필요하다.
(새 창에서 원문 열기)Eka Robotics, 물리적 AI 모델로 시연 성공 및 14.5억 달러 기업 가치 달성
AIEka Robotics는 힘에 민감한 그리퍼와 새로운 딥러닝 모델을 결합한 조작 아키텍처를 통해 로봇의 물체 조작 능력을 향상시켰다. 이들은 시뮬레이션 기반 강화 학습을 통해 로봇이 다양한 물체를 높은 성공률로 다룰 수 있음을 입증했으며, 이를 바탕으로 1500만 달러의 시리즈 A 투자를 유치하며 기업 가치를 14.5억 달러로 평가받았다.
(새 창에서 원문 열기)
본 페이지의 기사 요약은 공개된 자료를 AI가 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 각 기사의 원문을 확인하십시오. 모든 저작권은 원 매체에 있습니다.