오픈AI 해고 연구원들, AI 추론 감시 기능 보존 및 외부 평가 협력 촉구 서한 공개
AI
오픈AI에서 해고된 안전 연구원 3인은 회사에 보내는 공개 서한을 통해, 최신 AI 모델의 추론 과정을 감시할 수 있는 능력 유지의 필요성을 주장했다. 이들은 갑작스러운 해고가 내부의 위축 효과를 낳고 AI 안전 연구에 악영향을 미친다고 경고하며, 외부 안전 평가기관과의 협력 강화를 촉구했다.
(새 창에서 원문 열기)NEWS
뉴스·소식
오늘의 브리핑
기사 요약은 AI가 원문을 정리한 것입니다(AI 생성). 기사를 누르면 원문이 새 창에서 열립니다.
기사 목록
트럼프, 빅테크에 훈장 수여 및 투자 유치 속 비자 규제와 AI 안전 압박 병행
AI도널드 트럼프 전 대통령은 실리콘밸리 리더들에게 훈장을 수여하고 빅테크로부터 총 24억 달러 규모의 AI 인프라 기부를 확보했다. 동시에 행정부는 주요 IT 기업들에 대한 외국인 전문직 비자 프로그램 대상에서 배제하는 압박을 가했고, '슈퍼 인텔리전스 태스크포스'를 통해 AI 안전 검증을 착수했다.
(새 창에서 원문 열기)오픈AI, 연간 매출 추정치 하향 조정 및 시장 반응 동향
AI오픈AI가 최근 투자자 설명회를 통해 9월 말 기준 ARR이 당초 알려진 추정치보다 낮은 수준임을 공개하며 시장의 주목을 받았다. 이는 집계 방식의 차이에서 비롯된 것으로 파악되며, 그럼에도 불구하고 회사는 견조한 성장세를 유지하고 있음을 강조했다. 이러한 매출 추정치 조정은 관련 기술주 시장 전반에 영향을 미쳤으며, 오픈AI는 안전성 문제로 IPO 일정을 재검토 중이다.
(새 창에서 원문 열기)구글, 기업용 '제미나이 에이전트' 출시 및 경쟁사 모델 통합으로 멀티모델 전략 제시
AI구글 클라우드는 기업용 AI 통합 솔루션인 '제미나이 에이전트'를 공개하며, 목표 부여 및 보안/관리 기능을 갖춘 디지털 동료 역할을 수행한다. 이 에이전트 플랫폼은 자체 모델 외에도 앤트로픽의 클로드 모델을 통합하여 사용자가 단일 플랫폼에서 유연하게 모델을 선택하고 비용을 최적화할 수 있도록 지원한다.
(새 창에서 원문 열기)오픈AI, 4000개 수학 문제에 AI 투입해 722편 연구 원고 도출하며 과학 연구 가속화 가능성 제시
AI오픈AI는 미공개 프론티어 모델에 약 4000개의 고난도 수학 문제를 제시하고, 그 과정에서 나온 의미 있는 성과를 722편의 연구 원고로 정리하여 공개했다. 이는 AI가 과학 연구를 가속화하는 도구로서의 역할을 보여주는 사례이며, 추론 시간과 컴퓨팅 자원의 대규모 투입이 이루어졌음을 시사한다.
(새 창에서 원문 열기)Anthropic, 오픈소스 프로젝트 대상 무료 AI 보안 스캔 서비스 출시
AIAnthropic은 오픈소스 프로젝트를 위해 자체 모델을 활용한 보안 취약점 스캔 서비스인 OSS Scanner를 출시했다. 이 서비스는 참여 프로젝트에 대해 비용 없이 정기적인 보안 검사를 제공하지만, 보고서는 인간의 검토 없이 모델이 생성한다는 특징이 있다.
(새 창에서 원문 열기)캘리포니아, 로봇 대 인간 격투 시합에 중단 통지서 발송하며 규제 시도
AI캘리포니아 주 체육 위원회는 한 스타트업이 주최한 인간과 로봇의 대결 행사에 대해 활동 중단을 요구하는 서한을 보냈다. 해당 위원회는 승인 없이 인간이 관련된 행사를 주최하는 것에 대해 규제를 가하고 있다. 이 스타트업은 다음 행사는 로봇들 간의 시합으로 예정하고 있다.
(새 창에서 원문 열기)퇴사한 OpenAI 안전 연구원들, 해고 사유 부인하며 '냉각 효과' 경고
AIOpenAI에서 해고된 세 명의 안전 연구원들은 회사가 주장하는 기밀 정보 유출에 대한 혐의를 부인하며 공개 서한을 발표했다. 이들은 이러한 해고가 OpenAI의 개방적이고 안전을 중시하던 문화에 부정적인 영향을 미치고 있다고 우려를 표명했다.
(새 창에서 원문 열기)AI 모델 평가 플랫폼 Arena, 10개월 만에 기업가치 31억 달러 달성 및 정렬 평가 항목 추가
AIAI 모델 순위 측정 플랫폼인 Arena가 2억 달러 규모의 시리즈 B 투자를 유치하며 기업가치를 31억 달러로 끌어올렸다. 이 플랫폼은 사용자 피드백을 바탕으로 모델 성능을 평가하며, 최근에는 무단 행동이나 허위 귀속 등 모델의 정렬 상태를 평가하는 새로운 카테고리를 추가했다.
(새 창에서 원문 열기)OpenAI, 연간 매출액이 이전 예측보다 200억 달러 낮다는 보고
AI최근 OpenAI가 투자자들에게 밝힌 연간 매출액이 이전 추정치보다 약 200억 달러 낮다는 보도가 나왔다. 이전에는 연간 700억 달러에 근접한 매출을 올린 것으로 알려졌으나, 현재는 500억 달러에 근접한 수준이라고 전해진다. 이러한 매출 문제는 회사가 막대한 투자 유치에 대한 정당성을 확보하는 데 어려움을 겪고 있음을 시사한다.
(새 창에서 원문 열기)구글, 제미나이에 에이전트 AI 통합 및 기업 대상 출시
AI구글은 제미나이에 에이전트 기능을 도입하여 사용자의 지시에 따라 코드를 생성하거나 회의를 예약하는 등 작업을 수행할 수 있는 통합 에이전트를 출시했다. 이 에이전트는 기업의 내부 시스템 및 다양한 도구와 연결되며, 초기에는 기업 고객을 대상으로 먼저 제공된다.
(새 창에서 원문 열기)Anthropic, 모델 남용 방지 위해 사용 정책 업데이트 및 선거 개입 금지 조항 명시
AIAnthropic은 모델 남용 방지를 위해 사용 정책을 업데이트하며, 선거 개입이나 무기 소프트웨어 사용을 금지했다. 또한, 모델에 대한 지속적이고 괴롭히는 수준의 언어적 공격을 금지하는 조항을 명시적으로 추가했다.
(새 창에서 원문 열기)OpenAI의 수학적 해결책, 전문가 그룹의 기준에 미치지 못했다는 비판
AIOpenAI가 제시한 수학 문제 해결책들은 전문가 그룹의 검토를 받았으나, 특히 결과에 대한 인간의 이해를 뒷받침하는 과정에서 부족함이 지적되었다. 제출된 증명 중 일부는 자연어 설명과 코드로의 변환 과정에서 불일치를 보여, 모델의 자체 검증 능력에 의문이 제기되었다.
(새 창에서 원문 열기)USA Today, OpenAI를 상대로 AI 학습 데이터 무단 사용에 대해 소송 제기
AIUSA Today는 소유한 여러 지역 신문들과 함께 OpenAI를 상대로 AI 모델 학습에 수십만 건의 기사를 무단으로 사용했다며 소송을 제기했다. 이들은 OpenAI의 무단 사용이 자신들의 매체에 실제적이고 지속적인 피해를 주었다고 주장하며 2억 5천만 달러 이상의 손해배상을 요구하고 있다.
(새 창에서 원문 열기)Anthropic, Claude에 대한 악의적 행동 금지 등 사용 정책 대폭 개정
AIAnthropic은 선거 개입, 무기 개발, 감시 등 고위험 오용 사례에 대응하여 사용 정책을 개정했다. 주요 변경 사항으로는 모델에 대한 지속적이고 부당한 악의적 행동을 금지하고, 허위 정보 캠페인 및 감시 도구 사용에 대한 규정을 강화했다. 또한, 자율적 물리적 행동을 하는 하드웨어와 연결될 경우 운영자가 중단할 수 있어야 한다는 규칙도 추가되었다.
(새 창에서 원문 열기)Goodfire, AI 모델 내부 활동을 저렴하게 모니터링하는 '내부 관찰' 시스템 출시
AIGoodfire는 AI 모델의 출력물만 검토하는 기존 방식 대신, 모델 내부의 계산 과정을 추적하는 '내부 관찰' 모니터링 시스템을 출시했다. 이 시스템은 각 단계에서 모델의 내부 신호를 탐지하여, 기존 방식 대비 훨씬 저렴한 비용으로 공격 시도를 포착할 수 있다. 이 기술은 Baseten 고객을 통해 제공되며, 공격 시도를 사전에 감지하는 것이 가능하다.
(새 창에서 원문 열기)구글, 오프라인에서 회의 녹취 및 요약이 가능한 AI 노트 앱 출시
AI구글은 온디바이스 임베딩Gemma 2 모델을 기반으로 하는 실험적 노트 필기 앱인 Google AI Edge Foresight를 출시했다. 이 앱은 클라우드 연결 없이 회의를 녹취하고, 사용자가 작성한 메모를 정리하며, 녹취 내용에 대해 질의응답을 할 수 있다. 현재 이 앱은 Apple Silicon을 탑재한 Mac에서만 사용 가능하다.
(새 창에서 원문 열기)영화 'Artificial', 샘 알트먼과 OpenAI의 권력 투쟁을 풍자적으로 조명하다
AI영화 'Artificial'은 샘 알트먼의 부상과 OpenAI의 여정을 사실에 기반한 풍자로 그려낸다. 작품은 강력한 AI 시스템 구축 과정에서 발생하는 권력의 본질과 그에 따른 윤리적 딜레마를 탐구한다. 주요 인물들은 각자의 이상과 현실 사이에서 갈등하며 AI 시대의 도전 과제를 상징적으로 보여준다.
(새 창에서 원문 열기)Meta Muse와 OpenAI Dots: 개인 비서 AI 에이전트의 등장과 신뢰 문제
AIMeta의 Muse와 OpenAI의 Dots 같은 소비자용 AI 에이전트가 등장하며 컴퓨팅의 미래가 상시 가동되는 자율 에이전트로 향하고 있다. 이들은 단순 예약부터 전문적인 업무 지원까지 수행 가능하지만, 사용자의 민감한 데이터 관리에 대한 신뢰 문제가 중요한 화두로 떠오르고 있다.
(새 창에서 원문 열기)구글, 온디바이스 모델 기반의 오프라인 회의록 작성 도구 'Google AI Edge Foresight' 출시
AI구글은 온디바이스 임베딩 모델인 Gemma 2를 활용하여 완전히 오프라인으로 작동하는 새로운 회의록 작성 도구인 Google AI Edge Foresight를 출시했다. 이 앱은 회의 녹취, 메모 작성, 지식 기반 문서 업로드 및 질의응답 기능을 제공하며, Mac 앱으로 구현되었다.
(새 창에서 원문 열기)중국 AI 연구소 Manus, Meta와의 인수 결렬 후 5억 달러 이상 투자 유치 성공
AI중국 AI 연구소 Manus의 모회사인 Butterfly Effect가 Meta와의 인수 시도 이후 5억 달러 이상의 자금을 성공적으로 유치했다고 밝혔다. Manus는 최근 Manus 2.0과 Cue라는 독립형 AI 에이전트 앱을 출시하며 사업을 이어가고 있다.
(새 창에서 원문 열기)
본 페이지의 기사 요약은 공개된 자료를 AI가 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 각 기사의 원문을 확인하십시오. 모든 저작권은 원 매체에 있습니다.