Goodfire, AI 모델 내부 활동을 저렴하게 모니터링하는 '내부 관찰' 시스템 출시
Goodfire는 AI 모델의 출력물만 검토하는 기존 방식 대신, 모델 내부의 계산 과정을 추적하는 '내부 관찰' 모니터링 시스템을 출시했다. 이 시스템은 각 단계에서 모델의 내부 신호를 탐지하여, 기존 방식 대비 훨씬 저렴한 비용으로 공격 시도를 포착할 수 있다. 이 기술은 Baseten 고객을 통해 제공되며, 공격 시도를 사전에 감지하는 것이 가능하다.
(새 창에서 원문 열기)