비드래프트, NPU 가속 소프트웨어 'VKORE' 개발로 추론 및 학습 동시 구현
비드래프트는 NPU의 추론 성능을 극대화하고 학습까지 구현하는 가속 소프트웨어 계층 'VKORE'를 공개했다. VKORE 적용 시 NPU 환경에서 응답 속도 3.8배, 동시 처리량 4.1배 향상을 달성했으며, 자체 판정 엔진은 글로벌 벤치마크에서 종합 1위를 기록했다. 또한, 회사는 VKORE를 통해 낮에는 추론, 밤에는 판정 기록을 바탕으로 모델을 학습하는 순환 구조를 데이터센터에서 구현할 계획이다.
(새 창에서 원문 열기)