Liquid AI는 LFM2-8B-A1B를 발표했다. 해당 모델은 온디바이스에서 실행되도록 설계된 소형 Mixture-of-Experts(MoE) 모델로, 메모리, 지연 및 에너지 예산이 엄격한 제약 사항인 환경에서 작동한다. 대부분의 MoE 모델이 클라우드 배치 서빙에 최적화되어 있는 반면, LFM2-8B-A1B는 휴대폰을 대상으로 한다. 이 모델은 8.3B 매개변수와 토큰 당 1.5B 활성 매개변수를 갖추고 있어, 휴대폰에서 높은 성능을 제공하면서도 지연이나 메모리 사용량을 초과하지 않는다.

<Mark Tech Post 뉴스 본문 전체읽기>