IBM은 Granite 4.0을 공개했습니다. 이는 모노리딕 트랜스포머 대신 하이브리드 Mamba-2/Transformer 스택을 사용하여 서빙 메모리를 줄이고 품질을 유지합니다. 이 모델들은 3B dense “Micro”, 3B hybrid “H-Micro”, 7B hybrid MoE “H-Tiny” (~1B active), 32B hybrid MoE “H-Small” (~9B active) 등의 다양한 사이즈로 제공됩니다. 이 모델들은 Apache-2.0 라이선스로 공개되었습니다.

<Mark Tech Post 뉴스 본문 전체읽기>