Moonshot AI는 2025년 7월 Kimi K2를 발표했다. 이 모델은 1조 개의 총 매개변수와 토큰당 32억 개의 활성 매개변수를 갖춘 MoE(Mixture-of-Experts) 모델이다. 이 모델은 1550억 토큰에 대해 훈련되었고, 이 전례 없는 규모에서 안정적인 훈련을 이룩했다. K2는 전통적인 챗봇과는 다르게 설계되어 있으며, 긴 문맥, 코드, 추론 및 주체적 행동에 중점을 두고 있다.

<Mark Tech Post 뉴스 본문 전체읽기>