대규모 언어 모델에 의해 지배되는 생성형 AI 환경에서, 대부분의 모델은 클라우드 데이터 센터의 엄청난 용량을 위해 설계되었다. 이러한 모델은 강력하지만, 일반 사용자들이 노트북, 스마트폰 또는 임베디드 시스템과 같은 로컬 장치에 고급 AI를 개인적이고 효율적으로 배포하는 것을 어렵거나 불가능하게 만든다. SmallThinker는 클라우드 데이터 센터용이 아닌 로컬 장치에 효율적으로 배포할 수 있는 대형 언어 모델 가족이다. 클라우드 규모 모델을 압축하는 대신, SmallThinker는 일반 사용자들이 노트북, 스마트폰 또는 임베디드 시스템에 고급 AI를 개인적이고 효율적으로 배포할 수 있게 한다.

<Mark Tech Post 뉴스 본문 전체읽기>