대규모 언어 모델(LLM)의 개발은 과거에는 방대한 데이터셋에 대한 중앙 액세스가 필요했지만, 이 중 많은 데이터는 민감하거나 저작권이 있거나 사용 제한이 있습니다. 이러한 제약으로 인해 규제된 환경이나 독점적 환경에서 활동하는 데이터 풍부한 기관들의 참여가 심하게 제한되었습니다. Allen Institute for AI 및 협력연구자들이 소개한 FlexOlmo는 모듈식 교육을 제안하며 데이터를 공유하지 않고도 대규모 언어 모델을 훈련시키는 방법을 제시합니다.

<Mark Tech Post 뉴스 본문 전체읽기>