최근 인공지능(AI) 분야에서 Chroma가 새로운 모델인 ‘Context-1’을 출시했다. 이 모델은 20억 개의 파라미터를 가지고 있으며, 다중 홉 검색, 컨텍스트 관리, 그리고 확장 가능한 합성 작업 생성을 지원한다. 현재 AI 시스템에서 ‘컨텍스트 윈도우’는 종종 비효율적인 도구로 여겨지고 있으며, 단순히 메모리를 확장하는 것만으로는 검색 문제를 해결할 수 없다는 점이 강조되고 있다. AI 전문가들은 RAG(검색 증강 생성) 시스템을 구축할 때, 수백만 개의 토큰을 프롬프트에 넣는 것이 오히려 높은 지연 시간과 같은 문제를 초래할 수 있음을 잘 알고 있다. Chroma의 새로운 모델은 이러한 문제를 해결하기 위한 혁신적인 접근을 제시하고 있다.

<Mark Tech Post 뉴스 본문 전체읽기>